(57)【要約】  システムが、画像センサ、撮像パイプライン、及びディスプレイ装置を含む。画像センサは、画素データの第１のフレームを取り込むように構成される。撮像パイプラインは、画素データの第１のフレームを受信するように画像センサに結合される。撮像パイプラインは、適応ノイズフィルタを含む。適応ノイズフィルタは、画素内のノイズに基づいて画素をフィルタ処理するように構成される。撮像パイプラインは、画素データの第２のフレームを出力するように構成される。画素データの第２のフレームは、適応ノイズフィルタによってフィルタ処理された画素を含む。ディスプレイ装置は、画素データの第２のフレームを受信するように撮像パイプラインに結合される。ディスプレイ装置は、画素データの第２のフレームを表示するように構成される。【特許請求の範囲】
【請求項１】
システムであって、当該システムは、
画素データの第１のフレームを取り込むように構成された画像センサと、
前記画素データの第１のフレームを受信するように前記画像センサに結合された撮像パイプラインであって、該撮像パイプラインは適応ノイズフィルタを含み、該適応ノイズフィルタは、
第１の画素の推定画素ノイズパラメータを用い、且つ前記第１の画素の信号レベルと少なくとも第２の画素の信号レベルとの間の差を用いて前記第１の画素をフィルタ処理し、
前記フィルタ処理された第１の画素を含む画素データの第２のフレームを出力するように構成され、
前記撮像パイプラインは、前記画素データの第２のフレームに基づいて画素データの出力フレームを出力するように構成される、撮像パイプラインと、
該撮像パイプラインに結合され、前記画素データの出力フレームを受信するディスプレイ装置であって、前記画素データの出力フレームを表示するように構成されたディスプレイ装置と、を有する、
システム。
【請求項２】
前記適応ノイズフィルタは、適応時間ノイズフィルタを含み、前記第２の画素は、前記第１のフレーム内の前記第１の画素の位置と同じ、前記画像センサによって取り込まれた第３のフレームの内の位置にあり、前記第３のフレームは、前記第１のフレームを取込む前の時間に取り込まれ、前記適応時間ノイズフィルタは、前記第１及び第２の画素の信号レベルの変化と前記第１の画素の推定画素ノイズレベルとの比較に基づいて、前記第１の画素をフィルタ処理するように構成され、前記推定画素ノイズレベルは、推定画素ノイズパラメータである、請求項１に記載のシステム。
【請求項３】
前記撮像パイプラインは複数のステージを含み、前記適応時間ノイズフィルタは前記複数のステージのうちの第１のステージに含まれる、請求項２に記載のシステム。
【請求項４】
前記適応時間ノイズフィルタは、画素ノイズフレームを出力するように構成される、請求項２に記載のシステム。
【請求項５】
前記撮像パイプラインは複数のステージを含み、前記複数のステージのうちの第１のステージに続く前記複数のステージのそれぞれは、入力画素ノイズフレームを処理するように構成され、且つステージ依存画素ノイズフレームを出力するように構成される、請求項４に記載のシステム。
【請求項６】
前記適応ノイズフィルタは、適応空間ノイズフィルタを含み、前記少なくとも１つの第２の画素は、前記第１の画素に隣接する複数の画素に含まれ、前記適応空間ノイズフィルタは、前記第１の画素の信号レベルと前記複数の隣接する画素の信号レベルのそれぞれとの間の差に基づいて、及びノイズ依存信号レベルパラメータに基づいて、第１の画素をフィルタ処理するように構成され、前記ノイズ依存信号レベルパラメータは、前記第１の画素のノイズの関数であり、前記ノイズ依存信号レベルパラメータは、前記第１の画素の前記推定画素ノイズパラメータである、請求項１に記載のシステム。
【請求項７】
前記適応空間ノイズフィルタは、距離フィルタ及び信号レベルレンジフィルタを含み、前記信号レベルレンジフィルタは、前記第１の画素の信号レベルと前記複数の隣接する画素の前記信号レベルのそれぞれとの間の差に基づいて、前記第１の画素をフィルタ処理するように構成される、請求項６に記載のシステム。
【請求項８】
前記ノイズ依存信号レベルパラメータは、信号レベルレンジパラメータである、請求項６に記載のシステム。
【請求項９】
撮像パイプラインステージであって、当該撮像パイプラインステージは、
信号レベル対ノイズ・ルックアップテーブルを含む適応時間ノイズフィルタを有しており、
該適応時間ノイズフィルタは、
画素のフレームを受信し、
前記画素の信号レベルの時間変化を、前記画素の信号レベルに対応する前記信号レベル対ノイズ・ルックアップテーブルの値と比較することによって、前記フレームの複数の画素の各画素をフィルタ処理し、
前記比較に基づいて、適応時間ノイズフィルタ処理された複数の画素を含むフレームを出力するように構成される、
撮像パイプラインステージ。
【請求項１０】
前記信号レベル対ノイズ・ルックアップテーブルは、現在の画素フレームの画素の値を受け取り、前記画素の前記信号レベルに対応するノイズ標準偏差を出力するように構成される、請求項９に記載の撮像パイプラインステージ。
【請求項１１】
前記適応時間ノイズフィルタは、変更ルックアップテーブルをさらに有し、前記変更ルックアップテーブルは、ノイズ標準偏差の数値で表される画素の時間的な信号変化を受け取り、且つ前記画素の前記信号レベルの許容される時間変化の割合を出力するように構成される、請求項９に記載の撮像パイプラインステージ。
【請求項１２】
前記適応時間ノイズフィルタは、画素ノイズフレームを出力するように構成される、請求項９に記載の撮像パイプラインステージ。
【請求項１３】
撮像パイプラインステージであって、当該撮像パイプラインステージは、
適応空間ノイズフィルタを有しており、
該適応空間ノイズフィルタは、
入力画素フレームと入力画素ノイズフレームとを受信し、
画素の信号レベルと複数の隣接する画素の信号レベルのそれぞれとの間の差に基づいて、及びノイズ依存信号レベルパラメータに基づいて前記入力画素フレームの画素をフィルタ処理して、適応空間ノイズフィルタ処理された画素を生成することであって、前記ノイズ依存信号レベルパラメータは、前記画素に対応する前記入力画素ノイズフレーム内の画素ノイズを用いて決定される、生成し、
前記適応空間ノイズフィルタ処理された画素を適応空間ノイズフィルタ処理された画素フレームに出力するように構成される、
撮像パイプラインステージ。
【請求項１４】
前記適応空間ノイズフィルタは、適応空間ノイズ・バイラテラルフィルタを含む、請求項１３に記載の撮像パイプラインステージ。
【請求項１５】
前記画素は、位置ｘにおける画素であり、適応空間ノイズ・バイラテラルフィルタは、以下のように規定され、
【数３５】
2019512178.tif 000036
ここで、
【数３６】
2019512178.tif 000037
は、位置ｘにおける前記画素の適応空間ノイズフィルタ処理された信号レベルであり、
【数３７】
2019512178.tif 000038
は、正規化定数であり、
【数３８】
2019512178.tif 000039
は、空間的なガウス分布であり、
【数３９】
2019512178.tif 000040
は、前記位置ｙの画素と前記位置ｘの画素との間の距離のノルムであり、
【数４０】
2019512178.tif 000041
は、距離パラメータであり、
【数４１】
2019512178.tif 000042
は、前記画素のノイズの関数である信号レベル範囲のガウス分布であり、
【数４２】
2019512178.tif 000043
は、前記位置ｙにおける前記画素の信号レベルであり、
【数４３】
2019512178.tif 000044
は、前記位置ｘにおける前記画素の信号レベルであり、
【数４４】
2019512178.tif 000045
は、前記位置ｙにおける前記画素の信号レベルと前記位置ｘにおける画素の信号レベルとの差の絶対値であり、
【数４５】
2019512178.tif 000046
は、前記位置ｘにおける前記画素のノイズの関数である信号レベルレンジパラメータであり、
【数４６】
2019512178.tif 000047
は、前記位置ｘに中心画素を有する画素のブロックであり、
【数４７】
2019512178.tif 000048
は、前記位置ｘに中心画素を有する画素ブロック内の画素に亘る総和を表す、請求項１３に記載の撮像パイプラインステージ。
【請求項１６】
方法であって、当該方法は、
第１のフレームの第１の画素を受信するステップと、
前記第１の画素の推定画素ノイズパラメータを用いて、且つ前記第１の画素の信号レベルと少なくとも第２画素の信号レベルとの間の差を用いて、前記第１の画素を適応ノイズフィルタ処理して、フィルタ処理された画素を取得するステップと、
前記フィルタ処理された画素を出力フレームに出力するステップと、を含む、
方法。
【請求項１７】
前記フィルタ処理された画素に対応する画素ノイズをノイズ出力フレームに出力するステップをさらに含む、請求項１６に記載の方法。
【請求項１８】
前記第２の画素は、前記第１のフレーム内の前記第１の画素の位置と同じ、画像センサによって取り込まれた第２のフレーム内の位置にあり、前記第２のフレームは、前記第１のフレームを取り込む前の時間に取り込まれ、前記第１の画素を適応ノイズフィルタ処理するステップは、前記第１及び第２の画素の信号レベルの変化と前記第１の画素の推定画素ノイズレベルとの比較に基づいて前記第１の画素を適応時間ノイズフィルタ処理するステップを含み、前記推定画素ノイズレベルは前記推定画素ノイズパラメータであり、前記第１及び第２の画素の信号レベルの変化は、前記第１の画素の前記信号レベルの時間変化である、請求項１６に記載の方法。
【請求項１９】
前記第１の画素を適応時間ノイズフィルタ処理するステップは、
前記第１の画素の信号レベルを信号レベル対ノイズ・ルックアップテーブルに入力するステップと、
前記信号レベル対ノイズ・ルックアップテーブルを用いて、前記第１の画素の信号レベルに対応するノイズ標準偏差を出力するステップであって、前記ノイズ標準偏差は、前記第１の画素の前記推定画素ノイズレベルである、出力するステップと、を含む、請求項１８に記載の方法。
【請求項２０】
前記第１の画素を適応時間ノイズフィルタ処理するステップは、
前記第１の画素の前記信号レベルの前記時間変化を前記ノイズ標準偏差で除算して、前記第１の画素の前記信号レベルの時間変化をノイズの標準偏差として取得するステップであって、前記除算は前記比較である、取得するステップをさらに含む、請求項１９に記載の方法。
【請求項２１】
前記第１の画素を適応時間ノイズフィルタ処理するステップは、
前記第１の画素の前記信号レベルの時間変化をノイズの標準偏差で変更ルックアップテーブルに入力するステップと、
前記変更ルックアップテーブルを用いて、前記フィルタを通過する前記第１の画素の信号レベルの許容される時間変化の割合を出力するステップと、をさらに含む、請求項２０に記載の方法。
【請求項２２】
前記第１の画素を適応時間ノイズフィルタ処理するステップは、
前記第１の画素の前記信号レベルの許容される時間変化の割合に、前記第１の画素の前記信号レベルの前記時間変化を乗算することによって、前記第１の画素の前記信号レベルの許容される時間変化を生成するステップと、
前記第１の画素の前記信号レベルにおける前記許容される時間変化を対応する画素に加算することによって、前記フィルタ処理された画素を生成するステップであって、前記対応する画素は、第２のフレーム内の画素であり、前記第２のフレームは、時間的に前記第1のフレームの直前にある、生成するステップと、をさらに含む、請求項２１に記載の方法。
【請求項２３】
前記少なくとも１つの第２の画素は、前記第１の画素に隣接する複数の画素に含まれ、前記第１の画素を適応ノイズフィルタ処理するステップは、前記第１の画素の信号レベルと前記複数の隣接する画素の信号レベルのそれぞれとの間の差に基づいて、及びノイズ依存信号レベルパラメータに基づいて、前記第１の画素を適応空間ノイズフィルタ処理するステップを含み、前記ノイズ依存信号レベルパラメータは、前記第１の画素のノイズの関数であり、前記ノイズ依存信号レベルパラメータは、前記第１の画素の推定画素ノイズパラメータである、請求項１６に記載の方法。
【請求項２４】
前記第１の画素を適応空間ノイズフィルタ処理するステップは、
距離フィルタと信号レベルフィルタとを組み合わせることによって前記フィルタ処理された画素を生成するステップであって、前記信号レベルフィルタは、前記ノイズ依存信号レベルパラメータの関数である、生成するステップを含む、請求項２３に記載の方法。
【請求項２５】
前記信号レベルフィルタは、信号レベルレンジパラメータを有する信号レベル範囲のガウス分布を含み、前記信号レベルレンジパラメータは、前記ノイズ依存信号レベルパラメータである、請求項２４に記載の方法。
【発明の詳細な説明】
【技術分野】
【０００１】
関連出願
本特許出願は、２０１６年１月２９日に出願された、”LIGHT LEVEL ADAPTIVE FILTER AND METHOD”という表題の米国仮特許出願第６２／２８８，９５６号について優先権及び出願日の利益を主張するものであり、この文献はその全体が参照により本明細書に組み込まれる。
【０００２】
本発明は、概して、コンピュータ支援手術システムのための画像パイプラインに関し、より具体的には、画像パイプラインに使用される適応フィルタに関する。
【背景技術】
【０００３】
手術システム１００は、内視鏡撮像システム１９２、外科医コンソール１９４（マスター）、及び患者側サポートシステム１１０（スレーブ）を含むコンピュータ支援手術システムであり、それら全てが、有線（電気又は光）又は無線接続１９６によって相互接続される。１つ又は複数の電子データプロセッサは、システム機能を提供するために、これらの主要な要素内に様々に配置してもよい。その例が、米国特許出願公開第２００８／００６５１０５号に開示されており、この文献は参照により本明細書に組み込まれる。
【０００４】
患者側サポートシステム１１０は、エントリガイドマニピュレータ１３０を含む。少なくとも１つの手術装置アセンブリが、エントリガイドマニピュレータ１３０に結合される。各手術装置アセンブリは、手術用器具又は画像取込みユニットのいずれかを順に含む器具を含む。例えば、図１において、１つの手術装置アセンブリは、シャフト１３７−１を有する器具１３５−１と、外科的処置中にエントリガイド１１５を通って延びる画像取込みユニットとを含む。器具１３５−１は、時には、内視鏡、又は代替的に撮像システム装置又はカメラ器具と呼ばれる。典型的には、エントリガイド１１５は、複数のチャネルを含む。
【０００５】
撮像システム１９２は、例えば、手術部位の取り込まれた内視鏡撮像データ及び／又は患者の外部の他の撮像システムからの手術前又はリアルタイムの画像データに対して画像処理機能を実行する。撮像システム１９２は、処理された画像データ（例えば、手術部位の画像だけでなく、関連する制御及び患者情報）を外科医コンソール１９４の外科医に出力する。いくつかの態様では、処理された画像データは、手術室の他の関係者又は手術室から離れた１つ又は複数の位置で見ることができるようにオプションの外部モニタに出力される（例えば、別の場所にいる外科医がビデオを監視してもよく、生のフィード（feed）ビデオをトレーニング等のために使用してもよい）。
【０００６】
外科医コンソール１９４は、外科医が、器具、エントリガイド（複数可）、及び撮像システム装置（これらはまとめてスレーブ呼ばれる）を操縦するのを可能にする複数の自由度（DOF）の機械的入力装置（マスター）を含む。いくつかの態様では、これらの入力装置は、器具及び手術装置アセンブリの構成要素から外科医に触覚フィードバックを提供することができる。外科医コンソール１９４はまた、ディスプレイ上の画像が、一般に、ディスプレイスクリーンの後ろ／下で作業する外科医の手に対応する距離に焦点合わせするように位置付けされた立体ビデオ出力ディスプレイを含む。これらの態様は、米国特許第６，６７１，５８１号により十分に論じられており、この文献は参照により本明細書に組み込まれる。
【０００７】
器具の挿入中の制御は、例えば、外科医が画像内に示された器具をマスターの一方又は両方で動かすことによって達成され得る。外科医は、マスターを使用して、器具を画像の左右に動かし、外科医の方に器具を引っ張る。マスターの動きによって、撮像システム及び関連する手術装置アセンブリが命令され、撮像システム及び関連する手術装置アセンブリが、出力ディスプレイ上の固定された中心点に向けて操縦され、且つ患者の内部に前進される。
【０００８】
一態様では、カメラ制御装置は、マスターのハンドルを移動させる方向と同じ方向に画像が移動するように、マスターが画像に固定されているという印象を与えるように設計されている。この設計は、外科医がカメラ制御を終了したときに、器具を制御するための正しい位置にマスターを置き、その結果、この設計は、器具制御を開始又は再開する前に、マスターを元の位置にクラッチ接続（係合解除）、移動、及びクラッチ解除（係合）する必要性を回避する。
【０００９】
患者側サポートシステム１１０のベース１０１は、受動的な制御されないセットアップアームアセンブリ１２０と、能動的に制御されるマニピュレータアームアセンブリ１３０とを含むアームアセンブリを支持する。能動的に制御されるマニピュレータアームアセンブリ１３０は、時には、エントリガイドマニピュレータ１３０と呼ばれる。エントリガイドマニピュレータアセンブリのプラットフォーム１３２（時には、プラットフォーム１３２と呼ばれる）は、第４のマニピュレータリンク１１９の先端部に結合される。エントリガイドマニピュレータアセンブリ１３３は、プラットフォーム１３２に回転可能に取り付けられる。矢印１９０は、先端方向及び基端方向を示す。
【００１０】
エントリガイドマニピュレータアセンブリ１３３は、器具マニピュレータ位置付けシステムを含む。エントリーガイドマニピュレータアセンブリ１３３は、複数の器具マニピュレータ１４０−１，１４０−２をグループとして軸線１２５の周りに回転させる。
【００１１】
複数の器具マニピュレータ１４０−１，１４０−２のそれぞれは、異なる挿入アセンブリ１３６によってエントリガイドマニピュレータアセンブリ１３３に結合される。一態様では、各挿入アセンブリ１３６は、エントリガイドマニピュレータアセンブリ１３３から離れる方向に及びそのアセンブリ１３３に向けて対応する器具マニピュレータを動かす伸縮式アセンブリである。図１では、挿入アセンブリのぞれぞれは完全に後退した位置にある。
【００１２】
複数の器具マニピュレータアセンブリ１４０−１，１４０−２のそれぞれは、その器具マニピュレータの出力インターフェイスにおいて複数の出力を駆動する複数のモータを含む。器具マニピュレータ及びこの器具マニピュレータに結合することができる手術用器具の一例については、米国特許出願第６１／８６６，１１５号（２０１３年８月１５日出願）を参照されたい。また、この文献は参照により組み込まれる。
【００１３】
複数の手術装置アセンブリ１８０のそれぞれは、複数の異なる器具マニピュレータアセンブリと、手術用器具及び画像取込みユニットのうちの１つを含む器具とを含む。器具１３５−１，１３５−２のそれぞれは、伝達ユニットを収容する本体を含む。伝達ユニットは、複数の入力部を含む入力インターフェイスを含む。器具１３５−１，１３５−２のそれぞれはまた、本体から先端方向に延びる主チューブと呼ばれることもあるシャフト１３７−１，１３７−２を含む。エンドエフェクタが、手術用器具アセンブリのシャフトの先端部に結合され、画像取込みユニット、例えばカメラが、異なる手術用器具アセンブリの先端部に含まれる。器具マニピュレータアセンブリ及び手術用器具の例について、米国特許出願第６１／８６６，１１５号（２０１３年８月１５日出願）を参照されたい。また、この文献は参照により組み込まれる。
【００１４】
器具１３５−１，１３５−２のそれぞれは、対応する器具マニピュレータアセンブリ１４０−１，１４０−２の器具取付けインターフェイスに結合され、それによって器具１３５−１，１３５−２の伝達ユニットの入力インターフェイスにおける複数の入力部は、器具マニピュレータアセンブリ１４０−１，１４０−２の器具取付けインターフェイスの複数の出力部によって駆動される。米国特許出願第６１／８６６，１１５号（２０１３年８月１５日出願）を参照されたい。
【００１５】
図１に示されるように、複数の手術装置アセンブリ１８０のシャフトは、器具の本体から先端方向に延びている。シャフトは、患者内への入口ポート（例えば、体壁を通って、又は自然オリフィスにおいて）に置かれた共通のカニューレ１１６を通って延びる。一態様では、エントリガイド１１５がカニューレ１１６内に位置付けされ、各器具シャフトは、器具シャフトに追加の支持を提供するように、エントリガイド１１５のチャネルを通って延びる。
【発明の概要】
【００１６】
システムは、画像センサ、撮像パイプライン、及びディスプレイ装置を含む。画像センサは、画素データの第１のフレームを取り込むように構成される。撮像パイプラインは、画素データの第１のフレームを受け取るために画像センサに結合される。
【００１７】
撮像パイプラインは、適応ノイズフィルタ（adaptive noise filter）を含む。適応ノイズフィルタは、第１の画素の推定画素ノイズパラメータを用い、且つ第１の画素の信号レベルと少なくとも第２の画素の信号レベルとの間の差を用いて画素をフィルタ処理するように構成される。適応ノイズフィルタはまた、画素データの第２のフレームを出力するように構成される。画素データの第２のフレームは、適応ノイズフィルタによってフィルタ処理された画素を含む。
【００１８】
撮像パイプラインは、適応ノイズフィルタ処理された画素データの第２のフレームに基づいて画素データのフレームを出力するように構成される。ここで、適応ノイズフィルタ処理された画素データの第２フレームに基づく画素データのフレームは、撮像パイプラインによる適応ノイズフィルタ処理された画素データの第２フレームの更なる処理の結果である画素データのフレームである。ディスプレイ装置は、適応ノイズフィルタ処理された画素データの第２のフレームに基づいて、画素データのフレームを受け取るように撮像パイプラインに結合される。ディスプレイ装置は、適応ノイズフィルタ処理された画素データの第２のフレームに基づいて、画素データのフレームを表示するように構成される。
【００１９】
一態様では、第２の画素は、第１のフレーム内の第１の画素の位置と同じ、画像センサによって取り込まれた第３のフレーム内の位置にある。第３のフレームは、第１のフレームを取り込む前の時間に取り込まれたので、適応ノイズフィルタによって使用される信号レベルの差は、２つの異なるフレーム内の同じ位置の画素同士の間の時間信号レベル変化である。別の態様では、第１の画素の信号レベルと少なくとも第２の画素の信号レベルとの差は、第１の画素の信号レベルと、第１の画素に隣接する複数の画素（時には、複数の隣接画素と呼ばれる）のうちの１つの信号レベルとの間の差である。複数の隣接画素のうちの１つは第２の画素である。
【００２０】
適応ノイズフィルタは、適応時間ノイズフィルタ（adaptive temporal noise filter）を含む。適応時間ノイズフィルタは、第１及び第２の画素の信号レベルの時間変化を、第１の画素の推定画素ノイズレベルと比較するように構成される。この態様では、推定画素ノイズレベルは、推定画素ノイズパラメータである。また、適応時間ノイズフィルタは、画素ノイズフレームを出力するように構成される。
【００２１】
一態様では、撮像パイプラインは複数のステージを含み、適応的な時間ノイズフィルタは、複数のステージのうちの第１のステージに含まれる。また、複数のステージのうちの第１のステージに続く複数のステージのそれぞれは、入力画素ノイズフレームを処理するように構成され、且つステージ依存画素ノイズフレームを出力するように構成される。
【００２２】
別の態様では、適応ノイズフィルタは、適応空間ノイズフィルタ（adaptive spatial noise filter）を含む。適応空間ノイズフィルタは、第１の画素の信号レベルと、複数の隣接画素のそれぞれの信号レベルとの間の差を決定するように構成される。また、適応空間ノイズフィルタは、ノイズ依存信号レベルパラメータを使用し、ここで、ノイズ依存信号レベルパラメータは、第１の画素のノイズの関数である。この態様では、ノイズ依存信号レベルパラメータは、この態様では画素の推定画素ノイズパラメータである。別の態様では、適応空間ノイズフィルタは、距離（distance）フィルタ及び信号レベルレンジ（range）フィルタを含む。信号レベルレンジフィルタは、画素の信号レベルと複数の隣接画素の信号レベルのそれぞれとの間の差に基づいて、及びノイズ依存信号レベルパラメータに基づいて、画素をフィルタ処理するように構成される。一態様では、ノイズ依存信号レベルパラメータは、信号レベルレンジパラメータである。
【００２３】
更なる態様では、撮像パイプラインステージは、信号レベル対ノイズ・ルックアップテーブルを含む適応時間ノイズフィルタを含む。適応時間ノイズフィルタは、画素のフレームを受け取るように構成され、画素の信号レベルの時間変化を、画素の信号レベルに対応する信号レベル対ノイズ・ルックアップテーブルの値と比較することによって、フレームの複数の画素の各画素をフィルタ処理するように構成され、且つその比較に基づいて、適応時間ノイズフィルタ処理された画素のフレームを出力するように構成される。
【００２４】
別の態様では、撮像パイプラインステージは、現在の画素フレーム、信号レベル対ノイズ・ルックアップテーブル、変更ルックアップテーブル、画素出力フレーム、画素ノイズフレーム、並びに現在の画素フレーム、信号レベル対ノイズ・ルックアップテーブル、変更ルックアップテーブル、画素出力フレーム、及び画素ノイズフレームに結合される適応時間ノイズフィルタを含む。信号レベル対ノイズ・ルックアップテーブルは、現在の画素フレームの画素の信号レベルを受け取り、画素の信号レベルに対応するノイズ標準偏差を出力するように構成される。変更ルックアップテーブルは、ノイズ標準偏差の数値で表される画素の信号レベルの時間変化を受け取り、且つフィルタを通過する画素の信号レベルの許容される時間変化の割合を出力するように構成される。適応時間ノイズフィルタは、適応時間ノイズフィルタ処理された画素を画素出力フレームに出力するように構成される。また、適応時間ノイズフィルタは、画素ノイズ、すなわち、適応時間ノイズフィルタ処理された画素に対応する出力画素ノイズを画素ノイズフレームに出力するように構成される。
【００２５】
さらに別の態様では、適応空間ノイズフィルタは、入力画素フレーム及び入力画素ノイズフレームを受け取るように構成され、画素の信号レベルと複数の隣接画素の信号レベルとの間の空間変化に基づいて、及びノイズ依存信号レベルパラメータに基づいて入力画素フレームの画素をフィルタ処理して、適応空間ノイズ処理された画素を生成するように構成される。ノイズ依存信号レベルパラメータは、画素に対応する入力画素ノイズフレーム内の画素ノイズを使用して決定される。画素の空間フィルタ処理は、入力画素フレーム内の複数の隣接画素に関連する。適応空間ノイズフィルタはまた、適応空間ノイズフィルタ処理された画素を、適応空間ノイズフィルタ処理された画素フレームに出力するように構成される。
【００２６】
さらに別の態様では、撮像パイプラインステージは、入力画素フレーム及び入力画素ノイズフレームを含む。入力画素ノイズフレーム内の各画素ノイズ要素は、入力画素フレーム内の異なる画素に対応する。撮像パイプラインステージは、画素出力フレームと、入力画素フレーム、入力画素ノイズフレーム、及び画素出力フレームに結合された適応空間ノイズフィルタとをさらに含む。
【００２７】
一態様では、適応空間ノイズフィルタは、適応空間ノイズ・バイラテラル（bilateral）フィルタを含む。位置ｘの画素について、適応空間ノイズ・バイラテラルフィルタは、以下のように規定される。
【数１】
2019512178.tif 000002
ここで、
【数２】
2019512178.tif 000003
は、位置ｘにおける画素の適応空間ノイズフィルタ処理された信号レベルであり、
【数３】
2019512178.tif 000004
は、正規化定数であり、
【数４】
2019512178.tif 000005
は、空間的なガウス分布であり、
【数５】
2019512178.tif 000006
は、位置ｙの画素と位置ｘの画素との間の距離のノルムであり、
【数６】
2019512178.tif 000007
は、距離パラメータであり、
【数７】
2019512178.tif 000008
は、位置ｘにおける画素のノイズの関数である信号レベル範囲のガウス分布であり、
【数８】
2019512178.tif 000009
は、位置ｙにおける画素の信号レベルであり、
【数９】
2019512178.tif 000010
は、位置ｘにおける画素の信号レベルであり、
【数１０】
2019512178.tif 000011
は、位置ｙにおける画素（第２の画素）の信号レベルと位置ｘにおける画素（第１の画素）の信号レベルとの差の絶対値であり、
【数１１】
2019512178.tif 000012
は、位置ｘにおける画素のノイズの関数である信号レベルレンジパラメータであり、
【数１２】
2019512178.tif 000013
は、位置ｘに中心画素を有する画素のブロックであり、
【数１３】
2019512178.tif 000014
は、位置ｘに中心画素を有する画素ブロック内の画素に亘る総和を表す。
【００２８】
一態様では、方法は、第１のフレームの第１の画素を受信するステップと、第１の画素の推定画素ノイズパラメータを用いて、且つ第１の画素の信号レベルと少なくとも第２の画素の信号レベルとの間の差を用いて、第１の画素を適応ノイズフィルタ処理して、フィルタ処理された画素を取得するステップとを含む。フィルタ処理された画素は、出力フレームに出力される。この方法はまた、フィルタ処理された画素に対応する画素ノイズをノイズ出力フレームに出力するステップを含む。
【００２９】
別の態様では、第２の画素は、第１のフレーム内の第１の画素の位置と同じ、画像センサによって取り込まれた第２のフレーム内の位置にある。第２のフレームは、第１のフレームを取り込む前の時間に取り込まれる。この態様では、第１の画素を適応ノイズフィルタ処理するステップは、第１の画素の信号レベルの時間変化とも呼ばれる、第１の画素と第２の画素の信号レベルの変化と、第１の画素の推定画素ノイズレベルとの比較に基づいて、第１の画素を適応時間ノイズフィルタ処理するステップを含む。推定画素ノイズレベルは、この態様では推定画素ノイズパラメータである。
【００３０】
第１の画素を適応時間ノイズフィルタ処理するステップは、第１の画素の信号レベルを信号レベル対ノイズ・ルックアップテーブルに入力するステップと、信号レベル対ノイズ・ルックアップテーブルを用いて、第１の画素の信号レベルに対応するノイズ標準偏差を出力するステップとを含む。ノイズ標準偏差は、この態様では第１の画素の推定画素ノイズレベルである。第１の画素を適応時間ノイズフィルタ処理するステップはまた、第１の画素の信号レベルの時間変化をノイズ標準偏差で除算して、第１の画素の信号レベルの時間変化をノイズの標準偏差として取得するステップを含み、除算は前記比較である。第１の画素を適応時間ノイズフィルタ処理するステップは、第１の画素の信号レベルの時間変化をノイズの標準偏差で変更ルックアップテーブルに入力するステップと、変更ルックアップテーブルを用いて、フィルタを通過する第１の画素の信号レベルの許容される時間変化の割合を出力するステップをさらに含む。最後に、第１の画素を適応時間ノイズフィルタ処理するステップは、第１の画素の信号レベルにおける許容される時間変化の割合に第１の画素の信号レベルの時間変化を乗算することによって、第１の画素の信号レベルにおける許容される時間変化を生成するステップと、第１の画素の信号レベルの許容される時間変化を対応する画素に加算することによって、フィルタ処理された画素を生成するステップであって、対応する画素は第２のフレームの画素であり、第２のフレームは、時間的に第１のフレームの直前にある、生成するステップを含む。
【００３１】
さらに別の態様では、本方法の少なくとも１つの第２の画素は、第１の画素に隣接する複数の画素に含まれ、第１の画素を適応ノイズフィルタ処理するステップは、第１の画素の信号レベルと複数の隣接画素の信号レベルのそれぞれとの間の差に基づいて、及びノイズ依存信号レベルパラメータに基づいて、第１の画素を適応空間ノイズフィルタ処理するステップを含む。ノイズ依存信号レベルパラメータは、第１の画素のノイズの関数であり、ノイズ依存信号レベルパラメータは、この態様では第１の画素の推定画素ノイズパラメータである。
【００３２】
画素を適応空間ノイズフィルタ処理するステップは、距離フィルタと信号レベルレンジフィルタとを組み合わせることによってフィルタ処理された画素を生成するステップを含み、信号レベルレンジフィルタは、ノイズ依存信号レベルパラメータの関数である。特に、信号レベルフィルタは、信号レベルレンジパラメータを有する信号レベル範囲のガウス分布を含む。信号レベルレンジパラメータは、ノイズ依存信号レベルパラメータである。
【図面の簡単な説明】
【００３３】
【図１】従来技術のコンピュータ支援手術システムの図である。
【図２】適応ノイズフィルタを有する撮像パイプラインを含む撮像システムの図である。
【図３Ａ】適応時間ノイズフィルタを実施する方法である。
【図３Ｂ】適応時間ノイズフィルタの図である。
【図４Ａ】図３Ａ及び図３Ｂの態様における信号レベル対ノイズ・ルックアップテーブルに含まれるデータのグラフ図である。
【図４Ｂ】図３Ａ及び図３Ｂの態様における変更ルックアップテーブルに含まれるデータのグラフ図である。
【図５】複数の適応ノイズフィルタを含む撮像パイプラインの図である。
【図６Ａ】適応空間ノイズフィルタを実施する方法である。
【図６Ｂ】適応空間ノイズフィルタの図である。
【発明を実施するための形態】
【００３４】
図面において、３桁の参照数字の第１桁は、その参照数字を有する要素が最初に現れる図の番号である。
【００３５】
内視鏡撮像システム１９２における撮像パイプライン等の撮像パイプラインは、多くのノイズフィルタを含む。これらのノイズフィルタには、シーン内で予想されるノイズに基づくパラメータが含まれる。これらのノイズフィルタは、所与の信号レベル、例えばノイズに基づいてパラメータが選択される信号レベルを有する取り込まれたフレームに対しては良好に機能するが、これらのノイズフィルタは、異なる信号レベルで取り込まれたフレーム及び変化する信号レベルを含む画像フレームを処理するには問題を有する。
【００３６】
これらの問題は、１つ又は複数の適応ノイズフィルタを含む撮像パイプラインによって解決される。適応ノイズフィルタのそれぞれは、画像取込みユニット、例えばカメラ内の画像センサによって測定されるような、局所ベースの信号レベルに関連するノイズ依存パラメータを選択する。適応ノイズフィルタのそれぞれにおいて使用されるノイズ依存パラメータは、画像フレーム毎に変化する可能性があり、画像フレーム内で画素毎に変化する可能性がある。具体的には、適応ノイズフィルタは、フレーム内の関心領域の信号レベルに基づいてノイズフィルタ処理を調整する。いくつかの例では、関心領域は画素であるが、他の例では、関心領域は画素のグループであり、ここで、画素のグループは、１画素よりも多くの画素を含み、フレーム内の画素数よりも少ない。適応ノイズフィルタのそれぞれは、第１の画素の値と少なくとも第２の画素の値との比較、例えば、時間的又は空間的変化とその画素の推定画素ノイズパラメータとを比較することによって画素を適応フィルタ処理し、ここで画素の推定画素ノイズパラメータは、画素データのフレーム内の総画素数未満の数に基づいている。推定画素ノイズが画素毎に変化する可能性があるので、適応フィルタは、推定画素ノイズパラメータにおけるそのような変化を補償する。
【００３７】
内視鏡及び他の小型画像取込みセンサに使用される画像取込みセンサでは、画素は、露光時間内にその画素に入射する光子をカウントする。こうして、画素の信号レベルは、画素値と呼ばれることもあり、露光時間に亘る入射光子のカウントを含む。しかしながら、このカウント、すなわち信号レベルは、画素ノイズに関連する寄与も含み得る。画素ノイズは電子（ショット）ノイズによって支配され、画像取込みセンサの電気的変動による画素ノイズへの根本的な寄与もある。画素ノイズは、画像取込みセンサに当たる電子数の分散を扱う平方根関数として推定され、例えば、推定画素ノイズパラメータは推定画素ノイズレベルである。標準偏差の数値において推定画素ノイズと呼ばれることがある推定画素ノイズレベルは、以下のように推定することができる。
【数１４】
2019512178.tif 000015
ここで、
ｓｔｄ（Ｎｏｉｓｅ）は、画素のノイズの標準偏差であり、
Ｏは、センサの電気ノイズによるオフセットであり、
Ｇは、ゲイン値であり、
ＳｉｇｎａｌＬｅｖｅｌは、画像取込みセンサによって読み取られる画素信号レベルであり、
ＭａｘＳｉｇｎａｌＬｅｖｅｌは、画像取込みセンサの最大画素信号レベルである。
ここで、画素信号レベル（ＳｉｇｎａｌＬｅｖｅｌ）は、画像取込みセンサの画素に入射する光の尺度である。上の式は、低画素信号レベルでは、ノイズが高画素信号レベルよりもはるかに小さいことを示している。しかしながら、低信号レベルでは、ノイズは高信号レベルよりも信号のはるかに大きな部分を占める。
【００３８】
例えば、オフセットＯが２でゲインＧが４０、画素信号レベル（Signal Level）が６の第１の画素、画素信号レベル（Signal Level）が４０００である第２画素を考える。この例では、１２ビット画素が使用され、そのため最大画素信号レベル（Max Signal Level）は４０９５である。
ｓｔｄ（第１の画素のノイズ）＝２＋４０＊（６／４０９５）＊＊．５＝３.５
ｓｔｄ（第２の画素のノイズ）＝２＋４０＊（４０００／４０９５）＊＊．５＝４１.５
【００３９】
こうして、第２の画素の推定画素ノイズの標準偏差は、第１の画素の推定画素ノイズの標準偏差の１０倍を超える。しかしながら、第１の画素の推定画素ノイズの標準偏差は、第１の画素の画素信号レベルの約５８％である一方、第２画素の推定画素ノイズの標準偏差は、第２画素の画素信号レベルの約１％である。
【００４０】
一態様では、画像取込みユニット２０１が画素データのフレームを取り込み、この画素データのフレームは、撮像システム２９２の撮像パイプライン２３０によって処理される。典型的には、撮像パイプライン２３０は、複数のステージを含む。撮像システム２９２の撮像パイプライン２３０は、従来の撮像システム１９２の撮像パイプラインのステージ内の少なくとも１つのノイズフィルタが適応ノイズフィルタ２１０に置き換えられている点を除いて、従来の撮像システム１９２の撮像パイプラインと同様である。
【００４１】
画素データ２１４のステージ入力フレーム（時には、入力フレーム２１４と呼ばれる）は、撮像処理パイプライン２３０の特定のステージに入力される画素データの関数である。撮像システム２９２の撮像パイプライン２３０内の適応ノイズフィルタ２１０は、入力フレーム２１４内の画素の信号レベルの変化がノイズであるか実際の変化であるかを判定することによって動作する。実際の変化は、信号レベルの実際の変化に起因する変化であり、ノイズに起因する変化ではない。適応ノイズフィルタ２１０が、画素の信号レベルの変化がノイズによるものであると判定した場合に、適応ノイズフィルタ２１０は、その画素をフィルタ処理し、フィルタ処理された画素をフィルタ処理された画素データのフレーム２１２に渡す。逆に、適応ノイズフィルタ２１０が、その画素の信号レベルの変化が信号レベルの変化に起因する、すなわち、実際の変化であると判定した場合に、適応ノイズフィルタ２１０は、フィルタ処理されていない画素をフィルタ処理された画素データのフレーム２１２に渡す。適応ノイズフィルタ２１０は、画素に関連する信号レベルの変化とその画素の推定画素ノイズパラメータと比較し、次にその比較に基づいて画素をフィルタ処理することによって、画素の信号レベルの変化がノイズによるものであるという判定を行う。
【００４２】
こうして、適応ノイズフィルタ２１０は、画像取込みユニット２０１の画像取込みセンサによって取り込まれたフレーム２０２内の少なくとも関心領域の各画素を調べ、信号レベルの変化がノイズのみによって引き起こされるとみなされるかどうかに基づいて、各画素における信号レベル変化、例えば時間経過による変化又は隣接画素の間の空間的変化を処理する。この適応ノイズフィルタ処理は、従来技術のノイズフィルタを使用して得られたものよりも良好な画像をディスプレイユニット２２０に表示させる。
【００４３】
従来技術のノイズフィルタでは、ノイズフィルタに使用されるパラメータが低信号レベルのノイズを対象とする場合に、高信号レベルを示す画素のノイズは、単にフィルタを通過するだけであった。その結果、ディスプレイユニットに表示されたシーンの高信号レベルのノイズは、表示されるシーンの明るい領域をフレーム毎に変化させ、ひいては表示されたシーンにノイズ誘発フリッカーを生じさせる可能性がある。
【００４４】
逆に、従来技術のノイズフィルタに使用されるパラメータが高信号レベルのノイズを対象とする場合に、信号レベルが低い画素は、全てがノイズであると判定されるため、フィルタ処理されることになる。その結果、低信号レベルの画素の情報が失われることになる。
【００４５】
本明細書で説明する適応ノイズフィルタは、各画素の信号レベルに基づいてノイズフィルタ処理を調整することによって、これらの問題を克服する。こうして、低信号レベルのフィルタ処理は、高信号レベルのフィルタ処理とは異なり、信号レベルが変化すると、画素の推定画素ノイズが変化し、フィルタ処理は、表示される画像における画素ノイズの影響が分からないようにノイズによる寄与を平滑化しながら、各画素によって伝達される情報を保存するように調整される。例えば、適応ノイズフィルタ２１０は、画素の信号レベルを使用して、その画素のノイズを信号レベル対ノイズデータ２１１にアクセスする。信号レベル対ノイズデータ２１１は、画素の信号レベルの可能な範囲に亘って各信号レベルに対して適切なノイズパラメータを有する。適応ノイズフィルタ２１０は、画素の信号レベルの変化とその画素の信号レベル対ノイズデータ２１１からのノイズレベルとを比較することにより、各画素がその画素の信号レベルのノイズに基づいて適切にフィルタ処理されることを保証する。これは、画素データのフレーム内の完全なシーンに亘って同じパラメータを使用するように試みられた従来技術のノイズフィルタで遭遇する問題を大幅に低減又は排除する。
【００４６】
一態様では、適応ノイズフィルタ２１０は、画素ノイズデータの出力フレーム２１３（時には、ノイズフレーム２１３と呼ばれる）に各画素のノイズ値を保存する、例えば画素ノイズを保存する。一態様では、画素ノイズデータ２１３の値はノイズ標準偏差で表される。ノイズフレーム２１３は、パイプライン２３０を通過し、パイプライン２３０の各ステージによって処理される。その結果、パイプライン２３０の各ステージは、そのステージに入力されるノイズの表現を有し、その表現が、そのステージで実施される任意の適応ノイズフィルタ処理に使用され得る。
【００４７】
以下でより完全に説明するように、一態様では、撮像パイプライン２３０は、撮像パイプライン２３０の初期ステージに適応時間ノイズフィルタを含む。適応ノイズフィルタ２１０が適応時間ノイズフィルタである場合に、画素データ２１４のステージ入力フレームは、画像取込みユニット２０１内の画像取込みセンサからの生の画素データの入力フレームである。
【００４８】
別の態様では、撮像パイプライン２３０は、撮像パイプライン２３０の後のステージに適応空間ノイズフィルタを含む。適応ノイズフィルタ２１０が適応空間ノイズフィルタである場合に、画素データ２１４のステージ入力フレームは、例えば、デモザイク処理され、色変換された画素データの入力フレームである。
【００４９】
さらに別の態様では、撮像パイプライン２３０は、撮像パイプラインの初期ステージの適応時間ノイズフィルタと、撮像パイプラインの後のステージの適応空間ノイズフィルタとの両方を含む。図５を参照されたい。
【００５０】
適応ノイズフィルタ２１０が適応時間ノイズフィルタである場合に、生の画素データの現在のフレーム内の位置における現在の画素（第１の画素）の値は、時間的に現在のフレームの直前にフィルタ処理されたデータのフレーム内の同じ位置における先行してフィルタ処理された画素（第２の画素）の値と比較される。ここで、生の画素データは、未だデモザイク処理されていない画像取込みユニット２０１からのデータを指す。２つの画素の２つの値の差、すなわち現在の画素の時間変化を用いて、２つの画素の値の差がノイズによるものか、又は実際の変化であるのかを判定する。
【００５１】
一態様では、現在の画素の値（信号レベル）に対するノイズの標準偏差（推定画素ノイズパラメータ）は、適応ノイズフィルタ２１０によって信号レベル対ノイズデータ２１１から取得される。次に、現在の画素の時間変化が、ノイズの標準偏差の数値に関して時間的な信号変化を得るために、ノイズの標準偏差で除算される。ノイズの標準偏差の数値に関する時間的な信号変化は、現在の画素の時間変化のどれ位の割合がフィルタ２１０を通過できるかを決定するために使用される。こうして、フィルタ２１０は、現在の画素の時間的な信号変化と現在の画素の推定画素ノイズパラメータ、例えば推定画素ノイズレベルと比較し、その比較に基づいてフィルタ処理を行う。一態様では、適応時間ノイズフィルタ処理された画素は、現在の画素の時間変化プラス第２画素の値の割合として規定される。適応時間ノイズフィルタ処理された画素の値は、フィルタ処理された画素データのステージ出力フレーム２１２（時には、出力フレーム２１２と呼ばれる）に置かれる。フィルタ２１０を通過できる現在の画素の許容される時間変化の割合が１００％である場合に、現在の画素は、適応時間ノイズフィルタをそのまま通過する。フィルタ２１０を通過できる現在の画素の許容される時間変化の割合が１００％未満である場合に、現在の画素は、その信号レベルに基づいてフィルタ処理される。出力フレーム２１２は、撮像パイプライン２３０を通して継続し、ディスプレイユニット２２０に表示される。こうして、出力フレーム２１２に基づくフレームが撮像パイプライン２３０によってディスプレイユニット２２０に送信される。すなわち、ディスプレイユニット２２０に送信されたフレームは、出力フレーム２１２が撮像パイプライン２３０内の後続のステージによって処理された後の出力フレーム２１２である。
【００５２】
適応ノイズフィルタ２１０が適応空間ノイズフィルタである場合に、デモザイク処理され、色変換された画素データの現在のフレーム内の位置における現在の画素の値は、現在のフレーム内の隣接画素の値と比較される。適応空間ノイズフィルタ処理された画素としてフィルタを通過した現在の画素の空間的変化の割合は、現在の画素と隣接画素との空間的関係に基づいて、隣接画素の信号レベルに対する現在の画素の信号レベルの関係に基づいて、及び現在の画素のノイズ成分に基づいて重み付けされる。一態様では、以下でより完全に説明するように、適応空間ノイズフィルタは、画素の信号レベルと複数の隣接画素の信号レベルとの間の空間的変化に基づいて、及びノイズ依存信号レベルパラメータに基づいて、画素をフィルタ処理するように構成される。ノイズ依存信号レベルパラメータは、現在の画素のノイズの関数である。ここで、この態様では、ノイズ依存信号レベルパラメータは、画素の推定画素ノイズパラメータである。ステージ出力フレーム２１２は、撮像パイプライン２３０を通して継続し、ディスプレイユニット２２０に表示される。
【００５３】
図３Ａは、撮像パイプライン２３０で使用され得る適応時間ノイズフィルタの一実装形態のプロセスフロー図である。図３Ｂは、図３Ａの方法３５０の適応時間ノイズフィルタ３００の一実装形態のブロック図である。
【００５４】
この例では、現在の画素フレーム３１５（図３Ｂ参照）内の画素は、順次処理されるものとして説明される。これは例示的なものに過ぎず、限定することを意図するものではない。本開示を考慮して、複数の画素を並行して処理することができ、フレーム内の画素をグループとして、又は他の何らかの事柄として処理することができる。図３Ａのプロセスフロー図は、現在の画素における時間変化がノイズによるものであるかどうかを判定するために、現在の画素フレーム３１５（図３Ｂ参照）の各画素が処理されることを示すよう意図している。いくつかの態様では、フレーム内の全ての画素を処理する必要はない。こうして、少なくともフレームの関心領域内の画素、例えばフレーム内の複数の画素が、典型的には、適応時間ノイズフィルタ３００によって処理され、ここで関心領域は既知であり、画素フレームの特定の部分となるように指定される。
【００５５】
最初に、新フレーム検索プロセス３０１が、画像取込みユニット２１０内の画像取込みセンサから新しい画素フレーム３０２を取り出す。取り出された新しい画素フレーム３０２は、現在の画素フレーム３１５（図３Ｂ参照）として保存される。新フレーム検索プロセス３０１は画素取得プロセス３０３に移る。
【００５６】
画素取得プロセス３０３は、現在の画素フレーム３１５（図３Ｂ参照）から第１の画素と、格納済みの以前フィルタ処理された画素フレーム３０４から第１の画素に対応する第２の画素とを取り出す。時には、現在の画素フレーム３１５からの第１の画素は、現在の画素と呼ばれる。格納済みの以前フィルタ処理された画素フレーム３０４は、現在の画素フレーム３１５に関連する時間の直前の時間にフィルタ処理された画素フレームである。現在の画素フレーム３１５が時間ｔについてのフレームである場合に、格納済みの以前フィルタ処理された画素フレーム３０４は時間ｔ−１についてのフレームある。ここで、格納済みの以前フィルタ処理された画素フレーム３０４からの第２の対応する画素は、フレーム３１５内の第１の画素の位置と同じ、フレーム３０４内の位置にある画素である。ここで、画素が検索されたと言われるとき、それは画素の値が取り出されることである。画素の値は信号レベルを表す。画素取得プロセス３０３は、フレーム間の画素差分プロセス３０５に移る。
【００５７】
フレーム間の画素差分プロセス３０５は、まず、第１の画素と第２の画素との間の時間変化を決定する、例えば、時間ｔ−１における第２の画素の値から時間ｔにおける第１の画素の値の時間変化を決定する。フレーム間の画素差分プロセス３０５は、第１の画素の値の時間変化を画素生成プロセス３０９に供給する。
【００５８】
次に、フレーム間の画素差分プロセス３０５は、第１の画素の時間変化の絶対値をとる。フレーム間の画素差分プロセス３０５は、第１の画素の時間変化の絶対値を信号レベル変更プロセス３０７に供給する。
【００５９】
信号レベル変更プロセス３０７は、第１の画素の時間変化の絶対値を受信するだけでなく、信号レベル対ノイズ・ルックアップテーブル３０６からの値も受け取る（本明細書では、大文字及び小文字は要素を区別するために使用されない）。例えば、信号レベル対ノイズ・ルックアップテーブル（SIGNAL LEVEL TO NOISE LOOK-UP TABLE）３０６（図３Ａ参照）、信号レベル対ノイズ・ルックアップテーブル（Signal Level to Noise Look-up Table）３０６（図３Ｂ参照）、及び信号レベル対ノイズ・ルックアップテーブル（signal level to noise look-up table）３０６は全て同じ要素である。）
【００６０】
図４Ａは、一態様において、信号レベル対ノイズ・ルックアップテーブル３０６におけるデータのグラフ表示である。この態様では、曲線４０１を生成するために、上記の、オフセットＯが２、ゲインＧが４０、最大画素信号レベル（Max Signal Level）が４０９５のノイズ規定（１）が使用された。曲線４０１は単なる例示であり、この特定の例に限定することを意図していない。本開示に鑑みて、この分野の知識を有する者は、撮像パイプラインにフレームを提供するために使用される画像センサの特性及び関連するゲインを表す信号レベル対ノイズ・ルックアップテーブル３０６を生成することができる。
【００６１】
図４Ａでは、信号レベルは水平方向のｘ軸に沿ってプロットされ、ノイズの標準偏差は垂直方向のｙ軸に沿ってプロットされる。こうして、信号レベル対ノイズ・ルックアップテーブル３０６が、画素取得プロセス３０３からｘ軸に沿った値である現在の画素の値を受け取ると、信号レベル対ノイズ・ルックアップテーブル３０６は、現在の画素の値についてｙ軸に沿って曲線の値４０１を出力する。例えば、現在の画素の信号レベル（現在の画素の値）が１７５０であると仮定する。信号レベル対ノイズ・ルックアップテーブル３０６が１７５０の入力値を受け取ると、信号レベル対ノイズ・ルックアップテーブル３０６は、現在の画素の標準偏差値２８．１を出力する。このルックアップは、図４Ａの点線で表される。
【００６２】
一態様では、信号レベル対ノイズ・ルックアップテーブル３０６は、現在の画素の可能な信号レベルのそれぞれのエントリを含む。ただし、より少ない数のエントリを使用して、エントリ間の補間を使用することもできる。信号レベル対ノイズ・ルックアップテーブル３０６は、現在の画素の信号レベルについてのノイズの標準偏差を信号レベル変更プロセス３０７に供給するだけでなく、画素ノイズ生成プロセス３１１にも供給する。
【００６３】
信号レベル変更プロセス３０７は、第１の画素の時間変化に含まれる標準偏差の数値を決定する、すなわち、第１の画素（現在の画素）の値の時間変化の絶対値を、信号レベル対ノイズ・ルックアップテーブル３０６から受け取られたノイズ標準偏差入力値で除算する。こうして、第１の画素の値の変化は、この例では推定画素ノイズパラメータである第１の画素の推定画素ノイズレベルと比較される。時間変化の絶対値に含まれる標準偏差の数値は、変更ルックアップテーブル３０８に入力される。
【００６４】
変更ルックアップテーブル３０８に含まれるデータのグラフ表示が図４Ｂに示されている。ノイズの標準偏差における現在の画素の時間的な信号変化の可能な入力値の範囲は、水平方向のｘ軸に沿って示され、この例では、可能な入力値はゼロから４の標準偏差の範囲である。曲線４０２は、可能な入力値のそれぞれについて適応時間ノイズフィルタを通過可能な割合変化の出力を表し、所与の入力に対する曲線の値は、垂直方向のｙ軸からフィルタを通過可能な現在の画素の時間変化の割合（％）として読み取られる。
【００６５】
曲線４０２によって示されるように、１のノイズ標準偏差又はそれ以下のノイズ標準偏差の現在の画素の時間変化について、現在の画素の時間変化の約１９％、すなわち第１の固定された一定の割合がフィルタを通過可能にされる。３のノイズ標準偏差又はそれ以上のノイズ標準偏差の現在の画素の時間変化について、現在の画素の時間変化の１００％、すなわち第２の固定された一定の割合がフィルタを通過可能にされる、すなわち現在の画素は、フィルタ処理されずにフィルタを通過する。２以上のノイズ標準偏差であるが３のノイズ標準偏差よりも小さい現在の画素の時間変化について、フィルタを通過可能にされる時間変化の割合が、１のノイズ標準偏差についての現在の画素の時間変化の約１９パーセントから３のノイズ標準偏差についての１００％まで線形的に変化する。
【００６６】
例えば、現在の画素の時間変化におけるノイズの２の標準偏差の入力値について、変更ルックアップテーブル３０８は、フィルタを通過可能にされた現在の画素の時間変化の割合である約５９％の値を出力する。このルックアップの例は、図４Ｂに点線で表されている。
【００６７】
一態様では、変更ルックアップテーブル３０８は使用されず、図４Ｂに示されるような区分関数に置き換えられる。図４Ｂに示したものよりも複雑な曲線の場合に、曲線は、約５１２のエントリを有する変更ルックアップテーブル３０８で実施される。
【００６８】
こうして、変更ルックアップテーブル３０８に入力される現在の画素の時間変化の絶対値に含まれる標準偏差の数値に応答して、変更ルックアップテーブル３０８は、現在の画素が適応時間ノイズフィルタを通過可能な対応する割合変化（change）を出力する。現在の画素が適応時間ノイズフィルタを通過可能な割合変化（change）は、画素生成プロセス３０９及び画素ノイズ生成プロセス３１１に供給される。
【００６９】
画素生成プロセス３０９は、変更ルックアップテーブル３０８からのフィルタを通過可能にされた現在の画素の時間変化の割合、フレーム間の画素差分プロセス３０５からの現在の画素の時間変化、及び格納済みの以前フィルタ処理された画素フレーム３０４からの第２画素の値を、入力として受け取る。画素生成プロセス３０９は、変更ルックアップテーブル３０８からのフィルタを通過可能にされた現在の画素の時間変化の割合に、フレーム間の画素差分プロセス３０５からの現在の画素の時間変化を乗算し、次にその結果を、格納済みの以前フィルタ処理された画素フレーム３０４からの第２画素の値に加算して、画素出力フレーム３１０に渡される適応時間ノイズフィルタ処理された画素を取得する。こうして、適応フィルタ処理された出力画素は、上述した比較に基づいて出力される。
【００７０】
画素ノイズ生成プロセス３１１は、適応時間ノイズフィルタを通過可能になる割合変化（change）、現在の画素の信号レベルに対するノイズ標準偏差（stdCurr）、及び時間的に直前のフレーム内の対応するフィルタ処理された画素の信号レベルに対するノイズ標準偏差（stdPrev）を、入力として受け取る。時間的に直前のフレーム内の対応する画素の信号レベルに対するノイズ標準偏差（stdPrev）は、直前の適応ノイズフィルタによって生成された画素ノイズ標準偏差のフレームである格納済みの以前の画素ノイズフレーム３１４から受け取られる。
【００７１】
画素ノイズ生成プロセス３１１は、現在のフィルタ処理された画素に対する画素ノイズ標準偏差（stdOut）を生成する。この態様では、現在フィルタ処理された画素に対する画素ノイズ標準偏差（stdOut）は、以下のように規定される。
【数１５】
2019512178.tif 000016
【００７２】
画素ノイズ生成プロセス３１１は、現在のフィルタ処理された画素に対する画素ノイズ標準偏差（stdOut）を、画素ノイズ出力フレーム３１２（時には、ノイズ出力フレーム３１２と呼ばれる）に書き込む。現在の画素ノイズは、適応時間ノイズフィルタ処理された画素のノイズ成分を表す。画素ノイズ生成プロセス３１１は、処理を最後の画素確認プロセス３１３に移す。
【００７３】
最後の画素確認プロセス３１３は、現在の画素フレーム内の全ての画素がフィルタ処理されたかどうかを判定する。全ての画素がフィルタ処理された場合に、最後の画素確認プロセス３１３は新フレーム検索プロセス３０１に移り、そうでなければ画素取得プロセス３０３に移る。
【００７４】
フレーム内の関心のある全ての画素がフィルタ処理されると、（フィルタ処理された画素のフレームと呼ばれる）画素出力フレーム３１０は、格納済みの以前フィルタ処理された画素フレーム３０４に移動される。また、画素ノイズ出力フレーム３１２は、格納済みの以前の画素ノイズフレーム３１４（時には、格納済の以前のノイズフレーム３１４と呼ばれる）に移動される。
【００７５】
図３Ａの方法３５０は、フレーム内の少なくとも１つの領域内の各画素を適応時間ノイズフィルタ処理し、その画素の推定画素ノイズに基づいてフィルタを調整する。さらに、この方法は、各画素へのノイズ寄与が撮像パイプラインの各フィルタステージで利用できるように、別のフィルタステージに達するまで、撮像パイプラインの各ステージによって処理される画素ノイズ出力フレームを生成する。各フィルタステージは、そのステージから画素ノイズ出力フレームを生成するオプションを含む。
【００７６】
適応時間ノイズフィルタ３００は、図３Ａの方法３５０を実行するフィルタの一例である。適応時間ノイズフィルタ３００は、第１の加算器３２０、絶対値モジュール３２１、除算器３２２、乗算器３２３、第２の加算器３２４、第２〜第７の乗算器３２５，３２６，３２８，３２９，３３０，３３１、第３及び第４の加算器３２７，３３２、及び平方根モジュール３３３を含む。適応時間ノイズフィルタ３００は、現在の画素フレーム３１５、格納済みの以前フィルタ処理された画素フレーム３０４、信号レベル対ノイズ・ルックアップテーブル３０６、変更ルックアップテーブル３０８、画素出力フレーム３１０、画素ノイズ出力フレーム３１２、及び格納済みの以前の画素ノイズフレーム３１４に接続される。一態様では、現在の画素フレーム３１５、格納済みの以前フィルタ処理された画素フレーム３０４、信号レベル対ノイズ・ルックアップテーブル３０６、変更ルックアップテーブル３０８、画素出力フレーム３１０、画素ノイズ出力フレーム３１２、及び格納済みの以前の画素ノイズフレーム３１４のそれぞれが、メモリに格納される。この例では、画素出力フレーム３１０は、画素出力フレーム３１０を格納済みの以前フィルタ処理された画素フレーム３０４に移動させることができるように、格納済みの以前フィルタ処理された画素フレーム３０４に結合される。同様に、画素ノイズ出力フレーム３１２は、画素ノイズ出力フレーム３１２を格納済の以前の画素ノイズ出力フレーム３１４に移動させることができるように、格納済の以前の画素ノイズ出力フレーム３１４に結合される。
【００７７】
現在の画素フレーム３１５、格納済みの以前フィルタ処理された画素フレーム３０４、信号レベル対ノイズ・ルックアップテーブル３０６、変更ルックアップテーブル３０８、画素出力フレーム３１０、画素ノイズ出力フレーム３１２、及び格納済みの以前の画素ノイズフレーム３１４を適応時間ノイズフィルタ３００とは別に示すことは、例示に過ぎない。例えば、適応時間ノイズフィルタ３００は、図３Ｂにおいて、現在の画素フレーム３１５、格納済みの以前フィルタ処理された画素フレーム３０４、信号レベル対ノイズ・ルックアップテーブル３０６、変更ルックアップテーブル３０８、画素出力フレーム３１０、画素ノイズ出力フレーム３１２、及び格納済みの以前の画素ノイズフレーム３１４の全て又はいつかの組合せを含むように示され得る。
【００７８】
画素取得プロセス３０３を実施するために、ライン上の信号（Control）が、適応時間ノイズフィルタ３００の加算器３２０の第１の入力（In1）上で現在の画素フレーム３１５（時には、フレーム３１５と呼ばれる）からの第１の画素を駆動し、格納済みの以前フィルタ処理された画素フレーム３０４（時には、フレーム３０４と呼ばれる）から加算器３２０の反転される第２の入力（In2）に第２の画素を駆動する。上述したように、第１の画素は、時には現在の画素と呼ばれる。また、画素が、駆動される、又は入力に供給されると言われたとき、それは画素の値が入力上にあることを意味する。
【００７９】
現在の画素は、適応時間ノイズフィルタ３００の信号レベル対ノイズ・ルックアップテーブル３０６の入力（In）にも供給される。格納済みの以前フィルタ処理された画素フレーム３０４からの第２画素は、第２の加算器３２４の第２の入力（In2）にも供給される。
【００８０】
加算器３２０は、格納済みの以前フィルタ処理された画素フレーム３０４からの第２画素の値を、現在の画素フレーム３１５からの第１の画素の値から減算する。これら２つの画素の間の差、すなわち第１の画素の時間変化は、適応時間ノイズフィルタ３００の乗算器３２３の第１の入力（In1）及び絶対値モジュール３２１の入力（IN）に供給される。絶対値モジュール３２１は、２つの画素の間の時間差の絶対値をとる。２つの画素の時間差の絶対値は、除算器３２２の（分数の）分子入力（NUM）に供給される。この態様では、加算器３２０及び絶対値モジュール３２１を使用して、フレーム間の画素差分プロセス３０５を実施する。
【００８１】
信号レベル対ノイズ・ルックアップテーブル３０６の入力（In）上の現在の画素の値に応答して、信号レベル対ノイズ・ルックアップテーブル３０６は、入力信号レベルに対応するノイズ標準偏差を現在の画素の値によって表されるように入力（In）上に出力する。出力ノイズ標準偏差は、除算器３２２の第２の入力（入力（DENOM））に供給され、且つ乗算器３２５の両方の入力に供給される。
【００８２】
信号レベル変更プロセス３０７は、除算器３２２によって適応時間ノイズフィルタ３００で実施される。上述したように、２つの画素の差の絶対値、すなわち現在の画素の時間変化の絶対値は、除算器３２２の第１の入力（Num）で受け取られる。今説明したように、信号レベル対ノイズ・ルックアップテーブル３０６（図３Ｂ参照）は、現在の画素の値を入力（In）上で受け取り、入力出力に応答して入力値に対応するノイズ標準偏差を受け取る。図４Ａを参照されたい。ノイズ標準偏差は、除算器３２２の第２の入力（Denom）に提供される。
【００８３】
除算器３２２は、第１の入力（Num）の値を第２の入力（Denom）の値で除算し、結果が出力（Out）にある。除算器３２２の出力（Out）上の結果は、変更ルックアップテーブル３０８の入力（In）に供給される。こうして、除算器３２２は、現在の画素の時間変化の絶対値を現在の画素のノイズ標準偏差で除算して、変更ルックアップテーブル３０８に入力されるノイズの標準偏差における時間的な信号変化を取得する。
【００８４】
変更ルックアップテーブル３０８は、ノイズの標準偏差における入力時間信号変化に応答して、フィルタ３００を通過可能な時間変化の割合を出力する。図４Ｂを参照されたい。フィルタ３００を通過可能な時間変化の割合は、乗算器３２３の第２の入力（In2）、加算器３２７の反転される第２の入力（In2）、及び乗算器３２６の両方の入力に供給される。
【００８５】
こうして、乗算器３２３は、フィルタ３００を通過可能な時間変化の割合を第２の入力（In2）上で、及び第１の画素の時間変化を第１の入力（IN1）上で受け取る。乗算器３２３は、この２つの入力を乗算して、フィルタ３００を通過可能な時間変化を取得する。フィルタ３００を通過可能な時間変化は、乗算器３２３の出力（Out）に出力され、第２の加算器３２４の第１の入力（In1）に供給される。
【００８６】
加算器３２４は、フィルタ３００を通過可能な時間変化を第１の入力（In1）上で、及び格納済みの以前フィルタ処理された画素フレーム３０４からの第２の画素の値を第２の入力（In2）上で受け取る。（本明細書で使用される場合に、格納済みの以前フィルタ処理された画素フレーム３０４からの第２の画素は、そのフレーム内の第２の画素を文字通り参照するのではなく、現在の画素フレーム３１５内の現在の画素の位置と同じ、すなわち現在の画素の位置に対応する位置を有する、格納済みの以前フィルタ処理された画素フレーム３０４からの画素を指す。）加算器３２４は、フィルタ３００を通過可能な時間的な信号変化を、格納済みの以前フィルタ処理された画素フレーム３０４からの第２の画素の値に加算し、その和を出力（Out）に出力する。和は、適応時間ノイズフィルタ処理された画素の値である。加算器３２４の出力（Out）は、画素出力フレーム３１０に接続される。こうして、適応時間ノイズフィルタ処理された画素が画素出力フレーム３１０に書き込まれる。乗算器３２３及び加算器３２４が、画素生成プロセス３０９を実施する。
【００８７】
画素出力フレーム３１０は、撮像パイプラインの残りのステージによって処理され（図５参照）、次にディスプレイユニットに送られる。ディスプレイユニットに送信される画素データのフレームが、画素出力フレーム３１０を処理する撮像パイプラインの結果であるので、ディスプレイユニットに送信される画素データのフレームは、画素出力フレーム３１０に基づいていると言える。こうして、画素出力フレーム３１０に基づく画素データのフレームは、ディスプレイユニットによって表示され、そして上述したように、非適応時間ノイズフィルタ処理で得られたよりもより良好な画像を提供する。
【００８８】
現在の画素のノイズ標準偏差（stdCurr）は、乗算器３２５の入力端子（In1）及び（In2）の両方にある。乗算器３２５は、この２つの値を乗算して、ノイズ標準偏差の２乗（stdCurr２）を生成する。ノイズ標準偏差の２乗（stdCurr２）は、乗算器３３０の第１の入力端子（In1）に接続される出力端子（Out）上で駆動される。
【００８９】
フィルタを通過可能にする時間変化（change）は、乗算器３２６の入力端子（In1）及び（In2）の両方にある。乗算器３２６は、この２つの値を乗算して、フィルタを通過可能にする時間変化の２乗（change２）を生成する。フィルタを通過可能にする時間変化の２乗（change２）は、乗算器３３０の第２の入力端子（In2）に接続される出力端子（Out）上で駆動される。
【００９０】
加算器３２７の第１の入力端子（In1）は入力として「１」を受け取り、反転される第２の入力（In2）は、ゼロと１との間の数として表される、フィルタを通過可能にする時間変化（change）の入力を受け取る。加算器は、フィルタを通過可能な時間変化の割合を１から引いて、値（1-change）を生成する。値（1-change）は、乗算器３２９の第１の入力端子（In1）及び第２の入力端子（In2）に接続される出力端子（Out）上で駆動される。
【００９１】
格納済みの以前の画素ノイズフレームに対するライン上の信号（Control）は、現在の画素に対応する以前フィルタ処理された画素ノイズ標準偏差（stdPrev）を乗算器３２８の両方の入力端子（In1）及び（In2）上で駆動する。また、現在の画素に対応する以前フィルタ処理された画素ノイズ標準偏差（stdPrev）は、現在の画素フレーム３１５内の現在の画素の位置と格納済みの以前の画素ノイズフレーム３１４内の位置とが同じである、以前フィルタ処理された画素ノイズ標準偏差（stdPrev）である。乗算器３２８は、この２つの値を乗算して、以前フィルタ処理された画素ノイズ標準偏差の２乗（stdPrev2）を生成する。以前フィルタ処理された画素ノイズ標準偏差の２乗（stdPrev2）は、乗算器３３１の第２の入力端子（In2）に接続される出力端子（Out）上で駆動される。
【００９２】
値（1-change）は、乗算器３２９の第１の入力端子（In1）と第２の入力端子（In2）との両方にある。乗算器３２９は、この２つの値を乗算して、値（1-change）2を生成する。（1-change）2の値は、乗算器３３１の第１の入力端子（In1）に接続される出力端子（Out）上で駆動される。
【００９３】
フィルタを通過可能にする時間変化の２乗（change２）は、乗算器３３０の第２の入力端子（In2）上にあり、現在の画素のノイズ標準偏差の２乗（stdCurr２）は、乗算器３３０の第２の入力端子（In2）上にある。乗算器３３０は、この２つの値を乗算して、値（change２*stdCurr２）を生成する。値（change２*stdCurr２）は、加算器３３２の第１の入力端子（In1）に接続される出力端子（Out）上で駆動される。
【００９４】
現在の画素に対応する以前フィルタ処理された画素のノイズ標準偏差の２乗（stdPrev2）は、乗算器３３１の第２の入力端子（In2）上にあり、値（1-change）2は、乗算器３３１の第１の入力端子（In1）上にある。乗算器３３１は、この２つの値を乗算して、値（（1-change）2*stdPrev2）を生成する。値（（1-change）2*stdPrev2）は、加算器３３２の第２の入力端子（In2）に接続される出力端子（Out）上で駆動される。
【００９５】
こうして、加算器３３２は、値（1-change）2*stdPrev2を第２の入力端子（In2）上で、値change２*stdCurr２を第１の入力端子（In1）上で受け取る。加算器３３２は、この２つの値を加算して、値(（1-change）2*stdPrev2+change２*stdCurr２)を生成する。値(（1-change）2*stdPrev2+change２*stdCurr２)は、平方根モジュール３３３の入力端子（In）に接続される出力端子（Out）上で駆動される。
【００９６】
平方根モジュール３３３は、値（（1-change）2*stdPrev2+change２*stdCurr２)の平方根を取って、その結果（stdOut）を現在の画素フレーム３１５内の現在の画素の位置に対応する画素ノイズ出力フレーム３１２内の位置に格納する、すなわち、画素ノイズ出力フレーム３１２内の現在の画素に対応する位置に格納する。第２〜第７の乗算器３２５，３２６，３２８，３２９，３３０，３３１と、第３及び第４の加算器３２７，３３２と、平方根モジュール３３３とが、画素ノイズ生成プロセス３１１を実施する。
【００９７】
図５は、複数の適応ノイズフィルタを含む撮像パイプライン５３０の代表的なステージ５０１〜５０４のブロック図である。撮像パイプライン５３０は、撮像パイプライン２３０の一例である。この撮像パイプラインの例では、適応時間ノイズフィルタ３００が第１のステージ５０１に含まれ、適応空間ノイズフィルタ５７０が第４のステージ５０４に含まれる。撮像パイプライン５３０は、パイプラインの適応ノイズフィルタの出力に基づくフレームをディスプレイユニットに出力する。
【００９８】
図５の例では、画像取込みユニット２０１は、ベイヤー（Bayer）赤−緑−青カラーフィルタを有する画像取込みセンサを含む。ベイヤー画素データ入力(data-in)フレーム５１５は、適応時間ノイズフィルタ３００の現在の画素フレームである。ここで、ベイヤー画素データ入力フレーム５１５は、赤画素データのセット、緑画素データのセット、及び青データのセットを含む。しかしながら、ステージ５０１において、時間フィルタ処理は、特定の画素のセットの色属性に依存せず、各画素の信号レベルのみに依存する。
【００９９】
図３Ａ及び図３Ｂに関して説明したように、ベイヤー画素データ入力フレーム５１５内の各画素は、信号レベル対ノイズ・ルックアップテーブル５０６にアクセスし、信号レベル対ノイズ・ルックアップテーブル５０６は、各画素についてのノイズ標準偏差（推定画素ノイズパラメータ）をフレーム５１６内のベイヤー画素ノイズに出力する。信号レベル対ノイズ・ルックアップテーブル５０６は、信号レベル対ノイズ・ルックアップテーブル３０６と同様である。
【０１００】
適応時間ノイズフィルタ３００は、ベイヤー画素データ入力フレーム５１５及びフレーム５１６内のベイヤー画素ノイズを入力として受け取り、変更ルックアップテーブル３０８について前述したような変更ルックアップテーブル５０８を使用する。変更ルックアップテーブル５０８は、変更ルックアップテーブル３０８と同様である。適応時間ノイズフィルタ３００は、ベイヤー画素データ入力フレーム５１５内の各画素についてベイヤー画素データ出力（data-out）フレーム５１０内の適応時間ノイズフィルタ処理された画素を生成し、且つ図３Ａ及び図３Ｂに関して上述したように、ベイヤー画素データ入力フレーム５１５内の各画素についてベイヤー画素ノイズ出力（noise out）フレーム５１２内の画素ノイズを生成する。そのため、ここでは説明を繰り返さない。
【０１０１】
ベイヤー画素データ出力フレーム５１０及びベイヤー画素ノイズ出力フレーム５１２は、撮像パイプライン５３０の第２ステージ５０２（デモザイク処理ステージ）への入力フレームである。デモザイクプロセス５５０は、ベイヤー画素データ出力フレーム５１０の適応時間ノイズフィルタ処理された画素を処理して、フル解像度の赤画素フレーム（imRed）、フル解像度の緑画素フレーム（imGreen）、及びフル解像度の青画素フレーム（imBlue）を生成する。また、デモザイクプロセス５５０は、ベイヤー画素ノイズデータ出力フレーム５１２の画素ノイズを処理して、フル解像度の赤画素ノイズフレーム（imNoiseRed）、フル解像度の緑画素ノイズフレーム（imNoiseGreen）、及びフル解像度の青画素ノイズフレーム（imNoiseBlue）を生成する。ベイヤー赤、緑、及び青画素のセットをデモザイク処理して赤、緑、及び青画素のフル解像度フレームを取得するプロセスは、よく知られており、そのためさらに詳細に検討しない。
【０１０２】
フル解像度の赤画素フレーム（imRed）、フル解像度の緑画素フレーム（imGreen）、フル解像度の青画素フレーム（imBlue）、フル解像度の赤画素ノイズフレーム（imNoiseRed）、フル解像度の緑画素ノイズフレーム（imNoiseGreen）、及びフル解像度の青画素ノイズフレーム（imNoiseBlue）は、撮像パイプライン５３０の第３のステージ（色空間変換ステージ）への入力フレームである。色変換プロセス５６０は、赤画素、緑画素、及び青画素、すなわち、第１の色空間内の色画素を、輝度画素Ｙ及び２つのクロミナンス画素Ｕ，Ｖ、すなわち第２の色空間内の色画素に変換する。ＲＧＢ色空間からＹＵＶ色空間への変換は、よく知られており、そのためさらに詳細に検討しない。
【０１０３】
色変換プロセス５６０は、フル解像度の赤画素フレーム（imRed）、フル解像度の緑画素フレーム（imGreen）、及びフル解像度の青画素フレーム（imBlue）を、フル解像度の輝度画素フレーム（imY）、第１のフル解像度のクロミナンス画素フレーム（imU）、及び第２のフル解像度のクロミナンス画素フレーム（imV）に変換する。色変換プロセス５６０はまた、フル解像度の赤画素ノイズフレーム（imNoiseRed）、フル解像度の緑画素ノイズフレーム（imNoiseGreen）、及びフル解像度の青画素ノイズフレーム（imNoiseBlue）を、フル解像度の輝度画素ノイズフレーム（imNoiseY）、第１のフル解像度のクロミナンス画素ノイズフレーム（imNoiseU）、第２のフル解像度のクロミナンス画素ノイズフレーム（imNoiseV）に変換する。
【０１０４】
フル解像度の輝度画素フレーム（imY）、第１のフル解像度のクロミナンス画素フレーム（imU）、第２のフル解像度のクロミナンス画素フレーム（imV）、フル解像度の輝度画素ノイズフレーム（imNoiseY）、第１のフル解像度のクロミナンス画素ノイズフレーム（imNoiseU）、及び第２のフル解像度のクロミナンス画素ノイズフレーム（imNoiseV）は、撮像パイプライン５３０の第４のステージ５０４（適応空間ノイズフィルタステージ）への入力である。
【０１０５】
ＲＧＢ色空間からＹＵＶ色空間に変換する理由の１つは、人間の視覚知覚にとって重要な輝度情報の大部分がＹＵＶ色空間の輝度成分Ｙに保持されることである。こうして、ステージ５０４において、適応空間ノイズフィルタ５７０は、輝度成分画素の空間的ノイズを適応フィルタ処理するだけである。これは、画素の２つのクロミナンス成分の空間ノイズを適応フィルタ処理する時間及び費用を掛けずに、最終的に表示される画像を向上させる。しかしながら、撮像パイプライン５３０で色変換が使用されない場合、又は色変換が輝度成分を含まない別の色空間に変換される場合に、適応空間ノイズフィルタ５７０は、各色成分の画素を適応空間ノイズフィルタ処理する。
【０１０６】
フル解像度の輝度画素フレーム（imY）及びフル解像度の輝度画素ノイズフレーム（imNoiseY）は、適応空間ノイズフィルタ５７０への入力である。フル解像度の輝度画素ノイズフレーム（imNoiseY）内の画素の値は、フル解像度の輝度画素フレーム（imY）内の対応する画素、すなわち、フレーム（imNoiseY）内の画素ノイズの位置とフレーム（imY）内の位置とが同じ画素のノイズ成分を表す。フレーム（imNoiseY）内の画素ノイズ値は、フレーム（imY）内の対応する画素のフィルタを特定する際に使用されるので、フィルタは適応空間ノイズフィルタであると言われる。このフィルタは、全ての画素について同じ定数パラメータを空間ノイズフィルタにおいて使用できると仮定するのではなく、各画素に関連する空間ノイズに適応される。
【０１０７】
適応空間ノイズフィルタ５７０は、適応空間ノイズフィルタ処理された画素の出力フレーム（imYout）及び画素ノイズの出力フレーム（imNoiseYout）を生成する。クロミナンス画素フレーム（imU）及びクロミナンス画素フレーム（imV）は、それぞれクロミナンス画素フレーム（imUout）及びクロミナンス画素フレーム（imVout）としてフィルタ処理されずに出力される。クロミナンス画素ノイズフレーム（imNoiseU）及びクロミナンス画素ノイズフレーム（imNoiseV）は、クロミナンス画素ノイズフレーム（imNoiseUout）及びクロミナンス画素ノイズフレーム（imNoiseVout）としてフィルタ処理されずに出力される。一態様では、適応空間ノイズフィルタ処理された画素のフレーム（imYout）、クロミナンス画素フレーム（imUout）、及びクロミナンス画素フレーム（imVout）は、パイプラインステージ５０４から出力される。これらのフレームは、パイプラインでさらに処理され、ディスプレイ装置に送信することができ、又は一態様ではディスプレイ装置に送信することができる。
【０１０８】
一態様では、適応空間ノイズフィルタ５７０は、適応空間ノイズ・バイラテラル（bilateral）フィルタとして、例えば以下のように実施され、
【数１６】
2019512178.tif 000017
ここで、
【数１７】
2019512178.tif 000018
は、フレーム内の位置ｘにおける画素のフィルタ処理された信号レベルである。
適応空間ノイズフィルタ５７０は、現在の画素をどの様にフィルタ処理するかを決定するために、現在の画素の周りの正方形の画素のブロック、例えば、複数の隣接画素を使用する。距離フィルタ（Distance Filter）は、現在の画素からのブロック内の隣接画素のユークリッド距離から決定された重みに基づいて、現在の画素をフィルタ処理する。信号レンジフィルタ（時には、レンジフィルタ（Range Filter）又は強度フィルタとも呼ばれる）は、フィルタ処理される画素に対応するフレーム（imNoiseY）内の画素ノイズの値に基づく適応ノイズ信号レンジフィルタである。こうして、レンジフィルタで使用される重みは、ブロック内の隣接画素と現在の画素との間の信号レベルの差だけでなく、現在の画素のノイズ成分にも基づく。入力画素フレーム内の現在の画素の位置と同じ位置にある画素ノイズ入力フレームの画素ノイズは、現在の画素に対応すると言われ、時には、現在の画素のノイズ成分と呼ばれることもある。
【０１０９】
非ノイズ適応バイラテラルフィルタが知られている。例えば、C. Tomasi及びR. Manduchiの、”Bilateral Filtering for Gray and Color Images”、１９９８年コンピュータビジョンに関するＩＥＥＥ国際会議の議事録、Bombay India、pp.８３９-８４６（１９９８）を参照されたい。この文献は、当技術分野の知識の論証として参照により本明細書に組み込まれる。
【０１１０】
従来技術のバイラテラルフィルタと同様に、適応空間ノイズフィルタ５７０は、非線形のエッジ保存フィルタである。しかしながら、先に述べたように、従来のバイラテラルフィルタとは異なり、画素について、適応空間ノイズフィルタは、画素からの隣接画素のユークリッド距離に基づくだけでなく、隣接画素と現在の画素との間の信号レベルの差及び現在の画素のノイズ成分にも基づいて、フィルタで使用される重みを調整する。具体的には、以下でより完全に説明するように、適応空間ノイズフィルタ５７０は、現在の画素の近傍の画素の加重和をとる。重みは、現在の画素自体のノイズ成分だけでなく、隣接画素の空間距離及び信号レベルにも依存する。こうして、フレーム内の各画素における信号値は、近傍の画素からの信号値のノイズに基づく重み付き平均で置き換えられる。
【０１１１】
適応空間ノイズフィルタ５７０は、ノイズを平均化及び減少させながら、エッジ保存の効果をアーカイブする（archive）ために全画素について一定の信号範囲パラメータ（σr）に依存するバイラテラルフィルタの以前の実装とは異なり、その画素のノイズ成分に基づいて各画素について信号範囲パラメータ（σr）を調整する。こうして、フレーム内の各画素は、画素に関連するノイズに基づいて左右相称に（bilaterally）フィルタ処理される。すなわち、空間バイラテラルフィルタは各画素のノイズに適応する。
【０１１２】
一態様において、以下の式は、撮像パイプライン５３０に実装された適応空間ノイズフィルタ５７０の規定である。
【数１８】
2019512178.tif 000019
ここで、
【数１９】
2019512178.tif 000020
は、位置ｘにおける画素のフィルタ処理された信号レベルであり、
【数２０】
2019512178.tif 000021
は、正規化定数であり、
【数２１】
2019512178.tif 000022
は、空間的なガウス分布であり、
【数２２】
2019512178.tif 000023
は、位置ｙの画素と位置ｘの画素との間の距離のノルム（norm）であり、
【数２３】
2019512178.tif 000024
は、通常１〜１０の範囲の距離パラメータであり、
【数２４】
2019512178.tif 000025
は、位置ｘにおける現在の画素のノイズの関数である信号レベル範囲のガウス分布（signal level range Gaussian distribution）であり、
【数２５】
2019512178.tif 000026
は、位置ｙにおける画素の信号レベルであり、
【数２６】
2019512178.tif 000027
は、位置ｘにおける画素の信号レベルであり、
【数２７】
2019512178.tif 000028
は、位置ｙにおける画素の信号レベルと位置ｘにおける画素の信号レベルとの差の絶対値であり、
【数２８】
2019512178.tif 000029
は、位置ｘにおける画素のノイズの関数である信号レベルレンジパラメータであり、
【数２９】
2019512178.tif 000030
は、位置ｘに中心画素を有する画素のブロックであり、
【数３０】
2019512178.tif 000031
は、位置ｘに中心画素を有する画素ブロック内の画素に亘る総和を表す。
位置ｘ及び位置ｙは、画素のブロック内の位置を指定し、各位置は２つの座標によって表されることに留意されたい。
【０１１３】
図６Ａは、適応空間ノイズ画素フィルタ処理のための方法６５０の一実装形態のプロセスフロー図である。図６Ｂは、適応空間ノイズフィルタ６７０における図６Ａの方法６５０の一実装形態のブロック図である。一態様では、適応空間ノイズフィルタ６７０は、撮像パイプライン２３０及び撮像パイプライン５３０で使用することができる。適応空間ノイズフィルタ６７０は、適応空間ノイズフィルタ５７０の一例である。
【０１１４】
最初に、新フレーム検索プロセス６０１は、新しい画素フレーム６０２、例えば、フレーム（imY）を取り出す。新フレーム検索プロセス６０１はブロック取得プロセス６０３に移る。
【０１１５】
ブロック取得プロセス６０３は、現在の画素フレーム６１６（図６Ｂ参照）から現在の画素の周りに中心を置いた、ｎ×ｎ画素の入力ブロックを取り出す。フレーム内の各画素が適応空間ノイズフィルタ処理されるか、又はフレーム内の少なくとも複数の画素が適応空間ノイズフィルタ処理され、そのため、現在の画素は、適応空間ノイズフィルタ処理された画素である。一態様では、ｎ×ｎ画素の入力ブロックは、現在の画素をブロックの中央に有する５画素×５画素のブロックである。ブロック取得プロセス６０３は、距離フィルタ（Distance Filter）プロセス６０４に移る。
【０１１６】
距離フィルタプロセス６０４は、入力ブロックの画素の各画素、すなわち入力画素ブロックの各画素について上記で規定された空間ガウス関数の値を生成し、その結果、ｎ×ｎの距離フィルタ値ブロックにおけるそれぞれの位置について距離フィルタ値を生成する。距離フィルタプロセス６０４は、レンジ差（Range Difference）プロセス６０５に移る。
【０１１７】
レンジ差プロセス６０５は、現在の画素と入力画素ブロック内の他の画素のそれぞれとの間の信号レベルの差を決定する。具体的には、レンジ差プロセス６０５は、I(y)-I(x)の値を求め、ここで、ｘはブロック内の中心画素の位置であり、I（x）は中心画素の値であり、I（y）は入力画素ブロック内の位置ｙにおける画素の値であり、yは入力画素ブロック内の位置の範囲にあり、ｎ×ｎのレンジ差ブロックにおける各位置についてレンジ差を生成する。レンジ差プロセス６０５は、範囲フィルタ（Range Filter）プロセス６０６に移る。
【０１１８】
範囲フィルタプロセス６０６は、上述したように現在の画素のノイズの関数である信号レベル範囲のガウス分布を実現する。範囲フィルタプロセス６０６は、信号レベル範囲のガウス分布を実現するために、現在の画素の信号レベルレンジパラメータ（σ(Noise)r）のノイズ依存値を必要とする。ここで、信号レベルレンジパラメータ（σ(Noise)r）の括弧内にノイズ（Noise）が含まれることは、信号レベルレンジパラメータ（σr）が現在の画素のノイズ成分の関数であることを意味する。この関数の結果は、バイラテラルフィルタのレンジフィルタが適応性を有し、左右相称にフィルタ処理される画素のノイズ成分に基づいて変化する結果となることである。その結果、空間ノイズフィルタはノイズに適応するため、適応空間ノイズフィルタと呼ばれる。こうして、適応空間ノイズフィルタは、位置ｙにおける画素の信号レベルと位置ｘにおける画素の信号レベルとの間の差の絶対値の２乗を、信号レベルレンジパラメータ（σ(Noise)r）の２乗で除算することによって、現在の画素の信号レベルを、複数の隣接画素の信号レベル及び推定画素ノイズパラメータと比較する。ここで、信号レベルレンジパラメータ（σ(Noise)r）は、この態様では推定画素ノイズパラメータである。この比較は、適応空間ノイズフィルタ処理された画素値を出力する際に使用される。
【０１１９】
一態様（図示せず）では、信号レベルレンジパラメータ（σ(Noise)r）は、現在の画素のノイズ成分の線形関数である。この態様では、現在の画素の位置は、パイプラインのステージに入力される画素ノイズデータのフレーム内の対応する位置、例えば同じ位置から画素ノイズを取り出すために使用される。取り出される画素ノイズは、中心画素に対応する。中心画素のノイズ成分である画素ノイズが線形関数に入力され、信号レベルレンジパラメータ（σ(Noise)r）が得られる。撮像パイプライン５３０の場合に、画素ノイズデータの入力フレーム６１２は、フレーム（imNoiseY）である。一態様では、線形関数の傾きは、２〜３の間である。一態様では、傾き及びオフセットは、傾き及びオフセットとして異なる値を使用し、各値について適応空間フィルタを用いてノイズ画像をフィルタ処理し、次に、オブザーバのグループによって決定されるように、最良のフィルタ処理された画像を生成する値を選択することによって、経験的に決定される。
【０１２０】
別の態様では、図６Ａに示されるように、現在の画素の位置は、画素ノイズデータフレーム６１２から画素ノイズを検索するために使用され、画素ノイズは、ノイズ対シグマＲルックアップテーブル６１３に入力される。このテーブルは、線形関数について説明したものと同等の手順を用いて経験的に生成されるが、より複雑な曲線が使用される。こうして、ノイズ対シグマＲルックアップテーブル６１３は、複数の画素ノイズレベルのそれぞれについて信号レベルレンジパラメータ（σ(Noise)r）を含み、ここで一態様では、複数の画素ノイズレベルは、手術画像で一般的に遭遇する画素ノイズの範囲を含む。ノイズ対シグマＲルックアップテーブル６１３は、入力画素ノイズに対応する信号レベルレンジパラメータσ(Noise)rを範囲フィルタプロセス６０６に出力し、それによって現在の画素のノイズ成分に依存する信号レベルレンジパラメータσ(Noise)rを出力する。
【０１２１】
こうして、範囲フィルタプロセス６０６は、ｎ×ｎブロックの範囲フィルタ処理された値を生成し、ここで、範囲フィルタ処理された値のｎ×ｎブロックの所与の位置における範囲フィルタ処理された値は、所与の位置とｎ×ｎブロックのレンジ差の同じ位置から、例えば対応する位置からの入力レンジ差及び入力信号レベル（σ(Noise)r）を使用する信号レベル範囲のガウス分布の値である。こうして、範囲フィルタプロセス６０６は、フィルタ結合（Combine Filters）プロセス６０７に移る。
【０１２２】
フィルタ結合プロセス６０７は、距離フィルタ値のｎ×ｎブロック内の位置の値に、２つのブロック内の各位置についてのレンジフィルタ（range filter）値のｎ×ｎブロックの内の同じ位置の値を乗算し、ｎ×ｎの合成フィルタ値ブロックにおける各位置について合成フィルタ値を生成する。フィルタ結合プロセス６０７は、正規化プロセス６０８に移る。
【０１２３】
正規化プロセス６０８は、まず、上で規定した正規化定数Ｃの値を決定する。具体的には、正規化プロセス６０８は、ｎ×ｎブロックの合成フィルタ値の値を合計して、正規化定数Ｃを生成する。次に、正規化プロセス６０８は、ｎ×ｎの合成フィルタ値ブロックの各位置の値を正規化定数Ｃで除算して、ｎ×ｎの正規化された合成フィルタ値ブロックを生成する。正規化プロセス６０８は、画素生成プロセス６０９に移る。
【０１２４】
画素生成プロセス６０９は、適応空間ノイズフィルタ処理された画素を生成し、（時には、画素データの出力フレーム又はフィルタ処理された画素出力フレームと呼ばれる）フィルタ処理された画素データの出力フレーム６１４に適応空間ノイズフィルタ処理された画素を書き込む。具体的には、画素生成プロセス６０９は、ｎ×ｎの正規化された合成フィルタ値ブロックの同じ位置の値に、ｎ×ｎの入力画素ブロックの同じ位置の値を乗算することによって、ｎ×ｎの適用フィルタ値ブロックにおける位置について適用フィルタ値を生成する。乗算は、ブロック内の各位置について行われる。最後に、ブロック中央の画素の適応空間ノイズフィルタ処理された画素を生成するために、画素生成プロセス６０９は、ｎ×ｎブロックの適用フィルタ値の値を合計して、適応空間ノイズフィルタ処理された画素を取得し、この適応空間ノイズフィルタ処理された画素は、フィルタ処理された画素データの出力フレーム６１４内の適切な位置、すなわち、現在の画素フレーム６１６内の中心画素の位置と同じフィルタ処理された画素データの出力フレーム６１４内の位置に書き込まれる。フィルタ処理された画素データの出力フレーム６１４は、時には、フィルタ処理された画素データ出力フレーム６１４と呼ばれる。
【０１２５】
画素ノイズ生成プロセス６１０は、オプションであり、典型的には適応ノイズフィルタを使用するパイプラインにおいて別のフィルタステージが後にある場合に実施される。上記のように、正規化定数Ｃは、以下のように規定される。
【数３１】
2019512178.tif 000032
【０１２６】
正規化定数Ｃを決定する際に、ｎ×ｎブロックの合成フィルタ値が生成され、ブロック内の位置における合成フィルタ値（Cxy）は、以下のように表される。
【数３２】
2019512178.tif 000033
【０１２７】
また、上で説明したように、ｎ×ｎの合成フィルタ値ブロックの各位置の値を正規化定数Ｃで除算して、以下に示されるような、ｎ×ｎブロックの正規化された合成フィルタ値（CFN）を生成した。
【数３３】
2019512178.tif 000034
【０１２８】
画素ノイズ生成プロセス６１０は、正規化プロセス６０８からこのｎ×ｎブロックの正規化された合成フィルタ値（CFN）を受け取る。また、現在の画素を中心とするｎ×ｎ画素ブロックの各画素について、画素ノイズデータのフレーム６１２内に対応する画素ノイズ標準偏差（stdPixi,j）を含む。現在の画素の画素ノイズ出力標準偏差（stdOut）は、以下のように規定される。
【数３４】
2019512178.tif 000035
【０１２９】
画素ノイズ出力標準偏差（stdOut）は、画素ノイズ出力フレーム６１５（時には、画素ノイズデータの出力フレーム６１５と呼ばれる）に渡される。画素ノイズ生成プロセス６１０は、プロセスを最後の画素確認プロセス６１１に移す。
【０１３０】
最後の画素確認プロセス６１１は、現在の画素フレーム内の全ての画素がフィルタ処理されているかどうかを判定する。全ての画素がフィルタ処理されている場合に、最後の画素確認プロセス６１１は、新フレーム検索プロセス６０１移り、そうでなければブロック取得プロセス６０３に移る。
【０１３１】
以下は、適応空間ノイズフィルタ６７０の一態様の擬似コード実装である。
sigmaD
= １                                “距離フィルタのシグマ値”
I
= [5, 5]                                “ブロックのサイズを規定する”
distFilt
= fspecial('gausian',[5, 5], 10)  “ブロック内の各位置について距離フィルタを評価する”
cp
= I(3, 3)                              “中心画素を規定する”
diff
= I-cp                              “各画素と中心画素との間の信号レベル差”
np
= location of cp in noise frame        “中心画素に対応する画素ノイズを規定する”
sigmaR
= lookup (np）                      “中心画素に対応するノイズ画素の関数としてＳｉｇｍａＲを取得する”
rangeFilt
= exp(-diff.^2/2*sigmaR^2)))      “ブロック内の各位置の範囲フィルタを評価する”
combFilt
= rangeFilt. * distFilt            “範囲フィルタの各要素に、距離フィルタの対応する要素を乗算する”
sumFilt
= sum(combFilt(:))                  “結合フィルタの値を合計する”
combFiltNorm
= comFilt./sumFilt              “結合フィルタの各値を正規化係数で除算する”
appliedFilter
= I. * comFiltNorm            “ブロック内の各画素に正規化結合フィルタを乗算する”
newValue
= sum(appliedFilter（:))          “フィルタ処理された中心画素は、適用されたフィルタの値の合計である”
一態様では、適応空間ノイズフィルタは、コンピュータプログラミング言語で書かれ、撮像パイプライン内のプロセッサ上で実行可能な実行可能モジュールにコンパイルされる。あるいはまた、適応空間フィルタは、ハードウェア、ファームウェア、或いはハードウェア、ファームウェアの任意の組合せ、並びにプロセッサ及び実行可能モジュールの組合せで実装することができる。例えば、図６Ｂを参照されたい。
【０１３２】
適応空間ノイズフィルタ６７０は、図６Ａの方法６５０を実行するフィルタの一例である。適応空間ノイズフィルタ６７０は、距離フィルタモジュール６２０、第１の集計器（summer）６２１、範囲フィルタモジュール６２２、第１の乗算器６２３、第２の集計器６２４、除算器６２５、第２の乗算器６２６、第３の集計器６２７、乗算器バンク６２８、第４の集計器６２９、及び平方根モジュール６３０を含む。適応空間ノイズフィルタ６７０は、現在の画素フレーム６１６、現在の画素ノイズフレーム６１２、ノイズ対シグマＲルックアップテーブル６１３、フィルタ処理された画素データの出力フレーム６１４、及び画素ノイズ出力フレーム６１５に接続される。一態様では、現在の画素フレーム６１６、現在の画素ノイズフレーム６１２、ノイズ対シグマＲルックアップテーブル６１３、フィルタ処理された画素出力フレーム６１４、及び画素ノイズ出力６１４のそれぞれは、メモリに格納される。
【０１３３】
現在の画素フレーム６１６、現在の画素ノイズフレーム６１２、ノイズ対シグマＲルックアップテーブル６１３、フィルタ処理された画素出力フレーム６１４、及び画素ノイズ出力フレーム６１５を適応空間ノイズフィルタ６７０とは別のものとして示すことは、例示に過ぎない。例えば、適応空間ノイズフィルタ６７０は、現在の画素フレーム６１６、現在の画素ノイズフレーム６１２、ノイズ対シグマＲルックアップテーブル６１３、フィルタ処理された画素出力フレーム６１４、及び画素ノイズ出力フレーム６１５の全て又はいくつかの組合せを含むように図６Ｂに描かれ得る。
【０１３４】
ブロック取得プロセス６０３を実施するために、制御信号が、現在の画素フレーム６１６（時には、フレーム６１６とも呼ばれる）に供給され、画素のブロックI(n, n)が距離フィルタモジュール６２０に、及び集計器６２１の第１の入力に供給され、ブロックI(n, n)の中心画素（cp）は、適応空間ノイズフィルタ６７０の集計器６２１の第２の反転入力（In2）に供給される。ここで、ｎは、正の非ゼロの奇数である。
【０１３５】
上述したように、中心画素は、時には現在の画素と呼ばれる。また、画素が、入力上で駆動される、又は入力に供給されると言われるとき、それは画素の値が入力上にあることを意味する。
【０１３６】
距離フィルタモジュール６２０は、ブロックI(n, n)の各画素、すなわちブロックI(n, n)の各位置について上記で規定した空間ガウス関数を実施し、ブロックI(n, n)の各位置について距離フィルタ値を生成する。距離フィルタモジュール６２０は、距離フィルタプロセス６０４を実施する。
【０１３７】
集計器６２１は、ブロックI(n, n)内の各値から中心画素の値を減算する。すなわち、集計器６２１は、現在の画素とブロックI(n, n)内の他の画素のそれぞれとの間の信号レベルの差を決定して、ｎ×ｎブロックの信号レベルレンジ差を生成する。集計器６２１は、ｎ×ｎブロックの信号レベルレンジ差を出力（Out）に出力する。集計器６２１は、レンジ差プロセス６０５を実施する。
【０１３８】
範囲フィルタモジュール６２２は、上述したように現在の画素のノイズの関数である信号レベル範囲のガウス分布を実現する。信号レベルを実現するために、範囲フィルタモジュール６２２は、ブロックI(n, n)の中心画素に対する信号レベルレンジパラメータ（σ(Noise)r）のノイズ依存値が必要である。
【０１３９】
この態様では、現在の画素（cp）の位置は、画素ノイズデータ６１２のフレーム内の同じ位置の画素ノイズを取り出すために使用され、画素ノイズは、ノイズ対シグマＲルックアップテーブル６１３に入力される。取り出された画素ノイズは、ブロックI(n, n)の中心画素に対応する画素ノイズである。入力画素ノイズに応答して、ノイズ対シグマＲルックアップテーブル６１３は、信号レベルレンジパラメータ（σ(Noise)r）を第２の入力（In2）上で範囲フィルタモジュール６２２に提供する。範囲フィルタモジュール６２２は、集計器６２１からｎ×ｎブロックの信号レベルレンジ差を第１の入力（In1）上で受け取る。
【０１４０】
こうして、範囲フィルタモジュール６２２は、ブロックI(n, n)内の各位置のレンジフィルタ値を生成する。ｎ×ｎのレンジフィルタ値ブロックの所与の位置におけるレンジフィルタ値は、ｎ×ｎの信号レベルレンジ差ブロックのその所与の位置についての入力レンジ差及び入力信号レベル（σ(Noise)r）を使用する信号レベル範囲のガウス分布の値である。範囲フィルタモジュール６２２は、範囲フィルタプロセス６０６を実施する。
【０１４１】
乗算器６２３は、第１の入力（In1）上でｎ×ｎブロックの距離フィルタ値を受け取り、第２の入力端子（In2）上でｎ×ｎブロックのレンジフィルタ値を受け取る。乗算器６２３は、ｎ×ｎの距離フィルタ値ブロックの距離フィルタ値に、ｎ×ｎのレンジフィルタ値ブロックの対応するレンジフィルタ値を乗算し、その結果をｎ×ｎ結合フィルタブロックの対応する位置に入れる。ここで、距離フィルタ値ブロックの位置（１，１）における距離フィルタ値は、レンジフィルタ値ブロックの位置（１，１）におけるレンジフィルタ値、及び合成フィルタ値ブロックの位置（１，１）における合成フィルタ値に対応し；距離フィルタ値ブロックの位置（１，２）における距離フィルタ値は、レンジフィルタ値ブロックの位置（１，２）のレンジフィルタ値、及び合成フィルタ値ブロックの位置（１，２）における合成フィルタ値に対応し；・・・距離フィルタ値ブロックの位置（２，１）における距離フィルタ値は、レンジフィルタ値ブロックの位置（２，１）におけるレンジフィルタ値、及び合成フィルタ値ブロックの位置（２，１）における合成フィルタ値に対応する（以下同様）。こうして、一般にここでは、２つのｎ×ｎブロック内の同じ位置にあるエントリは、対応すると言われる。ｎ×ｎブロックの合成フィルタ値は、乗算器６２３の出力（Out）に供給される。乗算器６２３は、結合フィルタプロセス６０７を実施する。
【０１４２】
集計器６２４は、入力（In）上でｎ×ｎブロックの合成フィルタ値を受け取る。集計器６２４は、上で規定した正規化定数Ｃを生成するために、ｎ×ｎの合成フィルタ値ブロックの値を合計する。正規化定数Ｃが集計器６２４の出力（Out）に供給される。
【０１４３】
除算器６２５は、（分数の）分子入力（Num）でｎ×ｎブロックの合成フィルタ値を受け取り、分母端末（Denom）で正規化定数Ｃを受け取る。除算器６２５は、ｎ×ｎの合成フィルタ値ブロックの各合成フィルタ値を正規化定数Ｃで除算して、ｎ×ｎブロックの正規化された合成フィルタ値を生成する。ｎ×ｎブロックの正規化された合成フィルタ値が、除算器６２５の出力（Out）に供給される。集計器６２４及び除算器６２５は、正規化プロセス６０８を実施する。
【０１４４】
乗算器６２６は、第１の入力（In1）上で画素ブロックI(n, n)を受け取り、第２の入力（In2）上でｎ×ｎブロックの正規化された合成フィルタ値を受け取る。乗算器は、正規化された合成フィルタ値のそれぞれに画素ブロックI(n, n)内の対応する画素を乗算することによって、ｎ×ｎブロックの適用フィルタ値を生成する。ここでも、画素ブロックの位置（１，１）における画素値は、正規化された合成フィルタ値ブロックの位置（１，１）における正規化された合成フィルタ値、及び適用フィルタ値ブロックの位置（１，１）における適用フィルタ値に対応し；画素ブロックの位置（１，２）における画素値は、正規化された合成フィルタ値ブロックの位置（１，２）における正規化された合成フィルタ値、及び適用フィルタ値ブロックの位置（１，２）における適用フィルタ値に対応する（以下同様）。ｎ×ｎブロックの適用フィルタ値は、乗算器６２６の出力（OUT）に供給される。
【０１４５】
集計器６２７は、入力（IN）上でｎ×ｎブロックの適用フィルタ値を受け取る。集計器６２４は、画素ブロックI(n,
n)の中心画素について適応空間ノイズフィルタ処理された画素を生成するために、ｎ×ｎの適用フィルタ値ブロックの値を合計する。中心画素について適応空間ノイズフィルタ処理された画素が集計器６２７の出力（OUT）に供給されるので、その適応空間ノイズフィルタ処理された画素は、フィルタ処理された画素出力フレーム６１４の適切な位置に、すなわち、現在の画素フレーム６１６の中心画素（cp）の位置と同じフィルタ処理された画素出力フレーム６１４の位置に書き込まれる。乗算器６２６及び集計器６２７は、画素生成プロセス６０９を実施する。
【０１４６】
乗算器バンク６２８は、第１の入力（In1）上で画素ノイズデータフレーム６１２からｎ×ｎブロックの画素ノイズ標準偏差（stdPixi,j）を受け取り、第２の入力端子（In2）上で、ｎ×ｎブロックの正規化された合成フィルタ値を受け取る。乗算器バンク６２３は、入力値のそれぞれをそれ自体で乗算し、一方のブロックの２乗値に他方のブロックの対応する２乗値を乗算する。画素ノイズ標準偏差の２乗と正規化された合成フィルタ値の２乗との積から構成されるｎ×ｎブロックが、乗算器バンク６２８の出力（Out）に供給され、集計器６２９の入力端子（In）を駆動する。
【０１４７】
集計器６２９は、画素ノイズ標準偏差の２乗と正規化された合成フィルタ値の２乗との積から構成されるｎ×ｎブロックを入力（In）上で受け取る。集計器６２４は、画素ノイズ標準偏差の２乗と正規化された合成フィルタ値の２乗との積から構成されるｎ×ｎブロックの値を合計する。結果は、集計器６２９の出力（Out）に供給される。
【０１４８】
平方根モジュール６３０は、入力（In）で集計器６２９の出力（Out）の結果を受け取る。平方根モジュール６３０は、入力値の平方根をとり、画素ノイズ出力標準偏差（stdOut）を画素ノイズ出力フレーム６１５に供給する。乗算器バンク６２８、集計器６２９、及び平方根モジュール６３０は、画素ノイズ生成プロセス６１０を実施する。
【０１４９】
上述した適応ノイズフィルタは、実際には任意数のモジュールによって実施してもよく、各モジュールは、任意のコンポーネントの組合せを含んでもよい。各モジュール及び各コンポーネントは、ハードウェア、プロセッサ上で実行されるソフトウェア、及びファームウェア、又はこれらの３つの任意の組合せを含むことができる。また、本明細書で説明するように、適応ノイズフィルタの機能及び動作は、１つのモジュールによって実行してもよく、又は異なるモジュール間で、又はモジュールの異なるコンポーネント間で分割してもよい。異なるモジュール又はコンポーネントの間で分割される場合に、モジュール又はコンポーネントは、１つの場所に集中されるか、又は分散処理目的のために、コンピュータ支援手術システムに亘って分散され得る。こうして、適応ノイズフィルタへの言及は、単一の物理的エンティティを必要とするものとして解釈すべきではない。
【０１５０】
上記の例では、単一の撮像パイプラインについて示し、説明した。しかしながら、立体視シーンを利用するシステムでは、上述したパイプラインと同一の第２のパイプラインが使用され、１つのパイプラインが左画像取込みユニットからの左取込みフレームを処理し、別のパイプラインが右画像取込みユニットから右取込みフレームを処理する。第２のパイプラインについての上述した説明を繰り返すことは冗長であり、そのため、明確にするためにここには含まれていない。
【０１５１】
本明細書で使用する「第１」、「第２」、「第３」等は、異なる構成要素又は要素を区別するために使用される形容詞である。こうして、「第１」、「第２」、及び「第３」は、構成要素又は要素の順序を暗示することを意図せず、又は構成要素又は要素の総数を暗示することを意図しない。
【０１５２】
本発明の態様及び実施形態を示す上記の説明及び添付の図面は、限定と解釈すべきではなく、特許請求の範囲が保護される発明を規定する。この説明及び特許請求の範囲の精神及び範囲から逸脱することなく、様々な機械的、組成的、構造的、電気的、及び動作的な変更を行うことができる。いくつかの例では、周知の回路、構造、及び技術は、本発明を不明瞭にすることを避けるために、詳細には示していないか又は説明していない。
【０１５３】
さらに、この説明の用語は本発明を限定するものではない。例えば、「下の(beneath)」、「より下の(below)」、「下方の(lower)」、「上の(above)」、「上方の(upper)」、「基端」、「先端」等の空間的に関連する用語は、図に示されるように、１つの要素又は特徴の別の要素又は特徴に対する関係を示す。これらの空間的に関連する用語は、図に示された位置及び向きに加えて、使用又は操作中の装置の異なる位置（すなわち、配置）及び向き（すなわち、回転配置）を包含するように意図されている。例えば、図中の装置がひっくり返された場合に、他の要素又は特徴「より下（below）」又は「の下（beneath）」と記載された要素は、次に他の要素又は特徴の「上（above）」又は「上（over）」になる。こうして、例示的な用語「より下の（below）」は、上及び下の両方の位置及び向きを含むことができる。この装置は、他の方法で向き合わせてもよく（９０度又は他の向きに回転してもよい）、本明細書で使用される空間的に関連する説明はそれに応じて解釈される。同様に、様々な軸線に沿った及びその軸線の周りの動きの説明には、様々な特殊な装置の位置及び向きが含まれる。
【０１５４】
単数形「１つの（a, an）」及び「その（the）」は、文脈が他の意味を示さない限り、複数形も同様に含むことが意図される。用語「備える、有する、含む（comprises, comprising）」、「含む、有する（includes）」等の用語は、記載された特徴、ステップ、動作、要素、及び／又は構成要素の存在を特定するが、１つ又は複数の他の特徴、ステップ、動作、要素、構成要素、及び／又はグループの存在又は追加を排除するものではない。結合されると記載された構成要素は、電気的又は機械的に直接的に結合されてもよく、又は１つ又は複数の中間構成要素を介して間接的に結合されてもよい。
【０１５５】
全ての例及び説明の参考文献は非限定的なものであって、特許請求の範囲を本明細書に記載の具体的な実装形態及び実施形態及びそれらの均等物に限定するために使用すべきではない。１つの見出しの下にあるテキストは、相互参照されるか、又は１つ又は複数の見出しの下にあるテキストに適用され得るため、見出しは単に書式的なものであり、主題を制限するために使用すべきではない。最後に、本開示を考慮して、一態様又は実施形態に関連して説明した特定の特徴は、図面に具体的に示されていないか又は本文に記載されていなくても、本発明の他に開示された態様又は実施形態に適用し得る。
【０１５６】
上記の実施形態は、本開示を例示するが、本開示を限定するものではない。また、本開示の原理に従って多くの修正及び変形が可能であることも理解すべきである。例えば、多くの態様において、本明細書に記載の装置は、単一ポート装置として使用される。すなわち、外科的処置を完了するために必要な全ての構成要素は、単一の入口ポートを介して身体に入る。しかしながら、いくつかの態様では、複数の装置及びポートを使用してもよい。
【図１】
2019512178.tif 000049
【図２】
2019512178.tif 000050
【図３Ａ】
2019512178.tif 000051
【図３Ｂ】
2019512178.tif 000052
【図４Ａ】
2019512178.tif 000053
【図４Ｂ】
2019512178.tif 000054
【図５】
2019512178.tif 000055
【図６Ａ】
2019512178.tif 000056
【図６Ｂ】
2019512178.tif 000057
【手続補正書】
【提出日】平成30年8月24日(2018.8.24)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
システムであって、当該システムは、
画素データの第１のフレームを取り込むように構成された画像センサと、
前記画素データの第１のフレームを受信するように前記画像センサに結合された撮像パイプラインであって、該撮像パイプラインは適応ノイズフィルタを含み、該適応ノイズフィルタは、
第１の画素の推定画素ノイズパラメータを用い、且つ前記第１の画素の信号レベルと少なくとも第２の画素の信号レベルとの間の差を用いて前記第１の画素をフィルタ処理し、
該フィルタ処理された第１の画素に対応する画素ノイズをノイズ出力フレームに出力し、
前記フィルタ処理された第１の画素を含む画素データの第２のフレームを出力するように構成され、
前記撮像パイプラインは、前記画素データの第２のフレームに基づいて画素データの出力フレームを出力するように構成される、撮像パイプラインと、
該撮像パイプラインに結合され、前記画素データの出力フレームを受信するディスプレイ装置であって、前記画素データの出力フレームを表示するように構成されたディスプレイ装置と、を有する、
システム。
【請求項２】
前記適応ノイズフィルタは、適応時間ノイズフィルタを含み、前記第２の画素は、前記第１のフレーム内の前記第１の画素の位置と同じ、前記画像センサによって取り込まれた第３のフレームの内の位置にあり、前記第３のフレームは、前記第１のフレームを取込む前の時間に取り込まれ、前記適応時間ノイズフィルタは、前記第１及び第２の画素の信号レベルの変化と前記第１の画素の推定画素ノイズレベルとの比較に基づいて、前記第１の画素をフィルタ処理するように構成され、前記推定画素ノイズレベルは、推定画素ノイズパラメータである、請求項１に記載のシステム。
【請求項３】
前記撮像パイプラインは複数のステージを含み、前記適応時間ノイズフィルタは前記複数のステージのうちの第１のステージに含まれる、請求項２に記載のシステム。
【請求項４】
前記適応時間ノイズフィルタは、前記ノイズ出力フレームを出力するように構成される、請求項２に記載のシステム。
【請求項５】
前記撮像パイプラインは複数のステージを含み、前記複数のステージのうちの第１のステージに続く前記複数のステージのそれぞれは、入力画素ノイズフレームを処理するように構成され、且つステージ依存画素ノイズフレームを出力するように構成される、請求項１に記載のシステム。
【請求項６】
前記適応ノイズフィルタは、適応空間ノイズフィルタを含み、前記少なくとも１つの第２の画素は、前記第１の画素に隣接する複数の画素に含まれ、前記適応空間ノイズフィルタは、前記第１の画素の信号レベルと前記複数の隣接する画素の信号レベルのそれぞれとの間の差に基づいて、及びノイズ依存信号レベルパラメータに基づいて、第１の画素をフィルタ処理するように構成され、前記ノイズ依存信号レベルパラメータは、前記第１の画素のノイズの関数であり、前記ノイズ依存信号レベルパラメータは、前記第１の画素の前記推定画素ノイズパラメータである、請求項１に記載のシステム。
【請求項７】
前記適応空間ノイズフィルタは、距離フィルタ及び信号レベルレンジフィルタを含み、前記信号レベルレンジフィルタは、前記第１の画素の信号レベルと前記複数の隣接する画素の前記信号レベルのそれぞれとの間の差に基づいて、前記第１の画素をフィルタ処理するように構成される、請求項６に記載のシステム。
【請求項８】
前記ノイズ依存信号レベルパラメータは、信号レベルレンジパラメータである、請求項６に記載のシステム。
【請求項９】
前記適応ノイズフィルタは、適応空間ノイズ・バイラテラルフィルタを含み、画素は、位置ｘにおける画素であり、前記適応空間ノイズ・バイラテラルフィルタは、以下のように規定され、
【数３５】
2019512178.tif 000058
ここで、
【数３６】
2019512178.tif 000059
は、位置ｘにおける前記画素の適応空間ノイズフィルタ処理された信号レベルであり、
【数３７】
2019512178.tif 000060
は、正規化定数であり、
【数３８】
2019512178.tif 000061
は、空間的なガウス分布であり、
【数３９】
2019512178.tif 000062
は、前記位置ｙの画素と前記位置ｘの画素との間の距離のノルムであり、
【数４０】
2019512178.tif 000063
は、距離パラメータであり、
【数４１】
2019512178.tif 000064
は、前記画素のノイズの関数である信号レベル範囲のガウス分布であり、
【数４２】
2019512178.tif 000065
は、前記位置ｙにおける前記画素の信号レベルであり、
【数４３】
2019512178.tif 000066
は、前記位置ｘにおける前記画素の信号レベルであり、
【数４４】
2019512178.tif 000067
は、前記位置ｙにおける前記画素の信号レベルと前記位置ｘにおける前記画素の信号レベルとの差の絶対値であり、
【数４５】
2019512178.tif 000068
は、前記位置ｘにおける前記画素のノイズの関数である信号レベルレンジパラメータであり、
【数４６】
2019512178.tif 000069
は、前記位置ｘに中心画素を有する画素のブロックであり、
【数４７】
2019512178.tif 000070
は、前記位置ｘに中心画素を有する前記画素ブロック内の画素に亘る総和を表す、請求項１に記載のシステム。
【請求項１０】
方法であって、当該方法は、
第１のフレームの第１の画素を受信するステップと、
前記第１の画素の推定画素ノイズパラメータを用いて、且つ前記第１の画素の信号レベルと少なくとも第２画素の信号レベルとの間の差を用いて、前記第１の画素を適応ノイズフィルタ処理して、フィルタ処理された画素を取得するステップと、
前記フィルタ処理された画素を出力フレームに出力するステップと、
前記フィルタ処理された画素に対応する画素ノイズをノイズ出力フレームに出力するステップと、を含む、
方法。
【請求項１１】
前記第２の画素は、前記第１のフレーム内の前記第１の画素の位置と同じ、画像センサによって取り込まれた第２のフレーム内の位置にあり、前記第２のフレームは、前記第１のフレームを取り込む前の時間に取り込まれ、前記第１の画素を適応ノイズフィルタ処理するステップは、前記第１及び第２の画素の信号レベルの変化と前記第１の画素の推定画素ノイズレベルとの比較に基づいて前記第１の画素を適応時間ノイズフィルタ処理するステップを含み、前記推定画素ノイズレベルは前記推定画素ノイズパラメータであり、前記第１及び第２の画素の信号レベルの変化は、前記第１の画素の前記信号レベルの時間変化である、請求項１０に記載の方法。
【請求項１２】
前記第１の画素を適応時間ノイズフィルタ処理するステップは、
前記第１の画素の信号レベルを信号レベル対ノイズ・ルックアップテーブルに入力するステップと、
前記信号レベル対ノイズ・ルックアップテーブルを用いて、前記第１の画素の信号レベルに対応するノイズ標準偏差を出力するステップであって、前記ノイズ標準偏差は、前記第１の画素の前記推定画素ノイズレベルである、出力するステップと、
前記第１の画素の前記信号レベルの前記時間変化を前記ノイズ標準偏差で除算して、前記第１の画素の前記信号レベルの時間変化をノイズの標準偏差として取得するステップであって、前記除算は前記比較である、取得するステップと、
前記第１の画素の前記信号レベルの時間変化をノイズの標準偏差で変更ルックアップテーブルに入力するステップと、
前記変更ルックアップテーブルを用いて、前記フィルタを通過する前記第１の画素の信号レベルの許容される時間変化の割合を出力するステップと、
前記第１の画素の前記信号レベルの許容される時間変化の割合に、前記第１の画素の前記信号レベルの前記時間変化を乗算することによって、前記第１の画素の前記信号レベルの許容される時間変化を生成するステップと、
前記第１の画素の前記信号レベルにおける前記許容される時間変化を対応する画素に加算することによって、前記フィルタ処理された画素を生成するステップであって、前記対応する画素は、第２のフレーム内の画素であり、前記第２のフレームは、時間的に前記第1のフレームの直前にある、生成するステップと、を含む、請求項１１に記載の方法。
【請求項１３】
前記少なくとも１つの第２の画素は、前記第１の画素に隣接する複数の画素に含まれ、前記第１の画素を適応ノイズフィルタ処理するステップは、前記第１の画素の信号レベルと前記複数の隣接する画素の信号レベルのそれぞれとの間の差に基づいて、及びノイズ依存信号レベルパラメータに基づいて、前記第１の画素を適応空間ノイズフィルタ処理するステップを含み、前記ノイズ依存信号レベルパラメータは、前記第１の画素のノイズの関数であり、前記ノイズ依存信号レベルパラメータは、前記第１の画素の推定画素ノイズパラメータである、請求項１０に記載の方法。
【請求項１４】
前記第１の画素を適応空間ノイズフィルタ処理するステップは、
距離フィルタと信号レベルフィルタとを組み合わせることによって前記フィルタ処理された画素を生成するステップであって、前記信号レベルフィルタは、前記ノイズ依存信号レベルパラメータの関数である、生成するステップを含む、請求項１３に記載の方法。
【請求項１５】
前記信号レベルフィルタは、信号レベルレンジパラメータを有する信号レベル範囲のガウス分布を含み、前記信号レベルレンジパラメータは、前記ノイズ依存信号レベルパラメータである、請求項１４に記載の方法。
【国際調査報告】
2019512178.tif 000071
2019512178.tif 000072