(57)【要約】【課題】内視鏡画像の輝度をより適切に調整することが可能な技術が提供されることが望まれる。【解決手段】イメージセンサによる撮像に基づく内視鏡画像から、挿入部のサイズに応じた領域を抽出領域として抽出する領域抽出部と、前記抽出領域における前記イメージセンサ出力値に基づいて露光制御を行う露光制御部と、を備える、画像処理装置が提供される。【選択図】図１
2020151492.tif 000002
【特許請求の範囲】
【請求項１】
イメージセンサによる撮像に基づく内視鏡画像から、挿入部のサイズに応じた領域を抽出領域として抽出する領域抽出部と、
前記抽出領域における前記イメージセンサ出力値に基づいて露光制御を行う露光制御部と、
を備える、画像処理装置。
【請求項２】
前記画像処理装置は、前記挿入部のサイズを取得するサイズ取得部を備える、
請求項１に記載の画像処理装置。
【請求項３】
前記サイズ取得部は、前記挿入部のサイズを前記挿入部から取得する、
請求項２に記載の画像処理装置。
【請求項４】
前記サイズ取得部は、前記内視鏡画像に基づいて前記挿入部のサイズを計算によって取得する、
請求項２に記載の画像処理装置。
【請求項５】
前記サイズ取得部は、前記内視鏡画像の第１の開始位置から第１の目標位置に向けて第１の走査方向にスキャンした場合に、輝度と閾値との大小関係が最初に切り替わった第１の画素位置に基づいて前記挿入部のサイズを計算する、
請求項４に記載の画像処理装置。
【請求項６】
前記第１の開始位置は、前記内視鏡画像の中心位置であり、前記第１の目標位置は、前記内視鏡画像の端部位置である、
請求項５に記載の画像処理装置。
【請求項７】
前記第１の開始位置は、前記内視鏡画像の端部位置であり、前記第１の目標位置は、前記内視鏡画像の中心位置である、
請求項５に記載の画像処理装置。
【請求項８】
前記サイズ取得部は、前記第１の画素位置と前記中心位置との第１の距離または前記第１の距離の２倍を前記挿入部のサイズとして算出する、
請求項６に記載の画像処理装置。
【請求項９】
前記第１の走査方向は、上方向、下方向、左方向、右方向または斜め方向である、
請求項５に記載の画像処理装置。
【請求項１０】
前記サイズ取得部は、前記内視鏡画像の第２の開始位置から第２の走査方向にスキャンした場合に、輝度と閾値との大小関係が最初に切り替わった第２の画素位置と、前記第１の画素位置とに基づいて、前記挿入部のサイズを計算する、
請求項６に記載の画像処理装置。
【請求項１１】
前記サイズ取得部は、前記第１の画素位置と前記中心位置との第１の距離と、前記第２の画素位置と前記中心位置との第２の距離との差が所定の距離を下回る場合には、前記第１の距離と前記第２の距離との和を前記挿入部のサイズとして算出する、
請求項１０に記載の画像処理装置。
【請求項１２】
前記サイズ取得部は、前記第１の画素位置と前記中心位置との第１の距離と、前記第２の画素位置と前記中心位置との第２の距離との差が所定の距離を上回る場合には、前記第１の距離と前記第２の距離とのうち大きい距離の２倍を前記挿入部のサイズとして算出する、
請求項１０に記載の画像処理装置。
【請求項１３】
前記サイズ取得部は、前記内視鏡画像の輝度ごとの画素数分布に基づいて前記閾値を設定する、
請求項５に記載の画像処理装置。
【請求項１４】
前記露光制御部は、前記抽出領域における前記イメージセンサ出力値に基づいて、露光を制御するためのパラメータを調整する、
請求項１に記載の画像処理装置。
【請求項１５】
前記パラメータは、前記イメージセンサの電子シャッタ速度、前記イメージセンサによって撮像されたアナログ信号に対して乗じられるゲインのうちの少なくともいずれか一つを含む、
請求項１４に記載の画像処理装置。
【請求項１６】
前記パラメータは、光源の明るさを含む、
請求項１４のいずれか一項に記載の画像処理装置。
【請求項１７】
前記露光制御部は、前記内視鏡画像に前記挿入部の影が写り込んでいると判断した場合には、前記抽出領域におけるイメージセンサ出力値に基づいた前記露光制御を行う、
請求項１に記載の画像処理装置。
【請求項１８】
イメージセンサによる撮像に基づく内視鏡画像から、挿入部のサイズに応じた領域を抽出領域として抽出することと、
プロセッサにより、前記抽出領域における前記イメージセンサ出力値に基づいて露光制御を行うことと、
を含む、画像処理装置。
【請求項１９】
コンピュータを、
イメージセンサによる撮像に基づく内視鏡画像から、挿入部のサイズに応じた領域を抽出領域として抽出する領域抽出部と、
前記抽出領域における前記イメージセンサ出力値に基づいて露光制御を行う露光制御部と、
を備える画像処理装置として機能させるためのプログラム。
【請求項２０】
光を発する光源部と、
前記光源部により発せられた前記光の反射光を受光して内視鏡画像を撮像するイメージセンサと、を有し、
前記内視鏡画像から、挿入部のサイズに応じた領域を抽出領域として抽出する領域抽出部と、
前記抽出領域における前記イメージセンサ出力値に基づいて露光制御を行う露光制御部と、
を備える、画像処理装置を有する、画像処理システム。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、情報処理装置、情報処理方法、プログラムおよび画像処理システムに関する。
【背景技術】
【０００２】
近年、イメージセンサによる撮像に基づく内視鏡画像を処理する画像処理装置が普及している（例えば、特許文献１参照）。一方、イメージセンサへの光を透過するレンズのフードなどによる遮光によって、内視鏡画像が部分的に暗くなってしまう現象が起こり得る。以下では、内視鏡画像のうちこのような遮光によって暗くなってしまう領域を、単に「黒領域」とも言う。また、内視鏡画像にこのような黒領域が生じる現象を「ケラレ」とも言う。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１３−４２９９８号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
ここで、内視鏡画像に黒領域が生じてしまったことが原因となり、内視鏡画像の輝度が過剰に高くなるように露光制御が行われてしまう場合がある。そのため、黒領域以外の領域（以下、「観察領域」とも言う。）が過剰に明るくなってしまう可能性がある。そこで、内視鏡画像の輝度をより適切に調整することが可能な技術が提供されることが望まれる。
【課題を解決するための手段】
【０００５】
本開示によれば、イメージセンサによる撮像に基づく内視鏡画像から、挿入部のサイズに応じた領域を抽出領域として抽出する領域抽出部と、前記抽出領域における前記イメージセンサ出力値に基づいて露光制御を行う露光制御部と、を備える、画像処理装置が提供される。
【０００６】
本開示によれば、イメージセンサによる撮像に基づく内視鏡画像から、挿入部のサイズに応じた領域を抽出領域として抽出することと、プロセッサにより、前記抽出領域における前記イメージセンサ出力値に基づいて露光制御を行うことと、を含む、画像処理装置が提供される。
【０００７】
本開示によれば、コンピュータを、イメージセンサによる撮像に基づく内視鏡画像から、挿入部のサイズに応じた領域を抽出領域として抽出する領域抽出部と、前記抽出領域における前記イメ一ジセンサ出力値に基づいて露光制御を行う露光制御部と、を備える画像処理装置として機能させるためのプログラムが提供される。
【０００８】
本開示によれば、光を発する光源部と、前記光源部により発せられた前記光の反射光を受光して内視鏡画像を撮像するイメージセンサと、を有し、前記内視鏡画像から、挿入部のサイズに応じた領域を抽出領域として抽出する領域抽出部と、前記抽出領域における前記イメ一ジセンサ出力値に基づいて露光制御を行う露光制御部と、を備える、画像処理装置を有する、画像処理システムが提供される。
【発明の効果】
【０００９】
以上説明したように本開示によれば、内視鏡画像の輝度をより適切に調整することが可能な技術が提供される。なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
【図面の簡単な説明】
【００１０】
【図１】本開示の実施形態に係る画像処理システムの構成例を示す図である。
【図２】露光制御の具体例について説明するための図である。
【図３】露光制御の具体例について説明するための図である。
【図４】自動露光制御部の詳細な機能構成例を示すブロック図である。
【図５】内視鏡画像の例を示す図である。
【図６】周辺領域の他の例を示す図である。
【図７】走査方向が二方向である場合におけるスコープ径の算出例を説明するための図である。
【図８】走査方向が二方向である場合におけるスコープ径の算出例を説明するための図である。
【図９】黒領域枠マップの例を示す図である。
【図１０】スコープ径に応じた露光制御の動作の例を示すフローチャートである。
【発明を実施するための形態】
【００１１】
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【００１２】
また、本明細書および図面において、実質的に同一の機能構成を有する複数の構成要素を、同一の符号の後に異なるアルファベットまたは数字を付して区別する場合もある。ただし、実質的に同一の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。
【００１３】
なお、説明は以下の順序で行うものとする。
１．本開示の実施形態
１．１．システム構成例
１．２．機能構成例
１．３．自動露光制御部の機能詳細
２．むすび
【００１４】
＜１．本開示の実施形態＞
［１．１．システム構成例］
まず、図面を参照しながら本開示の実施形態に係る画像処理システムの構成例について説明する。図１は、本開示の実施形態に係る画像処理システムの構成例を示す図である。図１に示すように、画像処理システム１は、画像処理装置１００と、挿入部２００と、光源部３００と、表示部４００と、操作部５００とを有する。
【００１５】
光源部３００は、白色光源３１０と、集光レンズ３２０とを備える。白色光源３１０は、白色光を発する。なお、本明細書においては、白色光を用いる例を主に説明するが、光の色は特に限定されない。したがって、白色光源３１０の代わりに白色以外の可視光を発する光源が用いられてもよい（例えば、白色光源３１０の代わりにＲＧＢ出力の可変制御が可能なＲＧＢレーザが用いられてもよい）。集光レンズ３２０は、白色光源３１０によって発せられた光を後述するライトガイド２１０に集光する。
【００１６】
挿入部２００は、体内に挿入されるスコープに相当し得る。具体的には、挿入部２００は、硬性鏡であってもよいし、軟性鏡であってもよい。挿入部２００は、ライトガイド２１０と、照明レンズ２２０と、撮像部２３０と、メモリ２４０とを備える。撮像部２３０は、対物レンズ２３１と、イメージセンサ（撮像素子）２３２と、Ａ／Ｄ（アナログ／デジタル）変換部２３３とを備える。
【００１７】
ライトガイド２１０は、光源部３００によって集光された光を挿入部２００の先端まで導く。照明レンズ２２０は、ライトガイド２１０により先端まで導かれた光を拡散させて観察対象（被写体Ｓｕ）に照射する。対物レンズ２３１は、観察対象（被写体Ｓｕ）から戻る反射光をイメージセンサ２３２に結像する。イメージセンサ２３２は、反射光を受光して撮像したアナログ信号（内視鏡画像）を、Ａ／Ｄ変換部２３３に出力する。
【００１８】
なお、イメージセンサ２３２は、例えば、原色ベイヤ配列を有している。かかる場合には、イメージセンサ２３２により得られる内視鏡画像は、原色ベイヤ画像である。原色ベイヤ画像は、各画素がＲＧＢいずれかの信号を有した画像であり、そのＲＧＢの画素が市松状に配列された画像である。しかし、イメージセンサ２３２は、原色ベイヤ配列に限定されない。すなわち、内視鏡画像は、原色ベイヤ画像に限定されない。例えば、内視鏡画像は、補色や面順次といった原色ベイヤ以外の内視鏡撮像方式より取得される画像であってもよい。
【００１９】
Ａ／Ｄ変換部２３３は、後述する制御部１３０から出力される制御信号に基づいて、イメージセンサ２３２から出力されるアナログ信号（内視鏡画像）をデジタル信号に変換し、このデジタル信号（内視鏡画像）を画像処理装置１００に出力する。メモリ２４０は、図示しない演算装置によって実行されることによって画像処理装置１００の機能を実現するためのプログラムを記憶している。
【００２０】
なお、以下の説明においては、挿入部２００を適宜スコープと表記する場合がある。内視鏡診断においては、診断部位に応じた種類のスコープが用いられ得る。各スコープには、対象とする診断部位や、ズーム機能などの機能を特定するための識別番号が付与されており、本明細書においては、その識別番号をスコープＩＤと表記する場合がある。メモリ２４０は、スコープＩＤを記憶している。
【００２１】
画像処理装置１００は、自動露光制御部１１０と、画像処理部１２０と、制御部１３０とを備える。撮像部２３０により取得される内視鏡画像は、自動露光制御部１１０と、画像処理部１２０とに出力される。自動露光制御部１１０は、白色光源３１０およびイメージセンサ２３２に接続されており、白色光源３１０およびイメージセンサ２３２を制御する。画像処理部１２０は、表示部４００に接続されている。制御部１３０は、撮像部２３０と、画像処理部１２０と、表示部４００と、操作部５００とに双方向に接続されており、これらの構成要素を制御する。
【００２２】
自動露光制御部１１０は、撮像部２３０により取得される内視鏡画像の輝度が観察に適した値（以下、「適正値」とも言う。）となるように、自動的にイメージセンサ２３２の露光制御を行う。自動露光制御部１１０の詳細については後述する。画像処理部１２０は、撮像部２３０により撮像された内視鏡画像に対して画像処理を行う。画像処理部１２０は、例えば、階調変換処理やノイズ低減処理を行う。画像処理部１２０は、画像処理後の画像を表示部４００に対して出力する。
【００２３】
制御部１３０は、撮像部２３０と、画像処理部１２０と、表示部４００と、操作部５００とに接続されており、これらを制御する制御信号を出力する。表示部４００は、画像処理部１２０により出力される内視鏡画像を、内視鏡モニタなどの画像表示装置に出力する。操作部５００は、ユーザからの操作を受け付けるためのインターフェースである。例えば、操作部５００は、電源のオン／オフを行うための電源スイッチや、撮像を開始するためのシャッタボタン、撮影モードやその他各種のモードを切り換えるためのモード切換ボタンなどを含む。
【００２４】
以上、本開示の実施形態に係る画像処理システム１の構成例について説明した。
【００２５】
［１．２．露光制御の例］
続いて、自動露光制御部１１０による露光制御の具体例について説明する。図２および図３は、露光制御の具体例について説明するための図である。上記したように、イメージセンサ２３２によって撮像されたアナログ信号は、Ａ／Ｄ変換部２３３によってデジタル信号（内視鏡画像）に変換される。図２および図３には、イメージセンサ２３２からの出力値が縦軸に示されている。また、各出力値に対応するイメージセンサ２３２の像面照度が横軸に示されている。なお、イメージセンサ２３２からの出力値は、各画素に対応する出力値の平均値であってよい。
【００２６】
また、図２を参照すると、イメージセンサ２３２からの出力値の適正値が「Ｕ０」として示されており、適正値Ｕ０に対応するイメージセンサ２３２の像面照度が「Ｌ０」として示されている。図２に示すように、例えば、イメージセンサ２３２からの出力値Ｕ１が適正値Ｕ０よりも大きい場合を想定する。かかる場合には、自動露光制御部１１０は、Ｕ１−Ｕ０＝ｄＵ１だけイメージセンサ２３２からの出力値が小さくなるように露光制御を行う。
【００２７】
一方、図３を参照すると、図２と同様に、イメージセンサ２３２からの出力値の適正値が「Ｕ０」として示されており、適正値Ｕ０に対応するイメージセンサ２３２の像面照度が「Ｌ０」として示されている。図３に示すように、例えば、イメージセンサ２３２からの出力値Ｕ２が適正値Ｕ０よりも小さい場合を想定する。かかる場合には、自動露光制御部１１０は、Ｕ０−Ｕ２＝ｄＵ２だけイメージセンサ２３２からの出力値が大きくなるように露光制御を行う。
【００２８】
例えば、露光制御は、露光を制御するためのパラメータを調整することによってなされ得る。露光を制御するためのパラメータとしては、様々なパラメータが想定される。例えば、露光を制御するためのパラメータは、イメージセンサ２３２の電子シャッタ速度およびイメージセンサ２３２によって撮像されたアナログ信号に対して乗じられるゲインのうちの少なくともいずれか一つを含んでよい。あるいは、露光を制御するためのパラメータは、白色光源３１０の明るさを含んでもよい（あるいは、白色光源３１０の代わりにＲＧＢレーザが用いられる場合、ＲＧＢそれぞれの出力の変更による光源制御によって露光制御が行われてもよい）。
【００２９】
例えば、図２に示したｄＵ１だけイメージセンサ２３２からの出力値を小さくするような露光制御は、電子シャッタ速度をｄＵ１に対応する量だけ大きくすることによって実行されてもよいし、イメージセンサ２３２によって撮像されたアナログ信号に対して乗じられるゲインをｄＵ１に対応する量だけ小さくすることによって実行されてもよい。あるいは、イメージセンサ２３２からの出力値を小さくするような露光制御は、白色光源３１０の明るさをｄＵ１に対応する量だけ弱くすることによって実行されてもよい。
【００３０】
一方、図３に示したｄＵ２だけイメージセンサ２３２からの出力値を大きくするような露光制御は、電子シャッタ速度をｄＵ２に対応する量だけ小さくすることによって実行されてもよいし、イメージセンサ２３２によって撮像されたアナログ信号に対して乗じられるゲインをｄＵ２に対応する量だけ大きくすることによって実行されてもよい。あるいは、イメージセンサ２３２からの出力値を大きくするような露光制御は、白色光源３１０の明るさをｄＵ２に対応する量だけ強くすることによって実行されてもよい。
【００３１】
以上、自動露光制御部１１０による露光制御の具体例について説明した。
【００３２】
［１．３．自動露光制御部の機能詳細］
続いて、自動露光制御部１１０の詳細な機能について説明する。図４は、自動露光制御部１１０の詳細な機能構成例を示すブロック図である。図４に示すように、自動露光制御部１１０は、サイズ取得部１１１と、領域抽出部１１２と、露光制御部１１２とを備える。以下においては、これらのサイズ取得部１１１、領域抽出部１１２および露光制御部１１３それぞれの詳細な機能について説明する。まず、サイズ取得部１１１は、撮像部２３０から内視鏡画像を取得する。
【００３３】
図５は、内視鏡画像の例を示す図である。図５に示すように、内視鏡画像Ｉｍ１においては、格子状に各画素が配列されている。ここで、上述したように、イメージセンサ２３２への光を透過するレンズのフードなどによる遮光によって、内視鏡画像Ｉｍ１が部分的に暗くなってしまう現象が起こり得る。そのため、内視鏡画像Ｉｍ１には、観察領域Ｒｓ１の他に黒領域Ｒｂ１が存在する。ラインＨｍは、黒領域Ｒｂ１と観察領域Ｒｓ１との境界線を示している。各画素の色の濃さは、各画素の輝度の高さを表している。
【００３４】
ここで、内視鏡画像Ｉｍ１に黒領域Ｒｂ１が生じてしまったことが原因となり、自動露光制御部１１０によって内視鏡画像Ｉｍ１の輝度が過剰に高くなるように露光制御が行われてしまう場合がある。そのため、観察領域Ｒｓ１が過剰に明るくなってしまう可能性がある。そこで、以下においては、観察領域Ｒｓ１が過剰に明るくなってしまう可能性を低減することによって、内視鏡画像Ｉｍ１の輝度をより適切に調整することが可能な技術について説明する。
【００３５】
具体的に、領域抽出部１１２は、イメージセンサ２３２による撮像に基づく内視鏡画像Ｉｍ１から、挿入部２００のサイズに応じた領域を抽出領域として抽出する。そして、露光制御部１１３は、抽出領域におけるイメージセンサ出力値に基づいて露光制御を行う。そうすれば、観察領域Ｒｓ１が過剰に明るくなってしまう可能性を低減することによって、内視鏡画像Ｉｍ１の輝度をより適切に調整することが可能となる。
【００３６】
例えば、露光制御部１１３は、内視鏡画像Ｉｍ１に挿入部２００の影が写り込んでいると判断した場合には、抽出領域におけるイメージセンサ出力値に基づいた露光制御を行えばよい。より詳細には、露光制御部１１３は、内視鏡画像Ｉｍ１に挿入部２００の影が写り込んでいると判断した場合には、抽出領域におけるイメージセンサ出力値に基づいて、露光を制御するためのパラメータを調整すればよい。
【００３７】
一方、露光制御部１１３は、内視鏡画像Ｉｍ１に挿入部２００の影が写り込んでいないと判断した場合には、内視鏡画像Ｉｍ１の全体におけるイメージセンサ出力値に基づいた露光制御を行えばよい。なお、内視鏡画像Ｉｍ１に挿入部２００の影が写り込んでいるか否かの判断はどのようになされてもよい。
【００３８】
例えば、露光制御部１１３は、中心領域Ｃｅと周辺領域Ｎ１〜Ｎ４との輝度差が第１の閾値を上回る場合には、内視鏡画像Ｉｍ１に挿入部２００の影が写り込んでいると判断してよい。また、露光制御部１１３は、中心領域Ｃｅと周辺領域Ｎ１〜Ｎ４との輝度差が第１の閾値を下回る場合には、内視鏡画像Ｉｍ１に挿入部２００の影が写り込んでいないと判断してよい。中心領域Ｃｅと周辺領域Ｎ１〜Ｎ４との輝度差が第１の閾値と等しい場合には、いずれに判断されてもよい。
【００３９】
あるいは、露光制御部１１３は、内視鏡画像の輝度ごとの画素数分布から、低輝度側から順に第１のピークおよび第２のピークを検出し、第１のピークおよび第２のピークの輝度差が上限値を超える場合には、内視鏡画像Ｉｍ１に挿入部２００の影が写り込んでいると判断してもよい。また、露光制御部１１３は、第１のピークおよび第２のピークの輝度差が上限値を超えない場合には、内視鏡画像Ｉｍ１に挿入部２００の影が写り込んでいないと判断してもよい。
【００４０】
図５に示された例では、中心領域Ｃｅの輝度として内視鏡画像Ｉｍ１の中央に存在する４画素の平均輝度を用いることを想定しているが、中心領域Ｃｅの位置と画素数は限定されない。同様に、周辺領域Ｎ１〜Ｎ４の輝度として内視鏡画像Ｉｍ１の四隅に存在する四画素の平均輝度を用いることを想定しているが、周辺領域Ｎ１〜Ｎ４の位置と画素数は限定されない。図６は、周辺領域の他の例を示す図である。図６に示すように、周辺領域Ｎ１〜Ｎ４の代わりに、内視鏡画像Ｉｍ１の最も外側に存在する画素列が周辺領域Ｎ５、Ｎ６として利用されてもよい。
【００４１】
続いて、サイズ取得部１１１は、挿入部２００のサイズを取得する。なお、以下の説明においては、挿入部２００のサイズとしてスコープ径（挿入部２００の直径）を利用するが、スコープ径の代わりに挿入部２００の他の長さ（例えば、挿入部２００の半径など）が利用されてもよい。サイズ取得部１１１は、スコープ径を所定の場所から取得してもよい。例えば、サイズ取得部１１１は、スコープ本体または外部装置との通信によってスコープ径（あるいは、スコープ径を含むスコープ情報）を取得してもよい。あるいは、サイズ取得部１１１は、内視鏡画像Ｉｍ１に基づいてスコープ径を計算によって取得してもよい。
【００４２】
計算によるスコープ径の取得の手法は特に限定されない。例えば、サイズ取得部１１１
は、内視鏡画像Ｉｍ１の第１の開始位置から第１の目標位置に向けて第１の走査方向にス
キャンした場合に、輝度と第２の閾値との大小関係が最初に切り替わった第１の画素位置
に基づいてスコープ径を計算してもよい。このとき、サイズ取得部１１１は、第１の画素
位置と中心位置との第１の距離の２倍をスコープ径として算出すればよい。
【００４３】
なお、第２の閾値は、固定値であってもよいが、内視鏡画像Ｉｍ１の状況に応じた値に設定されてもよい。例えば、サイズ取得部１１１は、内視鏡画像Ｉｍ１の輝度ごとの画素数分布に基づいて第２の閾値を設定してよい。より詳細には、サイズ取得部１１１は、内視鏡画像Ｉｍ１の輝度ごとの画素数分布の中央値を特定し、中央値を第２の閾値として設定してよい。
【００４４】
また、走査方向は複数であってもよい。走査方向が二方向である場合について説明する。図７および図８は、走査方向が二方向である場合におけるスコープ径の算出例を説明するための図である。図７に示すように、サイズ取得部１１１は、内視鏡画像Ｉｍ１の第１の開始位置から第１の走査方向Ｄｒにスキャンした場合に、輝度と第２の閾値との大小関係が最初に切り替わった第１の画素位置を計算する。
【００４５】
また、図８に示すように、サイズ取得部１１１は、内視鏡画像Ｉｍ１の第２の開始位置から第２の走査方向Ｄｌにスキャンした場合に、輝度と第２の閾値との大小関係が最初に切り替わった第２の画素位置を計算する。そして、サイズ取得部１１１は、第１の画素位置と第２の画素位置とに基づいて、スコープ径を計算する。
【００４６】
より具体的には、サイズ取得部１１１は、第１の画素位置と中心位置との第１の距離Ｗｒと、第２の画素位置と中心位置との第２の距離Ｗｌとの差が、第３の閾値（所定の距離）を下回る場合には、第１の距離Ｗｒと第２の距離Ｗｌとの和をスコープ径として算出すればよい。一方、サイズ取得部１１１は、第１の距離Ｗｒと第２の距離Ｗｌとの差が第３の閾値を上回る場合には、第１の距離Ｗｒと第２の距離Ｗｌとのうち大きい距離の２倍をスコープ径として算出すればよい。
【００４７】
図７に示したように、第１の開始位置は、内視鏡画像Ｉｍ１の中心位置であり、第１の目標位置は、内視鏡画像Ｉｍ１の端部位置であってよい。また、図８に示したように、第２の開始位置も、内視鏡画像Ｉｍ１の中心位置であり、第２の目標位置は、内視鏡画像Ｉｍ１の端部位置であってよい。内視鏡画像Ｉｍ１の内側に被写体Ｓｕが高輝度に映っている可能性が高いため、内視鏡画像Ｉｍ１の内側から外側に向けてスキャンが行われる場合には、より高精度な計算が可能となる。
【００４８】
しかし、第１の開始位置、第２の開始位置、第１の目標位置および第２の目標位置は、図７および図８に示した例に限定されない。例えば、第１の開始位置は、内視鏡画像Ｉｍ１の端部位置であり、第１の目標位置は、内視鏡画像Ｉｍ１の中心位置であってもよい。内視鏡画像Ｉｍ１の端部だけに黒領域が存在する可能性が高いため、内視鏡画像Ｉｍ１の外側から内側に向けてスキャンが行われる場合には、より早く計算を終了させることが可能となる。
【００４９】
なお、上述した例では、第１の走査方向が右方向であり、第２の走査方向が左方向であるが、第１の走査方向および第２の走査方向は、かかる例に限定されない。例えば、第１の走査方向および第２の走査方向のうち、一方が上方向であり、他方が下方向であってもよい。また、第１の走査方向および第２の走査方向のうち、一方が斜め方向（右上から左下への方向または左下から右上への方向）であり、他方が斜め方向（左上から右下への方向または右下から左上への方向）であってもよい。
【００５０】
サイズ取得部１１１によってスコープ径が取得されると、領域抽出部１１２は、スコープ径に応じた領域を抽出領域として抽出する。例えば、あらかじめスコープ径に抽出すべき領域を示すマップ（以下、「黒領域枠マップ」とも言う。）が対応付けられている場合、領域抽出部１１２は、サイズ取得部１１１によって取得されたスコープ径に対応する黒領域枠マップを取得する。図９は、黒領域枠マップの例を示す図である。図９を参照すると、黒領域枠マップＭｐにおいて、抽出される領域が「１」として示されており、除外されるべき領域が「０」として示されている。
【００５１】
領域抽出部１１２は、内視鏡画像Ｉｍ１から、黒領域枠マップＭｐにおいて抽出すべき領域として設定されている画素を抽出する。図７および図８には、抽出領域Ｒｗ２および除外領域Ｒｂ２が示されている。そして、露光制御部１１３は、領域抽出部１１２によって抽出された抽出領域におけるイメージセンサ出力値に基づいて露光制御を行う。なお、抽出領域におけるイメージセンサ２３２からの出力値は、抽出領域の各画素に対応する出力値の平均値であってよい。これにより、観察領域Ｒｓ１が過剰に明るくなってしまう可能性を低減することによって、内視鏡画像Ｉｍ１の輝度をより適切に調整することが可能となる。
【００５２】
続いて、以上に説明した、サイズ取得部１１１、領域抽出部１１２および露光制御部１１３の動作の例について説明する。図１０は、スコープ径に応じた露光制御の動作の例を示すフローチャートである。なお、図１０に示した動作の例は、スコープ径に応じた露光制御の動作の例を示すフローチャートである。したがって、スコープ径に応じた露光制御の動作は、図１０に示した動作の例に限定されない。なお、図１０においては、スコープ径を黒領域枠径として示している。
【００５３】
図１０に示すように、領域抽出部１１２は、内視鏡画像Ｉｍ１において中心領域Ｃｅと周辺領域Ｎ１〜Ｎ４（またはＮ５、Ｎ６）との輝度差が第１の閾値を下回る場合には（Ｓ１１において「Ｎｏ」）、動作を終了する。一方、領域抽出部１１２は、内視鏡画像Ｉｍ１において中心領域Ｃｅと周辺領域Ｎ１〜Ｎ４（またはＮ５、Ｎ６）との輝度差が第１の閾値を上回る場合には（Ｓ１１において「Ｙｅｓ」）、第２の閾値により内視鏡画像Ｉｍ１の各画素を２値化する（Ｓ１２）。
【００５４】
続いて、領域抽出部１１２は、２値化画像に対してラインスキャンを実施する（Ｓ１３）。ここで、領域抽出部１１２は、右方向へのスキャン結果（以下、「右スキャン結果」とも言う。）と左方向へのスキャン結果（以下、「左スキャン結果」とも言う。）との差が第３の閾値を上回る場合には（Ｓ１４において「Ｙｅｓ」）、黒領域枠径に右スキャン結果と左スキャン結果との和を設定し（Ｓ１５）、Ｓ１７に動作を移行させる。
【００５５】
一方、領域抽出部１１２は、右スキャン結果と左スキャン結果との差が第３の閾値を下回る場合には（Ｓ１４において「Ｎｏ」）、黒領域枠径により長いスキャン結果の２倍を設定し（Ｓ１６）、Ｓ１７に動作を移行させる。続いて、領域抽出部１１２は、黒領域枠径に対応する黒領域枠マップＭｐを選択し（Ｓ１７）、黒領域枠マップＭｐと内視鏡画像Ｉｍ１とにおいて対応する画素値同士を乗算する（Ｓ１８）。かかる乗算により、抽出領域Ｒｗ２が抽出される。
【００５６】
続いて、露光制御部１１３は、乗算結果に基づいて、露光制御を行う（Ｓ１９）。露光制御部１１３は、領域抽出部１１２によって抽出された抽出領域Ｒｗ２におけるイメージセンサ出力値に基づいて露光制御を行う。これにより、観察領域Ｒｓ１が過剰に明るくなってしまう可能性を低減することによって、内視鏡画像Ｉｍ１の輝度をより適切に調整することが可能となる。
【００５７】
以上、自動露光制御部１１０の詳細な機能について説明した。
【００５８】
＜２．むすび＞
以上説明したように、本開示の実施形態によれば、イメージセンサ２３２による撮像に基づく内視鏡画像Ｉｍ１から、挿入部２００のサイズに応じた領域を抽出領域として抽出する領域抽出部１１２と、抽出領域におけるイメージセンサ出力値に基づいて露光制御を行う露光制御部１１３と、を備える、画像処理装置１００が提供される。かかる構成によれば、観察領域Ｒｓ１が過剰に明るくなってしまう可能性を低減することによって、内視鏡画像Ｉｍ１の輝度をより適切に調整することが可能となる。
【００５９】
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
【００６０】
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏し得る。
【００６１】
なお、以下のような構成も本開示の技術的範囲に属する。
（１）
イメージセンサによる撮像に基づく内視鏡画像から、挿入部のサイズに応じた領域を抽出領域として抽出する領域抽出部と、
前記抽出領域における前記イメージセンサ出力値に基づいて露光制御を行う露光制御部と、
を備える、画像処理装置。
（２）
前記画像処理装置は、前記挿入部のサイズを取得するサイズ取得部を備える、
前記（１）に記載の画像処理装置。
（３）
前記サイズ取得部は、前記挿入部のサイズを前記挿入部から取得する、
前記（２）に記載の画像処理装置。
（４）
前記サイズ取得部は、前記内視鏡画像に基づいて前記挿入部のサイズを計算によって取得する、
前記（２）に記載の画像処理装置。
（５）
前記サイズ取得部は、前記内視鏡画像の第１の開始位置から第１の目標位置に向けて第１の走査方向にスキャンした場合に、輝度と閾値との大小関係が最初に切り替わった第１の画素位置に基づいて前記挿入部のサイズを計算する、
前記（４）に記載の画像処理装置。
（６）
前記第１の開始位置は、前記内視鏡画像の中心位置であり、前記第１の目標位置は、前記内視鏡画像の端部位置である、
前記（５）に記載の画像処理装置。
（７）
前記第１の開始位置は、前記内視鏡画像の端部位置であり、前記第１の目標位置は、前記内視鏡画像の中心位置である、
前記（５）に記載の画像処理装置。
（８）
前記サイズ取得部は、前記第１の画素位置と前記中心位置との第１の距離または前記第１の距離の２倍を前記挿入部のサイズとして算出する、
前記（６）または（７）に記載の画像処理装置。
（９）
前記第１の走査方向は、上方向、下方向、左方向、右方向または斜め方向である、
前記（５）〜（８）のいずれか一項に記載の画像処理装置。
（１０）
前記サイズ取得部は、前記内視鏡画像の第２の開始位置から第２の走査方向にスキャンした場合に、輝度と閾値との大小関係が最初に切り替わった第２の画素位置と、前記第１の画素位置とに基づいて、前記挿入部のサイズを計算する、
前記（６）に記載の画像処理装置。
（１１）
前記サイズ取得部は、前記第１の画素位置と前記中心位置との第１の距離と、前記第２の画素位置と前記中心位置との第２の距離との差が所定の距離を下回る場合には、前記第１の距離と前記第２の距離との和を前記挿入部のサイズとして算出する、
前記（１０）に記載の画像処理装置。
（１２）
前記サイズ取得部は、前記第１の画素位置と前記中心位置との第１の距離と、前記第２の画素位置と前記中心位置との第２の距離との差が所定の距離を上回る場合には、前記第１の距離と前記第２の距離とのうち大きい距離の２倍を前記挿入部のサイズとして算出する、
前記（１０）に記載の画像処理装置。
（１３）
前記サイズ取得部は、前記内視鏡画像の輝度ごとの画素数分布に基づいて前記閾値を設定する、
前記（５）〜（１２）のいずれか一項に記載の画像処理装置。
（１４）
前記露光制御部は、前記抽出領域における前記イメージセンサ出力値に基づいて、露光を制御するためのパラメータを調整する、
前記（１）〜（１３）のいずれか一項に記載の画像処理装置。
（１５）
前記パラメータは、前記イメージセンサの電子シャッタ速度、前記イメージセンサによって撮像されたアナログ信号に対して乗じられるゲインのうちの少なくともいずれか一つを含む、
前記（１４）に記載の画像処理装置。
（１６）
前記パラメータは、光源の明るさを含む、
前記（１４）のいずれか一項に記載の画像処理装置。
（１７）
前記露光制御部は、前記内視鏡画像に前記挿入部の影が写り込んでいると判断した場合には、前記抽出領域におけるイメージセンサ出力値に基づいた前記露光制御を行う、
前記（１）〜（１６）のいずれか一項に記載の画像処理装置。
（１８）
イメージセンサによる撮像に基づく内視鏡画像から、挿入部のサイズに応じた領域を抽出領域として抽出することと、
プロセッサにより、前記抽出領域における前記イメージセンサ出力値に基づいて露光制御を行うことと、
を含む、画像処理装置。
（１９）
コンピュータを、
イメージセンサによる撮像に基づく内視鏡画像から、挿入部のサイズに応じた領域を抽出領域として抽出する領域抽出部と、
前記抽出領域における前記イメージセンサ出力値に基づいて露光制御を行う露光制御部と、
を備える画像処理装置として機能させるためのプログラム。
（２０）
光を発する光源部と、
前記光源部により発せられた前記光の反射光を受光して内視鏡画像を撮像するイメージセンサと、を有し、
前記内視鏡画像から、挿入部のサイズに応じた領域を抽出領域として抽出する領域抽出部と、
前記抽出領域における前記イメージセンサ出力値に基づいて露光制御を行う露光制御部と、
を備える、画像処理装置を有する、画像処理システム。
【符号の説明】
【００６２】
１      画像処理システム
１００  画像処理装置
１１０  自動露光制御部
１１１  サイズ取得部
１１２  領域抽出部
１１２  露光制御部
１１３  露光制御部
１２０  画像処理部
１３０  制御部
２００  挿入部
２１０  ライトガイド
２２０  照明レンズ
２３０  撮像部
２３１  対物レンズ
２３２  イメージセンサ
２４０  メモリ
３００  光源部
３１０  白色光源
３２０  集光レンズ
４００  表示部
５００  操作部
Ｃｅ    中心領域
Ｄｌ    第２の走査方向
Ｄｒ    第１の走査方向
Ｉｍ１  内視鏡画像
Ｍｐ    黒領域枠マップ
Ｎ１〜Ｎ６  周辺領域
Ｒｂ１  黒領域
Ｒｂ２  除外領域
Ｒｓ１  観察領域
Ｒｗ２  抽出領域
Ｓｕ    被写体
Ｗｌ    第２の距離
Ｗｒ    第１の距離
【図１】
2020151492.tif 000003
【図２】
2020151492.tif 000004
【図３】
2020151492.tif 000005
【図４】
2020151492.tif 000006
【図５】
2020151492.tif 000007
【図６】
2020151492.tif 000008
【図７】
2020151492.tif 000009
【図８】
2020151492.tif 000010
【図９】
2020151492.tif 000011
【図１０】
2020151492.tif 000012
【手続補正書】
【提出日】令和2年6月25日(2020.6.25)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
イメージセンサによる撮像に基づく内視鏡画像において、スコープのサイズにより領域が変化する前記内視鏡画像の黒領域とは異なる観察領域の値に基づいて、前記イメージセンサによる撮像の露光制御を行う露光制御部
を備える、画像処理システム。
【請求項２】
前記スコープは、硬性鏡または軟性鏡である、
請求項１に記載の画像処理システム。
【請求項３】
前記黒領域は、前記スコープによって遮光されて輝度が低下する領域である、
請求項１または２に記載の画像処理システム。
【請求項４】
前記黒領域は、前記スコープのサイズにより領域の大きさが変化する領域である、
請求項１〜３のいずれか一項に記載の画像処理システム。
【請求項５】
前記露光制御部は、前記観察領域の輝度値に基づいて、前記イメージセンサによる撮像の露光制御を行う、
請求項１〜４のいずれか一項に記載の画像処理システム。
【請求項６】
前記露光制御部は、前記観察領域に基づくイメージセンサの出力値に基づいて、前記イメージセンサによる撮像の露光制御を行う、
請求項１〜５のいずれか一項に記載の画像処理システム。
【請求項７】
前記露光制御部は、外部装置との通信によって得たスコープ情報に基づいて推定された前記内視鏡画像の前記観察領域の値に基づいて、前記イメージセンサによる撮像の露光制御を行う、
請求項１〜６のいずれか一項に記載の画像処理システム。
【請求項８】
前記露光制御部は、前記内視鏡画像を画像認識することにより推定された前記観察領域の値に基づいて、前記イメージセンサによる撮像の露光制御を行う、
請求項１〜６のいずれか一項に記載の画像処理システム。
【請求項９】
前記露光制御部は、前記内視鏡画像の少なくとも２つの領域の輝度差に基づいて推定された前記観察領域の値に基づいて、前記イメージセンサによる撮像の露光制御を行う、
請求項８に記載の画像処理システム。
【請求項１０】
前記露光制御部は、前記内視鏡画像の第１の開始位置から第１の目標位置に向けて第１の走査方向にスキャンした場合に、輝度と閾値との大小関係が最初に切り替わった第１の画素位置に基づいて推定された前記観察領域の値に基づいて、前記イメージセンサによる撮像の露光制御を行う、
請求項８または９に記載の画像処理システム。
【請求項１１】
前記露光制御部は、前記内視鏡画像の輝度ごとの画素数分布に基づいて推定された前記観察領域の値に基づいて、前記イメージセンサによる撮像の露光制御を行う、
請求項８または９に記載の画像処理システム。
【請求項１２】
前記露光制御部は、前記内視鏡画像の中心領域と、前記内視鏡画像の周辺領域との輝度差に基づいて推定された前記黒領域の有無に基づいて、前記イメージセンサによる撮像の露光制御を行う、
請求項１〜１１のいずれか一項に記載の画像処理システム。
【請求項１３】
前記露光制御部は、前記観察領域における前記イメージセンサ出力値に基づいて、露光を制御するためのパラメータを調整する、
請求項１〜１２のいずれか一項に記載の画像処理システム。
【請求項１４】
前記パラメータは、前記イメージセンサの電子シャッタ速度、前記イメージセンサによって撮像されたアナログ信号に対して乗じられるゲインおよび光源の明るさのうちの少なくともいずれか一つを含む、
請求項１３に記載の画像処理システム。
【請求項１５】
画像処理システムが実行する画像処理方法であって、
イメージセンサによる撮像に基づく内視鏡画像において、スコープのサイズにより領域が変化する前記内視鏡画像の黒領域とは異なる観察領域の値に基づいて、前記イメージセンサによる撮像の露光制御を行うこと
を含む、画像処理方法。
【請求項１６】
イメージセンサによる撮像に基づく内視鏡画像において、スコープのサイズにより領域が変化する前記内視鏡画像の黒領域とは異なる観察領域の値に基づいて、前記イメージセンサによる撮像の露光制御を行う露光制御部
を備える、画像処理装置。
【請求項１７】
コンピュータを、
イメージセンサによる撮像に基づく内視鏡画像において、スコープのサイズにより領域が変化する前記内視鏡画像の黒領域とは異なる観察領域の値に基づいて、前記イメージセンサによる撮像の露光制御を行う露光制御部
を備える画像処理システムとして機能させるためのプログラム。
【請求項１８】
イメージセンサによる撮像に基づく内視鏡画像において、スコープのサイズに基づいて領域が定まる前記内視鏡画像の黒領域によって定まる観察領域の値に基づいて、前記イメージセンサによる撮像の露光制御を行う露光制御部
を備える、画像処理システム。
【請求項１９】
前記観察領域は、前記黒領域によってサイズが定まる、
請求項１８に記載の画像処理システム。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】０００１
【補正方法】変更
【補正の内容】
【０００１】
本開示は、画像処理システム、画像処理方法、画像処理装置およびプログラムに関する。