(57)【要約】画質の差異を考慮せずに画像認識できる内視鏡画像処理装置、内視鏡画像処理方法及び内視鏡画像処理プログラムを提供する。内視鏡装置（１０）で撮影された内視鏡画像に対して画像認識を行う内視鏡画像処理装置（１００）は、内視鏡画像を取得する内視鏡画像取得部（１２０）と、内視鏡画像を基準画質の画像に変換する処理を行う画像変換処理部（１２２）と、基準画質に変換された画像に対して画像認識を行う画像認識部（１２４）と、認識結果を表示装置（１１４）に出力する出力制御部（１２６）と、を備える。画像変換処理部（１２２）は、内視鏡装置で設定されている画質の調整値に基づいて、内視鏡画像を基準画質の画像に変換する処理を行う。これにより、内視鏡装置で設定された画質の差異を考慮せずに画像認識できる。
2019239854.tif 000002
【特許請求の範囲】
【請求項１】
内視鏡装置で撮影された内視鏡画像を取得する内視鏡画像取得部と、
前記内視鏡画像を基準画質の画像に変換する処理を行う画像変換処理部と、
前記基準画質に変換された画像に対して画像認識を行う画像認識部と、
を備えた内視鏡画像処理装置。
【請求項２】
前記画像変換処理部は、前記内視鏡装置で設定されている画質の調整値に基づいて、前記内視鏡画像を前記基準画質の画像に変換する処理を行う、
請求項１に記載の内視鏡画像処理装置。
【請求項３】
前記画像変換処理部は、前記内視鏡画像を表示装置に出力する場合に前記内視鏡装置で設定される画質の調整値に基づいて、前記内視鏡画像を前記基準画質の画像に変換する処理を行う、
請求項１に記載の内視鏡画像処理装置。
【請求項４】
前記画像変換処理部は、前記内視鏡画像を静止画として保存する場合に前記内視鏡装置で設定される画質の調整値に基づいて、前記内視鏡画像を前記基準画質の画像に変換する処理を行う、
請求項１に記載の内視鏡画像処理装置。
【請求項５】
前記画像変換処理部は、前記内視鏡装置で設定されている色調の調整値に基づいて、前記内視鏡画像を前記基準画質の画像に変換する処理を行う、
請求項１に記載の内視鏡画像処理装置。
【請求項６】
前記画像変換処理部は、前記内視鏡装置で設定されている光量による画質変化の調整値に基づいて、前記内視鏡画像を前記基準画質の画像に変換する処理を行う、
請求項１に記載の内視鏡画像処理装置。
【請求項７】
前記画像変換処理部は、前記内視鏡画像が撮影された前記内視鏡装置ごとに設定された数値で前記内視鏡画像を処理して、前記内視鏡画像を前記基準画質の画像に変換する処理を行う、
請求項１に記載の内視鏡画像処理装置。
【請求項８】
前記画像認識部は、前記基準画質に変換された画像で学習した畳み込みニューラルネットワークで構成される、
請求項１から７のいずれか一項に記載の内視鏡画像処理装置。
【請求項９】
前記画像認識部が行う前記画像認識には、注目領域を検出する処理、及び／又は、認識対象を分類する処理が含まれる、
請求項１から７のいずれか一項に記載の内視鏡画像処理装置。
【請求項１０】
内視鏡装置で撮影された内視鏡画像を取得するステップと、
前記内視鏡画像を基準画質の画像に変換する処理を行うステップと、
前記基準画質に変換された画像に対して画像認識を行うステップと、
を含む内視鏡画像処理方法。
【請求項１１】
内視鏡装置で撮影された内視鏡画像を取得する機能と、
前記内視鏡画像を基準画質の画像に変換する処理を行う機能と、
前記基準画質に変換された画像に対して画像認識を行う機能と、
をコンピュータに実現させる内視鏡画像処理プログラム。
【請求項１２】
非一時的かつコンピュータ読取可能な記憶媒体であって、前記記録媒体に格納された指令がコンピュータによって読み取られた場合に、
内視鏡装置で撮影された内視鏡画像を取得する機能と、
前記内視鏡画像を基準画質の画像に変換する処理を行う機能と、
前記基準画質に変換された画像に対して画像認識を行う機能と、
を含む内視鏡画像処理機能をコンピュータに実現させる記憶媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、内視鏡画像処理装置、内視鏡画像処理方法及び内視鏡画像処理プログラムに係り、特に、内視鏡画像に対して画像認識を行う内視鏡画像処理装置、内視鏡画像処理方法及び内視鏡画像処理プログラムに関する。
【背景技術】
【０００２】
内視鏡装置で撮影された内視鏡画像から画像認識によって病変部を検出したり、病変を種別ごとに分類したりする技術が知られている（たとえば、特許文献１、２等）。【０００３】
画像認識には、深層学習（Deep Learning）をはじめとする画像の機械学習（非特許文献１）が広く使用されている。機械学習では、問題に応じた画像を大量に学習させることで分類、検出といった画像認識が可能となる。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開2000-155840号公報
【特許文献２】国際公開第2017/175282号
【非特許文献】
【０００５】
【非特許文献１】A. Krizhevsky、 I. Sutskever、 and G. Hinton. ImageNet classification with deep convolutional neural networks. In NIPS、 2012
【発明の概要】
【発明が解決しようとする課題】
【０００６】
機械学習では、学習用の画像群に画質の偏りがあると、画質の偏りも学習してしまう。このため、学習した画像群の画質の偏りから外れた画質の画像を画像認識させた場合に精度が低下するという問題がある。内視鏡装置による検査では、一般に術者の好みに応じた画質で撮影及び検査が行われるため、撮影した画像の画質が、学習した画像群の画質と異なると、画像認識の精度が低下するという問題がある。その一方ですべての画質について学習することも困難である。【０００７】
本発明は、このような事情に鑑みてなされたもので、画質の差異を考慮せずに画像認識できる内視鏡画像処理装置、内視鏡画像処理方法及び内視鏡画像処理プログラムを提供することを目的とする。
【課題を解決するための手段】
【０００８】
上記課題を解決するための手段は、次のとおりである。【０００９】
（１）内視鏡装置で撮影された内視鏡画像を取得する内視鏡画像取得部と、内視鏡画像を基準画質の画像に変換する処理を行う画像変換処理部と、基準画質に変換された画像に対して画像認識を行う画像認識部と、を備えた内視鏡画像処理装置。【００１０】
本態様によれば、取得された内視鏡画像が、基準画質の画像に変換されて、画像認識が行われる。これにより、撮影された内視鏡画像の画質の差異を考慮せずに画像認識できる。【００１１】
（２）画像変換処理部は、内視鏡装置で設定されている画質の調整値に基づいて、内視鏡画像を基準画質の画像に変換する処理を行う、上記（１）の内視鏡画像処理装置。【００１２】
本態様によれば、内視鏡装置で設定されている画質の調整値に基づいて、内視鏡画像が基準画質の画像に変換される。これにより、内視鏡装置で設定された画質の差異を考慮せずに画像認識できる。【００１３】
（３）画像変換処理部は、内視鏡画像を表示装置に出力する場合に内視鏡装置で設定される画質の調整値に基づいて、内視鏡画像を基準画質の画像に変換する処理を行う、上記（１）の内視鏡画像処理装置。【００１４】
本態様によれば、内視鏡画像を表示装置に出力する場合に内視鏡装置で設定される画質の調整値に基づいて、内視鏡画像が基準画質の画像に変換される。内視鏡画像を表示装置に出力する場合、術者の好みに応じて画質が調整される場合がある。本態様によれば、画質が調整された場合であっても、精度よく画像認識できる。【００１５】
（４）画像変換処理部は、内視鏡画像を静止画として保存する場合に内視鏡装置で設定される画質の調整値に基づいて、内視鏡画像を基準画質の画像に変換する処理を行う、上記（１）の内視鏡画像処理装置。【００１６】
本態様によれば、内視鏡画像を静止画として保存する場合に内視鏡装置で設定される画質の調整値に基づいて、内視鏡画像が基準画質の画像に変換される。内視鏡画像を静止画として保存する場合、画質を調整して保存する場合がある。本態様によれば、画質が調整された場合であっても、精度よく画像認識できる。【００１７】
（５）画像変換処理部は、内視鏡装置で設定されている色調の調整値に基づいて、内視鏡画像を基準画質の画像に変換する処理を行う、上記（１）の内視鏡画像処理装置。【００１８】
本態様によれば、内視鏡装置で色調の調整が行われる場合、その調整値に基づいて、内視鏡画像が基準画質の画像に変換される。【００１９】
（６）画像変換処理部は、内視鏡装置で設定されている光量による画質変化の調整値に基づいて、内視鏡画像を基準画質の画像に変換する処理を行う、上記（１）の内視鏡画像処理装置。【００２０】
本態様によれば、内視鏡装置で光量による画質変化の調整が行われる場合、その調整値に基づいて、内視鏡画像が基準画質の画像に変換される。【００２１】
（７）画像変換処理部は、内視鏡画像が撮影された内視鏡装置ごとに設定された数値で内視鏡画像を処理して、内視鏡画像を基準画質の画像に変換する処理を行う、上記（１）の内視鏡画像処理装置。【００２２】
本態様によれば、内視鏡装置ごとに設定された数値で内視鏡画像が処理されて、内視鏡画像が基準画質の画像に変換される。これにより、異なる内視鏡装置で撮影された内視鏡画像に対して画像認識する場合であっても、画質の差異を考慮せずに画像認識できる。【００２３】
（８）画像認識部は、基準画質に変換された画像で学習した畳み込みニューラルネットワークで構成される、上記（１）から（７）のいずれか一の内視鏡画像処理装置。【００２４】
本態様によれば、画像認識部が、基準画質に変換された画像で学習した畳み込みニューラルネットワークで構成される。【００２５】
（９）画像認識部が行う画像認識には、注目領域を検出する処理、及び／又は、認識対象を分類する処理が含まれる、上記（１）から（７）のいずれか一の内視鏡画像処理装置。【００２６】
本態様によれば、画像認識により、病変等の注目領域を検出する処理、及び／又は、病変等の認識対象を分類する処理が行われる。【００２７】
（１０）内視鏡装置で撮影された内視鏡画像を取得するステップと、内視鏡画像を基準画質の画像に変換する処理を行うステップと、基準画質に変換された画像に対して画像認識を行うステップと、を含む内視鏡画像処理方法。【００２８】
本態様によれば、取得された内視鏡画像が、基準画質の画像に変換されて、画像認識が行われる。これにより、撮影された内視鏡画像の画質の差異を考慮せずに画像認識できる。【００２９】
（１１）内視鏡装置で撮影された内視鏡画像を取得する機能と、内視鏡画像を基準画質の画像に変換する処理を行う機能と、基準画質に変換された画像に対して画像認識を行う機能と、をコンピュータに実現させる内視鏡画像処理プログラム。【００３０】
本態様によれば、取得された内視鏡画像が、基準画質の画像に変換されて、画像認識が行われる。これにより、撮影された内視鏡画像の画質の差異を考慮せずに画像認識できる。
【発明の効果】
【００３１】
本発明によれば、画質の差異を考慮せずに画像認識できる。
【図面の簡単な説明】
【００３２】
【図１】内視鏡装置及び内視鏡画像処理装置を含む内視鏡システムの全体のシステム構成を示すブロック図
【図２】内視鏡装置の概念的なブロック構成図
【図３】図２に示す内視鏡装置の一例としての外観図
【図４】生体組織の粘膜表層の血管を模式的に表した図
【図５】狭帯域光を照明光として使用した場合の観察画像の表示例を示す図
【図６】白色光を照明光として使用した場合の観察画像の表示例を示す図
【図７】画像信号の取得から表示装置への出力までの処理の手順を示すフローチャート
【図８】内視鏡画像処理装置のハードウェア構成を示すブロック図
【図９】内視鏡画像処理装置の機能を示すブロック図
【図１０】認識結果の表示の一例を示す図
【図１１】内視鏡画像処理装置で実施される画像認識の処理の手順を示すフローチャート
【図１２】画像信号の取得から表示装置への出力までの処理の手順を示すフローチャート
【図１３】内視鏡画像処理装置で実施される画像認識の処理の手順を示すフローチャート
【図１４】画像信号の取得から表示装置への出力までの処理の手順を示すフローチャート
【図１５】内視鏡画像処理装置で実施される画像認識の処理の手順を示すフローチャート
【発明を実施するための形態】
【００３３】
以下、添付図面に従って本発明の好ましい実施形態について詳説する。
【００３４】
◆◆第１の実施の形態◆◆
図１は、内視鏡装置及び内視鏡画像処理装置を含む内視鏡システムの全体のシステム構成を示すブロック図である。
【００３５】
同図に示すように、内視鏡システム１は、内視鏡装置１０と、内視鏡装置１０で撮影された内視鏡画像に対して画像認識を行う内視鏡画像処理装置１００と、を備える。内視鏡装置１０及び内視鏡画像処理装置１００は、ＬＡＮ（Local Area Network）等のネットワーク２を介して接続される。
【００３６】
《内視鏡装置》
図２は、内視鏡装置の概念的なブロック構成図である。図３は、図２に示す内視鏡装置の一例としての外観図である。
【００３７】
本実施の形態の内視鏡装置１０は、白色光を用いた通常観察に加えて、狭帯域光を用いた狭帯域光観察が可能な内視鏡装置として構成される。
【００３８】
図２及び図３に示すように、内視鏡装置１０は、内視鏡１１及び内視鏡１１が接続される内視鏡制御装置１３を備える。内視鏡１１は、電子内視鏡（軟性内視鏡）であり、接続部２７を介して、内視鏡制御装置１３に着脱自在に接続される。内視鏡制御装置１３には、表示装置２１及び入力装置２３が接続される。表示装置２１は、たとえば、液晶モニタで構成される。入力装置２３は、たとえば、キーボード、マウス等で構成される。
【００３９】
内視鏡１１は、図３に示すように、被検体内に挿入される内視鏡挿入部１５、各種操作を行うための操作部２５、及び、内視鏡制御装置１３に接続するための接続部２７を備える。
【００４０】
内視鏡挿入部１５は、操作部２５の側から順に、可撓性を有する軟性部３１、湾曲部３３及び先端硬質部３５で構成される。
【００４１】
先端硬質部３５には、その先端面に、一対の照明窓３７Ａ、３７Ｂ及び観察窓３８等が備えられる。観察窓３８の内側には、撮影光学系３９を介してイメージセンサ１７が備えられる。イメージセンサ１７は、所定のカラーフィルタ配列（たとえば、ベイヤ配列等）を有するカラーイメージセンサで構成され、ＣＣＤ(Charge Coupled Device）イメージセンサやＣＭＯＳ(Complementary Metal-Oxide Semiconductor）イメージセンサ等で構成される。
【００４２】
湾曲部３３は、軟性部３１及び先端硬質部３５との間に設けられ、操作部２５に備えられたアングルノブ４１の操作に応じて湾曲する。この湾曲部３３の操作によって、先端硬質部３５の向き、すなわち、観察方向を変えることができる。
【００４３】
操作部２５には、上記のアングルノブ４１の他、観察モードを切り替えるためのボタン（観察モード切替ボタン）、静止画を撮影するためのボタン（シャッターボタン）等の各種の操作部材４３が備えられる。
【００４４】
接続部２７は、可撓性を有するコードで構成され、内視鏡制御装置１３に接続するためのライトガイドコネクタ１９Ａ及びビデオコネクタ１９Ｂを先端に有する。
【００４５】
内視鏡制御装置１３は、照明光を発生する光源装置４７、イメージセンサ１７からの画像信号を処理するプロセッサ装置４９を備え、ライトガイドコネクタ１９Ａ及びビデオコネクタ１９Ｂを介して、内視鏡１１と接続される。また、プロセッサ装置４９には、上記の表示装置２１及び入力装置２３が接続される。
【００４６】
プロセッサ装置４９は、内視鏡１１の操作部２５及び入力装置２３からの指示に基づいて、内視鏡１１から伝送されてくる撮像信号を処理し、画像データ（内視鏡画像データ）を生成して表示装置２１に出力する。
【００４７】
光源装置４７は、中心波長４４５ｎｍの半導体発光素子である第１レーザ光源ＬＤ１、及び、中心波長４０５ｎｍの半導体発光素子である第２レーザ光源ＬＤ２を発光源として備える。第１レーザ光源ＬＤ１及び第２レーザ光源ＬＤ２の発光は、光源制御部５１により個別に制御される。
【００４８】
第１レーザ光源ＬＤ１及び第２レーザ光源ＬＤ２は、ブロードエリア型のＩｎＧａＮ系レーザダイオードが利用でき、また、ＩｎＧａＮＡｓ系レーザダイオード、ＧａＮＡｓ系レーザダイオード等を用いることもできる。また、上記光源として、発光ダイオード等の発光体を用いた構成であってもよい。
【００４９】
第１レーザ光源ＬＤ１及び第２レーザ光源ＬＤ２から出射されるレーザ光は、集光レンズ（不図示）により、それぞれ光ファイバに入力され、合波器であるコンバイナ５３及び分波器であるカプラ５５を介して、ライトガイドコネクタ１９Ａに導光される。
【００５０】
ライトガイドコネクタ１９Ａに供給された中心波長４４５ｎｍの青色レーザ光、及び、中心波長４０５ｎｍの紫色レーザ光が合波されたレーザ光は、光ファイバ５７Ａ、５７Ｂによって、それぞれ先端硬質部３５まで導光される。そして、青色レーザ光は、先端硬質部３５の光ファイバ５７Ａ、５７Ｂの光出射端に配置された波長変換部材である蛍光体５９を励起して蛍光を生じさせる。また、一部の青色レーザ光は、そのまま蛍光体５９を透過し、上記の蛍光と共に白色光の照明光として出射される。一方、紫色レーザ光は、蛍光体５９を強く励起させることなく透過し、狭帯域波長の照明光（狭帯域光）として出射される。
【００５１】
なお、本明細書でいう「白色光」とは、厳密に可視光の全ての波長成分を含むものに限らず、赤（Red，Ｒ）、緑（Green，Ｇ）、青（Blue，Ｂ）等、特定の波長帯の光を含むものであればよく、たとえば、緑色から赤色にかけての波長成分を含む光、青色から緑色にかけての波長成分を含む光等も広義に含むものとする。
【００５２】
蛍光体５９は、青色レーザ光の一部を吸収して緑色〜黄色に励起発光する複数種の蛍光体（たとえば、ＹＡＧ系蛍光体又はＢＡＭ（ＢａＭｇＡｌ10Ｏ17）等を含む蛍光体等）を含んで構成される。これにより、青色レーザ光を励起光とする緑色〜黄色の励起光と、蛍光体５９により吸収されず透過した青色レーザ光とが合成されて、白色（疑似白色）の照明光となる。
【００５３】
光源制御部５１は、第１レーザ光源ＬＤ１からの青色レーザ光の出射光量及び第２レーザ光源ＬＤ２からの紫色レーザ光の出射光量を個別に制御し、青色レーザ光により生成される照明光（白色光）及び紫色レーザ光により生成される照明光（狭帯域光）を観察に適した光量比に設定する。
【００５４】
光源制御部５１によって観察に適した光量比に設定された照明光は、先端硬質部３５に備えられた一対の照明窓３７Ａ、３７Ｂから被検体の観察領域に向けて照射される。そして、この照明光が照射された領域が、観察窓３８から撮影光学系３９を介してイメージセンサ１７に撮像される。
【００５５】
イメージセンサ１７から出力される画像信号は、スコープケーブル６１を通じてＡＤＣ（Analog to Digital Converter；アナログ-デジタル変換器）６３に伝送され、ＡＤＣ６３でデジタル信号に変換されて、プロセッサ装置４９の内視鏡制御部６５に入力される。
【００５６】
内視鏡制御部６５は、入力されたデジタル画像信号を画像処理部６７に送る。画像処理部６７は、デジタル画像信号に所要の信号処理を施して、観察画像である内視鏡画像の画像データ（内視鏡画像データ）を生成する。この画像データは、画素単位でＲ、Ｇ及びＢの各強度値（輝度値）を有するデータである。
【００５７】
内視鏡制御部６５は、生成された内視鏡画像データを表示装置２１に出力する。また、内視鏡制御部６５は、必要に応じて、内視鏡画像データを記憶部６９に記憶させる。また、内視鏡制御部６５は、必要に応じて、内視鏡画像データを内視鏡画像処理装置１００に出力する。
【００５８】
なお、本実施の形態では、記憶部６９がプロセッサ装置４９に備えられているが、記憶部６９は、プロセッサ装置４９にネットワークを介して接続されていてもよいし、また、ネットワークに接続されたサーバ等に備えられていてもよい。
【００５９】
図４は、生体組織の粘膜表層の血管を模式的に表した図である。同図に示すように、生体組織の粘膜表層は、粘膜深層の血管Ｂ１から樹脂状血管網等の毛細血管Ｂ２が粘膜表層までの間に形成され、生体組織の病変は、その毛細血管Ｂ２等の微細構造に現れることが報告されている。そこで、内視鏡診察においては、粘膜表層の毛細血管を画像強調して観察し、微小病変の早期発見及び病変範囲の診断等が試みられている。
【００６０】
生体組織に照明光が入射されると、入射光は生体組織内を拡散的に伝播するが、生体組織の吸収及び散乱特性は波長依存性を有しており、短波長ほど散乱特性が強くなる傾向がある。つまり、照明光の波長によって光の深達度が変化する。このため、照明光が４００ｎｍ付近の波長域λａでは、粘膜表層の毛細血管からの血管情報が得られ、波長５００ｎｍ付近の波長域λｂでは、更に深層の血管を含む血管情報が得られるようになる。このため、生体組織の血管観察には、中心波長３６０〜８００ｎｍ、好ましくは、３６５〜５１５ｎｍの光源が用いられ、特に、表層血管の観察には、中心波長３６０〜４７０ｎｍ、好ましくは、４００〜４２０ｎｍの光源が用いられる。また、生体組織の粘膜表面の微細模様についても、上記波長範囲において、毛細血管と同様に強調表示できる。
【００６１】
図５は、狭帯域光を照明光として使用した場合の観察画像の表示例を示す図である。同図に示すように、可視短波長成分を多く含む狭帯域光を照明光とした場合は、粘膜表層の微細な毛細血管や粘膜表面の微細模様が鮮明に映出された画像が得られる。
【００６２】
図６は、白色光を照明光として使用した場合の観察画像の表示例を示す図である。同図に示すように、白色光を照明光とした場合は、比較的粘膜深層の血管像が映出された患部の全体像が得られる。
【００６３】
つまり、白色光と狭帯域光とを同時に照射した観察画像では、生体組織の粘膜表層の微細血管や粘膜表面の微細模様が強調され、患部の性状や観察位置を特定しやすい画像、すなわち、患部の内視鏡診断がしやすい観察画像となる。
【００６４】
そこで、本実施の形態の内視鏡装置１０では、先端硬質部３５から出射する白色光（青色レーザ光及び蛍光体の発光）及び狭帯域光（紫色レーザ光）の各出射光量を独立して制御可能とし、双方の照明光による反射光が１フレームの撮像画像内で共に含まれるようにしている。
【００６５】
白色光と狭帯域光との出射光量の比率は、たとえば、［白色光：狭帯域光＝１：４〜１：８］等の適宜な比率に設定する。これにより、白色光で観察部位を明瞭に映出させつつ、狭帯域光により表層血管及び粘膜表面の微細模様を強調でき、微細血管構造及びピットの観察に適した画像を取得できる。
【００６６】
次に、撮像された内視鏡画像の画質を変えて表示装置２１に表示する場合について説明する。
【００６７】
内視鏡画像を表示装置２１に表示させる場合において、表示画像の画質、特に、色調は術者によって好みが分かれる。
【００６８】
そこで、本実施の形態の内視鏡装置１０では、必要に応じて、内視鏡画像データの色調を補正し、表示装置２１に出力する。
【００６９】
色調の補正は、内視鏡制御部６５による制御の下、入力装置２３から指示に基づいて、画像処理部６７で実施される。本実施の形態の内視鏡装置１０では、次のように実施される。
【００７０】
内視鏡制御部６５は、入力装置２３から入力される色調の調整値に基づいて、Ｒ、Ｇ、Ｂの各強度値（輝度値）をマトリクス補正する補正マトリクスを設定する。画像処理部６７は、設定された補正マトリクスに基づいて、内視鏡画像データをマトリクス補正し、色調を補正する。
【００７１】
色調補正前の内視鏡画像データの各画素のＲ、Ｇ、Ｂの強度値をＲ０、Ｇ０、Ｂ０、補正マトリクスをＡ、色調補正後の内視鏡画像データの各画素のＲ、Ｇ、Ｂの強度値をＲ１、Ｇ１、Ｂ１とすると、色調補正後の内視鏡画像データの各画素のＲ、Ｇ、Ｂの強度値Ｒ１、Ｇ１、Ｂ１は、次式（１）で表わされる。
【００７２】
【数１】
2019239854.tif 000003
【００７３】
補正マトリクスＡの係数ａijは、色調の調整値に基づいて設定される。内視鏡制御部６５は、入力装置２３を介して色調の調整値の情報を取得し、補正マトリクスＡを設定する。
【００７４】
画像処理部６７は、設定された補正マトリクスＡを用いて、内視鏡画像データの各画素のＲ、Ｇ、Ｂの強度値をマトリクス補正し、内視鏡画像データの色調を補正する。そして、補正後の内視鏡画像データを表示装置２１に出力する。
【００７５】
図７は、画像信号の取得から表示装置への出力までの処理の手順を示すフローチャートである。
【００７６】
内視鏡１１から出力される画像信号（デジタル画像信号）が取得され（ステップＳ１）、取得された画像信号から内視鏡画像の画像データ（内視鏡画像データ）が生成される（ステップＳ２）。そして、生成された内視鏡画像データに対して、調整値に基づく色調補正が行われ（ステップＳ３）、色調補正後の内視鏡画像データが表示装置２１に出力される（ステップＳ４）。
【００７７】
このように、色調補正を行うことにより、術者の好みに応じた色調で内視鏡画像を表示装置２１に表示できる。
【００７８】
なお、内視鏡画像を記憶部６９に記憶する場合は、この色調補正後の内視鏡画像データが記憶部６９に記憶される。同様に、内視鏡画像を内視鏡画像処理装置１００に出力する場合は、色調補正後の内視鏡画像データが、内視鏡画像処理装置１００に出力される。
【００７９】
《内視鏡画像処理装置》
内視鏡画像処理装置１００は、内視鏡装置１０から内視鏡画像データを取得し、画像認識により、画像に含まれる病変を検出し、検出した病変を種別ごとに分類して報知する処理を行う。
【００８０】
画像認識の処理には、たとえば、畳み込みニューラルネットワーク（Convolutional Neural Network，ＣＮＮ）が用いられる。
【００８１】
病変の分類は、たとえば、ＮＩＣＥ分類又はＪＮＥＴ分類などに従って複数のカテゴリーに分類する処理が行われる。「ＮＩＣＥ」は、NBI International Colorectal Endoscopic の略語である。「ＪＮＥＴ」は、「the Japan NBI Expert Team」の略語である。「ＮＢＩ」（登録商標）は、Narrow band imaging（登録商標）の略語である。
【００８２】
ＮＩＣＥ分類は、非拡大のＮＢＩによる分類であり、病変の色調（Color）、微小血管 模様（Vessels）、及び表面模様（Surface pattern）の３項目の各項目について、Type1、Type２及びType３に分類される。Type1は過形成病変、Type2は腺腫〜粘膜内癌、Type3はＳＭ（submucosa）深部浸潤癌の診断指標である。ＪＮＥＴ分類は、大腸腫瘍に対するＮＢＩ拡大内視鏡所見の分類である。ＪＮＥＴ分類は、「vessel pattern」と「surface pattern」の各項目について、Type1、Type2A、Type2B、及びType3に分類される。
【００８３】
なお、画像認識の処理は、ＮＩＣＥ分類などの詳細な分類に代えて、又は、これと組み合わせて、単に「癌性」であるか「非癌性」であるかの２分類の認識を行ってもよい。
【００８４】
図８は、内視鏡画像処理装置のハードウェア構成を示すブロック図である。
【００８５】
内視鏡画像処理装置１００は、たとえば、パーソナルコンピュータ、ワークステーション等のコンピュータで構成される。このコンピュータには、ＣＰＵ（Central Processing Unit）１０２、ＲＡＭ（Random Access Memory）１０４、ＲＯＭ（read-only memory）１０６、通信インターフェイス（interface，Ｉ／Ｆ）１０８及び入出力インターフェイス１１０が備えられ、通信インターフェイス１０８を介してネットワーク２に接続される。また、入出力インターフェイス１１０を介して記憶装置１１２、入力装置１１４及び表示装置１１６が接続される。記憶装置１１２は、たとえば、ハードディスクドライブ（Hard Disk Drive，ＨＤＤ）等のストレージデバイスで構成される。入力装置１１４は、キーボード及びマウス等の入力デバイスで構成される。表示装置１１６は、液晶モニタ等の表示デバイスで構成される。
【００８６】
図９は、内視鏡画像処理装置の機能を示すブロック図である。
【００８７】
同図に示すように、内視鏡画像処理装置１００は、所定の制御プログラム（内視鏡画像処理プログラム）を実行することにより、内視鏡画像取得部１２０、画像変換処理部１２２、画像認識部１２４、及び表示制御部１２６として機能する。プログラムは、ＲＯＭ１０６又は記憶装置１１２に格納される。
【００８８】
内視鏡画像取得部１２０は、内視鏡装置１０から内視鏡画像データを取得する。内視鏡画像データは、動画及び静止画のいずれの画像データであってもよい。
【００８９】
画像変換処理部１２２は、内視鏡画像取得部１２０で取得された内視鏡画像を基準画質の画像に変換する処理を行う。ここで、本実施の形態において、「基準画質」とは、内視鏡装置１０で行われた色調補正を行う前の画質をいう。
【００９０】
上記のように、本実施の形態の内視鏡装置１０では、必要に応じて、出力画像の色調補正が行われる。一方、後述するように、画像認識は、機械学習によって学習したモデル（学習済みモデル）が用いられる。機械学習では、学習用の画像群に画質の偏りがあると、画質の偏りも学習する。この結果、学習した画像群の画質の偏りから外れた画質の画像を画像認識させた場合に精度が低下する。色調が補正されると、学習した画像群の画質の偏りから外れ、画像認識させた場合に精度が低下する。
【００９１】
そこで、本実施の形態では、内視鏡装置１０から取得した内視鏡画像データに対して画像処理を行い、その画質を色調補正前の画質に変換する。具体的には、取得した内視鏡画像データに対して、色調補正した際の補正マトリクスＡの逆行列Ａ−１となる補正マトリクスＢを用いてマトリクス補正し、基準画質の画像データに変換する。
【００９２】
いま、取得した内視鏡画像データの各画素のＲ、Ｇ、Ｂの強度値をＲ１、Ｇ１、Ｂ１、補正マトリクスをＢ、変換後の内視鏡画像データの各画素のＲ、Ｇ、Ｂの強度値をＲ２、Ｇ２、Ｂ２とすると、変換後の内視鏡画像データの各画素のＲ、Ｇ、Ｂの強度値Ｒ２、Ｇ２、Ｂ２は、次式（２）で表わされる。
【００９３】
【数２】
2019239854.tif 000004
【００９４】
画像変換処理部１２２は、色調補正の際の補正マトリクスＡの情報を内視鏡装置１０から取得し、その逆行列となる補正マトリクスＢを設定する。そして、設定された補正マトリクスＢを用いて、取得した内視鏡画像データの各画素のＲ、Ｇ、Ｂの強度値をマトリクス補正し、画質を変換する。すなわち、色調補正前の画質に変換する。
【００９５】
画像認識部１２４は、画像変換処理部１２２によって基準画質の画像に変換された後の内視鏡画像に対して画像認識の処理を行う。本実施の形態では、取得した内視鏡画像から病変（注目領域）を検出し、かつ、検出された病変をＮＩＥＣ分類又はＪＮＥＴ分類などに従い分類する処理を行う。画像認識部１２４は、機械学習によって学習した学習済みモデルを用いて構成される。このモデルは、たとえば、畳み込みニューラルネットワーク（ＣＮＮ：Convolutional Neural Network）で構成される。モデル生成の際は、基準画質に変換された内視鏡画像群で学習する。
【００９６】
表示制御部１２６は、画像認識部１２４による認識結果を取得し、所定の表示態様で認識結果を表示装置１１６に表示させる。
【００９７】
図１０は、認識結果の表示の一例を示す図である。
【００９８】
同図に示すように、病変が検出された場合、画像認識した内視鏡画像に重ねて、認識結果が表示される。認識結果は、たとえば、検出された病変の領域を枠で囲う形式で表示される。また、その枠に近接して、病変の分類結果が表示される。
【００９９】
図１１は、内視鏡画像処理装置で実施される画像認識の処理の手順を示すフローチャートである。
【０１００】
まず、内視鏡画像取得部１２０によって内視鏡装置１０から内視鏡画像データが取得される（ステップＳ１１）。
【０１０１】
次に、色調の調整値に基づいて、認識対象の画質を基準画質に変換する処理が行われる（ステップＳ１２）。この処理は、画像変換処理部１２２によって行われる。画像変換処理部１２２は、取得された内視鏡画像データをマトリクス補正することにより、その画質を変換する。この際に使用する補正マトリクスＢは、認識対象の内視鏡画像データを生成した際の色調補正の補正マトリクスＡから求められる。すなわち、補正マトリクスＡの逆行列として求められる。
【０１０２】
次に、基準画質に変換された後の内視鏡画像に対して画像認識部１２４によって画像認識が行われ（ステップＳ１３）、その認識結果が表示装置２１に出力される（ステップＳ１４）。
【０１０３】
このように、本実施の形態の内視鏡画像処理装置１００では、内視鏡画像を画像認識する際、認識対象の内視鏡画像の画質を基準画質に変換し、変換後の内視鏡画像に対して画像認識が行われる。これにより、内視鏡装置１０において、独自の色調補正を行った場合であっても、精度よく画像認識を行うことができる。すなわち、画質の差異を考慮せずに画像認識できる。
【０１０４】
◆◆第２の実施の形態◆◆
内視鏡装置では、画質を自動的に補正する場合がある。たとえば、照明光の光量変化による画質の変化を自動的に補正する場合がある。本実施の形態では、認識対象である内視鏡画像が、画質補正されている場合、その補正情報に基づいて、画質を基準画質に変換し、変換後の内視鏡画像に対して、画像認識を行う。
【０１０５】
《画質の自動補正》
ここでは、光量変化に基づく画質の自動補正について説明する。なお、内視鏡装置のハードウェア構成は、上記第１の実施の形態と同じである。したがって、ハードウェア構成についての説明は省略する。
【０１０６】
〈光量制御〉
まず、照明光の光量の制御について説明する。本実施の形態の内視鏡装置では、撮影距離（イメージセンサの撮像面から被検体までの距離）に応じて、照明光の光量、すなわち、第１レーザ光源ＬＤ１及び第２レーザ光源ＬＤ２の出射光量が自動で制御される。内視鏡制御部６５は、撮影距離に応じて、最適な光量比となるように、第１レーザ光源ＬＤ１からの出射光量及び第２レーザ光源ＬＤ２からの出射光量を制御する。撮影距離の情報は、たとえば、オートフォーカスの情報などを利用して取得される。この他、露出情報（シャッタ速度、絞り値、明るさ（EV値（Exposure Value））等）と、光源制御部５１が設定する照明光量の情報とに基づいて推定する等の方法を採用することもできる。光量比の設定には、たとえば、撮影距離と最適光量比との関係を表すテーブルをあらかじめ用意しておき、このテーブルを参照することにより行われる。
【０１０７】
内視鏡制御部６５は、テーブルを参照し、撮影距離が近いほど、粘膜表層の毛細血管等を強調するように、第２レーザ光源ＬＤ２からの出射光量を第１レーザ光源ＬＤ１からの出射光量よりも相対的に大きく設定する。また、撮影距離が遠いほど、遠景の輝度を確保するため、高照度の照明光となるように、第１レーザ光源ＬＤ１からの出射光量を第２レーザ光源ＬＤ２からの出射光量よりも相対的に大きく設定する。
【０１０８】
〈画質補正〉
上記のように、第１レーザ光源ＬＤ１からの出射光は最終的に白色光として被検体に照射され、第２レーザ光源ＬＤ２からの出射光は、狭帯域光として被検体に照射される。このため、第１レーザ光源ＬＤ１及び第２レーザ光源ＬＤ２の出射光の光量比が変更されると、照明光の色味が変化する。たとえば、第２レーザ光源ＬＤ２の光量が、第１レーザ光源ＬＤ１の光量に対して増加すると、青味を帯びた照明光となる。この結果、光量比に応じて観察画像である内視鏡画像の色調が変化する。
【０１０９】
そこで、設定した光量比によって変化する照明光の色味に応じて内視鏡画像の色調補正を行い、内視鏡画像が照明光の色味変化の影響を受けないようにする。
【０１１０】
内視鏡制御部６５は、設定された光量比の情報に基づいて、画像の色調変化がなくなるように、内視鏡画像データを補正する。補正は、たとえば、光量比ごとに色調補正テーブルをあらかじめ用意し、この色調補正テーブルを参照して行う。
【０１１１】
色調補正テーブルは、たとえば、内視鏡画像の各画素に対して、Ｒ、Ｇ、Ｂの強度値をマトリクス補正する補正マトリクスとして表すことができる。
【０１１２】
撮影により得られた内視鏡画像データの各画素のＲ、Ｇ、Ｂの強度値をＲ３、Ｇ３、Ｂ３、補正マトリクスをＣ、色調補正後の内視鏡画像データの各画素のＲ、Ｇ、Ｂの強度値をＲ４、Ｇ４、Ｂ４とすると、色調補正後の内視鏡画像データの各画素のＲ、Ｇ、Ｂの強度値Ｒ４、Ｇ４、Ｂ４は、次式（３）で表わされる。
【０１１３】
【数３】
2019239854.tif 000005
【０１１４】
補正マトリクスＣの係数ｃijは、光量比の変化による照明光の色味変化をキャンセルするように設定され、複数種の光量比に対応する複数種の補正マトリクスＣが、あらかじめ容易される。
【０１１５】
画像処理部６７は、設定された補正マトリクスＣを用いて、内視鏡画像データの各画素のＲ、Ｇ、Ｂの強度値をマトリクス補正し、内視鏡画像データの色調を補正する。そして、補正後の内視鏡画像データを表示装置２１に出力する。
【０１１６】
図１２は、画像信号の取得から表示装置への出力までの処理の手順を示すフローチャートである。
【０１１７】
内視鏡１１から出力される画像信号が取得され（ステップＳ２１）、取得された画像信号から内視鏡画像の画像データ（内視鏡画像データ）が生成される（ステップＳ２２）。そして、生成された内視鏡画像データに対して、光量変化に基づく色調補正が行われ（ステップＳ２３）、色調補正後の内視鏡画像データが表示装置２１に出力される（ステップＳ２４）。内視鏡画像を内視鏡画像処理装置１００に出力する場合は、色調補正後の内視鏡画像データが、内視鏡画像処理装置１００に出力される。
【０１１８】
《画像認識》
認識対象の内視鏡画像が、光量変化に基づいて自動的に色調補正されている場合、内視鏡画像処理装置１００は、その補正情報に基づいて、画質を基準画質に変換し、変換後の内視鏡画像に対して、画像認識を行う。
【０１１９】
図１３は、内視鏡画像処理装置で実施される画像認識の処理の手順を示すフローチャートである。
【０１２０】
まず、内視鏡画像取得部１２０によって内視鏡装置１０から内視鏡画像データが取得される（ステップＳ３１）。次に、光量変化に基づく色調補正の補正情報に基づいて、認識対象の画質を基準画質に変換する処理が行われる（ステップＳ３２）。画像変換処理部１２２は、取得された内視鏡画像データをマトリクス補正することにより、その画質を変換する。この際に使用する補正マトリクスは、認識対象の内視鏡画像データを光量変化に基づいて色調補正した際の補正マトリクスＣから求められる。すなわち、補正マトリクスＣの逆行列Ｃ−１として求められる。
【０１２１】
次に、基準画質に変換された後の内視鏡画像に対して画像認識部１２４によって画像認識が行われ（ステップＳ３３）、その認識結果が表示装置２１に出力される（ステップＳ３４）。
【０１２２】
このように、基準画質の画像に変換して、画像認識することにより、内視鏡装置１０で自動的に色調が補正された場合であっても、精度よく画像認識を行うことができる。すなわち、画質の差異を考慮せずに画像認識できる。
【０１２３】
◆◆第３の実施の形態◆◆
術者によって出力画像の色調が調整され、更に、光量変化に応じて色調が自動補正される場合は、次のように処理される。
【０１２４】
《内視鏡装置での処理》
図１４は、画像信号の取得から表示装置への出力までの処理の手順を示すフローチャートである。
【０１２５】
内視鏡１１から出力される画像信号が取得され（ステップＳ４１）、取得された画像信号から内視鏡画像の画像データ（内視鏡画像データ）が生成される（ステップＳ４２）。生成された内視鏡画像データに対して、まず、光量変化に基づく色調補正が行われる（ステップＳ４３）。次いで、色調の調整値に基づいて、色調補正が行われる（ステップＳ４４）。この後、色調補正後の内視鏡画像データが、表示装置２１に出力される（ステップＳ４５）。内視鏡画像を内視鏡画像処理装置１００に出力する場合は、色調補正後の内視鏡画像データが、内視鏡画像処理装置１００に出力される。
【０１２６】
《内視鏡画像処理装置での処理（内視鏡画像処理方法）》
図１５は、内視鏡画像処理装置で実施される画像認識の処理の手順を示すフローチャートである。
【０１２７】
まず、内視鏡画像取得部１２０によって内視鏡装置１０から内視鏡画像データが取得される（ステップＳ５１）。
【０１２８】
次に、光量変化に基づく色調補正の補正情報に基づいて、認識対象の画質を変換する処理が行われる（ステップＳ５２）。次に、色調の調整値に基づく色調補正の補正情報に基づいて、認識対象の画質を変換する処理が行われる（ステップＳ５３）。この二段階の変換処理を施すことにより、認識対象の画質が基準画質に変換される。
【０１２９】
次に、基準画質に変換された後の内視鏡画像に対して画像認識部１２４によって画像認識が行われる（ステップＳ５４）。そして、その認識結果が表示装置２１に出力される（ステップＳ５５）。
【０１３０】
このように、認識対象の内視鏡画像に複数の画質補正が施されている場合は、各画質補正に対応した変換処理を実施することにより、基準画質の画像に変換する。そして、このように基準画質の画像に変換して、画像認識することにより、精度よく画像認識を行うことができる。
【０１３１】
◆◆変形例◆◆
《内視鏡装置で行われる画質補正》
上記実施の形態では、内視鏡装置において色調を補正する場合を例に説明したが、内視鏡装置で行われる画質補正の種類は、これに限定されるものではない。この他、明るさの補正、コントラストの補正、シャープネスの補正等、種々の画質補正を行うことができる。
【０１３２】
画質補正された内視鏡画像を画像認識する場合は、画質補正の内容に応じた逆変換の処理を行うことで、基準画質の画像に変換する。
【０１３３】
また、上記実施の形態では、色調補正の手法として、マトリクス補正を採用しているが、画質補正の手法は、これに限定されるものではない。たとえば、光量変化による画質変化を調整する場合は、あらかじめ設定されている光量による画質変化を調整する画像処理パラメーターを用いて画像処理し、画質を補正してもよい。また、術者の好みの色調に調整する場合は、色調を調整する画像処理パラメーターで画像処理を行って、色調を補正してもよい。画像認識する際は、補正の際に使用した画像処理パラメーターを基にして、画像処理を行い、基準画質の画像に変換する。
【０１３４】
《内視鏡画像処理装置で行われる画像変換処理》
上記のように、内視鏡画像処理装置では、認識対象の内視鏡画像の画質を基準画質に変換して、画像認識を行う。
【０１３５】
基準画質に変換する処理は、認識対象の内視鏡画像に施された画質補正の内容に基づいて行われる。すなわち、その画質補正の内容を基に、逆変換の処理を施すことにより、基準画質の画像に変換する。この際、たとえば、内視鏡装置で設定されている画質の調整値の情報を取得することにより、容易に基準画質の画像に変換することができる。
【０１３６】
内視鏡装置では、通常、観察画像である内視鏡画像を表示装置に表示する場合に色調等の画質の調整が行われる。したがって、内視鏡画像を表示装置に出力する場合に内視鏡装置で設定される画質の調整値の情報を取得して、基準画質の画像に変換する処理を行うことが好ましい。
【０１３７】
また、内視鏡装置では、内視鏡画像を静止画として保存する場合、静止画用の画質調整が行われる場合がある。このように、静止画用の画質調整を行う場合において、静止画の内視鏡画像を画像認識する場合は、内視鏡装置で設定される静止画用の画質の調整値の情報を取得して、基準画質の画像に変換する処理を行うことが好ましい。
【０１３８】
また、一般に画質補正の内容は、内視鏡画像が撮影された内視鏡装置ごとに異なるので、内視鏡装置ごとに設定された数値で内視鏡画像を処理して、内視鏡画像を基準画質の画像に変換する処理を行うことが好ましい。特に、色調調整する場合は、術者ごとに調整値が異なるので、術者ごとの設定に応じた画像変換処理を行って、基準画質の画像に変換することが好ましい。
【０１３９】
《画像認識部の変形例》
上記実施の形態では、画像認識部が、機械学習によって学習した畳み込みニューラルネットワークで構成される場合を例に説明したが、画像認識部の構成は、これに限定されるものではない。この他、公知の手法で機械学習することによって生成した学習済みモデルで画像認識部を構成することができる。
【０１４０】
なお、機械学習の際には、基準画質に変換された画像群で学習する。したがって、「基準画質」とは、画像認識部を生成した際の学習用の画像群の画質ということもできる。そして、「基準画質に変換する処理」とは、画像認識部を生成した際の学習用の画像群の画質に変換する処理ということもできる。
【０１４１】
《認識対象とする内視鏡画像の取得方法》
上記実施の形態では、認識対象とする内視鏡画像を内視鏡装置から直接取得する構成としているが、内視鏡画像の取得先は、これに限定されるものではない。たとえば、ネットワークを介して接続された他の記憶装置に保存されている内視鏡画像、サーバに記録されている内視鏡画像等を認識対象の内視鏡画像として取得してもよい。
【０１４２】
また、認識対象の内視鏡画像は、動画と静止画のいずれであってもよい。動画は、複数のフレームを含む時系列画像として構成される。
【０１４３】
◆◆その他の変形例◆◆
《内視鏡画像処理装置のハードウェア構成について》
内視鏡画像処理装置の機能は、各種のプロセッサ（processor）で実現できる。各種のプロセッサには、プログラムを実行して各種の処理部として機能する汎用的なプロセッサであるＣＰＵ（Central Processing Unit）、ＦＰＧＡ（Field Programmable Gate Array）などの製造後に回路構成を変更可能なプロセッサであるプログラマブルロジックデバイス（Programmable Logic Device：ＰＬＤ）、ＡＳＩＣ（Application Specific Integrated Circuit）などの特定の処理を実行させるために専用に設計された回路構成を有するプロセッサである専用電気回路などが含まれる。
【０１４４】
１つの処理部は、これら各種のプロセッサのうちの１つで構成されていてもよいし、同種又は異種の２つ以上のプロセッサで構成されてもよい。たとえば、１つの処理部は、複数のＦＰＧＡ、又は、ＣＰＵ及びＦＰＧＡの組み合わせによって構成されてもよい。また、複数の処理部を１つのプロセッサで構成してもよい。複数の処理部を１つのプロセッサで構成する例としては、第一に、クライアントやサーバなどのコンピュータに代表されるように、１つ以上のＣＰＵとソフトウェアの組み合わせで１つのプロセッサを構成し、このプロセッサが複数の処理部として機能する形態がある。第二に、システムオンチップ（System On Chip：ＳｏＣ）などに代表されるように、複数の処理部を含むシステム全体の機能を１つのＩＣ（Integrated Circuit）チップで実現するプロセッサを使用する形態がある。このように、各種の処理部は、ハードウェア的な構造として、上記各種のプロセッサを１つ以上用いて構成される。
【０１４５】
更に、これらの各種のプロセッサのハードウェア的な構造は、より具体的には、半導体素子などの回路素子を組み合わせた電気回路（circuitry）である。
【０１４６】
また、内視鏡画像処理装置の機能は、内視鏡装置を構成するプロセッサ装置に搭載することもできる。
【０１４７】
《内視鏡》
電子内視鏡は、軟性内視鏡に限らず、硬性内視鏡であってもよい。また、カプセル内視鏡であってもよい。
【０１４８】
《内視鏡装置の照明光について》
照明光は、白色光、あるいは、１又は複数の特定の波長帯域の光、あるいは、これらの組み合わせなど観察目的に応じた各種波長帯域の光が選択される。「特定の波長帯域」は、白色の波長帯域よりも狭い帯域である。特定の波長帯域に関する具体例を以下に示す。
【０１４９】
〈第１例〉
特定の波長帯域の第１例は、たとえば、可視域の青色帯域又は緑色帯域である。この第１例の波長帯域は、３９０ｎｍ以上４５０ｎｍ以下の波長帯域又は５３０ｎｍ以上５５０ｎｍ以下の波長帯域を含み、かつ、第１例の光は、３９０ｎｍ以上４５０ｎｍ以下の波長帯域内又は５３０ｎｍ以上５５０ｎｍ以下の波長帯域内にピーク波長を有する。
【０１５０】
〈第２例〉
特定の波長帯域の第２例は、たとえば、可視域の赤色帯域である。この第２例の波長帯域は、５８５ｎｍ以上６１５ｎｍ以下の波長帯域又は６１０ｎｍ以上７３０ｎｍ以下の波長帯域を含み、かつ、第２例の光は、５８５ｎｍ以上６１５ｎｍの波長帯域内以下又は６１０ｎｍ以上７３０ｎｍ以下の波長帯域内にピーク波長を有する。
【０１５１】
〈第３例〉
特定の波長帯域の第３例は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域を含み、かつ、第３例の光は、酸化ヘモグロビンと還元ヘモグロビンとで吸光係数が異なる波長帯域にピーク波長を有する。この第３例の波長帯域は、４００±１０ｎｍ、４４０±１０ｎｍの波長帯域、４７０±１０ｎｍの波長帯域、又は６００ｎｍ以上７５０ｎｍ以下の波長帯域を含み、かつ、第３例の光は、上記４００±１０ｎｍ、４４０±１０ｎｍ、４７０±１０ｎｍ、又は６００ｎｍ以上７５０ｎｍ以下の波長帯域内にピーク波長を有する。
【０１５２】
〈第４例〉
特定の波長帯域の第４例は、生体内の蛍光物質が発する蛍光の観察（蛍光観察）に用いられ、かつ、この蛍光物質を励起させる励起光の波長帯域、たとえば、３９０ｎｍから４７０ｎｍである。
【０１５３】
〈第５例〉
特定の波長帯域の第５例は、赤外光の波長帯域である。この第５例の波長帯域は、７９０ｎｍ以上８２０ｎｍ以下の波長帯域又は９０５ｎｍ以上９７０ｎｍ以下の波長帯域を含み、かつ、第５例の光は、７９０ｎｍ以上８２０ｎｍ以下の波長帯域内又は９０５ｎｍ以上９７０ｎｍ以下の波長帯域内にピーク波長を有する。
【０１５４】
《照明光の切り替えについて》
光源の種類は、レーザ光源、キセノン光源、若しくは、ＬＥＤ光源（ＬＥＤ：Light-Emitting Diode）、又は、これらの適宜の組み合わせを採用できる。光源の種類、波長、フィルタの有無等は被写体の種類、観察の目的等に応じて構成することが好ましく、また、観察の際は、被写体の種類、観察の目的等に応じて照明光の波長を組み合わせ、及び／又は、切り替えることが好ましい。波長を切り替える場合、たとえば、光源の前方に配置され、特定波長の光を透過又は遮光するフィルタが設けられた円板状のフィルタ（ロータリカラーフィルタ）を回転させることにより、照射する光の波長を切り替えてもよい。
【０１５５】
内視鏡に用いるイメージセンサは、各画素に対しカラーフィルタが配設されたカラーイメージセンサに限定されるものではなく、モノクロイメージセンサでもよい。モノクロイメージセンサを用いる場合、照明光の波長を順次切り替えて面順次（色順次）で撮像することができる。たとえば、出射する照明光の波長を、紫色、青色、緑色、及び赤色の間で順次切り替えてもよいし、白色光を照射してロータリカラーフィルタ（赤色、緑色、青色等）により出射する照明光の波長を切り替えてもよい。また、１又は複数の狭帯域光を照射してロータリカラーフィルタにより出射する照明光の波長を切り替えてもよい。狭帯域光は、波長の異なる２波長以上の赤外光でもよい。
【０１５６】
《特殊光画像の生成例》
プロセッサ装置４９は、白色光を用いて撮像して得られた通常光画像に基づいて、特定の波長帯域の情報を有する特殊光画像を生成してもよい。プロセッサ装置４９は、特定の波長帯域の信号を、通常光画像に含まれる赤（Ｒ）、緑（Ｇ）及び青（Ｂ）、又は、シアン（Cyan，Ｃ）、マゼンタ（Magenta，Ｍ）及びイエロー（Yellow，Ｙ）の色情報に基づく演算を行うことで得ることができる。
【０１５７】
《コンピュータに内視鏡画像処理装置の機能を実現させるプログラムについて》
上記の実施形態で説明した内視鏡画像処理装置の機能をコンピュータに実現させるプログラムを光ディスク、磁気ディスク、若しくは、半導体メモリその他の有体物たる非一時的な情報記憶媒体であるコンピュータ可読媒体に記録し、この情報記憶媒体を通じてプログラムを提供することが可能である。またこのような有体物たる非一時的な情報記憶媒体にプログラムを記憶させて提供する態様に代えて、インターネットなどの電気通信回線を利用してプログラム信号をダウンロードサービスとして提供することも可能である。
【０１５８】
また、上記の実施形態で説明した内視鏡画像処理装置の機能の一部又は全部をアプリケーションサーバとして提供し、電気通信回線を通じて処理機能を提供するサービスを行うことも可能である。
【０１５９】
《実施形態及び変形例等の組み合わせについて》
上記実施形態で説明した構成要素、及び変形例で説明した構成要素は、適宜組み合わせて用いることができ、また、一部の構成要素を置き換えることもできる。
【符号の説明】
【０１６０】
１  内視鏡システム
２  ネットワーク
１０  内視鏡装置
１１  内視鏡
１３  内視鏡制御装置
１５  内視鏡挿入部
１７  イメージセンサ
１９Ａ  ライトガイドコネクタ
１９Ｂ  ビデオコネクタ
２１  表示装置
２３  入力装置
２５  操作部
２７  接続部
３１  軟性部
３３  湾曲部
３５  先端硬質部
３７Ａ  照明窓
３７Ｂ  照明窓
３８  観察窓
３９  撮影光学系
４１  アングルノブ
４３  操作部材
４７  光源装置
４９  プロセッサ装置
５１  光源制御部
５３  コンバイナ
５５  カプラ
５７Ａ  光ファイバ
５７Ｂ  光ファイバ
５９  蛍光体
６１  スコープケーブル
６５  内視鏡制御部
６７  画像処理部
６９  記憶部
１００  内視鏡画像処理装置
１０６  ＲＯＭ
１０８  通信インターフェイス
１１０  入出力インターフェイス
１１２  記憶装置
１１４  入力装置
１１６  表示装置
１２０  内視鏡画像取得部
１２２  画像変換処理部
１２４  画像認識部
１２６  表示制御部
λａ  ４００ｎｍ付近の波長域
λｂ  波長５００ｎｍ付近の波長域
Ｓ１−Ｓ４  画像信号の取得から表示装置への出力までの処理の手順
Ｓ１１−Ｓ１４  内視鏡画像処理装置で実施される画像認識の処理の手順
Ｓ２１−Ｓ２４  画像信号の取得から表示装置への出力までの処理の手順
Ｓ３１−Ｓ３４  内視鏡画像処理装置で実施される画像認識の処理の手順
Ｓ４１−Ｓ４５  画像信号の取得から表示装置への出力までの処理の手順
Ｓ５１−Ｓ５５  内視鏡画像処理装置で実施される画像認識の処理の手順
【図１】
2019239854.tif 000006
【図２】
2019239854.tif 000007
【図３】
2019239854.tif 000008
【図４】
2019239854.tif 000009
【図５】
2019239854.tif 000010
【図６】
2019239854.tif 000011
【図７】
2019239854.tif 000012
【図８】
2019239854.tif 000013
【図９】
2019239854.tif 000014
【図１０】
2019239854.tif 000015
【図１１】
2019239854.tif 000016
【図１２】
2019239854.tif 000017
【図１３】
2019239854.tif 000018
【図１４】
2019239854.tif 000019
【図１５】
2019239854.tif 000020
【手続補正書】
【提出日】令和1年9月13日(2019.9.13)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
内視鏡装置で撮影された内視鏡画像を取得する内視鏡画像取得部と、
前記内視鏡装置で設定されている画質の調整値に基づいて、前記内視鏡画像を基準画質の画像に変換する処理を行う画像変換処理部と、
前記基準画質に変換された画像に対して画像認識を行う画像認識部と、
を備えた内視鏡画像処理装置。
【請求項２】
（削除）
【請求項３】
前記画像変換処理部は、前記内視鏡画像を表示装置に出力する場合に前記内視鏡装置で設定される画質の調整値に基づいて、前記内視鏡画像を前記基準画質の画像に変換する処理を行う、
請求項１に記載の内視鏡画像処理装置。
【請求項４】
前記画像変換処理部は、前記内視鏡画像を静止画として保存する場合に前記内視鏡装置で設定される画質の調整値に基づいて、前記内視鏡画像を前記基準画質の画像に変換する処理を行う、
請求項１に記載の内視鏡画像処理装置。
【請求項５】
前記画像変換処理部は、前記内視鏡装置で設定されている色調の調整値に基づいて、前記内視鏡画像を前記基準画質の画像に変換する処理を行う、
請求項１に記載の内視鏡画像処理装置。
【請求項６】
前記画像変換処理部は、前記内視鏡装置で設定されている光量による画質変化の調整値に基づいて、前記内視鏡画像を前記基準画質の画像に変換する処理を行う、
請求項１に記載の内視鏡画像処理装置。
【請求項７】
前記画像変換処理部は、前記内視鏡画像が撮影された前記内視鏡装置ごとに設定された数値で前記内視鏡画像を処理して、前記内視鏡画像を前記基準画質の画像に変換する処理を行う、
請求項１に記載の内視鏡画像処理装置。
【請求項８】
前記画像認識部は、前記基準画質に変換された画像で学習した畳み込みニューラルネットワークで構成される、
請求項１及び３から７のいずれか一項に記載の内視鏡画像処理装置。
【請求項９】
前記画像認識部が行う前記画像認識には、注目領域を検出する処理、及び／又は、認識対象を分類する処理が含まれる、
請求項１及び３から７のいずれか一項に記載の内視鏡画像処理装置。
【請求項１０】
内視鏡装置で撮影された内視鏡画像を取得するステップと、
前記内視鏡装置で設定されている画質の調整値に基づいて、前記内視鏡画像を基準画質の画像に変換する処理を行うステップと、
前記基準画質に変換された画像に対して画像認識を行うステップと、
を含む内視鏡画像処理方法。
【請求項１１】
内視鏡装置で撮影された内視鏡画像を取得する機能と、
前記内視鏡装置で設定されている画質の調整値に基づいて、前記内視鏡画像を基準画質の画像に変換する処理を行う機能と、
前記基準画質に変換された画像に対して画像認識を行う機能と、
をコンピュータに実現させる内視鏡画像処理プログラム。
【請求項１２】
非一時的かつコンピュータ読取可能な記憶媒体であって、前記記録媒体に格納された指令がコンピュータによって読み取られた場合に、
内視鏡装置で撮影された内視鏡画像を取得する機能と、
前記内視鏡装置で設定されている画質の調整値に基づいて、前記内視鏡画像を基準画質の画像に変換する処理を行う機能と、
前記基準画質に変換された画像に対して画像認識を行う機能と、
を含む内視鏡画像処理機能をコンピュータに実現させる記憶媒体。
【国際調査報告】
2019239854.tif 000021
2019239854.tif 000022
2019239854.tif 000023