(57)【特許請求の範囲】
【請求項１】
内視鏡から撮影画像を取得する画像取得部と、
前記画像取得部が取得した撮影画像を補正する第１補正部と、
前記画像取得部が取得した撮影画像を補正する第２補正部と、
前記第１補正部が補正した撮影画像に基づく内視鏡画像と、前記第２補正部が補正した撮影画像を入力した場合に認識結果を出力する学習済みの画像認識モデルを用いて、前記認識結果とを出力する出力部とを備え、
前記第２補正部は、前記撮影画像に対して、基本補正処理、幾何学歪み補正処理、ノイズ均一化補正処理若しくはノイズ低減処理の順に補正処理を行い、
または、前記基本補正処理、前記幾何学歪み補正処理、前記ノイズ均一化補正処理若しくは前記ノイズ低減処理から選択された一部の処理をこの順で行う
ことを特徴とする内視鏡用プロセッサ。
【請求項２】
前記出力部は、前記内視鏡画像に前記認識結果を重ねて出力する
請求項１に記載の内視鏡用プロセッサ。
【請求項３】
前記基本補正処理は、オフセット補正処理、ゲイン補正処理、シェーディング補正処理またはホワイトバランス補正処理を含み、
ゲイン補正処理及びシェーディング補正処理を含む場合、ゲイン補正処理をシェーディング補正処理より先に行い、
ゲイン補正処理及びホワイトバランス補正処理を含む場合、ゲイン補正処理をホワイトバランス補正処理より先に行う
請求項１または請求項２に記載の内視鏡用プロセッサ。
【請求項４】
前記ノイズ均一化補正処理は、前記撮影画像の周辺部と中心部とでノイズの標準偏差を同等にし、
前記ノイズ低減処理は、前記撮影画像で全体的にノイズを低減する
請求項１から請求項３のいずれか一つに記載の内視鏡用プロセッサ。
【請求項５】
前記第２補正部が前記撮影画像を幾何学歪み補正処理で補正した後に、周縁部を除去した基準矩形の領域を取得する取得部を有し、
前記出力部が、前記取得部が取得した前記基準矩形の領域を出力する
請求項１から請求項４のいずれか一つに記載の内視鏡用プロセッサ。
【請求項６】
前記第２補正部が前記撮影画像を幾何学歪み補正処理で補正した後に、補正後の撮影画像の各辺に沿って、画素を補完した基準矩形の領域を取得する第２の取得部を有し、
前記出力部が、前記第２の取得部が取得した前記基準矩形の領域を出力する
請求項１から請求項４のいずれか一つに記載の内視鏡用プロセッサ。
【請求項７】
複数の前記学習済みの画像認識モデルから、使用する学習済みの画像認識モデルの選択を受け付ける受付部を有し、
前記受付部が前記画像認識モデルの選択を受け付けた場合、前記第２補正部が補正した撮影画像を、選択を受け付けた前記画像認識モデルに入力する
請求項１から請求項６のいずれか一つに記載の内視鏡用プロセッサ。
【請求項８】
内視鏡から撮影画像を取得する画像取得部と、
前記画像取得部が取得した撮影画像を補正する第１補正部と、
前記画像取得部が取得した撮影画像を補正する第２補正部と、
前記第１補正部が補正した撮影画像に基づく内視鏡画像と、前記第２補正部が補正した撮影画像を入力した場合に認識結果を出力する学習済みの画像認識モデルを用いて、前記認識結果とを出力する出力部とを備え、
前記第２補正部は、前記撮影画像に対して、基本補正処理、幾何学歪み補正処理、ノイズ均一化補正処理若しくはノイズ低減処理の順に補正処理を行い、
または、前記基本補正処理、前記幾何学歪み補正処理、前記ノイズ均一化補正処理若しくは前記ノイズ低減処理から選択された一部の処理をこの順で行う
ことを特徴とする情報処理装置。
【請求項９】
内視鏡用プロセッサと、前記内視鏡用プロセッサに接続される内視鏡とを備える内視鏡システムにおいて、
前記内視鏡用プロセッサは、
内視鏡から撮影画像を取得する画像取得部と、
前記画像取得部が取得した撮影画像を補正する第１補正部と、
前記画像取得部が取得した撮影画像を補正する第２補正部と、
前記第１補正部が補正した撮影画像に基づく内視鏡画像と、前記第２補正部が補正した撮影画像を入力した場合に認識結果を出力する学習済みの画像認識モデルを用いて、前記認識結果とを出力する出力部とを有し、
前記第２補正部は、前記撮影画像に対して、基本補正処理、幾何学歪み補正処理、ノイズ均一化補正処理若しくはノイズ低減処理の順に補正処理を行い、
または、前記基本補正処理、前記幾何学歪み補正処理、前記ノイズ均一化補正処理若しくは前記ノイズ低減処理から選択された一部の処理をこの順で行う
ことを特徴とする内視鏡システム。
【請求項１０】
内視鏡から撮影画像を取得し、
取得した撮影画像を第１補正処理により補正し、
取得した撮影画像を、基本補正処理、幾何学歪み補正処理、ノイズ均一化補正処理若しくはノイズ低減処理の順に第２補正処理により補正し、
または、前記基本補正処理、前記幾何学歪み補正処理、前記ノイズ均一化補正処理若しくは前記ノイズ低減処理から選択された一部の処理をこの順で前記第２補正処理により補正し、
前記第１補正処理により補正した撮影画像に基づく内視鏡画像と、前記第２補正処理により補正した撮影画像を入力した場合に認識結果を出力する学習済みの画像認識モデルを用いて、前記認識結果とを出力する
処理をコンピュータに実行させるプログラム。
【請求項１１】
内視鏡から撮影画像を取得し、
取得した撮影画像を第１補正処理により補正し、
取得した撮影画像を、基本補正処理、幾何学歪み補正処理、ノイズ均一化補正処理若しくはノイズ低減処理の順に第２補正処理により補正し、
または、前記基本補正処理、前記幾何学歪み補正処理、前記ノイズ均一化補正処理若しくは前記ノイズ低減処理から選択された一部の処理をこの順で前記第２補正処理により補正し、
前記第１補正処理により補正した撮影画像に基づく内視鏡画像と、前記第２補正処理により補正した撮影画像を入力した場合に認識結果を出力する学習済みの画像認識モデルを用いて、前記認識結果とを出力する
処理をコンピュータが実行する情報処理方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、内視鏡用プロセッサ、情報処理装置、内視鏡システム、プログラム及び情報処理方法に関する。
【背景技術】
【０００２】
近年、内視鏡検査における検出精度を向上するための各種の画像処理技術がある。例えば、特許文献１には、距離を反映した学習特徴量を用いて、距離情報に基づく検出処理を行うことで、画像から精度よく対象領域を検出する検出装置が開示されている。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２０１４−２３２４７０号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
しかしながら、特許文献１の発明では、医師による観察に適した内視鏡画像から特徴量を抽出する。そのため、画像の幾何学歪み、全画素の均一性の欠如等で画像の特徴量を正確に求められず、対象領域を正しく抽出できないおそれがある。【０００５】
一つの側面では、学習済みの画像認識モデルを用いた画像認識処理において、精度の良い認識結果を出力することが可能な内視鏡用プロセッサ等を提供することを目的とする。
【課題を解決するための手段】
【０００６】
一つの側面に係る内視鏡用プロセッサは、内視鏡から撮影画像を取得する画像取得部と、前記画像取得部が取得した撮影画像を補正する第１補正部と、前記画像取得部が取得した撮影画像を補正する第２補正部と、前記第１補正部が補正した撮影画像に基づく内視鏡画像と、前記第２補正部が補正した撮影画像を入力した場合に認識結果を出力する学習済みの画像認識モデルを用いて、前記認識結果とを出力する出力部とを備え、前記第２補正部は、前記撮影画像に対して、基本補正処理、幾何学歪み補正処理、ノイズ均一化補正処理若しくはノイズ低減処理の順に補正処理を行い、または、前記基本補正処理、前記幾何学歪み補正処理、前記ノイズ均一化補正処理若しくは前記ノイズ低減処理から選択された一部の処理をこの順で行うことを特徴とする。
【発明の効果】
【０００７】
一つの側面では、学習済みの画像認識モデルを用いた画像認識処理において、精度の良い認識結果を出力することが可能となる。
【図面の簡単な説明】
【０００８】
【図１】内視鏡システムの構成例を示す模式図である。
【図２】内視鏡から取り込まれた撮影画像に対する補正処理を説明する説明図である。
【図３】幾何学歪み補正処理を説明する説明図である。
【図４】内視鏡の外観図である。
【図５】プロセッサの構成例を示すブロック図である。
【図６】補正ＤＢのレコードレイアウトの一例を示す説明図である。
【図７】内視鏡画像と認識結果とを表示する模式図である。
【図８】撮影画像に対する補正処理を行う際の処理手順を示すフローチャートである。
【図９】第１補正処理のサブルーチンの処理手順を示すフローチャートである。
【図１０】第２補正処理のサブルーチンの処理手順を示すフローチャートである。
【図１１】実施形態２のプロセッサの構成例を示すブロック図である。
【図１２】学習済みの画像認識モデルの選択を受け付ける画面の例である。
【図１３】学習済みの画像認識モデルの選択を受け付ける際の処理手順を示すフローチャートである。
【図１４】実施形態１〜２のプロセッサの動作を示す機能ブロック図である。
【発明を実施するための形態】
【０００９】
以下、本発明をその実施形態を示す図面に基づいて詳述する。
【００１０】
（実施形態１）
実施形態１は、内視鏡から取り込まれた画像（撮影画像）に対する補正処理を行ってから画像認識処理を行う形態に関する。内視鏡は、軟性内視鏡または硬性内視鏡を含む。軟性内視鏡は、先端のレンズ系で捉えた画像をグラスファイバーで体外の接眼部まで導いて肉眼で観察するファイバースコープと、先端のＣＣＤ(Charge Coupled Device)、ＣＭＤ（Charge Modulation Device）またはＣＭＯＳ（Complementary Metal Oxide Semiconductor）に写し電気的にモニターまで導いて観察する内視鏡である。硬性内視鏡は、先端からレンズ系を繋いで体外の接眼部で観察する内視鏡である。
【００１１】
図１は、内視鏡システムの構成例を示す模式図である。図１に示すシステムは、被検体の体内に挿入されて撮影を行い、観察対象の映像信号を出力する内視鏡１、内視鏡１が出力した映像信号を内視鏡画像に変換する内視鏡用プロセッサ２、及び内視鏡画像等を表示する表示装置３を含む。各装置はコネクタを介して電気信号、映像信号等の送受信を行う。
【００１２】
内視鏡１は、先端部に撮像素子がある挿入部を被検体の体内に挿入し、診断または治療を行う器具である。内視鏡１は、先端にある撮像素子を用いて捉えた撮影画像をプロセッサ２に転送する。
【００１３】
内視鏡用プロセッサ２は、内視鏡１の先端にある撮像素子から取り込まれた撮像画像に対して画像処理を行い、内視鏡画像を生成して表示装置３に出力する情報処理装置である。また、以下では簡潔のため、内視鏡用プロセッサ２をプロセッサ２と読み替える。
【００１４】
表示装置３は、液晶ディスプレイ又は有機ＥＬ（electroluminescence）ディスプレイ等であり、プロセッサ２から出力された内視鏡画像等を表示する。
【００１５】
図２は、内視鏡１から取り込まれた撮影画像に対する補正処理を説明する説明図である。プロセッサ２は、内視鏡１から取得した撮影画像を第１補正処理により補正した内視鏡画像を生成する。プロセッサ２は、内視鏡１から取得した撮影画像を第２補正処理により補正したＡＩ（Artificial Intelligence）補正用画像を生成する。プロセッサ２は、ＡＩ補正用画像を後述する画像認識モデル２７２に入力して認識結果を取得する。ＡＩ補正用画像を用いることで、画像認識モデル２７２による画像認識処理における精度が高い認識結果を取得することができる。プロセッサ２は、取得した内視鏡画像と、認識結果とを表示装置３に出力する。
【００１６】
第１補正処理は、内視鏡１から取り込まれた撮影画像から、医師による観察に適した内視鏡画像を生成するための補正処理であり、オフセット（Offset）補正処理、ゲイン（Gain）補正処理、ガンマ（Gamma）補正処理、ホワイトバランス（White Balance）補正処理のうち少なくとも１つを含む。
【００１７】
オフセット補正処理は、暗電流画像に基づいて予め定められたオフセット補正データを用いて、暗電流の影響を除去する。暗電流は、光電効果を示す半導体等の電気素子に電圧を加えたときに、熱的原因、絶縁不良または結晶欠陥等によって光を当てなくても流れる電流である。発生した暗電流によって、撮影した画像にノイズが現れることがある。オフセット補正データは、例えば被写体に対する撮影を開始する前の非撮影期間において複数枚の暗電流画像データを取得し、取得された複数枚の暗電流画像データを合成して生成されても良い。生成されたオフセット補正データを用いて、内視鏡１から得られた撮影画像を構成する各画素の画素値から一定値である暗電流値が減算される。
【００１８】
ゲイン補正処理は、撮像素子の各画素の感度ばらつきを補正する処理である。ガンマ補正処理は、撮影画像の階調値と、表示装置３に出力される信号の階調値との相対関係を調節して、元データにできるだけ忠実な画像を表示装置３に表示するための補正である。ガンマ補正は、表示装置３等の入出力機器のガンマ値に応じた最適のカーブに画像の階調を補正する。
【００１９】
ホワイトバランス補正処理は、色温度が異なる光源の下でも、青系と赤系と緑系とのカラーバランスを調節して撮影画像の白色を正確に表現する補正処理である。
【００２０】
第２補正処理は、学習済みの画像認識モデル２７２を用いて画像認識処理における精度が高い認識結果を取得するための補正処理であり、基本補正処理、幾何学歪み補正処理、及びノイズ均一化補正処理若しくはノイズ低減処理を含む。
【００２１】
基本補正処理は、オフセット補正処理、ゲイン補正処理、シェーディング（Shading）補正処理及びホワイトバランス補正処理を含む。シェーディング補正処理は、撮影画像全体の明度均一化のための補正処理である。オフセット補正処理、ゲイン補正処理及びホワイトバランス補正処理は、第１補正処理のオフセット補正処理、ゲイン補正処理及びホワイトバランス補正処理と同様であるため、説明を省略する。
【００２２】
幾何学歪み補正処理は、撮影画像の歪みを補正する処理である。図３は、幾何学歪み補正処理を説明する説明図である。図３の上部の左側は、縦線および横線がそれぞれ等間隔に並んだグリッドパターンを有する被写体を示す。図３の上部の中央には、内視鏡１により該被写体を撮影した撮影画像を示す。内視鏡１の広角レンズによる幾何学歪みにより、中央部が膨らみ、周辺部が収縮した状態である。被写体の直線は湾曲した状態である。図３の上部の右側には、幾何学歪み補正処理により撮影画像を補正した画像を示す。幾何学歪み補正処理により湾曲した線が、本来の直線に戻される。
【００２３】
幾何学補正処理により、撮影画像の中心部が収縮するため、補正後の画像の外形は糸巻き型になる。補正後の撮影画像から矩形の領域を取得して後続する処理で使用する。以降の説明では、領域を取得する範囲を示す矩形を基準矩形と記載する。
【００２４】
基準矩形の領域の取得処理に関しては、図３の下部を用いて説明する。図３下部の上から１段目は、補正後の撮影画像の内側から基準矩形の領域を取得する場合を示す。具体的には、糸巻き型に補正された撮影画像の内側に入る最大の矩形を基準矩形に使用する。
【００２５】
図３下部の上から２段目は、補正後の撮影画像の外縁から基準矩形を取得する例を示す。具体的には、糸巻き型に補正された撮影画像を囲む最小の矩形を基準矩形に使用する。基準矩形と補正後の撮影画像との間の領域の画素を補完する。
【００２６】
図３下部の上から３段目は、上述した２種類の基準矩形の領域を取得する処理の中間である。糸巻き型の撮影画像に対して矩形の領域を特定し、画素がない領域に画素を補完して基準矩形の領域を取得する。なお、上述した基準矩形の領域を取得する処理に限るものではない。例えば、先に糸巻き型の撮影画像の各辺に沿って画素を補完し、補完した領域から適当な矩形の領域を切り取って取得しても良い。幾何歪がより少ない方が、画像の特徴パラメータの精度、再現性を上げることができる。精度の良い画像の特徴パラメータにより認識を行うと、安定的な結果を出力することが可能で認識率が上がることが知られている。
【００２７】
ノイズ均一化補正処理は、撮影画像の周辺部と中心部とでノイズの標準偏差（ＳＤ: Standard Deviation）を同等にする。撮影画像の周辺部のノイズの標準偏差が、中心部のノイズの標準偏差より大きい場合、プロセッサ２は、周辺部の画素に平滑化フィルタ、またはメディアンフィルタ等をかけて、中心部と周辺とのノイズの標準偏差を同等にする。ノイズ低減処理は、撮影画像の全体的なノイズを低減する。ノイズ均一化があまり上手くいかなくても全体的なノイズを低減できれば良い。
【００２８】
ＡＩに基づく画像認識では、目視の場合に比べ、ノイズがより少ない方が、ノイズの均一性がより良い方が、シェーディングがより少ない方が、幾何歪がより少ない方が、各画素のバラツキが少ない方が、人の目の特性に合わせたガンマ補正ではなくリニア(線型)な諧調変換の方が、画像の特徴パラメータの精度が上がり、精度の良い認識結果を出力することが可能で認識率が上がることが知られている。このため、目視用画像と、ＡＩに基づく画像認識用の画像とを別に補正している。
【００２９】
図４は、内視鏡１の外観図である。内視鏡１は、撮像素子１１、処置具挿入チャネル１２、操作部１３及びコネクタ１４を含む。撮像素子１１は、内視鏡１の先端部に設置された、例えばＣＣＤイメージセンサ、ＣＭＤイメージセンサまたはＣＭＯＳイメージセンサであり、入射光を光電変換する。光電変換により生成された電気信号には、図示しない信号処理回路によりＡ／Ｄ変換、ノイズ除去などの信号処理が施され、プロセッサ２に出力される。
【００３０】
処置具挿入チャネル１２は、処置具を通すためのチャネルである。処置具は、例えば把持具、生検針、鉗子、スネア、クランプ、ハサミ、メス、切開器具、内視鏡ステープラ、組織ループ、クリップアプライヤ、縫合糸送達器具、またはエネルギーによる組織凝固器具若しくは組織切断器具である。操作部１３にはレリーズボタン、内視鏡の先端を曲げるためのアングルノブ等が設けられ、例えば送気、送水、送ガス等の周辺機器の操作指示信号の入力を受け付ける。コネクタ１４は、プロセッサ２に接続される。
【００３１】
図５は、プロセッサ２の構成例を示すブロック図である。プロセッサ２は、制御部２１、記憶部２２、操作入力部２３、出力部２４、光源制御部２５、読取部２６、大容量記憶部２７、光源２８及び通信部２９を含む。各構成はバスＢで接続されている。
【００３２】
制御部２１は、ＣＰＵ（Central Processing Unit）、ＭＰＵ（Micro-Processing Unit）、ＧＰＵ（Graphics Processing Unit）等の演算処理装置を含み、記憶部２２に記憶された制御プログラム２Ｐを読み出して実行することにより、プロセッサ２に係る種々の情報処理、制御処理等を行う。なお、図５では制御部２１を単一のプロセッサであるものとして説明するが、マルチプロセッサであっても良い。
【００３３】
記憶部２２は、ＲＡＭ（Random Access Memory）、ＲＯＭ（Read Only Memory）等のメモリ素子を含み、制御部２１が処理を実行するために必要な制御プログラム２Ｐ又はデータ等を記憶している。また、記憶部２２は、制御部２１が演算処理を実行するために必要なデータ等を一時的に記憶する。操作入力部２３は、例えばタッチパネル、各種スイッチ等の入力デバイスによって構成され、これらの入力デバイスに対する外部からの操作に応じて発生した入力信号を制御部２１に入力する。出力部２４は、制御部２１の制御の下で、表示用の画像信号及び各種の情報を表示装置３に出力し、画像及び情報を表示させる。
【００３４】
光源制御部２５は、ＬＥＤ等のオン／オフ、ＬＥＤ等の駆動電流及び駆動電圧の調整によって照明光の発光量を制御する。また、光源制御部２５は、光学フィルタの変更等によって、照明光の波長帯域を制御する。光源制御部２５は、各ＬＥＤの点灯や消灯、及び点灯時の発光量等を独立に制御することによって、照明光の発光タイミング、発光期間、光量、及び分光スペクトルの調節を行う。
【００３５】
読取部２６は、ＣＤ（Compact Disc）−ＲＯＭ又はＤＶＤ（Digital Versatile Disc）−ＲＯＭを含む可搬型記憶媒体２ａを読み取る。制御部２１が読取部２６を介して、制御プログラム２Ｐを可搬型記憶媒体２ａより読み取り、大容量記憶部２７に記憶しても良い。また、ネットワークＮ等を介して他のコンピュータから制御部２１が制御プログラム２Ｐをダウンロードし、大容量記憶部２７に記憶しても良い。さらにまた、半導体メモリ２ｂから、制御部２１が制御プログラム２Ｐを読み込んでも良い。
【００３６】
大容量記憶部２７は、例えばＨＤＤ（Hard disk drive:ハードディスク）、ＳＳＤ(Solid State Drive:ソリッドステートドライブ)等の記録媒体を備える。大容量記憶部２７には、補正ＤＢ２７１及び画像認識モデル２７２が記憶されている。補正ＤＢ２７１は、内視鏡１から取り込まれた撮影画像に対して補正処理を行うための補正データを記憶している。画像認識モデル２７２は、撮影画像に基づいて、被検体の体内の病変、組織等を認識する画像認識器であり、機械学習により生成された学習済みモデルである。なお、画像認識モデル２７２は、ネットワークを介して接続されたクラウドコンピューティングシステムに配置され、使用されても良い。
【００３７】
なお、本実施形態において記憶部２２及び大容量記憶部２７は一体の記憶装置として構成されていても良い。また、大容量記憶部２７は複数の記憶装置により構成されていても良い。更にまた、大容量記憶部２７はプロセッサ２に接続された外部記憶装置であっても良い。
【００３８】
光源２８は、観察対象の照明に用いる照明光を発する光源を備える。光源は、例えば、波長域が異なる複数色のＬＥＤ（Light Emitting Diode）等の半導体光源、レーザーダイオードと蛍光体の組み合わせ、又はキセノンランプ、ハロゲンランプ等である。光源２８は、プロセッサ２の光源制御部２５からの制御に従い明るさ等を調整する。なお、本実施形態では、プロセッサ２が光源一体型であるが、これに限るものではない。例えば、プロセッサ２は、光源装置と分離する光源分離型であっても良い。通信部２９は、通信に関する処理を行うための通信モジュールであり、ネットワークＮを介して、外部の情報処理装置等との間で情報の送受信を行う。
【００３９】
図６は、補正ＤＢ２７１のレコードレイアウトの一例を示す説明図である。補正ＤＢ２７１は、管理ＩＤ列、補正種別列及び補正データ列を含む。管理ＩＤ列は、各補正データを識別するために、一意に特定される補正データのＩＤを記憶している。補正種別列は、補正データの種別を記憶している。補正データ列は、プロセッサ２と組み合わせて使用する内視鏡１及び表示装置３に合わせて、各種の補正データを記憶している。例えば、オフセット補正の補正データは、オフセットを補正するための補正係数である。例えば、ガンマ補正の補正データは、組み合わせの表示装置３のガンマカーブを記録したテーブルである。
【００４０】
続いて、図２に戻り、内視鏡１から取り込まれた撮影画像に対する補正処理を詳しく説明する。内視鏡１の先端が被検体の体内に挿入された場合、プロセッサ２の制御部２１は、内視鏡１の先端にある撮像素子１１から取り込まれた撮影画像を取得する。制御部２１は、内視鏡１から取得した撮影画像を第１補正処理により補正する。
【００４１】
具体的には、プロセッサ２の制御部２１は、取得した撮影画像に対してオフセット補正処理を行い、オフセット補正後の撮影画像に対してゲイン補正を行う。制御部２１は、ゲイン補正後の画像に対してガンマ補正処理を行い、ガンマ補正後の撮影画像に対してホワイトバランス補正処理を行う。なお、上述した補正処理の順に限るものではない。例えば制御部２１は、オフセット補正、ゲイン補正、ホワイトバランス補正、ガンマ補正の順に第１補正処理を行っても良い。また全部の補正が必ずしも必須ではない。少なくとも1つ、部分的に行っても良い。以上により、制御部２１は、内視鏡画像を生成する。
【００４２】
制御部２１は第１補正処理と並行して、内視鏡１から取得した撮影画像を第２補正処理により補正してＡＩ補正用画像を生成する。具体的には、制御部２１は、取得した撮影画像に対し、基本補正、幾何学歪み補正、ノイズ均一化補正またはノイズ低減処理の順に第２補正処理を行う。基本補正処理は、ゲイン補正処理、シェーディング補正処理、ホワイトバランス補正処理を含む。制御部２１は、ゲイン補正、シェーディング補正、ホワイトバランス補正の順、またはゲイン補正、ホワイトバランス補正、シェーディング補正の順に基本補正処理を行う。
【００４３】
また全部の補正が必ずしも必須ではない、部分的に行われても良い。具体的には、例えば制御部２１は基本補正、ノイズ均一化補正またはノイズ低減処理、幾何学歪み補正の順に第２補正処理を行っても良い。また、制御部２１は幾何学歪み補正、基本補正、ノイズ均一化補正またはノイズ低減処理の順に第２補正処理を行っても良い。すなわち、基本補正、幾何学歪み補正、ノイズ均一化補正またはノイズ低減処理の第２補正処理に対し、実行順を限定せず、任意の順番または組み合わせであっても良い。さらにまた、後述する部分的に行われる第２補正処理（実施形態４）であっても良い。
【００４４】
制御部２１は、後述する学習済みの画像認識モデル２７２にＡＩ補正用画像を入力して、画像認識結果を取得する。
【００４５】
以下では、ディープラーニングにより構築された画像認識モデル２７２（ＡＩ（人工知能）に基づく画像認識モデル）を用いて、大腸内のポリープを認識した認識結果を出力する例を説明する。ポリープは、大腸の粘膜の一部がイボ状に盛り上がり、大腸の空間部分に突出したものであり、大部分が良性の疾患で、今すぐ身体に害を及ぼすことがないが、徐々に大きくなれば出血等を起こす場合がある。なお、本実施形態では、ポリープ抽出用の画像認識モデル２７２の例を説明するが、他の学習済みの画像認識モデルであっても良い。
【００４６】
画像認識モデル２７２は、人工知能ソフトウェアの一部であるプログラムモジュールとして利用される。画像認識モデル２７２は、ＡＩ補正用画像が入力された場合に、ポリープが写っていると推定する領域と、その領域にポリープが写っている確率とを示す情報を出力する学習モデルである。
【００４７】
画像認識モデル２７２は、教師データあり学習によって生成されたニューラルネットワークである。教師データは、ＡＩ補正用画像に対し、ポリープに該当する画像領域の座標範囲と、ポリープに関する情報とがラベル付けされたデータである。図示を省略する情報処理装置（例えば、サーバ）で生成された画像認識モデル２７２が、ネットワークまたは読取部２６を介して、大容量記憶部２７に記憶されても良い。
【００４８】
本実施の形態の画像認識モデル２７２は、ＲＣＮＮ（Regions with Convolutional Neural Network）を用いて推定を行う。画像認識モデル２７２は、領域候補抽出部７２ａと、分類部７２ｂとを含む。分類部７２ｂは、図示を省略するニューラルネットワークを含む。ニューラルネットワークは、コンボリューション層、プーリング層および全結合層を含む。
【００４９】
画像認識モデル２７２に、撮影画像が入力される。領域候補抽出部７２ａは、撮影画像から、様々なサイズの領域候補を抽出する。分類部７２ｂは、抽出された領域候補の特徴量を算出し、算出した特徴量に基づいて領域候補に映っている被写体がポリープであるか否かを分類する。画像認識モデル２７２は、領域候補の抽出と分類とを繰り返す。
【００５０】
画像認識モデル２７２は、所定の閾値よりも高い確率でポリープが写っていると分類された領域候補について、領域の範囲、および、ポリープが写っている確率を出力する。図２に示す例では、８０パーセントの確率でポリープが写っている領域と、９０パーセントの確率でポリープが写っている領域とが検出されている。
【００５１】
なお、ＲＣＮＮの代わりに、Ｆａｓｔ ＲＣＮＮ、Ｆａｓｔｅｒ  ＲＣＮＮまたはＳＳＤ（Single Shot Multibook Detector）、ＹＯＬＯ（You Only Look Once）等の、任意の物体検出アルゴリズムを使用しても良い。
【００５２】
制御部２１は、第１補正処理を行った撮影画像に基づく内視鏡画像と、第２補正処理を行ったＡＩ補正用画像を用いて、学習済みの画像認識モデル２７２から出力した認識結果とを重畳して表示用の画像を生成する。制御部２１は、生成した表示用の画像を表示装置３に出力する。なお、上述した大腸内の撮影画像に対する第１補正処理及び第２補正処理の例を説明したが、これに限らず、他の部位に対する第１補正処理及び第２補正処理を行っても良い。他の部位は、例えば胃、十二指腸、気管支または泌尿器等である。
【００５３】
図７は、内視鏡画像と認識結果とを表示する模式図である。図示のように、表示装置３は、プロセッサ２から出力された表示用の画像を表示する。認識結果は、例えば潰瘍または腫瘍の確率等であっても良い。なお、上述した表示方式に限るものではない。例えば、認識されたポリープに対して識別ＩＤが付与され、識別ＩＤごとに内視鏡画像以外の領域に、認識結果が表示されても良い。
【００５４】
図８は、撮影画像に対する補正処理を行う際の処理手順を示すフローチャートである。プロセッサ２の制御部２１は、内視鏡１から転送された撮影画像を取得する（ステップＳ２０１）。制御部２１は、大容量記憶部２７の補正ＤＢ２７１から、各種の補正処理を行うための補正データ（係数）を取得する（ステップＳ２０２）。補正データは、例えばオフセット補正のデータ、シェーディング補正係数等であっても良い。
【００５５】
制御部２１は、取得した撮影画像に対して第１補正処理を行う（ステップＳ２０３）。なお、第１補正処理のサブルーチンに関しては後述する。並行して、制御部２１は、取得した撮影画像に対して第２補正処理を行い、ＡＩ補正用画像を生成する（ステップＳ２０４）。なお、第２補正処理のサブルーチンに関しては後述する。
【００５６】
なお、図８では、第１補正処理と、第２補正処理とを並行して行う例を説明したが、これにこだわらない。第１補正処理及び第２補正処理は、一方を先に実行し、他方を後に実行しても良い。
【００５７】
制御部２１は、第２補正処理で補正したＡＩ補正用画像を学習済みの画像認識モデル２７２に入力する（ステップＳ２０５）。制御部２１は、画像認識モデル２７２を用いて、ＡＩ補正用画像に対する画像特徴量を抽出することにより、病変（例えば、大腸ポリープ等）等を認識した認識結果を取得する（ステップＳ２０６）。
【００５８】
制御部２１は、ステップＳ２０３で生成した内視鏡画像と、ステップＳ２０６で取得した画像認識モデル２７２による認識結果とを表示装置３に出力し（ステップＳ２０７）、制御部２１は処理を終了する。表示装置３は、プロセッサ２から出力された内視鏡画像と認識結果とを表示する（ステップＳ３０１）。
【００５９】
図９は、第１補正処理のサブルーチンの処理手順を示すフローチャートである。プロセッサ２の制御部２１は、補正ＤＢ２７１から取得したオフセット補正データを用いて、内視鏡１から取り込まれた撮影画像に対してオフセット補正処理を行い（ステップＳ２１１）、暗電流を除去する。制御部２１は、補正ＤＢ２７１から取得したゲイン補正係数を、オフセット補正後の撮影画像の各画素に乗算してゲイン補正処理を行う（ステップＳ２１２）。制御部２１は、表示装置３のガンマ値に基づくガンマ補正処理を行う（ステップＳ２１３）。制御部２１は、補正ＤＢ２７１から取得したホワイトバランス補正のＲＧＢ補正係数を用いて、ガンマ補正後の撮影画像の各画素値のＲＧＢ信号のレベルを校正し、ホワイトバランス補正処理を行う（ステップＳ２１４）。その後、制御部２１は処理を終了する。なお、図９に示す各補正処理の順序は適宜変更できる。
【００６０】
図１０は、第２補正処理のサブルーチンの処理手順を示すフローチャートである。プロセッサ２の制御部２１は、補正ＤＢ２７１から取得したオフセット補正データを用いて、内視鏡１から取り込まれた撮影画像に対してオフセット補正処理を行い（ステップＳ２２１）、暗電流を除去する。制御部２１は、補正ＤＢ２７１から取得したゲイン補正係数を、オフセット補正後の撮影画像の各画素に乗算してゲイン補正処理を行う（ステップＳ２２２）。
【００６１】
制御部２１は、補正ＤＢ２７１から取得したシェーディング補正係数を、ゲイン補正後の撮影画像の各画素に乗算してシェーディング補正処理を行う（ステップＳ２２３）。制御部２１は、補正ＤＢ２７１から取得したホワイトバランス補正のＲＧＢ補正係数を用いて、シェーディング補正後の撮影画像の各画素値のＲＧＢ信号のレベルを校正し、ホワイトバランス補正処理を行う（ステップＳ２２４）。なお、図１０では、制御部２１はシェーディング補正、ホワイトバランス補正の順に補正処理を行ったが、これに限るものではない。例えば、制御部２１はホワイトバランス補正、シェーディング補正の順に補正処理を行っても良い。
【００６２】
制御部２１は、ホワイトバランス補正後の撮影画像の全画素が等間隔になるよう幾何学歪み補正処理を行う（ステップＳ２２５）。制御部２１は、幾何学歪み補正後の撮影画像の周辺部と中心部それぞれのノイズの標準偏差を算出し、周辺部のノイズの標準偏差が中心部のノイズの標準偏差より大きい場合、平滑化フィルタまたはメディアンフィルタ等をかけてノイズ均一化補正処理を行う（ステップＳ２２６）。その後、制御部２１は処理を終了する。
【００６３】
本実施形態によると、内視鏡１から取り込まれた撮影画像に対して第１補正処理を行うことにより、医師による観察に適した内視鏡画像を生成することが可能となる。
【００６４】
本実施形態によると、内視鏡１から取り込まれた撮影画像に対して第２補正処理を行うことにより、補正後の撮影画像を学習済みの画像認識モデルに入力した場合に画像認識の精度を向上するため、正確性の高い画像認識結果を出力することが可能となる。
【００６５】
本実施形態によると、最適化の観察用の撮影画像と共に、学習済みの画像認識モデルを用いた精度が高い画像認識結果とを重畳して出力することにより、医師の内視鏡診断を支援することが可能となる。
【００６６】
（実施形態２）
実施形態２は、複数の学習済みの画像認識モデルから、使用する学習済みの画像認識モデルの選択を受け付ける形態に関する。なお、実施形態１と重複する内容については説明を省略する。
【００６７】
図１１は、実施形態２のプロセッサ２の構成例を示すブロック図である。なお、図５と重複する内容については同一の符号を付して説明を省略する。本実施形態では、画像認識モデル２７２は、ポリープ抽出モデル２７２１、及び潰瘍抽出モデル２７２２の例を説明する。なお、画像認識モデル２７２の種類、数量は特に限定されない。また、プロセッサ２は、図示しない外部情報処理装置から画像認識モデル２７２をダウンロードして大容量記憶部２７に記憶する。プロセッサ２は、外部の情報処理装置に記憶された多数の画像認識モデル２７２から、ユーザにより選択された画像認識モデル２７２をダウンロードしても良い。ポリープ抽出モデル２７２１は、大腸内のポリープを抽出する抽出器であり、機械学習により生成された学習済みモデルである。潰瘍抽出モデル２７２２は、潰瘍を抽出する抽出器であり、機械学習により生成された学習済みモデルである。
【００６８】
図１２は、学習済みの画像認識モデルの選択を受け付ける画面の例を示す。プロセッサ２の制御部２１は、複数の学習済みの選択可能な画像認識モデルの名称を表示装置３に出力する。図示のように、「画像認識モデル不使用」、「ポリープ抽出モデル」及び「潰瘍抽出モデル」をそれぞれ選択するボタンが表示されている。
【００６９】
制御部２１は、操作入力部２３により「画像認識モデル不使用」の選択を受け付けた場合、制御部２１は、内視鏡１から取り込まれた撮影画像に対して第１補正処理のみを行い、第１補正処理により補正した撮影画像に基づく内視鏡画像を表示装置３に出力する。
【００７０】
制御部２１は、操作入力部２３により「ポリープ抽出モデル」または「潰瘍抽出モデル」の選択を受け付けた場合、制御部２１は、内視鏡１から取り込まれた撮影画像に対してそれぞれの第１補正処理、第２補正処理を行う。「ポリープ抽出モデル」は、内視鏡１から取り込まれた撮影画像をポリープ抽出モデル２７２１に入力した場合に、画像を認識した認識結果を出力する処理を受け付ける選択モードである。「潰瘍抽出モデル」は、内視鏡１から取り込まれた撮影画像を潰瘍抽出モデル２７２２に入力した場合に、画像を認識した認識結果を出力する処理を受け付ける選択モードである。
【００７１】
例えば、制御部２１は、操作入力部２３により「ポリープ抽出モデル」の選択を受け付けた場合、制御部２１は、第２補正処理で補正した撮影画像をポリープ抽出モデル２７２１に入力し、ポリープ抽出モデル２７２１を用いて撮影画像を認識した認識結果を出力する。制御部２１は、内視鏡画像と、ポリープ抽出モデル２７２１を用いた認識結果とを重畳して表示用の画像を生成する。制御部２１は、生成した表示用の画像を表示装置３に出力する。
【００７２】
図１３は、学習済みの画像認識モデルの選択を受け付ける際の処理手順を示すフローチャートである。なお、図８と重複する内容については同一の符号を付して説明を省略する。プロセッサ２の制御部２１は、操作入力部２３により医師からの選択を受け付ける（ステップＳ２３１）。制御部２１は、受け付けた選択によって、学習済みの画像認識モデルを使用したか否かを判定する（ステップＳ２３２）。制御部２１は、学習済みの画像認識モデルを使用したと判定した場合（ステップＳ２３２でＹＥＳ）、制御部２１は、ユーザの選択に応じて、大容量記憶部２７から選択した学習済みの画像認識モデルを取得し（ステップＳ２３３）、ステップＳ２０１を実行する。
【００７３】
制御部２１は、学習済みの画像認識モデルを使用していないと判定した場合（ステップＳ２３２でＮＯ）、制御部２１は、内視鏡１から取り込まれた撮影画像を取得する（ステップＳ２３４）。制御部２１は、大容量記憶部２７の補正ＤＢ２７１から、各種の補正処理を行うための補正データ（係数）を取得する（ステップＳ２３５）。制御部２１は、取得した撮影画像に対して第１補正処理を行い（ステップＳ２３６）、第１補正処理で補正した撮影画像に基づく内視鏡画像を表示装置３に出力する（ステップＳ２３７）。制御部２１は、処理を終了する。
【００７４】
本実施形態によると、複数の学習済みの画像認識モデルから、医師が使用する学習済みの画像認識モデルを選択することが可能となる。
【００７５】
本実施形態によると、画像認識モデルの使用モードと、画像認識モデルの不使用モードとを自由に切り替えることが可能となる。
【００７６】
（実施形態３）
図１４は、上述した形態のプロセッサ２の動作を示す機能ブロック図である。制御部２１が制御プログラム２Ｐを実行することにより、プロセッサ２は以下のように動作する。
【００７７】
画像取得部２０ａは、内視鏡１から撮影画像を取得する。第１補正部２０ｂは、画像取得部２０ａが取得した撮影画像を第１補正処理で補正する。第２補正部２０ｃは、画像取得部２０ａが取得した撮影画像を第２補正処理で補正する。出力部２０ｄは、第１補正部２０ｂが補正した撮像画像に基づく内視鏡画像と、第２補正部２０ｃが補正した撮影画像を入力した場合に認識結果を出力する学習済みの画像認識モデル２７２を用いて、画像を認識した認識結果とを出力する。
【００７８】
取得部２０ｅは、第２補正部２０ｃが撮影画像を幾何学歪み補正処理で補正した後に、周縁部を除去し、基準矩形の領域を取得する。第２の取得部２０ｆは、第２補正部２０ｃが撮影画像を幾何学歪み補正処理で補正した後に、補正後の撮影画像の各辺に沿って、画素を補完して基準矩形の領域を取得する。受付部２０ｇは、複数の学習済みの画像認識モデルから、使用する学習済みの画像認識モデルの選択を受け付ける。
【００７９】
本実施の形態３は以上の如きであり、その他は実施の形態１から２と同様であるので、対応する部分には同一の符号を付してその詳細な説明を省略する。
【００８０】
（実施形態４）
実施形態４は、内視鏡から取り込まれた撮影画像に対する幾何学歪み補正処理を行ってから画像認識処理を行う形態に関する。なお、実施形態１〜３と重複する内容については説明を省略する。
【００８１】
内視鏡１の先端が被検体の体内に挿入された場合、プロセッサ２の制御部２１は、内視鏡１の先端にある撮像素子１１から取り込まれた撮影画像を取得する。制御部２１は、内視鏡１から取得した撮影画像を第１補正処理により補正して内視鏡画像を生成する。なお、第１補正処理の詳細は、実施形態１と同様であるため、説明を省略する。
【００８２】
制御部２１は第１補正処理と並行して、内視鏡１から取得した撮影画像を、幾何学歪み補正処理となる第２補正処理により補正してＡＩ補正用画像を生成する。制御部２１は、学習済みの画像認識モデル２７２にＡＩ補正用画像を入力して、画像認識結果を取得する。以下では、部位識別用の画像認識モデル２７２の例を説明するが、他の学習済みの画像認識モデルであっても良い。
【００８３】
画像認識モデル２７２は、人工知能ソフトウェアの一部であるプログラムモジュールとして利用される。画像認識モデル２７２は、ＡＩ補正用画像を入力とし、被検体の部位を予測した結果を出力とするニューラルネットワークを構築（生成）済みの認識器である。ニューラルネットワークは、例えばＣＮＮ（Convolutional Neural Network）であり、ＡＩ補正用画像の入力を受け付ける入力層と、被検体の部位を予測した結果を出力する出力層と、バックプロパゲーションにより学習済の中間層とを有する。
【００８４】
入力層は、ＡＩ補正用画像に含まれる各画素の画素値の入力を受け付ける複数のニューロンを有し、入力された画素値を中間層に受け渡す。中間層は、ＡＩ補正用画像の画像特徴量を抽出する複数のニューロンを有し、抽出した画像特徴量を出力層に受け渡す。例えば画像認識モデル２７２がＣＮＮである場合を例にして説明する。中間層は、入力層から入力された各画素の画素値を畳み込むコンボリューション層と、コンボリューション層で畳み込んだ画素値をマッピングするプーリング層とが交互に連結された構成により、ＡＩ補正用画像の画素情報を圧縮しながら最終的に画像の特徴量を抽出する。その後中間層は、バックプロパゲーションによりパラメータが学習された全結合層により、ＡＩ補正用画像が被検体内の各部位である確率を予測する。予測結果は、複数のニューロンを有する出力層に出力される。
【００８５】
なお、ＡＩ補正用画像は、交互に連結されたコンボリューション層とプーリング層とを通過して特徴量が抽出された後に、入力層に入力されても良い。
【００８６】
制御部２１は、第２補正処理を行ったＡＩ補正用画像と部位の種別を示すラベルデータとを含む教師データの組み合わせを用いて学習を行い、画像認識モデル２７２を生成する。制御部２１は、ＡＩ補正用画像を画像認識モデル２７２の入力層に入力し、中間層での演算処理を経て、出力層から被検体の部位を識別する識別結果を取得する。識別結果は、被検体内のそれぞれの部位に対応する連続的な確率値（例えば「０」から「１」までの範囲の値）であっても良い。
【００８７】
制御部２１は、第１補正処理を行った撮影画像に基づく内視鏡画像と、第２補正処理を行ったＡＩ補正用画像を用いて、学習済みの画像認識モデル２７２から出力した認識結果とを重畳して表示用の画像を生成する。制御部２１は、生成した表示用の画像を表示装置３に出力する。
【００８８】
なお、上述した補正処理手順は、実施形態１で説明した補正処理手順（図８）と同様であるため、説明を省略する。
【００８９】
本実施形態によると、撮影画像に対する幾何学歪み補正処理を行うことにより、画像の特徴パラメータの精度及び再現性を上げるため、学習済みの画像認識モデル２７２を用いた精度が高い画像認識結果を出力することが可能となる。
【００９０】
＜変形例１＞
幾何学歪み補正及びノイズ均一化補正を含む第２補正処理を説明する。
【００９１】
制御部２１は、内視鏡１から取得した撮影画像を第１補正処理により補正して内視鏡画像を生成する。制御部２１は第１補正処理と並行して、内視鏡１から取得した撮影画像を、幾何学歪み補正及びノイズ均一化補正を含む第２補正処理により補正してＡＩ補正用画像を生成する。なお、幾何学歪み補正またはノイズ均一化補正の処理を行う順は任意的であり、どちらの補正処理を先に行っても良い。また、ノイズ均一化補正処理の代わりに、ノイズ低減処理を行っても良い。
【００９２】
制御部２１は、学習済みの画像認識モデル２７２にＡＩ補正用画像を入力して、画像認識結果を取得する。その後の処理は、上述した処理と同様であるため、説明を省略する。
【００９３】
なお、上述した補正処理のほか、任意の補正処理の組み合わせ、順序であっても良い。例えば、基本補正処理と幾何学歪み補正処理との組み合わせ、基本補正処理とノイズ均一化補正処理との組み合わせ、または基本補正処理とノイズ低減処理との組み合わせであっても良い。また、基本補正処理と、幾何学歪み補正処理及びノイズ均一化補正処理との組み合わせであっても良い。さらにまた、基本補正処理と、幾何学歪み補正処理及びノイズ低減処理との組み合わせであっても良い。すなわち、基本補正処理、幾何学歪み補正処理、ノイズ均一化補正処理またはノイズ低減処理から任意の組み合わせであっても良い。
【００９４】
本変形例によると、撮影画像に対する幾何学歪み補正及びノイズ均一化補正を含む第２補正処理を行うことにより、学習済みの画像認識モデル２７２を用いた精度が高い画像認識結果を出力することが可能となる。
【００９５】
今回開示された実施形態はすべての点で例示であって、制限的なものではないと考えられるべきである。本発明の範囲は、上記した意味ではなく、請求の範囲によって示され、請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。
【符号の説明】
【００９６】
１        内視鏡
１１      撮像素子
１２      処置具挿入チャネル
１３      操作部
１４      コネクタ
２        内視鏡用プロセッサ（プロセッサ）
２１      制御部
２２      記憶部
２３      操作入力部
２４      出力部
２５      光源制御部
２６      読取部
２７      大容量記憶部
２７１    補正ＤＢ
２７２    画像認識モデル
７２ａ    領域候補抽出部
７２ｂ    分類部
２７２１  ポリープ抽出モデル
２７２２  潰瘍抽出モデル
２８      光源
２ａ      可搬型記憶媒体
２ｂ      半導体メモリ
２Ｐ      制御プログラム
３        表示装置
２０ａ    画像取得部
２０ｂ    第１補正部
２０ｃ    第２補正部
２０ｄ    出力部
２０ｅ    取得部
２０ｆ    第２の取得部
２０ｇ    受付部
【図１】
0006952214.tif 000002
【図２】
0006952214.tif 000003
【図３】
0006952214.tif 000004
【図４】
0006952214.tif 000005
【図５】
0006952214.tif 000006
【図６】
0006952214.tif 000007
【図７】
0006952214.tif 000008
【図８】
0006952214.tif 000009
【図９】
0006952214.tif 000010
【図１０】
0006952214.tif 000011
【図１１】
0006952214.tif 000012
【図１２】
0006952214.tif 000013
【図１３】
0006952214.tif 000014
【図１４】
0006952214.tif 000015