(57)【要約】  内視鏡用プロセッサは、内視鏡から患者の内視鏡画像を取得する内視鏡画像取得部と、患者を予め撮影した３次元医用画像に基づいて再構成された仮想内視鏡画像を取得する仮想内視鏡画像取得部と、仮想内視鏡画像取得部が取得した仮想内視鏡画像と、内視鏡画像取得部が取得した内視鏡画像との一致度に基づき、内視鏡画像に最も一致する補正後の仮想内視鏡画像を再構成する仮想内視鏡画像再構成部と、内視鏡画像取得部が取得した内視鏡画像を、仮想内視鏡画像再構成部が再構成した補正後の仮想内視鏡画像により得られる距離画像に内視鏡画像の各画素を対応させて、これに応じて補正した特徴パラメータに基づいた診断サポート情報を出力する診断サポート情報出力部とを備える。
2021054360.tif 000002
【特許請求の範囲】
【請求項１】
内視鏡から患者の内視鏡画像を取得する内視鏡画像取得部と、
前記患者を予め撮影した３次元医用画像に基づいて再構成された仮想内視鏡画像を取得する仮想内視鏡画像取得部と、
前記仮想内視鏡画像取得部が取得した仮想内視鏡画像と、前記内視鏡画像取得部が取得した前記内視鏡画像との一致度に基づき、前記内視鏡画像に最も一致する補正後の仮想内視鏡画像を再構成する仮想内視鏡画像再構成部と、
前記内視鏡画像取得部が取得した内視鏡画像を、前記仮想内視鏡画像再構成部が再構成した前記補正後の仮想内視鏡画像により得られる距離画像に内視鏡画像の各画素を対応させて、これに応じて補正した特徴パラメータに基づいた診断サポート情報を出力する診断サポート情報出力部と
を備える内視鏡用プロセッサ。
【請求項２】
患者の体内に挿入された内視鏡の挿入距離を測定するＺ座標取得部と、
前記内視鏡の屈曲履歴情報を取得する屈曲履歴情報取得部と、
前記屈曲履歴情報取得部が取得した屈曲履歴情報に応じて、前記内視鏡の挿入距離であるＺ座標、仮想内視鏡の視点方向、視点位置を補正するＺ座標補正部と
を備える請求項１に記載の内視鏡用プロセッサ。
【請求項３】
前記仮想内視鏡画像に基づいて距離画像を再構成する距離画像再構成部と、
前記距離画像再構成部が求めた距離画像に基づき、対応する内視鏡画像の各画素の画素値を前記距離画像から得られる距離に応じて各領域の画素を補正する第１補正部と
を備える請求項１または請求項２に記載の内視鏡用プロセッサ。
【請求項４】
前記距離画像再構成部が求めた距離画像に基づき、対応する内視鏡画像の各画像領域の特徴パラメータを補正する第２補正部
を備える請求項３に記載の内視鏡用プロセッサ。
【請求項５】
前記診断サポート情報出力部は、前記第１補正部または前記第２補正部が補正した内視鏡画像に基づき、腫瘍候補を含む診断サポート情報を出力する
ことを特徴とする請求項４に記載の内視鏡用プロセッサ。
【請求項６】
前記診断サポート情報出力部は、前記第１補正部または前記第２補正部が補正した内視鏡画像を入力した場合に認識結果を出力する学習済みの画像認識モデルを用いて、前記認識結果を出力する
ことを特徴とする請求項４または請求項５に記載の内視鏡用プロセッサ。
【請求項７】
内視鏡から患者の内視鏡画像を取得し、
前記患者を予め撮影した３次元医用画像に基づいて再構成された仮想内視鏡画像を取得し、
取得した前記仮想内視鏡画像と前記内視鏡画像との一致度に基づき、前記内視鏡画像に最も一致する補正後の仮想内視鏡画像を再構成し、
取得した前記内視鏡画像を、再構成した前記補正後の仮想内視鏡画像により得られる距離画像に内視鏡画像の各画素を対応させて、これに応じて補正した特徴パラメータに基づいた診断サポート情報を出力する
処理をコンピュータに実行させるプログラム。
【請求項８】
内視鏡から患者の内視鏡画像を取得し、
前記患者を予め撮影した３次元医用画像に基づいて再構成された仮想内視鏡画像を取得し、
取得した前記仮想内視鏡画像と前記内視鏡画像との一致度に基づき、前記内視鏡画像に最も一致する補正後の仮想内視鏡画像を再構成し、
取得した前記内視鏡画像を、再構成した前記補正後の仮想内視鏡画像により得られる距離画像に内視鏡画像の各画素を対応させて、これに対応する仮想内視鏡画像に応じて補正した特徴パラメータに基づいた診断サポート情報を出力する
情報処理方法。
【請求項９】
コンピュータに、
内視鏡により被検者を撮像した内視鏡画像を取得し、
前記被検者をＸ線ＣＴ、Ｘ線コーンビームＣＴ、ＭＲＩ−ＣＴのうち少なくとも１つで体内まで撮像した３次元医用画像を取得し、
前記内視鏡画像及び前記３次元医用画像により特定される前記３次元医用画像の座標系における位置情報を導出し、
導出した前記位置情報により、前記内視鏡画像と前記３次元医用画像とを関連づけて保存する
処理を実行させるプログラム。
【請求項１０】
前記位置情報の導出は、
前記３次元医用画像より再構成した仮想内視鏡画像を生成し、
生成した前記仮想内視鏡画像と、前記内視鏡画像との一致度を導出し、
前記一致度が所定値以上となる仮想内視鏡画像に基づき、前記位置情報を導出する処理を含む
請求項９に記載のプログラム。
【請求項１１】
前記一致度の導出は、
前記仮想内視鏡画像及び前記内視鏡画像を入力した場合、前記一致度を出力するように学習された一致度学習モデルを用い、
前記一致度学習モデルに前記仮想内視鏡画像及び前記内視鏡画像を入力し、
前記一致度学習モデルが出力した前記仮想内視鏡画像と前記内視鏡画像との一致度を取得することにより行う
請求項１０に記載のプログラム。
【請求項１２】
前記一致度学習モデルは、ＤＣＮＮ（Ｄｅｅｐ  Ｃｏｎｖｏｌｕｔｉｏｎａｌ  Ｎｅｕｒａｌ  Ｎｅｔｗｏｒｋ）により構成される
請求項１１に記載のプログラム。
【請求項１３】
前記内視鏡画像を撮像した時点における、前記被検者の体内に挿入された前記内視鏡の挿入距離に関する情報を取得し、
前記位置情報の導出は、前記挿入距離に関する情報に基づき、前記３次元医用画像の座標系における位置情報を導出する処理を含む
請求項９又は請求項１２に記載のプログラム。
【請求項１４】
前記被検者の体内に挿入された前記内視鏡の屈曲履歴に関する情報を取得し、
前記位置情報の導出は、前記屈曲履歴に関する情報及び前記挿入距離に関する情報に基づき、前記３次元医用画像の座標系における位置情報を導出する処理を含む
請求項１３に記載のプログラム。
【請求項１５】
前記内視鏡の形状に関する情報を取得し、
前記位置情報の導出は、前記内視鏡の形状に関する情報、前記屈曲履歴に関する情報及び前記挿入距離に関する情報に基づき、前記３次元医用画像の座標系における位置情報を導出する処理を含む
請求項１４に記載のプログラム。
【請求項１６】
前記位置情報は、前記内視鏡画像の撮像時点における前記内視鏡の位置及び方向に関する情報を含む
請求項９から請求項１５のいずれか１項に記載のプログラム。
【請求項１７】
前記内視鏡は、複数の撮像素子を備え、
前記内視鏡画像は、前記複数の撮像素子により撮像された複数の内視鏡画像を含み、
前記複数の内視鏡画像夫々と前記３次元医用画像とを関連づけて保存する
請求項９から請求項１６のいずれか１項に記載のプログラム。
【請求項１８】
コンピュータに、
内視鏡画像及び３次元医用画像により特定される前記３次元医用画像の座標系における位置情報によって、前記内視鏡画像及び前記３次元医用画像が関連付けられて保存されている所定の記憶領域を参照して、いずれかの３次元医用画像を取得し、
前記いずれかの３次元医用画像を表示し、
表示された前記いずれかの３次元医用画像における所定の部位を選択するための選択処理を受付け、
受付けた前記選択処理に応じて、前記いずれかの３次元医用画像の座標系における位置情報を導出し、
導出した前記位置情報に対応する内視鏡画像を表示する、
処理を実行させるプログラム。
【請求項１９】
コンピュータに、
内視鏡画像及び３次元医用画像により特定される前記３次元医用画像の座標系における位置情報によって、前記内視鏡画像及び前記３次元医用画像が関連付けられて保存されている所定の記憶領域を参照して、いずれかの内視鏡画像を取得し、
前記いずれかの内視鏡画像と関連付けられた３次元医用画像を射影した仮想内視鏡画像を取得し、
前記仮想内視鏡画像から導出される距離画像情報によって前記いずれかの内視鏡画像を補正し、
前記いずれかの内視鏡画像に含まれる病変に関する診断支援情報を出力するように学習された学習モデルに、前記補正した内視鏡画像を入力し、
取得した診断支援情報と、前記いずれかの内視鏡画像とを関連付けて出力する
処理を実行させるプログラム。
【請求項２０】
内視鏡により被検者を撮像した内視鏡画像を取得し、
前記被検者をＸ線ＣＴ、Ｘ線コーンビームＣＴ、ＭＲＩ−ＣＴのうち少なくとも１つで体内まで撮像した３次元医用画像を取得し、
前記内視鏡画像及び前記３次元医用画像により特定される前記３次元医用画像の座標系における位置情報を導出し、
導出した前記位置情報により、前記内視鏡画像と前記３次元医用画像とを関連づけて保存する
処理をコンピュータに実行させる情報処理方法。
【請求項２１】
内視鏡により被検者を撮像した内視鏡画像と、前記被検者をＸ線ＣＴ、Ｘ線コーンビームＣＴ、ＭＲＩ−ＣＴのうち少なくとも１つで体内まで撮像した３次元医用画像を取得し、３次元医用画像とを取得する取得部と、
前記内視鏡画像及び前記３次元医用画像により特定される前記３次元医用画像の座標系における位置情報を導出する導出部と、
導出した前記位置情報により、前記内視鏡画像と前記３次元医用画像とを関連づけて保存する保存部と
を備える情報処理装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、内視鏡用プロセッサ、プログラム、情報処理方法、情報処理方法及び情報処理装置に関する。
本出願は、２０１９年９月２０日出願の日本出願第２０１９−１７１８７４号、および２０１９年１２月９日出願の日本出願第２０１９−２２２３４９号に基づく優先権を主張し、前記これらの日本出願に記載された全ての記載内容を援用するものである。
【背景技術】
【０００２】
患者の腫瘍検査は、特に気管および気管支内、上部消化管、膵臓、胆道、又は腸管等の管状臓器部位において、その管状臓器部位へ内視鏡を挿管し、その挿管された内視鏡の映像により大半が行われている。しかし、内視鏡画像の２次元画像情報では各画素までの距離もわからず、画像の幾何歪もあり、画像測定時の誤差が大きいため、内視鏡画像そのままで画像診断サポート情報を提供するのは不適切であった。そこで、特許文献１に開示されている仮想内視鏡は、Ｘ線ＣＴ（Computed Tomography）画像のデータを用いて仮想内視鏡画像を提供することができる。この仮想内視鏡画像はＸ線ＣＴの３次元画像から作成されており、内視鏡画像と仮想内視鏡画像を対応付けられれば、Ｘ線ＣＴの３次元画像から内視鏡画像の各画素までの距離情報もわかるため、画像測定の精度も上がり、画像診断サポート情報も精度よくできる可能性がある。【０００３】
患者の腫瘍検査は、特に気管および気管支内、上部消化管、膵臓、胆道、又は腸管等の管状臓器部位において、その管状臓器部位へ内視鏡を挿管し、その挿管された内視鏡の映像により大半が行われている。しかし、内視鏡画像の２次元画像情報では各画素までの距離もわからず、画像の幾何歪もあり、画像測定時の誤差が大きいため、内視鏡画像そのままで画像診断サポート情報を提供することが困難であった。これに対し、特許文献１に開示されている仮想内視鏡は、Ｘ線ＣＴ（Computed Tomography）画像のデータを用いて仮想内視鏡画像を提供する。この仮想内視鏡画像は、Ｘ線ＣＴの３次元画像から作成される。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２００２―２３８８８７号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、特許文献１に係る発明は、断面のＸ線ＣＴ再構成画像（仮想内視鏡画像）しか表示されず、内視鏡画像と仮想内視鏡画像とを併用する診断は考えていないという問題がある。また、特許文献１に開示された仮想内視鏡は、単に断面のＸ線ＣＴ再構成画像（仮想内視鏡画像）を表示するものであり、診断支援を行うにあたり内視鏡画像とＸ線ＣＴの３次元画像とを関連付けることについては、考慮されていない。【０００６】
一つの側面では、診断に有効に活用することが可能な内視鏡用プロセッサ等を提供することにある。
【課題を解決するための手段】
【０００７】
一つの側面に係る内視鏡用プロセッサは、内視鏡から患者の内視鏡画像を取得する内視鏡画像取得部と、前記患者を予め撮影した３次元医用画像に基づいて再構成された仮想内視鏡画像を取得する仮想内視鏡画像取得部と、前記仮想内視鏡画像取得部が取得した仮想内視鏡画像と、前記内視鏡画像取得部が取得した前記内視鏡画像との一致度に基づき、前記内視鏡画像に最も一致する補正後の仮想内視鏡画像を再構成する仮想内視鏡画像再構成部と、前記内視鏡画像取得部が取得した内視鏡画像を、前記仮想内視鏡画像再構成部が再構成した前記補正後の仮想内視鏡画像により得られる距離画像に内視鏡画像の各画素を対応させて、これに応じて補正した特徴パラメータに基づいた診断サポート情報を出力する診断サポート情報出力部とを備えることを特徴とする。【０００８】
本開示の一態様におけるプログラムは、コンピュータに、内視鏡により被検者を撮像した内視鏡画像を取得し、前記被検者をＸ線ＣＴ、Ｘ線コーンビームＣＴ、ＭＲＩ−ＣＴのうち少なくとも１つで体内まで撮像した３次元医用画像を取得し、前記内視鏡画像及び前記３次元医用画像により特定される前記３次元医用画像の座標系における位置情報を導出し、導出した前記位置情報により、前記内視鏡画像と前記３次元医用画像とを関連づけて保存する処理を実行させる。【０００９】
本開示の一態様における情報処理方法は、内視鏡により被検者を撮像した内視鏡画像を取得し、前記被検者をＸ線ＣＴ、Ｘ線コーンビームＣＴ、ＭＲＩ−ＣＴのうち少なくとも１つで体内まで撮像した３次元医用画像を取得し、前記内視鏡画像及び前記３次元医用画像により特定される前記３次元医用画像の座標系における位置情報を導出し、導出した前記位置情報により、前記内視鏡画像と前記３次元医用画像とを関連づけて保存する処理をコンピュータに実行させる。【００１０】
本開示の一態様における情報処理装置は、内視鏡により被検者を撮像した内視鏡画像と、前記被検者をＸ線ＣＴ、Ｘ線コーンビームＣＴ、ＭＲＩ−ＣＴのうち少なくとも１つで体内まで撮像した３次元医用画像とを取得する取得部と、前記内視鏡画像及び前記３次元医用画像により特定される前記３次元医用画像の座標系における位置情報を導出する導出部と、導出した前記位置情報により、前記内視鏡画像と前記３次元医用画像とを関連づけて保存する保存部とを備える。
【発明の効果】
【００１１】
一つの側面では、診断に有効に活用することが可能な内視鏡用プロセッサ等を提供することにある。
【図面の簡単な説明】
【００１２】
【図１】内視鏡システムの構成例を示す模式図である。
【図２】内視鏡の外観図である。
【図３】プロセッサの構成例を示すブロック図である。
【図４】サーバの構成例を示すブロック図である。
【図５】医用画像ＤＢのレコードレイアウトの一例を示す説明図である。
【図６】内視鏡画像を仮想内視鏡画像に対応付けて出力する処理を説明する説明図である。
【図７】可撓管に光センサが配設されている際の構成図である。
【図８】体腔内のＺ座標を示す説明図である。
【図９】内視鏡画像を仮想内視鏡画像に対応付けて出力する際の処理手順を示すフローチャートである。
【図１０】仮想内視鏡画像の位置及び向きを補正する際の処理手順を示すフローチャートである。
【図１１】屈曲履歴情報に応じた挿入距離を補正する際の処理手順を示すフローチャートである。
【図１２】実施形態２のプロセッサの構成例を示すブロック図である。
【図１３】診断サポート情報ＤＢのレコードレイアウトの一例を示す説明図である。
【図１４】距離画像を求める処理を説明する説明図である。
【図１５】画素値補正後の内視鏡画像に基づいて診断サポート情報を出力する際の処理手順を示すフローチャートである。
【図１６】実施形態３のプロセッサの構成例を示すブロック図である。
【図１７】画像認識モデルを用いて診断サポート情報を出力する処理を説明する説明図である。
【図１８】距離補正して特徴パラメータを求める動作を説明する説明図である。
【図１９】面積補正を行う動作を説明する説明図である。
【図２０】画像認識モデルを用いて診断サポート情報を出力する際の処理手順を示すフローチャートである。
【図２１】上述した形態のプロセッサの動作を示す機能ブロック図である。
【図２２】実施形態５に係る診断支援システムの概要を示す模式図である。
【図２３】診断支援システムに含まれる内視鏡装置の構成例を示すブロック図である。
【図２４】診断支援システムに含まれる情報処理装置の構成例を示すブロック図である。
【図２５】内視鏡画像ＤＢのデータレイアウトを例示する説明図である。
【図２６】情報処理装置の制御部に含まれる機能部を例示する機能ブロック図である。
【図２７】内視鏡が挿入された距離（Ｓ座標の値）を示す説明図である。
【図２８】内視鏡画像と３次元医用画像との関連に関する説明図である。
【図２９】情報処理装置の制御部による処理手順の一例を示すフローチャートである。
【図３０】実施形態６に係る情報処理装置の制御部に含まれる機能部を例示する機能ブロック図である。
【図３１】情報処理装置の制御部による処理手順の一例を示すフローチャートである。
【図３２】実施形態７に係る挿入部の先端を模式的に示す斜視図である。
【図３３】挿入部の先端を模式的に示す正面図である。
【図３４】情報処理装置の制御部による処理手順の一例を示すフローチャートである。
【図３５】実施形態８に係る統合画像表示画面の一態様（３次元用医用画像モード）を示す説明図である。
【図３６】統合画像表示画面の一態様（内視鏡画像モード）を示す説明図である。
【図３７】情報処理装置の制御部による処理手順の一例を示すフローチャートである。
【図３８】実施形態９に係る学習モデルを用いて診断支援情報を出力する処理を説明する説明図である。
【図３９】情報処理装置の制御部に含まれる機能部を例示する機能ブロック図である。
【図４０】情報処理装置の制御部による処理手順の一例を示すフローチャートである。
【発明を実施するための形態】
【００１３】
以下、本発明をその実施形態を示す図面に基づいて詳述する。
【００１４】
（実施形態１）
実施形態１は、内視鏡から取り込まれた内視鏡画像を、内視鏡が体内に挿入された距離に対応する仮想内視鏡画像に対応付けて出力する形態に関する。仮想内視鏡画像は、気管および気管支内又は腸管等の管状臓器を撮影したＸ線ＣＴまたはＭＲまたはＸ線コーンビームＣＴの３次元医用画像に基づいて再構成し、３次元画像による体腔内を仮想の内視鏡で表した画像である。
【００１５】
３次元医用画像としては、例えばＣＴ装置およびＭＲＩ（Magnetic Resonance Imaging）装置等から出力されたスライスデータから再構成されたボリュームデータにより表される画像、並びにＭＳ（Multi Slice）ＣＴ装置およびＸ線フラットパネルを用いたＸ線コーンビームＣＴ装置から出力されたボリュームデータにより表される画像等がある。例えば、大腸に空気を入れた状態でＣＴ撮影を行い、その撮影によって得た３次元画像を大腸の内側からボリュームレンダリングすることによって、大腸の仮想内視鏡画像を再構成しても良い。
【００１６】
図１は、内視鏡システムの構成例を示す模式図である。図１に示すシステムは、被検体の体内に挿入されて撮影を行い、観察対象の映像信号を出力する内視鏡１、内視鏡１が出力した映像信号を内視鏡画像に変換する内視鏡用プロセッサ２、内視鏡画像等を表示する表示装置３、及び情報処理装置４を含む。内視鏡１、内視鏡用プロセッサ２及び表示装置３はコネクタを介して電気信号、映像信号等の送受信を行う。内視鏡用プロセッサ２及び情報処理装置４は、インターネット等のネットワークＮを介して情報の送受信を行う。
【００１７】
内視鏡１は、先端部に撮像素子がある挿入部を被検体の体内に挿入し、診断または治療を行う器具である。内視鏡１は、先端にある撮像素子を用いて捉えた撮影画像をプロセッサ２に転送する。
【００１８】
内視鏡用プロセッサ２は、内視鏡１の先端にある撮像素子から取り込まれた撮像画像に対して画像処理を行い、内視鏡画像を収集して表示装置３に出力する情報処理装置である。また、以下では簡潔のため、内視鏡用プロセッサ２をプロセッサ２と読み替える。
【００１９】
表示装置３は、液晶ディスプレイ又は有機ＥＬ（electroluminescence）ディスプレイ等であり、プロセッサ２から出力された内視鏡画像等を表示する。
【００２０】
情報処理装置４は、患者に関する情報、及び患者を撮影した３次元医用画像に基づいて再構成された仮想内視鏡画像の記憶及び送受信を行う情報処理装置である。情報処理装置４は、例えばサーバ装置、パーソナルコンピュータ等である。本実施形態において情報処理装置４はサーバ装置であるものとし、以下では簡潔のためサーバ４と読み替える。
【００２１】
図２は、内視鏡１の外観図である。内視鏡１は、撮像素子１１、処置具挿入チャネル１２、操作部１３、コネクタ１４及び可撓管１５を含む。撮像素子１１は、内視鏡１の先端部に設置された、例えばＣＣＤ(Charge Coupled Device)イメージセンサ、ＣＭＤ（Charge Modulation Device）イメージセンサまたはＣＭＯＳ（Complementary Metal Oxide Semiconductor）イメージセンサであり、入射光を光電変換する。光電変換により再構成された電気信号には、図示しない信号処理回路によりＡ／Ｄ変換、ノイズ除去などの信号処理が施され、プロセッサ２に出力される。
【００２２】
処置具挿入チャネル１２は、処置具を通すためのチャンネルである。処置具は、例えば把持具、生検針、鉗子、スネア、クランプ、ハサミ、メス、切開器具、内視鏡ステープラ、組織ループ、クリップアプライヤ、縫合糸送達器具、またはエネルギーによる組織凝固器具若しくは組織切断器具である。操作部１３にはレリーズボタン、内視鏡の先端を曲げるためのアングルノブ等が設けられ、例えば送気、送水、送ガス等の周辺機器の操作指示信号の入力を受け付ける。コネクタ１４は、プロセッサ２に接続される。可撓管１５は、患者の体内に挿入され得る可撓性を有する内視鏡用導管である。
【００２３】
図３は、プロセッサ２の構成例を示すブロック図である。プロセッサ２は、制御部２１、記憶部２２、操作入力部２３、出力部２４、光源制御部２５、通信部２６、光源２７、読取部２８、大容量記憶部２９及びセンサ信号入力部２０を含む。各構成はバスＢで接続されている。
【００２４】
制御部２１は、ＣＰＵ（Central Processing Unit）、ＭＰＵ（Micro-Processing Unit）、ＧＰＵ（Graphics Processing Unit）等の演算処理装置を含み、記憶部２２に記憶された制御プログラム２Ｐを読み出して実行することにより、プロセッサ２に係る種々の情報処理、制御処理等を行う。なお、図３では制御部２１を単一のプロセッサであるものとして説明するが、マルチプロセッサであっても良い。
【００２５】
記憶部２２は、ＲＡＭ（Random Access Memory）、ＲＯＭ（Read Only Memory）等のメモリ素子を含み、制御部２１が処理を実行するために必要な制御プログラム２Ｐ又はデータ等を記憶している。また、記憶部２２は、制御部２１が演算処理を実行するために必要なデータ等を一時的に記憶する。操作入力部２３は、例えばタッチパネル、各種スイッチ等の入力デバイスによって構成され、これらの入力デバイスに対する外部からの操作に応じて発生した入力信号を制御部２１に入力する。出力部２４は、制御部２１の制御の下で、表示用の画像信号及び各種の情報を表示装置３に出力し、画像及び情報を表示させる。
【００２６】
光源制御部２５は、ＬＥＤ等のオン／オフ、ＬＥＤ等の駆動電流及び駆動電圧の調整によって照明光の発光量を制御する。また、光源制御部２５は、光学フィルタの変更等によって、照明光の波長帯域を制御する。光源制御部２５は、各ＬＥＤの点灯や消灯、及び点灯時の発光量等を独立して制御することによって、照明光の発光タイミング、発光期間、光量、及び分光スペクトルの調節を行う。通信部２６は、通信に関する処理を行うための通信モジュールであり、ネットワークＮを介して、サーバ４及び外部の情報処理装置等との間で情報の送受信を行う。
【００２７】
光源２７は、観察対象の照明に用いる照明光を発する光源を備える。光源は、例えば、波長域が異なる複数色のＬＥＤ（Light Emitting Diode）等の半導体光源、レーザーダイオードと蛍光体の組み合わせ、又はキセノンランプ、ハロゲンランプ等である。光源２７は、プロセッサ２の光源制御部２５からの制御に従い明るさ等を調整する。なお、本実施形態では、プロセッサ２が光源一体型であるが、これに限るものではない。例えば、プロセッサ２は、光源装置と分離する光源分離型であっても良い。
【００２８】
読取部２８は、ＣＤ（Compact Disc）−ＲＯＭ又はＤＶＤ（Digital Versatile Disc）−ＲＯＭを含む可搬型記憶媒体２ａを読み取る。制御部２１が読取部２８を介して、制御プログラム２Ｐを可搬型記憶媒体２ａより読み取り、大容量記憶部２９に記憶しても良い。また、ネットワークＮ等を介して他のコンピュータから制御部２１が制御プログラム２Ｐをダウンロードし、大容量記憶部２９に記憶しても良い。さらにまた、半導体メモリ２ｂから、制御部２１が制御プログラム２Ｐを読み込んでも良い。
【００２９】
大容量記憶部２９は、例えばＨＤＤ（Hard disk drive:ハードディスク）、ＳＳＤ(Solid State Drive:ソリッドステートドライブ)等の記録媒体を備える。なお、本実施形態において記憶部２２及び大容量記憶部２９は一体の記憶装置として構成されていても良い。また、大容量記憶部２９は複数の記憶装置により構成されていても良い。更にまた、大容量記憶部２９はプロセッサ２に接続された外部記憶装置であっても良い。センサ信号入力部２０は、各種のセンサから得られた信号を受信する。
【００３０】
図４は、サーバ４の構成例を示すブロック図である。サーバ４は、制御部４１、記憶部４２、通信部４３、入力部４４、表示部４５、読取部４６及び大容量記憶部４７を含む。各構成はバスＢで接続されている。
【００３１】
制御部４１はＣＰＵ、ＭＰＵ、ＧＰＵ等の演算処理装置を含み、記憶部４２に記憶された制御プログラム４Ｐを読み出して実行することにより、サーバ４に係る種々の情報処理、制御処理等を行う。なお、図４では制御部４１を単一のプロセッサであるものとして説明するが、マルチプロセッサであっても良い。
【００３２】
記憶部４２はＲＡＭ、ＲＯＭ等のメモリ素子を含み、制御部４１が処理を実行するために必要な制御プログラム４Ｐ又はデータ等を記憶している。また、記憶部４２は、制御部４１が演算処理を実行するために必要なデータ等を一時的に記憶する。通信部４３は通信に関する処理を行うための通信モジュールであり、ネットワークＮを介して、プロセッサ２との間で情報の送受信を行う。
【００３３】
入力部４４は、マウス、キーボード、タッチパネル、ボタン等の入力デバイスであり、受け付けた操作情報を制御部４１へ出力する。表示部４５は、液晶ディスプレイ又は有機ＥＬ（electroluminescence）ディスプレイ等であり、制御部４１の指示に従い各種情報を表示する。
【００３４】
読取部４６は、ＣＤ（Compact Disc）−ＲＯＭ又はＤＶＤ（Digital Versatile Disc）−ＲＯＭを含む可搬型記憶媒体４ａを読み取る。制御部４１が読取部４６を介して、制御プログラム４Ｐを可搬型記憶媒体４ａより読み取り、大容量記憶部４７に記憶しても良い。また、ネットワークＮ等を介して他のコンピュータから制御部４１が制御プログラム４Ｐをダウンロードし、大容量記憶部４７に記憶しても良い。さらにまた、半導体メモリ４ｂから、制御部４１が制御プログラム４Ｐを読み込んでも良い。
【００３５】
大容量記憶部４７は、例えばＨＤＤ、ＳＳＤ等の記録媒体を備える。大容量記憶部４７には、医用画像ＤＢ（Database）４７１が記憶されている。なお、本実施形態において記憶部４２及び大容量記憶部４７は一体の記憶装置として構成されていても良い。また、大容量記憶部４７は複数の記憶装置により構成されていても良い。更にまた、大容量記憶部４７はサーバ４に接続された外部記憶装置であっても良い。
【００３６】
なお、本実施形態では、サーバ４は一台の情報処理装置であるものとして説明するが、複数台により分散して処理させても良く、または仮想マシンにより構成されていても良い。
【００３７】
図５は、医用画像ＤＢ４７１のレコードレイアウトの一例を示す説明図である。医用画像ＤＢ４７１は、患者ＩＤ列、性別列、名前列及び３次元医用画像列を含む。患者ＩＤ列は、各患者を識別するために、一意に特定される患者のＩＤを記憶している。性別列は、患者の性別を記憶している。名前列は、患者の名前を記憶している。３次元医用画像列は、患者を撮影した３次元医用画像を記憶している。３次元医用画像列には、例えばＤＩＣＯＭ（Digital Imaging and Communication in Medicine）形式の３次元医用画像が記憶されても良い。なお、３次元医用画像に関連付けられた内視鏡画像、診断サポート情報が医用画像ＤＢ４７１に記憶されても良い。
【００３８】
図６は、内視鏡画像を仮想内視鏡画像に対応付けて出力する処理を説明する説明図である。サーバ４の制御部４１は、大容量記憶部４７の医用画像ＤＢ４７１から、手術前または検査前等に患者を予め撮影した３次元医用画像を取得する。制御部４１は、通信部４３を介して、取得した３次元医用画像をプロセッサ２に送信する。プロセッサ２の制御部２１は、通信部２６を介して、サーバ４から送信された３次元医用画像を受信する。
【００３９】
制御部２１は、受信した３次元医用画像に基づいて仮想内視鏡画像を再構成する。以下では、大腸の３次元医用画像を用いて、大腸の仮想内視鏡画像を再構成する例を説明する。なお、大腸の３次元医用画像に限らず、気管支または胃等のその他の管腔臓器を含む３次元医用画像であっても良い。
【００４０】
制御部２１は、取得した３次元医用画像から被検体内の臓器のボクセルデータを抽出する。臓器としては、例えば大腸、小腸、腎臓、気管支または血管等があるが、これに限らずその他の臓器でも良い。なお、本実施形態においては大腸のボクセルデータを抽出して取得するものとする。
【００４１】
大腸領域を抽出する方法としては、具体的には、まず、３次元医用画像に基づいて体軸に垂直な断面（軸位断；axial）の軸位断画像を複数再構成し、その各軸位断画像に対して、公知の手法により、体表を基準に体外と体内領域を分離する処理を行う。例えば、再構成された軸位断画像に対して二値化処理を施し、輪郭抽出処理により輪郭を抽出し、その抽出した輪郭内部を体内(人体)領域として抽出する。
【００４２】
次に、体内領域の軸位断画像に対して閾値による二値化処理を行い、各軸位断画像における大腸の領域の候補を抽出する。具体的には、大腸の管内には空気が入っているため、空気のＣＴ値に対応する閾値（例えば、−６００以下）を設定して二値化処理を行い、各軸位断画像の体内の空気領域を大腸領域候補として抽出する。
【００４３】
なお、本実施形態の内壁画像は、内視鏡によって仮想的に大腸の内腔を撮影した画像である。具体的には、制御部２１は、予め設定された視点と視線方向とに基づく視線ベクトルを中心として放射線状に伸ばした複数の光線方向上のボクセルデータを、所定の投影面に投影した中心投影による画像を仮想内視鏡画像として再構成する。なお、中心投影の具体的な方法としては、例えば公知のボリュームレンダリング手法等を用いることができる。
【００４４】
また、仮想内視鏡画像の視点については、例えば表示装置３上に表示された大腸の３次元医用画像上において、大腸内腔のボクセルデータに基づいて抽出された大腸の中心線上の所定の点を自動または手動で指定することによって設定するようにしても良い。また、視線方向についてもユーザが任意の方向を手動で設定するようにしても良いし、大腸の中心線の進行方向を視線方向としても良い。
【００４５】
なお、上述した処理では、３次元医用画像に基づいて仮想内視鏡画像を再構成する例を説明したが、これに限るものではない。例えば、制御部２１は、事前に再構成された仮想内視鏡画像をサーバ４から直接に取得しても良い。
【００４６】
プロセッサ２の制御部２１は、内視鏡１の先端が患者（被検体）の体内に挿入された場合、内視鏡１の先端にある撮影素子から取り込まれた内視鏡画像を取得する。制御部２１は、内視鏡１が体内に挿入された距離（長さ）を取得する。
【００４７】
内視鏡１の挿入距離を取得する処理に関しては、例えば、内視鏡１の可撓管１５には、内視鏡１周辺の環境を測定するための各種のセンサが配設されている。このセンサには、温度センサ、光センサ、圧力センサ、振動センサ、濡れセンサ（電極）、湿度センサ等が使用される。以下では、センサが光センサである場合について説明を行う。
【００４８】
図７は、可撓管１５に光センサが配設されている際の構成図である。図７Ａは、可撓管１５の斜視図である。図中の矢印１５ａの指示する方向は、可撓管１５の長手方向を示す。可撓管１５は、内視鏡１外部と接触する内視鏡外面１５１と、内視鏡内面１５２を有する。
【００４９】
図７Ｂは、図７ＡのＡ−Ａ線における概略断面図を示す。可撓管１５には、光を透過する可撓体１５３、光センサ１６及び光センサケーブル１７が備えられている。光センサ１６が矢印１５ａの方向に沿って、内視鏡内面１５２上に所定の間隔毎に可撓体１５３と接触して配設されている。なお、可撓体１５３の代替として、可撓管１５全体を透過率の高い材料で形成しても良い。このように構成することにより、光センサ１６は、可撓体１５３の場合と比較して、より多く受光することができる。各光センサ１６は、それぞれ光センサケーブル１７に接続され、その光センサケーブル１７は、プロセッサ２のセンサ信号入力部２０に接続されている。
【００５０】
内視鏡検査を行う処置室の光量は、通常の室内と同程度に保たれている。一方、体内は照明光がない限り暗い状態である。光センサ１６は可撓管１５の内部に配置されているが、可撓管１５が体内に挿入されているときでも光を受光することができる。そのため、光センサが光をより多く受光している部分が体外、少ない部分を体内として判別することが可能である。そしてプロセッサ２の制御部２１は、光センサ１６で得られた信号に基づき、体腔挿入部である境界位置にある光センサ１６を特定することにより体内に挿入されている可撓管１５の距離（長さ）であるＺ座標を算出することができる。
【００５１】
また、可撓管１５に接する図示しないマウスピース等にローラエンコーダを付け、可撓管１５が体内に挿入されている距離分だけこのローラエンコーダが回転することを用いて、内視鏡１が体内に挿入された距離であるＺ座標を取得することができる。マウスピース等のローラエンコーダは、可撓管１５の進退に伴って回転し、体内に挿入された内視鏡１の先端部と、例えば口又は鼻等の管腔に連通する開口部との間の長さ、すなわち可撓管１５の挿入距離を測定できる。ローラエンコーダは、プロセッサ２と電気的に接続しており、測定した距離をプロセッサ２に送る。またローラエンコーダの代わりに光学式エンコーダを用いても良い。
【００５２】
また、内視鏡１の挿入距離を測定する補助装置が被検体の入り口である体腔挿入部に装着された場合、内視鏡の通過距離を測定することにより、内視鏡１が体内に挿入された距離であるＺ座標を取得することができる。補助装置は、例えば可撓管１５に付けたリニアスケールのような磁場のスケールとマウスピースに付けたリニアヘッドで距離を測定することであっても良く、またはローラーを付けた内視鏡１のマウスピースであっても良い。なお、鼻または肛門等に内視鏡が挿入される場合、マウスピースと類似のローラーを付けた補助装置を利用しても良い。
【００５３】
さらにまた、内視鏡１の可撓管１５に一定間隔で挿入距離を記録したチップを内蔵しても良い。マウスピース等が得た該チップで記録されたＺ座標情報から、プロセッサ２は、内視鏡１が体内に挿入された距離であるＺ座標を取得することができる。
【００５４】
図８は、体腔内のＺ座標を示す説明図である。Ｚ座標は、内視鏡１が体内に挿入された距離である。プロセッサ２の制御部２１は、内視鏡画像の視線位置のパラメータを体腔内Ｚ座標に基づき、体腔に沿った長さから体腔内Ｚ座標から３次元画像座標（ｘ、ｙ、ｚ）への変換処理を行う。視線位置のパラメータは、位置（ｘ、ｙ、ｚ）と図示しない角度（θｘ、θｙ、θｚ）である。
【００５５】
続いて、図６に戻り、制御部２１は、内視鏡画像から取得した内視鏡１の挿入距離(長さ)であるＺ座標、内視鏡屈曲情報から得られる内視鏡体腔内位置、内視鏡視点方向に対応する仮想内視鏡画像を再構成する。具体的には、制御部２１は、内視鏡１から取得した内視鏡画像の視線位置のパラメータを取得する。制御部２１は、内視鏡画像の視線位置のパラメータを記述する図８の体腔内Ｚ座標に基づき、体腔に沿った長さから体腔内Ｚ座標から３次元画像座標（ｘ、ｙ、ｚ）への変換処理を行う。
【００５６】
ただし、３次元画像の原点は被検体のどこか一定点に決めておく。視線位置のパラメータは、位置（ｘ、ｙ、ｚ）と角度（θｘ、θｙ、θｚ）である。制御部２１は、上述した仮想内視鏡画像の再構成処理で再構成した仮想内視鏡画像から、変換後の３次元画像座標、視線角度及び内視鏡１の挿入距離に対応する仮想内視鏡画像を再構成する。制御部２１は、内視鏡１から取得した内視鏡画像を、内視鏡１の挿入距離であるＺ座標に対応する仮想内視鏡画像に対応付け、表示装置３に出力する。表示装置３は、プロセッサ２から出力された内視鏡画像と、該内視鏡画像に対応付けた仮想内視鏡画像とを表示する。
【００５７】
図９は、内視鏡画像を仮想内視鏡画像に対応付けて出力する際の処理手順を示すフローチャートである。サーバ４の制御部４１は、大容量記憶部４７の医用画像ＤＢ４７１から、患者を予め撮影した３次元医用画像を取得する（ステップＳ４０１）。制御部４１は、通信部４３を介して、取得した３次元医用画像をプロセッサ２に送信する（ステップＳ４０２）。プロセッサ２の制御部２１は、通信部２６を介して、サーバ４から送信された３次元医用画像を受信する（ステップＳ２０１）。
【００５８】
制御部２１は、内視鏡１の先端にある撮影素子から取り込まれた内視鏡画像を取得する（ステップＳ２０２）。制御部２１は、内視鏡挿入距離測定手段で得られた信号に基づき、内視鏡１が体内に挿入された距離であるＺ座標位置を取得する（ステップＳ２０３）。なお、Ｚ座標位置の取得処理に関しては、上述した説明内容と重複しないように省略する。
【００５９】
制御部２１は、受信した３次元医用画像に基づいて仮想内視鏡画像を再構成する（ステップＳ２０４）。具体的には、制御部２１は、取得した３次元医用画像の被検体内の内腔で、後述する図１８のように予め設定された視点から視線方向に視線ベクトルを放射線状に伸ばした複数の光線方向上のボクセルデータを、所定の投影面に投影した中心投影による画像を仮想内視鏡画像として再構成する。制御部２１は、仮想内視鏡画像を内視鏡画像に対応付ける（ステップＳ２０５）。この際に、内視鏡の視点位置、角度は内視鏡のＺ座標位置(挿入長さ)、屈曲具合から推定して仮想内視鏡画像を再構成するが、内視鏡画像との微妙な違いは以下で調整する。
【００６０】
観察対象の仮想内視鏡画像の視野及び視線方向は、内視鏡画像の視野及び視線方向と同一である方が好ましい。内視鏡の視野及び視線方向は、内視鏡画像の位置及び向きにより調整することができる。内視鏡１から取得された内視鏡画像の位置及び向きと、挿入距離に対応する仮想内視鏡画像の位置及び向きとが一致していない場合、制御部２１は内視鏡画像に基づき、仮想内視鏡画像の位置及び向きを補正して仮想内視鏡画像を再構成する。
【００６１】
ステップＳ２０５においては内視鏡画像と仮想内視鏡画像の一致度を測定するにはＡＩによる手法を用いても良いが、内視鏡画像の陰影画像と仮想内視鏡画像の陰影画像の相関を取るような指標で一致度を測定し、一致度が最大になるように、内視鏡の視点位置、角度は内視鏡のＺ座標位置（挿入長さ）、屈曲具合を微調整して仮想内視鏡画像を再構成し続ける。内視鏡画像と仮想内視鏡画像とが一致させる。内視鏡画像と仮想内視鏡画像が一致したら、制御部２１は、該内視鏡画像に一致する仮想内視鏡画像を再構成し、仮想内視鏡画像から距離画像を取得する（ステップＳ２０６）。制御部２１は、取得した距離画像情報より内視鏡画像の各画素の距離を求める。
【００６２】
制御部２１は、内視鏡画像から画像測定で得られる特徴パラメータ量を距離画像情報により補正された特徴パラメータ量を取得する（求める）（ステップＳ２０７）。制御部２１は、ＡＩによる診断サポート情報を取得する（ステップＳ２０８）。ステップＳ２０８においては、上述した距離画像情報により補正された特徴パラメータ量情報からＡＩにより腫瘍候補を探し出しても良いし、内視鏡画像の各領域の特徴パラメータを測定し判定論理に基づき腫瘍候補を探し出しても良いし、内視鏡画像の各領域の特徴パラメータからＡＩにより、腫瘍候補を探し出しても良い。この腫瘍候補情報を画像診断サポート情報として提供することができる。結果的に、内視鏡画像と仮想内視鏡画像との一致させた距離画像情報を考慮した画像測定で得られる特徴パラメータ量情報より、より精度の高い画像診断サポート情報を提供することができる。
【００６３】
制御部２１は、内視鏡１から取得した内視鏡画像に診断サポート情報を追加して表示装置３に出力する（ステップＳ２０９）。表示装置３は、プロセッサ２から出力された内視鏡画像と、診断サポート情報とを表示し（ステップＳ３０１）、処理を終了する。なお、この時に関連付けられた仮想内視鏡画像も表示しても良い。また腫瘍候補と思われる部分にはカラー表示や強調表示するとわかりやすい。
【００６４】
続いて、ステップＳ２０３〜２０５における内視鏡１から取得された内視鏡画像に基づき、仮想内視鏡画像の位置及び向きを補正する処理を説明する。
【００６５】
具体的には、制御部２１は、内視鏡１から取得された内視鏡先端部のＺ座標位置、視点の位置、方向情報から、図８に示すように体腔に沿ってＺ座標分だけ進めた位置を体内３次元座標として求める。被検体のある一定位置を原点として体内３次元座標を定める。この内視鏡先端部のＺ座標位置を体内３次元画像に変換し、その体内３次元画像位置の仮想内視鏡画像と内視鏡画像とを一致させるようにする。仮想内視鏡画像と内視鏡画像の一致度を定量的に見るには、輝度情報から求める陰影画像情報の相関度を見て一致度の高さを判断しても良い。または内視鏡画像と内視鏡画像の類似度で一致度を判断しても良い。
【００６６】
なお、上述した処理方法に限るものではない。例えば、プロセッサ２の制御部２１は、ＡＩにより内視鏡画像と類似度の高い仮想内視鏡画像を検索することにより、仮想内視鏡画像の位置及び向きの調整を行っても良い。具体的には、制御部２１は、ＤＩＣＯＭ形式の３次元画像データから仮想内視鏡画像を再構成する際に、上述した位置（ｘ、ｙ、ｚ）と角度（θｘ、θｙ、θｚ）である６つの視線パラメータを変化させることで、前後移動または角度の調整により多数の異なる視線位置からの複数の仮想内視鏡画像を再構成する。制御部２１は、再構成した複数の仮想内視鏡画像と内視鏡画像との類似度を比較する。ここで、両画像の類似度比較は、公知の画像処理により行われ、画素データレベルのマッチング、または、画像から抽出した特徴のレベルにおけるマッチングのいずれを用いても良い。制御部２１は、仮想内視鏡画像と内視鏡画像と類似度の一番高い仮想内視鏡画像を抽出し、補正処理を完了する。
【００６７】
図１０は、仮想内視鏡画像の位置及び向きを補正する際の処理手順を示すフローチャートである。なお、図９と重複する内容については同一の符号を付して説明を省略する。プロセッサ２の制御部２１は、ステップＳ２０４を実行した後に、内視鏡１から取得された内視鏡画像に基づき、仮想内視鏡画像の位置及び向きを補正する（ステップＳ２１１）。その後、制御部２１は、ステップＳ２０５を実行する。
【００６８】
続いて、患者の体内に挿入された内視鏡１の屈曲履歴情報に応じて、内視鏡１が体内に挿入された距離であるＺ座標を補正する処理を説明する。例えば、患者の体内の観察対象が大腸であった場合、大腸は患者ごとに形状や配置が異なり、挿入部の形状に従い変形しうる臓器である。そのため、取得された挿入距離は、大腸における位置と湾曲形状等を含む挿入部の挿入状況によって、検出誤差が生じる可能性がある。プロセッサ２の制御部２１は、患者の体内に挿入された内視鏡１の屈曲履歴情報を取得し、取得した屈曲履歴情報に応じて、内視鏡１の挿入状況を判別する。制御部２１は、判別した挿入状況に基づき、内視鏡１が体内に挿入された距離であるＺ座標を補正する。
【００６９】
図１１は、屈曲履歴情報に応じた挿入距離を補正する際の処理手順を示すフローチャートである。なお、図１０と重複する内容については同一の符号を付して説明を省略する。プロセッサ２の制御部２１は、ステップＳ２０３を実行した後に、屈曲履歴情報を取得する（ステップＳ２１２）。例えば、内視鏡挿入形状検出装置を利用することにより、屈曲履歴情報を検出しても良い。
【００７０】
内視鏡挿入形状検出装置は、磁気コイルが内蔵された挿入形状検出専用内視鏡との組み合わせで、被検体の体内に挿入された内視鏡１の推定挿入形状画像を表示する装置である。例えば、日本国特開２０１９−３７６４３号公報に開示されているように、内視鏡１の挿入部の内部に、該挿入部の長手方向に沿って所定の間隔で複数の磁気コイルが配置される。内視鏡挿入形状検出装置本体の内蔵アンテナは、磁気コイルから発生する磁気を受信する。内蔵アンテナから発生した交流磁界によって、挿入部に配置される位置検出用の各コイルに起電力が発生して誘導電流が流れる。コイルを流れる誘導電流に基づいて各コイルの位置が検出される。検出された各コイルの位置によって、屈曲履歴情報が検出される。
【００７１】
なお、内視鏡挿入形状検出装置のほか、屈曲検知センサを利用することにより、屈曲履歴情報を検出しても良い。屈曲検知センサは、接点部を有するフレキシブルな部材と、接点部と接し、接触位置に応じた信号を出力するフレキシブルな基板とを有する。具体的には、内視鏡１の挿入部の所定箇所が屈曲する（湾曲する）と、その屈曲の影響を受ける箇所に設けられたフレキシブルな支持部材および基板は、ともに変形して曲がる。屈曲検知センサでは、挿入部の屈曲に応じて、接点部と基板との接触位置が所定方向に沿ってシフトする。接触位置のシフトが生じるとその出力信号が変化することから、屈曲検知センサは、挿入部の屈曲履歴情報（湾曲情報）を検出することになる。
【００７２】
屈曲履歴情報とは、屈曲角度、屈曲方向等、屈曲に関する物理的パラメータまたは情報を示す。制御部２１は、内視鏡１の挿入部に配置されたそれぞれの磁気コイルから取得した屈曲履歴情報に応じて、体腔の３次元画像情報から得られた体腔形状に屈曲形状を合わせて体腔内挿入距離であるＺ座標を補正する（ステップＳ２１３）。具体的には、制御部２１は、屈曲角度及び屈曲方向に従い、演算処理で挿入部形状（例えば、右へ３０度曲がり等）を検出する。制御部２１は、検出した挿入部形状に基づき、挿入距離であるＺ座標を再計算する。例えば、途中で内視鏡が一回転している場合、回転している部分の円周長を挿入距離から減じれば良い。また例えば所定区間で複数回屈曲している場合、一ピクセルあたりの距離に屈曲部分のピクセル数を乗じて屈曲している部分の長さを求め、当該長さと当該所定区間の長さとの差分を求める。そして最終的に挿入距離から当該差分を減じる、また内視鏡挿入距離と体腔内挿入距離の違いも補正すれば良い。その後、制御部２１は、ステップＳ２０５を実行する。
【００７３】
本実施形態によると、内視鏡１から取得された内視鏡画像と、内視鏡１の挿入距離であるＺ座標に対応する仮想内視鏡画像とを対応付けて出力することにより、内視鏡画像と３次元医用画像に基づいて再構成された仮想内視鏡画像との位置関連を付けることが可能となる。
【００７４】
本実施形態によると、内視鏡１から取得された内視鏡画像に基づき、仮想内視鏡画像の位置及び向きを補正することにより、実際の内視鏡画像との類似度が高い仮想内視鏡画像を得ることが可能となる。
【００７５】
本実施形態によると、内視鏡１の屈曲履歴情報に応じて、内視鏡１が体内に挿入された距離であるＺ座標を補正することにより、精度が高い挿入距離であるＺ座標を取得することが可能となる。
【００７６】
本実施形態によると、Ｘ線ＣＴ画像の３次元データから再構成される仮想内視鏡画像と、実際の内視鏡画像とを一致させることにより、内視鏡画像に距離画像情報が付加でき、内視鏡画像から得られた特徴パラメータを距離情報で補正でき、より精度の高い画像診断サポート情報を提供できる。
【００７７】
（実施形態２）
実施形態２は、仮想内視鏡画像に基づいて視点から見えている内腔の各画素までの距離画像を再構成し、再構成した距離画像に基づき、内視鏡画像の各画素の画素値（データ）を補正する。または、各画素から得られた特徴パラメータを補正する。つまり、距離rだけ離れている画素の面積は1/r2分をかけることにより正しい画像測定特徴パラメータが得られる。また、プロセッサ２の制御部２１は、距離画像情報により補正された内視鏡画像の特徴パラメータに基づき、診断サポート情報を表示装置３に出力する。なお、実施形態１と重複する内容については説明を省略する。
【００７８】
図１２は、実施形態２のプロセッサ２の構成例を示すブロック図である。なお、図３と重複する内容については同一の符号を付して説明を省略する。大容量記憶部２９には、診断サポート情報ＤＢ２９１が記憶されている。診断サポート情報ＤＢ２９１は、患者に対する診断サポート情報を記憶している。
【００７９】
図１３は、診断サポート情報ＤＢ２９１のレコードレイアウトの一例を示す説明図である。診断サポート情報ＤＢ２９１は、管理ＩＤ列、患者ＩＤ列、診断内容列及び診断日時列を含む。管理ＩＤ列は、各診断サポート情報の管理データを識別するために、一意に特定される診断サポート情報の管理データのＩＤを記憶している。患者ＩＤ列は、患者を特定する患者ＩＤを記憶している。診断内容列は、患者に対する診断の内容を記憶している。診断日時列は、患者に対する診断の日時情報を記憶している。なお、関連付けられた内視鏡画像、診断サポート情報が診断サポート情報ＤＢ２９１に記憶されても良い。
【００８０】
プロセッサ２の制御部２１は、患者を予め撮影した３次元医用画像に基づいて再構成された仮想内視鏡画像から、内視鏡１が体内に挿入された距離であるＺ座標に対応する仮想内視鏡画像を取得する。なお、挿入距離であるＺ座標に対応する仮想内視鏡画像の取得処理に関しては、実施形態１と同様であるため、説明を省略する。制御部２１は、視点位置及び視線方向により、挿入距離であるＺ座標に対応する仮想内視鏡画像から、該仮想内視鏡画像で映っている各画素までの距離に基づき、距離画像を求める。なお、距離画像を求める処理に関しては後述する。
【００８１】
制御部２１は、再構成した距離画像に基づき、内視鏡画像の各画素の画素値を補正する。内視鏡画像の各画像領域の画素の距離（遠近）により色度に相違が生じる。画素の距離が遠い場合、対応する画像領域は暗く見え、逆に、画素の距離が近い場合、対応する画像領域は明るく見える。プロセッサ２の制御部２１は、視点位置及び視線方向により、距離画像で映っている各画素までの距離に基づき、対応する内視鏡画像の各画像領域の各画素の画素値を補正する。
【００８２】
距離画像より、内視鏡画像の各画素の距離を得て、各画素、各領域の特徴パラメータ値を距離に応じて補正を行う。どこか、基準となる距離Ｒａにその各画素、各領域があったとして各画素、各領域の距離Ｒｂで特徴パラメータの補正を行う。例えば、ある領域の面積Ｓｂが距離Ｒｂにあれば、Ｓｂ×（Ｒｂ／Ｒａ）２と補正することになる。
【００８３】
以下では、発赤により赤い粘膜表面の画像領域の画素の画素値を補正する例を説明する。例えば、制御部２１は、粘膜表面の画像領域の画素（Ｒ１，Ｇ１，Ｂ１）の距離が基準距離以上であると判定した場合（画素が遠い）、粘膜表面の赤色が暗く見えるため、該画素に対し、赤色が明るく見えるための画素値補正処理を行う。例えば、画素値Ｒ１を距離の２乗の比に応じて画素サイズが変わるので、画素値Ｒ１もその比で大きくすることにより、補正後の画素（Ｒ２，Ｇ１，Ｂ１）は赤く見える。
【００８４】
逆に、制御部２１は、粘膜表面の画像領域の画素（Ｒ１，Ｇ１，Ｂ１）の距離が基準距離未満であると判定した場合（画素が近い）、画素値Ｒ１を距離の２乗の比に応じて画素サイズが変わるので画素値Ｒ１もその比で小さくすることにより、粘膜表面の赤色が暗く見えるための画素値補正処理を行う。
【００８５】
なお、上述した赤い粘膜表面の画像領域における画素値の補正処理に関しては、画素のＲの比率を利用しても良い。例えば、制御部２１は、粘膜表面の画像領域の画素（Ｒ３，Ｇ３，Ｂ３）の距離が基準距離２倍以上であり、且つ３倍以下であると判定した場合、Ｒ３／（Ｒ３＋Ｇ３＋Ｂ３）計算式でＲの比率を算出する。制御部２１は、粘膜表面の画像領域の画素（Ｒ３，Ｇ３，Ｂ３）の距離が基準距離３倍以上であると判定した場合、２Ｒ３／（Ｒ３＋Ｇ３＋Ｂ３）計算式でＲの比率を算出する。制御部２１は、算出したＲの比率に基づき、粘膜表面の赤色が明るく見えるための画素値補正処理を行い、補正後の画素（Ｒ４，Ｇ４，Ｂ４）を得る。
【００８６】
制御部２１は、画素値補正後の内視鏡画像の画像領域に基づき、該画像領域の特徴パラメータを抽出する。制御部２１は、抽出した特徴パラメータに基づき、ＡＩまたは判定木（decision tree）などに基づき判定を行い、得られた診断サポート情報を表示装置３に出力する。特徴パラメータは、内視鏡画像上の各領域の画像幾何学的、画像値、またこれらから計算される特徴パラメータの数値であり、画像処理手法の適用により得られるものである。例えば、制御部２１は胃の粘膜におけて、特定した色度となる特徴パラメータを抽出し、抽出した特徴パラメータが閾値以上であると判定した場合、潰瘍の性質等の診断サポート情報を出力しても良い。
【００８７】
なお、上述した処理に限るものではない。例えば、画素値補正後の内視鏡画像を入力した場合に認識結果を出力する学習済みの画像認識モデルを用いて、診断サポート情報を出力しても良い。なお、画像認識モデルを用いて診断サポート情報を出力する処理に関しては、後述の実施形態３で説明する。
【００８８】
制御部２１は、出力した診断サポート情報を大容量記憶部２９の診断サポート情報ＤＢ２９１に記憶する。具体的には、制御部２１は、管理ＩＤを割り振って、患者ＩＤおよび患者上の３次元的位置、またはＺ座標に対応付け、診断内容及び診断日時および患者上の３次元的位置、または挿入距離であるＺ座標を一つのレコードとして診断サポート情報ＤＢ２９１に記憶する。
図１４は、距離画像を求める処理を説明する説明図である。距離画像は、視点から観察対象（例えば、大腸領域の内壁）までの直線距離をピクセル値とする２次元画像である。プロセッサ２の制御部２１は、３次元医用画像に基づいて仮想内視鏡画像を再構成し、再構成した仮想内視鏡画像と内視鏡画像とを一致させる。制御部２１は、内視鏡画像と仮想内視鏡画像とを一致させた視点位置及び視線方向に基づいて、再構成した仮想内視鏡画像の各画素に対応する３次元画像までの視点からの距離に基づき、距離画像を求める（生成する）。
【００８９】
図１５は、画素値補正後の内視鏡画像に基づいて診断サポート情報を出力する際の処理手順を示すフローチャートである。なお、図９と重複する内容については同一の符号を付して説明を省略する。プロセッサ２の制御部２１は、ステップＳ２０４で内視鏡１の挿入距離であるＺ座標に対応する仮想内視鏡画像を取得した後に、図１４のように、取得した仮想内視鏡画像の各画素に対応する３次元画像までの視点からの距離に基づき、距離画像を求める（ステップＳ２２１）。
【００９０】
制御部２１は、視点位置及び視線方向により、距離画像で映っている各画素までの距離に基づき、対応する内視鏡画像の各画像領域または画素の特徴パラメータを補正する（ステップＳ２２２）。制御部２１は、画素値補正後の内視鏡画像の画像領域に基づき、該画像領域の特徴パラメータを抽出する（ステップＳ２２３）。なお、特徴パラメータの抽出処理に関しては、例えば、上述した「発赤により粘膜表面が赤い」といった色調に関する所見を特徴パラメータ化する場合、内視鏡画像を構成するＲＧＢ各データを用いて、Ｒ／（Ｒ＋Ｇ＋Ｂ）を画素ごとに求め比率となる色度特徴パラメータを抽出しても良い。または、周波数成分抽出手段により抽出された所定の周波数成分に基づく位相情報を検出し、検出した位相情報に基づいて内視鏡画像の特徴パラメータを抽出しても良い。
【００９１】
制御部２１は、抽出した特徴パラメータに基づき、観察対象に対する診断処理を行う（ステップＳ２２４）。例えば、制御部２１は胃の粘膜におけて、抽出した各画素の色度と、色度の閾値とを比較し、各画素または一部の画素の色度が閾値以上であると判定した場合、所定の判定基準に応じて、診断処理を行っても良い。所定の判定基準は、例えば、画素の色度の値に応じた胃の潰瘍の分類情報であっても良い。
【００９２】
制御部２１は、診断処理により得た診断サポート情報を表示装置３に出力する（ステップＳ２２５）。表示装置３は、プロセッサ２から出力された診断サポート情報を表示する（ステップＳ３２１）。プロセッサ２の制御部２１は、出力した診断サポート情報を大容量記憶部２９の診断サポート情報ＤＢ２９１に記憶し（ステップＳ２２６）、処理を終了する。
【００９３】
本実施形態によると、仮想内視鏡画像に基づいて距離画像を求め、求めた距離画像に基づき、内視鏡画像の各画素の特徴パラメータ値を補正することが可能となる。
【００９４】
本実施形態によると、画素値補正後の内視鏡画像に基づき、診断サポート情報を出力することが可能となる。
【００９５】
（実施形態３）
実施形態３は、距離画像に基づき、内視鏡画像の各画像領域に対して特徴パラメータの補正処理を行い、特徴パラメータ補正後の内視鏡画像を画像認識モデルに入力して認識結果を取得する形態に関する。なお、実施形態１〜２と重複する内容については説明を省略する。なお、本実施形態では、特徴パラメータの補正処理に関しては、面積補正処理の例を説明する。
【００９６】
図１６は、実施形態３のプロセッサ２の構成例を示すブロック図である。なお、図１２と重複する内容については同一の符号を付して説明を省略する。大容量記憶部２９には、画像認識モデル２９２が記憶されている。画像認識モデル２９２は、撮影画像に基づいて、被検体の体内の病変、組織等を認識する画像認識器であり、機械学習により生成された学習済みモデルである。なお、画像認識モデル２９２は、ネットワークを介して接続されたクラウドコンピューティングシステムに配置され、使用されても良い。
【００９７】
図１７は、画像認識モデル２９２を用いて診断サポート情報を出力する処理を説明する説明図である。各画像領域の遠近により該画像領域の面積に相違が生じる。プロセッサ２の制御部２１は、仮想内視鏡画像に基づいて求めた距離画像を用いて、内視鏡画像の各画像領域に対する面積補正処理を行う。なお、面積補正処理に関しては後述する。
【００９８】
制御部２１は、面積補正後の内視鏡画像の画像領域を画像認識モデル２９２に入力した場合に診断サポート情報を出力する。なお、以下では、ディープラーニングにより構築された画像認識モデル２９２を用いて、大腸内のポリープを認識した認識結果を出力する例を説明する。ポリープは、大腸の粘膜の一部がイボ状に盛り上がり、大腸の空間部分に突出したものであり、大部分が良性の疾患で、今すぐ身体に害を及ぼすことがないが、徐々に大きくなれば出血等を起こす場合がある。
【００９９】
画像認識モデル２９２は、人工知能ソフトウェアの一部であるプログラムモジュールとして利用される。画像認識モデル２９２は、面積補正後の内視鏡画像を入力とし、大腸内のポリープを予測した結果を出力とするニューラルネットワークを構築（生成）済みの抽出器である。ニューラルネットワークは、例えばＣＮＮ（Convolutional Neural Network）であり、面積補正後の内視鏡画像の入力を受け付ける入力層と、大腸内の部位を予測した結果を出力する出力層と、バックプロパゲーションにより学習済の中間層とを有する。
【０１００】
入力層は、内視鏡画像に含まれる各画素の画素値の入力を受け付ける複数のニューロンを有し、入力された画素値を中間層に受け渡す。中間層は、内視鏡画像の画像特徴パラメータを抽出する複数のニューロンを有し、抽出した画像特徴パラメータを出力層に受け渡す。例えば画像認識モデル２９２がＣＮＮである場合を例にして説明する。中間層は、入力層から入力された各画素の画素値を畳み込むコンボリューション層と、コンボリューション層で畳み込んだ画素値をマッピングするプーリング層とが交互に連結された構成により、内視鏡画像の画素情報を圧縮しながら最終的に画像の特徴パラメータを抽出する。その後中間層は、バックプロパゲーションによりパラメータが学習された全結合層により、内視鏡画像が大腸内のポリープである確率を予測する。予測結果は、複数のニューロンを有する出力層に出力される。
【０１０１】
なお、内視鏡画像は、交互に連結されたコンボリューション層とプーリング層とを通過して特徴パラメータが抽出された後に、入力層に入力されても良い。
【０１０２】
なお、ＣＮＮの代わりに、ＲＣＮＮ（Regions with Convolutional Neural Network）、Ｆａｓｔ ＲＣＮＮ、Ｆａｓｔｅｒ  ＲＣＮＮまたはＳＳＤ（Single Shot Multibook Detector）、ＹＯＬＯ（You Only Look Once）等の、任意の物体検出アルゴリズムを使用しても良い。
【０１０３】
なお、上述した機械学習によりポリープを識別する診断処理に限るものではない。例えば、プロセッサ２の制御部２１は、内視鏡画像から大腸内の色合いまたは襞の変化に基づき、Ａ−ＫＡＺＥ（Accelerated KAZE）、ＳＩＦＴ（Scale Invariant Feature Transform）等の局所特徴パラメータ抽出方法を用いてポリープを識別して、診断サポート情報を出力しても良い。
【０１０４】
なお、上述した大腸内の内視鏡画像に対する面積補正処理の例を説明したが、これに限らず、他の部位（例えば、胃等）に対する面積補正処理を行っても良い。また、上述した特徴パラメータとして面積の例を説明したが、これに限らず、他の特徴パラメータに対して距離補正処理を行っても良い。
【０１０５】
なお、本実施形態では、ポリープ抽出用の画像認識モデル２９２の例を説明するが、他の学習済みの画像認識モデルであっても良い。例えば、画像認識モデル２９２は、機械学習により生成された学習済みモデルであり、内視鏡画像の色度特徴パラメータを抽出することにより、被検体の体内の病変、組織等を認識する画像認識器であっても良い。この場合、実施形態２での画素値補正後の内視鏡画像を画像認識モデル２９２に入力した場合、診断サポート情報を出力することができる。
【０１０６】
具体的には、プロセッサ２の制御部２１は、学習済みの画像認識モデル２９２を用いて、画素値補正後の内視鏡画像を画像認識モデル２９２に入力し、病変または組織等（例えば、大腸のポリープ）を識別する識別結果を出力する。制御部２１は、画像認識モデル２９２の出力層から出力した識別結果（例えば、大腸のポリープの確率値等）に基づき、診断サポート情報を出力する。例えば、大腸のポリープの確率値が所定閾値（例えば、０．９０）以上である場合、制御部２１は、該病変または組織がポリープであると判定しても良い。
【０１０７】
以下では、図１８及び図１９に基づいて面積補正処理を説明する。図１８は、距離補正して特徴パラメータを求める動作を説明する説明図である。図１９は、面積補正を行う動作を説明する説明図である。
【０１０８】
プロセッサ２の制御部２１は、図１８のように対応する仮想内視鏡画像から得られた距離画像に基づき、対応する内視鏡画像の各画像領域の距離Ｒ（例えば、ｒ１またはｒ２等）を取得する。制御部２１は、取得した各画像領域の距離と基準距離（例えば、２０ｍｍ）とを比較する。制御部２１は、比較した各領域の距離Ｒとの逆２乗比（Ｒ／２０）２で補正を行う。
【０１０９】
制御部２１は、内視鏡画像の画像領域の距離が基準距離以上であると判定した場合（画素が遠い）、該画像領域を構成する画素数（ピクセル数）を各領域の距離Ｒとの逆２乗比（Ｒ／２０）２で補正を行うことにより、該画像領域に対する拡大処理を行う。制御部２１は、内視鏡画像の画像領域の距離が基準距離未満であると判定した場合（画素が近い）、該画像領域を構成する画素数を各領域の距離Ｒとの逆２乗比（Ｒ／２０）２で補正を行い減らすことにより、該画像領域に対する縮小処理を行う。また各画像領域で各ピクセル間での距離に相違がある場合、基準距離に置いたとして補正を行う。
【０１１０】
図１９のように内視鏡画像に対応する仮想内視鏡画像から得られた距離画像情報に基づき各領域を距離の比率に基づいて各領域を拡縮処理する際には、例えば、最近傍補間法(ニアレストネイバー法、nearest neighbor interpolation)を利用しても良い。最近傍補間法は、拡大または縮小後の画素を拡縮率で除算し、その値を四捨五入して得られた座標の画素をそのまま使う線形補間法である。また、画像の拡縮処理の技術であるバイリニア補間法、バイキュービック補間法、及びＬａｎｃｚｏｓ（ランツォシュ）補間法等が利用されても良い。その後に、上述した処理によって、制御部２１は面積補正後の内視鏡画像の画像領域を画像認識モデル２９２に入力する。
【０１１１】
図２０は、画像認識モデル２９２を用いて診断サポート情報を出力する際の処理手順を示すフローチャートである。なお、図１５と重複する内容については同一の符号を付して説明を省略する。プロセッサ２の制御部２１は、ステップＳ２２１で距離画像を求めた後に、求めた距離画像を用いて、内視鏡画像の各画像領域に対する面積補正処理を行う（ステップＳ２３１）。制御部２１は、面積補正処理を行った内視鏡画像を画像認識モデル２９２に入力する（ステップＳ２３２）。なお、制御部２１は実施の形態２で述べた輝度補正（画素値補正）後の内視鏡画像に対し面積補正処理を行った内視鏡画像を画像認識モデル２９２に入力しても良い。
【０１１２】
制御部２１は、画像認識モデル２９２を用いて、面積補正後の内視鏡画像に対する画像特徴パラメータを抽出することにより、病変（例えば、大腸ポリープ等）等を認識した認識結果（診断サポート情報）を取得する（ステップＳ２３３）。制御部２１は、面積補正後の内視鏡画像と、面積補正後の内視鏡画像を用いて、学習済みの画像認識モデル２９２から出力した診断サポート情報とを重畳して表示用の画像を生成する（ステップＳ２３４）。
【０１１３】
制御部２１は、生成した表示用の画像を表示装置３に出力する（ステップＳ２３５）。表示装置３は、プロセッサ２から出力された表示用の画像を表示する（ステップＳ３３１）。プロセッサ２の制御部２１は、出力した診断サポート情報を大容量記憶部２９の診断サポート情報ＤＢ２９１に記憶し（ステップＳ２３６）、処理を終了する。
【０１１４】
本実施形態によると、内視鏡画像の各画像領域に対して特徴パラメータ補正処理を行うことにより、正しい画像特徴パラメータを取得することが可能となる。
【０１１５】
本実施形態によると、特徴パラメータ補正処理を行った内視鏡画像を学習済みの画像認識モデルに入力することにより、精度の良い認識結果を出力するため、信頼性の高い診断サポート情報を得ることが可能となる。
【０１１６】
本実施形態によると、距離画像に基づいて、内視鏡画像の各領域の特徴パラメータを補正することにより、遠い病変部位（例えば、ポリープ）と近い病変部位両方に対し、同じ画像認識モデルを用いて精度良く判定することが可能となる。
【０１１７】
（実施形態４）
図２１は、上述した形態のプロセッサ２の動作を示す機能ブロック図である。制御部２１が制御プログラム２Ｐを実行することにより、プロセッサ２は以下のように動作する。
【０１１８】
内視鏡画像取得部２０ａは、内視鏡１から患者の内視鏡画像を取得する。仮想内視鏡画像取得部２０ｂは、患者を予め撮影した３次元医用画像に基づいて再構成（生成）された仮想内視鏡画像を取得する。仮想内視鏡画像再構成部２０ｃは、仮想内視鏡画像取得部２０ｂが取得した仮想内視鏡画像と、内視鏡画像取得部２０ａが取得した内視鏡画像との一致度に基づき、該内視鏡画像に最も一致する補正後の仮想内視鏡画像を再構成（生成）する。
【０１１９】
診断サポート情報出力部２０ｄは、内視鏡画像取得部２０ａが取得した内視鏡画像を、仮想内視鏡画像再構成部２０ｃが再構成した補正後の仮想内視鏡画像により得られる距離画像に内視鏡画像の各画素を対応させて、これに応じて補正した特徴パラメータに基づいた診断サポート情報を出力する。距離画像再構成部２０ｅは、仮想内視鏡画像に基づいて距離画像を求める。第１補正部２０ｆは、距離画像再構成部２０ｅが求めた距離画像に基づき、対応する内視鏡画像の各画素の画素値を該距離画像から得られる距離に応じて各領域の画素を補正する。
【０１２０】
第２補正部２０ｇは、距離画像再構成部２０ｅが求めた距離画像に基づき、内視鏡画像取得部２０ａが取得した内視鏡画像の各画像領域の特徴パラメータの補正処理を行う。屈曲履歴情報取得部２０ｈは、患者の体内に挿入された内視鏡の屈曲履歴情報を取得する。Ｚ座標補正部２０ｉは、屈曲履歴情報取得部２０ｈが取得した屈曲履歴情報に応じて内視鏡の挿入距離であるＺ座標、仮想内視鏡の視点方向、視点位置を補正する。Ｚ座標取得部２０ｊは、患者の体内に挿入された内視鏡の挿入距離であるＺ座標を測定する。
【０１２１】
また、診断サポート情報出力部２０ｄは、第１補正部２０ｆまたは第２補正部２０ｇが補正した内視鏡画像に基づき、腫瘍候補を含む診断サポート情報を出力する。更にまた、診断サポート情報出力部２０ｄは、第１補正部２０ｆまたは第２補正部２０ｇが補正した内視鏡画像を入力した場合に認識結果を出力する学習済みの画像認識モデルを用いて、認識結果を出力する。
【０１２２】
本実施の形態４は以上の如きであり、その他は実施の形態１から３と同様であるので、対応する部分には同一の符号を付してその詳細な説明を省略する。
【０１２３】
（実施形態５）
以下、本発明をその実施の形態を示す図面に基づいて詳述する。図２２は、実施形態５に係る診断支援システムＳの概要を示す模式図である。診断支援システムＳは、内視鏡装置１１０及び、内視鏡装置１１０と通信可能に接続される情報処理装置６を含む。
【０１２４】
内視鏡装置１１０は、内視鏡１４０の撮像素子１４４５（図３２参照）によって撮影した画像（撮影画像）を内視鏡用プロセッサ１２０に伝送し、内視鏡用プロセッサ１２０によってガンマ補正、ホワイトバランス補正、シェーディング補正等の各種画像処理を行うことにより、操作者が目視し易い状態にした内視鏡画像を生成する。内視鏡装置１１０は、生成した内視鏡画像を情報処理装置６に出力（送信）する。内視鏡装置１１０から送信された内視鏡画像を取得した情報処理装置６は、これら内視鏡画像に基づき、種々の情報処理を行い、診断支援に関する情報を出力する。
【０１２５】
内視鏡装置１１０は、内視鏡用プロセッサ１２０と、内視鏡１４０と、表示装置５０とを含む。表示装置５０は、たとえば液晶表示装置、または、有機ＥＬ（Electro Luminescence）表示装置である。
【０１２６】
表示装置５０はキャスター付きの収容棚１１６の上段に設置されている。内視鏡用プロセッサ１２０は、収容棚１１６の中段に収容されている。収容棚１１６は、図示を省略する内視鏡検査用ベッドの近傍に配置される。収容棚１１６は内視鏡用プロセッサ１２０に接続されたキーボード１１５を搭載する、引き出し式の棚を有する。
【０１２７】
内視鏡用プロセッサ１２０は、略直方体形状であり、一面にタッチパネル１２５を備える。タッチパネル１２５の下部に、読取部１２８が配置されている。読取部１２８は、たとえばＵＳＢコネクタ、ＳＤ（Secure Digital）カードスロット、またはＣＤ−ＲＯＭ（Compact Disc Read Only Memory）ドライブ等の、可搬型記録媒体の読み書きを行なう接続用インターフェイスである。
【０１２８】
内視鏡１４０は、挿入部１４４、操作部１４３、ユニバーサルコード１４９およびスコープコネクタ１４８を有する。操作部１４３には、制御ボタン１４３１が設けられている。挿入部１４４は長尺であり、一端が折止部１４５を介して操作部１４３に接続されている。挿入部１４４は、操作部１４３側から順に軟性部１４４１、湾曲部１４４２および先端部１４４３を有する。湾曲部１４４２は、湾曲ノブ１４３３の操作に応じて湾曲する。挿入部１４４には、３軸加速度センサ、ジャイロセンサ、地磁気センサ、磁気コイルセンサ又は内視鏡挿入形状観測装置（コロナビ）等の物理検出装置が実装され、内視鏡１４０が被検者の体内に挿入された際、これら物理検出装置からの検出結果を取得するものであってもよい。
【０１２９】
ユニバーサルコード１４９は長尺であり、第一端が操作部１４３に、第二端がスコープコネクタ１４８にそれぞれ接続されている。ユニバーサルコード１４９は、軟性である。スコープコネクタ１４８は略直方体形状である。スコープコネクタ１４８には、送気送水用のチューブを接続する送気送水口金１３６（図２３参照）が設けられている。
【０１３０】
図２３は、診断支援システムＳに含まれる内視鏡装置１１０の構成例を示すブロック図である。制御部１２１は、本実施の形態のプログラムを実行する演算制御装置である。制御部１２１には、一または複数のＣＰＵ（Central Processing Unit）、ＧＰＵ（Graphics Processing Unit）又はマルチコアＣＰＵ等が使用される。制御部１２１は、バスを介して内視鏡用プロセッサ１２０を構成するハードウェア各部と接続されている。
【０１３１】
主記憶装置１２２は、例えば、ＳＲＡＭ（Static Random Access Memory）、ＤＲＡＭ（Dynamic Random Access Memory）、フラッシュメモリ等の記憶装置である。主記憶装置１２２には、制御部１２１が行なう処理の途中で必要な情報および制御部１２１で実行中のプログラムが一時的に保存される。補助記憶装置１２３は、例えば、ＳＲＡＭ、フラッシュメモリまたはハードディスク等の記憶装置であり、主記憶装置１２２よりも大容量の記憶装置である。補助記憶装置１２３には、例えば、取得した撮影画像、生成した内視鏡画像が、中間データとして保存されるものであってもよい。
【０１３２】
通信部１２４は、有線又は無線によりネットワークを介して情報処理装置６と通信するための通信モジュール又は通信インターフェイスであり、例えばｗｉｆｉ（登録商標）、 Ｂｌｕｅｔｏｏｔｈ（登録商標）等の狭域無線通信モジュール、又は４Ｇ、ＬＴＥ等の広域無線通信モジュールである。タッチパネル１２５は、液晶表示パネル等の表示部と、表示部に積層された入力部を含む。通信部１２４は、ＣＴ装置、ＭＲＩ装置（図２６参照）又は、これら装置から出力されたデータを保存するストレージ装置（図示せず）と通信するものであってもよい。
【０１３３】
表示装置Ｉ／Ｆ１２６は、内視鏡用プロセッサ１２０と表示装置５０とを接続するインターフェイスである。入力装置Ｉ／Ｆ１２７は、内視鏡用プロセッサ１２０とキーボード１１５等の入力装置とを接続するインターフェイスである。
【０１３４】
光源１３３は、たとえば白色ＬＥＣ、キセノンランプ等の高輝度の白色光源である。光源１３３は、図示を省略するドライバを介してバスに接続されている。光源１３３の点灯、消灯および明るさの変更は、制御部１２１により制御される。光源１３３から照射した照明光は、光コネクタ１３１２に入射する。光コネクタ１３１２は、スコープコネクタ１４８と係合し、内視鏡１４０に照明光を供給する。
【０１３５】
ポンプ１３４は、内視鏡１４０の送気・送水機能用の圧力を発生させる。ポンプ１３４は、図示を省略するドライバを介してバスに接続されている。ポンプ１３４のオン、オフおよび圧力の変更は、制御部１２１により制御される。ポンプ１３４は、送水タンク１３５を介して、スコープコネクタ１４８に設けられた送気送水口金１３６に接続される。
【０１３６】
内視鏡用プロセッサ１２０に接続された内視鏡１４０の機能の概略を説明する。スコープコネクタ１４８、ユニバーサルコード１４９、操作部１４３および挿入部１４４の内部に、ファイバーバンドル、ケーブル束、送気チューブおよび送水チューブ等が挿通されている。光源１３３から出射した照明光は、光コネクタ１３１２およびファイバーバンドルを介して、先端部１４４３に設けられた照明窓から放射される。照明光により照らされた範囲を、先端部１４４３に設けられた撮像素子で撮影する。撮像素子からケーブル束および電気コネクタ１３１１を介して内視鏡用プロセッサ１２０に撮影画像が伝送される。電気コネクタ１３１１及び光コネクタ１３１２により、内視鏡用コネクタ１３１が構成される。
【０１３７】
内視鏡用プロセッサ１２０の制御部１２１は、主記憶装置１２２に記憶されているプログラムを実行することにより、画像処理部１２１１として機能する。画像処理部１２１１は、内視鏡１４０から出力された画像（撮影画像）をガンマ補正、ホワイトバランス補正、シェーディング補正等の各種画像処理を行い、内視鏡画像として出力する。
【０１３８】
図２４は、診断支援システムＳに含まれる情報処理装置６の構成例を示すブロック図である。情報処理装置６は、制御部６２、通信部６１、記憶部６３及び入出力Ｉ／Ｆ６４を含む。情報処理装置６は、例えばサーバ装置、パーソナルコンピュータ等である。サーバ装置は、単体のサーバ装置のみならず、複数台のコンピュータによって構成されるクラウドサーバ装置、又は仮想サーバ装置を含む。情報処理装置６は、内視鏡用プロセッサ１２０からアクセス可能な外部ネットワーク上に位置するクラウドサーバとして設けられているものであってもよい。
【０１３９】
制御部６２は、一又は複数のＣＰＵ（Central Processing Unit）、ＭＰＵ（Micro-Processing Unit）、ＧＰＵ（Graphics Processing Unit）等の計時機能を備えた演算処理装置を有し、記憶部６３に記憶されたプログラムＰを読み出して実行することにより、情報処理装置６に係る種々の情報処理、制御処理等を行う。又は、制御部６２は量子コンピュータ用チップで構成されており、情報処理装置６は量子コンピュータであってもよい。
【０１４０】
記憶部６３は、ＳＲＡＭ（Static Random Access Memory）、ＤＲＡＭ（Dynamic Random Access Memory）、フラッシュメモリ等の揮発性記憶領域及び、ＥＥＰＲＯＭ又はハードディスク等の不揮発性記憶領域を含む。記憶部６３には、プログラムＰ及び処理時に参照するデータがあらかじめ記憶してある。記憶部６３に記憶されたプログラムＰは、情報処理装置６が読み取り可能な記録媒体６３２から読み出されたプログラムＰを記憶したものであってもよい。また、図示しない通信網に接続されている図示しない外部コンピュータからプログラムＰをダウンロードし、記憶部６３に記憶させたものであってもよい。記憶部６３には、後述する学習モデル９を構成する実体ファイル（ニューラルネットワーク（ＮＮ）のインスタンスファイル）が保存されている。これら実体ファイルは、プログラムＰの一部位として構成されるものであってもよい。記憶部６３には、後述する内視鏡画像ＤＢ６３１(DataBase)、学習モデル９が記憶されているものであってもよい。
【０１４１】
通信部６１は、有線又は無線により、内視鏡装置１１０と通信するための通信モジュール又は通信インターフェイスであり、例えばｗｉｆｉ（登録商標）、 Ｂｌｕｅｔｏｏｔｈ（登録商標）等の狭域無線通信モジュール、又は４Ｇ、ＬＴＥ等の広域無線通信モジュールである。通信部６１は、ＣＴ装置、ＭＲＩ装置（図２６参照）又は、これら装置から出力されたデータを保存するストレージ装置（図示せず）と通信するものであってもよい。
【０１４２】
入出力Ｉ／Ｆ６４は、例えば、ＵＳＢ又はＤＳＵＢ等の通信規格に準拠したものであり、入出力Ｉ／Ｆ６４に接続された外部機器とシリアル通信するための通信インターフェイスである。入出力Ｉ／Ｆ６４には、例えばディプレイ等の表示部７、キーボード等の入力部８が接続されており、制御部６２は、入力部８から入力された実行コマンド又はイベントに基づき行った情報処理の結果を表示部７に出力する。
【０１４３】
図２５は、内視鏡画像ＤＢ６３１のデータレイアウトを例示する説明図である。内視鏡画像ＤＢ６３１は、情報処理装置６の記憶部６３に記憶されており、情報処理装置６に実装されているＲＤＢＭＳ（Relational DataBase Management System）等のデータベース管理ソフトウェアにより構成される。又は、内視鏡画像ＤＢ６３１は、情報処理装置６と通信可能に接続されたストレージ装置等、情報処理装置６からアクセス可能な所定の記憶領域に記憶されているものであってもよい。又は、内視鏡画像ＤＢ６３１は、内視鏡装置１１０の主記憶装置１２２に記憶されているものであってもよい。すなわち、所定の記憶領域は、情報処理装置６の記憶部６３、内視鏡装置１１０の主記憶装置１２２及び、情報処理装置６又は内視鏡装置１１０からアクセス可能なストレージ装置を含む。情報処理装置６は、内視鏡用プロセッサ１２０が出力した内視鏡画像、検査日時及び被検者の属性情報を取得し、検査結果ＤＢ６３１に登録するものであってもよい。又は、内視鏡用プロセッサ１２０から直接出力された内視鏡画像、検査日時及び被検者の属性情報が、検査結果ＤＢ６３１に直接的に登録されるものであってもよい。
【０１４４】
内視鏡画像ＤＢ６３１は、例えば、被検者マスタテーブル及び画像テーブルを含み、被検者マスタテーブルと画像テーブルとは、両テーブルに共に含まれる項目（メタデータ）である被検者ＩＤにより、関連付けが設定されている。
【０１４５】
被検者マスタテーブルは、管理項目（メタデータ）として、例えば、被検者ＩＤ、性別、生年月日、年齢を含む。被検者ＩＤの項目（フィールド）には、内視鏡検査を受けた被検者を一意に特定するためにＩＤ情報が格納される。性別及び生年月日の項目（フィールド）には、当該被検者ＩＤの性別及び生年月日の生体属性が格納され、年齢の項目（フィールド）には、生年月日により算出される現時点における年齢が格納される。これら、性別、年齢は、被検者の生体情報として、被検者マスタテーブルにより管理される。
【０１４６】
画像テーブルは、管理項目（メタデータ）として、例えば、被検者ＩＤ、検査日時、内視鏡画像、フレーム番号、Ｓ座標（挿入距離）、３次元医用画像、視点位置、視点方向、仮想内視鏡画像を含む。
【０１４７】
被検者ＩＤの項目（フィールド）には、被検者マスタテーブルに管理される被検者の生体属性と関連付けをするためのものであり、当該被検者夫々のＩＤの値が格納される。検査日時の項目（フィールド）には、当該被検者ＩＤの被検者が内視鏡検査を受けた日時が格納される。内視鏡画像の項目（フィールド）には、当該被検者ＩＤの内視鏡画像がオブジェクトデータとして格納される。内視鏡画像は、１フレームによる例えばjpeg形式の静止画又は、数フレームによる例えばavi形式の動画であってもよい。内視鏡画像の項目（フィールド）には、ファイルとして保存されている当該内視鏡画像の保存場所（ファイルパス）を示す情報が格納されるものであってもよい。
【０１４８】
フレーム番号の項目（フィールド）には、内視鏡画像が動画の場合、当該動画のフレーム番号が格納される。動画のフレーム番号を格納することにより、内視鏡画像が動画であっても、静止画と同様に取り扱うことができ、後述する３次元医用画像又は仮想内視鏡画像の位置情報（体内座標系における座標）と関連付けることができる。
【０１４９】
Ｓ座標（挿入距離）の項目（フィールド）には、同じレコードに格納される内視鏡画像の撮影時点における内視鏡１４０の挿入距離が、Ｓ座標の値として格納される。挿入距離（Ｓ座標）の導出等については、後述する。
【０１５０】
３次元医用画像の項目（フィールド）には、ＣＴ装置（Ｘ線ＣＴ、Ｘ線コーンビームＣＴ）又はＭＲＩ装置（ＭＲＩ−ＣＴ）から出力されたデータに基づき生成される、例えばＤＩＣＯＭ（Digital Imaging and Communications in Medicine）形式の３次元医用画像が、オブジェクトデータとして格納される。又は、ファイルとして保存されている当該３次元医用画像の保存場所（ファイルパス）を示す情報が格納されるものであってもよい。
【０１５１】
視点位置の項目（フィールド）には、内視鏡画像が撮影された時点における内視鏡１４０の体内における座標、すなわち３次元医用画像の座標系における座標が格納される。視点位置の導出等については、後述する。
【０１５２】
視点方向の項目（フィールド）には、内視鏡画像が撮影された時点における内視鏡１４０の向き、すなわち３次元医用画像の座標系（体内座標系における座標）における回転角が格納される。視点方向の導出等については、後述する。
【０１５３】
仮想内視鏡画像の項目（フィールド）には、３次元医用画像から生成された仮想内視鏡画像がオブジェクトデータとして格納される。ファイルとして保存されている当該仮想内視鏡画像の保存場所（ファイルパス）を示す情報が格納されるものであってもよい。仮想内視鏡画像は、内視鏡画像とのマッチング処理を行うために３次元医用画像から生成されるものであり、例えば、内視鏡画像に最も一致する仮想内視鏡画像が、当該内視鏡画像と同じレコードに登録される。仮想内視鏡画像の生成等については、後述する。
【０１５４】
図２６は、情報処理装置６の制御部６２に含まれる機能部を例示する機能ブロック図である。内視鏡用プロセッサ１２０（内視鏡装置１１０）の制御部１２１は、主記憶装置１２２に記憶されているプログラムを実行することにより、画像処理部１２１１として機能する。情報処理装置６の制御部６２は、記憶部６３に記憶されているプログラムＰを実行することにより、取得部６２１、視点位置導出部６２２、仮想内視鏡画像生成部６２３、一致度判定部６２４、ＤＢ登録部６２５として機能する。
【０１５５】
内視鏡用プロセッサ１２０の画像処理部１２１１は、内視鏡から出力された画像（撮影画像）をガンマ補正、ホワイトバランス補正、シェーディング補正等の各種画像処理を行い、内視鏡画像として出力する。画像処理部１２１１は、生成した内視鏡画像及び内視鏡画像の撮像時点に基づく検査日時を情報処理装置６に出力（送信）する。画像処理部１２１１は、更にキーボード１１５から入力された被検者ＩＤを情報処理装置６に出力するものであってもよい。画像処理部１２１１は、内視鏡１４０の周辺環境を測定するため内視鏡１４０の挿入部１４４（可撓管）に配設されたセンサから出力される内視鏡１４０の挿入距離（Ｓ座標）に関する情報を、情報処理装置６に出力するものであってもよい。画像処理部１２１１は、センサから取得した内視鏡１４０の挿入距離に関する情報を、例えば、内視鏡画像に重畳して表示装置に表示させるものであってもよい。
【０１５６】
内視鏡１４０が体内に挿入された距離であるＳ座標を取得するためのセンサは、例えば温度センサ、光センサ、圧力センサ、濡れセンサ（電極）、湿度センサを含む。例えば、当該センサが光センサである場合、光センサは挿入部１４４（可撓管）の内部に配置されているが、挿入部１４４（可撓管）が体内に挿入されているときでも光を受光することができる。そのため、光センサが光をより多く受光している部分が体外、少ない部分を体内として判別することが可能である。そして内視鏡用プロセッサ１２０の制御部１２１は、光センサで得られた信号に基づき、体腔挿入部位である境界位置にある光センサを特定することにより、体内に挿入されている挿入部１４４（可撓管）の距離（長さ）であるＳ座標を導出することができる。
【０１５７】
挿入部１４４（可撓管）に接する図示しないマウスピース等にローラエンコーダを付け、挿入部１４４（可撓管）が体内に挿入されている距離分だけこのローラエンコーダが回転することを用いて、内視鏡１４０が体内に挿入された距離であるＳ座標を取得することができる。マウスピース等のローラエンコーダは、挿入部１４４（可撓管）の進退に伴って回転し、体内に挿入された内視鏡１４０の先端部１４４３と、例えば口又は鼻等の管腔に連通する開口部との間の長さ、すなわち挿入部１４４（可撓管）の挿入距離を測定できる。ローラエンコーダは、内視鏡用プロセッサ１２０と電気的に接続しており、測定した距離を内視鏡用プロセッサ１２０に送る。またローラエンコーダの代わりに光学式エンコーダを用いても良い。
【０１５８】
また、内視鏡１４０の挿入距離を測定する補助装置が被検体の入り口である体腔挿入部位に装着された場合、内視鏡１４０の通過距離を測定することにより、内視鏡１４０が体内に挿入された距離であるＳ座標を取得することができる。補助装置は、例えば挿入部１４４（可撓管）に付けたリニアスケールのような磁場のスケールとマウスピースに付けたリニアヘッドで距離を測定することであっても良く、またはローラーを付けた内視鏡１４０のマウスピースであっても良い。なお、鼻または肛門等に内視鏡が挿入される場合、マウスピースと類似のローラーを付けた補助装置を利用しても良い。さらにまた、内視鏡１４０の挿入部１４４（可撓管）に一定間隔で挿入距離を記録したチップを内蔵しても良い。マウスピース等が得た該チップで記録されたＳ座標情報から、内視鏡用プロセッサ１２０は、内視鏡１４０が体内に挿入された距離であるＳ座標を取得することができる。
【０１５９】
取得部６２１は、内視鏡用プロセッサ１２０が出力した被検者ＩＤ、検査日時、内視鏡画像及びＳ座標（挿入距離）を取得する。取得部６２１は、取得した被検者ＩＤに基づき、通信可能に接続されたＣＴ装置又はＭＲＩ装置から出力される当該被検者の３次元用医用画像を取得する。ＣＴ装置又はＭＲＩ装置等の他の検査装置から出力される３次元用医用画像が、例えば外部サーバ（図示せず）に既に保存されている場合、情報処理装置６は、当該外部サーバにアクセスし、内視鏡用プロセッサ１２０から出力された被検者ＩＤに基づき、当該被検者の３次元用医用画像を取得するものであってもよい。
【０１６０】
３次元医用画像は、例えばＣＴ装置およびＭＲＩ装置等から出力された断層像データから構成されたボリュームデータにより表される画像、並びにＭＳ（Multi Slice）ＣＴ装置およびＸ線フラットパネルを用いたＸ線コーンビームＣＴ装置から出力されたボリュームデータにより表される画像である。Ｘ線ＣＴ装置又はコーンビームＣＴ装置を用いた場合、例えばＤＥＣＴ撮影（Dual Energy CT）を行い、実効質量数（effective-Z）により３次元医用画像の各画素の組成（体組成）が分かる画像とするものであってもよい。ＭＲＩ装置を用いた場合、脂肪又は乳酸等の３次元医用画像の各画素の組成（体組成）に関する情報を付与した画像とするものであってもよい。
【０１６１】
取得部６２１は、取得したＳ座標を視点位置導出部６２２に出力する。視点位置導出部６２２は、取得したＳ座標に基づき、当該Ｓ座標に対応する３次元用医用画像の座標（体内座標系における座標）、すなわち内視鏡が撮像された時点における内視鏡１４０の先端部１４４３が位置する視点位置を導出する。図２７は、内視鏡が挿入された距離（Ｓ座標の値）を示す説明図である。図示されるように３次元用医用画像により、内視鏡１４０により撮影された消化器官等は、３次元形状により表現される。当該消化器官等の内壁の内側には、空間が形成されており、当該空間は内視鏡が挿入される挿入経路となる。内視鏡１４０の挿入距離であるＳ座標は、当該挿入経路の内側（消化器官等の内壁の内側）であって、挿入されている経路の経路長が当該挿入距離に略等しくなる場所となるため、Ｓ座標に基づき、消化器官等の内壁の内側に位置する内視鏡１４０の先端部１４４３の座標を導出することができる。視点位置導出部６２２は、導出した視点位置に関する情報を仮想内視鏡画像生成部６２３に出力する。
【０１６２】
取得部６２１は、取得した３次元医用画像を仮想内視鏡画像生成部６２３に出力する。仮想内視鏡画像生成部６２３は、取得した３次元医用画像及び、視点位置導出部６２２から取得した視点位置に基づき、仮想内視鏡画像を生成する。仮想内視鏡画像は、気管および気管支内又は腸管等の管状臓器を撮影したＸ線ＣＴまたはＭＲＩまたはＸ線コーンビームＣＴの３次元医用画像に基づいて生成（再構成）し、３次元用医用画像による器官内（体腔内）を仮想的内視鏡によって表した画像である。例えば、大腸に空気を入れた状態でＣＴ撮影を行い、その撮影によって得た３次元用医用画像を大腸の内側からボリュームレンダリングすることによって、大腸の仮想内視鏡画像を生成（再構成）するものであってもよい。
【０１６３】
仮想内視鏡画像生成部６２３は、取得した３次元医用画像から被検者内の臓器のボクセルデータを抽出する。臓器としては、例えば大腸、小腸、腎臓、気管支または血管等があるが、これに限らずその他の臓器でも良い。なお、本実施形態においては大腸のボクセルデータを抽出して取得するものとする。例えば、大腸領域を抽出する方法としては、具体的には、まず、３次元医用画像に基づいて体軸に垂直な断面（軸位断；axial）の軸位断画像を複数再構成し、その各軸位断画像に対して、公知の手法によりＸ線吸収係数に基づくＸ線ＣＴ値を閾値として体表面と体内の境界を求め、体表を基準に体外と体内領域を分離する処理を行う。例えば、再構成された軸位断画像に対してＸ線ＣＴ値による二値化処理を施し、輪郭抽出処理により輪郭を抽出し、その抽出した輪郭内部を体内(人体)領域として抽出する。次に、体内領域の軸位断画像に対して閾値による二値化処理を行い、各軸位断画像における大腸の領域の候補を抽出する。具体的には、大腸の管内には空気が入っているため、空気のＣＴ値に対応する閾値（例えば、−６００ＨＵ(Hounsfield Unit)以下）を設定して二値化処理を行い、各軸位断画像の体内の空気領域を大腸領域候補として抽出する。仮想内視鏡画像生成部６２３は、視点位置と視線方向として設定される回転角に基づく視線ベクトルを中心として、放射線状に伸ばした複数の光線方向上のボクセルデータを、所定の投影面に投影した中心投影による画像を仮想内視鏡画像として再構成する。なお、中心投影の具体的な方法としては、例えば公知のボリュームレンダリング手法等を用いることができる。
【０１６４】
仮想内視鏡画像生成部６２３は、例えば、内視鏡１４０の先端部１４４３の座標に相当する視点位置を起点に、視点方向、すなわち３次元用医用画像の座標系における回転角（Θx、Θy、Θz）を、例えば１°とする所定単位量ずつ変更させて、候補となる複数の仮想内視鏡画像を順次に生成する。すなわち、仮想内視鏡画像生成部６２３は、例えば、３次元医用画像にて特定される消化器官の内部となる視点位置から、視点方向として設定される複数の回転角により、当該消化器官の内壁による３次元形状を射影（投影）して、複数の仮想内視鏡画像を生成するものであってもよい。仮想内視鏡画像生成部６２３は、生成した複数の仮想内視鏡画像と、当該仮想内視鏡画像を生成する際に用いた視点方向（回転角）とを関連付けて、一致度判定部６２４に出力する。
【０１６５】
取得部６２１は、取得した内視鏡画像を一致度判定部６２４に出力する。一致度判定部６２４は、取得した内視鏡画像と、仮想内視鏡画像生成部６２３から取得した複数の仮想内視鏡画像及び当該仮想内視鏡画像を生成する際に用いた視点方向（回転角）とに基づき、取得した内視鏡画像と、最も一致する仮想内視鏡画像及び、当該最も一致する仮想内視鏡画像を生成する際に用いた視点方向（回転角）を特定する。一致度判定部６２４は、取得した内視鏡画像と、複数の仮想内視鏡画像夫々とを比較することにより、内視鏡画像と仮想内視鏡画像との一致度を導出する。
【０１６６】
一致度判定部６２４は、例えば、内視鏡画像の陰影画像と仮想内視鏡画像の陰影画像の相関を取るような指標で一致度を測定するものであってもよい。仮想内視鏡画像と内視鏡画像の一致度を定量的に見るには、輝度情報から求める陰影画像情報の相関度を見て一致度の高さを判断しても良い。または内視鏡画像と仮想内視鏡画像の類似度で一致度を判断しても良い。内視鏡画像と仮想内視鏡画像の一致度を測定するには、例えばＶＧＧ１６モデル（caffemodel：VGG_ILSVRC_16_layers）にて実装したＤＣＮＮ等のＡＩ（一致度学習モデル）による手法を用いても良い。又は、一致度判定部６２４は、構成した複数の仮想内視鏡画像と内視鏡画像との類似度を比較するものであってもよい。両画像の類似度比較は、公知の画像処理により行われ、画素データレベルのマッチング、または、画像から抽出した特徴のレベルにおけるマッチングのいずれを用いても良い。一致度判定部６２４は、内視鏡画像と最も一致度が高いと特定した仮想内視鏡画及び、当該仮想内視鏡画を生成するために用いた視点方向（回転角）を、ＤＢ登録部６２５に出力する。
【０１６７】
本実施形態おいて、一致度判定部６２４は、取得した内視鏡画像と、最も一致する仮想内視鏡画像を特定するとしたが、これに限定されない。一致度判定部６２４は、一致度が所定値以上となる仮想内視鏡画像を、取得した内視鏡画像と実質的に同一視できる仮想内視鏡画像として特定し、ＤＢ登録部６２５に出力するものであってもよい。一致度が所定値以上となる仮想内視鏡画像を特定することにより、候補として生成された全ての仮想内視鏡画像との全件比較を行うことを不要とし、情報処理装置６の計算負荷及び処理時間の低減を図ることができる。
【０１６８】
一致度判定部６２４は、一致度が所定値以上とならない場合、視点位置導出部６２２から取得した視点位置を微修正した視点位置により、再度、複数の仮想内視鏡画像を再生成し、再生成した複数の仮想内視鏡画像と、内視鏡画像との一致度を導出し、最も一致度が高い仮想内視鏡画像を特定してもよい。この場合、一致度判定部６２４は、最も一致度が高い仮想内視鏡画像及び、当該仮想内視鏡画像を生成するために用いた微修正した視点位置と視点方向をＤＢ登録部６２５に出力する。
【０１６９】
取得部６２１は、取得した被検者ＩＤ、検査日時、内視鏡画像、３次元用医用画像をＤＢ登録部６２５に出力する。内視鏡画像が動画の場合、取得部６２１は、当該内視鏡画像に合わせて、内視鏡画像のフレーム番号をＤＢ登録部６２５に出力する。ＤＢ登録部６２５は、取得した被検者ＩＤ、検査日時、内視鏡画像（動画の場合は、フレーム番号を付与）、Ｓ座標、３次元用医用画像、視点位置導出部６２２から取得した視点位置、一致度判定部６２４から取得した仮想内視鏡画及び、視点方向（回転角）とを関連付けて、内視鏡画像ＤＢ６３１に登録することにより、これらデータを保存する。
【０１７０】
本実施形態において、一連の処理における各機能部を、内視鏡用プロセッサ１２０の制御部１２１による機能部と、情報処理装置６の制御部６２による機能部夫々とに分けて説明したが、これら機能部の分担は一例であり、これに限定されない。内視鏡用プロセッサ１２０の制御部１２１は、情報処理装置６の制御部６２によって行われる全ての機能部として、機能するものであってもよい。すなわち、内視鏡用プロセッサ１２０が、実質的に情報処理装置６を含むものであってもよい。または、内視鏡用プロセッサ１２０の制御部１２１は、撮像素子１４４５が撮像した撮影画像を出力するのみであり、情報処理装置６の制御部６２は、以降の処理を行う全ての機能部として機能するものであってもよい。または、内視鏡用プロセッサ１２０の制御部１２１と、情報処理装置６の制御部６２とは、例えばプロセス間通信を行うことにより、協働して一連の処理における各機能部として機能するものであってもよい。
【０１７１】
図２８は、内視鏡画像と３次元医用画像との関連に関する説明図である。本図においては、３次元医用画像、仮想内視鏡画像及び内視鏡画像における関連性をオブジェクト指向的に表したものである。
【０１７２】
上述のとおり、内視鏡画像ＤＢ６３１に登録されている３次元医用画像、仮想内視鏡画像及び内視鏡画像は、当該内視鏡画像の撮影時点における視点位置、視点方向に基づき関連付けがされている。視点位置は、３次元医用画像の座標系（体内座標系）における座標(x,y,z)に相当する。視点方向は、３次元医用画像の座標系（体内座標系）におけるｘ軸、ｙ軸及びｚ軸における回転角(Θx,Θy,Θz)に相当する。
【０１７３】
内視鏡画像の画素夫々は、仮想内視鏡画（当該内視鏡画像に最も一致する仮想内視鏡画）の画素夫々に対応している。仮想内視鏡画は、３次元医用画像を基に視点位置を起点とし、視点方向（回転角）により定義される視点ベクトルを用いたベクトル変換にて、射影（投影）して生成された画像であり、仮想内視鏡画の画素により、３次元医用画像の座標系（体内座標系）における座標が確定される。
【０１７４】
上述のとおり、仮想内視鏡画の画素夫々は、内視鏡画像の画素夫々に対応しているため、仮想内視鏡画の画素に基づき、内視鏡画像の画素、すなわち内視鏡画像に含まれる体内部位の３次元医用画像の座標系（体内座標系）における座標を確定することができる。すなわち、仮想内視鏡画を中間媒体として、内視鏡画像の画素（体内部位）と、３次元医用画像の座標系（体内座標系）における座標とを連関させることができる。
【０１７５】
３次元医用画像に、内視鏡画像の画素のカラー情報、narrow band画素情報を付加させて、当該３次元医用画像を内視鏡画像ＤＢ６３１に登録するものであってもよい。この差異、カラー情報等の内視鏡画像の画素情報を３次元医用画像に付加させる場合、撮影用光源１４４６による輝度補正を行うことが望ましい。上述のとおり、内視鏡画像の画素と視点位置（撮影用光源１４４６の地点）との距離は、３次元医用画像の座標系上にて導出される。従って、導出した当該距離を二乗したた逆数に基づき、内視鏡画像の画素情報に含まれる明度を補正するものであってもよい。３次元医用画像の座標系において同一の座標に位置する画素を含む内視鏡画像が複数ある場合、最も距離の近い内視鏡画像を優先し、当該距離に応じた重みをかけて荷重平均、又は単純平均するようにて３次元医用画像に付加させるものであってもよい。
【０１７６】
３次元医用画像の撮像において、Ｘ線ＣＴ装置又はコーンビームＣＴ装置を用いた場合、例えばＤＥＣＴ撮影（Dual Energy CT）を行い、実効質量数（effective-Z）により３次元医用画像の各画素の組成（体組成）が分かる画像とするものであってもよい。又、ＭＲＩ装置を用いた場合、脂肪又は乳酸等の３次元医用画像の各画素の組成（体組成）に関する情報を付与した画像とするものであってもよい。このように３次元医用画像の各画素の組成に、実効質量数（effective-Z）、脂肪又は乳酸等の体組成に関する情報を付加することにより、これら付加された情報と、当該３次元医用画像の各画素により特定される座標に関連付けられた内視鏡画像とを連関させた診断支援情報を、医師等に提供することができる。
【０１７７】
このように内視鏡画像ＤＢ６３１を構成し、登録される３次元医用画像に対し更に内視鏡画像の画素情報を付加することにより、ＣＴ装置又はＭＲＩ装置と、内視鏡装置１１０から出力される各種医療データを統合的に管理し、種々な観点から検索及び抽出し、抽出した３次元医用画像及び内視鏡画像等を関連付けて医師等に診断支援情報として提供することができる。
【０１７８】
図２９は、情報処理装置６の制御部６２による処理手順の一例を示すフローチャートである。情報処理装置６は、例えば、自装置に接続されている入力部８からの入力内容に基づき、当該フローチャートの処理を開始する。
【０１７９】
情報処理装置６の制御部６２は、内視鏡用プロセッサ１２０から出力された検査日時、被検者ＩＤ、内視鏡画像及び、挿入距離に関する情報を取得する（Ｓ５０１）。制御部６２が内視鏡用プロセッサ１２０から取得する内視鏡画像は、静止画又は動画であってもよい。制御部６２は、内視鏡画像の取得に併せて、光センサ等から出力される内視鏡１４０の挿入距離に関する情報、検査日時（内視鏡画像の撮像日時）及び被検者ＩＤ等の被検者の属性情報を取得する。
【０１８０】
情報処理装置６の制御部６２は、ＣＴ装置又はＭＲＩ装置等の他の検査装置から出力される３次元用医用画像を取得する（Ｓ５０２）。３次元用医用画像の取得は、情報処理装置６がＣＴ装置又はＭＲＩ装置等の他の検査装置と通信可能に接続することにより、取得するものであってもよい。または、ＣＴ装置又はＭＲＩ装置等の他の検査装置から出力される３次元用医用画像が、例えば外部サーバ（図示せず）に既に保存されている場合、情報処理装置６は、当該外部サーバにアクセスし、内視鏡用プロセッサ１２０から出力された被検者ＩＤに基づき、当該被検者の３次元用医用画像を取得するものであってもよい。または、内視鏡用プロセッサ１２０が、ＣＴ装置又はＭＲＩ装置等の他の検査装置と通信可能に接続されており、情報処理装置６の制御部６２は、内視鏡用プロセッサ１２０を介してＣＴ装置又はＭＲＩ装置等から３次元用医用画像を取得するものであってもよい。
【０１８１】
情報処理装置６の制御部６２は、挿入距離（Ｓ座標）に基づき、視点位置を導出する（Ｓ５０３）。制御部６２は、内視鏡用プロセッサ１２０を介して、例えば内視鏡１４０の挿入部１４４（可撓管）の内部に配置された光センサ等から挿入距離（Ｓ座標）に関する情報を取得し、取得した挿入距離（Ｓ座標）及び３次元用医用画像に基づき、内視鏡が挿入された消化器官等の内壁の内側に位置する内視鏡１４０の先端部１４４３の座標を導出する。当該座標は、所定の地点を原点として設定された３次元用医用画像の座標系（体内座標系）における座標である。
【０１８２】
情報処理装置６の制御部６２は、視点位置に基づき候補となる複数の仮想内視鏡画像を生成する（Ｓ５０４）。制御部６２は、内視鏡１４０の先端部１４４３の座標に相当する視点位置を起点に、視点方向、すなわち３次元用医用画像の座標系における回転角（Θx,Θy,Θz）を、所定単位量ずつ変更させて、候補となる複数の仮想内視鏡画像を順次に生成する。例えば、所定単位量を１０°とした場合、制御部６２は、各軸の回転角に対し３６個の分解能を有し、すなわち３６の３乗（４６６５６）枚の候補となる仮想内視鏡画像を生成するものであってもよい。
【０１８３】
情報処理装置６の制御部６２は、生成した複数の仮想内視鏡画像の内、内視鏡画像との一致度が最も高い仮想内視鏡画像を特定する（Ｓ５０５）。制御部６２は、例えば、内視鏡画像の陰影画像と仮想内視鏡画像の陰影画像の相関を取るような指標で一致度を測定するものであってもよい。制御部６２は、最も一致度が高い仮想内視鏡画像と、当該仮想内視鏡画像を生成する際の視点方向（回転角度）とを特定する。
【０１８４】
情報処理装置６の制御部６２は、検査日時、被検者ＩＤ、内視鏡画像、挿入距離（Ｓ座標）、３次元用医用画像、視点位置、視点方向及び最も一致度が高い仮想内視鏡画像を関連付けて、内視鏡画像ＤＢ６３１に登録する（Ｓ５０６）。制御部６２は、内視鏡用プロセッサ１２０から取得した検査日時、被検者ＩＤ、内視鏡画像、挿入距離（Ｓ座標）、ＣＴ装置等から取得した３次元用医用画像、視点位置、最も一致度が高い仮想内視鏡画像、当該仮想内視鏡画像を生成する際の視点方向（回転角）を関連付けて、内視鏡画像ＤＢ６３１に登録する。このように内視鏡画像ＤＢ６３１に各データを登録することにより、仮想内視鏡画像の座標系における座標を基に、仮想内視鏡画像と内視鏡画像とを連関させて登録することができる。
【０１８５】
（実施形態６）
実施形態６の情報処理装置６は、内視鏡用プロセッサ１２０から取得した屈曲履歴により、視点位置を補正する点で実施形態５と異なる。図３０は、実施形態６に係る情報処理装置６の制御部６２に含まれる機能部を例示する機能ブロック図である。
【０１８６】
内視鏡用プロセッサ１２０の制御部１２１は、体内に挿入された内視鏡１４０の屈曲履歴情報を取得し、取得した屈曲履歴情報に応じて、内視鏡１４０の挿入状況を判別する。内視鏡用プロセッサ１２０の制御部１２１は、例えば、内視鏡用プロセッサ１２０に接続される内視鏡挿入形状検出装置（図示せず）を利用することにより、屈曲履歴情報を検出しても良い。当該内視鏡挿入形状検出装置は、例えば、日本国特開２０１９−３７６４３号公報に開示されているように、内視鏡１４０の挿入部１４４の内部に、該挿入部１４４の長手方向に沿って所定の間隔で複数の磁気コイルが配置される装置であってもよい。屈曲履歴情報とは、屈曲角度、屈曲方向等、屈曲に関する物理的パラメータまたは情報を示す。
【０１８７】
情報処理装置６の取得部６２１は、実施形態５と同様に内視鏡画像等を内視鏡用プロセッサ１２０から取得し、更に屈曲履歴情報を取得する。取得部６２１は、取得した屈曲履歴情報を視点位置導出部６２２に出力する。
【０１８８】
視点位置導出部６２２は、取得した屈曲履歴情報により挿入距離（Ｓ座標）を補正し、補正した挿入距離（Ｓ座標）に基づき実施形態５と同様に視点位置を導出する。視点位置導出部６２２は、屈曲角度及び屈曲方向に従い、演算処理で挿入部１４４形状（例えば、右へ３０度曲がり等）を検出する。制御部１２１は、検出した挿入部１４４形状に基づき、挿入距離であるＳ座標を再計算（補正）する。以降、仮想内視鏡画像生成部６２３等の各機能部は、実施形態５と同様に処理を行い、ＤＢ登録部６２５は、実施形態５と同様に各データを内視鏡画像ＤＢ６３１に登録する。
【０１８９】
情報処理装置６の視点位置導出部６２２は、内視鏡用プロセッサ１２０から取得した屈曲履歴により視点位置を補正するとしたが、これに限定されない。内視鏡用プロセッサ１２０の制御部１２１は、取得した屈曲履歴情報に基づき、挿入距離を補正し、補正した挿入距離を情報処理装置６に出力するものであってもよい。情報処理装置６の取得部６２１は、内視鏡用プロセッサ１２０の制御部１２１によって屈曲履歴情報に基づき補正された視点位置を取得し、以降の処理は実施形態５と同様に行うものであってもよい。
【０１９０】
内視鏡画像と３次元医用画像とを関連付けるための位置情報は、屈曲履歴に関する情報、挿入距離に関する情報及び、３次元医用画像にて特定される内視鏡１４０の挿入経路の長さとに基づき、導出される。挿入距離に関する情報を、屈曲履歴に関する情報によって補正することにより、挿入距離（Ｓ座標）の精度を向上させることができる。従って、内視鏡画像が撮像された時点における３次元医用画像の座標系における内視鏡１４０の視点位置（座標）及び視点方向（回転角）を精度良く特定し、好適な仮想内視鏡画像を効率的に生成でき、内視鏡画像と３次元医用画像との関連付けにおける精度を更に向上させることができる。
【０１９１】
内視鏡用プロセッサ１２０の制御部１２１は、例えば、内視鏡挿入形状観測装置（コロナビ）を用いて、当該内視鏡挿入形状観測装置から出力される内視鏡１４０の挿入形状に関する３次元情報を取得する。そして、情報処理装置６の制御部６２（視点位置導出部６２２）は、取得した内視鏡１４０の挿入形状に関する３次元情報を、３次元医用画像に当てはめることにより、内視鏡１４０の体内における位置（視点位置）を導出するものであってもよい。内視鏡画像と３次元医用画像とを関連付けるための位置情報は、内視鏡１４０の形状に関する情報、屈曲履歴に関する情報、挿入距離に関する情報及び３次元医用画像に基づき、導出される。従って、内視鏡１４０の形状に基づき、内視鏡画像が撮像された時点における３次元医用画像の座標系における内視鏡１４０の位置（視点位置）及び回転角（視点方向）を特定することができ、内視鏡画像と３次元医用画像との関連付けにおける精度を更に向上させることができる。
【０１９２】
図３１は、情報処理装置６の制御部６２による処理手順の一例を示すフローチャートである。情報処理装置６は、例えば、自装置に接続されている入力部８からの入力内容に基づき、当該フローチャートの処理を開始する。
【０１９３】
情報処理装置６の制御部６２は、内視鏡用プロセッサ１２０から出力された検査日時、被検者ＩＤ、内視鏡画像、挿入距離及び屈曲履歴に関する情報を取得する（Ｓ６０１）。情報処理装置６の制御部６２は、実施形態５と同様に内視鏡画像等を内視鏡用プロセッサ１２０から取得し、更に例えば内視鏡挿入形状観測装置によって検出された屈曲履歴に関する情報を内視鏡用プロセッサ１２０を介して取得する。又は、情報処理装置６の制御部６２は、内視鏡挿入形状観測装置から直接、屈曲履歴に関する情報を取得してもよい。
【０１９４】
情報処理装置６の制御部６２は、ＣＴ装置又はＭＲＩ装置等の他の検査装置から出力される３次元用医用画像を取得する（Ｓ６０２）。情報処理装置６の制御部６２は、実施形態５の処理Ｓ５０２と同様に、Ｓ６０２の処理を行う。
【０１９５】
情報処理装置６の制御部６２は、内視鏡用プロセッサ１２０から出力された屈曲履歴に基づき挿入距離（Ｓ座標）を補正し、視点位置を導出する（Ｓ６０３）。制御部６２は、屈曲履歴に含まれる屈曲角度及び屈曲方向に従い、演算処理で挿入部１４４形状（例えば、右へ３０度曲がり等）を導出し、導出した挿入部１４４形状に基づき、挿入距離であるＳ座標を再計算（補正）する。制御部６２は、補正した挿入距離（Ｓ座標）に基づき、実施形態５と同様に視点位置を導出する。
【０１９６】
情報処理装置６の制御部６２は、視点位置に基づき候補となる複数の仮想内視鏡画像を生成する（Ｓ６０４）。情報処理装置６の制御部６２は、生成した複数の仮想内視鏡画像の内、内視鏡画像との一致度が最も高い仮想内視鏡画像を特定する（Ｓ６０５）。情報処理装置６の制御部６２は、検査日時、被検者ＩＤ、内視鏡画像、挿入距離（Ｓ座標）、３次元用医用画像、視点位置、視点方向及び最も一致度が高い仮想内視鏡画像を関連付けて、内視鏡画像ＤＢ６３１に登録する（Ｓ６０６）。情報処理装置６の制御部６２は、実施形態５の処理Ｓ５０４、Ｓ５０５及びＳ５０６と同様に、Ｓ６０４、Ｓ６０５及びＳ６０６の処理を行う。
【０１９７】
（実施形態７）
実施形態６の情報処理装置６は、複数の撮像素子１４４５を備える内視鏡が撮像した複数の内視鏡画像を内視鏡用プロセッサ１２０から取得する点で実施形態５と異なる。図３２は、実施形態７に係る挿入部１４４の先端を模式的に示す斜視図である。図３３は、実施形態７に係る挿入部１４４の先端を模式的に示す正面図である。内視鏡１４０の先端部１４４３には、複数の撮像素子１４４５及び撮影用光源１４４６が設けられ、これらにより撮像部１４４４が構成される。
【０１９８】
複数の撮像素子１４４５は、先端部１４４３における筒体の外周面において周方向に沿って等配されている撮像素子１４４５（図面上、４つ）と、先端部１４４３における筒体の端面に設けられた撮像素子１４４５（図面上、１つ）とを含む。先端部１４４３における筒体の端面に設けられた撮像素子１４４５は、内視鏡１４０の挿入方向に対し、前方を撮像する。先端部１４４３における筒体の外周面に設けられた複数の撮像素子１４４５夫々は、内視鏡１４０の挿入方向に対し、側方を撮像する。すなわち、先端部１４４３における筒体の外周面に設けられた複数の撮像素子１４４５夫々は、内視鏡１４０の挿入方向に対し、先端部１４４３における筒体の端面に設けられた撮像素子１４４５が撮像する体内部位よりも、後方に位置する体内部位を撮像することができる。
【０１９９】
複数の撮影用光源１４４６は、先端部１４４３における筒体の外周面に周方向に沿って等配されている撮影用光源１４４６（図面上、４つ）と、先端部１４４３における筒体の端面に設けられた撮影用光源１４４６（図面上、２つ）とを含む。すなわち、複数の撮影用光源１４４６夫々は、先端部１４４３における筒体の端面に設けられた撮像素子１４４５及び、先端部１４４３における筒体の外周面に設けられた複数の撮像素子１４４５に対応して設けられているため、これら複数の撮像素子１４４５が体内部位を撮像するにあたり、十分な光量を供給することができる。
【０２００】
このように複数の撮像素子１４４５を、先端部１４４３における筒体の外周面及び筒体の端面に設けることにより、単一の視点位置において、複数の異なる視点方向からの複数の内視鏡画像を取得することができる。
【０２０１】
図３４は、情報処理装置６の制御部６２による処理手順の一例を示すフローチャートである。情報処理装置６は、例えば、自装置に接続されている入力部８からの入力内容に基づき、当該フローチャートの処理を開始する。
【０２０２】
情報処理装置６の制御部６２は、内視鏡用プロセッサ１２０から出力された検査日時、被検者ＩＤ、複数の内視鏡画像及び、挿入距離に関する情報を取得する（Ｓ７０１）。制御部６２は、実施形態５と同様に検査日時、被検者ＩＤ、複数の内視鏡画像及び、挿入距離に関する情報を取得する。本実施形態においては、内視鏡１４０における挿入部１４４の先端部１４４３には、複数の撮像素子１４４５が設けられているため、同じ視点位置（内視鏡１４０の体内における位置）において、視点方向の異なる複数の内視鏡画像を、内視鏡用プロセッサ１２０は出力する。従って、情報処理装置６の制御部６２は、同じ視点位置であって視点方向の異なる複数の内視鏡画像を、内視鏡用プロセッサ１２０から取得する。
【０２０３】
同じ視点位置であって視点方向の異なる複数の内視鏡画像を取得することにより、内視鏡１４０における挿入部１４４の先端部１４４３よりも、当該挿入部１４４の挿入方向に対し後方に位置する体内部位を含む内視鏡画像を撮像することができる。従って、情報処理装置６の制御部６２は、当該挿入部１４４の挿入方向に対し前方及び後方に位置する体内部位を夫々に含む複数の内視鏡画像を取得することができる。
【０２０４】
情報処理装置６の制御部６２は、ＣＴ装置又はＭＲＩ装置等の他の検査装置から出力される３次元用医用画像を取得する（Ｓ７０２）。情報処理装置６の制御部６２は、挿入距離（Ｓ座標）に基づき、視点位置を導出する（Ｓ７０３）。情報処理装置６の制御部６２は、実施形態５の処理Ｓ５０２及びＳ５０３と同様に、Ｓ７０２及びＳ７０３の処理を行う。
【０２０５】
情報処理装置６の制御部６２は、視点位置に基づき候補となる複数の仮想内視鏡画像を生成する（Ｓ７０４）。情報処理装置６の制御部６２は、生成した複数の仮想内視鏡画像の内、複数の内視鏡画像夫々との一致度が最も高い仮想内視鏡画像夫々を特定する（Ｓ７０５）。情報処理装置６の制御部６２は、実施形態５の処理Ｓ５０４及びＳ５０５と同様に、Ｓ７０４及びＳ７０５の処理を行う。本実施形態においては、情報処理装置６の制御部６２は、内視鏡用プロセッサ１２０から、同じ視点位置であって視点方向の異なる複数の内視鏡画像を取得する。従って、制御部６２は、取得した複数の内視鏡画像夫々に対し、視点位置に基づき視点方向（回転角度）を所定角度ずつ異ならせて生成した複数の仮想内視鏡画像と比較し、複数の内視鏡画像夫々と最も一致する（一致度が最も高い）、すなわち差分量が最も少ない仮想内視鏡画像夫々を特定する。制御部６２は、取得した複数の内視鏡画像夫々に対し、一致度が最も高い仮想内視鏡画像と、当該仮想内視鏡画像を生成する際の視点方向（回転角度）とを特定する。
【０２０６】
情報処理装置６の制御部６２は、検査日時、被検者ＩＤ、複数の内視鏡画像、挿入距離（Ｓ座標）、３次元用医用画像、視点位置、複数の内視鏡画像夫々に対応する視点方向及び仮想内視鏡画像を関連付けて、内視鏡画像ＤＢ６３１に登録する（Ｓ７０６）。情報処理装置６の制御部６２は、実施形態５の処理Ｓ５０６と同様に、Ｓ７０６の処理を行う。
【０２０７】
本実施形態においては、同じ視点位置であって異なる視点方向となる複数の内視鏡画像が、内視鏡画像ＤＢ６３１に登録される。情報処理装置６の制御部６２は、これら複数の内視鏡画像夫々と、当該内視鏡画像夫々と最も一致する仮想内視鏡画像夫々及び当該仮想内視鏡画像を生成するにあたり用いた視点方向夫々とを、関連付けて内視鏡画像ＤＢ６３１に登録する。内視鏡画像は、複数の撮像素子１４４５により撮像された複数の内視鏡画像を含むため、同一の撮像地点（視点位置）において撮影角度（視点方向）が異なる複数の内視鏡画像を取得することができる。当該撮影角度（視点方向）が異なる複数の内視鏡画像と、３次元医用画像とを、同一の撮像地点（視点位置）により関連づけて保存するため、これら画像群を医師等の内視鏡１４０の操作者に提供し、医師等に対する診断の支援を更に効率的に行うことができる。
【０２０８】
（実施形態８）
実施形態６の情報処理装置６は、内視鏡画像ＤＢ６３１に登録された各種データを用い、内視鏡画像及び３次元医用画像を関連付けた画面（統合画像表示画面７１）を表示することにより、医師等に対し診断支援情報を提供する。図３５は、実施形態８に係る統合画像表示画面７１の一態様（３次元用医用画像モード）を示す説明図である。図３６は、統合画像表示画面７１の一態様（内視鏡画像モード）を示す説明図である。
【０２０９】
情報処理装置６の制御部６２は、記憶部６３に記憶されている内視鏡画像ＤＢ６３１を検索して、表示画面（統合画像表示画面７１）を構成するための画面データを生成及び、表示部７に出力し、表示部７にて当該表示画面（統合画像表示画面７１）を表示する。
【０２１０】
統合画像表示画面７１を表示するにあたり、情報処理装置６は、例えば、図３５に示すような内視鏡画像選択画面７０を表示し、内視鏡画像ＤＢ６３１を検索するための被検者ＩＤ等の検索キーとなる情報を受付ける。内視鏡画像選択画面７０には、例えば、被検者ＩＤ及び当該被検者の内視鏡検査日時の入力を受付ける入力フィールドが、配置されている。情報処理装置６は、内視鏡画像選択画面７０にて入力された被検者ＩＤ等に基づき、内視鏡画像ＤＢ６３１を検索し、検索結果のデータが含まれる統合画像表示画面７１を、表示部７にて表示する。
【０２１１】
統合画像表示画面７１は、例えば、被検者ＩＤ等の書誌事項を表示する領域、３次元用医用画像を表示する領域、内視鏡画像を表示する領域、仮想内視鏡画像を表示する領域と内視鏡画像を撮像した視点位置等を表示する領域及び、内視鏡画像にて選択された体内部位（画素）の情報を表示する領域を含む。
【０２１２】
被検者ＩＤ等の書誌事項を表示する領域には、内視鏡画像ＤＢ６３１を検索するために用いられた被検者ＩＤ、内視鏡検査日時、３次元用医用画像の生成日等、データ管理上の書誌事項が表示される。
【０２１３】
３次元用医用画像を表示する領域には、３次元用医用画像にて表される消化器官等の体内部位が３次元オブジェクトとして表示されており、当該３次元オブジェクトのいずれかの部位をドラッグすることにより、３次元オブジェクトを回転させることができる。３次元用医用画像は、内視鏡画像において特定された病変の位置を例えばハイライトした状態で表示されるものであってもよい。
【０２１４】
内視鏡画像を表示する領域には、例えば、３次元用医用画像上にてマウス等にて選択された位置に対応する内視鏡画像が、表示される。すなわち、マウス等にて選択された３次元用医用画像の位置は、当該３次元用医用画像の座標系の座標に対応する。従って、情報処理装置６は、当該座標に対応する視点位置の内視鏡画像、又は当該座標に対応する体内部位を含む内視鏡画像を、内視鏡画像ＤＢ６３１から検索し、内視鏡画像を表示する領域にて表示する。当該座標により、複数の内視鏡画像が内視鏡画像ＤＢ６３１において検索（抽出）された場合、内視鏡画像に含まれる病変の有無又は特徴量に基づき、いずれかの内視鏡画像を選択して表示し、他の内視鏡画像はサムネイル表示するものであってもよい。すなわち、内視鏡画像を表示する領域は、サムネイル表示フィールド７１３が配置されており、サムネイル表示フィールド７１３にて、他の内視鏡画像はサムネイル表示される。
【０２１５】
仮想内視鏡画像を表示する領域には、内視鏡画像を表示する領域に表示されている内視鏡画像に対し、最も一致度が高い仮想内視鏡画像が、表示される。上述のとおり、内視鏡画像と当該内視鏡画像に最も一致度が高い仮想内視鏡画像とは、同じレコードに格納されているため、内視鏡画像ＤＢ６３１を用いることにより、当該仮想内視鏡画像を効率的に抽出することができる。
【０２１６】
内視鏡画像を撮像した視点位置等を表示する領域には、内視鏡画像を表示する領域に表示されている内視鏡画像の撮像時点における、内視鏡１４０の体内における位置（視点位置）及び視点方向（回転角）が、表示される。すなわち、内視鏡画像を撮像した視点位置等を表示する領域には、視点位置フィールド７１１及び視点方向フィールド７１２が配置され、視点位置フィールド７１１には視点位置、視点方向フィールド７１２には視点方向が、表示される。
【０２１７】
内視鏡画像を撮像した視点位置等を表示する領域は、任意の視点位置及び視点方向が入力される入力フィールド（視点位置フィールド７１１、視点方向フィールド７１２）として機能するものであってもよい。視点位置フィールド７１１入力された視点位置及び、視点方向フィールド７１２に入力された視点方向を用いて、内視鏡画像ＤＢ６３１を検索し、当該視点位置及び視点方向に対応する内視鏡画像を抽出し、内視鏡画像を表示する領域に表示するものであってもよい。
【０２１８】
内視鏡画像にて選択された体内部位（画素）の情報を表示する領域には、内視鏡画像上にてマウス等により選択された体内部位（画素）の３次元用医用画像上の座標及び、当該体内部位（画素）と内視鏡１４０の先端部１４４３との距離が表示される。内視鏡画像と、当該内視鏡画像に最も一致度が高い仮想内視鏡画像とは、同じ体内部位の領域を示しているものであり、内視鏡画像の画素夫々と、仮想内視鏡画像の画素夫々とは、両画像における座標系において略一致する又は、同一視できることにより対応している。仮想内視鏡画像は３次元用医用画像を射影等することにより生成されているため、仮想内視鏡画像の画素夫々は、３次元用医用画像上の座標に対応している。従って、選択された内視鏡画像に含まれる体内部位（画素）に基づき、当該体内部位（画素）の３次元用医用画像の座標系における座標を特定することができる。上述のとおり、内視鏡１４０の先端部１４４３の位置である視点位置は、ＤＢ登録部６２５に既に登録されているので、内視鏡１４０の先端部１４４３と、選択された内視鏡画像に含まれる体内部位（画素）との距離は、当該体内部位（画素）の３次元用医用画像の座標系における座標と、視点位置に基づき、導出することができる。
【０２１９】
内視鏡画像にて選択された体内部位（画素）の情報を表示する領域には、内視鏡画像にて選択された体内部位（画素）の実効質量数（effective-Z）又は、脂肪又は乳酸等の体組成に関する情報が表示されるものであってもよい。これら実効質量数等は、３次元用医用画像の各画素に付加された属性情報であるため、上述のとおり特定された３次元用医用画像の座標系における座標に基づき、３次元用医用画像の画素を特定し、当該画素に付加された実効質量数等を抽出し、表示することができる。
【０２２０】
統合画像表示画面７１には、表示の態様に関する入力を受付ける入力領域を含む入力領域には、例えば、表示モードを切り替える表示モード切替フィールド７１５と、表示オプションを設定する表示オプションフィールド７１４とが、配置されている。
【０２２１】
表示モード切替フィールド７１５には、３次元用医用画像を主表示する３次元用医用画像モード又は、内視鏡画像を主表示する内視鏡画像モードを切り替えるためのラジオボタン等が含まれる。表示モード切替フィールド７１５における入力内容に応じて、統合画像表示画面７１は、３次元用医用画像を主表示する３次元用医用画像モード（図３５）と、内視鏡画像を主表示する内視鏡画像モード（図３６）とを含む複数の表示モードを切り替え可能に構成されている。このように主表示される画像を簡易に切り替え可能とすることにより、医師等に診断支援情報を効率的に提供することができる。
【０２２２】
表示オプションフィールド７１４には、指定した位置を視点位置とする画像を表示、又は指定した位置の体内部位を含む画像を表示する設定を切り替えるためのラジオボタン等が含まれる。表示モード切替フィールド７１５における入力内容に応じて、内視鏡画像を表示する領域に表示される内視鏡画像を検索するための検索条件を設定し、当該条件にあった内視鏡画像が、統合画像表示画面７１にて表示される。上述のとおり、視点位置及び内視鏡画像に含まれる体内部位（画素）は、３次元用医用画像の座標系における座標にて特定されるため、情報処理装置６は、表示オプションフィールド７１４にて設定された検索条件を設定し、内視鏡画像ＤＢ６３１を検索することができる。
【０２２３】
表示オプションフィールド７１４には、３次元用医用画像を半透明表示するためのラジオボタン等によるオプション設定が含まれるものであってもよい。３次元医用画像は、ＣＴ装置およびＭＲＩ装置等から出力されたスライスデータから、例えばボリュームデータとして構成される際、透過モードで生成（半透明処理）することにより半透明表示することができる。表示オプションとして半透明表示が設定されている場合、情報処理装置６は、半透明処理した３次元用医用画像を表示する。
【０２２４】
図３７は、情報処理装置６の制御部６２による処理手順の一例を示すフローチャートである。情報処理装置６は、例えば、自装置に接続されている入力部８からの入力内容に基づき、当該フローチャートの処理を開始する。
【０２２５】
情報処理装置６の制御部６２は、被検者ＩＤを受け付ける（Ｓ８０１）。制御部６２は、医師等により、内視鏡画像の選択画面上にて入力された被検者ＩＤを受け付けることにより、被検者ＩＤを取得する。内視鏡画像の選択画面にて、内視鏡検査の日時が選択される入力フィールドがある場合、制御部６２は、選択された内視鏡検査の日時に関する情報を受付け、期間等、当該日時に関する情報を取得するものであってもよい。
【０２２６】
情報処理装置６の制御部６２は、取得した被検者ＩＤに基づき、３次元用医用画像を検索し、取得する（Ｓ８０２）。制御部６２は、取得した被検者ＩＤを検索キーとして、内視鏡画像ＤＢ６３１を検索し、当該被検者ＩＤの３次元用医用画像を抽出することにより、取得する。
【０２２７】
情報処理装置６の制御部６２は、取得した３次元用医用画像を表示する（Ｓ８０３）。制御部６２は、取得した３次元用医用画像を統合画像表示画面７１にて表示する。
【０２２８】
情報処理装置６の制御部６２は、３次元用医用画像における位置情報を受け付ける（Ｓ８０４）。制御部６２は、医師等により、統合画像表示画面７１にて、例えばマウスのクリック操作により選択された３次元用医用画像上の位置情報を受け付ける。
【０２２９】
情報処理装置６の制御部６２は、受付けた３次元用医用画像上の位置情報に基づき、３次元用医用画像上の座標を導出する（Ｓ８０５）。
【０２３０】
情報処理装置６の制御部６２は、導出した座標に基づき、表示する内視鏡画像を検索し、取得する（Ｓ８０６）。制御部６２は、導出した座標を視点位置とし、当該視点位置を検索キーとして、内視鏡画像ＤＢ６３１を検索し、対応する内視鏡画像を抽出することにより、取得する。制御部６２は、当該視点位置を検索キーとして内視鏡画像を検索するにあたり、当該視点位置の座標（導出した座標）を含む所定範囲にて検索するものあってもよい。視点位置の座標（導出した座標）を含む所定範囲にて検索することにより、当該座標に対し振れ幅を持たせて内視鏡画像を検索することができ、選択された３次元用医用画像上の位置の近傍にて撮像された単数又は複数の内視鏡画像群を効率的に検索することができる。制御部６２は、抽出した内視鏡画像を統合画像表示画面７１にて表示する。複数の内視鏡画像を抽出した場合、制御部６２は、抽出した複数の内視鏡画像の内、病変の有無等に基づき決定される優先度が高い内視鏡画像を最大化又は最前面にて表示し、他の内視鏡画像は、最小化又は背面にて表示するものであってもよい。
【０２３１】
情報処理装置６の制御部６２は、表示した内視鏡画像に関する情報を表示する（Ｓ８０７）。制御部６２は、表示した内視鏡画像に関する情報として、例えば、当該内視鏡画像に最も一致する仮想内視鏡画像又は、表示した内視鏡画像にて選択された体内部位（画素）に関する情報を表示する。内視鏡画像にて選択された体内部位（画素）に関する情報とは、例えば、当該体内部位（画素）の３次元用医用画像上における座標、内視鏡１４０の先端部１４４３から当該体内部位（画素）までの距離を含むものであってもよい。内視鏡画像にて選択された体内部位（画素）に関する情報は、３次元用医用画像の各画素（体内部位）の付加情報である実行質量数（effective-Z）又は体組成に関する情報を含むものであってもよい。
【０２３２】
情報処理装置６の制御部６２は、統合画像表示画面７１にて選択される表示オプションを受付け、当該表示オプションの内容に応じた表示形態にて表示する（Ｓ８０８）。上述のとおり、統合画像表示画面７１には、表示オプションの選択を受け付ける入力フィールドが配置されており、入力された表示オプションの内容に応じて、統合画像表示画面７１の表示形態に変更する。
【０２３３】
本実施形態によれば、内視鏡画像ＤＢ６３１において互いに関連付けられている登録されている内視鏡画像、３次元用医用画像及び仮想内視鏡画像を、統合画像表示画面７１にて列挙して表示させることにより、医師等について、被検者に関する一群の医療データを統合化した診断支援情報を提供することができる。
【０２３４】
本実施形態において、情報処理装置６は統合画像表示画面７１を表示部７に表示するとしたが、これに限定されない。情報処理装置６は、内視鏡用プロセッサ１２０を介して内視鏡装置１１０の表示装置５０に表示してもよい。又は、統合画像表示画面７１の表示等に関する一連の処理又は機能部としての動作は、実施形態５と同様に内視鏡用プロセッサ１２０によるものであってもよい。又は、実施形態５と同様に情報処理装置６及び内視鏡用プロセッサ１２０が協働して、統合画像表示画面７１の表示等に関する一連の処理又は機能部として動作するものであってもよい。
【０２３５】
（実施形態９）
実施形態９の情報処理装置６は、内視鏡画像ＤＢ６３１に登録された各種データを用い、内視鏡画像ＤＢ６３１に登録された内視鏡画像に含まれる体内部位に関する病変の有無等の診断支援情報を出力する。
【０２３６】
図３８は、実施形態９に係る学習モデル９を用いて診断支援情報を出力する処理を説明する説明図である。情報処理装置６は、内視鏡画像を問題データとし、病変の有無、病変の症状の種類、病変の症状のステージ及び病変の場所等の少なくとも１つを含む診断支援情報を回答データとする訓練データに基づき学習することで、内視鏡画像を入力とし、病変の有無等を含む診断支援情報を出力とするニューラルネットワークを構築（生成）する。内視鏡画像には、例えば病変が疑われる体内部位が含まれる。病変の有無、症状の種類、症状のステージ及び、病変の場所は、内視鏡画像に含まれる体内部位に関する病変の有無又は確率値、症状の種類、症状のステージ及び、病変の場所に関する情報である。
【０２３７】
学習モデル９に入力される内視鏡画像は、当該内視鏡画像に対応する仮想内視鏡画像（当該内視鏡画像に最も一致する仮想内視鏡画像）から導出された距離画像情報に基づき、特徴パラメータが補正された内視鏡画像であってもよい。当該距離画像情報に基づく特徴パラメータの補正については、後述する。
【０２３８】
訓練データを用いて学習されたニューラルネットワーク（学習モデル９）は、人工知能ソフトウェアの一部であるプログラムモジュールとして利用が想定される。学習モデル９は、上述のごとく制御部６２（ＣＰＵ等）及び記憶部６３を備える情報処理装置６にて用いられるものであり、このように演算処理能力を有する情報処理装置６にて実行されることにより、ニューラルネットワークシステムが構成される。すなわち、情報処理装置６の制御部６２が、記憶部６３に記憶された学習モデル９からの指令に従って、入力層に入力された内視鏡画像の特徴量を抽出する演算を行い、出力層から病変の有無等を含む診断支援情報を出力するように動作する。
【０２３９】
入力層は、内視鏡画像の画素値の入力を受け付ける複数のニューロンを有し、入力された画素値及び距離情報を中間層に受け渡す。中間層は、内視鏡画像の画像特徴量を抽出する複数のニューロンを有し、抽出した画像特徴量を出力層に受け渡す。出力層は、病変の有無及び症状のステージに関する情報を出力する一又は複数のニューロンを有し、中間層から出力された画像特徴量に基づいて、病変の有無及び症状のステージに関する情報を出力する。例えば学習モデル９がＣＮＮ（Convolutional Neural Network）である場合、中間層は、入力層から入力された各画素の画素値を畳み込むコンボリューション層と、コンボリューション層で畳み込んだ画素値をマッピング（圧縮）するプーリング層とが交互に連結された構成を有し、内視鏡画像の画素情報を圧縮しながら最終的に内視鏡画像の特徴量を抽出する。出力層は、当該内視鏡画像に含まれる体内部位における病変の有無等のに関する情報を出力する一又は複数のニューロンを有し、中間層から出力された画像特徴量等に基づいて、病変の有無等のに関する情報を出力する。出力された病変の有無等のに関する情報は、内視鏡を操作する医師等により診断支援情報として用いられる情報である。
【０２４０】
本実施形態では、学習モデル９に入力されるデータは、内視鏡画像であるとして説明しているがこれに限定されない。学習モデル９に入力されるデータは、内視鏡１４０の撮像素子１４４５が撮像した撮影画像（生画像）であってもよい。すなわち、学習モデル９は、撮影画像が入力されることにより、病変の有無等のに関する情報を出力するものであってもよい。
【０２４１】
本実施形態では学習モデル９がＣＮＮ等のニューラルネットワーク（ＮＮ）であるとして説明するが、学習モデル９は、ＮＮに限定されず、ＳＶＭ（Support Vector Machine）、ベイジアンネットワーク、回帰木など、他の学習アルゴリズムで構築された学習モデル９であってもよい。又は、ＣＮＮの代わりに、ＲＣＮＮ（Regions with Convolutional Neural Network）、Ｆａｓｔ ＲＣＮＮ、Ｆａｓｔｅｒ  ＲＣＮＮまたはＳＳＤ（Single Shot Multibook Detector）、ＹＯＬＯ（You Only Look Once）等の、任意の物体検出アルゴリズムを使用しても良い。
【０２４２】
情報処理装置６は、出力層から出力された値を、問題データ（内視鏡画像）に対し、ラベル付けされた情報（病変の有無、症状の種類及び症状のステージ）、すなわち正解値（回答データ）と比較し、出力層からの出力値が正解値に近づくように、中間層での演算処理に用いるパラメータを最適化する。当該パラメータは、例えばニューロン間の重み（結合係数）、各ニューロンで用いられる活性化関数の係数などである。パラメータの最適化の方法は特に限定されないが、例えば情報処理装置６は、誤差逆伝播法を用いて各種パラメータの最適化を行う。情報処理装置６は、訓練データに含まれる内視鏡画像について上記の処理を行い、学習モデル９を生成し、生成した学習モデル９を記憶部６３に記憶する。
【０２４３】
訓練データとして用いられる内視鏡画像（問題データ）と、これら情報に相関を有する病変の有無等に関する情報（回答データ）は、各医療機関において行われた内視鏡検査の結果データとして大量に保存されており、これら結果データを用いることにより、学習モデル９を学習するための訓練データを大量に生成することができる。
【０２４４】
図３９は、情報処理装置６の制御部６２に含まれる機能部を例示する機能ブロック図である。情報処理装置６の制御部６２は、記憶部６３に記憶されているプログラムＰを実行することにより、取得部６２１、距離画像情報導出部６２６、特徴パラメータ導出部６２７、特徴パラメータ補正部６２８。出力部６２９として機能する。また、制御部６２は、記憶部６３に記憶されているプログラムＰを実行することにより、又は学習モデル９を構成する実体ファイルを読み出すことにより、学習モデル９として機能する。
【０２４５】
取得部６２１は、例えば内視鏡画像選択画面７０等によって、入力される被検者ＩＤ及び検査日時を受付け、被検者ＩＤ等を取得する。取得部６２１は、取得した被検者ＩＤ又は、被検者ＩＤ及び検査日時を検索キーとして内視鏡画像ＤＢ６３１を検索し、内視鏡画像及び当該内視鏡画像に最も一致する仮想内視鏡画像から成る複数のデータセットを取得する。
【０２４６】
取得部６２１は、仮想内視鏡画像を距離画像情報導出部６２６に出力する。距離画像情報導出部６２６は、取得した仮想内視鏡画像に基づき、距離画像情報を導出する。距離画像情報は、仮想内視鏡画像において、仮想内視鏡画像における各画素同士の距離に関する情報である。各画素同士の距離とは、３次元医用画像の座標系（体内座標系）における距離を意味するものであり、例えば、仮想内視鏡画像に含まれる２つの体内部位における奥行きを加味した距離である。仮想内視鏡画像は、３次元医用画像を射影変換して２次元化した画像であり、仮想内視鏡画像における任意の地点は、３次元医用画像における地点に対応するものであり、これら地点は、体内部位における同一の位置を示す。当該仮想内視鏡画像における任意の地点は、画像における最小単位となる画素番号（ピクセル座標）であってもよく、又は、例えば所定の体内部位を特定する局所領域（複数の画素により構成される領域）の中央部とするものであってもよい。このように任意の地点を２つ定めることより、３次元医用画像の座標系における当該２つの地点間の距離を導出することができる。すなわち、距離画像情報における距離とは、仮想内視鏡画像の２点に対応する３次元医用画像の座標系の２点の距離に相当する。
【０２４７】
３次元医用画像における２点は、仮想内視鏡画像における２点から特定される。特定された３次元医用画像における２点夫々の座標値に基づき、当該２点の距離及びベクトルを導出することができる。導出した３次元医用画像における２点の距離及びベクトルを、当該２点に対応する仮想内視鏡画像の２点の距離及びベクトルとして、仮想内視鏡画像に付与することにより、距離画像、すなわち仮想内視鏡画像において３次元医用画像の座標系における距離情報が付加された仮想内視鏡画像（距離画像）を生成することができる。距離画像情報導出部６２６は、各画素同士の距離に関する情報が付加された仮想内視鏡画像（距離画像）を、距離画像情報として出力するものであってもよい。
【０２４８】
内視鏡画像は、当該内視鏡画像を撮像した内視鏡１４０の位置（視点位置）及び撮影方向（視点方向）に基づき、３次元医用画像から構成される仮想内視鏡画像に対応している。従って、内視鏡画像に対応する仮想内視鏡画像による距離画像情報は、当該内視鏡画像に対しても適用することができる。すなわち、内視鏡画像における２点間の距離は、当該内視鏡画像に対応する仮想内視鏡画像の２点間の距離（距離画像における距離であり、３次元医用画像の座標系の距離）に相当する。従って、距離画像に含まれる距離画像情報を内視鏡画像に適用することにより、当該内視鏡画像に含まれる体内部位間の距離、体内部位の大きさ等の距離情報を確定することができる。
【０２４９】
取得部６２１は、内視鏡画像を特徴パラメータ導出部６２７に出力する。特徴パラメータ導出部６２７は、内視鏡画像に含まれる所定の体内部位の領域を、特徴パラメータとして導出する。例えば特徴パラメータ導出部６２７は、パターン認識又はエッジ検出等を用い、内視鏡画像に含まれる所定の体内部位の領域を、特徴パラメータとして導出するものであってもよい。又は、特徴パラメータ導出部６２７は、内視鏡画像から体内部位の色合い又は襞の変化に基づき、Ａ−ＫＡＺＥ（Accelerated KAZE）、ＳＩＦＴ（Scale Invariant Feature Transform）等の局所特徴パラメータ抽出方法を用いて、内視鏡画像に含まれる所定の体内部位の領域を、特徴パラメータとして導出するものであってもよい。
【０２５０】
特徴パラメータ補正部６２８は、距離画像情報導出部６２６から出力された距離画像情報、特徴パラメータ導出部６２７から出力された特徴パラメータ、取得部６２１から出力された内視鏡画像を取得する。特徴パラメータ補正部６２８は、取得した距離画像情報、特徴パラメータ及び内視鏡画像に基づき、距離画像情報によって特徴パラメータが補正された内視鏡画像を生成し、学習モデル９に出力する。
【０２５１】
特徴パラメータ補正部６２８による補正は、例えば、特徴パラメータとして特定された所定の体内部位の領域の面積を補正（面積補正処理）するものである。面積補正処理を行うにあたり、特徴パラメータ補正部６２８は、仮想内視鏡画像から得られた距離画像情報に基づき、対応する内視鏡画像の各画像領域の距離Ｒ（例えば、ｒ１またはｒ２等）を取得する。特徴パラメータ補正部６２８は、取得した各画像領域の距離と基準距離（例えば、２０ｍｍ）とを比較する。制御部１２１は、比較した各領域の距離Ｒとの逆２乗比（Ｒ／２０）＾２「＾：べき乗」で補正を行う。特徴パラメータ補正部６２８は、内視鏡画像の画像領域の距離が基準距離以上であると判定した場合（画素が遠い）、該画像領域を構成する画素数（ピクセル数）を各領域の距離Ｒとの逆２乗比（Ｒ／２０）＾２で補正を行うことにより、該画像領域に対する拡大処理を行う。特徴パラメータ補正部６２８は、内視鏡画像の画像領域の距離が基準距離未満であると判定した場合（画素が近い）、該画像領域を構成する画素数を各領域の距離Ｒとの逆２乗比（Ｒ／２０）＾２で補正を行い減らすことにより、該画像領域に対する縮小処理を行う。また各画像領域で各ピクセル間での距離が相違する場合、基準距離に置いたとして補正を行う。又は、特徴パラメータ補正部６２８は、最近傍補間法、バイリニア補間法、バイキュービック補間法、又はＬａｎｃｚｏｓ（ランツォシュ）補間法等を用いて、面積補正処理を行うものであってもよい。特徴パラメータ補正部６２８は、これら種々の方法を用いて、内視鏡画像に対し面積補正処理を行い、補正された内視鏡画像を学習モデル９に出力する。
【０２５２】
学習モデル９は、補正された内視鏡画像を取得し、内視鏡画像に含まれる体内部位における病変の有無等を含む診断支援情報を、出力部６２９に出力する。出力部６２９は、学習モデル９から病変の有無等を含む診断支援情報を取得する共に、特徴パラメータ補正部６２８又は取得部６２１から内視鏡画像、被検者ＩＤ等を取得する。出力部６２９は、特徴パラメータ補正部６２８から特徴パラメータが補正された内視鏡画像を取得するものであってもよい。出力部６２９は、内視鏡画像に基づき内視鏡画像ＤＢ６３１を検索し、当該内視鏡画像の視点位置等の関連する情報を取得するものであってもよい。
【０２５３】
出力部６２９は、学習モデル９から取得した病変の有無等を含む診断支援情報と、当該診断支援情報の対象となる内視鏡画像とを関連付けて、表示部７に出力する。出力部６２９は、学習モデル９に入力した補正後の内視鏡画像及び、補正前の内視鏡画像の両画像を表示部７に出力するものであってもよい。出力部６２９は、診断支援情報と、当該診断支援情報の対象となる内視鏡画像と関連付けられた３次元医用画像とを関連付けて、表示部７に出力するものであってもよい。診断支援情報と３次元医用画像とを関連付けて、表示部７に出力するあたり、出力部６２９は、３次元医用画像における病変の位置を例えばハイライトした状態で表示部７にて表示されるように出力するものであってもよい。
【０２５４】
出力部６２９は、学習モデル９から取得した病変の有無等を含む診断支援情報と、当該診断支援情報の対象となる内視鏡画像とを関連付けて、内視鏡画像ＤＢ６３１に登録するものであってもよい。出力部６２９は、学習モデル９に入力した補正後の内視鏡画像及び、補正前の内視鏡画像の両画像を内視鏡画像ＤＢ６３１に登録するものであってもよい。出力部６２９は、距離画像情報導出部６２６から距離画像情報（距離画像）を取得し、内視鏡画像とを関連付けて、内視鏡画像ＤＢ６３１に登録するものであってもよい。
【０２５５】
図４０は、情報処理装置６の制御部６２による処理手順の一例を示すフローチャートである。情報処理装置６は、例えば、自装置に接続されている入力部８からの入力内容に基づき、当該フローチャートの処理を開始する。
【０２５６】
情報処理装置６の制御部６２は、被検者ＩＤを取得する（Ｓ９０１）。制御部６２は、被検者ＩＤに加えて、内視鏡検査の日時を特定するための期間等の検査日時情報を取得するものであってもよい。
【０２５７】
情報処理装置６の制御部６２は、被検者ＩＤに基づき内視鏡画像ＤＢ６３１を検索し、内視鏡画像及び仮想内視鏡画像を含むデータセットを取得する（Ｓ９０２）。制御部６２は、取得した被検者ＩＤ又は、被検者ＩＤ及び検査日時情報に基づき、内視鏡画像ＤＢ６３１を検索し、当該被検者ＩＤ等により抽出された内視鏡画像及び仮想内視鏡画像を取得する。
【０２５８】
被検者ＩＤ等により抽出された内視鏡画像が複数個となる場合、当該内視鏡画像夫々に対応する仮想内視鏡画像（内視鏡画像と同じレコードに登録されている仮想内視鏡画像）も、複数となる。制御部６２は、これら複数となる内視鏡画像及び仮想内視鏡画像を、複数のデータセット（内視鏡画像及び仮想内視鏡画像）として取得するものであってもよい。単一のデータセットには、単一の内視鏡画像及び仮想内視鏡画像が含まれるものとなり、制御部６２は、取得したデータセットの個数に応じて、以下の処理を行うものであってもよい。
【０２５９】
情報処理装置６の制御部６２は、取得した仮想内視鏡画像等により距離画像情報を導出する（Ｓ９０３）。制御部６２は、仮想内視鏡画像における各画素同士の距離に関する情報である距離画像情報を導出する。
【０２６０】
情報処理装置６の制御部６２は、内視鏡画像から特徴パラメータを導出する（Ｓ９０４）。情報処理装置６の制御部６２は、例えば面積補正処理の対象となる内視鏡画像の領域等の特徴パラメータを導出する。
【０２６１】
情報処理装置６の制御部６２は、距離画像情報に基づき、特徴パラメータが補正された内視鏡画像を生成する（Ｓ９０５）。情報処理装置６の制御部６２は、距離画像情報に基づき、例えば、特徴パラメータに対応する領域の面積を補正し、当該特徴パラメータが補正された内視鏡画像を生成する。
【０２６２】
情報処理装置６の制御部６２は、特徴パラメータが補正された内視鏡画像を学習モデル９に入力する（Ｓ９０６）。学習モデル９に入力する情報は、特徴パラメータが補正された内視鏡画像に加えて、特徴パラメータに対応する３次元医用画像の画素に付随されている実効質量数（effective-Z）及び体組成を含むものであってもよい。特徴パラメータは、内視鏡画像の領域、すなわち内視鏡画像に含まれる体内部位又は画素に対応しており、当該体内部位又は画素は、仮想内視鏡画像から生成された距離画像情報によって、３次元医用画像の座標及び画素に対応している。上述のとおり、３次元医用画像の画素には、実効質量数（effective-Z）、体組成、又は双方の情報が付随されているため、制御部６２は、特徴パラメータが補正された内視鏡画像に基づき、３次元医用画像に付随している実効質量数（effective-Z）及び体組成を取得する。
【０２６３】
学習モデル９は、特徴パラメータが補正された内視鏡画像、実効質量数（effective-Z）及び体組成が入力されることにより、当該内視鏡画像に含まれる病変に関する診断支援情報を出力するように学習されている。このように学習されている学習モデル９に、特徴パラメータが補正された内視鏡画像、実効質量数（effective-Z）及び体組成を入力することにより、更に精度の高い診断支援情報を取得することができる。
【０２６４】
情報処理装置６の制御部６２は、学習モデル９が出力した診断支援情報を取得する（Ｓ９０７）。情報処理装置６の制御部６２は、取得した診断支援情報と内視鏡画像とを関連付けて出力する（Ｓ９０８）。制御部６２は、取得した診断支援情報と、内視鏡画像、３次元用医用画像、仮想内視鏡画像及び視点位置等の内視鏡画像に関連する情報を表示部７に出力し、表示させるものであってもよい。更に制御部６２は、取得した診断支援情報と内視鏡画像とを関連付けて、内視鏡画像ＤＢ６３１に登録するものであってもよい。
【０２６５】
本実施形態において、学習モデル９を含む一連の処理における各機能部を、内視鏡用プロセッサ１２０の制御部１２１による機能部と、情報処理装置６の制御部６２による機能部夫々とに分けて説明したが、これら機能部の分担は一例であり、これに限定されない。実施形態５と同様に、内視鏡用プロセッサ１２０の制御部１２１は、情報処理装置６の制御部６２によって行われる全ての機能部として、機能するものであってもよい。または、内視鏡用プロセッサ１２０の制御部１２１と、情報処理装置６の制御部６２とは、例えばプロセス間通信を行うことにより、協働して一連の処理における各機能部として機能するものであってもよい。
【０２６６】
本実施形態によれば、内視鏡画像ＤＢ６３１に既に登録されている内視鏡画像及び仮想内視鏡画像を用いて当該内視鏡画像を補正し、補正した内視鏡画像を学習モデル９に入力する一連の処理を連続的に行うため、当該学習モデル９によって出力される病変の有無等を含む診断支援情報を効率的に取得することができる。学習モデル９によって出力される病変の有無等を含む診断支援情報は、当該診断支援情報の対象となる内視鏡画像ＤＢ６３１に登録されるため、学習モデル９によって出力された診断支援情報を効率的に再利用することができる。
【０２６７】
本開示によれば、内視鏡画像と仮想内視鏡画像とを併用することにより、格段に精度の高い診断サポート情報が得られる。本開示によれば、内視鏡画像に一致した仮想内視鏡画像から得られる距離画像と内視鏡画像を合わせた画像特徴パラメータ（特徴量）から得られた診断サポート情報を診断に有効に活用することが可能となる。本開示によれば、内視鏡画像と３次元医用画像とを効率的に関連付けるプログラム等を提供することができる。
【０２６８】
今回開示された実施の形態はすべての点で例示であって、制限的なものではないと考えられるべきである。各実施例にて記載されている技術的特徴は互いに組み合わせることができ、本発明の範囲は、請求の範囲内での全ての変更及び請求の範囲と均等の範囲が含まれることが意図される。
【符号の説明】
【０２６９】
１        内視鏡
１１      撮像素子
１２      処置具挿入チャネル
１３      操作部
１４      コネクタ
１５      可撓管
１５ａ    矢印
１５１    内視鏡外面
１５２    内視鏡内面
１５３    可撓体
１６      光センサ
１７      光センサケーブル
２        内視鏡用プロセッサ（プロセッサ）
２０      センサ信号入力部
２１      制御部
２２      記憶部
２３      操作入力部
２４      出力部
２５      光源制御部
２６      通信部
２７      光源
２８      読取部
２９      大容量記憶部
２９１    診断サポート情報ＤＢ
２９２    画像認識モデル
２ａ      可搬型記憶媒体
２ｂ      半導体メモリ
２Ｐ      制御プログラム
３        表示装置
４        情報処理装置（サーバ）
４１      制御部
４２      記憶部
４３      通信部
４４      入力部
４５      表示部
４６      読取部
４７      大容量記憶部
４７１    医用画像ＤＢ
４ａ      可搬型記憶媒体
４ｂ      半導体メモリ
４Ｐ      制御プログラム
２０ａ    内視鏡画像取得部
２０ｂ    仮想内視鏡画像取得部
２０ｃ    仮想内視鏡画像再構成部
２０ｄ    診断サポート情報出力部
２０ｅ    距離画像再構成部
２０ｆ    第１補正部
２０ｇ    第２補正部
２０ｈ    屈曲履歴情報取得部
２０ｉ    Ｚ座標補正部
２０ｊ    Ｚ座標取得部
Ｓ        診断支援システム
１１０    内視鏡装置
１１５    キーボード
１１６    収容棚
１２０    内視鏡用プロセッサ
１２１    制御部
１２１１  画像処理部
１２２    主記憶装置
１２３    補助記憶装置
１２４    通信部
１２５    タッチパネル
１２６    表示装置Ｉ／Ｆ
１２７    入力装置Ｉ／Ｆ
１２８    読取部
１３１    内視鏡用コネクタ
１３１１  電気コネクタ
１３１２  光コネクタ
１３３    光源
１３４    ポンプ
１３５    送水タンク
１３６    送気送水口金
１４０    内視鏡
１４３    操作部
１４３１  制御ボタン
１４３３  湾曲ノブ
１４４    挿入部（可撓管）
１４４１  軟性部
１４４２  湾曲部
１４４３  先端部
１４４４  撮像部
１４４５  撮像素子
１４４６  撮影用光源
１４５    折止部
１４８    スコープコネクタ
１４９    ユニバーサルコード
５０      表示装置
６        情報処理装置
６１      通信部
６２      制御部
６２１    取得部
６２２    視点位置導出部
６２３    仮想内視鏡画像生成部
６２４    一致度判定部
６２５    ＤＢ登録部
６２６    距離画像情報導出部
６２７    特徴パラメータ導出部
６２８    特徴パラメータ補正部
６２９    出力部
６３      記憶部
６３１    内視鏡画像ＤＢ
６３２    記録媒体
Ｐ        プログラム
６４      入出力Ｉ／Ｆ
７        表示部
７０      内視鏡画像選択画面
７１      統合画像表示画面
７１１    視点位置フィールド
７１２    視点方向フィールド
７１３    サムネイル表示フィールド
７１４    表示オプションフィールド
７１５    表示モード切替フィールド
８        入力部
９        学習モデル
【図１】
2021054360.tif 000003
【図２】
2021054360.tif 000004
【図３】
2021054360.tif 000005
【図４】
2021054360.tif 000006
【図５】
2021054360.tif 000007
【図６】
2021054360.tif 000008
【図７】
2021054360.tif 000009
【図８】
2021054360.tif 000010
【図９】
2021054360.tif 000011
【図１０】
2021054360.tif 000012
【図１１】
2021054360.tif 000013
【図１２】
2021054360.tif 000014
【図１３】
2021054360.tif 000015
【図１４】
2021054360.tif 000016
【図１５】
2021054360.tif 000017
【図１６】
2021054360.tif 000018
【図１７】
2021054360.tif 000019
【図１８】
2021054360.tif 000020
【図１９】
2021054360.tif 000021
【図２０】
2021054360.tif 000022
【図２１】
2021054360.tif 000023
【図２２】
2021054360.tif 000024
【図２３】
2021054360.tif 000025
【図２４】
2021054360.tif 000026
【図２５】
2021054360.tif 000027
【図２６】
2021054360.tif 000028
【図２７】
2021054360.tif 000029
【図２８】
2021054360.tif 000030
【図２９】
2021054360.tif 000031
【図３０】
2021054360.tif 000032
【図３１】
2021054360.tif 000033
【図３２】
2021054360.tif 000034
【図３３】
2021054360.tif 000035
【図３４】
2021054360.tif 000036
【図３５】
2021054360.tif 000037
【図３６】
2021054360.tif 000038
【図３７】
2021054360.tif 000039
【図３８】
2021054360.tif 000040
【図３９】
2021054360.tif 000041
【図４０】
2021054360.tif 000042
【国際調査報告】
2021054360.tif 000043
2021054360.tif 000044
2021054360.tif 000045
2021054360.tif 000046
2021054360.tif 000047
2021054360.tif 000048
2021054360.tif 000049
2021054360.tif 000050
2021054360.tif 000051