(57)【要約】 【課題】  医師が納得し得る識別理由を、当該理由に基づく識別結果と共に出力する。【解決手段】  診断支援装置は、識別部、アルゴリズム変更部、及び再識別部を備える。識別部は、医用情報を入力として識別処理を実行することで、第１識別結果と、当該結果に至った第１識別理由とを出力する。アルゴリズム変更部は、前記第１識別理由の拒絶指示に応じ、前記第１識別理由が出力されないように、前記識別処理のアルゴリズムを変更する。再識別部は、前記医用情報を入力としてアルゴリズム変更後の識別処理を実行することで、第２識別結果と、当該結果に至った第２識別理由とを出力する。【選択図】図５
2020042346.tif 000002
【特許請求の範囲】
【請求項１】
医用情報を入力として識別処理を実行することで、第１識別結果と、当該結果に至った第１識別理由とを出力する識別部と、
前記第１識別理由の拒絶指示に応じ、前記第１識別理由が出力されないように、前記識別処理のアルゴリズムを変更するアルゴリズム変更部と、
前記医用情報を入力としてアルゴリズム変更後の識別処理を実行することで、第２識別結果と、当該結果に至った第２識別理由とを出力する再識別部と
を具備する診断支援装置。
【請求項２】
前記識別部は、前記医用情報に含まれていない情報をさらに入力として識別処理を実行することで、第３識別結果と、当該結果に至った第３識別理由とを出力する請求項１記載の診断支援装置。
【請求項３】
前記識別部は、第４識別結果、及び当該結果に至った第４識別理由をさらに出力し、
前記アルゴリズム変更部は、前記第１識別理由を拒絶し、前記第４識別理由に同意する旨の指示に応じ、前記第１識別理由が出力されないように、前記識別処理のアルゴリズムを変更する請求項１又は２記載の診断支援装置。
【請求項４】
複数の学習済みモデルが記憶されているメモリをさらに具備し、
前記識別部は、前記複数の学習済みモデルに前記医用情報を入力し、前記第１識別結果、及び前記第１識別理由を出力し、
前記アルゴリズム変更部は、前記第１識別理由が出力されないように、前記複数の学習済みモデルのアルゴリズムを変更し、
前記再識別部は、アルゴリズムを変更した前記複数の学習済みモデルに前記医用情報を入力し、前記第２識別結果、及び前記第２識別理由を出力する請求項１乃至３のいずれかに記載の診断支援装置。
【請求項５】
前記アルゴリズム変更部は、新たな学習済みモデルを追加することでアルゴリズムを変更する請求項４記載の診断支援装置。
【請求項６】
医用情報を入力として識別処理を実行することで、第１識別結果と、当該結果に至った第１識別理由とを出力する識別手段と、
前記第１識別理由の拒絶指示に応じ、前記第１識別理由が出力されないように、前記識別処理のアルゴリズムを変更するアルゴリズム変更手段と、
前記医用情報を入力としてアルゴリズム変更後の識別処理を実行することで、第２識別結果と、当該結果に至った第２識別理由とを出力する再識別手段と
を具備する診断支援システム。
【請求項７】
医用情報を入力として識別処理を実行することで、第１識別結果と、当該結果に至った第１識別理由とを出力し、
前記第１識別理由に対する拒絶指示を受信し、
前記拒絶指示に応じ、前記第１識別理由が出力されないように、前記識別処理のアルゴリズムを変更し、
前記医用情報を入力としてアルゴリズム変更後の識別処理を実行することで、第２識別結果と、当該結果に至った第２識別理由とを出力する診断支援方法。
【請求項８】
医用情報を入力として識別処理を実行することで、第１識別結果と、当該結果に至った第１識別理由とを出力する処理と、
前記第１識別理由の拒絶指示に応じ、前記第１識別理由が出力されないように、前記識別処理のアルゴリズムを変更する処理と、
前記医用情報を入力としてアルゴリズム変更後の識別処理を実行することで、第２識別結果と、当該結果に至った第２識別理由とを出力する処理と
をプロセッサに実行させる診断支援プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明の実施形態は、診断支援装置、診断支援システム、診断支援方法、及び診断支援プログラムに関する。
【背景技術】
【０００２】
近年、検査データに基づいて識別結果を出力する医療向けＡＩ（Artificial Intelligence）プログラムの開発が進んでいる。ところで、医師には、医療向けＡＩプログラムが識別結果を出力した理由を理解した上で、この識別結果の採用を決定したいという要望がある。そこで、医師の要望に応え、識別結果を出力すると共に、この識別結果に至った識別理由も出力する医療向けＡＩプログラムも開発され始めている。
【０００３】
しかしながら、識別結果の識別理由について医師が納得できない場合、医師は、出力された識別結果を不安なまま採用するか、又は自分を信じてこの識別結果を無視するかを選択する必要がある。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０１３−１０００９号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
発明が解決しようとする課題は、医師が納得し得る識別理由を、当該理由に基づく識別結果と共に出力することである。
【課題を解決するための手段】
【０００６】
実施形態によれば、診断支援装置は、識別部、アルゴリズム変更部、及び再識別部を備える。識別部は、医用情報を入力として識別処理を実行することで、第１識別結果と、当該結果に至った第１識別理由とを出力する。アルゴリズム変更部は、前記第１識別理由の拒絶指示に応じ、前記第１識別理由が出力されないように、前記識別処理のアルゴリズムを変更する。再識別部は、前記医用情報を入力としてアルゴリズム変更後の識別処理を実行することで、第２識別結果と、当該結果に至った第２識別理由とを出力する。
【図面の簡単な説明】
【０００７】
【図１】図１は、本実施形態に係る診断支援装置が設けられる病院情報システムの機能構成を示すブロック図である。
【図２】図２は、図１に示される診断支援装置の機能構成を表すブロック図である。
【図３】図３は、学習済みモデルを生成する医用情報処理システムの構成を表す図である。
【図４】図４は、本実施形態に係る多層化ネットワークの構造を表す図である。
【図５】図５は、図２で示される処理回路が学習済みモデルを利用した識別処理を実行する際の動作を表すフローチャートである。
【図６】図６は、学習済みモデルにより実現される識別器の構成を表す図である。
【図７】図７は、図１で示される通信端末で表示される画面を表す図である。
【図８】図８は、図１で示される通信端末において、アルゴリズムを変更するか否かの選択を受け付ける画面を表す図である。
【図９】図９は、図６で示される学習済みモデルのアルゴリズムの変更を表す図である。
【図１０】図１０は、図１に示される通信端末で再度表示される画面を表す図である。
【図１１】図１１は、図１で示される通信端末において、識別結果、及び識別理由が複数ずつ表示される画面を表す図である。
【図１２】図１２は、図１で示される通信端末において、新たな学習済みモデルを追加するか否かの選択を受け付ける画面を表す図である。
【図１３】図１３は、新たな学習済みモデルが追加された際の識別器の構成を表す図である。
【図１４】図１４は、アルゴリズムの変更のその他の例を表す図である。
【図１５】図１５は、アルゴリズムの変更のその他の例を表す図である。
【図１６】図１６は、図１で示される通信端末で表示される画面を表す図である。
【図１７】図１７は、図１に示される通信端末で再度表示される画面を表す図である。
【発明を実施するための形態】
【０００８】
以下、実施の形態について、図面を参照して説明する。
【０００９】
図１は、本実施形態に係る診断支援装置１０が設けられる病院情報システムの機能構成の例を示すブロック図である。図１に示される病院情報システムは、診断支援装置１０、電子カルテシステム２０、医用画像管理システム（ＰＡＣＳ：Picture Archiving and Communication System）３０、及び通信端末４０を具備する。診断支援装置１０、電子カルテシステム２０、医用画像管理システム３０、及び通信端末４０は、ＬＡＮ（Local Area Network）等の病院内ネットワークを介してデータ通信可能に接続されている。なお、病院内ネットワークへの接続は、有線接続、及び無線接続を問わない。また、セキュリティが確保されるのであれば、接続される回線は病院内ネットワークに限定されない。例えば、ＶＰＮ（Virtual Private Network）等を介し、インターネット等、公衆の通信回線に接続するようにしても構わない。
【００１０】
電子カルテシステム２０は、診療情報、及び患者情報等含む電子カルテデータを記憶し、記憶している電子カルテデータを管理するシステムである。診療情報は、例えば、所見情報、病名情報、バイタル情報、検査段階情報、及び治療内容の情報等、電子カルテに係る情報を含む。患者情報は、例えば、患者ＩＤ、患者氏名、性別、及び年齢等を含む。
【００１１】
電子カルテシステム２０は、例えば、サーバ装置２１、及び通信端末２２を有する。サーバ装置２１と、通信端末２２とは、病院内ネットワークを介してデータ通信可能に接続されている。サーバ装置２１は、電子カルテシステム２０において、診療情報及び患者情報等を記憶し、記憶している診療情報及び患者情報等を管理する。例えば、サーバ装置２１は、出力要求に応じ、記憶している診療情報及び患者情報等を要求元へ出力する。
【００１２】
なお、図１では、電子カルテシステム２０に含まれるサーバがサーバ装置２１のみである場合を例に示しているが、これに限定されない。サーバ装置２１は、必要に応じて複数設けられていても構わない。例えば、サーバ装置２１は、管理する情報毎に設けられても構わない。
【００１３】
通信端末２２は、医師等の医療スタッフがサーバ装置２１へアクセスするための端末である。具体的には、例えば、通信端末２２は、医療スタッフより操作され、サーバ装置２１に対し、サーバ装置２１に記憶されている情報を要求する。
【００１４】
医用画像管理システム３０は、医用画像データを記憶し、記憶している医用画像データを管理するシステムである。医用画像管理システム３０は、例えば、サーバ装置３１を有する。サーバ装置３１は、医用画像管理システム３０において、例えば、ＤＩＣＯＭ（Digital Imaging and Communication Medicine）規格に則って変換された医用画像データを記憶し、記憶している医用画像データを管理する。例えば、サーバ装置３１は、閲覧要求に応じ、記憶している医用画像データを要求元へ送信する。
【００１５】
なお、図１では、医用画像管理システム３０に含まれるサーバがサーバ装置３１のみである場合を例に示しているが、これに限定されない。サーバ装置３１は、必要に応じて複数設けられていても構わない。
【００１６】
通信端末４０は、医療スタッフがＬＡＮに接続されているシステム及び装置等へアクセスするための端末、例えば、ビューワである。なお、図１では、通信端末４０は、電子カルテシステム２０、及び医用画像管理システム３０のいずれにも属していない場合を示しているが、これに限定されない。通信端末４０は、医療スタッフが使用可能であれば、電子カルテシステム２０、及び医用画像管理システム３０のいずれに属していても構わない。
【００１７】
診断支援装置１０は、医師等の操作者による患者の診断を支援する装置である。図２は、図１に示される診断支援装置１０の機能構成の例を表すブロック図である。図２に示される診断支援装置１０は、処理回路１１、メモリ１２、及び通信インタフェース１３を有する。処理回路１１、メモリ１２、及び通信インタフェース１３は、例えば、バスを介して互いに通信可能に接続されている。
【００１８】
処理回路１１は、診断支援装置１０の中枢として機能するプロセッサである。処理回路１１は、メモリ１２等に記憶されているプログラムを実行することにより、当該プログラムに対応する機能を実現する。
【００１９】
メモリ１２は、種々の情報を記憶するＲＯＭ（Read Only Memory）、ＲＡＭ（Random Access Memory）、ＨＤＤ（Hard Disk Drive）、ＳＳＤ（Solid State Drive）、及び集積回路記憶装置等の記憶装置である。また、メモリ１２は、ＣＤ−ＲＯＭドライブ、ＤＶＤドライブ、及びフラッシュメモリ等の可搬性記憶媒体との間で種々の情報を読み書きする駆動装置等であってもよい。なお、メモリ１２は、必ずしも単一の記憶装置により実現される必要は無い。例えば、メモリ１２は、複数の記憶装置により実現されても構わない。また、メモリ１２は、診断支援装置１０にネットワークを介して接続された他のコンピュータ内にあってもよい。
【００２０】
メモリ１２は、本実施形態に係る診断支援プログラム等を記憶している。なお、この診断支援プログラムは、例えば、メモリ１２に予め記憶されていてもよい。また、例えば、非一過性の記憶媒体に記憶されて配布され、非一過性の記憶媒体から読み出されてメモリ１２にインストールされてもよい。また、メモリ１２は、例えば、機械学習により生成された識別器としての学習済みモデル１２１−１，１２１−２，…，１２１−Ｎを記憶している。なお、学習済みモデル１２１−１〜１２１−Ｎは、計算モデルの一例である。本実施形態において、学習済みモデルとは、モデル学習プログラムに従って機械学習モデルに機械学習を行わせることで生成されるモデルを表す。
【００２１】
学習済みモデル１２１−１〜１２１−Ｎは、例えば、以下のように生成されて診断支援装置１０のメモリ１２に記憶される。なお、学習済みモデル１２１−１〜１２１−Ｎの生成過程はそれぞれ同様であるため、以下では学習済みモデル１２１と称して説明する。
【００２２】
図３は、学習済みモデル１２１を生成する医用情報処理システムの構成例を表す模式図である。図３に示される医用情報処理システムは、診断支援装置１０、学習データ保管装置５０、モデル学習装置６０を有する。
【００２３】
学習データ保管装置５０は、複数の学習サンプルを含む学習データを記憶する。例えば、学習データ保管装置５０は、大容量記憶装置が内蔵されたコンピュータである。また、学習データ保管装置５０は、コンピュータにケーブルや通信ネットワークを介して通信可能に接続された大容量記憶装置であってもよい。当該記憶装置としては、ＨＤＤ（Hard Disk Drive）、ＳＳＤ（Solid State Drive）、集積回路記憶装置等が適宜利用可能である。
【００２４】
モデル学習装置６０は、学習データ保管装置５０に記憶された学習データに基づいて、モデル学習プログラムに従い機械学習モデルに機械学習を行わせることで、学習済みモデル１２１を生成する。本実施形態において、機械学習のアルゴリズムとして、判別分析、ロジスティック回帰、サポートベクターマシン、ニューラルネットワーク、Randomized Trees、又は部分空間法等が挙げられる。モデル学習装置６０は、ＣＰＵ（Central Processing Unit）及びＧＰＵ（Graphics Processing Unit）等のプロセッサを有するワークステーション等のコンピュータである。
【００２５】
モデル学習装置６０と学習データ保管装置５０とはケーブル、又は通信ネットワークを介して通信可能に接続されてもよい。また、学習データ保管装置５０がモデル学習装置６０に搭載されてもよい。これらの場合、学習データ保管装置５０からモデル学習装置６０へ学習データが供給される。なお、モデル学習装置６０と学習データ保管装置５０とは通信可能に接続されてなくてもよい。この場合、学習データが記憶された可搬型記憶媒体を介して、学習データ保管装置５０からモデル学習装置６０へ学習データが供給される。
【００２６】
診断支援装置１０とモデル学習装置６０とはケーブル、又は通信ネットワークを介して通信可能に接続されてもよい。また、診断支援装置１０とモデル学習装置６０とは単一のコンピュータに実装されていてもよい。これらの場合、モデル学習装置６０で生成された学習済みモデル１２１が診断支援装置１０へ供給される。なお、診断支援装置１０とモデル学習装置６０とは、必ずしも通信可能に接続されてなくてもよい。この場合、学習済みモデル１２１が記憶された可搬型記憶媒体等を介して、モデル学習装置６０から診断支援装置１０へ学習済みモデル１２１が供給される。
【００２７】
学習済みモデル１２１の診断支援装置１０への供給は、診断支援装置１０の製造以降の如何なる時点で行われてもよい。例えば、製造から医用施設等への据付の間の任意の時点でもよいし、メンテナンス時でもよい。供給された学習済みモデル１２１は、診断支援装置１０のメモリ１２に記憶される。
【００２８】
本実施形態に係る学習済みモデル１２１は、例えば、医用画像データ、及び非画像の診療情報等の医用情報を入力として疾患名の推定、疾患悪性度の推定、又は予後予測等を実施する、複数の関数が合成されたパラメータ付き合成関数である。パラメータ付き合成関数は、複数の調整可能な関数及びパラメータの組合せにより定義される。本実施形態に係る学習済みモデル１２１は、上記の要請を満たす如何なるパラメータ付き合成関数であってもよい。
【００２９】
例えば、学習済みモデル１２１は、順伝播型の多層化ネットワークを用いて生成される。本実施形態において順伝播型の多層化ネットワークは、例えば図４に示されるように、層状に並べた隣接層間のみ結合した構造を持ち、情報が入力層側から出力層側に一方向に伝播するネットワークである。図４に示される多層化ネットワークは、入力層（ｌ＝１）、中間層（ｌ＝２，３，・・・，Ｌ−１）、出力層（ｌ＝Ｌ）のＬ個の層から構成されている。
【００３０】
学習済みモデル１２１が順伝播型の多層化ネットワークを用いて生成される場合、パラメータ付き合成関数は、例えば、重み付行列を用いた各層間の線形関係、各層における活性化関数を用いた非線形関係（又は線形関係）、及びバイアスの組み合わせとして定義される。活性化関数は、ロジスティックシグモイド関数（ロジスティック関数）、双曲線正接関数、正規化線形関数（ReLU：Rectified Liner Unit)、線形写像、恒等写像、マックスアウト関数等、目的に応じて種々の関数を選択することができる。
【００３１】
重み付行列、及びバイアスは、多層化ネットワークのパラメータと呼ばれる。パラメータ付き合成関数は、パラメータをどのように選ぶかで、関数としての形を変える。多層化ネットワークでは、構成するパラメータを適切に設定することで、出力層から好ましい結果を出力することが可能な関数を定義することができる。
【００３２】
パラメータは、学習データと誤差関数とを用いた学習を実行することで設定される。学習データは、例えば、所定の入力ｘｎ、この入力に対する望ましい結果（正解出力）ｄｎを出力とした学習サンプル（ｘｎ，ｄｎ）の集合Ｄ（ｎ＝１，・・・，Ｓ）である。誤差関数は、ｘｎを入力した多層化ネットワークからの出力と正解出力ｄｎとの近さを表す関数である。誤差関数の代表例としては、二乗誤差関数、最尤度推定関数、交差エントロピー関数等が挙げられる。誤差関数として選択する関数は、多層化ネットワークが取り扱う問題（例えば、回帰問題、二値問題、多クラス分類問題等）に依存する。パラメータは、学習サンプル毎に、例えば、誤差関数を極小にする値が決定される。なお、パラメータを決定する際の計算量を抑制するため、誤差逆伝播法が用いられてもよい。
【００３３】
より具体的には、本実施形態に係るモデル学習装置６０は、例えば、医用画像データにおける所定の特徴量、及び診療情報等の非画像データにおける所定の特徴量を入力、診断された疾患名を正解出力とした学習データに基づいて機械学習を実施する。医用画像データにおける所定の特徴量は、例えば、平均値、尖度、歪度、ＧＬＣＭ（同時生起行列：Gray-Level Co-occurrence Matrix）等のテクスチャ特徴量等である。非画像データにおける所定の特徴量は、例えば、血液検査の結果、喫煙歴、性別、家族に関する情報、及びゲノム解析の結果等である。モデル学習装置６０は、例えば、入力された医用画像データにおける所定の特徴量、及び診療情報等の非画像データにおける所定の特徴量に基づいて疾患名を識別する学習済みモデル１２１−２〜１２１−Ｎを生成する。
【００３４】
なお、学習済みモデル１２１−２〜１２１−Ｎのパラメータは、例えば、それぞれ異なる学習データを用いて設定されても構わない。例えば、学習済みモデル１２１−２〜１２１−Ｎのうち少なくともいずれかのパラメータは、特定の疾患についての学習データを用いて設定されても構わない。また、例えば、学習済みモデル１２１−２〜１２１−Ｎのうち少なくともいずれかのパラメータは、特定の部位についての学習データを用いて設定されても構わない。これにより、学習済みモデル１２１−２〜１２１−Ｎから、それぞれ異なる識別結果が出力されることになる。
【００３５】
また、学習済みモデル１２１−２〜１２１−Ｎを生成する際に用いる学習データの正解出力は、診断された疾患名に限定されない。モデル学習装置６０は、疾患の悪性度の診断結果を正解出力とした学習データに基づいて機械学習を実施することで、学習済みモデル１２１−２〜１２１−Ｎを生成してもよい。
【００３６】
また、本実施形態に係るモデル学習装置６０は、例えば、学習済みモデル１２１−２〜１２１−Ｎから出力される識別結果、及び当該結果に至った識別理由を入力、診断された疾患名、及び診断理由を正解出力とした学習データに基づいて機械学習を実施する。モデル学習装置６０は、例えば、学習済みモデル１２１−２〜１２１−Ｎによる識別結果、及び当該結果に至った識別理由を入力として疾患名、及び診断理由を出力する学習済みモデル１２１−１を生成する。
【００３７】
図２に示される通信インタフェース１３は、病院内ネットワークを介して接続された電子カルテシステム２０、医用画像管理システム３０、及び通信端末４０との間でデータ通信を行う。通信インタフェース１３は、例えば、予め設定されている既知の規格に準拠してデータ通信を行う。電子カルテシステム２０との間では、例えば、ＨＬ７に準拠した通信が実施される。また、医用画像管理システム３０との間では、例えば、ＤＩＣＯＭに準拠した通信が実施される。
【００３８】
なお、診断支援装置１０は、入力インタフェースを有していてもよい。入力インタフェースは、ユーザから各種の入力操作を受け付け、受け付けた入力操作を電気信号に変換して処理回路１１へ出力する。入力インタフェースは、例えば、マウス、キーボード、トラックボール、スイッチ、ボタン、ジョイスティック、タッチパッド、及び操作面へ触れることで指示が入力されるタッチパネル等の入力機器に接続されている。また、入力インタフェースに接続される入力機器は、ネットワーク等を介して接続された他のコンピュータに設けられた入力機器でもよい。
【００３９】
また、診断支援装置１０は、ディスプレイを有していてもよい。ディスプレイは、処理回路１１からの指示に従って種々の情報を表示する。また、ディスプレイは、ユーザからの各種操作を受け付けるためのＧＵＩ（Graphical User Interface）等を表示してもよい。ディスプレイは、例えば、ＣＲＴ（Cathode Ray Tube）ディスプレイ、液晶ディスプレイ、有機ＥＬディスプレイ、ＬＥＤディスプレイ、及びプラズマディスプレイ等、任意のディスプレイが適宜利用可能である。
【００４０】
図２に示される処理回路１１は、メモリ１２に記憶されている診断支援プログラムを実行することで、当該プログラムに対応する機能を実現する。例えば、処理回路１１は、診断支援プログラムを実行することで、情報取得機能１１１、識別機能１１２、アルゴリズム変更機能１１３、再識別機能１１４、表示制御機能１１５、及び通信制御機能１１６を有する。なお、本実施形態では、単一のプロセッサによって情報取得機能１１１、識別機能１１２、アルゴリズム変更機能１１３、再識別機能１１４、表示制御機能１１５、及び通信制御機能１１６が実現される場合を説明するが、これに限定されない。例えば、複数の独立したプロセッサを組み合わせて処理回路を構成し、各プロセッサがプログラムを実行することにより情報取得機能１１１、識別機能１１２、アルゴリズム変更機能１１３、再識別機能１１４、表示制御機能１１５、及び通信制御機能１１６を実現しても構わない。
【００４１】
情報取得機能１１１は、病院情報システムに記憶されているデータから、学習済みモデル１２１−２〜１２１−Ｎへ入力するための医用情報を取得する機能である。具体的には、例えば、情報取得機能１１１において処理回路１１は、操作者により指定された患者の患者情報、及び当該患者についての診療情報を電子カルテシステム２０から読み出す。また、処理回路１１は、操作者により指定された患者について記憶されている医用画像データを医用画像管理システム３０から読み出す。医用画像データには、例えば、超音波画像データ、ＣＴ（Computed Tomography）画像データ、Ｘ線画像データ、ＭＲＩ（Magnetic Resonance Imaging）画像データ、及びＰＥＴ（Positron Emission computed Tomography）画像データ等が含まれる。
【００４２】
識別機能１１２は、取得した医用情報を入力として学習済みモデル１２１−１〜１２１−Ｎを用い、識別結果、及びこの結果に至った識別理由を出力する機能であり、識別部の一例である。具体的には、例えば、識別機能１１２において処理回路１１は、電子カルテシステム２０から読み出された患者情報、及び診療情報、並びに、医用画像管理システム３０から読み出された医用画像データから所定の特徴量を抽出する。処理回路１１は、抽出した特徴量を学習済みモデル１２１−２〜１２１−Ｎへ入力し、疾患名、及び疾患の悪性度等の識別結果を生成する。
【００４３】
処理回路１１は、学習済みモデル１２１−２〜１２１−Ｎそれぞれにおいて識別結果が出力された理由を生成する。処理回路１１は、例えば、識別結果を得るために重要である度合いに応じ、入力された特徴量についての貢献度を、学習済みモデル１２１−２〜１２１−Ｎそれぞれで算出する。貢献度の算出は、例えば、入出力のみから算出する手法、及び学習済みモデルで設定されている重み等を利用して逆向きに計算する手法等を用いて実施される。処理回路１１は、算出された貢献度に基づいて識別理由を生成する。
【００４４】
処理回路１１は、学習済みモデル１２１−２〜１２１−Ｎから出力される識別結果、及び識別理由を学習済みモデル１２１−１へ入力し、最終出力としての識別結果、及び識別理由を出力する。
【００４５】
アルゴリズム変更機能１１３は、識別処理のアルゴリズムを変更する機能であり、アルゴリズム変更部の一例である。具体的には、例えば、アルゴリズム変更機能１１３において処理回路１１は、操作者から入力される、識別理由を変更する旨の指示に応じ、学習済みモデル１２１−１〜１２１−Ｎの設定を変更する。
【００４６】
再識別機能１１４は、アルゴリズムを変更した後の識別処理を実行することで、識別結果、及びこの識別についての識別理由を再度出力する機能であり、再識別部の一例である。具体的には、例えば、再識別機能１１４において処理回路１１は、設定を変更した後の学習済みモデル１２１−１〜１２１−Ｎに医用情報を入力し、識別結果、及び識別理由を再度出力する。
【００４７】
表示制御機能１１５は、学習済みモデル１２１−１〜１２１−Ｎの出力に関する表示を制御する機能である。具体的には、例えば、表示制御機能１１５において処理回路１１は、識別機能１１２により出力された識別結果、及び識別理由を表示するための画像データを生成する。また、処理回路１１は、識別理由の変更を指示するためのＧＵＩを表示する。
【００４８】
通信制御機能１１６は、電子カルテシステム２０、医用画像管理システム３０、及び通信端末４０との通信を制御する機能である。具体的には、例えば、通信制御機能１１６において処理回路１１は、電子カルテシステム２０、及び医用画像管理システム３０にアクセスし、電子カルテシステム、２０及び医用画像管理システム３０から、情報取得機能１１１において指定された医用情報を読み出す。また、処理回路１１は、通信端末４０にアクセスし、表示制御機能１１５で生成された画像データを、ＬＡＮを介して通信端末４０へ送信する。
【００４９】
次に、以上のように構成された診断支援装置１０による診断支援動作を、処理回路１１の処理手順に従って説明する。
【００５０】
図５は、図２で示される処理回路１１が学習済みモデル１２１−１〜１２１−Ｎを利用した識別処理を実行する際の動作の例を表すフローチャートである。なお、図５の説明では、学習済みモデル１２１−１〜１２１−Ｎにより実現される識別器が、図６に示されるように構成される場合を例に説明する。すなわち、図６では、学習済みモデル１２１−２〜１２１−Ｎに医用情報が入力されて識別結果Ｒ２１〜ＲＮ１、及び識別理由Ｒ２２〜ＲＮ２が出力される。そして、学習済みモデル１２１−２〜１２１−Ｎから出力された識別結果Ｒ２１〜ＲＮ１、及び識別理由Ｒ２２〜ＲＮ２が学習済みモデル１２１−１へ入力され、最終出力としての識別結果Ｒ１１、及び識別理由Ｒ１２が出力されるようになっている。
【００５１】
まず、通信端末４０を操作する操作者から、指定された患者について、識別処理を開始する指示が入力されると、診断支援装置１０の処理回路１１は、診断支援プログラムをメモリ１２から読み出し、読み出した診断支援プログラムを実行する。処理回路１１が診断支援プログラムを実行すると、図５に示される処理が開始される。
【００５２】
図５において、処理回路１１は、情報取得機能１１１を実行する。情報取得機能１１１を実行すると処理回路１１は、操作者により指定された患者について、学習済みモデル１２１−２〜１２１−Ｎへ入力するための医用情報を、電子カルテシステム２０、及び医用画像管理システム３０から読み出す（ステップＳ５１）。つまり、例えば、処理回路１１は、例えば、指定された患者についての患者情報、及び診療情報を電子カルテシステム２０から読み出し、指定された患者について指定された医用画像データを医用画像管理システム３０から読み出す。
【００５３】
医用情報を取得すると処理回路１１は、識別機能１１２を実行する。識別機能１１２を実行すると処理回路１１は、読み出した患者情報、診療情報、及び医用画像データに基づく識別結果Ｒ１１、及び当該結果に至った識別理由Ｒ１２を出力する（ステップＳ５２）。
【００５４】
具体的には、処理回路１１は、学習済みモデル１２１−２に対して設定されている特徴量、例えば、血液検査の結果、喫煙歴、性別、家族、及びゲノム解析の結果等のうち少なくともいずれかを、電子カルテシステム２０から読み出された患者情報、及び診療情報から抽出する。また、処理回路１１は、例えば、学習済みモデル１２１−２に対して設定されている特徴量、例えば、平均値、尖度、歪度、ＧＬＣＭ等のテクスチャ特徴量等を、医用画像管理システム３０から読み出された医用画像データから抽出する。
【００５５】
より具体的には、例えば、学習済みモデル１２１−２が肺についての疾患名、及び疾患の悪性度等を識別するためのモデルであるとする。このとき入力される医用画像データがＣＴ画像データである場合、処理回路１１は、例えば、既存の輪郭抽出処理、及びパターンマッチング処理等を実行することで、肺結節のサイズ、肺結節のＣＴ値の平均値、充実性陰影とすりガラス陰影との比率（例えば、体積比等）、肺結節の倍加時間、肺結節の輝度分布（例えば、尖度及び歪度）、ＧＬＣＭ等のうち少なくともいずれかを特徴量としてＣＴ画像データから抽出する。
【００５６】
また、入力される医用画像データがＭＲＩ画像データである場合、処理回路１１は、例えば、所定のシーケンスにより取得されたＭＲＩ画像データにおける肺結節のサイズを特徴量としてＭＲＩ画像から抽出する。また、入力される医用画像データがＰＥＴ画像データである場合、処理回路１１は、例えば、ＰＥＴ画像データにおけるＳＵＶ（Standardized Uptake Value）値の高い領域のサイズを特徴量として抽出する。また、入力される医用画像データがＸ線画像データである場合、処理回路１１は、例えば、肺結節のサイズ、及び肺結節の輝度分布（例えば、尖度及び歪度）等のうち少なくともいずれかを特徴量として抽出する。なお、医用画像データについての特徴量は、上記に限定されない。
【００５７】
医用情報から特徴量を抽出すると、処理回路１１は、抽出した特徴量を学習済みモデル１２１−２へ入力し、出力信号を生成する。すなわち、処理回路１１は、患者情報、診療情報、及び医用画像データから抽出した特徴量を学習済みモデル１２１−２へ入力し、疾患名、及び疾患の悪性度等の識別結果Ｒ２１を生成する。また、処理回路１１は、例えば、入力された特徴量についての貢献度に基づき、学習済みモデル１２１−２において識別結果が出力された識別理由Ｒ２２を生成する。
【００５８】
処理回路１１は、学習済みモデル１２１−２への特徴量の入力と並列して学習済みモデル１２１−３〜１２１−Ｎへも特徴量を入力する。学習済みモデル１２１−３〜１２１−Ｎへ特徴量が入力されると、識別結果Ｒ３１〜ＲＮ１がそれぞれ出力される。処理回路１１は、例えば、入力された特徴量についての貢献度に基づき、学習済みモデル１２１−３〜１２１−Ｎにおいて識別結果が出力された識別理由Ｒ３２〜ＲＮ２を生成する。
【００５９】
学習済みモデル１２１−２〜１２１−Ｎから識別結果Ｒ２１〜ＲＮ１、及び識別理由Ｒ２２〜ＲＮ２が出力されると、処理回路１１は、出力された識別結果Ｒ２１〜ＲＮ１、及び識別理由Ｒ２２〜ＲＮ２を、学習済みモデル１２１−１へ入力する。識別結果Ｒ２１〜ＲＮ１、及び識別理由Ｒ２２〜ＲＮ２が学習済みモデル１２１−１へ入力されると、例えば、入力された識別結果、及び識別理由のいずれかが識別結果Ｒ１１、及び識別理由Ｒ１２として出力される。
【００６０】
学習済みモデル１２１−１から識別結果Ｒ１１、及び識別理由Ｒ１２が出力されると処理回路１１は、表示制御機能１１５を実行する。表示制御機能１１５を実行すると処理回路１１は、識別結果Ｒ１１、及び識別理由Ｒ１２を表示するための画像データを生成する（ステップＳ５３）。画像データを生成すると処理回路１１は、通信制御機能１１６を実行する。通信制御機能１１６を実行すると処理回路１１は、通信端末４０にＬＡＮを介してアクセスし、生成した画像データを通信端末４０へ送信する（ステップＳ５４）。通信端末４０は、受信した画像データを表示する。
【００６１】
図７は、通信端末４０で表示される画面の例を表す模式図である。図７に示される例では、左側に医用画像Ｉ１が表示され、右側には識別結果Ｒ１１を表す領域Ａ１と、識別理由Ｒ１２を表す領域Ａ２とが表示されている。領域Ａ１には、識別結果Ｒ１１として「原発性肺がん」が記載され、領域Ａ２には、識別理由Ｒ１２として「腫瘍マーカーが高値であり、結節影があるため」が記載されている。
【００６２】
領域Ａ２の下方には、ＧＵＩとしてのボタンＢ１〜Ｂ３が表示されている。ボタンＢ１は、領域Ａ２に記載されている識別理由Ｒ１２を拒絶するためのボタンである。ボタンＢ２は、領域Ａ１に記載されている識別結果Ｒ１１、及び／又は領域Ａ２に記載されている識別理由Ｒ１２を変更するためのボタンである。ボタンＢ３は、領域Ａ１に記載されている識別結果Ｒ１１、及び領域Ａ２に記載されている識別理由Ｒ１２を受諾するためのボタンである。
【００６３】
領域Ａ２に記載されている識別理由Ｒ１２が自身の想定している理由と異なる場合、操作者は、通信端末４０において、ボタンＢ１を選択する。例えば、操作者が「腫瘍マーカーが高値であり、結節影があるため」との理由に対して納得がいかない場合、操作者は、ボタンＢ１を選択する。通信端末４０においてボタンＢ１が操作者により選択されると、通信端末４０は、領域Ａ２に記載されている識別理由Ｒ１２を拒絶する旨の指示を診断支援装置１０へ送信する。
【００６４】
画像データを通信端末４０へ送信すると、診断支援装置１０の処理回路１１は、通信端末４０から送信される指示を待ち受ける。領域Ａ２に記載されている識別理由Ｒ１２を拒絶する旨の指示を受信すると（ステップＳ５５のＹｅｓ）、処理回路１１は、アルゴリズムを変更するか否かの選択を受け付ける画面を通信端末４０に表示させる。図８は、アルゴリズムを変更するか否かの選択を受け付ける画面の例を表す模式図である。図８では、ボタンＢ４、及びボタンＢ５が表示されている。ボタンＢ４は、新たな情報を考慮して、識別結果、及び識別理由の計算を実行させるためのボタンである。ボタンＢ５は、識別理由Ｒ１２とは異なる理由が出力されるように、識別結果、及び識別理由の計算を再度実行させるためのボタンである。すなわち、ボタンＢ５は、学習済みモデル１２１−１〜１２１−Ｎのアルゴリズムを変更するか否かの選択を受け付けるためのボタンである。なお、新たな情報を考慮して再計算を実行させるためのボタンＢ４は、必ずしも表示されなくても構わない。
【００６５】
通信端末４０において、ボタンＢ５が操作者により選択されると、通信端末４０は、学習済みモデル１２１−１〜１２１−Ｎのアルゴリズムを変更して識別結果、及び識別理由の計算を再度実行する旨の指示を診断支援装置１０へ送信する。当該指示が入力されると（ステップＳ５６のＹｅｓ）、診断支援装置１０の処理回路１１は、アルゴリズム変更機能１１３を実行する。
【００６６】
アルゴリズム変更機能１１３を実行すると処理回路１１は、操作者から拒絶された識別理由を含まないように、学習済みモデル１２１−１〜１２１−Ｎのアルゴリズムを変更する（ステップＳ５７）。具体的には、例えば、学習済みモデル１２１−Ｎから出力された識別結果ＲＮ１、及び識別理由ＲＮ２が、学習済みモデル１２１−１により選択されて識別結果Ｒ１１、及び識別理由Ｒ１２として出力されたとする。このとき、処理回路１１は、例えば、図９に示されるように、識別理由ＲＮ２を出力した学習済みモデル１２１−Ｎを用いた識別処理を実行しないようにする。なお、図９では示されていないが、操作者により拒絶された識別理由Ｒ１２と同一の識別理由を出力した学習済みモデルが学習済みモデル１２１−Ｎ以外にもあった場合、処理回路１１は、当該学習済みモデルを用いた識別処理も実行しない。
【００６７】
なお、アルゴリズムの変更処理は、図９に示される処理に限定されない。例えば、処理回路１１は、操作者により拒絶された識別理由Ｒ１２と同一の識別理由を出力した学習済みモデルからの出力を学習済みモデル１２１−１の入力としないように、学習済みモデル１２１−１と学習済みモデル１２１−２〜１２１−Ｎとの間の接続を切り換えるようにしてもよい。
【００６８】
また、例えば、処理回路１１は、操作者により拒絶された識別理由Ｒ１２と同一の識別理由を出力した学習済みモデルから出力される識別結果、及び識別理由の優先度を下げるようにしても構わない。
【００６９】
学習済みモデル１２１−１〜１２１−Ｎのアルゴリズムを変更すると処理回路１１は、再識別機能１１４を実行する。再識別機能１１４を実行すると処理回路１１は、医用情報から抽出した特徴量を、アルゴリズムを変更した学習済みモデルへ入力し、識別結果、及び識別理由を再度出力する（ステップＳ５８）。図９に示される例によれば、処理回路１１は、医用情報から抽出した特徴量を、学習済みモデル１２１−２〜１２１−（Ｎ−１）へ入力し、識別結果Ｒ２１〜Ｒ（Ｎ−１）１、及び識別理由Ｒ２２〜Ｒ（Ｎ−１）２を出力する。処理回路１１は、識別結果Ｒ２１〜Ｒ（Ｎ−１）１、及び識別理由Ｒ２２〜Ｒ（Ｎ−１）２を、学習済みモデル１２１−１へ入力し、入力した識別結果、及び識別理由のいずれかを識別結果Ｒ１１、及び識別理由Ｒ１２として出力する。
【００７０】
学習済みモデル１２１−１から識別結果Ｒ１１、及び識別理由Ｒ１２が出力されると処理回路１１は、処理をステップＳ５３へ移行して画像データを生成し、ステップＳ５４で画像データを通信端末４０へ送信する。通信端末４０は、受信した画像データを表示する。
【００７１】
図１０は、通信端末４０で再度表示される画面の例を表す模式図である。図１０に示される例では、改めて出力された識別結果Ｒ１１が領域Ａ１に表示され、改めて出力された識別理由Ｒ１２が領域Ａ２に表示されている。これにより、操作者により拒絶された識別理由以外の識別理由Ｒ１２が表示されると共に、当該識別理由Ｒ１２に則って識別された識別結果Ｒ１１が表示されることになる。すなわち、図１０に示される領域Ａ２には、図７で示された「腫瘍マーカーが高値であり、結節影があるため」とは異なる「結節影があり、２週間以上咳が続いているため」が記載される。そして、図１０に示される領域Ａ１には、「結節影があり、２週間以上咳が続いているため」を理由とする「肺結核」の識別結果が記載される。
【００７２】
図７で示される拒絶ボタンＢ１が選択された後、図８に示されるボタンＢ４が操作者により選択されると、通信端末４０は、新たな情報を考慮して、識別結果、及び識別理由の計算を実行する旨の指示を診断支援装置１０へ送信する。また、操作者は、ボタンＢ４を選択すると、新たに追加する情報を選択する。新たに追加する情報とは、例えば、電子カルテシステム２０、及び医用画像管理システム３０から読み出した医用情報に含まれていなかった情報である。より具体的には、例えば、患者情報に患者の喫煙歴が含まれていなかった場合には、喫煙歴が新たに入力されることになる。また、例えば、過去に診断された情報が診療情報に含まれていなかった場合には、１０年前に大腸癌だった等の情報が新たに入力されることになる。また、例えば、医用画像データにＭＲＩ画像データがふくまれていなかった場合には、新たに撮像されたＭＲＩ画像データが選択されることになる。
【００７３】
新たな情報を考慮した識別処理の実行指示を受信し、新たな情報が操作者により選択されると（ステップＳ５６のＮｏ）、診断支援装置１０の処理回路１１は、識別機能１１２を実行する。識別機能１１２を実行すると処理回路１１は、操作者から選択された新たな情報を、電子カルテシステム２０、及び／又は医用画像管理システム３０から読み出す（ステップＳ５９）。処理回路１１は、ステップＳ５１で読み出した患者情報、診療情報、及び医用画像データ、並びに、新たに読み出した情報に基づく識別結果Ｒ１１、及び当該結果に至った識別理由Ｒ１２を出力し（ステップＳ５１０）、処理をステップＳ５３へ移行させる。
【００７４】
図７に示される領域Ａ１の識別結果、及び／又は領域Ａ２の識別理由を書き換える必要があると判断した場合、操作者は、通信端末４０において、ボタンＢ２を選択する。例えば、識別結果：「原発性肺がん」、及び／又は識別理由：「腫瘍マーカーが高値であり、結節影があるため」に対して微修正を加える必要があると判断した場合、操作者は、ボタンＢ２を選択する。通信端末４０においてボタンＢ２が操作者により選択されると、通信端末４０は、領域Ａ１に記載されている識別結果、及び／又は領域Ａ２に記載されている識別理由を変更する旨の指示を診断支援装置１０へ送信する。また、操作者は、ボタンＢ２を選択すると、記載されている識別結果、及び／又は識別理由に対する修正を入力する。
【００７５】
識別結果、及び／又は識別理由の変更指示を受信し、記載されている識別結果、及び／又は識別理由に対する修正が操作者により入力されると（ステップＳ５５のＮｏ、ステップＳ５１１のＹｅｓ）、診断支援装置１０の処理回路１１は、入力された情報で、領域Ａ１の識別結果、及び／又は領域Ａ２の識別理由を更新する（ステップＳ５１２）。領域Ａ１の識別結果、及び／又は領域Ａ２の識別理由を更新すると処理回路１１は、処理を終了させる。
【００７６】
図７に示される領域Ａ１の識別結果、及び領域Ａ２の識別理由に異論がないと判断した場合、操作者は、通信端末４０において、ボタンＢ３を選択する。通信端末４０において、ボタンＢ３が操作者により選択されると、通信端末４０は、領域Ａ１の識別結果、及び領域Ａ２の識別理由を受諾する旨の指示を診断支援装置１０へ送信する。
【００７７】
識別結果、及び識別理由の受諾指示を受信すると（ステップＳ５５のＮｏ、ステップＳ５１１のＮｏ）、診断支援装置１０の処理回路１１は、処理を終了させる。受諾された識別結果、及び識別理由は、例えば、読影レポートの作成、患者への説明書の作成、及び他病院への推薦状の作成等に利用される。
【００７８】
以上のように、本実施形態では、診断支援装置１０の処理回路１１は、識別機能１１２により、医用情報を入力として識別処理を実行することで、識別結果と、当該結果に至った識別理由とを出力する。処理回路１１は、識別理由の拒絶指示に応じ、アルゴリズム変更機能１１３により、拒絶された識別理由が出力されないように、識別処理のアルゴリズムを変更する。そして、処理回路１１は、再識別機能１１４により、医用情報を入力としてアルゴリズム変更後の識別処理を実行することで、識別結果と、当該結果に至った識別理由とを出力するようにしている。これにより、操作者である医師は、自身の判断を反映させた識別理由と、当該理由に基づく識別結果とを得ることが可能となる。つまり、医師は、「結果そのもの」ではなく識別過程に対するフィードバックを行うことが可能となる。
【００７９】
また、本実施形態では、処理回路１１は、医用情報に含まれていない情報をさらに入力として識別処理を実行することで、識別結果と、当該結果に至った識別理由とを出力するようにしている。これにより、学習済みモデルを用いた識別処理の精度が向上することになる。
【００８０】
なお、上記実施形態では、例えば、図７、及び図１０で示されるように、識別結果、及び識別理由が１つずつ表示される場合を例に説明した。しかしながら、これに限定されない。識別結果、及び識別理由は、複数ずつ表示されても構わない。図１１は、識別結果、及び識別理由が複数ずつ表示される場合の通信端末４０の表示例を表す模式図である。図１１において、最も確からしいと判断された２つの識別結果と、これらをそれぞれ判断した２つの識別理由とが記載されている。
【００８１】
このとき、診断支援装置１０のメモリ１２に記憶されている学習済みモデル１２１−１ａは、例えば、学習済みモデル１２１−２〜１２１−Ｎから出力される識別結果、及び当該結果に至った識別理由を入力、診断された疾患名、及び診断理由を正解出力とした学習データに基づいて機械学習される。学習済みモデル１２１−１ａは、例えば、学習済みモデル１２１−２〜１２１−Ｎによる識別結果、及び識別理由を入力として、第１候補としての識別結果、及び識別理由、並びに、第２候補としての識別結果、及び識別理由を出力するように生成される。
【００８２】
また、図１１には、ＧＵＩとしてのボタンＢ４，Ｂ２，Ｂ７が表示されている。ボタンＢ６は、領域Ａ２に記載されている識別理由を拒絶し、領域Ａ４に記載されている識別理由に同意するためのボタンである。ボタンＢ７は、領域Ａ１に記載されている識別結果、及び領域Ａ２に記載されている識別理由を受諾するためのボタンである。
【００８３】
領域Ａ２に記載されている識別理由よりも、領域Ａ４に記載されている識別理由が自身の想定している理由に近いと判断する場合、操作者は、通信端末４０において、ボタンＢ６を選択する。例えば、操作者が領域Ａ２に記載されている「腫瘍マーカーが高値であり、結節影があるため」よりも、領域Ａ４に記載されている「結節影があり、２週間以上咳が続いているため」が自身の想定している理由に近いと判断する場合、操作者は、ボタンＢ６を選択する。通信端末４０においてボタンＢ６が操作者により選択されると、通信端末４０は、領域Ａ２に記載されている識別理由を拒絶し、領域Ａ４に記載されている識別理由に同意する旨の指示を診断支援装置１０へ送信する。
【００８４】
通信端末４０から第１候補の識別理由を拒絶し、第２候補の識別理由に同意する旨の指示を受信すると、診断支援装置１０の処理回路１１は、指示に基づいて学習済みモデルのアルゴリズムを変更する。すなわち、例えば、処理回路１１は、第１候補の識別理由を出力した学習済みモデルを用いた識別処理を実行しないようにする。処理回路１１は、アルゴリズム変更後の学習済みモデルを用いて識別処理を再度実施する。
【００８５】
なお、例えば、処理回路１１は、操作者が同意した第２候補の識別理由と同一の識別理由を出力した学習済みモデルから出力される識別結果、及び識別理由の優先度を上げるようにしても構わない。このように、識別結果、及び識別理由を通信端末４０に複数ずつ表示させることで、操作者は、第１候補の識別理由と、第２候補の識別理由とを対比して識別過程に対するフィードバックを行うことが可能となる。
【００８６】
また、上記実施形態では、アルゴリズムを変更する際の処理として、例えば、いずれかの学習済みモデルを用いた識別処理を実施しない場合を例に説明した。しかしながら、これに限定されない。アルゴリズムを変更する際の処理として、例えば、新たな学習済みモデル１２１−（Ｎ＋１）を追加しても構わない。追加される学習済みモデル１２１−（Ｎ＋１）は、例えば、学習済みモデル１２１−２〜１２１−Ｎの機械学習で用いた学習データとは異なる学習データを用いて学習されても構わない。これにより、学習済みモデル１２１−（Ｎ＋１）からは、学習済みモデル１２１−２〜１２１−Ｎとは異なる識別結果が出力されることになる。
【００８７】
例えば、診断支援装置１０の処理回路１１は、図７に示されている拒絶ボタンＢ１が操作者により選択されると、新たな学習済みモデルを追加するか否かの選択を受け付ける画面を通信端末４０に表示させる。図１２は、新たな学習済みモデルを追加するか否かの選択を受け付ける画面の例を表す模式図である。操作者により「はい」が選択されると、処理回路１１は、アルゴリズム変更機能１１３を実行する。
【００８８】
アルゴリズム変更機能１１３を実行すると処理回路１１は、学習済みモデル１２１−１〜１２１−Ｎのアルゴリズムを変更する。具体的には、例えば、学習済みモデル１２１−（Ｎ＋１）を追加し、学習済みモデル１２１−（Ｎ＋１）から出力された識別結果Ｒ（Ｎ＋１）１、及び識別理由Ｒ（Ｎ＋１）２が、学習済みモデル１２１−１へ入力されるようにする。図１３は、学習済みモデル１２１−（Ｎ＋１）が追加された際の識別器の構成を表す模式図である。なお、このとき、学習済みモデル１２１−１は、学習済みモデル１２１−（Ｎ＋１）の追加を予め想定して生成されている。処理回路１１は、アルゴリズム変更後の学習済みモデルを用いて識別処理を再度実施する。これにより、処理回路１１は、新たに追加された学習済みモデルから出力される識別結果、及び識別理由を加味して判断することが可能となる。
【００８９】
また、上記実施形態では、複数の学習済みモデル１２１−１〜１２１−Ｎを用いて識別処理を実施する場合を例に説明した。しかしながら、これに限定されない。診断支援装置１０の処理回路１１は、例えば、１つの学習済みモデルを用いて識別処理を実施しても構わない。このとき用いられる学習済みモデルは、例えば、判別分析、ロジスティック回帰、サポートベクターマシン、ニューラルネットワーク、Randomized Trees、又は部分空間法等の機械学習アルゴリズムを利用して生成される。
【００９０】
具体的には、例えば、通信端末４０を操作する操作者から、指定された患者について、識別処理を開始する指示が入力されると、処理回路１１は、情報取得機能１１１を実行し、操作者により指定された患者についての医用情報を、電子カルテシステム２０、及び医用画像管理システム３０から読み出す。医用情報を読み出すと処理回路１１は、識別機能１１２を実行し、読み出した医用情報を学習済みモデルに入力することで、識別結果、及び当該結果に至った識別理由を出力する。
【００９１】
識別結果、及び識別理由が出力されると処理回路１１は、例えば、図７に示される画面を通信端末４０に表示させる。ここで、図７に示される拒絶ボタンＢ１が選択され、図８に示される再計算ボタンＢ５が選択されると、処理回路１１は、アルゴリズム変更機能１１３を実行する。
【００９２】
アルゴリズム変更機能１１３を実行すると処理回路１１は、操作者から拒絶された識別理由を含まないように、学習済みモデルのアルゴリズムを変更する。具体的には、例えば、学習済みモデルがニューラルネットワークを利用して生成されている場合、処理回路１１は、図１４に示されるように、拒絶された識別理由に係るノードを削除して生成された学習済みモデルを設定する。すなわち、例えば、中間層のパラメータの少なくとも一つを変更した学習済みモデルを設定する。処理回路１１は、新たに設定した学習済みモデルを用いて識別処理を実施する。
【００９３】
また、学習済みモデルが決定木を利用して生成されている場合、処理回路１１は、図１５に示されるように、拒絶された識別理由に係る分岐を削除する。処理回路１１は、新たに設定した分岐を用いて識別処理を実施する。
【００９４】
また、上記実施形態では、処理回路１１の識別機能１１２により、疾患名、及び疾患の悪性度等が識別結果として出力される場合を例に説明した。しかしながら、これに限定されない。識別結果として出力されるのは、例えば、画像処理結果であっても構わない。
【００９５】
具体的には、例えば、通信端末４０を操作する操作者から、指定された患者について、識別処理を開始する指示が入力されると、処理回路１１は、情報取得機能１１１を実行し、操作者により指定された患者についての医用画像データを医用画像管理システム３０から読み出す。医用画像データを読み出すと処理回路１１は、識別機能１１２を実行し、読み出したＸ線画像データを学習済みモデルに入力することで、画像処理結果、及び当該画像処理を実施した表示理由を出力する。
【００９６】
画像処理結果、及び表示理由が出力されると処理回路１１は、例えば、図１６に示される画面を通信端末４０に表示させる。図１６に示される例では、左側に画像処理が施された医用画像Ｉ１が表示され、右側には表示理由を表す領域Ａ５が表示されている。より具体的には、図１６では、医用画像Ｉ１としてステント強調画像が表示され、領域Ａ５には表示理由として「ステントが含まれていたのでステントを強調しました」と記載されている。領域Ａ５の下方には、ＧＵＩとしてのボタンＢ１〜Ｂ３が表示されている。
【００９７】
ここで、操作者が図１６で示される画面を確認したところ、観察したかった、例えば、血管が鮮明に見えないことに気付いた。領域Ａ５を確認すると、表示理由として「ステントが含まれていたのでステントを強調しました」と記載されている。操作者は、拒絶ボタンＢ１を選択し、領域Ａ５に記載されている表示理由を拒絶する旨の指示を診断支援装置１０へ送信する。診断支援装置１０の処理回路１１は、表示理由を拒絶する旨の指示を受信すると、アルゴリズム変更機能１１３を実行する。
【００９８】
アルゴリズム変更機能１１３を実行すると処理回路１１は、操作者から拒絶された表示理由を含まないように、学習済みモデルのアルゴリズムを変更する。具体的には、例えば、処理回路１１は、拒絶された表示理由を出力した学習済みモデルを用いた識別処理を実行しない。
【００９９】
学習済みモデルのアルゴリズムを変更すると処理回路１１は、再識別機能１１４を実行する。再識別機能１１４を実行すると処理回路１１は、医用画像データを、アルゴリズムを変更した学習済みモデルへ入力し、画像処理結果、及び表示理由を再度出力する。処理回路は、画像処理結果、及び表示理由を通信端末４０に表示させる。図１７は、通信端末４０で再度表示される画像の例を表す模式図である。図１７に示される例では、改めて画像処理が施された医用画像Ｉ１が表示され、改めて出力された表示理由が領域Ａ５に表示されている。より具体的には、図１７では、医用画像Ｉ１として欠陥強調画像が表示され、領域Ａ５には表示理由として「血管を強調しました」と記載されている。これにより、操作者により拒絶された表示理由以外の表示理由が表示されると共に、当該表示理由に基づく医用画像Ｉ１が表示されることになる。
【０１００】
以上説明した少なくとも一つの実施形態によれば、医師が納得し得る、より確からしい識別理由を、当該理由に基づく識別結果と共に出力することができる。また、ＡＩと共存し、医師の知見とＡＩの知見とが融合された信頼性の高い判断に結びつけることができるようになる。
【０１０１】
実施形態の説明において用いた「プロセッサ」という文言は、例えば、ＣＰＵ（central processing unit）、ＧＰＵ(Graphics Processing Unit)、或いは、特定用途向け集積回路（Application Specific Integrated Circuit：ＡＳＩＣ））、プログラマブル論理デバイス（例えば、単純プログラマブル論理デバイス（Simple Programmable Logic Device：ＳＰＬＤ）、複合プログラマブル論理デバイス（Complex Programmable Logic Device：ＣＰＬＤ）、及びフィールドプログラマブルゲートアレイ（Field Programmable Gate Array：ＦＰＧＡ））等の回路を意味する。プロセッサは記憶回路に保存されたプログラムを読み出し実行することで機能を実現する。なお、記憶回路にプログラムを保存する代わりに、プロセッサの回路内にプログラムを直接組み込むよう構成しても構わない。この場合、プロセッサは回路内に組み込まれたプログラムを読み出し実行することで機能を実現する。なお、上記各実施形態の各プロセッサは、プロセッサごとに単一の回路として構成される場合に限らず、複数の独立した回路を組み合わせて１つのプロセッサとして構成し、その機能を実現するようにしてもよい。さらに、上記各実施形態における複数の構成要素を１つのプロセッサへ統合してその機能を実現するようにしてもよい。
【０１０２】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
【符号の説明】
【０１０３】
１０…診断支援装置
１１…処理回路
１１１…情報取得機能
１１２…識別機能
１１３…アルゴリズム変更機能
１１４…再識別機能
１１５…表示制御機能
１１６…通信制御機能
１２…メモリ
１３…通信インタフェース
２０…電子カルテシステム
２１…サーバ装置
２２…通信端末
３０…医用画像管理システム
３１…サーバ装置
４０…通信端末
５０…学習データ保管装置
６０…モデル学習装置
【図１】
2020042346.tif 000003
【図２】
2020042346.tif 000004
【図３】
2020042346.tif 000005
【図４】
2020042346.tif 000006
【図５】
2020042346.tif 000007
【図６】
2020042346.tif 000008
【図７】
2020042346.tif 000009
【図８】
2020042346.tif 000010
【図９】
2020042346.tif 000011
【図１０】
2020042346.tif 000012
【図１１】
2020042346.tif 000013
【図１２】
2020042346.tif 000014
【図１３】
2020042346.tif 000015
【図１４】
2020042346.tif 000016
【図１５】
2020042346.tif 000017
【図１６】
2020042346.tif 000018
【図１７】
2020042346.tif 000019