(57)【要約】【課題】学習済みモデルを用いた判別結果の妥当性を検証する検証システム及び検証装置を提供すること。【解決手段】実施形態に係る検証システムは、記憶部と、取得部と、判定部とを備える。記憶部は、入力された情報に対する演算処理を行う１つ以上の中間層と、前記中間層の演算結果に基づいて判別結果を出力する出力層とを含む第１の学習済みモデルにおける、前記中間層が出力する演算結果に関する情報を記憶する。取得部は、前記第１の学習済みモデルの入力層に医用情報が入力されたことに応じて、前記中間層が出力する演算結果を取得する。判定部は、前記医用情報の入力に応じて、前記出力層が出力した判別結果の妥当性を、前記記憶部が記憶する前記演算結果に関する情報と前記取得部が取得した演算結果とに基づいて判定する。【選択図】図５
2020052627.tif 000002
【特許請求の範囲】
【請求項１】
入力された情報に対する演算処理を行う１つ以上の中間層と、前記中間層の演算結果に基づいて判別結果を出力する出力層とを含む第１の学習済みモデルにおける、前記中間層が出力する演算結果に関する情報を記憶する記憶部と、
前記第１の学習済みモデルの入力層に医用情報が入力されたことに応じて、前記中間層が出力する演算結果を取得する取得部と、
前記医用情報の入力に応じて、前記出力層が出力した判別結果の妥当性を、前記記憶部が記憶する前記演算結果に関する情報と前記取得部が取得した演算結果とに基づいて判定する判定部と
を備える検証システム。
【請求項２】
前記演算結果の妥当性の判定結果に関する情報を出力する出力部をさらに備える、請求項１に記載の検証システム。
【請求項３】
前記出力部は、前記演算結果の妥当性の判定結果に関する情報として、前記演算結果を出力した中間層を識別する情報及び前記演算結果が妥当であるか否かを示す情報のうち、少なくともいずれかを出力する、請求項２に記載の検証システム。
【請求項４】
前記取得部は、取得した前記演算結果を含む情報を、前記演算結果に関する情報として前記記憶部に格納する、請求項１に記載の検証システム。
【請求項５】
前記取得部は、取得した前記演算結果を統計処理した統計データを、前記演算結果に関する情報として前記記憶部に格納する、請求項４に記載の検証システム。
【請求項６】
前記取得部は、前記演算結果を、前記医用情報を用いて前記第１の学習済みモデルの学習が実行される時、及び前記第１の学習済みモデルを用いて前記医用情報が判定される時のうち少なくともいずれかにおいて取得する、請求項１乃至５のうちいずれか１つに記載の検証システム。
【請求項７】
前記判定部は、取得した前記演算結果と、前記記憶部が記憶する前記演算結果に関する情報との統計的な指標とを用いて、前記妥当性を判定する、請求項１乃至６のうちいずれか１つに記載の検証システム。
【請求項８】
前記判定部は、前記演算結果の入力を受け付けて妥当性を出力する第２の学習済みモデルに、取得した前記演算結果を入力することにより、前記妥当性を判定する、請求項１乃至６のうちいずれか１つに記載の検証システム。
【請求項９】
入力された情報に対する演算処理を行う１つ以上の中間層と、前記中間層の演算結果に基づいて判別結果を出力する出力層とを含む第１の学習済みモデルにおける、前記中間層が出力する演算結果に関する情報を記憶する記憶部と、
前記第１の学習済みモデルの入力層に医用情報が入力されたことに応じて、前記中間層が出力する演算結果を取得する取得部と、
前記医用情報の入力に応じて、前記出力層が出力した判別結果の妥当性を、前記記憶部が記憶する前記演算結果に関する情報と前記取得部が取得した演算結果とに基づいて判定する判定部と
を備える検証装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明の実施の形態は、検証システム及び検証装置に関する。
【背景技術】
【０００２】
機械学習を用いた画像処理技術が知られている。機械学習においては、例えば、多層のニューラルネットワークにより構成される学習済みモデルが用いられる。医療分野において、機械学習を用いた画像処理技術は、例えば画像による症例の診断を支援するＣＡＤ（Computer  Aided  Diagnosis）等に用いられる。ＣＡＤにおいて、例えば学習済みモデルには医用画像が入力され、判別された症例等が出力される。
【０００３】
しかし、当該技術においては、例えば症例としてレアケースの画像が入力された場合、判別の精度が低くなることがある。また、レアケースを診断する際、機械学習による画像の判別結果を用いて診断するよりも、画像以外の他系列のデータを用いて人間が総合的に診断する方が、判別精度が高いことが知られている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】米国公開公報２００９／０１５６９４７号明細書
【特許文献２】米国公開公報２００８／０１７１９１６号明細書
【特許文献３】米国公開公報２０１７／０１４３２４９号明細書
【発明の概要】
【発明が解決しようとする課題】
【０００５】
本発明が解決しようとする課題は、学習済みモデルを用いた判別結果の妥当性を検証することである。
【課題を解決するための手段】
【０００６】
実施形態の検証システムは、記憶部と、取得部と、判定部とを備える。記憶部は、入力された情報に対する演算処理を行う１つ以上の中間層と、前記中間層の演算結果に基づいて判別結果を出力する出力層とを含む第１の学習済みモデルにおける、前記中間層が出力する演算結果に関する情報を記憶する。取得部は、前記第１の学習済みモデルの入力層に医用情報が入力されたことに応じて、前記中間層が出力する演算結果を取得する。判定部は、前記医用情報の入力に応じて、前記出力層が出力した判別結果の妥当性を、前記記憶部が記憶する前記演算結果に関する情報と前記取得部が取得した演算結果とに基づいて判定する。
【図面の簡単な説明】
【０００７】
【図１】図１は、第１の実施形態に係る検証システムの構成の一例を示す図である。
【図２】図２は、第１の実施形態に係る検証システムの実装例を説明するための図である。
【図３】図３は、第１の実施形態に係る演算結果の分布の一例を示す図である。
【図４】図４は、第１の実施形態に係る活性化関数の一例を示す図である。
【図５】図５は、第１の実施形態に係る検証システムの機能ブロックの一例を示す図である。
【図６】図６は、第１の実施形態に係る学習処理の流れの一例を示す図である。
【図７】図７は、第１の実施形態に係る判別処理の流れの一例を示す図である。
【図８】図８は、第１の実施の形態に係る演算結果情報の一例を示す図である。
【図９】図９は、第１の実施形態に係る統計データの一例を示す図である。
【図１０】図１０は、第１の実施形態に係る検証結果情報の一例を示す図である。
【図１１】図１１は、第１の実施形態に係る検証処理の流れの一例を示す図である。
【図１２】図１２は、第１の実施形態に係る取得処理の一例を示すフローチャートである。
【図１３】図１３は、第１の実施形態に係る検証処理の一例を示すフローチャートである。
【図１４】図１４は、第１の実施形態に係る検証結果の一例を示す図である。
【図１５】図１５は、第２の実施形態に係る検証システムの機能ブロックの一例を示す図である。
【図１６】図１６は、第３の実施形態に係る演算結果の分布の一例を示す図である。
【発明を実施するための形態】
【０００８】
以下に図面を参照して、検証システム及び検証装置の実施形態について詳細に説明する。本実施形態に係る検証システムは、例えばＣＡＤ（Computer  Aided  Diagnosis）において、学習済みモデルに入力された医用情報の判別結果の妥当性を、学習済みモデルにおける中間的な演算結果を用いて検証する。本実施形態における学習済みモデルは、例えば、多層のニューラルネットワークにより構成することができる。なお、以下において、学習済みモデルの中間的な演算結果を、「中間演算結果」、又は単に「演算結果」と表記する場合がある。
【０００９】
例えば、本実施形態における学習済みモデルは、入力層において、Ｘ線画像データなどの医用情報の入力を受け付け、中間層に出力する。中間層は、入力されたデータに対して演算処理を行い、演算結果を出力層に出力する。出力層は、中間層から入力された演算結果を用いて、「肺がん」や「肺結節」などの複数の症例候補のそれぞれに対する確度を示す信頼度を算出し、信頼度に基づいて判別結果を出力する。なお、判別結果は、例えば各症例における信頼度として出力されてもよく、また単に症例だけが出力されてもよい。また、以下において、判別結果が妥当であるか否かを、「判別結果の妥当性」、又は単に「妥当性」と表記する場合がある。
【００１０】
例えば、学習済みモデルにレアケースが入力された場合、中間層における演算結果において特異な値が出力されることが多くなり、その結果として判別結果が妥当ではなくなる場合がある。例えば、「肺がん」に判別されるべき入力情報に対して、「肺がん」の信頼度よりも、「肺結節」の信頼度が大きくなるような判別結果が出力される場合がある。この場合、出力される判別結果は、「肺がん」であるのか「肺結節」であるのかを医師が診断する上での支援情報として有用ではない場合がある。なお、以下において「レアケース」は、希少な症例に限られず、症例としては希少ではなくとも、学習済みモデルにおいて学習済みの範囲外であるとみなされるパラメータを含む医用情報も含むものとする。
【００１１】
例えば、多層のニューラルネットワークにおいて、学習用データのうちどのパラメータが学習済みモデルに反映されたか、すなわち学習済みの範囲がどの程度であるかは明確には特定できない場合が多い。このため、学習済みモデルに入力された医用情報が、当該学習済みモデルにおけるレアケースに該当するか否かを判別することが難しい場合がある。そこで、本実施の形態においては、学習済みモデルにおける中間層が出力する演算結果を用いて、医用情報に対する判別結果の妥当性を検証する構成について説明する。
【００１２】
（第１の実施形態）
まず、第１の実施形態について説明する。第１の実施形態では、検証装置１０を含んだ検証システム１を一例として説明する。
【００１３】
図１は、第１の実施形態に係る検証システムの構成の一例を示す図である。図１に示すように、本実施形態に係る検証システム１は、検証装置１０と、医用画像診断装置２０と、画像保管装置２１と、学習装置３０と、端末４０とを備える。
【００１４】
図１に示すように、検証装置１０、医用画像診断装置２０、学習装置３０及び端末４０は、ネットワークＮＷを介して相互に通信可能に接続される。なお、図１においては、検証装置１０、医用画像診断装置２０、画像保管装置２１、学習装置３０及び端末４０をそれぞれ１台ずつ含む検証システム１を示しているが、各装置の台数は任意である。また、検証システム１は、病院会計システム（不図示）や電子カルテシステム（不図示）等の病院におけるその他のシステムに含まれる各サーバ装置（不図示）などと直接的、又は、間接的に、相互に通信可能に接続されていてもよい。
【００１５】
検証装置１０は、学習済みモデルに入力された医用情報の判別結果の妥当性を検証する。検証装置１０は、例えば、学習装置３０による判別処理において、学習済みモデルの中間層が出力する特徴量などの演算結果を用いて、医用情報の判別結果の妥当性を検証する。例えば、検証装置１０は、ワークステーション等のコンピュータ機器によって実現される。
【００１６】
医用画像診断装置２０は、被検体から医用情報を収集する装置である。なお、画像データとして処理される医用情報については、医用画像データとも記載する。例えば、医用画像診断装置２０は、被検体から医用画像データを収集し、収集した医用画像データを学習装置３０に送信する。図１において、医用画像診断装置２０の一例としてＸ線診断装置を示しているが、やＸ線ＣＴ（Computed  Tomography）装置、ＳＰＥＣＴ（Single  Photon  Emission  Computed  Tomography）装置、ＳＰＥＣＴ装置とＸ線ＣＴ装置とが一体化されたＳＰＥＣＴ−ＣＴ装置、超音波診断装置等の他の医用画像診断装置であってもよい。また、図１では、医用画像診断装置２０が１台としているが、本実施形態にかかる検証システム１は、医用画像診断装置２０を複数台備えてもよい。
【００１７】
画像保管装置２１は、ネットワークＮＷを介して他の医用画像診断装置２０が収集した医用画像データを記憶するデータベース（ＤＢ）等である。例えば、図１において、画像保管装置２１は、医用画像診断装置２０から医用画像データを取得し、取得した医用画像データを装置内又は装置外に設けられたメモリに記憶させる。また、画像保管装置２１は、医用画像データに対応する症例等の情報を含む正解データをさらに記憶してもよい。例えば、画像保管装置２１は、サーバ装置等のコンピュータ機器によって実現される。
【００１８】
学習装置３０は、ネットワークＮＷを介して医用画像診断装置２０等から医用画像データを取得し、取得した医用画像データを用いた種々の処理を実行する。例えば、学習装置３０は、ネットワークＮＷを介して、医用画像診断装置２０又は画像保管装置２１から医用画像データを取得する。学習装置３０は、取得した医用画像データを学習済みモデルに入力して判別処理を行い、該当する症例や当該症例に該当する信頼度等を出力する。また、学習装置３０は、学習済みモデルへの入力情報となる医用画像データと、例えば症例などの正解データとをデータの組として含む学習用データを用いて、学習済みモデルに対する学習を行う。例えば、学習装置３０は、ワークステーション等のコンピュータ機器によって実現される。
【００１９】
端末４０は、例えば病院の診察室等に設置され、医師等のユーザに対して、学習装置３０における判別結果を出力する。端末４０は、例えば図１に示すようなデスクトップコンピュータであるが、これに限られず、スマートフォンやタブレットのような携帯可能なコンピュータであってもよい。
【００２０】
なお、ネットワークＮＷを介して接続可能であれば、検証装置１０、医用画像診断装置２０及び学習装置３０が設置される場所は任意である。例えば、学習装置３０は、検証装置１０が設置される病院とは異なる病院に設置されてもよい。即ち、ネットワークＮＷは、院内で閉じたローカルネットワークにより構成されてもよいし、インターネットを介したネットワークでもよい。
【００２１】
次に、検証システム１における検証処理について、図２を用いて説明する。図２は、第１の実施形態に係る検証システムの実装例を説明するための図である。図２に示すように、学習装置３０は、例えば、医用画像診断装置２０から、Ｘ線画像データなどの医用画像データ９１の入力を受け付ける。学習装置３０は、多層のニューラルネットワークにより構成される学習済みモデルに、医用画像データ９１を入力する。本実施形態に係る多層のニューラルネットワークは、図２に示すように、入力層（ｌ＝１）、中間層（ｌ＝２，３，・・・，Ｌ−１の計（Ｌ−２）層）、出力層（ｌ＝Ｌ）のＬ個の層から構成されるものとする。
【００２２】
学習装置３０は、例えば入力信号ｘの各成分ｘp（ｐ＝１，２，・・・，Ｎ）として、医用画像データ９１を構成する画素の画素値を用いる。入力層に続く中間層（ｌ＝２，３，・・・，Ｌ−１）層においては、入力された信号に対する演算処理を順次実行することで、（Ｌ−２）個の中間層それぞれの出力ｚを計算することができる。また、各中間層は、それぞれ複数のフィルタを有する。出力層Ｌは、各層の出力ｚに対する演算処理を実行することで、出力ｙｎ（ｎ＝１，２，・・・，Ｍ）を計算することができる。出力ｙｎは、例えば各症例に対する信頼度を示す。すなわち、図２に示す例において、出力ｙｎは、Ｍ個の症例それぞれに対する信頼度を出力する。なお、各層における演算処理については例えば公知のニューラルネットワークにおける技術を用いることができるため、詳細な説明は省略する。
【００２３】
学習装置３０は、出力層Ｌにおける出力ｙｎに基づく判別結果に関する情報を、端末４０に出力する。端末４０は、例えば図２に示すように、学習装置３０から出力された判別結果に関する情報を出力する。図２に示す一例では、肺結節である確度が６０％であり、肺がんである確度が３０％であるとする判別結果を出力している。なお、図２においては、端末４０が、判別結果に関する情報として、各症例の信頼度を表示する例を示したが、これに限られず、端末４０は、単に最も信頼度が高い症例だけを示す等の他の情報を表示してもよい。例えば、端末４０は、「肺結節の可能性があります」と表示してもよい。また、例えば、端末４０は、医用画像データ９１において、６０％の確度で肺結節が疑われる領域を表示してもよい。
【００２４】
本実施形態において、検証装置１０は、学習装置３０の学習済みモデルの中間層における演算結果９２ａ、９２ｂ等を取得して妥当性を検証する。本実施形態において、検証装置１０は、多層のニューラルネットワークにより構成される学習済みモデルの中間層のうち、例えばプーリング層における演算結果を取得するが、これに限られず、畳み込み層、ＲｅＬＵ（Rectified  Liner  Unit）層等の各層における演算結果を取得してもよい。
【００２５】
本実施形態において、検証装置１０は、例えば学習装置３０における学習時、及び判別処理の際に、中間層において出力される演算結果を逐次取得し、格納していく。また、検証装置１０は、例えば新たに取得した演算結果を、記憶されている演算結果と比較することにより、新たに取得した演算結果がレアケースに基づくものであるか否かを判定する。
【００２６】
入力画像がレアケースであるか否かの判定基準について、図３を用いて説明する。図３は、第１の実施形態に係る演算結果の分布の一例を示す図である。図３において、横軸は演算結果の値を示し、縦軸は当該値に該当する演算結果の出現頻度を示す。例えば、図３に示すように、演算結果の出現頻度が正規分布を取る場合、平均値μから±３σ（以下、標準偏差を「σ」と表記する場合がある）の範囲内にある演算結果９７ａは、レアケースに基づくものではないと判定される。一方、平均値μから±３σの範囲を逸脱する演算結果９７ｂ及び９７ｃは、レアケースに基づくものであると判定される。なお、レアケースに基づく演算結果であるか否かの判定基準は一例であり、その他の基準に基づいて決定してもよい。また、演算結果の出現頻度が正規分布を取らない場合において、同様に平均値μからの距離に基づいて、レアケースに基づく演算結果であるか否かが判定されてもよい。
【００２７】
レアケースに基づく演算結果は、活性化関数によりその特徴が出力層まで伝播されない場合が多い。図４は、第１の実施形態に係る活性化関数の一例を示す図である。図４は、多層のニューラルネットワークにより構成される学習済みモデルの中間層において用いられることが多い、ＲｅＬＵ関数のグラフの一例を示す。例えば、レアケースに基づく演算結果が、演算結果の平均値μよりも−３σ以上逸脱する場合であっても、図４に示すようなＲｅＬＵ関数に入力されると、出力は０となる。従って、入力層にレアケースが入力された場合の特徴は、出力層における判別結果に反映されない場合が多いので、判別結果に基づいて、入力情報がレアケースであるか否かを判定することは難しい。そこで、本実施形態においては、中間層における演算結果を用いて、入力情報がレアケースであるか否かを判定する構成について説明する。
【００２８】
図５は、第１の実施形態に係る検証システムの機能ブロックの一例を示す図である。図５に示すように、学習装置３０は、通信Ｉ／Ｆ（Interface）３１と、入力Ｉ／Ｆ３２と、ディスプレイ３３と、記憶回路３４と、処理回路３５とを有する。
【００２９】
通信Ｉ／Ｆ３１は、処理回路３５に接続され、ネットワークＮＷを介して接続された検証装置１０、医用画像診断装置２０及び画像保管装置２１等との間で行われる各種データの伝送及び通信を制御する。例えば、通信Ｉ／Ｆ３１は、ネットワークカードやネットワークアダプタ、ＮＩＣ（Network  Interface  Controller）等によって実現される。
【００３０】
入力Ｉ／Ｆ３２は、処理回路３５に接続され、管理者から受け付けた入力操作を電気信号に変換して処理回路３５に出力する。例えば、入力Ｉ／Ｆ３２は、スイッチボタン、マウス、キーボード、タッチパネル等である。
【００３１】
ディスプレイ３３は、処理回路３５に接続され、処理回路３５から出力される各種情報及び各種画像データを表示する。例えば、ディスプレイ３３は、液晶モニタやＣＲＴ（Cathode  Ray  Tube）モニタ、タッチパネル等によって実現される。
【００３２】
記憶回路３４は、処理回路３５に接続され、各種データを記憶する。例えば、記憶回路３４は、ＲＡＭ（Random  Access  Memory）、フラッシュメモリ等の半導体メモリ素子や、ハードディスク、光ディスク等によって実現される。本実施形態では、記憶回路３４は、学習装置３０に含まれる回路がその機能を実現するためのプログラムを記憶する。また、例えば、記憶回路３４は、図５に示すように、学習済みモデル３４１を記憶する。なお、記憶回路３４は、学習装置３０とネットワークＮＷを介して接続されたサーバ群（クラウド）により実現されることとしてもよい。
【００３３】
学習済みモデル３４１は、処理回路３５により実行される、入力される医用画像データに基づいて症例を判別する判別処理に組み込まれる学習済みモデルである。学習済みモデル３４１は、例えば図２に示すように、入力層（ｌ＝１）、中間層（ｌ＝２，３，・・・，Ｌ−１）、出力層（ｌ＝Ｌ）のＬ個の層から構成される多層のニューラルネットワークにより構成される。学習済みモデル３４１は、後に説明するモデル生成機能３５２により生成される。
【００３４】
図５に戻って、処理回路３５は、制御機能３５１と、モデル生成機能３５２と、判別機能３５３と、出力機能３５４とを実行する。ここで、例えば、図５に示す処理回路３５の構成要素である制御機能３５１、モデル生成機能３５２、判別機能３５３及び出力機能３５４の各処理機能は、コンピュータによって実行可能なプログラムの形態で記憶回路３４に記録されている。処理回路３５は、各プログラムを記憶回路３４から読み出し、読み出した各プログラムを実行することで各プログラムに対応する機能を実現するプロセッサである。換言すると、各プログラムを読み出した状態の処理回路３５は、図５の処理回路３５内に示された各機能を有することとなる。
【００３５】
なお、制御機能３５１、モデル生成機能３５２、判別機能３５３及び出力機能３５４の全ての処理機能がコンピュータによって実行可能な１つのプログラムの形態で、記憶回路３４に記録されていてもよい。例えば、このようなプログラムは、学習プログラムとも称される。この場合、処理回路３５は、学習プログラムを記憶回路３４から読み出し、読み出した学習プログラムを実行することで学習プログラムに対応する制御機能３５１、モデル生成機能３５２、判別機能３５３及び出力機能３５４を実現する。
【００３６】
処理回路３５における制御機能３５１は、学習装置３０に対する操作や、他装置との通信に関する各種処理、他装置からのデータ取得に関する各種処理を制御する。例えば、制御機能３５１は、学習モデル生成処理の開始のトリガに応じて、医用画像データと正解データとの組を含む学習用データを、例えば画像保管装置２１から取得し、モデル生成機能３５２に出力する。また、例えば、制御機能３５１は、判別処理の開始のトリガに応じて、医用画像データを、例えば画像保管装置２１から取得し、判別機能３５３に出力する。なお、学習処理及び判別処理の開始のトリガは、例えば入力Ｉ／Ｆ３２を介して学習装置３０の管理者から操作を受け付けてもよく、通信Ｉ／Ｆ３１を介して、端末等から受信してもよい。
【００３７】
モデル生成機能３５２は、学習済みモデル３４１の生成に関する処理を実行する。例えば、モデル生成機能３５２は、まず、制御機能３５１から学習用データの入力を受け付けると、学習用データに基づいて、学習用データに含まれる医用画像データから、症例などの正解データを判別するように、モデルを学習させる。図６は、第１の実施形態に係る学習処理の流れの一例を示す図である。
【００３８】
図６に示すように、例えば、モデル生成機能３５２は、学習用データに含まれる医用画像データを入力側データ、学習用データに含まれる正解データを出力側データとしてモデルのパラメータを調整することにより、症例などを判別する関数を近似した学習済みモデルを生成する。生成する学習済みモデルがニューラルネットワークによる学習済みモデルである場合、調整するパラメータは、例えば、重みとバイアスとのうち少なくとも一方である。そして、モデル生成機能３５２は、生成した学習済みモデル３４１を記憶回路３４に格納する。また、学習済みモデル３４１は、中間層における演算結果を出力する。なお、モデル生成機能３５２は、新たな学習用データを取得した場合に、学習済みモデル３４１に対して、判別精度を高めるために再学習処理を行ってもよい。
【００３９】
なお、モデル生成機能３５２は、学習用データに含まれる医用画像データを入力側データとして用いてもよいし、医用画像データに基づくデータを入力側データとして用いてもよい。例えば、モデル生成機能３５２は、図６に示すように、医用画像データに対する前処理（例えば、空間フィルタやコンボリューションフィルタを用いた画像処理等）を実行し、前処理後の画像データである入力用データを入力側データとしてもよい。
【００４０】
なお、画像処理フィルタの種類としては、例えば、移動平均（平滑化）フィルタ、ガウシアンフィルタ、メディアンフィルタ、リカーシブフィルタ、バンドパスフィルタ等が挙げられる。また、画像処理フィルタのパラメータとしては、例えば、各フィルタの強度、移動平均（平滑化）フィルタ、ガウシアンフィルタ及びメディアンフィルタの縦方向及び横方向のサイズ、リカーシブフィルタにおいて使用するフレーム数及び各フレームに対する重み、バンドパスフィルタにおける周波数の設定等が挙げられる。
【００４１】
判別機能３５３は、学習済みモデル３４１に基づいて、入力される医用画像データに対する判別処理を実行する。具体的には、判別機能３５３は、例えば、前処理後の医用画像データを学習済みモデル３４１に入力することにより、症例を判別する判別処理を実行する。そして、判別機能３５３は、学習済みモデル３４１から出力された判別結果を、出力機能３５４に出力する。図７は、第１の実施形態に係る判別処理の流れの一例を示す図である。
【００４２】
一例を挙げると、判別機能３５３は、まず、記憶回路３４から学習済みモデル３４１を読み出す。次に、判別機能３５３は、図７に示すように、医用画像データを学習済みモデル３４１に入力し、症例を判別する判別処理を実行する。学習済みモデル３４１は、入力された前処理後の医用画像データに基づいて、判別結果を出力する。また、学習済みモデル３４１は、中間層における演算結果を出力する。なお、判別機能３５３は、図７に示すように、学習処理と同様に、医用画像データに対する前処理を実行し、前処理後の画像データを入力側データとしてもよい。
【００４３】
出力機能３５４は、判別機能３５３による判別結果を出力する。具体的には、出力機能３５４は、学習済みモデル３４１から出力される判別結果を、通信Ｉ／Ｆ３１を介して、図１に示す端末４０に出力する。
【００４４】
次に、検証装置１０は、図５に示すように、通信Ｉ／Ｆ１１と、入力Ｉ／Ｆ１２と、ディスプレイ１３と、記憶回路１４と、処理回路１５とを有する。
【００４５】
通信Ｉ／Ｆ１１は、処理回路１５に接続され、ネットワークＮＷを介して接続された学習装置３０等との間で行われる各種データの伝送及び通信を制御する。例えば、通信Ｉ／Ｆ１１は、ネットワークカードやネットワークアダプタ等によって実現される。
【００４６】
入力Ｉ／Ｆ１２は、処理回路１５に接続され、検証装置１０の管理者（不図示）から受け付けた入力操作を電気信号に変換して処理回路１５に出力する。入力Ｉ／Ｆ１２は、例えば管理者によるモードの選択などの入力操作を受け付ける。例えば、入力Ｉ／Ｆ１２は、スイッチボタン、マウス、キーボード、タッチパネル等である。
【００４７】
ディスプレイ１３は、処理回路１５に接続され、処理回路１５から出力される各種情報などを表示する。ディスプレイ１３は、例えば、ディスプレイ１３は、液晶モニタやＣＲＴモニタ、タッチパネル等によって実現される。
【００４８】
記憶回路１４は、処理回路１５に接続され、各種データを記憶する。例えば、記憶回路１４は、ＲＡＭ、フラッシュメモリ等の半導体メモリ素子や、ハードディスク、光ディスク等によって実現される。本実施形態では、記憶回路１４は、検証装置１０に含まれる回路がその機能を実現するためのプログラムを記憶する。また、例えば、記憶回路１４は、図５に示すように、演算結果情報１４１と、統計データ１４２と、検証結果情報１４３とを記憶する。なお、記憶回路１４は、検証装置１０とネットワークＮＷを介して接続されたサーバ群（クラウド）により実現されることとしてもよい。
【００４９】
演算結果情報１４１は、学習装置３０における学習処理又は判別処理において、学習済みモデル３４１の中間層から出力される演算結果を記憶する。例えば、演算結果情報１４１は、図６に示す学習処理で出力された演算結果や、図７に示す判別処理で出力された演算結果を記憶する。演算結果情報１４１は、例えば後に説明する制御機能１５１により格納される。なお、演算結果情報１４１は、記憶部が記憶する情報の一例である。
【００５０】
図８は、第１の実施の形態に係る演算結果情報の一例を示す図である。例えば、演算結果情報１４１は、図８に示すように、学習済みモデル３４１の中間層の各層に含まれるフィルタごとに一つのテーブルを保持する。図８に示す演算結果情報１４１は、例えば「１」番目の中間層の「２」番目のフィルタから出力される演算結果を記憶する。
【００５１】
例えば、演算結果情報１４１は、図８に示すように、「取得日時」と、「画像ＩＤ」と、「処理区分」と、「演算結果」とを対応付けた情報である。「取得日時」は、当該演算結果が取得された日時を示す。「画像ＩＤ」は、当該演算結果が出力される際に入力された医用画像データを一意に識別する識別子（IDentifier）を示す。「処理区分」は、当該演算結果が、「学習時」に出力されたものか、又は「判別時」に出力されたものかを示す。「演算結果」は、中間層の当該層の当該フィルタから出力された演算結果を示す。演算結果情報１４１に蓄積される演算結果は、例えば後に説明する統計データの生成に用いられる。図８では、例えば、「画像ＩＤ：ＸＸＸ１」を用いた「学習時」において、「2018年6月2日  15：20」に、「１」番目の中間層の「２」番目のフィルタから出力された演算結果が「0.604」であることが記憶されている。また、図８では、例えば、「画像ＩＤ：ＸＸＹ１」に対する「判別時」において、「2018年6月30日  10：00」に、「１」番目の中間層の「２」番目のフィルタから出力された演算結果が「0.317」であることが記憶されている。
【００５２】
なお、図８に示す項目は一例であり、演算結果情報１４１は、これ以外に「判別結果」などのその他の情報をさらに記憶してもよく、また図８に示す項目の一部を記憶しないような構成であってもよい。また、演算結果情報１４１は、一つの層の全てのフィルタにおいて取得された演算結果ごとに一つのテーブルを保持してもよく、全ての演算結果を一つのテーブルで保持してもよい。以下に説明する各テーブルについても同様である。
【００５３】
統計データ１４２は、演算結果情報１４１に記憶される演算結果を統計処理して算出される、演算結果の平均値μ、標準偏差σ等の統計データを記憶する。統計データ１４２は、例えば制御機能１５１により格納される。なお、統計データ１４２は、記憶部が記憶する情報の一例である。
【００５４】
図９は、第１の実施形態に係る統計データの一例を示す図である。例えば、統計データ１４２は、図９に示すように、「中間層Ｎｏ．」及び「フィルタＮｏ．」と、「レコード数」と、「平均値」と、「−３σ」及び「＋３σ」とを対応付けた情報である。ここで、図９における「中間層Ｎｏ．」及び「フィルタＮｏ．」は、演算結果が出力される層及びフィルタを一意に識別する情報を示す。「レコード数」は、当該層の当該フィルタから出力され、演算結果情報１４１に記憶された演算結果の件数を示す。「平均値」は、当該演算結果の平均値μを示す。「−３σ」及び「＋３σ」は、当該演算結果の平均値からそれぞれプラスマイナス３σ離れた値を示す。
【００５５】
図９において、「平均値」、「−３σ」及び「＋３σ」は、例えば、取得された演算結果がレアケースに基づくものであるか否かを判定するための閾値として用いられる。例えば、演算結果が平均値μから「−３σ」又は「＋３σ」を逸脱している場合、後に説明する検証機能１５２において、演算結果はレアケースに基づくものであると判定される。図９において、例えば「１」番目の中間層の「１」番目のフィルタから出力された演算結果が「0.431」よりも小さい場合、又は「0.674」よりも大きい場合、当該演算結果はレアケースによるものであると判定される。同様に、図９において、例えば「１」番目の中間層の「２」番目のフィルタから出力された演算結果が「-0.932」よりも小さい場合、又は「0.450」よりも大きい場合、当該演算結果はレアケースによるものであると判定される。
【００５６】
検証結果情報１４３は、統計データ１４２を用いた演算結果の検証結果を記憶する。検証結果情報１４３は、例えば検証機能１５２により格納される。
【００５７】
図１０は、第１の実施形態に係る検証結果情報の一例を示す図である。例えば、検証結果情報１４３は、図１０に示すように、「画像ＩＤ」と、「中間層Ｎｏ．」及び「フィルタＮｏ．」と、「検証結果」とを対応付けた情報である。ここで、図１０における「画像ＩＤ」は、当該演算結果が出力される際に入力された医用画像データを一意に識別する識別子を示す。「中間層Ｎｏ．」及び「フィルタＮｏ．」は、演算結果が出力される層及びフィルタを一意に識別する情報を示す。「検証結果」は、当該層の当該フィルタから出力された演算結果の検証結果を示す。
【００５８】
例えば、図１０に示すテーブルは、画像ＩＤ「ＸＸＸ１」の医用画像データが入力された場合における、「１」番目の中間層の各フィルタから出力された演算結果についての検証結果を示す。図１０において、「１」番目のフィルタから出力された演算結果は、当該フィルタから出力された演算結果の平均値μから「−３σ」を超えて乖離していることを示す。同様に、図１０に示すテーブルは、「２」番目のフィルタから出力された演算結果は平均値μから「−３σ」から「３σ」までの範囲内であること、「３」番目のフィルタから出力された演算結果は平均値μから「３σ」を超えて乖離していることを示す。さらに、図１０に示すテーブルは、画像ＩＤ「ＸＸＹ１」の医用画像データが入力された場合における、「３」番目の中間層の「２」番目のフィルタから出力された演算結果は、平均値μから「３σ」を超えて乖離していることも示す。
【００５９】
図５に戻って、処理回路１５は、制御機能１５１と、検証機能１５２と、出力機能１５３とを実行する。ここで、制御機能１５１は、取得部の一例である。検証機能１５２は、判定部の一例である。また、出力機能１５３は、出力部の一例である。ここで、例えば、図５に示す処理回路１５の構成要素である制御機能１５１、検証機能１５２及び出力機能１５３の各処理機能は、コンピュータによって実行可能なプログラムの形態で記憶回路１４に記録されている。処理回路１５は、各プログラムを記憶回路１４から読み出し、読み出した各プログラムを実行することで各プログラムに対応する機能を実現するプロセッサである。換言すると、各プログラムを読み出した状態の処理回路１５は、図５の処理回路１５内に示された各機能を有することとなる。
【００６０】
なお、制御機能１５１、検証機能１５２及び出力機能１５３の全ての処理機能がコンピュータによって実行可能な１つのプログラムの形態で、記憶回路１４に記録されていてもよい。例えば、このようなプログラムは、検証プログラムとも称される。この場合、処理回路１５は、検証プログラムを記憶回路１４から読み出し、読み出した検証プログラムを実行することで検証プログラムに対応する制御機能１５１、検証機能１５２及び出力機能１５３を実現する。
【００６１】
処理回路１５における制御機能１５１は、検証装置１０に対する操作や、他装置との通信に関する各種処理、他装置からのデータ取得に関する各種処理を制御する。例えば、制御機能１５１は、検証処理の開始のトリガに応じて、演算結果を、例えば学習装置３０から取得し、検証機能１５２に出力する。また、制御機能１５１は、取得した演算結果に対する統計処理を行い、統計データ１４２に格納する。なお、検証処理の開始のトリガは、例えば制御機能１５１が学習装置３０における学習処理の開始又は判別処理の開始を検出した際に実行される。また、検証処理の開始のトリガは、例えば入力Ｉ／Ｆ１２を介して検証装置１０の管理者から操作を受け付けてもよく、通信Ｉ／Ｆ１１を介して、端末等から受信してもよい。
【００６２】
検証機能１５２は、演算結果がレアケースに基づくものであるか否かを判定する。例えば、検証機能１５２は、まず、制御機能１５１から演算結果の出力を受けると、統計データ１４２を参照し、演算結果が、図９に示すような「−３σ」から「＋３σ」までの範囲に収まるか否かを判定する。図１１は、第１の実施形態に係る検証処理の流れの一例を示す図である。検証機能１５２は、例えば、図１１に示すように、制御機能１５１から出力を受けた中間演算結果と、統計データ１４２とを比較した結果を、判定結果として図１０に示すような検証結果情報１４３に格納する。
【００６３】
出力機能１５３は、検証機能１５２による検証結果を出力する。例えば、出力機能１５３は、検証結果情報１４３に記憶された情報のうち、条件に合致する情報を抽出する。例えば、出力機能１５３は、図１０に示すような検証結果のうち、状態が「−３σ未満」である「１」番目の中間層の「１」番目のフィルタに関する情報を抽出する。同様に、出力機能１５３は、図１０に示すような検証結果のうち、状態が「＋３σ」を超過する「１」番目の中間層の「３」番目のフィルタに関する情報及び「３」番目の中間層の「２」番目のフィルタに関する情報を抽出する。
【００６４】
また、出力機能１５３は、例えば、レアケースに基づくものであると判定された演算結果を出力したフィルタの数を計数する。また、出力機能１５３は、例えば、当該フィルタの数に基づき、入力された医用情報がレアケースであるか否かを検証する。
【００６５】
そして、出力機能１５３は、例えば端末４０に、レアケースに基づくものであると判定された演算結果を出力したフィルタの数、及び入力された医用情報がレアケースであるか否かを検証した結果に関する情報を出力する。出力機能１５３は、例えば、レアケースに基づくものであると判定された演算結果を出力したフィルタの数が、学習済みモデル３４１の中間層に含まれる全てのフィルタの数に占める割合が「８０％以上」である場合に、入力された医用情報がレアケースであると判定する。出力する情報については、後に図１４を用いて説明する。
【００６６】
次に、第１の実施形態に係る検証システム１による処理の手順について、図１２及び図１３を用いて説明する。図１２は、第１の実施形態に係る取得処理の一例を示すフローチャートである。ここで、図１２におけるステップＳ１０１からＳ１２０までの各処理は、例えば、処理回路１５が制御機能１５１に対応するプログラムを記憶回路１４から読み出して実行することにより実現される。
【００６７】
例えば、図１２に示すように、本実施形態に係る検証システム１では、まず、処理回路１５は、中間層の演算結果を、ネットワークＮＷを通じて、学習装置３０から取得する（ステップＳ１０１）。次に、処理回路１５は、取得した演算結果を、演算結果情報１４１に格納する（ステップＳ１０２）。
【００６８】
続いて、処理回路１５は、演算結果情報１４１に記憶された演算結果に対する統計処理を行い（Ｓ１０３）、統計データ１４２に格納する（Ｓ１０４）。
【００６９】
次に、処理回路１５は、全てのフィルタに対する処理を完了したか否かを判定する（ステップＳ１１０）。処理回路１５は、全てのフィルタに対する処理を完了していないと判定した場合（ステップＳ１１０否定）、ステップＳ１０１に移行し、処理を繰り返す。
【００７０】
一方、処理回路１５は、全てのフィルタに対する処理を完了したと判定した場合（ステップＳ１１０肯定）、全ての層に対する処理を完了したか否かを判定する（ステップＳ１２０）。処理回路１５は、全ての層に対する処理を完了していないと判定した場合（ステップＳ１２０否定）、ステップＳ１０１に移行し、処理を繰り返す。一方、処理回路１５は、全ての層に対する処理を完了したと判定した場合（ステップＳ１２０肯定）、処理を終了する。
【００７１】
次に、新たに取得した演算結果に対する検証処理について説明する。図１３は、第１の実施形態に係る検証処理の一例を示すフローチャートである。ここで、図１３におけるステップＳ２０１、Ｓ２２０及びＳ２３０は、例えば、処理回路１５が制御機能１５１に対応するプログラムを記憶回路１４から読み出して実行することにより実現される。また、ステップＳ２０２、Ｓ２１０及びＳ２１１は、例えば、処理回路１５が検証機能１５２に対応するプログラムを記憶回路１４から読み出して実行することにより実現される。また、ステップＳ２３１は、例えば、処理回路１５が出力機能１５３に対応するプログラムを記憶回路１４から読み出して実行することにより実現される。
【００７２】
例えば、図１３に示すように、本実施形態に係る検証システム１では、まず、処理回路１５は、中間層の演算結果を、ネットワークＮＷを通じて、学習装置３０から取得する（ステップＳ２０１）。
【００７３】
続いて、処理回路２５は、取得した演算結果を、統計データ１４２と比較し（Ｓ２０２）、レアケースと判定されるための条件を満たすか、例えば判定結果が閾値以上であるか否かを判定する（ステップＳ２１０）。処理回路１５は、判定結果が閾値以上ではないと判定した場合（ステップＳ２１０否定）、ステップＳ２２０に移行する。
【００７４】
一方、処理回路２５は、判定結果が閾値以上であると判定した場合（ステップＳ２１０肯定）、判定結果として、例えば、当該演算結果に対応する中間層の層及びフィルタに関する情報を検証結果情報１４３に格納する（ステップＳ２１１）。その後、ステップＳ２２０に移行する。
【００７５】
次に、処理回路１５は、全てのフィルタに対する処理を完了したか否かを判定する（ステップＳ２２０）。処理回路１５は、全てのフィルタに対する処理を完了していないと判定した場合（ステップＳ２２０否定）、ステップＳ２０１に移行し、処理を繰り返す。
【００７６】
一方、処理回路１５は、全てのフィルタに対する処理を完了したと判定した場合（ステップＳ２２０肯定）、全ての層に対する処理を完了したか否かを判定する（ステップＳ２３０）。処理回路１５は、全ての層に対する処理を完了していないと判定した場合（ステップＳ２３０否定）、ステップＳ２０１に移行し、処理を繰り返す。
【００７７】
一方、処理回路１５は、全ての層に対する処理を完了したと判定した場合（ステップＳ２３０肯定）、検証結果情報１４３に記憶された情報を用いて、検証結果を生成し、検証結果を端末４０等に出力して（ステップＳ２３１）、処理を終了する。
【００７８】
ステップＳ２３１における検証結果について、図１４を用いて説明する。図１４は、第１の実施形態に係る検証結果の一例を示す図である。図１４に示すように、出力機能１５３から端末４０に出力される「検証結果」は、例えば、図１４に示すように、レアケースに基づくものであると判定された演算結果を出力したフィルタの数が「１００件」のうち「８３件」であることを示す情報を含む。さらに、「検証結果」は、例えば、図１４に示すように、入力された医用情報がレアケースであると判定した結果を含む。
【００７９】
なお、検証結果に含まれる情報はこれらに限られず、例えば、出力機能１５３は、演算結果に対応する医用画像データを識別する画像ＩＤを出力してもよい。また、出力機能１５３は、例えば、図１４に示すように、図２に示すような演算結果に対応する学習装置３０における「判別結果」を合わせて出力してもよい。また、例えば、出力機能１５３は、レアケースに基づくものであると判定された演算結果を出力したフィルタが、何番目の中間層の何番目のフィルタであるかを示す情報をさらに出力してもよい。
【００８０】
上述したように、第１の実施形態に係る検証システム１は、記憶部と、取得部と、判定部とを備える。記憶部は、入力された情報に対する演算処理を行う１つ以上の中間層と、前記中間層の演算結果に基づいて判別結果を出力する出力層とを含む第１の学習済みモデルにおける、前記中間層が出力する演算結果に関する情報を記憶する。取得部は、前記第１の学習済みモデルの入力層に医用情報が入力されたことに応じて、前記中間層が出力する演算結果を取得する。判定部は、前記医用情報の入力に応じて、前記出力層が出力した判別結果の妥当性を、前記記憶部が記憶する前記演算結果に関する情報と前記取得部が取得した演算結果とに基づいて判定する。これにより、学習済みモデルを用いた判別結果の妥当性を検証することができる。
【００８１】
（第２の実施形態）
上述した第１の実施形態では、検証機能１５２が、統計データ１４２を用いて演算結果を検証する構成について説明した。これに対し、第２の実施形態では、検証機能が、学習済みモデルを用いて演算結果を検証する場合について説明する。
【００８２】
第２の実施形態に係る検証装置１０ａは、図５に示した第１の実施形態に係る検証装置１０と同様の構成を有し、処理回路１５が、検証機能１５２の代わりに検証機能１５２ａを有する点で相異する。そこで、第１の実施形態において説明した構成と同様の構成を有する点については、図５と同一の符号を付し、説明を省略する。
【００８３】
以下、図１５を用いて、第２の実施形態に係る検証システム１ａについて説明する。図１５は、第２の実施形態に係る検証システムの機能ブロックの一例を示す図である。図１５に示すように、検証システム１ａは、検証装置１０ａと、医用画像診断装置２０と、画像保管装置２１と、学習装置３０と、端末４０とを備える。検証装置１０ａは、通信Ｉ／Ｆ１１と、入力Ｉ／Ｆ１２と、ディスプレイ１３と、記憶回路１４ａと、処理回路１５ａとを有する。
【００８４】
例えば、記憶回路１４は、図１５に示すように、演算結果情報１４１と、統計データ１４２と、検証結果情報１４３とに加えて、学習済みモデル１４４をさらに記憶する。学習済みモデル１４４は、処理回路１５ａにより実行される、入力される演算結果に基づいて、演算結果の妥当性を出力する判別処理に組み込まれる学習済みモデルである。学習済みモデル１４４は、例えば図２に示す学習済みモデル３４１と同様に、入力層、複数の中間層及び出力層から構成される多層のニューラルネットワークにより構成される。学習済みモデル３４１は、例えば後に説明するモデル生成機能１５４により生成される。
【００８５】
また、処理回路１５ａは、制御機能１５１と、検証機能１５２ａと、出力機能１５３と、モデル生成機能１５４とを実行する。検証機能１５２ａは、学習済みモデル１４４に基づいて、入力される演算結果に対する判別処理を実行する。具体的には、検証機能１５２ａは、演算結果を学習済みモデル１４４に入力することにより、演算結果の妥当性を判別する判別処理を実行する。そして、検証機能１５２ａは、学習済みモデル１４４から出力された判別結果を、出力機能１５３に出力する。
【００８６】
モデル生成機能１５４は、学習済みモデル１４４の生成に関する処理を実行する。例えば、モデル生成機能１５４は、まず、制御機能１５１から、入力データである演算結果と、正解データである妥当性を示す情報との組を含む学習用データの入力を受け付ける。モデル生成機能１５４は、学習用データに基づいて、学習用データに含まれる演算結果から、妥当性などの正解データを判別するように、モデルを学習させる。
【００８７】
以上、第２の実施形態に係る検証装置１０ａの構成の一例について説明した。かかる構成の下、検証装置１０ａは、学習済みモデルを用いた判別結果の妥当性を、学習済みモデルに基づいて判別することができる。
【００８８】
（第３の実施形態）
上述した第１の実施形態では、統計データとして、演算結果の平均値μと標準偏差σとを用いる構成について説明した。これに対し、第３の実施形態では、統計データとして、第１の演算結果と第２の演算結果との関係を用いる場合について説明する。図１６は、第３の実施形態に係る演算結果の分布の一例を示す図である。
【００８９】
図１６は、第１の値である演算結果１と、第２の値である演算結果２との相関分布を示す。図１６に示すように、演算結果１と演算結果２との組の多くは、範囲９８に沿って分布する。この場合において、範囲９８に含まれる演算結果１と演算結果２との組９９ａは、レアケースに基づく演算結果であるとは判定されない。一方、範囲９８を逸脱する演算結果１と演算結果２との組９９ｂ及び９９ｃについては、レアケースに基づく演算結果であるとは判定される。
【００９０】
以上、第３の実施形態に係る構成において、検証装置は、学習済みモデルを用いた判別結果の妥当性を、複数の演算結果の関係に基づいて判別することができる。なお、図１６においては、２つの演算結果の関係に基づいてレアケースであるか否かを判定する構成について説明したが、これに限られず、３つ以上の演算結果の関係に基づいて判定するような構成であってもよい。
【００９１】
上述した各実施形態の説明で用いた「プロセッサ」という文言は、例えば、ＣＰＵ（Central  Processing  Unit）、ＧＰＵ（Graphics  Processing  Unit）、或いは、特定用途向け集積回路（Application  Specific  Integrated  Circuit：ＡＳＩＣ）、プログラマブル論理デバイス（例えば、単純プログラマブル論理デバイス（Simple  Programmable  Logic  Device：ＳＰＬＤ）、複合プログラマブル論理デバイス（Complex  Programmable  Logic  Device：ＣＰＬＤ）、及びフィールドプログラマブルゲートアレイ（Field  Programmable  Gate  Array：ＦＰＧＡ））等の回路を意味する。ここで、メモリにプログラムを保存する代わりに、プロセッサの回路内にプログラムを直接組み込むように構成しても構わない。この場合には、プロセッサは回路内に組み込まれたプログラムを読み出し実行することで機能を実現する。また、本実施形態の各プロセッサは、プロセッサごとに単一の回路として構成される場合に限らず、複数の独立した回路を組み合わせて一つのプロセッサとして構成され、その機能を実現するようにしてもよい。
【００９２】
ここで、プロセッサによって実行されるプログラムは、ＲＯＭ（Read  Only  Memory）や記憶部等に予め組み込まれて提供される。なお、このプログラムは、これらの装置にインストール可能な形式又は実行可能な形式のファイルでＣＤ（Compact  Disk）−ＲＯＭ、ＦＤ（Flexible  Disk）、ＣＤ−Ｒ（Recordable）、ＤＶＤ（Digital  Versatile  Disk）等のコンピュータで読み取り可能な記憶媒体に記録されて提供されてもよい。また、このプログラムは、インターネット等のネットワークに接続されたコンピュータ上に格納され、ネットワーク経由でダウンロードされることにより提供又は配布されてもよい。例えば、このプログラムは、各機能部を含むモジュールで構成される。実際のハードウェアとしては、ＣＰＵが、ＲＯＭ等の記憶媒体からプログラムを読み出して実行することにより、各モジュールが主記憶装置上にロードされて、主記憶装置上に生成される。
【００９３】
また、各実施の形態における検証システムの構成は上記したものに限られず、例えば、学習装置３０が処理回路１５の一部又は全部の機能を実装してもよく、また記憶回路１４が記憶する内容の一部又は全部を記憶してもよい。例えば、学習装置３０が処理回路１５の全部の機能を実装し、記憶回路１４が記憶する内容の全部を記憶することにより、スタンドアロンのコンピュータ上において検証システム１と同様の構成を実装することができる。また、検証装置１０の処理回路１５が有する各機能がクラウド上に実装され、記憶回路１４が記憶する内容がクラウド上に記憶されてもよい。
【００９４】
以上説明した少なくとも一つの実施形態によれば、学習済みモデルを用いた判別結果の妥当性を検証することができる。
【００９５】
本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。
【００９６】
例えば、出力機能１５３は、レアケースに該当すると判定された全てのフィルタに関する情報を出力してもよく、レアケースに該当すると判定されたフィルタのうち、演算結果の平均値μからの乖離が大きい一部のフィルタに関する情報だけを出力してもよい。また、出力機能１５３は、レアケースに該当すると判定されなかったフィルタに関する情報を出力してもよい。
【符号の説明】
【００９７】
１    検証システム
１０  検証装置
２０  医用画像診断装置
２１  画像保管装置
３０  学習装置
４０  端末
【図１】
2020052627.tif 000003
【図２】
2020052627.tif 000004
【図３】
2020052627.tif 000005
【図４】
2020052627.tif 000006
【図５】
2020052627.tif 000007
【図６】
2020052627.tif 000008
【図７】
2020052627.tif 000009
【図８】
2020052627.tif 000010
【図９】
2020052627.tif 000011
【図１０】
2020052627.tif 000012
【図１１】
2020052627.tif 000013
【図１２】
2020052627.tif 000014
【図１３】
2020052627.tif 000015
【図１４】
2020052627.tif 000016
【図１５】
2020052627.tif 000017
【図１６】
2020052627.tif 000018