(57)【要約】【課題】機械学習による予測に寄与した特徴量とクリニカルパスウェイとの関連について解釈可能性の向上を図ること。【解決手段】分析装置は、患者の第１特徴項目に関する第１入力データと、診療行為の工程に関するクリニカルパスウェイ内の予測対象への遷移条件を規定する第２特徴項目と、医学的用語間の関連性を示すクリニカルターミノロジーと、に基づいて、第１特徴項目の重みを有する第２入力データを生成する生成部と、第１入力データと、生成部によって生成された第２入力データと、を与えると、クリニカルパスウェイ内の予測対象に対する予測結果と、第１特徴項目の重要度と、を出力するニューラルネットワークと、ニューラルネットワークから出力された予測結果および重要度に基づいて、クリニカルパスウェイを編集する編集部と、編集部によって編集された編集結果を出力する出力部とを有する。【選択図】図１
2019125240.tif 000002
【特許請求の範囲】
【請求項１】
患者の第１特徴項目に関する第１入力データと、診療行為の工程に関するクリニカルパスウェイ内の予測対象への遷移に関する第２特徴項目と、医学的用語間の関連性を示すクリニカルターミノロジーと、に基づいて、前記第１特徴項目の重みを有する第２入力データを生成する生成部と、
前記第１入力データと、前記生成部によって生成された第２入力データと、を与えると、前記クリニカルパスウェイ内の予測対象に対する予測結果と、前記第１特徴項目の重要度と、を出力するニューラルネットワークと、
前記ニューラルネットワークから出力された予測結果および重要度に基づいて、前記クリニカルパスウェイを編集する編集部と、
前記編集部によって編集された編集結果を出力する出力部と、
を有することを特徴とする分析装置。
【請求項２】
請求項１に記載の分析装置であって、
前記生成部は、前記第２特徴項目に一致する第１特徴項目である共通項目の重みを、前記第２特徴項目に一致しない第１特徴項目である非共通項目の重みよりも高い値に設定することにより、前記第２入力データを生成する、
ことを特徴とする分析装置。
【請求項３】
請求項１に記載の分析装置であって、
前記編集部は、前記予測結果および重要度を用いて前記予測結果の根拠を示す説明情報を生成し、前記クリニカルパスウェイ内の予測対象と前記説明情報とを関連付けることにより、説明付きクリニカルパスウェイを前記編集結果として生成する、
ことを特徴とする分析装置。
【請求項４】
請求項３に記載の分析装置であって、
前記編集部は、前記説明付きクリニカルパスウェイと前記第１特徴項目の重要度とを前記編集結果として生成する、
ことを特徴とする分析装置。
【請求項５】
請求項３に記載の分析装置であって、
前記編集部は、前記第１入力データが前記予測対象のうち特定の予測対象の遷移条件を充足し、かつ、前記特定の予測対象への遷移が予測パラメータとして与えられまたは規定値として設定された予測対象の順位付けルールに則り前記予測結果の中で最も評価が高い場合、前記特定の予測対象への遷移を推奨する提案を含む説明情報を生成し、前記クリニカルパスウェイ内の前記特定の予測対象と前記説明情報とを関連付けることにより、説明付きクリニカルパスウェイを前記編集結果として生成する、
ことを特徴とする分析装置。
【請求項６】
請求項３に記載の分析装置であって、
前記編集部は、前記第１入力データが前記予測対象のいずれの遷移条件も充足しないが、前記予測対象のうち特定の予測対象への遷移が予測パラメータとして与えられまたは規定値として設定された予測対象の順位付けルールに則り前記予測結果の中で最も評価が高い場合、前記特定の予測対象への遷移を推奨する提案を含む説明情報を生成し、前記クリニカルパスウェイ内の前記特定の予測対象と前記説明情報とを関連付けることにより、説明付きクリニカルパスウェイを前記編集結果として生成する、
ことを特徴とする分析装置。
【請求項７】
請求項６に記載の分析装置であって、
前記編集部は、前記説明情報に、前記特定の予測対象への遷移が予測パラメータとして与えられまたは規定値として設定された予測対象の順位付けルールに則り前記予測結果の中で最も評価が高いことを示す、前記提案を補足する補足データを追加する、
ことを特徴とする分析装置。
【請求項８】
請求項３に記載の分析装置であって、
前記編集部は、前記第１入力データが前記予測対象のいずれの遷移条件も充足しないが、予測対象外への遷移が予測パラメータとして与えられまたは規定値として設定された予測対象の順位付けルールに則り前記予測結果の中で最も評価が高い場合、前記予測対象外への遷移を推奨する提案を含む説明情報を生成し、前記クリニカルパスウェイ内に前記予測対象外および前記予測対象外への遷移を追加し、当該遷移と前記説明情報とを関連付けることにより、説明付きクリニカルパスウェイを前記編集結果として生成する、
ことを特徴とする分析装置。
【請求項９】
請求項８に記載の分析装置であって、
前記編集部は、前記説明情報に、前記予測対象外への遷移が予測パラメータとして与えられまたは規定値として設定された予測対象の順位付けルールに則り前記予測結果の中で最も評価が高いことを示す、前記提案を補足する補足データを追加する、
ことを特徴とする分析装置。
【請求項１０】
請求項３に記載の分析装置であって、
前記編集部は、前記クリニカルパスウェイが文章により構成された電子文書であり、かつ、前記電子文書内において所定重要度以上の特定重要度の第１特徴項目を示す用語がある場合、前記特定重要度の第１特徴項目を示す用語を強調表示可能に設定し、前記電子文書内での前記第１特徴項目を示す用語の出現頻度と前記重要度とに基づいて、前記第１特徴項目の重要性を示すスコアを算出することにより、説明付きクリニカルパスウェイを前記編集結果として生成する、
ことを特徴とする分析装置。
【請求項１１】
請求項３に記載の分析装置であって、
前記編集部は、前記クリニカルパスウェイが文章により構成された電子文書であり、かつ、前記電子文書内において所定重要度以上の特定重要度の第１特徴項目を示す用語がない場合、前記第１特徴項目の重要度を前記編集結果として生成する、
ことを特徴とする分析装置。
【請求項１２】
プロセッサが、
患者の第１特徴項目に関する第１入力データと、診療行為の工程に関するクリニカルパスウェイ内の予測対象への遷移条件を規定する第２特徴項目と、医学的用語間の関連性を示すクリニカルターミノロジーと、に基づいて、前記第１特徴項目の重みを有する第２入力データを生成する生成処理と、
前記第１入力データと、前記生成処理によって生成された第２入力データと、を与えると、前記クリニカルパスウェイ内の予測対象に対する予測結果と、前記第１特徴項目の重要度と、を出力するニューラルネットワークにより予測する予測処理と、
前記ニューラルネットワークから出力された予測結果および重要度に基づいて、前記クリニカルパスウェイを編集する編集処理と、
前記編集処理によって編集された編集結果を出力する出力処理と、
を実行することを特徴とする分析方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、コンピュータアーキテクチャに関する。
【背景技術】
【０００２】
診療に関する患者への介入行為時には、医師は、診療ガイドラインなどの医学的コンセンサス情報や自身の経験に基づき介入要否ないし介入方法を決定する。診療ガイドラインはエビデンスレベルが高く、医師が診療行為を行うに際し根拠となる。しかし、ガイドラインに基づいて実運用するには境界条件が曖昧なことが多い。このため、ガイドラインに基づく実運用は、個々の医師の解釈や判断に大きく依存する。
【０００３】
一方、機械学習や所謂ＡＩ（Ａｒｔｉｆｉｃｉａｌ  Ｉｎｔｅｌｌｉｇｅｎｃｅ）に基づき意思決定支援をするようなソフトウェアを用いる場合がある。この場合、データに記録された患者毎の特徴（たとえば、年齢や体重などの基本情報、検査値や罹患疾病などの診療情報）に応じて、推奨される介入行為が変化する。
【０００４】
特許文献１は、蓄積された診療記録を分析し、クリニカルパスを作成・修正および記憶する機能を備えたクリニカルパス分析環境と、蓄積されたクリニカルパスから患者状態等に応じた最適クリニカルパス選択機能と、を有し、クリニカルパス分析環境は、診療プロセス評価機能とクリニカルパス評価機能を備えるクリニカルパス運用支援情報システムを開示する。
【０００５】
また、特許文献２は、第１のユーザ入力に基づき、ガイドライングラフをロード及び表示するステップと、上記ガイドライングラフの所望の部分を選択する第２のユーザ入力を受信するステップと、上記ガイドライングラフの上記所望の部分を含むサブグラフをロード及び表示するため、上記第２のユーザ入力を処理するステップとに関するシステム及び方法を開示する。
【０００６】
また、特許文献３は、患者を治療する際にガイダンスを提供する実行可能な臨床実務ガイドラインを実行するシステム及び方法を開示する。当該システムは、複数の実行可能な臨床実務ガイドラインを記憶するガイドラインリポジトリと、前記患者及び前記患者の治療の少なくとも１つに関連付けられた臨床状況データを入力する少なくとも１つのインターフェースと、ディスプレイとを含む。当該システムのサーバは、前記臨床状況データを受信すると、自動的に適切な臨床実務ガイドラインを選択し、前記ディスプレイ上で視覚的ナビゲータを用いて前記ガイドラインを表示する。前記サーバは、自動的に現在の抽出レベルで前記ガイドラインを提供し、また前記現在の抽出レベルを規定する視覚的ナビゲータを前記ユーザに提供する。代わりに、ユーザがＵＩを介して手動で選択することにより生成された信号を受信すると、前記ガイドライン及び前記ガイドラインの抽出レベルが表示される。前記抽出レベルは、手動及び自動モードの両方でユーザ入力により変更されることができる。
【０００７】
また、特許文献４は、少なくとも1人の患者の１つまたは複数の臨床経路およびリソース要件を予測するためのシステムを開示する。このシステムは、患者診断データに関する入力を受信するための入力モジュールを備え、患者診断データは、患者の診断中に識別された情報を含む。このシステムはまた、患者データおよび既存の臨床経路のうちの少なくとも1つを含むデータを格納するリポジトリを含む。患者データは、入力モジュールから受信した患者診断データの少なくとも1つを含み、患者の過去の治療データと、患者の人口統計的な詳細を含む患者の人口統計データとを含む患者履歴データを含む。このシステムはまた、患者データおよび既存の臨床経路上に所定の分析モデルを適用することによって臨床経路を予測するための臨床経路予測モジュールを備える。このシステムは、患者のリソース要件を予測するためのリソース要件予測モジュールをさらに備える。
【０００８】
また、特許文献５は、医療従事者が症状を診断し、治療または検査を処方するための臨床経路と呼ばれるプロセスを管理し、医師または他のヘルスケア専門家が、ビジネスルールによって接続されたネットワーク内の球体としてプログラムされた臨床経路を使用して、意思決定および患者ケアに集中することを可能にする臨床経路システムを開示する。
【０００９】
また、特許文献６は、情報処理装置において蓄積されている中から業務フローを検索する際に、検索条件とする業務フローの入力を受け付け、記憶部から検索対象とする業務フローを取得し、検索条件および検索対象の業務フローのそれぞれに含まれる個々のタスクと該個々のタスクを行なうアクタとの組合せのそれぞれの一致度に基づいて、検索条件とした業務フローに対する比較した業務フローの類似度を算出し、算出した個々の類似度に基づいて、検索結果を提示する業務フロー検索装置を開示する。
【００１０】
また、特許文献７は、検索対象となるＸＭＬ文書集合を分析し、ＸＭＬ文書の構造情報に基づくＤＯＭ木の形状を格納する数列と、ＤＯＭ木の各ノードに対応する構造パスの種類を記録する１つ以上の数列からなる数列群とを作成し、数列と数列群を走査することにより、検索クエリである構造パスに合致する箇所を計算するＸＭＬ文書検索装置を開示する。
【００１１】
また、特許文献８は、第１のデータ管理操作のための第１のヘルスケア・パーティシパントの第１組のコンプライアンス・ポリシーを定義する、第１のデータ管理操作のための第１のデータ管理プロセスを呼び出し、第１組のコンプライアンス・ポリシーとは異なる、第１のデータ管理操作のための第２のヘルスケア・パーティシパントの第２組のコンプライアンス・ポリシーを定義する、第１のデータ管理操作のための第２のデータ管理プロセスを呼び出す電子カルテシステムを開示する。
【００１２】
入力データから出力データを予測する手法として、パーセプトロンと呼ばれる手法がある。パーセプトロンは、入力となる特徴量ベクトルと、重みベクトルの線形結合の演算結果により予測値を出力する。ニューラルネットワークは、別名、マルチパーセプトロンとも呼ばれ、複数のパーセプトロンを多層的に重ねることで、線形分離不可能問題を解く能力をもたせた技術であり、１９８０年代に登場した。２０１２年頃から、ドロップアウト等の新しい技術を導入したニューラルネットワークはｄｅｅｐ  ｌｅａｒｎｉｎｇと呼ばれている。
【００１３】
機械学習分野では、特徴量ベクトルから得られた予測値と実際の値（真値）の誤差が最小となるように、学習パラメータ（パーセプトロンにおける重みベクトル等）を計算することを学習と呼ぶ。学習のプロセスが完了すると、学習に用いなかったデータ（以降、テストデータと呼ぶ）から新しい予測値を計算することができる。パーセプトロンでは、重みベクトルの各要素値の大きさが、予測に寄与した因子の重要度として用いられている。
【００１４】
一方、ｄｅｅｐ  ｌｅａｒｎｉｎｇを含むニューラルネットワークにおいては、特徴量ベクトルの各要素はパーセプトロンを通過するたびに、他の要素と重み付き積和演算が実施されることから、各要素単体での重要度を知ることは原理的に困難である。
【００１５】
非特許文献１の手法は、特徴量の重要度を算出する機能を持たないｄｅｅｐ  ｌｅａｒｎｉｎｇなどの機械学習手法の識別結果を説明できるように、新たに線形回帰を学習させる手法である。また、ロジスティック回帰はパーセプトロンと等価な機械学習モデルであり、あらゆる分野で最も広く用いられている。たとえば、下記非特許文献２の１１９ページに示されるロジスティック回帰は、データサンプル全体について特徴量の重要度を算出する機能を持つ。
【先行技術文献】
【特許文献】
【００１６】
【特許文献１】特開２００８−４７１５４号公報
【特許文献２】特表２０１３−５１３８４７号公報
【特許文献３】特表２００８−５１４３３４号公報
【特許文献４】米国特許第８７４４８７０号公報
【特許文献５】米国特許公開２０１２／０３１０６６７号公報
【特許文献６】特開２０１２−２４３２６８号公報
【特許文献７】特開２０１３−１７５０５３号公報
【特許文献８】特開２０１７−１６８１２９号公報
【非特許文献】
【００１７】
【非特許文献１】Ribeiro, Marco Tulio, Sameer Singh, and Carlos Guestrin. "Why should I trust you ?: Explaining the predictions of any classifier." Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. ACM, 2016.
【非特許文献２】Friedman J, Trevor H, Robert T. The elements of statistical learning. second edition. New York: Springer series in statistics, 2001.
【発明の概要】
【発明が解決しようとする課題】
【００１８】
しかしながら、機械学習は一般には所謂ブラックボックスである。非特許文献１の手法は、線形回帰で後付け的に説明を試みているにすぎず、ｄｅｅｐ  ｌｅａｒｎｉｎｇが予測する際に利用している特徴量の重要度を完全に算出できる数学的な保証はない。また、完全に線形回帰がｄｅｅｐ  ｌｅａｒｎｉｎｇと同一の予測精度を達成できるならば、もはや、最初のｄｅｅｐ  ｌｅａｒｎｉｎｇ自体が必要ではなくなり、手法の構成概念には矛盾がある。また、ロジスティック回帰は、データサンプル個々についての特徴量の重要度を算出する機能を持たない。 
【００１９】
このため、機械学習モデルの予測結果と診療ガイドラインなどの医学的エビデンスに基づいた診療行為の選択基準（クリニカルパスウェイ）との関連性は不明である。したがって、予測結果と選択基準とを結び付けて解釈することは困難である。たとえば、データに記録された患者毎の特徴（たとえば、年齢や体重などの基本情報、検査値や罹患疾病などの診療情報）に応じて、推奨される介入行為が変化するが、推奨介入行為が推奨される根拠を医師に提示することは容易ではない。
【００２０】
本発明は、上記に鑑みてなされたものであって、機械学習による予測に寄与した特徴量とクリニカルパスウェイとの関連性の解釈可能性の向上を図ることを目的とする。
【課題を解決するための手段】
【００２１】
本願において開示される発明の一側面となる分析装置は、患者の第１特徴項目に関する第１入力データと、診療行為の工程に関するクリニカルパスウェイ内の予測対象への遷移条件を規定する第２特徴項目と、医学的用語間の関連性を示すクリニカルターミノロジーと、に基づいて、前記第１特徴項目の重みを設定した第２入力データを生成する生成部と、前記第１入力データと、前記生成部によって生成された第２入力データと、を与えると、前記クリニカルパスウェイ内の予測対象に対する予測結果と、前記第１特徴項目の重要度と、を出力するニューラルネットワークと、前記ニューラルネットワークから出力された予測結果および重要度に基づいて、前記クリニカルパスウェイを編集する編集部と、前記編集部によって編集された編集結果を出力する出力部と、を有することを特徴とする。
【発明の効果】
【００２２】
本発明の代表的な実施の形態によれば、機械学習による予測に寄与した特徴量とクリニカルパスウェイとの関連について解釈可能性の向上を図ることができる。前述した以外の課題、構成及び効果は、以下の実施例の説明により明らかにされる。
【図面の簡単な説明】
【００２３】
【図１】図１は、クリニカルパスウェイの更新例を示す説明図である。
【図２】図２は、特徴量ベクトルの再配置例を示す説明図である。
【図３】図３は、分析システムのシステム構成例を示すブロック図である。
【図４】図４は、本実施例にかかるニューラルネットワークの構造例を示す説明図である。
【図５】図５は、ニューラルネットワークの機能的構成例を示すブロック図である。
【図６】図６は、ニューラルネットワークによる学習処理および予測処理手順例を示すフローチャートである。
【図７】図７は、分析装置の機能的構成例を示すブロック図である。
【図８】図８は、説明可能ベクトル生成部による説明可能ベクトルの生成処理例を示す説明図である。
【図９】図９は、分析装置による分析シーケンス例を示すシーケンス図である。
【図１０】図１０は、説明付きクリニカルパスウェイを表示する画面例（ケース１）を示す説明図である。
【図１１】図１１は、説明付きクリニカルパスウェイを表示する画面例（ケース２）を示す説明図である。
【図１２】図１２は、説明付きクリニカルパスウェイを表示する画面例（ケース３）を示す説明図である。
【図１３】図１３は、説明付きクリニカルパスウェイを表示する画面例（ケース４）を示す説明図である。
【図１４】図１４は、説明付きクリニカルパスウェイを表示する画面例（ケース５）を示す説明図である。
【発明を実施するための形態】
【００２４】
本実施例では、機械学習の予測モデルを用いてその予測結果を出力するに際し、重視した特徴量を可視化することで、予測に寄与した特徴量とクリニカルパスウェイとの関連性の解釈可能性が向上し、機械学習モデルの診療業務への導入が容易になる。すなわち、精度の高い予測結果の理由や根拠といった医師が納得するための情報提示が可能となる。
【００２５】
また、医学論文などの医学的エビデンスの蓄積には時間がかかるため、従来のクリニカルパスウェイの情報更新は時間がかかったが、本実施例により、機械学習予測モデルの予測結果との関連性に説明がつきやすくなるため、従来型医学的エビデンスに加え実際の臨床データに基づくクリニカルパスウェイの情報更新による、更新速度の高速化を促進することができる。したがって、クリニカルパスウェイの信頼性の向上を図ることができる。
【００２６】
なお、クリニカルパスウェイ（クリニカルパスともいう）とは、診療ガイドラインなどの診療行為の工程（選択基準ともいう）に関する情報であり、たとえば、診療の順序であったり、疾病の進行順序などがある。本実施例のクリニカルパスはコンピュータに読み取り可能な情報（たとえば、フローや表など文字列を含む図形データ、文章を示すテキストデータ）とする。
【００２７】
＜クリニカルパスウェイの更新例＞
図１は、クリニカルパスウェイの更新例を示す説明図である。クリニカルパスウェイＣＰの更新例は、ニューラルネットワークＮＮの選択１０１、特徴量ベクトルＸｎの生成１０２、説明可能ベクトルｚｎの生成１０３、選択ニューラルネットワークＮＮでの予測１０４、クリニカルパスウェイＣＰの編集１０５により実行され、説明付きクリニカルパスウェイＣＰｅが生成、表示される。なお、本例では、クリニカルパスウェイＣＰの予測起点のノードＰ１からノードＰ３ｂを経由してノードＰ４ａに到達する診療経路において、において予測対象モデルＰＴＭ内の予測対象のノードＰ２ａ，Ｐ２ｂ，Ｐ２ｃのいずれが最適な経路かを予測するものとする。
【００２８】
ニューラルネットワークＮＮの選択１０１では、モデルパラメータＭＰを参照して、ニューラルネットワーク群ＮＮｓから予測対象モデルＰＴＭの予測に適したニューラルネットワークＮＮが選択される。一般に、ニューラルネットワークは、入力層と、出力層と、入力層と出力層との間において前段の層からのデータと学習パラメータとを活性化関数に与えて計算して後段の層に計算結果を出力する1層以上の中間層と、により構成される。
【００２９】
通常のニューラルネットワークでは、予測結果のみが出力されるが、本実施例のニューラルネットワークＮＮは、予測結果のほか、特徴項目（以下、単に「項目」）の重要度も出力される。ニューラルネットワーク群ＮＮｓの各ニューラルネットワークＮＮは、たとえば、予測対象モデルＰＴＭごとに存在し、教師有り学習により教師データ（訓練データ）が与えられることで、学習モデルが構築されているものとする。
【００３０】
モデルパラメータＭＰは、予測対象モデルＰＴＭおよび予測パラメータを含む情報である。予測対象モデルＰＴＭとは、予測起点となるノードから予測対象となるノードまでの診療経路である。たとえば、図１に示す予測対象モデルＰＴＭは、症状Ｐ１が予測起点、治療法Ｐ２ａ〜Ｐ２ｄが予測対象である。予測パラメータは予測対象の取捨選択追加などの編集情報や予測対象の順位付け方法などを設定するためのパラメータである。
【００３１】
具体的には、たとえば、予測対象モデルＰＴＭは、症状Ｐ１の場合に、その患者の検査結果がＥ＞ｘ［ｍｇ］であれば、治療法Ｐ２ａが適するとされ、Ｅ≦ｘ［ｍｇ］でかつＡ≧ｙ［％］であれば治療法Ｐ２ｂが適するとされ、Ｃ＜ｚ［ｍｍｏｌ／ｍｌ］であれば治療法Ｐ２ｃが適するとされることとを示す診療経路とする。なお、予測起点と予測対象との間の経路上に非予測対象のノードが存在してもよい。
【００３２】
この、『Ｅ＞ｘ［ｍｇ］』、『Ｅ≦ｘ［ｍｇ］でかつＡ≧ｙ［％］』、および『Ｃ＜ｚ［ｍｍｏｌ／ｍｌ］』がクリニカルパスウェイ分岐条件である。クリニカルパスウェイ分岐条件は、たとえば、診療経路上のノードの分岐条件となる。クリニカルパスウェイ分岐条件には、このほか、患者の個人情報を指定する情報（たとえば、年齢や性別）が含まれていてもよい。
【００３３】
また、モデルパラメータＭＰは、予測対象モデルＰＴＭには存在しない予測対象を追加することができる。たとえば、クリニカルパスウェイＣＰの予測対象モデルＰＴＭに治療法Ｐ２ｄが含まれていないが、最新の論文や実際の臨床データにおいて治療法Ｐ２ｄが適する可能性がある場合、追加の予測対象として治療法Ｐ２ｄをモデルパラメータＭＰに含めることができる。このように、クリニカルパスウェイＣＰの更新遅延にも対応することが可能となる。
【００３４】
特徴量ベクトルＸｎの生成１０２では、患者の特徴を示す特徴量ベクトルＸｎが生成される。特徴量ベクトルＸｎは、選択ニューラルネットワークＮＮに与えられるベクトルであり、診療ＤＢ１００から抽出された患者データにより生成される。診療ＤＢ１００とは、患者ごとの電子カルテを記憶するデータベースである。したがって、特徴量ベクトルＸｎの特徴量を示す要素となる「項目」には、患者の年齢、性別、血液型といった個人情報や、疾病や外傷の種類、治療や手術、検査の種類、投与した薬剤、診断画像、費用などがある。「値」は「項目」を示す値である。「単位」は、「値」を数値で表すための基準である。
【００３５】
たとえば、「項目」が「投与した薬剤」である場合、その投与量が「０．８７９［ｍｇ］」であれば、「０．８７９」が「値」となり、「［ｍｇ］」が単位となる。なお、特徴量ベクトルが「値」についての１次元列ベクトルである場合、「値」の位置により、「項目」および「単位」が確定するものとする。
【００３６】
説明可能ベクトルｚｎの生成１０３では、特徴量ベクトルＸｎ、予測対象モデルＰＴＭ、およびクリニカルターミノロジーＣＴを用いて、説明可能ベクトルｚｎが生成される。説明可能ベクトルｚｎとは、特徴ベクトルＸｎの項目の重要性を説明するためのベクトルであり、特徴ベクトルＸｎとともにニューラルネットワークＮＮに与えられる。「重み」は、「関連項目」との関連性の高さを示す値である。本実施例では、「重み」は、０以上、１以下の範囲の値であり、値が高いほど関連性が高いことを示す。「関連項目」とは、クリニカルターミノロジーＣＴにおいて「項目」に関連する項目である。
【００３７】
「関連項目」は、説明可能ベクトルｚｎの生成１０２において、クリニカルターミノロジーＣＴを参照することにより得られる。クリニカルターミノロジーＣＴとは、医学的用語およびそれらの関連性を示す情報であり、たとえば、医学的用語をノード、関連性をリンクとするネットワーク情報である。リンクは、当該リンクの両端の医学的用語間の関連性を示す。関連性は、たとえば、リンク長により表現される。リンク長が短いほど関連度が高いことを示す。Ａ，Ｃ，Ｅのように、「項目」が予測対象モデルＰＴＭに含まれ、かつ、「関連項目」と一致すれば、重みは最高値の「１」となる。「項目」が予測対象モデルＰＴＭに含まれていない場合、予測対象モデルＰＴＭの「項目」までのリンク長の逆数が重みとなる。
【００３８】
選択ニューラルネットワークＮＮでの予測１０４では、選択ニューラルネットワークＮＮに特徴量ベクトルＸｎおよび説明可能ベクトルｚｎを与えることで、予測結果および項目の重要度が算出される。予測結果は、たとえば、予測対象Ｐ２ａ〜Ｐ２ｃになる確率である。
【００３９】
モデルパラメータＭＰに追加の予測対象Ｐ２ｄが含まれている場合、予測対象Ｐ２ｄになる確率も予測結果として算出される。項目の重要度は、特徴量ベクトルＸｎの各項目の重要度であり、本例では値が高いほど重要性が高いことを示す。そして、項目の重要度は、どの項目が最も確率が高い予測結果に寄与するかを示す。
【００４０】
クリニカルパスウェイＣＰの編集１０５では、予測結果および項目の重要度を用いてクリニカルパスウェイＣＰが編集される。たとえば、予測対象モデルＰＴＭには存在せず、モデルパラメータＭＰにより追加された予測対象である治療法Ｐ２ｄが最高確率である場合、Ｐ１とＰ２ｄを接続するリンク（遷移）ＬＫａと、Ｐ２ｄとＰ３ｂを接続するリンクＬＫｂとが生成される。
【００４１】
また、リンクＬＫａと説明情報１１０がリンクＬＫｘで関連付けられる。説明情報１１０は、予測結果および項目の重要度を含む情報である。本例の場合、説明情報１１０は、予測起点Ｐ１から予測対象Ｐ２ａ〜Ｐ２ｃではなく追加の予測対象Ｐ２ｄに遷移する根拠となる。これにより、クリニカルパスウェイＣＰに説明情報１１０が関連付けされた説明付きクリニカルパスウェイＣＰｅが得られる。説明付きクリニカルパスウェイＣＰｅは、たとえば、モニタに表示される。
【００４２】
このように、機械学習の予測モデルにおいてその予測結果を出力するに際し、重要度の高い項目を可視化することで、予測に寄与した項目とクリニカルパスウェイＣＰとの関連性の解釈可能性の向上を図ることができ、機械学習の診療業務への導入を容易にすることができる。したがって、精度の高い予測結果の理由や根拠といった医師が納得するための情報提示が可能となる。
【００４３】
＜特徴量ベクトルＸｎの再配置例＞
ＡＩは、線形分離不可能問題を解く能力を持つが、ＡＩが、どうしてそのような判断をしたかが不明である。特に、ｄｅｅｐ  ｌｅａｒｎｉｎｇなどの機械学習手法は、予測精度は高いが説明能力が低い。たとえば、ある患者に対して「風邪をひきやすい」という診断結果をＡＩが出力した場合、医師は、ＡＩがなぜそのような結果を得たかを答えることができない。もし、ＡＩがその原因まで判断できれば、医師は、患者に対して適切な治療をおこなうことがきる。
【００４４】
図２は、特徴量ベクトルの再配置例を示す説明図である。（Ａ）特徴量空間ＳＰ１には、複数の特徴量ベクトルｘｎ（ｎ＝１，２，…，Ｎ。Ｎは、たとえば、患者数）が存在する。複数の特徴量ベクトルｘｎは、たとえば、非線形の予測モデルＰＭ１により正解ラベルＬａ，Ｌｂに識別される。（Ｂ）特徴量空間ＳＰ２には、複数の特徴量ベクトルｘｎが存在する。複数の特徴量ベクトルｘｎは、たとえば、線形の予測モデルＰＭ２により正解ラベルＬａ，Ｌｂに識別される。
【００４５】
（Ａ）ｄｅｅｐ  ｌｅａｒｎｉｎｇなどの機械学習手法は、識別結果である予測モデルＰＭ１を説明するため、新たに線形回帰を学習する。具体的には、たとえば、この機械学習手法は、予測モデルＰＭ１を求めた後に局所的に直線近似するという後付け的な処理を実行する。しかしながら、このような後付け的な処理では、直線近似された予測モデルＰＭ１の局所部分が、特徴量ベクトルｘｎを正しく説明できるかが不明である。また、何より、直線近似というロジスティック回帰を実行するため、都合２回の機械学習を実行する必要がある。
【００４６】
（Ｂ）の予測モデルＰＭ２は線形であるため、その傾きを参照すれば、特徴量ベクトルｘｎが特徴量空間ＳＰ２内のどのパラメータで重みづけされているがわかり、特徴量ベクトルｘｎを正しく説明することができる。本実施例では、複数の特徴量ベクトルｘｎについて、（Ａ）のように非線形な予測モデルＰＭ１を求めることなく、特徴量空間ＳＰ１の複数の特徴量ベクトルｘｎを、他の特徴量空間ＳＰ２に再配置する。これにより、線形な予測モデルＰＭ２が得られるため、特徴量ベクトルｘｎが特徴量空間ＳＰ２内のどのパラメータで重みづけされているがわかり、その重要度に応じて特徴量ベクトルｘｎを正しく説明することができる。
【００４７】
すなわち、ユーザは特徴量ベクトルｘｎのあるサンプルごとに（例えば、患者ごとに）、特徴量ｘｎに内包されるどの因子（特徴）が予測結果に寄与しているかが分かるため、どうしてそのような予測結果になったのかという説明がしやすくなる。したがって、機械学習における説明能力の向上を図ることができる。上記の例でいえば、ある患者に対して「治療法Ｐ２ｄを発症」という診断結果をＡＩがなぜ出力したか（たとえば、項目Ｅの値（検査結果）が異常に高いからなど）、が分かることになる。また、（Ａ）のように機械学習を２回も実行する必要がないため、機械学習の効率化も図ることができる。したがって、上記のような説明を迅速に提供することができる。
【００４８】
＜システム構成例＞
図３は、分析システムのシステム構成例を示すブロック図である。図３では、サーバ−クライアント型の分析システム３を例に挙げて説明するが、スタンドアロン型でもよい。（Ａ）は、分析システム３のハードウェア構成例を示すブロック図であり、（Ｂ）は、分析システム３の機能的構成例を示すブロック図である。（Ａ）および（Ｂ）において同一構成には同一符号を付す。
【００４９】
分析システム３は、クライアント端末３００とサーバである分析装置３２０とがネットワーク３１０で通信可能に接続される構成である。
【００５０】
（Ａ）において、クライアント端末３００は、補助記憶装置であるＨＤＤ（ｈａｒｄ  ｄｉｓｋ  ｄｒｉｖｅ）３０１、主記憶装置であるメモリ３０２、プロセッサ３０３、キーボードやマウスである入力装置３０４、モニタ３０５を有する。分析装置３２０は、補助記憶装置であるＨＤＤ３２１、主記憶装置であるメモリ３２２、プロセッサ３２３、キーボードやマウスである入力装置３２４、モニタ３２５を有する。なお、主記憶装置、補助記憶装置、および、図示しない可搬型の記憶媒体を総称して、記憶デバイスと称す。記憶デバイスは、ニューラルネットワークＮＮおよびこれらの学習パラメータ３６５を記憶する。
【００５１】
（Ｂ）において、クライアント端末３００は、クライアントデータベース（ＤＢ）３５１を有する。クライアントＤＢ３５１は、ＨＤＤ３０１やメモリ３０２などの記憶デバイスに格納される。クライアントＤＢ３５１には、テストデータ集合３５２と、予測結果３５３と、が格納される。テストデータ集合３５２は、テストデータの集合である。予測結果３５３は、予測部３６２からネットワーク３１０経由で得られたデータである。なお、サーバ−クライアント型の場合、クライアント端末３００は１台以上存在する。
【００５２】
分析装置３２０は、学習部３６１と、予測部３６２と、サーバデータベース（ＤＢ）３６３と、を有する。学習部３６１は、特徴量ベクトルｘｎを訓練データとしてニューラルネットワークＮＮに与えて正解ラベルｔｎと比較して誤差逆伝搬するという学習処理を実行し、学習パラメータ３６５を出力する機能部である。
【００５３】
予測部３６２は、学習パラメータ３６５を用いて、ニューラルネットワークＮＮを構築し、ニューラルネットワークＮＮにテストデータが与えられることで、予測処理を実行し、予測結果３５３をクライアント端末３００に出力する機能部である。学習部３６１および予測部３６２は、ＨＤＤ３２１、メモリ３２２などの記憶デバイスに記憶されたプログラムをプロセッサ３２３に実行させることによりその機能を実現する。
【００５４】
サーバＤＢ３６３は、訓練データ集合３６４と、学習パラメータ３６５と、を格納する。訓練データ集合３６４は、特徴量ベクトルｘｎと、正解ラベルｔｎと、を含む。学習パラメータ３６５は、学習部３６１からの出力データであり、後述する行列ＷｌＤ，行列ＷｌＲ，行列ＷｌＨ，行列ＷＡ、重みベクトルｗｏを含む。なお、学習パラメータが設定されたニューラルネットワークを「予測モデル」と称す。
【００５５】
なお、分析装置３２０は複数台で構成されてもよい。たとえば、負荷分散のため、分析装置３２０が複数存在してもよい。また、分析装置３２０は、機能ごとに複数台で構成されてもよい。たとえば、学習部３６１およびサーバＤＢ３６３を含む第１のサーバと、予測部３６２およびサーバＤＢ３６３を含む第２のサーバとで構成されてもよい。また、また、学習部３６１および予測部３６２を含む第１分析装置と、サーバＤＢ３６３を含む第２分析装置とで構成されてもよい。また、学習部３６１を含む第１分析装置と、予測部３６２を含む第２分析装置と、サーバＤＢ３６３を含む第３分析装置とで構成されてもよい。
【００５６】
＜ニューラルネットワークの構造例＞
図４は、本実施例にかかるニューラルネットワークの構造例を示す説明図である。ニューラルネットワークＮＮは、データユニット群ＤＵと、レポーティングユニット群ＲＵと、ハーモナイジングユニット群ＨＵと、アテンションユニットＡＵと、リアロケーションユニットＲＡＵと、ユニファイユニットＵＵと、デシジョンユニットＤＣＵと、インポータンスユニットＩＵと、を有する。
【００５７】
データユニット群ＤＵは、複数のデータユニットＤＵｌ（ｌは、階層番号であり、１≦ｌ≦Ｌ。Ｌは最下層の階層番号であり、図４では、Ｌ＝４）を直列に接続した構成である。最上段であるｌ＝１のデータユニットＤＵ１は、ニューラルネットワークＮＮの入力層４０１であり、ｌ≦２のデータユニットＤＵｌは、ニューラルネットワークＮＮの中間層（隠れ層ともいう）に相当する。データユニットＤＵｌは、前段のデータユニットＤＵ（ｌ−１）からの出力データを入力して、自データユニットＤＵｌの学習パラメータを用いて計算して出力データを出力するパーセプトロンである。
【００５８】
ただし、データユニットＤＵ１は、学習部３６１による学習時に訓練データを保持する。ここで、訓練データは、たとえば、特徴量ベクトルｘｎとその真値となる正解ラベルｔｎとの組み合わせ｛ｘｎ，ｔｎ｝により構成されるサンプルデータである（ｎ＝１，２，…，Ｎ。Ｎは、たとえば、患者数）。特徴量ベクトルｘｎは、項目数をｄ（ｄ≧１を満たす整数）とすると、ｄ次元のベクトルとして取り扱う。
【００５９】
正解ラベルｔｎは、特徴量ベクトルｘｎの種類数Ｋに対して、ｏｎｅｈｏｔ表現で種類を示すＫ次元のベクトルとしてもよい。ｏｎｅｈｏｔ表現では、ベクトルのある要素が特徴量ベクトルｘｎの種類に対応しており、ただ１つの要素だけに１．０が格納され、他の要素は全て０．０である。１．０の要素に対応する種類が正解となる種類である。なお、Ｘ線、ＣＴ、ＭＲＩ、超音波等の医療用画像を特徴量ベクトルｘｎとして入力とした場合、正解ラベルｔｎは、疾病の種類や患者の予後（良いｏｒ悪い）を表す真値である。
【００６０】
ｘｎ∈Ｒｄ（Ｒｄはｄ次元の実数）を、ｄ次元の実数Ｒｄからなる特徴量ベクトルとする。データユニットＤＵ（ｌ＋１）を示す関数ｈｌ＋１Ｄは、下記式（１）で表現される。
【００６１】
【数１】
2019125240.tif 000003
【００６２】
式（１）中、添え字ｌ（１≦ｌ≦Ｌを満たす整数。）は、階層番号を示す（以下の式も同様）。Ｌは１以上の整数であり、最深の階層番号を示す。右辺のｆＤｌは活性化関数である。活性化関数は、たとえば、シグモイド関数、双曲線正接関数（ｔａｎｈ関数）、ＲｅＬＵ（Ｒｅｃｔｉｆｉｅｄ  Ｌｉｎｅａｒ  Ｕｎｉｔ）関数など、様々な活性化関数を用いてよい。行列ＷｌＤは、データユニットＤＵｌの学習パラメータである。右辺のベクトルｈｌＤは、データユニットＤＵｌに入力される入力ベクトル、すなわち、前段のデータユニットＤＵｌからの出力ベクトルである。なお、層数ｌ＝１である場合のデータユニットＤＵ１からの出力ベクトルｈ１Ｄは、ｈ１Ｄ＝ｘｎとなる。
【００６３】
なお、データユニットＤＵ１は、予測部３６２におる予測時にテストデータとして、特徴量ベクトルｘｎを保持する。
【００６４】
レポーティングユニットＲＵｌ（２≦ｌ≦Ｌ）は、同一階層のデータユニットＤＵｌからの出力ベクトルｈｌＤを入力し、当該出力ベクトルｈｌＤの次元数を縮約させる。レポーティングユニットＲＵｌを示す関数ｈｌＲは、下記式（２）で表現される。
【００６５】
【数２】
2019125240.tif 000004
【００６６】
式（２）中、行列ＷｌＲは、レポーティングユニットＲＵｌの学習パラメータである。 式（２）により、データユニットＤＵｌからのｄ次元の出力ベクトルｈｌＤは、ｍ次元の出力ベクトルｈｌＲに縮約される。また、σは、シグモイド関数である。
【００６７】
ハーモナイジングユニットＨＵｌ（２≦ｌ≦Ｌ）は、中間層のデータユニットＤＵｌとリアロケーションユニットＲＡＵとの間に、中間層のデータユニットＤＵｌごとに設けられる。ハーモナイジングユニットＨＵｌは、中間層のデータユニットＤＵｌからの出力データの次元数を揃える変換を実施する。したがって、リアロケーションユニットＲＡＵには、ハーモナイジングユニットＨＵｌで、同一サイズの次元数のデータが入力される。
【００６８】
ハーモナイジングユニットＨＵｌは、同一階層のデータユニットＤＵｌからの出力ベクトルｈｌＤを入力し、出力ベクトルｈｌＤの次元数を同一サイズの次元数に変換する。ハーモナイジングユニットＨＵｌを示す関数ｈｌＨは、下記式（３）で表現される。
【００６９】
【数３】
2019125240.tif 000005
【００７０】
式（３）中、行列ＷｌＨは、ハーモナイジングユニットＨＵｌの学習パラメータ３６５である。これにより、データユニットＤＵｌからのｄ次元の出力ベクトルｈｌＤは、ｖ次元の出力ベクトルｈｌＨに変換される。また、ｆＨは、活性化関数である。
【００７１】
アテンションユニットＡＵは、各レポーティングユニットＲＵｌからの出力ベクトルｈｌＲを用いて、各データユニットＤＵｌの重みαを計算する。アテンションユニットＡＵを示す関数αは、下記式（４）で表現される。
【００７２】
【数４】
2019125240.tif 000006
【００７３】
式（４）中、行列ＷＡは、アテンションユニットＡＵの学習パラメータである。活性化関数の１つであるｓｏｆｔｍａｘ関数では、層数Ｌ（下記式（５）の例ではＬ＝４）に等しい次元のベクトルｈＲが計算される。下記式（５）に示すように、式（４）の右辺のベクトルｈＲは、ｈｌＲを垂直方向にスタックしたベクトルである。
【００７４】
【数５】
2019125240.tif 000007
【００７５】
したがって、行列ＷＡは、Ｌ行Ｍ列（Ｍは、ベクトルｈＲの要素数）の行列となる。アテンションユニットＡＵにｓｏｆｔｍａｘ関数を採用することにより、層数ＬのベクトルｈＲの各要素（全要素の和は１）は、対応するデータユニットＤＵｌの重みをあらわすことになる。
【００７６】
リアロケーションユニットＲＡＵは、ある特徴量空間の特徴量ベクトルｘｎを他の特徴量空間に再配置する。具体的には、たとえば、図２に示したように、特徴量空間ＳＰ１上での特徴量ベクトル群により得られた予測モデルが非線形である場合、リアロケーションユニットＲＡＵは、特徴量空間ＳＰ２において線形な予測モデルが得られるように、特徴量ベクトル群を特徴量空間ＳＰ２に移し替える。リアロケーションユニットＲＡＵを示す関数ｈｌＴは、下記式（６）で表現される。
【００７７】
【数６】
2019125240.tif 000008
【００７８】
関数ｆＴは、ベクトル同士のアダマール積や、要素加算などを用いることができる。本実施例では、アダマール積とする（下記式（７）を参照）。式（７）では、ハーモナイジングユニットＨＵｌからの出力ベクトルｈｌＨと説明ベクトルｚｎとのアダマール積となる。
【００７９】
【数７】
2019125240.tif 000009
【００８０】
ユニファイユニットＵＵは、リアロケーションユニットＲＡＵからの出力ベクトルｈｌＴと、アテンションユニットＡＵからの出力ベクトルαとを統合する。すなわち、ユニファイユニットＵＵは、リアロケーションユニットＲＡＵからの出力ベクトルｈｌＴを、アテンションユニットＡＵからの出力ベクトルαで重み付けする。ユニファイユニットＵＵを示す関数ｈＵは、下記式（８）で表現される。
【００８１】
【数８】
2019125240.tif 000010
【００８２】
式（８）中、右辺のα［ｋ］は、式（４）の出力ベクトルαのｋ次元目の要素（重み）を示す。
【００８３】
デシジョンユニットＤＣＵは、予測値ｙｎを決定する。具体的には、たとえば、デシジョンユニットＤＣＵは、ユニファイユニットＵＵからの出力ベクトルｈＵに、学習パラメータ３６５の１つである重みベクトルｗｏで重み付けして、シグモイド関数σに与えることにより、予測値ｙａｎを得る。デシジョンユニットＤＣＵを示す関数ｙａｎは、下記式（９）で表現される。式（９）中、ｗｏｔのｔは、転置を意味する。
【００８４】
【数９】
2019125240.tif 000011
【００８５】
インポータンスユニットＩＵは、ニューラルネットワークＮＮの各層における特徴量についての項目の重要度を示す重要度ベクトルｓｌｎを算出する。インポータンスユニットＩＵを示す関数ｓｌｎは、下記式（１０）で表現される。
【００８６】
【数１０】
2019125240.tif 000012
【００８７】
式（１０）中、右辺のα［ｌ］は、式（４）の出力ベクトルαのｌ階層目の要素（重み）を示す。関数ｆＴは、式（６）と同様、ベクトル同士のアダマール積や、要素加算などを用いることができる。本実施例では、アダマール積とする。式（１０）では、重みベクトルｗｏとハーモナイジングユニットＨＵｌからの出力ベクトルｈｌＨとのアダマール積となる。重要度ベクトルｓｌｎは、ｎ番目の特徴量ベクトルｘｎの階層ｌにおける重要度である。
【００８８】
＜ニューラルネットワークＮＮの機能的構成例＞
図５は、ニューラルネットワークＮＮの機能的構成例を示すブロック図である。ニューラルネットワークＮＮは、入力層４０１と、中間層４０２と、出力層４０３と、変換部５０１と、再配置部５０２と、予測データ算出部５０３と、重要度算出部５０４と、設定部５０５と、統合部５０６と、縮約部５０７と、選択部５０８と、を有する。これらは、学習部３６１および予測部３６２の内部構成例である。
【００８９】
変換部５０１は、式（３）に示したように、各中間層ＤＵｌ（ｌ≧２）からの出力ベクトルｈｌＤと行列ＷｌＨとに基づいて、出力ベクトルｈｌＤの次元数ｄを縮約させて、変換後の出力ベクトルｈｌＨを出力する。変換部５０１は、上述したハーモナイジングユニット群ＨＵである。
【００９０】
再配置部５０２は、式（６）、（７）に示したように、変換部５０１からの変換後の出力ベクトルｈｌＨと、入力層４０１に与えられた特徴量空間ＳＰ１の特徴量ベクトルｘｎと、に基づいて、特徴量空間ＳＰ１の特徴量ベクトルｘｎを第２特徴量空間ＳＰ２に再配置する。再配置部５０２は、上述したリアロケーションユニットＲＡＵである。
【００９１】
予測データ算出部５０３は、式（９）に示したように、再配置部５０２による再配置結果ｈＴｌと重みベクトルｗｏとに基づいて、特徴量空間ＳＰ１の特徴量ベクトルｘｎに対する予測ベクトルｙｎを算出する。予測データ算出部５０３は、上述したデシジョンユニットＤＣＵである。
【００９２】
重要度算出部５０４は、式（１０）に示したように、変換後の出力ベクトルｈｌＨと重みベクトルｗｏとに基づいて、中間層４０２における階層ｌにおける特徴量ベクトルｘｎの重要度ベクトルｓｌｎを算出する。重要度算出部５０４は、上述したインポータンスユニットＩＵである。
【００９３】
たとえば、特徴量ベクトルｘｎが診断画像を示す場合、たとえば、ある階層ｌａの出力ベクトルｈｌａＤがある被写体の形状が癌組織にふさわしいか否かを示す特徴量であり、ある階層ｌｂ（≠ｌａ）の出力ベクトルｈｌｂＤが当該被写体の模様が癌組織にふさわしいか否かを示す特徴量とする。この場合、対応する重要度ベクトルｓｌａｎ、ｓｌｂｎを参照することにより、ニューラルネットワークＮＮが、当該診断画像が被写体のどの特徴を考慮してその被写体を癌組織であると判別したかを、ユーザは説明することができる。たとえば、重要度ベクトルｓｌａｎは低いが重要度ベクトルｓｌｂｎが高い場合、ニューラルネットワークＮＮが、当該画像ｘｎが被写体の模様を考慮してその被写体を癌組織であると判別していると、ユーザは説明することができる。
【００９４】
設定部５０５は、式（４）、（５）に示したように、中間層４０２からの出力ベクトルｈｌＤと行列ＷＡとに基づいて、中間層４０２の重みαを設定する。設定部５０５は、上述したアテンションユニットＡＵである。
【００９５】
統合部５０６は、式（８）に示したように、再配置結果ｈＴｌと、設定部５０５によって設定された重みαと、を統合する。統合部５０６は、上述したユニファイユニットＵＵである。この場合、予測データ算出部５０３は、統合部５０６による統合結果ｈｕと重みベクトルｗｏとに基づいて、予測ベクトルｙｎを算出する。また、重要度算出部５０４は、設定部５０５によって設定された重みαと、変換後の出力ベクトルｈｌＨと、重みベクトルｗｏと、に基づいて、重要度ベクトルｓｎｌを算出する。
【００９６】
縮約部５０７は、式（２）に示したように、中間層４０２からの出力ベクトルｈｌＤと行列ＷｌＲとに基づいて、出力ベクトルｈｌＤの次元数ｄを縮約させて、縮約後の出力ベクトルｈｌＲを出力する。縮約部５０７は、上述したレポーティングユニット群ＲＵである。この場合、設定部５０５は、縮約部５０７からの縮約後の出力ベクトルｈｌＲと行列ＷＡとに基づいて、中間層４０２の重みαを設定する。
【００９７】
学習部３６１は、特徴量空間ＳＰ１の特徴量ベクトルｘｎと予測ベクトルｙｎに対する正解ラベルｔｎとを含む訓練データが与えられた場合に、予測ベクトルｙｎと正解ラベルｔｎとを用いて、第１学習パラメータである行列ＷｌＤ、第２学習パラメータである行列ＷｌＨ、第３学習パラメータである重みベクトルｗｏ、第４学習パラメータである行列ＷＡ、および、第５学習パラメータである行列ＷｌＲを、たとえば、正解ラベルｔｎと予測値ｙｎとのクロスエントロピーが最小化するように、最適化する。
【００９８】
予測部３６２は、最適化された学習パラメータ３６５をニューラルネットワークＮＮに設定し、かつ、入力層４０１にテストデータとして特徴量ベクトルｘ´ｎを与えることにより、採取的に予測データ算出部５０３に予測ベクトルｙ´ｎを算出させる。
【００９９】
＜学習処理および予測処理手順例＞
図６は、ニューラルネットワークＮＮによる学習処理および予測処理手順例を示すフローチャートである。図６のうち、ステップＳ６０１〜Ｓ６０２が学習部３６１による学習処理であり、ステップＳ６０３〜Ｓ６０７が予測部３６２による予測処理である。まず、分析装置３２０は、訓練データ集合３６４を読み込む（ステップＳ６０１）。
【０１００】
分析装置３２０は、ニューラルネットワークＮＮに、訓練データ｛ｘｎ，ｔｎ｝を与えることにより学習をおこない、学習パラメータ３６５（行列ＷｌＤ，行列ＷｌＲ，行列Ｗ´ｌＨ，行列ＷＡ、重みベクトルｗｏ）を生成する（ステップＳ６０２）。学習（ステップＳ６０２）では、たとえば、学習部３６１が、統計的勾配法により、正解ラベルｔｎと予測値ｙａｎとのクロスエントロピーが最小化するように、学習パラメータ３６５を最適化する。分析装置３２０は、生成した学習パラメータ３６５をサーバＤＢ３６３に保存する。
【０１０１】
つぎに、分析装置３２０は、テストデータとなる特徴量ベクトルｘｎおよび説明可能ベクトルｚｎを読み込み（ステップＳ６０３）、学習パラメータ３６５が反映されたニューラルネットワークＮＮ（予測モデル）に与えて、式（９）により、予測結果３５３として予測値ｙａｎを算出し（ステップＳ６０４）、式（１０）により、項目の重要度を示す重要度ベクトルｓｌｎを計算する（ステップＳ６０５）。
【０１０２】
そして、分析装置３２０は、予測結果３５３と重要度ベクトルｓｌｎとを保存し、予測結果３５３をクライアント端末３００に出力する（ステップＳ６０６）。クライアント端末３００は、予測結果３５３と重要度ベクトルｓｌｎとをモニタ３０５に表示する。このように、ニューラルネットワークＮＮによれば、サンプルデータである特徴量ベクトルｘｎについての重要度ｓｌｎを得ることができ、予測結果３５３の解釈性を高めることができる。また、サンプル（特徴量ベクトルｘｎ）の事前再配置により、線形な予測モデルが得られるため、学習時および予測時において、高精度かつ低負荷で予測値を算出することができる。
【０１０３】
＜分析装置３２０の機能的構成例＞
図７は、分析装置３２０の機能的構成例を示すブロック図である。分析装置３２０は、モデルパラメータ設定部７０１と、パスウェイ選択部７０２と、特徴量ベクトル生成部７０３と、説明可能ベクトル生成部７０４と、編集部７０５と、出力部７０６と、を有する。これらは、ＨＤＤ３２１、メモリ３２２などの記憶デバイスに記憶されたプログラムをプロセッサ３２３に実行させることによりその機能を実現する。また、ニューラルネットワークＮＮ、診療ＤＢ１００、パスウェイＤＢ７１０、およびクリニカルターミノロジーＣＴは、分析装置３２０に存在してもよく、分析装置３２０とネットワーク３１０を介して通信可能な外部装置（不図示）に記憶されていてもよい。
【０１０４】
パスウェイＤＢ７１０は、クリニカルパスウェイＣＰを記憶するデータベースである。なお、コンピュータに読み取り可能でない、医学的ルールを示したクリニカルパスウェイについては、あらかじめ、ＸＭＬ／ＪＳＯＮコンバータにより、コンピュータに読み取り可能なフォーマットのクリニカルパスウェイＣＰに変換されて、パスウェイＤＢ７１０に記憶されている。同様に、ガイドラインなどの医学的な電子文献も、Ｗｏｒｄ２Ｖｅｃコンバータにより、単語ベクトル付きのコンピュータに読み取り可能なフォーマットのクリニカルパスウェイＣＰに変換されて、パスウェイＤＢ７１０に記憶されている。
【０１０５】
モデルパラメータ設定部７０１は、モデルパラメータＭＰを設定する。具体的には、たとえば、モニタ３０５，３２５にモデルパラメータＭＰの選択画面を表示させ、ユーザが入力装置３０４，３２４を操作してモデルパラメータＭＰを選択することで、モデルパラメータＭＰを設定する。また、モデルパラメータＭＰは、ネットワーク３１０を介して外部装置（不図示）から与えられたモデルパラメータＭＰを設定してもよい。
【０１０６】
パスウェイ選択部７０２は、モデルパラメータ設定部７０１によって設定されたモデルパラメータＭＰを検索キーとして、該当するクリニカルパスウェイＣＰをパスウェイＤＢ７１０から選択する。具体的には、たとえば、パスウェイ選択部７０２は、モデルパラメータＭＰで設定された予測対象モデルＰＴＭに該当するクリニカルパスウェイＣＰをパスウェイＤＢ７１０から選択する。選択されたクリニカルパスウェイＣＰが複数存在する場合、パスウェイ選択部７０２は、複数のクリニカルパスウェイＣＰをモニタ３０５，３２５に出力して、ユーザに選択させてもよい。また、選択されたクリニカルパスウェイＣＰが複数存在する場合、パスウェイ選択部７０２は、文章を示すテキストデータのクリニカルパスウェイＣＰよりも図形データのクリニカルパスウェイＣＰを優先選択してもよく、また、予測起点から予測対象までの経路がより短いクリニカルパスウェイＣＰを優先選択してもよい。
【０１０７】
特徴量ベクトル生成部７０３は、診療ＤＢ１００を参照して、モデルパラメータＭＰに基づいて特徴量ベクトルｘｎを生成する。ニューラルネットワークＮＮの学習時では、特徴量ベクトル生成部７０３は、不特定多数の患者についての特徴量ベクトルｘｎを訓練データ集合３６４として生成して、ニューラルネットワークＮＮに与える。ニューラルネットワークＮＮでの予測時では、特徴量ベクトル生成部７０３は、特定の患者についての特徴量ベクトルｘｎを生成して、ニューラルネットワークＮＮに与える。
【０１０８】
説明可能ベクトル生成部７０４は、特徴量ベクトル生成部７０３によって生成された特徴量ベクトルｘｎとパスウェイ選択部７０２によって選択されたクリニカルパスウェイ（選択クリニカルパスウェイ）とに基づいて、説明可能ベクトルｚｎを生成する。説明可能ベクトルｚｎの詳細な生成処理については、図８で後述する。
【０１０９】
編集部７０５は、ニューラルネットワークＮＮから出力された予測結果３５３および項目の重要度を用いて、選択クリニカルパスウェイＣＰを編集する。選択クリニカルパスウェイＣＰの詳細な編集については、図１０〜図１４で説明する。
【０１１０】
出力部７０６は、編集部７０５によって編集された編集結果を出力する。編集結果の出力先は、具体的には、たとえば、ＨＤＤ３０１，３２１、メモリ３０２，３２２、モニタ３０５，３２５、ネットワーク３１０を介して通信可能な外部装置（不図示）である。モニタ３０５，３２５には、図１０〜図１４で示すように、編集結果を示す画面が表示される。これにより、ユーザである医師は、精度の高い予測結果３５３の理由や根拠を確認することができる。
【０１１１】
＜説明可能ベクトルの生成例＞
図８は、説明可能ベクトル生成部７０４による説明可能ベクトルｚｎの生成処理例を示す説明図である。説明可能ベクトルｚｎの生成１０３では、特徴量ベクトルｘｎと、モデルパラメータＭＰ（予測対象モデルＰＴＭおよび予測パラメータ）と、クリニカルパスウェイ分岐条件ＣＰｃを用いる。上述したように、特徴量ベクトルｘｎは、項目８０１、値８０２、および単位８０３を含む。
【０１１２】
（Ａ）説明可能ベクトル生成部７０４は、特徴量ベクトルｘｎの項目８０１とクリニカルパスウェイ分岐条件ＣＰｃとを比較し、共通項目と非共通項目とを特定する。項目８０１は、「Ａ」，「Ｂ」，「Ｃ」，「Ｄ」，「Ｅ」を有する。一方、クリニカルパスウェイ分岐条件ＣＰｃは、「Ａ」，「Ｃ」，「Ｅ」を有する。したがって、共通項目は、「Ａ」，「Ｃ」，「Ｅ」であり、非共通項目は、「Ｂ」，「Ｄ」である。
【０１１３】
（Ｂ）説明可能ベクトル生成部７０４は、クリニカルターミノロジーＣＴを用いて、各項目８０１に関連する関連項目８０５を特定するとともに、各項目８０１の重み８０４を算出して、説明可能ベクトルｚｎを生成する。関連項目８０５は、項目８０１とクリニカルターミノロジーＣＴとの関連性を示す項目であり、重み８０４はその関連性の度合いを示す値である。
【０１１４】
共通項目については、共通項目がクリニカルターミノロジーＣＴに存在すれば、重み８０４は「１．０」、関連項目８０５は、項目８０１と同一項目となる。ただし、共通項目がクリニカルターミノロジーＣＴに存在していなければ、重み８０４は「０．０」、関連項目８０５は、「なし」となる。したがって、共通項目「Ａ」，「Ｃ」，「Ｅ」については、関連項目８０５はそれぞれ、「Ａ」，「Ｃ」，「Ｅ」、重み８０４はそれぞれ「１．０」となる。
【０１１５】
非共通項目については、非共通項目がクリニカルターミノロジーＣＴに存在すれば、説明可能ベクトル生成部７０４は、クリニカルターミノロジーＣＴにおいて、非共通項目と共通項目との関連性を示す関連度Ｒを算出する。関連度Ｒは、非共通項目から共通項目までの最短距離である。クリニカルターミノロジーＣＴは、上述したように、医学的用語およびそれらの関連性を示す情報であり、たとえば、医学的用語をノード、関連性をリンクとするネットワーク情報である。リンクは、当該リンクの両端の医学的用語の関連性を示す。関連性は、たとえば、リンク長により表現される。リンク長が短いほど関連度が高いことを示す。
【０１１６】
非共通項目「Ｄ」を例に挙げると、リンクＬ１，Ｌ２，Ｌ３を経由することで共通項目「Ａ」に到達する。リンクＬ１，Ｌ２，Ｌ３をそれぞれリンク長とすると、下記式により関連度Ｒが表される。
【０１１７】
Ｒ＝Ｌ１＋Ｌ２＋Ｌ３
【０１１８】
本例では、Ｒ＝２．５とする。非共通項目「Ｄ」の重み８０４は、関連度Ｒの逆数（１／Ｒ＝０．４）となり、関連項目８０５は「Ａ」となる。したがって、共通項目までの距離が短いほど、重み８０４は高くなる。これにより、各項目８０１の重み８０４により、クリニカルターミノロジーＣＴで各項目８０１の重要性を客観的に数値化して確認することができる。また、関連項目８０５により重み８０４の根拠についてもクリニカルターミノロジーＣＴで客観的に確認することができる。
【０１１９】
＜分析シーケンス例＞
図９は、分析装置３２０による分析シーケンス例を示すシーケンス図である。なお、ニューラルネットワークＮＮは、訓練データ集合３６４により学習モデルを生成済みであるものとする。また、説明を簡略化するため、分析装置３２０は、パスウェイＤＢ７１０、およびクリニカルターミノロジーＣＴを有するものとする。
【０１２０】
クライアント端末３００は、患者情報要求を診療ＤＢ１００に送信し（ステップＳ９０１）、診療ＤＢ１００は患者情報要求に対応する患者情報をクライアント端末３００に返す（ステップＳ９０２）。これにより、クライアント端末３００のユーザは、患者情報をモニタ３０５で確認することができる。
【０１２１】
クライアント端末３００は、ユーザ操作により、取得した患者情報を用いて、モデルパラメータＭＰを含む予測分析リクエストを作成して、分析装置３２０に送信する（ステップＳ９０３）。分析装置３２０の予測機能９１０は、予測分析リクエストを受信すると、特徴量ベクトル生成部７０３により、特徴量ベクトルｘｎを生成する（ステップＳ９０４）。具体的には、たとえば、予測機能９１０は、患者情報要求を診療ＤＢ１００に送り（ステップＳ９０５）、診療ＤＢ１００を参照して、患者情報要求に対応する患者情報を取得する（ステップＳ９０６）。
【０１２２】
そして、予測機能９１０は、特徴量ベクトル生成部７０３により、モデルパラメータＭＰと、患者情報と、を用いて、特徴量ベクトルｘｎを生成し、生成した特徴量ベクトルｘｎを分析装置３２０の説明機能９２０に出力する（ステップＳ９０７）。また、予測機能９１０は、予測分析リクエスト内のモデルパラメータＭＰを説明機能９２０に出力する（ステップＳ９０８）。
【０１２３】
説明機能９２０は、パスウェイ選択部７０２により、編集対象となるクリニカルパスウェイＣＰを選択する（ステップＳ９０９）。具体的には、たとえば、説明機能９２０は、モデルパラメータＭＰに基づいてパスウェイリクエストを生成し、パスウェイＤＢ７１０に出力し（ステップＳ９１０）、パスウェイＤＢ７１０から該当するクリニカルパスウェイＣＰを取得する（ステップＳ９１１）。
【０１２４】
そして、説明機能９２０は、説明可能ベクトル生成部７０４により、特徴量ベクトルｘｎと、選択クリニカルパスウェイＣＰとに基づいて、説明可能ベクトルｚｎを生成する（ステップＳ９１２）。具体的には、たとえば、説明機能９２０は、クリニカルターミノロジーリクエストをクリニカルターミノロジーＣＴに送り、クリニカルターミノロジーＣＴを取得する（ステップＳ９１４）。説明機能９２０は、クリニカルターミノロジーＣＴを用いて、説明可能ベクトルｚｎを生成し、予測機能９１０に出力する（ステップＳ９１５）。
【０１２５】
予測機能９１０は、ニューラルネットワークＮＮによる予測処理を実行する（ステップＳ９１６）。具体的には、たとえば、予測機能９１０は、モデルパラメータＭＰによりニューラルネットワーク群ＮＮｓから該当するニューラルネットワークＮＮを選択する。そして、予測機能９１０は、選択したニューラルネットワークＮＮに、特徴量ベクトルｘｎと説明可能ベクトルｚｎとを与えることにより、予測結果３５３および項目の重要度を算出し、説明機能９２０に出力する（ステップＳ９１７）。
【０１２６】
説明機能９２０は、編集部７０５によりクリニカルパスウェイＣＰを編集する（ステップＳ９１８）。具体的には、たとえば、説明機能９２０は、クリニカルパスウェイＣＰに予測結果３５３および項目の重要度を与えることで、説明付きクリニカルパスウェイＣＰｅを生成し、予測機能９１０に返す（ステップＳ９１９）。予測機能９１０は、説明付きクリニカルパスウェイＣＰｅをクライアント端末３００に送信する（ステップＳ９２０）。クライアント端末３００は、受信した説明付きクリニカルパスウェイＣＰｅをモニタ３０５に表示する（ステップＳ９２１）。これにより、ユーザである医師は、精度の高い予測結果３５３の理由や根拠を確認することができる。
【０１２７】
＜画面例＞
つぎに、図１０〜図１４を用いて、編集部７０５によって作成された説明付きクリニカルパスウェイＣＰｅを表示する画面例について説明するとともに、編集部７０５によるクリニカルパスウェイの編集処理内容についても説明する。
【０１２８】
図１０は、説明付きクリニカルパスウェイＣＰｅを表示する画面例（ケース１）を示す説明図である。ケース１は、ニューラルネットワークＮＮの予測結果３５３と、クリニカルパスウェイＣＰの予測対象とが、合致するケースである。ケース１の画面を第１画面１０００と称す。
【０１２９】
第１画面１０００は、重要度データ１００１と、説明付きクリニカルパスウェイＣＰｅと、を表示する画面である。重要度データは、特徴量ベクトルｘｎの項目，値，および単位に、項目の重要度を対応付けたデータである。本例では、項目の重要度は、「Ｖｅｒｙ  ｈｉｇｈ」，「ｈｉｇｈ」，「Ｍｉｄｄｌｅ」，「Ｌｏｗ」，「Ｎｏｎｅ」の５段階としたが、２段階以上であれば、４段階以下でも６段階以上でもよい。また、項目の重要度は数値で表現してもよい。ケース１では、特徴量ベクトルｘｎは、クリニカルパスウェイ分岐条件ＣＰｃのＥ≦１００［ｍｇ］でかつＡ≧２３．２［％］という基準を充足しているため、項目Ｅ，Ａの重要度「Ｖｅｒｙ  ｈｉｇｈ」，「ｈｉｇｈ」は他の項目の重要度に比べて高くなっている。
【０１３０】
説明付きクリニカルパスウェイＣＰｅは、クリニカルパスウェイＣＰと説明情報１１０とをリンクＬＫｘにより関連付けた情報である。説明情報１１０は、特徴量の重要性に関する予測分析情報１０１１と、クリニカルパスウェイ情報１０１２と、提案情報１０１３と、を有し、編集部７０５によって作成される。
【０１３１】
予測分析情報１０１１は、各項目の値と重要度とを対応付けた情報である。クリニカルパスウェイ情報１０１２は、特徴量ベクトルｘｎの項目の値が充足したクリニカルパスウェイ分岐条件ＣＰｃを示す。ケース１では、特徴量ベクトルｘｎが治療法Ｐ２ｂに関するクリニカルパスウェイ分岐条件ＣＰｃのＥ≦ｘ［ｍｇ］でかつＡ≧ｙ［％］を充足していることを示す。
【０１３２】
提案情報１０１３は、予測対象モデルＰＴＭの中で推奨する経路を提案する情報である。ケース１では、予測結果３５３において治療法Ｐ２ｂが最も治療奏功確率が高いとする。したがって、編集部７０５は、症状Ｐ１から治療法Ｐ２ｂへの経路を推奨経路とし、その旨の文字列情報を提案情報１０１３として作成する。また、編集部７０５は、推奨経路の症状Ｐ１および治療法Ｐ２ｂを強調表示し、この推奨経路と説明情報１１０とをリンクＬＫｘで接続する。
【０１３３】
このように、ケース１を示す第１画面１０００の説明付きクリニカルパスウェイＣＰｅでは、この特徴量ベクトルｘｎで特定される患者については、当該患者の項目Ｅ，Ａ，Ｃの順にその重要度が高く、かつ、当該患者は、症状Ｐ１の場合に治療法Ｐ２ｂが治療奏功確率が最も高い。したがって、医師は、当該患者が症状Ｐ１において治療法Ｐ２ｂを選択する場合、その根拠として重要度の順に項目Ｅ，Ａ，Ｃを挙げて説明することができる。
【０１３４】
図１１は、説明付きクリニカルパスウェイＣＰｅを表示する画面例（ケース２）を示す説明図である。ケース２は、ニューラルネットワークＮＮの予測結果３５３と、クリニカルパスウェイＣＰの予測対象とが不一致だが、予測対象モデルＰＴＭ内に予測結果３５３を表現可能な経路が存在するケースである。ケース２の画面を第２画面１１００と称す。
【０１３５】
第２画面１１００は、重要度データ１００１と、説明付きクリニカルパスウェイＣＰｅと、を表示する画面である。ケース２では、特徴量ベクトルｘｎは、Ｅ≦ｘ［ｍｇ］、Ａ＜ｙ［％］、Ｃ≧ｚ［ｍｍｏｌ／ｍｌ］であり、クリニカルパスウェイ分岐条件ＣＰｃのいずれも充足していないものとする。
【０１３６】
説明付きクリニカルパスウェイＣＰｅは、クリニカルパスウェイＣＰと説明情報１１０とをリンクＬＫｘにより関連付けた情報である。説明情報１１０は、特徴量の重要性に関する予測分析情報１０１１と、クリニカルパスウェイ情報１０１２と、提案情報１０１３と、補足データ１１１４とを有し、編集部７０５によって作成される。
【０１３７】
ケース２では、特徴量ベクトルｘｎは、Ｅ≦ｘ［ｍｇ］、Ａ＜ｙ［％］、Ｃ≧ｚ［ｍｍｏｌ／ｍｌ］であり、クリニカルパスウェイ分岐条件ＣＰｃのいずれも充足していないため、クリニカルパスウェイ情報１０１２は、特徴量ベクトルｘｎの項目の値が充足するための予クリニカルパスウェイ分岐条件ＣＰｃを示す。これにより、ユーザは、特徴量ベクトルｘｎがクリニカルパスウェイ分岐条件ＣＰｃを充足していないことを確認することができる。
【０１３８】
ケース２では、予測結果３５３において治療法Ｐ２ｃが最も高い治療奏功確率であったものとする。提案情報１０１３は、したがって、編集部７０５は、症状Ｐ１から治療法Ｐ２ｃへの経路を推奨経路とし、その旨の文字列情報を提案情報１０１３として作成する。また、編集部７０５は、推奨経路の症状Ｐ１および治療法Ｐ２ｃを強調表示し、この推奨経路と説明情報１１０とをリンクＬＫｘで接続する。
【０１３９】
補足データ１１１４は、提案情報１０１３を補足して、提案情報１０１３の根拠を示す。編集部７０５は、ケース２の患者の特徴量ベクトルｘｎは、Ｅ≦ｘ［ｍｇ］、Ａ＜ｙ［％］、Ｃ≧ｚ［ｍｍｏｌ／ｍｌ］であり、この場合に、ニューラルネットワークＮＮでは治療法Ｐ２ｃが最も高い奏功確率（８２％）であることを、補足データとして作成する。
【０１４０】
このように、ケース２を示す第２画面１１００の説明付きクリニカルパスウェイＣＰｅでは、この特徴量ベクトルｘｎで特定される患者については、特徴量ベクトルｘｎが治療法Ｐ２ａ〜Ｐ２ｃのクリニカルパスウェイ分岐条件ＣＰｃのいずれにも該当しないが、ニューラルネットワークＮＮは、当該患者は治療法Ｐ２ｃの治療奏功確率が最も高いと予測した。このため、分析装置３２０は、クリニカルパスウェイＣＰと予測結果３５３との相違を指摘することができる。したがって、医師は、当該患者が症状Ｐ１において治療法Ｐ２ｃを選択した場合、その選択の根拠として、重要度の順に項目Ｅ，Ａ，Ｃを挙げて説明することができる。また、このような症例が積み重なれば、治療法Ｐ２ｃに関するクリニカルパスウェイ分岐条件ＣＰｃの見直しやクリニカルパスウェイＣＰの修正などに寄与することができる。
【０１４１】
図１２は、説明付きクリニカルパスウェイＣＰｅを表示する画面例（ケース３）を示す説明図である。ケース３は、ニューラルネットワークＮＮの予測結果３５３と、クリニカルパスウェイＣＰの予測対象とが不一致であり、かつ、予測対象モデルＰＴＭ内に予測結果３５３を表現可能な経路が存在しないケースである。ケース３の画面を第３画面１２００と称す。
【０１４２】
ケース３では、モデルパラメータＭＰに予測対象として治療法Ｐ２ｄが追加され、かつ、治療法Ｐ２ａ〜Ｐ２ｃのほか、治療法Ｐ２ｄを考慮した学習済みのニューラルネットワークＮＮが選択されたものとする。なお、治療法Ｐ２ｄは、クリニカルパスウェイＣＰには存在しないが、ユーザが治療法Ｐ２ｄも考慮したいと考えたためにモデルパラメータＭＰに追加されたものとする。
【０１４３】
第３画面１２００は、重要度データ１００１と、説明付きクリニカルパスウェイＣＰｅと、を表示する画面である。ケース３ではケース２と同様、特徴量ベクトルｘｎは、Ｅ≦ｘ［ｍｇ］、Ａ＜ｙ［％］、Ｃ≧ｚ［ｍｍｏｌ／ｍｌ］であり、クリニカルパスウェイ分岐条件ＣＰｃのいずれも充足していないものとする。
【０１４４】
説明付きクリニカルパスウェイＣＰｅは、クリニカルパスウェイＣＰと説明情報１１０とをリンクＬＫｘにより関連付けた情報である。説明情報１１０は、特徴量の重要性に関する予測分析情報１０１１と、クリニカルパスウェイ情報１０１２と、提案情報１０１３と、補足データ１１１４とを有し、編集部７０５によって作成される。
【０１４５】
ケース３では、特徴量ベクトルｘｎは、Ｅ≦ｘ［ｍｇ］、Ａ＜ｙ［％］、Ｃ≧ｚ［ｍｍｏｌ／ｍｌ］であり、クリニカルパスウェイ分岐条件ＣＰｃのいずれも充足していないため、クリニカルパスウェイ情報１０１２は、特徴量ベクトルｘｎの項目の値が充足するためのクリニカルパスウェイ分岐条件ＣＰｃを示す。これにより、ユーザは、特徴量ベクトルｘｎがクリニカルパスウェイ分岐条件ＣＰｃを充足していないことを確認することができる。
【０１４６】
ケース３では、予測結果３５３において治療法Ｐ２が最も奏功確率が高かったものとする。提案情報１０１３は、したがって、編集部７０５は、症状Ｐ１から治療法Ｐ２ｃへの経路を推奨経路とし、その旨の文字列情報を提案情報１０１３として作成する。また、編集部７０５は、推奨経路の症状Ｐ１および治療法Ｐ２ｄを強調表示し、症状Ｐ１と治療法Ｐ２ｄとをリンクＬＫａで接続し、治療法Ｐ２ｄと治療Ｐ３ｄとをリンクＬＫｂで接続し、症状Ｐ１から治療法Ｐ２ｄへの推奨経路と説明情報１１０とをリンクＬＫｘで接続する。
【０１４７】
補足データ１１１４は、提案情報１０１３の根拠を示す。編集部７０５は、ケース３の患者の特徴量ベクトルｘｎは、ケース２と同様、Ｅ≦ｘ［ｍｇ］、Ａ＜ｙ［％］、Ｃ≧ｚ［ｍｍｏｌ／ｍｌ］であり、この場合に、ニューラルネットワークＮＮでは治療法Ｐ２ｄが最も高い治療奏功確率（６７％）であり、予測対象である治療法Ｐ２ａ〜Ｐ２ｃの確率２０％、３２％、４５％を上回っていることを、補足データとして作成する。
【０１４８】
このように、ケース３を示す第３画面１２００の説明付きクリニカルパスウェイＣＰｅでは、この特徴量ベクトルｘｎで特定される患者については、特徴量ベクトルｘｎが治療法Ｐ２ａ〜Ｐ２ｃのクリニカルパスウェイ分岐条件ＣＰｃのいずれにも該当しないが、ニューラルネットワークＮＮは、当該患者はモデルパラメータＭＰで追加された治療法Ｐ２ｄによる治療奏功確率が最も高いと予測した。このため、分析装置３２０は、クリニカルパスウェイＣＰには予測結果３５３は存在しないことを確認し、かつ、クリニカルパスウェイＣＰにはない新たな診療経路およびその新しいクリニカルパスウェイ分岐条件ＣＰｃを特定することができる。したがって、医師は、当該患者が症状Ｐ１において治療法Ｐ２ｄを選択した場合、その選択の根拠として、重要度の順に項目Ｅ，Ａ，Ｃを挙げて説明することができる。
【０１４９】
図１３は、説明付きクリニカルパスウェイＣＰｅを表示する画面例（ケース４）を示す説明図である。ケース４は、クリニカルパスウェイＣＰが、図形データがない電子文書１３０１であり、当該電子文書に重要特徴量の項目に関する文字列が記載されているケースである。重要特徴量とは、項目の重要度が「Ｈｉｇｈ」以上の項目に関する文字列である。ケース４の画面を第４画面と称す。
【０１５０】
ケース４では、クリニカルパスウェイＣＰの選択の際、パスウェイ選択部７０２は、たとえば、ＴＦ−ＩＤＦにより、予測対象モデルＰＴＭに含まれる予測対象の重要特徴量が最も多く出現する電子文書を選択する。
【０１５１】
第４画面１３００は、重要度データ１００１と、電子文書１３０１と、ランキングデータ１３１０と、を表示する。編集部７０５は、電子文書１３０１内の当該文字列（電子文書１３０１中、項目を示すＡ〜Ｅで表記）を検索して強調表示処理を施す。また、ケース１〜３と同様、編集部７０５は、重要度データ１００１を作成する。また、編集部７０５は、項目の出現個数を重要度で重み付けして、項目ごとにスコアを算出し、スコアの降順で順位１３１１をつけたランキングデータ１３１０を作成する。
【０１５２】
このように、電子文書１３０１では、診療経路が特定しづらいため、その代わりに、項目８０１とスコア１３１２とを比較することにより、重要特徴量がどの程度、電子文書（クリニカルパスウェイ）１３０１に存在するかを確認することができる。したがって、医師は、当該患者が症状Ｐ１において治療法Ｐ２ａ〜Ｐ２ｃのいずれかを選択した場合、その選択の根拠として、電子文書１３０１内の項目８０１のスコア１３１２の順に項目Ｅ，Ａ，Ｃが記載されている箇所を参照して、説明することができる。
【０１５３】
図１４は、説明付きクリニカルパスウェイＣＰｅを表示する画面例（ケース５）を示す説明図である。ケース５は、クリニカルパスウェイＣＰが、図形データがない電子文書１３０１であり、当該電子文書１３０１に重要特徴量の項目に関する文字列が記載されていないケースである。ケース５の画面を第５画面１４００と称す。
【０１５４】
ケース５では、ケース４と同様、クリニカルパスウェイＣＰの選択の際、パスウェイ選択部７０２は、たとえば、ＴＦ−ＩＤＦにより、予測対象モデルＰＴＭに含まれる予測対象の重要特徴量が最も多く出現する電子文書を選択する。第５画面１４００は、重要度データ１００１を表示する。電子文書１３０１には重要特徴量が記載されていないため、第４画面１３００のように表示しない。同様に、ランキングデータ１３１０も表示しない。
【０１５５】
ケース５では、クリニカルパスウェイ（電子文書１３０１）ＣＰは当てにならない。したがって、医師は、当該患者が症状Ｐ１において予測対象の治療法を選択した場合、その選択の根拠として、クリニカルパスウェイ（電子文書１３０１）ＣＰを用いずに、重要度の順に項目Ｅ，Ａ，Ｃを挙げて説明することができる。
【０１５６】
（１）以上説明したように、分析装置３２０は、説明可能ベクトル生成部７０４と、ニューラルネットワークＮＮと、編集部７０５と、出力部７０６と、を有する。説明可能ベクトル生成部７０４は、患者の第１特徴項目｛Ａ〜Ｅ｝に関する第１入力データ（特徴量ベクトルｘｎ）と、診療行為の工程に関するクリニカルパスウェイＣＰ内の予測対象（Ｐ２ａ〜Ｐ２ｃ）への遷移条件（クリニカルパスウェイ分岐条件ＣＰｃ）を規定する第２特徴項目｛Ａ，Ｃ，Ｅ｝と、医学的用語間の関連性を示すクリニカルターミノロジーＣＴと、に基づいて、第１特徴項目｛Ａ〜Ｅ｝の重みを有する第２入力データ（説明可能ベクトルｚｎ）を生成する。
【０１５７】
ニューラルネットワークＮＮは、第１入力データ（特徴量ベクトルｘｎ）と、説明可能ベクトル生成部７０４によって生成された第２入力データ（説明可能ベクトルｚｎ）と、を与えると、クリニカルパスウェイＣＰ内の予測対象（Ｐ２ａ〜Ｐ２ｃ）に対する予測結果３５３と、第１特徴項目｛Ａ〜Ｅ｝の重要度１００２と、を出力する。
【０１５８】
編集部７０５は、ニューラルネットワークＮＮから出力された予測結果３５３および重要度１００２に基づいて、クリニカルパスウェイＣＰを編集する。出力部７０６は、編集部７０５によって編集された編集結果を出力する。
【０１５９】
これにより、編集結果を参照することにより、機械学習による予測に寄与した第１特徴項目｛Ａ〜Ｅ｝とクリニカルパスウェイＣＰとの関連について解釈可能性の向上を図ることができる。
【０１６０】
（２）また、上記（１）の分析装置３２０において、説明可能ベクトル生成部７０４は、第２特徴項目｛Ａ，Ｃ，Ｅ｝に一致する第１特徴項目｛Ａ〜Ｅ｝である共通項目｛Ａ，Ｃ，Ｅ｝の重みを、第２特徴項目｛Ａ，Ｃ，Ｅ｝に一致しない第１特徴項目｛Ａ〜Ｅ｝である非共通項目｛Ｂ，Ｄ｝の重みよりも高い値に設定することにより、第２入力データ（説明可能ベクトルｚｎ）を生成する。
【０１６１】
これにより、共通項目であるほど高い重み値で特徴項目に対する重み付けが可能となり、特徴項目を重要度で差別化することができる。
【０１６２】
（３）また、上記（１）において、編集部７０５は、予測結果３５３および重要度１００２を用いて予測結果３５３の根拠を示す説明情報１１０を生成し、クリニカルパスウェイＣＰ内の予測対象（Ｐ２ａ〜Ｐ２ｃ）と説明情報１１０とを関連付けることにより、説明付きクリニカルパスウェイＣＰｅを編集結果として生成する。
【０１６３】
これにより、予測結果３５３の説明の根拠をクリニカルパスウェイＣＰと関連性の明確化を図ることができる。
【０１６４】
（４）また、上記（３）の分析装置３２０において、編集部７０５は、説明付きクリニカルパスウェイＣＰｅと第１特徴項目｛Ａ〜Ｅ｝の重要度１００２とを編集結果として生成する。
【０１６５】
これにより、どの特徴項目が重要でどの特徴項目が重要でないかを明確にして、予測結果３５３の説明の根拠とすることができる。
【０１６６】
（５）上記（３）の分析装置３２０において、編集部７０５は、第１入力データ（特徴量ベクトルｘｎ）が予測対象（Ｐ２ａ〜Ｐ２ｃ）のうち特定の予測対象Ｐ２ｂの遷移条件（Ｅ≦ｘ、Ａ≧ｙ）を充足し、かつ、特定の予測対象Ｐ２ｂへの遷移が予測パラメータとして与えられまたは規定値として設定された予測対象の順位付けルールに則り予測結果３５３の中で最も評価が高い場合、特定の予測対象Ｐ２ｂへの遷移を推奨する提案１０１３を含む説明情報１１０を生成し、クリニカルパスウェイＣＰ内の特定の予測対象Ｐ２ｂと説明情報１１０とを関連付けることにより、説明付きクリニカルパスウェイＣＰｅを編集結果として生成する。
【０１６７】
これにより、当該患者の特徴項目Ｅ，Ａ，Ｃの順にその重要度が高く、かつ、当該患者は、症状Ｐ１の場合に治療法Ｐ２ｂによる治療奏功確率が最も高いため、医師は、当該患者が症状Ｐ１において治療法Ｐ２ｂを選択した場合、その選択の根拠として重要度の順に項目Ｅ，Ａ，Ｃを挙げて説明することができる。
【０１６８】
（６）上記（３）の分析装置３２０において、編集部７０５は、第１入力データ（特徴量ベクトルｘｎ）が予測対象（Ｐ２ａ〜Ｐ２ｃ）のいずれの遷移条件（クリニカルパスウェイ分岐条件ＣＰｃ）も充足しないが、予測対象（Ｐ２ａ〜Ｐ２ｃ）のうち特定の予測対象Ｐ２ｃへの遷移の発生確率が予測結果３５３の中で最も高い場合、特定の予測対象Ｐ２ｃへの遷移を推奨する提案１０１３を含む説明情報１１０を生成し、クリニカルパスウェイＣＰ内の特定の予測対象Ｐ２ｃと説明情報１１０とを関連付けることにより、説明付きクリニカルパスウェイＣＰｅを編集結果として生成する。
【０１６９】
これにより、クリニカルパスウェイＣＰと予測結果３５３との相違を指摘することができる。したがって、医師は、当該患者が症状Ｐ１において治療法Ｐ２ｃを選択した場合、その選択の根拠として、重要度の順に項目Ｅ，Ａ，Ｃを挙げて説明することができる。また、このような症例が積み重なれば、治療法Ｐ２ｃに関するクリニカルパスウェイ分岐条件ＣＰｃの見直しやクリニカルパスウェイＣＰの修正などに寄与することができる。
【０１７０】
（７）また、上記（６）の分析装置３２０において、編集部７０５は、説明情報１１０に、特定の予測対象Ｐ２ｃへの遷移が予測パラメータとして与えられまたは規定値として設定された予測対象の順位付けルールに則り予測結果３５３の中で最も評価が高いことを示す、提案１０１３を補足する補足データ１１１４を追加する。これにより、特定の予測対象Ｐ２ｃへの遷移の推奨根拠を提示することができる。
【０１７１】
（８）また、上記（３）の分析装置３２０において、編集部７０５は、第１入力データ（特徴量ベクトルｘｎ）が予測対象（Ｐ２ａ〜Ｐ２ｃ）のいずれの遷移条件（クリニカルパスウェイ分岐条件ＣＰｃ）も充足しないが、予測対象外Ｐ２ｄへの遷移ＬＫａの発生確率が予測結果３５３の中で最も高い場合、予測対象外Ｐ２ｄへの遷移ＬＫａを推奨する提案１０１３を含む説明情報１１０を生成し、クリニカルパスウェイＣＰ内に予測対象外Ｐ２ｄおよび予測対象外Ｐ２ｄへの遷移ＬＫａを追加し、当該遷移ＬＫａと説明情報１１０とを関連付けることにより、説明付きクリニカルパスウェイＣＰｅを編集結果として生成する。
【０１７２】
これにより、クリニカルパスウェイＣＰには予測結果３５３は存在しないことを確認し、かつ、クリニカルパスウェイＣＰにはない新たな診療経路およびその新しいクリニカルパスウェイ分岐条件ＣＰｃを特定することができる。したがって、医師は、当該患者が症状Ｐ１において治療法Ｐ２ｄを選択した場合、その選択の根拠として、重要度の順に項目Ｅ，Ａ，Ｃを挙げて説明することができる。
【０１７３】
（９）また、上記（８）の分析装置３２０において、編集部７０５は、説明情報１１０に、予測対象外Ｐ２ｄへの遷移ＬＫａが予測パラメータとして与えられまたは規定値として設定された予測対象の順位付けルールに則り予測結果３５３の中で最も評価が高いことを示す、提案１０１３を補足する補足データ１１１４を追加する。これにより、予測対象外Ｐ２ｄへの遷移ＬＫａの推奨根拠を提示することができる。
【０１７４】
（１０）また、上記（３）の分析装置３２０において、編集部７０５は、クリニカルパスウェイＣＰが文章により構成された電子文書１３０１であり、かつ、電子文書１３０１内において所定重要度（Ｈｉｇｈ）以上の特定重要度の第１特徴項目｛Ａ，Ｅ｝を示す用語がある場合、特定重要度の第１特徴項目｛Ａ，Ｅ｝を示す用語を強調表示可能に設定し、電子文書１３０１内での第１特徴項目｛Ａ〜Ｅ｝を示す用語の出現頻度と重要度１００２とに基づいて、第１特徴項目｛Ａ〜Ｅ｝の重要性を示すスコア１３１２を算出することにより、説明付きクリニカルパスウェイＣＰｅを編集結果として生成する。
【０１７５】
これにより、特定重要度の第１特徴項目｛Ａ，Ｅ｝を示す用語がどの程度、電子文書（クリニカルパスウェイ）１３０１に存在するかを確認することができる。したがって、医師は、当該患者が症状Ｐ１において治療法Ｐ２ａ〜Ｐ２ｃのいずれかを選択した場合、その選択の根拠として、電子文書１３０１内の項目８０１のスコア１３１２の順に項目Ｅ，Ａ，Ｃが記載されている箇所を参照して、説明することができる。
【０１７６】
（１１）また、上記（３）の分析装置３２０において、編集部７０５は、クリニカルパスウェイＣＰが文章により構成された電子文書１３０１であり、かつ、電子文書１３０１内において所定重要度（Ｈｉｇｈ）以上の特定重要度の第１特徴項目｛Ａ，Ｅ｝を示す用語がない場合、第１特徴項目｛Ａ〜Ｅ｝の重要度１００２を編集結果として生成する。
【０１７７】
これにより、医師は、予測対象（Ｐ２ａ〜Ｐ２ｃ）に遷移した根拠として、クリニカルパスウェイ（電子文書１３０１）ＣＰを用いずに、重要度１００２の順に項目Ｅ，Ａ，Ｃを挙げて説明することができる。
【０１７８】
また、分析装置３２０は、変換部５０１と、再配置部５０２と、重要度算出部５０４と、を有する。したがって、特徴量ベクトルｘｎの事前再配置により、線形な予測モデルが得られるため、学習時および予測時において、高精度かつ低負荷で予測値を算出することができる。また、特徴量ベクトルｘｎにどのような特徴があるかを、重要度算出部５０４からの階層ｌごとの重要度により把握することができる。これにより、ニューラルネットワークＮＮに与えられた特徴ベクトルｘｎについての説明の容易化を高精度かつ効率的に実現することができる。
【０１７９】
また、分析装置３２０は、予測データ算出部５０３を有するため、特徴ベクトルｘｎに対し、ニューラルネットワークＮＮからの予測結果３５３が得られた理由についての説明の容易化を高精度かつ効率的に実現ができる。
【０１８０】
また、分析装置３２０は、設定部５０５と統合部５０６とを有することにより、予測データ算出部５０３は、再配置結果に基づく予測結果３５３を高精度に算出することができる。
【０１８１】
また、分析装置３２０は、縮約部５０７を有することにより、次元縮約によりデータ分析の効率化を図ることができる。
【０１８２】
また、分析装置３２０は、学習パラメータ３６５の学習により、高精度な予測モデルを構築することができる。
【０１８３】
なお、本発明は前述した実施例に限定されるものではなく、添付した特許請求の範囲の趣旨内における様々な変形例及び同等の構成が含まれる。例えば、前述した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに本発明は限定されない。また、ある実施例の構成の一部を他の実施例の構成に置き換えてもよい。また、ある実施例の構成に他の実施例の構成を加えてもよい。また、各実施例の構成の一部について、他の構成の追加、削除、または置換をしてもよい。また、尚、本実施例において予測分析情報１０１１、クリニカルパスウェイ情報１０１２、提案情報１０１３、補足データ１１１４などを文章で記載しているが、表やグラフなどの形態でも良く、またこれらのうちどれかが表示され無くとも良い。
【０１８４】
また、前述した各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等により、ハードウェアで実現してもよく、プロセッサがそれぞれの機能を実現するプログラムを解釈し実行することにより、ソフトウェアで実現してもよい。
【０１８５】
各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリ、ハードディスク、ＳＳＤ（Ｓｏｌｉｄ  Ｓｔａｔｅ  Ｄｒｉｖｅ）等の記憶装置、又は、ＩＣ（Ｉｎｔｅｇｒａｔｅｄ  Ｃｉｒｃｕｉｔ）カード、ＳＤカード、ＤＶＤ（Ｄｉｇｉｔａｌ  Ｖｅｒｓａｔｉｌｅ  Ｄｉｓｃ）の記録媒体に格納することができる。
【０１８６】
また、制御線や情報線は説明上必要と考えられるものを示しており、実装上必要な全ての制御線や情報線を示しているとは限らない。実際には、ほとんど全ての構成が相互に接続されていると考えてよい。
【符号の説明】
【０１８７】
３  分析システム
１１０  説明情報
３００  クライアント端末
３２０  分析装置
３６１  学習部
３６２  予測部
３６４  訓練データ集合
３６５  学習パラメータ
５０１  変換部
５０２  再配置部
５０３  予測データ算出部
５０４  重要度算出部
５０５  設定部
５０６  統合部
５０７  縮約部
５０８  選択部
７０１  モデルパラメータ設定部
７０２  パスウェイ選択部
７０３  特徴量ベクトル生成部
７０４  説明可能ベクトル生成部
７０５  編集部
７０６  出力部
【図１】
2019125240.tif 000013
【図２】
2019125240.tif 000014
【図３】
2019125240.tif 000015
【図４】
2019125240.tif 000016
【図５】
2019125240.tif 000017
【図６】
2019125240.tif 000018
【図７】
2019125240.tif 000019
【図８】
2019125240.tif 000020
【図９】
2019125240.tif 000021
【図１０】
2019125240.tif 000022
【図１１】
2019125240.tif 000023
【図１２】
2019125240.tif 000024
【図１３】
2019125240.tif 000025
【図１４】
2019125240.tif 000026