(57)【要約】【課題】分析の継続性が考慮される予測対象の特徴の説明の容易化を実現すること。【解決手段】分析装置は、第１内部データを生成し、第１内部データと第２学習パラメータに基づいて第１特徴量データの特徴量空間上での位置を変換し、第１変換結果と第１特徴量データに基づいて第１特徴量データを特徴量空間での変換先の位置に再配置し、再配置結果と第３学習パラメータに基づいて第１特徴量データが与えられた場合の分析時間のハザード関数の予測値を算出し、目的変数と第１予測値に基づいて第１〜第３学習パラメータを最適化し、第２特徴量データと最適化された第１学習パラメータに基づいて第２内部データを生成し、第２内部データと最適化された第２学習パラメータに基づいて第２特徴量データの特徴量空間上での位置を変換し、第２変換結果と最適化された第３学習パラメータに基づいて第２特徴量データの各特徴量の重要度を含む重要度データを算出する。【選択図】図３
2020071517.tif 000002
【特許請求の範囲】
【請求項１】
プログラムを実行するプロセッサと、前記プログラムを記憶する記憶デバイスと、を有し、データベースにアクセス可能な分析装置であって、
前記データベースは、学習対象が有する複数の特徴量を含む第１特徴量データと、前記学習対象についての分析開始から分析終了までの分析時間を示す目的変数と、前記分析時間内での分析の継続性を示す変数と、を含む訓練データを前記学習対象の個数分有する訓練データ集合を記憶しており、
前記プロセッサは、
前記第１特徴量データと、第１学習パラメータと、に基づいて、第１内部データを生成する第１生成処理と、
前記第１生成処理によって生成された第１内部データと、第２学習パラメータと、に基づいて、前記第１特徴量データの特徴量空間上での位置を変換する第１変換処理と、
前記第１変換処理による第１変換結果と、前記第１特徴量データと、に基づいて、前記第１特徴量データを、前記特徴量空間での変換先の位置に再配置する再配置処理と、
前記再配置処理による再配置結果と、第３学習パラメータと、に基づいて、前記第１特徴量データが与えられた場合の前記分析時間についてのハザード関数の第１予測値を算出する第１算出処理と、
前記目的変数と、前記第１算出処理によって算出された前記第１予測値と、に基づいて、統計的勾配法により、前記第１学習パラメータ、前記第２学習パラメータ、および前記第３学習パラメータを最適化する最適化処理と、
予測対象が有する複数の特徴量を含む第２特徴量データと、前記最適化処理によって最適化された第１学習パラメータと、に基づいて、第２内部データを生成する第２生成処理と、
前記第２生成処理によって生成された第２内部データと、前記最適化処理によって最適化された第２学習パラメータと、に基づいて、前記第２特徴量データの特徴量空間上での位置を変換する第２変換処理と、
前記第２変換処理による第２変換結果と、前記最適化処理によって最適化された第３学習パラメータと、に基づいて、前記第２特徴量データの各々の特徴量の重要度を含む重要度データを算出する重要度算出処理と、
を実行することを特徴とする分析装置。
【請求項２】
請求項１に記載の分析装置であって、
前記プロセッサは、
前記重要度算出処理によって算出された重要度データと、前記第２特徴量データと、に基づいて、前記第２特徴量データが与えられた場合の前記分析時間についてのハザード関数の第２予測値を算出する第２算出処理を実行することを特徴とする分析装置。
【請求項３】
請求項１に記載の分析装置であって、
前記プロセッサは、
前記第２特徴量データと前記重要度データとを関連付けて出力する出力処理を実行することを特徴とする分析装置。
【請求項４】
請求項１に記載の分析装置であって、
前記プロセッサは、
各々前記第１学習パラメータが割り当てられた複数階層のニューロン群により前記第１生成処理を実行し、
前記第１生成処理では、前記プロセッサは、前記ニューロン群のうち、第１階層のニューロンにより、前記第１特徴量データと、前記第１階層の第１学習パラメータと、に基づいて、前記第１階層の第１内部データを生成して、第２階層のニューロンに出力し、中間階層のニューロンにより、１つ上の階層のニューロンから出力される第１内部データと前記中間階層の第１学習パラメータと、に基づいて、前記中間階層の第１内部データを生成して、１つ下の階層のニューロンに出力する、ことを特徴とする分析装置。
【請求項５】
請求項４に記載の分析装置であって、
前記データベースは、前記第１特徴量データに対応する前記目的変数および前記変数を分析対象の数分記憶しており、
前記ニューロン群は、前記第１階層から特定の中間階層までの前段ニューロン群と、前記特定の中間階層の１つ下の階層から最下層までの前記分析対象の数分の後段ニューロン群と、により構成され、
前記第１変換処理では、前記プロセッサは、前記前段ニューロン群および前記後段ニューロン群の組み合わせごとに、当該組み合わせ内の各ニューロンから出力される第１内部データに基づいて、前記第１特徴量データの特徴量空間上での位置を変換し、
前記再配置処理では、前記プロセッサは、前記組み合わせごとに、前記第１特徴量データを、前記特徴量空間での変換先の位置に再配置し、
前記第１算出処理では、前記プロセッサは、前記組み合わせごとに、前記第１予測値を算出し、
前記最適化処理では、前記プロセッサは、前記組み合わせごとに、統計的勾配法により、前記第１学習パラメータ、前記第２学習パラメータ、および前記第３学習パラメータを最適化し、
前記第２生成処理では、前記プロセッサは、前記第１階層のニューロンにより、前記第２特徴量データと、前記最適化処理によって最適化された前記第１階層の第１学習パラメータと、に基づいて、前記第１階層の第２内部データを生成して、前記第２階層のニューロンに出力し、前記中間階層のニューロンにより、１つ上の階層のニューロンから出力される第２内部データと前記中間階層の第１学習パラメータと、に基づいて、前記中間階層の第２内部データを生成して、１つ下の階層のニューロンに出力し、
前記第２変換処理では、前記プロセッサは、前記組み合わせごとに、当該組み合わせ内の各ニューロンから出力される第２内部データに基づいて、前記第２特徴量データの特徴量空間上での位置を変換し、
前記重要度算出処理では、前記プロセッサは、前記組み合わせごとに、前記重要度データを算出する、
ことを特徴とする分析装置。
【請求項６】
請求項１に記載の分析装置であって、
前記第１算出処理では、前記プロセッサは、識別演算により前記第１予測値を算出し、
前記最適化処理では、前記第１学習パラメータ、前記第２学習パラメータ、および前記第３学習パラメータの決定に使用する損失関数としてＤｅｅｐＨｉｔ損失関数を用いる、  ことを特徴とする分析装置。
【請求項７】
請求項１に記載の分析装置であって、
前記第１算出処理では、前記プロセッサは、回帰演算により前記第１予測値を算出し、
前記最適化処理では、前記第１学習パラメータ、前記第２学習パラメータ、および前記第３学習パラメータの決定に使用する損失関数として尤度関数を用いる、ことを特徴とする分析装置。
【請求項８】
請求項７に記載の分析装置であって、
前記回帰演算は、Ｃｏｘ回帰演算であり、
前記尤度関数は、Ｅｆｒｏｎ法、Ｂｒｅｓｌｏｗ法、またはＥｘａｃｔ法によるＣｏｘの部分尤度関数である、
ことを特徴とする分析装置。
【請求項９】
請求項７に記載の分析装置であって、
前記回帰演算は、指数回帰演算であり、
前記尤度関数は、指数回帰モデルの対数尤度関数である、
ことを特徴とする分析装置。
【請求項１０】
請求項７に記載の分析装置であって、
前記回帰演算は、Ｗｅｉｂｕｌｌ回帰演算であり、
前記尤度関数は、Ｗｅｉｂｕｌｌ回帰モデルの対数尤度関数である、
ことを特徴とする分析装置。
【請求項１１】
請求項７に記載の分析装置であって、
前記回帰演算は、対数ロジスティック回帰演算であり、
前記尤度関数は、対数ロジスティック回帰モデルの対数尤度関数である、
ことを特徴とする分析装置。
【請求項１２】
プログラムを実行するプロセッサと、前記プログラムを記憶する記憶デバイスと、を有し、データベースにアクセス可能な分析装置による分析方法あって、
前記データベースは、学習対象が有する複数の特徴量を含む第１特徴量データと、前記学習対象についての分析開始から分析終了までの分析時間を示す目的変数と、前記分析時間内での分析の継続性を示す変数と、を含む訓練データを前記学習対象の個数分有する訓練データ集合を記憶しており、
前記プロセッサは、
前記第１特徴量データと、第１学習パラメータと、に基づいて、第１内部データを生成する第１生成処理と、
前記第１生成処理によって生成された第１内部データと、第２学習パラメータと、に基づいて、前記第１特徴量データの特徴量空間上での位置を変換する第１変換処理と、
前記第１変換処理による第１変換結果と、前記第１特徴量データと、に基づいて、前記第１特徴量データを、前記特徴量空間での変換先の位置に再配置する再配置処理と、
前記再配置処理による再配置結果と、第３学習パラメータと、に基づいて、前記第１特徴量データが与えられた場合の前記分析時間についてのハザード関数の第１予測値を算出する第１算出処理と、
前記目的変数と、前記第１算出処理によって算出された前記第１予測値と、に基づいて、統計的勾配法により、前記第１学習パラメータ、前記第２学習パラメータ、および前記第３学習パラメータを最適化する最適化処理と、
予測対象が有する複数の特徴量を含む第２特徴量データと、前記最適化処理によって最適化された第１学習パラメータと、に基づいて、第２内部データを生成する第２生成処理と、
前記第２生成処理によって生成された第２内部データと、前記最適化処理によって最適化された第２学習パラメータと、に基づいて、前記第２特徴量データの特徴量空間上での位置を変換する第２変換処理と、
前記第２変換処理による第２変換結果と、前記最適化処理によって最適化された第３学習パラメータと、に基づいて、前記第２特徴量データの各々の特徴量の重要度を含む重要度データを算出する重要度算出処理と、
を実行することを特徴とする分析方法。
【請求項１３】
データベースにアクセス可能なプロセッサに実行させる分析プログラムあって、
前記データベースは、学習対象が有する複数の特徴量を含む第１特徴量データと、前記学習対象についての分析開始から分析終了までの分析時間を示す目的変数と、前記分析時間内での分析の継続性を示す変数と、を含む訓練データを前記学習対象の個数分有する訓練データ集合を記憶しており、
前記プロセッサに、
前記第１特徴量データと、第１学習パラメータと、に基づいて、第１内部データを生成する第１生成処理と、
前記第１生成処理によって生成された第１内部データと、第２学習パラメータと、に基づいて、前記第１特徴量データの特徴量空間上での位置を変換する第１変換処理と、
前記第１変換処理による第１変換結果と、前記第１特徴量データと、に基づいて、前記第１特徴量データを、前記特徴量空間での変換先の位置に再配置する再配置処理と、
前記再配置処理による再配置結果と、第３学習パラメータと、に基づいて、前記第１特徴量データが与えられた場合の前記分析時間についてのハザード関数の第１予測値を算出する第１算出処理と、
前記目的変数と、前記第１算出処理によって算出された前記第１予測値と、に基づいて、統計的勾配法により、前記第１学習パラメータ、前記第２学習パラメータ、および前記第３学習パラメータを最適化する最適化処理と、
予測対象が有する複数の特徴量を含む第２特徴量データと、前記最適化処理によって最適化された第１学習パラメータと、に基づいて、第２内部データを生成する第２生成処理と、
前記第２生成処理によって生成された第２内部データと、前記最適化処理によって最適化された第２学習パラメータと、に基づいて、前記第２特徴量データの特徴量空間上での位置を変換する第２変換処理と、
前記第２変換処理による第２変換結果と、前記最適化処理によって最適化された第３学習パラメータと、に基づいて、前記第２特徴量データの各々の特徴量の重要度を含む重要度データを算出する重要度算出処理と、
を実行させることを特徴とする分析プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、データを分析する分析装置、分析方法、および分析プログラムに関する。
【背景技術】
【０００２】
機械学習は、ＡＩ（Ａｒｔｉｆｉｃｉａｌ  Ｉｎｔｅｌｌｉｇｅｎｃｅ）を実現する技術の１つである。機械学習では、特徴量ベクトルから得られた予測値と実際の値（真値）の誤差が最小となるように、学習パラメータ（パーセプトロンにおける重みベクトル等）を計算することを学習と呼ぶ。学習のプロセスが完了すると、学習に用いなかったデータ（以降、テストデータと呼ぶ）から新しい予測値が計算される。パーセプトロンでは、重みベクトルの各要素値の大きさが、予測に寄与した因子の重要度として用いられている。
【０００３】
Ｄｅｅｐ  Ｌｅａｒｎｉｎｇを含むニューラルネットワークは高い予測精度を実現できる。その一方、特徴量ベクトルの各要素は複数のパーセプトロンを通過するたびに、他の要素と重み付き積和演算が実施される。したがって、各要素単体での重要度を知ることは原理的に困難である。このことは、現実の事業においてＤｅｅｐ  Ｌｅａｒｎｉｎｇを用いる場合には致命的な欠点となる。
【０００４】
ここで、ある薬剤について治験を行ったとき、治験結果から薬剤がある患者層に対して有効かどうかを判断するときに製薬会社がＡＩを用いることを例に説明する。Ｄｅｅｐ  Ｌｅａｒｎｉｎｇを用いたＡＩは、ある患者層に対して「ある薬剤が有効である」という予測結果とともに、有効であると予測するに至った要因を出力することができない。もし、ＡＩがその判断要因まで出力できれば、製薬会社は、より効率的に薬剤を投与すべき患者層を特定し、適切な治験をおこなうことがきる。
【０００５】
治験において薬剤の有効性を示す指標の１つとして、治験開始から、患者の死亡または治験の打ち切りによって治験が終了するまでの時間（生存時間）が存在する。生存時間の予測には、通常用いられるニューラルネットワークモデルでは考慮されていない、打ち切りという概念が存在する。個々の患者に対して治験が終了するとき、その原因は、患者が死亡したケースと、医師判断による投薬の中止または治験期間の終了などの理由から治験が打ち切られたケースとに分かれる。
【０００６】
この二つのケースは、治験終了時に死亡したか生存したかという、まったく医学的に意味合いの異なる属性のデータとなる。もし打ち切りを考慮せずに、つまりすべての患者が治験終了時に死亡したと仮定して解析を行った場合、現実に起きる結果と予測結果が大きく乖離する可能性がある。
【０００７】
打ち切りの概念は、治験のみならず、機械等の人工物の故障や各種サービスにおける解約などが起きる時間の予測にも存在する。たとえば、前者では保障期間の終了による使用の打ち切りや機械のリプレース、後者ではサービス終了による契約の打ち切りなどが挙げられる。故障や解約の起きる時間（以降、これらのように生存時間に類似する概念をすべて生存時間と呼ぶ）の予測においても、故障や解約に至る要因が出力できれば、機械の故障の予防や、サービスの適切なマーケティングを行うことができる。
【０００８】
打ち切りを含む生存時間の予測において最も重要な量は、ハザード関数と呼ばれる特徴量の関数である。ハザード関数は各時間において定義され、時間Ｔにおけるハザード関数は時間Ｔに死亡（または故障、解約）する確率を表す。時間Ｔまでのハザード関数の積算（累積ハザード関数）は時間Ｔまでに死亡する確率となり、累積ハザード関数がある閾値を越えたところを死亡時間と考える。また、どの時間においても累積ハザード関数が閾値を越えない場合、生存した（打ち切られた）と考える。したがって、ハザード関数の予測は生存時間の予測と等価であり、生存時間の予測においては、解釈の容易なハザード関数を予測の対象とする解析モデルが大半を占める。
【０００９】
下記特許文献１は、急性骨髄性白血病患者のハザード関数の予測モデルを作り、予測に寄与する要因の解析を行う手法を開示する。特許文献１は、打ち切りを考慮し、かつ判断要因の出力を可能にするため、重要度を算出する機能を持たないＤｅｅｐ  Ｌｅａｒｎｉｎｇなどの非線形手法ではなく、Ｃｏｘ比例ハザードモデルと呼ばれる打ち切りを考慮した線形モデルを採用する。
【００１０】
下記特許文献２と非特許文献１は、打ち切りを考慮してハザード関数を予測する非線形モデルを作成する手法を開示する。これらの手法は予測要因の出力を目的としておらず、予測要因を出力する機能を持たないＤｅｅｐ  Ｌｅａｒｎｉｎｇ手法を採用する。特許文献２はＤｅｅｐ  Ｂｅｌｉｅｆ  Ｎｅｔｗｏｒｋを、非特許文献１はＤｅｅｐＨｉｔと呼ばれる独自のネットワークを使用する。
【００１１】
下記非特許文献２は、特徴量の重要度を算出する機能を持たないＤｅｅｐ  Ｌｅａｒｎｉｎｇなどの機械学習手法の識別結果を説明できるように、新たに線形回帰もしくはロジスティック回帰を学習させる手法を開示する。また、ロジスティック回帰はパーセプトロンと等価な機械学習モデルであり、あらゆる分野で最も広く用いられている。たとえば、下記非特許文献３の１１９ページに示されるロジスティック回帰は、データサンプル全体について特徴量の重要度を算出する機能を持つ。
【先行技術文献】
【特許文献】
【００１２】
【特許文献１】中国公開特許１０８１３０３７２Ａ
【特許文献２】中国公開特許１０６８９７５４５Ａ
【非特許文献】
【００１３】
【非特許文献１】Lee, Changhee, et al. "Deephit: A deep learning approach to survival analysis with competing risks." AAAI, 2018.
【非特許文献２】Ribeiro, Marco Tulio, Sameer Singh, and Carlos Guestrin. "Why should I trust you?: Explaining the predictions of any classifier." Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. ACM, 2016.
【非特許文献３】Friedman J, Trevor H, Robert T. The elements of statistical learning. second edition. New York: Springer series in statistics, 2001.
【発明の概要】
【発明が解決しようとする課題】
【００１４】
特許文献１の手法は、線形モデルを使用しているため、目的変数に対する入力データの線形独立性を仮定する。この仮定は一般には成り立たず、線形独立性を持たない問題においてはモデルそのものが適切でない。したがってモデルから出力される要因も正しいものではありえない。
【００１５】
特許文献２および非特許文献１の手法は、非線形モデルを使用しているため、前記の線形独立性を持たない一般の問題に適用することができる。しかし、Ｄｅｅｐ  Ｂｅｌｉｅｖｅ  ＮｅｔｗｏｒｋやＤｅｅｐＨｉｔのようなＤｅｅｐ  Ｌｅａｒｎｉｎｇモデルでは、そのモデルが予測する結果に対する要因を出力することができない。
【００１６】
非特許文献２の手法は、打ち切りを含む入力データに適用する方法が提示されていない。さらに、非特許文献２の手法は線形回帰で後付け的に説明を試みているにすぎず、通常の全結合タイプのＤｅｅｐ  Ｌｅａｒｎｉｎｇの説明を試みる場合でさえも、Ｄｅｅｐ  Ｌｅａｒｎｉｎｇが予測する際に利用している特徴量の重要度を完全に算出できる数学的な保証はない。仮に、完全に線形回帰がＤｅｅｐ  Ｌｅａｒｎｉｎｇと同一の予測精度を達成できるならば、もはや、最初のＤｅｅｐ  Ｌｅａｒｎｉｎｇ自体が必要ではない。非特許文献２の手法は構成概念には矛盾がある。 
【００１７】
本発明は上記に鑑みてなされたものであって、分析の継続性が考慮される予測対象の特徴についての説明の容易化を実現することを目的とする。
【課題を解決するための手段】
【００１８】
本願において開示される分析装置は、プログラムを実行するプロセッサと、前記プログラムを記憶する記憶デバイスと、を有し、データベースにアクセス可能な分析装置であって、前記データベースは、学習対象が有する複数の特徴量を含む第１特徴量データと、前記学習対象についての分析開始から分析終了までの分析時間を示す目的変数と、前記分析時間内での分析の継続性を示す変数と、を含む訓練データを前記学習対象の個数分有する訓練データ集合を記憶しており、前記プロセッサは、前記第１特徴量データと、第１学習パラメータと、に基づいて、第１内部データを生成する第１生成処理と、前記第１生成処理によって生成された第１内部データと、第２学習パラメータと、に基づいて、前記第１特徴量データの特徴量空間上での位置を変換する第１変換処理と、前記第１変換処理による第１変換結果と、前記第１特徴量データと、に基づいて、前記第１特徴量データを、前記特徴量空間での変換先の位置に再配置する再配置処理と、前記再配置処理による再配置結果と、第３学習パラメータと、に基づいて、前記第１特徴量データが与えられた場合の前記分析時間についてのハザード関数の第１予測値を算出する第１算出処理と、前記目的変数と、前記第１算出処理によって算出された前記第１予測値と、に基づいて、統計的勾配法により、前記第１学習パラメータ、前記第２学習パラメータ、および前記第３学習パラメータを最適化する最適化処理と、予測対象が有する複数の特徴量を含む第２特徴量データと、前記最適化処理によって最適化された第１学習パラメータと、に基づいて、第２内部データを生成する第２生成処理と、前記第２生成処理によって生成された第２内部データと、前記最適化処理によって最適化された第２学習パラメータと、に基づいて、前記第２特徴量データの特徴量空間上での位置を変換する第２変換処理と、前記第２変換処理による第２変換結果と、前記最適化処理によって最適化された第３学習パラメータと、に基づいて、前記第２特徴量データの各々の特徴量の重要度を含む重要度データを算出する重要度算出処理と、を実行することを特徴とする。
【発明の効果】
【００１９】
本発明の代表的な実施の形態によれば、分析の継続性が考慮される予測対象の特徴についての説明の容易化を実現することができる。前述した以外の課題、構成及び効果は、以下の実施例の説明により明らかにされる。
【図面の簡単な説明】
【００２０】
【図１】図１は、特徴量ベクトルと識別境界の関係を示す説明図である。
【図２】図２は、分析システムのシステム構成例を示すブロック図である。
【図３】図３は、実施例１にかかるニューラルネットワークの構造例を示す説明図である。
【図４】図４は、分析装置による学習および予測処理手順例を示すフローチャートである。
【図５】図５は、ニューラルネットワークの設定画面例を示す説明図である。
【図６】図６は、アウトプットパネルの表示例を示す説明図である。
【図７】図７は、ニューラルネットワークの他の構造例を示す説明図である。
【図８】図８は、実験結果を示す図表である。
【発明を実施するための形態】
【実施例１】
【００２１】
実施例１では、抗がん剤オキサリプラチンの治験において、大腸がん患者がオキサリプラチンの投与下における０ヶ月（１ヶ月未満）、１ヶ月（１ヶ月以上２ヶ月未満）、２ヶ月（２ヶ月以上３ヵ月未満）の３つの時間クラスにおけるハザード関数を予測するとともに、予測に寄与する因子を出力する装置を例として説明する。実施例１に基づく打ち切りを含むデータの分析装置の出力する因子は、オキサリプラチンを販売する製薬会社がその適用範囲を適切に設定することを可能とし、また、オキサリプラチンの作用機序を解明するための大きな手掛かりとなる。このことは医療の質の向上に貢献し、また、薬学や医学の進歩に大きく寄与する。
【００２２】
＜時空間における特徴ベクトルと識別面＞
図１は、特徴量ベクトルと識別境界の関係を示す説明図である。図１は、患者の特徴（たとえば、日々の血圧）を表す次元が張る特徴量空間１０に患者１０１、１０２、１０５、１０６を図示している。境界面１００は、一ヶ月以上生存できない患者１０１と一ヶ月以上生存できる患者１０２を隔てる真の識別境界面である。境界面１０４は、二ヶ月以上生存できない患者１０５と二ヶ月以上生存できる患者１０６を隔てる真の識別境界面である。
【００２３】
Ｄｅｅｐ  Ｌｅａｒｎｉｎｇは境界面１００、１０４を計算できうる能力を持つが、一般に境界面１００、１０４は複雑な曲面となり、人の能力では理解することができない。その一方で、境界面１００、１０４のように複雑な曲面であったとしても、局所的には平面１０３であるとみなすことができる場合がある。
【００２４】
無数のパーセプトロンもしくはｌｏｇｉｓｔｉｃ  ｒｅｇｒｅｓｓｉｏｎを使って個々の患者ごとに局所平面１０３を計算できれば、それらの線形モデルの学習パラメータ（局所平面１０３の傾き）の各要素値の大きさとして、予測に寄与した因子を知ることができる。実施例１にかかる分析装置は、打ち切りを含むデータを処理可能なＤｅｅｐ  Ｌｅａｒｎｉｎｇを用いて、個々の患者ごとに線形モデルを生成する。
【００２５】
＜システム構成例＞
図２は、分析システムのシステム構成例を示すブロック図である。図２では、サーバ−クライアント型の分析システム２を例に挙げて説明するが、スタンドアロン型でもよい。（Ａ）は、分析システム２のハードウェア構成例を示すブロック図であり、（Ｂ）は、分析システム２の機能的構成例を示すブロック図である。（Ａ）および（Ｂ）において同一構成には同一符号を付す。
【００２６】
分析システム２は、クライアント端末２００とサーバである分析装置２２０とがネットワーク２１０で通信可能に接続される構成である。（Ａ）において、クライアント端末２００は、補助記憶装置であるＨＤＤ（Ｈａｒｄ  Ｄｉｓｋ  Ｄｒｉｖｅ）２０１、主記憶装置であるメモリ２０２、プロセッサ２０３、キーボードやマウスである入力装置２０４、モニタ２０５を有する。
【００２７】
分析装置２２０は、補助記憶装置であるＨＤＤ２２１、主記憶装置であるメモリ２２２、プロセッサ２２３、キーボードやマウスである入力装置２２４、モニタ２２５を有する。なお、主記憶装置、補助記憶装置、および、図示しない可搬型の記憶媒体を総称して、記憶デバイスと称す。記憶デバイスは、ニューラルネットワーク３００（図３を参照）およびこれらの学習パラメータを記憶する。
【００２８】
（Ｂ）において、クライアント端末２００は、クライアントデータベース（ＤＢ）２５１を有する。クライアントＤＢ２５１は、ＨＤＤ２０１やメモリ２０２などの記憶デバイスに格納される。クライアントＤＢ２５１には、テストデータ集合２５２と、予測結果２５３と、が格納される。テストデータ集合２５２は、テストデータの集合である。予測結果２５３は、予測部２６２からネットワーク２１０経由で得られたデータである。なお、サーバ−クライアント型の場合、クライアント端末２００は１台以上存在する。
【００２９】
分析装置２２０は、学習部２６１と、予測部２６２と、サーバデータベース（ＤＢ）２６３を有する。学習部２６１は、ニューラルネットワーク３００を用いて、学習パラメータ２６５を出力する機能部である。
【００３０】
予測部２６２は、学習パラメータ２６５を用いて、ニューラルネットワーク３００を構築し、ニューラルネットワーク３００にテストデータが与えられることで、予測処理を実行し、予測結果２５３をクライアント端末２００に出力する機能部である。学習部２６１および予測部２６２は、ＨＤＤ２２１、メモリ２２２などの記憶デバイスに記憶されたプログラムをプロセッサ２２３に実行させることによりその機能を実現する。
【００３１】
サーバＤＢ２６３は、訓練データ集合２６４と、学習パラメータ２６５と、を格納する。訓練データ集合２６４は、特徴量ベクトルｘ（ｎ）と、その真値となる目的変数Ｙ（ｎ）と、打ち切りの有無を表すバイナリ変数ｅ（ｎ）との組み合わせ｛ｘ（ｎ），Ｙ（ｎ），ｅ（ｎ）｝により構成される訓練データの集合である。ｎは、ｎ＝｛１，２，…，Ｎ｝であり、たとえば、患者データを指定するためのインデックスである。実施例１ではＮ＝３０，０００とする。
【００３２】
特徴量ベクトルｘ（ｎ）∈ＲＤ（ＲＤはＤ次元の実数。Ｄは１以上の整数。）は、Ｄ次元の実数値ベクトルであり、ｎ番の患者データの患者に関する年齢、性別、投薬情報、検査値などの情報を含んでいる。ただし、実施例１の理解の容易さを高めるため、以下のように、特徴量ベクトルｘ（ｎ）を｛年齢、性別、白血球数［ｍｉｌｌｉｏｎ  ｃｅｌｌｓ／μｌ］｝（Ｄ＝３次元）として説明する。なお、テストデータ集合２５２は、特徴量ベクトルｘ（ｎ）として用いられなかった他の特徴量ベクトルであるテストデータの集合である。テストデータとなる他の特徴量ベクトルを、特徴量ベクトルｘ´（ｎ）と表記する。
【００３３】
目的変数Ｙ（ｎ）は、上述した生存時間、すなわち、学習対象についての分析開始から分析終了までの分析時間を示す。具体的には、たとえば、目的変数Ｙ（ｎ）は、ｎ番目の患者データの患者が「０」，「１」，「２」のいずれかのクラス値ｉを示す時間クラスである。目的変数Ｙ（ｎ）を時間クラスＹ（ｎ）と称す場合もある。ここで、クラス値ｉの大小関係は、時間クラスの基となる生存時間の大小関係と同じになるように設定する。実施例１では、目的変数Ｙ（ｎ）であるクラス値ｉ＝０は生存時間が０ヶ月、クラス値ｉ＝１は生存時間が１ヶ月、クラス値ｉ＝２は生存時間が２ヶ月であることを示す。
【００３４】
バイナリ変数ｅ（ｎ）は、学習対象である特徴量ベクトルｘ（ｎ）についての分析開始から分析終了までの分析時間（この例では生存時間）内での分析（この例では治験）の継続性を示す。具体的には、たとえば、バイナリ変数ｅ（ｎ）の値は、ｎ番の患者データｎの患者について、打ち切りが起こった場合は「０」、打ち切りが起こらなかった場合は「１」となる。ここで、「打ち切りが起こった」患者とは、治験終了時に（生存時間経過後に）生存している患者である。一方、「打ち切りが起こらなかった」患者とは、治験終了までに（治験開始から生存時間が経過した時刻に）死亡し、治験が終了してしまった患者である。
【００３５】
たとえば、クラス値ｉ＝２でかつバイナリ変数ｅ（ｎ）＝０である患者データｎの場合、２か月で治験が打ち切られ、かつ、治験終了時に当該患者が生存していることを示す。一方、たとえば、クラス値ｉ＝２でかつバイナリ変数ｅ（ｎ）＝１である患者データｎの場合、治験の終了を待たずに、治験開始から２か月で当該患者が死亡したため、当該患者の生存中は治験を打ち切らないまま、死亡後に当該治験をやめてしまったことを示す。
【００３６】
学習パラメータ２６５は学習部２６１からの出力データであり、後述する学習パラメータ｛Ｗｈ，Ｗ，ｗ｝を含む。学習パラメータ２６５が設定されたニューラルネットワーク３００を予測モデルと称す。学習時において、学習パラメータ｛Ｗｈ，Ｗ，ｗ｝の初期値はランダムに決定される。
【００３７】
なお、分析装置２２０は複数台で構成されてもよい。たとえば、負荷分散のため、分析装置２２０が複数存在してもよい。また、分析装置２２０は、機能ごとに複数台で構成されてもよい。たとえば、分析装置２２０は、学習部２６１およびサーバＤＢ２６３を含む第１のサーバと、予測部２６２およびサーバＤＢ２６３を含む第２のサーバとで構成されてもよい。
【００３８】
また、分析装置２２０は、学習部２６１および予測部２６２を含む第１の分析装置と、サーバＤＢ２６３を含む第２の分析装置とで構成されてもよい。また、分析装置２２０は、学習部２６１を含む第１のサーバと、予測部２６２を含む第２の分析装置と、サーバＤＢ２６３を含む第３の分析装置とで構成されてもよい。
【００３９】
＜ニューラルネットワークの構造例＞
図３は、実施例１にかかるニューラルネットワーク３００の構造例を示す説明図である。ニューラルネットワーク３００は、学習部２６１および予測部２６２で用いられる。ニューラルネットワーク３００は、ニューロン群３０２と、トランスフォームユニット群３０３と、リアロケーションユニット３０４と、ディシジョンユニット３０５と、インポータンスユニット３０６と、を有する。また、入力データとなる特徴量ベクトルｘ（ｎ）を入力ニューロン３０１として図示した。
【００４０】
ニューロン群３０２は、Ｌ（Ｌは１以上の整数）階層のニューロン３０２（１）〜３０２（Ｌ）の集合である。学習部２６１による学習時においては、ニューロン３０２（ｋ）（ｋは、１≦ｋ≦Ｌを満たす整数）は、１つ上位階層のニューロン３０２（ｋ−１）からの出力データを受け付ける。なお、ニューロン３０２（１）は、特徴量ベクトルｘ（ｎ）の入力を受け付ける。
【００４１】
そして、ニューロン３０２（ｋ）は、下記式（１）に示すように、特徴量ベクトルｘ（ｎ）と学習パラメータＷｈｋ∈ＲＤ×Ｄ´（Ｄ´は１以上の整数。）とに基づいて、内部ベクトルｈ（ｋ）を算出する。なお、説明の容易さから、インデックスｎを省略した。
【００４２】
【数１】
2020071517.tif 000003
【００４３】
上記式（１）において、活性化関数σは、たとえば、シグモイド関数である。ニューロン３０２（１）〜３０２（Ｌ）の演算において、活性化関数σは、ｔａｎｈ，ｓｏｆｔｐｌｕｓ，Ｒｅｌｕなどの関数でもよい。実施例１では、ニューロン群３０２の活性化関数の種類（Ａｃｔｉｖａｔｉｏｎ）と層数（Ｉｎｎｅｒ  ｌａｙｅｒｓ）、内部ベクトルｈ（ｋ）の次元数Ｄ´（Ｎｕｍｂｅｒ  ｏｆ  ｎｅｕｒｏｎｓ）を自由に設定可能である（図６を参照）。
【００４４】
このように、ニューロン３０２（ｋ）は、１つ上の階層（ｋ−１）のニューロン３０２（ｋ−１）からの出力を受け付けて、上記式（１）を実行し、１つ下の階層（ｋ＋１）に出力する。なお、第１階層のニューロン３０２（１）については、特徴量ベクトルｘ（ｎ）を受け付けて、上記式（１）を実行し、１つ下の第２階層に出力する。
【００４５】
また、予測部２６２による予測時においても、上記式（１）および下記式（５）および下記式（６）で生成される学習パラメータＷｈとにより、ニューロン群３０２は、学習時と同様に実行可能である。なお、以降において予測時に用いる各情報には特徴量ベクトルｘ´（ｎ）と同様に「´」を付す。予測時では、ニューロン３０２（ｋ）は、１つ上位階層のニューロン３０２（ｋ−１）からの出力データを受け付ける。なお、ニューロン３０２（１）は、テストデータ集合２５２である特徴量ベクトルｘ´（ｎ）の入力を受け付ける。
【００４６】
トランスフォームユニット群３０３は、Ｌ個のトランスフォームユニット３０３（１）〜３０３（Ｌ）の集合を含む。学習部２６１による学習時においては、トランスフォームユニット３０３（１）〜３０３（Ｌ）は、下記式（２）により、同一階層の内部ベクトルｈ（ｋ）の入力を受け付けて、学習パラメータＷｋ∈ＲＤ×Ｄ´を用いて、階層ごとにトランスフォームベクトルｖ（ｋ）α∈ＲＤを算出する。
【００４７】
【数２】
2020071517.tif 000004
【００４８】
上記式（２）では、アインシュタインの縮約記法を用いた。たとえば、Ｚα＝Ｘαβ・Ｙβにおいて、Ｘはα行β列の行列であり、Ｙはβ行１列の行列であり、Ｚはα行１列の行列（ベクトル）であることを示す。以降、演算を説明する際の式では、アインシュタインの縮約記法を用いる。また、α、βを省略する場合もある。
【００４９】
各トランスフォームベクトルｖ（ｋ）αは、後段のトランスフォームユニット３０３ｅに入力される。トランスフォームユニット３０３ｅは、各トランスフォームベクトルｖ（ｋ）αを平均化して、トランスフォームベクトルＶαを出力する。トランスフォームベクトルＶαは、後段のリアロケーションユニット３０４に出力される。
【００５０】
また、予測部２６２による予測時においても、トランスフォームユニット群３０３は、同一階層の内部ベクトルｈ´（ｋ）の入力を受け付けて、学習パラメータＷｋを用いて、階層ごとにトランスフォームベクトルｖ´（ｋ）αを算出する。トランスフォームユニット３０３ｅは、各トランスフォームベクトルｖ´（ｋ）αを平均化して、トランスフォームベクトルＶ´αを出力する。
【００５１】
リアロケーションユニット３０４は、特徴量ベクトル群をその特徴量空間において再配置する。具体的には、たとえば、学習部２６１による学習時においては、リアロケーションユニット３０４は、下記式（３）により、特徴量ベクトルｘ（ｎ）と平均化されたトランスフォームベクトルＶとの入力を受け付けて、リアロケーションベクトルｒα∈ＲＤを算出する。リアロケーションベクトルｒαは、後段のディシジョンユニット３０５と、インポータンスユニット３０６と、に出力される。
【００５２】
【数３】
2020071517.tif 000005
【００５３】
また、予測部２６２による予測時においても、リアロケーションユニット３０４は、特徴量ベクトルｘ´（ｎ）と平均化されたトランスフォームベクトルＶ´との入力を受け付けて、上記式（２）および上記式（３）と下記式（５）および下記式（６）で生成される学習パラメータＷとにより、リアロケーションベクトルｒ´α∈ＲＤを算出する。
【００５４】
ディシジョンユニット３０５は、学習部２６１による学習時においては、リアロケーションベクトルｒαの入力を受け付けて、下記式（４）により、目的変数Ｙ（ｎ）に対応する予測値ｐ（ｎ）を算出する。
【００５５】
【数４】
2020071517.tif 000006
【００５６】
右辺のｓｏｆｔｍａｘはｓｏｆｔｍａｘ関数、ｗｉ∈ＲＤ×Ｉはクラス値ｉの学習パラメータ（Ｉはクラス値ｉの総数。本例ではＩ＝３。）、ｐｉ（ｉ＝０，１，２）は、各クラス値ｉに死亡する確率、つまりハザード関数の予測値である。
【００５７】
また、学習部２６１は、統計的勾配法を用いて、目的変数Ｙ（ｎ）と打ち切りの有無を表すバイナリ変数ｅ（ｎ）との組み合わせと確率値ｐ（ｎ）ｉを入力とし、下記式（５）および下記式（６）に示すＤｅｅｐＨｉｔ損失関数（非特許文献１参照）が最小化するように、学習パラメータ２６５（｛Ｗｈ，Ｗ，ｗ｝）を計算する。
【００５８】
【数５】
2020071517.tif 000007
【００５９】
上記式（６）で定義される確率の予測値Ｆ（ｎ）ｉは、患者データｎで特定される患者がその患者データｎの時間クラスｉの満了までに死亡する確率を示す。上記式（５）の第一項は、打ち切りが起こらなかったことを示すバイナリ変数ｅ（ｎ）≠０である死亡した患者（すなわち、打ち切り前に死亡）の患者データｎに対し、第１確率値ｐ（ｎ）ｉ＝Ｙ（ｎ）を最大化する。第１確率値ｐ（ｎ）ｉ＝Ｙ（ｎ）は、その患者データｎで特定される患者が、目的変数Ｙ（ｎ）が示す時間クラスｉにおいて死亡する確率である。
【００６０】
第二項は、打ち切られたことを示すバイナリ変数ｅ（ｎ）＝０の患者の患者データｎに対し、第２確率値（１−Ｆ（ｎ）ｉ＝Ｙ（ｎ））を最大化する。第２確率値（１−Ｆ（ｎ）ｉ＝Ｙ（ｎ））は、その患者データｎで特定される患者が、時間クラスＹ（ｎ）が示す生存時間の満了時に死亡していない確率である。
【００６１】
第三項は、時間クラスＹの大小関係を定める。時間クラスＹの大小関係Ｙ（ｎ）＜Ｙ（ｍ）で規定される時間クラスＹ（ｎ）、Ｙ（ｍ）を目的変数とする患者データｎ、ｍ（ｍ≠ｎ）が存在するとき、予測部２６２に大小関係Ｙ（ｎ）＜Ｙ（ｍ）が正しく反映されているならば、患者データｎ、ｍが時間クラスＹ（ｎ）までに死亡する確率の予測値Ｆ（ｎ）ｉ＝Ｙ（ｎ）、Ｆ（ｍ）ｉ＝Ｙ（ｎ）は予測値Ｆの大小関係Ｆ（ｎ）ｉ＝Ｙ（ｎ）＞Ｆ（ｍ）ｉ＝Ｙ（ｎ）を満たさなければならない。
【００６２】
しかし、上記式（５）の第三項が存在しなければ、分析装置２２０は、時間クラスＹに大小関係を設定できない。このため、分析装置２２０は、必ずしも予測値Ｆの大小関係Ｆ（ｎ）ｉ＝Ｙ（ｎ）＞Ｆ（ｍ）ｉ＝Ｙ（ｎ）を満たさない。これを防止するため、第三項によって予測値Ｆの大小関係Ｆ（ｎ）ｉ＝Ｙ（ｎ）＞Ｆ（ｍ）ｉ＝Ｙ（ｎ）を満たさないすべての患者データの組み合わせ（ｎ，ｍ）にペナルティを与え、予測値Ｆの大小関係Ｆ（ｎ）ｉ＝Ｙ（ｎ）＞Ｆ（ｍ）ｉ＝Ｙ（ｎ）を満たすことにした。
【００６３】
学習部２６１は、上記式（５）および上記式（６）で生成された学習パラメータ２６５（｛Ｗｈ，Ｗ，ｗ｝）をサーバＤＢ２６３に保存する。
【００６４】
インポータンスユニット３０６は、テストデータである特徴量ベクトルｘ´（ｎ）を、学習パラメータ２６５（｛Ｗｈ，Ｗ，ｗ｝）が反映されたニューラルネットワーク３００に与えて、重要度ベクトルξを計算する。
【００６５】
具体的には、たとえば、インポータンスユニット３０６は、学習パラメータｗとテストデータである特徴量ベクトルｘ´（ｎ）に基づくトランスフォームベクトルＶ´を下記式（７）に与えて重要度ベクトルξαｉ（ｘ´）∈ＲＤ，（ｉ＝０，１，２）を計算する。
【００６６】
【数６】
2020071517.tif 000008
【００６７】
重要度ベクトルξαｉ（ｘ´）は、クラス値ｉ＝０，１，２のそれぞれに対しての特徴量ベクトルｘ´の重要度を示すベクトルであり、特徴量ベクトルｘ´αがクラス値ｉに分類される確率値ｐｉの予測にどれだけ寄与したかを示す。
【００６８】
ディシジョンユニット３０５は、予測部２６２による予測時においても、下記式（８）を用いて、予測値ｐ´ｉ（ｎ）を算出する。
【００６９】
【数７】
2020071517.tif 000009
【００７０】
上記式（８）において、右辺の重要度ベクトルξαｉ（ｘ´（ｎ））は、テストデータの特徴量ベクトルｘ´（ｎ）がクラス値ｉの時間クラスに存在することを識別する局所平面のパラメータに対応する。たとえば、ｉ＝１で、かつ、テストデータの特徴量ベクトルｘ´（ｎ）が患者１０５を示すとき、重要度ベクトルξαｉ（ｘ´（ｎ））は、局所平面１０３のパラメータに対応する。
【００７１】
＜学習および予測処理手順例＞
図４は、分析装置による学習および予測処理手順例を示すフローチャートである。ステップＳ４０１、Ｓ４０２が学習部２６１が実行する学習フェーズであり、ステップＳ４０３〜Ｓ４０７が予測部２６２が実行する予測フェーズである。まず、学習部２６１は、サーバＤＢ２６３から訓練データ集合２６４を読み込み（ステップＳ４０１）、学習パラメータ生成処理を実行する（ステップＳ４０２）。
【００７２】
学習パラメータ生成処理（ステップＳ４０２）では、学習部２６１は、上述したように、訓練データ集合２６４の一部である特徴量ベクトルｘ（ｎ）をニューラルネットワーク３００に与えることで、上記式（１）で内部ベクトルｈ（ｋ）を計算する（ステップＳ４２１）。
【００７３】
つぎに、学習部２６１は、上記式（２）で階層ｋごとにトランスフォームベクトルｖα（ｋ）を計算し、これらを平均化したトランスフォームベクトルＶαを計算する（ステップＳ４２２）。つぎに、学習部２６１は、上記式（３）でリアロケーションベクトルｒαを計算する（ステップＳ４２３）。つぎに、学習部２６１は、上記式（４）で時間クラスｉに死亡する確率、つまりハザード関数の予測値ｐｉをクラス値ｉごとに計算する（ステップＳ４２４）。
【００７４】
そして、学習部２６１は、上記式（４）で算出された予測値ｐ（ｎ）ｉと訓練データ集合２６４の一部である目的変数Ｙ（ｎ）とを上記式（５）および上記式（６）に与えることで、学習パラメータ２６５（｛Ｗｈ，Ｗ，ｗ｝）を最適化する（ステップＳ４２５）。これにより、最適化された学習パラメータ２６５（｛Ｗｈ，Ｗ，ｗ｝）が生成される。そして、学習部２６１は、生成した学習パラメータ２６５（｛Ｗｈ，Ｗ，ｗ｝）をサーバＤＢ２６３に保存する（ステップＳ４２６）。
【００７５】
つぎに、予測部２６２は、クライアントＤＢ２５１からテストデータ集合２５２である特徴量ベクトルｘ´（ｎ）を読み込む（ステップＳ４０３）。つぎに、予測部２６２は、特徴量の重要度を算出する（ステップＳ４０４）。具体的には、たとえば、予測部２６２は、ニューロン群３０２により特徴量ベクトルｘ´（ｎ）と最適化された学習パラメータＷｈとを上記式（１）に与えて内部ベクトルｈ´（ｋ）を生成する。
【００７６】
予測部２６２は、トランスフォームユニット３０３により、内部ベクトルｈ´（ｋ）と最適化された学習パラメータＷｋとを上記式（２）に与えてトランスフォームベクトルｖ´（ｋ）を生成し、生成したトランスフォームベクトルｖ´（１）〜ｖ´（Ｌ）を平均化して、トランスフォームベクトルＶ´αを生成する。そして、予測部２６２は、インポータンスユニット３０６により、最適化された学習パラメータｗαｉとトランスフォームベクトルＶ´αを上記式（７）に与えて、特徴量ベクトルｘ´の重要度ベクトルξαｉ（ｘ´（ｎ））を算出する。
【００７７】
つぎに、予測部２６２は、ディシジョンユニット３０５により、特徴量ベクトルｘ´（ｎ）と、上記式（８）で求めた重要度ベクトルξαｉ（ｘ´（ｎ））とを、上記式（８）に与えて、ハザード関数の予測値ｐ´ｉ（ｎ）をクラス値ｉごとに算出する（ステップＳ４０５）。
【００７８】
そして、予測部２６２は、算出したハザード関数の予測値ｐ´ｉ（ｎ）と重要度ベクトルξαｉ（ｘ´（ｎ））との組み合わせを予測結果２５３として、クライアントＤＢ２５１に保存する（ステップＳ４０６）。このあと、クライアント端末２００は、予測結果２５３をモニタ２２５に表示する（ステップＳ４０７）。
【００７９】
このように、実施例１によれば、打ち切りを含むデータの場合でありながら、個々の患者について各特徴量の重要度を算出可能となる。これにより、実施例１の分析装置２２０は、予測値ｐ´ｉ（ｎ）の説明の容易化を高精度かつ効率的に実現することができる。
【００８０】
なお、ステップＳ４０６では、分析装置２２０は、予測結果２５３をサーバＤＢ２６３に保存してもよい。また、ステップＳ４０７では、分析装置２２０は、予測結果２５３をクライアント端末２００に送信することで、クライアント端末２００が、予測結果２５３をモニタ２２５に表示することとしてもよい。
【００８１】
＜ニューラルネットワークの設定画面例＞
図５は、ニューラルネットワークの設定画面例を示す説明図である。ニューラルネットワークの設定画面５００は、モニタ２０５，２２５で表示可能である。設定画面５００がモニタ２０５で表示される場合には、クライアント端末２００でニューラルネットワークを設定可能であり、設定画面５００がモニタ２２５で表示される場合には、分析装置２２０でニューラルネットワークを設定可能である。
【００８２】
ユーザは、アトリビュートパネル５０１でニューラルネットワークの詳細な設定を編集する。アトリビュートパネル５０１の「Ｉｎｎｅｒ  Ｌａｙｅｒ  Ｎｕｍｂｅｒ」は、ニューロン群３０２の階層数Ｌである。図示したニューラルネットワーク３００では、ニューロン群３０２の階層数はＬ層である。
【００８３】
アトリビュートパネル５０１のまた、「Ｎｕｍｂｅｒ  ｏｆ  ｎｅｕｒｏｎｓ」は、内部ベクトルｈ（ｋ）の次元数Ｄ´である。
【００８４】
ユーザは、ファイル挿入ボタン５０２を押下することで、ファイル群のリストから分析対象ファイルを選択する。これにより、訓練データ集合２６４がサーバＤＢ２６３に設定され、テストデータ集合２５２がクライアントＤＢ２５１に設定される。ユーザは、演算開始ボタン５０３を押下することで、図４に示した学習処理および予測処理が実行される。アウトプットパネル５０４は、図４に示した予測処理の予測結果２５３を表示する。
【００８５】
＜アウトプットパネル５０４の表示例＞
図６は、アウトプットパネル５０４の表示例を示す説明図である。表示画面６００は、アウトプットパネル５０４において、予測結果２５３を表示する。図６中、「Ｐｒｏｂａｂｉｌｉｔｙ」の「５７％」が予測値ｐ´ｉ（ｎ）である。ｘ１〜ｘ９は、テストデータ集合２５２である特徴量ベクトルｘ´（ｎ）を構成するＤ＝９次元の特徴量である。特徴量ｘ１〜ｘ９のパーセンテージは、重要度ベクトルξαｉ（ｘ´（ｎ））の値を正規化して百分率であらわした数値である。
【００８６】
なお、図３に示したニューラルネットワーク３００において、同じ特徴量ベクトルｘ（ｎ）で分析可能な分析対象が複数存在する場合には、ニューロン群３０２を途中の中間階層ｋで分岐させてもよい。第１階層のニューロン３０２（１）から中間階層ｋのニューロン３０２（ｋ）までのニューロン群を前段ニューロン群と称す。また、中間階層ｋの１つ下の階層（ｋ＋１）のニューロン３０２（ｋ＋１）から最下層Ｌのニューロン３０２（Ｌ）までのニューロン群を後段ニューロン群と称す。後段ニューロン群の分岐数は、分析対処の数と同数である。同様に、目的変数Ｙ（ｎ）およびバイナリ変数ｅ（ｎ）も分析対象の数と同数である。ただし、特徴量ベクトルｘ（ｎ）は、分析対象の数に依存せず、１個である。
【００８７】
分岐を含むニューラルネットワーク３００は、たとえば、一方の分岐先に対応する分析対象としてがん関連死に関する複数種類の死亡要因（特徴量）について生存時間を予測し、他方の分岐先に対応する分析対象として非がん関連死に関する複数種類の死亡要因（特徴量）について生存時間を予測することができる。
【００８８】
図７は、ニューラルネットワーク３００の他の構造例を示す説明図である。図７では、一例として階層数Ｌ＝４として説明する。ニューロン群３０２は、階層ｋ＝２で分岐されている。一方の分岐先に関連する構成の符号の末尾にはＡを付し、他方の分岐先に関連する構成の符号の末尾にはＢを付す。末尾のＡ，Ｂのみが異なる符号のニューロンは、その関数は同一であるが、学習パラメータの値が異なることを示す。
【００８９】
たとえば、ニューロン３０２（３）Ａ、３０２（３）Ｂは、上記式（１）で内部ベクトルｈ（３）を算出するが、学習パラメータＷｈ３は異なる。なお、図７では説明の容易化のため、分岐する前のニューロン３０２（１）、３０２（２）について、分岐先ごとに記載したが、これらのニューロンは分岐先ごとに設ける必要はない。
【００９０】
入力ニューロン３０１、ニューロン３０２（１），３０２（２）、トランスフォームユニット３０３（１），３０３（２）を共通化することができるため、１つの特徴量ベクトルで分岐数分の学習および予測をおこなうことができる。なお、図７では、分岐数を２としたが、３以上でもよい。
【００９１】
＜実験例＞
また、実施例１の分析装置２２０は、たとえば、乳がん患者のＭＥＴＡＢＲＩＣ（Ｔｈｅ  Ｍｏｌｅｃｕｌａｒ  Ｔａｘｏｎｏｍｙ  ｏｆ  Ｂｒｅａｓｔ  Ｃａｎｃｅｒ  Ｉｎｔｅｒｎａｔｉｏｎａｌ  Ｃｏｎｓｏｒｔｉｕｍ）データを特徴量ベクトルとして、乳がん患者の生存時間を予測することができる。
【００９２】
ＭＥＴＡＢＲＩＣデータとは、ＭＥＴＡＢＲＩＣが乳がんのサブグループ分類を行うために作成した、１，９８０人の乳がん患者の遺伝子発現情報、臨床特徴、生存時間、および打ち切りの有無を示す情報からなるデータセットである。このＭＥＴＡＢＲＩＣデータの遺伝子発現情報のうち、一般に乳がん患者の治療法の選択に用いられる、遺伝子マーカーＭＫＩ６７，ＥＧＦＲ，ＰＧＲ，ＥＲＢＢ２による遺伝子発現情報のみを用いる。
【００９３】
実施例１に基づく分析装置２２０が出力する重要度で特定される因子により、医師は個々乳がん患者に対して適切な予後指導が可能となる。このことは、医療の質の向上に貢献すると共に、国の医療や保健費の削減につながる。
【００９４】
ＭＥＴＡＢＲＩＣデータを用いて分析装置２２０の動作確認を行った結果について説明する。ＭＥＴＡＢＲＩＣデータはｎ＝１，９８０サンプル、Ｄ＝９次元の特徴量ベクトルｘ（ｎ）からなる。また、目的変数Ｙ（ｎ）は生存時間を月単位で計測した量とした。
【００９５】
図８は、実験結果を示す図表である。具体的には、たとえば、図８の図表８００は、Ｃｏｘ比例ハザードモデルに基づく識別器と、ＤｅｅｐＨｉｔ（非特許文献３）に基づく識別器と、実施例１にかかる分析装置２２０との比較を、Ｃ−ｉｎｄｅｘ（Ｃｏｎｃｏｒｄａｎｃｅ  ｉｎｄｅｘ）の尺度で１０−ｆｏｌｄ  ｃｒｏｓｓ  ｖａｌｉｄａｔｉｏｎを用いて実施した実験結果を示す。
【００９６】
Ｃ−ｉｎｄｅｘの値は、Ｃｏｘ比例ハザードモデルで０．６３、ＤｅｅｐＨｉｔで０．６４、実施例１にかかる分析装置２２０（Ｐｒｏｐｏｓｅｄ）で０．６６となった。実施例１にかかる分析装置２２０は従来法を上回る性能を達成した。
【００９７】
なお、実施例１では、医療分野での利用について説明したが、分析装置２２０の利用は医療分野に限られず、たとえば、動画配信サービスにも適用可能である。たとえば、特徴量ベクトルを顧客の特徴とし、打ち切りが起こった顧客データについて、バイナリ変数ｅ＝０は、クラス値ｉの期間中解約せずに継続利用したことを示し、バイナリ変数ｅ＝１は、クラス値ｉの期間において解約したことを示す。これにより、動画配信サービスの事業者は、算出された重要度から途中解約しやすい要因を把握することができ、サービスの改善を図ることができる。
【実施例２】
【００９８】
実施例２は、分析装置２２０にＣｏｘ回帰モデルを適用する例を示す。たとえば、工場のプレス機のハザード関数を予測するともに、その予測に寄与する因子を出力する分析装置２２０を例として説明する。
【００９９】
実施例２にかかる分析装置２２０が出力する予測値により、プレス機が故障する前にメンテナンス等の予防を行うことができ、プレス機の交換にかかる費用や、その間プレス機の稼動が停止することによる損失を防ぐことができる。さらに、実施例２にかかる分析装置２２０が出力する重要度で特定される因子により、故障前の予防措置を効率的かつ的確に行うことができる。このことは、製造業における資産維持費の削減や、施設の効率的な稼動を可能にし、製造業の業績向上に寄与する。
【０１００】
訓練データは、たとえば、特徴量ベクトルｘ（ｎ）と目的変数Ｔ（ｎ）、打ち切りが起こったサンプルは０、打ち切りが起こらなかったサンプルは１を値として持つバイナリ変数ｅ（ｎ）の組み合わせ（ｘ（ｎ），Ｔ（ｎ），ｅ（ｎ））により構成されるサンプルデータである。ｎ＝｛１，…，Ｎ｝はあるサンプルデータを指定するためのインデックスである。
【０１０１】
特徴量ベクトルｘ（ｎ）∈ＲＤはＤ次元の実数値ベクトルであり、機械の材質や製造年月のような仕様情報や、電圧や振動、温度などのセンサー情報を含む。目的変数Ｔ（ｎ）は、プレス機の生存時間である。
【０１０２】
ディシジョンユニット３０５で実行される演算は、上記式（４）に替わり、Ｃｏｘ回帰モデルによる式（９）を用いて実施される。
【０１０３】
【数８】
2020071517.tif 000010
【０１０４】
ｗα∈ＲＤは学習パラメータであり、ｈｃｏｘはＣｏｘ回帰モデルにおけるハザード関数の予測値である。ディシジョンユニット３０５で実行される演算において、式（９）で表されるＣｏｘ回帰モデルの代わりに、指数回帰モデル、Ｗｅｉｂｕｌｌ回帰モデル、対数ロジスティック回帰モデルを使用してもよい。
【０１０５】
また、学習部２６１で実行される演算は上記式（５）に替わり、下記式（１０）で表されるＣｏｘの部分尤度関数のＥｆｒｏｎ法による近似式を用いて実行される。
【０１０６】
【数９】
2020071517.tif 000011
【０１０７】
ここで、ｄｎは生存時間がＴ（ｎ）である人数、Ｄ（Ｔ（ｎ））は生存時間がＴ（ｎ）であるサンプル集合、Ｒ（Ｔ（ｎ））は生存時間がＴ（ｎ）以上であるサンプル集合である。学習部２６１で行われる演算において、式（１１）の代わりにＢｒｅｓｌｏｗ法またはＥｘａｃｔ法によるＣｏｘの部分尤度関数式を用いることができる。また、ディシジョンユニット３０５で実行される演算において指数回帰モデル、Ｗｅｉｂｕｌｌ回帰モデル、対数ロジスティック回帰モデルのいずれかを使用する場合、そのモデルの対数尤度関数を用いることができる。
【０１０８】
なお、本発明は前述した実施例に限定されるものではなく、添付した特許請求の範囲の趣旨内における様々な変形例及び同等の構成が含まれる。たとえば、前述した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに本発明は限定されない。また、ある実施例の構成の一部を他の実施例の構成に置き換えてもよい。また、ある実施例の構成に他の実施例の構成を加えてもよい。また、各実施例の構成の一部について、他の構成の追加、削除、または置換をしてもよい。
【０１０９】
また、前述した各構成、機能、処理部、処理手段等は、それらの一部又は全部を、たとえば集積回路で設計する等により、ハードウェアで実現してもよく、プロセッサがそれぞれの機能を実現するプログラムを解釈し実行することにより、ソフトウェアで実現してもよい。
【０１１０】
各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリ、ハードディスク、ＳＳＤ（Ｓｏｌｉｄ  Ｓｔａｔｅ  Ｄｒｉｖｅ）等の記憶装置、又は、ＩＣ（Ｉｎｔｅｇｒａｔｅｄ  Ｃｉｒｃｕｉｔ）カード、ＳＤカード、ＤＶＤ（Ｄｉｇｉｔａｌ  Ｖｅｒｓａｔｉｌｅ  Ｄｉｓｃ）の記録媒体に格納することができる。
【０１１１】
また、制御線や情報線は説明上必要と考えられるものを示しており、実装上必要な全ての制御線や情報線を示しているとは限らない。実際には、ほとんど全ての構成が相互に接続されていると考えてよい。
【符号の説明】
【０１１２】
Ｗｈ，Ｗ，ｗ，２６５  学習パラメータ
２  分析システム
１０  特徴量空間
１００  境界面
２００  クライアント端末
２２０  分析装置
２５１  クライアントＤＢ
２５２  テストデータ集合
２５３  予測結果
２６１  学習部
２６２  予測部
２６３  サーバＤＢ
２６４  訓練データ集合
３００  ニューラルネットワーク
３０１  入力ユニット
３０２  ニューロン群
３０３  トランスフォームユニット
３０４  リアロケーションユニット
３０５  ディシジョンユニット
３０６  インポータンスユニット
【図１】
2020071517.tif 000012
【図２】
2020071517.tif 000013
【図３】
2020071517.tif 000014
【図４】
2020071517.tif 000015
【図５】
2020071517.tif 000016
【図６】
2020071517.tif 000017
【図７】
2020071517.tif 000018
【図８】
2020071517.tif 000019