(57)【要約】【課題】解析対象であるデータの多様性に比べて教師データのサンプル数が少ない場合でも、未知サンプルについての判別・回帰分析に有用な入力次元を高い信頼度で選択可能とする。【解決手段】教師データを用いて機械学習を実行し判別分析や回帰分析のための非線形関数である学習モデルを構築したあと（Ｓ２）、該関数の偏微分値から入力次元毎に寄与度を算出する。そして、該寄与度に基づくガウス分布関数により定めた閾値を用い、無効化する入力次元を決める（Ｓ３〜Ｓ５）。一部の入力次元を無効化した教師データを用いた機械学習を再度行い（Ｓ６）、得られた学習モデルから入力次元毎の寄与度を求め、新旧の寄与度に基づいて寄与度を更新する（Ｓ７〜Ｓ８）。ステップＳ５〜Ｓ８の処理を規定回数繰り返し（Ｓ９）、最終的な寄与度に基づいて有用な入力次元を決定したうえで機械学習モデルを構築する（Ｓ１０）。【選択図】図３
2018152000.tif 000002
【特許請求の範囲】
【請求項１】
複数のサンプルについてそれぞれ分析装置で取得された、それぞれ異なる複数の次元における信号値を示す多次元の分析データを解析するものであって、複数のサンプルについての分析データである教師データに基づいて機械学習モデルを構築し該機械学習モデルを用いて未知のサンプルについての判別分析又は回帰分析を行う分析データ解析装置において、
a)与えられた教師データについて機械学習を実行して判別分析又は回帰分析のための機械学習モデルを作成するモデル作成部と、
b)前記モデル作成部で作成された機械学習モデルにおける各次元の入力の有用度合いをそれぞれ求める、又はすでに有用度合いが存在する場合には新たに求まった有用度度合いを利用して有用度合いを更新する有用度合い算出部と、
c)前記有用度合い算出部で算出された各次元の有用度合いに応じて確率的に一部の次元の入力を無効化する入力無効化部と、
d)前記入力無効化部により一部の次元の入力が無効化されたあとの教師データを用いて前記モデル作成部により機械学習を実行し、その結果に基づき各次元の入力の有用度合いを更新するという一連の処理を１回以上繰り返すように、前記モデル作成部、前記有用度合い算出部、及び前記入力無効化部を制御する繰り返し実行制御部と、
e)前記繰り返し実行制御部により一連の処理が１回以上繰り返されたあとの次元毎の有用度合いに基づいて、未知のサンプルについて判別分析する又は回帰分析する際に使用する次元を選択する又は重み付けする次元決定部と、
を備えることを特徴とする分析データ解析装置。
【請求項２】
請求項１に記載の分析データ解析装置であって、
前記入力無効化部は、各次元の有用度合いを示す指標値の平均値及び標準偏差を利用した確率分布関数を定め、該確率分布関数に基づいて確率的に決めた閾値に従って、各次元の有用度合いを示す指標値を判定することで一部の次元の入力を無効化することを特徴とする分析データ解析装置。
【請求項３】
請求項２に記載の分析データ解析装置であって、
前記確率分布関数はガウス分布関数であることを特徴とする分析データ解析装置。
【請求項４】
請求項１〜３のいずれか１項に記載の分析データ解析装置であって、
前記入力無効化部は、一部の次元の入力を実質的に０にすることで無効化することを特徴とする分析データ解析装置。
【請求項５】
請求項１〜４のいずれか１項に記載の分析データ解析装置であって、
前記有用度合い算出部は、前記機械学習モデルとして算出された判別分析又は回帰分析のための非線形関数についての次元毎の偏微分値に基づいて、各次元の有用度合いを示す寄与度を計算することを特徴とする分析データ解析装置。
【請求項６】
複数のサンプルについてそれぞれ分析装置で取得された、それぞれ異なる複数の次元における信号値を示す多次元の分析データを解析するものであって、複数のサンプルについての分析データである教師データに基づいて機械学習モデルを構築し該機械学習モデルを用いて未知のサンプルについての判別分析又は回帰分析を行う分析データ解析方法において、
a)与えられた教師データについて機械学習を実行して判別分析又は回帰分析のための機械学習モデルを作成するモデル作成ステップと、
b)前記モデル作成ステップで作成された機械学習モデルにおける各次元の入力の有用度合いをそれぞれ求める、及びすでに有用度合いが存在する場合には新たに求まった有用度度合いを利用して有用度合いを更新する有用度合い算出ステップと、
c)前記有用度合い算出部で算出された各次元の有用度合いに応じて確率的に一部の次元の入力を無効化する入力無効化ステップと、
を有し、前記入力無効化ステップで一部の次元の入力が無効化されたあとの教師データを用いて前記モデル作成ステップで再び機械学習を実行し、その結果に基づき各次元の入力の有用度合いを更新するという一連の処理を１回以上繰り返し、その繰り返しのあとに得られる次元毎の有用度合いに基づいて、未知のサンプルについて判別分析する又は回帰分析する際に使用する次元を選択する又は重み付けすることを特徴とする分析データ解析方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、質量分析装置、ガスクロマトグラフ（ＧＣ）、液体クロマトグラフ（ＬＣ）、分光測定装置、蛍光Ｘ線分析装置、核磁気共鳴装置（ＮＭＲ）などの各種分析装置で得られたデータを解析する分析データ解析装置及び方法に関し、さらに詳しくは、機械学習の一手法である教師あり学習を利用する分析データ解析装置及び方法に関する。なお、一般に「機械学習」には多変量解析を含まない場合もあるが、機械学習と多変量解析の境界は実際上明確ではなく、機械学習に多変量解析を含めて議論されることも多い。こうしたことから、本明細書では機械学習は多変量解析を含むものとする。
【背景技術】
【０００２】
多種多様である大量のデータの中から規則性を見いだし、それを利用してデータの予測や判別又は回帰を行うために、機械学習は有用な手法の一つであり、その応用分野は近年ますます広がっている。機械学習の代表的な手法としては、サポートベクターマシン（ＳＶＭ＝Support Vector Machine）、ニューラルネットワーク（Neural Network）、ランダムフォレスト（Random Forest）、アダブースト（AdaBoost）、ディープラーニング（Deep Learning）などがよく知られている。また、広義の機械学習に含まれる多変量解析の代表的な手法としては、主成分分析（ＰＣＡ＝Principal Component Analysis）、独立成分分析（ＩＣＡ＝Independent Component Analysis）、部分最小二乗法（ＰＬＳ＝Partial Least Squares）などがよく知られている（特許文献１等参照）。
【０００３】
機械学習には大別して教師あり学習と教師なし学習とがある。例えば、被検者について分析装置で収集されたデータに基づいて特定の疾病の有無を判別するような場合、その疾病に罹患している患者と罹患していない正常者とについてそれぞれ予め多数のデータを集めることが可能であれば、それらデータを教師データ（訓練データや学習データともいわれる）とする教師あり学習が可能である。最近では特に、質量分析装置により取得したマススペクトルデータに教師あり学習を適用し、癌などの特定の疾病の診断を行う試みが各所で進められている。
【０００４】
図９は癌検体と非癌検体についてのマススペクトルデータを教師データとして整理したピークマトリクスの一例である。
このピークマトリクスは、縦方向にサンプル、横方向にピーク位置（質量電荷比m/z）をとり、各ピークの信号強度値を要素の値としたものである。したがって、このピークマトリクスにおける１行の各要素は、一つのサンプルについての各質量電荷比におけるピークの信号強度値を示しており、１列の各要素は或る質量電荷比における全てのサンプルの信号強度値を示している。ここでは、sample 1〜sample n-2までのサンプルが癌検体であり、それら各サンプルには癌であることを示す「１」の値のラベルが付されている。一方、sample n-1〜sample Nまでのサンプルが非癌検体であり、それら各サンプルには非癌であることを示す「０」の値のラベルが付されている。この場合、ラベルは二値のラベルである。こうしたラベル付きの教師データを用いることで、癌と非癌とを高い確度で判別できる機械学習モデルを構築することができる。
【０００５】
上記のようなマススペクトルデータは、各質量電荷比値をそれぞれ一つの次元と捉えることで多次元データであるとみることができる。生体試料から得られるマススペクトルデータには、生体にごく一般的に含まれる多様な物質由来の情報が含まれる。そのため、通常、ピークの数は非常に多くなる。つまり、こうしたデータは次元数が非常に大きな多次元データである。一方で、癌などの特定の疾病の判別に有用なマーカーピークは少数であり、つまりは特定の疾病の判別に有用な次元は限られており、それ以外の多くの次元の情報はその特定の疾病の判別という目的に対しては無用な次元であるといえる。
【０００６】
機械学習においては過学習（過剰適合ともいわれる）により判別・回帰性能が低下するという問題がある。上述した無用である次元を有する教師データは過学習の一因であり、こうした次元の情報は機械学習における判別や回帰に悪影響を及ぼすことが知られている（非特許文献１など参照）。
過学習を防止する一つの方法は、判別・回帰の対象である事象（例えば癌と非癌との判別）とは全く無関係である物質由来のピークや上記事象と偽の相関を示す物質由来のピークがランダムノイズとして無視できる程度に多種多様なパターンのマススペクトルデータを、教師データとして与えて学習を行うことである。そのためには膨大な数のサンプルを用意する必要があるが、癌などの疾病の判別においては、予め収集可能であるデータの量は限られているため上記方法は現実的とはいえない。
【０００７】
一方、上記非特許文献１には、無用である次元に起因する過学習を防止する別の手法が開示されている。この手法では、機械学習を実行することで得られる判別関数や回帰関数の係数が小さい次元は有用性が低いとみなし、そうした次元の情報を正規化項を用いて０にする処理を行う。一般に機械学習では、このように、各入力次元がそれぞれどの程度有用であるのかを調べ、その有用性の度合いに応じた重み付け係数を入力に乗じることで、無用である次元の影響を軽減する試みが行われている。
【０００８】
しかしながら、こうした手法も教師データの数が或る程度多くないと十分な効果を発揮にしくい。何故なら、教師データのサンプル数が少ないと始めに機械学習によって得られる判別関数や回帰関数の精度が高くない場合があり、有用な次元を見つけることが難しいためである。実際上、生体試料をサンプルとするような場合には、サンプルに含まれる物質の数やその物質の構成比の多様さ、つまりデータ自体がもつ多様性に比べて教師データのサンプル数が少ないことが多いが、そうした場合、必ずしも有用な次元が抽出されるとは限らず、無用な次元の入力により、或いは、本来は有用である次元が反映されにくくなることにより、判別分析又は回帰分析の性能が上がらないという問題がある。
【先行技術文献】
【特許文献】
【０００９】
【特許文献１】国際公開第２０１４／１０５８６６号
【非特許文献】
【００１０】
【非特許文献１】ロバート・ティブシャーアーニ（Robert Tibshirani）、「レグレッション・シュリンケージ・アンド・セレクション・ビア・ザ・ラッソ（Regression Shrinkage and Selection via the Lasso）」、ジャーナル・オブ・ザ・ロイヤル・スタティスティカル・ソサイエティ・シリーズＢ（メソッドロジカル）（Journal of the Royal Statistical Society. Series B (Methodological)）、Vol. 58、No. 1、1996年、pp. 267-288
【非特許文献２】カレン・シモニヤン（Karen Simonyan）、ほか２名、「ディープ・インサイド・コンボリューショナル・ネットワークス：ビジュアライジング・イメージ・クラシフィケイション・モデルズ・アンド・サリエンシー・マップス（Deep Inside Convolutional Networks: Visualising Image Classification Models and Saliency Maps）」、コーネル大学図書館、［平成２９年３月１０日検索］、インターネット＜URL: https://arxiv.org/pdf/1312.6034.pdf＞
【発明の概要】
【発明が解決しようとする課題】
【００１１】
本発明は上記課題を解決するためになされたものであり、その目的とするところは、教師データのサンプル数が比較的少ない場合であっても、過学習の原因となる不要な次元を削減し判別分析や回帰分析に有用である次元を選択して機械学習モデルを構築することができる分析データ解析装置及び分析データ解析方法を提供することにある。
【課題を解決するための手段】
【００１２】
上記課題を解決するために成された本発明に係る分析データ解析装置は、複数のサンプルについてそれぞれ分析装置で取得された、それぞれ異なる複数の次元における信号値を示す多次元の分析データを解析するものであって、複数のサンプルについての分析データである教師データに基づいて機械学習モデルを構築し該機械学習モデルを用いて未知のサンプルについての判別分析又は回帰分析を行う分析データ解析装置において、
a)与えられた教師データについて機械学習を実行して判別分析又は回帰分析のための機械学習モデルを作成するモデル作成部と、
b)前記モデル作成部で作成された機械学習モデルにおける各次元の入力の有用度合いをそれぞれ求める、又はすでに有用度合いが存在する場合には新たに求まった有用度度合いを利用して有用度合いを更新する有用度合い算出部と、
c)前記有用度合い算出部で算出された各次元の有用度合いに応じて確率的に一部の次元の入力を無効化する入力無効化部と、
d)前記入力無効化部により一部の次元の入力が無効化されたあとの教師データを用いて前記モデル作成部により機械学習を実行し、その結果に基づき各次元の入力の有用度合いを更新するという一連の処理を１回以上繰り返すように、前記モデル作成部、前記有用度合い算出部、及び前記入力無効化部を制御する繰り返し実行制御部と、
e)前記繰り返し実行制御部により一連の処理が１回以上繰り返されたあとの次元毎の有用度合いに基づいて、未知のサンプルについて判別分析する又は回帰分析する際に使用する次元を選択する又は重み付けする次元決定部と、
を備えることを特徴としている。
【００１３】
また上記課題を解決するために成された本発明に係る分析データ解析方法は、複数のサンプルについてそれぞれ分析装置で取得された、それぞれ異なる複数の次元における信号値を示す多次元の分析データを解析するものであって、複数のサンプルについての分析データである教師データに基づいて機械学習モデルを構築し該機械学習モデルを用いて未知のサンプルについての判別分析又は回帰分析を行う分析データ解析方法において、
a)与えられた教師データについて機械学習を実行して判別分析又は回帰分析のための機械学習モデルを作成するモデル作成ステップと、
b)前記モデル作成ステップで作成された機械学習モデルにおける各次元の入力の有用度合いをそれぞれ求める、及びすでに有用度合いが存在する場合には新たに求まった有用度度合いを利用して有用度合いを更新する有用度合い算出ステップと、
c)前記有用度合い算出部で算出された各次元の有用度合いに応じて確率的に一部の次元の入力を無効化する入力無効化ステップと、
を有し、前記入力無効化ステップで一部の次元の入力が無効化されたあとの教師データを用いて前記モデル作成ステップで再び機械学習を実行し、その結果に基づき各次元の入力の有用度合いを更新するという一連の処理を１回以上繰り返し、その繰り返しのあとに得られる次元毎の有用度合いに基づいて、未知のサンプルについて判別分析する又は回帰分析する際に使用する次元を選択する又は重み付けすることを特徴としている。
【００１４】
本発明に係る分析データ解析装置及び分析データ解析方法において、機械学習はいわゆる教師あり学習を行う多変量解析を含む。また、解析対象であるデータが得られる分析装置の種類は特に問わないが、具体的には例えば、質量分析装置で得られたマススペクトルデータ、ＧＣやＬＣで得られたクロマトグラムデータ、分光測定装置で得られた吸光スペクトルデータなどとすることができる。もちろん、それ以外の様々な分析手法で収集されたデータを対象とすることができる。
【００１５】
解析対象のデータがマススペクトルデータである場合、例えばマスピークが存在する質量電荷比値がそれぞれ一つの次元である。また、解析対象のデータがクロマトグラムデータである場合、例えばクロマトピークが存在する保持時間がそれぞれ一つの次元である。また、解析対象のデータが吸光スペクトルデータである場合、例えば吸光ピークが存在する波長がそれぞれ一つの次元である。
【００１６】
本発明に係る分析データ解析装置及び分析データ解析方法において用いられる機械学習の手法は、教師あり学習により判別分析や回帰分析を行うものであれば特に限定されないが、例えば、ニューラルネットワーク、サポートベクターマシン、ランダムフォレスト、ディープラーニング、線形判別法、非線形判別法、主成分分析法、独立成分分析法、部分最小二乗法などを挙げることができる。どのような手法を用いるのかは、解析対象である分析データの種類、性質などにより適宜選択することが好ましい。
【００１７】
本発明に係る分析データ解析装置において、教師データが与えられるとモデル作成部は、その教師データを用いた機械学習を実行し、判別分析又は回帰分析のための機械学習モデルを作成する。この機械学習モデルは例えば、多次元入力と出力との関係を表す判別分析や回帰分析の関数である。次いで有用度合い算出部は、作成された機械学習モデルに関して各次元の入力の有用度合いを示す指標値をそれぞれ算出する。本願に先立ち、本出願人は国際出願ＰＣＴ／ＪＰ２００６／０７２８７３号において、機械学習において無用である次元に起因する過学習を防止するための新たな手法を提案しているが、上記「各次元の入力の有用度合いを示す指標値」として例えばこの先行出願において用いている寄与度を利用することができる。
【００１８】
即ち、ニューラルネットワーク等の機械学習における非線形関数を用いた判別分析や回帰分析では、線形判別分析のように相関係数を求めることはできないものの、非特許文献２の記載によれば、出力に対する入力の各次元の寄与度を偏微分を用いて算出することが可能である。なお、非特許文献２には、ニューラルネットワークによる非線形判別分析又は回帰分析においてシグモイド（sigmoid）関数を用いることが記載されているが、シグモイド関数に限ることなく、ニューラルネットワークを用いた学習法としては勾配法が一般的であるため、判別分析又は回帰分析のための非線形関数の各データ点における偏微分値（又は劣偏微分値）を算出することができる。また、サポートベクターマシンを用いた機械学習による判別分析又は回帰分析においても、入力及び出力がともに連続的な値をとるものであれば、同様に、偏微分値を算出したり、偏微分に相当する値として入力を微小に変化させた場合の差分を算出したりすることができる。各データ点における偏微分値又はそれに相当する値を算出することができれば、その値から寄与度を算出することができる。
【００１９】
入力無効化部は、上記のように入力次元毎に算出された例えば寄与度に応じて、その寄与度が低いつまりは有用性が低いと想定される入力次元ほど高い確率で以て無効になるように、確率的に一部の次元の入力を無効化する。ここで無効にする次元を確率的に決めるのは、寄与度の値自体が完全に信頼できるわけではないこと、或いは、寄与度が相対的に高い次元が必ずしも判別分析や回帰分析の性能向上に繋がるとは限らないこと、などの理由による。また、入力の無効化とは入力値を実質的に学習に影響がない値に置き換えることを意味し、一般的には、一部の次元の入力値を全て０にすればよいが、その次元の全ての入力値の平均値や乱数などに置き換えてもよい。
【００２０】
そのあと、繰り返し実行制御部の制御の下でモデル作成部は、一部の次元の入力が無効化された教師データを用い、機械学習を再び実行して機械学習モデルを求める。そして有用度合い算出部は、新たな機械学習モデルに関して各次元の入力の有用度合いを示す指標値をそれぞれ算出したうえで、その新たな指標値とすでに得られている指標値とを用いて例えば加重平均を計算する等により指標値を更新する。繰り返し実行制御部の制御の下で、こうした一連の処理を１回以上繰り返す。
【００２１】
上述したように入力無効化部において無効化される入力の次元は必ずしも全てが有用度合いが低いとは限らないが、有用度合いが低い可能性が高い入力次元である。そのため、上記一連の処理の繰り返しによって、真に有用度合いが高い入力次元は有用度合いを示す指標値が高くなり、逆に真に有用度合いが低い入力次元は有用度合いを示す指標値が低くなる。即ち、有用度合いを示す指標値の信頼性が高くなる。そこで、上記一連の処理の繰り返しのあと次元決定部は、入力次元毎の有用度合いを示す指標値に基づいて、未知のサンプルについての判別分析を行う又は回帰分析を行う際に使用する次元を決定する。このとき、使用する入力次元を選択し他の不要な次元を除外してもよいが、使用する次元の入力に乗じる重み付け係数を不要な次元に比べて高くすることで、実質的に、使用する入力次元を選択するようにしてもよい。なお、次元を決定する基準はユーザー或いは装置のメーカー側が経験的に定めたものとすればよく、例えば寄与度等の指標値の高い順から上位の所定個数の入力次元を選択するといった基準が考えられる。
【００２２】
本発明に係る分析データ解析装置において、入力無効化部が各次元の有用度合いに応じて確率的に一部の次元の入力を無効化するための一つの方法としては、各次元の有用度合いを示す指標値の平均値及び標準偏差を利用した確率分布関数を定め、該確率分布関数に基づいて確率的に決めた閾値に従って、各次元の有用度合いを示す指標値を判定する構成とするとよい。 ここで、確率分布関数としては様々な分布関数を用いることができるが、典型的にはガウス分布関数とすればよい。
どのような確率分布関数が適切であるのかは、解析対象である分析データの性質や数（次元数）などに依存するから、本装置を適用する対象のデータ等に応じて適切な確率分布関数を定めておくことが望ましい。
【００２３】
なお、本発明に係る分析データ解析装置及び分析データ解析方法では、入力次元の有用度合いを求める手法は特に限定されないから、上述した国際出願ＰＣＴ／ＪＰ２００６／０７２８７３号において本出願人が提案している手法と組み合わせるのみならず、非特許文献１に記載の、入力次元の有用度合い抽出技術と組み合わせることもできることは明らかであり、その場合でも入力次元の有用度合いをより高い信頼度で求めることが可能となる。
【発明の効果】
【００２４】
本発明に係る分析データ解析装置及び分析データ解析方法によれば、教師データのサンプル数が比較的少ない場合であっても、判別分析や回帰分析のために有用性の高い入力次元を高い信頼度で以て選択することができる。それによって、過学習の原因となる不要な入力次元を的確に削減し、判別分析や回帰分析の性能の高い機械学習モデルを構築することが可能となる。
【図面の簡単な説明】
【００２５】
【図１】本実施例の疾病判別装置における概略ブロック構成図。
【図２】全結合ニューラルネットワークの一例を示す模式図。
【図３】本実施例の疾病判別装置における有用次元選択処理のフローチャート。
【図４】本実施例の疾病判別装置において得られる寄与度分布とそれから求まる閾値決定用の乱数分布の一例を示す模式図。
【図５】本発明の手法を用いた場合における各入力次元の有用度合いの算出結果例を示す図。
【図６】本発明の手法を用いた場合における学習エポック毎の学習時と評価時の正当率の一例を示す図。
【図７】従来手法における各入力次元の有用度合いの算出結果例を示す図。
【図８】従来手法における学習エポック毎の学習時と評価時の正当率の一例を示す図。
【図９】癌検体と非癌検体についてのマススペクトルデータを教師データとして整理したピークマトリクスの一例を示す図。
【発明を実施するための形態】
【００２６】
以下、本発明に係る分析データ解析装置を用いた疾病判別装置の一実施例について、添付図面を参照して説明する。
図１は本実施例の疾病判別装置の概略ブロック構成図である。
【００２７】
この疾病判別装置は、被検者由来の生体試料を図示しない質量分析装置で質量分析することで得られたマススペクトルデータが未知サンプルデータとして入力されたとき、特定の疾病に罹患しているか否か（ここでは癌であるか非癌であるか）を判別する装置である。この疾病判別装置は、データ解析部１と、ユーザーインターフェイスである操作部２、表示部３と、を備える。
【００２８】
データ解析部１は、有用次元選択処理部１０、機械学習モデル作成部１８、及び未知データ判別部１９、を機能ブロックとして含む。また、有用次元選択処理部１０は、データ読込み部１１、機械学習実行部１２、有用度合い算出部１３、入力次元無効化部１４、有用度合い更新部１５、繰り返し処理制御部１６、有用次元決定部１７、を機能ブロックとして含む。
【００２９】
データ解析部１に含まれる各機能ブロックはハードウェアで構成することも可能ではあるが、実用上は、パーソナルコンピュータやより高性能なワークステーション等をハードウェア資源とし、該コンピュータにインストールされた専用のソフトウェア（コンピュータプログラム）を該コンピュータ上で実行することにより、上記各機能ブロックが具現化される構成とするとよい。
【００３０】
本実施例の疾病判別装置においてデータ解析部１には、例えば図９に示したような癌又は非癌のラベルが付された（つまりは既知の）多数のサンプル由来のマススペクトルデータ（ピークが存在する質量電荷比毎のピーク信号強度を示すデータ）が教師データとして予め与えられる。このマススペクトルデータの各質量電荷比がそれぞれ異なる入力次元である。即ち、ピークの本数が１０００であれば、入力の次元数は１０００である。また、各入力次元の入力値（信号値）はピークの強度値である。
【００３１】
有用次元選択処理部１０は後述する特徴的な処理により、疾病の判別に有用である次元を選択する。機械学習モデル作成部１８は、与えられた教師データの中で有用であるとして選択された次元のデータのみを用いて機械学習モデルを構築する。未知データ判別部１９は機械学習モデル作成部１８で構築された機械学習モデルを用いて未知サンプル由来のマススペクトルデータを判定し、該未知サンプルについて癌であるか非癌であるかのラベルを付与する。こうした判別結果は表示部３から出力される。
【００３２】
次に有用次元選択処理部１０において実施される有用次元選択処理について、図３に示すフローチャートに従って説明する。なお、ここでは機械学習の手法として先に挙げた国際出願ＰＣＴ／ＪＰ２００６／０７２８７３号で提案した手法を用いるが、利用可能な手法はこれに限らず、例えば非特許文献１に記載の方法でもよい。
【００３３】
全ての教師データが同じ質量分析装置で得られた場合にはそれほど問題はないが、異なる質量分析装置で得られたマススペクトルデータを教師データとして用いる場合、質量分析装置毎に検出感度が相違することがよくある。そこで、データ読込み部１１は教師データとして与えられたマススペクトルデータを読み込む際に、例えば異なるマススペクトルデータにおける入力次元毎の信号値の標準偏差が一定になるようにデータを正規化する（ステップＳ１）。正規化には種々の周知の方法を用いることができる。例えば、マススペクトルデータを構成する任意の質量電荷比における信号値を、その標準偏差で除する処理とすればよい。以下、この正規化後の教師データを単に教師データという。
【００３４】
次に機械学習実行部１２は、与えられた教師データを用いて、所定のアルゴリズムに従った非線形の判別分析や回帰分析による機械学習を実施して機械学習モデルを構築する（ステップＳ２）。具体的な機械学習の手法としては例えば、ニューラルネットワークやサポートベクターマシンなどを用いるとよいが、これらに限るものではない。非線形の判別分析や回帰分析を行うアルゴリズムである場合、得られる機械学習モデルは教師データを反映した判別分析や回帰分析の関数である。
【００３５】
続いて有用度合い算出部１３は各入力次元の有用度合いを示す指標値を算出するために、ステップＳ２で求まった判別分析や回帰分析のための非線形関数の偏微分値を入力次元毎に算出する（ステップＳ３）。この偏微分の手法は例えば非特許文献２に記載されている手法を用いればよい。この手法では、softmax関数に入力される値を出力値とみなして微分を行う。
【００３６】
そのあと、ステップＳ３において入力次元毎に算出された偏微分値を用いて各入力次元の寄与度を算出する（ステップＳ４）。本実施例のように或る特定の疾病に罹患しているか否かを判別するためのバイオマーカーをマススペクトル上で調べる際には、特定の入力次元（つまりは質量電荷比値）の信号強度値が適正値からどの程度外れているかが重要な要素である。即ち、特定の入力次元の信号強度値が適正値から外れる程度が大きいほど、或る特定の疾病に罹患している可能性が高いもの、を見つけることが重要である。このような場合には、偏微分値は正負両方に現れるため、偏微分値の二次ノルムに基づいて寄与度を算出すればよい。
【００３７】
次いで入力次元無効化部１４は、ステップＳ４において入力次元毎に求まった寄与度の分布の平均値μ及び標準偏差σを計算する。そして、この平均値μ及び標準偏差σを利用した乱数分布に基づいて各次元を無効化する閾値を次元毎に確率的に求める。ここでは、寄与度が図４中に実線で示すような分布を示す場合、図４中に一点鎖線で示すような、その寄与度の平均値μから００．５σを差し引いた値を中心とし、両側に２σの標準偏差を有するガウス分布関数を乱数分布として定める。そして、入力次元毎の寄与度をこのように決めたガウス分布関数に基づく閾値と比較し、寄与度が閾値以下であればその入力次元は無効であるとみなし、入力に乗じる重み付け係数を０にする。ただし、この入力の無効化は一時的である。もちろん、ここでは機械学習を実行する際に実質的に意味のないデータに置き換えればよいので、重み付け係数を０にする代わりに、その次元における全ての入力信号を平均値や乱数、或いは０値以外の一定値などに置き換えてもよい。
【００３８】
なお、寄与度の閾値を決める上記ガウス分布関数を定めるためのパラメータ、つまりその分布関数の中心値や標準偏差（分散）は想定されるピークの数（つまりは次元数）などに応じて適宜調整することが望ましい。また、ガウス分布関数以外の適宜の分布関数を用いてもよい。
【００３９】
ステップＳ５で一部の入力次元を無効化したあと、繰り返し処理制御部１６の制御の下で機械学習実行部１２は、一部の入力次元が無効化された（上述したように決められた重み付け係数が乗じられた）教師データを用いて再び機械学習を実施して機械学習モデルを構築する（ステップＳ６）。このステップＳ６の処理は入力データが実質的に相違する以外はステップＳ２の処理と同じである。そして、有用度度合い算出部１３はステップＳ３と同様に、ステップＳ６で求まった判別分析や回帰分析のための非線形関数を偏微分値を入力次元毎に算出する（ステップＳ７）。
【００４０】
次に有用度合い更新部１５はステップＳ４と同様に、ステップＳ７で求まった偏微分値に基づいて入力次元毎に寄与度を求めるとともに、新たに求まった寄与度と前回の処理で既に得られている寄与度とに基づいて寄与度を更新する（ステップＳ８）。例えば、新旧の寄与度にそれぞれ適宜の重み付け係数を乗じて平均（加重平均）を算出してもよいが、ここでは新旧の寄与度をそれぞれ重み付け係数に応じた対数をとったうえでの平均を算出している。
【００４１】
こうして各入力次元の有用度合いを示す寄与度を更新したならば、繰り返し処理制御部１６は処理の繰り返し回数が規定回数に達したか否かを判定する（ステップＳ９）。そして、規定回数に達していなければステップＳ５へと戻り、ステップＳ５〜Ｓ９の処理を繰り返す。通常、この規定回数はかなり大きな値であり、ステップＳ５〜Ｓ９の処理が繰り返される毎に、各入力次元の寄与度は更新されていき、その度に寄与度の信頼度が向上していく。そして、ステップＳ９においてＹｅｓと判定されると、有用次元決定部１７は最終的な寄与度に基づいて、有用と推定される入力次元を選択する（ステップＳ１０）。
具体的には例えば、最後に実施されるステップＳ８において更新された寄与度の大きい順に所定数の入力次元を選択する。或いは、寄与度が予め定めた下限値以上の範囲で所定数の入力次元を選択してもよい。或いは、寄与度に応じて決められる重み付け係数がきわめて０に近い値になることで、その重み付け係数が乗じられる入力次元が実質的に除外されるようにすることもできる。
【００４２】
なお、一般的に機械学習では、与えられた全ての教師データを用いて繰り返しの機械学習を実施すると計算時間がかなり長くなるため、教師データを予め定めた学習ミニバッチ単位で区切りつつ機械学習を繰り返す方法が採られることがよくある。こうした場合には、学習ミニバッチ単位で無効にする入力次元を決定するとよい。
【００４３】
次に、上述した有用次元選択処理の手法の効果を評価するために該手法をシミュレーションデータに適用した例について説明する。
ここでは、１０００次元（つまりはピーク数が１０００個）の正規分布した乱数（正規乱数）であるデータを教師データＸとし、次の(1)式で与えられるＹが負であるときに真、非負であるときに偽となる判別問題を解くことを想定する。なお、学習モデル構築のための教師データの数を９万個とし、これとは別に、学習モデルを評価する評価データとして１万個のデータを用意した。
Ｙ＝（Ｘ[10]＋0.5）・（Ｘ[20]−0.4）・（Ｘ[30]−0.3）・（Ｘ[40]＋0.2）・（Ｘ[50]−0.1）・Ｘ[60]    …(1)
【００４４】
また、ここでは９万個の教師データを１０００個ずつ区切ったものを学習ミニバッチ単位とし、学習ミニバッチ単位の一連の処理を９０回繰り返すことで９万個の教師データ全ての処理を行った。そして、それを１学習エポックとし、全部で４００エポック程度の処理の繰り返しを実施した。
【００４５】
また、このシミュレーションでは機械学習の手法として、図３に示した全結合ニューラルネットワークを用い、その活性化関数としてelu関数、判別関数としてsoftmax関数を用いた。そして、上記判別問題を上記有用次元選択処理を含む本発明に係る手法（手法Ａ）と非特許文献１に記載された手法（手法Ｂ）とでそれぞれ解き、各入力次元の寄与度、及び、学習エポック毎の正当率を求めた。
【００４６】
図５は手法Ａを用いた場合に得られる各入力次元の寄与度を示す図、図６は手法Ａを用いた場合に得られる学習エポック毎の正当率を示す図である。図７は手法Ｂを用いた場合に得られる各入力次元の寄与度を示す図、図８は手法Ｂを用いた場合に得られる学習エポック毎の正当率を示す図である。
【００４７】
(1)式で用いた特徴次元は６であり、図５によれば、六つの次元で高い寄与度となっていることが分かる。即ち、手法Ａでは特徴次元が正しく抽出されているといえる。これに対し、図７では三つの次元しか明瞭に抽出されておらず、特徴次元の一部が適切に抽出されていないことが分かる。また、図６と図８とを比較すれば、手法Ａは手法Ｂに比べて評価時の正答率がかなり高くなっていることが分かる。また、手法Ａでは、学習時の正当率と評価時の正当率との差が小さくなっている。この差が小さいほど過学習が小さいことを意味するから、この結果から、手法Ａでは過学習が回避された結果、機械学習モデルの判別性能が向上していることを確認することができる。
なお、この例の場合、十分な判別性能を得るには、２００エポック程度以上の処理の繰り返しを実施することが望ましい。
【００４８】
なお、上記実施例では機械学習の手法としてニューラルネットワークを用いたが、それ以外の各種の手法、サポートベクターマシン、ランダムフォレスト、非線形判別法などを用いてもよいことは明らかである。どのような手法を用いるのが適当であるかは、解析対象である分析データの性質等により異なるから、予め複数の機械学習手法を用意しておき、ユーザーが任意に選択できるようしてもよい。また、機械学習による判別分析や回帰分析は同じ種類のものを複数組み合わせたり、異なる種類のものを複数組み合わせたりすることができることはよく知られているから、そうした組み合わせを利用してもよいことは当然である。
【００４９】
また、上記実施例の疾病判別装置におけるデータ解析部は質量分析装置で得られたマススペクトルデータの解析に本発明を使用したものであるが、それ以外の様々な分析データについて機械学習を利用して何らかの判別分析や回帰分析を行う装置全般に本発明を適用できることは明らかである。例えば、ＬＣ装置やＧＣ装置で得られたクロマトグラムデータ、分光測定装置で得られた吸光スペクトルデータ、蛍光Ｘ線分析装置で得られたＸ線スペクトルデータなどを解析する装置全般に本発明を適用できることは明らかである。
【００５０】
また上記実施例は本発明の一例にすぎず、上記記載以外の点において、本発明の趣旨の範囲で適宜変形、修正、追加等を行っても本願特許請求の範囲に包含されることは当然である。
【符号の説明】
【００５１】
１…データ解析部
１０…有用次元選択処理部
１１…データ読込み部
１２…機械学習実行部
１３…有用度合い算出部
１４…入力次元無効化部
１５…有用度合い更新部
１６…繰り返し処理制御部
１７…有用次元決定部
１８…機械学習モデル作成部
１９…未知データ判別部
２…操作部
３…表示部
【図１】
2018152000.tif 000003
【図２】
2018152000.tif 000004
【図３】
2018152000.tif 000005
【図４】
2018152000.tif 000006
【図５】
2018152000.tif 000007
【図６】
2018152000.tif 000008
【図７】
2018152000.tif 000009
【図８】
2018152000.tif 000010
【図９】
2018152000.tif 000011