(57)【要約】【課題】解析対象のデータの特徴から各ハイパーパラメータの組み合わせにおいて期待される予測性能を推定する。【解決手段】プロセッサとメモリを有する計算機が、解析対象データに適用可能なハイパーパラメータを評価するハイパーパラメータの評価方法であって、前記計算機が、予め設定された事前データと複数のハイパーパラメータから２次特徴量生成部と精度予測部を生成する第１のステップと、前記計算機が、前記解析対象データを受け付ける第２のステップと、前記２次特徴量生成部が、前記解析対象データと複数のハイパーパラメータを入力として２次特徴量を算出する第３のステップと、前記精度予測部が、前記２次特徴量を入力としてハイパーパラメータ毎の期待予測精度を算出する第４のステップと、を含む。【選択図】図４
2019003408.tif 000002
【特許請求の範囲】
【請求項１】
プロセッサとメモリを有する計算機が、解析対象データに適用可能なハイパーパラメータを評価するハイパーパラメータの評価方法であって、
前記計算機が、予め設定された事前データと複数のハイパーパラメータから２次特徴量生成部と精度予測部を生成する第１のステップと、
前記計算機が、前記解析対象データを受け付ける第２のステップと、
前記２次特徴量生成部が、前記解析対象データと複数のハイパーパラメータを入力として２次特徴量を算出する第３のステップと、
前記精度予測部が、前記２次特徴量を入力としてハイパーパラメータ毎の期待予測精度を算出する第４のステップと、
を含むことを特徴とするハイパーパラメータの評価方法。
【請求項２】
請求項１に記載のハイパーパラメータの評価方法であって、
前記第３のステップは、
前記解析対象データと複数のハイパーパラメータを１次特徴量として入力して２次特徴量を算出することを特徴とするハイパーパラメータの評価方法。
【請求項３】
請求項１に記載のハイパーパラメータの評価方法であって、
前記第４のステップは、
前記２次特徴量を入力として、前記ハイパーパラメータ毎に達成可能と見込まれる期待予測精度を算出することを特徴とするハイパーパラメータの評価方法。
【請求項４】
請求項１に記載のハイパーパラメータの評価方法であって、
前記計算機が、前記算出された期待予測精度を前記ハイパーパラメータ毎に出力する第５のステップと、
前記計算機が、前記出力されたハイパーパラメータのうち、選択されたハイパーパラメータを受け付ける第６のステップと、
前記計算機が、前記選択されたハイパーパラメータに基づいて前記解析対象データを解析するためのモデルを生成する第７のステップと、
をさらに含むことを特徴とするハイパーパラメータの評価方法。
【請求項５】
請求項１に記載のハイパーパラメータの評価方法であって、
前記計算機が、複数の解析対象データの前記２次特徴量と期待予測精度を取得して、前記期待予測精度が閾値以下の解析対象データについて、前記期待予測精度が閾値を超える解析対象データの各２次特徴量の差と比較し、差異が大きい項目を選択する第８のステップと、
をさらに含むことを特徴とするハイパーパラメータの評価方法。
【請求項６】
請求項１に記載のハイパーパラメータの評価方法であって、
前記計算機が、前記期待予測精度が所定の閾値以下の場合には、当該解析対象データでデータ解析を行っても有意な結果が得られないと判定する第９のステップと、
をさらに含むことを特徴とするハイパーパラメータの評価方法。
【請求項７】
請求項１に記載のハイパーパラメータの評価方法であって、
前記第２のステップは、
前記受け付けた解析対象データに対してデータクレンジングを実施するステップを含み、
前記計算機が、前記解析対象データに対して複数のデータクレンジングを実施した後の期待予測精度を取得して、最も期待予測精度の高いデータクレンジングを選択する第１０のステップを、
をさらに含むことを特徴とするハイパーパラメータの評価方法。
【請求項８】
請求項１に記載のハイパーパラメータの評価方法であって、
前記第１のステップは、複数のハイパーパラメータのそれぞれについて、前記事前データの解析に適用した場合の精度の予測を実施して事前精度予測結果を算出するステップと、
前記ハイパーパラメータ毎に前記事前精度予測結果を出力として、２次特徴量を入力とする精度予測部を生成するステップと、
前記事前データと複数のハイパーパラメータを入力とし、前記精度予測部の入力とした２次特徴量を出力する２次特徴量生成部を生成するステップと、
を含むことを特徴とするハイパーパラメータの評価方法。
【請求項９】
請求項４に記載のハイパーパラメータの評価方法であって、
前記計算機が、前記算出された期待予測精度の順位で、前記ハイパーパラメータと前記生成されたモデルとを出力する第１１のステップを、
をさらに含むことを特徴とするハイパーパラメータの評価方法。
【請求項１０】
プロセッサとメモリを含んで、解析対象データに適用可能なハイパーパラメータを評価する計算機であって、
予め設定された事前データと複数のハイパーパラメータから生成された２次特徴量生成部と、予め設定された事前データと複数のハイパーパラメータから生成された精度予測部とを含む期待予測精度予測部を有し、
前記期待予測精度予測部が、前記解析対象データを受け付けて、
前記２次特徴量生成部が、前記解析対象データと複数のハイパーパラメータを入力として２次特徴量を算出し、
前記精度予測部が、前記２次特徴量を入力としてハイパーパラメータ毎の期待予測精度を算出することを特徴とする計算機。
【請求項１１】
請求項１０に記載の計算機であって、
前記２次特徴量生成部が、前記解析対象データと複数のハイパーパラメータを１次特徴量として入力して２次特徴量を算出することを特徴とする計算機。
【請求項１２】
請求項１０に記載の計算機であって、
前記精度予測部が、前記２次特徴量を入力として、前記ハイパーパラメータ毎に達成可能と見込まれる期待予測精度を算出することを特徴とする計算機。
【請求項１３】
請求項１０に記載の計算機であって、
前記精度予測部が、前記算出された期待予測精度を前記ハイパーパラメータ毎に出力し、
前記出力されたハイパーパラメータのうち、選択されたハイパーパラメータを受け付けて、前記選択されたハイパーパラメータに基づいて前記解析対象データを解析するためのモデルを生成する学習部と、をさらに有することを特徴とする計算機。
【請求項１４】
請求項１０に記載の計算機であって、
前記期待予測精度予測部が、複数の解析対象データの前記２次特徴量と期待予測精度を取得して、前記期待予測精度が閾値以下の解析対象データについて、前記期待予測精度が閾値を超える解析対象データの各２次特徴量の差と比較し、差異が大きい項目を選択することを特徴とする計算機。
【請求項１５】
プロセッサとメモリを有する計算機を制御させるためのプログラムであって、
予め設定された事前データと複数のハイパーパラメータから２次特徴量生成部と精度予測部を生成する第１のステップと、
解析対象データを受け付ける第２のステップと、
前記解析対象データと複数のハイパーパラメータを前記２次特徴量生成部へ入力して２次特徴量を算出する第３のステップと、
前記２次特徴量を前記精度予測部へ入力してハイパーパラメータ毎の期待予測精度を算出する第４のステップと、
を前記計算機に実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、機械学習を用いてデータ解析を行う装置に関する。
【背景技術】
【０００２】
機械学習技術は、ヘルスケアや金融、産業などのさまざまな分野で蓄積されたデータの解析に対して、新しい社会的価値を創出する技術として注目されている。機械学習には、support vector machineやdeep learningといったアルゴリズムの種類、および各アルゴリズムにおいてモデルを決定するために必要なパラメータがあり、ハイパーパラメータと呼ばれる。
【０００３】
ハイパーパラメータの組み合わせは数万通り以上考えられる。解析したい問題に機械学習を適用する際には、ハイパーパラメータの組み合わせをいくつも試行し、最も精度が高くなる組み合わせを発見する必要がある。加えて、ハイパーパラメータの組み合わせは解析する問題ごとに最適な組み合わせが異なるため、問題やデータが変わるごとに行う必要がある。
【０００４】
また、ハイパーパラメータの探索は各ハイパーパラメータがもたらす効果から探索領域の見当をつけて行うことにより探索時間を短縮可能であるため、専門家がハイパーパラメータの探索を行うことが現実的である。但し、専門家が探索を行った場合においても、最適なハイパーパラメータの発見までに半年程度の時間を要する場合がある。
【０００５】
そのため、目標精度を達成できなかった場合には、探索開始から半年経った後に、目標精度を達成できなかった要因を考察し、問題の設定やデータの質が不適切だったなどの結論を得ることになる。
【０００６】
また、日々蓄積されるデータが増加した都度、データに追加したい場合においても、追加するデータに対応したモデルが完成するのは半年後となる。このように、機械学習を実社会に適用する場合、専門性の高さとハイパーパラメータ探索の複雑さは課題の１つである。
【０００７】
先行技術として、専門家がハイパーパラメータ探索のノウハウをフローとして体系化させたcheat sheetが知られている（非特許文献１）。cheat sheetを活用することでアルゴリズムの種類の決定が可能になると考えられる。また、別の先行技術として、予め用意しておいたハイパーパラメータの組み合わせを自動で網羅的に試行し、最も予測精度が高かったハイパーパラメータを提示するサービスの製品化も行われている（非特許文献２）。
【先行技術文献】
【非特許文献】
【０００８】
【非特許文献１】“scikit-learn cheat sheet”、［online］、［平成29年5月 8日検索］、インターネット〈 URL：http://scikit-learn.org/stable/tutorial/machine_learning_map/〉
【非特許文献２】“Sap predictive analytics whitepaper”、［online］、［平成29年5月 8日検索］、インターネット〈https://www.sap.com/japan/documents/2016/02/c4d70a6c-617c-0010-82c7-eda71af511fa.html〉
【発明の概要】
【発明が解決しようとする課題】
【０００９】
解析したい問題に機械学習を適用する際には、ハイパーパラメータの組み合わせをいくつも試行し、最も精度が高くなる組み合わせを発見する必要がある。上記作業には、半年程度の時間と専門家が必要になる。
【００１０】
ハイパーパラメータの組み合わせを自動で網羅的に試行する場合、時間は同様にかかるものの専門家は不要となる。また、解析対象のデータが外部に持ち出せない場合、解析対象データを保管する施設に解析用計算機を搬入する必要がある。従来では機械学習のハイパーパラメータ探索には大規模な解析用計算機の使用が前提となっているが、該当施設に解析用計算機の搬入ができない可能性がある。さらに、既存の計算器を用いた場合に要する時間はさらに長くなる可能性がある。
【００１１】
本発明の目的は、ハイパーパラメータ探索の工程において、専門家および高性能な解析用計算器を必要とせずに、データの特徴から各ハイパーパラメータの組み合わせにおいて期待される予測性能を推定することで、達成可能と見込まれる予測性能およびハイパーパラメータの組み合わせを迅速に提示可能にする計算機を提供することにある。
【課題を解決するための手段】
【００１２】
本発明は、プロセッサとメモリを有する計算機が、解析対象データに適用可能なハイパーパラメータを評価するハイパーパラメータの評価方法であって、前記計算機が、予め設定された事前データと複数のハイパーパラメータから２次特徴量生成部と精度予測部を生成する第１のステップと、前記計算機が、前記解析対象データを受け付ける第２のステップと、前記２次特徴量生成部が、前記解析対象データと複数のハイパーパラメータを入力として２次特徴量を算出する第３のステップと、前記精度予測部が、前記２次特徴量を入力としてハイパーパラメータ毎の期待予測精度を算出する第４のステップと、を含む。
【発明の効果】
【００１３】
本発明によれば、解析対象データに対し、最高の精度となると予測されたハイパーパラメータの組み合わせおよび前記最高の予測精度を迅速に提示することが可能となる。これにより、機械学習のハイパーパラメータ探索において、半年などの長期間を要することなく、かつ専門家および高性能な解析用の計算機を不要とすることが期待できる。
【図面の簡単な説明】
【００１４】
【図１】本発明の実施例１を示し、異常検知装置の構成の一例を示すブロック図である。
【図２】本発明の実施例１を示し、ソフトウェアの構成の一例を示すブロック図である。
【図３】本発明の実施例１を示し、期待予測精度予測器の処理の一例を示すフローチャートである。
【図４】本発明の実施例１を示し、２次特徴量生成器および精度予測器における処理の一例を示す説明図である。
【図５】本発明の実施例１を示し、学習器で行われる処理の一例を示すフローチャートである。
【図６】本発明の実施例１を示し、結果を保存する処理の一例を示すフローチャートである。
【図７】本発明の実施例１を示し、画面表示の一例を示す図である。
【図８】本発明の実施例１を示し、２次特徴量生成器および精度予測器の生成の一例を示す説明図である。
【図９】本発明の実施例２を示し、異常検知装置の機能の一例を示す説明図である。
【図１０】本発明の実施例３を示し、処理の一例を示すフローチャートである。
【図１１】本発明の実施例３を示し、データ解析手法の処理の一例を示すフローチャートである。
【図１２】本発明の実施例４を示し、異常検知装置の機能の一例を示す説明図である。
【発明を実施するための形態】
【００１５】
本発明の第一の実施形態を、図面を用いて説明する。以下、本発明の実施形態を説明するための全図において、基本的に同一機能を有するものは同一符号を付し、その繰り返しの説明は省略する。
【実施例１】
【００１６】
まず、本発明の実施例１の異常検知装置を説明する。本実施例１の異常検知装置１００は、データ解析のためのモデルを機械学習により生成し、生成されたモデルによって異常があるデータの検知を行う例を示す。
【００１７】
図１は、本実施形態の異常検知装置１００のハードウェア構成の一例を示すブロック図である。本実施例１の異常検知装置１００は、ＣＰＵ１０２と、メモリ１０３と、入出力インターフェイス１０４と、通信装置１０５と、ドライブ装置１０６と、を有する。
【００１８】
これらはデータバス１０１によって相互に接続されている。ＣＰＵ１０２は、制御装置と演算装置からなり、異常検知装置１００の制御や、演算や情報転送をつかさどる中央処理装置である。メモリ１０３は、異常検知装置１００が処理すべきデジタルデータを一定期間保持することが可能である記憶装置である。
【００１９】
入出力インターフェイス１０４は、装置の外部に接続する機器との情報の入出力に使用するインターフェイスである。入出力インターフェイス１０４に、キーボードやマウスなどの入力装置１０７と、ディスプレイなどの出力装置１０８を接続することが可能である。
【００２０】
通信装置１０５は、インターネットなどのネットワークに接続するケーブルを通信装置１０５に接続することで、インターネットなどのネットワークへの接続を可能にする装置である。ドライブ装置１０６は、情報が書き込まれているまたは書き込み可能である空のディスクメディアやＨＤＤなどの記憶媒体１０９を含み、書き込まれている情報の読み出し、および情報の書き込みを行う装置である。
【００２１】
メモリ１０３には、本実施例１の異常検知装置１００の機能を実現させるために必要な、ＣＰＵ１０２の演算処理用のプログラム２００と各種データが予め格納されている。ＣＰＵ１０２が、メモリ１０３に格納されたプログラム２００を実行することによって、異常検知装置１００の機能を実現する各種処理が行われる。
【００２２】
なお、ＣＰＵ１０２が実行するプログラム２００はドライブ装置１０６に接続された前記記憶媒体１０９に格納しておき、そのプログラムを読み込んでメモリ１０３に格納するようにしてもよい。
【００２３】
図２はメモリ１０３、または前記記憶媒体１０９格納されている演算処理用のプログラム２００の実行により実装される機能の一例を示すブロック図である。期待予測精度予測器２１０は、２次特徴量生成器２１１および精度予測器２１２からなる。なお、２次特徴量生成器２１１は、２次特徴量生成モジュールとしてもよい。また、精度予測器２１２は、精度予測モジュールとしてもよい。
【００２４】
２次特徴量生成器２１１は、解析対象データとハイパーパラメータの組み合わせから構成された１次特徴量を用いて、２次特徴量を生成する機能を含む。精度予測器２１２は、２次特徴量生成器２１１において生成した２次特徴量を入力として、ハイパーパラメータの期待予測精度を推定する機能を有する。なお、ハイパーパラメータは、前述したとおり、機械学習のアルゴリズムの種類、および各アルゴリズムにおいてモデルを決定するために必要なパラメータを含む情報である。
【００２５】
期待予測精度は、当該ハイパーパラメータと解析対象データを機械学習に適用し、生成したモデルの精度を評価した場合に、患者と非患者の識別などにおいて正しく識別できた確率などで表現することができる。なお、機械学習のモデルについては、予め設定されたモデルを使用する。
【００２６】
学習器２２０は、任意のハイパーパラメータの組み合わせによる学習を行い、データ解析のためのモデルを生成する機能を含む。結果表示器２３０は、ユーザインターフェイスによる操作や期待予測精度予測器２１０の結果および学習器２２０の結果を表示する機能を含む。
【００２７】
２次特徴量生成器２１１と、精度予測器２１２と、学習器２２０と、結果表示器２３０の各機能部はプログラム２００としてメモリ１０３にロードされる。なお、本実施例１では、学習器２２０をソフトウェアによって実現する例を示すが、ハードウェアによって実現してもよい。
【００２８】
ＣＰＵ１０２は、各機能部のプログラムに従って処理することによって、所定の機能を提供する機能部として稼働する。例えば、ＣＰＵ１０２は、学習プログラムに従って処理することで学習器２２０として機能する。他のプログラムについても同様である。さらに、ＣＰＵ１０２は、各プログラムが実行する複数の処理のそれぞれの機能を提供する機能部としても稼働する。計算機及び計算機システムは、これらの機能部を含む装置及びシステムである。
【００２９】
異常検知装置１００の各機能を実現するプログラム、テーブル等の情報は、ドライブ装置１０６や不揮発性半導体メモリ、ハードディスクドライブ、ＳＳＤ（Ｓｏｌｉｄ  Ｓｔａｔｅ  Ｄｒｉｖｅ）等の記憶デバイス、または、ＩＣカード、ＳＤカード、ＤＶＤ等の計算機読み取り可能な非一時的データ記憶媒体に格納することができる。
【００３０】
次に、本実施例１のプログラム２００を実行した際の処理の流れを説明する。図３は、本実施例１の異常検知装置１００で行われる処理の一例を示すフローチャートである。異常検知装置１００は、プログラムの実行により、解析対象データに対し、最高の精度となると予測されたハイパーパラメータの組み合わせおよび前記最高の予測精度を瞬時（または迅速）に提示する。
【００３１】
異常検知装置１００は、期待予測精度予測器２１０を機能させて、ドライブ装置１０６に接続された記憶媒体１０９から、メモリ１０３に解析対象データを読み込む（ステップＳ３０１）。なお、異常検知装置１００は、入力装置１０７等から解析対象データの指定を受け付けて、記憶媒体１０９からメモリ１０３に読み込む。
【００３２】
続いて、異常検知装置１００の期待予測精度予測器２１０は、解析対象データとハイパーパラメータセットからなる１次特徴量を用いて、２次特徴量生成器２１１により２次特徴量を生成する（ステップＳ３０２）。
【００３３】
ここで、ハイパーパラメータセットとは、ハイパーパラメータの組み合わせを意味する。例えば、解析用のアルゴリズムの種類はｄｅｅｐ  ｌｅａｒｎｉｎｇ、層の数は１０、ユニット（ニューロン）数は５００、といった組み合わせで構成されるハイパーパラメータを含むセットである。
【００３４】
なお、解析対象データに適用可能なハイパーパラメータの予測精度を評価するハイパーパラメータセットは、予め用意された複数のハイパーパラメータで構成される。あるいは、オペレータなどが入力装置１０７を介して指定した複数のハイパーパラメータを受け付けて、ハイパーパラメータセットを構成するようにしてもよい。
【００３５】
１次特徴量は、解析対象データとハイパーパラメータセットＡ、解析対象データとハイパーパラメータセットＢ、というように、予め定めておいた複数個のハイパーパラメータセットが自動的に解析対象データと結合されたデータセットである。本実施例１では１次特徴量は、予め生成されたものとする。
【００３６】
次に、期待予測精度予測器２１０は、後述するように生成された２次特徴量を用いて、精度予測器２１２により期待予測精度を予測する（ステップＳ３０３）。最後に、結果表示器２３０は、予測した期待予測精度のうち、前記期待予測精度が高かったもののうち上位数個（予め設定された順位閾値以上）におけるハイパーパラメータセットおよび前記期待予測精度を出力装置１０８に表示し、処理を終了する（ステップＳ３０４）。
【００３７】
図４は、前記ステップＳ３０２の、２次特徴量生成および、前記ステップＳ３０３の、期待予測精度の予測における処理を説明するための模式図である。１次特徴量は、上述の通り、解析対象データと１つのハイパーパラメータセットの組み合わせとして複数のサンプルが生成される。
【００３８】
ハイパーパラメータセットが、１０個あった場合で以下説明を進める。１０サンプルの１次特徴量に対して、前記ステップＳ３０２の２次特徴量生成により２次特徴量が生成され、前記ステップＳ３０３の期待予測精度予測により期待予測精度が予測され、１０サンプルそれぞれに対して期待予測精度が１個ずつ提示される。
【００３９】
前記ステップＳ３０４で示したように、提示された１０個の期待予測精度を高い順に並び替えを行い、期待予測精度の高い順にハイパーパラメータセットおよび前記期待予測精度を表示し終了する。
【００４０】
本実施例１では、予め特徴量に用いるハイパーパラメータセットを定めておいたが、オペレータによりハイパーパラメータセットを追加、決定可能としてもよい。また、期待予測精度のうち、予測精度が高かったもののうち上位数個におけるハイパーパラメータセットおよび予測精度の表示を行って処理の終了としたが、これに限定されるものではない。
【００４１】
例えば、期待予測精度予測器２１０による結果を結果表示器２３０が出力装置１０８にハイパーパラメータセットを表示し、オペレータが表示された中から、ハイパーパラメータセットを１つ選択し、選択したハイパーパラメータセットによる学習を行いデータ解析のためのモデルを生成する機能があってもよい。
【００４２】
また、オペレータが任意のパラメータセットを選択せず、上位１個のみ、または上位５個すべてなどにおいて自動的に学習を行うようにしてもよい。さらに、全ての１次特徴量に対する期待予測精度およびそのハイパーパラメータセットを指定したあるいは特定のメモリ空間へ保存してもよいし、オペレータが指定した特定のデータのみを指定したあるいは特定のメモリ空間へ保存してもよい。
【００４３】
続いて、期待予測精度予測器２１０が出力したハイパーパラメータセットのうち、オペレータが指定した１つまたは複数個のハイパーパラメータセットによる学習を学習器２２０によって行いデータ解析のためのモデルを生成する。
【００４４】
図５は学習器２２０で行われる処理の一例を示すフローチャートである。学習器２２０は、指定されたハイパーパラメータを用いて学習を行いデータ解析のためのモデルを生成する。この処理は、オペレータからの指示などに基づいて開始される。なお、モデルの生成手法は周知ないし公知の技術を適用することができる。
【００４５】
学習器２２０は、まず、メモリ１０３から入力装置１０７等で指定された解析対象データを読み出す（ステップＳ５０１）。続いて、学習器２２０は、事前にメモリ１０３に保存したハイパーパラメータを読み出すかどうかを判定する（ステップＳ５０２）。
【００４６】
なお、事前にメモリ１０３に保存されたハイパーパラメータは、例えば、図３のステップＳ３０４で期待予測精度が表示されたハイパーパラメータである。
【００４７】
ステップＳ５０２の判定は、学習器２２０が出力装置１０８にメモリ１０３内のハイパーパラメータセットを使用するか否かのボタンを表示し、入力装置１０７から受け付けた応答に基づいて実施する。メモリ１０３内のハイパーパラメータセットを使用する場合には、ステップＳ５０４へ進みそうでない場合にはステップＳ５０３へ進む。
【００４８】
ステップＳ５０３では、学習器２２０が出力装置１０８にユーザインターフェイスを出力し、学習させるハイパーパラメータセットを入力装置１０７から受け付ける。一方、メモリ１０３から読み出す場合、学習器２２０は、学習させるハイパーパラメータセットを選択するために、メモリ１０３に格納されているハイパーパラメータセットを読み出す（ステップＳ５０４）。
【００４９】
学習器２２０は、ステップＳ５０４にて読み出したハイパーパラメータセットの中から、学習させるハイパーパラメータセットを選択する（ステップＳ５０５）。この際、選択するハイパーパラメータセットは１つのみでもよいし、複数であってもよい。ハイパーパラメータセットの選択は、学習器２２０が入力装置１０７からオペレータの指令を受け付けても良い。
【００５０】
続いて、学習器２２０は、選択されたハイパーパラメータセットと、ステップＳ５０１にて読み出した解析対象データを用いて、所定の学習を行って解析モデルの生成を行う（ステップＳ５０６）。
【００５１】
学習器２２０は、学習に用いるデータは解析対象データのうち、たとえば５０％のみを用い、生成したモデルの評価用に残りの５０％を用いて、１０フォールドクロスバリデーション等による精度の評価などを行う。解析対象データの残りの５０％等を利用してクロスバリデーションを実施することで、学習結果の過学習を抑制することが可能となる。
【００５２】
最後に、学習器２２０は生成したモデルの予測精度を結果として出力装置１０８に表示し、終了する（ステップＳ５０７）。ステップＳ５０７では、上述のように予測精度の高い順に学習により生成したモデルまたはハイパーパラメータセットを出力装置１０８に表示することができる。
【００５３】
本実施例１におけるプログラムの実行により、解析対象データに対し、最高の精度となると予測されたハイパーパラメータセットおよび前記最高の精度を瞬時に提示することが可能となる。
【００５４】
次に、処理結果の保存および、オペレータが指定した１つまたは複数個のハイパーパラメータセットによる学習を行いデータ解析のためのモデルの生成処理における結果の保存について説明する。
【００５５】
図６は、結果を保存する処理の一例を示すフローチャートである。本実施例１の保存処理は、オペレータがユーザインターフェイス等により保存ボタンを押下するなどの信号をＣＰＵ１０２に送信することにより精度予測器２１２や学習器２２０で開始される。学習器２２０の場合を用いて説明する。
【００５６】
まず、学習器２２０は、保存する対象およびメモリ空間を選択する（ステップＳ６０１）。続いて、学習器２２０は、選択した対象を選択したメモリ空間または特定のメモリ空間へ保存する（ステップＳ６０２）。最後に、学習器２２０は、保存が成功した旨のメッセージを出力装置１０８に表示し、処理を終了する（ステップＳ６０３）。
【００５７】
図７は、以上の処理において出力装置１０８であるディスプレイ等に表示される画面の一例を示す図である。本実施例１における結果表示器２３０の実行により出力装置１０８には表示画面７００が表示される。
【００５８】
異常検知装置１００のオペレータは、入力装置１０７を操作してＩｍｐｏｒｔ  ｆｉｌｅボタン７０１を押下することで、ファイル選択画面（図示省略）からファイルを選択することにより、解析対象データを選択することができる。
【００５９】
選択した解析対象データの名前は、Ｉｍｐｏｒｔ  ｆｉｌｅ  ｎａｍｅ欄７０５に出力される。その後、オペレータがＥｘｐｅｃｔｅｄ  ｐｒｅｄｉｃｔｉｏｎボタン７０２を押下することで、解析対象データが期待予測精度予測器２１０に入力され、図３のフローチャートに代表されるような処理が行われ、結果表示器２３０によって結果表示領域７０８に結果が表示される。
【００６０】
結果表示領域７０８に表示された期待予測精度予測器２１０の結果は、予測した期待予測精度のうち、予測精度が高かったもの上位数個におけるハイパーパラメータセットおよび前記期待予測精度を、前記期待予測精度が高いものから順に表によりまとめて表示したものなどが考えられる。
【００６１】
オペレータは、結果表示領域７０８に表示されているラジオボタン７０９（あるいはチェックボックス等）により、任意のハイパーパラメータセットを選択することが可能である。オペレータは、ハイパーパラメータセットを選択した後、Ｓａｖｅボタン７０４を押下すると、保存したいメモリ空間を指定可能な画面が表示される。
【００６２】
オペレータは、入力装置１０７を介してメモリ空間を指定し、実行ボタンを押下すると、指定したメモリ空間に選択した前記期待予測精度およびそのハイパーパラメータセットが保存される。保存した先のメモリ空間は、Ｅｘｐｏｒｔ  ｆｉｌｅ  ｎａｍｅ７０６などに出力される。
【００６３】
続いて、オペレータが学習させるハイパーパラメータセットを選択したい際には、Ｉｍｐｏｒｔ  ｆｉｌｅボタン７０１を押下することで、ファイル選択画面（図示省略）から選択することにより、ハイパーパラメータセットを選択することができる。
【００６４】
Ｉｍｐｏｒｔ  ｆｉｌｅボタン７０１を押下した際には、まず、選択したいファイルが解析対象データなのか、またはハイパーパラメータセットなのかを選択する機能があってもよい。選択したハイパーパラメータセットの名前は、Ｉｍｐｏｒｔ  ｈｙｐｅｒ−ｐａｒａｍｅｔｅｒ  ｎａｍｅ７０７に出力される。
【００６５】
結果表示領域７０８に、前記ハイパーパラメータセットが表形式などで表示され、学習させるハイパーパラメータセットを、前記表に付随して表示されているラジオボタン７０９やチェックボックス等により選択可能とすることが考えられる。
【００６６】
続いて、オペレータが、入力装置１０７を介してＴｒａｉｎｉｎｇボタン７０３を押下することで、選択したハイパーパラメータセットと、Ｉｍｐｏｒｔ  ｆｉｌｅ  ｎａｍｅ欄７０５に記載されている解析対象データを用いて、図５のフローチャートに代表されるような処理が行われ、結果表示領域７０８にモデルの評価結果が表示される。
【００６７】
前記モデルの評価結果を保存したい場合、入力装置１０７を介してＳａｖｅボタン７０４を押下すると、保存したいメモリ空間を指定可能な画面が表示される。オペレータは入力装置１０７を介してメモリ空間を指定し、実行ボタンを押下すると、指定したメモリ空間に前記モデル評価結果およびそのハイパーパラメータを含むパラメータセットが保存される。保存した先のメモリ空間は、Ｅｘｐｏｒｔ  ｆｉｌｅ  ｎａｍｅ７０６などに出力される。
【００６８】
このようにして、２次特徴量生成器２１１および精度予測器２１２から構成される期待予測精度予測器２１０により、半年などの長期間を要さず、かつ専門家および高性能な解析用計算器を不要とし、学習器２２０で生成したモデルを適用することが可能となる。
【００６９】
異常検知装置１００において、上記モデルを適用することで、最新のデータを用いた予測精度の高い異常検知が可能となる。異常検知装置１００で検知する異常の例としては、医療用画像診断装置により取得された画像から読影可能な疾病の検知や、遺伝子検査装置により取得された遺伝子発現データ配列を用いた疾病の検知や、生化学検査装置により取得された成分分析結果を用いた疾病の検知や、医薬品開発において行われた実験により取得された薬物の活性値を用いた薬剤候補成分の検知などが考えられる。
【００７０】
また、ヘルスケア関連領域以外においては、機器や人に取り付けられたセンサーより取得されたデータを用いた異常動作の検知や、クレジットカードの審査の際にカード申請者から提出された年収や借金の有無等のデータを用いた例外の検知などが考えられる。
【００７１】
図８は、２次特徴量生成器２１１および精度予測器２１２の生成の一例の説明図である。以下では、２次特徴量生成を行う２次特徴量生成器２１１と、および期待予測精度の予測を行う精度予測器２１２の生成について図８を用いて説明する。２次特徴量生成器２１１および精度予測器２１２は、解析対象データを用いて期待予測精度を提示するより前に、予め生成しておく。
【００７２】
まず、２次特徴量生成器２１１の生成について説明する。２次特徴量生成器２１１の入力は１次特徴量であり、出力は２次特徴量である。１次特徴量は、予め設定された事前データとハイパーパラメータセットからなる。
【００７３】
ここで、事前データとは、たとえば、クレジットカードの審査に用いられる年収や借金の有無等のデータや、病院における血糖値を含む血液検査の結果などである。事前データは、オープンデータなどを活用し、大量に収集しておくことが考えられる。
【００７４】
収集しておく事前データは、欠損値を含むデータや、性別のように連続でない値が特徴量に含まれるデータ、など様々なバリエーションに富んでいることが望ましい。
【００７５】
本実施例１では、予め用意した１つの事前データに対して、複数のハイパーパラメータセットで、精度予測を予め行った結果を事前精度予測結果（予測精度）として記憶媒体１０９等に保持しておく。
【００７６】
つまり、事前データが１０個、ハイパーパラメータセットが５個であった場合には、５０サンプルの1次特徴量を用意することが可能である。５０サンプルの１次特徴量それぞれに対して、事前精度予測結果が存在することになる。
【００７７】
事前精度予測結果は、ハイパーパラメータセットと事前データを機械学習に適用した場合に、例えば患者と非患者の識別であれば正しく２者を識別できた確率などで表現することができる。事前精度予測結果には、ハイパーパラメータセット内に記載のアルゴリズムおよびそのハイパーパラメータを用いた機械学習を行い、１０フォールドバリデーションなどを用いた精度評価結果を用いてもよい。
【００７８】
２次特徴量生成器２１１は、事前精度予測結果を精度予測器２１２により予測可能となるような２次特徴量を生成可能となるように設計する。
【００７９】
次に、精度予測器２１２の生成について説明する。精度予測器２１２の入力は２次特徴量生成器２１１が出力した２次特徴量であり、精度予測器２１２の出力は事前精度予測結果である。精度予測器２１２は、事前精度予測結果を、２次特徴量から正しく予測可能となるように設計する。
【００８０】
２次特徴量生成器２１１および精度予測器２１２の設計は、異常検知装置１００の学習器２２０を用いて行ってもよい。期待予測精度予測器２１０が、学習器２２０を用いて２次特徴量生成器２１１および精度予測器２１２を生成しても良い。
【００８１】
前記２次特徴量生成器２１１および精度予測器２１２の設計に、時間を要したとしても、解析対象データへ適用する際には学習を行わないため、上述のように半年などの長期間を要さず、かつ専門家および高性能な解析用計算器を不要とする本発明の効果には影響を及ぼさない。
【００８２】
また、２次特徴量生成器２１１および精度予測器２１２の設計を実現する手法は、機械学習に限定しない。さらに、２次特徴量は、２次特徴量生成器２１１を用いずに、２次特徴量を明示的に与えてもよい。明示的に与える２次特徴量として、事前データおよび解析対象データにおける、サンプル数、特徴量の次元数、欠損値の割合、年齢のような連続値の特徴量の割合、性別のような離散値の特徴量の割合、などが考えられる。
【００８３】
以上のように、異常検知装置１００は、予め用意した事前データについて複数のハイパーパラメータセットのそれぞれについて、精度の予測を実施して事前精度予測結果を算出する。そして、異常検知装置１００は、ハイパーパラメータセット毎に事前精度予測結果を出力（目標値）として、２次特徴量を入力とする精度予測器２１２を生成し、事前データとハイパーパラメータセットを入力とし、精度予測器２１２の入力とした２次特徴量を出力する２次特徴量生成器２１１を生成する。なお、２次特徴量生成器２１１および精度予測器２１２は、異常検知装置１００において生成されることに限定しない。予め、高性能な解析用計算機などを用いて生成しておいてもよい。
【００８４】
本実施例１では、予め用意した複数のハイパーパラメータセットについて事前データから事前精度予測結果をハイパーパラメータ毎に算出し、事前データとハイパーパラメータセットを入力すると事前精度予測結果を出力するような２次特徴量生成器２１１及び精度予測器２１２を含む期待予測精度予測器２１０を生成する。
【００８５】
そして、異常検知装置１００は、解析対象データと複数のハイパーパラメータセットの組み合わせを入力として期待予測精度予測器２１０により期待予測精度を算出し、解析対象のデータに対して、最高の精度となると予測されたハイパーパラメータの組み合わせと、最高の精度の値を迅速に評価することが可能となる。
【００８６】
これにより、機械学習のハイパーパラメータ探索において、半年などの長期間を要することなく、かつ専門家および高性能な解析用の計算機を不要とすることが期待できる。なお、期待予測精度は、当該ハイパーパラメータを用いてモデルを生成した場合に達成可能と見込まれる予測精度である。
【実施例２】
【００８７】
次に、実施例２の異常検知装置１００について説明する。実施例１の装置では、期待予測精度を予測する装置としていた。一方、実施例２の異常検知装置１００は、予測した期待予測精度を用いて、解析対象データの予測精度を向上させるために必要なデータ成分を特定する機能を有する例を示す。
【００８８】
図９は、実施例２で実現する機能を説明する概念図である。本実施例２において、具体的な説明を行うため、２次特徴量は２次特徴量生成器２１１を用いずに、２次特徴量を明示的に与えたものとして説明する。
【００８９】
まず、事前データにおいて、いずれかのハイパーパラメータセットにおいて予測精度が８５％以上であったデータ群をグループＡとし、７０％以下だったデータ群をグループＢとする。
【００９０】
各グループの中で、２次特徴量のそれぞれの項目における平均値を算出する。解析対象データを期待予測精度予測器２１０に適用し、得られた期待予測精度が７０％など、所望の値より低かった場合に、グループＡの各２次特徴量の差と比較し、差異が大きい項目を選択する。
【００９１】
異常検知装置１００は、選択された項目に関して、グループＡの値に近づけるために、解析対象データをどう変更するとよいかの提言を提示する。たとえば、サンプル数がグループＡの平均値は１万個、解析対象データの値が１００個であった場合、サンプル数を増やす旨の指示を提示する、などである。
【００９２】
これにより、異常検知装置１００は、予測精度を向上させるために、具体的にデータをどう変更すればよいかを、オペレータに提示することが可能となる。提示する項目数は、予め個数を設定しておいてもよいし、２次特徴量の項目ごとに提示するようにする差異の閾値を設けておいてもよい。
【００９３】
また、予測精度に応じたグループを２つだけではなく、ハイパーパラメータセットによる予測精度の違いの観点から、ハイパーパラメータセットごとにグループＡおよびＢを設けてもよい。あるいは、２次特徴量の中に、ハイパーパラメータセットを含めてもよい。
【００９４】
さらに、いずれかのハイパーパラメータセットにおいて予測精度が８５％以上であったデータ群をグループＡ、７０％以下だったデータ群をグループＢとしたが、閾値とする数値は８５％を９０％や、７０％を６０％など、任意の値に変更してもよいし、グループを２つだけではなく、３つや４つなど増やしてもよい。
【００９５】
また、上記では、２次特徴量を明示的に与えた場合において説明したが、２次特徴量生成器２１１を用いて生成した２次特徴量を用いてもよいし、１次特徴量を用いてもよい。また、解析対象データを期待予測精度予測器２１０に適用し、得られた期待予測精度が７０％など、所望の値より低かった場合に、グループＡの各２次特徴量の差と比較し、差異が大きい項目を選択したが、異なる手法で予測精度が低い原因と考えられる項目を選択してもよい。
【００９６】
また、２次特徴量の差をグループＡおよびＢと比較するのではなく、事前データの特徴量または１次特徴量または２次特徴量から、グループＡおよびＢのどちらであるのかを識別する機械学習モデルを生成し、解析対象データの特徴量または１次特徴量または２次特徴量を入力し、識別されたグループから解析対象データの評価を行ってもよい。また、グループＡおよびＢのどちらであるのかを識別する方法は、機械学習ではなく、マルコフ連鎖モンテカルロ法などの周知または公知の統計的な手法を用いても良い。
【００９７】
以上のように、本実施例２の異常検知装置１００では、期待予測精度が閾値以下の解析対象データについて、期待予測精度が閾値を超える解析対象データの各２次特徴量の差と比較し、差異が大きい項目を選択し、解析対象データを改善する指示を出力することができる。これにより、予測精度を向上させるために必要なデータの成分を特定することが可能となる。
【実施例３】
【００９８】
次に、実施例３の異常検知装置１００について説明する。実施例１の異常検知装置１００では、期待予測精度を予測する装置としていた。実施例３の異常検知装置１００は、解析対象データのデータ解析を行う前に、当該解析対象データが解析に値するデータであるか否かを判断する機能を有する例を示す。
【００９９】
機械学習によって高精度な予測が不可能な解析対象データには、重要な特徴量が含まれている割合が少なく、解析を行っても何も得られる情報がない可能性がある。たとえば、現在、糖尿病と診断するために必要な項目とされている早朝空腹時血糖値や随時血糖値などを医学研究により診断に必要な値であることを明らかにしたい場合において、早朝空腹時血糖値や随時血糖値が解析対象データに含まれていない場合、明らかにしたい糖尿病と診断するために必要な項目が含まれていないため、解析対象データの解析を行っても糖尿病と診断するために必要な項目を見つけ出すことは不可能である。
【０１００】
ここで、解析対象データの解析とは、医学研究であれば周知または公知のロジスティック回帰など、各分野においてゴールドスタンダードとして行われてきた解析方法や、特定の目的に沿うように開発された解析方法などを用いた解析である。このように、解析対象データには、解析目標に十分寄与するような重要な特徴量が含まれている必要がある。
【０１０１】
しかし、未知の事象の解析を行う場合に、前記重要な特徴量が解析対象データに含まれていることを知ることはできない。そこで、解析を行う前に、前記実施例１の図３のフローチャートで実現されるような期待予測精度予測器２１０を適用することが考えられる。
【０１０２】
機械学習による予測精度においても、前記重要な特徴量の有無が精度を左右する。期待予測精度が所定の閾値を超えて高い場合には、解析対象データに前記重要な特徴量が含まれており、期待予測精度が所定の閾値以下の低い場合には、解析対象データに前記重要な特徴量が含まれていないと判断することが可能である。異常検知装置１００は、期待予測精度が閾値以下の場合には、解析を行っても有意な結果が得られないと判定して、データの解析を中止、またはオペレータに提示することができる。
【０１０３】
図１０は、本実施例３を実現する処理の一例を示すフローチャートである。まず、異常検知装置１００は、メモリ１０３に解析対象データを読み出す（ステップＳ１００１）。続いて、異常検知装置１００は、解析対象データとハイパーパラメータセットからなる１次特徴量を参照して、２次特徴量生成器２１１により２次特徴量を生成する（ステップＳ１００２）。
【０１０４】
次に、異常検知装置１００は、生成した２次特徴量を用いて、精度予測器２１２により期待予測精度を予測する（ステップＳ１００３）。続いて、異常検知装置１００は、予測した期待予測精度から、データ解析を行うか否かの判定を行う（ステップＳ１００４）。
【０１０５】
異常検知装置１００は、期待予測精度が所定の閾値以上であればステップＳ１００５へ進み、データ解析を行わないと判断した場合は、終了する。
【０１０６】
データ解析を行うと判断した場合、異常検知装置１００は、後述するデータ解析を行ってから処理を終了する（ステップＳ１００５）。
【０１０７】
ステップＳ１００４における期待予測精度の閾値は任意に設定可能としてもよいし、特定の値にしておいてもよい。また、データ解析手法の１つとして、以下の様な手法を使用してもよい。
【０１０８】
図１１はデータ解析手法の１例を示すフローチャートである。この処理は、図１０のステップＳ１００５で行われる。
【０１０９】
まず、異常検知装置１００は、メモリ１０３に解析対象データを読み出す（ステップＳ１１０１）。異常検知装置１００は、読みだした解析対象データの各特徴量と、後述するサンプルごとに記載されているラベルに相関関係があるかどうかを、非線形相関により算出し、相関係数が所定の閾値を超えたもののうち、上位の特徴量を選択する（ステップＳ１１０２）。
【０１１０】
ここで、解析対象データの各特徴量とは、クレジットカードの審査に用いられる年収や借金の有無等のデータや、病院における血糖値を含む血液検査の結果などである。また、サンプルごとに記載されているラベルとは、例えば、解析対象データのレコード毎に予め付加されたもので、当該データは患者のデータであるか否か、あるいは機器が故障した状態のデータであるか否か、などの異常を検知した状態とそうでない（異常が検知されていない）状態とを識別する情報である。
【０１１１】
また、上記では、相関係数の算出に非線形相関を用いたが、線形相関を用いても良いし、相関係数以外の手法によりラベルと解析対象データの各特徴量間に存在する関係性の高さを評価してもよい。
【０１１２】
続いて、異常検知装置１００は、ステップＳ１１０２により選択した解析対象データの各特徴量の１個ずつに対して、機械学習により精度予測を行う（ステップＳ１１０３）。機械学習による精度予測は、前記実施例１で予測した精度が高いハイパーパラメータセットを採用することで、処理を迅速に行うことができる。
【０１１３】
さらに、異常検知装置１００は、ステップＳ１１０２により選択した解析対象データの各特徴量において２個ずつのペアの組み合わせを生成する（ステップＳ１１０４）。
【０１１４】
異常検知装置１００は、上記ステップ１１０４Ｓにより生成した組み合わせに対し、機械学習により精度予測を行う（ステップＳ１１０５）。この精度予測も、前記実施例１で予測した精度が高いハイパーパラメータセットを採用することで、処理を迅速に行うことができる。
【０１１５】
異常検知装置１００は、ステップＳ１００３およびステップＳ１００５において、算出した２種類の予測精度および１０フォールドクロスバリデーション結果を用いた重要ペア特徴量の選択規則（後述）に従い、重要ペア特徴量を選択する（ステップＳ１１０６）。
【０１１６】
異常検知装置１００は、上記ステップＳ１１０６で選択した複数の重要ペア特徴量同士の関係性を選択して処理を終了する（ステップＳ１１０７）。
【０１１７】
ここで、重要ペア特徴量とは１つの解析対象データの特徴量では予測精度は高くならないものの、解析対象データの特徴量をペアにすることで期待予測精度が向上するような組み合わせとなる特徴量を指す。
【０１１８】
重要ペア特徴量選択の規則について説明する。異常検知装置１００は、上記ステップＳ１１０３において算出した単独の期待予測精度と、ステップＳ１１０５において算出したペアの期待予測精度の差が所定の閾値を上回るような解析対象データの特徴量のペアを１次重要特徴量として選択する。
【０１１９】
ここで、単独の予測精度はペアとした解析対象データの特徴量の２種類に関して存在するが、値が高い方とペア予測精度の差を算出することで、ペアにすることで予測精度が向上するような組み合わせを選択しやすくなると考えられる。
【０１２０】
次に、異常検知装置１００は、１次重要特徴量となったペアにおいて、ステップＳ１１０３およびステップＳ１１０５において算出した１０フォールドクロスバリデーションの平均値が閾値（例えば７０％）以上であったペアのみを重要特徴量として選択する。
【０１２１】
クロスバリデーションは、１０でなく５などの数値でもよい。また、クロスバリデーションの平均値の閾値は７０％ではなく９０％などでもよいし、回帰の場合は実際の数値や決定係数などであってもよい。
【０１２２】
異常検知装置１００は、クロスバリデーションの値を用いることで、予測精度の確からしさを判断することが可能になる。クロスバリデーションの値を用いずに、実行してもよいが、過学習により単独の予測精度およびペアの予測精度が高く、実際には予測が容易ではないペアを重要ペア特徴量として選択してしまうことの回避に対する難易度は向上することが予想される。
【０１２３】
ステップＳ１１０６における、選択した複数の重要ペア特徴量同士の関係性について説明する。例えば、選択された重要ペア特徴量が、特徴量Ａと特徴量Ｂ、特徴量Ｂと特徴量Ｃ、特徴量Ｃと特徴量Ａであった場合を考える。
【０１２４】
特徴量Ａ、特徴量Ｂおよび特徴量Ｃは、互いに重要特徴量であることから、これら３つの特徴量で精度を予測した場合において、単独で予測した場合より予測精度は向上すると考えられる。さらには、これら３つの特徴量で精度を予測した場合において、ペアで予測した場合より期待予測精度が向上する可能性もある。
【０１２５】
このように重要ペア特徴量を抽出することにより、２つの特徴量だけでなく、３つ以上の特徴量において、特徴量を増やすことで予測精度が向上する関係にある特徴量を発見することが可能になる。また、上記ステップ１１０４Ｓにより生成した組み合わせである２種の特徴量に対して、非線形相関を実施し、相関が低かったペアをより重要な重要ペア特徴量であると示してもよい。特徴量間に相関がまったくないにも関わらず、図１１に示すフローにより重要ペア特徴量であるとされた特徴量は、線形な手法を用いた解析では発見されづらい特徴量と考えることができる。このような解析手法を用いることで、医学研究で用いられることが多い線形の手法では発見できなかった関係性を発見可能となることが期待できる。また、前記データ解析手法は、解析対象データに適用する以外にも、解析対象データを参照して類似するデータを生成する技術によって生成されたデータに対して適用してもよい。
【０１２６】
以上のように、本実施例３によれば、解析対象データに前記重要な特徴量が含まれており、期待予測精度が低い場合には、解析対象データに前記重要な特徴量が含まれていないと判断することが可能である。この場合、解析を行っても有意な結果が得られないと判定して、データの解析を中止することができる。
【０１２７】
また、本実施例３によれば、２次特徴量をペアにすることで予測精度が向上するような組み合わせを重要ペア特徴量として抽出することが可能となる。
【実施例４】
【０１２８】
次に、実施例４の異常検知装置１００について説明する。実施例１の装置では、期待予測精度を予測する装置として機能する例を示した。本実施例４の異常検知装置１００は、解析対象データの精製手法の良し悪しを指標（期待予測精度）に基づいて判定する機能を有する例を示す。
【０１２９】
解析対象データは、取得したデータをそのまま使用することも可能であるが、データ精製（クレンジング）により真に重要（あるいは有用）な特徴量を抽出したデータを使用することもある。
【０１３０】
たとえば、特徴量の数が１０万個を超えるような場合、１０万個のすべてが意味のある特徴量ではなく、解析したい問題に対してまったく無関係の特徴量も多く含まれている可能性が高い。
【０１３１】
そこで、解析に対して無関係の特徴量が多く含まれる場合には、期待予測精度に悪影響を与える可能性がある。また、特徴量の中に、文字が含まれる場合や、画像と検査数値の様な種類の違う特徴量が含まれる場合などにおいては、同一の特徴量ベクトルとして扱えるように前処理を行う必要がある。
【０１３２】
これらの事前処理には様々な手法や、様々な観点における重要特徴量の決定方法が存在しうるため、解析対象データを１パターンだけでなく、ひとつの解析対象データについて異なる種類の事前処理を施したデータを複数パターン生成し、いずれのパターンが最も期待予測精度が高くなるのか試すこととなる。
【０１３３】
そこで、本実施例４を用いることで、複数種類の解析対象データを、図２のフローチャートに代表されるような期待予測精度予測器２１０に適用し、入力した複数種類の解析対象データの中から、期待予測精度が高い順に提示することで、どの解析対象データ生成方法が良好であったかを、瞬時に判断することを可能とする。
【０１３４】
図１２は本実施例４を説明する図である。ひとつのオリジナルの解析対象データから、たとえば３種類のデータ精製（またはクレンジング）方法である手法Ａ、手法Ｂおよび手法Ｃを用いて、３種類の解析対象データとして解析対象データＡ、解析対象データＢ、解析対象データＣを精製する。
【０１３５】
解析対象データＡ〜Ｃのそれぞれに対して、前記実施例１の図２に示したフローチャートに示した期待予測精度予測器２１０を適用し、最も期待予測精度が高かった精度を提示する。３種の解析対象データ（データＡ〜Ｃ）における期待予測精度を比較し、最も期待予測精度が高かった解析対象データを精製した手法が３つのデータ精製手法の中で最も良い手法であると考えられる。
【０１３６】
本実施例４の異常検知装置１００は、最も期待予測精度が高かった精製方法（データクレンジング）を、解析対象データの前処理として採用することができる。
【０１３７】
この知見を活かし、新たなデータ精製手法Ｄなどを実施して、同様の手順により他のデータ精製手法と比較することができる。期待予測精度予測器２１０を用いることで、複数のデータ精製手法の中からもっともよいデータ精製の手法を選択し、データ解析を行いたい場合においても、半年などの長期間を要さず、かつ専門家および高性能な解析用計算器を不要とすることが可能となる。
【０１３８】
＜まとめ＞
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に記載したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることが可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加、削除、又は置換のいずれもが、単独で、又は組み合わせても適用可能である。
【０１３９】
また、上記の各構成、機能、処理部、及び処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、及び機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、ＳＳＤ（Ｓｏｌｉｄ  Ｓｔａｔｅ  Ｄｒｉｖｅ）等の記録装置、または、ＩＣカード、ＳＤカード、ＤＶＤ等の記録媒体に置くことができる。
【０１４０】
また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。
【符号の説明】
【０１４１】
１００  異常検知装置
１０１  データバス
１０２  ＣＰＵ
１０３  メモリ
１０４  入出力インターフェイス
１０５  通信装置
１０６  ドライブ装置
１０７  入力装置
１０８  出力装置
１０９  記憶媒体
２１０  期待予測精度予測器
２１１  ２次特徴量生成器
２１２  精度予測器
２２０  学習器
２３０  結果表示器
【図１】
2019003408.tif 000003
【図２】
2019003408.tif 000004
【図３】
2019003408.tif 000005
【図４】
2019003408.tif 000006
【図５】
2019003408.tif 000007
【図６】
2019003408.tif 000008
【図７】
2019003408.tif 000009
【図８】
2019003408.tif 000010
【図９】
2019003408.tif 000011
【図１０】
2019003408.tif 000012
【図１１】
2019003408.tif 000013
【図１２】
2019003408.tif 000014