(57)【特許請求の範囲】
【請求項１】
再学習後の予測モデルの構造と再学習前の予測モデルの構造との近さを、予測モデルの性質の近さとして評価する予測モデル評価手段と、
前記性質の近さが所定の条件で規定される近さを満たす場合、再学習後の予測モデルで再学習前の予測モデルを更新する予測モデル更新手段とを備え、
前記予測モデル評価手段は、回帰式で表される予測モデルに含まれる説明変数の重複度合いを、予測モデルの性質の近さとして評価する
ことを特徴とする予測モデル更新システム。
【請求項２】
再学習後の予測モデルの予測結果と再学習前の予測モデルの予測結果との近さを、予測モデルの性質の近さとして評価する予測モデル評価手段と、
前記性質の近さが所定の条件で規定される近さを満たす場合、再学習後の予測モデルで再学習前の予測モデルを更新する予測モデル更新手段とを備え、
前記予測モデル評価手段は、予測結果を示す予測値の更新前後の差分に対して統計処理を行ったものを用いて予測モデルの性質の近さを評価する
ことを特徴とする予測モデル更新システム。
【請求項３】
複数の予測モデルの中から、再学習するか否かを判断するためのルールで規定される条件を満たす予測モデルを抽出する予測モデル抽出手段と、
抽出された予測モデルを再学習する予測モデル再学習手段とを備え、
予測モデル評価手段は、前記予測モデル再学習手段による再学習後の予測モデルと、再学習前の予測モデルの性質の近さを評価する
請求項１または請求項２記載の予測モデル更新システム。
【請求項４】
再学習前の予測モデルおよび再学習後の予測モデルが、予測対象のサンプルの内容に応じて当該サンプルの予測に用いられるコンポーネントが決定される予測モデルであり、
予測モデル評価手段は、予測対象のサンプルに対して、前記再学習前の予測モデルで決定されるコンポーネントと、前記再学習後の予測モデルで決定されるコンポーネントの無秩序の度合いに基づいて予測モデルの性質の近さを評価する
請求項１から請求項３のうちのいずれか１項に記載の予測モデル更新システム。
【請求項５】
予測モデル評価手段は、再学習前の予測モデルで用いられる属性と、再学習後の予測モデルで用いられる属性の重複度合いを、予測モデルの性質の近さとして評価する
請求項１から請求項３のうちのいずれか１項に記載の予測モデル更新システム。
【請求項６】
予測モデル評価手段は、再学習前の予測モデルで共通して分類されるサンプル点集合のうち、再学習後の予測モデルでも共通して分類されるサンプル点の割合を、予測モデルの性質の近さとして評価する
請求項１から請求項３のうちのいずれか１項に記載の予測モデル更新システム。
【請求項７】
コンピュータが、再学習後の予測モデルの構造と再学習前の予測モデルの構造との近さを、予測モデルの性質の近さとして評価し、
前記コンピュータが、前記性質の近さが所定の条件で規定される近さを満たす場合、再学習後の予測モデルで再学習前の予測モデルを更新し、
前記コンピュータが、前記性質の近さを評価する際、回帰式で表される予測モデルに含まれる説明変数の重複度合いを、予測モデルの性質の近さとして評価する
ことを特徴とする予測モデル更新方法。
【請求項８】
コンピュータが、再学習後の予測モデルの予測結果と再学習前の予測モデルの予測結果との近さを、予測モデルの性質の近さとして評価し、
前記コンピュータが、前記性質の近さが所定の条件で規定される近さを満たす場合、再学習後の予測モデルで再学習前の予測モデルを更新し、
前記コンピュータが、前記性質の近さを評価する際、予測結果を示す予測値の更新前後の差分に対して統計処理を行ったものを用いて予測モデルの性質の近さを評価する
ことを特徴とする予測モデル更新方法。
【請求項９】
コンピュータが、複数の予測モデルの中から、再学習するか否かを判断するためのルールで規定される条件を満たす予測モデルを抽出し、
前記コンピュータが、抽出された予測モデルを再学習し、
前記コンピュータが、性質の近さを評価する際、前記再学習された予測モデルと、再学習前の予測モデルの性質の近さを評価する
請求項７または請求項８記載の予測モデル更新方法。
【請求項１０】
コンピュータに、
再学習後の予測モデルの構造と再学習前の予測モデルの構造との近さを、予測モデルの性質の近さとして評価する予測モデル評価処理、および、
前記性質の近さが所定の条件で規定される近さを満たす場合、再学習後の予測モデルで再学習前の予測モデルを更新する予測モデル更新処理を実行させ、
前記予測モデル評価処理で、回帰式で表される予測モデルに含まれる説明変数の重複度合いを、予測モデルの性質の近さとして評価させる
ための予測モデル更新プログラム。
【請求項１１】
コンピュータに、
再学習後の予測モデルの予測結果と再学習前の予測モデルの予測結果との近さを、予測モデルの性質の近さとして評価する予測モデル評価処理、および、
前記性質の近さが所定の条件で規定される近さを満たす場合、再学習後の予測モデルで再学習前の予測モデルを更新する予測モデル更新処理を実行させ、
前記予測モデル評価処理で、予測結果を示す予測値の更新前後の差分に対して統計処理を行ったものを用いて予測モデルの性質の近さを評価させる
ための予測モデル更新プログラム。
【請求項１２】
コンピュータに、
複数の予測モデルの中から、再学習するか否かを判断するためのルールで規定される条件を満たす予測モデルを抽出する予測モデル抽出処理、および、
抽出された予測モデルを再学習する予測モデル再学習処理を実行させ、
予測モデル評価処理で、前記予測モデル再学習処理による再学習後の予測モデルと、再学習前の予測モデルの性質の近さを評価させる
請求項１０または請求項１１記載の予測モデル更新プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、予測モデルを更新する予測モデル更新システム、予測モデル更新方法および予測モデル更新プログラムに関する。
【背景技術】
【０００２】
予測モデルは、環境の変化などが原因で、時間の経過とともに予測精度が劣化することが知られている。そのため、更新することによって精度が向上すると判断される予測モデルを対象として再学習が行われ、再学習により生成された予測モデルが新たな予測モデルとして更新される。例えば、実測値と予測値との差が大きくなった予測モデルが選択され、この予測モデルを対象に再学習することも行われている。【０００３】
また、特許文献１には、各種設備のエネルギー需要を予測する装置が記載されている。特許文献１に記載された装置は、所定期間経過するごとに、前日に取得されたデータ、１時間前に取得されたデータ、１分前に取得されたデータを用いて、逐次、エネルギー需要予測モデルを更新する。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０１２−１９４７００号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
予測モデルは、一般に、複数の要因に基づいて定義される。例えば、目的変数と説明変数との間で成り立つ規則性を示す関数が予測モデルに用いられる。管理者は、予測モデルによる予測結果に基づいて、各要因の影響度合いを分析する。【０００６】
特許文献１に記載された装置のように、逐次予測モデルを更新することにより、予測精度を向上させることは可能である。しかし、予測モデルを更新する際に用いられる学習データや学習方法により、通常、予測に用いられる要因自体や、要因の影響度合いは変化する。分析対象とする要因が予測モデルの更新のたびに大きく変化してしまうと、管理者は、更新のたびに予測モデルの内容を把握しなければならず、その理解に多くの人的コスト（ヒューマンリソース）がかかってしまうという技術的課題がある。【０００７】
そこで、本発明は、予測モデルを更新する際の人的コストを低減できる予測モデル更新システム、予測モデル更新方法および予測モデル更新プログラムを提供することを目的とする。
【課題を解決するための手段】
【０００８】
本発明による予測モデル更新システムは、再学習後の予測モデルの構造と再学習前の予測モデルの構造との近さを、予測モデルの性質の近さとして評価する予測モデル評価手段と、性質の近さが所定の条件で規定される近さを満たす場合、再学習後の予測モデルで再学習前の予測モデルを更新する予測モデル更新手段とを備え、予測モデル評価手段が、回帰式で表される予測モデルに含まれる説明変数の重複度合いを、予測モデルの性質の近さとして評価することを特徴とする。また、本発明による他の予測モデル更新システムは、再学習後の予測モデルの予測結果と再学習前の予測モデルの予測結果との近さを、予測モデルの性質の近さとして評価する予測モデル評価手段と、性質の近さが所定の条件で規定される近さを満たす場合、再学習後の予測モデルで再学習前の予測モデルを更新する予測モデル更新手段とを備え、予測モデル評価手段が、予測結果を示す予測値の更新前後の差分に対して統計処理を行ったものを用いて予測モデルの性質の近さを評価することを特徴とする。
【０００９】
本発明による予測モデル更新方法は、コンピュータが、再学習後の予測モデルの構造と再学習前の予測モデルの構造との近さを、予測モデルの性質の近さとして評価し、コンピュータが、性質の近さが所定の条件で規定される近さを満たす場合、再学習後の予測モデルで再学習前の予測モデルを更新し、コンピュータが、性質の近さを評価する際、回帰式で表される予測モデルに含まれる説明変数の重複度合いを、予測モデルの性質の近さとして評価することを特徴とする。また、本発明による他の予測モデル更新方法は、コンピュータが、再学習後の予測モデルの予測結果と再学習前の予測モデルの予測結果との近さを、予測モデルの性質の近さとして評価し、コンピュータが、性質の近さが所定の条件で規定される近さを満たす場合、再学習後の予測モデルで再学習前の予測モデルを更新し、コンピュータが、性質の近さを評価する際、予測結果を示す予測値の更新前後の差分に対して統計処理を行ったものを用いて予測モデルの性質の近さを評価することを特徴とする。
【００１０】
本発明による予測モデル更新プログラムは、コンピュータに、再学習後の予測モデルの構造と再学習前の予測モデルの構造との近さを、予測モデルの性質の近さとして評価する予測モデル評価処理、および、性質の近さが所定の条件で規定される近さを満たす場合、再学習後の予測モデルで再学習前の予測モデルを更新する予測モデル更新処理を実行させ、予測モデル評価処理で、回帰式で表される予測モデルに含まれる説明変数の重複度合いを、予測モデルの性質の近さとして評価させることを特徴とする。また、本発明による他の予測モデル更新プログラムは、コンピュータに、再学習後の予測モデルの予測結果と再学習前の予測モデルの予測結果との近さを、予測モデルの性質の近さとして評価する予測モデル評価処理、および、性質の近さが所定の条件で規定される近さを満たす場合、再学習後の予測モデルで再学習前の予測モデルを更新する予測モデル更新処理を実行させ、予測モデル評価処理で、予測結果を示す予測値の更新前後の差分に対して統計処理を行ったものを用いて予測モデルの性質の近さを評価させることを特徴とする。
【発明の効果】
【００１１】
本発明によれば、予測モデルを更新する際の人的コストを低減できる。
【図面の簡単な説明】
【００１２】
【図１】本発明による予測モデル更新システムの一実施形態を示すブロック図である。
【図２】評価指標、再学習ルールおよび更新評価ルールの例を示す説明図である。
【図３】予測モデルの精度指標を可視化した例を示す説明図である。
【図４】予測モデルの精度指標を可視化した他の例を示す説明図である。
【図５】予測モデルの類似性を可視化する例を示す説明図である。
【図６】予測モデル更新システムの動作例を示すフローチャートである。
【図７】本発明による予測モデル更新システムの概要を示すブロック図である。
【発明を実施するための形態】
【００１３】
以下、本発明の実施形態を図面を参照して説明する。
【００１４】
図１は、本発明による予測モデル更新システムの一実施形態を示すブロック図である。本実施形態の予測モデルは、複数の予測モデルの中から更新候補の予測モデルを抽出し、抽出された予測モデルを再学習後、再学習前の予測モデルを再学習後の予測モデルで実際に更新するか否か判断する。
【００１５】
本実施形態の予測モデル更新システムは、予測モデル更新判断部１１と、予測モデル再学習部１２と、予測モデル評価部１３と、予測モデル更新部１４と、結果出力部１５とを備えている。
【００１６】
予測モデル更新判断部１１は、更新候補の予測モデルを判断する。具体的には、予測モデル更新判断部１１は、複数の予測モデルの中から、再学習するか否かを判断するためのルール（以下、再学習ルールと記す。）に基づいて、更新候補である再学習対象の予測モデルを抽出する。再学習ルールは、予測モデルの再学習要否を予め定めた評価指標に基づいて規定したルールである。
【００１７】
再学習ルールに用いられる評価指標の内容は任意である。評価指標として、前回の予測モデルを学習してからの期間や更新してからの期間、学習データの増加量、時間の経過に対する精度劣化度合、サンプル数などの変化、計算リソースなどが挙げられる。ただし、評価指標の内容はこれらの内容に限定されず、予測モデルを更新すべきかの判断に利用することが可能な指標であれば、他の内容であってもよい。また、評価指標は、予測結果により算出される内容に限定されない。
【００１８】
このように、予測モデル更新判断部１１が、複数の予測モデルの中から再学習対象を絞り込むことにより、再学習対象の予測モデルの数を減らせるため、再学習に要するコスト（マシンリソース）を低減させることが可能になる。これは、更新候補の予測モデルの数が大量になった場合、より大きな効果を示す。
【００１９】
予測モデル再学習部１２は、予測モデル更新判断部１１によって抽出された予測モデルを再学習する。再学習の方法は任意である。予測モデル再学習部１２は、例えば、あるデータ区間を選定し、予め定められた方法で決定されるパラメータを用いて、ランダムリスタートにより予測モデルを再学習してもよい。また、予測モデル再学習部１２は、再学習ルールで定義されたアルゴリズムに基づいて、予測モデルを再学習してもよく、１つの予測モデルについて複数の再学習結果を生成してもよい。
【００２０】
また、予測モデル再学習部１２は、再学習前による予測モデルの変化を抑制するため、再学習前の予測モデルを入力とする、いわゆるホットスタートにより、予測モデルを再学習してもよい。例えば、予測モデルが木構造で表され、各ノードに配される条件に基づいて、入力されるデータの内容に応じてそのデータの予測に用いられる予測式が場合分けされる場合、予測モデル再学習部１２がホットスタートによる予測モデルの再学習をすることで、その木構造や条件が近似する予測モデルを生成することが可能になる。このような再学習方法を用いることにより、再学習後の予測モデルの構造が再学習前の予測モデルに近づくため、結果的に予測モデルを更新する際の人的コストを低減できる。
【００２１】
予測モデル評価部１３は、再学習前の予測モデルを再学習後の予測モデルで更新するか判断する。具体的には、予測モデル評価部１３は、再学習後の予測モデルを実際に更新するか否かを判断するためのルール（以下、更新評価ルールと記す。）に基づいて、更新対象とする予測モデルを抽出する。更新評価ルールは、更新前の予測モデルと更新後の予測モデルの変化状況を規定したルールである。
【００２２】
更新評価ルールで規定する変化状況の内容も任意である。本実施形態では、予測モデル評価部１３は、予測モデルの性質の近さに着目して、更新前の予測モデルと更新後の予測モデルの変化状況を判断する。すなわち、予測モデル評価部１３は、再学習後の予測モデルと再学習前の予測モデルの性質の近さを評価する。
【００２３】
ここで、予測モデルの性質の近さとは、少なくとも、予測結果の近さ、または、予測モデルの構造的な近さを意味する。すなわち、本実施形態では、予測モデルの精度向上とともに、予測モデル自体の性質の変化を評価することで、予測モデルが大きく変化することを抑制する。
【００２４】
以下、予測モデルの性質の近さを評価する方法を説明する。まず、予測結果の近さを評価する方法を説明する。予測結果の近さとは、更新前の予測モデルによる予測結果と、更新後の予測モデルによる予測結果との近似度合いを意味する。
【００２５】
予測モデル評価部１３は、予測結果に様々な指標を用いることが可能である。例えば、更新後の予測モデルによる予測値と更新前の予測モデルによる予測値の差分をそれぞれ算出した結果に対して統計処理（例えば、差分の２乗和、分散の計算など）を行ったものを、予測モデルの予測結果の近さと定義してもよい。同じ対象に対する予測結果の変化が小さいほど、予測モデルの変化は小さいと言えるからである。
【００２６】
次に、予測モデルの構造的な近さを評価する方法を説明する。予測モデルの構造的な近さの例として、予測する際の回帰式で用いられる属性（説明変数、要因）の重複度合いが挙げられる。また、入力されるデータの内容に応じてそのデータの予測に用いられるコンポーネン（予測式）場合分けされる場合、その場合分けに用いられるデータの属性（説明変数、要因）の重複度合いを予測モデルの構造的な近さと定義してもよい。いずれも、重複度合いが高いほど、予測モデルの構造が近いと判断できる。
【００２７】
特に、解釈性の高い予測モデルでは、予測に用いられる属性（説明変数、要因）の影響をユーザが認識できる場合が多い。例えば、予測に用いられる説明変数が変化すると使用する原料を変えなければならないような場合、説明変数は極力固定されることが好ましい。このような場合、予測モデル評価部１３が、説明変数の重複度合いを予測モデルの構造的な近さとして評価することで、ユーザにとってより近い予測モデルを特定できる。
【００２８】
また、入力されるデータの内容に応じてそのデータの予測に用いられるコンポーネント（予測式）が場合分けされる場合、予測モデル評価部１３は、学習データの観点で予測モデルの構造的な近さを評価してもよい。以下、学習データの観点から予測モデルの構造的な近さを評価する一例を説明する。
【００２９】
まず、予測モデル評価部１３は、ある学習区間における複数のサンプル点が、再学習前の予測モデルで用いられる各コンポーネントのいずれに配置されるか特定し、コンポーネントごとにサンプル点の集合を生成する。次に、予測モデル評価部１３は、同じ複数のサンプル点が、再学習後の予測モデルで用いられる各コンポーネントのいずれに配置されるか特定し、コンポーネントごとにサンプル点の集合を生成する。そして、予測モデル評価部１３は、再学習前の同一の集合内のサンプル点が、再学習後の各サンプル点の集合に含まれる割合を集合ごとに算出し、その割合の中から最大割合を特定する。予測モデル評価部１３は、これを、全ての再学習前の集合に対して実施し、算出されたそれぞれの最大割合の平均を算出する。
【００３０】
この最大割合の平均が大きいほど、再学習前のコンポーネントに分類されるサンプル点の集合が、できるだけ分散せずに再学習後のコンポーネントに分類されることを意味する。これは、ユーザから見れば、再学習前に同様の予測が行われるデータ群が、再学習後でも同様の予測が行われることになるため、予測モデルが構造的に近いと言える。このように、予測モデル評価部１３は、再学習前の予測モデルで共通して分類されるサンプル点集合のうち、再学習後の予測モデルでも共通して分類されるサンプル点の割合を、予測モデルの構造的な近さとして評価してもよい。
【００３１】
また、入力されるデータの内容に応じてそのデータの予測に用いられるコンポーネント（予測式）が場合分けされる場合、予測モデル評価部１３は、その場合分けの近さを予測モデルの構造的な近さとして評価してもよい。場合分け処理は、コンポーネントが混合している予測モデル（例えば、回帰木など）について、各コンポーネントを分割する処理とも言えるため、予測モデルの構造の近さは、コンポーネントを分割する近さということもできる。
【００３２】
以下の説明では、コンポーネントを分割する近さをエントロピーを用いた具体例で説明する。また、本説明では、再学習前の予測モデルを旧モデル、再学習後の予測モデルを新モデルと記し、コンポーネントのことを単に式と記すこともある。また、旧モデルで用いられるコンポーネント（予測式）の番号をｘと記し、新モデルで用いられるコンポーネント（予測式）の番号をｙと記す。
【００３３】
ここでは、与えられたサンプルが予測モデルの各式にばらつく度合いをエントロピーで表わす。例えば、旧モデルが与えられた場合のエントロピーＨ（ｘ）は、以下の式１で定義される。式１において、Ｐｘは、サンプルが旧モデルのｘ番目の式に割り当てられる確率を示す。
【００３４】
【数１】
0006531821.tif 000002
【００３５】
また、旧モデルおよび新モデルが与えられた場合の結合エントロピーＨ（ｘ，ｙ）は、以下の式２で定義される。式２において、Ｐｘ，ｙは、旧モデルでｘ番目の式が新モデルのｙ番目に式に対応する確率を示し、実質的には対応するデータセットが新旧のモデルの各式に割り当てられる数に基づいて算出される。すなわち、割り当てられる式の偏りが小さいほど結合エントロピーは小さく算出される。
【００３６】
【数２】
0006531821.tif 000003
【００３７】
予測モデル評価部１３は、あるサンプルの旧モデルで割り当てられていたコンポーネントが明らかになることで、そのサンプルが割り当てられる新モデルのコンポーネントがどの程度明らかになるかを示す指標が大きいほど、両モデルが構造的に近いと評価する。この指標は、相互情報量で表され、上述する確率分布の相互情報量Ｉ（ｘ；ｙ）は、以下の式３で定義される。
【００３８】
【数３】
0006531821.tif 000004
【００３９】
このように、旧モデルのある式に割り当てられたサンプルが新モデルの式に偏って割り当てられるほど両モデルが近いと言える。一方、旧モデルのある式に割り当てられたサンプルが新モデルの式に一様に割り当てられるほど両モデルは遠いと言える。このように、予測モデル評価部１３は、旧モデルで決定されるコンポーネントと新モデルで決定されるコンポーネントの無秩序の度合いに基づいて、両予測モデルの性質の近さを評価してもよい。無秩序であるほど、両予測モデルは遠いと判断される。
【００４０】
なお、上記説明では、予測モデル評価部１３が予測モデルの性質の変化に着目して評価する場合について説明した。ただし、着目する予測モデルの変化は、予測結果の変化、または、予測モデルの構造的な変化に限られない。予測モデル評価部１３は、例えば、推定精度の変化や、予測モデルで用いられるサンプル数の変化など、評価指標の変化を予測モデルの性質の変化として評価してもよい。
【００４１】
図２は、評価指標、再学習ルールおよび更新評価ルールの例を示す説明図である。図２に例示する「再学習判定」の欄は、再学習ルールを定義する構成要素であり、再学習ルールが、「評価指標」の列に示す各評価指標の条件を「論理構造」の欄に示す演算子で結合した条件として表されることを示す。また、「対象選択」の欄は、再学習ルールに適合する予測モデルのうち、再学習する対象を選択するルールを示す。また、「再学習データの作り方」の欄は、再学習に用いられる学習データの生成方法を示す。また、「再学習後の出荷判定」の欄は、更新評価ルールを定義する構成要素であり、更新評価ルールが、「評価指標」の列に示す各評価指標の条件を「論理構造」の欄に示す演算子で結合した条件として表されることを示す。
【００４２】
図２に例示する評価指標以外にも、例えば、直近１週間と学習直後１週間の平均誤差率の差、異種混合学習における１つの予測式（門関数を通った後）ごとの誤差率変化や時間経過などが評価指標に用いられてもよい。予測モデル評価部１３は、これらの評価指標が論理結合（ＡＮＤ／ＯＲ）または一次結合された式の値を評価し、予め定めた条件を満たす予測モデルを更新対象として判定してもよい。
【００４３】
なお、予測モデル更新判断部１１も同様に、これらの評価指標が論理結合（ＡＮＤ／ＯＲ）または一次結合された式の値を評価し、さらに、計算リソースを考慮して、決められた数の予測モデルを再学習対象の予測モデルとして抽出してもよい。
【００４４】
図２に例示する評価指標には、人間が判断しやすい内容が設定される。すなわち、図２に例示する評価指標を論理構造で組み合わせたルールは、人間が把握しやすく、更新判断を行う際に有用である。すなわち、図２に例示する評価指標を用いることで、再学習処理および更新処理がホワイトボックス化されて分かりやすくなるため、ルールを検討する際の人的コストを低減させることが可能になる。
【００４５】
図２に例示するように、予測モデル更新判断部１１が用いる基準（再学習ルール）と、予測モデル評価部１３が用いる基準（更新評価ルール）は、同一でなくてもよい。本実施形態では、運用中の予測モデルを更新するまでに、２段階の基準を設けている。このように、２段階の基準を設けることで、処理対象の予測モデルを絞り込めるため、システム全体のコストを低減できる。
【００４６】
また、更新評価ルールは、運用中の予測モデルを更新することになるため、更新評価ルールを再学習ルールよりも厳しい条件に設定してもよい。また、再学習ルールと更新評価ルールに用いられる判定対象（属性や経過日数など）は、同一であってもよく、異なっていてもよい。
【００４７】
予測モデル更新部１４は、予測モデル評価部１３によって評価された両予測モデルの性質の近さが、更新評価ルールで規定する条件を満たす場合、再学習後の予測モデルで再学習前の予測モデルを更新する。更新評価ルールには、評価内容に応じて、予測モデルの更新を許容する近さが規定される。なお、予測モデル更新部１４は、自動的に予測モデルを更新せず、ユーザにアラートを通知するようにしてもよい。アラートの通知方法は任意であり、例えば、画面への表示やメールによる通知であってもよい。
【００４８】
結果出力部１５は、予測モデル再学習部１２による再学習結果や、予測モデル更新部１４による更新結果を出力する。結果出力部１５は、再学習結果や更新結果を表示装置（図示せず）に表示してもよい。
【００４９】
結果出力部１５は、例えば、再学習ルールに適合した予測モデルの評価指標を他の評価指標と区別して（例えば、強調して）可視化してもよい。図３は、予測モデルの精度指標を可視化した例を示す説明図である。図３では、３種類の予測対象（おにぎり、サンドイッチ、猫缶）の一ヶ月ごとの評価指標を例示している。また、図３に示す例では、“三ヶ月連続で最大誤差の絶対値が５を超えた”という再学習ルールを予測モデルが満たす場合に、再学習が行われるとする。
【００５０】
図３に示す例では、まず、結果出力部１５は、３種類の予測対象の一ヶ月ごとの平均誤差を出力する。この状態で、１つの予測対象（ここでは、おにぎり）が選択されると、結果出力部１５は、選択された予測対象について、他の評価指標（ここでは、最大誤差、クレーム回数）を含む表形式で出力する。
【００５１】
さらに、結果出力部１５は、再学習を行うきっかけとなった箇所を他の指標と区別して可視化する。図３に示す例では、１月から３月の最大誤差の絶対値が５を超えており、そのことがきっかけで予測モデルが再学習されている。そこで、結果出力部１５は、１月から３月の最大誤差の絶対値を示す欄を網掛け表示（強調表示）する。また、結果出力部１５は、更新タイミング（図３に例示するラインＬ）を可視化してもよい。
【００５２】
図４は、予測モデルの精度指標を可視化した他の例を示す説明図である。図４に示す例は、予測対象の評価指標をグラフ形式で出力したものであり、図３の表形式で出力された他の評価指標に相当する。そこで、結果出力部１５は、１月から３月の最大誤差の絶対値を示す折れ線グラフを強調表示する。また、図３の場合と同様に、結果出力部１５は、更新タイミング（図４に例示するラインＬ）を可視化してもよい。
【００５３】
また、結果出力部１５は、予測モデル再学習部１２による再学習結果として、再学習前の予測モデルと再学習後の予測モデルの性質の類似性を可視化してもよい。図５は、再学習前の予測モデルと再学習後の予測モデルの類似性を可視化する例を示す説明図である。図５に示す例は、再学習前の予測モデルで各式に割り当てられたバリデーション用データが再学習後の予測モデルの式にどの程度の割合で割り当てられたかを示し、上述するＰｘ，ｙに対応する。結果出力部１５は、図５に例示する表を出力してもよく、割合を示す値に応じて図５に示すようにヒートマップで出力してもよい。
【００５４】
このように、結果出力部１５が再学習結果や更新結果を可視化して出力することで、人間が更新理由や更新タイミングを容易に把握できるため、結果として人的コストを低減できる。
【００５５】
予測モデル更新判断部１１と、予測モデル再学習部１２と、予測モデル評価部１３と、予測モデル更新部１４と、結果出力部１５とは、プログラム（予測モデル更新プログラム）に従って動作するコンピュータのＣＰＵによって実現される。例えば、プログラムは、予測モデル更新システムの記憶部（図示せず）に記憶され、ＣＰＵは、そのプログラムを読み込み、プログラムに従って、予測モデル更新判断部１１、予測モデル再学習部１２、予測モデル評価部１３、予測モデル更新部１４および結果出力部１５として動作してもよい。
【００５６】
また、予測モデル更新判断部１１と、予測モデル再学習部１２と、予測モデル評価部１３と、予測モデル更新部１４と、結果出力部１５とは、それぞれが専用のハードウェアで実現されていてもよい。また、本発明による予測モデル更新システムは、２つ以上の物理的に分離した装置が有線または無線で接続されることにより構成されていてもよい。
【００５７】
次に、本実施形態の予測モデル更新システムの動作を説明する。図６は、本実施形態の予測モデル更新システムの動作例を示すフローチャートである。まず、予測モデル更新判断部１１は、再学習ルールに基づいて、複数の予測モデルの中から更新候補の予測モデルを抽出する（ステップＳ１１）。予測モデル再学習部１２は、抽出された予測モデルを再学習する（ステップＳ１２）。
【００５８】
予測モデル評価部１３は、更新評価ルールに基づいて、再学習後の予測モデルと再学習前の予測モデルの性質の近さを評価する（ステップＳ１３）。評価された性質の近さが更新評価ルールで規定される近さを満たす場合、予測モデル更新部１４は、再学習後の予測モデルで再学習前の予測モデルを更新する（ステップＳ１４）。
【００５９】
以上のように、本実施形態では、予測モデル評価部１３が、再学習後の予測モデルと再学習前の予測モデルの性質の近さを評価し、評価された性質の近さが更新評価ルールで規定される近さを満たす場合、予測モデル更新部１４が、再学習後の予測モデルで再学習前の予測モデルを更新する。具体的には、予測モデル評価部１３が、予測結果の近さ、または、構造的な近さを予測モデルの性質の近さとして評価する。よって、予測モデルを更新する際の人的コストを低減できる。
【００６０】
一般的に、解釈性のある予測モデルを用いて運用を行うと、ユーザは予測モデルの特性（例えば、当たりにくい状況や、予測モデルの活用方法など）を理解し、運用を最適化していく。そのため、例えば、性能指標だけでモデルを評価し、予測モデルを更新する方法の場合、予測モデルの構造自体が大きく変化してしまう場合もある。この場合、予測モデルの特性も大きく変化する為、ユーザは予測モデルの特性を把握しなおすとともに、運用方法も見直さなければならなくなるため、多くの人的コストがかかるおそれがある。
【００６１】
しかし、本実施形態では、予測モデル評価部１３が、再学習後の再学習後の予測モデルと再学習前の予測モデルの性質の近さを評価し、その性質の近さが所定の条件を満たす場合に、予測モデル更新部１４が予測モデルを更新する。そのため、更新される予測モデルは、更新前の予測モデルと性質的に近似することになる。この場合、予測モデルの特性の変化も抑えられるため、結果としてユーザの運用が効率的に回る可能性が高く、予測モデルの更新に伴う人的コストを低減できる。
【００６２】
また、本実施形態では、予測モデル更新システムが、予測モデル更新判断部１１、予測モデル再学習部１２、予測モデル評価部１３、予測モデル更新部１４および結果出力部１５を含む構成を例示した。
【００６３】
ただし、結果出力部１５が再学習結果と更新結果のいずれか一方を可視化して出力する場合、予測モデル更新システムの一部の構成で、別途システムが実現されてもよい。例えば、再学習結果に特化して可視化をする再学習結果可視化システムが、予測モデル更新判断部１１と、予測モデル再学習部１２と、結果出力部１５を備える構成で実現されてもよい。また、更新結果に特化して可視化をする更新結果可視化システムが、予測モデル評価部１３と、予測モデル更新部１４と、結果出力部１５を備える構成で実現されてもよい。
【００６４】
次に、本発明の概要を説明する。図７は、本発明による予測モデル更新システムの概要を示すブロック図である。本発明による予測モデル更新システムは、再学習後の予測モデルと再学習前の予測モデルの性質の近さを評価する予測モデル評価手段８１（例えば、予測モデル評価部１３）と、性質の近さが所定の条件（例えば、更新評価ルール）で規定される近さを満たす場合、再学習後の予測モデルで再学習前の予測モデルを更新する予測モデル更新手段８２（例えば、予測モデル更新部１４）と備えている。
【００６５】
そして、予測モデル評価手段８１は、予測結果の近さ、または、構造的な近さを予測モデルの性質の近さとして評価する。そのような構成により、予測モデルを更新する際の人的コストを低減できる。
【００６６】
また、予測モデル更新システムは、複数の予測モデルの中から、再学習するか否かを判断するためのルール（例えば、再学習ルール）で規定される条件を満たす予測モデルを抽出する予測モデル抽出手段（例えば、予測モデル更新判断部１１）と、抽出された予測モデルを再学習する予測モデル再学習手段（例えば、予測モデル再学習部１２）とを備えていてもよい。そして、予測モデル評価手段８１は、予測モデル再学習手段による再学習後の予測モデルと、再学習前の予測モデルの性質の近さを評価してもよい。
【００６７】
そのような構成によれば、再学習対象の予測モデルを絞り込むことができるため、計算に要するコスト（例えば、マシンリソースなど）を低減できる。これは、対象とする予測モデルが多くなればなるほど、より大きな効果を奏する。
【００６８】
また、再学習前の予測モデルおよび再学習後の予測モデルが、予測対象のサンプルの内容に応じて、そのサンプルの予測に用いられるコンポーネントが決定される予測モデル（例えば、木構造の予測モデル、異種混合学習アルゴリズムにより生成される予測モデルなど）であってもよい。そして、予測モデル評価手段８１は、予測対象のサンプルに対して、再学習前の予測モデルで決定されるコンポーネントと、再学習後の予測モデルで決定されるコンポーネントの無秩序の度合い（例えば、エントロピー、相互情報量）に基づいて予測モデルの性質の近さを評価してもよい。
【００６９】
一方、予測モデル評価手段８１は、再学習前の予測モデルによる予測結果と、再学習後の予測モデルによる予測結果の近さを、予測モデルの性質の近さ（例えば、予測結果の近さ）として評価してもよい。
【００７０】
他にも、予測モデル評価手段８１は、再学習前の予測モデルで用いられる属性（例えば、説明変数）と、再学習後の予測モデルで用いられる属性の重複度合いを、予測モデルの性質の近さ（例えば、構造的な近さ）として評価してもよい。
【００７１】
他にも、予測モデル評価手段８１は、再学習前の予測モデルで共通して分類されるサンプル点集合のうち、再学習後の予測モデルでも共通して分類されるサンプル点の割合を、予測モデルの性質の近さ（例えば、構造的な近さ）として評価してもよい。
【符号の説明】
【００７２】
１１  予測モデル更新判断部
１２  予測モデル再学習部
１３  予測モデル評価部
１４  予測モデル更新部
１５  結果出力部
【図１】
0006531821.tif 000005
【図２】
0006531821.tif 000006
【図３】
0006531821.tif 000007
【図４】
0006531821.tif 000008
【図５】
0006531821.tif 000009
【図６】
0006531821.tif 000010
【図７】
0006531821.tif 000011