(57)【要約】　【課題】　モデル化に必要な手順を自動化して精度よいモデルを効率的に構築できるようにし、さらに、モデル形態を自動的に調節して適用対象の変化に柔軟に追随する適応的なモデルを構築するモデル構築方法及びモデル構築システムを提供する。　【解決手段】　複数因子の多次元のデータ空間を分割したそれぞれの分割データ空間に含まれる因子を用いてモデルの入力因子と出力因子とを決定し、それぞれの分割データ空間内の多変量データを用いてモデル化を行い、分割データ空間毎の複数モデルを統合した統合モデルの精度が所定条件を満たすまで分割データ空間の補正を行ってモデルを構築するモデル構築方法およびモデル構築システムとした。【選択図】　図１
2004086897.tif 000002
【特許請求の範囲】
【請求項１】
　複数因子の多変量データを解析し、ある出力因子と入出力関係を有する入力因子を複数因子の中から見出して入出力関係のモデル化を行うモデル構築方法において、
　複数因子の中の一部または全ての因子により表される多次元のデータ空間を分割して分割データ空間を生成する分割データ空間生成ステップと、
　分割データ空間に含まれる因子を用いてモデルの入力因子と出力因子とを分割データ空間毎に決定する因子決定ステップと、
　分割データ空間に含まれ、入力因子と出力因子とに対応する多変量データを用いて入出力関係のモデル化を分割データ空間毎に行うモデル化ステップと、
　分割データ空間毎に構築された複数のモデルを統合した統合モデルの精度を評価するモデル精度評価ステップと、
　統合モデルの精度の評価が所定条件を満たすように分割データ空間の補正を行う分割データ空間補正ステップと、
　を行い、
　統合モデルの精度の評価が所定条件を満たすまで、分割データ空間補正ステップ、因子決定ステップ、モデル化ステップおよびモデル精度評価ステップを順次行って、モデルを構築することを特徴とするモデル構築方法。
【請求項２】
　請求項１に記載されたモデル構築方法において、
　前記分割データ空間補正ステップは、モデルの入出力の相関関係を表す指標である相関係数を用いて相関の有無に応じて分割データ空間の融合・分割を行って分割データ空間の補正を行う、
　ことを特徴とするモデル構築方法。
【請求項３】
　請求項１に記載されたモデル構築方法において、
　前記分割データ空間補正ステップは、分割データ空間毎に決定されるモデルの入力因子に対して多変量データを入力して得られるモデル出力と、出力因子に係る多変量データと、の誤差が所定のしきい値以上のデータを新しいデータ空間に分割して分割データ空間の補正を行う、
　ことを特徴とするモデル構築方法。
【請求項４】
　請求項１〜請求項３の何れか一項に記載されたモデル構築方法において、
　前記分割データ空間生成ステップは、分割データ空間としてクラスタを生成するクラスタリング手法を採用し、
　使用する多変量データ全部を用いてクラスタリングを行って予備クラスタに分割する予備クラスタリングステップと、
　予備クラスタ毎にクラスタリング用因子の重要度を算定し、クラスタリング用因子の選択を行うクラスタリング用因子選択ステップと、
　クラスタリング用因子選択ステップによって選択されたクラスタリング用因子に係る多変量データを用いてクラスタリングを行ってクラスタに分割する本クラスタリングステップと、
　を行い、
　複数因子の中の一部または全ての因子により表される多次元のデータ空間を分割してクラスタ単位の分割データ空間を生成することを特徴とするモデル構築方法。
【請求項５】
　請求項４記載のモデル構築方法において、
　前記クラスタリング用因子選択ステップは、予備クラスタリングによって生成された予備クラスタごとに、各因子の中心を表す値を算出し、その値のばらつき度合いによってクラスタリング用因子の重要度を算定し、クラスタリング用因子を選択することを特徴とするモデル構築方法。
【請求項６】
　請求項４記載のモデル構築方法において、
　前記クラスタリング用因子選択ステップは、予備クラスタリングによって生成された予備クラスタごとに、各因子の最小値から最大値の範囲の重なり度合いによってクラスタリング用因子の重要度を算定し、クラスタリング用因子を選択することを特徴とするモデル構築方法。
【請求項７】
　複数因子の多変量データを解析し、ある出力因子と入出力関係を有する入力因子を複数因子の中から見出して入出力関係のモデル化を行う計算機等のモデル構築システムにおいて、
　複数因子の中の一部または全ての因子により表される多次元のデータ空間を分割して分割データ空間を生成する分割データ空間生成手段と、
　分割データ空間に含まれる因子を用いてモデルの入力因子と出力因子とを分割データ空間毎に決定する因子決定手段と、
　分割データ空間に含まれ、入力因子と出力因子とに対応する多変量データを用いて入出力関係のモデル化を分割データ空間毎に行うモデル化手段と、
　分割データ空間毎に構築された複数のモデルを統合した統合モデルの精度を評価するモデル精度評価手段と、
　統合モデルの精度の評価が所定条件を満たすように分割データ空間の補正を行う分割データ空間補正手段と、
　を備え、
　統合モデルの精度の評価が所定条件を満たすまで、分割データ空間補正手段、因子決定手段、モデル化手段およびモデル精度評価手段を順次機能させて、モデルを構築することを特徴とするモデル構築システム。
【請求項８】
　請求項７に記載されたモデル構築システムにおいて、
　前記分割データ空間補正手段は、モデルの入出力の相関関係を表す指標である相関係数を用いて相間の有無に応じて分割データ空間の融合・分割を行って分割データ空間の補正を行う、
　ことを特徴とするモデル構築システム。
【請求項９】
　請求項７に記載されたモデル構築システムにおいて、
　前記分割データ空間補正手段は、分割データ空間毎に決定されるモデルの入力因子に対して多変量データを入力して得られるモデル出力と、出力因子に係る多変量データと、の誤差が所定のしきい値以上のデータを新しいデータ空間に分割して分割データ空間の補正を行う、
　ことを特徴とするモデル構築システム。
【請求項１０】
　請求項７〜請求項９の何れか一項に記載されたモデル構築システムにおいて、
　前記分割データ空間生成手段は、分割データ空間としてクラスタを生成するクラスタリング手法を採用し、
　使用する多変量データ全部を用いてクラスタリングを行って予備クラスタに分割する予備クラスタリング手段と、
　予備クラスタ毎にクラスタリング用因子の重要度を算定し、クラスタリング用因子の選択を行うクラスタリング用因子選択手段と、
　クラスタリング用因子選択手段によって選択されたクラスタリング用因子に係る多変量データを用いてクラスタリングを行ってクラスタに分割する本クラスタリング手段と、
　を備え、
　複数因子の中の一部または全ての因子により表される多次元のデータ空間を分割してクラスタ単位の分割データ空間を生成することを特徴とするモデル構築システム。
【請求項１１】
　請求項１０記載のモデル構築システムにおいて、
　前記クラスタリング用因子選択手段は、予備クラスタリングによって生成された予備クラスタごとに、各因子の中心を表す値を算出し、その値のばらつき度合いによってクラスタリング用因子の重要度を算定し、クラスタリング用因子を選択することを特徴とするモデル構築システム。
【請求項１２】
　請求項１０記載のモデル構築システムにおいて、
　前記クラスタリング用因子選択手段は、予備クラスタリングによって生成された予備クラスタごとに、各因子の最小値から最大値の範囲の重なり度合いによってクラスタリング用因子の重要度を算定し、クラスタリング用因子を選択することを特徴とするモデル構築システム。
【発明の詳細な説明】
【技術分野】
【０００１】
　本発明は、複数の因子から構成される多変量データを解析し、ある出力因子と入出力関係を有する入力因子を複数因子の中から見出して入出力関係のモデル化を行うモデル構築方法およびモデル構築システムに関する。
【背景技術】
【０００２】
　多変量データに潜む入出力関係を見つけ、モデル化してデータの動向を探る解析は従来より行われている。
　例えば、あるプラント、または、情報処理システムについての計測情報、生産情報、運用情報、故障情報に代表される複数因子からなる多変量データが取得され、コンピュータがこれら多変量データを解析して、プラント・情報処理システムの予測モデル、または、異常診断モデルに代表される各種モデルのモデル化を行う、というものである。
【０００３】
　これら多変量データの入出力関係のモデル化は各種考えられるが、例えば、多変量データの中のある一つの因子の将来状態を予測する予測モデルを構築する従来技術について説明する。
　なお、予測モデルは出力因子と入力因子があり、入力因子および出力因子に相当する多変量データを用いて入出力関係を決定するモデルであるとする。
【０００４】
　予測モデルの構築方法では、大きく分けて次の三種類の方法が一般的によく利用されている。
（１）過去事例を利用する方法
（２）重回帰式を利用する方法
（３）ニューラルネットワークを利用する方法
【０００５】
　（１）の過去事例を利用する方法として、例えば、特許文献１（特開平６−１６１９８９号公報，発明の名称「予測装置」）が開示されている。これは、予測対象変数と、予測対象に影響を与えると考えられる変数の値と、を対にして事例データベースを作成しておき、入力された予測用の変数と類似している事例をデータベースから取り出して予測値とする方法である。この方法は、予測対象の性質として類似性や周期性が見られる場合によく利用される。
【０００６】
　（２）の重回帰式を利用する方法としては、例えば、特許文献２（特開平６−１７４２８５号公報、発明の名称「空調熱負荷予測方法」）が開示されている。これは、翌日の最高気温、最低気温、平均湿度の線形回帰式により熱負荷量を予測する方法である。このように、予測に用いる入力因子の線形和が出力因子として表される重回帰式を利用するものであって、最も一般的な予測手法である。
【０００７】
　（３）のニューラルネットワークを利用する方法は、ニューラルネットワークが入力因子と出力因子との非線形性をモデル化することが可能な手法であり、最近、特によく利用されている。例えば、非特許文献１（電気学会論文誌Ｂ，題名「ＮＮ応用電力需要予測システムの開発」）があげられる。
【０００８】
　ここで、モデル化の一具体例であるニューラルネットワークのモデル化について図を参照しつつ説明する。図１１は、多層ニューラルネットワークを説明する概念図である。一般にニューラルネットワークとは、図１１に示すように入力層、中間層、出力層からなる多層ニューラルネットワーク構造を有しており、さらに、入力層、中間層、出力層には素子が設けられ、入力層と中間層との素子間、中間層と出力層との素子間に結合を持つ。このニューラルネットワークでは入力層における素子が入力因子に、また、出力層における素子が出力因子に、それぞれ相当する。
【０００９】
　結合係数は、ニューラルネットワークの素子間の結合の重みを表すための係数である。結合係数が大きければ、結合が重みを有している、つまり、必要な結合であるとされ、結合係数が小さければ、結合が重みを有していない、つまり、不要な結合であるとされる。
【００１０】
　このようなニューラルネットワークの予測モデル化とは、複数の入力層素子（入力因子）に入力された入力値（多変量データ）に対し、出力層素子（出力因子）から所望の出力値が得られるように入力層と中間層、また、中間層と出力層との結合係数を変更することをいう。
　ニューラルネットワークによる予測モデルとはこのようなものである。
【００１１】
　さて、このような予測モデルの構築を行う場合には、一般的に以下の手順に従って行われる。
（１）予測対象である出力因子の多変量データの分析
（２）モデル構成の決定
（３）モデル化
（４）モデルの調整
【００１２】
　（１）では予測対象である出力因子に関する多変量データ（以下予測対象データという）の様々な分析を行うが、一般には、まず予測対象データがどのような傾向を示しているかについての分析、または、予測対象データと他の因子の多変量データとにどのような相関関係が見られるかなどの分析が行われ、適用する予測モデルの種類を決定する。
【００１３】
　予測対象データに強い周期性が見られれば過去事例の利用が有効であると考えられる。
　また、予測対象データと他の一または複数の因子の多変量データとに線形の相関関係が見られれば、重回帰式の利用が有効と考えられる。
　また、非線形の相関関係が見られる場合や明確な関係が見出せない場合はニューラルネットワークモデルの利用が有効と考えられる。
【００１４】
　（２）ではモデル構成の決定を行う。ここにモデル構成とは、予測対象全体を一つの予測モデルで予測する構成とするか、または、複数に分割した予測モデルで予測する構成とするかということを決定する。
　例えば、上記のプラントのある出力を一年間を通して予測するという場合に、一つの予測モデルで予測を行う構成とするか、季節ごとに予測モデルを構築して予測する構成とするか、または平日用と休日用に予測モデルを構築して予測する構成とするかといった方法が考えられる。先に引用した非特許文献１（電気学会論文誌Ｂ，題名「ＮＮ応用電力需要予測システムの開発」）においては、春季、春夏季用、夏季用、夏秋季用、秋用、冬用の６種類の予測モデルが構築されている。
【００１５】
　（３）のモデル化では、（１）、（２）の結果に従って予測モデルを作成する。その際に複数の予測モデルを利用するのであれば、予測モデルごとに入力因子を適したものに特化することができる。
【００１６】
　（４）のモデルの調整は、予測精度などを評価指標として、ある予測モデルの入力因子の追加・削除という変更を行ったり、または、モデル構成を見直してそれに伴う複数の予測モデルそれぞれの変更を行う。
　予測モデルの構築はこのような手法で行われていた。
　なお、従来技術として予測を例にあげて説明したが、モニタリング、保守、異常診断、その他の目的に応じた入出力関係を表すモデルのモデル化でも、基本的に上記と同様の作業が必要である。
【００１７】
【特許文献１】特開平６−１６１９８９号公報　（段落番号００１４〜段落番号００３５，図１〜図５）
【特許文献２】特開平６−１７４２８５号公報　（段落番号００１２〜段落番号００１９，図１〜図４）
【非特許文献１】電気学会論文誌Ｂ，電力エネルギー部門誌，Ｖｏｌ．１２０−Ｂ，Ｎｏ．１２，ｐｐ１５５０−１５５６，（２０００），「ＮＮ応用電力需要予測システムの開発」
【発明の開示】
【発明が解決しようとする課題】
【００１８】
　前記手順は一般的に行われているものであるが、実際には確立されたモデル化手法というわけではない。モデル化を行う場合、現状では、当該分野の専門知識を有する専門家が前記（１）〜（４）の各作業を人手により試行錯誤しつつある一定の期間作業を行っており、モデル化が終了するまでの工数が相当必要であるという問題があった。
【００１９】
　また、専門知識を必要とされるため、専門家以外では満足した性能を満たすモデル化作業を行えないという問題もあった。
　さらに、様々な目的に応じて適用可能な統一的な枠組みも存在しないため、前記した一般的な手順を個別の問題ごとに具体化しながら作業を行っているという問題があった。
【００２０】
　さらにまた、前述したような重回帰式またはニューラルネットワーク等のモデルでは、事前に入力因子および出力因子を選択、決定し、データを与えることでモデル内部のパラメータが自動的に算出される。
　しかし、重回帰式やニューラルネットワークというモデルそのものには入力因子や出力因子の取捨選択の機能は無いため、ある出力因子を選択したとして、この出力因子と無関係な入力因子を選択した場合でもその入力因子を用いたモデルが構築されてしまう。このようなモデルでは出力に含まれる誤差が大きい不適切なモデル構築されるおそれがある。
【００２１】
　さらにまた、複数のモデルを組み合わせた統合モデルを構築する場合、モデル構成（例えばモデルの個数等）、および、統合モデルを構成する個々のモデル自体の構造（例えば、ニューラルネットワークの素子数等）によりモデルが決定されることとなる。これらモデル構成・モデル自体の構造（以下、モデル形態という）は設計段階で決定され、その後は不変なものとして取り扱われる。対象の変化に追随した適応的なモデル形態の調整としては、学習機能により各モデル内部のパラメータ（重回帰式では回帰係数、ニューラルネットワークではニューロンの重み係数）の調整のみが行われていた。
【００２２】
　しかし、適用対象の大きな変化があった場合に従来手法ではモデル形態は自動的に変更することはできないため、モデル内部のパラメータ調整の結果、満足の行く性能が得られなくなってしまった場合は、再度専門家によってモデル形態の調整を行うか、新たにシステムを設計しなおすかなどの対応が必要であるという問題があった。
【００２３】
　総じて、前述の従来技術では、モデル形態の設計・変更というモデル化を自動的に行う方法が存在しないため、専門家が人手により行わざるを得ず、また、専門家の経験・勘に頼るため、モデル形態の構築・調整を繰り返すことが避けられず最適なモデルの構築に時間を要するという問題点があった。
【００２４】
　本発明は、上記課題を解決するためになされたものであり、その目的は、前記モデル化に必要な手順を自動化する方法、または前記モデル化に必要な手順を人手で行う場合に効率的な作業が行えるように支援することで、精度の良いモデルを効率的に構築できるようにするモデル構築方法およびモデル構築システムを提供することにある。
　さらに、モデル形態（モデル構成・モデル自体の構造）を自動的に調節することで適用対象の変化に柔軟に追随する適応的なモデルを効率的に構築できるようにするモデル構築方法およびモデル構築システムを提供することにある。
【課題を解決するための手段】
【００２５】
　上記課題を解決するため、請求項１記載の発明に係るモデル構築方法は、
　複数因子の多変量データを解析し、ある出力因子と入出力関係を有する入力因子を複数因子の中から見出して入出力関係のモデル化を行うモデル構築方法において、
　複数因子の中の一部または全ての因子により表される多次元のデータ空間を分割して分割データ空間を生成する分割データ空間生成ステップと、
　分割データ空間に含まれる因子を用いてモデルの入力因子と出力因子とを分割データ空間毎に決定する因子決定ステップと、
　分割データ空間に含まれ、入力因子と出力因子とに対応する多変量データを用いて入出力関係のモデル化を分割データ空間毎に行うモデル化ステップと、
　分割データ空間毎に構築された複数のモデルを統合した統合モデルの精度を評価するモデル精度評価ステップと、
　統合モデルの精度の評価が所定条件を満たすように分割データ空間の補正を行う分割データ空間補正ステップと、
　を行い、
　統合モデルの精度の評価が所定条件を満たすまで、分割データ空間補正ステップ、因子決定ステップ、モデル化ステップおよびモデル精度評価ステップを順次行って、モデルを構築することを特徴とする。
【００２６】
　また、請求項２記載の発明に係るモデル構築方法は、
　請求項１に記載されたモデル構築方法において、
　前記分割データ空間補正ステップは、モデルの入出力の相関関係を表す指標である相関係数を用いて相関の有無に応じて分割データ空間の融合・分割を行って分割データ空間の補正を行う、
　ことを特徴とする。
【００２７】
　また、請求項３記載の発明に係るモデル構築方法は、
　請求項１に記載されたモデル構築方法において、
　前記分割データ空間補正ステップは、分割データ空間毎に決定されるモデルの入力因子に対して多変量データを入力して得られるモデル出力と、出力因子に係る多変量データと、の誤差が所定のしきい値以上のデータを新しいデータ空間に分割して分割データ空間の補正を行う、
　ことを特徴とする。
【００２８】
　また、請求項４記載の発明に係るモデル構築方法は、
　請求項１〜請求項３の何れか一項に記載されたモデル構築方法において、
　前記分割データ空間生成ステップは、分割データ空間としてクラスタを生成するクラスタリング手法を採用し、
　使用する多変量データ全部を用いてクラスタリングを行って予備クラスタに分割する予備クラスタリングステップと、
　予備クラスタ毎にクラスタリング用因子の重要度を算定し、クラスタリング用因子の選択を行うクラスタリング用因子選択ステップと、
　クラスタリング用因子選択ステップによって選択されたクラスタリング用因子に係る多変量データを用いてクラスタリングを行ってクラスタに分割する本クラスタリングステップと、
　を行い、
　複数因子の中の一部または全ての因子により表される多次元のデータ空間を分割してクラスタ単位の分割データ空間を生成することを特徴とする。
【００２９】
　また、請求項５記載の発明に係るモデル構築方法は、
　請求項４記載のモデル構築方法において、
　前記クラスタリング用因子選択ステップは、予備クラスタリングによって生成された予備クラスタごとに、各因子の中心を表す値を算出し、その値のばらつき度合いによってクラスタリング用因子の重要度を算定し、クラスタリング用因子を選択することを特徴とする。
【００３０】
　また、請求項６記載の発明に係るモデル構築方法は、
　請求項４記載のモデル構築方法において、
　前記クラスタリング用因子選択ステップは、予備クラスタリングによって生成された予備クラスタごとに、各因子の最小値から最大値の範囲の重なり度合いによってクラスタリング用因子の重要度を算定し、クラスタリング用因子を選択することを特徴とする。
【００３１】
　また、請求項７記載の発明に係るモデル構築システムは、
　複数因子の多変量データを解析し、ある出力因子と入出力関係を有する入力因子を複数因子の中から見出して入出力関係のモデル化を行う計算機等のモデル構築システムにおいて、
　複数因子の中の一部または全ての因子により表される多次元のデータ空間を分割して分割データ空間を生成する分割データ空間生成手段と、
　分割データ空間に含まれる因子を用いてモデルの入力因子と出力因子とを分割データ空間毎に決定する因子決定手段と、
　分割データ空間に含まれ、入力因子と出力因子とに対応する多変量データを用いて入出力関係のモデル化を分割データ空間毎に行うモデル化手段と、
　分割データ空間毎に構築された複数のモデルを統合した統合モデルの精度を評価するモデル精度評価手段と、
　統合モデルの精度の評価が所定条件を満たすように分割データ空間の補正を行う分割データ空間補正手段と、
　を備え、
　統合モデルの精度の評価が所定条件を満たすまで、分割データ空間補正手段、因子決定手段、モデル化手段およびモデル精度評価手段を順次機能させて、モデルを構築することを特徴とする。
【００３２】
　また、請求項８記載の発明に係るモデル構築システムは、
　請求項７に記載されたモデル構築システムにおいて、
　前記分割データ空間補正手段は、モデルの入出力の相関関係を表す指標である相関係数を用いて相間の有無に応じて分割データ空間の融合・分割を行って分割データ空間の補正を行う、
　ことを特徴とする。
【００３３】
　また、請求項９記載の発明に係るモデル構築システムは、
　請求項７に記載されたモデル構築システムにおいて、
　前記分割データ空間補正手段は、分割データ空間毎に決定されるモデルの入力因子に対して多変量データを入力して得られるモデル出力と、出力因子に係る多変量データと、の誤差が所定のしきい値以上のデータを新しいデータ空間に分割して分割データ空間の補正を行う、
　ことを特徴とする。
【００３４】
　また、請求項１０記載の発明に係るモデル構築システムは、
　請求項７〜請求項９の何れか一項に記載されたモデル構築システムにおいて、
　前記分割データ空間生成手段は、分割データ空間としてクラスタを生成するクラスタリング手法を採用し、
　使用する多変量データ全部を用いてクラスタリングを行って予備クラスタに分割する予備クラスタリング手段と、
　予備クラスタ毎にクラスタリング用因子の重要度を算定し、クラスタリング用因子の選択を行うクラスタリング用因子選択手段と、
　クラスタリング用因子選択手段によって選択されたクラスタリング用因子に係る多変量データを用いてクラスタリングを行ってクラスタに分割する本クラスタリング手段と、
　を備え、
　複数因子の中の一部または全ての因子により表される多次元のデータ空間を分割してクラスタ単位の分割データ空間を生成することを特徴とする。
【００３５】
　また、請求項１１記載の発明に係るモデル構築システムは、
　請求項１０記載のモデル構築システムにおいて、
　前記クラスタリング用因子選択手段は、予備クラスタリングによって生成された予備クラスタごとに、各因子の中心を表す値を算出し、その値のばらつき度合いによってクラスタリング用因子の重要度を算定し、クラスタリング用因子を選択することを特徴とする。
【００３６】
　また、請求項１２記載の発明に係るモデル構築システムは、
　請求項１０記載のモデル構築システムにおいて、
　前記クラスタリング用因子選択手段は、予備クラスタリングによって生成された予備クラスタごとに、各因子の最小値から最大値の範囲の重なり度合いによってクラスタリング用因子の重要度を算定し、クラスタリング用因子を選択することを特徴とする。
【発明の効果】
【００３７】
　以上のような本発明によれば、前記モデル化に必要な手順を自動化する方法、または前記モデル化に必要な手順を人手で行う場合に効率的な作業が行えるように支援することで、精度の良いモデルを効率的に構築できるようにするモデル構築方法およびモデル構築システムを提供することができる。
　さらに、モデル形態（モデル構成・モデル自体の構造）を自動的に調節することで適用対象の変化に柔軟に追随する適応的なモデルを効率的に構築できるようにするモデル構築方法およびモデル構築システムを提供することができる。
【発明を実施するための最良の形態】
【００３８】
　以下、本発明の最良の形態について説明する。請求項１に係るモデル構築方法の形態および請求項７に係るモデル構築システムの形態について図を参照しつつ説明する。図１はモデル構築方法の流れを説明するフローチャート、図２はデータ空間の分割を説明する説明図である。
　第１形態のモデル構築方法は、複数因子の多変量データを解析し、複数因子の中から入出力関係を有する入力因子と出力因子とを見出して入出力関係のモデル化を行うものである。
【００３９】
（１）分割データ空間生成ステップ（初期分割）
　図１のステップＳ１は、多変量データの複数因子の中の一部または全ての因子により表される多次元のデータ空間を複数のデータ空間に分割して分割データ空間を生成する分割データ空間生成ステップである。この分割データ空間生成ステップにより多次元のデータ空間は、入出力関係を有する入力因子・出力因子・関連する多変量データを含むデータ空間に複数分割される。
【００４０】
　仮に、３次元のデータ空間であるとして図２（ａ）で示すように分割されるものとする。この分割例では、各分割データ空間は、図２（ｂ）の表で表したようなデータを含む。なお、図２（ｂ）の表において、“□（ｉ）”、“×（ｉ）”、“△（ｉ）”、“○（ｉ）”は、０（ゼロ）以外の何らかの値を表すものとする。
　分割データ空間１および分割データ空間２では、因子１，２について値が０以外であり、また、因子３について値が０であるような空間である。
　分割データ空間３では因子１，３について値が０以外であり、また、因子２について値が０であるような空間である。
　分割データ空間４では因子１，２，３について値が０以外であるような空間である。
　分割データ空間１，２，３はいずれかの因子で値が０であるような分割データ空間が生成される場合を示している。
　分割データ空間１，２は因子３の値が０である場合で共通するが、さらに別の分割データ空間が生成される場合を示している。
　このような分割データ空間生成手段では、例えば、クラスタ分析（クラスタリング）、決定木分析が適用できる。
【００４１】
　クラスタ分析は、大きく分けて、階層的方法と非階層的方法とが存在する。
　階層的方法では、多変量データの中の個々のデータを一つのクラスタとみなし、類似度が大きいもの（非類似度が小さいもの）を融合していき、クラスタを生成する方法である。なお、このクラスタは分割データ空間に相当するものであるが、本明細書ではクラスタ分析により生成した分割データ空間は、特にクラスタと呼んで区別する。クラスタと分割データ空間は同じものであって呼び方が違うのみである。
【００４２】
　非階層的方法では、初期クラスタを設定し、各データを全クラスタの重心と比較し、最も近いクラスタに再配置して重心の再計算を行い、重心の変化がなくなるまでこれを繰り返していく方法である。
　これらのクラスタ分析により、類似度が大きい多変量データの因子が纏められたクラスタ（分割データ空間）が複数生成される。このクラスタでは、類似度がないような因子が入らないため、モデル化における入力因子と出力因子の決定を容易にする。
【００４３】
　決定木分析は、ある目的で多変量データを分類（予測）するためのルール（条件）を木構造で表現（モデル化）する方法であり、ＩＤ３やその発展形であるＣ４．５、ＣＡＲＴ、ＣＨＡＩＤなどが代表的な手法である。
　この決定木分析により、条件に合致する多変量データの因子が纏められた複数の分割データ空間が生成される。
【００４４】
（２）因子決定ステップ
　ステップＳ２は、分割データ空間に含まれる因子を用いてモデルの入力因子と出力因子とを分割データ空間毎に決定するステップである。
　分割データ空間の生成結果や分割データ空間の分割過程の情報を評価することにより、後述する（３）のモデル化で用いる入力因子を決定する。
【００４５】
　例えば、図２で示した分割データ空間では、因子１が出力因子として選択されるものである場合、分割データ空間１，２では入力因子は因子２、分割データ空間３では入力因子３に、分割データ空間４では入力因子は因子２，３に決定される。これら分割データ空間１〜３では、同じ出力因子であっても、入力因子はそれぞれ異なっており、各種条件が違う場合に入力因子が異なるように分割データ空間が生成されている。このように分割データ空間は、全ての因子を含んだり、特定の因子のみ含む空間が構築されたりする。さらに、分割データ空間では因子が同じでも複数空間ができたりする。これはクラスタ分析で起こりうる現象である。
【００４６】
　また、決定木分析では、決定木の上位に出てくる因子が重要な因子であると判断することができる。従って、決定木の上位の因子から入力因子を選択するという方法が可能である。また、決定木分析の結果、分岐条件として出てこない変数は入力因子として用いないという方法が可能である。
【００４７】
（３）モデル化ステップ
　ステップＳ３は入力因子と出力因子とに対応する多変量データを用いて入出力関係のモデル化を分割データ空間毎に行うモデル化ステップである。
　モデル化は、代表的な方法として、過去事例の利用、重回帰式、ニューラルネットワーク等を選択する。
　この際、分割データ空間に含まれる因子の中からモデルの入力因子を決定する。この入力因子の決定では、このモデルの開発者、またはユーザが経験的な判断に基づいて選択する方法や、ＡＩＣ(Akaike Information Criterion)などの情報量基準を用いて入力因子をさらに限定する方法などが適用可能である。
【００４８】
　過去事例の利用では、例えば、得られた分割データ空間に含まれる多変量データの平均値をそのモデルの出力値とする方法がある。
　重回帰式の利用では、得られた分割データ空間に含まれる多変量データを用いて重回帰分析を行い重回帰式を構築する。
　ニューラルネットワークを利用する場合も同様に、得られた分割データ空間に含まれる多変量データを用いてニューラルネットワークの学習を行ないモデル化する。
【００４９】
（４）モデル精度評価ステップ
　ステップＳ４は、分割データ空間毎に構築された複数のモデルを統合した統合モデルの精度を評価するモデル精度評価ステップである。
　統合モデルの精度評価は次式により行われる。
【００５０】
【数１】
2004086897.tif 000003
【００５１】
　数１の出力誤差ＥＥが、予め定められた値未満であればモデルの再構築は不要であると判断し、また、予め定められた値以上である場合はモデルの再構築が必要と判断する。
　ここで、各モデルｉには重み係数ｗｉを用いてモデルごとに精度評価の重視度合いを考慮することが可能である。この重み係数ｗｉの調整として、０と１の２値で設定すれば、ある特定のモデルに対する評価のみ行うような精度評価とすることもできる。
【００５２】
　なお、モデルの精度評価（誤差評価）に用いる多変量データとしては、モデル化を行った際の多変量データをそのまま用いるモデル化誤差により評価する方法と、モデル化の際に全ての多変量データの中の一部の多変量データを使わないでモデル精度評価用に残しておく方法がある。
　前者の方法では、モデル化のために与えられた多変量データそのものに対してどの程度モデル化できているかを評価することができる。
　後者の方法ではモデルの汎化能力を評価することができる。
【００５３】
（５）分割データ空間補正ステップ
　ステップＳ５は、統合モデルの精度の評価が所定条件を満たすようにデータ空間の補正を行う分割データ空間補正ステップである。
　分割データ空間の補正方法としては、更に詳しくは、複数の分割データ空間を融合する方法、分割データ空間をさらに分離して分割空間データを生成する方法、分割データ空間内のデータを入れ替える方法が考えられる。
【００５４】
　複数の分割データ空間を融合する方法では、融合する対象となる分割データ空間を決定する融合対象分割データ空間決定ステップと、分割データ空間を融合する分割データ空間融合ステップと、を行う。
　分割データ空間をさらに分離して分割空間データを生成する方法では、分離対象の分割データ空間を決定する分離対象分割データ空間決定ステップと、対象となる分割データ空間の中のどの多変量データによるデータ空間とするかを決定する分割データ空間分離ステップと、を行う。
　また、データ空間内の多変量データを入れ替える方法では、入れ替える多変量データを決定する入替対象データ決定ステップと、多変量データの入れ替え、再配置を行う再配置ステップとを行う。
【００５５】
（６）モデル再構築ステップ
　ステップＳ２〜ステップＳ５は、統合モデルの精度の評価が所定条件を満たすまで、分割データ空間補正ステップ、因子決定ステップ、モデル化ステップおよび精度評価ステップを繰り返し行って、最終的なモデルを構築するモデル再構築ステップである。
　統合モデルの精度の評価、つまり、前記した数１の出力誤差ＥＥが所定値未満に収まらないような場合にはこのＥＥが所定値未満になるまで分割データ空間の変更およびこの分割データ空間に含まれる因子や多変量データによるモデル構築を繰り返す。
【００５６】
　以上説明した本形態によれば、多変量データの因子により構成されるデータ空間を分割して分割データ空間を生成し、出力因子とその出力因子に関連する入力因子を含むデータ空間を抜き出して、出力因子とこの出力因子に関連する多変量データによりこれら出力因子と入力因子によるモデルを構築するため、精度の高いモデルを構築することができる。
【００５７】
　続いて、請求項７に係るモデル構築システムについて説明する。図１２は、予測モデル構築システムのシステム構成図である。
　第１形態の予測モデル構築システムは、図１２で示すようにデータ入力画面１、データ入力手段２、データ保存手段３、データベース４、データ出力手段（表示装置）５、予測モデル６、分割データ空間生成手段７、因子決定手段８、モデル化手段９、モデル精度評価手段１０、分割データ空間補正手段１１を備える。
　また、インターネットやイントラネット、ＬＡＮなどのネットワーク１００がデータ入力手段２に接続されている。モデル構築システムはこれら手段が機能する計算機（コンピュータ）が該当する。
【００５８】
　多変量データは、コンピュータのデータ入力画面１や、当該システムが接続されているＬＡＮ内の他のコンピュータに蓄積されているデータや、インターネットを介して他のコンピュータに蓄積されているデータが、データ入力手段２を通じて本システム内に取り込まれ、データ保存手段３によってデータベース４に蓄積される。このようにして蓄積されたデータベース内のデータが用いられる。なお、データ入力手段２として、その他の手段、例えば、データを記録した電子媒体を通じて行うことももちろん可能である。
【００５９】
（１）分割データ空間生成手段（初期分割）７
　多変量データの複数因子の中の一部または全ての因子により表される多次元のデータ空間を複数のデータ空間に分割して分割データ空間を生成する手段であり、図１のステップ１に対応する機能を有する。この分割データ空間生成手段７により、図２で説明したように、多次元のデータ空間は、入出力関係を有する入力因子・出力因子・関連する多変量データを含むデータ空間に複数分割される。
【００６０】
（２）因子決定手段８
　分割データ空間に含まれる因子を用いてモデルの入力因子と出力因子とを分割データ空間毎に決定する手段であり、ステップＳ２に対応する機能を有する。
　分割データ空間の生成結果や分割データ空間の分割過程の情報を評価することにより、後述する（３）のモデル化で用いる入力因子を決定する。
【００６１】
（３）モデル化手段９
　入力因子と出力因子とに対応する多変量データを用いて入出力関係のモデル化を分割データ空間毎に行う手段であり、ステップＳ３に対応する機能を有する。
　モデル化は、代表的な方法として、過去事例の利用、重回帰式、ニューラルネットワーク等を選択する。
【００６２】
（４）モデル精度評価手段１０
　分割データ空間毎に構築された複数のモデルを統合した統合モデルの精度を評価する手段であり、ステップＳ４に対応する機能を有する。
【００６３】
（５）分割データ空間補正手段１１
　統合モデルの精度の評価が所定条件を満たすようにデータ空間の補正を行う手段であり、ステップＳ５に対応する機能を有する。
　分割データ空間の補正方法としては、更に詳しくは、複数の分割データ空間を融合する方法、分割データ空間をさらに分離して分割空間データを生成する方法、分割データ空間内のデータを入れ替える方法が考えられる。
【００６４】
　複数の分割データ空間を融合する方法では、融合する対象となる分割データ空間を決定する融合対象分割データ空間決定手段と、分割データ空間を融合する分割データ空間融合手段とを機能させる。
　分割データ空間をさらに分離して分割空間データを生成する方法では、分離対象の分割データ空間を決定する分離対象分割データ空間決定手段と、対象となる分割データ空間の中のどの多変量データによるデータ空間とするかを決定する分割データ空間分離手段とを機能させる。
　また、データ空間内の多変量データを入れ替える方法では、入れ替える多変量データを決定する入替対象データ決定手段と、多変量データの入れ替え、再配置を行う再配置手段とを機能させる。
【００６５】
（６）モデル再構築手段
　統合モデルの精度の評価が所定条件を満たすまで、分割データ空間補正手段７、因子決定手段８、モデル化手段９およびモデル精度評価手段１０を繰り返し機能させ、最終的なモデルを構築する手段である。
　統合モデルの精度の評価が所定値未満に収まらないような場合には前記した数１の出力誤差ＥＥが所定値未満になるまで分割データ空間の変更およびこの分割データ空間に含まれる因子や多変量データによるモデル構築を繰り返す。
【００６６】
　以上説明した本形態によれば、多変量データの因子により構成されるデータ空間を分割して分割データ空間を生成し、出力因子とその出力因子に関連する入力因子を含むデータ空間を抜き出して、出力因子とこの出力因子に関連する多変量データによりこれら出力因子と入力因子によるモデルを構築するため、精度の高いモデルを構築することができる。
【００６７】
　続いて、本発明の請求項２，８に係るモデル構築方法・システムの第２形態について説明する。第２形態は第１形態の分割データ空間補正ステップ・分割データ空間補正手段をより具体化した形態である。
　まず、請求項２に係るモデル構築方法の分割データ空間補正ステップについて説明する。図１で示す分割データ空間補正ステップＳ５は、モデルの入出力の相関関係を表す指標である相関係数を用いて相間関係の有無に応じて分割データ空間の融合・分割を行うことにより分割データ空間の補正を行うステップである。
【００６８】
　本形態の分割データ空間の補正方法は、分割データ空間に含まれる多変量データについて、例えば相関係数などの入出力関係の相関関係を表す指標を計算する。表１は相関係数を示す表である。
【００６９】
【表１】
2004086897.tif 000004
【００７０】
　表１で示すように分割データ空間Ｃ１、Ｃ２、Ｃ３内の入出力データの相関係数がそれぞれ０．６、０．７、０．５となっているものとする。
　次に、各分割データ空間同士の組み合わせを生成し、組み合わせによって得られた新しい分割データ空間を仮の分割データ空間とする。表１では仮の分割データ空間の組み合わせとして３種類の組み合わせが生成されている。
　続いて、仮の分割データ空間に含まれる多変量データについて相関係数を計算する。表１の例では初期データ空間とあわせて４通りの分割データ空間とそれぞれの相関係数が得られた。
【００７１】
　ここで、相関係数を基準にして４通りのデータ分割の中でどの分割を選択するかを決定する。決定の方法としては、例えば、相関係数が最大となる分割データ空間を含む分割を選択する方法がある。表１の場合は仮の分割データ空間３が相関係数０．９のデータ空間を含むため選択される。
　また、相関係数の平均が最も高い分割を選択する方法がある。表１の場合は仮の分割データ空間１が相関係数の平均が０．７となり選択される。
　さらにまた、特定の因子に関する多変量データを含む分割データ空間の相関係数を重視することも考えられる。　
【００７２】
　このような分割データ空間補正ステップは、最終的に分割データ空間が全て融合されて元のデータ空間と一致するまで行い、その過程で得られた分割データ空間の中から統合モデルの全体精度が最も高いような分割空間データとそのモデルを選択する（なお，このような補正を，本明細書ではボトムアップ補正と定義し，図４にて使用している）。
【００７３】
　また、請求項８に係るモデル構築システムの分割データ空間補正手段について説明する。第２形態の分割データ空間補正手段は、モデルの入出力の相関関係を表す指標である相関係数を用いて相間関係の有無に応じて分割データ空間の融合・分割を行うことにより分割データ空間の補正を行う手段であり、上記した第２形態の分割データ空間補正ステップに対応する機能を有する。
【００７４】
　続いて、本発明の請求項３，９に係るモデル構築方法・システムの第３形態について説明する。第３形態は第１形態の分割データ空間補正ステップ・分割データ空間補正手段をより具体化した形態である。
　請求項３に係るモデル構築方法の図１で示す分割データ空間補正ステップＳ５は、分割データ空間毎に決定されるモデルの入力因子に対して多変量データを入力して得られるモデル出力と出力因子に係る多変量データとの誤差が所定条件を満たすまで分割データ空間の融合・分割を行って分割データ空間の補正を行うステップである。
【００７５】
　第３形態では、モデル全体の精度評価において計算される各モデルにおける誤差を利用する。ここで計算された誤差は、現在のモデルでのモデル化精度を表している。すなわち、この誤差が大きいモデルは適切にモデル化できていないことを示している。従って、この誤差がある閾値以上となっているデータについては、新しい別の分割データ空間として分離する。
【００７６】
　以下、分割データ空間の補正について図を参照しつつ具体例を説明する。
　図３は、分割データ空間の補正を説明する説明図である。
　実際は多次元のデータ空間であるが、図３では説明の容易化のため、因子１と因子２という二因子のみの２次元のデータ空間であるものとして図示している。
　ここで、分割データ空間生成ステップ（初期分割）、因子決定ステップ、モデル化ステップの各フェーズを実行することによって、全体のデータ空間が分割データ空間１、分割データ空間２、分割データ空間３の３つの分割データ空間に分割され、分割データ空間１には６個、分割データ空間２は１０個、分割データ空間３は５個の多変量データが含まれている。
【００７７】
　各分割データ空間ごとの多変量データの入出力関係を表すモデル１，２，３はニューラルネットワーク、重回帰式などで構成されている。前述のモデル精度評価手段によって、各分割データ空間に対応したモデル１、モデル２、モデル３に多変量データの中の個々のデータが入力されてモデル化誤差が計算される。ここで、モデル化誤差が大きい場合（別途設定される閾値よりも大きい場合）の多変量データが図３中の丸印（ｄ１〜ｄ７）であったとする。
【００７８】
　このような多変量データが存在することは、現時点での分割データ空間ごとのモデルではモデル化が適切にできないことを示している。そこで分割データ空間を補正する。補正する方法としては、（Ａ）元の分割データ空間から新規の分割データ空間を分離する方法、（Ｂ）元の各分割データ空間から分離した多変量データを全部あわせて１つの新規の分割データ空間として分離する方法が考えられる。
【００７９】
　（Ａ）の方法では、ｄ１、ｄ２を新規の分割データ空間１’に、ｄ３、ｄ４、ｄ５を新規の分割データ空間２’に、ｄ６、ｄ７を新規の分割データ空間３’に含むような分割データ空間を生成するというものである。この場合、ｄ１，ｄ２が除かれた元の分割データ空間１が、ｄ３，ｄ４，ｄ５が除かれた元の分割データ空間２が、ｄ６，ｄ７が除かれた元の分割データ空間３が、残存する。
　（Ｂ）の方法では、ｄ１〜ｄ７を一つとする新規の分割データ空間４を生成するというものである。この場合、ｄ１，ｄ２が除かれた元の分割データ空間１が、ｄ３，ｄ４，ｄ５が除かれた元の分割データ空間２が、ｄ６，ｄ７が除かれた元の分割データ空間３が、残存する。
【００８０】
　このような分割データ空間補正ステップＳ５は、最終的に分割データ空間が設定数になるまで分割され、その過程で得られた分割データ空間の中から統合モデルの全体精度が最も高いような分割空間データとそのモデルを選択する（なお，このような補正を、本明細書ではトップダウン補正と定義し、図４にて使用している）。
【００８１】
　また、請求項９に係るモデル構築システムの分割データ空間補正手段について説明する。第３形態の分割データ空間補正手段は、分割データ空間毎に決定されるモデルの入力因子に対して多変量データを入力して得られるモデル出力と出力因子に係る多変量データとの誤差が所定条件を満たすまで分割データ空間の融合・分割を行って分割データ空間の補正を行う手段であり、上記した第３形態の分割データ空間補正ステップに対応する機能を有する。
【００８２】
　続いて、請求項４〜６，１０〜１２に係るモデル構築方法・システムの第４形態について説明する。第３形態は第１形態の分割データ空間生成ステップ・分割データ空間生成手段をより具体化した形態である。
　まず請求項４〜６のモデル構築方法について説明する。
　本形態では第１形態で説明した分割データ空間生成ステップＳ１（初期分割）について、クラスタリング手法によりデータ空間の分割して分割データ空間を生成するというものである。以下、分割データ空間はクラスタリング手法で用いられる呼称であるクラスタと呼んで説明を進める。
　本形態における分割データ空間生成ステップは、図４に示すように、さらに初期設定ステップ、予備クラスタリングステップ、クラスタリング用因子選択ステップ、本クラスタリングステップを行う。
【００８３】
（１）初期設定ステップＳ１０
　初期設定ステップＳ１０は、詳しくはクラスタリング用変数選択実行有無、クラスタリング手法の設定、モデル化手法の設定、データ分割補正方法の設定、その他パラメータの設定を行うためのステップである。
　クラスタリング用変数選択実行有無とは、モデルを構築するために利用できる全ての因子の中から、モデル構築を行うユーザや開発者が、明示的にクラスタリングに用いる因子を決定するか否かについて選択するということである。
【００８４】
　クラスタリング手法の設定は、例えば、階層的方法による手法か非階層的方法による手法かを選択する。
　モデル化手法の設定は、ニューラルネットワーク・重回帰式等のモデルを選択する。
　データ分割補正方法の設定は、上記した相関係数による方法か誤差精度による分析かを決定する。
　パラメータ設定では上記以外の必要なパラメータ（例えば、請求項３，９に係るモデル構築方法・システムなら分割データ空間の個数など）その他具体的な数値が入力される。
【００８５】
（２）予備クラスタリングステップＳ１１
　予備クラスタリングステップＳ１１は、使用する多変量データ全部を用いてクラスタリングを行って予備クラスタに分割するステップである。
　予備クラスタリングとは、次の（３）クラスタリング用因子選択ステップＳ１２で行うクラスタリング因子の選択処理で使用するクラスタの中心、クラスタ範囲を求めるための予備クラスタを得るために行う。
【００８６】
（３）クラスタリング用因子選択ステップＳ１２
　クラスタリング用因子選択ステップＳ１２は、予備クラスタ毎にクラスタリング用因子の重要度を算定し、クラスタリング用因子の選択を行うステップである。
　上記（２）のステップＳ１１の予備クラスタリングの結果得られたクラスタから、分離度を計算し、これを用いてクラスタリング用因子を選択する。
【００８７】
　このクラスタリング用因子選択ステップＳ１２で計算される分離度は、さらに（ａ）クラスタ中心を利用する分離度、（ｂ）クラスタ範囲を利用する分離度がある。
　以下、両者について順次説明する。
【００８８】
（ａ）クラスタ中心を利用する分離度によるクラスタリング用因子の選択
　ここではクラスタの中心を利用する分離度について説明する。一般的にクラスタリングは特定の因子ではなく多次元ユークリッド距離に基づいて行われるため、クラスタリング結果は使用する因子やデータの分布状況によって異なったものになる。
【００８９】
　ここでは、クラスタ毎に各因子の分布状況を解析することでクラスタ分割に重要な因子を見つけることを考える。具体的には因子ごとにクラスタの中心値を用いた分離度を定義し、分離度が大きい因子をクラスタリング用因子として選択する（または分離度が小さい因子はクラスタリング用因子から除外する）。
　クラスタの中心を用いた分離度は、例えば次式の数２に示すように因子ごとに各クラスタの中心値のばらつきとして定義する。
【００９０】
【数２】
2004086897.tif 000005
【００９１】
　具体例を挙げて説明する。図５はクラスタの中心を用いた分離度の説明図である。因子χｉ、因子χｊの２つの因子を用いてクラスタリングを行った結果、クラスタＣ１、Ｃ２、Ｃ３の３つのクラスタに分割されたものとする。ここで、因子χｉと因子χｊのどちらがクラスタリングに重要であるかを各クラスタの中心を用いて判断する。具体的には、因子χの中心ａｖｇの値の幅が大きいほどクラスタが分離しているといえる。図５の例では、因子χｉのほうが因子χｊよりも分離度が大きくクラスタリングに重要な因子であると判断できる。
【００９２】
（ｂ）クラスタ範囲を利用する分離度
　ここでは、クラスタ範囲を利用する分離度について説明する。
　クラスタ範囲を利用する分離度は、クラスタの重なり度合いを考慮する方法であり、分割されたクラスタの範囲の重なりが少ない因子は分離度が大きく、すなわちクラスタリングに重要な因子であると考える。
【００９３】
　具体例を挙げて説明する。図６はクラスタの範囲を用いた分離度の説明図である。因子χｉ、因子χｊの２つの因子を用いてクラスタリングを行った結果、クラスタＣ１、Ｃ２、Ｃ３の３つのクラスタに分割されたとする。ここで、因子χｉと因子χｊのどちらがクラスタリングに重要であるかを各クラスタの範囲を用いて判断する。
【００９４】
　まず、クラスタＣ１について、クラスタＣ２、クラスタＣ３と重なっている範囲があるかを因子ごとに判断する。因子χｉを例に説明する。まず、因子χｉ全体の値の範囲、Ａｉを求める。図の例では、因子χｉ全体の値の範囲Ａｉを、χｉｍｉｎ（Ｃ１∪Ｃ２∪Ｃ３）とχｉｍａｘ（Ｃ１∪Ｃ２∪Ｃ３）の間の範囲として表している。
【００９５】
　次に、クラスタＣ１とクラスタＣ２、クラスタＣ１とクラスタＣ３、クラスタＣ２とクラスタＣ３について積集合を求める（全てのクラスタについて２つのクラスタの組み合わせを行う）。ここで得られた積集合の和集合を求め、その和集合における因子χｉの最小値χｉｍｉｎと最大値χｉｍａｘを求め、重なり範囲Ｌ＝最大値−最小値を求める。図６の例では、クラスタＣ１とＣ３、クラスタＣ２とＣ３の積集合が無いため、クラスタＣ１とＣ２の積集合、すなわちＣ１とＣ２が重なっている範囲がＬとなる。因子χｉにおけるクラスタの分離度は、例えば以下の数式で定義される。
【００９６】
【数３】
2004086897.tif 000006
【００９７】
　因子χｊについても同様の処理を行い、分離度ＤＬｊを求める。このＤＬは、各因子の全体の値の範囲とクラスタの重なりが無い範囲の比率を示したものである。従って、ＤＬが小さい因子ほどクラスタの重なりが少ない、すなわちクラスタが明確に分離していることを表しており、クラスタリングに重要な因子であると判断できる。
【００９８】
（ｃ）クラスタリング用因子の選択
　クラスタリング用因子の選択は、上記（ａ）、（ｂ）のいずれかによって求められた分離度を用いて行う。具体的には、分離度が予め設定されている閾値よりも小さい因子はクラスタリングに有効な因子とはいえないため、クラスタリング用因子から除外する。この結果、残った因子をクラスタリング用因子とし、次ステップの本クラスタリングで使用する。このクラスタリング因子の選択を行うことで、より適切なクラスタリングを行うことができる。
【００９９】
（４）本クラスタリングステップＳ１３
　本クラスタリングステップＳ１３は、クラスタリング用因子選択ステップＳ１２によって選択されたクラスタリング用因子に係る多変量データを用いてクラスタリングを行ってクラスタに分割するステップである。
　本クラスタリングにより、複数因子の中の一部または全ての因子により表される多次元のデータ空間が、複数のクラスタ（データ空間）に分割される。
【０１００】
　以下、図４のステップＳ１４，Ｓ１５，Ｓ１６，Ｓ１７は、それぞれ図１のステップＳ２，Ｓ３，Ｓ４，Ｓ５に相当するものであり、同様の手法を採用して精度の高いモデルを構築することとなる。
　なお、このようにして構築したモデルを、予測、診断、再学習などに用いる場合は、その入力データが所属するクラスタを判別し（クラスタ中心との距離関数にて判別）、当該クラスタのモデルに対して各操作（予測、診断、再学習など）を行う。
【０１０１】
　また、請求項１０のモデル構築システムに係る分割データ空間生成手段について説明する。第４形態の分割データ空間補正手段は、さらに初期設定手段、予備クラスタリング手段、クラスタリング用因子選択手段、本クラスタリング手段として機能するものであり、初期設定手段は初期設定ステップＳ１０と対応する機能を実現し、予備クラスタリング手段は予備クラスタリングステップＳ１１と対応する機能を実現し、クラスタリング用因子選択手段はクラスタリング用因子選択ステップＳ１２と対応する機能を実現し、本クラスタリング手段は本クラスタリングステップＳ１３と対応する機能を実現する。
　そして、図１２で示す因子決定手段８（ステップＳ２に対応），モデル化手段９（ステップＳ３に対応），モデル精度評価手段１０（ステップＳ４に対応），分割データ空間補正手段１１（ステップＳ５に対応）を順次機能させて、同様に精度の高い予測モデル６を構築することとなる。
　さらにまた、請求項１１，１２に係るモデル構築システムのクラスタリング用因子選択手段は、先に説明したクラスタリング用因子選択ステップＳ１２のように、先に説明した（ａ）クラスタ中心を利用する分離度、（ｂ）クラスタ範囲を利用する分離度を用いて選択するものである。
【０１０２】
　なお、このようにして構築した予測モデル６を、予測、診断、再学習などに用いる場合は、その入力データが所属するクラスタを判別し（クラスタ中心との距離関数にて判別）、当該クラスタのモデルに対して各操作（予測、診断、再学習など）を行う。
【実施例１】
【０１０３】
　次に本発明の第４形態をさらに具体化した実施例として、電力需要予測への適用例を用いて説明する。
　電力需要予測とは、電力会社が管轄する電力系統，特定の地域や需要家などにおける電力の消費量を予測するものである。予測対象の電力需要としては，翌日や当日の１日の日量や、最大電力、毎時電力などがある（本実施例では当日の最大電力を予測するものとする）。予測モデルとしては，重回帰式やニューラルネットワーク手法などが用いられる。当日の最高気温、最低気温、平日か土曜日か休日かを表す情報，前日の電力実績などを入力データとして、当日の電力需要を予測する。
【０１０４】
　一般的に、電力需要の特性は季節によって異なっている。すなわち、夏期は気温の上昇に伴って電力需要が増加（冷房需要）し、一方、冬期は気温の低下に従って電力需要が増加（暖房需要）する。また、春期、秋期は中間期といわれ、冷房需要・暖房需要が少ない期間であり、気温が変化しても電力需要はあまり変化しない。また、平日と土曜日、休日によっても電力需要は大きく異なる。一般的には平日の電力需要は大きく、土曜日はやや少なく、休日は少なくなる傾向がある。
【０１０５】
　このような特性を持った電力需要を予測するための予測モデルとしては、１年を通して単一の予測モデルを用いる場合では、特性が全く異なる電力需要を一つのモデルで予測することになり、精度良い予測は困難である。従って、一般的には季節ごとに予測モデルを構築して、複数の予測モデル構成が用いられることが多い。しかし、季節の定義をどのように決めるか、すなわち予測モデル構成をどのように決めるかという問題があり、最適な予測モデル構成を得るのは困難である。
【０１０６】
　以下、電力需要予測を例とした本発明の実施例について図４を参照しつつ説明する。
（１）初期設定ステップＳ１０
　初期設定手段では、例えば、以下のような内容を設定する。
　予備クラスタリング手法：最長距離法
　本クラスタリング手段　：ｗａｒｄ法
　分割するクラスタ数　　：４
　クラスタリング用因子選択に用いる分離度の閾値：０．１，０．０５
　分割データ空間補正ステップ：ボトムアップ補正
【０１０７】
（２）予備クラスタリングステップＳ１１
　予備クラスタリングとして、階層的クラスタリング手法の一つである最長距離法を適用し４つのクラスタに分割した。階層的クラスタリング手法は、最終的に１つのクラスタになるまでクラスタの融合を続けていくので、クラスタが４つになった段階でクラスタリングを終了させた。クラスタリングに使用した因子を表２に示す。因子は最大電力、最高気温、最低気温、土曜フラグ、休日フラグの５つの因子を使用するケース１と、最大電力、最高気温、最低気温の３つの因子を使用するケース２の２通りについて実施した。
　※土曜フラグ、休日フラグは、１か０の２値データであり、クラスタリング結果に非常に強く影響することが予想される。このため、土曜フラグ、休日フラグを用いるケースと用いないケースの２ケースについて実施した。
【０１０８】
　各ケースにおける予備クラスタリング結果を図７〜図８にそれぞれ示す。図７〜図８は予備クラスタリング結果を示すための最高気温と最大電力の相関図である。
【０１０９】
【表２】
2004086897.tif 000007
【０１１０】
【数４】
2004086897.tif 000008
【０１１１】
　（３）クラスタリング因子選択ステップＳ１２(請求項５の分離度)
　クラスタリング因子の選択として、クラスタの中心を利用する分離度について計算した具体例を、図を参照しつつ説明する。図９，図１０は因子毎のクラスタの中心を説明する説明図であって、図中の（ａ）は棒グラフ、図中（ｂ）は数値を示す表を表している。
　図９（ａ）に、ケース１における各クラスタについて、各クラスタに含まれる各因子の中心の値を棒グラフで示す。土曜日フラグのクラスタ１（Ｃ１）とクラスタ２（Ｃ２）のグラフが表示されていないが、これは中心の値が０であるからである。
【０１１２】
　図９（ｂ）に、ケース１における各クラスタについて、各クラスタに含まれる各因子の中心の値と分離度(クラスタ中心の分散)を示す。ここで分離度(クラスタ中心の分散)は、前述した数２を用いて計算している。
【０１１３】
　クラスタリング結果である図７を見ると、どのクラスタも最高気温は０に近い範囲(最高気温の最小値)から１に近い範囲(最高気温の最大値)にまで分布していることがわかる。すなわち、最高気温はこのクラスタリング結果にとって重要でないことを示している。
【０１１４】
　一方、図９（ｂ）に示した本発明の分離度を見ると、最高気温と分離度が０．００１と非常に小さい値となっており（最低気温の分離度も０．００２と非常に小さい）、他の因子に比べてクラスタリングに重要でない因子であると判断できる。また，土曜フラグについてみてみると、クラスタ１とクラスタ２の中心は０であり、クラスタ３とクラスタ４の中心は１である。
【０１１５】
　土曜日フラグの値は０と１の２値をとるため、クラスタ１とクラスタ２は土曜フラグが０の日（すなわち土曜でない日、平日か休日）を表しており、クラスタ３とクラスタ４は土曜日を表していることが分かる。すなわち、土曜フラグ(休日フラグも同様)はこのクラスタリングにとって重要な因子であるといえる。
【０１１６】
　図９（ｂ）に示した分離度を見ると０．３３３と各因子の中で一番大きい値となっており、分離度がクラスタリングに重要な因子を見つける方法として有効であるといえる。
【０１１７】
　ケース２についても見てみると、図８から最高気温の値の大きさによってクラスタリグされていると判断できる。一方、図１０（ｂ）の分離度を見ると、０．０８５と他の因子と比べて大きな値となっており、図８から判断される結果と一致している。
【０１１８】
　クラスタリング用因子の選択例について具体例を以下に示す。
ケース１の場合では、分離度０．１を閾値として、０．１未満の場合はクラスタリング因子から除外した。すなわち、最高気温、最低気温、最大電力の３因子が除外され、土曜フラグ、休日フラグだけがクラスタリング因子として残る。
【０１１９】
　同様に、ケース２の場合では、分離度の閾値を０．０５としてクラスタリング因子を選択した結果、最高気温と最低気温の２つの因子がクラスタリング因子として残った。本実施例では、ケース１、ケース２の２種類の予備クラスタリングを行ったので、それぞれで得られるクラスタリングから総合的に判断して、土曜フラグ、休日フラグ、最高気温、最低気温を４種類の因子をクラスタリング因子とした。
【０１２０】
　（４）本クラスタリングステップＳ１３
　クラスタリング用因子選択ステップＳ１２によって決定したクラスタリング用因子(最高気温、最低気温、休日フラグ、土曜フラグの４因子)を用いて、階層的クラスタリング手法の一つであるward法により本クラスタリングを実施した。
【０１２１】
　図１４〜図１８にクラスタリング結果を示す。図の横軸は最高気温、縦軸は最大電力である。図１４は、クラスタリングを行う前の全体のデータを表した図である。図１５はクラスタ１（Ｃ１）、図１６はクラスタ２（Ｃ２）、図１７はクラスタ３（Ｃ３）、図１８はクラスタ４（Ｃ４）を表す図である。
【０１２２】
　（５）因子決定ステップＳ１４
　予測モデルで用いる因子の決定については、本実施例では本クラスタリングで使用したクラスタリング用因子(最高気温、最低気温、休日フラグ、土曜フラグの４因子)をそのまま用いた。
【０１２３】
　（６）モデル化ステップＳ１５
　　モデル化手段としては、３階層型のニューラルネットワークを用いた。すなわち、各クラスタごとに、最高気温、最低気温、休日フラグ、土曜フラグを入力として、最大電力を出力とするニューラルネットワークを構築した。
【０１２４】
　（７）分割データ空間補正ステップＳ１７
　本クラスタリング手段によって得られた４分割を初期状態として、ボトムアップ補正による分割データ空間の補正を行っていく。データ空間の補正を行っていく様子を図１３に示す。
　まず、４分割されたクラスタの２つのクラスタを融合して３分割となる組み合わせを生成する。本実施例では，図１３に示した５通りの３分割となる組み合わせが生成された。ここで、図１３には、図の右側の欄に相関係数(データの分布を考慮して最高気温と最大電力の2次式の決定係数とした)を表記しているが、この相関係数が最も大きい組み合わせを３分割における最良ケースとして選択した。すなわち、相関係数０．６１０で｛Ｃ１｝，｛Ｃ２｝，｛Ｃ３　Ｃ４｝の分割状態が３分割における最良ケースとなる。
【０１２５】
　次に、同様に、３分割を２分割にするような組み合わせを生成し、相関係数を評価する。その結果、図１３に示す通り、３通りの２分割となる組み合わせが生成された。この中で、相関係数がもっとも大きい組み合わせとしては、相関係数０．６３５で｛Ｃ１｝，｛Ｃ２　Ｃ３　Ｃ４｝が得られた。この組み合わせが、全組み合わせの中で相関係数が最大となる組み合わせであり、ボトムアップ補正によって得られる最終的なデータ分割状態となる。
【０１２６】
　図１９、図２０は最も相関が高い分割｛Ｃ１｝｛Ｃ２　Ｃ３　Ｃ４｝における相関図を示す。最後に、｛Ｃ１｝と｛Ｃ２　Ｃ３　Ｃ４｝とでそれぞれニューラルネットワークモデルの学習を行なった結果の学習誤差を図２１に示す。比較のために従来手法としてデータ分割を行わない場合と、本発明の場合と、を併記した。図の横軸は、日を表しており、全部で１年分のデータが図示されている。縦軸は、実績値と予測値の誤差[%]である。それによると、横軸が１〜61の範囲、横軸が１２１の付近、横軸が３３１〜３６１の範囲で本発明の効果が顕著に現れていることがわかる。なお、本実施例では、従来手法の予測誤差と，本発明の予測誤差では、本発明の予測誤差は従来手法に比べて約８％向上した。
【０１２７】
　以上予測モデル構築方法および予測モデル構築システムについて説明した。
　本発明の第一の効果としては、データ空間を分割して分割データ空間を生成し、モデルへの入力因子を決定し、分割データ空間内の多変量データを用いてモデル化を行い、モデル全体の精度評価が満足するまで、分割データ空間の補正およびその分割データ空間におけるモデル再構築を繰り返すことによってモデル化の作業の自動化を図ることが可能となる。
【０１２８】
　また、ここで示した処理フローをコンピュータ上で完全自動化せず、各フェーズごとに対話的なユーザインタフェースを用いることにより、モデル化作業を行う人に対して、その支援を行うことも可能となる。この効果によって、モデル化作業にかかる時間を短縮することが可能である。
【０１２９】
　本発明の第二の効果としては、従来はモデル化作業をある程度の専門知識を有した当該分野の熟練者が行う必要があったが、本発明により当該分野の非熟練者でもモデル化することができる。
【０１３０】
　本発明の第三の効果としては、定期的にまたは任意のタイミングで上記のモデル構築を行うことで、モデル化対象の傾向の変化や動向の変化があった場合に適応的にモデル再構築を行っていくことが可能である。
【０１３１】
　適応的にモデルを調整していく方法は、例えば、学習機能を有するニューラルネットワーク応用システムや任意のタイミングで重回帰分析を実行する重回帰式やカルマンフィルタ応用システムなどで従来より実現されている。
　しかし、このような方法では利用しているモデルで用いるパラメータのみを適応的に調整しているだけであり、モデル構成そのものに対して適応的な調整を行っているものではない。
【０１３２】
　具体例をあげれば、春夏秋冬の季節ごとにニューラルネットワークを用いて需要予測を行うようなシステムでは、システムの設計時に設計者が春夏秋冬の季節区分を行い、それぞれの季節ごとにニューラルネットワークモデルを構築する。ニューラルネットワークの学習機能を実装することにより、春季用予測モデル、夏季用予測モデル、秋季用予測モデル、冬季用予測モデルのニューラルネットワークの重み係数を調整することはできるが、季節区分の調整、例えば、春季の終わりを短くし、夏季の開始を早くするといった調整は不可能である。
　本発明では、モデル区分を自動的に決定し、モデルのパラメータだけでなく、モデル区分そのものまで適応的に調整することが可能であるため、適用対象の環境変化に対する柔軟性が高いことは明らかである。
【０１３３】
　本発明の第四の効果としては、クラスタリングによる分割データ空間の生成を行う場合に、クラスタリングに用いるべき因子の選択を自動的に行う、または因子の選択のための判断となる指標を与えることである。一般的なクラスタリング手法では、データ間のユークリッド距離に基づいた類似度、または非類似度を用いてクラスタが生成される。従って、クラスタリングに使用する因子によってクラスタリング結果は大きく異なってしまう。
【０１３４】
　また、クラスタリングに有用でない因子を用いると、この因子も含めた類似度が計算されてしまうため、本来あるべきクラスタリング結果と異なるものとなってしまう。しかしながら、本発明を用いることで、クラスタリングに悪影響を及ぼす因子を事前に除外することが可能となり、適切なデータ分割が行えるようになることから、最終的に構築されるモデルの精度も向上することが期待できる。
【図面の簡単な説明】
【０１３５】
【図１】モデル構築方法の流れを説明するフローチャートである。
【図２】データ空間の分割を説明する説明図である。
【図３】分割データ空間の補正を説明する説明図である。
【図４】モデル構築方法の流れを説明するフローチャートである。
【図５】クラスタの中心を用いた分離度の説明図である。
【図６】クラスタの範囲を用いた分離度の説明図である。
【図７】クラスタリング結果を示すための最高気温と最大電力の相関図である。
【図８】クラスタリング結果を示すための最高気温と最大電力の相関図である。
【図９】因子毎のクラスタの中心を説明する説明図であって、図９（ａ）は棒グラフ、図９（ｂ）は数値を示す表である。
【図１０】因子毎のクラスタの中心を説明する説明図であって、図１０（ａ）は棒グラフ、図１０（ｂ）は数値を示す表である。
【図１１】多層ニューラルネットワークを説明する概念図である。
【図１２】予測モデル構築システムのシステム構成図である。
【図１３】分割数・クラスタ分割・相関係数の関係を説明する説明図である。
【図１４】最高気温−最大電力の関係におけるクラスタリング結果を示す特性図である。
【図１５】最高気温−最大電力の関係におけるクラスタリング結果を示す特性図である。
【図１６】最高気温−最大電力の関係におけるクラスタリング結果を示す特性図である。
【図１７】最高気温−最大電力の関係におけるクラスタリング結果を示す特性図である。
【図１８】最高気温−最大電力の関係におけるクラスタリング結果を示す特性図である。
【図１９】最も相関が高い分割｛Ｃ１｝｛Ｃ２　Ｃ３　Ｃ４｝における相関図を示す図である。
【図２０】最も相関が高い分割｛Ｃ１｝｛Ｃ２　Ｃ３　Ｃ４｝における相関図を示す図である。
【図２１】｛Ｃ１｝と｛Ｃ２　Ｃ３　Ｃ４｝でそれぞれニューラルネットワークモデルの学習を行なった結果の学習誤差を示す図である。
【符号の説明】
【０１３６】
１：データ入力画面
２：データ入力手段
３：データ保存手段
４：データベース
５：データ出力手段（表示装置）
６：予測モデル
７：分割データ空間生成手段
８：因子決定手段
９：モデル化手段
１０：モデル精度評価手段
１１：分割データ空間補正手段
１００：ネットワーク
【図１】
2004086897.tif 000009
【図２】
2004086897.tif 000010
【図３】
2004086897.tif 000011
【図４】
2004086897.tif 000012
【図５】
2004086897.tif 000013
【図６】
2004086897.tif 000014
【図７】
2004086897.tif 000015
【図８】
2004086897.tif 000016
【図９】
2004086897.tif 000017
【図１０】
2004086897.tif 000018
【図１１】
2004086897.tif 000019
【図１２】
2004086897.tif 000020
【図１３】
2004086897.tif 000021
【図１４】
2004086897.tif 000022
【図１５】
2004086897.tif 000023
【図１６】
2004086897.tif 000024
【図１７】
2004086897.tif 000025
【図１８】
2004086897.tif 000026
【図１９】
2004086897.tif 000027
【図２０】
2004086897.tif 000028
【図２１】
2004086897.tif 000029