(57)【要約】【課題】  可読性に優れた簡易な決定木を生成する。【解決手段】  複数種類の説明変量と、目的変量とを含むデータベースを記憶したデータベース記憶手段から前記目標変量の値を読み出し、読み出した前記目的変量の値から複数のクラスタを生成し、前記データベースの各レコードが属するクラスタを決定し、前記説明変量の値から前記クラスタの種類を推測するための分類規則を生成し、前記生成された分類規則を分類規則記憶手段に格納し、前記分類規則に含まれる説明変量を選択し、選択された説明変量を説明変量記憶手段に格納し、前記説明変量記憶手段に格納されている説明変量の値と、前記目的変量の値とから再度、複数のクラスタを生成する。【選択図】  図１
2006155344.tif 000002
【特許請求の範囲】
【請求項１】
複数種類の説明変量と、目的変量とを含むデータベースを記憶したデータベース記憶手段と：
前記目的変量の値から複数のクラスタを生成するクラスタ生成手段と：
前記データベースの各レコードが属するクラスタを決定するクラスタ決定手段と：
前記説明変量の値から前記クラスタの種類を推測するための分類規則を生成する分類規則生成手段と：
前記分類規則生成手段によって生成された分類規則を記憶する分類規則記憶手段と：
前記分類規則に含まれる説明変量を選択する変量選択手段と：
前記変量選択手段よって選択された説明変量を格納する説明変量格納手段と：を備え、
前記クラスタ生成手段は、前記説明変量格納手段に格納されている説明変量の値と、前記目的変量の値とから再度、複数のクラスタを生成する；
データ分析装置。
【請求項２】
前記分類規則生成手段によって生成された分類規則を、前回前記分類規則生成手段によって生成された分類規則と比較し、両者が所定の類似条件を満たす場合は、処理の終了を判断する判断手段をさらに備えたことを特徴とする請求項１に記載のデータ分析装置。
【請求項３】
前記分類規則生成手段は、前記分類規則として決定木を生成することを特徴とする請求項１又は２に記載のデータ分析装置。
【請求項４】
前記変量選択手段は、前記決定木のルートに配置された説明変量、又は前記決定木に含まれる最も多い説明変量を選択することを特徴とする請求項３に記載のデータ分析装置。
【請求項５】
複数種類の説明変量と、目的変量とを含むデータベースを記憶したデータベース記憶手段から前記目標変量の値を読み出す読み出しステップと：
読み出した前記目的変量の値から複数のクラスタを生成する第１のクラスタ生成ステップと：
前記データベースの各レコードが属するクラスタを決定するクラスタ決定ステップと：
前記説明変量の値から前記クラスタの種類を推測するための分類規則を生成する分類規則生成ステップと：
前記生成された分類規則を分類規則記憶手段に格納する分類規則記憶ステップと：
前記分類規則に含まれる説明変量を選択する説明変量選択ステップと：
前記説明変量選択ステップによって選択された説明変量を説明変量記憶手段に格納する説明変量記憶ステップと：
前記説明変量記憶手段に格納されている説明変量の値と、前記目的変量の値とから再度、複数のクラスタを生成する第２のクラスタ生成ステップと：
をコンピュータに実行させるデータ分析プログラム。
【請求項６】
前記第２のクラスタ生成ステップを実行した後、前記クラスタ決定ステップ、前記分類規則生成ステップ、前記分類規則記憶ステップ、前記説明変量選択ステップ、前記説明変量記憶ステップ及び前記第２のクラスタ生成ステップを、この順序で繰り返すことを前記コンピュータにさらに実行させることを特徴とする請求項５に記載のデータ分析プログラム。
【請求項７】
前記分類規則記憶ステップによって生成された分類規則を、前回前記分類規則生成ステップによって生成された分類規則と比較し、両者が所定の類似条件を満たす場合は、処理の終了を判断する判断ステップをさらにコンピュータに実行させることを特徴とする請求項５又は６に記載のデータ分析プログラム。
【請求項８】
前記分類規則生成ステップでは、前記分類規則として決定木を生成することを特徴とする請求項５乃至７のいずれかに記載のデータ分析プログラム。
【請求項９】
前記変量選択ステップでは、前記決定木のルートに配置された説明変量、又は前記決定木に含まれる最も多い説明変量を選択することを特徴とする請求項８に記載のデータ分析プログラム
【請求項１０】
複数種類の説明変量と、目的変量とを含むデータベースを記憶したデータベース記憶手段から前記目標変量の値を読み出す読み出しステップと：
読み出した前記目的変量の値から複数のクラスタを生成する第１のクラスタ生成ステップと：
前記データベースの各レコードが属するクラスタを決定するクラスタ決定ステップと：
前記説明変量の値から前記クラスタの種類を推測するための分類規則を生成する分類規則生成ステップと：
前記生成された分類規則を分類規則記憶手段に格納する分類規則記憶ステップと：
前記分類規則に含まれる説明変量を選択する説明変量選択ステップと：
前記説明変量選択ステップによって選択された説明変量を説明変量記憶手段に格納する説明変量記憶ステップと：
前記説明変量記憶手段に格納されている説明変量の値と、前記目的変量の値とから再度、複数のクラスタを生成する第２のクラスタ生成ステップと：
をコンピュータが実行するデータ分析方法。
【請求項１１】
前記第２のクラスタ生成ステップを実行した後、前記クラスタ決定ステップ、前記分類規則生成ステップ、前記分類規則記憶ステップ、前記説明変量選択ステップ、前記説明変量記憶ステップ及び前記第２のクラスタ生成ステップを、前記コンピュータがこの順序で繰り返すことを特徴とする請求項１０に記載のデータ分析方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、データ分析装置、データ分析プログラム及びデータ分析方法に関する。
【背景技術】
【０００２】
データマイニング技術を顧客情報分析などの離散情報に適用する例が多数報告されている。一方、工場などのプロセスデータに代表される数値情報に対しても分析を行うニーズが高まっている。数値データを対象とする場合、データが多次元で非線形性が強い場合に、精度の高い関数近似を実現することは難しい。このような状況では決定木に代表される分類規則生成などの離散データ向けの手法が使われる。
【０００３】
数値データに対して分類規則生成を行う際、クラスタリングによる数値データの離散化が必要となる。特に目的変量（予測対象となる変量）が数値の場合には、分類規則生成前に離散化処理が施される。分類規則生成前に行われる目的変量の離散化処理は、生成される分類規則に大きな影響を及ぼす。不適切な離散化はいたずらに分類規則を複雑にする、分類精度を低下させるなどの要因となる。目的変量に関する先見的な知見がある場合や、目的変量の度数分布から離散化のための境界が明らかな場合は、分類規則生成前に適切な離散化を行うことが可能であるが、多くの場合はそのような先見知識や自明なデータ分布は見られない。したがって、通常は適切な離散化処理が行われたかどうかは、生成された分類規則から判断しなければならなかった。すなわち、離散化処理時において、生成される分類規則の可読性や最適性を考慮することができず、可読性に優れた簡易な分類規則を生成することは困難であった。
【特許文献１】特開２００４−１５７８１４公報
【特許文献２】特開２０００−１３２５５８公報
【特許文献３】特開２００４−２１３３１６公報
【発明の開示】
【発明が解決しようとする課題】
【０００４】
本発明は、可読性等に優れた簡易な分類規則を生成できるデータ分析装置、データ分析プログラム及びデータ分析方法を提供する。
【課題を解決するための手段】
【０００５】
本発明の一態様としてのデータ分析装置は、複数種類の説明変量と、目的変量とを含むデータベースを記憶したデータベース記憶手段と：前記目的変量の値から複数のクラスタを生成するクラスタ生成手段と：前記データベースの各レコードが属するクラスタを決定するクラスタ決定手段と：前記説明変量の値から前記クラスタの種類を推測するための分類規則を生成する分類規則生成手段と：前記分類規則生成手段によって生成された分類規則を記憶する分類規則記憶手段と：前記分類規則に含まれる説明変量を選択する変量選択手段と：前記変量選択手段よって選択された説明変量を格納する説明変量格納手段と：を備え、前記クラスタ生成手段は、前記説明変量格納手段に格納されている説明変量の値と、前記目的変量の値とから再度、複数のクラスタを生成する。
【０００６】
本発明の一態様としてのデータ分析プログラムは、複数種類の説明変量と、目的変量とを含むデータベースを記憶したデータベース記憶手段から前記目標変量の値を読み出す読み出しステップと：読み出した前記目的変量の値から複数のクラスタを生成する第１のクラスタ生成ステップと：前記データベースの各レコードが属するクラスタを決定するクラスタ決定ステップと：前記説明変量の値から前記クラスタの種類を推測するための分類規則を生成する分類規則生成ステップと：前記生成された分類規則を分類規則記憶手段に格納する分類規則記憶ステップと：前記分類規則に含まれる説明変量を選択する説明変量選択ステップと：前記説明変量選択ステップによって選択された説明変量を説明変量記憶手段に格納する説明変量記憶ステップと：前記説明変量記憶手段に格納されている説明変量の値と、前記目的変量の値とから再度、複数のクラスタを生成する第２のクラスタ生成ステップと：をコンピュータに実行させる。
【０００７】
本発明の一態様としてのデータ分析方法は、複数種類の説明変量と、目的変量とを含むデータベースを記憶したデータベース記憶手段から前記目標変量の値を読み出す読み出しステップと：読み出した前記目的変量の値から複数のクラスタを生成する第１のクラスタ生成ステップと：前記データベースの各レコードが属するクラスタを決定するクラスタ決定ステップと：前記説明変量の値から前記クラスタの種類を推測するための分類規則を生成する分類規則生成ステップと：前記生成された分類規則を分類規則記憶手段に格納する分類規則記憶ステップと：前記分類規則に含まれる説明変量を選択する説明変量選択ステップと：前記説明変量選択ステップによって選択された説明変量を説明変量記憶手段に格納する説明変量記憶ステップと：前記説明変量記憶手段に格納されている説明変量の値と、前記目的変量の値とから再度、複数のクラスタを生成する第２のクラスタ生成ステップと：  をコンピュータが実行する。
【発明の効果】
【０００８】
本発明により、可読性等に優れた簡易な分類規則を生成できる。
【発明を実施するための最良の形態】
【０００９】
図１は、本発明の実施の形態に従ったデータ分析装置の構成を概略的に示すブロック図である。
【００１０】
データ記憶装置１は、分析対象データを記憶する。
【００１１】
図２は、分析対象データの一部を一例として示す。
【００１２】
この分析対象データは、目的変量Yおよび４つの説明変量Z0、Z1、Z2、Z3から構成されている。すべての変量は数値データである。
【００１３】
データ分割装置２は、分析対象データに基づいて、クラスタリングを行う。
【００１４】
まず、データ分析装置２は、目的変量Yだけに着目し、１次元（変量がYだけ）のクラスタリングを行う。クラスタリングは変量Yの上下限を一定区間で区切ること、あるいはK-means法（K-平均法）を用いることで、実現できる。
【００１５】
ここでは、図２の分析対象データを用いて、K-means法を実行し、この結果、５つのクラスタ、すなわち、クラスタ０：[-∞〜2.73]、クラスタ１：[2,73〜4.06]、クラスタ２：[4.06〜6.35]、クラスタ３：[6.35〜8.47]、クラスタ４[8.47〜+∞]が生成されたとする。括弧内の数値はＹの値である。例えばYの値が2,73以上4.06未満である場合はクラスタ１に分類され、4.06以上6.35未満である場合はクラスタ２に分類される。
【００１６】
データ分析装置２は、このようにして生成した各クラスタと、目的変量Yの値とに基づいて、分析対象データの各レコードについてクラスタ番号を決定する。
【００１７】
図３は、分析対象データにおける目的変量Yを、クラスタ番号を表す変量Y(1)に置き換えたデータ表の一部である。このデータ表はデータ分割装置２によって生成され、データ記憶装置１内に格納される。変量Ｙ（１）の項目にはクラスタ番号が格納されている。各クラスタが出現する度数を棒グラフで表したものを図４に示す。
【００１８】
分類規則生成装置３は、図３に示すデータ表の変量Y(1)を目的変量とみなして決定木を生成する。即ち、説明変量からクラスタ番号を推測するための決定木を生成する。生成する分類規則は決定木に限られず、他の分類規則を生成しても良い。
【００１９】
図５は、分類規則生成装置３によって生成された決定木の一部を示す。
【００２０】
この決定木は、葉の数が250程度ある大きなものになっている。この決定木の読み方について一例を間単に説明する。説明変量Z1が-0.58未満で、説明変量Z0が1.90未満で、説明変量Z3が-0.78未満である場合は、クラスタ０に分類される。また、説明変量Z1が−0.58以上-0.47未満で、説明変量Z0が3.10未満である場合は、クラスタ１に分類される。
【００２１】
分類規則生成装置３は、生成した決定木を分類規則記憶装置４に格納する。
【００２２】
変量選択装置５は、分類規則記憶装置４に格納された決定木から、クラスタリングに有効な変量を選ぶ。有効な変量としては、例えば、決定木のルートに現れる変量（ルートノード）、決定木中で参照される回数の最も多い変量などがあり得る。ここでは、変量選択装置５は、ルートに現れている「Z1」を有効な変量として選択し、選択した変量Z1をデータ分割装置２に出力する。
【００２３】
データ分割装置２は、変量選択装置５から入力された有効な変量Z1と、目的変量Yとからなる２次元の変量によって、データ記憶装置１内の分析対象データについて、再度、クラスタリングを実行する。クラスタ数を先ほどと同じ５にしてクラスタリングを行った結果を図６に示す。
【００２４】
図７は、再度のクラスタリングによって得られたクラスタの番号を表す変量Y(2)へ目的変量Yを置き換えたデータ表の一部を示す。このデータ表はデータ分割装置２によって生成されデータ記憶装置１内に格納される。図７のデータ表において、図６の各クラスタの出現頻度を表した棒グラフを図８に示す。
【００２５】
分類規則生成装置３は、図７に示すデータ表の変量Y(2)を目的変量とみなして決定木を作成する。
【００２６】
図９は、生成された決定木の一部を示す。
【００２７】
図９の決定木は、葉の数が60程度で、図５に示す決定木の四分の一程度のサイズに縮約されている。
【００２８】
図９の決定木におけるルートノード（変量）が、１つ前に生成された図５の決定木のルートノードと一致するため、図９の決定木と図５の決定木とは類似している（生成される決定木は収束した）と判断し、処理を終了する。類似するか否かの判断は、上記の他、決定木のルートノードから所定段数までの部分木が一致する、決定木の正解率が一定値に達する、決定木全体のノード数が既定数以下になるなどがある。さらに処理を続行するか否かを、ユーザ入力に基づいて、判断するようにしても良い。例えば、ユーザ入力を行う入力手段、ユーザ入力記憶するユーザ入力記憶手段を図１のシステムに設け、ユーザ入力記憶手段に処理の終了を指示するフラグが格納されている場合は、処理を終了することを決定しても良い。
【００２９】
ここで、決定木の比較において、両者が類似しないと判断された場合は、最新の決定木を分類規則記憶装置４に記憶し、変量選択装置５は、新たに記憶された最新の決定木から変量を選択する。そして、データ分割装置２は、この変量と、既に選択されている変量と、目的変量との３次元の変量に基づいて、再度クラスタリングを行う。
【００３０】
図１０は、図１のデータ分析装置による処理の流れを示すフローチャートである。
【００３１】
データ分割装置２が、データ記憶装置１内の分析対象データに含まれる変量から目的変量を決定する（ステップＳ１）。目的変量は、ユーザ入力に基づいて、決定されてもよいし、予め指定されていてもよい。
【００３２】
データ分割装置２は、予め与えられたリストを空にする（ステップＳ２）。
【００３３】
データ分割装置２は、ステップＳ１で決定した目的変量と、リスト内の説明変量とに基づいて、データ記憶装置１内の分析対象データについてクラスタリングを実行する（ステップＳ３）。リスト内に未だ説明変量が格納されていない場合は、目的変量のみに基づいてクラスタリングを行う。データ分割装置２は、クラスタ番号を表す変量を分析対象データに追加したデータ表、または、当該クラスタ番号を表す変量によって分析対象データの目的変量を置き換えたデータ表を生成する。
【００３４】
分類規則生成装置３は、生成されたデータ表に基づき、クラスタ番号を葉ノードとする決定木を生成する（ステップＳ４）。すなわち、データ表に含まれる説明変量の全部又は一部からクラスタ番号を推測する決定木を生成する。
【００３５】
分類規則生成装置３は、生成された決定木が、分類規則記憶装置４に最後に記録された決定木、すなわち前回分類規則生成装置３によって生成された決定木と類似しているか否かを判断し、類似している場合は（ステップＳ５のＹＥＳ）、処理を終了する。上述したように、分類規則生成装置３は、ユーザ入力に基づいて、処理を終了するか否かを判断しても良い。
【００３６】
一方、分類規則生成装置３は、両決定木が類似していない場合は（ステップＳ５のＮＯ）、生成した決定木を分類規則記憶装置４に記録する（ステップＳ６）。そして、変量選択装置５は記録された決定木から説明変量を選択し、選択した説明変量をリストに追加する（ステップＳ６）。この後、ステップＳ３に戻り、リスト内に含まれる全ての説明変量と上記目的変量とに基づいて再度クラスタリングを行う。
【００３７】
図１に示したデータ分析装置における各構成要素による機能は、通常のプログラミング技法を用いて生成したプログラムをCPU等のコンピュータに実行させることで実現してもよいし、ハードウェア的に実現してもよい。また、これらの組み合わせにより実現してもよい。
【００３８】
以上のように、本実施の形態によれば、目的変量が連続量（数値）である場合に、目的変量の有効な離散化指標として、決定木に現れる重要な変量を用いるため、可読性に優れた簡易な分類規則を生成できる。
【００３９】
また、本実施の形態によれば、生成される決定木が前回の生成される決定木と類似した場合は処理を終了するため、効率よく短時間で分類規則を生成できる。
【図面の簡単な説明】
【００４０】
【図１】本発明の実施の形態に従ったデータ分析装置の構成を概略的に示すブロック図である。
【図２】分析対象データの一部を一例として示す。
【図３】分析対象データにおける目的変量Yをクラスタ番号を表す変量Y(1)に置き換えたデータ表の一部である。
【図４】図３のデータ表において各クラスタが出現する度数を表した棒グラフである。
【図５】生成された決定木の一部を示す。
【図６】２次元の変量によってクラスタリングを実行した結果を示す。
【図７】分析対象データにおける目的変量Yを、クラスタ番号を表す変量Y(2)に置き換えたデータ表の一部を示す。
【図８】図７のデータ表において、図６の各クラスタの出現頻度を示した棒グラフである。
【図９】生成された決定木の一部を示す。
【図１０】図１のデータ分析装置による処理の流れを示すフローチャートである。
【符号の説明】
【００４１】
１  データ記憶装置
２  データ分割装置
３  分類規則生成装置
４  分類規則記憶装置
５  変量選択装置
【図１】
2006155344.tif 000003
【図２】
2006155344.tif 000004
【図３】
2006155344.tif 000005
【図４】
2006155344.tif 000006
【図５】
2006155344.tif 000007
【図６】
2006155344.tif 000008
【図７】
2006155344.tif 000009
【図８】
2006155344.tif 000010
【図９】
2006155344.tif 000011
【図１０】
2006155344.tif 000012