(57)【特許請求の範囲】
【請求項１】
複数の属性、属性値及びクラスによって構成され、該複数の属性は離散型又は連続型のいずれかのデータ型によって表現される事例集合に基づいて、該事例集合に共通するルールを生成する事例推論支援装置において、
前記事例集合を格納する事例記憶手段と、
前記事例記憶手段に格納された事例について、前記離散型の属性の属性値を２値表現に変換し、前記連続型の属性の属性値を前記２値表現の２つの値のそれぞれを最小値及び最大値として正規化変換する事例表現手段と；
前記事例表現手段により変換された前記属性値を変数としたときに該変数の係数をパラメータとする所定の関数式を重回帰分析により生成し、該所定の関数式について前記クラス毎に前記パラメータを算出するパラメータ算出手段と；
この手段により算出された係数に対して直交関数展開を行って直交関数式を求め、該直交関数式の係数を２値表現に変換し、該２値表現に基づく前記直交関数式の係数の値に基づいて論理式を算出するルール生成手段と；
前記ルール生成手段により生成されたルールを利用者に提示する出力手段と；
を具備することを特徴とする事例推論支援装置。
【請求項２】
事例記憶手段に記憶された、複数の属性、属性値及びクラスによって構成され、該複数の属性は離散型又は連続型のいずれかのデータ型によって表現される事例集合に基づいて、該事例集合に共通するルールを生成する事例推論支援装置において実行される事例推論支援方法において、
前記事例推論支援装置に具備された事例表現手段により、前記離散型の属性の属性値を２値表現に変換し、前記連続型の属性の属性値を前記２値表現の２つの値のそれぞれを最小値及び最大値として正規化変換する事例表現ステップと；
前記事例推論支援装置に具備されたパラメータ算出手段により、前記属性値を変数としたときに、該変数の係数をパラメータとする所定の関数式を重回帰分析により生成し、該所定の関数式について前記クラス毎に前記パラメータを算出するパラメータ算出ステップと；
前記事例推論支援装置に具備されたルール生成手段により、このパラメータ算出ステップにより算出された係数に対して直交関数展開を行って直交関数式を求め、該直交関数式の係数を２値表現に変換し、該２値表現に基づく前記直交関数式の係数の値に基づいて論理式を算出するルール生成ステップと；
前記事例推論支援装置に具備された出力手段により、前記ルール生成ステップにより生成されたルールを利用者に提示する出力ステップと；
を具備することを特徴とする事例推論支援方法。
【発明の詳細な説明】
【０００１】
【産業上の利用分野】
この発明は、事例推論支援装置に関する。
【０００２】
【従来の技術】
ある事例集合を用いて新事例の予測を行う手法の一つとして、統計による重回帰分析が知られている。即ち、この重回帰分析は、事例をよく表すような回帰式を求め、回帰式に新たな事例の値を代入することによって新事例の予測を行うものである。
【０００３】
しかしながら、重回帰分析では、数値データしか扱うことができず、また、予測をすることができても、回帰式に基づいて事例に内在する定性的なルールを理解することは困難であり、予測規則を明確に表現した知識を獲得する目的に対しては不十分であった。
【０００４】
また、事例をクラス毎に分類する手法として、統計による判別分析が知られている。
しかしながら、判別分析では、図やグラフ表現によって事例を分析しているため、人による解釈が必要である。従って、分析者の主観が含まれることを避けることができないという問題を有していた（「多変量統計解析法」、田中豊、脇本和昌著、現代数学社）。
【０００５】
一方、機械学習の分野では、事例の集合から決定木を生成し、新事例の予測の用いる手法が種々提案されている。例えば、情報量等を用いて最適な決定木を生成する手法が知られているが（「Induction of Decision Trees 」  Machine Learning 1  1,pp81-106,1986 ）、属性の数や属性値の数が増加した場合には生成される決定木が複雑になるという問題があった。また、一般に複雑になっても予測は可能であるが、属性間の関係やクラス決定の要因等を決定木から読取ることは困難となり、人間にとって理解し易いとはいえなかった。
【０００６】
【発明が解決しようとする課題】
上述のように、従来の統計的手法や機械学習で提案されている学習方法では、得られた回帰式や決定木は人間にとって理解しにくいものであった。
また、分析者の主観が入ることや、扱えるデータが数値データや離散的なデータのみであった。
【０００７】
そこで、本発明は、数値データと離散的なデータとの混在を許すことで、扱えるデータの対象を広げ、また、人間に理解し易いルールの獲得及び新事例に対する予測を行うことができる装置を提供することを目的とする。
【０００８】
【課題を解決するための手段】
請求項１係る発明は、複数の属性、属性値及びクラスによって構成され、該複数の属性は離散型又は連続型のいずれかのデータ型によって表現される事例集合に基づいて、新たな事例集合の属するクラスの予測を行う事例推論支援装置において、前記離散型の属性の属性値を第１のデータ表現に変換し、前記連続型の属性の属性値を第２のデータ表現に変換する事例表現手段と、この手段により変換された第１のデータ表現及び第２のデータ表現に基づいて、前記属性値を変数としたときに該変数の係数をパラメータとする所定の関数式を生成し、該所定の関数式について前記クラス毎に前記パラメータを算出するパラメータ算出手段と、前記新たな事例集合の属するクラスの予測を行う際に、前記新たな事例集合のうち欠損している属性値以外の属性値を、前記係数をパラメータとする所定の関数式の変数に代入し、該所定の関数式について前記クラス毎に解を求め、該求められた解からクラスの予測を行う予測手段とからなる事例推論支援装置である。
【０００９】
また、請求項２に係る発明は、複数の属性、属性値及びクラスによって構成され、該複数の属性は離散型又は連続型のいずれかのデータ型によって表現される事例集合に基づいて、該事例集合に共通するルールを生成する事例推論支援装置において、前記離散型の属性の属性値を第１のデータ表現に変換し、前記連続型の属性の属性値を第２のデータ表現に変換する事例表現手段と、この手段により変換された第１のデータ表現及び第２のデータ表現に基づいて、前記属性値を変数としたときに該変数の係数をパラメータとする所定の関数式を生成し、該所定の関数式について前記クラス毎に前記パラメータを算出するパラメータ算出手段と、この手段により算出された係数に対して直交関数展開を行って直交関数式を求め、該直交関数式の係数を前記第１のデータ表現に変換し、該第１のデータ表現に基づく前記直交関数式の係数の値に基づいて論理式を算出するルール生成手段とからなる事例推論支援装置である。
【００１０】
より具体的には、前記事例表現手段は、前記属性の属性値に欠損が存在する場合に、所定の演算処理を行って該演算結果を仮属性値とし、該欠損が存在する属性値について補填をする欠損値補填手段を具備する。
【００１１】
また、前記第１のデータ表現は、前記事例集合の中の一の事例の属性値を２値で表現し、前記第２のデータ表現は、所定の最小値から最大値までの間で正規化して実数で表現する。
【００１２】
【作用】
請求項１に係る発明によれば、入力された事例に欠損値があれば、これを所定の値で補填し、離散値又は連続値は、所定のデータ表現で表現し直して、所定の関数式のパラメータを算出するので、離散値と連続値とが混在するような事例に対しても、クラスの予測を行うことができる。
【００１３】
具体的には、前記事例表現手段は、離散型の属性の属性値に対しては、“０”又は“１”のいずれか一方となるように２値化表現（第１のデータ表現）に、また、連続型の属性の属性値に対しては、“０”以上“１”以下の実数で正規化表現（第２のデータ表現）に表現し直す。
【００１４】
また、パラメータ算出手段は、これらのデータ表現に基づいて、事例集合の属性の属性値を変数としたときに、この変数の係数をパラメータとする線形関数式を生成して、所定の近似法を用いることにより、該パラメータを算出する。
【００１５】
予測手段は、新たな事例集合について欠損している属性値以外の属性値を、パラメータ算出手段により算出したパラメータ（係数）に対応する変数からなる所定の関数式の該変数に代入して解を求めることにより、クラスを予測することができる。
【００１６】
ルール生成手段は、パラメータ算出手段により算出された係数に対して直交関数展開を行って直交関数式を求め、該直交関数式の係数を前記第１のデータ表現に変換するので、該第１のデータ表現に基づく前記直交関数式の係数の値に基づいて論理式を算出することができる。
【００１７】
【実施例】
以下、図面を参照しながら本発明の一実施例について説明する。
図１は、本発明に係る事例予測支援装置の構成を示す図である。同図において、事例記憶部１は、複数の属性、その属性値及びクラスによって記述される事例集合を格納する。事例表現部２は、この事例記憶部１に記憶されている各事例について所定の形式に表現し直すものである。即ち、各事例について“０”若しくは“１”のいずれか一方（本実施例では、これを「｛０，１｝」と表現する。）又は“０”以上“１”以下の実数（本実施例では、これを「［０，１］」と表現する。）とする形式に表現し直すものである。パラメータ算出部３は、事例表現部２によって表現し直された事例集合に対し、属性値からクラスを予測する予測式に用いられる各変数に対応したパラメータを算出する。この予測式は、線形関数により表現されている。
【００１８】
ルール生成部４は、利用者の入力装置（図示せず）からの指示により、後述するように算出されたパラメータに基づいて所定のルールを生成し、これをルール格納部５に記憶し、又は表示装置６を介して利用者に提示する。また、利用者の入力装置からの指示により、予測部７は、算出されたパラメータに基づいて新たな事例のクラスを予測し、その結果を予測結果格納部８に記憶し、又は表示装置６を介して利用者に提示する。このルール生成部４と予測部７とは、ユーザの指示により適宜選択され、処理を行う。
【００１９】
次に、本発明に係る事例予測支援装置の各機能実現手段の詳細について説明する。
図２は、事例表現部２の構成を示す図である。同図に示すように、事例表現部２は、事例記憶部１から入力された事例の属性値に欠損値があるか否かを判断し、欠損値がある場合には所定の値を補填する欠損値補填部２１と、離散属性に対してダミー変数を用いて｛０，１｝により表現する離散値表現部２２と、連続属性の値を［０，１］に正規化する連続値正規化部２３とからなっている。ここで、欠損値とは、事例の属性値が何らかの原因において不明であるものをいう。
【００２０】
図３は、ルール生成部４の構成を示す図である。同図に示すように、ルール生成部４は、パラメータ算出部３によって得られた予測式について直行関数展開を行う直行関数展開部３１と、この展開された関数の係数を所定の近似方法によって近似する近似部３２と、近似した係数を論理命題の形式で表現する論理命題表現部３３とからなっている。なお、この近似部３２は、本実施例では、所定の閾値を基準にして近似を行っている。
【００２１】
図４は、予測部７の構成を示す図である。同図に示すように、予測部７は、新事例入力部４１から入力された予測をする新事例に対して、［０，１］又は｛０，１｝で表現する新事例表現部４１と、この新事例表現部４２によって表現し直された事例集合に対して、上述のパラメータ算出部３によって算出されたパラメータに基づきクラス毎の予測値を求める予測値算出部４３と、予測値の中から所定の基準（例えば、最大のもの）によりクラスを選出する予測クラス選出部４４とからなっている。新事例表現部４２は、上述した事例表現部２とほとんどにおいて同じであるが、後述するように欠損値補填部４５の機能が異なっている。
【００２２】
次に、上記のように構成された事例予測支援装置の処理動作について、具体例をもって説明する。なお、推論に先だって、事例記憶部１には、事例集合が予め格納されているものとする。
【００２３】
本実施例では、製品の品質に関する推論を例に説明する。これは、工場で生産される製品に対して、生産工程と原材料及び製品の品質との関係を調べる問題である。この問題に関して、ルールを獲得し、また、新たな材料や工程の組合せに関して品質を予測することを目的とする。
【００２４】
図５は、本実施例で扱う事例における複数の属性とこれらの各属性がとり得る属性値の要素を示したものである。同図において、左から１列目は「属性」を示しており、これらの属性のうち「材料１」、「材料２」及び「工程」は推論条件であり、品質の決定に関わるものである。属性「材料１」は材料１の投入量、属性「材料２」は材料２の投入量が、数値で表される。また、属性「工程」は  “Ｐ”又は“Ｑ”のいずれかが選択される。これに対し、属性「品質」はこの推論の結論、即ち、クラスを示す。事例は、前記３つの属性とクラス（本実施例では「品質」）の値で表される。これらの事例の具体的内容は、事例記憶部１に格納されている。
【００２５】
図６は、事例記憶部１に格納されている事例集合の例を示す図である。同図において、事例「Ｅ２」の属性「材料２」欄に示す「？」は、欠損値、即ち、該属性に関する値が不明であることを示している。
【００２６】
事例表現部２は、事例格納部１より事例を読み出し、該事例を所定の形式に表現し直す。図７は、事例表現部２の処理動作を示す図である。同図に示すように、事例表現部２は、ステップ７０１〜７０５では、各事例に対して欠損値の補填と離散値表現とを行なう。また、ステップ７０６〜７０８では、連続値をとる属性に対して、連続値の正規化を行なう。
【００２７】
即ち、事例表現部２は、まず、未処理の事例があるか否かを判断し（ステップ７０１）、あると判断された場合には、未処理の事例を１つ選択する（ステップ７０２）。本実施例では、図６に示す事例のうち、「Ｅ１」が選択されたものとする。次に、事例表現部２は、該選択された事例の中に欠損値があるか否かを判断する（ステップ７０３）。「Ｅ１」には欠損値がないので、離散値表現を行う（ステップ７０５）。ここにいう離散値表現は、離散属性の属性値を属性のように扱うことにより、各事例の属性値を｛０，１｝の２値で表現する。具体的には、事例が該当する属性値には「１」を、その他の場合には「０」を与える。例えば、「工程」で「Ｐ」を用いた事例に対しては、工程「Ｐ」、「Ｑ」に対してそれぞれ「１」、「０」という値が与えられる。属性値が３つ以上あるときも同様である。例えば、「工程」としてとり得る値が「Ｐ」、「Ｑ」及び「Ｒ」であったとした場合に、その値が「Ｑ」である事例には「Ｐ」、「Ｑ」及び「Ｒ」に対してそれぞれ「０」、「１」及び「０」という値を与える。また、結論（クラス）である品質の値については、該当する値に対しては「１」、その他の場合は「０」として、クラスごとに事例集合を生成する。従って、本実施例では、「品質」のとり得る値は２つであるため、事例集合は２つ作成される。この表現の変換は一意に定まる。
【００２８】
「Ｅ１」について離散値表現が完了した後、再びステップ７０１に戻り、未処理の事例があるか否かを判断する。次に、「Ｅ２」が選択されたものとする。この「Ｅ２」には欠損値があるため、該欠損値の補填を行う（ステップ７０４）。欠損値の補填を以下に示す。
【００２９】
即ち、欠損値を持つ事例と同じクラスであって、対象とする属性が欠損していない事例により部分集合を生成する。本実施例では欠損値を持つ「Ｅ２」のクラスは「良」であるので、クラスが「良」である事例の集合として、｛Ｅ４，Ｅ５，Ｅ６｝という集合を生成する。次に、この集合のうち、値が欠損している属性の値に注目し、例えば、離散属性に対しては値のうち最頻値、連続属性に対しては値の平均値を用いて補填を行う。本実施例では、値が欠損している属性は「材料２」であり（即ち、連続属性である）、｛Ｅ４，Ｅ５，Ｅ６｝の「材料２」の値は｛４０，１０，２０｝である。従って、この平均値は、
平均値＝（４０＋１０＋２０）／３＝２３．３
であるので、事例「Ｅ２」の「材料２」の値として“２３．３”を補填する。
【００３０】
欠損値の補填が完了したら、上述した離散値表現を行なう（ステップ７０５）。従って、「Ｅ２」の「工程」は「Ｑ」であるので、工程「Ｐ」及び「Ｑ」の値としてそれぞれ「０」及び「１」を割り付ける。
【００３１】
このようにして、全ての事例に対する欠損値の補填及び離散値表現の完了後、連続値をとる属性に対して、連続値の正規化を行う（ステップ７０６〜７０８）。
【００３２】
まず、未処理の連続属性があるか否かを判断し（ステップ７０６）、あると判断した場合には、その中から未処理の連続属性を１つ選択する。次に、この選択された連続属性に対して以下のようにして正規化を行う。
【００３３】
即ち、各属性の影響を相対的に抽出するための準備として、連続属性の値を  ［０，１］（０以上１以下の数値）の値で表現する。具体的には、各事例の連続属性の値のうち最小値をｍｉｎ、最大値をｍａｘとして、各事例の値ｘを式１に従って変換する。
【００３４】
【数１】
0003638310.tif 000002
【００３５】
例えば、「材料１」が選択された場合、その属性値は、
“5, 20, 50, 30, 50,  10”
であり、従って、最小値は５，最大値は５０であるので、
“0.000, 0.333, 1.000, 0.555, 1.000, 0.111”
となる。このようにして全ての連続属性に対して、同様の処理を繰り返す。
【００３６】
なお、本実施例では、離散値表現を行った後に、連続値をとる属性に対して連続値の正規化を行ったが、特にこれにこだわることはなく、欠損値の補填完了後であれば、連続値をとる属性に対して連続値の正規化を行った後に、離散値表現を行うようにしてもよい。
【００３７】
図８及び図９は、図３に示した事例に対して事例表現が完了した事例集合を示す図であり、このうち、図８は、品質が「優」である場合、図９は、品質が「良」である場合の事例表現である。なお、本来、これらの図は、利用者側には提示されるものではない。
【００３８】
このような処理を行うことにより、離散値及び連続値が混在した事例を対象とすることができるようになる。
事例表現部２により事例集合が所定の形式に表現し直されると、次に、パラメータ算出部３によってパラメータの算出が行われる。パラメータ算出部３は、上述したように、事例表現部２によって表現し直された事例集合に基づいて、属性値からクラスを予測する予測式に用いられる各属性に対応したパラメータを算出する。ここで、パラメータとは、クラスを決定するための重みのことをいい、各変数に対して求められる。本実施例では、図８及び図９の事例集合に対して、最小２乗法によって求めた線形関数の係数をパラメータとして使用する。最小２乗法とは、あるデータを線形関数をモデルとして近似するにあたって、そのモデルによる推定値と実測値との差の２乗が最小になるように線形関数を定める方法をいう。この手法は広く知られているため、説明は省略する。一般式としては、各変数ｘn （ｎ＝１，２，３，…）に対して、係数をａ，ｂ，ｃ，…とし、また、定数項をＣとすれば、
【００３９】
【数２】
0003638310.tif 000003
として表される。
【００４０】
本実施例では、「材料１」、「材料２」、「工程Ｐ」及び「工程Ｑ」の４変数であるので、事例の値を
ｘ0 ＝（ｘ01，ｘ02，ｘ03，ｘ04）
で表すことにする。また、それぞれに対応する係数（パラメータ）を  ａ，ｂ，ｃ，ｄ、定数項をｅとする。これにより、データを近似するモデルである線形関数は次のように表すことができる。
【００４１】
【数３】
0003638310.tif 000004
ここで、事例の実測値を
ｘi ＝（ｘi1，ｘi2，ｘi3，ｘi4）      （ｉ＝１，２，３，…）
とすれば、
【００４２】
【数４】
0003638310.tif 000005
が最小になるようなａ，ｂ，ｃ，ｄを求めれば良い。ただし、前述の離散値表現により、「工程」の値に関してＰ＋Ｑ＝１という制約がある。この制約の下で、事例集合との２乗誤差が最小になるようにパラメータを求める。
【００４３】
具体的には、Ｑ＝１−ＰよりＱを消去して最小２乗法を適用すれば良い。
図１０は、パラメータ算出部３の処理動作を示す図である。同図において、まず、ステップ１００１により、クラスごとの事例集合が選択される。ここでは、「品質」の値「優」がまず選択されたこととする。即ち、図８に対するパラメータが算出されることになる。最小２乗法によるパラメータ算出の方法は、統計分野で提案されているため（例えば、東洋経済新報社「統計学辞典」 p.150-152参照）、ここでは説明を省略する。以下の式５は、図８に対して求められたパラメータを線形関数の形式で示したものである。
【００４４】
【数５】
0003638310.tif 000006
【００４５】
次に、まだ処理していないクラスがあるのでステップ１００３によってステップ１００１に戻り、「品質」の値が「良」、即ち、図９に対するパラメータを算出して、パラメータの算出は終了する。以下の式６は、図９に対して求めたパラメータを線形関数の形式で示したものである。
【００４６】
【数６】
0003638310.tif 000007
【００４７】
なお、パラメータの算出方法は上述の方法に限られるものではない。条件と結論（クラス）の関係を線形関数で表現することができれば、他の方法によって定めてもかまわない。例えば、専門家が直接指定することも可能である。
【００４８】
以上のようにパラメータ算出部３によってパラメータが算出されたら、ユーザは、予測を行うか又はルールを生成するかを選択する。以下では、まず予測を選択した場合について説明する。
【００４９】
図１１は、予測部７の動作処理を示す図である。同図において、まず、予測をする新事例を［０，１］で表現する（ステップ１１０１，１１０２）。ただし、欠損値の補填は行なわず、欠損している属性に該当する値を全て０とおく（ステップ１１０３，１１０４）。このことは、予測の際に欠損している属性の情報は用いないことを意味している。例えば、図１２は、ある事例に対して離散値表現、連続値正規化、欠損値処理を行なって表現したものを示す図である。「工程」の値が欠損しているため、表現し直した後の右側の表では、該当する属性の値（「工程Ｐ」と「工程Ｑ」）は両方とも０となる。
このように表現された事例をクラスごとの線形関数に代入し、値を求める（ステップ１１０５）。この中で最大の値を持つクラスが、この事例に対して予測されるクラスである（ステップ１１０６）。この例では、式１と式２に代入した結果は、次のようになる。
式５に対して、
【００５０】
【数７】
0003638310.tif 000008
式６に対して、
【００５１】
【数８】
0003638310.tif 000009
これにより式１に関する値の方が大きいので、この事例の品質は「優」と予想される。
【００５２】
これら予想された結果は、出力装置を介して利用者に提示される。これにより、利用者は、新たな事例集合のクラスの予測をする際に、最も確からしいクラスを容易に把握することができるようになる。
【００５３】
次に、ルール生成について説明する。図１３は、ルール生成に関する処理動作を示す図である。まず、線形関数を直交関数に展開する（ステップ１３０３）。即ち、この例では、４つの変数に対し、ａ，ｂ，ｃ，ｄ又は（１−ａ），（１−ｂ），（１−ｃ），（１−ｄ）の組合せによりを式３のように表す。このとき、展開した各項は、論理関数のアトムに対応している。（１−ｘ）はｘの否定（以下「(NOT) ｘ」と示す）を表している。アトムとは、論理関数の最小の単位であり、例えば｛Ｘ，Ｙ｝という２変数の場合、アトムは、ＸＹ，Ｘ(NOT) Ｙ，(NOT) 結ＸＹ，(NOT) Ｘ(NOT) Ｙの４通りがある。具体例として、式５を直交関数に展開した結果を以下に示す。
【００５４】
【数９】
0003638310.tif 000010
【００５５】
次に、この各項の係数について所定の値、例えば、０．５を閾値として｛０，１｝に近似し（ステップ１３０４）、整理すると、次のようになる（ステップ１３０５）。
【００５６】
(1−ｘ2 ) ＋ｘ2 ｘ4
ｘ1 ，ｘ2 ，ｘ3 ，ｘ4 は論理関数の変数とみることができ、(1- ｘ2 ) はｘ2 の否定、即ち、(NOT) ｘ2 を表しているので、これを論理式で表現すると（ステップ１３０３）、次のようになる。
【００５７】
(NOT) ｘ2 ∨ｘ2 ｘ4
ここで、ここで、「(NOT) 」は否定、「∨」は論理和を表し、「又は」を示している。つまり、ｘ2 は「材料２」、ｘ4 は「工程Ｑ」を表しているので、これは「材料２」の投入量が少ないか又は「材料２」の投入量が多くかつ工程がＱである場合には品質が「優」であるというルールを意味している。
【００５８】
また、品質が「良」であるクラスの式２についても同様の処理により、
ｘ2 ∨(NOT) ｘ2 ｘ4
が得られる。これは、「材料２」の投入量が多いか又は「材料２」の投入量が少なくかつ工程がＱである場合には品質が「良」であるというルールを意味している。
【００５９】
これら得られたルールは、図１４に示すように、出力装置６上に表示される。これにより、利用者は、現在取り扱っている事例集合に対するルールを容易に把握することができるようになる。
（他の実施例）
ところで、全ての属性が離散的な値をとる（連続属性はない）場合には、以下のようにすることも考えられる。その場合においても、事例表現部２、パラメータ算出部３、予測部７における処理は同様であるが、ルール生成部４は、計算量を抑えることができる。
【００６０】
図１５は、全ての属性が離散属性である場合のルール生成部を示す図である。また、図１６は、ルール生成部４の処理動作を示す図である。これらの図を参照しつつ、本実施例を説明する。
【００６１】
今、属性の数がｎ個であるとすると、上述したようにパラメータ算出部によってｎ個のパラメータが得られる。ここではこれを「ｐ1 ，…，ｐn 」とする。
まず、パラメータの組合せの数を１とセットする（ステップ１６０１）。ルール生成部４では、パラメータを任意の数だけ組み合わせてルールを生成していくので、結局、これはパラメータを組み合わせる数を表す。本実施例では、初期値は１であるが、徐々に増やしていき、予め設定した値に達した場合に終了する（ステップ１６０２）。
【００６２】
まず、パラメータ選択部１５１により、ｐ1 を選択し、ｐ1 ，…，ｐn のうちｐ1 を除いて負の値があれ場合はそれらを全て選択する（ステップ１６０３）。それは、ｐ1 ，…，ｐn のｐ1 を含む任意の組合せのうち、組み合わせたパラメータの値の和が最小になる組合せを選択するためである。例えば、ｐ1 とｐ1 ＋ｐ2 を比較すると、ｐ2 が０以上のときにはｐ1 の方が小さいが、ｐ2 が負の場合にはｐ1 ＋ｐ2 の方が小さい。そこで、ｐ1 を含んで和が最小になる値を求めるために、ｐ1 を除いた負の値を全て選択する。
【００６３】
次に、判定部１５２において、パラメータ選択部１５１で選択したパラメータを全て加え（ステップ１６０４）、所定の閾値（例えば、０．５）と比較する  （ステップ１６０５）。上述したように、パラメータ選択部では、ｐ1 を含むパラメータの組合せの中でそれらの和が最小になる組合せを選択している。ここでは、ｐ1 を含む組合せの和の最小値を０．５と比較することになる。これは、最小２乗法により、各パラメータの重みが得られているが、パラメータはもともと連続的な値なので、ルールを得るためにそれを“０”か“１”に近似するために行なわれる。即ち、０．５を境として、それより大きければ１に、小さければ０に近似されることになる。従って、本実施例では、所定の閾値０．５よりも大きければｐ1 に対応する属性値を保存部１４３において保存する（ステップ１６０６）。この後、選択すべきパラメータがまだ残っているかチェックし、残っていればパラメータ選択部１５１に戻り、そのパラメータを選択する（ステップ１６０７）。選択すべきパラメータとは、全てのパラメータの中で、パラメータの組合せの数が同じである場合にまだ選択していないパラメータのことである。この例では、ｐ1 以外のパラメータはまだ処理されていないので、パラメータ選択に戻る。
パラメータ選択部１５１では、未選択のパラメータ、例えば、ｐ2 を選択し、ｐ2 を除いてｐ1 ，…，ｐn の中で負の値があればそれらを選択する（ステップ１６０３）。判定部１４２でそれらを全て加え（ステップ１６０４）、０．５より大きければ（ステップ１６０５）、保存部１５３でｐ2 に対応する属性値を保存する（ステップ１６０６）。
【００６４】
以上の処理を同様にｐ3 ，…，ｐn に対して行なう。ｐn まで終了すると、全てのパラメータに対して一通り処理したことになり、選択すべきパラメータが残っていないので（ステップ１６０７）、パラメータの組合せの数をセットし直す（ステップ１６０１）。上記の例では組合せの数を１増やして２にする。そこで、次に、パラメータを２つ組み合わせて考える。このとき、このセットした数が予め決めておいた終了条件の数よりも大きい場合には、ステップ１６０８の接続部１５４へ進む。一方、小さい場合には再びパラメータ選択部１５１へ進む。
【００６５】
パラメータ選択部１５１では、ｐi とｐj を選択し、ｐi とｐj を除いた負の値を選択する（ステップ１００３）。但し、既に保存されている属性値に対応する  ｐk は以降の処理では使用しない。判定部１５２では、それらの値を加え（ステップ１６０４）、その結果を所定の閾値０．５と比較する（ステップ１６０５）。その結果、０．５より大きい場合には、ｐ1 とｐ2 に対応する属性値の論理積を保存部において保存する（ステップ１６０６）。
【００６６】
上記のパラメータ選択部１５１及び判定部１５３の動作についてまとめると、ｐi とｐj に対応する属性値の論理積は、以下の式が成立する場合に保存されるといえる。これをここでは判定式と呼ぶことにする。
【００６７】
【数１０】
0003638310.tif 000011
【００６８】
これらの処理を一定の回数繰り返した後、停止する。停止したら、接続部により、保存されている属性値あるいは属性値の論理積を論理和 (「∨」で示す。) により接続する（ステップ１６０８）。これが、クラスに対して得られるルールである。
【００６９】
次に、上記に説明したパラメータ算出部３とルール生成部４の動作を具体例で説明する。例えば、属性の数をｎ＝５とし、得られたパラメータを
Ａ  ｐ1 ＝  ０．１
Ｂ  ｐ2 ＝  ０．１
Ｃ  ｐ3 ＝  ０．６
Ｄ  ｐ4 ＝  ０．７３
Ｅ  ｐ5 ＝  ０．０６
とする。Ａ，Ｂ，Ｃ，Ｄ，Ｅは、パラメータに対応する属性を表している。まず、
パラメータの組合せの数は、初期値として１がセットされる（ステップ１６０１）。パラメータ選択部１５１により、ｐ1 が選択される。さらに、ｐ1 を除いたｐ1 ，…，ｐn から負の値を選択するが、本例においては負の値がないので、ｐ1 のみが判定部１５３に渡される。判定部１５３では、その和を求める（本例では、ｐ1 ＝０．１である）と所定の閾値０．５と比較する。
【００７０】
その結果、ｐ1 ＝０．１＜０．５であるので、ｐ1 に対応する属性値は保存されない。同様にして、ｐ2 についても、判定部１５３においてｐ2 ＝０．１＜０．５であるので、対応する属性「Ａ」は保存されない。以下、同様に処理していくと、ｐ3 が０．６≧０．５、ｐ4 が０．７３≧０．５となり、それぞれから「Ｃ」と「Ｄ」とが保存される。また、ｐ5 は０．０６≧０．５であるので、保存されない。
【００７１】
以上の処理により、選択すべきパラメータがなくなったので、パラメータの組合せの数を２とセットし（ステップ１６０１）、パラメータを２つ組み合わせて同様に処理する。
【００７２】
まず、パラメータ選択部１５１により、ｐ1 とｐ2 が選択される。負の値は存在しないので、判定部１５３にはｐ1 とｐ2 が渡され、ｐ1 ＋ｐ2 ＝０．２と０．５とを比較する。その結果、０．２＜０．５なので、判定式を満たさないことになり、保存はされない。
【００７３】
次に、パラメータ選択部により、ｐ1 とｐ3 という組合せが考えられるが、ｐ3 は既に対応する属性値が保存されているので、使用しない。同様にｐ4 も保存がすでにされているので、次に選択される組合せはｐ1 とｐ5 となる。判定部１５３では、それらの和と０．５とを比較し、０．１＋０．０６＝０．１６＜０．５であるので、保存されない。同様にして順に処理していくと、２つずつの組合せでは上記の判定条件を満たすものは存在しないことがわかる。
【００７４】
再度、ステップ１６０１に戻って組合せの数を増やし、既に保存されているｐ3 とｐ4 を除いて組合せた場合に、ｐ1 ｐ2 ｐ5 の組合せが考えられるが、０．１＋０．１＋０．０６＝０．２６＜０．５であるので、判定式は成立せず、ステップ１６０２の終了条件により、ステップ１６０８へ進む。ステップ１６０８では保存されている属性値を論理和で接続し、ルール生成部４より出力する。この場合は、保存されている属性値は「Ｃ」と「Ｄ」であるので、このクラスに関して「Ｃ∨Ｄ（Ｃ又はＤ）」というルールを得ることができる。
【００７５】
上述したように、本装置では、事例の集合を全て［０，１］で表現し、最小２乗法に基づいて誤差を小さくするようにパラメータを求める。このパラメータよりルールを生成し、また新しい事例に対してクラスの予測を行なう。
【００７６】
【発明の効果】
以上のように、本発明によれば、属性が連続値又は離散値が混在する場合に対しても、第１のデータ表現又は第２のデータ表現を用いることにより、所定の関数式の変数のパラメータを算出することができ、このパラメータを算出した後に、新たな事例集合が与えられた場合には、該パラメータを用いて新たな事例集合のクラスを予測することができ、これを出力装置を介して利用者に提示するので、事例集合のクラスの予測の把握が容易になる。
【００７７】
同様に、パラメータを算出した後、該パラメータを用いて論理式を生成し、この論理式に基づいたルールを出力装置を介して利用者に提示するので、該事例集合に当てはまるルールの把握が容易になる。
【００７８】
また、事例集合の属性の属性値が欠損している場合であっても、所定の方法により予め該欠損値を補填することで、上記処理に支障なくクラスの予測又はルールの生成に関する事例推論を行うことができる。
【図面の簡単な説明】
【図１】  本発明に係る事例予測支援装置の構成を示す図。
【図２】  事例表現部２の構成を示す図。
【図３】  ルール生成部４の構成を示す図。
【図４】  予測部７の構成を示す図。
【図５】  本実施例で扱う事例における複数の属性とこれらの各属性がとり得る属性値の要素を示す図。
【図６】  事例記憶部１に格納されている事例集合の例を示す図。
【図７】  事例表現部２の処理動作を示す図。
【図８】  図３の事例に対して事例表現が完了した事例集合を示す図。
【図９】  図３の事例に対して事例表現が完了した事例集合を示す図。
【図１０】  パラメータ算出部３の処理動作を示す図。
【図１１】  予測部７の動作処理を示す図。
【図１２】  予測を行う新たな事例集合を事例表現で示した図。
【図１３】  ルール生成に関する処理動作を示す図。
【図１４】  生成されたルールが出力装置６上に表示された状態を示す図。
【図１５】  他の実施例におけるルール生成部３の構成を示す図。
【図１６】  図１５におけるルール生成部４の処理動作を示す図
【符号の説明】
１…事例記憶部
２…事例表現部
３…パラメータ算出部
４…ルール生成部
５…ルール格納部
６…表示装置
７…予測部
８…予測結果格納部
【図１】
0003638310.tif 000012
【図２】
0003638310.tif 000013
【図３】
0003638310.tif 000014
【図４】
0003638310.tif 000015
【図５】
0003638310.tif 000016
【図６】
0003638310.tif 000017
【図７】
0003638310.tif 000018
【図８】
0003638310.tif 000019
【図９】
0003638310.tif 000020
【図１０】
0003638310.tif 000021
【図１１】
0003638310.tif 000022
【図１２】
0003638310.tif 000023
【図１３】
0003638310.tif 000024
【図１４】
0003638310.tif 000025
【図１５】
0003638310.tif 000026
【図１６】
0003638310.tif 000027