(57)【特許請求の範囲】
【請求項１】
所望の概念について、前記概念への該当の有無に係る複数の事例に基づいた学習によって、前記概念を一般的に表す概念記述を生成する学習装置において、
前記各事例を表し事例の特徴を表す条件部および当該事例の前記概念への該当の有無を表す結論部を含む各原データと、前記各原データに基づいて前記各事例を学習のために記述した事例記述を生成するための複数のルールとを用い、前記各ルールごとに当該ルールの選択されやすさを示す指標を設定し、前記各指標に基づいて前記ルールを一つ以上選択する選択手段と、
前記選択されたルールを前記各原データに適用することによって前記各事例記述を生成する生成手段と、
生成された前記各事例記述を、学習用記述と、前記学習の結果を評価するための評価用記述に区分する区分手段と、
前記学習用記述を用いて前記概念記述を生成する学習手段と、
前記概念記述を、前記評価用記述に基づいて評価する評価手段と、
前記各原データから各事例記述への生成に寄与したルールを、各事例記述における前記評価の結果に影響した関連ルールとして特定する関連ルール特定手段と、
前記概念記述に与えられる評価に基づいて前記複数のルールの指標を修正する修正手段とを備え、
前記評価手段は、前記各評価用記述の条件部を概念記述にあてはめた結論と、当該評価用記述の結論部が一致した場合に、概念記述を肯定的に評価するように構成され、前記評価手段は、前記各評価用記述の条件部を概念記述にあてはめた結論と、当該評価用記述の結論部が一致しない場合に、概念記述を否定的に評価するように構成され、前記評価手段は、前記各評価用記述の条件部を概念記述にあてはめたときに結論が得られない場合に、概念記述を不十分と評価するように構成され、
前記修正手段は、前記肯定的評価について特定された関連ルールの指標を増加させ、前記否定的評価について特定された関連ルールの指標を減少させ、前記不十分と評価された場合は、前記複数のルールの中から前記各事例記述の生成に対して悪い影響を与える可能性の高いルールを所定の基準に従って選択して、その選択されたルールの指標を減少させるように構成されたことを特徴とする学習装置。
【請求項２】
前記特定手段は、当該評価の対象となった事例記述がどのように原データから生成されたかの履歴を参照することにより、生成に寄与した関連ルールを評価結果に影響したルールとして特定するように構成されたことを特徴とする請求項１記載の学習装置。
【請求項３】
コンピュータをプログラムによって制御することにより、所望の概念について、前記概念への該当の有無に係る複数の事例に基づいた学習によって、前記概念を一般的に表す概念記述を生成する学習方法において、
前記コンピュータに、
前記各事例を表し事例の特徴を表す条件部および当該事例の前記概念への該当の有無を表す結論部を含む各原データと、前記各原データに基づいて前記各事例を学習のために記述した事例記述を生成するための複数のルールとを用い、前記各ルールごとに当該ルールの選択されやすさを示す指標を設定し、前記各指標に基づいて前記ルールを一つ以上選択する選択処理と、
前記選択されたルールを前記各原データに適用することによって前記各事例記述を生成する生成処理と、
生成された前記各事例記述を、学習用記述と、前記学習の結果を評価するための評価用記述に区分する区分処理と、
前記学習用記述を用いて前記概念記述を生成する学習処理と、
前記概念記述を、前記評価用記述に基づいて評価する評価処理と、
前記各原データから各事例記述への生成に寄与したルールを、各事例記述における前記評価の結果に影響した関連ルールとして特定する関連ルール特定処理と、
前記概念記述に与えられる評価に基づいて特定された前記複数のルールの指標を修正する修正処理とを実行させ、
前記評価処理は、前記各評価用記述の条件部を概念記述にあてはめた結論と、当該評価用記述の結論部が一致した場合に、概念記述を肯定的に評価し、前記評価処理は、前記各評価用記述の条件部を概念記述にあてはめた結論と、当該評価用記述の結論部が一致しない場合に、概念記述を否定的に評価し、前記評価処理は、前記各評価用記述の条件部を概念記述にあてはめたときに結論が得られない場合に、概念記述を不十分と評価し、
前記修正処理は、前記肯定的評価について特定された関連ルールの指標を増加させ、前記否定的評価について特定された関連ルールの指標を減少させ、前記不十分と評価された場合は、前記複数のルールの中から前記各事例記述の生成に対して悪い影響を与える可能性の高いルールを所定の基準に従って選択して、その選択されたルールの指標を減少させることを特徴とする学習方法。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、所望の概念について、概念への該当の有無に係る複数の事例に基づいた学習によって、前記概念を一般的に表す概念記述を生成する学習装置の改良に関する。
【０００２】
【従来の技術】
人工知能、売上予測、天気予報、株価予測、故障予測、プラント復旧などの分野では、具体的な事例が、ある概念に該当するか否か（以下「該当性」という）は普遍的な重要課題である。多数の事例に基づいて概念を学習する技術としては、帰納的概念学習装置（以下「学習装置」という）が知られている。
【０００３】
これら学習装置に与える各事例は、条件部と結論部を含む。条件部は、特徴や属性値を表し、結論部は、その事例について概念への該当性を記述する。このような事例を多数用いて、学習装置は、概念への該当性を弁別する一般的基準である概念記述を生成する。この概念記述の用途は、該当性の不明な（結論部を持たない）事例をあてはめて、該当性を判断することである。なお、学習しようとする概念に該当する事例を正例、概念に該当しない事例を負例と呼び、通常は双方を相当数ずつ与える。
【０００４】
次の表１に、学習に用いる事例を例示する。
【０００５】
【表１】
［ａａａａ］
［ａａａｃ］
［ａａｂｂ］
［ａａｂｃ］
（中略）
［ｂｃ］
［ｃｃ］
［ａ］
［ｂ］
［ｃ］
［］
；
［ａａｂａ］
［ａａｃａ］
［ａａｃｂ］
［ａｂａａ］
（中略）
［ｃｃａ］
［ｃｃｂ］
［ｂａ］
［ｃａ］
［ｃｂ］
【０００６】
この例は、文字列が弱い昇順（左から右へ、アルファベットの順に従うか、同じ文字が並ぶ）にならんでいることを意味する概念ｓｏｒｔｅｄを学習するための事例で、記号“；”以前の各文字列が正例、記号“；”以降の各文字列が負例である。
【０００７】
このような事例から、概念記述を導く技術は各種知られている（参考文献１：Quinlan, J.R., "Induction of Decision Trees", Machine Learning Vol.1,pp.81-106, 1986. ／ 参考文献２： Quinlan, J.R., "Learning Logical Definitions from Relations", Machine Learning Vol.5, pp.239-266, 1990. ／参考文献３： Quinlan, J.R., "C4.5: Programs for Machine Learning",Morgan Kaufmann Publishers, 1993. ）。
【０００８】
図１３は、表１に示すデータから、代表的な概念学習装置ＦＯＩＬ（参考文献２）が導いた概念記述（ｐｒｏｌｏｇのルール形式）の例である。この例において、述語ｃｏｍｐｏｎｅｎｔｓは、第１引数の文字列が第２引数に当たる先頭文字と第３引数に当たる後半部文字列に分割できることを表す。述語ｕｐは、第１引数と第２引数に当たる文字がアルファベットの順に従う（例えば ａ と ｂ、ｂ と ｃ、ｂ と ｄ）ことを表す。
【０００９】
従来の学習装置における学習結果は、概念記述及び事例表現の形式がどう与えられるかに、強く影響を受ける。
【００１０】
【発明が解決しようとする課題】
しかしながら、以上説明したような従来技術には、概念に応じた適切な事例記述が困難という問題点が存在していた。
【００１１】
すなわち、好都合に設定した小規模な例題においては、操作者が、概念の性質を考慮し、背景的知識から推定したり、実験を行うなどして有効な記述形式を決定できる。しかし、現実の実用的な問題では、適切な記述形式は、学習しようとする概念によって異なるうえ、事前に知ることができない。そして、事例の表現が過度に抽象的な場合は、該当性に影響する特徴が学習から漏れるし、逆に、表現が過度に具体的な場合は、処理すべき特徴の組み合わせが過度に膨大となる。
【００１２】
特に、事例が数値や記号で表現される命題論理的概念学習装置においては、事例の記述に用いられる言語は、概念の記述に用いられる言語と同一である場合がほとんどであり、事例をいかに記述すべきかの決定はより重大なものとなる。
【００１３】
命題論理的概念学習装置に与える属性を決定する手法は、いくつか知られてはいる（参考文献４：Almuallim, H. and Dietterich, T.G., "Learning Booleanconcepts in the presence of manyirrelevant features", Artificial Intelligence Vol.69, pp.279-305, 1994. ／ 参考文献５：Vafaie, H. and De Jong, K., "Improving a Rule Induction System Using Genetic Algorithms", inMichalski and Tecuci(ed.), Machine Learning: A Multistrategy Approach,Morgan Kaufmann Publishers, 1994.）。しかし、これらの方法は、問題領域が属性−属性値の組だけで表現できるという特殊な場合に依存しており、より一般的な述語を扱う概念学習装置への適用は不可能である。
【００１４】
本発明は、上記のような従来技術の問題を解決するために提案されたもので、その目的は、事例を適切に表現する概念学習装置を提供することである。
【００１５】
【課題を解決するための手段】
上記の目的を達成するため、請求項１の発明は、所望の概念について、前記概念への該当の有無に係る複数の事例に基づいた学習によって、前記概念を一般的に表す概念記述を生成する学習装置において、前記各事例を表し事例の特徴を表す条件部および当該事例の前記概念への該当の有無を表す結論部を含む各原データと、前記各原データに基づいて前記各事例を学習のために記述した事例記述を生成するための複数のルールとを用い、前記各ルールごとに当該ルールの選択されやすさを示す指標を設定し、前記各指標に基づいて前記ルールを一つ以上選択する選択手段と、前記選択されたルールを前記各原データに適用することによって前記事例記述を生成する生成手段と、前記事例記述を用いて前記概念記述を生成する学習手段と、前記概念記述に与えられる評価に基づいて前記各指標を修正する修正手段とを備えていることを特徴とする。
【００１６】
このような構成により、選択されたルールによって事例記述が生成される。事例記述の典型例は、原データの特徴のいくつかを抽出したものである。そして、生成された事例記述による学習結果に対する評価に応じて、各ルールの選択されやすさを示す指標が修正される。これによって、学習結果を改善させたルールは次第に重用され、学習結果を悪化させたルールは次第に排除される。この繰り返しによって、概念に適した事例の記述形式が、各ルールの指標の組み合わせの形で得られる。
【００１７】
また、請求項１記載の発明は、生成された前記事例記述を、学習用記述と、前記学習の結果を評価するための評価用記述に区分する区分手段を備え、前記学習手段は、前記学習用記述を用いて前記概念記述を生成するように構成され、前記概念記述を、前記評価用記述に基づいて評価する評価手段を備えていることを特徴とする。
【００１８】
このような構成により、事例記述の一部が、学習用から除外され、学習の結果得られた概念記述の評価に用いられる。この評価用記述は、学習には用いられないので、学習結果の正しい評価に適している。また、評価のためにさらに新たな事例を用意する必要がない。
【００１９】
また、請求項１の発明は、前記評価手段は、前記各評価用記述の条件部を概念記述にあてはめた結論と、当該評価用記述の結論部が一致した場合に、概念記述を肯定的に評価するように構成され、前記評価手段は、前記各評価用記述の条件部を概念記述にあてはめた結論と、当該評価用記述の結論部が一致しない場合に、概念記述を否定的に評価するように構成され、前記評価手段は、前記各評価用記述の条件部を概念記述にあてはめたときに結論が得られない場合に、概念記述を不十分と評価するように構成されたことを特徴とする。
【００２０】
この構成により、肯定的評価と否定的評価が得られるのみならず、評価用記述に対して結論が得られない場合は、不十分という評価が得られる。このため、評価結果の類型に応じた適切な処理が容易になる。
【００２１】
さらに、請求項１の発明は、前記各原データから各事例記述への生成に寄与したルールを、各事例記述における前記評価の結果に影響した関連ルールとして特定する関連ルール特定手段と、前記概念記述に与えられる評価に基づいて前記複数のルールの指標を修正する修正手段とを備えていることを特徴とする。
【００２２】
この構成により、評価に影響したルールが特定され、その指標が修正されるので、他のルールの指標に影響することなく、指標の修正が効果的に行われる。
【００２３】
さらに、請求項１の発明は、前記肯定的評価について特定された関連ルールの指標を増加させ、前記否定的評価について特定された関連ルールの指標を減少させ、前記不十分と評価された場合は、前記複数のルールの中から前記各事例記述の生成に対して悪い影響を与える可能性の高いルールを所定の基準に従って選択して、その選択されたルールの指標を減少させるように構成されたことを特徴とする。
【００２４】
この構成により、指標の修正内容が評価の類型に対応して選択され、不十分と評価された場合も、所定の基準に一致する各ルールの指標が減少する。この基準の一例は、用いられた回数や指標の高低などである。これによって、肯定的評価も否定的評価も得られない場合でも、指標が変化し、状況打破が図られる。
【００２５】
請求項２の発明は、請求項１記載の学習装置において、前記特定手段は、当該評価の対象となった事例記述がどのように原データから生成されたかの履歴を参照することにより、生成に寄与したルールを評価結果に影響したルールとして特定するように構成されたことを特徴とする。
【００２６】
請求項２の発明では、当該評価の対象となった事例記述がどのように原データから生成されたかの履歴を参照することにより、生成に寄与したルールが評価結果に影響したルールとして特定される。このため、結果に影響したルールが容易かつ的確に特定される。
【００２７】
請求項３の発明は、前記請求項１の発明を方法の観点から捉えたものであって、コンピュータをプログラムによって制御することにより、所望の概念について、前記概念への該当の有無に係る複数の事例に基づいた学習によって、前記概念を一般的に表す概念記述を生成する学習方法において、前記コンピュータに、前記各事例を表し事例の特徴を表す条件部および当該事例の前記概念への該当の有無を表す結論部を含む各原データと、前記各原データに基づいて前記各事例を学習のために記述した事例記述を生成するための複数のルールとを用い、前記各ルールごとに当該ルールの選択されやすさを示す指標を設定し、前記各指標に基づいて前記ルールを一つ以上選択する選択処理と、前記選択されたルールを前記各原データに適用することによって前記各事例記述を生成する生成処理と、生成された前記各事例記述を、学習用記述と、前記学習の結果を評価するための評価用記述に区分する区分処理と、前記学習用記述を用いて前記概念記述を生成する学習処理と、前記概念記述を、前記評価用記述に基づいて評価する評価処理と、前記各原データから各事例記述への生成に寄与したルールを、各事例記述における前記評価の結果に影響した関連ルールとして特定する関連ルール特定処理と、前記概念記述に与えられる評価に基づいて特定された前記複数のルールの指標を修正する修正処理とを実行させ、前記評価処理は、前記各評価用記述の条件部を概念記述にあてはめた結論と、当該評価用記述の結論部が一致した場合に、概念記述を肯定的に評価し、前記評価処理は、前記各評価用記述の条件部を概念記述にあてはめた結論と、当該評価用記述の結論部が一致しない場合に、概念記述を否定的に評価し、前記評価処理は、前記各評価用記述の条件部を概念記述にあてはめたときに結論が得られない場合に、概念記述を不十分と評価し、前記修正処理は、前記肯定的評価について特定された関連ルールの指標を増加させ、前記否定的評価について特定された関連ルールの指標を減少させ、前記不十分と評価された場合は、前記複数のルールの中から前記各事例記述の生成に対して悪い影響を与える可能性の高いルールを所定の基準に従って選択して、その選択されたルールの指標を減少させることを特徴とする。
【００２８】
【発明の実施の形態】
以下、本発明の実施の形態（以下「実施形態」という）を図面に基づいて説明する。なお、本実施形態は、典型的には、コンピュータをプログラムで制御することによって実現されるが、コンピュータやソフトウェアの構成は種々考えられるので、本実施形態の各機能を実現する仮想的回路ブロックを想定して説明する。
【００２９】
（１）構成
図１は、本装置の構成を示す機能ブロック図である。そして、本装置は、所望の概念について、概念への該当の有無に係る複数の事例に基づいた学習によって、概念を一般的に表す概念記述１を生成する学習装置である。
【００３０】
また、本装置は、前記各事例を表し、事例の特徴を表す条件部と、当該事例の前記概念への該当の有無を表す結論部と、を含む各原データ２を用いる。また、本装置は、各原データ２に基づいて、各事例を学習のために記述した事例記述３を生成するための複数のルール４を用いる。前記各ルールごとには、当該ルールの選択されやすさを示す指標を設定する。
【００３１】
また、本装置は、各指標に基づいてルール４を一つ以上選択する選択手段５と、選択されたルール４を各原データ２に適用することによって事例記述３を生成する生成手段６と、事例記述３に基づいて概念記述１を生成する学習手段７と、概念記述１に与えられる評価に基づいて前記各指標を修正する修正手段８と、を有する。ここでは、学習手段７として、帰納的概念学習であるＦＯＩＬを用いる。
【００３２】
また、本装置は、生成された事例記述３を、学習用記述と、学習の結果を評価するための評価用記述に区分する区分手段９を有し、学習手段７は、前記学習用記述を用いて概念記述１を生成するように構成されている。また、本装置は、概念記述を、前記評価用記述に基づいて評価する評価手段１０を有する。
【００３３】
また、本装置は、評価の結果に影響したルール４を特定する特定手段１１を有し、修正手段８は、特定されたルール４の指標を修正するように構成されている。
【００３４】
（２）作用及び効果
［概略的作用］
本実施形態では、選択されたルール４によって事例記述３が生成される。事例記述３の典型例は、原データ２の特徴のいくつかを抽出したものである。そして、生成された事例記述３による学習結果に対する評価に応じて、各ルール４の選択されやすさを示す指標が修正される。これによって、学習結果を改善させたルール４は次第に重用され、学習結果を悪化させたルール４は次第に排除される。この繰り返しによって、概念に適した事例の記述形式が、各ルール４の指標の組み合わせの形で得られる。
【００３５】
以下に、本実施形態における具体的処理について説明する。なお、図２は、本実施形態における処理手順を示すフローチャートである。
【００３６】
［初期化］
すなわち、まず、初期化処理として（ステップ２１）各事例を表す各原データ２を、キーボードや記録媒体などから入力する。各原データ２は、事例の特徴を表す条件部と、当該事例の前記概念への該当の有無を表す結論部と、を含む。また、各原データ２に基づいて、各事例を学習のために記述した事例記述を生成するための複数のルール４、を与えておく。そして、各ルールごとに、当該ルールの選択されやすさを示す指標を設定する。当初、指標は乱数や定数などで初期化すればよい。
【００３７】
［原データの例］
ここで、原データ２の一例を図３に示す。この例では、縦一列ずつが一つの事例を表し、横一行ずつが各属性を表す。具体的には、記号ａ１〜ａ２２はキノコの各特徴（各属性）の属性値を示し、記号ａ０は食用（ｅ）か毒か（ｐ）の区別を示す。
【００３８】
［ルールの例］
また、次の数式１は、ルール４の一例を示す。
【００３９】
【数１】
ｃｈａｎｇｅＲｅｐ（Ｘ， Ｙ）：− ｃｈａｎｇｅＲｅｐ１（Ｘ， ［］， Ｚ， ２２）
， ａｓｓｉｇｎＵｎｋｎｏｗｎ（Ｘ， Ｚ， Ｙ）．
ｃｈａｎｇｅＲｅｐ１（＿， Ｙ， Ｙ， ０）．
ｃｈａｎｇｅＲｅｐ１（Ｘ， Ｙ， Ｚ， Ｎ）：− Ｎ ＞ ０， ｓｅｌｅｃｔ（Ａ）， ｎ
ｏｔ ｍｅｍｂｅｒ（［Ａ，Ｖ］， Ｙ）， （（ｍｅｍｂｅｒ（［Ａ，Ｖ］， Ｘ）， Ｙ
１＝ ［［Ａ，Ｖ］｜Ｙ］）；
（ｎｏｔ ｍｅｍｂｅｒ（［Ａ，Ｖ］， Ｘ）， Ｙ１＝ Ｙ））， Ｎ１ｉｓ Ｎ − １，
ｃｈａｎｇｅＲｅｐ１（Ｘ， Ｙ１， Ｚ， Ｎ１）．
ｓｅｌｅｃｔ（ａ１）．
ｓｅｌｅｃｔ（ａ２）．
．．．．．．．．．．．．
ｓｅｌｅｃｔ（ａ２２）．
ｓｅｌｅｃｔ（ｘ）．
ａｓｓｉｇｎＵｎｋｎｏｗｎ（［］， ＿， ［］）．
ａｓｓｉｇｎＵｎｋｎｏｗｎ（［［Ａ，Ｖ］｜Ｔ１］， Ｚ， ［Ｙ｜Ｔ２］）
：− ４（（ｍｅｍｂｅｒ（［Ａ，Ｖ］， Ｚ）， Ｙ ＝ ［Ａ，Ｖ］）；
（ｎｏｔ ｍｅｍｂｅｒ（［Ａ，Ｖ］， Ｚ）， Ｙ ＝ ［Ａ，ｕｎｋｎｏｗｎ］））， ａｓｓｉｇｎＵｎｋｎｏｗｎ（Ｔ１， Ｔ２）．
【００４０】
このルールは、複数のルールをｐｒｏｌｏｇ形式で一体に表した例で、属性と属性値の組のリストとして表現される原データについて、各属性ａ１〜ａ２２を事例記述に含めるか否かを選択する。切り捨てた属性には、「不明」を表す所定の値が与えられる。このルールは、理解を助けるため、ルール選択の非決定性がｓｅｌｅｃｔ述語に集中するように書いてある。このルールは、非決定的に適用されることによって、２２属性を全て含む原データをｃｈａｎｇｅＲｅｐ述語の第１引数に与えた時、その事例から抽出され得るすべての可能な属性の組合せを第２引数に与える。
【００４１】
各ルール４ごとの指標は、この例では確率の役割を果たす。本実施形態では、指標として自然数を割り当てる。この場合、ｉ番めのルールの選ばれる確率Ｐｉは、ｉ番めのルールに割り当てられている得点をＲｉとしてＰｉ＝Ｒｉ／ΣｊＲｊとなる。
【００４２】
［ルールの選択処理］
以上のようなルール４から、選択手段５が、各指標に基づいてルール４を一つ以上選択する（ステップ２２）。ここで、図４は、指標に比例した確率でルール４を選択する具体的手順を示すフローチャートである。この手順では、まず、適用可能な全ルールの指標Ｒｉの総和Ｓを求める（ステップ４１）。次に、１＜Ｘ＜Ｓなる乱数Ｘを発生させる（ステップ４２）。乱数発生には、任意の公知の疑似乱数発生アルゴリズムなどを用いればよい。
【００４３】
次に、ｉを１に初期化する（ステップ４３）。ＲｉがＸ以下になるまで（ステップ４４）、ＸからＲｉを減じて（ステップ４５）ｉをカウントアップする処理を繰り返し（ステップ４６）、ステップ３４においてＲｉがＸ以下になったらｉ番めのルールを選択する（ステップ４７）。なお、選択されたルール４と、それによる事例記述生成の経過は、履歴データ１２（図１）として記録しておく。
【００４４】
［事例記述の生成処理］
選択されたルール４を、生成手段６が各原データ２に適用することによって事例記述３を生成する（ステップ２３）。指標に基づいて選択されたルール４は、単数のことも複数のこともある。図５，６は原データ２の例を示し、図７，８はそれぞれ図５，６に示す原データ２から生成した事例記述３の例を示す。
【００４５】
［事例記述の区分処理］
このように生成された事例記述３を、区分手段９が、学習用記述と、学習の結果を評価するための評価用記述に区分する（ステップ２４）。この区分は、所定の割合の事例記述３を無作為抽出することで実現できる。このように、本実施形態では、事例記述３の一部が、学習用から除外され、学習の結果得られた概念記述１の評価に用いられる。この評価用記述は、学習には用いられないので、学習結果の正しい評価に適している。また、評価のためにさらに新たな事例を用意する必要がない。
【００４６】
［学習処理］
このように区分された学習用記述を用いて、学習手段７が、概念記述１を生成する（ステップ２５）。なお、学習に先だって、学習手段７のタイプに合わせたデータ形式の定義等の記述１３（図１）を入力しておく。図９は、データ形式の定義などの記述の例を示す。
【００４７】
［学習結果に対する評価処理］
このように生成された概念記述１を、評価手段１０が、評価用記述に基づいて評価する（ステップ２６）。ここで、図１０は、評価、ルールの特定及び指標の修正の具体的手順を一体に示すフローチャートである。すなわち、評価手段１０は、全ての評価用記述を順次選択し（ステップ１０１，１０２）、次の手順を繰り返す。まず、各評価用記述の条件部を概念記述１にあてはめ（ステップ１０３）、弁別によって結論が得られ（ステップ１０４）、その結論と、当該評価用記述の結論部が一致した場合に、概念記述１を肯定的に評価し、一致しない場合に、概念記述１を否定的に評価する（ステップ１０７）。また、評価手段１０は、各評価用記述の条件部を概念記述１にあてはめたときに、そもそも弁別が不可能で（ステップ１０４）結論が得られない場合は、概念記述１を不十分と評価する。
【００４８】
このように、本実施形態では、肯定的評価と否定的評価が得られるのみならず、評価用記述に対して結論が得られない場合は、不十分という評価が得られる。このため、評価結果の類型に応じた適切な処理が容易になる。
【００４９】
［ルールの特定処理］
また、特定手段１１は、評価の結果に影響したルール４（以下「関連ルール」という）を特定する（ステップ１０６）。具体的には、特定手段１１は、当該評価の対象となった事例記述３がどのように原データ２から生成されたかの履歴データ１２を参照することにより、生成に寄与したルール４を評価結果に影響したルール４として特定する。履歴は、事例記述生成の際に保存しておいてもよいし、原データ２と事例記述３の対応だけを記録しておいて、原データ２から当該事例記述３がどう生成されたかを、生成手段６を用いて説明することによって生成してもよい。
【００５０】
このように、本実施形態では、事例生成に寄与したルール４が関連ルールとして特定される。このため、関連ルールが、単純な基準で容易に特定される。なお、生成手段６による説明により関連ルールを特定する場合、関連ルールは、その事例表現の生成について主な責任を負うルールではないかも知れないが、その場合でも近似ではある。
【００５１】
［指標の修正処理］
また、修正手段８は、概念記述１に与えられる評価に基づいて、関連ルールの指標を修正する（ステップ２８）。このように本実施形態では、評価に影響したルールが特定され、その指標が修正されるので、他のルールの指標に影響することなく、指標の修正が効果的に行われる。
【００５２】
具体的には、修正手段８は、肯定的評価に係る関連ルールの指標を所定の値ｐだけ増加させ（ステップ１０９）、否定的評価に係る関連ルールの指標を所定の値ｍだけ減少させ（ステップ１０８）、不十分と評価された場合は、所定の基準に一致する各ルールの指標を所定の値ｎだけ減少させる（ステップ１０５）。この場合の所定の基準の例としては、１回以上使われたルールや、得点が平均より高いルールなどが考えられる。これら指標の増減に対応または連動して、ルールが次回選択される確率が増減する。
【００５３】
このように本実施形態では、指標の修正内容が評価の類型に対応して選択され、不十分と評価された場合も、所定の基準に一致する各ルール４の指標が減少する。この基準の一例は、用いられた回数や指標の高低などである。これによって、肯定的評価も否定的評価も得られない場合でも、指標が変化し、状況打破が図られる。
【００５４】
以上の手順を繰り返すことによって、学習結果に応じて事例記述のルール４を順次改善し、適切な表現を生成したルール４の指標が向上し、適切な表現技法が、ルール４の指標の組という形で自動的に学習される。また、一つの概念学習で得た指標を他の概念学習に応用すれば、学習が効率化される。繰り返しの終了は（ステップ２８）、例えばあらかじめ決められた回数でやめたり、上記の式で定義される各ルール４の指標が収束したことをオペレータ等が判断して決定する。
【００５５】
なお、本実施形態ではＦＯＩＬを用いるので、概念記述１は例えばルールとして生成される場合が考えられる。図１１は、ＦＯＩＬが生成するルールの例であり、繰り返しの途中のものである。例えば最初のルールは、「ａ８がｎでなく、ａ２１がｓでなく、ａ１１がｅでなく、ａ３がｎでないならば、そのデータはｅと弁別される（ａ０は表１における結論部を表す）」を意味する。このルール群に対し、図５のデータを当てはめた場合はこの概念記述は正しく、図６のデータの場合には正しくないことになる。繰り返しを続けることにより、より正しい、そしてしばしばより単純なルールが、概念記述として得られる。
【００５６】
［従来例との比較］
次に、本実施形態によって最終的に得られる概念記述を例にとって、実施形態の効果を、従来例と比較して示す。すなわち、図３の原データ２に対し、まず、本実施形態を用いずにＦＯＩＬのみを用いて導いた概念記述の例が
【数２】
ａ０（Ａ，ｅ）：− ａ２２（Ａ，Ｃ），Ｃ＜＞ｕ．
である。このルールは、図１２に示すデータに対して正しい弁別ができない。
【００５７】
一方、図３の原データとＦＯＩＬに本実施形態を適用した概念記述の例は、
【数３】
ａ０（Ａ，ｅ）：− ａ１１（Ａ，Ｃ），Ｃ＜＞ｅ．
ａ０（Ａ，ｅ）：− ａ１４（Ａ，ｗ）．
であり、こちらは、図１２のデータに対して正しい弁別を行なう。この例は、属性ａ２２の重視が誤りだった例で、指標の増減の結果、判断のための属性の正しい組み合わせａ１１，ａ１４が判明した。
【００５８】
なお、ルールに付加された確率を、外部環境からの情報に基づいて調節することによって、ルール集合の振舞いを制御する方法としては、確率文脈自由文法における確率の学習が知られている（参考文献６：中村他，”音声言語の確率モデル”，人工知能学会誌，Vol.10, No.2, pp.181-188, 1995. 8 ）。この技術は、各ルールに確率が付与されている点では、本発明と共通点もある。
【００５９】
しかし、このルール集合からなるシステムの目的は、事例表現の生成や概念の学習ではなく、別の文法系を模擬することである。システムには、上記別の文法系への入力文と、それに対する上記別の文法系の出力が与えられる。一般に、ある入力に対してある特定の出力を出すようなルール連鎖の方法は複数あるが、確率文脈自由文法における確率の学習では、上記別の文法系への入力文が与えられた時に、上記別の文法系の出力が出される条件付確率を最大にするように、各ルールの確率を計算して調節するという複雑な処理が必要である。
【００６０】
これに対して、本発明における指標の修正は、評価の変動に基づいて各ルールの指標を増減するという、大幅に単純な処理によって適切な事例表現が得られる点で上記システムとは異なるものである。
【００６１】
（３）他の実施形態
なお、本発明は上記実施形態には限定されず、実施態様の変更は自由であるから、次に例示するような他の実施形態をも包含するものである。例えば、上記実施形態では、説明を単純化するために、命題論理的概念学習装置でも扱える問題設定としたが、より一般的な述語を扱うような概念学習問題に適用し、より複雑なルールを用いることもできる。また、概念学習装置はＦＯＩＬには限定されず、命題論理的概念学習装置であるＣ４．５など、他の学習装置を用いることもできる。
【００６２】
また、概念、原データ、ルール、指標の形式などの内容は必要に応じて自由に定めればよく、また、事例の区分、学習結果の評価、関連ルールの特定、指標の修正などの具体的基準や手順なども自由に変更してよい。
【００６３】
【発明の効果】
以上説明したように、本発明によれば、適切な事例表現を生成する学習装置が提供できるので、学習の効率と精度が向上する。
【図面の簡単な説明】
【図１】本発明の実施形態の学習装置の構成を示す機能ブロック図。
【図２】本発明の実施形態の学習装置における処理手順を示すフローチャート。
【図３】本発明の実施形態の学習装置における原データの例を示す図。
【図４】本発明の実施形態の学習装置におけるルール選択の具体的な手順を示すフローチャート。
【図５】本発明の実施形態の学習装置における原データの例を示す図。
【図６】本発明の実施形態の学習装置における原データの例を示す図。
【図７】本発明の実施形態の学習装置において、図５の原データから生成された事例記述の例を示す図。
【図８】本発明の実施形態の学習装置において、図６の原データから生成された事例記述の例を示す図。
【図９】本発明の実施形態における学習装置のためのデータ定義等の記述の例を示す図。
【図１０】本発明の実施形態の学習装置における学習結果の評価、関連ルールの特定及び指標の修正の手順を一体に示すフローチャート。
【図１１】本発明の実施形態における生成途中の概念記述の例を示す図。
【図１２】本発明の実施形態の学習装置における原データの例を示す図。
【図１３】従来の学習装置が生成した概念記述の例を示す図。
【符号の説明】
１…概念記述
２…原データ
３…事例記述
４…ルール
５…選択手段
６…生成手段
７…学習手段
８…修正手段
９…区分手段
１０…評価手段
１１…特定手段
１２…履歴データ
１３…データ定義等
ＳＴＥＰ…手順の各ステップ
【図１】
0003577385.tif 000002
【図２】
0003577385.tif 000003
【図３】
0003577385.tif 000004
【図４】
0003577385.tif 000005
【図５】
0003577385.tif 000006
【図６】
0003577385.tif 000007
【図７】
0003577385.tif 000008
【図８】
0003577385.tif 000009
【図９】
0003577385.tif 000010
【図１０】
0003577385.tif 000011
【図１１】
0003577385.tif 000012
【図１２】
0003577385.tif 000013
【図１３】
0003577385.tif 000014