(57)【要約】【課題】  分析の対象となるデータ要素群を用いて構成したネットワークについて、その初期パタンの状態に対して連続性を有する解を与え、幅広い用途に利用できるデータ分析装置を提供する。【解決手段】  複数のデータ要素のそれぞれにＮ（Ｎは２以上の整数）段階のいずれかのデータ値を関連づけて記憶するとともにデータ要素間の関係重みづけ情報を記憶し、データ要素の一つを注目データとしてランダムに選択し、当該注目データと他のデータ要素との関係重みづけ情報と、他のデータ要素のデータ値とに基づいて、当該注目データに関係する入力刺激値を演算し、この演算された入力刺激値に基づいて、注目データに関連する現在のデータ値に応じて定められ、データ値ごとに異なるしきい値と、入力刺激値とを比較して、データ値を変化させるか否かを決定し、変化させると決定した場合に、当該データ値を更新するデータ分析装置である。【選択図】        図１
2006133844.tif 000002
【特許請求の範囲】
【請求項１】
複数のデータ要素のそれぞれにＮ（Ｎは２以上の整数）段階のいずれかのデータ値を関連づけて記憶するとともに、前記データ要素間の関係重みづけ情報を記憶する記憶手段と、
前記データ要素の一つを注目データとして所定の規則に基づいて選択し、当該注目データと他のデータ要素との関係重みづけ情報と、他のデータ要素のデータ値とに基づいて、当該注目データに関係する入力刺激値を演算する手段と、
前記演算された入力刺激値に基づいて、注目データのデータ値を更新する手段であって、当該注目データに関連する現在のデータ値に応じて定められ、データ値ごとに異なるしきい値と、前記入力刺激値とを比較して、データ値を変化させるか否かを決定し、変化させると決定した場合に、当該データ値を更新する手段と、
を含み、
所定の条件が満足されるまで、前記入力刺激値の演算と、データ値の更新とを繰り返して実行した後の、前記データ要素の少なくとも一つについての前記データ値が、所定の処理に供されることを特徴とするデータ分析装置。
【請求項２】
複数のデータ要素のそれぞれについて、ＹminからＹmax（Ｙmin＜Ｙmax）までの間の連続値であるデータ値を関連づけて記憶するとともに、前記データ要素間の関係重みづけ情報を記憶する記憶手段と、
前記データ要素の一つを注目データとして所定の規則に基づいて選択し、当該注目データと他のデータ要素との関係重みづけ情報と、他のデータ要素のデータ値とに基づいて、当該注目データに関係する入力刺激値を演算する手段と、
前記演算された入力刺激値に基づいて、注目データのデータ値を更新する手段であって、当該注目データに関連する現在のデータ値に応じて定められ、データ値ごとに異なるしきい値と、前記入力刺激値とを比較して、データ値を変化させるか否かを決定し、変化させると決定した場合に、当該データ値を更新する手段と、
を含み、
所定の条件が満足されるまで、前記入力刺激値の演算と、データ値の更新とを繰り返して実行した後の、前記データ要素の少なくとも一つについての前記データ値が、所定の処理に供されることを特徴とするデータ分析装置。
【請求項３】
請求項２に記載のデータ分析装置であって、
前記データ値を更新する手段は、
入力刺激値が０からＸ1minまではＹminであり、Ｘ1minからＸ1maxまでの間に連続的に単調増加し、Ｘ1max以上においてはＹmaxとなる第１単調増加関数ｆ１と、入力刺激値がＸ2minからＸ2maxまでの間に連続的に単調増加し、Ｘ2max以上においてはＹmaxとなる第２単調増加関数ｆ２とを用い、
注目データに対する入力刺激値がＸ1minからＸ2maxまでの間では、
更新前の注目データのデータ値Ｙについて、Ｙ＝ｆ２（Ｉ２）となるＩ２を参照して、入力刺激値Ｉが当該Ｉ２を超える場合に、データ値をｆ２（Ｉ）に更新し、
更新前の注目データのデータ値Ｙについて、Ｙ＝ｆ１（Ｉ１）となるＩ１を参照して、入力刺激値ＩがこのＩ１未満となる場合に、データ値をｆ１（Ｉ）に更新する
ことを特徴とするデータ分析装置。
【請求項４】
複数のデータ要素のそれぞれに複数段階の離散値又は連続値のデータ値を関連づけて記憶するとともに、前記データ要素間の関係重みづけ情報を記憶する記憶手段を備えたコンピュータを用い、
前記データ要素の一つを注目データとして所定の規則に基づいて選択し、当該注目データと他のデータ要素との関係重みづけ情報と、他のデータ要素のデータ値とに基づいて、当該注目データに関係する入力刺激値を演算する工程と、
前記演算された入力刺激値に基づいて、注目データのデータ値を更新する手段であって、当該注目データに関連する現在のデータ値に応じて定められ、データ値ごとに異なるしきい値と、前記入力刺激値とを比較して、データ値を変化させるか否かを決定し、変化させると決定した場合に、当該データ値を更新する工程と、
を所定の条件が満足されるまで繰返し実行させ、当該繰返し実行後の前記データ要素の少なくとも一つについての前記データ値が、所定の処理に供されることを特徴とするデータ分析方法。
【請求項５】
複数のデータ要素のそれぞれに複数段階の離散値又は連続値のデータ値を関連づけて記憶するとともに、前記データ要素間の関係重みづけ情報を記憶する記憶手段を備えたコンピュータに、
前記データ要素の一つを注目データとして所定の規則に基づいて選択し、当該注目データと他のデータ要素との関係重みづけ情報と、他のデータ要素のデータ値とに基づいて、当該注目データに関係する入力刺激値を演算する手順と、
前記演算された入力刺激値に基づいて、注目データのデータ値を更新する手段であって、当該注目データに関連する現在のデータ値に応じて定められ、データ値ごとに異なるしきい値と、前記入力刺激値とを比較して、データ値を変化させるか否かを決定し、変化させると決定した場合に、当該データ値を更新する手順と、
を所定の条件が満足されるまで繰返し実行させることを特徴とするデータ分析プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ニューラルネットワークを用いたデータ分析装置に関する。
【背景技術】
【０００２】
ニューラルネットワークを用いたデータ分析手法は、従来からいくつかの方法が知られている。このうち、ホップフィールド（J.J.Hopfield）が提案したものは、複数のノードについて、その相互間の結合強度が定義され、このノードを含んで構成されるパタンが、予め定められているパタン群のうちどれに最も近いかを判定するものである。
【０００３】
ここでノード間の結合強度は、ノードｉからノードｊへの結合強度と、ノードｊからノードｉへの結合強度が等しい、いわゆる対称結合となるよう設定されている。こうしたノードからなるネットワーク（対称結合ネットワーク）における活性伝播の結果は、特定の安定状態（活性伝播によって定められる力学系のアトラクタである不動点）に落ち着くことが知られている。すなわちホップフィールドの提案した方法は、ネットワークが最終的に、どの安定状態（不動点）に落ち着くかに応じてネットワークの初期パタンがどの不動点パタン（予め定められているパタン）に最も近いかを演算するものである（非特許文献１）。
【非特許文献１】Hopfield, J. J. (1982)  Proc.Natl. Acad. Sci. USA, 79, 2554
【非特許文献２】Koulakov, A. A., Raghavachari,S., Kepecs, A. & Lisman, J. E. (2002) , Nat. Neurosci. 8, 775
【非特許文献３】Goldman M.S., Levine J.H., MajorG., Tank D.W., Seung H.S., "Robust persistent neural activity in a model integratorwith multiple hesteretic dendrites per nuron", Cereb. Cortex 13,1185-1195(2003)
【発明の開示】
【発明が解決しようとする課題】
【０００４】
しかしながら、上記従来のホップフィールドの方法では、ネットワークの分析結果は、事前に定められた不動点パタンのいずれかである。これら不動点パタンは、解空間内に離散的に存在し、初期パタンの変化に対して連続的に変化する解が得られないという問題点がある。
【０００５】
そこで、ヒステリシスユニット（値の変化にヒステリシス特性を有するユニット）によってネットワークを構成し、連続的アトラクタを持つ力学系を実現する試みがなされている（非特許文献２）。しかし、このクーラロフの方法では、結局パタンの連続性は実現されず、ネットワーク全体から定義されるスカラ量（活動度と呼ばれる）に関する連続性が実現されたに留まる。
【０００６】
すなわち、分析の対象となるデータ要素群を用いて構成したネットワークについて、その初期パタンの状態に対して連続性を有する解を与える方法は見いだされていなかった。このため、上記従来の方法は、いずれも限られた用途でのデータ分析を行うことができるに留まっていた。
【０００７】
さらに、近年の脳科学の知見によれば、実際の個々のニューロンの入出力特性は、ヒステリシスパターンを多段階に積上げて実現されるとされる。しかし、このような知見をニューラルネットワークのデータ処理に現実に適用するための方法は未だ見いだされていない。
【０００８】
本発明は上記実情に鑑みて為されたもので、分析の対象となるデータ要素群を用いて構成したネットワークについて、その初期パタンの状態に対して連続性を有する解を与え、幅広い用途に利用できるデータ分析装置を提供することを、その目的の一つとする。
【課題を解決するための手段】
【０００９】
上記従来例の問題点を解決するための本発明は、データ分析装置であって、複数のデータ要素のそれぞれにＮ（Ｎは２以上の整数）段階のいずれかのデータ値を関連づけて記憶するとともに、前記データ要素間の関係重みづけ情報を記憶する記憶手段と、前記データ要素の一つを注目データとして所定の規則に基づいて選択し、当該注目データと他のデータ要素との関係重みづけ情報と、他のデータ要素のデータ値とに基づいて、当該注目データに関係する入力刺激値を演算する手段と、前記演算された入力刺激値に基づいて、注目データのデータ値を更新する手段であって、当該注目データに関連する現在のデータ値に応じて定められ、データ値ごとに異なるしきい値と、前記入力刺激値とを比較して、データ値を変化させるか否かを決定し、変化させると決定した場合に、当該データ値を更新する手段と、を含み、所定の条件が満足されるまで、前記入力刺激値の演算と、データ値の更新とを繰り返して実行した後の、前記データ要素の少なくとも一つについての前記データ値が、所定の処理に供されることを特徴としている。
【００１０】
また、上記従来例の問題点を解決するための本発明は、データ分析装置であって、複数のデータ要素のそれぞれについて、ＹminからＹmax（Ｙmin＜Ｙmax）までの間の連続値であるデータ値を関連づけて記憶するとともに、前記データ要素間の関係重みづけ情報を記憶する記憶手段と、前記データ要素の一つを注目データとして所定の規則に基づいて選択し、当該注目データと他のデータ要素との関係重みづけ情報と、他のデータ要素のデータ値とに基づいて、当該注目データに関係する入力刺激値を演算する手段と、前記演算された入力刺激値に基づいて、注目データのデータ値を更新する手段であって、当該注目データに関連する現在のデータ値に応じて定められ、データ値ごとに異なるしきい値と、前記入力刺激値とを比較して、データ値を変化させるか否かを決定し、変化させると決定した場合に、当該データ値を更新する手段と、を含み、所定の条件が満足されるまで、前記入力刺激値の演算と、データ値の更新とを繰り返して実行した後の、前記データ要素の少なくとも一つについての前記データ値が、所定の処理に供されることを特徴としている。
【００１１】
ここで前記データ値を更新する手段は、入力刺激値が０からＸ1minまではＹminであり、Ｘ1minからＸ1maxまでの間に連続的に単調増加し、Ｘ1max以上においてはＹmaxとなる第１単調増加関数ｆ１と、入力刺激値がＸ2minからＸ2maxまでの間に連続的に単調増加し、Ｘ2max以上においてはＹmaxとなる第２単調増加関数ｆ２とを用い、注目データに対する入力刺激値がＸ1minからＸ2maxまでの間では、更新前の注目データのデータ値Ｙについて、Ｙ＝ｆ２（Ｉ２）となるＩ２を参照して、入力刺激値Ｉが当該Ｉ２を超える場合に、データ値をｆ２（Ｉ）に更新し、更新前の注目データのデータ値Ｙについて、Ｙ＝ｆ１（Ｉ１）となるＩ１を参照して、入力刺激値ＩがこのＩ１未満となる場合に、データ値をｆ１（Ｉ）に更新することとしてもよい。
【００１２】
また、本発明の一態様は、複数のデータ要素のそれぞれに複数段階の離散値又は連続値のデータ値を関連づけて記憶するとともに、前記データ要素間の関係重みづけ情報を記憶する記憶手段を備えたコンピュータを用いたデータ分析方法であって、前記データ要素の一つを注目データとして所定の規則に基づいて選択し、当該注目データと他のデータ要素との関係重みづけ情報と、他のデータ要素のデータ値とに基づいて、当該注目データに関係する入力刺激値を演算する工程と、前記演算された入力刺激値に基づいて、注目データのデータ値を更新する手段であって、当該注目データに関連する現在のデータ値に応じて定められ、データ値ごとに異なるしきい値と、前記入力刺激値とを比較して、データ値を変化させるか否かを決定し、変化させると決定した場合に、当該データ値を更新する工程と、を所定の条件が満足されるまで繰返し実行させ、当該繰返し実行後の前記データ要素の少なくとも一つについての前記データ値が、所定の処理に供されることを特徴としている。
【００１３】
さらに本発明の別の態様に係るプログラムは、複数のデータ要素のそれぞれに複数段階の離散値又は連続値のデータ値を関連づけて記憶するとともに、前記データ要素間の関係重みづけ情報を記憶する記憶手段を備えたコンピュータに、前記データ要素の一つを注目データとして所定の規則に基づいて選択し、当該注目データと他のデータ要素との関係重みづけ情報と、他のデータ要素のデータ値とに基づいて、当該注目データに関係する入力刺激値を演算する手順と、前記演算された入力刺激値に基づいて、注目データのデータ値を更新する手段であって、当該注目データに関連する現在のデータ値に応じて定められ、データ値ごとに異なるしきい値と、前記入力刺激値とを比較して、データ値を変化させるか否かを決定し、変化させると決定した場合に、当該データ値を更新する手順と、を所定の条件が満足されるまで繰返し実行させることを特徴としている。
【発明を実施するための最良の形態】
【００１４】
本発明の実施の形態について図面を参照しながら説明する。本発明の実施の形態に係るデータ分析装置は、図１に示すように、制御部１１と記憶部１２とデータ入力部１３と結果出力部１４とを含んで構成されている。
【００１５】
制御部１１は、ＣＰＵ等で実現でき、記憶部１２に格納されているプログラムに従って、データ分析処理を実行する。制御部１１によるこの処理の具体的な内容については、後に詳しく述べる。記憶部１２は、メモリ素子やディスクデバイスを用いて実現できる。この記憶部１２は制御部１１によって実行されるプログラムを格納している。また記憶部１２は、制御部１１のデータ分析処理において利用される種々のデータを保持するワークメモリとしても動作する。
【００１６】
データ入力部１３及び結果出力部１４は、例えば分析の対象となるデータを格納するデータストレージからデータを取得し、また、当該データストレージやディスプレイ等に分析結果を出力する入出力インタフェースである。
【００１７】
次に、本実施の形態の制御部１１によるデータ分析処理について説明する。本実施の形態では、相互結合ネットワーク型データ構造を規定し、そのノードの各々に多段階ヒステリシス入出力特性を有するデータ値記憶ユニットを対応させる。本実施の形態では、分析の対象となるデータは、複数のデータ要素を含む。具体的に分析対象のデータを文章であるとすると、データ要素は、個々の単語として定義できる。
【００１８】
各ノードの多段階ヒステリシス入出力特性は、次のようなものである。まず、単純なヒステリシス特性（単独ヒステリシス特性）は、図２（ａ）に示すように、データ値ＹがＹ＝０又はＹmaxのいずれか一方の値となる。そして、下側しきい値Ｑminと、上側しきい値Ｑmaxとが定められている。当初、データ値Ｙが「０」に初期化されているとすると、入力Ｉが上側しきい値Ｑmaxを超えるまでは「０」の状態を維持する。そして入力Ｉが上側しきい値Ｑmaxを超えると、データ値ＹはＹmaxとなる。この後、入力Ｉが下側しきい値Ｑminを超えている間はＹmaxの値を維持する。入力Ｉが下側しきい値Ｑmin以下となると、データ値Ｙは「０」となる。
【００１９】
多段階ヒステリシスとは、この単独ヒステリシス特性を多段階に積上げたものである。具体的にこの多段階ヒステリシス特性においては、各ノードは、Ｙ＝０からＹ＝ＹmaxまでのＮ段階の値のいずれかをとる。具体的には、図２（ｂ）に示すように、各段階ごとに下側しきい値Ｑｉminと、上側しきい値Ｑｉmaxとが規定されている。
【００２０】
そしてデータ値が「０」にリセットされている状態で、入力が、上側しきい値Ｑ１maxを超え、第２段階における上側しきい値Ｑ２maxを超えない場合（Ｑ１max＜Ｉ＜Ｑ２maxの場合）に、出力が第１段階の出力Ｙ＝Ｙmax／Ｎとなる。またここから第１段階の下側しきい値Ｑ１minを下回るまで入力Ｉが変化すると、データ値Ｙは「０」となる。
【００２１】
また、データ値がＹ＝Ｙmax／Ｎである状態で、入力Ｉの値が、第２段階における上側しきい値Ｑ２maxを超え、第３段階における上側しきい値Ｑ３maxを超えない場合（Ｑ２max＜Ｉ＜Ｑ３maxの場合）、データ値Ｙは第２段階の値、Ｙ＝２×Ｙmax／Ｎとなる。
【００２２】
制御部１１は、図３に示すように、各データ要素についてデータ要素を特定する情報（例えば単語の文字列等）と、データ値とを関連付けた要素データベースを生成して記憶部１２に格納する。また、制御部１１は、図４に示すように、データ要素のペア（対）ごとに関係重みの値を設定した関係重みづけデータベースを生成して、記憶部１２に格納する。また、図４の例では、下三角部分は上三角部分を対角線で折返した値に設定される（つまりＴij＝Tji）であるので、下三角部分を省略している。
【００２３】
さらに本実施の形態では、記憶部１２に、多段階ヒステリシス特性を規定するための、各段階の下側しきい値及び上側しきい値の値が格納されている。
【００２４】
制御部１１は、これら記憶部１２に格納されている情報に基づきデータ分析処理を行う。本実施の形態では、相互結合ネットワークにおける各ノードにこのようなヒステリシスユニットを対応させ、以下のステップで定められる「力学系」により活性伝播を行う。本実施の形態のデータ値記憶ユニットからなるネットワークでは、その活性伝播によって得られるアトラクタ（不動点状態）が、初期状態に連続的に依存することになる。
【００２５】
以下、制御部１１における活性伝播の処理について図５を参照しながら説明する。処理対象となっているデータに含まれる複数（Ｍ個）のデータ要素のうち、一つのデータ要素を所定の規則に基づいて注目データとして選択する（Ｓ１）。この規則（選択規則）は、例えばランダムに選択するとの規則である。ここでは、ｉ番目のデータ要素が選択されたものとする。そしてこの注目データに関連付けられたデータ値を更新するための入力刺激値を次の（１）式で演算する（Ｓ２）。
【００２６】
【数１】
2006133844.tif 000003
【００２７】
ここで、Ｔijは、ｉ番目のデータ要素とｊ番目のデータ要素との間の関係重みづけの値であり、関係重みづけデータベースから読出されて利用される。また、Ｏjは、ｊ番目のデータ要素に関連づけられて要素データベースに格納されているデータ値である。
【００２８】
次に、注目データであるｉ番目のデータ要素に関連付けられたデータ値を決定して（Ｓ３）、要素データベースを更新する。具体的に本実施の形態のデータ値の決定は次のようにして行われる。
【００２９】
すなわち、注目データに関連づけられているデータ値が多段階の値のうち、どの段階の値ｎであるかを調べる。ここでは１段階ごとにＹmax／Ｎ＝ΔＹずつ変化することとしているので、データ値をΔＹで除した値として段階の値ｎを求めることができる（すなわちＹ＝ｎ×ΔＹなので、これをΔＹで除することでｎを求める）。次に、当該求めた段階に対応する下側しきい値θminと上側しきい値θmaxとを取得する。
【００３０】
そして、処理Ｓ２にて演算された入力刺激値Ｉと、上側しきい値θmaxとを比較し、Ｉ＞θmaxの場合は、データ値Ｙを（ｎ＋１）×ΔＹに更新し、さらに処理Ｓ３を再帰的に実行する。なお、最も上の段階Ｙ＝Ｙmaxにおいては、上側しきい値を入力刺激値の最大値より大きくしておくことで、データ値が最大値を超えないようにしておく。また、下側しきい値θminと入力刺激値Ｉとを比較し、Ｉ≦θminの場合は、データ値Ｙを（ｎ−１）×ΔＹに更新し、処理Ｓ３を再帰的に実行する。この場合も、最も下の段階Ｙ＝Ｙminにおいては、下側しきい値を入力刺激値の最小値より小さくしておくことで、データ値が最小値を下回らないようにしておく。
【００３１】
また、θmin＜Ｉ≦θmaxとなっている場合は、処理Ｓ４に移行する。こうして注目データに関連づけられているデータ値を更新した後、各データ要素に関するデータ値のセットで規定されるベクトル
【数２】
2006133844.tif 000004
を生成する（Ｓ４）。そして記憶部１２に前回生成したベクトルが格納されているときには、当該前回生成したベクトルと当該ベクトルとの差を算出し、当該算出された差のベクトルがゼロベクトル（その要素がすべて「０」となっているベクトル）か否か、つまり、
【数３】
2006133844.tif 000005
となっているか否かを調べ（Ｓ５）、ゼロベクトルでない場合（Ｎｏの場合）は、処理Ｓ１に戻って処理を繰返す。ここではスイッチ情報の更新後において、各データ要素に関係するデータ値が変化しなくなったか否かを調べ、変化している間は処理Ｓ１に戻るようにしているのである。
【００３２】
また、処理Ｓ５において、算出した差のベクトルがゼロベクトルとなっている場合（Ｙｅｓの場合）は、処理を終了する。この時点で要素データベースに格納されているデータ要素を特定する情報とデータ値とのセットが、分析結果として後の所定処理に供されることになる。なお、この要素データベースに格納されている状態は個々のデータ要素における入出力が均衡した状態（いわば力学系のアトラクタ）を表す。この状態は「不動点」と呼ばれる状態に相当する。
【００３３】
また、ここで説明した処理Ｓ３における演算では、演算処理を再帰的に実行する必要がある。すなわちデータ値が複数の段階分だけ変化することがあり得るためである。このように複数段階に亘って変化する場合、制御部１１はしきい値と入力刺激値との比較演算を繰返して行うこととなり、段階数Ｎを大きくすると、演算速度の低下が生じる。そこで本実施の形態では、データ値を離散的にＮ段階とする代りに、Ｎを無限大とした場合の極限を想定して、データ値を連続値として扱う。ここでの連続値は、コンピュータの内部表現としては離散的な表現によって表されるものであるが、理論的には段階的な値をとるものでないとの意味で連続値と呼ぶこととしたものである。
【００３４】
連続値とする場合は、図６に示すように、入力刺激値が０からＸ1minまではＹminであり、Ｘ1minからＸ1maxまでの間に連続的に単調増加し、Ｘ1max以上においてはＹmaxとなる第１単調増加関数ｆ１と、入力刺激値がＸ2minからＸ2maxまでの間に連続的に単調増加し、Ｘ2max以上においてはＹmaxとなる第２単調増加関数ｆ２とを用いてデータ値の更新処理を行う。すなわち、
（１）注目データに対する入力刺激値ＩがＸ２maxを超える場合、つまりＸ２max＜Ｉの場合：
データ値Ｙ＝Ｙmaxとする。
（２）注目データに対する入力刺激値ＩがＸ１min以下の場合、つまりＸ１min＜Ｉの場合：
データ値Ｙ＝Ｙminとする。
（３）注目データに対する入力刺激値ＩがＸ1minからＸ2maxまでの間の場合、つまりＸ１min＜Ｉ≦Ｘ２maxの場合：
更新前の注目データのデータ値Ｙについて、Ｙ＝ｆ２（Ｉ２）となるＩ２を参照して、入力刺激値Ｉが当該Ｉ２を超える場合に、データ値をｆ２（Ｉ）に更新し、
更新前の注目データのデータ値Ｙについて、Ｙ＝ｆ１（Ｉ１）となるＩ１を参照して、入力刺激値ＩがこのＩ１未満となる場合に、データ値をｆ１（Ｉ）に更新する。
【００３５】
ここで第１，第２の単調増加関数ｆ１，ｆ２は
【数４】
2006133844.tif 000006
として定義できる。この場合、Ｙ＝ｆ２（Ｉ２）、及びＹ＝ｆ２（Ｉ１）を、それぞれ、Ｉ２，Ｉ１について解いた解が
【数５】
2006133844.tif 000007
となる。従って、上記データ値の更新処理は、次のようになる。すなわち、
（１）注目データに対する入力刺激値ＩがＸ２maxを超える場合、つまりＸ２max＜Ｉの場合：
データ値Ｙ＝Ｙmaxとする。
（２）注目データに対する入力刺激値ＩがＸ１min以下の場合、つまりＸ１min＜Ｉの場合：
データ値Ｙ＝Ｙminとする。
（３）注目データに対する入力刺激値ＩがＸ1minからＸ2maxまでの間の場合、つまりＸ１min＜Ｉ≦Ｘ２maxの場合：
更新前の注目データのデータ値Ｙについて、入力刺激値ＩがＹ／α＋Ｘ２minを超える場合に、データ値をｆ２（Ｉ）＝α（Ｉ−Ｘ２min）に更新する。また更新前の注目データのデータ値Ｙについて、入力刺激値ＩがＹ／α＋Ｘ１min未満となる場合に、データ値をｆ１（Ｉ）＝α（Ｉ−Ｘ１min）に更新する。この方法によると、判断処理の回数を制限でき、計算量を低減できる。
【００３６】
次に、本実施の形態のデータ分析装置の動作について説明する。ここでは所望のキーワードを含む文書を、文書群から検索する通常文書検索処理と、キーとなる文書に類似する類似文書を、文書群から検索する類似文書検索処理とを行う例について述べる。
【００３７】
これらの処理を行うにあたり、まず、検索の対象となる文書群について次の処理を行っておく。すなわち、制御部１１は、図示しないストレージに格納された文書群のデータをデータ入力部１３を介して取り出して、Ｐ個の各文書Ｄ１，Ｄ２，…，ＤＰについて、Ｑ個の検索語ｗ１，ｗ２，…，ｗＱを抽出する。ここで検索語の抽出は、各文書に含まれている単語群から、予め定めた汎用語（いわゆるストップワード）を除去し、ステミング処理（活用や語尾変化を除いて語幹部分を取り出す処理）を行ったものである。なお、ステミング処理とは例えば、childや、childhood、childrenなどの単語について、語尾変化や複数形の語変化に配慮して、同じ「child」として扱う処理である。
【００３８】
次に、各文書Ｄｊにおける各索引語ｗｉの重要度ｄｉｊをＴＦＩＤＦ方式（Term Frequency Inverse Document Frequency）で定義する。すなわち、
【数６】
2006133844.tif 000008
とする。ここでａｉｊは、文書Ｄｊにおける単語ｗｉの出現回数を表し、ｂｉは、文書群全体において単語ｗｉを含む文書の数を表す。またＰは、文書群内の全文書の数である。
【００３９】
次に索引語をデータ要素として、索引語を特定する情報と、データ値とを格納するための記憶領域（要素データベース）を記憶部１２内に確保する。また、各索引語の間の関係重みを記憶するための領域（関係重み付けデータベース）を記憶部１２内に確保する。ここで関係重みは、コバリアンス学習則（co-variant learning rule）に基づいて定めておく。すなわち同一文書に共起する単語間を関係付けすることとして、単語ｗｉと、ｗｊとの間の結合重みＴｉｊを次のように定義する。
【００４０】
【数７】
2006133844.tif 000009
【００４１】
ここで、通常文書検索処理を行う場合、検索のキーとなる文（クエリ文）について、当該文に含まれる索引語ｗの出現数及び文書群での索引語の出現頻度に基づいて、ＴＦＩＤＦ方式によってクエリ文での索引語ｗｉの重要度のベクトルｑを規定する。
【００４２】
そして、クエリ文での各索引語ｗｉの重要度の値を、対応する索引語に関連付けるデータ値の初期値として、記憶部１２の要素データベースに格納する。制御部１１は、図５に示す活性伝播の処理を行う。要素データベースに格納したデータ値の更新がされなくなると、制御部１１は、このデータ値の組を出力（出力ベクトル）として読み出す。なお、ベクトルのｄｊは、ｊ番目の文書について、各単語の重要度を配列したベクトル値、ベクトルのｑは、活性伝播の処理後の出力ベクトルである。
【００４３】
そして制御部１１は、この出力ベクトルと、文書ごとの索引語の重要度の組との内積に関係するコサイン値
【数８】
2006133844.tif 000010
を演算する。そして、文書ごとに演算されたコサイン値（ｊ番目の文書についてＣ（ｊ））の大きい文書を降順に配列して検索結果として結果出力部１４を介して利用者に提示する。
【００４４】
なお、類似文書検索処理を行う場合、クエリ文での索引語ｗｉの重要度のベクトルｑの代りに、キーとなる文書での索引語ｗｉの重要度のベクトルｑを用い、上記と同様の処理を行うこととすればよい。
【００４５】
このように、キーワードやキーとなる文書など、検索キーについて図５に示した処理によって前処理することで、例えば検索キーには現れていないが、関連する語を含んでいる文書などが実際に検索されるようになる。
【００４６】
本実施の形態のデータ分析装置では、このような活性伝播を利用するため、分析の対象となるデータ要素群を用いて構成したネットワークについて、その初期パタンの状態に対して連続性を有する解を与える。このため不連続に予め定め得る解に収束するネットワークに比べ、幅広い用途に利用できる。
【実施例】
【００４７】
実際に、予め検索質問文と当該質問文で検索されるべき正解文書とを定めてある文書群サンプルとして知られるMedline1033（ftp://ftp.cs.cornell.edu/pub/smart/med/などから取得できる）を用い、文書の検索を行った例について次に説明する。
【００４８】
なお、ここでは比較のため、図５に示した活性伝播の処理を行わず、クエリ文やキーとなった文書からＴＦＩＤＦ方式で得られた索引語の重要度の値をそのまま用いた例（第１例）と、図５とは異なる活性伝播を行った例（第２例）とを併せて示す。
【００４９】
第２例での活性伝播は、繰返し回数（活性回数）ｔについて、
【数９】
2006133844.tif 000011
にて、定められるＡ（ｔ）の収束値を用いることとする。この第２例では、上述のように初期的な索引語の重要度の値Ｃが、繰返し回数を進める際に常に加算され続ける。この第２例の方法は、いわゆるSpreading Activation Theory in ACT*（Active Control of Thought）と呼ばれる手法である。ここで、Ｉは単位行列であり、γ、αは所与のパラメータである。また、Ｒは関係重みを定めた（この関係重みは本実施の形態におけるものに基づいて規定できる）行列である。従って行列Ｍは、ここではＡ（ｔ−１）での活性状態を次世代（次の活性回数）でのＡ（ｔ）に関係させるための行列である。
【００５０】
これらの方法によってクエリ文又はキーとなった文書に関係する文書順に、順位ｉを付し、それが正解文書である場合に１、そうでない場合に０となる成否値Ｚｉ、適合文書の総数Ｒ，出力文書数ｎを用いて、
【数１０】
2006133844.tif 000012
としてスコアｖを演算した。
【００５１】
その結果を図７に示す。図７において、通常検索とはクエリ文による検索の結果であり、類似文書検索とあるのは、文書をキーとして類似文書を検索した結果を示す。
【００５２】
これによると、本実施の形態の結果は第１例の場合や第２例の場合に比べ、相対的に高いスコアとなっているだけでなく、通常検索と類似文書検索とのスコアの差も比較的小さくなっており、全体的な検索精度が向上していることが確認できる。
【００５３】
また、注目文書についての単語の重要度をＴＦＩＤＦ方式によって定め、この重要度をそのまま上位順に並べたものを生成するとともに、この重要度の値をデータ値として本実施の形態のデータ分析装置による活性伝播処理を行い、その処理後のデータ値の上位順に並べたものを生成する。その結果について、図８に示す。これらの処理は、注目文書を特徴づけるインデックスの語を取り出す処理に相当するものであるが、図８（ａ）に示すそのままのものと、図８（ｂ）に示すリストとの重複は殆どない。これは図８（ａ）に示したものは、文に含まれるもののみが現れるのに対して、図８（ｂ）に示したものには、文には含まれないものも（文書群に含まれるものであれば）現れることがあるため、注目文書に関係する単語が幅広く選択されていることによるものである。
【図面の簡単な説明】
【００５４】
【図１】本発明の実施の形態に係るデータ分析装置の構成ブロック図である。
【図２】データ要素ごとのデータ値の更新方法例を表す説明図である。
【図３】要素データベースの内容例を表す説明図である。
【図４】関係重みデータベースの内容例を表す説明図である。
【図５】活性伝播の処理例を表すフローチャート図である。
【図６】データ値の更新方法例を表す説明図である。
【図７】本発明の実施の形態のデータ分析装置の動作例を表す説明図である。
【図８】本発明の実施の形態のデータ分析装置の別の動作例を表す説明図である。
【符号の説明】
【００５５】
１１  制御部、１２  記憶部、１３  データ入力部、１４  結果出力部。
【図１】
2006133844.tif 000013
【図２】
2006133844.tif 000014
【図３】
2006133844.tif 000015
【図４】
2006133844.tif 000016
【図５】
2006133844.tif 000017
【図６】
2006133844.tif 000018
【図７】
2006133844.tif 000019
【図８】
2006133844.tif 000020