(57)【特許請求の範囲】
【請求項１】
被処理パターンが入力したとき、この被処理パターンを蓄積して奥行きを持たせて集合化し、必要に応じて、この集合化パターンをブロック単位に区切った後に、これらのブロックを所定方向にずらして再び合成した入力パターンを生成する手段と、
入力する刺激に対して、その刺激に対して次に反応する方向の素子を決めると共に、一度刺激を受けた後は所定条件が満たされるまで、前回と同じ方向の素子への決定を停止する素子を、立体的に所定間隔で複数繋げた素子ネットワークを備えて、前記入力パターンを入力する手段と、
前記素子ネットワークの各素子が反応したルートから前記入力パターンに対するパターンを生成する手段と
を有することを特徴とする入力情報の分析装置。
【請求項２】
請求項１における素子が、所定の条件により、一度刺激が入力された後、次の刺激に対して反応するようになるまでの時間を変化させることにより、入力される前記入力パターンの情報もしくはその影響を蓄積する手段を有することを特徴とする請求項１に記載の入力情報の分析装置。
【請求項３】
前記所定条件が満たされた後は、前記ブロックを所定周期で、所定方向にずらす手段を有することを特徴とする請求項１又は２に記載の入力情報の分析装置。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、被処理パターンが入力したとき、そのパターンを蓄積し、蓄積されているパターンから人間の感性、思考、直間等と同様な処理で分析したパターン結果を新たに得る入力情報の分析装置に関する。
【０００２】
【従来の技術】
近年は、人間の脳神経系の仕組みを工学的に実現し、情報処理を行うコンピュータがある。
【０００３】
このようなコンピュータは、例えば手書き文字認識を例にすると、活字「２」を代表する鋳型、若しくは「２」の特徴が頭の中にあって、入力される刺激（手書きの「２」）と、頭の中にある「２」の特徴の類似度から「２」が認識されるという考えに基づいているのが一般的である。
【０００４】
例えば、人間と同様の処理をコンピュータで実現する場合は、複数種の入力情報を符号化（シンボル）して蓄え、これらの複数種の蓄積情報から被入力情報に最も類似する蓄積情報を取り出すことで、被入力情報を認識する処理方法が一般的であった。
【０００５】
【発明が解決しようとする課題】
しかしながら、上記のような処理方法は、入力情報を符号化して蓄積、取り出しを行う処理方法であるので、入力情報が符号化可能な情報でなければならない。
【０００６】
一方、人間は、被情報が符号化できない情報であっても、その情報を認識できる。
【０００７】
すなわち、従来の処理方法は、符号化できる情報のみを蓄積して取り扱うものであるから真に人間の脳神経系の仕組みを工学的に実現したものとは言えないという課題があった。
【０００８】
このため、従来の処理方法では認識する情報がある程度限定されるという課題があった。
【０００９】
本発明は以上の課題を解決するためになされたもので、人間の脳神経系の仕組みと同様な仕組みで情報を蓄積、分析できる入力情報の分析装置を得ることを目的とする。
【００１０】
【課題を解決するための手段】
本発明の入力情報の分析装置は、被処理パターンが入力したとき、この被処理パターンを蓄積して奥行きを持たせて集合化し、必要に応じて、この集合化パターンをブロック単位に区切った後に、これらのブロックを所定方向にずらして再び合成した入力パターンを生成する手段と、入力する刺激に対して、その刺激に対して次に反応する方向の素子を決めると共に、一度刺激を受けた後は所定条件が満たされるまで、前回と同じ方向の素子への決定を停止する素子を、立体的に所定間隔で複数繋げた素子ネットワークを備えて、前記入力パターンを入力する手段と、前記素子ネットワークの各素子が反応したルートから前記入力パターンに対するパターンを生成する手段とを有すること主旨とする。
【００１１】
また、請求項１における素子が、所定の条件により、一度刺激が入力された後、次の刺激に対して反応するようになるまでの時間を変化させることにより、入力される前記入力パターンの情報もしくはその影響を蓄積する手段を有することを主旨とする。
【００１２】
また、請求項１又は２において、前記所定条件が満たされた後は、前記ブロックを所定周期で、所定方向にずらす手段を有することを主旨とする。
【００１３】
【発明の実施の形態】
本実施の形態の入力情報の分析方法は、人間の頭の中には鋳型といえるものは存在しない。さらに、分析結果は、既存の情報ではなく、蓄えられている情報と入力刺激から新たに合成して生成したものである。
【００１４】
つまり、入力刺激の分析プロセスは必要なく、それに代わり相互抑制処理を含む情報の合成プロセスによってパターン認識がなされるという考えに基づくものである。
【００１５】
本実施の形態は、複数のセルからなる被処理パターンが入力する毎に、所定の変換処理を施した複数のセルの組合せを前記入力パターンとして送出すると共に、これを蓄積するパターン前処理部と、予め蓄積されている全ての蓄積パターンを順次読み出して、その蓄積パターンに対しての前記入力パターンの活性度を順次求める活性度計算部と、前記読み出された蓄積パターンの活性度が求められる毎に、その活性度と、所定の負の抑制係数と、他の蓄積パターンの活性度とを用いて、前記蓄積パターンの活性度を所定回数、抑制する相互抑制処理部と、前記抑制後の蓄積パターンの活性度と、活性度が求められる前のその蓄積パターンのセル値から新たなセル値をそれぞれ求め、該新たなセル値にされた蓄積パターン同士のセル同士の値の総和を求め、これらのセルの組合せを前記入力パターンに対するパターンとして送出するパターン合成部とを有することを特徴とする入力情報の分析装置である。
【００１６】
そして前記相互抑制処理部は、
前記活性度Ａ（ｉ）と抑制係数Ｗ（ｉ）とから数１に従って、
【数１】
0004434599.tif 000002
前記活性度Ａ（ｉ）を変化させる。
【００１７】
すなわち、認識する必要がある入力パターンが入力すると、予め記憶している蓄積パターンとの類似度を求めて、入力パターンに対する各蓄積パターンの関与率（活性度）を求める。
【００１８】
そして、これらの活性度Ａ（ｉ）と、負の所定の抑制係数と、他の蓄積パターンの活性度から低下（抑制した）した新たな活性度Ａ（ｉ）を数１に従って所定回数求める。
【００１９】
この所定回数毎のセルの活性度の総和を入力パターンの新たなセル値として送出する。
【００２０】
すなわち、認識する必要がある入力パターンが入力すると、予め記憶している蓄積パターンとの類似度を求めて、入力パターンに対する各蓄積パターンの関与率（活性度）を求め、これらの活性度Ａ（ｉ）と、負の所定の抑制係数と、他の蓄積パターンの活性度から新たな活性度Ａ（ｉ）を所定回数求める。この所定回数毎のセルの活性度の総和を入力パターンの新たなセル値として送出する。
【００２１】
このため、人間と同様に蓄積パターンに関与した新しいパターンを生成できることになる。
【００２２】
＜実施の形態１＞「全体抑制法による実施例」
実施の形態１においては、入力情報はマウスを用いた手書きの文字として説明する。
【００２３】
図１は本実施の形態１の入力情報の分析装置の概略構成図である。本実施の形態１の入力情報の分析装置１は、画像化された被処理パターンＰｉを読み込む被処理パターン入力部２と、被処理パターン入力部２からのパターン又は後述するパターン合成部からのパターンに前処理を施すパターン前処理部３と、このパターン前処理部３からの入力情報Ｐ（ｊ）をパターンの痕跡情報ｔ（ｊ）として記憶するパターン蓄積部４と、パターン前処理部３からの入力情報Ｐ（ｊ）とパターン蓄積部４に蓄積されている複数の痕跡情報Ｔ（ｉｊ）との類似度Ｓ（ｉ）を各痕跡情報Ｔ（ｉｊ）ごとに求め、この類似度Ｓ（ｉ）から各痕跡情報の活性度Ａ（ｉ）を求める活性度計算部５とを備えている。
【００２４】
また、活性度計算部５で求められた痕跡情報Ｔ（ｉｊ）の活性度Ａ（ｉ）のレベルに応じて全ての痕跡情報の間で相互抑制をかける相互抑制処理部６とを備えている。この相互抑制処理については詳細に後述する。
【００２５】
また、相互抑制処理されたパターン情報Ｒ（ｉ）とパターン蓄積部４から取り出された痕跡情報Ｔ（ｉｊ）とを合成したパターンＣ（ｊ）をパターン出力部８を介して送出するパターン合成部７とを備えている。
【００２６】
このパターン合成部７は、合成パターンＣ（ｊ）をパターン前処理部３又は活性度計算部５にもフィードバックする。
【００２７】
すなわち、図１に示す入力情報の分析装置１は、図２に示すように手書きの入力情報と、既に記憶している全ての手書き文字の痕跡情報との活性度を求めて相互抑制処理を行った後に、順次全ての痕跡情報と相互抑制処理後のパターンとを合成して表示し、最終的に記録された情報には存在しない活字的なイメージ「２」を得る。
【００２８】
（各部の説明）
被処理パターン入力部２は、マウスの移動に追従して表示用メモリに描かれた文字データ（ドット）を、被処理パターンとして内部に取り込む。例えば、マウス（図示せず）の移動軌跡を６４×３２のセルからなる入力画面に、被処理パターンＰ（ｉ）として描く（パターンの部分に「１」を与え、それ以外には「０」を与える）。
【００２９】
パターン前処理部３は、被処理パターンＰ（ｉ）に二次元ガウシアンフィルタをかけて、全てのセルの数値の合計が「０」になるように、全体の入力パターンの値をシフトさせる。
【００３０】
そして、セルの最大値が「１」、最小値が「−１」になるように（１．０から−１．０の範囲に納まるように）、各セルの値を全体的に拡大縮小（正規化）する変換を行う。
【００３１】
この変換を受けた入力刺激を入力情報パターンＰ（ｊ）とし、パターン蓄積部４に被処理パターンＰ（ｉ）の痕跡情報ｔ（ｊ）として蓄積する。本説明では既に痕跡情報ｔ（ｊ）がＭ個予め記憶されているとする。
【００３２】
活性度計算部５は、パターン前処理部３で得られた入力情報パターンＰ（ｊ）が入力する毎に、その入力情報パターンＰ（ｊ）と、パターン蓄積部４で蓄積されている複数の痕跡情報ｔ（ｊ）からｉ番目の痕跡情報（以下痕跡情報Ｔ（ｉｊ）という）を読み込み、類似度Ｓ（ｉ）を計算する（他の方法もあり）。
【００３３】
この類似度Ｓ（ｉ）は、
【数２】
0004434599.tif 000003
で求める。
【００３４】
また、この数２のＮは、入力情報パターンＰ（ｊ）と各痕跡情報Ｔ（ｉｊ）のセルの中で、絶対値が一定の数値（しきい値）を越えるセルの合計数である。
【００３５】
若しくは、各痕跡情報Ｔ（ｉｊ）のみのセルの中で、絶対値が一定の数値（しきい値）を越えるセルの合計数である。
【００３６】
そして、活性度計算部５は、類似度Ｓ（ｉ）から各痕跡情報の活性化の程度を表す数値Ａ（ｉ）（活性化レベル）を数３の式によって計算する（他の方法もあり）。
【００３７】
【数３】
0004434599.tif 000004
また、活性度計算部５は、パターン合成部７で求められた合成パターンＣ（ｊ）を直接入力し、この合成パターンＣ（ｊ）と入力情報パターンＰ（ｊ）との間でＡＮＤ、ＯＲ等の処理を行い、この結果を新たな入力刺激の入力情報パターンＰ（ｊ）として、パターン蓄積部４の痕跡情報との活性度を求める場合もある（その他の処理もある）。
【００３８】
相互抑制処理部６は、活性度計算部５で入力情報パターンＰ（ｊ）の活性度Ａ（ｉ）が求められる毎に、この活性度Ａ（ｉ）のレベルに応じて痕跡情報Ｔ（ｉｊ）の間で相互抑制処理を行う。
【００３９】
例えば、数５に示すように、活性化レベルＡ（ｉ）を変化させ（但し、Ａ（ｉ）が安定するまでは計算しない）、数５に示すように各痕跡情報Ｔ（ｉｊ）に活性化レベルＡ（ｉ）を乗じた値を合計したものを生成する（他の方法あり）。
【００４０】
【数４】
0004434599.tif 000005
この数４を用いる場合は抑制値Ｗｉ＝−０．１として変化量を計算する。
【００４１】
また、必ずしもＡ（ｉ）を使う必要がなくＳ（ｉ）をＡｉに変えて以後の計算をおこなってもよい。また、ψも必ずしも入れる必要がない。
【００４２】
つまり、相互抑制処理部６は、活性化の範囲と同様、焦点範囲から一定の距離にあるセルを抑制の範囲として、その範囲にあるセルに限って相互抑制の値をかける（抑制の値にも焦点範囲からの距離が小さいほど抑制が強くなるようにする）。ここで、焦点範囲とは最終的に処理の結果を反映させるセルの集合をいい、入力情報及び痕跡上方のそれぞれに対応する焦点範囲から一定の距離に含まれる近似するセルの集合を類似の範囲という。
【００４３】
パターン合成部７は、相互抑制処理されたパターンＲ（ｉ）と、パターン合成部４の痕跡情報Ｔ（ｉｊ）とを数５に示すように合成する。
【００４４】
【数５】
0004434599.tif 000006
また、この合成には、
【数６】
0004434599.tif 000007
で求める場合もある。
【００４５】
（具体的な動作説明）
次に、数値を用いて本実施の形態のパターン分析方法を以下に説明する。本説明では、説明を分かりやすくするための３つのセルで説明する。
【００４６】
例えば、パターン前処理部３で変換処理を行って、図３の（ａ）に示す入力情報パターンＰ（ｊ）を得たとする。図３の（ａ）においては、「０」、「１」、「０」の被処理パターンＰ（ｉ）に対して変換処理を行って「０．２」、「０．８」、「０．２」…とした入力情報パターンＰ（ｊ）を得たことを示している。
【００４７】
活性度計算部５は、パターン蓄積部５に記憶されている各痕跡情報Ｔ１、Ｔ２、Ｔ３、…との類似度Ｓ（ｉ）を数２を用いて求める。
【００４８】
図３の（ｂ）においては、パターン蓄積部４には、「０．１」、「０．５」、「０．５」…の痕跡情報Ｔ１、「０．１」、「０．８」、「０．２」…の痕跡情報Ｔ２、「０．１」、「０．５」、「０．１」…の痕跡情報Ｔ３、…が記憶されていることを示す。
【００４９】
そして、図３の（ｃ）に示すように、入力情報パターンＰ（ｊ）の各セルの値と痕跡情報Ｔ１、Ｔ２、…の各セルの値とを乗算して、合計し、この合計をＮ（一定の値より絶対値が大きなセルの数）で割って類似度Ｓ（ｉ）を求める。
【００５０】
次に、図３の（ｄ）に示すように、痕跡情報Ｔ１、Ｔ２、…の類似度Ｓ（ｉ）を３乗した結果を、１回目の入力情報パターンＰ（ｊ）と痕跡情報Ｔ１、Ｔ２、…との活性度Ａ（ｉ）とする。図３の（ｄ）においては、痕跡情報Ｔ１、Ｔ２、…に対して「０．４」、「０．７」、「０．３」、…の活性度が求められたことを示している。
【００５１】
次に、相互抑制処理部６は、１回目の活性度Ａ（ｉ）が求められたとき、この活性度Ａ（ｉ）に予め記憶されている抑制度Ｗｉ（「−０．１」）をかける。
【００５２】
この抑制度Ｗｉのかけ方は、図４の（ａ）に示すように、読み込まれた痕跡情報にはかけないで、周囲の痕跡情報にかける。
【００５３】
図４の（ａ）においては、痕跡情報Ｔ１を例にすると、Ｔ１の活性度「０．４」はＷｉをかけないで、Ｔ２、Ｔ３に、活性度「０．７」、「０．３」をかけている。
【００５４】
そして、図４の（ｂ）に示すように、この１回目のＷｉをかけたものを２回目の活性度「０．３０」、「０．６３」、「０．１９」として、読み込まれた痕跡情報にはかけないで、周囲の痕跡情報にかけて図４の（ｃ）に示すように３回目の活性度「０．２２」、「０．５８」、「０．１０」を求める。
【００５５】
すなわち、図５に示すように、入力情報パターンＰ（ｊ）が入力する毎に、類似度算出処理５ａがパターン蓄積部４に記憶されている痕跡情報Ｔ（ｉｊ）を読み込み、この類似度Ｓ（ｉ）を数１に基づいて求めて、類似度テーブルに痕跡情報と対応させて記憶する。つまり、図６に示すように痕跡情報毎に類似度が割り付けられることになる。
【００５６】
そして、活性度処理５ｂが各痕跡情報に対する類似度に対して１回目の活性度を数２に従って求め、これを活性度テーブルに記憶する。
【００５７】
抑制処理６ａは、各痕跡情報と入力情報パターンＰ（ｊ）との１回目のは活性度が求められと、抑制度ｗｉを数２に従ってかけてた結果Ａ（ｉ）’を活性度処理５ｂに送出して新たな活性度Ａ（ｉ）として活性度テーブルに記憶する。
【００５８】
この活性度Ａ（ｉ）が数回目となったときに、抑制結果出力処理６ｂがその痕跡情報毎の結果Ｒ（ｉ）をパターン合成部７に送出する。
【００５９】
パターン合成部７は、活性度計算部５が読み込んだ痕跡情報Ｔ（ｉｊ）を入力し、この痕跡情報Ｔ（ｉｊ）と相互抑制処理部６で求められた痕跡情報毎のＲ（ｉ）とをかけて、最終的に合成する。
【００６０】
例えば、図７に示すように、最終の痕跡情報Ｔ１の活性度が「０．２２」、痕跡情報Ｔ２の活性度が「０．５８」、痕跡情報Ｔ３が「０．１０」であるとすると、痕跡情報Ｔ１（「０．１」、「０．５」、「０」）に「０．２２」をかけて、Ｔ１における合成パターン（「０．０２２」、「０．１１」、「０．０」）を得る。
【００６１】
また、痕跡情報Ｔ２（「０．１」、「０．８」、「０．２」）に「０．５８」をかけて、Ｔ２における合成パターン（「０．０５８」、「０．４６」、「０．１２」）を得る。
【００６２】
さらに、痕跡情報Ｔ３（「０．１」、「０．５」、「０．２」）に「０．１０」をかけて、Ｔ３における合成パターン（「０．０１」、「０．０５」、「０．０１」）を得る。
【００６３】
そして、これらのセル値の総和を求め、これを最終の分析結果として表示又は活性度計算部５、パターン前処理部３にフィードバックして活性度、相互抑制を行って再度合成する。この合成を何回行うかは予め設定されている。本説明では３回として説明する。
【００６４】
すなわち、本実施の形態では、図８の（Ａ）に示すように予め「０」から「９」までの数字をマウスで多数生成して、これを蓄えておく。このパターンは各パターンがどの数字を意味するかの情報は全く備えていない。
【００６５】
そして、図８の（Ｂ）に示すようにマウスで数字を入力し、この数字に対して図８の（Ｃ）に示す前処理を施して、蓄えられている各痕跡情報と前処理された入力情報パターンＰ（ｊ）との相互抑制を行い、これらの結果を合成した図８の（Ｄ）に示す１回目の合成パターンＣ（ｊ）を作成する。
【００６６】
次に、この合成された合成パターンＣ（ｊ）と、前処理が行われている図８の（Ｃ）の入力情報パターンＰ（ｊ）とから再度、活性度計算部５に入力するパターンＰ（ｊ）を作り、このパターンＰ（ｊ）とパターン蓄積部４の痕跡情報Ｔ（ｉｊ）との活性度計算、相互抑制を行い、この結果と痕跡情報Ｔ（ｉｊ）との合成を行って２回目の図８の（Ｅ）の合成パターンＣ（ｊ）を得る。
【００６７】
そして、２回目の合成パターンＣ（ｊ）と、１回目の合成パターンＣ（ｊ）とから再度、活性度計算部５に入力するパターンＰ（ｊ）を作り、このパターンＰ（ｊ）とパターン蓄積部４の痕跡情報Ｔ（ｉｊ）との活性度計算、相互抑制を行い、この結果と痕跡情報Ｔ（ｉｊ）との合成を行って３回目の図８の（Ｆ）の合成パターンＣ（ｊ）を生成し、これを最終の出力パターンとする。
【００６８】
つまり、パターン蓄積部４に蓄積されていないものを最終の出力パターンとして得ている。
【００６９】
また、パターン蓄積部４に蓄積されていないものを得ているとしても、入力情報パターンＰ（ｊ）はパターン蓄積部４の各痕跡情報との類似度、活性度を行って、相互抑制を行っているものであるから、記憶されている全ての痕跡情報に関与していることになる。
【００７０】
例えば、数字「２」が入力情報の場合で、パターン蓄積部４に２以外の数字が記憶されているとすると、その２以外の数字に対しても関与して分析した結果を送出している。
【００７１】
さらに、前述の最終の痕跡情報Ｔ１の活性度「０．２２」と、最終の痕跡情報Ｔ２の活性度「０．５８」と、最終の痕跡情報Ｔ３の活性度「０．１０」とを合計する場合もある。
【００７２】
これらの痕跡情報の最終の活性度を合計した値は、好みや熟知度等に相当するものと考えられる。
【００７３】
例えば、ある単語の学習回数と、その熟知度（見たという感覚の強さ）を図９に示すようにシミュレートすると、このシミュレート結果に示すように、学習が行われるにつれて当初は、次第にその単語を見たいという感覚は強くなるが、次第にその感覚が低下していき、更に学習が進むと、急激に熟知度が高くなることが分かる。
【００７４】
この熟知度は、見たという感覚の強さであり、また  単語の好み等に通じる全体的な値（コアとなるような値）である。
【００７５】
本発明ではパターン情報を単位として処理するためシンボルの処理が困難な場合でも最も一般的なパターンを生成できる。したがって、上記実施の形態１においては、入力情報を数字を用いて説明したが数字に限らないで図１０のような道路の映像であってもよい。
【００７６】
図１０のような道路のどの当たりを通るかを自動分析する場合は、上記のように、マウス等を用いて、図１０の（ａ）のように、複数種の道路のパターンをパターン蓄積部４に予め記憶する。
【００７７】
この道路のパターンは、左右の濃い部分が障害物を示し、白い部分（道路）のまん中にある線は、人間がその障害物の間をだいたいどのあたりを通るのかを示したものである。この蓄積されているパターンには、パターン以外の情報は記憶されていないことが重要である。例えば、障害物の間の中間点を計算して、そこに線を描くというようなルールは記憶されていない。
【００７８】
つまり、このパターンの蓄積データが学習により人間が獲得している記憶に対応した道路の痕跡情報ということになる。
【００７９】
そして、例えば、マウス等で図１０の（ｂ）に示す道路のパターン（人間が遭遇した新規な障害物に相当する）が描かれて被処理パターン入力部２、パターン前処理部３を介して活性化計算部５に入力する。この図１０の（ｂ）の道路のパターンは新たな道路の痕跡情報として記憶される。
【００８０】
次に、活性化計算部５は、図１０の（ｂ）の道路のパターンを入力情報パターンＰ（ｊ）として入力し、パターン蓄積部４に蓄積されている複数種の道路の痕跡情報ｔ（ｉ）との類似度、活性度、相互抑制処理を行って、図１０の（ｃ）に示すように、読み込んだ痕跡情報Ｔ（ｉｊ）との合成パターンＣ（ｊ）を生成する。
【００８１】
この合成パターンは、パターン前処理部３、活性度計算部５にフィードバックされて何回かの類似度、活性度、相互抑制処理、合成処理を行って得ている。
【００８２】
つまり、道路のパターンが入力すると、複数種の道路の痕跡情報から新たな進む線を作り出しているので非常に人間に近い処理と言える。
【００８３】
＜実施の形態２＞「部分抑制法（セル抑制法）による実施例」
上記の実施の形態２では、入力情報パターンＰ（ｊ）のセル全体に対して相互抑制をかけたが実施の形態２においては、図１１の（ａ）に示すように、入力刺激（信号１）のあるセル毎に、そのセルに関与しているセル範囲Ｈｉを決定し、この範囲Ｈｉ（以下焦点範囲Ｈｉという）における各セルの類似度、活性度を求めて抑制し、図１１の（ｂ）に示すように、最終的に抑制された活性度をその焦点範囲の代表値とする。さらにその代表値を反映させる範囲（抑制の範囲）を仮想的に想定し、その範囲の全てのセル値の全てのセル値にその代表値を反映させる。この処理を全ての焦点範囲について実行すると、各焦点範囲ごとに想定される仮想的な抑制の範囲内のセル値が想定される。最終的には、各焦点範囲ごとに複数想定される抑制範囲内のセル値を、セルに関して総和をとってきとめる方法も可能である。
【００８４】
また、本実施例では、１つの焦点範囲を１つのセルに対応するように設定しているが、任意のセルがいずれかのかの焦点範囲に含まれるようないかなる設定方法も可能である。
【００８５】
この部分抑制法では、前回以前の所定回の刺激に対応する焦点範囲Ｈｉに入る今回のセルの発火／応答を規制するが、それ以後は実施の形態と同様な処理を行う。
【００８６】
これは、ｎ次元のベクトルで表される情報が痕跡情報（ｎ次元の中には、入力情報では時間次元、痕跡情報では層（奥行き）が存在する）である。
【００８７】
このようなことから、最終的に処理の結果を反映させるセルの集合である焦点範囲を決定すると共に、入力情報及び痕跡情報のそれぞれに対応する焦点範囲から所定の距離に含まれる近接したセルの集合である類似度の範囲、並びに活性化の範囲及び抑制の範囲を決定している。
【００８８】
すなわち、入力情報及び痕跡情報のそれぞれに対応する焦点範囲（最終的に処理の結果を反映させるセルの集合）から一定の距離に含まれるセルの集合を類似度の範囲としている。
【００８９】
また、活性化処理は、焦点範囲から一定距離離れているセルを含む領域を類似度の範囲とし、類似度をこの範囲のセルに限定して計算する（その際、距離が遠くなるほど類似度を小さくなるような関係を入れる）。
【００９０】
この場合、焦点範囲からの距離が遠くなるほど類似度を小さくなるような関係を付与しても良いし、距離が遠くなるほど類似度を大きく付与することも可能である。なお、最小の類似度の範囲は１つのセル（この場合焦点領域も１つのセル）であり、最大の類似度の範囲は入力情報、各痕跡情報の全体である。
【００９１】
そして、一定の類似度の範囲の類似度が計算された後、その値を元に活性化の程度を計算し、続いて、その活性化の程度を各痕跡情報の全てのセルの内容（数値）に掛け合わせないで、焦点領域から一定の距離に含まれるセル（活性化の範囲）に限定して、活性化の程度とセルの内容を掛け合わせる。活性化の範囲は任意に設定できるが類似度の範囲と同一に設定してもよい。
【００９２】
次に、活性化の範囲、焦点範囲から所定の距離にあるセルを抑制の範囲として、その範囲にあるセルに限って相互抑制をかける。
【００９３】
このとき、抑制の範囲内の各セルに対する抑制の効果が、焦点範囲と各セル間の距離に依存して変化するようにする場合もある（例えば、抑制の値に最も焦点範囲からの距離が小さいほど強くかかるようにする場合もある）。
【００９４】
そして、相互抑制が行われた後、各焦点範囲毎に重複される部分の値を全てまとめて新たなセルの値とする。
【００９５】
＜実施の形態３＞「ＭＡＮ素子ネットによる実施例」
本実施の形態３は、発火（応答出力）した後に一定時間又は一定の数のインパルスが入る間（総称して所定の条件（「不応期」）という）、続いて入力される情報を受け付けないような素子を立体的につなぎ合わせたＭＡＮ素子のネットワークを構築する。
【００９６】
このＭＡＮ素子をネットワークとすることの意味と、ＭＡＮと実施の形態１の処理（以下Ｕｚｕｍ
ｅという）の処理の関係を以下で説明する。
【００９７】
まず、入力刺激の変換とＭＡＮの特徴が必要となる理由を以下で説明する。その中で、ＭＡＮの特徴（不応期）が必要であると考えだした道筋の発端は、大きく分けると次の２つになる。
【００９８】
この２つの流れはもともと違うところから出発したものであるが最終的にはひとつに結びつく。それぞれ別の論理的から解決の方法を考えていたが、最終的には、不応期というひとつの特徴を仮定するだけでよいことに集約される。つまり、以下の（１）、（２）の方法が必要である。
【００９９】
（１）非常に多様な情報を長期に蓄える方法を考える必要性
（２）Ｕｚｕｍｅ的な活性化−相互抑制的な処理を瞬間的に実現する方法を考える必要性：処理と構造を分けて考えていてはだめ。構造それ自体に処理を担わさせる方法
（１）については、
多様な情報を０−１的な情報のみを伝えることのできる有限のニューロンで表現する方法が有効である。
【０１００】
これは、入力刺激の変換と不応期が必要であると考えた理由を説明するためには、まず０−１的なパターン情報を表現する方法を考える必要がある（実はこの考え方がＭＡＮの考えを導き出す上でのポイントになったように思う）。
【０１０１】
まず、人間が非常に些細な情報の変化を長期にわたって保持している事実を説明するために、人間のニューロンの特長を参考にして、多様な情報を表現する方法を考えた。
【０１０２】
複数のニューロンでできるだけ多くの情報を表現するためには、ニューロンの組み合わせとして情報を蓄える必要があると思われる。
【０１０３】
これは、Ｈｅｂｂという学者が主張しているセルアッセンブリ（もしくはポピュレーションセオリー）の考え方である。
【０１０４】
問題は、この組み合わせを如何にして実現するかである。これを人間のニューロンの結合を参考にして考える。
【０１０５】
ニューロンの組み合わせといっても、人間の場合にはひとつの制約がでてくるのが普通である。
【０１０６】
それは、結合していないニューロンを組み合わせにすることはできないということである。
【０１０７】
なぜなら、人間が何らかの処理を行う場合、情報は網膜などの受容器から入力され効果器（声帯など）へと出力されるという方向性を持ちます。例えば声帯のニューロンにインパルスが伝わる場合を考えると、そのニューロンと受容器の網膜は直接つながっていない。
【０１０８】
声帯につながっているニューロンが発火するためには、その前にあるニューロン、さらにはその前にあるニューロンが発火していることが不可欠になる。
【０１０９】
つまり、直接結合していないニューロンの組み合わせ（極端な例では視細胞と声帯につながっているニューロンの組み合わせ）で情報は表現できないわけである。
【０１１０】
そこで、情報を最大限表現させるとすれば、ニューロンの組み合わせは、入力口から出力口へとつながるニューロンの”帯”もしくは”流れ（ストリーム）”を構成するニューロンに組み合わせは制限されてしまう。
【０１１１】
以後このニューロンの組み合わせを、ニューロンの帯と呼ぶ。ちなみに、現在のニューラルネットのモデルでは、何らかの情報はネットワーク全体で表現されるとされている。
【０１１２】
なお、ここで補足しておくが、このニューロンの帯を構成するニューロンの集合がそのパターンを表していることになる。
【０１１３】
入力パターンが変われば、その経路も変わることを考えれば、入力パターンをニューロンの集合に置き換え、対応させることができることは容易に理解できると思われる。
【０１１４】
これが情報をネットワーク的に表現することの意味である。パターンの表現方法はこのように複数の経路を構成する素子の集合として表すことである。
【０１１５】
（Ａ）最大限ニューロンの組み合わせを作る上での問題：分かれ道の問題
それでは、次に考えなければならないことは、如何にしてニューロンの帯に最大限のバリエーションを持たせるかという点である。
【０１１６】
まず、一番極端な例を用いて考えてみる。表１のように、ニューロンの帯の入り口から出口に向かって、Ａ，Ｂ，Ｃ，Ｄのニューロンが並んでいて、最後の出口のところで二股に分かれて出力されるようにニューロンがつながっているとする。
【０１１７】
【表１】
0004434599.tif 000008
ここで、Ａ，Ｂ，Ｃ，Ｄ，Ｘ，Ｙのニューロンを最大限使って情報を表現する方法を考えてみる。
【０１１８】
その組み合わせはＡ−Ｂ−Ｃ−Ｄ−ＸとＡ−Ｂ−Ｃ−Ｄ−Ｙ、Ａ−Ｂ−Ｃ−Ｄ−ＸＸＹの３通りのニューロンの帯である。ここで問題になるのが、Ｄまで届いたインパルスがＸに流れるかＹに流れるか、もしくはどちらにも流れるということが、Ｄによって決定されなければならないということである。
【０１１９】
例えば、ｘというインパルスがＤに入力したらＸの方向へ、ｙというインパルスが入力したらＹの方向へ、ｘｙというインパルスが入力したらＸＹ両方のニューロンへインパルスを伝えるといった弁別的な機能をもたせれば分けることは可能である。
【０１２０】
ところが、インパルスはそもそも０−１的な情報であり、インパルスが伝わってくれば、１という情報を伝えるしかニューロンにはできないわけである。そうなると、Ｄのニューロンもやはりインパルスが入ってきたらＸＹ両方のニューロンにインパルスを伝えるか、伝えないかのどちらかしかできないはずである。それでは、０−１情報しか流さないニューロンＤから、インパルスの流れを分かれさせる方法はないか？とりあえず、この問題を「分かれ道の問題」と呼んでおく。
【０１２１】
（Ｂ）受容器の細胞の組み合わせしか情報を表現できなくていいのか？
分かれ道の問題を解決する方法を考える前にひとつの意見について考えてみる。それは、そんなにニューロンの組み合わせを考えなくても脳細胞は膨大な数に上るわけだから、組み合わせも膨大な数になるはずだから、べつにそこまで考えなくてもいいのでは、という意見である。
【０１２２】
どのくらいのニューロンの組み合わせが必要なのかはわからないが、今想定されている０−１的な情報を伝えるというニューロンの機能だけでは、表現できる情報は受容器（網膜など）のニューロンの数の組み合わせ以上の情報しか表現できないはずである。
【０１２３】
なぜなら、ある情報・BR>ェ瞬間的に受容器に入ったとすると、その場合、ニューロンに０−１的な情報を伝えるだけの機能を仮定した場合には、受容器のニューロンに結合しているニューロンは全て、情報を伝えるか伝えないかという働きしかしないから、ニューロンの帯は、受容器のニューロンにつながっているニューロンの集合で表される。
【０１２４】
かつ、その帯の数は受容器のニューロン（入力口）の組み合わせ以上の情報は表現できないはずであり、つまり、一つ一つのニューロンが０−１的な情報しか伝播させられないとすれば、入力口になる細胞から入ったインパルスの通る経路は、入力口で決まってしまうわけである。なぜなら、まったく同じパターンが入力した場合には、まったく同じ経路を通るはずだからです。このあたりはもう少し説明が必要かもしれないが、とにかく、脳に存在するニューロンを最大限活用する方法を考えたほうが建設的であることは間違いないと思われる。
【０１２５】
次に、分かれ道の問題を人間のニューロンが実際に解決していると信じて、その解決方法を考える。単純な解決方法のひとつは、Ｄニューロンの入力口と出力口の距離が短いほうだけへ、同じ距離だったら両方へインパルスが流れるという考え方があり、この考え方は２つの出力口を持ったニューロンには当てはまるが、３つ以上の出力口を持ったニューロンでは、一番遠い距離にある出力口にはインパルスは伝わらないということになり、それでは最大限のニューロンの組み合わせを想定できない。
【０１２６】
このような細かな方法はいくつかあると思うが、もう少し本質から考えてみると、とりあえずニューロン自体にはその後の出力口を規定する機能を持たせないで別の方法を考えてみる。
【０１２７】
もし実際に０−１情報しか伝えないニューロンＤがその後の道筋を決定しているとすれば、ごく自然に考えれば、その道筋の決定はＤに入ってくる情報が握っているとしか考えようがない。
【０１２８】
同様にＤにその情報を伝えているＣのニューロンも道筋を決めることはできないから、Ｃに入る前の情報が道筋を決定するキーを握っているはずである。
【０１２９】
同様に考えていくと、どうも、一番最初の入力口にあたるＡのニューロンに入る情報にそのキーが隠されているようです。つまり、ニューロンに弁別的な機能を想定せずに分かれ道の問題を解決するためには、入力情報それ自体を考え直す必要があるという結論に至る。
【０１３０】
（Ｃ）時間軸の想定
それでは、入力情報をどのように考えるかです。ここで入力情報に時間軸を想定するという考えが出てくる。今まで０−１的な入力情報は瞬間的に、つまり、ある単位時間を想定しその時間の状態が０−１のいずれかであるかによって、入力情報（パターン）を考えていたが、それでは、どう考えてもニューロンの帯の数を増やすことはできないわけである。それでは、入力情報それ自体にＤニューロンのところで一方の道を決める情報を持たせる方向でこの問題を解決できないかと考えた。そのためには、入力情報を増やしたり複雑化させることが方法として考えられる。
【０１３１】
その最も重要な方法が、時間軸を入力情報に仮定すること、それと入力情報を複雑化させる方法である。まずは、時間軸を想定することについて説明したが入力情報を、一定時間の間に入力される０−１的な情報の集合と考える（時間軸を想定する）ことにより、分かれ道の問題を解決することが可能になる。
【０１３２】
次に、具体的にどのようにして分かれ道の問題が解決されるかを説明しますが、そこで不応期の考え方が必要になる。
【０１３３】
入力情報の複雑化（変換）については後ほど取り上げる。
【０１３４】
（Ｄ）不応期のひとつの意味
時間軸を想定することで、入力刺激は複雑になりますが、問題はそれだけでは解決できない。不応期のような機能をニューロンに想定しなければ結局は時間軸を想定してもしなくても同じなのであり、それを説明するために、まず、入ってきた情報をただ通して伝える素子（ニューロン）がネットワーク的な構造をなしていた場合を考える。つまり、不応期や入力情報の変換を仮定しない場合である。
【０１３５】
たとえ入力情報に時間軸を想定しても、入ってくる情報は金太郎飴のような情報であり、時間軸でまとめられたパターンの集合（金太郎飴のようなもの）は、何の関連ももたずに、特定のニューロンの帯を伝って出力される。
【０１３６】
つまり、ニューロンの帯のように、経路を構成するニューロンのネットワークで情報を表現する場合、金太郎飴のように一定のタイミングで同じパターンが入力され続け、さらにそれらがそのまま関連なくネットワークを伝わっていくなら、インパルスが通る経路はやはり単一の経路になってしまいます。入力口にあるパターンが入ったとき、同じパターンが入りつづけていたら同じ経路しか通らない。入力されたインパルスをそのままスッと次のニューロンに流してしまうようでは、時間軸を想定する意味はないのである。
【０１３７】
また、入力口の素子の数の組み合わせ以上のパターンは作れないわけであるから、たとえ素子がたくさんあったとしても、素子が表現できるパターンは入力口の数の組み合わせ以上は表現できないことになる。これでは時間軸を入れた意味が出てこない。時間軸を情報に仮定する意味を生かすには、時間軸の方向での情報に関連性をもたせる機構をネットワーク側に仮定する必要があり、それが不応期である。つまり、異なる時間軸上のパターンの間に関係を持たせることができれば、ある瞬間瞬間に入力されていくパターンの間にさらに関連性をもたせることが可能になり、結局情報を複雑にすることができる。
【０１３８】
もう少し説明すると、不応期を想定することは、固定される有限のニューロンに時間次元を入れることにより表現できる情報のバリエーションを増やすことにつながる。
【０１３９】
例えとしてまた表１の例を持ってきます。表２は表１のニューロンの隣に、あ、い、う、えのニューロンが存在し、その”え”のニューロンがＹにつながっていることを表している。
【０１４０】
【表２】
0004434599.tif 000009
表２において、Ａ−Ｂ−Ｃを伝ってきたインパルスがＤに入った場合は、そのままＸ、Ｙ両ニューロンにインパルスが通るとする。これでは、分かれ道の問題は解決できない。ここで、Ａ−Ｂ−Ｃ−Ｄの順に流れるインパルスの前に、あ−い−う−えを通ってＹから出力されるインパルスが通ったとする。ここで、例えば、インパルスが通ったあと一定時間続いて入力されるインパルスを無視する特徴（不応期）をニューロンＹに仮定して見る。
【０１４１】
そうすると、”あいうえ”のルートを通ってインパルスがＹに伝わることにより、一定時間ニューロンＹは入力を受け付けないような状態になる。その間に今度はＡ−Ｂ−Ｃのルートを伝ってインパルスがニューロンＤに到達したとする。ここで、Ａ−Ｂ−Ｃを伝ってきたインパルスがＤに入った場合は、そのままＸ、Ｙ両ニューロンにインパルスが通るとしているが、Ｙニューロンはその情報を無視することになる。
【０１４２】
そして、結局Ｘの方向のみにインパルスが流れることになる。つまり、時間軸を想定し、不応期のような性質をニューロンに想定することで、分かれ道の問題を解決できることになる。
【０１４３】
もう少しイメージしやすくするために、Ｙの不応期が１時間だったと考えてみると、”あいうえ”のルートからＹに入ったインパルスにより、１時間Ｙは反応しないわけである。１時間前にＹにインパルスが通っていたことなどつゆも知らない研究者は、ＡＢＣＤの経路を伝って流れてきたインパルスがＸの方向のみに流れる事実を観察することになる。
【０１４４】
これからすると、ＤとＹのニューロンをつなぐシナプスは、どうもインパルスを通さない特徴を持つんだ解釈してしまってもおかしくはない（もしかすると抑制性ニューロン、興奮性のニューロンという区別も見かけ上の区別である可能性があるわけで、実際は同一のニューロンの機能を持っているだけかもしれない、もちろん不応期の長さは違うかもしれない）。
【０１４５】
なおここで誤解しやすいことがあるので少し補足しておく。ＡＢＣＤ−ＸＹの分かれ道の問題を解決したといっても、”あいうえＹ”というニューロンの帯を加えたことにより可能になっているわけだから、単に増えたニューロンの（ＡＢＣＤＸＹあいうえ）の組み合わせで情報が表現されたことになるのではないかと考える方がいるかもしれないが、入力情報に時間軸を想定しなければ、そもそもＡと”あ”のニューロンから同時にインパルスが入ると考えなければならない。その入力を表現するニューロンは”ＡＢＣＤＸＹあいう”だが、そこからの出力は、ＸＹどちらのニューロンも発火している状態の情報しか出力されない。
【０１４６】
入力情報に時間軸を想定し、その時間軸の方向で情報を関連付ける不応期という特徴をもたせることにより初めて、複数のニューロンの組み合わせと、複数のニューロンの組み合わせの組み合わせを考えることが可能になるわけである。この考え方は、ひとつ情報を表現する次元を増やすことにより、有限のニューロンが表現できるニューロンの帯を増やすことに明らかにつながる。
【０１４７】
なお、不応期を仮定することで、入力される情報にまとまりをつけることもできるわけであり、従来の方法では、入力情報が入るかはいらないかという状態しか入力情報を扱えなかったが（表現できなかったが）、例えば、何もない状態からあるパターンが”現れる”という、動き（モーション）や変化の情報を同様に表現できるというメリットもある。
【０１４８】
この考え方を進めていけば、線や形や、色、におい、なども全て、一定時間の間に受容器に入力されるパターンの集合と捉えることになる。
【０１４９】
それはすなわち、私たち人間が認識している情報全てがモーションのような情報として捉えることになる。さらに、不応期のほかに、入力情報を複雑化させる方法として、金太郎飴のような情報を単位時間に分け、一定周期で一定の方向に入力刺激を振動させるなどの変換を行えば、さらに多様な情報をネットワーク上に弁別性を持たせて表現できるはずであるが、この考え方は、人間の眼球運動に対応する入力情報の変換であると思う。
【０１５０】
人間の眼球は１秒間に４、５回細かく振動しており（サッケードという）、つまり、人間も視覚刺激に関しては入力刺激を複雑化させているわけである。
【０１５１】
（Ｅ）情報を蓄える方法
いずれにせよ、入力情報に時間軸を仮定し、さらにニューロンに不応期のような時間に対して変化する特徴を想定することが、ニューロンの組み合わせで情報を最大限表現する方法のひとつになるはずである。なお、これまで説明した方法で表現された情報を、今度は蓄えるためには、ネットワーク自体の構造が情報を表す。つまり特定のニューロンの帯が特定されるようにニューロンのネットワークの構造がなっていればよいわけである。その際、ネットワークの構造を規定するのは、各ニューロンが次のニューロンへインパルスを伝えやすい程度、不応期の長さをインパルスがそのニューロンに入ってくるのに応じて変化させていくことである。今のところ、インパルスが通れば通るほど次のニューロンへインパルスを通しやすくする特徴を持たせることや、そのニューロンが不応期の状態になっているとき入ってくるインパルスの数、もしくは単純に入力されるインパルスの数などに応じてそのニューロンの不応期が変化するような機構が想定できる。それがネットワークの構造に情報を貯蔵することに対応するはずである。
【０１５２】
（Ｆ）不応期のもうひとつの意味：Ｕｚｕｍｅの処理を瞬時に実現するための方法
Ｕｚｕｍｅの処理を実現するためには、膨大な情報を蓄える方法とそれを全て利用する形で類似度や相互抑制の計算を瞬間的に行う方法を考えなければならない。
【０１５３】
そのためには、情報が蓄えられていなければならない。
【０１５４】
そのためには、情報が蓄えられている構造自体に処理の機能を持たせるなどの方策が必要である。
【０１５５】
ここで説明する内容は、上でこれまでに説明してきた不応期の必要性とは別の論理から導かれています。つまり、活性化−相互抑制という処理機構があるはずという前提から導かれたＵｚｕｍｅの処理の原理をより一般化させる方向で出てきた考えである。
【０１５６】
まず、Ｕｚｕｍｅの処理は類似度の計算、相互抑制、合成も全て、個々独立した情報源を仮定して全て行っている。
【０１５７】
つまり、個々の情報源は全て個別に蓄えられていることを前提としているわけである。しかし、それだけの情報を蓄える方法はともかく、それら全てを瞬間的に処理することは、蓄える情報が多くなるほど困難になるといわざるを得ない。
【０１５８】
そこで、もうひとつ、類似度、相互抑制、合成等の処理の対象となる情報について考えてみる。
【０１５９】
Ｕｚｕｍｅではどの情報源も同じセルの構造を仮定しており、つまり全ての情報の接点として存在するセルに活性化、相互抑制、合成などＵｚｕｍｅと同様の処理をさせることができれば、膨大な情報をいちいち取り出し、相互作用させる必要はないと考えた。そこで、Ｕｚｕｍｅのように全体を情報の単位として考える（全体抑制法と呼んでおきます）のではなく、セルを中心に、セルを最小単位にする形でＵｚｕｍｅの全体抑制と同様な処理を考えた。
【０１６０】
例えば、Ｕｚｕｍｅの全体抑制法の例では、３２ｘ３２のセルのパターンとして処理の対象を想定
しているが、今度は、１つのセルを中心に処理を考える。
【０１６１】
その方法として、１つのセルの周辺に隣接する一定の範囲のセルの集合を仮定しその範囲に限って、類似度、相互抑制、合成の計算を行い、一つ一つのセルを中心に処理を行い最終的にまとめてひとつのパターンを作り出すという方法である。具体的には、以下のように処理の範囲をそれぞれ想定して、その範囲ごとにＵｚｕｍｅと同様の処理（以下に少し説明する）をし、最終的に一つのパターンとしてまとめるわけである。
【０１６２】
・焦点範囲：最終的に処理の結果を反映させるセルの集合
・類似度の範囲：入力情報及び痕跡情報のそれぞれに対応する焦点範囲から一定の距離に含まれる近接したセルの集合
・活性化の範囲：同上
・抑制の範囲：同上
（Ｇ）セル抑制法の処理の概要
（１）類似度と活性化の計算
焦点範囲から一定距離離れているセルを含む領域を類似度の範囲とし、類似度をこの範囲のセルに限定して計算する（その際、距離が遠くなるほど類似度は小さくなるような関係を入れる）。
【０１６３】
なお、最小の類似度の範囲は１つのセル（この場合焦点領域も１つのセル）。
【０１６４】
最大の類似度の範囲は入力情報、各痕跡情報の全体である。
【０１６５】
一定の類似度の範囲の類似度が計算された後、その値をもとに活性化の程度が計算される。
【０１６６】
続いて、その活性化の程度を、各痕跡情報の全てのセルの内容（数値）に掛け合わせるのではなく、ここに焦点領域から一定の距離に含まれるセル（活性化の範囲）に限定して、活性化の程度とセルの内容を掛け合わせる。
【０１６７】
（２）相互抑制の計算
活性化の範囲と同様、焦点範囲から一定の距離にあるセルを抑制の範囲として、その範囲にあるセルに限って相互抑制の値を掛ける（抑制の値にも焦点範囲からの距離が小さいほど抑制が強くかかるようにする）。
【０１６８】
（３）合成の計算
一定の相互抑制が行われた後、各焦点範囲ごとに、重複される部分の値を全てまとめる。
【０１６９】
（Ｈ）類似度の計算「ＭＡＮ素子ネットワークによる情報処理の計算」
一番最初に示したネットワークによる情報の表現の考え方（ニューロンの帯の考え方）を、活性化、抑制、合成の範囲の考え方に当てはめてみる。
【０１７０】
入力情報と全ての痕跡情報の類似度をそれぞれ計算するという計算に対応するのは、入力情報の集合が入力されことによって、その情報が表現される”ニューロンの帯”を、それに似たニューロンの帯の中から特定することに対応する。ここでＭＡＮ素子の特徴として、入力されたインパルスを出力側の次の素子へ送るというものがあるります。この特徴は、言うなればその素子の後に続くニューロンの帯の中でその素子を構成要素とするニューロンの帯と似た帯を活性化することに対応する。
【０１７１】
その後のニューロンの帯は、その素子からでるインパルスによって規定されるわけであすから、類似したニューロンの帯を活性化させ、類似しない帯を活性化させないことに対応する。
【０１７２】
さらに、その素子にその後入力されるパターンに対しては、不応期が作用している。その際、その素子を発火させたパターンと非常に類似したパターンが入力されていたとすると、その素子が発火する前に、別の近くの素子からインパルスが入り、その素子の発火が阻害される確率が高まる。つまり、その素子の発火が抑えられるということは、その素子から作られるニューロンの帯の特定を阻害するわけである。結局、蓄えられているパターン（ａ）と似たパターン情報（ａ’）が入った場合、そのパターンａ’に対応するニューロンの帯が特定されるということは、そこで不応期を仮定すると、その帯との類似度によって、それ以外の帯が抑制されることになる。インパレスが入力されることに対応させて、不応期を変化させることにより、多数で膨大な情報を蓄積することができる。
【０１７３】
ＭＡＮ素子の特徴と上のセル抑制法の対応を説明すると、セル抑制法の活性化の範囲は、ＭＡＮ素子の出力側に主に設定されることに対応し、抑制の範囲はＭＡＮ素子の入力側に設定されることとほぼ同等になる。
【０１７４】
以上のことから、ＭＡＮ素子の特徴がセル抑制法と同様の処理を行うことにつながるはずである。
【０１７５】
この結果、不応期のような機能を過程することにより、Ｕｚｕｍｅで行っているような活性化、相互抑制、合成といった処理を実現できることになる。
【０１７６】
次に、ＭＡＮ素子ネットワークの具体的構築例を説明する。
【０１７７】
図１２は実施の形態３の概略構成図である。図１２に示す分析方法は、発火した後に一定時間又は一定の数のインパルスが入る間（総称して所定の条件という）、続いて入力される情報を受け付けないような素子を立体的につなぎ合わせたＭＡＮ素子のネットワーク１０を備えたものである。
【０１７８】
このＭＡＮ素子のネットワーク１０は、「０」、「１」的なインパルス情報を伝える素子であり、図１３に示すように、インパルスが入力されると、そのインパルスを入力口から出力口に伝えると同時に、その後一定時間、続いて入力されるインパルスを受け付けない。
【０１７９】
つまり、インパルスが入力するとそれを入力端から出力端に伝達するとともに、インパルスの入力に応答して不応期が変化するという特徴を有するものである。
【０１８０】
このような処理を実現するためにパターン前処理部１１は、ガウシアンフィルタ、シフト等の処理を行わないで以下に説明する処理を行う。
【０１８１】
図１４は本実施の形態３に用いるパターン前処理部１１の処理を説明する説明図である。
【０１８２】
例えば、図１４の（Ａ）に示す平面的な被処理パターンＰ（ｉ）が一定時間の間、連続して被処理パターン入力部２から入力すると、パターン前処理部１１はこれを蓄積する。つまり、図１４の（Ｂ）に示すように時間軸上に蓄積されるので、奥行き（Ｚ方向）を持った集合パターンＰ（ｉｚ）となる。つまり、奥行きが存在する。
【０１８３】
そして、この集合パターンＰ（ｉｚ）の各ブロックｐｈｉを図１４の（Ｃ）に示すように区切った後に、それぞれのブロックｐｈｉを図１４の（Ｄ）に示すように例えば±Ｙ方向（１セル分）にずらして（振動）、図１４の（Ｅ）に示すように合成する。
【０１８４】
この図１４の（Ｅ）に示す変化したパターンが入力情報パターンＰ（ｉｊ）となってＭＡＮ素子ネットワーク１０に入力する。
【０１８５】
図１５はＭＡＮ素子のネットワーク１０の処理を説明する説明図である。ＭＡＮ素子のネットワーク１０は図１５に示すように複数のＭＡＮ素子１０ａ、１０ｂ、…が連結されている。
【０１８６】
これらのＭＡＮ素子は、図１３で説明したように、０、１的なインパルス情報を伝える素子で、入力部、中心部、出力部からなり、２つの入力部からインパルスが入ると、中心部を介して２つの出力部から出る。
【０１８７】
また、入力したインパルスを通す次の素子へのルートを決定して、その素子に通した後に、次のインパルスが入力したときは上記の所定条件を満たした後に、そのインパルスを次の素子に通す。
【０１８８】
つまり、不応期等によるネットワーク自体のルートにおいて、情報が蓄えられていることになる。
【０１８９】
例えば、図１５に示すように変化を与えた入力情報パターンＰ（ｉｊ）が入力すると、１列目のＭＡＮ素子が各セルを入力情報として入力し、これらの入力情報がネットワーク自体に表現（蓄積）されている情報を所定範囲で活性化し、それと同時に、ネットワーク上の１列目のセルに近い範囲に限り、次の入力を抑制し、新しい出力を合成する。
【０１９０】
次に、２列目のＭＡＮ素子が１列目のＭＡＮ素子の出力を入力情報としてその素子の近い範囲で活性化し、同時に近い範囲で次の入力情報を抑制し、新しい出力を合成する。
【０１９１】
このような、処理が最終列まで繰り返される。また、その結果は、それ以前のＭＡＮ素子にフィードバックすることもある。
【０１９２】
つまり、ＭＡＮ素子のネットワーク１０というのは、図１６に示すように、複数のＭＡＮ素子が立体的に繋がりをもって配置され、インパルスが入力すると、このインパルスに刺激を受けたＭＡＮ素子が、そのインパルスに関与する次の素子への方向を決めて、そのインパルスに渡す。このような処理を最終列のＭＡＮ素子まで行う。これらのＭＡＮ素子のルートが入力情報に対して作り出したパターン（蓄積情報でもある）である。
【０１９３】
そして、次のインパルスが入力して１列目、２列目のまん中の素子が反応して３列目のまん中のＭＡＮ素子への方向を決めたとすると、３列目のまん中のＭＡＮ素子は、前回のインパルスを４列目のまん中のＭＡＮ素子に渡しているので、この４列目のＭＡＮ素子は、前回と同じＭＡＮ素子への方向を決定しないで、例えば４列目の下のＭＡＮ素子の方向に決定する。
【０１９４】
すなわち、次に入力するインパルスはこのＭＡＮ素子によって抑制を受けたことになる。
【０１９５】
従って、膨大で多様な入力情報を瞬時に分析できると共にその結果を一定時間、ＭＡＮ素子に蓄えて行くことが可能となる。
【０１９６】
なお、上記各実施の形態ではマウスを用いて入力情報を作成したが、マウスではなくデジタルカメラ、ＣＣＤカメラ等を用いて入力情報を生成してもよい。
【０１９７】
＜実施の形態４＞
以下にＣＣＤカメラを用いた例を実施の形態４として説明する図１７は実施の形態４の入力情報の分析装置の概略構成図である。図１７に示すように、本実施の形態４の入力情報の分析装置は、少なくとも、ＣＣＤカメラ２０と、３次元メモリ２１と、複写部２２と、入力情報振動部２３と、振動入力情報抽出部２４と、入力情報出力部２４と、ＭＡＮ素子ネットワーク部２５と、ＭＡＮ素子ネットワーク部２５と、認識部２６とを備えている。
【０１９８】
ＣＣＤカメラ２０は、垂直ｎ画素、水平ｉ画素のいわゆるｎ×ｉ画素で構成され、蓄積された信号電荷を順次出力（０、１パターン）する。
【０１９９】
三次元メモリ２１は、ＣＣＤカメラ２０からの二次元パターン（ｘ、ｙ）をｚ軸方向に積み重ねた三次元構造の入力情報Ｐ（ｉｊ）を得る。つまり、時間軸で纏められたパターンの集合を得ているので、異なる時間軸上のパターンの間に関係を持たせることができ、ある瞬間瞬間に入力されていくパターンの間にさらに関連性をもたせることが可能になり、結局情報を複雑にすることができる。
【０２００】
複写部２２は、三次元メモリ２１に一定数ｅの二次元パターンが蓄積される毎に、それぞれの二次元パターンを蓄積順ｈに従って後述するＸ−Ｙシフトレジスタに複写する。
【０２０１】
入力情報振動部２３は、垂直ｎ個、水平ｉ個の格子からなるＸ−Ｙシフトレジスタ３０（３０ａ、３０ｂ、３０ｃ、……）をｅ個備え、複写部２２からの二次元パターンを対応する順位のＸ−Ｙシフトレジスタ３０に複写する。
【０２０２】
例えば、ＣＣＤカメラ２０の二次元パターンが３×３列で構成されている場合は、７×３列のＸ−Ｙシフトレジスタ３０をｅ個備える。
【０２０３】
そして、３次元メモリ２１の多数の二次元パターンが図１７に示すように、複写部２２によって、Ｘ−Ｙシフトレジスタ３０（３０ａ、３０ｂ、…）の２番目３番目に４番目に複写されると、０発生処理３１が以下に説明する処理を行う。
【０２０４】
本説明ではＸ−Ｙシフトレジスタ３０ａ、３０ｂを例にして説明する。
【０２０５】
０発生処理３１ａは、初めのＸ−Ｙシフトレジスタ３０ａに対しては、最上位（７列目）の各格子に「０」を加える。これによって、Ｘ−Ｙシフトレジスタ３０ａは最上位から下位に向かって１個ずつシフトして行き、結果として２番目に「１；斜線」、３番目に「０：空白」、４番目に「１」が割り付けられることになる（図１４のＰｈ１を参照）。
【０２０６】
また、０発生処理３１ｂは、次のＸ−Ｙシフトレジスタ３０ｂに対しては、最下位（１列目）の各格子に「０」を加える。これによって、Ｘ−Ｙシフトレジスタ３０ｂは最下位から最上位方向に向かって１個ずつシフトして行き、結果として３番目に「１；斜線」、４番目に「０：空白」、５番目に「１」が割り付けられることになる（図１４のＰｈ２を参照）。
【０２０７】
そして、下位側に設けられたクリア処理３２ａがＸ−Ｙシフトレジスタ３０ａを最上位から下位に向かって１個ずつシフトしていったときに１番目から出る「０」をクリアする。
【０２０８】
また、上位側に設けられたクリア処理３２ｂがＸ−Ｙシフトレジスタ３０ｂを下位から上位方向に向かって１個ずつシフトしていったときに７番目から出る「０」をクリアする。
【０２０９】
すなわち、３次元メモリ２１に蓄積された二次元パターンの集合を垂直方向（水平、垂直でもかまわない）に振動させたことになる。
【０２１０】
入力情報出力部２４は、抽出処理３４と、３×３のＸ−Ｙレジスタ３５を備えて、入力情報振動部２３のＸ−Ｙシフトレジスタ３０（３０ａ、３０ｂ、…）の３列目から５列目の範囲の格子の値（０、１）を、そのまま対応する格子番号（アドレス）のＸ−Ｙレジスタ３５に順次抽出する。
【０２１１】
すなわち、振動させた入力パターンをＸ−Ｙレジスタ３５に順次得ることになるから、結果として、図１４の（Ｅ）に示す新たな入力情報を得ることになる。
【０２１２】
ＭＡＮ素子ネットワーク部２５は、図１２で説明したように、発火した後に一定の数のインパルスが入る間（総称して所定の条件という）、続いて入力される情報を次の素子へ伝えないようなＭＡＮ素子を立体的につなぎ合わせたネットワークであり、入力情報出力部２４のＸ−Ｙレジスタ３５の各格子と第１列のＭＡＮ素子とつながっている。このＭＡＮ素子は、例えば入力がしきい値より大きい場合は１（一定時間経過後）’、小さい場合は一定時間経過後に０を出力する。
【０２１３】
そして、このしきい値を個々の素子で変え、インパルスを出力しやすい素子やしにくい素子を同一入力面内に配置することで、出力情報をさらに複雑にすることもできる。これは、人間の網膜には、錐体細胞やかん体細胞、その他光エネルギーに対して、反応の速い細胞や遅い細胞が複数種あることに対応する。
【０２１４】
なお、ＭＡＮ素子の不応期を決定する具体的なしくみとしては、化学反応を利用する例が考えられる。つまり、ＭＡＮ素子の入力口に化学物質の層を設定し、入力する電気刺激により、化学反応が起こり、その化学反応によって電気刺激が次の素子へと伝わるような構造を想定する。化学反応が起こるためには、電気的な刺激以外に、反応に必要な物質が補給されたり、合成される必要がある。その合成にかかる時間を不応期に対応させられるわけである。
【０２１５】
さらに、合成に必要な物質の濃度を、入力する電気的刺激に対応させ変化させれば、電気刺激の通過頻度に対応して不応期を変化させることができる。これは人間のニューロンにおけるシナプス（シナプスどうしは実際物理的にはつながっていない）で起きている現象をＭＡＮ素子で実現する方法に対応する。
【０２１６】
なお、ＭＡＮ素子を立体的につなげたＭＡＮ素子ネットワーク部２５については、詳細に後述する。
【０２１７】
認識部２６は、ＭＡＮ素子ネットワーク部２５の出力結果を書き込む３次元メモリ３８を備え、ＭＡＮ素子ネットワーク部２５からの出力パターン（２値化データ）を、出力順に基づいて蓄積する。
【０２１８】
そして、合成処理３９がｅ個の出力パターンが蓄積される毎に、合成してパターンの合成結果を認識結果用のＸ−Ｙレジスタ４０に書き込む。前述の合成には、ＡＮＤ、平均加算等を用いる。尚、合成せずＭＡＮ素子ネットワーク２５からの出力結果をそのまま出力することもある。このような時間軸を伴ったその出力は、ブロック単位（フレームメモリ単位）に順次送出すると、人間の手足の動きなど、モーションを形成することに用いることができることになる。
【０２１９】
すなわち、ＭＡＮ素子ネットワークを通過したパターンが順次３次元メモリに蓄積されるので、時間軸で示すと図１５に示すように出力情報は立体的な構造を持つ。
【０２２０】
また、タイミングコントローラ４１は、Ｘ−Ｙシフトレジスタ３０を監視し、入力パターンがＸ−Ｙシフトレジスタ３０に複写される毎に０発生処理３１、クリア処理３２を起動させる。
【０２２１】
前述のＭＡＮ素子ネットワーク２５について説明を補充する。例えば、ＭＡＮ素子が図１８の（ａ）に示すようにつながっている状態で不応期が未設定（状態０）とする。
【０２２２】
図１８の（ａ）においては、全く結合していないＭＡＮ素子（○）も書いているが、単に説明を省略しているだけであり、他のＭＡＮ素子からの入力がある可能性もある。
【０２２３】
（学習１の成立）
例えば、パターンＲ（Ｏ，Ｐ，Ｑ，Ｒ＝０，０，０，１）が入力情報出力部２４の３×３のＸ−Ｙレジスタ３５に入力し、図１８の（ａ）の実線の経路を通り、Ｓｃに不応期が設定されたとする。
【０２２４】
この情報は、認識部２６の３次元メモリ３８に順次蓄積される。つまり、初めに図１８の（ａ）の実線で示すルートは３次元メモリ３８のフレームメモリ３７ａに記憶されるから図１８の（ｂ）に示すように、０１００の出力パターンとなる。
【０２２５】
すなわち、パターンＲが１度入力したことの影響はＳｃに蓄えられ（これを学習１が成立という）、三次元メモリ３８の１番目のフレームメモリには、パターンＲが通ったという結果だけが蓄えられたことになる。この場合は、パターンＲが初めての入力情報（初めての学習）のようなものになる。
【０２２６】
（学習２の成立）
例えば、図１８の（ｃ）に示すように、入力情報出力部２４のＸ−Ｙレジスタ３５に図１８の（ｃ）に示すようにパターンＱ（Ｏ，Ｐ，Ｑ，Ｒ＝０，０，１，０）が入力し、図の実線経路を通り、Ｓｂに不応期が設定されたとする。
【０２２７】
すなわち、パターンＱが１度入力したことの影響はＳｂに蓄えられ（これを学習２が成立という）、三次元メモリ３８の１番目のフレームメモリには、パターンＱが通ったという結果だけが蓄えられたことになる。この場合は、パターンＱが初めての入力情報（初めての学習）のようなものになる。このパターンＱの場合、Ｓｃの不応期の長さは変化させないわけであるから、パターンＲ（学習１）の影響はＳｃに独立して残っている。
【０２２８】
つまり、ＲとＱの２つのパターンを学習の効果が独立した形でＳｃ、Ｓｂに保存されることになる。これは、Ｕｚｕｍｅ処理で平面的なパターンＲとＱを独立した痕跡として保存することと同じ効果を蓄積したことになる。
【０２２９】
（パターン認識１：不応期を仮定しない場合）
学習１、学習２が成立した後（学習１、学習２を経験した後）にパターンＯ（Ｏ，Ｐ，Ｑ，Ｒ＝１，０，０，０）が入力情報出力部２４のＸ−Ｙレジスタ３５にｔ１，ｔ２と連続して入力したときは、Ｓｂ，Ｓｃに不応期がない場合は、ｔ１に対応するパターンＯ（Ｏ１のように呼ぶ）が入力すると、ＭＡＮ素子ネットワークにおいては、図中太線のようなニューロンの帯をインパルスが通り、出力パターンが出力される。さらにＯ２が続けて入力しても、不応期がなければ同じニューロンの帯を通り同じパターンが出力され、合成処理３９で３次元メモリ３８に蓄積された後に合成される。つまり、認識結果用のＸ−Ｙレジスタ４０に得られる合成パターンは（２，２，２，０）である。これは、学習１、学習２の影響を全く受けないこと、すなわち、パターンＲとパターンＱとの相互作用が全くないことを意味する。
【０２３０】
（パターン認識２−１；不応期を仮定した場合）
パターン認識１と全く同じパターンがｔ１，ｔ２にわたって入力する様子を、パターン認識２−１，２−２に分けて説明する。図１９の（ｂ）に示すように、Ｓｂ，Ｓｃに不応期が設定されているとする。ｔ１に対応するパターンＯ１が入力してインパルスが通過するニューロンの帯の経路は、図１９の（ｂ）に示す図中太線のように、パターン認識１の場合と全く同じであり、出力パターンも同様である。
【０２３１】
（パターン認識２−２；不応期を仮定した場合）
パターンＯ１が入力した後、パターンＯ２が入力した場合にインパルスが通るニューロンの帯を図１９の（ｃ）の太線に示した。ここではＳｂ，Ｓｃに不応期が設定されており、どちらもＯ１の通過により不応期に入っているため、Ｏ２は、Ｏ１とは異なる経路を通る。この経路は、学習１と学習２によって独立して蓄えられたパターンの影響を反映しており、新たに形成された経路（すなわちパターン）である。つまり、学習１、学習２という過去の経験と入力パターンの相互作用で、新たなパターン（ニューロンの帯）がＭＡＮ素子ネットワーク（脳内）に表現され、新たな出力パターンが出力（００１０）されることを意味している。これがすなわち人間でいうところの認識と考えることができる。
【０２３２】
（パターン認識２；不応期を仮定した場合のパターン認識２−１、２−２を纏めた場合）  Ｓｂ，Ｓｃに不応期を設定した状態で、パターン認識１と全く同じ入力パターンＯ１，Ｏ２が入力した場合のインパルスが通るニューロンの帯を示す（時間軸でまとめてみた場合を意味する）。パターン認識１とパターン認識２の出力パターンや合成出力パターンを比較すれば、異なるパターンが出力されることが分かる。
【０２３３】
パターン認識１とパターン認識２は、入力パターンは同じ
で、なおかつ発火するニューロンの組み合わせも同じである。ところが、不応期を設定することにより、異なる出力パターンおよび合成出力パターンは全く異なってきている。すなわちこれにより、発火するニューロンの組み合わせ以上の情報を表現することができ、かつその情報をパターン認識に利用できるわけである。ここで、学習２がなされず、Ｓｃに不応期が設定されなかった場合は、当然出力は変わってくる。
つまり、学習２でパターンＱを学習するかしないかという違いが、きちんと反映されるわけである。
【０２３４】
つまり、ＭＡＮ素子ネットワークを設け、各ＭＡＮ素子の不応期を想定し、インパルスの入力に対応して不応期を変化させることにより、非常に多様で膨大な学習の影響をネットワークに表現できることになる。蓄える情報の多様性にもう少し説明を加えれば、例えば、学習１、学習２の後、再度パターンＲが入力したことにより、Ｓｃの不応期が長くなった場合を考えてみる。その状態で、パターン認識するための入力パターンＯがｔ１、ｔ２、ｔ３、ｔ４と連続して入力した場合、出力されるパターンｔｎ、ｔｎ＋１、ｔｎ＋２、ｔｎ＋３で作られる全体のパターンは、Ｓｃの不応期が長くなる（短くなる）ことで変化する。
【０２３５】
これはパターンＲの入力回数に対して、出力パターンが変わることを意味し、単にパターンＲが入力した（学習した）という情報だけでなく、何度入力した（学習した）情報かという情報も表現できることを意味する。上記のような不応期を想定することにより、より多くの経路を得ると共に、新たな入力パターンが入力すると過去のパターンの学習の影響を反映した結果を出力パターン（３次元メモリのフレームメモリ３７ａ、３７ｂ、…）に得ることになる。つまり、非常に詳細な情報を表現し、蓄えることが可能になっているので認識の精度が向上する。
【０２３６】
ところで、詳細な情報を長期に蓄え表現させることのメリットは、Ｕｚｕｍｅで問題になっていた痕跡情報の蓄積が、数が多くなるほど難しくなることを解決してくれる。つまり、非常に詳細な情報を限られた素子の集合で表現し、その影響を蓄えることが容易になるわけである。なお、Ｕｚｕｍｅは蓄えられる痕跡情報と入力するパターンから、最も典型的なパターンを作り出す方法であるが、痕跡情報のバリエーションが限られれば出力されるパターンのバリエーションも限られてしまう。微細なパターンの違いを反映する典型的なパターンを出力するためには、わずかなパターンの違いを表現できなければならない。上記ＭＡＮ素子のネットワークの特徴は、多様で膨大な情報を蓄えその影響を反映させることができるわけである。言い換えれば、ＭＡＮ素子のネットワークにより、蓄積される過去の多様な学習経験の影響を蓄え、その効果を反映させたパターンを出力できるようになる。
【０２３７】
さらに、Ｕｚｕｍｅでは蓄えられた痕跡情報を利用し、活性化−相互抑制処理を行っているが、その処理自体も、以下に述べるように、ＭＡＮ素子のネットワークは担うことができる。
【０２３８】
（ＭＡＮとＵｚｕｍｅの関係）
入力刺激と痕跡との相互作用の一つの意味
まずはっきりさせておかなければならない点は、Ｕｚｕｍｅで例示した平面的なパターンは、ＭＡＮではニューロンの帯に置き換えられることである。
【０２３９】
図２１は、上述のパターン刺激Ｒ，Ｑに対応するパターンを、Ｕｚｕｍｅの手書き文字の画素の一つ一つに対応させた図である。手書き文字の最初のパターンを痕跡Ｒとすると、そのパターン情報の一部（パターンＲ）はそれに対応するニューロンの帯の不応期として蓄えられる。同様に、手書きのパターンの痕跡Ｑの一部のパターンＱに対応するニューロンの帯の不応期として同様に蓄えられる。
【０２４０】
この状態（痕跡が２つ蓄えられている状態）で、分析する刺激パターンＯが入力する様子を図２２に描いた。図中点線は過去のパターンの情報Ｒ，Ｑを表す。分析刺激が入ると、Ｒ，Ｑの不応期の素子Ｓａ，Ｓｂと刺激が相互作用し、分析刺激の経路が特定される。
【０２４１】
なお、この場合、ＳａとＳｂを不応期にする刺激は、もとの刺激Ｒ，Ｑである必要はない。それに類似した刺激が少し前に入力することにより（図には描かれていない経路で）不応期の状態になっていてもよい。
【０２４２】
次に、Ｕｚｕｍｅでは痕跡間の相互抑制が仮定されている。その一つの意味を図２３で説明する。図２３は、パターンＸ，Ｙが予め学習され、素子Ｃｘに不応期が設定され、更にＣｘが不応期に成っている状態で分析刺激Ｓが入力された場合を表す。
【０２４３】
まず、図２３のＸとＹの経路をみて、後の方の素子Ｃｚで同じ経路を共有していることを確認してもらいたい。
【０２４４】
まず、不応期がない場合にＳが入力するとどうなるかであるが、Ｃｘに入ったＳはＸの痕跡と同じ経路（Ｘの学習がなければ；不応期にならなければ）を通ってＣｚに入り、ＣｚからＹのパターンと一部同じ経路を通ることになる。これは、Ｘの学習と、Ｓ入力によりＹのパターン情報が一部活性化されたことに対応する。もちろんＳによってＹが直接活性化されることもある。
【０２４５】
ところが、Ｘの学習により不応期が設定され、それが機能している場合にＳが入力すると、ＣｘでＳの経路の一部は阻止されて、結果的にＣｚ以降のＹと類似した経路の活性化を妨げることになる。これがＭＡＮ素子ネットワークにおける痕跡間の相互抑制を意味することになる。
【０２４６】
（セル抑制法とＵｚｕｍｅ、ＭＡＮの関係）
ＭＡＮ素子のネットワークにおける情報は、複数のＭＡＮ素子で構成されるニューロンの帯をインパルスが通ることによって表現される。単純に考えるため、２つの素子Ｙ、Ｘがあったとすれば、ＹからＸにインパルスが通ることによってパターンが表現されるわけである。言い換えれば、ＸがＹによって発火するか否かで情報は表現され、逆に、Ｘが発火しているということは、Ｘを含む素子のパターン（Ｙ−Ｘというルート）が表現されたということを意味することになる。
【０２４７】
Ｘが発火すればパターンが生成できたことを意味することをおさえ、ＭＡＮ素子のネットワークをＵｚｕｍｅの処理との関係でとらえなおす。Ｕｚｕｍｅの処理では、最終的には、過去に蓄えられているパターンと入力パターンの間の相互作用の結果、ひとつのパターンが生成されれば良い。「ひとつのパターンが生成された＝Ｘの発火」であるから、Ｘの発火が規定される条件に、過去の痕跡パターンと入力パターンの間での活性化−相互抑制の処理が反映されればよいことになる。
【０２４８】
不応期を特徴とするＭＡＮ素子は以下のようにその処理を実際に行っている。ひとつのポイントは、素子Ｘが発火する確率は、その前の素子Ｙが発火しているか、抑制されているかによって決まる点である。
【０２４９】
以下、素子Ｘの発火がＭＡＮ素子のネットワークでは何に規定されているのかを説明する。
【０２５０】
●ニューロンの発火が何によって規定されるか
図２４の（ａ）にあるような、刺激のパターンに対応する素子（受容器）ｃ，ａ，ｂ，ｄ，ｅが図のように配置され（痕跡層１）、その奥の出力側に、素子ｘがあり、それにニューロンが結合されていたとする（痕跡層２、もしくは出力層）。
【０２５１】
（１）過去の学習
図２４の（ｄ）に素子の結合の様子の例を示した。ここではａｂｄｅの素子とｘの素子の距離は等しく、素子ｃはそれらの距離の２倍の距離であったとする。
【０２５２】
学習（１）
この状態で空間的な距離に配置された素子に、図２４の（ｂ）に示す学習（１）の入力（Ｐ）のようなパターンが入力したとする（ＰＬ１）と、素子ｂが発火し、ｘにインパルスを伝える。それと同時に、素子ｂに不応期が設定されたとする。
【０２５３】
すなわち学習（１）が成立したことになる。
【０２５４】
学習（２）
さらに、学習（２）の入力（Ｐ）のようなパターンが入力したとする（ＰＬ２）。
【０２５５】
素子ｃが発火し、ｘにインパルスを伝える。それと同時に、素子ｃに不応期が設定されたとする。すなわち学習（２）が成立したことになる。
【０２５６】
パターン認識
学習（１）、学習（２）の成立後、図２５にあるような、単位時間ごとに入力される入力刺激Ｐｔ１，Ｐｔ２がこの素子の２つの層に入力した場合に、痕跡層２の素子ｘが発火する可能性は何によって決まるのかを図２６を参照して説明する。なお、この説明では、同一のパターンが入力刺激として連続して入力したと考えている。また、図中ｔ１，ｔ２，ｔ３は、入力刺激が入力する単位時間に対応している。
【０２５７】
認識（１）
ｔ１の時点で入力刺激Ｐｔ１が入力すると、痕跡層１の対応する素子ａ，ｂ，ｃが発火し、そのインパルスのうち、素子ａ，ｂから伝わったインパルスのみｔ２の時点で痕跡層２の素子ｘを発火させる。また、ｔ１の直後、発火した素子のうち、学習（１）（２）で不応期が設定されている素子ｃと素子ｂは不応期に入る。
【０２５８】
認識（２）
続いてｔ２の時点まで入力刺激Ｐｔ２が入力すると、痕跡層１の対応する素子ａ，ｂ，ｃのうち、不応期になっていない素子ａのみが発火し、ｔ３の時点で痕跡層２の素子ｘを発火させる。この時、ｔ３の時点で、素子ｘを発火させる確率は、過去の学習がない時点で同じパターンが入力した場合よりも、素子ｂが発火しない分低くなる。それはすなわち、Ｐｔ１のパターンによって素子ｂが不応期になる確率に対応し、その確率はＰｔ１と過去の学習時に入力したパターンの類似度（Ｓ［Ｐｔ１−ＰＬ１］とする）に対応する。つまり、過去に学習がない状態で（何の制限もなく）Ｐｔ２の発火によって素子ｘが発火する確率から、学習（１）により素子ｂが発火しない確率（Ｓ［Ｐｔ１−ＰＬ１］）を引いたものに対応する。つまり、素子ｘの発火は、学習（１）によりＳ［Ｐｔ１−ＰＬ１］だけ抑制されることになる。
【０２５９】
このように、素子ｘの発火は、学習によって蓄積されたパターンと入力刺激の類似度の大きさに応じて抑制されることになるが、同様の計算は蓄積されている個々のパターンと入力刺激との間でそれぞれ同様に計算されることになり、その合計が素子ｘの発火を抑制する程度に対応する。……（イ）
これはすなわち、Ｕｚｕｍｅやセル抑制法の計算式に基づくと、Ｒ（ｉ）＝Ａ（ｉ）＋δＡ（ｉ）で示され、（イ）はこの式のδＡ（ｉ）に対応する。なお、このδＡはマイナスの値であり、Ａ（ｉ）は前回の活性度である。
【０２６０】
一方、素子ｂに不応期を想定しない条件で素子ｘが発火する確率は、入力刺激と素子（素子の前にある経路）の類似度に対応する。例えば、素子ｂの発火する確率はＳ［Ｐｔ２−ＰＬ１］になる。ここで素子ｂが不応期になっている場合となっていない場合の素子ｘの発火の可能性Ｐｘｂは、以下のようになる。
【０２６１】
Ｐｘｂ＝Ｓ［Ｐｔ１−ＰＬ１］−Ｓ［Ｐｔ２−ＰＬ１］
以下、省略のため、Ｐｘｂ＝Ｓ１［１］−Ｓ２［１］のように表す。
【０２６２】
同様に、痕跡層１にあるＮ個の素子のうち、任意の素子ｉが次の層の素子ｘを発火させる確率をＰｘｉとすれば、素子ｘが発火する確率Ｐｘは次の式で表される。
【０２６３】
Ｐｘ＝Σ（Ｓ１［ｉ］−ｆｉ（Ｓ２［ｉ］））
ただし、関数ｆｉ（ｘ）は素子ｉが不応期になっていなければ０を返す関数
ここで、入力刺激Ｐｔ１とＰｔ２が同じパターンであれば（Ｕｚｕｍｅのように）、Ｓ１（）とＳ２（）は等しくなり、それをＳ（）とすれば、Ｐｘは次のようになる。
【０２６４】
Ｐｘ＝Σ（Ｓ［ｉ］−ｆｉ（Ｓ［ｉ］））
不応期になっているか否かの関数は、各素子の不応期の長さ、時間軸における入力パターンの変化、ＭＡＮネットワーク素子の構造などによって規定されるが、ここでは、どの素子も不応期になる確率が等しいとして、その確率をＷとすれば、Ｐｘは次のように表現される。
【０２６５】
Ｐｘ＝Σ（Ｓ［ｉ］−Ｗ＊Ｓ［ｉ］）
＝ΣＳ［ｉ］−Ｗ＊ΣＳ［ｉ］
これは、Ｕｚｕｍｅにおける式５と同様の処理を意味する。
【０２６６】
素子ｘは、さらに、近隣の素子と共に、その後の痕跡層のあるひとつの素子の発火を同様にして規定することになる。この操作を繰り返すことにより、発火する素子が特定されていくことになり、発火した素子の集合がニューロンの帯に対応し、それがすなわち最終的に作り出されたパターンに対応する。
【０２６７】
素子ｘが発火すれば、その素子をニューロンの帯の一部とする過去の痕跡パターンが発火する（最終的に特定される）可能性が高まる。言い換えれば、素子Ｘをニューロンの帯の一部とするパターンと類似したパターンで形成される可能性が高くなるため、その発火の確率を既に存在する痕跡パターンの一つ一つに反映させ、それらを最終的にまとめてみれば最も特定される確率の高い典型的なパターンが特定できる。すなわち、最終的に形成されるパターンは、過去の痕跡パターンに素子ｊの発火の確率Ｐｊを掛け合わせたものの総体になる可能性が高まる。それは例えば次のように表される。
【０２６８】
Ｃ（ｊ）＝Σｊ  Ｐｊ＊Ｔ（ｉ，ｊ）
これは、Ｕｚｕｍｅにおける式６と同様の処理を意味する（式６で類似度ではなく活性度を使っているのは、それほど大きな意味はなく、類似度が重要なポイントになる）。
【０２６９】
さらに、入力パターンが入力し、ＭＡＮ素子のネットワークを通り、最終的に形成される経路（すなわち合成されるパターン）は、発火した全ての素子について、上記の合成を行った結果をまとめたものである可能性が高い。つまり、Ｃ（ｊ）を、全ての痕跡（素子）についてまとめたものになる。
【０２７０】
（２）類似度、活性化、抑制の範囲、および距離
入力刺激と痕跡層１の類似度によって痕跡層２の素子の発火の確率は決まるが、それ以外に、痕跡層１と痕跡層２の構造によってもその確率は変わってくる。つまり、痕跡層１の素子ａ，ｂ，ｃ，ｄ，ｅがすべて素子ｘと等距離にある場合は問題ないが、距離に違いがある場合は素子ｘ（＝焦点範囲）からの距離によって類似度の計算や抑制の計算を変える必要がある。
【０２７１】
一方、ｔ３の時点で素子ｘの発火は、素子ａ以外に、素子ｃから（１単位時間遅れて）入力してくる発火によっても引き起こされる。もし、素子ｃと素子ｘの距離が素子ａ，ｂ，ｄ，ｅと素子ｘとの距離と同じ場合は、タイムラグなく、素子ｃは素子ｂと同様素子ｘの発火を抑制する（学習（２）によって不応期が設定されているため）。ところが、素子ｃが２倍の距離離れている場合は、認識（２）の痕跡層２のように、ｔ３の時点では素子ｃの影響は、素子ｘを発火させる方向で作用するからである。
【０２７２】
この意味から、痕跡層１と痕跡層２の関係（類似した構造をもっているとすれば、痕跡層１内での相対的な距離関係）によって痕跡層２の素子ｘの発火は変化する。それを反映させるため、セル抑制法では類似度、活性化、抑制の範囲を個々に設け、そこに焦点範囲からの距離という概念を導入した。また、ここでいう距離は空間的な距離に限らず、パターン情報として表現できる全ての情報（意味など）について、存在するパターンの間の類似度をここでいう距離とみなしても良い。
【０２７３】
また、本実施の形態の分析方法を用いると認識装置、デザイン、パターン認知、典型的なパターン生成、感覚（熟知度、好み度）等の分野で応用できる。
【０２７４】
【発明の効果】
本発明の入力情報のパターン構造生成方法は、素子を立体的に所定間隔で複数繋げた素子ネットワークに、ｉ×ｎ個からなる被処理パターンを時間軸で集合化してブロック単位に区切った後に、これらのブロックをそれぞれ異なる所定方向（垂直方向）にずらした後に、各ブロックからｉ×ｎの範囲を順次抽出して蓄積し、この蓄積情報を新たな入力情報として前記素子ネットワークに送出する。
【０２７５】
この素子ネットワークの素子は入力する刺激（信号）に対して、その刺激に対して次に反応する方向の素子を決めると共に、一度刺激を受けた後は所定条件が満たされるまで、前回と同じ方向の素子への決定を停止する素子するものであり、これらを立体的に所定間隔で複数繋げている。
【０２７６】
このため、素子ネットワークに入力する入力情報は、被処理パターンに対して多種のパターンを得たことになる。これが前述の素子ネットワークに入力することにより、より多くの経路を得ると共に、新たな入力パターンが入力すると過去のパターンを学習した結果を出力パターンに得ることになる。そして、これらの出力パターン同士が合成されるので、認識の精度が非常に向上するという効果が得られている。
【０２７７】
このため、被処理パターンが多様で膨大であっても、人間と同様な感覚で処理できるという効果が得られている。
【図面の簡単な説明】
【図１】  本実施の形態１の入力情報の分析装置の概略構成図である。
【図２】  本実施の形態１の概念を説明する説明図である。
【図３】  本実施の形態１の具体例を説明する説明図である。
【図４】  本実施の形態１の具体例を説明する説明図である。
【図５】  本実施の形態１の活性度計算部、相互抑制処理部の詳細構成図である。
【図６】  類似度テーブルの説明図である。
【図７】  本実施の形態１のパターン合成部の具体例を説明する説明図である。
【図８】  本実施の形態１の処理の概要を説明する説明図である。
【図９】  実施の形態１の最終の痕跡情報同士の合計による効果を説明する説明図である。
【図１０】  実施の形態１における他の被処理パターンが入力したときの処理を説明する説明図である。
【図１１】  実施の形態２の説明図である。
【図１２】  実施の形態３の入力情報のパターン構築装置の概略構成図である。
【図１３】  実施の形態３のＭＡＮ素子の概念図である。
【図１４】  実施の形態３のパターン前処理部の動作を説明する説明図である。
【図１５】  実施の形態３のＭＡＮ素子のネットワークの構成を説明する説明図である。
【図１６】  実施の形態３のＭＡＮ素子のネットワークによるルートの生成を説明する説明図である。
【図１７】  実施の形態４の入力情報の分析装置の概略構成図である。
【図１８】  ＭＡＮ素子ネットワークを詳細に説明する説明図である。
【図１９】  ＭＡＮ素子ネットワークを詳細に説明する説明図である。
【図２０】  ＭＡＮ素子ネットワークを詳細に説明する説明図である。
【図２１】  ＭＡＮ素子ネットワークを詳細に説明する説明図である。
【図２２】  ＭＡＮ素子ネットワークを詳細に説明する説明図である。
【図２３】  ＭＡＮ素子ネットワークを詳細に説明する説明図である。
【図２４】  ＭＡＮ素子ネットワークを詳細に説明する説明図である。
【図２５】  ＭＡＮ素子ネットワークを詳細に説明する説明図である。
【図２６】  ＭＡＮ素子ネットワークを詳細に説明する説明図である。
【符号の説明】
２  被処理パターン入力部
３  パターン前処理部
５  活性度計算部
６  相互抑制部
７  パターン合成部
１０  ＭＡＮ素子のネットワーク
【図１】
0004434599.tif 000010
【図２】
0004434599.tif 000011
【図３】
0004434599.tif 000012
【図４】
0004434599.tif 000013
【図５】
0004434599.tif 000014
【図６】
0004434599.tif 000015
【図７】
0004434599.tif 000016
【図８】
0004434599.tif 000017
【図９】
0004434599.tif 000018
【図１０】
0004434599.tif 000019
【図１１】
0004434599.tif 000020
【図１２】
0004434599.tif 000021
【図１３】
0004434599.tif 000022
【図１４】
0004434599.tif 000023
【図１５】
0004434599.tif 000024
【図１６】
0004434599.tif 000025
【図１７】
0004434599.tif 000026
【図１８】
0004434599.tif 000027
【図１９】
0004434599.tif 000028
【図２０】
0004434599.tif 000029
【図２１】
0004434599.tif 000030
【図２２】
0004434599.tif 000031
【図２３】
0004434599.tif 000032
【図２４】
0004434599.tif 000033
【図２５】
0004434599.tif 000034
【図２６】
0004434599.tif 000035