(57)【特許請求の範囲】
【請求項１】
参照パターンと入力信号を比較参照し判定値を計算し、その大きさによって入力信号を認識する認識ユニットを複数並列に配したパターン認識装置において、
課題となるパターンが入力される入力装置と、
前記入力装置に入力された入力パターンを記憶した入力パターン保持装置と、
前記認識ユニットの参照パターンを構成するため、参照パターンの部分をなす部分参照パターンを記憶する部分参照パターン保持装置と、
前記部分参照パターン保持装置に保持された前記部分参照パターンを結合して参照パターンを構成する参照パターン組み換え装置とを有し、
前記認識ユニットの各々は、
前記参照パターン組み換え装置で生成された参照パターンを保持する参照パターン保持装置と、
前記入力パターン保持装置に保持され当該認識ユニットが認識すべきものとして指定される前記入力パターンと前記参照パターン保持装置に記憶された前記参照パターンとの比較参照を行い、前記入力パターンと前記参照パターンとの間の比較参照結果を示す判定値を計算する判定値計算装置と、
判定値計算装置で計算された判定値と、あらかじめ設定された閾値を比較し判定する判定装置と、
前記判定装置の判定に従い参照パターンを前記入力パターンで修正し、かつ、当該参照パターンに加えられる修正を前記部分参照パターン保持装置に記憶されている前記部分参照パターンに反映させる参照パターン変更装置とを有することを特徴とするパターン認識装置。
【請求項２】
前記入力パターン保持装置に記憶された入力パターンは、第１の認識対象の入力パターンの群および第２の認識対象の入力パターンの群の二群に分類され、前記第１の認識対象の入力パターンの群に含まれる各入力パターンはそれぞれ認識すべき少なくとも１つの認識ユニットに認識課題として対応付けられ、前記第２の認識対象の入力パターンの群に含まれる各入力パターンはすべての認識ユニットに認識課題として対応づけられ、かつ第１の認識対象の入力パターンに関する前記判定装置の閾値が第２の認識対象の入力パターンに関する前記判定装置の閾値を超えたものであることを特徴とする請求項１記載のパターン認識装置。
【請求項３】
前記参照パターン変更装置は、前記第１の認識対象の入力パターンの群に含まれる各入力パターンに対しては前記参照パターンを構成する前記部分参照パターンのすべてを前記入力パターンの該当部分で修正し、前記第２の認識対象の入力パターンの群に含まれる各入力パターンに対しては前記参照パターンを構成する前記部分参照パターンのうちの予め定められた配置にある一部の部分参照パターンのみを前記入力パターンの該当部分で修正することを特徴とする請求項２記載のパターン認識装置。
【請求項４】
参照パターンと入力信号を比較参照し判定値を計算し、その大きさによって入力信号を認識する認識ユニットを複数並列に配したパターン認識装置の学習方法において、
参照パターン組み換え装置が、前記認識ユニットの各々に対して、参照パターンの部分をなし部分参照パターン記憶装置に記憶されている部分参照パターンを結合して参照パターンを生成するステップと、
前記認識ユニットの各々の判定値計算装置が、課題となる入力パターンと前記参照パターンとを比較参照し判定値を計算する判定値計算ステップと、
前記認識ユニットの各々の判定装置が、前記判定値計算ステップで計算された判定値と、あらかじめ設定された閾値を比較し判定する判定ステップと、
前記認識ユニットの各々の参照パターン変更装置が、前記判定ステップの判定に従い参照パターンを前記入力パターンで修正し、かつ、当該参照パターンに加えられる修正を前記部分参照パターン保持装置に記憶されている前記部分参照パターンに反映させるステップとを有し、
入力されたパターンが、第１の認識対象の入力パターンの群に属する場合には、当該入力パターンに対応づけられた少なくとも１つの認識ユニットにおいて当該認識ユニットが当該入力パターンを認識するように当該参照パターンを当該入力パターンで修正し、入力されたパターンが、第２の認識対象の入力パターンの群に属する場合には、すべての認識ユニットにおいて当該認識ユニットが当該入力パターンを認識するように当該参照パターンを当該入力パターンで修正し、かつ第１の認識対象の入力パターンに関する前記判定装置の閾値が第２の認識対象の入力パターンに関する前記判定装置の閾値を超えたものであることを特徴とするパターン認識装置の学習方法。
【請求項５】
内部結合と入力信号との内積をとりその内積の値の大きさによって入力信号を認識するパーセプトロン装置を複数並列に配したパターン認識装置において、
課題となるパターンが入力される入力装置と、
前記入力装置に入力された入力パターンを記憶した入力パターン保持装置と、
前記パーセプトロン装置の内部結合を構成するため、内部結合の部分をなす部分内部結合を記憶する部分内部結合保持装置と、
前記部分内部結合保持装置に保持された前記部分内部結合を結合して内部結合を構成する内部結合組み換え装置とを有し、
前記パーセプトロン装置の各々は、
前記内部結合組み換え装置で生成された内部結合を保持する内部結合保持装置と、
前記入力パターン保持装置に保持され当該認識ユニットが認識すべきものとして指定される前記入力パターンと、前記内部結合保持装置に記憶された前記内部結合との内積を計算する内積計算装置と、
前記内積計算装置で計算された内積値と、あらかじめ設定された閾値を比較し判定する判定装置と、
前記判定装置の判定に従い内部結合を前記入力パターンで修正し、かつ、当該内部結合に加えられる修正を前記部分内部結合保持装置に記憶されている前記部分内部結合に反映させる内部結合変更装置とを有することを特徴とするパターン認識装置。
【請求項６】
前記入力パターン保持装置に記憶された入力パターンは、認識対象の入力パターンの群および非認識対象の入力パターンの群の二群に分類され、前記認識対象の入力パターンの群に含まれる各入力パターンは認識すべき少なくとも１つのパーセプトロン装置に対応付けられ、前記非認識対象の入力パターンの群に含まれる各入力パターンはすべてのパーセプトロン装置に対応づけられ、かつ第１の認識対象の入力パターンに関する前記判定装置の閾値が第２の認識対象の入力パターンに関する前記判定装置の閾値を超えたものであることを特徴とする請求項５記載のパターン認識装置。
【請求項７】
前記内部結合変更装置は、前記認識対象の入力パターンの群に含まれる各入力パターンに対しては前記内部結合を構成する前記部分内部結合のすべてを前記入力パターンの該当部分で修正し、前記非認識対象の入力パターンの群に含まれる各入力パターンに対しては前記内部結合を構成する前記部分内部結合のうちの予め定められた配置にある一部の部分内部結合のみを前記入力パターンの該当部分で修正することを特徴とする請求項６記載のパターン認識装置。
【請求項８】
内部結合と入力信号の内積をとりその内積の値の大きさによって入力信号を認識するパーセプトロン装置を複数並列に配したパターン認識装置の学習方法において、
内部結合組み換え装置が、前記パーセプトロン装置の各々に対して、内部結合の部分をなし部分内部結合記憶装置に記憶されている部分内部結合を結合して内部結合を生成するステップと、
前記パーセプトロン装置の各々の内積計算装置が、課題となる入力パターンと前記内部結合との内積を計算する内積計算ステップと、
前記パーセプトロン装置の各々の判定装置が、前記内積計算ステップで計算された内積値と、あらかじめ設定された閾値を比較し判定する判定ステップと、
前記パーセプトロン装置の各々の内部結合変更装置が、前記判定ステップの判定に従い内部結合を前記入力パターンで修正し、かつ、当該内部結合に加えられる修正を前記部分内部結合保持装置に記憶されている前記部分内部結合に反映させるステップとを有し、
入力されたパターンが、第１の認識対象の入力パターンの群に属する場合には、当該入力パターンに対応づけられた少なくとも１つのパーセプトロン装置において当該パーセプトロン装置が当該入力パターンを認識するように当該内部結合を当該入力パターンで修正し、入力されたパターンが、第２の認識対象の入力パターンの群に属する場合には、すべてのパーセプトロン装置において当該パーセプトロン装置が当該入力パターンを認識するように当該内部結合を当該入力パターンで修正し、かつ第１の認識対象の入力パターンに関する前記判定装置の閾値が第２の認識対象の入力パターンに関する前記判定装置の閾値を超えたものであることを特徴とする組み換え型パターン認識装置の学習方法。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
本発明は、広くはパーセプトロンに代表されるパターン弁別型の認識技術に関し、特に、免疫系の遺伝子組み換え機構等に見られる組み換え機構、あるいは、抗体の抗原と自己細胞の学習等に見られる学習機構を、人工ニューラルネットワークであるパーセプトロンに組み合わせることで、パーセプトロンを並列に利用しようとするときに持つ欠点を解消しようとするものである。
【０００２】
【従来の技術】
従来より生物の情報処理の仕組みをもとに、コンピュータの技術に活かそうとする試みが行われている。コンピュータは本来、生物の仕組みとは独立に考え出されたものであるが、コンピュータの進歩に伴い、人間は簡単に処理が可能であるが、コンピュータは不得意とする領域があることが分かってきた。
【０００３】
その中にあって人工ニューラルネットワークは、脳の神経細胞を摸した素子を多数組み合わせた最適化装置である。パーセプトロン型ニューラルネットワークは、入力信号をベクトル化し、内部結合ベクトルとの内積をとり、この内積の大きさによって入力信号を弁別する。この時、任意の組に弁別するように内部信号を修正するための学習則も見出されている。内部結合ベクトルが１種類であるパーセプトロンは単純パーセプトロンと呼ばれることが多い。単純パーセプトロンは、すべての入力ベクトルを分類できるわけではなく、線形分離可能と呼ばれる入力ベクトルしか分類できるようにはならない。
【０００４】
この課題に対して、パーセプトロンを、多層化することで、線形分離可能でない問題にも対応できるようになる。しかしながら、パーセプトロンをどのように実現するかによって、多層化は困難な場合がある。たとえば、近年、Ｌ．Ｍ．エイドルマン『ＤＮＡコンピュータで問題を解く』日経サイエンス、１９９８年１１月号２０ページ、に見られるようにＤＮＡコンピュータという技術が開発されている。この技術では、塩基配列の相補性によってパターン認識を行うことができるが、これは基本的に多層化は困難である。
【０００５】
さらに、パーセプトロンは脳神経系を単純化しているために、素子数を非常に大きくして使用することが前提となっているが、ＤＮＡコンピュータの例を見ても分かるように、素子数が少ない状況で使わざるを得ない場合がある。このときには、線形分離可能性の誤差が非常に大きくなる。この誤差は、パーセプトロンを並列に利用しようとするときには、誤差の積として計算されるためにさらに、大きくなってしまうという問題があった。
【０００６】
さらに、コンピュータそのものだけでなく、コンピュータが接続されたネットワークも、複雑化するに伴い、生物の振る舞いとの類似性が見出されている。たとえば、コンピュータウイルスは、データの複製機能と、メールによる伝達により、コンピュータ単体だけではなく、ネットワーク全体を破壊する。生物においても、ウイルスにより変化した細胞が、細胞分裂により増殖し、他の細胞も破壊し、さらには生体そのものを破壊してしまう。
【０００７】
このような、生物とコンピュータの対応から、脳神経系以外の生物の仕組みもコンピュータシステムや、ネットワークの技術に利用できるのではないかとか考えられるようになってきた。たとえば、前述したコンピュータウイルスでは、免疫系の働きが有効になるのではないかと考えられている。
【０００８】
生体の免疫系は、体内に進入した異物を認識し排除する機構である。免疫系において、異物を認識するために重要な役割を果たすのが、抗体である。抗体はアミノ酸の小さな分子であり、その形状で異物と結合する。その際、異物の全体を見るのではなく特徴的な部分と結合することができる。近年、Ｊ．Ｏ．ケップハート、Ｇ．Ｂ．ソーキン、Ｄ．Ｍ．チェス、Ｓ．Ｒ．ホワイト『コンピュータウイルスＶＳ．デジタル免疫系』日経サイエンス１９９８年２月号２０ページ、Ｓ．フォレスト、Ｓ．Ａ．ホフマイヤー、Ａ．ソマヤージ『Ｃｏｍｐｕｔｅｒ  Ｉｍｍｕｎｏｌｏｇｙ』Ｃｏｍｍｕｎｉｃａｔｉｏｎ  ｏｆ  Ｔｈｅ  ＡＣＭ、１９９７年１０月号８８ページに見られるように、免疫系の認識と排除のアルゴリズムを、コンピュータネットワークに応用すれば、コンピュータウイルス除去も可能なのではないかと考えられている。これが実現すれば、自動的にコンピュータウイルスが登録され、認識と除去を行う事ができると期待されている。
【０００９】
コンピュータシステムでは、ウイルスは、蛋白質ではなく、記号列で構成されている。したがって、パーセプトロン型のパターン認識を基本とすることができると考えられる。しかしながら、抗体と抗原の認識は、小さい部分を認識することが特徴的であるが、前述したように、内部結合のサイズが小さいパーセプトロンでは誤差が大きくなってしまう。さらに、抗体は分散並列的に認識を行うために、誤差が蓄積されてしまう。１つの抗原は、抗体のうちどれかが認識すれば良いが、逆に、１つでも認識に失敗してしまうと、生体そのものが、コンピュータではネットワーク全体が、破壊されるという危険性を含んでいるという問題があった。
【００１０】
特開平１０−１３４０２０号公報の『免疫と遺伝的アルゴリズムを組み合わせた最適化装置および免疫と遺伝的アルゴリズムを組み合わせた最適化プログラムを格納した記録媒体』は、免疫系の遺伝子組換の特徴を、遺伝的アルゴリズムと組み合わせ、遺伝的アルゴリズムの学習を効率的に行おうとするものである。しかしながら、前記先行特許文献は、パターンの学習能力を高める装置とは関係がない。
【００１１】
免疫系は、生体内の他の器官と異なり、中心となる臓器を持たない。免疫系の中心となるのは、リンパ球と呼ばれる細胞と、抗体と呼ばれる細胞である。リンパ球は、骨髄で生み出され、胸腺で教育されるが、その後は、血液中に分散し協調的に働いている。現在のコンピュータネットワークは多数のコンピュータを含んでおり、中枢としてのコンピュータが局所的に制御を行うより、免疫系のように分散的に制御を行うほうが適していると考えられている。
【００１２】
免疫系は、抗原と呼ばれる外来の異物を、アミノ酸５００個程度の小さなタンパク質の分子である抗体によって認識する。抗体は、抗原の働きを認識するのではなく、その表面の一部の形状や静電的性質に結合することで認識する。一部を見るだけで認識を行うことで、高速な処理を可能としている。この認識方式をコンピュータシステム上のプログラムコードの認識に応用すれば、コンピュータウイルスの高速な認識も可能になると考えられる。
【００１３】
しかしながら、コンピュータ上で行われる認識の方式に限らず、認識の部位が小さくなればなるほど誤差が大きくなってしまう。さらに免疫系のように分散的に認識を行うシステムでは、すべてのシステム要素が正常に働くことが要求され、誤差が積で働くために、誤差が拡大してしまうと言う課題があった。
【００１４】
さらに、分散的認識方式を、コンピュータウイルス除去のような問題に適用しようとすると、新たな課題が生じる。分散システムの各要素は、コンピュータウイルスを認識するが、一方、有効なプログラムは認識してはならない。認識しないためにも、各要素は有効なプログラムの情報を保持しなければならない。ある１つのコンピュータウイルスの情報は、どれかの要素が保持しておればよいが、有効なプログラムの情報は、すべての要素が持っていなければならない。このことは、抗体を生成するシステムにとっては大きな負荷となる。
【００１５】
さらに、前記文献Ｊ．Ｏ．ケップハート、Ｇ．Ｂ．ソーキン、Ｄ．Ｍ．チェス、Ｓ．Ｒ．ホワイト『コンピュータウイルスＶＳ．デジタル免疫系』日経サイエンス１９９８年２月号２０ページ、Ｓ．フォレスト、Ｓ．Ａ．ホフマイヤー、Ａ．ソマヤージ『Ｃｏｍｐｕｔｅｒ  Ｉｍｍｕｎｏｌｏｇｙ』Ｃｏｍｍｕｎｉｃａｔｉｏｎ  ｏｆ  Ｔｈｅ  ＡＣＭ、１９９７年１０月号８８ページに見られる方式では、コンピュータウイルスの特徴をあらかじめ記述しておく必要があり、プログラムがウイルスであることの判定は、被害後にしか行うことができなかった。このことはウイルスだけに注目していることに起因し、有効なプログラムであることが判定できなければ解決できない課題である。
【００１６】
【発明が解決しようとする課題】
本発明は、上述の事情を考慮してなされたものであり、素子数が少ない弁別装置、あるいは、特に、単純パーセプトロン型装置を並列に使い、パターン弁別を行う際に生じる、保持情報の増加を減少させること、および、弁別を高い精度で行うことを課題とする。
【００１７】
【課題を解決するための手段】
本発明は、免疫系が遺伝子組換により抗体を生成していることと、抗体の学習が抗原と抗体では独立に行われることに注目し、この仕組みを、パーセプトロンに代表されるパターン弁別の認識機械にとりいれたものである。
【００１８】
免疫系は、さまざまな抗原に対応するためにたくさんの抗体を用意しておかなければならない。それらの抗体の１つは、１つの遺伝子から作られるのではなく、複数の部分的な遺伝子の組み合わせで作られている。このように遺伝子を組み換えることで、かぎられた遺伝子から多数の抗体を作り出すことができるのである。また、抗体は自己の細胞を認識しないための学習は胸腺で行われ、その後、体内を循環する際に、抗原を認識するものだけが選択され生き残る仕組みになっている。自己の細胞の学習と抗原の学習を分けて行うことで、細胞の学習の効率化が期待される。
【００１９】
以下具体的に解決の手段を示す。まず、特定のパターンを認識するための手段を示す。パターン認識対象が入力されると、ランダムにパーセプトロンが１つ選ばれる。あるいは、この対応づけは順序付けて行っても良い。すべての入力パターンに対して、１つのパーセプトロンが対応づけられる。それぞれのパーセプトロンは独立でなく、２つあるいはそれ以上の内部結合群の組み合わせによって作られている。部分内部結合群が２つであり、１つの内部結合群に含まれる内部結合がＮであるとすると、Ｎの２乗個の内部結合が作られる。これらの内部結合の１つから、１つのパーセプトロンが構成される。学習は、これらのパーセプトロンが独立であるかように更新を行う。それぞれのパーセプトロンが、独立であると、１つのパーセプトロンに入力されるパターン群が線形分離不可能であると、すべての学習は行われなくなる。しかしながら、本発明によると、パーセプトロン間が相互作用し、その結果、線形分離不可能な課題も学習できることが期待される。
【００２０】
次に、パターンを２群に分類するための手段を示す。学習段階では、パターン認識対象が入力されると、パターンの種類によって２種類に分類される。以下の説明では、これらをそれぞれ自己細胞パターンと抗原パターンと記すことにする。抗原パターンが入力されるとランダムにパーセプトロンが１つ選ばれる。あるいは、この対応づけは順序付けて行っても良い。すべての抗原パターンに対して、１つのパーセプトロンが対応づけられる。それぞれのパーセプトロンは独立でなく、２つあるいはそれ以上の内部結合群の組み合わせによって作られている。部分内部結合群が２つであり、１つの内部結合群に含まれる内部結合がＮであるとすると、Ｎの２乗個の内部結合が作られる。これらの内部結合の１つから、１つのパーセプトロンが構成される。一方、自己細胞パターンの場合には、どれか特定のパーセプトロンと対応づけされること無く保持される。抗原の学習は、これらのパーセプトロンが独立であるかように対応づけられたパーセプトロンに対して更新を行うが、自己細胞の学習は、１つのパーセプトロンはすべての自己細胞パターンに対して内部結合の更新を行う。このとき更新は１つの内部結合群のみで行うこととする。これらの２段階の学習で生成された内部結合は、自己細胞と抗原の弁別を可能にする。
【００２１】
なお、本発明の上述の側面および本発明の他の側面は特許請求の範囲に記載され、以下に詳述される。
【００２２】
【発明の実施の形態】
図１は、本発明の構成例の概略を示す図であり、図２は、図１の各部を詳細に示したシステム図である。本構成例においては、パターン認識課題が、入力装置１０を通して入力され、入力パターン保持装置２０に記憶される。このとき、入力パターンは、複数のパーセプトロン３０、３１、３２…の１つと対応づけられる。入力パターン保持装置２０に記憶される入力パターンは、成分が１と−１からなる入力パターンを表すベクトルである。図３にその一例を示す。部分内部結合保持装置４０には、２つあるいはそれ以上の部分内部結合群が記憶されている。それぞれの部分内部結合群には、複数の部分内部結合を含んでいる。それぞれの部分内部結合群が含む部分内部結合は異なる数であっても良い。この数をＬ１、Ｌ２、Ｌ３…とする。内部結合組み換え装置５０は、部分内部結合保持装置に記憶された部分内部結合群の中から、１つずつ部分内部結合を取り出し、それらを組み合わせて、１つの内部結合を作る。結局、Ｌ１×Ｌ２×Ｌ３×…個の内部結合が生成され、それぞれが１つのパーセプトロンの内部結合となる。
【００２３】
入力パターンとこれらのパーセプトロンの１つと対応付けられる。この対応づけは、各パーセプトロンに均等に行われ、入力パターン保持装置２０に入力パターンとともに記憶される。１つのパーセプトロン３０の内積計算装置３０１…では、入力パターンが１つずつ順に選択され、入力パターンの入力ベクトルと、内部結合の内積が計算される。判定装置３０２…では、内積計算装置３０１…に格納されていた閾値と比較される。閾値より大きい場合は１、小さい場合は０と判定される。この値は、入力パターンの番号と、パーセプトロンの番号とともに、判定装置３０２…に記憶される。図４にその一例を示す。この内積計算は、すべてのパターンに対して内積計算が行われる。判定値が０のパーセプトロンは対応する入力パターンに対し、内部結合が、内部結合変更装置３０３…により更新される。更新に使われる学習則は、たとえば２つの部分内部結合を組み合わせ、前半部をμ番目と後半部をν番目であるとして、記号ではＩμｉとＪνｊで表すことにして、ε番目の入力パターンをξεｉで表すと、次の式で表現される。
【数１】
0003925087.tif 000002
ｉは、内部結合と入力パターンの成分を表している。また、ηは、学習率を表すパラメータである。これを、すべてのパーセプトロンについて行い、繰り返すことですべてのパターンに正しく反応できるようになる。
【００２４】
パターン弁別課題に対しては、システム構成はパターン認識課題と同様であり、本構成例の概略を示す図は図１であり、システム図は図２と同様である。パターン分離課題は、入力装置１０を通して入力されるが、パターン弁別課題に対しては、自己細胞パターンと抗原パターンに分けられ入力パターン保持装置２０に記憶される。このとき、抗原パターンは、複数のパーセプトロン３０、３１…の１つと対応づけられる。自己細胞パターンは特定のパーセプトロンとは対応づけられない。入力パターン保持装置２０に記憶される入力パターンは、成分が１と−１からなる入力パターンを表すベクトルである。図５にその一例を示す。識別符号は、パターンを分離するための符号であり、この説明では、抗原パターンは＋１で、自己細胞パターンは−１で表しておく。部分内部結合保持装置４０には、２つあるいはそれ以上の部分内部結合群が記憶されている。それぞれの部分内部結合群には、複数の部分内部結合を含んでいる。それぞれの部分内部結合群が含む部分内部結合は異なる数であっても良い。この数をＬ１、Ｌ２、Ｌ３…とする。内部結合組み換え装置５０は、部分内部結合保持装置に記憶された部分内部結合群の中から、１つずつ部分内部結合を取り出し、それらを組み合わせて、１つの内部結合を作る。結局、Ｌ１×Ｌ２×Ｌ３×…個の内部結合が生成され、それぞれが１つのパーセプトロンの内部結合となる。
【００２５】
入力パターンの内の識別符号＋１をもつ抗原パターンとこれらのパーセプトロンの１つと対応付けられる。この対応づけは、各パーセプトロンに均等に行われ、入力パターン保持装置に入力パターンとともに記憶される。一方、識別符号−１を持つ自己細胞パターンは特定のパーセプトロンとは対応付けされないために、対応関係は記録されない。３０の内積計算装置では、入力パターンが１つずつ順に選択され、入力パターンの入力ベクトルと、内部結合の内積が計算される。この時、抗原パターンは対応づけられたパーセプトロンの内部結合との内積が計算される。一方、１つの自己細胞パターンはすべてのパーセプトロンの内部結合との内積が計算される。判定装置では、内積計算装置に格納されていた閾値と比較される。抗原パターンの場合、抗原閾値θ＋より大きい場合は１、小さい場合は０と判定される。また、自己細胞パターンの場合は、自己細胞閾値θ―より大きい場合は０、小さい場合は１と判定される。抗原閾値θ＋は自己細胞閾値θ＋より大きい値を取るが、これらが近い値であると、閾値付近で誤りが多くなる。差が大きいと正確な判定が可能となるが記憶容量は小さくなる。この判定値は、入力パターンの番号と、パーセプトロンの番号とともに、判定装置に記憶される。図６にその一例を示す。この内積計算は、すべてのパターンに対して内積計算が行われる。判定値が０の入力パターンのパーセプトロンの内部結合が更新される。
【００２６】
抗原パターンに対して更新に使われる学習則は、たとえば２つの部分内部結合を組み合わせ、前半部をμ番目と後半部をν番目であるとして、記号ではＩμｉとＪνｊで表すことにして、ε番目の入力パターンをξεｉで表すと、次の式で表現される。
【数２】
0003925087.tif 000003
ｉは、内部結合と入力パターンの成分を表している。また、ηは、学習率を表すパラメータである。
【００２７】
自己細胞パターンに対して更新に使われる学習則は、すべての内部結合成分に対して行われるのではなく、部分内部結合に対してのみ行われる。
【数３】
0003925087.tif 000004
すべてのパターンに対し行い、繰り返すことですべてのパターンに正しく反応できるようになる。
【００２８】
【実施例】
［実施例１］
以下図面と共に、本発明の実施例を説明する。ます実施例１について説明する。図７に示すように、要素が１と−１からなる長さ２００のベクトルが４０００個あり、これらのベクトルを入力すると反応する装置を構成することが課題である。長さ２００のベクトルを認識するためのパーセプトロンは、理論的に４００個のベクトルを認識することが知られている。したがって、１０個のパーセプトロンを並列におき、すべてに入力パターンを入力しどれかのパーセプトロンが反応するように構成すれば良い。しかしながら、ベクトルの長さが２００では、認識誤差が大きく、さらに並列に構成されているために。実験の結果では、３６００個程度しか認識できないことが分かっている。
【００２９】
図８に、本発明の実施例における学習の動作の流れを示す。学習されるべきパターンの組が入力されると、各パターンは学習を担当するパーセプトロンと対応づけられる（Ｓ１０）。各パーセプトロンは、部分内部結結合を表す番号の組で表される。この例では、前半部をμ、後半部の内部結合をνで表している。次にこの内部結合と、対応するパターンの内積をとり、出力が負であれば学習則にしたがって内部結合を更新する（Ｓ１１〜Ｓ１７）。この実施例では閾値を０としている。このとき、内部結合の更新は、部分内部結合保持装置４０に保持された値にも反映させる。１つの内部結合に対しパターンの内積をとりすべての担当パターンが終了すれば、次の組み換えた内部結合を取り出し、同様の動作を繰り返す（Ｓ１６、Ｓ１６、Ｓ１９）。すべての内部結合が終了したときに、すべての内積が正であれば学習は終了である（Ｓ２０）。
【００３０】
図９に、本発明の実施例における認識の動作の流れを示す。認識されるべきパターンが入力されると、部分内部結合保持装置に記憶された、部分内部結合が組み換えられて１つの内部結合が作られる（Ｓ３０）。これと入力パターンの内積をとり（Ｓ３１）、正であればパターンは認識されて終了である（Ｓ３２、Ｓ３３）。仮に負であると、次の組み合わせで内部結合が作られ内積を計算する。この内積の正のものが得られるまで、組み合わせを変えて実行する。仮に、すべての組み合わせで正にならなかったものは、認識不能として判定され終了する（Ｓ３４、Ｓ３５）。
【００３１】
本発明を適用して、内部結合を組み換え型にすることで、実験では４０００個のパターンを認識することができている。組み合わせの数は、実験では２で行っているが３でも同じ結果を示している。しかしながら、さらに部分内部結合の長さを短くしていくと、部分内部結合が１に近くなると、部分内部結合としての意味を待たなくなることが予測される。したがって、２あるいは３が最適であると見込まれる。
【００３２】
図１０がこの実験結果を示したグラフである。ｍは、各部分内部結合の大きさである。この実施例ではｍ＝１０の場合に相当する。縦軸が記憶パターン数である。内部結合の更新回数を多くすると、より多くのパターン数が記憶できるが、本発明を実施していない場合に大きな変化はない。これらの結果により本発明が有効であることが示される。
【００３３】
［実施例２］
以下図面と共に、本発明の実施例２を説明する。図５に示すように、要素が１と−１からなる長さ２００の自己細胞パターンに対応するベクトルが２０個あり、また、同じ長さ２００の抗原パターンに対応するベクトルがある。抗原パターンを入力すると反応し、自己細胞パターンを入力しても決して反応しない装置を構成し、抗原パターンの認識数を最大にすることが課題である。長さ２００のベクトルを認識するためのパーセプトロンは、閾値が０の場合、理論的に４００個のベクトルを認識することが知られている。たとえば、１０個のパーセプトロンを並列におき、すべてに抗原パターンを入力しどれかのパーセプトロンが反応するように構成するとする。この時、すべてのパーセプトロンは、自己細胞パターンに対し内積が閾値より小さくなるように反応しなければない、したがって、自己細胞分を差し引き、各パーセプトロンは、３８０個の抗原を認識する。すなわち、分散的に認識しようとすると自己細胞はすべてのパーセプトロンの記憶能力の一部を消費することになる。さらに、ベクトルの長さが２００では、認識誤差が大きく、並列に構成されているために。実験の結果では、１個のパーセプトロンあたり３６０個程度しか認識できないことが分かっている。この誤差の増加は、組み換えを導入することで回避されることが知られているが、見かけ上のパーセプトロンの数を増やすために、自己細胞パターンに対する負荷も増加してしまう。
【００３４】
図１１および図１２に、本発明の実施例における学習の動作の流れを示す。学習されるべきパターンの組が入力されると、自己細胞パターンと抗原パターンに分けられる。
【００３５】
図１１は自己細胞の学習の流れを表している。各パーセプトロンは、部分内部結結合を表す番号の組で表される。この例では、前半部をμ、後半部の内部結合をνで表している（Ｓ４０）。自己細胞パターンは、すべてのパーセプトロンの内部結合と内積をとり、自己細胞閾値θ＋より内積が大きければ学習則にしたがって後半部の部分内部結合を更新する。このとき、部分内部結合の更新は、部分内部結合保持装置４０に保持された値にも反映させる（Ｓ４１〜Ｓ４５）。１つの自己細胞パターンに対し、内部結合との内積をとりすべての内部結合が終了すれば（Ｓ４６、Ｓ４７）、次自己細胞パターンを取り出し、同様の動作を繰り返す（Ｓ４８、Ｓ４９、Ｓ５０）。
【００３６】
図１２は、抗原パターンの学習の流れを表している。抗原パターンは学習を担当するパーセプトロンと対応づけられる（Ｓ５１）。各パーセプトロンは、部分内部結結合を表す番号の組で表される。この例では、前半部をμ、後半部の内部結合をνで表している。次にこの内部結合と、対応する抗原パターンの内積をとり、出力が負であれば学習則にしたがって内部結合を更新する（Ｓ５２〜Ｓ５５）。このとき、内部結合の更新は、部分内部結合保持装置４０に保持された値にも反映させる。１つの内部結合に対し抗原パターンの内積をとりすべての担当する抗原パターンが終了すれば、次の組み換えた内部結合を取り出し、同様の動作を繰り返す（Ｓ５６、Ｓ５７、Ｓ５８、Ｓ５９）。自己細胞パターンに対してはすべての内部結合との内積が自己細胞閾値より小さくなり、すべての抗原パターンに対しては対応する内部結合との内積が抗原閾値より大きくなったときに学習は終了である（Ｓ５０、図１１）。
【００３７】
図１３に、本発明の実施例における認識の動作の流れを示す。認識されるべきパターンが入力されると、部分内部結合保持装置４０に記憶された、部分内部結合が組み換えられて１つの内部結合が作られる（Ｓ６０）。これと入力パターンの内積をとり（Ｓ６１）、抗原閾値より大きければ抗原パターンと認識されて終了である（Ｓ６２、Ｓ６３）。自己細胞閾値より小さい場合は自己細胞パターンと認識されてこれも終了する（Ｓ６２、Ｓ６４）。自己細胞閾値と抗原閾値の間であれば、次の組み合わせで内部結合が作られ内積を計算する（Ｓ６２、Ｓ６５）。さらに行い、すべての内部結合に対して、自己細胞パターンとも抗原パターンとも認識されない場合は、認識不能として判定され終了する（Ｓ６６）。
【００３８】
本発明を適用することにより、自己細胞に対する学習を部分内部結合に限定し、内部結合を組み換え型にすることで、実験では自己細胞パターンに対する負荷を減少することができている。実験では、組み合わせの数は、実験では２で行っている。また、自己細胞パターンを学習する部分内部結合の数は、他の部分内部結合の数より少なくすることでより効果的に学習が進んでいる。
【００３９】
［実施例３］
本発明を、コンピュータネットワークにおけるウイルス検知と除去に適応した実施例を、図と共に説明する。図１４は、ウイルス検知と除去システムの概念図である。大きく管理システム６０とコンピュータネットワーク７０上の認識プログラム７０１から構成される。認識プログラム７０１は、本発明における認識装置を含んでいる。認識プログラム７０１は、コンピュータネットワーク７０上を巡回し、コンピュータ内のプログラムデータを認識する。本発明によれば、認識プログラムは、プログラムデータを公正なプログラム７０２、未知のプログラム７０３、不正なプログラム７０４の３種に分類することができる。このうち、公正なプログラム７０２であれば、認識プログラム７０１は何も実行せず、他のプログラムデータの認識に取り掛かる。不正なプログラム７０４の場合は、コンピュータの使用者に通知し、不正なプログラム７０４の実行を一時停止する。また、未知のプログラム７０３の場合は、管理システム６０にプログラムデータのコピーを送る。この時、使用者への連絡、一時停止も可能である。管理システム６０は、解析システム６０１、認証システム６０２、ワクチン作成システム６０３を含んでいる。管理システム６０は解析システム６０１により、未知のプログラム７０３のデータを解析し、公正なプログラム７０２であるか不正なプログラム７０４であるかを判定する。公正なプログラム７０２であれば認証システム６０２に登録し、認識プログラム７０１を書き換え、コンピュータネットワーク７０上に配布する。一方、不正なプログラム７０４であれば、ワクチン作成システム６０３は、不正なプログラム７０４として認識プログラム７０１を書きかえる。
【００４０】
従来のコンピュータウイルスチェックシステムは、不正なプログラムを解析し、登録することでワクチンプログラムを作成していた。このような従来の方法では、登録されている以外はすべて有効なプログラムとみなされてしまうために、未知のウイルスプログラムが、被害を起こしてからはじめて解析されるのが通常であった。免疫系を利用したＪ．Ｏ．ケップハート、Ｇ．Ｂ．ソーキン、Ｄ．Ｍ．チェス、Ｓ．Ｒ．ホワイト『コンピュータウイルスＶＳ．デジタル免疫系』日経サイエンス１９９８年２月号２０ページにおいても同様である。本発明では、有効なプログラムの認識をとりれているために、未知のプログラムの検出が可能となり、被害が発生する前に解析が可能である。
【００４１】
【発明の効果】
上述のように、本発明の組み換え型パターン認識装置によれば、多数の短いパターンベクトルを認識する際に、認識誤差を少なくすることが可能である。特に、これらは、パーセプトロンを並列に組み合わせた場合に有効であり、並列度がより高い場合に、より高い効果を得られることができる。
【００４２】
コンピュータウイルスの認識への例を考える時に、コンピュータネットワークに存在する多数のウイルスは高速に認識されなければならない。本発明では、短い認識部位を並列的に認識することが可能となり、高速に認識する効果があると考えられる。さらに、弁別性能が向上し、有効なプログラムとの判別も可能となる。
【図面の簡単な説明】
【図１】  本発明の構成例の概略を示す図である。
【図２】  本発明の構成例の詳細を示すシステム構成図である。
【図３】  パターン認識課題に対して入力パターン保持装置に記憶された入力パターンの一例を示す図である。
【図４】  パターン認識課題に対して判定装置で計算され保持される判定データの一例を示す図である。
【図５】  他のパターン識別課題に対して入力パターン保持装置に記憶された入力パターンの一例を示す図である。
【図６】  他のパターン識別課題に対して判定装置で計算され保持される判定データの一例を示す図である。
【図７】  各実施例における入力パターンとパーセプトロンとの対応を説明する図である。
【図８】  パターン認識課題に対する実施例１の学習の動作を示すフローチャートである。
【図９】  パターン認識課題に対する実施例１の認識の動作を示すフローチャートである。
【図１０】  実施例１の実験データを説明する図である。
【図１１】  パターン識別課題に対する実施例２の自己細胞の学習の動作を示すフローチャートである。
【図１２】  パターン識別課題に対する実施例２の抗原の学習の動作を示すフローチャートである。
【図１３】  パターン識別課題に対する実施例２の認識の動作を示すフローチャートである。
【図１４】  本発明をコンピュータウイルスの検知と除去の課題に適用した実施例３を説明する図である。
【符号の説明】
１０      入力装置
２０      入力パターン保持装置
３０      パーセプトロン
４０      部分内部結合保持装置
５０      内部結合組み換え装置
６０      管理システム
７０      コンピュータネットワーク
３０１      内積計算装置
３０２      判定装置
３０３      内部結合変更装置
６０１      解析システム
６０２      認証システム
６０３      ワクチン作成システム
７０１      認識プログラム
【図１】
0003925087.tif 000005
【図２】
0003925087.tif 000006
【図３】
0003925087.tif 000007
【図４】
0003925087.tif 000008
【図５】
0003925087.tif 000009
【図６】
0003925087.tif 000010
【図７】
0003925087.tif 000011
【図８】
0003925087.tif 000012
【図９】
0003925087.tif 000013
【図１０】
0003925087.tif 000014
【図１１】
0003925087.tif 000015
【図１２】
0003925087.tif 000016
【図１３】
0003925087.tif 000017
【図１４】
0003925087.tif 000018