(57)【要約】【課題】パターン変形により特徴が変動したパターンを安定に認識するパターン認識方法及びその装置及びそのプログラムを格納した記憶媒体を提供する。【解決手段】  入力パターンの特徴と標準パターンの特徴から計算して得られる近さの尺度を昇順に並べ替えて出力される候補列において、各候補と該候補の有する尺度とを用いて認識の確信度の判定を行い、予め定められた判定条件を満足する場合は前記尺度を用いた識別を行い、前記判定条件を満足しない場合は予め定められた選択法により得られた候補集合を対象として特徴変動の傾向を学習した特徴量修正回路により入力パターンの特徴量の修正を行った特徴を出力し、該特徴と前記候補の標準パターンの特徴を用いて再度近さの尺度の計算を行い該尺度を用いて判定するフィードバック認識を繰り返す。【選択図】    図1
2007257248.tif 000002
【特許請求の範囲】
【請求項１】
入力パターンの特徴と標準パターンの特徴から計算して得られる近さの尺度を用いて前記入力パターンの属するカテゴリを前記尺度の昇順に候補列として出力するパターン認識方法において、
前記候補列の各候補と該候補の有する尺度とを用いて認識の確信度の判定を行い、予め定められた判定条件を満足する場合は前記各候補と該候補の有する尺度を認識結果とし、
前記判定条件を満足しない場合は予め定められた選択法により得られた候補集合を出力し、
出力された候補集合の各候補が正解カテゴリであると仮定して入力パターンが正解カテゴリの標準パターンに近づくように該入力パターンの特徴量の修正を行い、
前記修正された特徴量と前記候補の標準パターンの特徴量との間で近さの尺度の計算を再度行い、該尺度の昇順の候補列を求め、該候補列の各候補と該候補の有する尺度とを用いて認識の確信度の判定を行う手順を繰り返すフィードバック認識機構と、
を有することを特徴とするパターン認識方法。
【請求項２】
前記判定条件は、前記候補列の第1位候補が予め定められた判定用カテゴリ集合の要素の何れにも該当しないことを特徴とする請求項１記載のパターン認識方法。
【請求項３】
前記判定条件は、前記候補列の第1位候補の尺度と第２位候補の尺度との差が予め定められた値より大きいことを特徴とする請求項１記載のパターン認識方法。
【請求項４】
前記判定条件は、前記候補列の第1位候補の尺度に対する第２位候補の尺度の比が予め定められた値より大きいことを特徴とする請求項１記載のパターン認識方法。
【請求項５】
前記候補集合は、累積分類率が閾値以上となる候補数をカテゴリ毎に登録することにより作成された候補数テーブルにおいて、前記候補列の第1位候補の指定するアドレスに登録された認識対象候補数を読み出し、前記候補列の上位から取り出された該認識対象候補数の候補で以って形成されることを特徴とする請求項１記載のパターン認識方法。
【請求項６】
前記候補集合は、正解カテゴリ包含率が閾値以上となる候補をカテゴリ毎に登録することにより作成された候補群テーブルにおいて、前記候補列の第1位候補の指定するアドレスから取り出された候補で以って形成されることを特徴とする請求項１記載のパターン認識方法。
【請求項７】
前記特徴量の修正は、カテゴリに属する学習パターンの特徴と標準パターンの特徴との差分を主成分分析してできる変換行列を用いることを特徴とする請求項１記載のパターン認識方法。
【請求項８】
前記特徴量の修正は、カテゴリに属する学習パターンの特徴を入力とし前記学習パターンの特徴から前記標準パターンの特徴の方向へ変位した特徴あるいは前記標準パターンの特徴を教師信号として特徴変動の傾向を学習した神経回路を用いることを特徴とする請求項１記載のパターン認識方法。
【請求項９】
入力パターンの特徴と標準パターンの特徴から計算して得られる近さの尺度を用いて前記入力パターンの属するカテゴリを前記尺度の昇順に候補列として出力するパターン認識装置であって、
前記候補列の各候補と該候補の有する尺度とを用いて認識の確信度の判定を行い、予め定められた判定条件を満足する場合は前記各候補と該候補の有する尺度を認識結果とする判定手段と、
前記判定条件を満足しない場合は予め定められた選択法により得られた候補集合を出力する候補選択手段と、
出力された候補集合の各候補が正解カテゴリであると仮定して入力パターンが正解カテゴリの標準パターンに近づくように該入力パターンの特徴量の修正を行う特徴量修正手段と、
前記修正された特徴量と前記候補の標準パターンの特徴量との間で近さの尺度の計算を再度行い、該尺度の昇順の候補列を求め、該候補列の各候補と該候補の有する尺度とを用いて認識の確信度の判定を行う手順を繰り返すフィードバック認識手段と、
を有することを特徴とするパターン認識装置。
【請求項１０】
前記判定条件は、前記候補列の第1位候補が予め定められた判定用カテゴリ集合の要素の何れにも該当しないことを特徴とする請求項９記載のパターン認識装置。
【請求項１１】
前記判定条件は、前記候補列の第1位候補の尺度と第２位候補の尺度との差が予め定められた値より大きいことを特徴とする請求項９記載のパターン認識装置。
【請求項１２】
前記判定条件は、前記候補列の第1位候補の尺度に対する第２位候補の尺度の比が予め定められた値より大きいことを特徴とする請求項９記載のパターン認識装置。
【請求項１３】
前記候補集合は、累積分類率が閾値以上となる候補数をカテゴリ毎に登録することにより作成された候補数テーブルにおいて、前記候補列の第1位候補の指定するアドレスに登録された認識対象候補数を読み出し、前記候補列の上位から取り出された該認識対象候補数の候補で以って形成されることを特徴とする請求項９記載のパターン認識装置。
【請求項１４】
前記候補集合は、正解カテゴリ包含率が閾値以上となる候補をカテゴリ毎に登録することにより作成された候補群テーブルにおいて、前記候補列の第1位候補の指定するアドレスから取り出された候補で以って形成されることを特徴とする請求項９記載のパターン認識装置。
【請求項１５】
前記特徴量修正は、カテゴリに属する学習パターンの特徴と標準パターンの特徴との差分を主成分分析してできる変換行列を用いることを特徴とする請求項９記載のパターン認識装置。
【請求項１６】
前記特徴量修正は、カテゴリに属する学習パターンの特徴を入力とし前記学習パターンの特徴から前記標準パターンの特徴の方向へ変位した特徴あるいは前記標準パターンの特徴を教師信号として特徴変動の傾向を学習した神経回路を用いることを特徴とする請求項９記載のパターン認識装置。
【請求項１７】
請求項１から請求項８までのいずれかに記載のパターン認識方法における処理の段階をコンピュータに実行させるためのプログラムを該コンピュータが読み取り可能な媒体に格納したことを特徴とする記憶媒体。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は，パターン認識方法とその装置に関する。
【背景技術】
【０００２】
従来のパターン認識の方法としては、前処理‐特徴抽出‐識別からなる認識系がよく採られている（例えば非特許文献１参照）。入力されたパターンは前処理部において、パターン中に存在する雑音の除去、パターンの位置や大きさの正規化が施される。特徴抽出部ではパターンの本質を表わす特徴が抽出される。この特徴は、パターンの種類によって予め定められている。識別部では、認識対象とするカテゴリの典型的なパターンである標準パターンを用意しておき、入力パターンと該標準パターンとの近さの尺度を用い、最も近い尺度に対応するカテゴリを認識結果として出力する方法が知られている。
【０００３】
近さの尺度としては距離、類似度などがある。ここでは、距離を用いた識別について説明する。
【０００４】
入力パターンから抽出した特徴ベクトルｘとＮ個のカテゴリの標準パターンの特徴ベクトルｍｎ（ｎ＝１，２，．．．，Ｎ）との間で、各カテゴリ毎に距離ｄｎ＝Ｄ（ｘ，ｍｎ）を計算し、Ｎ個のｄｎの中で最小となるｄｎに対応するカテゴリを認識結果として出力する。距離を定義する関数Ｄとしては、ユークリッド距離、マハラノビス距離等が知られている。これらの方法は標準パターンの近くに分布する入力パターンは高精度で識別でき、また、カテゴリ数の拡張も容易なことから、多種類のカテゴリを含むパターンの識別に適している。しかしながら、この方法はパターンが変形し、その影響により特徴が変動したとき識別が困難となる欠点がある。
【０００５】
特徴変動に対する対策として、パターンが変形しても変動を受けにくい特徴の探索、および、特徴変動に強い識別法の研究が行われてきた。これらは通常、学習パターンを大量に収集し、パターン変形に伴う特徴変動の傾向を分析し、その対処策を考えるという手順で行われる。この方法で作成された認識系は、学習パターンの中に存在する特徴変動に対する対策とはなっているが、学習パターンの中に存在しない特徴変動に対してまでの対策にはなっていないという欠点がある。しかし、先見性のない特徴変動にまで耐え得る特徴、あるいは、識別器を考案することは難しく、現在のところその実現には至っていない。
【０００６】
先見性のない特徴変動に対処する方法の１つとしてフィードバック認識がある。これは認識結果に確信が持てない場合、入力パターンをリジェクトして、認識系の一部にフィードバックをかけて再度認識を行うものである。フィードバック先としては、前処理部、特徴抽出部に先例が見られる。
【０００７】
前処理部にフィードバックする例としては、文字認識におけるリスキャンが典型的である（非特許文献２参照）。これは、認識結果に確信が持てなかったとき、前処理部で２値化閾値を変えて再度認識を実行するものであり、適切な閾値であれば認識が可能となる。しかし、これは入力パターンの濃度が不適切であったときは救済可能であるが、パターン自体が変形していた場合は効果が期待できない。
【０００８】
特徴抽出部にフィードバックする例としては、文字認識において特徴抽出のパラメータを変えて再度認識を実行するものがあり（非特許文献３参照）、適切なパラメータが見つかれば認識が可能となる。しかし、これは初期に設定されていたパラメータの値が過大、あるいは、過小の理由で特徴が抽出できなかったときは救済可能であるが、パターン自体が変形していた場合はやはり効果が期待できない。
【非特許文献１】「パターン認識」電子情報通信学会、１９８８．
【非特許文献２】「未来ネット技術シリーズ４  メディア情報処理」、電気通信協会、１９９９．
【非特許文献３】「逆想起ニューラルネットモデルを用いたフィードバック型認識方法」、情報処理学会論文誌，ｖｏｌ．３４，ｎｏ．１０，  ｐｐ．２１２５−２１３１，１９９３年１０月．
【発明の開示】
【発明が解決しようとする課題】
【０００９】
以上述べたように、パターンが変形しても変動を受けにくい特徴、および、特徴変動に強い識別法の開発はそれ自体が難しく、また、フィードバックを用いる認識では入力パターンの濃度の不適切性、特徴抽出パラメータの不適切性といった限定された部分に対しては救済できるがパターン変形による特徴変動の救済策にはなっていないという問題点があった。
【００１０】
本発明は上記に鑑みてなされたものであり、その目的は特徴が変動したパターンを安定に認識するパターン認識方法とその装置を提供するところにある。
【課題を解決するための手段】
【００１１】
本発明のパターン認識方法は、入力パターンの特徴と標準パターンの特徴から計算して得られる近さの尺度を用いて前記入力パターンの属するカテゴリを前記尺度の昇順に候補列として出力するパターン認識方法において、
前記候補列の各候補と該候補の有する尺度とを用いて認識の確信度の判定を行い、予め定められた判定条件を満足する場合は前記各候補と該候補の有する尺度を認識結果とし、
前記判定条件を満足しない場合は予め定められた選択法により得られた候補集合を出力し、
出力された候補集合の各候補が正解カテゴリであると仮定して入力パターンが正解カテゴリの標準パターンに近づくように該入力パターンの特徴量の修正を行い、
前記修正された特徴量と前記候補の標準パターンの特徴量との間で近さの尺度の計算を再度行い、該尺度の昇順の候補列を求め、該候補列の各候補と該候補の有する尺度とを用いて認識の確信度の判定を行う手順を繰り返すフィードバック認識機構と、
を有することを最も主要な特徴とする。
【００１２】
また、前記判定条件は、
（１）前記候補列の第1位候補が予め定められた判定用カテゴリ集合の要素の何れにも該当しないこと、
（２）前記判定条件は、前記候補列の第1位候補の尺度と第２位候補の尺度との差が予め定められた値より大きいこと、
（３）前記判定条件は、前記候補列の第1位候補の尺度に対する第２位候補の尺度の比が予め定められた値より大きいこと、
の中の少なくとも一つの場合を含むことを特徴とする。
【００１３】
また、前記候補集合は、
（１）累積分類率が閾値以上となる候補数をカテゴリ毎に登録することにより作成された候補数テーブルにおいて、前記候補列の第1位候補の指定するアドレスに登録された認識対象候補数を読み出し、前記候補列の上位から取り出された該認識対象候補数の候補で以って形成されること、
（２）正解カテゴリ包含率が閾値以上となる候補をカテゴリ毎に登録することにより作成された候補群テーブルにおいて、前記候補列の第1位候補の指定するアドレスから取り出された候補で以って形成されること、
の中の少なくとも一つの場合を含むことを特徴とする。
【００１４】
また、前記特徴量の修正は、
（１）カテゴリに属する学習パターンの特徴と標準パターンの特徴との差分を主成分分析してできる変換行列を用いること、
（２）カテゴリに属する学習パターンの特徴を入力とし前記学習パターンの特徴から前記標準パターンの特徴の方向へ変位した特徴あるいは前記標準パターンの特徴を教師信号として特徴変動の傾向を学習した神経回路を用いること、
の中の少なくとも一つの場合を含むことを特徴とする。
【発明の効果】
【００１５】
本発明は次のような効果を奏する。
請求項１、請求項９に記載されている発明は、入力パターンと標準パターンとの間の近さの尺度を用いて識別を行う方法であって、特徴変動の小さなパターンは前記方法で識別を行い、特徴変動の大きいパターンは、予め定められた選択法により得られた候補集合について特徴量修正回路により入力パターンの特徴量の修正を行い再度識別するフィードバックを繰り返すことにより行うので、特徴変動の小さなパターンから大きなパターンまでの認識が可能になる。請求項２、請求項３、請求項４、請求項１０、請求項１１、請求項１２に記載されている発明は、フィードバックに回す入力パターンの品質を規定する役割があるので、認識時間を要しても高精度な認識を希望するユーザにはフィードバックに回す入力パターンを多くし、認識精度は重視しないが高速な認識を希望するユーザにはフィードバックに回す入力パターンを少なくするなどユーザの要請に応じて認識系をカスタマイズできる長所がある。請求項５、請求項６、請求項１３、請求項１４に記載されている発明は、フィードバック認識の対象となるカテゴリを規定する役割があるので、フィードバック認識対象カテゴリの追加、削除等、用途に応じたきめ細かいチューニングが容易であるという長所がある。請求項７、請求項１４に記載されている発明は、特徴変動の傾向を主成分分析しているので少ないメモリ容量で特徴変動の傾向を記述できるという長所がある。請求項８、請求項１６に記載されている発明は、特徴変動の傾向を神経回路により学習しており、神経回路には補間作用があるので、学習に用いていない入力パターンが呈示されても当該入力パターンが学習パターンに近いものであれば特徴量の適切な修正を行うことができる長所がある。
【発明を実施するための最良の形態】
【００１６】
以下、本発明の実施の形態について図面を参照して説明する。
【００１７】
図1は本発明の一実施例を示すパターン認識装置のブロック構成図であり、実線は各部間のデータの流れを示し、破線は制御部９の制御信号の流れを示す。
【００１８】
同図のパターン認識装置は、入力パターンメモリ部１、特徴抽出部２、尺度計算部３、標準特徴メモリ部４、特徴量修正部５、判定部６、候補選択部７、認識結果メモリ部８、制御部９から成る。
【００１９】
入力パターンメモリ部１は観測装置より計算機内に取り込まれた入力パターンを記憶するバッファであり、特徴抽出部２は認識に使用するための特徴を前記入力パターンから抽出し、尺度計算部３は特徴抽出部２より得られた前記入力パターンの特徴と標準特徴メモリ部４に蓄積されている標準パターンの特徴との近さの尺度をカテゴリ毎に計算し、該尺度を昇順に並べて候補とともに判定部６に出力する。
【００２０】
判定部６は、尺度計算部３で得られた候補と近さの尺度を認識結果として認識結果メモリ部８に送出するか、候補選択部７−特徴量修正部５−尺度計算部７−判定部６の経路でフィードバックをかけて再度認識するか、の判定を行う。フィードバックで認識対象とするカテゴリの選択法は、（１）尺度計算部３から送られてきた候補の中から認識対象とするカテゴリを選択する方法１と、（２）尺度計算部３から送られてきた候補とは無関係に予め設定された候補を認識対象とする方法２との２通りがある。
【００２１】
図１に示すパターン認識装置に使用されている判定部６の構成および作用について図２、図３、図４、図５、図６を参照して説明する。
【００２２】
判定部６は図２に示すように選択回路６１、スイッチ（Ｓ１）６２、スイッチ（Ｓ２）６３、尺度比判定回路６４、尺度差判定回路６５、判定用カテゴリ集合６６から構成されている。
【００２３】
選択回路６１は処理として方法１、方法２の何れを採るかを選択する。
【００２４】
方法１を採る場合の処理の流れは、スイッチ（Ｓ１）６２をスイッチ（Ｓ２）６３の側に倒す。スイッチ（Ｓ２）６３は特徴量修正部５へフィードバックをかけるか否かを判断する。判断の基準としては、尺度計算部３から送られてきた第1位候補と第２位候補の近さの尺度の比を用いる場合と差を用いる場合の２つがある。比を用いるときは尺度比判定回路６４に繋ぎ、差を用いるときは尺度差判定回路６５に繋ぐ。
【００２５】
尺度比判定回路６４は式（１）に示す第1位候補の近さの尺度ｄ１に対する第２位候補の近さの尺度ｄ２の比
ｒ＝ｄ２／ｄ１    （１）
が予め定められた閾値γ以上のときは認識の確信度は高いとみなし、尺度計算部３から送られてきた候補と近さの尺度を認識結果として認識結果メモリ部８に格納する。閾値γ未満ときは認識の確信度は低いとみなし、尺度計算部３から送られてきた候補と近さの尺度を候補選択部７に転送する。
【００２６】
尺度差判定回路６５は式（２）に示す第1位候補の近さの尺度ｄ１と第２位候補の近さの尺度ｄ２の差
Δｄ＝ｄ２−ｄ１    （２）
が予め定められた閾値δ以上のときは認識の確信度は高いとみなし、尺度計算部３から送られてきた候補と近さの尺度を認識結果として認識結果メモリ部８に格納する。閾値δ未満ときは認識の確信度は低いとみなし、尺度計算部３から送られてきた候補と近さの尺度を候補選択部７に転送する。
【００２７】
候補選択部７は図３に示すように、候補選択回路７１、候補数テーブル７２、候補群テーブル７３から構成されている。
【００２８】
候補選択回路７１は候補数テーブル７２を用いて判定部６から送られてきた候補の中から認識対象とするカテゴリを選出する。候補数テーブ７２の形式を図４に示す。図４ではＣ１，Ｃ２，．．．，Ｃｎ，．．．, ＣＮに対応する認識対象候補数が、ｋ１，ｋ２，．．．，ｋｎ，．．．, ｋＮとｊ１，ｊ２，．．．，ｊｎ，．．．, ｊＮとの２組で登録されており、それぞれ尺度比判定回路６４、尺度差判定回路６５から候補が送られてきたときの処理に使用する。
【００２９】
前記認識対象候補数ｋｎ（ｎ＝１，２，．．．，Ｎ）はカテゴリＣｎが第1位に出現したとき、第ｋｎ位までとれば予め定めた累積分類率を満たすよう実験的に得られたものである。判定部６経由で送られてきた候補列の中の第1位候補Ｃｆが与えられるとＣｆに対応する候補数テーブル７２のアドレスからカテゴリ数ｋｆを読み出し、前記候補列の中から上位ｋｆ個からなる候補集合Ωｒ＝｛Ｃ１，Ｃ２，．．．．, Ｃｋｆ｝を形成し、Ωｒを認識対象候補とする。その後、特徴抽出部２より得られた入力パターンの特徴とΩｒが特徴量修正部５に送られる。
【００３０】
前記認識対象候補数ｊｎ（ｎ＝１，２，．．．，Ｎ）はカテゴリＣｎが第1位に出現したとき、第ｊｎ位までとれば予め定めた累積分類率を満たすよう実験的に得られたものである。判定部６経由で送られてきた候補列の中の第1位候補Ｃｆが与えられるとＣｆに対応する候補数テーブル７２のアドレスからカテゴリ数ｊｆを読み出し、前記候補列の中から上位ｊｆ個からなる候補集合Ωｄ＝｛Ｃ１，Ｃ２，．．．．, Ｃｊｆ｝を形成し、Ωｄを認識対象候補とする。その後、特徴抽出部２より得られた入力パターンの特徴とΩｄが特徴量修正部５に送られる。
【００３１】
尺度比判定回路６４、尺度差判定回路６５の処理手順は同じであるが、尺度比判定回路６４の場合は候補数テーブル７２のｋ１，ｋ２，．．．，ｋｎ，．．．, ｋＮの値を用いるのに対し、尺度差判定回路６５の場合は候補数テーブル７２のｊ１，ｊ２，．．．，ｊｎ，．．．, ｊＮの値を用いるところが異なっている。これは、第何位までのカテゴリを採用すれば予め定めた累積分類率を満足するかが、尺度の比と尺度の差とで異なるためである。
【００３２】
方法２を採る場合の処理の流れは、スイッチ（Ｓ１）６２を判定用カテゴリ集合６６の側に倒す。判定用カテゴリ集合６６の要素の中に判定部６経由で送られてきた候補列の中の第1位候補に該当するものがなければ、前記候補列と近さの尺度が認識結果メモリ部８に送られ、認識結果として格納される。第1位候補に該当するものがある場合は、前記第1位候補は候補選択部７へ送られる。判定用カテゴリ集合６６の形式を図５に示す。判定用カテゴリ集合６６はＱ個のカテゴリ集合ΩJ＝｛Ｃ１，Ｃ２，．．．．, ＣJ(Q)｝から成っており、実験により誤認識率が閾値以上のカテゴリが登録されている。
【００３３】
候補選択部７は候補群テーブル７３を用いて認識対象とするカテゴリを選出する。候補群テーブル７３の形式を図６に示す。図６ではＣｎ（ｎ＝１，２，．．．，Ｎ）に対応する認識対象候補が｛Ｃｎ１，Ｃｎ２，．．．．, ＣｎＬ（ｎ）｝で登録されている。前記認識対象候補はカテゴリＣｎが第1位に出現したとき、第Ｌ（ｎ）位までとれば予め定めた正解カテゴリ包含率を満たすよう実験的に得られたものであり、判定部６経由で送られてきた候補列とは無関係に予め設定されたものである。前記候補列の中の第1位候補Ｃｆが与えられるとＣｆに対応する候補群テーブル７３のアドレスから認識対象候補ΩＧ＝｛Ｃｆ１，Ｃｆ２，．．．．, ＣｆＬ（ｆ）｝が読み出され、特徴抽出部２より得られた入力パターンの特徴とともに特徴量修正部５に送られる。
【００３４】
特徴量修正部５は図７に示すようにＮ個の特徴量修正回路５−１、５−２、…、５−n、…、５−Ｎから構成されている。判定部６より認識対象カテゴリが送出されてきたときの処理を図７を用いて説明する。
【００３５】
まず、特徴量修正回路５−ｎ（ｎ＝１，２，．．．，Ｎ）が変換行列で構成されているときの構造と作用について説明する。特徴量修正回路５−ｎの中にはカテゴリＣｎの変換行列Ａｎが格納されている。入力パターンの特徴ベクトルｘが入力されると、特徴量修正回路５−ｎは変換行列Ａｎを用いて、ｘを式（３）で表されるｘ（１）に修正する。
ｘ（１）＝ｘ＋εＡｎＡｎｔｘ    （３）
ここで、εは正の定数、ＡｎはカテゴリＣｎに属する学習パターンの特徴ベクトルｔと標準パターンの特徴ベクトルｍｎとの差分ベクトル
Δｔ＝ｍｎ−ｔ  （４）
を大量に収集して主成分分析して得られる変換行列、ｔは転置である。ｔはｍｎに特徴変動が生じてできたものと見なせるから、Ａｎは特徴変動傾向を少数のパラメータで表したものとなっている。式（３）の右辺第２項はｘが入力されたとき、ｘをｍｎの方向に微小変位させる成分となっている。したがって、ｘ（１）はｘよりもｍｎに近づくよう修正されている。そのため、カテゴリＣnが正解カテゴリという仮定が正しければｘ（１）は修正前のｘより認識が容易となる。
【００３６】
次に、特徴量修正回路５−ｎ（ｎ＝１，２，．．．，Ｎ）が神経回路で構成されているときの構造と作用について説明する。特徴量修正回路５−ｎの構造は、入力層、中間層、出力層から成る多層構造のフィードフォワード結合をした神経回路（例えば、文献「Ｐａｒａｌｌｅｌ  Ｄｉｓｔｒｉｂｕｔｅｄ  Ｐｒｏｃｅｓｓｉｎｇ」  ＭＩＴ  Ｐｒｅｓｓ，  １９８６．参照）であり、入力としては特徴抽出部２より得られた入力パターンの特徴が与えられる。該入力パターンの特徴ベクトルをｘ、中間層素子の荷重ベクトルをｗ、中間層素子の出力をy、閾値をθとすると、
ｙ＝φ（ｗ・ｘ−θ）  （５）
で表される。ここで、φは飽和型非線形関数、・はベクトルの内積を表す記号である。特徴ベクトルｘは中間層を通過する毎に式（５）で示される非線形変換を受け、神経回路で出力されるときには中間層の層数の回数だけ該非線形変換が施された特徴ベクトルとなっている。
【００３７】
次に、神経回路の作用について説明する。神経回路の教師信号は、入力パターンの特徴ベクトルｘの終点からカテゴリＣnの標準パターンの特徴ベクトルｍｎの終点へ向かう線分をκ：(１−κ)（ここで、0≦κ＜1）に内分する点を終点とするベクトル
ｖｎ＝κｍｎ＋（１−κ）ｘ  （６）
ｖｎを用いる。教師信号ベクトルｖｎは入力パターンの特徴ベクトルｘからカテゴリＣｎの標準パターンの特徴ベクトルｍｎの方向へκだけ変位した特徴ベクトルとなっている。κ＝１のときはｖｎ＝ｍｎ、即ち、教師信号ベクトルは標準パターンの特徴ベクトルとなる。神経回路は誤差逆伝搬法により、入力パターンの特徴ベクトルｘに対して教師信号ベクトルｖｎを出力するよう学習するので、特徴変動の傾向を学習することになる。したがって、入力パターンの特徴ベクトルｘを神経回路に入力して出力されるベクトルｘ’を取り出すと、該ベクトルｘ’は入力パターンの正解カテゴリがＣｎであると想定して特徴ベクトルｘに修正を加えたことになる。ベクトルｘ’は入力パターンの特徴ベクトルｘよりもカテゴリＣｎの標準パターンの特徴ベクトルｍｎの方向へ変位したものとなっているから、カテゴリＣｎが正解カテゴリであればベクトルｘより認識が容易となる。
【００３８】
特徴量修正部５は、Ｎ個の特徴修正回路５−１、５−２、…、５−n、…、５−Ｎの内、候補選択部７より送出された認識対象候補｛Ｃ１，Ｃ２，．．．．, ＣＩ｝(ここで、Ｉ＝ｋｆまたはｊｆまたはＬ（ｆ）)の各カテゴリに対応する特徴修正回路に入力パターンの特徴ベクトルｘを入力し、修正されたI個の特徴ベクトル｛ｕ１(1)，ｕ２(1)，．．．，ｕＩ(1)｝をそれぞれ得て、｛ｕ１(1)，ｕ２(1)，．．．，ｕＩ(1)｝を尺度計算部３に送出する。
【００３９】
尺度計算部３は、修正された特徴ベクトル｛ｕ１(1)，ｕ２(1)，．．．，ｕＩ(1)｝と各特徴ベクトルに対応する標準特徴メモリ部４に蓄積されている標準パターンの特徴との近さの尺度を各カテゴリ毎に計算し、該尺度を昇順に並べて候補とともに判定部６に出力する。
【００４０】
判定部６は尺度計算部３で得られた候補と近さの尺度を認識結果として認識結果メモリ部８に送出するか、特徴量修正部５へフィードバックをかけて再度認識するかの判定を行う。フィードバックをかける場合は、｛ｕ１(1)，ｕ２(1)，．．．，ｕＩ(1)｝を入力パターンとみなして特徴量修正部５の処理により２回目の修正された特徴ベクトル｛ｕ１(2)，ｕ２(2)，．．．，ｕＩ(2)｝が得られる。以下、前記の尺度計算部３−判定部６−候補選択部７−特徴量修正部５のループによる処理が繰り返し行われる。
【００４１】
以上述べた図１の各処理の制御は制御部９からの信号によって行われる。
【００４２】
本発明に係るパターン認識方法の一実施例である図１の動作を図８のフローチャートを用いて説明する。特徴抽出部２は入力パターンメモリ部１に取り込まれた入力パターンの特徴を抽出し（ステップ２１）、尺度計算部３は特徴抽出部２より得られた前記入力パターンの特徴と標準特徴メモリ部４に蓄積されている標準パターンの特徴との近さの尺度をカテゴリ毎に計算する（ステップ２２）。判定部６は尺度計算部３で得られた第1位候補が所定の条件を満足するか否かを判定し（ステップ２３）、満足する場合は尺度計算部３から送られてきた候補と近さの尺度を最終結果として認識結果メモリ部８に送出する（ステップ２４）。満足しない場合は、候補選択部７はフィードバック処理を行うべき候補集合Ωを形成し（ステップ２５）、特徴抽出部２より得られた入力パターンの特徴とともに特徴量修正部５に送出する。特徴量修正部５は、前記候補集合Ωに属するカテゴリＣ１，Ｃ２，．．．, ＣIに対応する神経回路へ入力パターンの特徴を入力し、特徴量の修正を行う（ステップ２６）。尺度計算部３は修正された特徴量と標準特徴メモリ部４に蓄積されている前記候補の標準パターンの特徴量との近さの尺度をカテゴリ毎に計算する（ステップ２７）。判定部６は尺度計算部３で得られた第1位候補が所定の条件を満足するか否かを判定し（ステップ２８）、満足する場合は尺度計算部３から送られてきた候補と近さの尺度を最終結果として認識結果メモリ部８に送出する（ステップ３０）。満足しない場合は、予め定められたフィードバック回数に到達しているか否かを判断し（ステップ２９）、所定のフィードバック回数に到達している場合はステップ２８の条件を満足していなくとも尺度計算部３から送られてきた候補と近さの尺度を認識結果として認識結果メモリ部８に送出する（ステップ３０）。所定のフィードバック回数に到達していない場合は、ステップ２６からステップ２８までの処理を繰り返し行う。
【００４３】
上述したように、本実施形態では前処理−特徴抽出−識別からなる認識系で認識の確信度の判定を行い、予め定められた判定条件を満足しない場合は予め定められた選択法により得られた候補集合を特徴の変動傾向を学習した神経回路に送出し、前記候補集合の各候補を正解カテゴリと想定して入力パターンの特徴を該候補の標準パターンの方向に近づける修正を行い、修正された特徴量を用いて再度識別することを繰り返している。従って、前処理−特徴抽出−識別からなる認識系のみを用いた場合よりも認識性能を向上させることができる。
【００４４】
また、本発明の図1に示す各構成要素をプログラムとして構築し、ディスク装置や、フレキシブルディスク、ＣＤ−ＲＯＭ等の可搬記憶媒体に格納しておき、パターン認識を行うときに前記プログラムを前記可搬記憶媒体が接続可能なコンピュータあるいはパターン認識装置にインストールすることにより、容易に本発明を実現することが可能である。
【００４５】
以上、本発明を実施形態に基づき具体的に説明したが、本発明は前記実施形態に限定されるものではなく、その要旨を逸脱しない範囲において種々変更可能であることは言うまでもない。
【図面の簡単な説明】
【００４６】
【図１】本発明のパターン認識装置の一実施例のブロック図である。
【図２】図1に示すパターン認識装置に使用されている判定部６のブロック図である。
【図３】図1に示すパターン認識装置使用されている候補選択部７のブロック図である。
【図４】図３の候補数テーブル７２の一実施例を示す図である。
【図５】図２の判定用カテゴリ集合６６の一実施例を示す図である。
【図６】図３の候補群テーブル７３の一実施例を示す図である。
【図７】図1に示すパターン認識装置に使用されている特徴量修正部５のブロック図である。
【図８】本発明のパターン認識方法の一実施例のフローチャートである。
【符号の説明】
【００４７】
１  入力パターンメモリ部
２  特徴抽出部
３  尺度計算部
４  標準特徴メモリ部
５  特徴量修正部
６  判定部
７  候補選択部
８  認識結果メモリ部
９  制御部
５−１  特徴量修正回路５−１
５−２  特徴量修正回路５−２
５−ｎ  特徴量修正回路５−ｎ
５−Ｎ  特徴量修正回路５−Ｎ
６１  選択回路
６２  スイッチ（Ｓ１）
６３  スイッチ（Ｓ２）
６４  尺度比判定回路
６５  尺度差判定回路
６６  判定用カテゴリ集合
７１  候補選択回路
７２  候補数テーブル
７３  候補群テーブル
【図１】
2007257248.tif 000003
【図２】
2007257248.tif 000004
【図３】
2007257248.tif 000005
【図４】
2007257248.tif 000006
【図５】
2007257248.tif 000007
【図６】
2007257248.tif 000008
【図７】
2007257248.tif 000009
【図８】
2007257248.tif 000010