(57)【要約】【課題】この発明は、認識対象の特徴と、背景の特徴とを別々に扱うことができ、高精度なパターン認識を行うことができる。【解決手段】この発明は、学習パターンと複数のスライス辞書パターンφｉｊ（ベクトル）とのユークリッド距離を求め、カテゴリごとの学習パターンｘｌ（ベクトル）と重み係数ベクトルとユークリッド距離との演算結果を求め、この演算結果の最大値に対応するカテゴリを、上記学習パターンｘｌ（ベクトル）の認識結果とするものである。【選択図】　　図６
2004126774.tif 000002
【特許請求の範囲】
【請求項１】
学習パターンを複数のカテゴリに分類するパターン認識装置において、
カテゴリ代表パターンを濃淡値レベルにしたがって分解し、
分解された前記カテゴリ代表パターンにそれぞれ重み係数を与え、
重み係数を与えられた前記カテゴリ代表パターンと前記学習パターンとの初期分類誤差を算出し、
算出された初期分類誤差を減らす方向へ重み係数またはカテゴリ代表パターンの認識パラメータを逐次学習修正して決定し、
逐次学習修正して決定された前記カテゴリ代表パターンと前記学習パターンとの非線形な類似度と重み係数とを乗じたものの和の値によって、学習パターンの属するカテゴリを判断する手段を有することを特徴とするパターン認識装置。
【請求項２】
前記学習パターンの濃淡頻度を算出し、この濃淡頻度に基づく頻度分布情報にしたがって、前記学習パターンを不等な刻み幅をもって量子化することを特徴とする請求項１に記載のパターン認識装置。
【請求項３】
パターン認識の前処理において、スライス閾値にマージン幅を持たせ、ローレベル側とハイレベル側との間にオーバラップする範囲を持たせることを特徴とする請求項１に記載のパターン認識装置。
【請求項４】
パターン間の距離を算出する際に、パターン間の対応各画素について濃淡差を算出し、その濃淡差の分散値を入力として距離を算出することを特徴とする請求項１に記載のパターン認識装置。
【請求項５】
複数画素の２次元濃淡画像により構成される学習パターンｘｌ（ベクトル）を複数のカテゴリのいずれかに分類するパターン認識装置において、
カテゴリごとにあらかじめＨ個のスライスレベルθｊ（１≦ｊ≦Ｈ）を定義し、Ｎ＊Ｈ個のスライス辞書パターンを登録し、
前記学習パターンｘｌ（ベクトル）を入力し、
この入力された学習パターンｘｌ（ベクトル）と前記スライス辞書パターンφｉｊ（ベクトル）とのユークリッド距離ｄｉｊを求め、
カテゴリごとの学習パターンｘｌ（ベクトル）と重み係数ベクトルとユークリッド距離との演算結果を求め、
この演算結果の最大値に対応するカテゴリを、前記学習パターンｘｌ（ベクトル）の認識結果とする手段を有することを特徴とするパターン認識装置。
【請求項６】
複数画素の２次元濃淡画像により構成される学習パターンｘｌ（ベクトル）を複数のカテゴリのいずれかに分類するパターン認識装置において、
カテゴリごとにあらかじめＨ個のスライスレベルθｊ（１≦ｊ≦Ｈ）を定義し、Ｎ＊Ｈ個のスライス辞書パターンを登録し、
あらかじめ重み係数ベクトルをランダムな値で初期化し、
あらかじめサンプル数Ｌ個の学習パターンｘｌ（ベクトル）とその教師信号ｙｌ（ベクトル）の組を定義し、
前記学習パターンｘｌ（ベクトル）を入力し、
この入力された学習パターンｘｌ（ベクトル）と前記教師信号ｙｌ（ベクトル）とにより学習誤差を求め、
この学習誤差を減らす方向へ重み係数の値を修正するための誤差修正項を求め、前記重み係数ベクトルを修正する学習フェーズと、
前記学習パターンｘｌ（ベクトル）を入力し、
この入力された学習パターンｘｌ（ベクトル）とスライス辞書パターンφｉｊ（ベクトル）とのユークリッド距離ｄｉｊを求め、
カテゴリごとの学習パターンｘｌ（ベクトル）と重み係数ベクトルとユークリッド距離とユークリッド距離との演算結果を求め、
この演算結果の最大値に対応するカテゴリを、前記学習パターンｘｌ（ベクトル）の認識結果とする認識フェーズとを有することを特徴とするパターン認識装置。
【請求項７】
前記教師信号は、前記演算結果の理想とすべき値であることを特徴とする請求項６に記載のパターン認識装置。
【請求項８】
前記学習誤差は、理想とする教師信号と、前記演算結果の値とが、どれだけ違っているかを表すものであることを特徴とする請求項６に記載のパターン認識装置。
【請求項９】
複数画素の２次元濃淡画像により構成される学習パターンｘｌ（ベクトル）を複数のカテゴリのいずれかに分類するパターン認識装置において、
カテゴリごとにあらかじめＨ個のスライスレベルθｊ（１≦ｊ≦Ｈ）を定義し、　あらかじめ重み係数ベクトルをランダムな値で初期化し、
あらかじめサンプル数Ｌ個の学習パターンｘｌ（ベクトル）とその教師信号ｙｌ（ベクトル）の組を定義し、
あらかじめＮ＊Ｈ個のスライス辞書パターンを初期化し、
前記学習パターンｘｌ（ベクトル）を入力し、
この入力された学習パターンｘｌ（ベクトル）と前記教師信号ｙｌ（ベクトル）とにより学習誤差を求め、
この学習誤差を減らす方向へ重み係数の値を修正するための第１の誤差修正項を求め、前記重み係数ベクトルを修正し、
前記学習誤差を減らす方向へするための第２の誤差修正項を求め、前記スライス辞書パターンを修正する学習フェーズと、
前記学習パターンｘｌ（ベクトル）を入力し、
この入力された学習パターンｘｌ（ベクトル）とスライス辞書パターンφｉｊ（ベクトル）とのユークリッド距離ｄｉｊを求め、
カテゴリごとの学習パターンｘｌ（ベクトル）と重み係数ベクトルとユークリッド距離との演算結果を求め、
この演算結果の最大値に対応するカテゴリを、前記学習パターンｘｌ（ベクトル）の認識結果とする認識フェーズとを有することを特徴とするパターン認識装置。
【請求項１０】
前記教師信号は、前記演算結果の理想とすべき値であることを特徴とする請求項９に記載のパターン認識装置。
【請求項１１】
前記スライス辞書パターンの初期化は、学習パターンサンプルの中のどれか１個を適当に選ぶか、またはいくつかの学習パターンサンプルの平均値で決めることを特徴とする請求項９に記載のパターン認識装置。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
この発明は、等濃度特徴とパラメータ学習によるパターン認識装置に関する。
【０００２】
【従来の技術】
今、学習パターンの例として、画素数Ｍの２次元濃淡画像を考える。各画素には、その画素の濃淡を表す値がセットされている。すると、学習パターンは、　ＲＭのｘｌ（ベクトル）とみなすことができる。すなわち、
ｘｌ（ベクトル）＝｛ｘ１、ｘ２、…、ｘＭ｝∈ＲＭ
である。図１は、学習パターンｘｌ（ベクトル）の例を示したものである。ここでは、濃淡レベルを０〜５の６段階とする。同様に、辞書パターンを、ＲＭのξｉ（ベクトル）として表す。
【０００３】
ξｉ（ベクトル）＝｛ξｉ１、ξｉ２、…、ξｉＭ｝∈ＲＭ
ただし、ｉは辞書パターン数を表し、１≦ｉ≦Ｎであるものとする。図２から図４は、Ｎ＝３としたときのＮ個の辞書パターンξｉ（ベクトル）の例を示したものである。ここでも、濃淡レベルを０〜５の６段階とする。
【０００４】
従来の典型的なパターン認識アルゴリズムは、以下の通りである。すなわち、
１．あらかじめ、辞書パターンξｉ（ベクトル）を登録しておく。
２．ある学習パターンｘｌ（ベクトル）を入力する。
３．学習パターンｘｌ（ベクトル）と辞書パターンξｉ（ベクトル）とのユークリッド距離Ｄｉを求める。
４．ユークリッド距離Ｄｉの最小値Ｄ＊を求める。
５．ユークリッド距離Ｄｉの最小値Ｄ＊を与えた辞書パターンの属するカテゴリを、学習パターンｘｌ（ベクトル）の認識結果とする。
【０００５】
ここで、ユークリッド距離Ｄｉは、以下の式により求められる。
【数１】
2004126774.tif 000003
ただし、１≦ｉ≦Ｎである。
【０００６】
図５は、従来の技術を説明するための図である。一般に、矩形領域として切り出され与えられる学習パターンｘｌ（ベクトル）は、認識対象とそれ以外〔背景〕とが混在したものである。登録されている辞書パターンξｉ（ベクトル）についても同様のことが言える。今、ここでは、濃淡レベル３以上の領域が認識対象、濃淡レベル２以下の領域が背景であるものとする。すると、従来の技術によれば、認識対象、背景に関わらず、領域全体が平均的に扱われていることが分かる。
【０００７】
これも図５により説明する。まず、辞書パターンξｉ２（ベクトル）の属するカテゴリを学習パターンｘｌ（ベクトル）の正解カテゴリとし、それ以外の辞書パターンξｉ（ベクトル）（ｉ≠２）の属するカテゴリを別カテゴリ（不正解カテゴリ）として考える。辞書パターンξｉ１（ベクトル）は、図５を見ても明らかなように学習パターンｘｌ（ベクトル）とは別の特徴を持つパターンの例であり、
Ｄ１≫Ｄ２
であると言える。これについては、従来の技術でも問題ない。しかし、辞書パターンξｉ２（ベクトル）と類似したパターンとして辞書パターンξｉ３（ベクトル）があると考える。確かに、認識対象のみに着目すると、学習パターンｘｌ（ベクトル）に近いのは、辞書パターンξｉ３（ベクトル）よりも辞書パターンξｉ２（ベクトル）であるが、従来の技術では、領域全体で平均化されるため、場合によっては、
Ｄ２≒Ｄ３
さらには、
Ｄ２＞Ｄ３
ということも起こり得る。すなわち、認識対象が、ある特定の濃淡分布を持っていると先見的に分かっている場合、または、そのような傾向が実験的に得られる場合においても、従来の技術では全ての濃淡値を均一に扱うため、パターン認識装置としての能力に限界があった。
【０００８】
【発明が解決しようとする課題】
この発明は、認識対象の特徴と、背景の特徴とを別々に扱うことができ、高精度なパターン認識を行うことができるパターン認識装置を提供することを目的としている。
【０００９】
【課題を解決するための手段】
この発明のパターン認識装置は、学習パターンを複数のカテゴリに分類するものにおいて、カテゴリ代表パターンを濃淡値レベルにしたがって分解し、分解された前記カテゴリ代表パターンにそれぞれ重み係数を与え、重み係数を与えられた前記カテゴリ代表パターンと前記学習パターンとの初期分類誤差を算出し、算出された初期分類誤差を減らす方向へ重み係数またはカテゴリ代表パターンの認識パラメータを逐次学習修正して決定し、逐次学習修正して決定された前記カテゴリ代表パターンと前記学習パターンとの非線形な類似度と重み係数とを乗じたものの和の値によって、学習パターンの属するカテゴリを判断する手段を有するものである。
【００１０】
この発明のパターン認識装置は、複数画素の２次元濃淡画像により構成される学習パターンｘｌ（ベクトル）を複数のカテゴリのいずれかに分類するものにおいて、カテゴリごとにあらかじめＨ個のスライスレベルθｊ（１≦ｊ≦Ｈ）を定義し、Ｎ＊Ｈ個のスライス辞書パターンを登録し、上記学習パターンｘｌ（ベクトル）を入力し、この入力された学習パターンｘｌ（ベクトル）と上記スライス辞書パターンφｉｊ（ベクトル）とのユークリッド距離ｄｉｊを求め、カテゴリごとの学習パターンｘｌ（ベクトル）と重み係数ベクトルとユークリッド距離との演算結果を求め、この演算結果の最大値に対応するカテゴリを、上記学習パターンｘｌ（ベクトル）の認識結果とするものである。
【００１１】
この発明のパターン認識装置は、複数画素の２次元濃淡画像により構成される学習パターンｘｌ（ベクトル）を複数のカテゴリのいずれかに分類するものにおいて、カテゴリごとにあらかじめＨ個のスライスレベルθｊ（１≦ｊ≦Ｈ）を定義し、Ｎ＊Ｈ個のスライス辞書パターンを登録し、あらかじめ重み係数ベクトルをランダムな値で初期化し、あらかじめサンプル数Ｌ個の学習パターンｘｌ（ベクトル）とその教師信号ｙｌ（ベクトル）の組を定義し、上記学習パターンｘｌ（ベクトル）を入力し、この入力された学習パターンｘｌ（ベクトル）と上記教師信号ｙｌ（ベクトル）とにより学習誤差を求め、この学習誤差を減らす方向へ重み係数の値を修正するための誤差修正項を求め、上記重み係数ベクトルを修正する学習フェーズと、上記学習パターンｘｌ（ベクトル）を入力し、この入力された学習パターンｘｌ（ベクトル）とスライス辞書パターンφｉｊ（ベクトル）とのユークリッド距離ｄｉｊを求め、カテゴリごとの学習パターンｘｌ（ベクトル）と重み係数ベクトルとユークリッド距離との演算結果を求め、この演算結果の最大値に対応するカテゴリを、上記学習パターンｘｌ（ベクトル）の認識結果とする認識フェーズとからなるものである。
【００１２】
この発明のパターン認識装置は、複数画素の２次元濃淡画像により構成される学習パターンｘｌ（ベクトル）を複数のカテゴリのいずれかに分類するものにおいて、カテゴリごとにあらかじめＨ個のスライスレベルθｊ（１≦ｊ≦Ｈ）を定義し、あらかじめ重み係数ベクトルをランダムな値で初期化し、あらかじめサンプル数Ｌ個の学習パターンｘｌ（ベクトル）とその教師信号ｙｌ（ベクトル）の組を定義し、あらかじめＮ＊Ｈ個のスライス辞書パターンを初期化し、上記学習パターンｘｌ（ベクトル）を入力し、この入力された学習パターンｘｌ（ベクトル）と上記教師信号ｙｌ（ベクトル）とにより学習誤差を求め、この学習誤差を減らす方向へ重み係数の値を修正するための第１の誤差修正項を求め、上記重み係数ベクトルを修正し、上記学習誤差を減らす方向へするための第２の誤差修正項を求め、上記スライス辞書パターンを修正する学習フェーズと、上記学習パターンｘｌ（ベクトル）を入力し、この入力された学習パターンｘｌ（ベクトル）とスライス辞書パターンφｉｊ（ベクトル）とのユークリッド距離ｄｉｊを求め、カテゴリごとの学習パターンｘｌ（ベクトル）と重み係数ベクトルとユークリッド距離との演算結果を求め、この演算結果の最大値に対応するカテゴリを、上記学習パターンｘｌ（ベクトル）の認識結果とする認識フェーズとからなるものである。
【００１３】
【発明の実施の形態】
以下、図面を参照してこの発明の実施形態のパターン認識装置を説明する。
（第１の実施形態）
この発明のパターン認識装置におけるパターン認識アルゴリズムについて、図６に示すフローチャートを参照しつつ説明する。すなわち、
１．あらかじめ、Ｈ個のスライスレベルθｊ（１≦ｊ≦Ｈ）を定義し（ＳＴ１）、Ｎ＊Ｈ個のスライス辞書パターンφｉｊ（ベクトル）（１≦ｉ≦Ｎ、１≦ｊ≦Ｈ）を登録しておく（ＳＴ２〜４）。
２．ある学習パターンｘｌ（ベクトル）を入力する（ＳＴ５）。
３．学習パターンｘｌ（ベクトル）とスライス辞書パターンφｉｊ（ベクトル）との距離ｄｉｊを求める（ＳＴ６）。なお、距離ｄｉｊの定義は、距離の性質（非負、可換、三角不等式）を満たしていれば、任意でよい。
４．カテゴリ数をＣとし、Ｃ個の関数ｆ（ｃ）＝ｆ（ｘｌ（ベクトル），ｗ（ｃ）（ベクトル））の値を求める（ＳＴ７）。ここで、ｗ（ｃ）（ベクトル）は重み係数ベクトル、１≦ｃ≦Ｃである。
５．関数ｆ（ｃ）の最大値ｆ＊を求める（ＳＴ８）。
６．関数の最大値ｆ＊の属するカテゴリを、学習パターンｘｌ（ベクトル）の認識結果とする（ＳＴ９）。
【００１４】
次の学習パターンがある場合には（ＳＴ１０）、ステップ５に戻り、次の学習パターンがない場合には（ＳＴ１０）、処理を終了する。
スライスレベルθｊ（１≦ｊ≦Ｈ）およびスライス辞書パターンφｉｊ（ベクトル）（１≦ｉ≦Ｎ、１≦ｊ≦Ｈ）について説明する。
【００１５】
スライスレベルθｊの値は、
０≦θ１≦θ２≦…≦θＨ∈Ｒ１
のような関係にある濃淡値定数である。スライス辞書パターンφｉｊ（ベクトル）は、辞書パターンξｉ（ベクトル）を元に、以下のようにして作られる。すなわち、
【数２】
2004126774.tif 000004
【００１６】
ただし、１≦ｉ≦Ｎ、１≦ｊ≦Ｈ、１≦ｋ≦Ｍである。なお、上式の計算上、
θ０＝０
と定義する。
図７は、スライス辞書パターンを説明するための図である。今、ここでは、説明を分かりやすくするためＨ＝６とし、
θｊ＝ｊ
と定める。ただし、１≦ｊ≦Ｈである。すなわち、スライスレベルの数が濃淡レベルの数と等しくなるようにした。すると、Ｎ＊Ｈ＝１８個のスライス辞書パターンφｉｊ（ベクトル）が得られる。
【００１７】
次に、距離ｄｉｊについて説明する。前述したように、距離ｄｉｊとしては任意の距離尺度を採用することができるが、ここでは、最も典型的なユークリッド距離を応用することにする。すなわち、
【数３】
2004126774.tif 000005
【００１８】
である。距離ｄｉｊは、ある特定の濃淡レンジでマスク処理を施したときのパターン間の距離であるとも言える。
次に、関数ｆ（ｃ）と重み係数ベクトルｗ（ｃ）（ベクトル）について説明する。ここでは、以下のように定めた。
【数４】
2004126774.tif 000006
【００１９】
という性質を持つ非線形関数である。距離ｄｉｊがゼロ、すなわちパターンが全く同一のときに最大値１をとる。そして、パターン間の違いが大きいほど小さくなっていき、無限遠でゼロとなる、類似度であるとも言える。重み係数ベクトルｗ（ｃ）（ベクトル）は、これらＮ＊Ｈ個の距離ｄｉｊを加算する際の重み付けを行うためのものである。ｗ（ｃ）ｉｊ（ベクトル）の平均値をｗ（ｃ）（ベクトル）とすると、
【数５】
2004126774.tif 000007
【００２０】
のように値をセットする。こうして、関数ｆ（ｃ）の最大値ｆ＊を求め、その属するカテゴリを学習パターンｘｌ（ベクトル）の認識結果とすれば、認識対象の濃淡分布に対して適応的なパターン認識能力が得られる。図８は、上記した本発明を説明するための図である。すなわち、学習パターンと１８個のスライス辞書パターンφｉｊ（ベクトル）とのユークリッド距離を求め、カテゴリごとの学習パターンｘｌ（ベクトル）と重み係数ベクトルとユークリッド距離との演算結果を求め、この演算結果の最大値に対応するカテゴリを、上記学習パターンｘｌ（ベクトル）の認識結果とするものである。
【００２１】
本実施例の適用分野としては、あらかじめ認識対象の性質がよく分かっている場合、すなわち、紙幣や券などの鑑査や郵便物の切手の識別など、主に印刷パターンの認識が挙げられる。
【００２２】
（第２の実施形態）
第１の実施形態では、認識対象の濃淡分布が先験的に分かっている場合である。しかし、あらかじめ認識対象の濃淡分布が分かっていない場合、あるいは分かっていてもよりロバストなパターン認識能力を要求する場合、ある程度の量の学習パターンサンプルがあれば、この第２の実施形態で示す重み係数の学習アルゴリズムにより、高精度な重み係数を自動的に決定できる。
【００２３】
この重み係数の学習アルゴリズムについて、図９に示すフローチャートを参照しつつ説明する。すなわち、
１．〔学習フェーズ〕
あらかじめ、Ｈ個のスライスレベルθｊ（１≦ｊ≦Ｈ）を定義し（ＳＴ１１）、Ｎ＊Ｈ個のスライス辞書パターンφｉｊ（ベクトル）（１≦ｉ≦Ｎ、１≦ｊ≦Ｈ）を定義する（ＳＴ１２）。
２．あらかじめ、重み係数ベクトルｗ（ｃ）（ベクトル）を適当にランダムな値で初期化しておく（ＳＴ１３）。ただし、１≦ｃ≦Ｃである。
【００２４】
３．あらかじめ、サンプル数Ｌ個の学習パターンｘｌ（ベクトル）とその教師信号ｙｌ（ベクトル）の組を定義しておく（ＳＴ１４）。ただし、ｙｌ（ベクトル）∈ＲＣである。
Ｎ＊Ｈ個のスライス辞書パターンφｉｊ（ベクトル）（１≦ｉ≦Ｎ、１≦ｊ≦Ｈ）を作成する（ＳＴ１５）。
４．ある学習パターンｘｌ（ベクトル）を入力する（ＳＴ１６）。
【００２５】
５．学習誤差εｌ＝ε（ｘｌ（ベクトル），ｙｌ（ベクトル））を求める（ＳＴ１７）。
６．誤差修正項Δｗｌ（ｃ）（ベクトル）を求め、重み係数ベクトルｗ（ｃ）（ベクトル）を逐次修正する（ＳＴ１７）。ただし、１≦ｃ≦Ｃである。
７．全てのサンプルｘｌ（ベクトル）（１≦ｌ≦Ｌ）について、上記４〜６を繰り返す（ＳＴ１８、１９）。
【００２６】
８．〔認識フェーズ〕
ある学習パターンｘｌ（ベクトル）を入力する（ＳＴ５）。
９．学習パターンｘｌ（ベクトル）とスライス辞書パターンφｉｊ（ベクトル）との距離ｄｉｊを求める（ＳＴ６）。なお、ｄｉｊの定義は、距離の性質（非負、可換、三角不等式）を満たしていれば、任意でよい。
１０．カテゴリ数をＣとし、Ｃ個の関数ｆ（ｃ）＝ｆ（ｘｌ（ベクトル），ｗ（ｃ）（ベクトル））値を求める（ＳＴ７）。ここで、ｗ（ｃ）（ベクトル）は重み係数ベクトル、１≦ｃ≦Ｃである。
【００２７】
１１．関数ｆ（ｃ）の最大値ｆ＊を求める（ＳＴ８）。
１２．関数の最大値ｆ＊の属するカテゴリを、学習パターンｘｌ（ベクトル）の認識結果とする（ＳＴ９）。
次の学習パターンがある場合には（ＳＴ１０）、ステップ５に戻り、次の学習パターンがない場合には（ＳＴ１０）、処理を終了する。
【００２８】
まず、教師信号ｙｌ（ベクトル）について説明する。教師信号ｙｌ（ｃ）は、関数ｆ（ｃ）の理想とすべき値である。今、ここでは、学習パターンｘｌ（ベクトル）の正解カテゴリに対応する関数ｆ（ｃ）の値を１とし、それ以外を−１とする。例えば、カテゴリ数Ｃ＝３、学習パターンｘｌ（ベクトル）の正解カテゴリ番号を２とすると、教師信号ｙｌ（ベクトル）は、
ｙｌ（ベクトル）＝｛ｙ（１），ｙ（２），ｙ（３）｝＝｛−１，１，−１｝となる。
【００２９】
次に、学習誤差εｌと誤差修正項Δｗｌ（ｃ）（ベクトル）について説明する。学習誤差は、理想とする教師信号と実際の関数の値とがどれだけ違っているかを表すものである。また、誤差修正項は、学習誤差を減らす方向へ重み係数の値を修正するためのものである。ここでは、学習パターンｘｌ（ベクトル）と教師信号ｙｌ（ベクトル）に対する学習誤差εｌを以下のように定義する。
【数６】
2004126774.tif 000008
【００３０】
すると、誤差修正項Δｗｌ（ｃ）（ベクトル）は以下のようになる。
【数７】
2004126774.tif 000009
【００３１】
ただし、１≦ｉ≦Ｎ、１≦ｊ≦Ｈ、１≦ｃ≦Ｃである。このようにして求められた誤差修正項Δｗｌ（ｃ）（ベクトル）に適当な係数を掛けて重み係数ベクトルｗ（ｃ）（ベクトル）に加算することで、学習誤差を減らす方向へ重み係数ベクトルｗ（ｃ）（ベクトル）が逐次修正されていく。
【００３２】
認識フェーズについては、実施例１と同様である。本実施例の適用分野としては、理想的な特徴が分かっているとしてもカメラからノイズ変形を合音画像が連続的に入力されるような場合に、それに対するロバストな認識システムの構築が挙げられる。
【００３３】
（第３の実施形態）
第１の実施形態は、重み係数を学習によって求めるものである。この第３の実施形態では、重み係数に加え、スライス辞書パターンも学習により自動的に決定するアルゴリズムを示す。
【００３４】
この重み係数に加え、スライス辞書パターンも学習により自動的に決定するアルゴリズムについて、図１０に示すフローチャートを参照しつつ説明する。すなわち、
１．〔学習フェーズ〕
あらかじめ、Ｈ個のスライスレベルθｊ（１≦ｊ≦Ｈ）を定義しておく（ＳＴ２１）。
【００３５】
Ｎ＊Ｈ個のスライス辞書パターンφｉｊ（ベクトル）（１≦ｉ≦Ｎ、１≦ｊ≦Ｈ）を定義する（ＳＴ２２）。
２．あらかじめ、重み係数ベクトルｗ（ｃ）（ベクトル）を適当にランダムな値で初期化しておく（ＳＴ２３）。ただし、１≦ｃ≦Ｃである。
【００３６】
３．あらかじめ、サンプル数Ｌ個の学習パターンｘｌ（ベクトル）とその教師信号ｙｌ（ベクトル）の組を定義しておく（ＳＴ２４）。ただし、ｙｌ（ベクトル）∈ＲＣ、１≦ｌ≦Ｌである。
【００３７】
４．あらかじめ、Ｎ＊Ｈ個のスライス辞書パターンφｉｊ（ベクトル）（１≦ｉ≦Ｎ、１≦ｊ≦Ｈ）を初期化しておく（ＳＴ２５）。初期値は、例えば、学習パターンサンプルの中のどれか１個を適当に選んで採用するか、いくつかの学習パターンサンプルの平均値などで決める。
【００３８】
５．ある学習パターンｘｌ（ベクトル）を入力する（ＳＴ２６）。
６．学習誤差εｌ＝ε（ｘｌ（ベクトル），ｙｌ（ベクトル））を求める。
７．誤差修正項Δｗｌ（ｃ）（ベクトル）を求め、重み係数ベクトルｗ（ｃ）（ベクトル）を逐次修正する。ただし、１≦ｃ≦Ｃである。
８．誤差修正項Δφｌ（ベクトル）を求め、スライス辞書パターンφｉｊ（ベクトル）を逐次修正する（ＳＴ２７）。ただし、１≦ｉ≦Ｎ、１≦ｊ≦Ｈである。
９．全てのサンプルｘｌ（ベクトル）（１≦ｌ≦Ｌ）について、上記５〜８を繰返す（ＳＴ２８、２９）。
【００３９】
１０．〔認識フェーズ〕
ある学習パターンｘｌ（ベクトル）を入力する（ＳＴ５）。
１１．学習パターンｘｌ（ベクトル）とスライス辞書φｉｊ（ベクトル）との距離ｄｉｊを求める（ＳＴ６）。なお、距離ｄｉｊの定義は、距離の性質（非負、可換、三角不等式）を満たしていれば、任意でよい。
【００４０】
１２．カテゴリ数をＣとし、Ｃ個の関数ｆ（ｃ）ｆ（ｘｌ（ベクトル），ｗ（ｃ）（ベクトル））の値を求める（ＳＴ７）。ここで、ｗ（ｃ）（ベクトル）は重み係数ベクトル、１≦ｃ≦Ｃである。
１３．関数ｆ（ｃ）の最大値ｆ＊を求める（ＳＴ８）。
１４．関数の最大値ｆ＊の属するカテゴリを、学習パターンｘｌ（ベクトル）の認識結果とする（ＳＴ９）。
次の学習パターンがある場合には（ＳＴ１０）、ステップ５に戻り、次の学習パターンがない場合には（ＳＴ１０）、処理を終了する。
【００４１】
誤差修正項Δφｌ（ベクトル）について説明する。ここでは、以下のように定めた。
【数８】
2004126774.tif 000010
【００４２】
ただし、１≦ｉ≦Ｎ、１≦ｊ≦Ｈである。このようにして求められた誤差修正項Δφｌに適当な係数を掛けてスライス辞書パターンφｉｊ（ベクトル）に加算することで、学習誤差を減らす方向ヘスライス辞書パターンφｉｊ（ベクトル）が逐次修正されていく。
【００４３】
認識フェーズについては、実施例１と同様である。本実施例の適用分野としては、理想的な認識対象の特徴というものが経時変化等により徐々に変化してしまうような場合に、それに対するロバストな認識システムの構築が挙げられる。
【００４４】
（第４の実施形態）
スライスレベルθｊ（１≦ｊ≦Ｈ）の決め方について説明する。
上記第１の実施形態で採用したような単純で線形的な決め方ではなく、パターンの濃淡頻度を用いて決める。
このスライスレベルθｊ（１≦ｊ≦Ｈ）の決定方法について、図１１に示すフローチャートを参照しつつ説明する。すなわち、
１．パターンのヒストグラムを求める（ＳＴ３１）。
【００４５】
２．とりうる濃淡レベル全体のレンジが分かっているものとして〔あるいは分かっていなければ適当に決めて〕、ヒストグラム上で、最も低い濃淡レベルから１００／Ｈ＊ｊ％の頻度のところの濃淡レベルをスライスレベルθｊとする（ＳＴ３２）。なお、下限値アンダーや上限値オーバーの処理は適当に行う。これにより、濃淡頻度に対して適応的なスライスレベルが得られる。
【００４６】
（第５の実施形態）
スライス辞書パターンφｉｊ（ベクトル）の決め方について説明する。
微小な濃淡変動を想定する場合、スライス辞書パターンφｉｊ（ベクトル）を以下のように決めると効果的である。このスライス辞書パターンφｉｊ（ベクトル）決定方法について、図１２に示すフローチャートを参照しつつ説明する。すなわち、
１．スライスレベルθｊにマージンをつけて定義する（ＳＴ４１）。
【００４７】
２．マージンを加味してスライスレベルθｊのスライス辞書パターンφｉｊ（ベクトル）を求める（ＳＴ４２）。
【数９】
2004126774.tif 000011
【００４８】
ただし、α、βは適当な正定数であり、スライスレベルθｊの絶対値に対しては十分小さいものであるとする。このように、微小な濃淡変動を加味してスライス辞書パターンを作成することにより、よりロバストなパターン認識が期待できる。
【００４９】
（第６の実施形態）
距離ｄｉｊの決め方について説明する。
上記の実施例ではユークリッド距離を応用したが、カテゴリ間の特徴について比較的包含関係が少ないような場面では、全く別の求め方もある。パターンの各画素について濃淡差を求め、その差の全画素についての分散値を距離尺度とする。
【００５０】
この距離ｄｉｊの決め方について、図１３に示すフローチャートを参照しつつ説明する。すなわち、
スライス辞書パターンφｉｊ（ベクトル）を定義する（ＳＴ５１）。
ある学習パターンｘｌ（ベクトル）を入力する（ＳＴ５２）。
【００５１】
１．ある位置の画素値（濃淡値）の差〔ｘｌｋ−φｉｊｋ〕を求める（ＳＴ５３）。あるいは、その１点だけからではなく近傍画素を用いても良い。
２．対象となる全画素について１を繰り返す（ＳＴ５４）。
３．得られた差のデータの分散値を求める（ＳＴ５５）。
この求め方によるメリットは、照明条件や気象条件などの外的要因によって濃淡変動が発生した場合でも、ロバストなパターン認識能力が保てることである。
【００５２】
（実施形態の効果）
従来、認識対象の特徴が、背景の特徴と同等に扱われていたため、パターン認識装置としての能力に限界があった。
そこで、第１の実施形態によれば、まず、スライスという概念を導入し濃淡レベルごとに辞書パターンを分解した。次に、重み係数を導入し、それをスライス分解された辞書パターンごとに付し、認識対象の特徴がより引き出せるようにした。これにより、従来よりも高精度なパターン認識装置が実現できる。
【００５３】
また、第２の実施形態によれば、上記の重み係数を学習によって求めるため、あらかじめ認識対象の濃淡分布が分かっていない場合でも、重み係数の獲得が可能となる。
さらに、第３の実施形態によれば、上記の重み係数に加え、スライス分解された辞書パターンも学習によって獲得可能とし、認識対象が経時によって変化してしまうような場合でも、ロバストな認識性能を保てることが可能となる。
第４の実施形態によれば、スライスレベルをパターンの濃淡頻度をもとに求めるため、認識対象の濃淡頻度に応じて適したスライスレベルが得られる。
【００５４】
第５の実施形態によれば、スライス辞書パターンを求める際に、学習パターンの微小な濃淡変動があることを想定して求めるため、よりロバストなパターン認識が期待できる。
第６の実施形態によれば、パターン間の各画素の濃淡差を求め、その差の分散値から距離を定義するため、照明条件や気象条件などの外的要因によって濃淡変動が発生した場合でも、ロバストなパターン認識能力が保てる。
【００５５】
【発明の効果】
以上詳述したように、この発明によれば、認識対象の特徴と、背景の特徴とを別々に扱うことができ、高精度なパターン認識を行うことができるパターン認識装置を提供できる。
【図面の簡単な説明】
【図１】学習パターンｘｌ（ベクトル）の例を示す図。
【図２】辞書パターンξｉ（ベクトル）の例を示す図。
【図３】辞書パターンξｉ（ベクトル）の例を示す図。
【図４】辞書パターンξｉ（ベクトル）の例を示す図。
【図５】従来の技術を説明するための図。
【図６】この発明のパターン認識装置におけるパターン認識アルゴリズムを説明するためのフローチャート。
【図７】スライス辞書パターンを説明するための図。
【図８】パターン認識アルゴリズムを説明するための図。
【図９】重み係数の学習アルゴリズムを説明するためのフローチャート。
【図１０】重み係数に加え、スライス辞書パターンも学習により自動的に決定するアルゴリズムを説明するためのフローチャート。
【図１１】スライスレベルθｊ（１≦ｊ≦Ｈ）の決定方法を説明するためのフローチャート。
【図１２】スライス辞書パターンφｉｊ（ベクトル）の決定方法を説明するためのフローチャート。
【図１３】距離ｄｉｊの決定方法を説明するためのフローチャート。
【符号の説明】
θｊ…スライスレベル、φｉｊ（ベクトル）…スライス辞書パターン、ｆ（ｃ）…関数、ｆ＊…関数の最大値。
【図１】
2004126774.tif 000012
【図２】
2004126774.tif 000013
【図３】
2004126774.tif 000014
【図４】
2004126774.tif 000015
【図５】
2004126774.tif 000016
【図６】
2004126774.tif 000017
【図７】
2004126774.tif 000018
【図８】
2004126774.tif 000019
【図９】
2004126774.tif 000020
【図１０】
2004126774.tif 000021
【図１１】
2004126774.tif 000022
【図１２】
2004126774.tif 000023
【図１３】
2004126774.tif 000024