(57)【特許請求の範囲】
【請求項１】
所定の識別関数を用いて認識対象の特徴量を評価することにより該識別対象を２つのクラスのいずれに属するかを識別するパターン認識方法において、
前記認識対象の特徴量を抽出し、該抽出した特徴量に基づいて、前記クラス毎に複数の標本パターンを登録可能な辞書手段に格納された全標本パターンのうち、前記認識対象とのマッチング結果が上位の標本パターンを近傍パターンとして複数選出し、該選出した近傍パターンに基づいて２つの候補クラスを決定し、該決定した２つの候補クラスごとに求めた該候補クラスに属する前記近傍パターンの平均をもとに、該候補クラスの標本パターンの特徴量の中から注目すべき成分を選択し、該選択した成分に基づいて識別関数の係数を決定し、該係数が決定した識別関数に基づいて前記認識対象の識別を行うことを特徴とするパターン認識方法。
【請求項２】
前記２つの候補クラスのそれぞれについて、前記辞書手段に格納された全標本パターンの平均と、前記近傍パターンの平均を求め、該２つの標本パターンの平均および該２つの近傍パターンの平均をもとに、各成分毎に差を求めて各成分の寄与度を算出し、該寄与度の所定個数の和である局所累積寄与度を最大化する成分を注目すべき成分として選択することを特徴とする請求項１に記載のパターン認識方法。
【請求項３】
前記２つの候補クラスのそれぞれについて、前記近傍パターンの平均を求め、該２つの近傍パターンの平均をもとに、各成分毎に差を求めて各成分の寄与度を算出し、該寄与度の所定個数の和である局所累積寄与度を最大化する成分を注目すべき成分として選択することを特徴とする請求項１に記載のパターン認識方法。
【請求項４】
前記識別関数は、
フィッシャーの線形判別法を適用して決定されることを特徴とする請求項１に記載のパターン認識方法。
【請求項５】
前記認識対象は、
文字であることを特徴とする請求項１に記載のパターン認識方法。
【請求項６】
所定の識別関数を用いて認識対象の特徴量を評価することにより該識別対象を２つのクラスのいずれに属するかを識別するパターン認識装置において、
前記認識対象の特徴量を抽出する特徴量抽出手段と、
前記クラス毎に複数の標本パターンを登録可能で、前記クラスに属する標本パターンの特徴量を格納する辞書手段と、
前記特徴量抽出手段が抽出した前記認識対象の特徴量に基づいて、前記辞書手段に格納された全標本パターンのうち、前記認識対象とのマッチング結果が上位の標本パターンを近傍パターンとして複数選出し、該選出した近傍パターンに基づいて２つの候補クラスを決定する候補選出手段と、
前記２つの候補クラスごとに求めた該候補クラスに属する前記近傍パターンの平均をもとに、該候補クラスの標本パターンの特徴量の中から注目すべき成分を選択する特徴選択手段と、
前記特徴選択手段が選択した成分に基づいて識別関数の係数を決定し、該係数が決定した識別関数に基づいて前記認識対象の識別を行う識別処理手段と
を具備することを特徴とするパターン認識装置。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
この発明は、パターン認識方法および装置に関し、特に、手書き文字等を高い認識率で認識することのできるパターン認識方法および装置に関する。
【０００２】
【従来の技術】
近年、パターン認識技術を利用した文字認識装置は、技術の向上とともにその対象が活字文字から手書き文字にまで広がり、需要も増大している。
【０００３】
文字認識装置は、入力された画像に対し、前処理として２値化と文字の切り出しを行った後、当該文字の特徴抽出を行う。特徴抽出は、例えば、文字の輪郭方向に関する特徴量を抽出するもので、図１１（ａ）に示すように対象となる文字を５×５に分割し、分割したそれぞれの領域に対して図１１（ｂ）に示すような８方向の特徴量を抽出する。つまり、ここで抽出した特徴量は、５×５×８の２００次元のベクトルとして表すことができる。なお、この２００次元の空間を特徴空間と呼ぶ。
【０００４】
認識対象文字の特徴量を抽出すると、この特徴量に基づいて候補パターンの選出を行う。候補パターンの選出は、抽出した特徴量を標本辞書を用いて全パターンマッチングを行い、ユークリッド距離の近いものを１５個とり、これを入力に対する近傍パターンとすることにより行う。
【０００５】
続いて、近傍パターンから上位の２カテゴリー（クラス、文字の種類）を選択し、これを候補カテゴリーとして、詳細判定を行う。
【０００６】
詳細判定は、フィッシャーの方法（石井健一郎・上田修功・前田英作・村瀬洋：パターン認識，オーム社，１９９８参照）により行う。フィッシャーの方法とは、特徴空間をより次元の小さい部分空間に変換する方法の一つであり、特徴空間上のクラス（カテゴリー）のパターンの分布から、このクラスを識別するのに最適な１次元軸を求める手法である。
【０００７】
例えば、図１２に示すクラスＣ１とＣ２のパターンを判別する場合、フィッシャー比と呼ばれる（クラス間分散／クラス内分散）を最大とするような座標変換を行って最適なＹ１軸を求め、このＹ１軸に射影を行うと（Ｘ１、Ｘ２は、変換前の軸）、クラスＣ１、Ｃ２を最適に分離することのできる境界（図中、破線で示す）を定めることができる。これに対して、フィッシャー比を最大としない座標変換を行った場合には、Ｙ２軸への射影のようにクラスＣ１、Ｃ２を分離する境界を定めることはできない。つまり、フィッシャーの方法では、異なるクラスのパターンを離し、同一クラスのパターンが固まって分布するように射影することのできる射影軸を決定している。
【０００８】
ところが、上述した方法では、図１３（ａ）に示す「フ」という文字が入力された場合、図１３（ｂ）に示す「ヲ」と図１３（ｃ）に示す「フ」が候補パターンとして選出され、詳細判定により図１３（ｂ）に示す「ヲ」と認識されてしまう場合がある。同様に、図１３（ｄ）に示す「ハ」という文字が入力された場合、図１３（ｅ）に示す「ヘ」と図１３（ｆ）に示す「ハ」が候補パターンとして選出され、詳細判定により図１３（ｅ）に示す「ヘ」と認識されてしまう場合がある。
【０００９】
これは、候補として選択されたパターンが類似している場合に起こり得る。例えば、図１３（ｄ）に示した「ハ」の場合、図１３（ｅ）に示した「ヘ」と図１３（ｆ）に示した「ハ」のそれぞれと重ね合わせると、図１４（ａ）、（ｂ）に示すような結果が得られる。この重ね合わせの結果、つまり、距離によるパターンマッチングの結果は、図１３（ｅ）に示した「ヘ」が図１３（ｄ）に示した「ハ」に最も近いことを示している。このような場合、フィッシャーの方法により詳細判定を行っても、図１５に示したようにクラスＡとクラスＢとを完全に分離することはできず、結果として誤認識が生じてしまうことになる。
【００１０】
また、上述した方法の他にも、特開平６−２８５２５号公報に記載されている「文字認識方法」のようなものも提案されている。この方法では、文字見本の原始特徴ベクトルの集合分布が最適となる特徴空間を求め、特徴抽出対象文字の原始特徴ベクトルをその特徴空間に投影して二次特徴ベクトルを得ることにより文字認識を行うものである。
【００１１】
しかし、この方法では、求めた特徴空間は、文字見本において原始特徴ベクトルの集合分布が最適となる特徴空間であり、入力データに対してこの特徴空間が最適であるかどうかは分からない。このため、変化の小さい活字では高い認識能力を有するが、手書き文字に対しては、高い認識能力を持つとは限らない。
【００１２】
【発明が解決しようとする課題】
上述したように、従来の文字認識方法では、活字文字に対しては高い認識能力を有するが、手書き文字に対しては高い認識能力を有するとは言い難かった。
【００１３】
そこで、この発明は、手書き文字に対しても高い認識能力を有するパターン認識方法および装置を提供することを目的とする。
【００１４】
【課題を解決するための手段】
上述した目的を達成するため、請求項１の発明は、所定の識別関数を用いて認識対象の特徴量を評価することにより該識別対象を２つのクラスのいずれに属するかを識別するパターン認識方法において、前記認識対象の特徴量を抽出し、該抽出した特徴量に基づいて、前記クラス毎に複数の標本パターンを登録可能な辞書手段に格納された全標本パターンのうち、前記認識対象とのマッチング結果が上位の標本パターンを近傍パターンとして複数選出し、該選出した近傍パターンに基づいて２つの候補クラスを決定し、該決定した２つの候補クラスごとに求めた該候補クラスに属する前記近傍パターンの平均をもとに、該候補クラスの標本パターンの特徴量の中から注目すべき成分を選択し、該選択した成分に基づいて識別関数の係数を決定し、該係数が決定した識別関数に基づいて前記認識対象の識別を行うことを特徴とする。
【００１５】
また、請求項２の発明は、請求項１の発明において、前記２つの候補クラスのそれぞれについて、前記辞書手段に格納された全標本パターンの平均と、前記近傍パターンの平均を求め、該２つの標本パターンの平均および該２つの近傍パターンの平均をもとに、各成分毎に差を求めて各成分の寄与度を算出し、該寄与度の所定個数の和である局所累積寄与度を最大化する成分を注目すべき成分として選択することを特徴とする。
【００１６】
また、請求項３の発明は、請求項１の発明において、前記２つの候補クラスのそれぞれについて、前記近傍パターンの平均を求め、該２つの近傍パターンの平均をもとに、各成分毎に差を求めて各成分の寄与度を算出し、該寄与度の所定個数の和である局所累積寄与度を最大化する成分を注目すべき成分として選択することを特徴とする。
【００１７】
また、請求項４の発明は、請求項１の発明において、前記識別関数は、フィッシャーの線形判別法を適用して決定されることを特徴とする。
【００１８】
また、請求項５の発明は、請求項１の発明において、前記認識対象は、文字であることを特徴とする。
【００１９】
また、請求項６の発明は、所定の識別関数を用いて認識対象の特徴量を評価することにより該識別対象を２つのクラスのいずれに属するかを識別するパターン認識装置において、前記認識対象の特徴量を抽出する特徴量抽出手段と、前記クラス毎に複数の標本パターンを登録可能で、前記クラスに属する標本パターンの特徴量を格納する辞書手段と、前記特徴量抽出手段が抽出した前記認識対象の特徴量に基づいて、前記辞書手段に格納された全標本パターンのうち、前記認識対象とのマッチング結果が上位の標本パターンを近傍パターンとして複数選出し、該選出した近傍パターンに基づいて２つの候補クラスを決定する候補選出手段と、前記２つの候補クラスごとに求めた該候補クラスに属する前記近傍パターンの平均をもとに、該候補クラスの標本パターンの特徴量の中から注目すべき成分を選択する特徴選択手段と、前記特徴選択手段が選択した成分に基づいて識別関数の係数を決定し、該係数が決定した識別関数に基づいて前記認識対象の識別を行う識別処理手段とを具備することを特徴とする。
【００２２】
【発明の実施の形態】
以下、この発明に係るパターン認識方法および装置の一実施例について、添付図面を参照して詳細に説明する。
【００２３】
図１は、この発明を適用した文字認識装置の概略構成を示す機能ブロック図である。
同図に示すように、文字認識装置１０は、画像入力部１と前処理部２、特徴抽出部３、候補選出部４、特徴選択部５、判定処理部６、辞書部７、結果出力部８を具備して構成される。
【００２４】
画像入力部１は、認識対象となる文字（列）の画像を入力し、前処理部２は、認識の前処理として画像入力部１より入力された画像の２値化と文字の切り出しなどを行う。特徴抽出部３は、前処理部２で前処理が施された文字画像から特徴ベクトルを生成する。特徴ベクトルの生成は、従来と同様に行い、例えば、文字画像を５×５に分割し、分割した各々で８方向の特徴量を抽出する。候補選出部４は、特徴抽出部３で生成された特徴ベクトルと辞書部７に格納されている全標本パターンとのユークリッド距離を求め、候補カテゴリー（クラス）を選出する。特徴選択部５は、特徴抽出部３が生成した特徴ベクトルと候補選出部４が選出した候補カテゴリーに基づいて、注目すべき成分を選択し、判定処理部６は、特徴選択部５が選択した成分を参酌してフィッシャーの方法により識別判定を行う。結果出力部６は、判定処理部６が識別判定したカテゴリーを認識結果として出力する。
【００２５】
次に、図２を参照して文字認識装置１０の動作を説明する。
図２は、文字認識装置１０の動作の流れを示すフローチャートである。
【００２６】
文字認識装置１０は、動作を開始すると、まず、画像入力部１から認識対象の文字画像を入力し（ステップ１０１）、前処理部２が画像入力部１から入力された文字画像に対する前処理を行う（ステップ１０２）。続いて、特徴抽出部３が前処理が施された文字画像から特徴の抽出、つまり、特徴ベクトルを生成し（ステップ１０３）、候補選出部４が、特徴ベクトルと辞書部７に格納されている全標本パターンとのパターンマッチング（距離計算）を行い、その結果の上位の所定数（例えば１５個）を近傍パターンとし、この近傍パターンに基づいて候補カテゴリーを２つ決定する（ステップ１０４）。
【００２７】
続いて、特徴選択部５が後述する特徴選択処理を行い（ステップ１０５）、判定処理部６が後述する詳細判定処理を行い（ステップ１０６）、結果出力部８が認識結果を出力して（ステップ１０７）、処理を終了する。
【００２８】
次に、特徴選択部５が行う特徴選択処理について説明する。
特徴選択処理は、２つの候補カテゴリーから認識結果としてのカテゴリーを決定する際に、注目すべき成分を決定する処理である。例えば、図３（ａ）に示す代表的な「ユ」と図３（ｂ）に示す代表的な「コ」を識別する際には、図３（ｃ）に示すように、文字の左上、右上、右下の順に重点を置くことで、その識別が容易となる。しかしながら、図３（ｄ）に示すような「コ」が入力された場合、文字の左上や右上に注目しても「ユ」との違いは少なく（図３（ｅ）参照）、図３（ｆ）に示すように文字の右下にのみ注目すれば、「ユ」との識別が容易となる。
【００２９】
ここで、図４を参照して特徴選択処理の流れを説明する。
図４は、特徴選択処理の流れを示すフローチャートである。
【００３０】
特徴選択処理では、まず、全特徴成分に対してフィッシャーの方法を適用して射影を行う行列Ａを求める（ステップ１５１）。続いて、式１に示す候補カテゴリーの全標本辞書平均と、式２に示す近傍パターンの平均を求める（ステップ１５２）。
【００３１】
【式１】
0004350228.tif 000002
【式２】
0004350228.tif 000003
次に、フィッシャーの方法適用時に安定して射影軸が求まるようにする処理を行うが、これは候補カテゴリーの近傍平均の成分u'i、v'iが０または１であるようなものを除く処理であり、具体的には、式３を満たす成分ｉを抽出する（ステップ１５３）。
【００３２】
【式３】
0004350228.tif 000004
続いて、以下に定義する局所累積寄与度を算出する（ステップ１５４）。ここで、局所累積寄与度について説明する。まず、式４に示すようにｉ成分の寄与度κiを定義する。次に、入力データの近傍パターンを考慮すると、式４から各成分の寄与度は式５に示すように定義できる。
【００３３】
【式４】
0004350228.tif 000005
【式５】
0004350228.tif 000006
なお、式５において、αは近傍パターンの影響度を示しており、αが大きい程近傍情報を重視していることになる。
【００３４】
局所累積寄与度は、(κilocal)Ni=1から任意にｍ個取り出したものの総和として定義し、Κlocal(m)で表す。
【００３５】
次に、局所累積寄与度Κlocal(m)を最大にする最大局所累積寄与度Κ*local(m)を用いて最大化する成分を選択し（ステップ１５５）、特徴選択処理を終了する。
【００３６】
なお、ここで説明した特徴選択処理を図３（ｄ）に示した「コ」を入力パターンとした場合に適用すると、各方向（方向については、図１１（ｂ）を参照）、各成分における寄与度κilocalは、図５に示すようになり、文字の下部の値が大きいことがわかる。
【００３７】
次に、判定処理部６における詳細判定処理（図２のステップ１０６）について説明する。
図６は、詳細判定処理の流れを示すフローチャートである。
【００３８】
判定処理部６は、詳細判定処理を開始すると、特徴選択部５により特徴選択された空間で候補カテゴリーにおける近傍平均、標本辞書平均、クラス内変動行列を求め（ステップ１６１）、フィッシャーの線形判別法を適用して一次元への射影行列Asを得て（ステップ１６２）、カテゴリーを決定し（ステップ１６３）、詳細判定処理を終了する。
【００３９】
なお、入力データの特徴ベクトルをx、特徴選択された特徴ベクトルをxs、候補カテゴリーの全標本全体の平均において特徴選択されたものをus、vs、近傍パターンのうち候補カテゴリーであるものの平均において特徴選択されたものをu's、v'sとすれば、識別関数は、式６で表され、その識別規則は式７で表せる。
【００４０】
【式６】
0004350228.tif 000007
【式７】
0004350228.tif 000008
また、図７は、図３（ｄ）に示した「コ」を入力パターンとした場合にステップ１６２で得られる射影行列Asの各成分を示したものであり、０となっている成分は、選択されなかった成分である。この各成分を図８に示す特徴選択を行わなかった場合の射影行列A（従来と同様の方法で得たもの）と比較すると、射影行列Asは、文字の下部の値が大きく、重み付けされていることがわかる。
【００４１】
このように特徴選択をして射影軸への射影を行うと、例えば、図９に示すようなデータＸ１（カテゴリーＢに属する）が入力されると、従来の方法で得られる射影軸１へのＸ１の射影Ｙ１はカテゴリーＡに属することになるが（Ｙ１ＹＡ１＜Ｙ１ＹＢ１）、特徴選択により得られる射影軸２へのＸ１の射影Ｙ２は、カテゴリーＢに属することになる（Ｙ２ＹＡ２＞Ｙ２ＹＢ２）。ただし、同図中の実線の楕円は、各カテゴリー（Ａ、Ｂ）の平均パターンm1、m2から等密度となる線であり、破線の楕円は、入力データＸ１の近傍パターンのうちカテゴリーＡであるものの領域（領域ａ）と、カテゴリーＢであるものの領域（領域ｂ）を示している。
【００４２】
また、図１０は、ある入力データに対して特徴選択を行わなかった場合（従来法）と、特徴選択を行った場合（本手法）に決定されたカテゴリーの例を示したもので（候補カテゴリーは、従来法と本手法で同一）、特徴選択を行うことにより、高い認識能力を有するパターン認識を行えることが分かる。
【００４３】
なお、この実施例では、文字認識を例として説明したが、音声認識などの他のパターン認識であっても、フィッシャーの方法を適用するパターン認識であれば特徴選択を行って認識率を向上させることができる。
【００４４】
【発明の効果】
以上説明したように、この発明によれば、入力データの近傍を考慮して特徴選択を行い、特徴選択された空間でフィッシャーの線形判別法を適用するように構成したので、手書き文字などの変化の大きい入力に対しても高い認識能力を得ることができる。
【図面の簡単な説明】
【図１】この発明を適用した文字認識装置の概略構成を示す機能ブロック図である。
【図２】文字認識装置１０の動作の流れを示すフローチャートである。
【図３】特徴選択処理を説明するための図である。
【図４】特徴選択処理の流れを示すフローチャートである。
【図５】寄与度の算出結果を示した図である。
【図６】詳細判定処理の流れを示すフローチャートである。
【図７】射影行列Asの各成分を示した図である。
【図８】射影行列Aの各成分を示した図である。
【図９】特徴選択をした射影軸への射影を説明するための図である。
【図１０】識別結果例を示した図である。
【図１１】特徴量の抽出を説明するための図である。
【図１２】フィッシャーの方法による射影を説明するための図である。
【図１３】誤認識を説明するための図である。
【図１４】重ね合わせの結果を示した図である。
【図１５】線形分離できないカテゴリーの特徴空間での分布を示した図である。
【符号の説明】
１    画像入力部
２    前処理部
３    特徴抽出部
４    候補選出部
５    特徴選択部
６    判定処理部
７    辞書部
８    結果出力部
【図１】
0004350228.tif 000009
【図２】
0004350228.tif 000010
【図３】
0004350228.tif 000011
【図４】
0004350228.tif 000012
【図５】
0004350228.tif 000013
【図６】
0004350228.tif 000014
【図７】
0004350228.tif 000015
【図８】
0004350228.tif 000016
【図９】
0004350228.tif 000017
【図１０】
0004350228.tif 000018
【図１１】
0004350228.tif 000019
【図１２】
0004350228.tif 000020
【図１３】
0004350228.tif 000021
【図１４】
0004350228.tif 000022
【図１５】
0004350228.tif 000023