(57)【要約】【課題】本発明は、コードを識別する方法、装置、プログラムを提供する。【解決手段】前記方法において、入力された文字画像サンプルに識別して識別結果を出すことと、前記識別結果の信頼度を生成することと、入力された文字画像サンプルが変形サンプルに属すか否かを前記信頼度に基づいて判断することと、非変形サンプルである場合、前記識別結果を最終識別結果とすることと、変形サンプルである場合、変形サンプルに識別して最終識別結果出すことととを含む。本発明の技術案では、第一段階にて誤って識別されたサンプルを直接に第二段階の基本学習サンプルとすることによって、それらの変形したサンプルを効果的に処理でき、もってシステムの識別精度を高める。【選択図】        図２−１
2008210388.tif 000002
【特許請求の範囲】
【請求項１】
入力された文字画像サンプルに対して識別を行って識別結果を出すステップと、
前記識別結果の信頼度を生成するステップと、
入力された文字画像サンプルが変形サンプルに属すか否かを前記信頼度に基づいて判断するステップと、
非変形サンプルである場合、前記識別結果を最終識別結果とするステップと、
変形サンプルである場合、変形サンプルに識別を行い、最終識別結果を出すステップと、
前記最終識別結果を出力するステップと、
を含むことを特徴とするコード識別方法。
【請求項２】
前記信頼度は照合距離分布とのフィッティングの方法により生成されることを特徴とする請求項１に記載のコード識別方法。
【請求項３】
照合距離分布とのフィッティングの方法により信頼度が生成され、さらに、
識別結果及びコード類別ごとに照合距離を生じるステップと、
照合距離の小さい順にｌ個までの照合距離を選択して候補距離とするステップと、
前記ｌ個の候補距離に基づいて前記識別結果の信頼度を計算するステップと、
を含むことを特徴とする請求項２に記載のコード識別方法。
【請求項４】
前記入力された文字画像サンプルが変形サンプルに属すか否かを前記信頼度に基づいて判断するステップは、
もし前記信頼度が設定した閾値よりも大きい場合、入力された文字画像サンプルが非変形サンプルであると判断するステップと、
そうでない場合、入力された文字画像サンプルが変形サンプルであると判断するステップと、
を含むことを特徴とする請求項１に記載のコード識別方法。
【請求項５】
前記変形サンプルに対して識別を行うことは、具体的に、
変形サンプルのテンプレートセットを生成し、前記変形サンプルと前記変形サンプルのテンプレートセットのテンプレートベクトルとの差を取って相違特徴を得るステップと、
前記変形サンプルを類内相違と類間相違に変換し、前記相違特徴が類内相違又は類間相違に属すかを判断するステップと、
前記変形サンプルを最大の信頼度を備える類内相違テンプレートの類別として識別するステップと、
を含むことを特徴とする請求項１に記載のコード識別方法。
【請求項６】
前記変形サンプルのテンプレートセットを生成することは、具体的に、
前記変形サンプルのみ含む変形サンプル基本セットを生成するステップと、
前記変形サンプル基本セットに対して自動クラスタリングを行って変形サンプルテンプレートセットを生成するステップと、
を含むことを特徴とする請求項５に記載のコード識別方法。
【請求項７】
前記変形サンプルと前記変形サンプルテンプレートセットのテンプレートベクトルとの差を取って相違特徴を得ることは、変形サンプルが前記識別結果のＮ個までの候補識別の変形サンプルテンプレートのみと差を取って相違特徴を得ることを指すことを特徴とする請求項５に記載のコード識別方法。
【請求項８】
前記変形サンプルに類間相違を生成することは、具体的に、一つの所定の百分率に基づいてサンプリングを行って前記類間相違を生成するステップを含むことを特徴とする請求項５に記載のコード識別方法。
【請求項９】
入力された文字画像サンプルに対して識別を行って識別結果を出す第一段階分類決定手段と、
識別結果の信頼度を生成する信頼度生成手段と、
入力された文字画像サンプルが変形サンプルに属すか否かを前記信頼度に基づいて判断し、非変形サンプルである場合、前記識別結果を最終識別結果とする一方、変形サンプルである場合、前記変形サンプルを第二段階分類決定手段に入力する信頼度判断手段と、
変形サンプルに対して識別を行って最終識別結果を生成する第二段階分類決定手段と、
前記最終識別結果を出力する出力手段と、
を含むことを特徴とするコード識別装置。
【請求項１０】
入力された文字画像サンプルに識別して識別結果を出す手順と、
前記識別結果の信頼度を生成する手順と、
入力された文字画像サンプルが変形サンプルに属すか否かを前記信頼度に基づいて判断する手順と、
非変形サンプルである場合、前記識別結果を最終識別結果として出力する手順と、
変形サンプルである場合、変形サンプルに識別を行い、最終識別結果を生成して出力する手順と、
をコンピュータに実行させることを特徴とするコード識別プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明はパターン認識の領域に関し、特に変形又は軽微異常なコードに対して識別を行なう技術に関する。具体的にはコードを識別する方法、装置及びプログラムである。
【背景技術】
【０００２】
多くの技術はコードの識別に用いることができる。現在広く応用されている方法の一つは統計に基づく識別用法であり、例えばサポートベクトルマシーン（Support Vector Machine: ＳＶＭ）(具体的には、非特許文献１を参照)は、コードを識別する最良の方法の一つである。サポートベクトルマシーンを用いてコードを識別する際に、通常はまず多くの文字画像サンプルを収集するが、このようなサンプルセットは学習セットとも呼ばれる。
【０００３】
次に、学習サンプルセットをまとめてＳＶＭへ入力し学習を行なう。一般的に言えば、ＳＶＭはまず二類ごとに対応し(例えば、１０個のアラビア数字を識別するのに、１と２の識別問題、０と２の識別問題、８と９の識別問題等のように全部でＣ(１０，２)＝４５個の、二類ごとの問題がある)、二次計画問題を求めることを利用し、一つの分類決定関数を構成する。新しく入力されたコードを識別する際に、二種類ごとの決定関数はその分類結果を投票し、最終的な分類結果は票数が最も多かったコードとなる。
【０００４】
統計の方法に基づけば、特にサポートベクトルマシーンが取得する分類面は通常比較的良好な識別率を得ることができるが、しかし多くの実際の応用においては、往々にしてさらに高い識別率が必要となる。例えば銀行の領収書の識別もさらに高い精度が必要である。
【０００５】
全体的に学習サンプルを入力すると、サポートベクトルマシーンが、ある変形のサンプルに対して十分に考慮できないのをもたらす。言い換えれば、それら少量の変形または軽微な異常のサンプルはサポートベクトルマシーンによりノイズスポットとして処理され、考慮されない可能性がある。実際に、これらの変形のサンプルに対する識別は往々にしてシステムがさらに良好な識別精度を取得できるか否かに直接影響する。
【０００６】
同時に統計に基づく識別方法は往々にして大量の学習サンプルが必要になり、少量の変形サンプルしか存在しない場合、統計に基づく方法を直接応用することは往々にして良好な識別効果を取得することができない。近年多くの方法ではサポートベクトルマシーンの学習効率又は識別速度を高めるような統計に基づく方法をいかに向上させるかに集中している。
【０００７】
特許文献１及び特許文献２の内容は本発明の背景技術としてここに提示されたものである。しかし、これらの方法で高度の変形サンプルを処理する際に、それらは同様に全体的に学習サンプルを入力されるため、同様にサポートベクトルマシーンがいくつかの変形のサンプルに対する考慮の不足をもたらし、ゆえに良好な識別効果を得られなくしている。
【０００８】
【非特許文献１】V.N.Vapnik, Statistical Learning Theory, Springer, New York, 2nd edition, 1998, 及びC.J.C. Burges, A tutorial on support vector machines for pattern recognition, Data Mining and Knowledge Discovery, 2(2):121-167,1998
【特許文献１】米国特許第6,327,581号、発明名称「Methods and apparatus for building a support vector machine classifier」
【特許文献２】米国特許第6,134,344号、発明名称「Method and apparatus for improving the efficiency of support vector machines」
【発明の開示】
【発明が解決しようとする課題】
【０００９】
本発明は、このような現有技術の不備に対して、本発明はコードを識別する方法、装置、プログラム及び読み取り可能な記憶媒体を提供することを目的とする。
【課題を解決するための手段】
【００１０】
該コード識別方法は二段階の識別方式を採用して行なう。第一段階において、伝統的な統計方法を利用し、例えばサポートベクトルマシーンがサンプルに対して識別を行なう。それら変形または軽微異常のサンプルは往々にして第一段階で誤って識別されるが、第二段階の構造においては伝統的第一段階で誤って識別されたサンプルに対して単独で処理が行なわれる。二段階の構造を採用することは変形のサンプルを非常に適切に処理することができ、ゆえにシステムの精度を極めて大きく向上させることができる。
【００１１】
第１に本発明では、入力した文字画像サンプルに対して識別を行ない、識別結果を出し、上記識別結果の信頼度を生成し、入力した文字画像サンプルが変形サンプルに属するか否かを上記信頼度に基づいて判断し、非変形サンプルである場合には、上記識別結果を最終識別結果として出力し、変形サンプルである場合には、変形サンプルに対して識別を行ない、最終識別結果を生成して出力するステップを含むコード識別方法を提供する。
【００１２】
上記の入力した文字画像サンプルに対する識別はサポートベクトルマシーンを採用する方法で行う。
【００１３】
上記の信頼度が照合距離分布とのフィッティングの方法により生成される。
【００１４】
照合距離分布とのフィッティングの方法により信頼度が生成され、さらに、識別結果及びコード類別ごとに照合距離を生成し、照合距離の小さいから順にｌ個までの照合距離を選択して候補距離とし、上記ｌ個の候補距離に基づいて上記識別結果の信頼度を計算するステップを含む。
【００１５】
入力した文字画像サンプルが変化サンプルに属するかを上記信頼度に基づいて判断し、具体的に、もし上記信頼度が設定した閾値よりも大きい場合、入力した文字画像サンプルが非変形サンプルであると判断し、そうでない場合には、入力した文字画像サンプルが変形サンプルであると判断するステップを含む。
【００１６】
上記変形サンプルに対して識別を行なうことは、具体的に、変形サンプルのテンプレートセットを生成し、上記変形サンプルと上記変形サンプルのテンプレートセットのテンプレートベクトルとの差を取り相違特徴を得て、上記変形サンプルを類内相違と類間相違に変換し、上記相違特徴が類内相違または類間相違に属すかを判断し、上記変形サンプルが最大の信頼度を備える類内相違テンプレートの類別であると識別するステップを含む。
【００１７】
上記変形サンプルのテンプレートセットを生成することは、具体的に、変形サンプル基本セットを生成し、上記変形サンプル基本セットは上記変形サンプルだけを含み、上記変形サンプル基本セットは自動クラスタリングを行い、変形サンプルテンプレートセットを生成するステップを含む。
【００１８】
上記変形サンプルと上記変形サンプルテンプレートセットのテンプレートベクトルとの差を取り相違特徴を得ることは、変形サンプルが上記識別結果のＮ個までの候補類別の変形サンプルテンプレートのみと差を取り相違特徴を得ることを指す。
【００１９】
上記変形サンプルに基づき類間相違を生成することは、具体的に、一つの所定の百分率に基づいてサンプリングを行ない、上記類間相違を生成するステップを含む。
【００２０】
第２に本発明では、入力した文字画像サンプルに対して識別を行ない、識別結果を生成する第一段階分類決定手段と、識別結果の信頼度を生成することに用いられる信頼度生成手段と、上記入力した文字画像サンプルが変形サンプルに属すか否かを上記信頼度に基づいて判断し、非変形サンプルの場合には上記識別結果を最終識別結果とする信頼度判断手段と、変形サンプルに対して識別を行ない、最終識別結果を生成する第二段階分類決定手段と、上記最終識別結果を出力する出力手段とを含むコード識別装置を提供する。
【００２１】
上記第一段階分類決定手段はサポートベクトルマシーンである。
【００２２】
上記信頼度生成手段はさらに、識別結果とコード類別ごとに照合距離を生成することに用いられる照合距離生成手段と、照合距離の小さい順にｌ個までの照合距離を選択して候補距離とすることに用いられる候補距離選択手段と、上記ｌ個の候補距離に基づいて上記識別結果の信頼度を計算する計算手段とを含む。
【００２３】
上記信頼度判断手段はさらに、一つの閾値を設定する閾値設定手段と、上記識別結果の信頼度と上記閾値の大きさを比較して、上記信頼度が設定閾値よりも大きい場合に、入力した文字画像サンプルが非変形サンプルであると判断して上記識別結果を最終識別結果とし、そうでない場合に、入力した文字画像サンプルが変形サンプルであると判断して上記変形サンプルを第二段階分類決定手段に入力する比較判断手段とを含む。
【００２４】
上記第二段階分類決定手段はさらに、変形サンプルテンプレートセットを生成する変形サンプルテンプレートセット生成手段と、上記変形サンプルと上記変形サンプルテンプレートセットのテンプレートベクトルとの差を取り相違特徴を得る相違計算手段と、上記変形サンプルを類内相違と類間相違とに変換する変形サンプル変換手段と、上記相違特徴が類内相違または類間相違に属すかを判断し、上記変形サンプルが最大信頼度を備える類内相違テンプレートの類別と識別する相違特徴決定手段を含む。
【００２５】
上記変形サンプルテンプレートセット生成手段はさらに、上記変形サンプルのみを含む変形サンプル基本セットを生成することに用いられる変形サンプル基本セット生成手段と、上記変形サンプル基本セットについて自動的にクラスタリングを行い、変形サンプルテンプレートセットを生成するサンプルクラスター手段とを含む。
【００２６】
上記相違計算手段はまた、変形サンプルと上記識別結果のＮ個までの候補類別の変形サンプルテンプレートとの差を取り相違特徴を得る。
【００２７】
上記変形サンプル変換手段はさらに、一つの所定の百分率に基づいてサンプリングを行い、上記類間相違を生成するサンプリング手段を含む。
【００２８】
第３に本発明では、入力した文字画像サンプルに対して識別を行い、識別結果を生成し、上記識別結果の信頼度を生成し、上記信頼度に基づき入力した文字画像サンプルが変形サンプルに属すか否かを判断し、非変形サンプルである場合、上記識別結果を最終識別結果として出力し、変形サンプルである場合、変形サンプルに対して識別を行ない、最終識別結果を生成して出力すること含むコード識別プログラムを提供する。
【００２９】
本発明は二段階の識別構造を採用し、第一段階識別装置が誤って識別したサンプルは第二段階識別装置においても続けて識別が行なわれる。従って、本発明の技術方案は第一段階が誤って識別したサンプルを直接第二段階の基本学習サンプルとし、これらの変形のサンプルを効果的に処理でき、従って、システムの識別精度を向上させることができる。同時に、誤りのサンプルを利用して変形サンプルセットを自動形成することはサンプルセットの手動収集を免れ、人力、物力を極めて大きく節約できる。
【００３０】
さらに、本発明は変形サンプルに対して行なう識別が相違特性の方法を採用し、変形コード特徴ベクトルの間で相互に差を取り、それにより多種類類のコード識別問題を二類に、即ち類内相違と類間相違の識別問題に変換する。且つ変換した後の二類相違特徴の集合において分類器を学習する。多類のコード識別問題を二類の識別に変換し、サンプル数を極めて大きく拡充することができ、統計に基づく識別方法を効果に利用して、分類器の学習効用を改良することで、システムの精度を向上させる。
【発明の効果】
【００３１】
本発明は、二段階構造を採用して入力した文字画像サンプルに対し識別を行なう。第一段階が誤って識別したサンプルは往々にして変形サンプルまたは軽微な異常のサンプルであり、これらの誤って識別されたサンプルは第二段階で単独に識別処理されることで、変形サンプルに対する識別精度を大幅に向上させることができる。
【発明を実施するための最良の形態】
【００３２】
以下、図面に本発明を関連させて詳細な説明を行なう。
【００３３】
図１は、本発明に係るコード識別装置の構造のブロック図である。図が示すように、本発明のコード識別装置は、第一段階分類決定手段１１、信頼度生成手段１２、信頼度判断手段１３及び第二段階分類決定手段１４を含み、比較的良好な実施例において該コード識別装置はさらに出力手段１５を含む。
【００３４】
その中で、第一段階分類決定手段１１は、入力した文字画像サンプルに対して識別を行なうことに用いられ、識別結果を生成して記憶手段に記憶する。本発明の第一段階分類決定手段は伝統的なサポートベクトルマシーンを採用して実現することができる。信頼度生成手段１２は、識別結果の信頼度を生成することに用いられる。信頼度判断手段１３は入力した文字画像サンプルが変形サンプルに属すか否かを上記信頼度に基づいて判断し、非変形サンプルの場合には上記識別結果を読み出して最終識別結果とする。第二段階分類決定手段１４は、変形サンプルに対して識別を行なって最終識別結果を生成する。出力手段１５は、上記最終識別結果を出力する。
【００３５】
図２−１は、本発明に係るコード識別方法フローチャートである。図が示すように、ステップＳ１０１において、第一段階分類決定手段１１は、学習サンプルセットＴ１０１に基づいて、入力した文字画像サンプルに対して識別を行い、識別結果を生成する。ステップＳ１１１において、信頼度生成手段１２は、第一段階分類決定手段１１が生成した識別結果の信頼度を計算する。
【００３６】
ステップＳ１０２において、信頼度判断手段１３は、第一段階分類決定手段１１が生成した識別結果信頼度が所定の閾値Ｔｈ１より大きいか否かを判断する。大きい場合には、入力したサンプルが第一段階分類決定手段１１により確実に識別されることを意味している。そして、第一段階分類決定手段１１の識別結果は最終識別結果となり、ステップＳ１０５へ進み、出力手段１５において該最終識別結果を出力する。
【００３７】
大きくない場合には、該入力した文字画像サンプルが変形サンプルであると判断し、ステップＳ１０６へと進む。そして、該入力された変形サンプル(軽微な異常のサンプルを含む)は、第二段階分類決定手段１４により識別され、第二段階分類決定手段１４の識別結果が最終識別結果となる。その後、ステップＳ１０５へ進み、出力手段１５において該最終識別結果を出力する。
【００３８】
第二段階分類決定手段１４は、変形に対して、これらの異常コードをさらに良好に識別できる。二段階構造を採用することにより異なった性質のコードに対してさらに良好に処理を行なうことができ、これにより効果的にシステムの識別精度を向上させることができる。図２−２は、本発明に係るコード識別の一実施例のフローチャートである。
【００３９】
図３は、本発明に係る信頼度生成手段１２の構造のブロック図である。図が示すように、本発明に係る信頼度生成手段１２はさらに、照合距離生成手段３１、候補距離選択手段３２及び計算手段３３を含む。その中で、照合距離生成手段３１は、識別結果とコード類別ごとに照合距離を生成することに用いられ、候補距離選択手段３２は、照合距離の小さい順にｌ個までの照合距離を選択して候補距離とすることに用いられ、計算手段３３は、上記ｌ個の候補距離に基づいて上記識別結果の信頼度を計算する。以下に、信頼度生成手段の作業原理を詳細に説明する。
【００４０】
信頼度生成手段１２は、照合距離分布とのフィッティング方法から識別結果の信頼度を生成する。入力サンプルＩをコード類別ｉにマッチングする照合距離Ｄｉｓ（Ｉ，ｉ）と、入力サンプルＩをコード類別ｉにマッチングする条件確率ｐ（Ｉ｜ｉ）とが以下の関係を満たすと仮定する。
【００４１】
【数１】
2008210388.tif 000003
【００４２】
その中のｔは、１つの正の予め設けられた常数であり、経験または実験から得られる。実際の応用において、多くの分布はしばしば出現する正規分布が指数分布に属すように、指数の確率分布を満たす。ベイズ理論に基づけば、入力したサンプル画像を定め、サンプル画像を類別ｉの事後確率である信頼度と判断し、以下のように計算することができる。
【００４３】
【数２】
2008210388.tif 000004
【００４４】
この中のＣはコード類数である。上記の公式において、類ごとのコードの事前確率ｐ（ｉ）はほぼ等しいという仮定であり、学習過程において、もし類ごとのコードの出現確率が基本的に一致するように保つ場合、この仮定は満たすことができる。
【００４５】
具体的な信頼度の計算過程は以下のとおりである。まず、照合距離生成手段３１は識別結果とコード類別ごとの照合距離Ｄｉｓ（Ｉ，ｉ）を生成し、その中で、ｉはＣ個のコード類別を全てにわたって取り、ゆえに入力サンプルＩと全てのコード類別の照合距離を取得する。
【００４６】
その後、候補距離選択手段３２は、得られたｌ（ｌＣ）個までの照合距離を候補距離とする。その中で、それぞれの候補距離が対応するコード類別は識別候補と呼ばれ、Ｃａｎｄｉ，ｉ＝１，２，．．．，ｌと記される。それぞれの識別候補Ｃａｎｄｉの照合距離は候補距離と呼ばれ、Ｄｉｓｉと記され、かつ候補距離は既に小さい順に並べられている。即ち、Ｄｉｓｉ＞Ｄｉｓｊ，ｆｏｒ  ｉ＞ｊ  ｉ，ｊ＝１，２，．．．ｌになる。最後に、計算手段３３は以下の公式を利用して第一段階分類決定手段１１の識別結果の信頼度ｃｏｎｆを計算する。
【００４７】
【数３】
2008210388.tif 000005
【００４８】
この中のｔは一つの正の予め設けられた常数である。実際の応用過程において、最後のいくつかの候補の照合距離は往々にして非常に大きい。従って、公式(２)においてはｌ番目の候補の後の類別は使われることがないため、一方では計算の速度を向上させることができ、他方では信頼度の推定正確度を低下させることはない。
【００４９】
図４は、本発明に係る信頼度判断手段１３の構造のブロック図である。図が示すように、信頼度判断手段１３は、さらに閾値設定手段４１及び比較判断手段４２を含む。その中で、閾値設定手段４１は、予め閾値Ｔｈ１を設定することに用いられる。通常Ｔｈ１は０と１の間にある正数である。
【００５０】
比較判断手段４２は、第一段階分類決定手段１１の識別結果の信頼度ｃｏｎｆと閾値Ｔｈ１との大きさを比較し、信頼度ｃｏｎｆが閾値Ｔｈ１より大きい場合、入力された文字画像サンプルが非変形サンプルであると判断し、第一段階分類決定手段１１の識別結果を最終識別結果とする。そうでない場合には、入力された文字画像サンプルを変形サンプルであると判断し、該変形サンプルを第二段階分類決定手段１４に入力し識別を行なう。
【００５１】
図５は、本発明に係る第二段階分類決定手段１４の構造のブロック図である。図が示すように、第二段階分類決定手段１４はさらに、変形サンプルテンプレートセット生成手段５１、相違計算手段５２、変形サンプル変換手段５３及び相違特徴決定手段５４を含む。
【００５２】
その中で、変形サンプルテンプレートセット生成手段５１は、変形サンプルテンプレートセットを生成することに用いられる。相違計算手段５２は、上記変形サンプルと上記変形サンプルテンプレートセットのテンプレートベクトルとの差を取り相違特徴を得る。変形サンプル変換手段５３は、上記変形サンプルを類内相違と類間相違とに変換する。相違特徴決定手段５４は、上記相違特徴が類内相違または類間相違に属するかを判断し、上記変形サンプルを最大信頼度を有する類内相違テンプレートの類別と識別する。
【００５３】
図６は、変形サンプルテンプレートセット生成手段５１の構造図である。比較的良好な実施例において、本発明に係る変形サンプルテンプレートセットは変形サンプル基本セットがＣ−Ｍｅａｎ(A. K. Jain, M. N. Myrthy, and P. J. Flynn. Data clustering: A survery. ACM Computing Survey, 31(3):264-323,1999.)のような方法で自動クラスタリングをもとに得られる。
【００５４】
図が示すように、変形サンプルテンプレートセット生成手段５１はさらに、変形サンプル基本セット生成手段６１及びサンプルクラスター手段６２を含む。変形サンプル基本セット生成手段６１は、変形サンプル基本セットを生成することに用いられる。該変形サンプル基本セットは変形サンプルのみを含む。サンプルクラスター手段６２は、変形サンプル基本セットに対して自動クラスタリングを行い変形サンプルテンプレートセットを生成するのに用いられる。
【００５５】
比較的良好な実施例において、変形サンプル基本セット生成手段６１は、図７に示した方法を採用して変形サンプル基本セットを生成する。図が示すように、それぞれの学習サンプルセットにおけるサンプルは順次第一段階分類決定手段１１に入力される。
【００５６】
その後、信頼度判断手段１３は、信頼度生成手段１２が生成した信頼度に基づいて該サンプルが第一段階分類決定手段１１によって誤って識別されたかを判断する。誤って識別された場合には該誤って識別されたサンプルは変形サンプル基本セットに加えられることになる。
【００５７】
従って、変形サンプル基本セットは第一段階分類決定手段１１によって誤って識別されたサンプル、即ち変形サンプルのみを含む。サンプルクラスター手段６２は、変形サンプル基本セットに対して、各類別に対して自動クラスター算法を採用してＫ個のクラスター中心に自動重合し、このＫ個クラスター中心はこの一類別サンプルのＫ個テンプレートとし、自動クラスター算法を採用することにより変形サンプルテンプレートセットを生成することができる。
【００５８】
比較的良好な実施例において、相違計算手段５２はただ、第一段階分類決定手段１１のＮ個までの識別候補集合における類別に出現するテンプレートと、入力した変形サンプルとを一緒にのみ相違特徴を計算し、相違特徴決定手段５４に入力し識別を行なう。この様に全ての類別のテンプレートと入力した変形サンプルの相違特徴を識別することを免れることで、相違特徴決定手段５４の分類の回数を効果的に減らし、識別速度を向上させることができる。
【００５９】
変形サンプル変換手段５３は、変形サンプルを類内サンプル及び類間サンプルに学習することに用いられる。この様な変換で変形サンプル学習セットを生成し、その中で類内サンプルは類内学習セットを構成し、類間サンプルは類間学習セットを構成する。
【００６０】
本発明はランダム数生成方法を採用して類間サンプル数が類内サンプル数よりはるかに大きいという不均衡の問題を解決する。変形サンプル変換手段５３はさらに、一つの所定の百分率に基づきサンプリングを行い、上記類間相違を生成するサンプリング手段を含む。具体的な変形サンプル学習セットの生成方法は図８に詳しい。
【００６１】
図８が示すように、まず初期値を設定し、変化サンプル基本セットＤｗ＝｛Ｖ１,Ｖ２,…,Ｖｑ｝からサンプルＶｋ，Ｖｊを取り出し、全ての変形サンプルが完全に取り出されたかを判断する。もし既に取り出されていた場合、該プロセスを終了する。
【００６２】
もし完全に取り出されていない場合、Ｖｋ，Ｖｊが同一類別のサンプルに属すかを判断し、そうであるならば、アキュムレータｉに１を加え、相違特徴Ｎｉを計算し、該相違特徴を類内相違として、Ｎｉを変形サンプル学習セットにおける類内学習セットに加える。
【００６３】
そうでなければ、確率変換手段により上記ランダム数を確率Ｐと転化し、サンプリング手段により、確率ｐ（０＜ｐ＜１が一つの予め設定された閾値である）でＶｋ，Ｖｊの間の相違特徴Ｎｉを変形サンプル学習セットにおける類間学習セットに加える。以上の過程はあらゆる変形サンプルの間の相違特徴が処理されるまで反復される。
【００６４】
上記の過程において、まず一つの確率により０からＸの間の任意の整数を生成する。Ｘ＝[１／ｐ]は、１／ｐに対してその整数部分を取ること表し、これによってサンプリング確率Ｐを生成する。このようにサンプリング手段はｐの確率をもって類間相違特徴を類間学習セットに加えることになる。
【００６５】
一方では上記の過程において、実際に多類の変形サンプルを二類問題に変換することとなる。即ち一対のサンプルを類内あるいは類間サンプルであると判断する。このような方式はサンプル数量を極めて大きく拡充させ、それゆえ変形サンプル数不足の問題を補うことになる。
【００６６】
他方では、ランダム数を採用する方法は類間サンプル数が類内サンプル数よりはるかに大きくなる問題を効果的に免れることができるため、第二段階分類決定手段１４は相違特徴を類内相違サンプルとして識別しがちになることはない。以下は例を示して具体的に該方法の特徴を説明する。
【００６７】
仮に、第一段階決定関数による学習サンプルに対して誤って識別されたサンプルにより構成される変形サンプル基本セットＤｗが合計１０類あるとする。たとえば、１０個の数字、０〜９において、類ごとのサンプル数は同一の数ｑを有する。
【００６８】
通常は統計に基づく方法を使用し、ＳＶＭの方法により第一段階決定関数の学習を行なう際に、誤って認識されたサンプル数は非常に少ない。即ちＤｗ内の類ごとのサンプルの数は非常に少なく、一つの典型的な数は１５前後である。このように小さな数に基づくサンプルから、ＳＶＭが高い識別精度を持つ分類器を学ぶことは非常に難しい。
【００６９】
１０類の分類問題を２類の分類、即ち類内と類間の識別問題に変換した場合、サンプル数は極めて大きく拡充が得られ、具体的に言えば、類間サンプル数はC１０２ｑ２＝１０１２５となり、類内サンプル数は１０Ｃｑ２＝１０５０となる。しかしサンプル数が拡充を得ると同時に、類間サンプル数は類内サンプル数よりはるかに大きくなる。このような問題は不均衡認識問題と呼ばれ、学習された決定関数は往々にして新しく入力されたサンプルをサンプル数の多いサンプルと識別する傾向がある。
【００７０】
本発明はランダム数を用いてサンプリングする方法を採用し、ｐ＝１/７と仮定して、サンプリング手段は１/７＊１００％の確率で類間サンプルを類間学習セットに加える。即ち最後の類間セットのサンプル数はC１０２ｑ２/７＝１４４６であり、このように生成された類内と類間のサンプル数は比較的均衡な一方で、二類の分類問題のサンプル数１０５０＋１４４６＝２４９６は原始の１０類分類問題のサンプル数１５＊１０＝１５０よりもはるかに多くなる。ゆえに統計に基づく学習方法を運用し、高精度の決定関数を学習し、システムの精度を極めて大きく向上することができる。
【００７１】
相違特徴決定手段５４は変形サンプル基本セットが生成した変形サンプル学習セットにより学習されてきたもので、分類器形式は具体的にＳＶＭ等の任意の二類の分類器でよい。最後に結果を出力手段１５に出力する。
【００７２】
具体的に言うと、入力した文字画像サンプルをＩと記す。コード類別数は合計Ｃ類で、変形サンプルテンプレートセットにおける類ごとのテンプレート数はＷとし、テンプレートＴｉｊは（１≦ｉ≦Ｃ，１≦ｊ≦Ｗ）とし、第一識別手段のＮまでの識別候補集合はＤＮと仮定すると、Ｎｗ個の相違ベクトルΔｉｊ＝｜Ｉ−Ｔｉｊ｜（１≦ｉ＜Ｃ，ｉ∈ＤＮ，１≦ｊ≦Ｗ）が得られる。｜Ｉ−Ｔｉｊ｜はベクトルＩ−Ｔｉｊに対して次元ごとに絶対値を取ることを表す。各相違ベクトルに対して、相違特徴決定手段５４は、該入力した相違ベクトルが類内相違かそれとも類間相違に属するかを判定する。具体的な判定過程は以下のとおりである。
【００７３】
仮に、相違特徴決定手段の決定関数がｆＤＷ(ｆＤＷは二類特徴、即ち類内相違特徴、及び類間相違特徴がＳＶＭのような分類方法により学習をしてなる。)とすると、
ｆＤｗ（Δｉｊ）≧０のとき、相違特徴Δｉｊを入力すると類内相違特徴と判断される。即ち、ＩとテンプレートＴｉｊは同一のコード類別を有する。
ｆＤｗ（Δｉｊ）＜０のとき、相違特徴Δｉｊを入力すると類間相違特徴と判断される。即ち、ＩとテンプレートＴｉｊは異なるコード類別を有する。
【００７４】
具体的に以下のように示される。
【００７５】
相違特徴決定手段の識別出力０は
【数４】
2008210388.tif 000006
,ｊ＝１,２,...,ｗ（１）
【００７６】
ｆＤＷ（Δｉｊ）値が大きくなれば、Δｉｊが類内相違特徴を表す可能性も大きくなる。ここにおいて、第一段階識別候補集合で出現したあらゆるテンプレートに対して、Δｉｊ＝｜Ｉ−Ｔｉｊ｜（１≦ｉ＜Ｃ，ｉ∈ＤＮ，１≦ｊ≦ｗ)であり、相違特徴分類器がサンプルＩの分類結果は最大の決定値を有するテンプレートの類別とする。
【００７７】
上記の相違特徴分類器において、テンプレートマッチングと二類分類器を効果的に結合させた。一方で、これらのテンプレートは変形サンプル処理によりなり、したがって、効果的に変形サンプルに対して識別を行なう。他方で、相違特徴を採用することでサンプルのみを類内と類間として処理し、効果的にサンプル数を拡充することができ、従って決定器、特に統計に基づいた決定分類器(ＳＶＭなどのような)の分類精度を向上させる。
【００７８】
図９は、本発明に係る第二段階分類決定手段１４の作業原理図である。図が示すように、サンプルが信頼度判断手段１３により変形サンプルと判断された後、相違計算手段５２は入力した変形サンプルと変形サンプルテンプレートセット中で、且つ第一段階分類決定手段のＮ個までの識別候補集合において出現したコード類別のテンプレートと引き算をし、相違特徴を得る。
【００７９】
相違特徴決定手段５４は、入力した相違特徴及び変形サンプル学習セットに基づいて、入力した相違特徴が類内相違かそれとも類間相違に属するかを判断し、該変形サンプルを最大信頼度を有する類内相違テンプレートの類別と識別する。
【００８０】
最後に、出力手段１５により相違特徴決定手段５４の識別結果を出力する。その中で、変形サンプル基本セットからはサンプルクラスター手段により自動クラスター算法を採用して変形サンプルテンプレートセットが生成され、また、変形サンプル基本セットから変形サンプル変換手段５３により変形サンプル学習セットが生成される。
【００８１】
本発明は二段階の識別構造を採用し、第一段階識別装置が誤って識別したサンプルは第二段階識別装置に進んで引き続き識別が行なわれる。従って、本発明の技術方案では、第一段階で誤って識別されたサンプルを直接第二段階の基本学習サンプルとして、これらの変形のサンプルを効果的に処理でき、従って、システムの識別精度を向上させることができる。同時に、誤りのサンプルを利用して変形サンプルセットを自動形成することはサンプルセットの手動収集を免れ、人力、物力を極めて大きく節約できる。
【００８２】
さらに、本発明では変形サンプルに対する識別に相違特徴の方法を採用し、変形コード特徴ベクトルの間で相互に差を取り、多類のコード識別問題を二類、即ち類内相違と類間相違の識別問題に変換する。且つ変換後の二類相違特徴の集合において分類器を学習する。多類のコード識別問題を二類の識別をすることで、サンプル数を極めて大きく拡充することができ、統計に基づく識別方法を効果的に利用し、分類器の学習効果を改善し、ゆえにシステムの精度を向上させた。
【００８３】
以上の具体的な実施形態は本発明を説明するためであり、本発明を限定するためではない。
【００８４】
（付記１）入力された文字画像サンプルに対して識別を行って識別結果を出すステップと、
前記識別結果の信頼度を生成するステップと、
入力された文字画像サンプルが変形サンプルに属すか否かを前記信頼度に基づいて判断するステップと、
非変形サンプルである場合、前記識別結果を最終識別結果とするステップと、
変形サンプルである場合、変形サンプルに識別を行い、最終識別結果を出すステップと、
前記最終識別結果を出力するステップと、
を含むことを特徴とするコード識別方法。
【００８５】
（付記２）前記信頼度は照合距離分布とのフィッティングの方法により生成されることを特徴とする付記１に記載のコード識別方法。
【００８６】
（付記３）照合距離分布とのフィッティングの方法により信頼度が生成され、さらに、
識別結果及びコード類別ごとに照合距離を生じるステップと、
照合距離の小さい順にｌ個までの照合距離を選択して候補距離とするステップと、
前記ｌ個の候補距離に基づいて前記識別結果の信頼度を計算するステップと、
を含むことを特徴とする付記２に記載のコード識別方法。
【００８７】
（付記４）前記入力された文字画像サンプルが変形サンプルに属すか否かを前記信頼度に基づいて判断するステップは、
もし前記信頼度が設定した閾値よりも大きい場合、入力された文字画像サンプルが非変形サンプルであると判断するステップと、
そうでない場合、入力された文字画像サンプルが変形サンプルであると判断するステップと、
を含むことを特徴とする付記１に記載のコード識別方法。
【００８８】
（付記５）前記変形サンプルに対して識別を行うことは、具体的に、
変形サンプルのテンプレートセットを生成し、前記変形サンプルと前記変形サンプルのテンプレートセットのテンプレートベクトルとの差を取って相違特徴を得るステップと、
前記変形サンプルを類内相違と類間相違に変換し、前記相違特徴が類内相違又は類間相違に属すかを判断するステップと、
前記変形サンプルを最大の信頼度を備える類内相違テンプレートの類別として識別するステップと、
を含むことを特徴とする付記１に記載のコード識別方法。
【００８９】
（付記６）前記変形サンプルのテンプレートセットを生成することは、具体的に、
前記変形サンプルのみ含む変形サンプル基本セットを生成するステップと、
前記変形サンプル基本セットに対して自動クラスタリングを行って変形サンプルテンプレートセットを生成するステップと、
を含むことを特徴とする付記５に記載のコード識別方法。
【００９０】
（付記７）前記変形サンプルと前記変形サンプルテンプレートセットのテンプレートベクトルとの差を取って相違特徴を得ることは、変形サンプルが前記識別結果のＮ個までの候補識別の変形サンプルテンプレートのみと差を取って相違特徴を得ることを指すことを特徴とする付記５に記載のコード識別方法。
【００９１】
（付記８）前記変形サンプルに類間相違を生成することは、具体的に、一つの所定の百分率に基づいてサンプリングを行って前記類間相違を生成するステップを含むことを特徴とする付記５に記載のコード識別方法。
【００９２】
（付記９）入力された文字画像サンプルに対して識別を行って識別結果を出す第一段階分類決定手段と、
識別結果の信頼度を生成する信頼度生成手段と、
入力された文字画像サンプルが変形サンプルに属すか否かを前記信頼度に基づいて判断し、非変形サンプルである場合、前記識別結果を最終識別結果とする一方、変形サンプルである場合、前記変形サンプルを第二段階分類決定手段に入力する信頼度判断手段と、
変形サンプルに対して識別を行って最終識別結果を生成する第二段階分類決定手段と、
前記最終識別結果を出力する出力手段と、
を含むことを特徴とするコード識別装置。
【００９３】
（付記１０）前記信頼度生成手段は、さらに、
識別結果とコード類別ごとに照合距離を生成することに用いられる照合距離生成手段と、
照合距離の小さい順にｌ個までの照合距離を選択して候補距離とすることに用いられる候補距離選択手段と、
前記ｌ個の候補距離に基づいて前記識別結果の信頼度を計算する計算手段と、
を含むことを特徴とする付記９に記載のコード識別装置。
【００９４】
（付記１１）前記信頼度判断手段はさらに、
一つの閾値を設定する閾値設定手段と、
前記識別結果の信頼度と前記閾値の大きさを比較し、前記信頼度が設定閾値よりも大きい場合、入力された文字画像サンプルが非変形サンプルであると判断して前記識別結果を最終識別結果とし、そうでない場合、入力された文字画像サンプルが変形サンプルであると判断して前記変形サンプルを第二段階分類決定手段に入力する比較判断手段と、
を含むことを特徴とする付記９に記載のコード識別装置。
【００９５】
（付記１２）前記第二段階分類決定手段はさらに、
変形サンプルテンプレートセットを生成する変形サンプルテンプレートセット生成手段と、
前記変形サンプルと前記変形サンプルテンプレートセットのテンプレートベクトルとの差を取って相違特徴を得る相違計算手段と、
前記変形サンプルを類内相違と類間相違とに変換する変形サンプル変換手段と、
前記相違特徴が類内相違又は類間相違に属すかを判断し、前記変形サンプルを最大信頼度を備える類内相違テンプレートの類別と識別する相違特徴決定手段と、
を含むことを特徴とする付記９に記載のコード識別装置。
【００９６】
（付記１３）前記変形サンプルテンプレートセット生成手段はさらに、
前記変形サンプルのみを含む変形サンプル基本セットを生成することに用いられる変形サンプル基本セット生成手段と、
前記変形サンプル基本セットに自動的にクラスタリングを行って変形サンプルテンプレートセットを生成することに用いられるサンプルクラスター手段と、
を含むことを特徴とする付記１２に記載のコード識別装置。
【００９７】
（付記１４）前記相違計算手段は、変形サンプルと前記識別結果のＮ個までの候補類別の変形サンプルテンプレートとの差を取って相違特徴を得ることにも用いられることを特徴とする付記１２に記載のコード識別装置。
【００９８】
（付記１５）前記変形サンプル変換手段はさらに、
一つの所定の百分率に基づいてサンプリングを行って前記類間相違を生成するサンプリング手段を含むことを特徴とする付記１２に記載のコード識別装置。
【００９９】
（付記１６）入力された文字画像サンプルに識別して識別結果を出す手順と、
前記識別結果の信頼度を生成する手順と、
入力された文字画像サンプルが変形サンプルに属すか否かを前記信頼度に基づいて判断する手順と、
非変形サンプルである場合、前記識別結果を最終識別結果として出力する手順と、
変形サンプルである場合、変形サンプルに識別を行い、最終識別結果を生成して出力する手順と、
をコンピュータに実行させることを特徴とするコード識別プログラム。
【産業上の利用可能性】
【０１００】
以上のように、本発明に係るコードを識別する方法、装置及びプログラムは、変形又は軽微異常なコードに対して識別を行なうコードを識別する方法、装置及びプログラムに有用である。
【図面の簡単な説明】
【０１０１】
【図１】本発明に係るコード識別装置の構造のブロック図である。
【図２−１】本発明に係るコード識別方法フローチャートである。
【図２−２】本発明に係るコード識別実施例のフローチャートである。
【図３】本発明に係る信頼度生成手段の構造のブロック図である。
【図４】本発明に係る信頼度判断手段の構造のブロック図である。
【図５】本発明に係る第二段階分類決定手段の構造のブロック図である。
【図６】本発明に係る変形サンプルテンプレートセット生成手段の構造図である。
【図７】本発明に係る変形サンプル基本セットの生成方法のフローチャートである。
【図８】本発明に係る変形サンプル学習セットの生成方法のフローチャートである。
【図９】本発明に係る第二段階分類決定手段の作業原理図である。
【符号の説明】
【０１０２】
１１    第一段階分類決定手段
１２    信頼度生成手段
１３    信頼度判断手段
１４    第二段階分類決定手段
１５    入力手段
３１    照合距離生成手段
３２    候補距離選択手段
３３    計算手段
４１    閾値設定手段
４２    比較判断手段
５１    変形サンプルテンプレートセット生成手段
５２    相違計算手段
５３    変形サンプル変換手段
５４    相違特徴決定手段
６１    変形サンプル基本セット生成手段
６２    自動クラスター手段
【図１】
2008210388.tif 000007
【図２−１】
2008210388.tif 000008
【図２−２】
2008210388.tif 000009
【図３】
2008210388.tif 000010
【図４】
2008210388.tif 000011
【図５】
2008210388.tif 000012
【図６】
2008210388.tif 000013
【図７】
2008210388.tif 000014
【図８】
2008210388.tif 000015
【図９】
2008210388.tif 000016