"記録媒体上の手書き単語を含む画像を取込む画像取込手段と、この画像取込手段により取込まれた画像から単語画像を抽出する単語抽出手段と、この単語抽出手段により抽出された単語画像からその特徴を抽出する第1の特徴抽出手段と、文字ごとの文字モデルを格納するもので、前記各文字モデルはモデル母集合および環境ごとの環境別文字モデルにより構成され、前記モデル母集合および前記各環境別文字モデルはそれぞれ複数の状態により構成され、前記モデル母集合の各状態は少なくとも2個以上のG自然数個のガウス分布により構成され、前記各環境別文字モデルの各状態は少なくとも2個以上のM自然数で、M≦G個のガウス分布により構成され、かつ、前記モデル母集合の各状態を構成するG個のガウス分布の中からM個を選択した組合せのいずれかに相当しているモデル格納手段と、前記第1の特徴抽出手段により抽出された特徴と前記モデル格納手段に格納された各文字モデルとの間でマッチング処理を行ない、その結果を認識結果とするモデルマッチング手段と、を具備したことを特徴とする手書き単語認識装置。請求項1記載の手書き単語認識装置に用いられる手書き単語認識用モデル学習装置であって、学習用の単語画像を蓄積する単語画像蓄積手段と、この単語画像蓄積手段により蓄積された単語画像からその特徴を抽出する第2の特徴抽出手段と、この第2の特徴抽出手段により抽出された特徴が前記モデル格納手段内の各文字モデルの各状態から出現する事後確率を計算する第1の確率計算手段と、前記各環境が前記各組合せである事後確率を計算する第2の確率計算手段と、前記各環境が前記各組合せであることを条件として、前記第2の特徴抽出手段により抽出された特徴が前記各ガウス分布から出現する事後確率を計算する第3の確率計算手段と、前記第1、第2、第3の確率計算手段により計算された各確率および前記第2の特徴抽出手段により抽出された特徴からガウス分布のパラメータを計算し、その計算結果に基づき前記モデル格納手段に格納されているガウス分布のパラメータを更新するガウスパラメータ更新手段と、前記第2、第3の確率計算手段により計算された各確率からモデル学習用の重みパラメータを計算し、その計算結果に基づき前記モデル格納手段に格納されているモデル母集合に係るモデル学習用の重みパラメータを更新する重みパラメータ更新手段と、を具備したことを特徴とする手書き単語認識用モデル学習装置。前記単語画像蓄積手段に蓄積される学習用の単語画像は、郵便物処理システムにおけるビデオコーディングシステムから得られる正解を教示された単語画像であることを特徴とする請求項2記載の手書き単語認識用モデル学習装置。記録媒体上の手書き単語を含む画像を取込む画像取込手段と、この画像取込手段により取込まれた画像から単語画像を抽出する単語抽出手段と、この単語抽出手段により抽出された単語画像からその特徴を抽出する第1の特徴抽出手段と、文字ごとの文字モデルを格納するもので、前記各文字モデルはモデル母集合および環境ごとの環境別文字モデルにより構成され、前記モデル母集合および前記各環境別文字モデルはそれぞれ複数の状態により構成され、前記モデル母集合の各状態は少なくとも2個以上のG自然数個のガウス分布により構成され、前記各環境別文字モデルの各状態は少なくとも2個以上のM自然数で、M≦G個のガウス分布により構成され、かつ、前記モデル母集合の各状態を構成するG個のガウス分布の中からM個を選択した組合せのいずれかに相当しているモデル格納手段と、前記第1の特徴抽出手段により抽出された特徴と前記モデル格納手段に格納された各文字モデルとの間でマッチング処理を行ない、その結果を認識結果とするモデルマッチング手段と、学習用の単語画像を蓄積する単語画像蓄積手段と、この単語画像蓄積手段により蓄積された単語画像からその特徴を抽出する第2の特徴抽出手段と、この第2の特徴抽出手段により抽出された特徴が前記モデル格納手段内の各文字モデルの各状態から出現する事後確率を計算する第1の確率計算手段と、前記各環境が前記各組合せである事後確率を計算する第2の確率計算手段と、前記各環境が前記各組合せであることを条件として、前記第2の特徴抽出手段により抽出された特徴が前記各ガウス分布から出現する事後確率を計算する第3の確率計算手段と、前記第1、第2、第3の確率計算手段により計算された各確率および前記第2の特徴抽出手段により抽出された特徴からガウス分布のパラメータを計算し、その計算結果に基づき前記モデル格納手段に格納されているガウス分布のパラメータを更新するガウスパラメータ更新手段と、前記第2、第3の確率計算手段により計算された各確率からモデル学習用の重みパラメータを計算し、その計算結果に基づき前記モデル格納手段に格納されているモデル母集合に係るモデル学習用の重みパラメータを更新する重みパラメータ更新手段と、を具備したことを特徴とする手書き単語認識装置。前記単語画像蓄積手段に蓄積される学習用の単語画像は、郵便物処理システムにおけるビデオコーディングシステムから得られる正解を教示された単語画像であることを特徴とする請求項4記載の手書き単語認識装置。そこで、本発明は、1つのクラス内に全く異なる字体が混在している場合でも環境を考慮して手書き単語の認識精度を著しく向上することが可能な手書き単語認識装置および手書き単語認識用モデル学習装置を提供することを目的とする。実施形態に係る手書き単語認識装置は、記録媒体上の手書き単語を含む画像を取込む画像取込手段と、この画像取込手段により取込まれた画像から単語画像を抽出する単語抽出手段と、この単語抽出手段により抽出された単語画像からその特徴を抽出する第1の特徴抽出手段と、文字ごとの文字モデルを格納するもので、前記各文字モデルはモデル母集合および環境ごとの環境別文字モデルにより構成され、前記モデル母集合および前記各環境別文字モデルはそれぞれ複数の状態により構成され、前記モデル母集合の各状態は少なくとも2個以上のG自然数個のガウス分布により構成され、前記各環境別文字モデルの各状態は少なくとも2個以上のM自然数で、M≦G個のガウス分布により構成され、かつ、前記モデル母集合の各状態を構成するG個のガウス分布の中からM個を選択した組合せのいずれかに相当しているモデル格納手段と、前記第1の特徴抽出手段により抽出された特徴と前記モデル格納手段に格納された各文字モデルとの間でマッチング処理を行ない、その結果を認識結果とするモデルマッチング手段とを具備している。まず、実施形態を説明する前に、本実施形態の概要について簡単に説明する。前述した従来の問題点を解決する方法として、各環境の分布を単一のガウス分布ではなく混合ガウス分布GMMとし、各ガウス分布を共有させることが考えられる。これについて図8、図9と同様な例により図7を用いて説明する。まず、2つの字体で大きく分布が異なるため、字体で分割するのが自然である。図7では左右2つに分割される。そして、左側ブロック体のrは、パターン数が多いため、更に環境の分割が可能である。図7では、a-r、b-r、c-rの3つの環境を含むグループE下側と、d-r、e-rの2つの環境を含むグループF上側に分割される。一方、右側筆記体のrは、パターン数が少ないため、これ以上分割することができず、1つのグループGとなっている。この結果、たとえば、a-rを表わす分布はグループEとグループGのGMM、d-rを表わす分布はグループFとグループGのGMMとなる。そこで、本実施形態では、全体でG個のガウシアンがあり、各環境はそのうちのM個を用いたGMMで表わす形としたモデルを考え、このモデルをEMアルゴリズムで最尤推定する手法を用いる。次に、本実施形態に適用される環境クラスタリングとGMMGaussianMixtureModel:混合ガウス分布モデル推定の同時最適化法について述べる。以下、実施形態について図面を参照して説明する。図1は、本実施形態に係る手書き単語認識装置の構成を概略的に示すものである。この手書き単語認識装置は、記録媒体上の手書き単語を含む画像を取込む画像取込手段としての画像入力部11、この画像入力部11により取込まれた画像から単語画像を抽出する単語抽出手段としての単語抽出部12、郵便物処理システムにおけるビデオコーディングシステムVCS13、ビデオコーディングシステム13から得られる正解を教示された単語画像を学習用の単語画像として蓄積する単語画像蓄積手段としての単語画像蓄積部14、この単語画像蓄積部14に蓄積された単語画像あるいは単語抽出部12により抽出された単語画像からその特徴を抽出する第1、第2の特徴抽出手段としての特徴抽出部15、文字ごとの文字モデルを格納するモデル格納手段としてのモデル格納部16、特徴抽出部15により抽出された特徴とモデル格納部16に格納された各文字モデルとの間でマッチング処理を行なうモデルマッチング手段としてのモデルマッチング部17、特徴抽出部15により抽出された特徴がモデル格納部16内の各文字モデルの各状態から出現する事後確率を計算する第1の確率計算手段としての第1の確率計算部18、前記各環境が前記各組合せである事後確率を計算する第2の確率計算手段としての第2の確率計算部19、前記各環境が前記各組合せであることを条件として、特徴抽出部15により抽出された特徴が前記各ガウス分布から出現する事後確率を計算する第3の確率計算手段としての第3の確率計算部20、第1、第2、第3の確率計算部18,19,20により計算された各確率および特徴抽出部15により抽出された特徴からガウス分布のパラメータを計算し、その計算結果に基づき前記モデル格納部16に格納されているガウス分布のパラメータを更新するガウスパラメータ更新手段としてのガウスパラメータ更新部21、第2、第3の確率計算部19,20により計算された各確率からモデル学習用の重みパラメータを計算し、その計算結果に基づきモデル格納部16に格納されている重みパラメータを更新する重みパラメータ更新手段としての重みパラメータ更新部22から構成されている。以下、各部について詳細に説明する。画像入力部11は、たとえば、図2に示すような郵便物上に手書きされた手書き単語本例では英文字単語を含む画像を入力するもので、ビデオカメラなどにより構成されている。単語抽出部12は、画像入力部11により入力された画像に対し公知の画像処理を施すことにより単語候補単語画像を抽出する。図3に、図2の画像に対して抽出された単語候補の例を示す。ビデオコーディングシステム13は、たとえば、図示しない郵便物区分装置にて住所情報単語が認識できなかった郵便物の画像を表示部に表示し、オペレータのコーディング作業により認識できなかった単語に対する正解を入力するものである。単語画像蓄積部14は、ビデオコーディングシステム13により入力された正解単語とともに対応する単語画像を蓄積する。特徴抽出部15は、単語抽出部12により抽出された単語画像あるいは単語画像蓄積部14に蓄積された単語画像からその特徴を抽出する。この場合、1つの単語から複数個の特徴が抽出される。特徴抽出法には様々な手法が提案されているが、たとえば、以下の文献に開示されている手法を用いることができる。J.A.Rodriguez,F.Perronnin,Localgradienthistogramfeaturesforwordspottinginunconstrainedhandwrittendocuments,InternationalConferenceofFrontiersinHandwritingRecognitionICFHR2008,July2008モデル格納部16は、各文字に対応する文字モデル31,31,...が格納されている。各文字モデル31は、たとえば、1つのモデル母集合32および環境ごとのL個2個以上の環境別文字モデル331~33Lにより構成されている。さらに、モデル母集合32および各環境別文字モデル331~33Lは、それぞれN個2個以上の状態から構成されている。さらに、環境別文字モデル331~33Lの各状態は、M個2個以上のガウス分布ガウシアンから構成され、モデル母集合32の各状態はG個M≦Gのガウス分布から構成されている。さらに、環境別文字モデル331~33Lの各状態を構成するM個のガウス分布は、モデル母集合32の各状態を構成するG個のガウス分布の中からM個を選択した組合せのいずれかに相当している。モデルマッチング部17は、特徴抽出部15により抽出された特徴とモデル格納部16に格納された各文字モデル31との間でマッチング処理を行ない、マッチングスコア最大となる結果をもって認識結果とする。第1の確率計算部18は、特徴抽出部15により抽出された特徴がモデル格納部16内の各文字モデル31の各状態から出現する事後確率を計算する。計算方法は、たとえば、文献MachineLearningforAudio,ImageandVideoAnalysisTheoryandApplications,Springer,2008に開示された計算式を用い計算することができる。第2の確率計算部19は、各環境が各組合せ各GMMである事後確率を計算する。第3の確率計算部20は、各環境が各組合せ各GMMであることを条件として、特徴抽出部15により抽出された特徴が各ガウス分布から出現する事後確率を計算する。ガウスパラメータ更新部21は、第1、第2、第3の確率計算部18,19,20により計算された各確率および特徴抽出部15により抽出された特徴からガウス分布のパラメータを計算し、その計算結果に基づきモデル格納部16に格納されているガウス分布のパラメータを更新する。重みパラメータ更新部22は、第2、第3の確率計算部19,20により計算された各確率からモデル学習用の重みパラメータを計算し、その計算結果に基づきモデル格納部16に格納されている重みパラメータを更新する。次に、上記のような構成において手書き単語の認識処理について説明する。手書き単語の認識処理時は、図1の装置構成が図4に示すような装置構成となり、ビデオコーディングシステム13、単語画像蓄積部14、第1の確率計算部18、第2の確率計算部19、第3の確率計算部20、ガウスパラメータ更新部21、重みパラメータ更新部22は使用されない。まず、画像入力部11は、郵便物上の手書き単語を含む画像を入力する。図2に入力された画像の例を示す。次に、単語抽出部12は、画像入力部11により入力された画像に対し公知の画像処理を施すことにより単語候補単語画像を抽出する。図3に、図2の画像に対して抽出された単語候補の例を示す。次に、特徴抽出部15は、単語抽出部12により抽出された単語画像からその特徴を抽出する。この場合、1つの単語から複数個の特徴が抽出される。次に、モデルマッチング部17は、特徴抽出部15により抽出された特徴とモデル格納部16に格納された各文字モデル31との間でマッチング処理を行ない、マッチングスコア最大となる結果をもって認識結果とする。次に、モデル学習処理について説明する。モデル学習処理時は、図1の装置構成が図5に示すような装置構成となり、画像入力部11、単語抽出部12、モデルマッチング部17は使用されない。まず、ビデオコーディングシステム13にて、図示しない郵便物区分装置にて認識できなかった単語画像に正解が教示され、単語画像蓄積部14に蓄積される。特徴抽出部15は、単語画像蓄積部14に蓄積された単語画像からその特徴を抽出する。この場合、1つの単語から複数個の特徴が抽出される。次に、第1の確率計算部18は、特徴抽出部15により抽出された特徴がモデル格納部16内の各文字モデル31の各状態から出現する事後確率を計算する。そして、各特徴を上記事後確率が最大となる状態に属するものとする。つまり、各特徴に対し、特定の文字モデル、特定の環境、特定の状態が割り振られたことになる。ここで、環境lに所属した特徴を選び出したものが、先に説明した環境クラスタリングとGMM推定の同時最適化法におけるxlの各要素であるxl1,...,xlNlに対応する。なお、先に説明した環境クラスタリングとGMM推定の同時最適化法におけるデータが本実施形態における特徴に相当していることに注意すること。次に、第2の確率計算部19は、各環境が各組合せ各GMMである事後確率を計算する。すなわち、先に説明した環境クラスタリングとGMM推定の同時最適化法における式93の計算を行なう。次に、第3の確率計算部20は、各環境が各組合せ各GMMであることを条件として、特徴抽出部15により抽出された特徴が各ガウス分布から出現する事後確率を計算する。すなわち、先に説明した環境クラスタリングとGMM推定の同時最適化法における式97の計算を行なう。次に、ガウスパラメータ更新部21は、第1、第2、第3の確率計算部18,19,20により計算された各確率および特徴抽出部15により抽出された特徴からガウス分布のパラメータを計算し、その計算結果に基づきモデル格納部16に格納されているガウス分布のパラメータを更新する。すなわち、先に説明した環境クラスタリングとGMM推定の同時最適化法における式78の計算を行ない、モデル格納部16に格納されているガウス分布のパラメータ平均、共分散行列を更新する。次に、重みパラメータ更新部22は、第2、第3の確率計算部19,20により計算された各確率からモデル学習用の重みパラメータを計算し、その計算結果に基づきモデル格納部16に格納されている重みパラメータを更新する。すなわち、先に説明した環境クラスタリングとGMM推定の同時最適化法における式83および式88の計算を行ない、モデル格納部16に格納されているモデル母集合32に係るモデル学習用の重みパラメータを更新する。なお、上記実施形態では、単語画像蓄積部14に、ビデオコーディングシステム13にて正解が教示された、認識できなかった単語画像を学習用の単語画像として蓄積する場合について説明したが、ビデオコーディングシステム13に限らず、他の単語画像入力装置で入力された正解が教示された単語画像を学習用の単語画像として蓄積してもよい。さらに、認識できなかった単語画像に限らず、認識できた単語画像はすなわち正解が判明したものであるので、当該単語画像も学習用の単語画像として用いることができる。また、上記実施形態では、1つの特徴抽出部15で、単語画像蓄積部14に蓄積された単語画像あるいは単語抽出部12により抽出された単語画像からその特徴を抽出する場合について説明したが、単語画像蓄積部14および単語抽出部12に対しそれぞれ専用の特徴抽出部を設けてもよい。さらに、上記実施形態では、第1の確率計算部18にて各特徴を事後確率が最大となる状態に属するものとしたが、特定の状態に所属させず事後確率を重みとみなして以後の計算を行なってもよい。以上説明したように上記実施形態によれば、1つのクラス内に全く異なる字体が混在している場合でも、1つの状態に対し複数個のガウス分布を割り当て可能とすることで、両隣の文字による文字変形等の環境を考慮して手書き単語の認識精度を著しく向上することが可能となる。本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行なうことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれると同様に、特許請求の範囲に記載された発明とその均等の範囲に含まれるものである。"