(57)【要約】【課題】手書きサンプルの汎用的な特徴およびユーザ固有の特徴を使用して、最小レベルのユーザ固有登録データを用いた適応的手書き認識を提供する。【解決手段】汎用分類器およびユーザ固有分類器が認識プロセスを容易にできるようにすることによって、特定ユーザの手書きの特徴を利用して、ユーザがまだ入力していない手書き文字の特性を迅速に識別することができる。したがって、ユーザが、登録すなわち「トレーニング」データとして文字を初めに入力する必要なしに、新しい文字を認識することができる。本発明の一例では、汎用的な特徴の処理が、複数のユーザについてトレーニングされた汎用分類器によって実施される。本発明の別の例では、ユーザ固有の手書き認識を提供するために、ユーザ固有分類器を使用して、必要に応じて汎用分類器による分類を修正する。【選択図】図１１
2010102742.tif 000002
【特許請求の範囲】
【請求項１】
適応的手書き認識を容易にするシステムであって、
手書きデータを受信するコンポーネントと、
前記手書きデータを、それを認識することに関連して分析する認識コンポーネントとを備え、前記認識コンポーネントは前記手書きの汎用的な特徴に対して少なくとも１つの汎用分類器を使用し、前記分析に関連する前記手書きのユーザ固有の特徴に対して少なくとも１つのユーザ固有分類器を使用し、前記少なくとも１つのユーザ固有分類器をトレーニングするために少なくとも１つの結合セットを有する少なくとも１つの結合クラスを使用し、前記結合セット内の文字の１または複数の特徴を基にして、前記結合セット内の他の文字を推定することができ、特定の分類器と同様のユーザ固有の特徴を示す１または複数の文字は、前記結合セットにグループ化されることを特徴とするシステム。
【請求項２】
少なくとも１つの汎用分類器は、複数ユーザすべてに共通したものを示す手書きデータの汎用的な特徴に対して適用されることを特徴とする請求項１に記載のシステム。
【請求項３】
前記汎用的な特徴は、少なくとも一部に、スケーリングされた形状特徴、サイズ特徴、および位置特徴からなるグループから選択された少なくとも１つを含むことを特徴とする請求項２に記載のシステム。
【請求項４】
少なくとも１つのユーザ固有分類器は、特定のユーザに特有のものを示す手書きデータの特定の特徴に対して適用されることを特徴とする請求項１に記載のシステム。
【請求項５】
前記特定の特徴は、少なくとも一部に、サイズ特徴および位置特徴からなるグループから選択された少なくとも１つを含むことを特徴とする請求項４に記載のシステム。
【請求項６】
複数のユーザ固有分類器をさらに備え、前記ユーザ固有分類器のそれぞれは、それに対応する特徴セットに関連付けられることを特徴とする請求項１に記載のシステム。
【請求項７】
前記特徴セットは解体されることを特徴とする請求項６に記載のシステム。
【請求項８】
前記認識コンポーネントは、クラス／文字を、汎用分類器では混同されやすいことがあるクラス／文字のセットに関連付ける混同規則を用いることを特徴とする請求項１に記載のシステム。
【請求項９】
少なくとも１つのユーザ固有分類器は、前記汎用分類器を無効にすることができることを特徴とする請求項８に記載のシステム。
【請求項１０】
前記汎用分類器は、最初に提供された汎用分類器の、適応したバージョンであることを特徴とする請求項１に記載のシステム。
【請求項１１】
手書き認識システムを作成するための方法であって、
複数のユーザに関連する手書きデータを用いて、少なくとも１つの汎用分類器を作成するステップと、
特定ユーザ、ならびに特定ユーザおよび複数ユーザの両方からなるグループから選択された少なくとも１つによって提供された手書きデータを使用して、少なくとも１つのユーザ固有分類器を作成するステップとを備え、前記少なくとも１つのユーザ固有分類器をトレーニングするために前記特定のユーザに関連する同様の特徴を示す複数の文字を含む少なくとも１つの結合セットを有する少なくとも１つの結合クラスを使用し、前記結合セット内の文字の特徴を基にして、前記特定のユーザに前記特定の結合セットの全ての文字の入力を要求せずに前記結合セット内の他の文字を推定することができ、
前記手書きデータの分類に関連して前記少なくとも１つの汎用分類器および前記少なくとも１つのユーザ固有分類器を使用するステップを更に備えることを特徴とする方法。
【請求項１２】
少なくとも１つの結合クラスに対し少なくとも１つの結合セットに関連するデータを使用して、ＭＬＬＲを用いる１組のモデルを適応させることを特徴とする請求項１１に記載の方法。
【請求項１３】
少なくとも１つの結合クラスに対し少なくとも１つの結合セットに関連するデータを使用して、１組の直接密度モデルを作成することを特徴とする請求項１１に記載の方法。
【請求項１４】
少なくとも１つの結合クラスに対し少なくとも１つの結合セットに関連するデータを使用して、直接識別モデルを作成することを特徴とする請求項１１に記載の方法。
【請求項１５】
前記直接識別モデルは、少なくとも１つのユーザ固有の特徴についての少なくとも１つの結合セットの、少なくとも１つの最も細かい区分に結合されるクラス／文字データを含む分類器に基づくことを特徴とする請求項１４に記載の方法。
【請求項１６】
手書きを認識するためのシステムであって、
複数ユーザからのデータによってトレーニングされる手書き情報の分類を汎用的に判断する手段と、
少なくとも一部は特定ユーザからのデータによって、トレーニングされる手書き情報の分類を特定的に判断する手段と、
手書きデータを分類するために、前記汎用的に判断する手段と前記特定的に判断する手段の両方を動作可能に使用する手段とを備え、前記特定的に判断する手段をトレーニングするために少なくとも１つの結合セットを有する少なくとも１つの結合クラスが使用され、前記結合セット内の文字の特徴を基にして、前記結合セット内の他の文字を推定することができることを特徴とするシステム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、一般には文字認識に関し、より詳細には、汎用分類器（ｇｅｎｅｒｉｃ  ｃｌａｓｓｉｆｉｅｒ）およびユーザ固有分類器（ｕｓｅｒ−ｓｐｅｃｉｆｉｃ  ｃｌａｓｓｉｆｉｅｒ）を使用した適応的手書き認識のためのシステムおよび方法に関する。
【背景技術】
【０００２】
コンピュータは、社会の必要不可欠な部分になっており、仕事も余暇活動も容易にするために、人々は日々、この技術にますます依存するようになっている。こうした技術のある重要な欠点とは、それが機能する世界が「アナログ」であるのに比べて、その性質が「デジタル」であることである。コンピューティング技術は、情報を処理するために離散状態が識別されることを必要とするデジタル領域で動作する。簡単に言えば、情報は、一連の「オン」および「オフ」の状態で、コンピュータシステムに入力されなければならない。しかし、人間は、出来事を白と黒に完全に分けることはできず、常にその中間または灰色調に見える明らかにアナログな世界で生きている。したがって、デジタルとアナログの主な違いとは、デジタルは、時間が経てば分離する離散状態（別個のレベルなど）を必要とするが、アナログは、時間を通じて連続しているということである。人々は本来、アナログ的に仕事をするので、コンピューティング技術は、「非デジタルエンティティ（ｎｏｎｄｉｇｉｔａｌ  ｅｎｔｉｔｙ）」すなわち人間と対話する際に受ける影響を低減するように進化してきた。
【０００３】
１組の構造化されたキーは、従来タイプライタ使用でされていた、最も初期のヒューマンマシンインターフェース（ｈｕｍａｎ  ｍａｃｈｉｎｅ  ｉｎｔｅｒｆａｃｅ）装置の１つである。このインターフェースシステムは、機械的なキーおよび紙と対話するようにではなく、コンピューティングシステムに伝送される離散状態を引き起こすように適応していた。したがって、コンピュータ「キーボード」が開発され、このキーボードによって、人々は、既存の身近なインターフェースを、身近でない技術によって使用できるようになった。これによって、コンピュータ時代へ移行しやすくなった。残念ながら、コンピュータを使用したい人々すべてが、タイプの仕方を知っているとは限らなかった。これによって、コンピュータ技術を十分に使用することができるコンピュータユーザの数が限られていた。１つの解決策は、ユーザが、コンピュータに仕事をさせるために、コンピュータモニタから図を選択できるようにするグラフィカルユーザインターフェース（ｇｒａｐｈｉｃａｌ  ｕｓｅｒ  ｉｎｔｅｒｆａｃｅ）を取り入れることであった。したがって、コンピューティングシステムの制御は一般に、「マウス」と称されるポインティング／選択装置で実現された。これによって、キーボードの使用について学ぶ必要なく、コンピューティング技術を使用する人の数が増加した。こうしたタイプの装置によって、コンピューティング技術の使用が容易になったが、人類誕生時からの（ｍａｎｋｉｎｄ’ｓ  ａｇｅ  ｏｌｄ）コミュニケーション方法−手書きには、まだ対処していなかった。
【０００４】
技術は最初に、タイプライタで打ったまたは植字された既存の情報を、コンピュータに入力する試みに焦点を当てた。スキャナまたは視像を使用して、まず、画像を「デジタル化」（たとえば、イメージをコンピューティングシステムに入力する）した。イメージをコンピューティングシステム内でデジタル化することができると、それに続いて、印刷されたまたは植字された素材も同様に、デジタル化できるはずである。しかし、スキャンされたテキストページ（ｔｅｘｔ  ｐａｇｅ）のイメージをコンピューティングシステムに取り込んだ後で、それをテキストとして操作することはできない。文字および単語は、「画像」であって、実際には編集可能なテキストではない。したがって、スキャン技術を用いてテキストを編集可能なページにするために、光学式文字読取装置（ＯＣＲ：ｏｐｔｉｃａｌ  ｃｈａｒａｃｔｅｒ  ｒｅｃｏｇｎｉｔｉｏｎ）技術が開発された。ＯＣＲソフトウェアがスキャンされたイメージを編集可能テキストに変換できるようにする、特定のテキストフォントが使用された場合には、この技術は何とかうまく機能していた。当初は、この技術は、約５０から６０％の精度であったが、今日では、ほぼ９８から９９％またはそれ以上の精度にまで進歩してきた。ＯＣＲ技術は、テキスト文字の認識だけでなく、段落およびページの書式設定、またフォント特性さえもを保持することを考慮できるところにまで進化してきた。
【０００５】
次に、ＯＣＲ技術は、手書き認識のためにそれを使用する試みが現実的なものに見える精度レベルに達した。結局、手書きを直接コンピューティングシステムに入れてデジタル化できるならば、どうしてキーボードを介して手書きをテキストに置き換えるのであろうか。この手法による問題は、既存のＯＣＲ技術が、限定されたまたは有限の可能なフォントタイプ（ｔｙｐｅ  ｏｆ  ｆｏｎｔｓ）の選択肢を認識するように調整されたことである。したがって、文字を、事前に存在するフォントのデータベースと比較することによって、それを「認識」することができた。フォントが一貫性のないものであれば、ＯＣＲ技術では、それがテキストを認識できなかったことを示す、奇妙なすなわち「存在しない」文字が返される。手書きは、こうした問題のさらに極端なケースになった。人が書くときには、その筆跡に、その人特有のスタイルが現れる。署名によって、ある人と他人が区別されるので、法律文書では、署名が、この特異性のために用いられる。したがって、まさにその本質によって、手書きには、同じ文字についてさえも、無限の形がある。明らかに、個々の文字について、手書きの考えられるあらゆる形を格納することは、不可能であると分かっていよう。手書き認識を現実のものにするために、他の手段を実現することが求められていた。
【０００６】
手書き認識の初期の試みの１つは、実際には全く手書きではない「手書き」を必要とした。コンピューティングシステム内でデジタル化し、変換することができる「タブレット（ｔａｂｌｅｔ）」すなわち描写面（ｗｒｉｔｉｎｇ  ｓｕｒｆａｃｅ）を介して、「ストローク（ｓｔｒｏｋｅ）」すなわち線のシステムが、コンピューティングシステムへの入力として使用されていた。ストロークを印刷されたテキスト文字の極めて象徴的なものにしようとする試みがなされたが、コンピューティングシステムは実際には、手書きを認識していなかった。事実、この方法では実際には、人が使用されるマシンまたはシステムに合わせざるを得なかった。さらに、本物の手書きを実際に認識するためのさらなる開発が行われた。その場合も、システムが、考えられるあらゆる文字の変形を、データベース内の１つの文字に一致させる必要があった場合には、膨大な処理リソースおよび時間がかかっていた。したがって、最初の進歩の一部は、かなり大きいとしても、少なくとも有限群の可能性がある領域でなされた。もたらされた技術は、郵便物の仕分けなどの作業にとって極めて価値あるものになった。この場合、たとえば都市名などを光学的に認識する試みを行うことができる。コンピューティングシステムが、都市名を「理解」できない場合は、ある郵便物がどこの州からのものか、またシステムが都市名の少なくとも一部を認識するかなど、「コンテキスト（ｃｏｎｔｅｘｔ）」を使用することができる。これによって、州の都市名のデータベース内で検索を進めることができ、しばしば不一致が解消され、「読取り可能な」住所のより高い歩留まりがもたらされる。
【０００７】
もちろん、米国における郵便番号の導入によって、ネームアドレス（ｎａｍｅ  ａｄｄｒｅｓｓ）の読取りについては、ＯＣＲ技術の重要性が低くなる。したがって、この技術は、文字ではなく、主に数字だけの認識に集中することができる。これによって、必要な変換が、１０文字（０から９まで）に限定される。しかし、場所、学校教育、および他の要因によっては、人は、様々な数字の書き方を学ぶ。最も一般的な変化する数字は「２」および「４」である。人はしばしば、２を、輪を付けてまたは付けないで書き、また４を、その上部を閉じて、または開いて書く。同じ文字でこのように変化することが、手書き技術では考慮されているので、同じ文字の様々な変形は、コンピューティングシステムによって同じ文字として解釈される。これは、文字の数が限られ、したがって、許容される変形の数が限られるので、かなり効率的に機能する。
【０００８】
数の認識は、正しい方向への一歩であると評価することができる。しかし、ほとんどのコンピューティングシステムユーザは、システムが数字だけでなく、アルファベットのすべての文字および「＃」や「＄」などの特殊文字を直接に理解することを望む。人は、マシンの動作の仕方に合わせるのではなく、マシンに人から学ばせることを好む。したがって、「学習する」コンピューティングシステムは、ヒューマンマシンインターフェースのこの領域を促進するように進化してきた。手書き認識は、コンピューティングシステムが一意のユーザの文書スタイルを吸収できるようにする技術によって、さらに進歩したレベルに引き上げられた。このような状況では、ユーザがある期間にわたって入力するものを正確に解釈し活用する方法が使用される。学習のプロセスを迅速化するために、技術にはしばしば、その技術のパフォーマンスを向上させるように、構造化されたユーザ入力、すなわち「登録」情報が必要になる。典型的な登録では、認識のためコンピューティングシステムを調整するために、ユーザが数字、文字、特殊文字、およびいくらかの段落を書く必要があり得る。現在、これは、かなり長々としたプロセスになることがあり、高い精度を実現することができるまでには、このプロセスに多大な時間がかかるのは、珍しいことではない。
【０００９】
手書き認識技術のトレーニングは面倒なことに見え得るが、従来のコンピューティングシステムのインターフェースに比べて、こうした能力を有することの利点は極めて大きい。現在、複数のユーザがシステムに情報を入力するための最も効率的な手段は、キーボードを介するものである。これは、キーボードは一般に、設計が普遍的であり、したがって、常に標準化されたインターフェースであり、多くの異なるユーザによって容易に使用可能であるという事実に因っている。しかし、キーボードについての人間工学（装置を使用する人間の心地よさなど）には、キーを特定の間隔を空けて配置することが必要である。これによって、キーボード全体について、ある特定の最小サイズが生じ、それをポータブル（ｐｏｒｔａｂｌｅ）で使用するには不都合になる。ハンドヘルド（ｈａｎｄｈｅｌｄ）のコンピューティング装置などは、小型で、ポケットサイズ（ｐｏｃｋｅｔ  ｆｒｉｅｎｄｌｙ）であるが、分かりにくいストローク認識および／または打つ技術を用いる、こうしたタイプの装置でデータを入力すると、こうした装置を使用することが退屈になる傾向がある。この場合も、マシンがユーザを学習するのではなく、ユーザがマシンを学習することを余儀なくされる。製造元によっては、こうした欠点を克服するために、より小型でコンパクトなキーボードの製造を試みたが、もたらされた装置は、扱いにくいおよび／または非人間工学的な装置であるので、こうした「進歩」はユーザにとって不都合なものになった。
【先行技術文献】
【非特許文献】
【００１０】
【非特許文献１】Leggetter & Woodland (1994), "Speaker -Adaptation of HMMs Using Linear Regression", 研究報告書; Cambridge University Engineering Department
【非特許文献２】Gales & Woodland (1996), "Mean and Variance Adaptation within the MLLR Framework", 研究報告書; Cambridge University Engineering Department
【発明の概要】
【発明が解決しようとする課題】
【００１１】
ポータブルおよび非ポータブルのコンピューティング装置は、ユーザが通常の手書きによって、情報を直接に入力することができる場合に、最も価値あるものになる。これによって、こうした装置を、熟練ユーザおよび非熟練ユーザが同様に使用できるようになる。
【課題を解決するための手段】
【００１２】
本発明の一部の態様を基本的に理解するために、本発明の簡略化した要約を以下に提示する。この要約は、本発明の広範な概要ではない。これは、本発明の主要な／重要な要素を識別するものでも、本発明の範囲を示すものでもない。その唯一の目的は、以下に提示するより詳細な説明への序文として、簡略化した形で、本発明の一部の概念を提示することである。
【００１３】
本発明は、一般には、手書き認識に関し、より詳細には、汎用分類器およびユーザ固有分類器を使用した適応的手書き認識のためのシステムおよび方法に関する。手書きサンプルの汎用的なおよびユーザ固有の特徴が、最小レベルのユーザ固有登録データを用いてユーザ固有の手書き認識を提供する適応的手書きシステムを介して活用される。汎用分類器およびユーザ固有分類器によって認識プロセスを容易にできるようにすることで、特定ユーザの手書きの特徴を、いくつかのサンプル文字から抽出し活用して、ユーザによってまだ入力されていない手書き文字の特性を迅速に確認することができる。これによって、適応的手書きシステムは、一部の文字に、ユーザが登録すなわち「トレーニング」データとしてそれらの文字の例を最初に入力することを必要とせずに、適応できるようになる。縮小された１組の登録データを使用できるので、登録期間は、本発明を使用することによって大幅に短縮され、同時に、手書き認識処理時に、高い精度が維持される。本発明は、汎用の特徴およびユーザ固有の特徴に関して、手書きサンプルの特徴を認識することによってこれを実現する。それによって、汎用分類器を用いて汎用の特徴を処理することができ、１つまたは複数のユーザ固有分類器を介してユーザ固有の特徴をさらに分類する。特定の分類器について、実質上類似しているユーザ固有の特徴を示す文字は、「結合セット（ｔｙｉｎｇ  ｓｅｔ）」に分類する。したがって、ユーザがその特定の結合セットのすべての文字を入力する必要なしに、特徴を、結合セット中の他の文字に外挿することができ、認識の精度が維持されながらも、本発明の分類器をトレーニングする登録期間が大幅に短縮され、手書き認識分類器をトレーニングする際のユーザの労力および時間が低減される。
【００１４】
本発明はまた、汎用分類器およびユーザ固有分類器が相互作用できるようにすることで、手書き認識を容易にする。これによって、手書きサンプルに関して、様々な細分性を実現できるようになる。したがって、汎用分類器が容易に特徴を認識することができる場合は、それが速やかに識別される。しかし、あいまいすなわち「混同されやすい」可能性があるデータは、「混同の規則」によって処理される。この混同規則では、ユーザ固有のポストプロセッサ（ｐｏｓｔ−ｐｒｏｃｅｓｓｏｒ）技術を使用して、特定の混同規則範囲内に含まれる文字を分類する。様々なタイプのポストプロセッサの分類、たとえばＭＬＬＲ（Ｍａｘｉｍｕｍ  Ｌｉｋｅｌｉｈｏｏｄ  Ｌｉｎｅａｒ  Ｒｅｇｒｅｓｓｉｏｎ：最尤線形回帰）適応化密度モデル、直接密度モデル、直接識別モデルなどを、本発明内で使用することができる。様々なモデルおよび分類器を用いる柔軟さによって、本発明は、既存の手書き認識技術と容易に統合される。したがって、手書き認識システムの、特定ユーザからのデータを識別する能力を向上するために、本発明は、複数のユーザからの集合的観測に基づく汎用分類器、および／または本発明のユーザ固有分類器以外の手段によって、汎用分類器から適応したユーザ固有分類器を用いることができる。
【００１５】
本発明はまた、ポータブルソフトウェア製品、たとえばＭｉｃｒｏｓｏｆｔのＷｉｎｄｏｗｓ（登録商標）  ＸＰ（登録商標）のＴａｂｌｅｔ  ＰＣなどを大幅に向上させる。Ｔａｂｌｅｔ  ＰＣは、ユーザがライティングタブレット（ｗｒｉｔｉｎｇ  ｔａｂｌｅｔ）のような画面を使用し、自身の手書きで情報を入力できるようにすることによって、ペンと紙の簡単さを提供する。次いで、たとえば文書処理、スプレッドシート、電子メールのようなソフトウェアアプリケーションなどのコンポーネントで使用するために、それを容易にテキストに変換する。本発明によって提供されるものなどのデジタル認識システムを用いて、ユーザは、手書き認識互換ソフトウェアプログラムにインポートされた既存の文書にマーク付けすることもできる。本発明は、ユーザの手書きを速やかに解釈し適応させ、Ｔａｂｌｅｔ  ＰＣなどの製品によって認識される形にする。本発明がなければ、手書きの解釈は、処理時間が大幅に長くなり、精度が低くなる。したがって、ポータブル製品は、本発明の一例を使用することによって、より有用なものになり得る。
【００１６】
前記の内容および関連する目的を達成するために、本発明のいくつかの例示的な態様について、下記の説明および添付の図面に関連してこれから述べる。しかし、こうした態様は、本発明の原理を使用することができる様々なやり方のいくつかを示すものにすぎず、本発明は、こうした態様のすべておよびその均等物を含むものである。本発明の他の利点および新規な特徴は、図面と併せて考察したとき、本発明の以下の詳細な説明から明らかになり得る。
【図面の簡単な説明】
【００１７】
【図１】本発明の一態様による手書き認識システムのブロック図である。
【図２】本発明の一態様による手書き観測プロセスのブロック図である。
【図３】本発明の一態様による手書き観測プロセスの別のブロック図である。
【図４】本発明の一態様による手書き観測プロセスのさらに別のブロック図である。
【図５】本発明の一態様による特徴セットの図である。
【図６】本発明の一態様による、手書き文字の特徴の図である。
【図７】本発明の一態様による結合セットの図である。
【図８】本発明の一態様による、文字群の結合セットの一例を示す図である。
【図９】本発明の一態様による混同規則を示す図である。
【図１０】本発明の一態様による、ユーザ固有分類器の例のブロック図である。
【図１１】本発明の一態様による、手書き認識システムを構築するための方法のフローチャートである。
【図１２】本発明の一態様による、手書き認識システムを使用するための方法のフローチャートである。
【図１３】本発明の一態様による、ユーザ固有データを分類する方法のフローチャートである。
【図１４】本発明が機能することができる、例示的なオペレーティング環境を示す図である。
【図１５】本発明が機能することができる、別の例示的なオペレーティング環境を示す図である。
【発明を実施するための形態】
【００１８】
次に、本発明を、図面を参照して説明する。図面では、同じ参照番号を用いて、同様の要素を、全体を通して参照する。以下の記述では、説明のため、本発明を完全に理解できるように、多数の具体的な詳細について述べる。しかし、こうした具体的な詳細がなくても、本発明を実施できることが明らかであり得る。他の例では、本発明を説明しやすくするために、周知の構造および装置をブロック図の形で示す。
【００１９】
本出願では、用語「コンポーネント」は、コンピュータ関連のエンティティ、すなわちハードウェア、ハードウェアとソフトウェアの組合わせ、ソフトウェア、または実行中のソフトウェアのいずれかを指すものである。たとえば、コンポーネントは、これだけには限らないが、プロセッサ上で実行されるプロセス、プロセッサ、オブジェクト、実行可能ファイル、実行スレッド、プログラム、および／またはコンピュータであり得る。図示するため、サーバ上で実行されるアプリケーションとサーバの両方が、コンピュータコンポーネントになり得る。１つまたは複数のコンポーネントが、プロセスおよび／または実行スレッド内に常駐することができ、コンポーネントは、１つのコンピュータ上でローカライズされ、および／または２つ以上のコンピュータ間に分散されることがある。「スレッド」は、オペレーティングシステムカーネル（ｏｐｅｒａｔｉｎｇ  ｓｙｓｔｅｍ  ｋｅｒｎｅｌ）が実行のためスケジュールするプロセス内のエンティティである。当技術分野では周知のように、それぞれのスレッドは、そのスレッドの実行に関連する揮発性データである、関連する「コンテキスト」を含む。スレッドのコンテキストは、そのスレッドのプロセスに属する、システムレジスタの内容および仮想アドレスを含む。したがって、スレッドのコンテキストを含む実際のデータは、その実行時に変化する。
【００２０】
本発明は、特定のユーザについての分類の精度を向上させるために、汎用分類モデルを、そのユーザに適応させることを可能にするシステムおよび方法を含む。非常に短い登録期間（数例だけを必要とする）および高速な適応が、本発明の特色である。本発明によってユーザに適応させた分類器では、分類は、第１の、（すべてのユーザにとって）汎用である分類モデルと、第２の、ポストプロセッサの働きをする小さい分類モデルのセットの組合わせに基づく。ポストプロセッサモデル（ｐｏｓｔ  ｐｒｏｃｅｓｓｏｒ  ｍｏｄｅｌ）は、ユーザ固有であり、したがって、登録データから適応し、かつ／またはそれから直接に学習される。以下に述べるように、こうしたモデルすなわち「双方向」分類器は、様々な特徴のセットに作用する。この設定では、本発明のユーザ固有分類器以外の他の手段によって、ある汎用分類器から適応したユーザ固有の分類器を、汎用認識機能の代わりに用いることができ、表示を簡略にするために（意味論的には不正確であるが）、それを以下で、汎用分類器と称することに留意されたい。
【００２１】
しばしば、特徴ベクトルは、汎用的な特徴を有するある部分と、ユーザ固有の特徴の１つまたは複数の部分に分けることができる。一般に、観測される値が、すべてのユーザにわたって実質上類似している場合は、汎用的な特徴として、ある特徴を選択し、観測される値が、すべてのユーザにわたっては実質上異なっているが、ある特定のユーザについて、実質上類似している場合は、ユーザ固有の特徴として、ある特徴を選択する。単一文字の手書き認識では、特徴ベクトルの汎用部分は、たとえば、スケーリングされた形状に関連する特徴からなることがあり、ユーザ固有の部分は、サイズ特徴および位置特徴からなり得る。例として、特定の文字について、スケーリングされた観測値は、多数のユーザにわたって実質上類似して見え得るものであり、（スケーリングされない）個々の文字のサイズおよび位置は、特定のユーザに対する、手書きのパーソナライズ（ｐｅｒｓｏｎａｌｉｚａｔｉｏｎ）の実質的な部分となり得る。
【００２２】
一般に、本発明のある例は、３つの態様からなる。第１の態様は、汎用分類モデルすなわち複数ユーザからの観測によってトレーニングされた「分類器」である。このモデルで使用される特徴は、汎用的な特徴だけのことも、汎用的およびユーザ固有の特徴であることもある。第２の態様は、複数の登録分類モデルを含む。こうした登録分類モデルは、まず複数のユーザについてトレーニングされ、その後で、特定のユーザの短い登録によって取得される観測からその特定のユーザに適応し、または取得された登録データによって直接にトレーニングされる。こうしたモデルで使用される特徴は、ユーザ固有の特徴だけである。第３の態様は、汎用およびユーザ固有の登録分類モデルまたは分類器を組み合わせるための、システムおよび／または方法である。
【００２３】
図１に、本発明の一態様による、手書き認識システム１００のブロック図を示す。手書き認識システム１００は、少なくとも１つの汎用分類器コンポーネント１０４および／または少なくとも１つのユーザ固有分類器コンポーネント１０６を含む認識コンポーネント１０２からなる。本発明のこの例では、汎用分類器コンポーネント１０４は、汎用分類器＃１〜Ｎ  １０８〜１１２からなる（ただし、Ｎは、１から無限大までの任意の整数を表す）。ユーザ固有分類器コンポーネント１０６は、ユーザ固有分類器＃１〜Ｍ  １１４〜１１８からなる（ただしＭは、１から無限大までの任意の整数を表す）。認識コンポーネント１０２は、手書きデータ１２０を受信し分析する。汎用分類器コンポーネント１０４およびユーザ固有分類器コンポーネント１０６を併せて使用して、認識コンポーネント１０２による分析を容易にすることができる。本発明のある例では、汎用分類器コンポーネント１０４を使用して、ユーザすべてにわたって実質上類似している手書きデータの分類を提供し、ユーザ固有分類器コンポーネント１０６を使用して、ユーザ固有データの分類を判断するのを容易にする。
【００２４】
本発明が手書きを効率的に分析するために、手書きの側面を認識するように、様々なデータソースからそれを「トレーニング」または教育する。図２を見ると、本発明の一態様による手書き観測のプロセス２００のブロック図が示されている。本発明のこの例では、手書き観測プロセス２００は、汎用分類器＃１〜Ｎ  ２０４〜２０８（ただし、Ｎは、１から無限大までの任意の整数を表す）を含む汎用分類器コンポーネント２０２、および複数ユーザ＃１〜Ｘ  ２１２〜２１６（ただし、Ｘは、１から無限大までの任意の整数を表す）からのデータを含む手書き観測データ２１０からなる。このプロセス２００では、汎用分類器コンポーネント２０２は、複数ユーザ２１２〜２１６からのデータ２１０によって、その分類器２０４〜２０８をトレーニングする。汎用分類器コンポーネント２０２をトレーニングするために使用される観測値は、汎用的な特徴および／またはユーザ固有の特徴からなり得る。
【００２５】
図３を参照すると、本発明の一態様による手書き観測プロセス３００の別のブロック図が示されている。本発明のこの例では、手書き観測プロセス３００は、ユーザ固有分類器＃１〜Ｍ  ３０４〜３０８（ただし、Ｍは、１から無限大までの任意の整数を表す）を含むユーザ固有分類器コンポーネント３０２、および複数ユーザ＃１〜Ｘ  ３１２〜３１６（ただし、Ｘは、１から無限大までの任意の整数を表す）からのデータを含む、手書き観測データ３１０、およびユーザ固有登録データ３１８からなる。このプロセス３００では、ユーザ固有分類器コンポーネント３０２は、複数ユーザ３１２〜３１６からのデータ３１０によってその分類器３０４〜３０８をトレーニングし、次いで、ユーザ固有登録データ３１８に基づいて、その分類器３０４〜３０８を適応させる。ユーザ固有分類器コンポーネント３０２をトレーニングするために使用される観測値は、ユーザ固有の特徴だけからなる。
【００２６】
図４を参照すると、本発明の一態様による手書き観測プロセス４００のさらに別のブロック図が示されている。本発明のこの例では、手書き観測プロセス４００は、ユーザ固有分類器＃１〜Ｍ  ４０４〜４０８（ただし、Ｍは、１から無限大までの任意の整数を表す）を含むユーザ固有分類器コンポーネント４０２、およびユーザ固有登録データ４１０からなる。このプロセス４００では、ユーザ固有分類器コンポーネント４０２は、その分類器４０４〜４０８を、ユーザ固有登録データ４１０によってトレーニングし、次いで、ユーザ固有登録データ４１０に基づいてその分類器４０４〜４０８を適応させる。ユーザ固有分類器コンポーネント４０２をトレーニングするために使用される観測値は、ユーザ固有の特徴だけからなる。
【００２７】
図５に移ると、本発明の一態様による特徴セット５０２の図が示されている。汎用およびユーザ固有の側面を含む特徴の概念をさらに説明するために、特徴セット５０２は、汎用的な特徴Ｆｇ  ５０４（ただし下付き文字「ｇ」は、任意の汎用的な特徴を示す）およびユーザ固有の特徴Ｆｐ  ５０６（ただし下付き文字「ｐ」は、任意のユーザ固有（または個人の）特徴を示す）。ユーザ固有の特徴５０６は、下位の特徴Ｆｐ１〜Ｆｐｎ  ５０８〜５１２からなる。正式には、完全な特徴セットＦ＝Ｆｇ∪Ｆｐ１∪Ｆｐ２∪．．．∪Ｆｐｎ（ただしＦｇは、汎用的な特徴であり、かつＦｐｉ（ｉ＝１，．．．，ｎ）は、ユーザ固有の特徴のサブセットである）。
【００２８】
本発明の一態様による手書き文字の特徴６００の図を示す図６で、この概念についてさらに説明する。この図では、文字「Ａ」６０２が、汎用的に（ｇｅｎｅｒｉｃａｌｌｙ）およびユーザに特定的に、文字「Ｂ」６０４に対してクロス分析されている。この例では、３つの下位特徴６０６、６１０、すなわち文字の形状、サイズ、および位置が分析されている。次いで、「Ａ」と「Ｂ」との比較を行い、下位特徴６０６、６１０のいずれかが「共通」すなわち汎用的であるかどうかを判断する。ＦｇＡは、「Ａ」の形状を示し、「Ｂ」の形状を示すＦｇＢと比較される。この図では、形状は、汎用的な特徴であると見なされ、「Ａ」と「Ｂ」との間では、それぞれ特有である。したがって、形状の下位特徴の汎用分類器によって、この例の「Ａ」と「Ｂ」とを容易に識別することができる。こうした例を示すため、下位特徴のサイズおよび位置は、ユーザ固有の特徴であると見なされる。文字間でサイズおよび位置を比較すると、実質上同じである。したがって、「Ａ」のユーザ固有の下位特徴６０８は、「Ｂ」の下位特徴６１２を実質上示すものであるとも解釈することができる。したがって、他の文字のこうした特徴を認識するために、ユーザ固有の分類器では、こうした文字の１つしか登録を必要とせず、それによって、その文字を認識するために必要なユーザ固有の登録データの量が削減される。
【００２９】
ユーザ登録を短くするには、選択されたユーザ固有の特徴に関しては、多数の文字／クラスが実質上類似しているが、同時に、汎用的特徴については、実質上区別可能であることが条件である。たとえば、上記の手書きの例では、汎用的な形状下位特徴によって考慮した場合は、「Ａ」および「Ｂ」は、実質上区別可能であるが、サイズおよび位置だけを考慮した場合は、実質上同じに見える。したがって、適応化可能なユーザ固有モデルを学習する場合には、「Ａ」に関する観測は、「Ｂ」に関する観測と実質上同じであり、したがって、すべての文字を網羅するために必要とされる観測が少なくなる。この概念は、「結合」と称され、互いに結合されるクラス／文字は、「結合セット」と称される。しばしば、ユーザ固有の特徴は、複数の特徴セットに分けることが望ましい。こうした特徴の様々なサブセットまたは下位特徴は、それぞれ異なる動作をする。たとえば、「ｆ」および「ｇ」は、サイズ特徴だけに関しては、実質上同じに見え得るが、位置特徴に関しては、実質上異なる。
【００３０】
図７に示すように、ユーザ固有の特徴のサブセットが様々であることによって、クラス／文字の様々な結合セットが考慮されるようになり得る。この図では、本発明の一態様による結合セットの図７００が示されている。図７００は、クラス／文字の列７０２、Ｆｐ１結合特徴クラス７０４、およびＦｐ２結合特徴クラス７０６からなる。図７００は、様々なクラス／文字に関するユーザ固有の下位特徴Ｆｐ１とＦｐ２の関係を示す。クラス／文字は、数字０〜９として示すが、文字などでもあり得る。図７００から、Ｆｐ１結合特徴は、第１および第２のＦｐ１結合セット７１４、７１６からなることを見ることができる。第１のＦｐ１結合セット７１４は、Ｆｐ１によって表されるユーザ固有の下位特徴の側面について、クラス／文字０〜５を互いに結合する。第２のＦｐ１結合セット７１６は、Ｆｐ１によって表されるユーザ固有の下位特徴の別の側面について、クラス／文字６〜９を互いに結合する。これによって、ある特定ユーザのこの下位特徴に関する登録要件をさらに限定することができる。したがって、特定ユーザは、ある特定の結合セット内の１つのクラス／文字だけについて、Ｆｐ１下位特徴登録データを提供することだけが必要である。同様に、Ｆｐ２結合特徴クラス７０６は、第１、第２および第３のＦｐ２結合セット７１８〜７２２からなる。第１のＦｐ２結合セット７１８は、Ｆｐ２によって表されるユーザ固有の下位特徴の側面について、クラス／文字０〜２を互いに結合する。第２のＦｐ２結合セット７２０は、これらの同じ下位特徴の別の側面について、クラス／文字３〜８を互いに結合する。第３のＦｐ２結合セット７２２は、クラス／文字９だけを含む。２つの下位特徴クラスだけが示してあるが、本発明では、任意の数の下位特徴があり得る。同様に、それぞれのクラスの結合セット数は、図示したものより多いことも、少ないこともある。クラスに、単一の結合セットしかないことさえあり得る。線７０８〜７１２は、Ｆｐ１およびＦｐ２の結合セットによるクラス／文字の最も細かい区分（ｆｉｎｅ  ｇｒａｉｎｅｄ  ｐａｒｔｉｔｉｏｎ）を表す。したがって、線７１０は、Ｆｐ１クラスによってもたらされる区分であり、線７０８および７１２は、Ｆｐ２クラスによってもたらされる区分である。これらは、以下で論じるいくつかの小さいポストプロセッサのために使用される。
【００３１】
結合セットについてさらに説明するため、図８に、本発明の一態様による文字群についての結合セットの例８００を示す。例８００は、文字の列８０２、Ｆｐ１結合特徴（高さ）の列８０４、およびＦｐ２結合特徴（幅）の列８０６からなる。この例８００では、文字の列８０２に、手書きサンプル文字「ａ」、「ｃ」、「ｂ」、「ｄ」および「ｌ」が示されている。Ｆｐ１結合特徴（高さ）の列８０４は、同じ番号を含む同じ結合セットを示す。したがって、数字「１」を含むいずれの行も、同じＦｐ１結合特徴（高さ）の列８０４に、数字「１」を含む他のどの行とも同様の下位特徴をそれが有することを示す。Ｆｐ１高さ特徴の列８０４から、「ａ」および「ｃ」は、結合セット「１」内にあり、「ｂ」、「ｄ」および「ｌ」は、結合セット「２」内にあることが明らかである。これは、文字の高さの下位特徴について、「ａ」および「ｃ」は、実質上類似している高さの特性を有し、「ｂ」、「ｄ」および「ｌ」は、実質上類似している高さの特性を有することを示している。したがって、「ｂ」しか含まない登録サンプルを使用して、「ｄ」および「ｌ」の高さの下位特徴の特性をも提供し、その下位特徴について必要な登録データを削減する。これと同じことが、「ａ」および「ｃ」の高さの下位特徴についてもあてはまる。これらの特徴のどちらを使用しても、他方の高さの下位特徴を構成することができる。
【００３２】
同様のプロセスを、Ｆｐ２結合特徴（幅）の列８０６に適用することができる。ここでは、結合セットの類似のメンバーを、大文字「Ａ」または大文字「Ｂ」で示す。このことから、文字「ａ」、「ｃ」、「ｂ」および「ｄ」は、実質上類似した幅の特性を有しており、集合的に結合セット「Ａ」を表し、文字「ｌ」は、特有の文字幅を有しており、したがって、結合セット「Ｂ」内の唯一の文字であることを確認することができる。この場合も、同じ結合セット内のどの文字の幅を構成するにも、この特定のユーザに関する登録データが、結合セット内の１つの文字の例を含むことを必要とするだけであり、必要とされる登録データを削減する。
【００３３】
また本発明が効率的であるには、いくつかのクラス／文字が、ユーザ固有特徴については区別可能であるが、汎用特徴については類似している（すなわち「混同されやすい」）ことにも依存する。例として、スケーリングされる形状特徴では、「ｃ」および「Ｃ」は、実質上類似しているが、特定ユーザのサイズおよび位置の特徴については、実質上区別可能である。こうしたクラス／文字について、「混同規則」が定義される。混同規則は、クラス／文字を、汎用分類器について混同されやすいクラス／文字のセットに関連付ける。混同規則の例は、ｃ−｛Ｃ｝、Ｃ−｛ｃ｝、９−｛ｑ，ｇ｝であり、それぞれ以下の意味をもつ。汎用分類器によって「ｃ」として識別されたら、それはおそらく「Ｃ」であり得る。「Ｃ」と識別されたら、それはおそらく「ｃ」であり得る。また「９」として識別されたら、それはたぶん「ｑ」であることも、たぶん「ｇ」であることもある。クラス／文字は、混同規則のセットの左側部分には、多くても一回しか現れるべきでない。
【００３４】
図９を参照すると、上記の例について、本発明の一態様による混同規則９００の図が示されている。規則セット９０６〜９１０が示されており、これは様々な混同規則の左側部分９０２および右側部分９０４を含んでいる。左側部分９０２は一般に、汎用分類器によって混同され得る文字を示す。右側部分９０４は一般に、左側部分９０２からの混同させる文字に実質上類似した文字を示す。ある規則セット中の規則の数は、規則「Ｚ」で示される任意の数であり得る（ただしＺは、１から無限大まで任意の数を示す）。例として、規則「Ｚ」はまた、ユーザが「９」を書いたときには、汎用分類器が混同され得ることを示す。規則「Ｚ」は、「９」は「ｑ」または「ｇ」である可能性が高いこともあり得ること示す。同様に、規則「１」９０６および「２」９０８は、上述のように、「ｃ」および「Ｃ」がそれぞれ生じた場合に従う規則を示す。
【００３５】
本発明では、それぞれの規則について、小さい双方向分類器を構築して、文字が、規則の左側部分かそれとも右側部分のものかを判断する。汎用分類器によって、規則の左側部分に現れる分類が行われる場合には、小さいユーザ固有の双方向分類器が介入し、分類が正しいかどうか、または規則の右側部分の文字であり得るかどうかを判断する。この分類が右側部分のものであると分かったら、２つの可能性があり得る。規則の右側部分が、１つのクラス／文字だけからなる場合は、このクラス／文字として、元の分類が却下され、規則の右側部分が複数のクラス／文字からなる場合は、元の汎用分類器は、これらの可能性の中から正しい文字を判断することができる。
【００３６】
図１０に移ると、本発明の一態様によるユーザ固有分類器の例１０００のブロック図が示されている。本発明では、小さいポストプロセッサ分類器すなわち「双方向」分類器として、様々なタイプの登録モデルを使用して、手書き認識システムの分類を容易にすることができる。本発明のこの例では、例１０００は、ユーザ固有分類器コンポーネント１００２、およびＭＬＬＲ適応化モデル１００４、直接密度モデル１００６、直接識別モデル１００８、およびモデル「Ｙ」１０１０（ただしＹは、ユーザ固有分類器コンポーネント１００２について求められる機能を提供するために用いることができる任意のモデルを示す）を含むデータを分類するための様々なモデルからなる。ＭＬＬＲ適応化密度モデル１００４は、混同規則のそれぞれの文字について、密度モデルを構築し、その文字密度モデルを登録データを使用する特定のユーザに適応させ、その適応したモデルを使用して双方向分類を判断するための機能を提供する。規則に関連付けられたＦｐｉの特徴について、こうした密度モデルが構築され、一般には、ガウス分布と対角および／または完全な共分散行列を合わせたものである。この機能に対し、（非特許文献１および２に記載されているように）最尤線形回帰法を用いて、特定のユーザについて短い登録期間によって取得されたデータに基づいて、そのユーザにこうしたモデルを適応させることができる。結合セットを実装するため、必要なデータ量は少ない。次いで、適応したモデルを使用して、混同規則の双方向分類を判断する。混同規則の右側部分よりも、混同規則の左側部分で、標本の密度が大きい場合は、左側部分の分類になる。そうでない場合は、右側部分の分類になる。本発明の別の例では、適応したユーザ固有のモデルの尤度は、たとえば乗算の処理を介して、汎用モデルと組み合わせることができる。
【００３７】
直接密度モデル１００６は、ユーザ固有の下位特徴セットＦｐｉの各結合セットについて密度モデルを作成し、その結合セット密度モデルを使用して、混同規則の双方向分類を判断するための機能を提供する。密度モデルは、互いに結合されたすべての文字に関する登録データを用いて、それぞれの結合セットについて作成される。結合セットの定義対象である特徴について、個々の密度モデルが作成される。次いで、双方向分類のために、こうしたモデルが使用される。ある規則に関連するユーザ固有の特徴セットＦｐｉでは、混同規則の左側部分のクラス／文字が、混同規則の右側部分のクラス／文字と同じ結合セット内にあってはならない。本発明の別の例では、モデルの尤度は、たとえば乗算の処理を介して、汎用モデルと組み合わせることができる。
【００３８】
直接識別モデル１００８は、観測された登録データを使用する分類器モデルを提供し、混同規則の双方向分類を判断するための分類器モデルを生成する。クラス／文字が、様々なユーザ固有特徴の結合セットの最も細かい区分に従って結合されている登録データを使用して、分類器が作成される。図７の線７０８〜７１２を参照されたい。結合セットおよび混同規則は、混同規則の左側部分のクラス／文字が、混同規則の右側部分のクラス／文字と同じ結合セット内に存在しないように構築されなければならない。次いで、ポストプロセッサ分類のために、こうしたモデルが使用される。
【００３９】
同様に、モデル「Ｙ」１０１０は、登録データを使用して分類器を作成し、分類器モデルを構築して、双方向分類を判断するための機能を提供することができる。「Ｙ」は、必要な機能を提供することができる、１から無限大までの任意の数のモデルを表す。
【００４０】
上記に示し述べた例示的なシステムに鑑みて、図１１〜１３のフローチャートを参照すれば、本発明に従って実施することができる方法がより深く理解されよう。説明を簡略にするために、方法を、一連のブロックとして示し述べるが、本発明は、ブロックの順序によって限定されるものではなく、ブロックによっては、本発明に従って、本明細書に示し述べたものとは異なる順序でおよび／または他のブロックと同時に行われ得ることを理解されたい。さらに、本発明による方法を実施するために、図示したすべてのブロックが必要であるとは限らないことがある。
【００４１】
本発明は、１つまたは複数のコンポーネントによって実行される、プログラムモジュールなどのコンピュータ実行可能命令の一般的な文脈で説明することができる。一般に、プログラムモジュールは、特定のタスクを実施し、特定の抽象データ型を実装する、ルーチン、プログラム、オブジェクト、データ構造体などを含む。一般に、プログラムモジュールは、様々な実施形態において望まれるように、組み合わせ、または分散することができる。
【００４２】
図１１に、本発明の一態様による手書き認識システムを構築する方法１１００のフローチャートを示す。この方法１１００は、複数のユーザからの手書きデータを使用して、少なくとも１つの汎用分類器を作成する１１０４ことから始まる１１０２。汎用分類器によって使用されるデータは、汎用的な特徴および／またはユーザ固有の特徴を含み得る。汎用分類器は一般に、手書きデータを分類するための第１のプロセッサとして使用される。本発明の他の例では、この機能が、既存のシステムによって提供される。次いで、特定のユーザからのデータを用いて、汎用分類器を適応させることができる１１０６。本発明の他の例では、このようにして汎用分類器を適応させることは、任意選択である。次いで、特定のユーザ、または特定のユーザおよび複数のユーザの両方からの手書きデータを用いて、それぞれの結合特徴のクラスについて、ユーザ固有分類器を構築する１１０８。次いで、汎用分類器とユーザ固有分類器を組み合わせ１１１０，フローを終了する１１１２。本発明のある例では、たとえば、組み合わせた分類器を以下のように用いる。汎用分類器によって、規則の左側部分に現れる分類が行われたときは、ユーザ固有分類器が介入し、分類が正しいかどうか、またはそれが規則の右側部分の文字であり得るかどうかを判断する。この分類が右側部分のものであると分かった場合、２つの可能性があり得る。規則の右側部分が１つのクラス／文字だけからなる場合は、このクラス／文字として、元の分類が却下され、また規則の右側部分が複数のクラス／文字からなる場合は、元の汎用分類器によって、こうした可能性の中から正しい文字を判断することができる。
【００４３】
図１２に移ると、本発明の一態様による手書き認識システムを用いる方法１２００のフローチャートが示されている。この方法１２００は、第１および第２の部分を有する混同規則を確立する１２０４ことから始まる１２０２。混同規則は、その範囲内に含まれるクラス／文字の分類に関して指導するものである。次いで、それぞれの混同規則について、第１および第２の分類を含む双方向分類器が提供される１２０６。これによって、汎用分類器が混乱した場合に、ユーザ固有分類器によって、クラス／文字の分類をさらに容易にすることができる。次いで、手書きサンプルの分類を判断するために汎用分類器を使用する１２０８。次いで、その分類が第１分類に入るものかどうかを判断する１２１０。第１分類は一般に、混同規則の第１部分（「左側部分」など）である。そうでない場合は、汎用分類器による分類を受け入れ１２１２、フローを終了する１２１４。しかし、第１分類内のものであると判断される場合は１２１０、混同規則の第２部分（「右側部分」など）が複数の文字を含むかどうかを判断する１２１６。規則の右側部分が１つのクラス／文字だけからなる場合は、このクラス／文字として、元の分類が却下され１２２０、フローを終了する１２１４。しかし、規則の右側部分が複数のクラス／文字からなる場合は、元の汎用分類器によって、こうした可能性の中から正しい文字を判断することができ１２１８，フローを終了する１２１４。
【００４４】
図１３を見ると、本発明の一態様によるユーザ固有データを分類するための方法１３００を構築するためのフローチャートが示されている。本発明は、混同規則をサポートするための双方向分類器を提供するどんな方法も使用することができる。図１３に、本発明によって使用することができるいくつかの例を示す。方法１３００は、ＭＬＬＲベースの方法が使用されるかどうかを判断する１３０４ことから開始する１３０２。そうである場合は、混同規則内に現れる各文字について、複数ユーザのトレーニングデータに基づいて密度モデルを構築する１３１２。これらの密度モデルは、Ｆｐｉ関連の規則内の特徴について構築され、一般に、ガウス分布と対角または完全な共分散行列を合わせたものである。次いで、非特許文献１および２に記載されているものなどの、最尤線形回帰（ＭＬＬＲ）法を使用して、特定のユーザに対し、短い登録期間をかけて取得されたデータに基づいて、こうしたモデルをそのユーザに適応させ１３１４，フローを終了する１３１０。結合セットを使用するため、必要なデータ量は少ない。次いで、適応した密度モデルを、混同規則の双方向分類器として使用することができる。しかし、ＭＬＬＲが使用されない場合は１３０４、直接密度モデルが使用されるかどうかについて判断する１３０６。その場合は、互いに結合されたすべての文字に関する登録データを使用して、それぞれの結合セットについて、密度モデルを構築し１３１６、フローを終了する１３１０。ある規則に関連するユーザ固有の特徴セットＦｐｉでは、混同規則の左側部分のクラス／文字が、混同規則の右側部分のクラス／文字と同じ結合セット内にあるべきではない。次いで、混同規則の双方向分類器として、この密度モデルを使用する。しかし、直接密度モデルが使用されない場合は１３０６、直接識別モデルが使用されるかどうかを判断する１３０８。そうである場合は、クラス／文字に関するデータが、様々なユーザ固有の特徴の結合セットの最も細かい区分に従って結合されている登録データを使用して、分類器を構築し１３１８、フローを終了する１３１０。一般的に言えば、結合セットおよび混同規則は、混同規則の左側部分のクラス／文字が、混同規則の右側部分のクラス／文字と同じ結合セット内に存在しないように構築されるべきである。次いで、混同規則の双方向分類器として、このモデルを使用する。しかし、直接識別モデルが使用されない場合は１３０８、フローを終了する１３１０。フローの終了１３１０は、追加のモデルが本発明によって使用されないことを意味するものではない。これは、上記の本発明のこの例で論じた３つのモデル化方法の可能性について終了するものにすぎない。
【００４５】
本発明の様々な側面を実施するための追加の背景を提供するために、図１４および以下の議論は、本発明の様々な側面を実施することができる適切なコンピューティング環境１４００についての、簡潔で一般的な説明を提供するためのものである。本発明について、ローカルコンピュータおよび／またはリモートコンピュータ上で実行されるコンピュータプログラムの、コンピュータ実行可能命令の一般的な背景において上記で述べたが、本発明は、他のプログラムモジュールと組み合わせて実装することもできることが当業者には理解されよう。一般に、プログラムモジュールは、特定のタスクを実施しかつ／または特定の抽象データ型を実装する、ルーチン、プログラム、コンポーネント、データ構造体などを含む。さらに、本発明の方法は、それぞれが１つまたは複数の関連する装置と動作可能に通信することができる、シングルプロセッサまたはマルチプロセッサのコンピュータシステム、ミニコンピュータ、メインフレームコンピュータ、ならびにパーソナルコンピュータ、ハンドヘルドコンピューティング装置、マルチプロセッサベースおよび／またはプログラム可能な家庭用電化製品などを含めた他のコンピュータシステム構成で実施できることが当業者には理解されよう。例示した本発明の側面は、特定のタスクが通信ネットワークを介してリンクされたリモート処理装置によって実施される、分散コンピューティング環境でも実施することができる。しかし、すべてではないが、一部の本発明の側面は、スタンドアロンコンピュータで実施することができる。分散コンピューティング環境では、プログラムモジュールは、ローカルおよび／またはリモートのメモリ記憶装置に配置することができる。
【００４６】
本出願では、用語「コンポーネント」は、コンピュータ関連のエンティティ、すなわちハードウェア、ハードウェアとソフトウェアの組合わせ、ソフトウェア、または実行中のソフトウェアのいずれかを指すものである。たとえば、コンポーネントは、これだけには限らないが、プロセッサ上で実行されるプロセス、プロセッサ、オブジェクト、実行可能ファイル、実行スレッド、プログラム、およびコンピュータであり得る。図示するため、サーバ上で実行されるアプリケーションおよび／またはサーバが、コンポーネントになり得る。さらに、コンポーネントは、１つまたは複数のサブコンポーネントを含み得る。
【００４７】
図１４を参照すると、本発明の様々な側面を実施するための例示的なシステム環境１４００が、処理装置１４０４，システムメモリ１４０６、およびシステムメモリを含めて様々なシステムコンポーネントを処理装置１４０４に接続するシステムバス１４０８を備えた、従来型のコンピュータ１４０２を含んでいる。処理装置１４０４は、任意の市販またはプロプラエタリのプロセッサであり得る。さらに、処理装置は、たとえば並列接続することができる、複数のプロセッサで構成されるマルチプロセッサとして実装することができる。
【００４８】
システムバス１４０８は、メモリバスまたはメモリコントローラ、周辺バス、およびいくつか例を挙げると、ＰＣＩ、ＶＥＳＡ、Ｍｉｃｒｏｃｈａｎｎｅｌ、ＩＳＡ、ＥＩＳＡなどの、様々な従来のバスアーキテクチャのいずれかを使用するローカルバスを含めた、いくつかのタイプのバス構造のいずれかであり得る。システムメモリ１４０６は、ＲＯＭ（ｒｅａｄ  ｏｎｌｙ  ｍｅｍｏｒｙ）１４１０、およびＲＡＭ（ｒａｎｄｏｍ  ａｃｃｅｓｓ  ｍｅｍｏｒｙ）１４１２を含む。スタートアップ時などに、コンピュータ１４０２内の要素間で情報を転送する助けをする基本ルーチンを含むＢＩＯＳ（ｂａｓｉｃ  ｉｎｐｕｔ／ｏｕｔｐｕｔ  ｓｙｓｔｅｍ）１４１４は、ＲＯＭ１４１０に格納される。
【００４９】
またコンピュータ１４０２は、たとえばハードディスクドライブ１４１６、たとえば取出し可能ディスク１４２０に対して読み書きするための磁気ディスクドライブ１４１８、およびたとえばＣＤ−ＲＯＭディスク１４２４または他の光メディアに対して読み書きするための光ディスクドライブ１４２２を含み得る。ハードディスクドライブ１４１６、磁気ディスクドライブ１４１８、および光ディスクドライブ１４２２はそれぞれ、ハードディスクドライブインターフェース１４２６、磁気ディスクドライブインターフェース１４２８、および光ドライブインターフェース１４３０によって、システムバス１４０８に接続される。ドライブ１４１６〜１４２２およびその関連するコンピュータ読取り可能媒体は、コンピュータ１４０２のためのデータ、データ構造体、コンピュータ実行可能命令などの不揮発性ストレージを提供する。前記のコンピュータ読取り可能媒体の説明は、ハードディスク、取出し可能磁気ディスクおよびＣＤに言及しているが、コンピュータ読取り可能な他のタイプの媒体、たとえば磁気カセット、フラッシュメモリカード、デジタルビデオディスク、ベルヌーイカートリッジ（Ｂｅｒｎｏｕｌｌｉ  ｃａｒｔｒｉｄｇｅ）などを、例示的な動作環境１４００で使用することもでき、さらに、こうした媒体のいずれもが、本発明の方法を実施するためのコンピュータ実行可能命令を含み得ることを当業者には理解されたい。
【００５０】
オペレーティングシステム１４３２、１つまたは複数のアプリケーションプログラム１４３４、他のプログラムモジュール１４３６およびプログラムデータ１４３８を含めた複数のプログラムモジュールを、ドライブ１４１６〜１４２２およびＲＡＭ１４１２に格納することができる。オペレーティングシステム１４３２は、適切ないずれかのオペレーティングシステムでも、オペレーティングシステムを組み合わせたものでもよい。例として、アプリケーションプログラム１４３４は、本発明の一態様による適応的手書き認識システムを含み得る。
【００５１】
ユーザは、キーボード１４４０およびポインティング装置（例えばマウス１４４２）などの１つまたは複数の入力装置を介して、コンピュータ１４０２に、コマンドおよび情報を入力することができる。他の入力装置（図示せず）には、マイクロフォン、ジョイスティック、ゲームパッド、衛星パラボラアンテナ、ワイヤレスリモート（ｗｉｒｅｌｅｓｓ  ｒｅｍｏｔｅ）、スキャナなどが含まれ得る。こうしたおよび他の入力装置はしばしば、システムバス１４０８に結合されたシリアルポートインターフェース１４４４を介して処理装置１４０４に接続されるが、他のインターフェース、たとえばパラレルポート、ゲームポート、ＵＳＢ（ｕｎｉｖｅｒｓａｌ  ｓｅｒｉａｌ  ｂｕｓ：ユニバーサルシリアルバス）によって接続されてもよい。モニタ１４４６、または他のタイプの表示装置もまた、ビデオアダプタ１４４８などのインターフェースを介してシステムバス１４０８に接続される。モニタ１４４６に加えて、コンピュータ１４０２は一般に、スピーカやプリンタなどの他の周辺出力装置（図示せず）を含み得る。
【００５２】
コンピュータ１４０２は、１つまたは複数のリモートコンピュータ１４６０との論理接続を使用した、ネットワーク化された環境で動作できることを理解されたい。リモートコンピュータ１４６０は、ワークステーション、サーバコンピュータ、ルータ、ピアデバイス（ｐｅｅｒ  ｄｅｖｉｃｅ）または他の通常のネットワークノードでよく、また図１４では、簡潔にするため、メモリ記憶装置１４６２だけが示してあるが、コンピュータ１４０２に関して述べた要素の多数またはすべてを一般に含む。図１４に図示した論理接続は、ＬＡＮ（ｌｏｃａｌ  ａｒｅａ  ｎｅｔｗｏｒｋ：ローカルエリアネットワーク）１４６４、およびＷＡＮ（ｗｉｄｅ  ａｒｅａ  ｎｅｔｗｏｒｋ：広域ネットワーク）１４６６を含む。こうしたネットワーキング環境は、オフィス、企業規模のコンピュータネットワーク、イントラネット、インターネットでは一般的なものである。
【００５３】
たとえばＬＡＮネットワーキング環境で使用される場合には、コンピュータ１４０２は、ネットワークインターフェースまたはアダプタ１４６８を介してローカルネットワーク１４６４に接続される。ＷＡＮネットワーキング環境で使用される場合には、コンピュータ１４０２は一般に、モデム（電話、ＤＳＬ、ケーブルなど）１４７０を含み、あるいはＬＡＮ上の通信サーバに接続され、またはインターネットなどのＷＡＮ１４６６上に通信を確立するための他の手段を含む。モデム１４７０は、コンピュータ１４０２に対して内部にあっても、外部にあってもよく、シリアルポートインターフェース１４４４を介してシステムバス１４０８に接続される。ネットワーク化された環境では、プログラムモジュール（アプリケーションプログラム１４３４を含む）、および／またはプログラムデータ１４３８を、リモートメモリ記憶装置１４６２に格納することができる。図示したネットワーク接続は、例示的なものであり、本発明の一態様を実施する際に、コンピュータ１４０２および１４６０間の通信リンクを確立する他の手段（有線、無線など）を使用できることが理解されよう。
【００５４】
コンピュータプログラミング分野の技術者の慣行に従って、本発明について、他に示されていない限りは、コンピュータ１４０２またはリモートコンピュータ１４６０などのコンピュータによって実施される動作、および操作の記号による表現を参照して説明した。こうした動作および操作は時々、コンピュータで実行されるもの（ｃｏｍｐｕｔｅｒ−ｅｘｅｃｕｔｅｄ）と称される。動作および記号を用いて示された操作は、処理装置１４０４によるデータビットを表す電気信号の処理を含む。この処理によって、結果的に、電気信号表現が変換または低減され、メモリシステム（システムメモリ１４０６、ハードドライブ１４１６、フロッピー（登録商標）ディスク１４２０、ＣＤ−ＲＯＭ１４２４およびリモートメモリ１４６２を含む）内のメモリ位置でデータビットが維持されるようになり、それによってコンピュータシステムの操作および他の信号処理が再構成され、または他の方法で変更される。こうしたデータビットが維持されるメモリ位置は、そのデータビットに対応する特定の電気、磁気、または光の特性を有する物理位置である。
【００５５】
図１５は、本発明が対話することができる例示的なコンピューティング環境１５００の別のブロック図である。システム１５００には、１つまたは複数のクライアント１５０２を含むシステムがさらに示されている。クライアント１５０２は、ハードウェアおよび／またはソフトウェア（スレッド、プロセス、コンピューティング装置など）であり得る。システム１５００は、１つまたは複数のサーバ１５０４も含む。サーバ１５０４もまた、ハードウェアおよび／またはソフトウェア（スレッド、プロセス、コンピューティング装置など）であり得る。サーバ１５０４は、たとえば本発明を使用することによって変換を実施するスレッドを収容することができる。クライアント１５０２とサーバ１５０４との間の１つの可能な通信は、複数のコンピュータプロセス間で送信されるように適応したデータパケットの形であり得る。システム１５００は、クライアント１５０２とサーバ１５０４との間の通信を容易にするために使用することができる通信フレームワーク１５０８を含む。クライアント１５０２は、１つまたは複数のクライアントデータストア１５１０に動作可能に接続され、このクライアントデータストアを使用して、クライアント１５０２にとってローカルに情報を格納することができる。同様に、サーバ１５０４は、１つまたは複数のサーバデータストア１５０６に動作可能に接続され、このクライアントデータストアを使用して、サーバ１５０４にとってローカルに情報を格納することができる。
【００５６】
本発明のある例では、データパケットが、手書き認識を容易にする２つまたはそれ以上のコンピュータコンポーネント間で送信され、そのデータパケットは、少なくとも一部が、手書きデータを分類するために、汎用分類器およびユーザ固有分類器を併せて使用する手書き認識システムからの手書きに関連する情報からなる。
【００５７】
本発明の別の例では、手書き認識を容易にするためのシステムのコンピュータ実行可能コンポーネントを格納する、コンピュータ読取り可能媒体は、少なくとも一部が、手書きデータを分類するために互いに連携して動作することができる、汎用分類器およびユーザ固有分類器からなる手書き認識システムで構成される。
【００５８】
コンピュータコンポーネント、また同様に非コンピュータ関連のコンポーネントの助けになるように、本発明の装置、システムおよび／または方法を、手書き認識方式に使用できることを理解されたい。さらに、本発明のシステムおよび／または方法は、それだけには限らないが、コンピュータ、サーバおよび／またはハンドヘルドの電子装置を含めて、非常に多くの電子関連技術に使用できることが当業者には理解されよう。
【００５９】
上記に説明した内容は、本発明の例を含む。もちろん、本発明を説明するために、コンポーネントまたは方法の、考えられるあらゆる組合せについて述べることは可能ではないが、当業者なら、本発明の多くの別の組合せおよび置換が可能であることを理解し得る。したがって、本発明は、特許請求の精神および範囲内に含まれる、すべてのこうした変更、修正および変形を包含するものである。さらに、用語「含む（ｉｎｃｌｕｄｅｓ）」が、詳細な説明、また特許請求の範囲で使用される限りでは、こうした用語は、請求項において、「備える、含む（ｃｏｍｐｒｉｓｉｎｇ）」が、転換語として使用されている場合に解釈されるように、用語「備える、含む（ｃｏｍｐｒｉｓｉｎｇ）」と同様に、包含的なものである。
【符号の説明】
【００６０】
１００  手書き認識システム
１０２  認識コンポーネント
１０４  汎用分類器コンポーネント
１０６  ユーザ固有分類器コンポーネント
１０８  汎用分類器
１１０  汎用分類器
１１２  汎用分類器
１１４  ユーザ固有分類器
１１６  ユーザ固有分類器
１１８  ユーザ固有分類器
１２０  手書きデータ
２００  手書き観測プロセス
２０２  汎用分類器コンポーネント
２０４  汎用分類器
２０６  汎用分類器
２０８  汎用分類器
２１０  手書き観測データ
２１２  ユーザ
２１４  ユーザ
２１６  ユーザ
３００  手書き観測プロセス
３０２  ユーザ固有分類器コンポーネント
３０４  ユーザ固有分類器
３０６  ユーザ固有分類器
３０８  ユーザ固有分類器
３１０  手書き観測データ
３１２  ユーザ
３１４  ユーザ
３１６  ユーザ
３１８  ユーザ固有登録データ
４００  手書き観測プロセス
４０２  ユーザ固有分類器コンポーネント
４０４  ユーザ固有分類器
４０６  ユーザ固有分類器
４０８  ユーザ固有分類器
４１０  ユーザ固有登録データ
５０２  特徴セット
５０４  特徴Ｆｇ
５０６  特徴Ｆｐ
５０８  特徴Ｆｐ１
５１０  特徴Ｆｐ２
５１２  特徴Ｆｐｎ
６００  手書き文字の特徴
６０２  文字「Ａ」
６０４  文字「Ｂ」
６０６  下位特徴
６０８  下位特徴
６１０  下位特徴
６１２  下位特徴
７００  結合セット
７０２  クラス／文字の列
７０４  Ｆｐ１結合特徴クラス
７０６  Ｆｐ２結合特徴クラス
７０８  線
７１０  線
７１２  線
７１４  第１のＦｐ１結合セット
７１６  第２のＦｐ１結合セット
７１８  第１のＦｐ２結合セット
７２０  第２のＦｐ２結合セット
７２２  第３のＦｐ２結合セット
８００  結合セットの例
８０２  文字の列
８０４  Ｆｐ１結合特徴（高さ）の列
８０６  Ｆｐ２結合特徴（幅）の列
９００  混同規則
９０２  混同規則の左側部分
９０４  混同規則の右側部分
９０６  規則セット／規則１
９０８  規則セット／規則２
９１０  規則セット
１０００  ユーザ固有分類器の例
１００２  ユーザ固有分類器コンポーネント
１００４  ＭＬＬＲ適応化密度モデル
１００６  直接密度モデル
１００８  直接識別モデル
１０１０  モデル「Ｙ」
１１００  方法
１２００  方法
１３００  方法
１４００  システム環境
１４０２  コンピュータ
１４０４  処理装置
１４０６  システムメモリ
１４０８  システムバス
１４１０  ＲＯＭ
１４１２  ＲＡＭ
１４１４  ＢＩＯＳ
１４１６  ハードディスクドライブ
１４１８  磁気ディスクドライブ
１４２０  フロッピー（登録商標）ディスク
１４２２  光ディスクドライブ
１４２４  ＣＤ−ＲＯＭディスク
１４２６  ハードディスクドライブインターフェース
１４２８  磁気ディスクドライブインターフェース
１４３０  光ドライブインターフェース
１４３２  オペレーティングシステム
１４３４  アプリケーションプログラム
１４３６  他のプログラムモジュール
１４３８  プログラムデータ
１４４０  キーボード
１４４２  マウス
１４４４  シリアルポートインターフェース
１４４６  モニタ
１４４８  ビデオアダプタ
１４６０  リモートコンピュータ
１４６２  メモリ記憶装置
１４６４  ローカルエリアネットワーク
１４６６  広域ネットワーク
１４６８  ネットワークインターフェース
１４７０  モデム
１５００  コンピューティング環境
１５０２  クライアント
１５０４  サーバ
１５０６  サーバデータストア
１５０８  通信フレームワーク
１５１０  クライアントデータストア
【図１】
2010102742.tif 000003
【図２】
2010102742.tif 000004
【図３】
2010102742.tif 000005
【図４】
2010102742.tif 000006
【図５】
2010102742.tif 000007
【図６】
2010102742.tif 000008
【図７】
2010102742.tif 000009
【図８】
2010102742.tif 000010
【図９】
2010102742.tif 000011
【図１０】
2010102742.tif 000012
【図１１】
2010102742.tif 000013
【図１２】
2010102742.tif 000014
【図１３】
2010102742.tif 000015
【図１４】
2010102742.tif 000016
【図１５】
2010102742.tif 000017