(57)【要約】  言語スクリプトの固有の特性を利用（例えば、アラビア言語の結合ルールを条件として）して、２段階のテキスト認識を可能にするシステムおよび方法である。このような２段階のシステムにおいて、１段階では、テキストと関連付けられた言語の結合ルールに基づいてつながった所定の結合文字グループを認識でき、もう１つの段階では、所定の結合文字グループを形成するそれぞれの構成文字に対するそれらの結合文字を分析（および認識）する。さまざまな分類器および人工知能コンポーネントは、各レベルにおいてテキスト認識をさらに容易にできる。
2009545807.tif 000002
【特許請求の範囲】
【請求項１】
テキスト認識を容易にするシステムであって、
テキストと関連付けられた言語の結合ルールに基づいてあらかじめ定義された単語グループ（２０２、２０４、２０６、２０８）を認識する認識装置コンポーネント（１１０）と、
前記単語グループ（２０２、２０４、２０６、２０８）を形成する構成文字を認識する追加的認識装置コンポーネント（１１２）と
を備えたことを特徴とするシステム。
【請求項２】
前記結合ルールは、ＰＡＷ(Part of an Arabic Word )を定義することを特徴とする請求項１に記載のシステム。
【請求項３】
前記認識装置コンポーネントおよび前記追加的認識装置コンポーネントは、ニューラルネットを基礎とすることを特徴とする請求項１に記載のシステム。
【請求項４】
意字体データと関連付けられた分類器を訓練させる個性化コンポーネントをさらに備えたことを特徴とする請求項１に記載のシステム。
【請求項５】
前記異字体データは、手書き様式を現すことを特徴とする請求項４に記載のシステム。
【請求項６】
前記個性化コンポーネントは、書き手に依存しない筆跡を、ユーザの個性化した手書きに変換する適応機能を含むことを特徴とする請求項４に記載のシステム。
【請求項７】
テキスト認識をさらに容易にする人口知能コンポーネントをさらに備えたことを特徴とする請求項１に記載のシステム。
【請求項８】
前記認識装置コンポーネントは、ビーム探索機能を有することを特徴とする請求項１に記載のシステム。
【請求項９】
前記個性化コンポーネントは、文字の出現に対する確率を提供するマッピング機能を含むことを特徴とする請求項６に記載のシステム。
【請求項１０】
テキストを認識する方法であって、
テキスト入力を、テキストの言語に対する結合ルールに基づいてつながった、あらかじめ定義された結合文字グループ（２０２、２０４、２０６、２０８）と比較すること、
前記あらかじめ定義された結合文字グループ（２０２、２０４、２０６、２０８）から予想される一致（５３０）を選択すること、および
予想される一致と構成文字（５４０）とを比較すること
を備えたことを特徴とする方法。
【請求項１１】
結合文字グループを、ＰＡＷとしてあらかじめ定義することをさらに備えたことを特徴とする請求項１０に記載の方法。
【請求項１２】
結合文字にラベルを付けることをさらに備えたことを特徴とする請求項１１に記載の方法。
【請求項１３】
認識する前記結合文字から特徴を抽出することをさらに備えたことを特徴とする請求項１１に記載の方法。
【請求項１４】
ビタビ探索法を用いることをさらに備えたことを特徴とする請求項１３に記載の方法。
【請求項１５】
上部分割シナリオを決定することをさらに備えたことを特徴とする請求項１４に記載の方法。
【請求項１６】
意字体データに基づいて分類器を訓練することをさらに備えたことを特徴とする請求項１４に記載の方法。
【請求項１７】
訓練動作に基づいて筆跡認識を最適化することをさらに備えたことを特徴とする請求項１６に記載の方法。
【請求項１８】
一般的な手書きを、個性化した筆跡に変換することをさらに備えたことを特徴とする請求項１７に記載の方法。
【請求項１９】
文字のマッピングに基づいて、文字を特定の様式に一致させることをさらに備えたことを特徴とする請求項１８に記載の方法。
【請求項２０】
テキスト認識を容易にするシステムであって、
前記テキスト（２０２、２０４、２０６、２０８）と関連付けられた言語の結合ルールに基づいてあらかじめ定義された単語グループを認識（１１０）する手段と、
前記単語グループを形成する構成文字を追加的に認識（１１２）する手段と
を備えたことを特徴とするシステム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、２段階テキスト認識に関する。
【背景技術】
【０００２】
コンピュータ技術の進歩（例えば、マイクロプロセッサの処理速度、メモリ容量、データ転送帯域幅、ソフトウェアの機能性など）は、さまざまな産業において、コンピュータアプリケーションの進展に広く貢献してきた。例えば、コンピュータを基礎とする意思決定支援システムは、ＯＣＲ(Optical Character Recognition)などの認識システムおよびそれに関連したテキスト認識アプリケーションに一般的に用いられている。
【０００３】
典型的には、初めにスキャナまたは光学読取装置（optical imagers）が、映像を、「デジタル化」（例えば、画像をコンピュータシステムに入力する場合）するために開発された。続いてそのようなシステムは、他の印刷や写植の機材に適用され、ＯＣＲシステムは、複数のコンピュータアプリケーションに徐々に拡張された。一般的にＯＣＲ技術は、実現可能なフォントの種類のうち、制限されたまたは限定された選択を認識するように調整されている。一般的にそのようなシステムは、文字を、事前に存在するフォントのデータベースと比較することによって、文字を「認識」できる。フォントに一貫性がないと見なされた場合、ＯＣＲ技術は、同一であることを確認できないまたは存在しない文字を返し、そのような一貫性のないテキストを、非認識と表示する。
【０００４】
さらに筆跡認識は、テキスト認識よりもさらに困難なシナリオであることが分かっている。一般的に人の筆跡は、書き方によって示される個性的な表現を例示している。従ってまさにその性質上、筆跡パターンは、同じ文字でさえ多様な形を示す。特定の文字に対して考えられるかぎりの筆跡の形を記憶させることは、明らかに実行不可能である。
【０００５】
そのような手書き文字と関連付けられたパターンを認識するために、さまざまな手法が開発されてきた。多くの筆跡認識システムは、ニューラルネット、ＨＭＭ（Hidden Markov Model）またはＫＮＮ（K-Nearest-Neighbor）手法に基づいた認識装置を用いる。一般的にそのようなシステムは、文字の全体外観に基づいて文字を分類するタスクを、適切に実行する。例えば、類似性のレベルは、パターン間の距離測度を作り出すことによって決定できる。
【０００６】
しかし、オフライン筆跡認識として一般的に知られている、画像の中の手書きテキストの認識は、困難なタスクのままである。商業的に実行可能な大規模なシステムが効率的に構築できるまでに、まだやるべき作業が多くある。これらの問題は、それと関連した認識問題を伴う取り組みに対してあまり研究努力が与えられてないアラビア語、ペルシア語などの非ラテン言語／スクリプトによって、さらに拡大される。
【０００７】
典型的には、アラビア語のオフライン認識の研究の大半は、数字と単一文字の認識を対象としてきた。アラビア語のオフライン認識問題が取り組まれた例は、ほとんど存在しない。近年における手書きのアラビア語テキストの画像（例えば、ＩＦＮ／ＩＮＩＴデータベースなど）を公的に利用できるデータベースの標準の構築は、このようなスクリプト／言語に対するより一層の研究活動を、徐々に促進している。
【０００８】
対照的に、ラテン語スクリプトでは、ＨＭＭ（Hidden Markov Model）を基礎とする手法が、オフラインの草書体単語認識の分野を支配している。典型的な設定では、辞書が提供され、認識装置の出力を制約している。次にＨＭＭは、辞書のすべての単語に対して構築でき、それに対応する尤度（モデルによって作り出されているデータの確率）が計算される。一般的には最も予想される解釈が、正しいものと仮定される。
【０００９】
アラビア語のテキスト認識に対する少数の報告された手法において、ラテン語のテキスト認識方法論と同一の手法が、典型的に用いられてきた。さらに前処理と特徴抽出のフェーズを変更して、アラビア語の筆跡スクリプトの異なる性質に対応するために実行されたさまざまな試みは、効率的であると証明されていない。さらに、一般的にそのような試みは、認識目的に対する結合ルールを条件付けるような、アラビア語スクリプトの固有の特性を利用しない。
【発明の概要】
【００１０】
本明細書に説明したいくつかの態様の基本的な理解を提供するために、簡略化した概要を以下に示す。本開示は、請求された発明の対象を広域に要約するものではない。請求された発明の対象の主要なまたは重要な要素を明らかにする目的でも、それらの範囲を区別する目的でもない。その唯一の目的は、後に示されるより詳細な説明への前置きとして、簡略化形式においていくつかの概念を示すことである。
【００１１】
本発明の対象は、２段階手法を用いることによって、テキスト認識を提供することであって、その認識のために、１段階では、テキスト（単語のサブグループ）と関連付けられた言語の結合ルールに基づいてつながれた、所定の結合文字グループを認識し、もう１つの段階では、それぞれの構成文字（所定の結合文字グループを形成する）に対するそれらの結合文字を分析する。例えば、認識の１段階では、初めに、アラビア言語の結合ルールの条件（例えば、ＰＡＷ(Part of an Arabic Word)など）に基づいてあらかじめ定義された、ユーザが定義したアラビア語テキストの辞書を識別できる。最も一致するＰＡＷを決定すると、もう１つの段階は、認識プロセスを、そのようなＰＡＷを形成する文字の探索へと導く。従って、このような段階的手法は、その探索が、所定の文字（それらの単語のサブグループ）の組み合わせに限られているため、文字認識の高い尤度を提供する。
【００１２】
従って、本発明の対象は、認識方法論を、並行して実行できる２つのプロセスに分解できる。第１プロセスは、探索を、テキストと関連付けられた言語の結合ルールに基づいてつながれた、所定の結合文字グループに制約する。第２プロセスにおいて、その探索は、所定の結合文字グループを形成する個々の文字に制約される。例えば、アラビア言語において、探索の第１プロセス（例えば、段階１）は、文字によって、ＰＡＷ辞書に制約される。段階２において、その探索は、ＰＡＷによって、文字辞書に制約される。探索を導くのは、ニューラルネットを基礎とするＰＡＷ認識装置である。
【００１３】
関連した態様において、２段階手法を実施するシステムは、所定の結合文字グループを識別する（例えば、ＰＡＷを識別する場合）ニューラルネットを基礎とする、動作認識装置コンポーネントを用いることができる。さらに、訓練コンポーネントは、認識装置コンポーネントを訓練して、追加的な文字グループ（例えば、結合単語グループが、最初に、外国語の名前、つづり間違いなどが定義されないため、ＰＡＷは、最初は認識されない。）を、所定のグループの一部として識別できる。さまざまな人工知能コンポーネントも、本発明の目的の異なる態様を容易にするために用いることができる。
【００１４】
以下の説明および付属図は、請求された発明の対象の特定の具体的な態様を、詳細に示す。これらの態様は、発明の対象の原則を用いることができるさまざまな方法のほんの数例を示すが、請求された発明の対象は、このような態様およびそれらと同等のものすべてを含むことを目的としている。他の利点および新たな機能は、図とともに検討されるので、以下の詳細な説明によって明らかになる。
【図面の簡単な説明】
【００１５】
【図１】発明の目的の態様に係る、２段階テキスト認識システムを実行する例示的なシステムのブロック図である。
【図２】テキストと関連付けられた言語の結合ルールに基づいてつながった所定の結合文字グループの例示的な関係を示す図である。
【図３ａ】発明の目的のさまざまな態様を可能にする、アラビア語のテキスト認識を対象とする結合ルールを条件の特定の態様を示す図である。
【図３ｂ】発明の目的のさまざまな態様を可能にする、アラビア語のテキスト認識を対象とする結合ルールを条件の特定の態様を示す図である。
【図４】発明の目的の態様に係る、抑制できるアラビア語テキストの例示的な認識エラーを示す図である。
【図５】発明の目的の態様に係る、２段階テキスト認識の関連した方法論を示す図である。
【図６】発明の目的の特定の態様に係る、前処理、正規化、分割、認識、および探索動作を説明する関連した方法論を示す図である。
【図７ａ】発明の目的の態様に係る、単語のサブグループのさまざまなシナリオに対する例示的なラベル付けを示す図である。
【図７ｂ】発明の目的の態様に係る、単語のサブグループのさまざまなシナリオに対する例示的なラベル付けを示す図である。
【図７ｃ】発明の目的の態様に係る、単語のサブグループのさまざまなシナリオに対する例示的なラベル付けを示す図である。
【図８】関連付けられた言語の結合ルールに基づいてつながった所定の結合文字グループの認識を容易にするシステムを示す図である。
【図９】発明の目的の特定の態様に係る、人工知能コンポーネントを用いるアラビア語のテキスト認識システムを示す図である。
【図１０】発明の目的のさまざまな態様を実施する例示的な動作環境を示す図である。
【発明を実施するための形態】
【００１６】
発明の目的のさまざまな態様は、全体を通じて、同様の数字は、同様のまたは一致する要素を表す付属図を参照して説明する。しかし当然のことながら、図およびそれらと関連する詳細な説明は、請求される発明の対象を、開示された特定の形態に限定することを目的としない。むしろ、その意図は、請求される発明の対象の精神および範囲に含まれるすべての変更、同等、および代替を補うものである。
【００１７】
最初に図１を参照すると、発明の目的の態様に従って、テキスト認識システム１００が示されている。この認識システム１００は、テキストと関連付けられた言語（language）の結合ルール（joining rules）に基づいて互いにつながった、あらかじめ定義された結合文字（linked letters）グループ（単語のサブグループ（word subgroups））を識別する、認識装置コンポーネント１１０をさらに含む。同様に認識装置コンポーネント１１２は、所定の結合文字グループを形成する個々の文字（individual letters）を認識できる。従って発明の目的は、認識方法論を、並行して実行できる２つのプロセスに分解できる。第１プロセスは、テキストと関連付けられた言語の結合ルールに基づいてつながった所定の結合文字グループの探索に制約する。第２プロセスにおいて、その探索は、所定の結合文字グループを形成する個々の文字に制約される。
【００１８】
例えば、認識装置コンポーネント１１０は、入力テキスト信号１０３または「視覚パターン」を処理し、それらのパターンと、所定の文字グループを格納するデータベース１０５とを比較する。所定の文字グループは、それらのテキストと関連付けられた言語のルールに基づいて、前もって定義できる。例えば、認識装置コンポーネント１１０は、特徴抽出レイヤおよび分類レイヤ（図示せず）を含むことができる。従って認識装置コンポーネント１１０は、テキスト入力１０３（例えば、２次元ビットマップ入力パターンなど）を受信し、それらのパターンが、記憶媒体１０５に格納された、あらかじめ定義されたつながった文字グループのパターンと一致する確率を提供できる。テキスト入力１０３の入力信号は、そのシステムに直接入力できるまたはリモートリンク（例えば、ネットワークもしくは通信リンクなど）を経由して受信できる。
【００１９】
当然のことながらテキスト認識システム１００は、手書きパターンの認識および／または文字認識を実行するために利用することもできる。例えば、そのパターンは、走査文書から得られるおよび／またはペンもしくはマウスの軌跡の２次元ビットマップ投影にできる。またこれらの受信データは、任意の文字および／または手書きされたユーザからの入力になり得る。例えば、さまざまな計算装置および／またはシステムは、タブレット、ＰＤＡ(portable data assistant)、モバイル通信装置、スタイラスペン、ペン型スキャナ、タッチスクリーン機能を有する対話型ディスプレイ装置などの筆跡入力を利用するが、これらに限定されない。
【００２０】
例示的な一態様において、テキスト認識システム１００は、ＣＮＮ(convolutional neural network)アーキテクチャに基づいて動作し、先に説明したように、特徴抽出レイヤおよび分類レイヤをさらに含むことができる。一般的に「畳み込みレイヤ」は、グループ（例えば、特徴マップなど）が、異なる場所における実質的に同じ係数または重みの組を用いて、受信した入力を変更するニューラルネットワークのコンポーネントであると言える。さまざまなグループ（例えば、特徴マップなど）は、異なる係数の組を使用することも実現可能である。従って、それらのグループ（例えば、特徴マップなど）は、異なる特徴を、受信された入力から抽出できる。特徴抽出レイヤの出力は、分類レイヤに接続できる。さらにテキスト認識システム１００は、クロスエントロピー誤差最小化を利用するなどの、入力訓練データから学習できる。例えば、テキスト認識システム１００は、クロスエントロピー誤差を最小化する確率的な勾配降下（stochastic gradient descent）を使用して訓練できる。
【００２１】
さらに、データが、認識装置コンポーネント１１０および／または認識装置コンポーネント１１２によって不明瞭と見なされた場合、ユーザ専用のポストプロセッサ技術を利用して、文字および／または画像を分類する「コンフュージョンルール」を用いることができる。従ってＭＬＬＲ(Maximum Likelihood Linear Regression)に適応した密度モデル、ダイレクト密度モデル、およびダイレクト識別モデルなどの、異なる種類のポストプロセッサのタイプを、発明の目的の範囲内に利用できる。異なるモデルおよび分類器（classifiers）を用いるこのような柔軟性によって、発明の目的は、従来の筆跡認識技術と容易に統合できる。従って、発明の目的は、本発明において特定のユーザからのデータを識別する筆跡認識システムの機能を高めるために、ユーザ専用の分類器以外の他の手段による一般的な分類器によって適用されている、複数のユーザおよび／またはユーザ専用分類器からの集団観測に基づいて、一般的な分類器を利用できる。
【００２２】
図２に、テキストと関連付けられた言語の結合ルールに基づいてつながった、所定の結合文字グループの例示的な図２００を示す。例えば、そのようなテキストの筆跡と関連付けられた言語の結合ルールに基づいて、互いに結合されている結合文字（例えば、単語のサブパートなど）のグループに関するサブグループ２０２、２０４、２０６、２０８（ｎが整数であるＷ1からＷnまでの数）などである。さらに、確率的手法は、結合文字が筆跡サンプルの所定の頻度よりも多く発生する場合に識別される、これらの結合文字２０２、２０４、２０６、および２０８を生成し、定義する基準として用いることもできる。
【００２３】
例えば、アラビア言語のアルファベットは、２８の基本文字から成り、そのスクリプトは草書体で、すべての主要な文字は、文字のグリフに対して、それらが単語の初めにあるか、中間または終わりにあるかどうかに応じて条件付けられた形式を有する。文字の４つの際立った形（最初、中間、最後または単独）まで示すことができる。さらに、わずか６文字、つまり
【００２４】
【数１】
2009545807.tif 000003
【００２５】
は、単独の形か最後の形かのどちらかを有し、最初の形または中間の形を有しない。これらの文字に別の文字が続く場合、典型的にはそれらとともに結合しない。従って一般的に、その次の文字は、たとえその文字が単語の最初の文字でなくても、その最初の形または単独の形のみを有することしかできない。このようなルールは、数字および非アラビア文字にも当てはまり、典型的には条件付け結合と呼ばれる。図３ａおよび３ｂに、アラビア語スクリプトにおける例示的な条件付け結合の特性を示す。図３ａに、結合文字に続く文字の最後の形を示す。同様に、図３ｂに、非結合文字に続くそれと同じ文字の単独になった最後の形を示す。このような条件付け結合の特性によって、互いに結合されたアラビア文字の配列であるＰＡＷ(Part of Arabic Word)を定義できる。一般的に、どのアラビア語も確定的に、１または２以上のＰＡＷに分割できる。
【００２６】
さらにアラビア語の筆跡スクリプトのこのような条件付け結合の特性を考慮すると、単語は、ＰＡＷの配列から成っていると考えることができる。言い換えればＰＡＷは、代替的アルファベットと見なすことができる。単語辞書を構成するＰＡＷの固有の数は、有限数に限定でき、例えば、辞書の単語の数とともに半直線的に増加する。よって発明の対象の目的の態様に従って、アラビア語の辞書は、２つの辞書に分解できる。１つは、文字アルファベットに関して、固有のＰＡＷおよびそれらのつづりすべてをリスト化する文字辞書に対するＰＡＷである。もう１つは、ＰＡＷアルファベットに関して、固有の単語およびそれらのつづりすべてをリスト化するＰＡＷ辞書に対する単語である。
【００２７】
その結果、画像に対して最も一致する辞書エントリを見つける方法論では、同時に実行できる２つの関連したプロセスに分解できる。１つのプロセスは、ＰＡＷによって文字辞書に制約されたＰＡＷに対する文字から、最も可能性のあるマッピングを見つけることである。もう１つのプロセスは、単語によってＰＡＷ辞書に制約された単語に対するＰＡＷから、最も可能性のあるマッピングを識別することである。
【００２８】
このような２段階の手法は、認識エラーを抑制できる。例えば、辞書は、認識プロセスの出力を制約でき、複数の文字認識エラーも、ＰＡＷ認識フェーズにおいて解決できる。図４に、抑制できる例示的な認識エラーを、発明の目的の態様に従って示す。図４に示したように、
【００２９】
【数２】
2009545807.tif 000004
【００３０】
と意図されている第２文字４０４は、文字認識装置によって、下手に書かれていると仮定されると、当初のように識別された／提示されたであろうことは考えにくい。よって、例えば、ＰＡＷは、
【００３１】
【数３】
2009545807.tif 000005
【００３２】
の画像を、有効なＰＡＷ辞書である
【００３３】
【数４】
2009545807.tif 000006
【００３４】
と混同する可能性があるが、認識フェーズにおいて容易に処理できる。当然のことながら、単語の中のＰＡＷの出現確率とそれぞれの使用頻度も、ＰＡＷ認識装置コンポーネントによって用いられ、より多くのＰＡＷの発生に有利に働くことができる。このような優先確率は、典型的には認識プロセスを促進する言語的ｎグラム文字モデルと考えることができる。
【００３５】
図５に、発明の目的の態様に従って、関連した方法論５００を示す。例示的な方法を、さまざまなイベントおよび／または作用を代表する一連のブロックとして本明細書に説明しているが、発明の目的は、図示したこれらのブロックの順序によって限定されない。発明に従って、例えば、一部の作用もしくはイベントは、本明細書に示した順序とは別に、異なる順序および／または他の作用もしくはイベントと同時に、発生させることができる。さらに発明の目的に従って、図示したすべてのブロック、イベントまたは作用が、方法論を実施するのに必要とされるとは限らない。その上当然のことながら、発明に従って例示的な方法および他の方法は、本明細書に説明した方法と関連付けて実施できると同様に、説明していない他のシステムおよび装置も関連付けて実施できる。最初に５１０において認識を要求するテキスト入力は、発明の目的のテキスト認識システムによって受信される。それらの入力は、そのシステムに直接入力されるまたはリモートリンク（例えば、ネットワークまたは通信リンクなど）を経由して受信される入力信号を経由して受信できる。次に５２０において入力画像は、テキストと関連付けられた言語の結合ルールに基づいてつながった、所定の結合文字グループと比較される。このような比較の後、５３０において、最も予想される一致が選択される。続いて、発明の目的の追加的な認識段階の一部として、結合文字のこのような最も予想される一致は、所定の結合文字グループを形成する構成文字と比較される。従ってこのような段階的手法は、探索が所定の単語と文字との組み合わせに限られているため、文字に対する認識の高い尤度を提供する。
【００３６】
図６に、発明の目的の特定の態様に従って、前処理、正規化、分割、認識、および探索作用を説明する、関連した方法論６００を示す。６１０において受信画像は、画像２値化、トリミング、単語分割、ノイズ削減などの基本処理を通過する。続いて６２０において、つながった単語のサブグループ（例えば、テキストと関連付けられた言語の結合ルールに基づいてつながった、所定の結合文字グループなど）が、検出できる。例えば、幅と高さが、ある範囲未満である単語のつながったサブグループが得られる。ブロック６２０では、追加的なノイズ削減として動作できる。
【００３７】
続いて単語のつながったサブグループは、それらの右端のポイントに基づいて、右側から左側にソートできる。このことよって、発明の目的の探索アルゴリズムが、単語のサブグループによって、筆跡順序を近似する順序に配列できる。次に単語のつながったサブグループは、６３０においてラベル付け（例えば、「一次の」、「二次の」など）できる。ラベル付けは、図７に示したように、単語のつながったサブグループ間の比較的水平な重複を検出することと、単語のサブグループの安全な範囲を適用することによって実行できる。
【００３８】
例えば、各々が二次的につながったサブグループは、一次的なものと関連付けることができ、典型的には、二次的でないコンポーネントは、単独で存在できる。６４０において、画像入力と関連した特徴は、６５０において、あらかじめ定義された単語のサブグループ（例えば、ＰＡＷなど）のニューラルネットワークの分類認識として抽出できる。例えば、２つのニューラルネットＰＡＷ分類器を用いることができる。第１分類器は、入力画像がそのアスペクト比を維持しながら、固定された格子寸法に合うように拡大縮小された、畳み込みニューラルネットワークを構成することができる。ＰＡＷの文字数は、１から８まで変化し得るので、その格子のアスペクト比は、典型的には最大限幅広いＰＡＷに対応するために十分な幅が選択され、さらにその明瞭さも維持する。第２分類器は、ＰＡＷを構成するつながった文字（下位単語グループ）の指示コードから抽出された特徴に基づくことができる。例えば、アラビア言語に対して、２つの分類器の各々は、単語辞書のＰＡＷの所定の分布を反映する訓練セットを用いて訓練できる７６２出力を有することができる。
【００３９】
上記に詳細に説明したように発明の目的は、単語辞書を、２つの辞書すなわち、ＰＡＷ辞書に対する文字と単語辞書に対するＰＡＷに分解する。ＰＡＷ辞書に対する文字を使用して、ＰＡＷ認識装置の出力を制約し、単語認識装置に対するＰＡＷを用いて、最も一致する単語の探索を制約する。
【００４０】
さらに発明の目的に関連して、発見的な機能（例えば、最良優先探索、ビーム探索法）を用いることができる。発見的探索として、例えば、ビーム探索法を利用して、ＰＡＷ認識装置の出力を使用することによって、画像に対して最も一致する単語を見つけることができる。その探索は、つながった単語のサブグループを介して配列し、新しいＰＡＷを開始するか、サブグループを従来のＰＡＷに追加するかのどちらかを検討する。ＰＡＷ認識装置によって作り出された、可能性のあるＰＡＷとＰＡＷに対応する後の確率のリストを、保持できる。ＰＡＷマッピングに対して異なってつながったサブグループ単語は、実現可能な分割の格子に保持できる。すべてのサブグループを介して配列した後、最も可能性のある分割を評価し、最良の仮説として選ぶことができる。
【００４１】
例えば、格子の中において確実に、分割の確率が急上昇しないようにするには、典型的には２つの発見を用いることができ、そこでＰＡＷごとにつながった単語グループの最大数は、例えば、４に制限することができる（訓練データに基づいて実験的に決定されている。）さらに、格子のすべてのステップにおいて、所定の範囲によって、最も起こり得る分割よりも低い確率を有する分割の確率は、取り除くことができる。
【００４２】
発明の目的の態様に従って、図７ａ、図７ｂ、および図７ｃに、単語のサブグループのさまざまなシナリオの例示的なラベル付けを示す。図７ａに、つながった単語７０２、７０４、７０６、および７０８の各々の単語／サブグループが、有効のＰＡＷである例を示す。典型的には、このようなシナリオは、アラビア語テキストの単語総数のおよそ６５パーセントを占める。同様に図７ｂに、ＰＡＷが、２つのグループ７１０、７１２に分けられ、これらの２つのグループ７１０、７１２の組み合わせが、単一ＰＡＷ（例えば、上部分割の場合）と一致できる例を示す。このようなシナリオは、典型的には、単語総数のおよそ３０パーセントに発生する。同様に図７ｃに、サブグループ７２０が、互いに接する２つの有効なＰＡＷであるシナリオを示す。一般的にこのような例は、全体のおよそ５パーセントを占める。２以上のＰＡＷが、１つにつながった単語グループ７２０として分割されている、このような下部分割の例と取り組むために、追加的な動作を含むことができ、格子の一番の確率の分割パスが所定の範囲よりも低い場合にトリガーされる。従ってトリガーされた場合、つながった単語のサブグループの個々のＰＡＷ認識結果によって、ビタビ探索法が実行できる。この探索において、単語辞書に対する各々のＰＡＷとそれらの認識結果との間の編集距離が、計算される。ＰＡＷの挿入と削除の両方が、各々と関連付けられたペナルティに使用できる。
【００４３】
発明の目的の態様に従って、図８を参照して、所定の結合文字グループ（言語の結合ルールの基づいてつながっている）、および／または異字体訓練分類器を利用して、筆跡と関連付けられた文字の認識を容易にするシステム８００を示す。システム８００は、異字体データを用いて分類器（図示せず）を訓練できる個性化コンポーネント８０２を含むことができ、このような訓練は、手書き文字の認識を容易にする。例えば、異字体データは、筆跡様式と関連したデータを、自動的に作成するおよび／または手動で作成することができる。個性化コンポーネント８０２は、インタフェースコンポーネント８０４を経由して、手書き文字および／または筆跡サンプルと関連したデータを受信でき、分類器の訓練時に異字体データの利用の少なくとも一部に基づいて、筆跡認識の最適化を提供できる。例えば、受信データは、以下に詳細に説明するように、任意の文字および／または単語のサブグループにできる。例えば、さまざまな計算装置および／またはシステムは、タブレット、ＰＤＡ(portable data assistant)、モバイル通信装置、スタイラスペン、ペン型スキャナ、タッチスクリーン機能を有する対話型ディスプレイ装置などの筆跡入力を利用する。
【００４４】
個性化コンポーネント８０２は、書き手への適応を提供でき、これは、一般的な（例えば、書き手に依存しない場合）筆跡認識装置を、特定ユーザに合わせて精度を向上させた個性化された（例えば、書き手に依存する場合）認識装置に変換するプロセスである。個性化コンポーネント８０２は、特定のユーザからのわずかなサンプルを用いて、適応技術を実装できる。
【００４５】
異字体データは、手動、自動、および／またはそれらの任意の組み合わせによって作成できる。例えば、異字体データは、任意の適応するクラスタリング技法を用いて、自動的に作成できる。従ってクラスタリングによって、手書き文字から異字体を識別する（例えば、文字の形状および／または様式）自動的手法を、実装できる。別の例において、異字体データは、筆跡と関連付けられた種類および／または様式を提供するために筆跡エキスパートを利用して、手動で提供できる。
【００４６】
さらに個性化コンポーネント８０２は、異字体データを用いて分類器を訓練することができ、その結果を、非異字体を基礎とする分類器の組み合わせに実装することによって、最適化された筆跡認識を提供できる。個性化コンポーネント８０２は、シームレスに従来の認識装置（例えば、筆跡文字の認識装置など）と統合でき、個人からの新しいサンプルを用いて、それらと同等になるように向上できる。例えば、単に文字を一致させるのではなく、個性化コンポーネント８０２は、文字（letter）および／または（数字、符号を含んだ）文字（character）を、特定の様式および／または異字体と一致させることができる。従って個性化コンポーネント８０２は、マッピング技法および／または、筆跡サンプルならびに／もしくはユーザからの実例があれば学習可能な機能を利用できる。個性化コンポーネント８０２は、従来型および／または伝統的な分類器からの出力を利用して、マッピング機能および／または、各文字ならびに／もしくは数字を含んだ文字の確率を提供する技法を、筆跡認識を最適化するために適用することができる。
【００４７】
さらに、システム８００は、さまざまなアダプタ、コネクタ、チャンネル、通信パスなどを提供して、個性化コンポーネント８０２を事実上どのようなオペレーティングシステムおよび／またはデータベースシステムにも統合する、任意の適合するおよび／または必要なインタフェースコンポーネント８０４を含むことができる。さらにインタフェースコンポーネント８０４は、個性化コンポーネント８０２、データ、筆跡データ、最適化された筆跡認識と関連付けられたデータ、および最適化された筆跡認識との相互作用を提供するさまざまなアダプタ、コネクタ、チャンネル、通信パスなどを提供できる。
【００４８】
図９に、発明の目的の態様に従って、アラビア語の筆跡スクリプトの文字特性の条件付け結合を利用して、認識プロセスを２つの認識プロセスに分解して、同時に解決できるようにするアラビア語のテキスト認識システム９００を示す。ニューラルネットワークを基礎とするＰＡＷ認識装置を使用することによって、２段階ビーム探索法を実行し、入力画像と最も一致する単語を見つける。さらにＡＩ(artificial intelligence)コンポーネント９０２を用いて、認識プロセスを容易にできる。本明細書に使用されたように、一般的に、「推定」の語は、イベントおよび／またはデータによって得られた際の一連の観察から、システムの状態、環境、および／またはユーザを推理するもしくは推論するプロセスを参照する。推定を用いて、例えば、特定の文脈または動作を識別できる、または状態に対する確率分布を作り出すことができる。推定は、確率的な、つまりデータおよびイベントの考察に基づいた関心の程度に対して確率分布を計算できる。推定は、一連のイベントおよび／またはデータから、高いレベルのイベントを構成するために用いられた技法を参照することもできる。このような推定は、イベントが、時間的に近接して相関しているかどうか、イベントおよびデータが、１または複数のイベントおよびデータ資源からくるかどうかといった一連の観察されたイベントおよび／または格納されたイベントデータから、新しいイベントまたは動作の構成が得られる。
【００４９】
例えば、先に説明したように、ＰＡＷおよび／または個々の構成文字を認識するプロセスは、自動分類システムおよびプロセスによって容易にできる。分類は、入力属性ベクトル、Ｘ＝（Ｘ１、Ｘ２、Ｘ３、Ｘ４、Ｘｎ）を、その入力が、クラスつまりf(x)=confidence(class)に属するコンフィデンス（confidence）にマップする関数である。このような分類は、確率および／または統計を基礎とする分析（例えば、効用ならびに費用の分析に組み込む場合）を用いて、ユーザが自動的に実行するように望む作用を予知または推定できる。
【００５０】
ＳＶＭ(support vector machine)は、用いることができる分類器の一例である。ＳＶＭは、入力可能な空間に超曲面を見つけることによって動作し、超曲面は、トリガー基準を、トリガーしないイベントから分割しようと試みる。直観的に、このため分類が、訓練データと近似しているが同一でない実験データを修正できるようになる。異なる独立パターンを提供する、例えば単純ベイズ、ベイジアンネットワーク、決定木、ニューラルネットワーク、ファジー理論モデル、および確率的分類モデルを含む、他の有向モデルおよび無向モデル分類手法を用いることができる。本明細書に使用された分類は、優先モデルを開発するために利用される統計的回帰も含めている。
【００５１】
明細の目的から容易に認識されるように、発明の目的は、明示的に訓練された（例えば、一般的な訓練データによる場合）分類と同様に、非明示的に訓練された（例えば、ユーザ動向の観察、外部情報の受信による場合）分類も用いることができる。例えばＳＶＭは、分類コンストラクタモジュールおよび特徴選択モジュールの学習フェーズまたは訓練フェーズを経由して組み込まれる。従って分類器は、多数の機能を自動的に学習し、実行するために使用できるが、これらの機能は、以前に推定されたスキーマをいつアップデートするかまたは精緻化するか、いつ処理されているデータの種類（例えば財政上対非財政上、個人対非個人などの場合）に基づいて推定するアルゴリズムの基準を厳しくし、どの時刻に厳しくした基準の制御を実装すべきか（例えば、システムの実行が、あまり過密していない夕方など）の所定の基準に従った決定を含むが、これらに限定されない。
【００５２】
図１０を参照すると、本明細書に開示されたさまざまな態様を実装する例示的な環境１０１０は、コンピュータ１０１２（例えば、デスクトップ、ラップトップ、サーバ、携帯端末機器、プログラム可能な家庭用または工業用電化製品など）を含む。コンピュータ１０１２は、処理ユニット１０１４、システムメモリ１０１６、およびシステムバス１０１８を含む。システムバス１０１８は、システムメモリ１０１６を含むシステムコンポーネントを、処理ユニット１０１４に接続するが、これらに限定されない。処理ユニット１０１４は、さまざまに利用できる任意のマイクロプロセッサにできる。デュアルマイクロプロセッサおよび他のマイクロプロセッサアーキテクチャ（例えば、マルチコアなど）も、処理ユニット１０１４として用いることができる。
【００５３】
システムバス１０１８は、メモリバスもしくはメモリコントローラ、周辺バスもしくは外付けバスを含むいくつかの種類のバス構造、および／または１１ビットバス、ＩＳＡ(Industrial Standard Architecture)、ＭＳＡ(Micro-Channel Architecture)、ＥＩＳＡ(Extended ISA)、ＩＤＥ(Intelligent Drive Electronic)、ＶＬＢ(VESA Local Bus)、ＰＣＩ(Peripheral Component Interconnect)、ＵＳＢ(Universal Serial Bus)、ＡＧＰ(Advanced Graphic Port)、ＰＣＭＣＩＡ(Personal Computer Memory Card International Association bus)、およびＳＣＳＩ(Small Computer System Interface)を含む、利用できるさまざまなバスアーキテクチャを使用するローカルバスの任意のいくつかの種類にできるが、これらに限定されない。
【００５４】
システムメモリ１０１６は、揮発性メモリ１０２０および不揮発性メモリ１０２２を含む。起動時などの、コンピュータ１０１２内の要素間の情報を転送する基本ルーチンを含むＢＩＯＳ(basic input/output system)は、不揮発性メモリ１０２２に格納される。実例として不揮発性メモリ１０２２は、ＲＯＭ(read only memory)、ＰＲＯＭ(programmable ROM)、ＥＰＲＯＭ(electrically programmable ROM)、ＥＥＰＲＯＭ(electrically erasable ROM)、またはフラッシュメモリを含むことができるが、これらに限定されない。揮発性メモリ１０２０は、外付けのキャッシュメモリとして作用するＲＡＭ(random access memory)を含む。
【００５５】
コンピュータ１０１２は、取り外し可能／取り外し不能、揮発性／不揮発性のコンピュータ記憶媒体も含む。例えば図１０に、大容量または外部記憶装置１０２４を示す。大容量記憶装置１０２４は、磁気ディスクドライブ、フロッピー（登録商標）ディスクドライブ、テープドライブ、ジャズドライブ、ジップドライブ、ＬＳ−１００ドライブ、フラッシュメモリカード、メモリスティックなどの装置を含むが、これらに限定されない。さらに大容量記憶装置１０２４は、単独でまたはＣＤ−ＲＯＭ(compact disk ROM device)、ＣＤ−Ｒ  Ｄｒｉｖｅ(CD recordable drive)、ＣＤ−ＲＷ  Ｄｒｉｖｅ(CD rewritable drive)もしくはＤＶＤ−ＲＯＭ(digital versatile disk ROM drive)を含む他の記憶媒体との組み合わせによる記憶媒体を含むことができるが、これらに限定されない。大容量記憶装置１０２４が、システムバス１０１８への接続を容易にするために、典型的には、インタフェース１０２６などの取り外し可能また取り外し不能インタフェースが使用される。
【００５６】
当然のことながら、図１０は、ユーザと、適応する動作環境１０１０において説明した基本的なコンピュータ資源との間の媒介として作用するソフトウェアを説明している。そのようなソフトウェアは、動作システム１０２８を含む。大容量記憶装置１０２４に格納でき、システムメモリ１０１６にロードできるオペレーティングシステム１０２８は、システム１０１２の資源を制御し、割り当てるために作用する。システムアプリケーション１０３０は、システムメモリ１０１６か大容量記憶装置１０２４のどちらかに格納されたプログラムモジュール１０３２およびプログラムデータ１０３４を介してシステム１０２８を動作させることによって、資源の管理を活用する。当然のことながら、発明の目的は、さまざまな動作システムまたは動作システムの組み合わせを用いて実装できる。
【００５７】
ユーザは、コマンドまたは情報を、入力装置１０３６を介してコンピュータ１０１２に入力する。入力装置１０３６は、マウス、トラックボール、スタイラスペン、タッチパッド、キーボード、マイクロホン、ジョイスティック、ゲームパッド、パラボラアンテナ、スキャナ、ＴＶチューナカード、デジタルカメラ、デジタルビデオカメラ、ウェブカメラなどのポインティングディバイスを含むが、これらに限定されない。これらと他の入力装置は、インタフェースポート１０３８を経由してシステムバス１０１８を通って処理ユニット１０１４に接続する。例えばインタフェースポート１０３８は、直列ポート、並列ポート、ゲームポート、およびＵＳＢ(universal serial bus)を含む。出力装置１０４０は、入力装置１０３６と同じ種類のポートをいくつか使用する。例えばＵＳＢポートを使用して、コンピュータ１０１２への入力と、コンピュータ１０１２から出力装置１０４０への出力情報とを提供できる。出力アダプタ１０４２を提供して、ディスプレイ（例えば、フラットパネル、ＣＲＴ、ＬＣＤ、プラズマなど）、スピーカ、およびプリンタなどの出力装置１０４０がいくつかあることを示すが、特に出力装置１０４０は、特定のアダプタを必要とする。実例として出力アダプタ１０４２は、出力装置１０４０とシステムバス１０１８との間の接続手段を提供するビデオカードとサウンドカードを含むが、これらに限定されない。当然のことながら、他の装置および／または装置のシステムは、リモートコンピュータ１０４４などの入力機能と出力機能の両方を提供する。
【００５８】
コンピュータ１０１２は、リモートコンピュータ１０４４などの、１または２以上のリモートコンピュータへの論理接続を使用するネットワーク環境において動作できる。リモートコンピュータ１０４４は、パーソナルコンピュータ、サーバ、ルータ、ネットワークＰＣ、ワークステーション、マイクロプロセッサを基礎とする電気器具、ピア装置または他の共通ネットワークノードなどにでき、典型的には、コンピュータ１０１２と比較して説明した多数のまたはすべての要素を含む。簡略化するために、メモリ記憶装置１０４６のみ、リモートコンピュータ１０４４とともに示す。リモートコンピュータ１０４４は、ネットワークインタフェース１０４８を介してコンピュータ１０１２に論理的に接続され、通信接続１０５０を経由して物理的に（例えば、有線または無線の場合）接続される。ネットワークインタフェース１０４８は、ＬＡＮ(local-area network)およびＷＡＮ(wide-area network)などの通信ネットワークに及ぶ。
【００５９】
通信接続１０５０は、ネットワークインタフェース１０４８を、バス１０１８へ接続するために用いられたハードウェア／ソフトウェアを参照する。通信接続１０５０は、コンピュータ１０１６の内部を明確に説明するために示されているが、コンピュータ１０１２の外付けにすることもできる。ネットワークインタフェース１０４８への接続に必要なハードウェア／ソフトウェアは、例示のみを目的として、標準電話用モデム、ケーブルモデム、パワーモデムならびにＤＳＬモデム、ＩＳＤＮアダプタ、およびイーサネット（登録商標）カードもしくはコンポーネントを含むモデムなどの内部および外部の技術を含む。
【００６０】
上記の内容は、請求された発明の対象の態様の具体例を含む。請求された発明の対象の説明の目的として、考えられるすべてのコンポーネントまたは方法論の組み合わせを説明することは当然不可能であるが、当業者は、開示された発明の対象のさらに多くの組み合わせおよび置換が実現可能であることを認識できる。従って、開示された発明の対象は、添付の請求の精神と範囲に含まれるこのような代替、変更、および変化のすべてを包括的に捉えることを目的としている。さらに、「include」、「has」もしくは「having」またはそれらの変化形の語は、詳細な説明か請求項のどちらかにおいて使用され、これらの語は、「comprising」が請求項の中の区切りの単語として解釈されるのと同じく、語「comprising」と同様に包括的であることを目的としている。
【図１】
2009545807.tif 000007
【図２】
2009545807.tif 000008
【図３ａ】
2009545807.tif 000009
【図３ｂ】
2009545807.tif 000010
【図４】
2009545807.tif 000011
【図５】
2009545807.tif 000012
【図６】
2009545807.tif 000013
【図７ａ】
2009545807.tif 000014
【図７ｂ】
2009545807.tif 000015
【図７ｃ】
2009545807.tif 000016
【図８】
2009545807.tif 000017
【図９】
2009545807.tif 000018
【図１０】
2009545807.tif 000019
【国際調査報告】
2009545807.tif 000020
2009545807.tif 000021