(57)【要約】【課題】  名前付きエンティティ認識を機能強化するユーザモデル化のシステムおよび方法を提供すること。【解決手段】  本発明では、ユーザモデル化を使用してユーザの挙動パターンをモデル化する。次いで、ユーザの挙動パターンを使って、名前付きエンティティ（ＮＥ）の認識に影響を与える。【選択図】  図４
2004355003.tif 000002
【特許請求の範囲】
【請求項１】
名前付きエンティティ（ＮＥ）リストジェネレータであって、
複数の異なるソースから情報を受け取り、前記情報内のＮＥを識別するように構成されたＮＥ識別子であって、前記情報の少なくとも一部が、ユーザの特定のグループに対応する、ＮＥ識別子と、
関連する確率と共にグループ固有ＮＥリストを入手するために、前記識別されたＮＥに関連する確率を計算するアナライザと
を含むことを特徴とするＮＥリストジェネレータ。
【請求項２】
前記ユーザの前記特定のグループは、単一の特定のユーザを含むことを特徴とする請求項１に記載のＮＥリストジェネレータ。
【請求項３】
センサが、トリガ入力に基づいて前記情報内のＮＥを識別するように構成されていることを特徴とする請求項１に記載のＮＥリストジェネレータ。
【請求項４】
前記複数の異なるソースの少なくとも１つは、アプリケーションプログラムを含むことを特徴とする請求項３に記載のＮＥリストジェネレータ。
【請求項５】
前記トリガ入力は、
前記アプリケーションプログラムによって生成されるアプリケーション生成トリガ入力
を含むことを特徴とする請求項４に記載のＮＥリストジェネレータ。
【請求項６】
前記アプリケーションは、電子メールアプリケーションを含み、前記アプリケーション生成トリガは、送信イベントまたは受信イベントを含むことを特徴とする請求項５に記載のＮＥリストジェネレータ。
【請求項７】
前記トリガ入力は、ユーザ生成トリガ入力を含むことを特徴とする請求項３に記載のＮＥリストジェネレータ。
【請求項８】
前記複数の異なる入力の少なくとも１つは、ワードプロセッシングアプリケーションを含み、前記ユーザ生成トリガ入力は、文書保存入力を含むことを特徴とする請求項７に記載のＮＥリストジェネレータ。
【請求項９】
前記ソースの少なくとも１つは、音声認識エンジンを含むことを特徴とする請求項３に記載のＮＥリストジェネレータ。
【請求項１０】
前記トリガ入力は、前記音声認識エンジンからの認識結果表示を含むことを特徴とする請求項９に記載のＮＥリストジェネレータ。
【請求項１１】
前記トリガ入力は、所望の時間枠が経過したことを示すタイマ入力を含むことを特徴とする請求項３に記載のＮＥリストジェネレータ。
【請求項１２】
前記トリガ入力は、前記ＮＥ識別子によって処理するために収集された情報の量に基づくことを特徴とする請求項３に記載のＮＥリストジェネレータ。
【請求項１３】
前記アナライザは、前記情報の前記ソースに基づいて情報に重みをつけることによって前記確率を計算するように構成されていることを特徴とする請求項１に記載のＮＥリストジェネレータ。
【請求項１４】
前記情報の前記複数のソースの第１は、ユーザの前記特定のグループに密に関連する密接関連情報を提供し、前記情報の前記複数のソースの第２は、ユーザの前記特定のグループに前記密接関連情報よりも緩く関連する緩い関連情報を提供することを特徴とする請求項１３に記載のＮＥリストジェネレータ。
【請求項１５】
前記アナライザは、前記確率を計算する際に、前記緩い関連情報よりも大きい重み付けを前記密接関連情報にするように構成されていることを特徴とする請求項１４に記載のＮＥリストジェネレータ。
【請求項１６】
前記ＮＥリストおよび確率は、複数の異なるシステムコンポーネントへの統合のために構成され、前記アナライザは、前記ＮＥリストおよび確率が統合されるシステムコンポーネントに基づいて前記確率を計算することを特徴とする請求項１に記載のＮＥリストジェネレータ。
【請求項１７】
前記アナライザは、前記ＮＥリストおよび確率から確率文脈自由文法を生成するように構成されていることを特徴とする請求項１に記載のＮＥリストジェネレータ。
【請求項１８】
前記アナライザは、前記識別されたＮＥをグループにクラスタ化するように構成されていることを特徴とする請求項１に記載のＮＥリストジェネレータ。
【請求項１９】
前記アナライザは、前記ＮＥおよび確率からクラスベース言語モデルを生成するように構成され、前記グループのそれぞれは、前記クラスベース言語モデルの意味体系クラスに対応することを特徴とする請求項１８に記載のＮＥリストジェネレータ。
【請求項２０】
前記アナライザは、前記ＮＥおよび確率に基づいて音声認識エンジンの語彙を生成するように構成されていることを特徴とする請求項１に記載のＮＥリストジェネレータ。
【請求項２１】
前記アナライザは、前記ＮＥリストおよび確率をコントロールにリンクするように構成されていることを特徴とする請求項１に記載のＮＥリストジェネレータ。
【請求項２２】
名前付きエンティティ（ＮＥ）モデルを生成する方法であって、
特定のユーザの使用パターンを表す情報をソースから受け取ること、および、
受け取られた前記情報に基づいてユーザ固有ＮＥモデルを生成すること
を含むことを特徴とする方法。
【請求項２３】
前記情報を受け取ることは、
複数の異なるソースから情報を受け取ること
を含むことを特徴とする請求項２２に記載の方法。
【請求項２４】
前記ユーザ固有ＮＥモデルを生成することは、
受け取られた前記情報内のＮＥを識別すること、および、
受け取られた前記情報に基づいて各ＮＥに関連する確率を計算すること
を含むことを特徴とする請求項２３に記載の方法。
【請求項２５】
前記確率を計算することは、
前記情報がそこから受け取られた前記ソースに基づいて異なる形で、受け取られた前記情報に重み付けをすることによって前記確率を計算すること
を含むことを特徴とする請求項２４に記載の方法。
【請求項２６】
前記ユーザ固有ＮＥモデルを生成することは、
識別されたＮＥを１つまたは複数のクラスタにクラスタ化すること
を含むことを特徴とする請求項２４に記載の方法。
【請求項２７】
前記クラスタ化することは、
前記ＮＥを、前記ＮＥがそこから識別されたソースに基づいて、クラスタに置くこと
を含むことを特徴とする請求項２６に記載の方法。
【請求項２８】
前記ユーザ固有ＮＥモデルを生成することは、
確率文脈自由文法を生成すること
を含むことを特徴とする請求項２２に記載の方法。
【請求項２９】
前記ユーザ固有ＮＥモデルを生成することは、
クラスベース言語モデルを生成すること
を含むことを特徴とする請求項２２に記載の方法。
【請求項３０】
前記ユーザ固有ＮＥモデルを生成することは、
音声認識エンジンで使用される語彙を生成すること
を含むことを特徴とする請求項２２に記載の方法。
【請求項３１】
前記ユーザ固有ＮＥモデルを生成することは、
前記ユーザ固有ＮＥモデルをコントロールにリンクすること
を含むことを特徴とする請求項２２に記載の方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、名前付きエンティティ（ｎａｍｅｄ  ｅｎｔｉｔｙ）の認識に関する。より詳細には、本発明は、名前付きエンティティの認識を機能強化するためのユーザパターンのモデル化に関する。
【背景技術】
【０００２】
名前付きエンティティ（ＮＥ）は、正式名称（固有名称、本名）、会社名、電子メールアドレス、場所など、アプリケーションによって１単位として扱われる特定の言語学的項目である。名前付きエンティティリコグナイザ（ｒｅｃｏｇｎｉｚｅｒ：認識装置、認識プログラム）は周知であり、名前付きエンティティ処理が言語分析の重要なステージであることが知られている。
【０００３】
ＮＥ認識は、現在、複数の方法で行われている。ＮＥ認識に関する一部の手法では、ＮＥが、都市名、国名、姓、会社名、製品名のような固定されたことばなど、固定的（または静的）であるときリストルックアップが使用される。他の手法では、ＮＥを認識するために構文情報を語彙（用語集）またはリストルックアップと組み合わせることができる正規表現および文法規則が使用される。最も一般的な手法では、トレーニングデータから直接に有限状態リコグナイザが構築される。
【０００４】
個人情報管理（ＰＩＭ）は、引き続き自動音声認識の重要な応用領域である。ＰＩＭシステムでは、ＮＥ認識が重要なタスクである。たとえば、音声対応電子メールプログラムは、ＮＥ認識に頼る。このアプリケーションでの処理は、電子メール受取人などの多数のＮＥの認識を必要とする。同様に、一部のＰＩＭに、電話の音声ダイヤリング、スケジューリングなど、やはりＮＥ認識を必要とする処理が伴う。
【発明の開示】
【発明が解決しようとする課題】
【０００５】
ＮＥ認識によって、一般におよび音声認識エンジンの領域で、多数の問題が提示される。第１に、ＮＥユーザは、非常に多数の名前またはＮＥを構成する他のことばへのアクセスを有する場合がある。たとえば、所与の会社またはコミュニティに多数の別個の正式名称（固有名称）がある場合がある。これは、非常に大きい問題につながり、これがＮＥ認識タスクの高いエラーレートにつながる。
【０００６】
もう１つの難点に、名前が標準辞書に含まれないことが含まれる。世界中のすべての名前、またはすべての英語の発音の名前を含む辞書を作成することは、極端に困難である。そのような辞書が存在するとしても、それに含まれる膨大な数の可能な発音のゆえに、そのような辞書によって、認識精度がかなり低下する。
【０００７】
ＮＥ認識で提示されるもう１つの難点は、単一の人を参照する多数の異なる形がありえることである。たとえば、異なる人が、同一の人を異なる形で参照する。ある人を姓で呼ぶ人がおり、姓名の両方で呼ぶ人がおり、名とイニシャルまたはあだ名など、異なる形で呼ぶ人がいる場合がある。さらに、単一の人が、他の人を複数の異なる形で呼ぶ場合がある。たとえば、ある人が、隣人または同僚の名を使って参照し、別の隣人または同僚を姓を使って参照する場合がある。
【０００８】
ＮＥ認識によって提示されるもう１つの難点が、名だけが使用される時の曖昧さである。一般的な名が多数あり、ＮＥリコグナイザ（自動音声認識システムなど）が、名を形成する単語を正しく認識する場合であっても、ユーザは依然としていらいらする可能性がある。たとえば、ユーザが、単語「Ｄａｖｉｄ」を話す場合に、自動音声認識システムによって、ＮＥとして単語「Ｄａｖｉｄ」が正確に認識される場合がある。しかし、大会社には、名「Ｄａｖｉｄ」を有する人が多数いる可能性があり、ユーザが、リコグナイザによって提示される「Ｄａｖｉｄ」のリスト（おそらくは姓のアルファベット順）から適切な人を探す必要が生じる場合がある。
【課題を解決するための手段】
【０００９】
本発明では、ユーザモデル化を使用してユーザの挙動パターンをモデル化する。次いで、ユーザの挙動パターンを使って、名前付きエンティティ（ＮＥ）認識に影響を与える。
【００１０】
一実施形態では、ユーザモデル化が、アプリケーションにまたがって実行される。その実施形態では、ユーザから生成されるか何らかの形でユーザに関連するデータが、さまざまなソースから入手される。このソースには、音声認識システム、アプリケーション、および他のソースを含めることができる。名前付きエンティティが、データ内で識別され、識別された名前付きエンティティごとに確率が計算される。生成される確率は、後続の名前付きエンティティ認識に影響を与えるのに使用される。
【００１１】
一実施形態では、名前付きエンティティは、さまざまな異なるトリガの１つに基づいて、間欠的に、収集されたデータ内で識別される。トリガに、ユーザアクション、アプリケーションアクション、タイマ、収集されたデータの量、または別のトリガを含めることができる。
【００１２】
一実施形態では、名前付きエンティティに関連する確率は、コンテキストおよびデータが作成された時刻に基づいて変化する。もう１つの実施形態で、収集されたデータに、データのソースに基づいて重みがつけられる。
【００１３】
もう１つの実施形態では、名前付きエンティティが、確率文脈自由文法（ｐｒｏｂａｂｉｌｉｓｔｉｃ  ｃｏｎｔｅｘｔ  ｆｒｅｅ  ｇｒａｍｍａｒ）などの文法でまとめられる。名前付きエンティティは、口述言語モデル（ｄｉｃｔａｔｉｏｎ  ｌａｎｇｕａｇｅ  ｍｏｄｅｌ）などの言語モデルでまとめられることができ、確率自由文法の代わりに言語モデルでまとめられることができ、あるいは、ユーザ語彙に追加することができる。さらに、名前付きエンティティを、ドロップダウンリスト（または、学習された確率によってソートされたオートコンプリートリストを提供する他のコントロール）の一部としてテキストボックスにリンクするか、コマンドの一部としてのコマンドアンドコントロールなど、他の形でまとめることができる。
【発明を実施するための最良の形態】
【００１４】
本発明は、ユーザモデル化を使用して名前付きエンティティ（ＮＥ）リスト（またはＮＥモデル）を生成するシステムに関する。本発明は、ＮＥモデルを統合し、使用するシステムにも関する。しかし、本発明を詳細に説明する前に、本発明を使用できる例示的な環境の１つを説明する。
【００１５】
図１に、本発明を使用することができる適切なコンピューティングシステム環境１００の例を示す。コンピューティングシステム環境１００は、適切なコンピューティング環境の１つの例にすぎず、本発明の使用または機能の範囲に関する制限を暗示することを意図されたものではない。コンピューティング環境１００を、例示的なオペレーティング環境１００に示された構成要素のいずれかまたはその組合せに関する依存性または要件を有するものと解釈してもならない。
【００１６】
本発明は、多数の他の汎用または特殊目的のコンピューティングシステム環境またはコンピューティング構成と共に動作する。本発明と共に使用するのに適切である可能性がある周知のコンピューティングシステム、コンピューティング環境、および／またはコンピューティング構成の例に、パーソナルコンピュータ、サーバコンピュータ、ハンドヘルドデバイス、ラップトップデバイス、マルチプロセッサシステム、マイクロプロセッサベースのシステム、セットトップボックス、プログラマブル家電製品、ネットワークＰＣ、ミニコンピュータ、メインフレームコンピュータ、上記のシステムまたはデバイスのいずれかを含む分散コンピューティング環境、および類似物が含まれるが、これに制限はされない。
【００１７】
本発明を、プログラムモジュールなど、コンピュータによって実行されるコンピュータ実行可能命令の一般的な文脈で説明することができる。一般に、プログラムモジュールには、特定のタスクを実行するか特定の抽象データ型を実装する、ルーチン、プログラム、オブジェクト、コンポーネント、データ構造などが含まれる。本発明を、通信ネットワークを介してリンクされたリモート処理デバイスによってタスクが実行される分散コンピューティング環境で実践することもできる。分散コンピューティング環境では、プログラムモジュールを、メモリストレージデバイスを含む、ローカルおよびリモートの両方のコンピュータ記憶媒体に配置することができる。
【００１８】
図１に関して、本発明を実施する例示的なシステムに、コンピュータ１１０の形の汎用コンピューティングデバイスが含まれる。コンピュータ１１０の構成要素に、処理ユニット１２０、システムメモリ１３０、およびシステムメモリを含むさまざまなシステム構成要素を処理ユニット１２０に結合するシステムバス１２１が含まれる。システムバス１２１は、メモリバスまたはメモリコントローラ、周辺バス、およびさまざまなバスアーキテクチャのいずれかを使用するローカルバスを含む、いくつかのタイプのバス構造のいずれかとすることができる。制限ではなく例として、そのようなアーキテクチャに、Ｉｎｄｕｓｔｒｙ  Ｓｔａｎｄａｒｄ  Ａｒｃｈｉｔｅｃｔｕｒｅ（ＩＳＡ）バス、マイクロチャネルアーキテクチャ（ＭＣＡ）バス、Ｅｎｈａｎｃｅｄ  ＩＳＡ（ＥＩＳＡ）バス、Ｖｉｄｅｏ  Ｅｌｅｃｔｒｏｎｉｃｓ  Ｓｔａｎｄａｒｄｓ  Ａｓｓｏｃｉａｔｉｏｎ（ＶＥＳＡ）ローカルバス、およびＭｅｚｚａｎｉｎｅ（メザニン）バスとも称するＰｅｒｉｐｈｅｒａｌ  Ｃｏｍｐｏｎｅｎｔ  Ｉｎｔｅｒｃｏｎｎｅｃｔ（ＰＣＩ）バスが含まれる。
【００１９】
コンピュータ１１０に、通常は、さまざまなコンピュータ可読媒体が含まれる。コンピュータ可読媒体は、コンピュータ１１０によってアクセスできる任意の使用可能な媒体とすることができ、コンピュータ可読媒体には、揮発性媒体および不揮発性媒体と、取外し可能媒体および取外し不能媒体の両方が含まれる。制限ではなく例として、コンピュータ可読媒体に、コンピュータ記憶媒体および通信媒体を含めることができる。コンピュータ機構媒体には、コンピュータ可読命令、データ構造、プログラムモジュール、または他のデータなどの情報の格納のまめの任意の方法または技術で実施された、揮発性および不揮発性、取外し可能および取外し不能の両方の媒体が含まれる。コンピュータ記憶媒体には、ＲＡＭ、ＲＯＭ、ＥＥＰＲＯＭ、フラッシュメモリ、または他のメモリテクノロジ、ＣＤ−ＲＯＭ、デジタル多用途ディスク（ＤＶＤ）、または他の光学ディスクストレージ、磁気カセット、磁気テープ、磁気ディスクストレージ、または他の磁気ストレージデバイス、あるいは、所望の情報を記憶するのに使用でき、コンピュータ１１０によってアクセスできる他の媒体が含まれるが、これに制限はされない。
【００２０】
通信媒体は、通常、搬送波または他の移送機構などの変調されたデータ信号によってコンピュータ可読命令、データ構造、プログラムモジュール、または他のデータを具現化し、通信媒体には、すべての情報配布媒体が含まれる。用語「変調されたデータ信号」は、信号内で情報をエンコードするように特性の１つまたは複数が設定または変更された信号を意味する。制限ではなく例として、通信媒体に、有線ネットワークまたは直接配線ネットワークなどの有線媒体と、音響、ＲＦ、赤外線、および他の無線媒体などの無線媒体が含まれる。上記のいずれかの組合せも、コンピュータ可読媒体の範囲に含まれなければならない。
【００２１】
システムメモリ１３０には、読取専用メモリ（ＲＯＭ）１３１およびランダムアクセスメモリ（ＲＡＭ）１３２などの揮発性メモリおよび／または不揮発性メモリの形のコンピュータ記憶媒体が含まれる。起動中などにコンピュータ１１０内の要素の間で情報を転送するのを助ける基本ルーチンを含む基本入出力システム１３３（ＢＩＯＳ）が、通常はＲＯＭ１３１に記憶される。ＲＡＭ１３２には、通常は、処理ユニット１２０から直接にアクセス可能なかつ／または処理ユニット１２０によって現在操作されつつあるデータおよび／またはプログラムモジュールが含まれる。制限ではなく例として、図１に、オペレーティングシステム１３４、アプリケーションプログラム１３５、他のプログラムモジュール１３６、およびプログラムデータ１３７を示す。
【００２２】
コンピュータ１１０には、他の取外し可能／取外し不能揮発性／不揮発性コンピュータ記憶媒体も含まれる。例のみとして、図１に、取外し不能不揮発性磁気媒体から読み取るかこれに書き込むハードディスクドライブ１４１、取外し可能不揮発性磁気ディスク１５２から読み取るかこれに書き込む磁気ディスクドライブ１５１、および、ＣＤ  ＲＯＭまたは他の光学媒体などの取外し可能不揮発性光ディスク１５６から読み取るかこれに書き込む光ディスクドライブ１５５を示す。例示的なオペレーティング環境で使用することができる他の取外し可能／取外し不能揮発性／不揮発性コンピュータ記憶媒体に、磁気テープカセット、フラッシュメモリカード、デジタル多用途ディスク、デジタルビデオテープ、ソリッドステートＲＡＭ、ソリッドステートＲＯＭ、および類似物が含まれるが、これに制限はされない。ハードディスクドライブ１４１は、通常は、インターフェース１４０などの取外し不能メモリインターフェースを介してシステムバス１２１に接続され、磁気ディスクドライブ１５１および光ディスクドライブ１５５は、通常は、インターフェース１５０などの取外し可能メモリインターフェースによってシステムバス１２１に接続される。
【００２３】
上記で論じ、図１に示したドライブおよびそれに関連するコンピュータ記憶媒体によって、コンピュータ１１０のコンピュータ可読命令、データ構造、プログラムモジュール、および他のデータのストレージが提供される。図１では、たとえば、ハードディスクドライブ１４１が、オペレーティングシステム１４４、アプリケーションプログラム１４５、他のプログラムモジュール１４６、およびプログラムデータ１４７を記憶するものとして図示されている。これらのコンポーネントを、オペレーティングシステム１３４、アプリケーションプログラム１３５、他のプログラムモジュール１３６、およびプログラムデータ１３７と同一または異なるもののいずれかとすることができることに留意されたい。オペレーティングシステム１４４、アプリケーションプログラム１４５、他のプログラムモジュール１４６、およびプログラムデータ１４７は、これらが、少なくとも異なるコピーであることを示すために、この図で異なる符号を与えられている。
【００２４】
ユーザは、キーボード１６２、マイクロホン１６３、およびマウス、トラックボール、またはタッチパッドなどのポインティングデバイス１６１などの入力デバイスを介してコンピュータ１１０にコマンドおよび情報を入力することができる。他の入力デバイス（図示せず）に、ジョイスティック、ゲームパッド、衛星パラボラアンテナ、スキャナ、または類似物を含めることができる。上記および他の入力デバイスは、しばしば、システムバスに結合されたユーザ入力インターフェース１６０を介して処理ユニット１２０に接続されるが、パラレルポート、ゲームポート、またはｕｎｉｖｅｒｓａｌ  ｓｅｒｉａｌ  ｂｕｓ（ＵＳＢ）などの他のインターフェースおよびバス構造によって接続することができる。モニタ１９１または他のディスプレイデバイスも、ビデオインターフェース１９０などのインターフェースを介してシステムバス１２１に接続される。モニタのほかに、コンピュータに、出力周辺インターフェース１９５を介して接続することができる、スピーカ１９７およびプリンタ１９６などの他の周辺出力デバイスも含めることができる。
【００２５】
コンピュータ１１０は、リモートコンピュータ１８０などの１つまたは複数のリモートコンピュータへの論理接続を使用して、ネットワーク化された環境で動作することができる。リモートコンピュータ１８０は、パーソナルコンピュータ、ハンドヘルドデバイス、サーバ、ルータ、ネットワークＰＣ、ピアデバイス、または他の一般的なネットワークノードとすることができ、リモートコンピュータ１８０には、通常は、上記でコンピュータ１１０に関して説明した要素の多数またはすべてが含まれる。図１に示された論理接続に、ローカルエリアネットワーク（ＬＡＮ）１７１、およびワイドエリアネットワーク（ＷＡＮ）１７３が含まれるが、他のネットワークも含めることができる。そのようなネットワーキング環境は、オフィス、企業全体のコンピュータネットワーク、イントラネット、およびインターネットでありふれたものである。
【００２６】
ＬＡＮネットワーキング環境で使用される時に、コンピュータ１１０は、ネットワークインターフェースまたはネットワークアダプタ１７０を介してＬＡＮ１７１に接続される。ＷＡＮネットワーキング環境で使用される時に、コンピュータ１１０に、インターネットなどのＷＡＮ１７３を介する通信を確立する、モデム１７２または他の手段が含まれる。モデム１７２は、内蔵または外付けとすることができるが、ユーザ入力インターフェース１６０または他の適切なメカニズムを介してシステムバス１２１に接続される。ネットワーク化された接続環境では、コンピュータ１１０に関して図示されたプログラムモジュールまたはその一部を、リモートメモリストレージデバイスに記憶することができる。制限ではなく例として、図１に、リモートコンピュータ１８０に常駐するリモートアプリケーションプログラム１８５を示す。図示のネットワーク接続は例示的なものであり、コンピュータの間で通信リンクを確立する他の手段を使用できることを理解されたい。
【００２７】
本発明を、図１に関して説明したものなどのコンピュータシステムで実行できることに留意されたい。しかし、本発明は、サーバ、メッセージ処理専用のコンピュータ、あるいは、本発明の異なる部分が分散コンピューティングシステムの異なる部分で実行される分散システムで実行することができる。
【００２８】
図２は、名前付きエンティティ（ＮＥ）リストまたはＮＥモデル２０２を生成するシステム２００を示すブロック図である。システム２００には、イベントトリガ２０６、ユーザトリガ２０８、タイマ２１０、または他のトリガ２１２などのさまざまな異なる任意選択のトリガの１つによってトリガされるセンサ２０４が含まれる。システム２００には、ロガー（logger；自動記録器）２１４、アナライザ２１６、および任意選択のバッファ２１８も含まれる。センサ２０４、ロガー２１４、およびアナライザ２１６が、別々に図示されているが、一体化することができ、いくつかの実施形態では省略できることに留意されたい。図２には、たとえば、アプリケーション２２０、音声認識エンジン２２２、またはＮＥの他のソース２２４などのさまざまなソースからデータを収集できることも示されている。
【００２９】
図３は、図２に示されたシステム２００の動作の一実施形態を示す流れ図である。図からわかるように、システム２００によって、ユーザの使用パターンがモデル化されて、ＮＥが識別され、ＮＥのそれぞれに関連する確率（probability）が計算される。このＮＥリストおよび関連する確率（またはＮＥモデル）２０２を、その後、異なるアプリケーションにまたがって、または異なるコンテキストでＮＥ認識に使用することができる。
【００３０】
ＮＥモデル２０２を生成するために、特定のユーザの使用パターンを表すデータを収集する。これが、図３ではブロック２３０によって示される。図２に、ソースに、ワード文書、電子メールアプリケーションなどのアプリケーション２２０、電子メールアプリケーション、スケジューリングアプリケーション、連絡先リストなどのさまざまなフィールド(filed;欄、項目)（「ｔｏ」フィールド、「ｃｃ」フィールド、「ｆｒｏｍ」フィールドなど）からのメタデータ（metadata）または情報を含めることができることが示されている。また、アプリケーション２２０を、地図作成アプリケーションまたは地理アプリケーションとすることができ、この場合に、都市名、州名、および他の場所の名前を、アプリケーションから収集することができる。
【００３１】
同様に、図２に、ユーザによって使用されるシステムに音声認識エンジン２２２が含まれる場合に、ユーザの使用パターンを示す収集されるデータのソースの１つを、音声認識エンジン２２２とすることができることが示されている。認識結果を表すデータを、音声対応のアプリケーション２２０を介してまたは音声認識エンジン２２２から直接にセンサ２０４に供給することができる。
【００３２】
他のＮＥソース２２４によって、ユーザの使用パターンを表すデータをセンサ２０４に供給することもできる。もちろん、データを、ソース２２０、２２２、および２２４から直接にセンサ２０４に供給することができ、あるいは、任意選択のバッファ２１８にバッファリングすることができる。
【００３３】
例示的実施形態の１つでは、ＮＥのソース２２０、２２２、および２２４のすべてによって、モデル化される特定のユーザに関連するＮＥが供給される。たとえば、電子メールアプリケーションの「ｔｏ」フィールド、「ｃｃ」フィールド、および「ｆｒｏｍ」フィールドで識別される電子メール受取人は、ユーザによって生成または受信された電子メールからの電子メール受取人である可能性がある。さらに、ユーザの連絡先リストまたは他の類似するタイプの、ユーザがしばしば連絡する人を識別するデータベースも、ＮＥのソースとして使用することができる。同様に、全社的な人名簿も使用することができる。多くの会社で、人名簿が、電子形式であり、作業グループ、部署、あるいは他の会社の単位(unit；部、課、係など)または作業単位によって配置されている。その場合に、ユーザと同一の単位に含まれる名前を、ユーザに密接に関連するＮＥのソースとして使用することができる。さらに、ＮＥソースが、地図作成アプリケーションである場合に、ユーザによって選択されたか「チェックオン」された場所を、ユーザに密接に関連する情報として使用することができる。また、ユーザの場所に非常に近い場所も使用することができ、あるいは、全世界測位システム（ＧＰＳ）などの位置決めシステムによって提供される場所も、使用することができる。
【００３４】
特定のユーザに緊密に関連するＮＥのソースのほかに、それほどユーザに緊密には関連しないＮＥの他のソースも、使用することができる。たとえば、会社全体のアドレス帳のすべての名前を、使用することができる。同様に、地図作成アプリケーションからの人気のある場所または有名な場所を、それが特定のユーザに緊密に関連しない場合であっても、使用することができる。さらに、ユーザに緊密には関連しない情報がＮＥのソースとして含まれる場合に、その情報に、ユーザに緊密に関連する情報より少ない重みをつけることができる。たとえば、会社全体のアドレス帳が、ＮＥのソースとして使用される場合に、アドレス帳の他のすべての名前に、特定のユーザの作業グループの名前またはユーザの電子メールアプリケーションなどの別の緊密に関連するソースから導出された名前より少ない重みを与えることができる。同様に、人気のある場所または有名な場所が、地図作成アプリケーションからのＮＥのソースとして使用される場合に、これらに、ユーザが地図作成アプリケーションで実際に選択したか「クリックオン」した場所より少ない重みをつけることができる。したがって、本発明は、特定のユーザに緊密に関連するＮＥのソースだけに制限はされない。
【００３５】
他のＮＥソースも使用することができる。一部のワードプロセッサまたはオペレーティングシステムで、頻繁に使用されるアイテム（文書など）のリストである「頻繁に使用されるリスト（Ｆｒｅｑｕｅｎｔｌｙ  Ｕｓｅｄ  Ｌｉｓｔ）」が維持される。ブラウザなどの他のシステムで、最も最近に使用されたアイテム（最も最近に訪問したサイトなど）をリストする「履歴リスト」が維持される。これらのソースから入手されるＮＥを、例として、ドキュメント、ウェブアドレス、プロジェクト名、ユーザ名などの名前とすることができる。
【００３６】
もちろん、本明細書で言及するＮＥが、固有名称に制限されるのではなく、人、場所などの他の参照も含めることができることを理解されたい。たとえば、名前付きエンティティを、「私の上司」、または「ジョーの上司」として識別することができる。名前付きエンティティを、「私の直接のレポート」などとして識別することもできる。
【００３７】
どの場合でも、ユーザの使用パターンを反映する情報を収集したならば、センサ２０４によって、収集された情報を処理してその中のＮＥを識別する時が来たことを示すセンサトリガ入力が受け取られる。これが、図３ではブロック２３２によって示されている。図２に、収集されたデータ内のＮＥを識別するためにセンサ２０４をトリガするのに使用することができるさまざまなトリガリング機構があることが示されている。たとえば、イベントトリガ２０６を、アプリケーションのイベントに基づいてセンサ２０４をトリガする、アプリケーション生成のトリガとすることができる。たとえば、電子メールアプリケーションでは、送信と受信の両方を、ＮＥを識別するための収集されたデータを介する検索のためにセンサ２０４をトリガするイベントとすることができる。もちろん、イベントトリガ２０６に、電源投入、電源切断、オペレーティングシステムイベントなどのさまざまな他のイベントのどれでも含めることができる。
【００３８】
トリガに、ユーザ生成トリガ２０８も含めることができる。ユーザ生成トリガ２０８の例の１つが、ユーザが、ワードプロセッシングアプリケーションで文書を保存することである。ユーザが、保存動作を開始したならば、その文書がセンサ２０４に供給され（任意選択としてバッファ２１８を介して）、センサ２０４によって、文書（および他の収集された情報）が処理され、その中のＮＥが識別される。
【００３９】
もう１つのトリガに、タイマ２１０を含めることができる。その実施形態では、センサ２０４による収集されたデータの処理が終わるたびに、タイマが単純にリセットされる。タイマ２１０が経過した時に、センサ２０４がトリガされて、収集されたデータに含まれるＮＥが検査される。
【００４０】
他のトリガ２１２を使用して、センサ２０４をトリガすることができる。たとえば、音声認識エンジン２２２が使用される場合に、例として、音声認識エンジン２２２によって、認識結果を得たことの表示を出力する。この表示は、センサ２０４に対するトリガとして働くことができ、これによって、認識結果を処理して、その中のＮＥを識別することができる。
【００４１】
他のトリガ２１２に、さまざまな追加のトリガを含めることができる。たとえば、バッファ２１８に収集されたデータの量を、単純にその量によって監視することができる。十分な量のデータが収集された時に、これを使用してセンサ２０４をトリガして、ＮＥを識別するために収集されたデータを処理することができる。
【００４２】
もちろん、トリガ２０６〜２１２のいずれかを単独で、あるいは他のトリガまたは追加トリガのいずれかまたはすべてと組み合わせて使用することができることにも留意されたい。
【００４３】
センサ２０４がトリガされたならば、センサ２０４によって、ソース２２０、２２２、および２２４から収集されたデータが処理され、そのデータ内のＮＥが識別される。これは、図３ではブロック２３４によって示されている。ＮＥの識別は、さまざまな既知の形のいずれかで行うことができ、センサ２０４によってＮＥが識別される特定の方法は、本発明の一部を形成しない。たとえば、一部のシステムでは、検討中のテキストに対する言語分析を実行することによってＮＥを識別する。言語分析は、ＮＥを指定する判断基準を定義するアルゴリズムによって提供される。
【００４４】
どの場合でも、センサ２０４によってＮＥが識別されたならば、そのＮＥが、ロガー２１４に供給される。ロガー２１４によって、アナライザ２１６によるさらなる分析のために、ＮＥが前処理され、任意選択として記憶される。一実施形態では、ロガー２１４によって、ＮＥの単語をその基準形に変換することによるなど、さらなる分析のためにＮＥが正規化される。ロガー２１４によって、アナライザ２１６によって検索されるまで、正規化されたＮＥを記憶することができる。その実施形態では、ロガー２１４によって、ＸＭＬ（拡張マークアップ言語）ファイルまたは他の形式など、任意の適切な形式でＮＥを記憶することができる。代替案では、ロガー２１４によって、即座の分析のために、正規化されたＮＥがアナライザ２１６に供給される。
【００４５】
アナライザ２１６によって、ロガー２１４によって供給された正規化されたＮＥが分析され、ＮＥリスト（またはＮＥモデル）２０２が、作成または更新される。ＮＥモデル２０２は、アプリケーション２２０、音声認識エンジン２２２、他のソース２２４、またはユーザによって使用されるシステムの他のコンポーネントなどを利用することを望むシステムの他コンポーネントから使用可能になる。ＮＥを分析して新しいＮＥリストを入手することが、図３ではブロック２３８によって示されている。新しいまたは更新されたＮＥリスト２０２をシステムの他のコンポーネントから使用可能にすることが、ブロック２４０によって示されている。
【００４６】
ＮＥの分析を詳細に説明する前に、ＮＥモデル２０２を、オフラインで、オンラインで、またはその両方で生成できることに留意されたい。たとえば、一実施形態で、ＮＥモデル２０２を当初に作成し、その後、オフラインで最適化することができる。その実施形態では、初期モデルが、オフライン環境で使用可能なソース２２０〜２２４からの情報を処理することによって、オフラインで構築される。そのようなソースに、たとえば、特定のユーザによって送信された過去の電子メール、ユーザの連絡先リスト、ユーザの会社職員録、ユーザによって作成された過去の文書などを含めることができる。同様に、ＮＥモデル２０２を、地図アプリケーションからの有名な場所、ユーザの近くの地理的領域などの他のソースからの情報を用いて初期化することができる。
【００４７】
初期モデル２０２が、オフラインで生成または適合される場合であっても、その初期モデル２０２を、オンライン環境で生成または適合することもできる。これは、図２および３に関して説明したように実行することができる。言い換えると、リアルタイムトリガが設けられ、したがって、センシング、ロギング、および分析を、システムの動作と同期して行うことができる。
【００４８】
アナライザ２１６によって実行されるＮＥの分析を、図４に関して詳細に説明する。図４に、ＮＥを分析する複数の異なる実施形態を示す流れ図を示す。一実施形態で、ロガー２１４によって供給される正規化されたＮＥが、まず、アナライザ２１６によって、複数の異なるカテゴリにクラスタ化される。これが、図４ではブロック２４２によって示されている。
【００４９】
典型的なカテゴリに、人カテゴリおよび場所カテゴリが含まれる。人カテゴリには、たとえば、人の正式名称（本名）だけではなく、「私の上司」などの、人への副参照も含めることができる。場所カテゴリには、必ずしも正式名称でない、魅力的な場所および人気のある場所などの、都市、州、学校、および他の場所を含めることができる。
【００５０】
ＮＥを、それが配置されるカテゴリに基づいて、プロパティ（属性）に関連付けることもできる。たとえば、人カテゴリは、姓、名、および電子メールアドレスなどのプロパティを有することができる。場所カテゴリに、住所、地理的位置などのプロパティを含めることができる。
【００５１】
クラスタ化は、さまざまな形のいずれかで実行することができる。ＮＥをクラスタ化する典型的な形の１つが、情報がそこから抽出されたコンテキストに基づくことである。たとえば、連絡先またはメーリングリスト（mailing list；通信先名簿）からの名前を、連絡先またはメーリングリストから来たという事実に基づいて、人カテゴリに置くことができる。地図アプリケーションからの都市名を、地図アプリケーションから来たという事実に基づいて、場所カテゴリに置くことができる。たとえば、アドレス帳のアドレスフィールドから入手されたアドレスを、場所カテゴリに置くこともできる。同様に、クラスタ化は、分析される文書の言語分析に基づくものとすることができる。たとえば、テキストまたはワードプロセッシング文書を分析する場合に、言語分析によって、特定の名前付きエンティティが場所であることを示すことができる。その表示を、アナライザ２１６によって使用して、その名前付きエンティティを正しいカテゴリ（分類上の区分）にクラスタ化（クラス分け）することができる。
【００５２】
もちろん、一部の名前付きエンティティを、複数の異なるカテゴリに置くことができることにも留意されたい。たとえば、一部の名前付きエンティティが、異なる文脈で異なる意味を有することができる。単語「Ｗａｓｈｉｎｇｔｏｎ」が、たとえば地図作成アプリケーションから検索された場合に、これを場所カテゴリに置くことができる。しかし、この単語「Ｗａｓｈｉｎｇｔｏｎ」が、連絡先リストからも検索される場合に、この単語を、人カテゴリにも置くことができる。
【００５３】
ＮＥを異なるカテゴリにクラスタ化する理由の１つは、モデル２０２の動作の効率を高めるためだけではなく、異なるタイプの使用シナリオへのモデルの統合を支援するためでもある。たとえば、カテゴリは、意味体系的意味（semantic  meaning）を有する。したがって、ＮＥが存在するカテゴリを、クラスベース言語モデルのクラスとして使用することができる。同様に、カテゴリを、文脈自由文法のクラスとして使用することができる。
【００５４】
図５に、クラスタ化された後のＮＥモデル２０２の図表を示す。ＮＥが、モデル２０２内に示されたクラスタ１〜ｎにクラスタ化される。もちろん、上記で説明したように、あるＮＥを、複数の異なるクラスタにクラスタ化することもできる。
【００５５】
どの場合でも、ＮＥがカテゴリにクラスタ化されたならば、そのＮＥの確率が計算される。これは、図４ではブロック２４４によって示されている。確率は、ユーザが特定のＮＥを使用する頻度に基づくものとすることができる。しかし、確率を、他の要因にも基づくものとすることができる。たとえば、異なるＮＥは、異なるアプリケーションまたはコンテキストで使用される時に、異なる確率推定値を有することができる。たとえば、地図作成アプリケーションで、場所ＮＥの確率は、特定の場所ＮＥが現在のユーザによってアクセスされる頻度だけに基づくのではなく、一般大衆の間でのその場所の人気を示す人気測定値、およびユーザの現在の住居または住所からのその場所の距離を示す距離測定値にも基づくものとすることができる。
【００５６】
もう１つの例として、電子メールアプリケーションで使用されるＮＥは、ユーザが特定のＮＥへの電子メールを生成する頻度だけに基づくのではない確率を有することができ、この確率は、特定のＮＥが会社の組織図で特定のユーザにどれほど近いかと、どれほど最近にそのＮＥが使用されたかにも基づくものとすることができる。ＮＥがそのユーザに近いほど、確率が高くなる。
【００５７】
もちろん、これは、ＮＥモデル２０２を使用する特定のアプリケーションに基づいて、確率計算をどれほど異なるものにすることができるかの例にすぎない。
【００５８】
さらに、ＮＥの確率を計算するために、アナライザ２１６によって、異なるソースからの情報に異なる重みをつけることができる。たとえば、上記で簡単に説明したように、さまざまなＮＥのソースから抽出されたＮＥの確率を計算する時に、その情報に、特定のユーザへの近さに基づいて重みをつけることができる。１特定の例として、確率の計算に使用されるＮＥが、電子メールアプリケーションから抽出される場合に、ユーザが過去に電子メールを送信した相手の名前だけを含む名前のユーザ固有の短いリストにある名前に、最大の重みをつけることができる。ユーザに送信された電子メールまたはユーザの作業グループの名簿にある関連する名前から抽出されたＮＥに、２番目に大きい重みをつけることができる。会社全体のアドレス帳から抽出されたＮＥに、最小の重みを与えることができる。
【００５９】
同様に、重みを、特定のＮＥの分類レートに基づいて決定することができる。言い換えると、ＮＥが、ユーザのＮＥの短いリストから生成された電子メール受取人文法（recipient  grammar）に分類される場合に、そのＮＥに特定の重みを割り当てることができる。ユーザの作業グループリストについて生成された受取人文法に分類される場合に、そのＮＥに第２の重みを割り当てることができ、会社全体のアドレス帳について生成された受取人文法に分類される場合に、そのＮＥに第３の重みを割り当てることができる。重みで、下限として拒絶閾値(rejection  threshold)を使用することができ、語彙外のＮＥに、ある推定確率を与えて、未知のトレーニングデータに対処することができる。
【００６０】
具体的な例が有用であろう。通常の音声認識エンジンによって、下記の判断基準に基づいて音声が認識されると仮定する。
【００６１】
【数１】
2004355003.tif 000003
【００６２】
ここで、Ａは、受け取られた音響特徴表現であり、ｗは、候補単語であり、Ｐ（ｗ）は、候補ｗに関する前の確率（言語モデル確率など）である。
【００６３】
本発明の一実施形態によるユーザモデル化では、ユーザの使用ヒストリ（履歴）に基づいて前の確率が推定され、したがって、難問が減り、認識精度が高まる。以下の説明は、電子メール受取人の音声認識が、議論されるタスクである例に関する。ＮＥ認識タスクで、２つの確率すなわち、受取人の確率およびその受取人が特定の形で発声される確率を推定する。
【００６４】
受取人の確率を推定するという問題は、次のように記述することができる。時間によってタグをつけられた一連の受取人について、各受取人が次の受取人になる確率はどれほどか。一般に、受取人ｉが、日ｔに現れるかどうかを、次のように表すことができる。
【００６５】
【数２】
2004355003.tif 000004
【００６６】
ここで、ｔｉｋは、ユーザが受取人ｉに電子メールを送信することのｋ番目の発生の時刻を示し、δは、クロネッカ（Kronecker）のデルタである。受取人ｉが時刻Ｔまでに現れる回数の総数は、次のように表すことができる。
【００６７】
【数３】
2004355003.tif 000005
【００６８】
ここで、ｗ（ｔ）は、適用されるウィンドウ関数である。したがって、受取人の確率は、次のように推定することができる。
【００６９】
【数４】
2004355003.tif 000006
【００７０】
基礎になる確率過程が静的である場合には、ｗ（ｔ）は、長方形ウィンドウにならなければならず、上の推定を、次のように単純化することができる。
【００７１】
【数５】
2004355003.tif 000007
【００７２】
ここで、ｎｉは、過去に受取人ｉが現れた回数である。
【００７３】
しかし、受取人ｉが次の受取人になる確率は、ユーザの使用パターンが変化するので、経時的に変化する。さらに、変化するパターンは、異なる受取人について異なる。たとえば、ユーザがグループを変えた時に、ユーザは、前ほどには前のグループの同僚に電子メールを送信する必要がなくなる。しかし、ユーザは、仕事以外の友人または家族に、前と同様の頻度で電子メールを送り続ける可能性がある。
【００７４】
基礎になる確率過程の時間的に変化する特性を保証するために、次のように指数ウィンドウを適用する。
【００７５】
式６
ｗ（ｔ）＝ｅ−λｔ
ここで、λは、忘却因子である。忘却因子は、最近のデータが大きい重みを有するように選択される。λが大きいほど、新しいデータの重みが大きくなる。しかし、新しいデータにバイアスをかけすぎると、過適合が生じる可能性がある。したがって、例示的実施形態の１つでは、λが、次のように、ヘルドアウトセット（ｈｅｌｄ  ｏｕｔ  ｓｅｔ）のＫＬ距離を最小にするために、データのヘルドアウトセットを用いて自動的にチューニングされる、ゆっくり変化するパラメータである。
【００７６】
【数６】
2004355003.tif 000008
【００７７】
2004355003.tif 000009
【００７８】
【数７】
2004355003.tif 000010
【００７９】
この系では、例として、複数の異なる形でλをチューニングすることができる。一実施形態で、勾配降下（ｇｒａｄｉｅｎｔ  ｄｅｓｃｅｎｔ）アルゴリズムが使用され、勾配は、次のように定義される。
【００８０】
【数８】
2004355003.tif 000011
【００８１】
ここまでで、このモデルによって、ユーザが過去に実際に電子メールを送信した受取人を扱った。しかし、ユーザの連絡先リストにあるすべての人およびユーザに電子メールを送信したすべての人が、ユーザが過去にその人に一度も電子メールを送っていない場合であっても、潜在的な受取人である。これらの人について、この系によって、例として、過去のある時（たとえば、１００日前など）にユーザがその受取人に１回電子メールを送信した確率と等しいベース確率が与えられる。そのような潜在的な受取人ｒについて、確率は次のように計算される。
【００８２】
【数９】
2004355003.tif 000012
【００８３】
もう１つの実施形態によれば、学習処理中に、システム２００は、モデル化される特定のユーザによって受取人が参照される形を学習する。このシステムでは、例として、所与の受取人への参照の可能なすべての形の前の確率を提供するルールの組から開始する。システムによって、特定の形が各受取人への参照に使用される頻度が記録され、確率文脈自由文法（ＰＣＦＧ）での受取人への参照の異なる形に関連する確率が、それ相応に更新される。ＰＣＦＧは、もちろん、音声認識エンジンによってＮＥを認識するのに使用することができる。
【００８４】
もちろん、ＮＥに関連する確率の生成に関して上記で言及したアルゴリズムが、そのような確率を生成する例示的なアルゴリズムにすぎないことを理解されたい。確率は、他の所望のアルゴリズムを使用して生成することもできる。
【００８５】
ＮＥのそれぞれについて確率が計算された後に、ＮＥおよび関連する確率が、異なる使用のシナリオに統合される。新しいＮＥリストおよび関連する確率が統合される特定の使用のシナリオは、もちろん、ＮＥリスト２０２を使用するように構成される特定のアプリケーションまたは他のコンポーネントに依存する。複数の典型的な統合を、例示のみのために説明する。
【００８６】
一実施形態で、ＮＥリスト２０２および関連する確率が、確率文脈自由文法（ＰＣＦＧ）の生成に使用される。これは、図４ではブロック２４６によって示されている。そのようなＰＣＦＧは、さまざまな形で使用することができる。例示的な形の１つが、名前認識である。たとえば、音声対応電子メールプログラムで、受取人が「Ｐｅｔｅｒ」であることをユーザが話す場合に、会社またはユーザの連絡先リストのすべての「Ｐｅｔｅｒ」のアルファベット順の長いリストをユーザに与え、その１つを選択することを要求するのではなく、ＰＣＦＧによって、ユーザが電子メールの受取人として最も頻繁に使用した特定の「Ｐｅｔｅｒ」にバイアスをかけ、その「Ｐｅｔｅｒ」に対応するＮＥが、リストの最上部に配置される。
【００８７】
もう１つの例示的な例が、コマンドアンドコントロールである。たとえば、音声対応のコマンドアンドコントロールシステムでは、ユーザが、要求「Ｓｅｎｄ  ｅｍａｉｌ  ｔｏ  Ｐｅｔｅｒ」を発声することができる。会社またはユーザの連絡先リストに含まれる多数の「Ｐｅｔｅｒ」のどれを使用すべきかを指定するようにユーザに求めるのではなく、システムは、最高の確立を有する「Ｐｅｔｅｒ」をデフォルトにし、したがって、総合的なエラーレートを増やさずに、必要なユーザ対話を減らすことによって、ユーザの満足度が高まる。
【００８８】
ＮＥリストおよび確率の統合のもう１つの例示的な例が、それらを使用して、ＮＥの口述筆記のクラスベース口述言語モデルを生成することである。クラスベース言語モデルは既知であるが、クラスベース言語モデルの短い説明が、実例となる可能性がある。伝統的な言語モデル（たとえば、バイグラム言語モデルおよびトライグラム言語モデル）では、モデルによって、それぞれ１つまたは２つの他の単語に関する単語の確率が提供される。クラスベース言語モデルでは、モデルによって、単語が特定の意味体系クラス（semantic  class）に属する確率、および／またはクラスがお互いに関して発生し、特定の単語がそれらのクラスに含まれる確率も提供される。口述モデル（またはクラスベース言語モデル）の生成または更新は、図４ではブロック２４８によって示されている。
【００８９】
ＮＥおよび関連する確率を使用のシナリオに統合するもう１つの実施形態では、ＮＥおよび関連する確率が、ユーザの語彙の増補に使用される。言い換えると、ＮＥリストおよび関連する確率を、音声認識エンジン２２２内のユーザの語彙に新しい単語辞書として単純に追加することができる。ＮＥおよび確立を使用するユーザの語彙の生成または増補は、図４ではブロック２５０によって示されている。
【００９０】
ＮＥおよび確率を使用のシナリオに統合するもう１つの形が、コントロールに統合することである。たとえば、音声認識エンジンが使用されない場合であっても、ＮＥおよび関連する確率を、異なるアプリケーションまたはオペレーティングシステムのコントロールにリンクすることができる。ＮＥリストのコントロールへのリンクの例の１つが、テキストボックスにリンクすることである。例示的な実施形態の１つでは、テキストボックスが、開発者によって指定される値を有するクラス属性を用いて開発者によって定義される。図６に、「Ｓｔａｔｅ」と識別された値を有するクラス属性２５４を有するテキストボックス２５２の一実施形態を示す。クラス属性の値は、アナライザ２１６によってＮＥがクラスタ化されるカテゴリの１つに対応する。したがって、ユーザが、テキストボックス２５２を選択し、そこへの入力を開始する時に、ＮＥモデル２０２によって、テキストボックス２５２をオートコンプリートする候補ＮＥのリストが出力される。図６に示された例では、ユーザが、文字「ＭＩ」を入力している。ＮＥモデル２０２によって、州（Ｓｔａｔｅ）に対応するＮＥのリストが、これらのＮＥのそれぞれに関連する確率の順序でランキングされて自動的に出力される。ＮＥ「Ｍｉｎｎｅｓｏｔａ」に関連する確率が最高なので、そのＮＥが、テキストボックス２５２のオートコンプリートのために供給されるＮＥのドロップダウンリスト２５６で最初に表示される。
【００９１】
ユーザが前にテキストボックス２５２に一度も入力したことがない場合であっても、ＮＥが確率の順で表示されることに留意されたい。これは、ＮＥ２０２が、テキストボックス２５２への前の入力だけに基づいて確率を計算されるのではないからである。そうではなく、確率は、ユーザの使用パターンを最もよくモデル化する、複数の異なるソースから抽出されたデータから計算される。したがって、ユーザが、過去にテキストボックス２５２を一度も呼び出したことがない場合であっても、ユーザは、さまざまなソースにまたがるユーザの過去の使用パターンに基づく確率の高い順でランキングされたＮＥが表示されたドロップダウンリスト２５６を得る。
【００９２】
コントロールへのＮＥのリンクは、図４ではブロック２５８に示されている。
【００９３】
上記で説明したＮＥリストおよび関連する確率の統合は、典型的であるに過ぎない。もちろん、ＮＥおよび確率へのアクセスを求める特定のコンポーネントに応じて、ＮＥの他の統合を実行することができる。これは、図４ではブロック２６０によって示されている。
【００９４】
したがって、本発明の一実施形態によれば、ＮＥの認識が、アプリケーションモデル化ではなくユーザモデル化に基づくことがわかった。ユーザによって使用されるさまざまなソースからの情報が、収集され、ＮＥに関連する確率の展開に使用される。もちろん、所与のユーザに固有の情報を使用できるだけではなく、より一般的な性質の他の情報も使用することができる。また、上記で言及したように、ＮＥに関連する確率の計算で、より一般的な情報に、より固有の情報より小さい重みを与えることができる。ＮＥリストおよび関連する確率が生成されたならば、そのリストを、すべての望まれるアプリケーションおよびすべての望まれるコンテキストにまたがって使用することができる。したがって、本発明によって、一般的な解決として、ＮＥ認識に関連する問題が対処される。
【００９５】
最後に、ＮＥリストの生成または適合のシステムを、ユーザ固有の計算機に配置できることに留意されたい。代替案では、これをサーバ側で使用することができ、あるいは、ＮＥの生成または適合に関連する機能を、１つまたは複数のサーバ間またはサーバとユーザ固有計算機の間で分割することができる。
【００９６】
たとえば、例示的実施形態の１つで、アナライザ２１６を、サーバ側で実装し、このアナライザ２１６によって、さまざまな異なるユーザ固有のロガー２１４から正規化されたＮＥを収集することができる。すべての情報を、集合的に分析し、ユーザに再配布することができ、あるいは、情報の一部を、サーバレベルで複数のユーザから収集し、分析すると同時に、他の情報を、ユーザ固有レベルで分析することができる。さらに、もちろん、すべての情報を、その代わりに、ユーザ固有レベルで分析することもできる。
【００９７】
本発明を使用することによって、特定のユーザに関して必要なＮＥの数が、一般的なＮＥモデルについて他の形で必要になる数よりはるかに少ないことがわかっている。たとえば、全社的な人名簿は、会社の従業員と同程度の数のエントリを有する。たとえば２００００エントリを有する会社で、会社職員録から抽出されるＮＥは、２００００個になる。しかし、ユーザの使用パターンを分析することによって、ユーザが、このＮＥのうちの２５０個だけを使用することが見つけられる場合がある。したがって、本発明によるモデルのＮＥの数は、以前のシステムよりはるかに少ない。
【００９８】
さらに、本発明によって、以前のシステムに関連する語彙外レートも劇的に低下する。たとえば、ユーザが、全社的な人名簿に関連するＮＥ（たとえば２００００個）を有する場合であっても、そのユーザは、同程度の可能性で、会社の職員録には含まれない個人的な知人または家族に電子メールメッセージを送信する場合がある。しかし、やはり、ユーザの使用パターンを分析することによって、これらのＮＥも、識別され、そのユーザ固有のＮＥリストに追加される。したがって、ユーザのリストのＮＥの数は、以前のシステムから大幅に減るが、語彙外レートも、劇的に減る。混乱が減り、精度が高まる。
【００９９】
本発明を、特定の実施形態に関して説明したが、当業者は、本発明の趣旨および特許請求の範囲から逸脱せずに、形態および詳細において変更を行えることを理解するであろう。
【図面の簡単な説明】
【０１００】
【図１】本発明を使用することができる例示的な実施形態の１つを示すブロック図である。
【図２】名前付きエンティティリスト（または名前付きエンティティモデル）を生成するシステムを示すブロック図である。
【図３】図２に示されたシステムの動作を示す流れ図である。
【図４】ＮＥリストを入手し、統合するためのＮＥの分析を示す流れ図である。
【図５】ＮＥリストまたはＮＥモデルの例示的実施形態の１つを示す図である。
【図６】テキストボックスにリンクすることによるＮＥリストの例示的な統合の１つを示す図である。
【符号の説明】
【０１０１】
２００  システム
２０２  名前付きエンティティ（ＮＥ）リストまたはＮＥモデル
２０４  センサ
２０６  イベントトリガ
２０８  ユーザトリガ
２１０  タイマ
２１２  他のトリガ
２１４  ロガー
２１６  アナライザ
２１８  バッファ
２２０  アプリケーション
２２２  音声認識エンジン
２２４  他のソース
【図１】
2004355003.tif 000013
【図２】
2004355003.tif 000014
【図３】
2004355003.tif 000015
【図４】
2004355003.tif 000016
【図５】
2004355003.tif 000017
【図６】
2004355003.tif 000018