(57)【特許請求の範囲】
【請求項１】
電子装置にテキストを入力するためのシステムであって、
ユーザ入力信号を、連続する文字シーケンスを含む入力シーケンスに変換するように構成された入力シーケンス生成器であって、前記文字シーケンスの少なくとも１つの文字について、キーボード中の当該文字に対応するキーの位置と前記キーボードのレイアウトに基づいて、前記キーを取り囲む文字を含む文字セットを生成し、各文字セットは、各文字セット内の各文字に関連する確率値が存在するように前記文字セット内の文字にわたる確率分散を有する、入力シーケンス生成器と、
候補生成器とを備え、
該候補生成器は、
前記入力シーケンスのいずれか２つの隣接する文字セットに対応するいずれか２つの隣接するノード間に１又はそれ以上の用語境界ノードを挿入して、前記入力シーケンスを、１又はそれ以上の候補に対応する１又はそれ以上の経路を含む確率的制約シーケンスグラフに変換することにより、前記入力シーケンスから、１又はそれ以上の用語境界により分離された２又はそれ以上の用語シーケンスを各々が含む前記１又はそれ以上の候補を生成し、前記確率的制約シーケンスグラフは、一群のノードと、各々が１つのノードを別のノードに接続する有向辺とを含み、前記各文字セット内の前記各文字にノードが割り当てられ、各ノードの入力辺には、当該ノードに割り当てられた文字に関連する前記確率値が割り当てられ、前記１又はそれ以上の用語境界ノードの各々は、所定の確率ｔを有し、
各々が対応する発生確率を有する用語シーケンスを含む文脈言語モデル内で前記候補の１又はそれ以上の用語シーケンスを探索し、
前記文脈言語モデルからの前記候補の前記１又はそれ以上の用語シーケンスに対応する確率を前記候補に割り当てる、
ことにより各候補に第１の確率を割り当て、
前記確率的制約シーケンスグラフ内の前記候補を表す前記経路の累積確率を求めることにより、各候補の第２の確率を生成し、
各候補の第１の確率と第２の確率を組み合わせた確率に基づいて１又はそれ以上の候補を廃棄する、
ように構成される、
ことを特徴とするシステム。
【請求項２】
前記候補生成器は、前記文脈言語モデル内で、文脈シーケンスと前記候補の組み合わせを含むシーケンスを前記候補毎に探索するように構成され、前記文脈シーケンスは、１又はそれ以上の用語境界により分離された１又はそれ以上の用語を含む、前記入力シーケンスに先行するユーザ入力テキストである、
ことを特徴とする請求項１に記載のシステム。
【請求項３】
前記入力シーケンス生成器は、既に行われたユーザ選択に基づいて、前記ユーザ入力信号から、ユーザがコミットしたテキストに対応する前記文脈シーケンスを取得するようにさらに構成される、
ことを特徴とする請求項２に記載のシステム。
【請求項４】
前記候補生成器は、前記入力シーケンスの文字セットを表すいずれかのノードの代用として用語境界ノードを挿入するように構成される、
ことを特徴とする請求項１に記載のシステム。
【請求項５】
前記候補生成器は、
最も確率の高い候補の組み合わせた確率を求め、
対象とする候補の組み合わせた確率を求め、
前記最も確率の高い候補と前記対象とする候補との前記組み合わせた確率の比率が閾値ｔよりも小さい場合に前記対象とする候補を廃棄する、
ことにより候補を廃棄するように構成される、
ことを特徴とする請求項１に記載のシステム。
【請求項６】
前記候補生成器は、廃棄されなかったいずれかの候補の第３の確率を求めて、前記第２の確率と前記第３の確率の積である候補の全体的確率に基づいて１又は複数の候補を前記入力シーケンスに対する予測として出力するように構成され、前記第３の確率は、前記文脈言語モデル内で、文脈シーケンス、並びにその有効な表記及び語彙揺れを前記候補と組み合わせたものを含むシーケンスを探索することによって求められ、前記文脈シーケンスは、１又はそれ以上の用語境界により分離された１又はそれ以上の用語を含む、前記入力シーケンスに先行するユーザ入力テキストであり、
ことを特徴とする請求項１又は５項に記載のシステム。
【請求項７】
前記用語境界はスペース文字である、
ことを特徴とする請求項１から６のいずれか１項に記載のシステム。
【請求項８】
入力シーケンス生成器を用いて、ユーザ入力信号を、連続する文字シーケンスを含む入力シーケンスに変換するステップであって、前記ユーザ入力信号を入力シーケンスに変換するステップは、前記文字シーケンスの少なくとも１つの文字について、キーボード中の当該文字に対応するキーの位置と前記キーボードのレイアウトに基づいて、前記キーを取り囲む文字を含む文字セットを生成するステップを含み、各文字セットは、各文字セット内の各文字に関連する確率値が存在するように前記文字セット内の文字にわたる確率分散を有する、ステップと、
候補生成器を用いて、前記入力シーケンスのいずれか２つの隣接する文字セットに対応するいずれか２つの隣接するノード間に１又はそれ以上の用語境界ノードを挿入して、前記入力シーケンスを、１又はそれ以上の候補に対応する１又はそれ以上の経路を含む確率的制約シーケンスグラフに変換することにより、前記入力シーケンスから、１又はそれ以上の用語境界により分離された２つの用語を各々が含む１又はそれ以上の候補を生成するステップであって、前記確率的制約シーケンスグラフは、一群のノードと、各々が１つのノードを別のノードに接続する有向辺とを含み、前記各文字セット内の前記各文字にノードが割り当てられ、各ノードの入力辺には、当該ノードに割り当てられた文字に関連する前記確率値が割り当てられ、前記１又はそれ以上の用語境界ノードの各々は、所定の確率ｔを有する、ステップと、
各々が対応する発生確率を有する用語シーケンスを含む文脈言語モデル内で前記候補の１又はそれ以上の用語シーケンスを探索し、
前記文脈言語モデルからの前記候補の前記１又はそれ以上の用語シーケンスに対応する確率を前記候補に割り当てる、
ことにより、前記候補生成器を用いて、各候補に第１の確率を割り当てるステップと、
前記確率的制約シーケンスグラフ内の前記候補を表す前記経路の累積確率を求めることにより、前記候補生成器を用いて、各候補の第２の確率を生成するステップと、
各候補の第１の確率と第２の確率を組み合わせた確率に基づいて、前記候補生成器を用いて、１又はそれ以上の候補を廃棄するステップと、
を含むことを特徴とする方法。
【請求項９】
前記文脈言語モデル内で前記候補を探索するステップは、文脈シーケンスと前記候補の組み合わせを含むシーケンスを前記候補毎に探索するステップを含み、前記文脈シーケンスは、１又はそれ以上の用語境界により分離された１又はそれ以上の用語を含む、前記入力シーケンスに先行するユーザ入力テキストである、
ことを特徴とする請求項８に記載の方法。
【請求項１０】
前記方法は、前記入力シーケンス生成器を用いて、既に行われたユーザ選択に基づいて、前記ユーザ入力信号から、ユーザがコミットしたテキストに対応する前記文脈シーケンスを取得するステップをさらに含むことを特徴とする請求項９に記載の方法。
【請求項１１】
前記方法は、前記候補生成器を用いて、前記入力シーケンスの文字セットを表すいずれかのノードの代用として用語境界ノードを挿入するステップをさらに含むことを特徴とする請求項８に記載の方法。
【請求項１２】
前記廃棄するステップは、
最も確率の高い候補の組み合わせた確率を求め、
対象とする候補の組み合わせた確率を求め、
前記最も確率の高い候補と前記対象とする候補との前記組み合わせた確率の比率が閾値ｔよりも小さい場合に前記対象とする候補を廃棄する、
ことを特徴とする請求項８に記載の方法。
【請求項１３】
前記用語境界はスペース文字である、
ことを特徴とする請求項８から１２のいずれか１項に記載の方法。
【請求項１４】
入力シーケンス生成器を用いて、ユーザ入力信号を、連続する文字シーケンスを含む入力シーケンスに変換するステップであって、前記ユーザ入力信号を入力シーケンスに変換するステップは、前記文字シーケンスの少なくとも１つの文字について、キーボード中の当該文字に対応するキーの位置と前記キーボードのレイアウトに基づいて、前記キーを取り囲む文字を含む文字セットを生成するステップを含み、各文字セットは、各文字セット内の各文字に関連する確率値が存在するように前記文字セット内の文字にわたる確率分散を有する、ステップと、
前記入力シーケンスのいずれか２つの隣接する文字セットに対応するいずれか２つの隣接するノード間に１又はそれ以上の用語境界ノードを挿入するように構成された候補生成器を用いて、前記入力シーケンスを、１又はそれ以上の候補に対応する１又はそれ以上の経路を含む確率的制約シーケンスグラフに変換することにより、前記入力シーケンスから、１又はそれ以上の用語境界により分離された２つの用語を各々が含む１又はそれ以上の候補を生成するステップであって、前記確率的制約シーケンスグラフは、一群のノードと、各々が１つのノードを別のノードに接続する有向辺とを含み、前記各文字セット内の前記各文字にノードが割り当てられ、各ノードの入力辺には、当該ノードに割り当てられた文字に関連する前記確率値が割り当てられ、前記１又はそれ以上の用語境界ノードの各々は、所定の確率ｔを有する、ステップと、
各々が対応する発生確率を有する用語シーケンスを含む文脈言語モデル内で前記候補の１又はそれ以上の用語シーケンスを探索し、
前記文脈言語モデルからの前記候補の前記１又はそれ以上の用語シーケンスに対応する確率を前記候補に割り当てる、
ことにより、前記候補生成器を用いて、各候補に第１の確率を割り当てるステップと、
前記確率的制約シーケンスグラフ内の前記候補を表す前記経路の累積確率を求めることにより、前記候補生成器を用いて、各候補の第２の確率を生成するステップと、
各候補の第１の確率推定値と第２の確率を組み合わせた確率に基づいて、前記候補生成器を用いて、１又はそれ以上の候補を廃棄するステップと、
をプロセッサに実行させるコンピュータプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、ユーザが入力したテキストから複数の用語を予測するためのシステム及び方法に関し、具体的には、ユーザが入力したテキスト内の１又はそれ以上の用語境界を予測するためのシステム及び方法に関する。
【背景技術】
【０００２】
例えば、Ｇｏｏｇｌｅ（商標）社から市販されているＡｎｄｒｏｉｄ（商標）ＩＣＳキーボード又はＡｐｐｌｅ（登録商標）社から市販されているｉＯＳキーボードなどの、ユーザが入力したテキスト内の用語境界を何らかの形で検出するシステムが知られている。しかしながら、これらのシステムは、用語境界の検出に限界がある。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】国際出願第２０１１／００１４１９号
【特許文献２】英国特許出願公開第１１０８２００号明細書
【特許文献３】英国特許出願公開第１２００６４３号明細書
【特許文献４】国際出願第２０１０／００１８９８号
【発明の概要】
【発明が解決しようとする課題】
【０００４】
Ｇｏｏｇｌｅ（商標）社から市販されているＡｎｄｒｏｉｄ（商標）ＩＣＳキーボードの例では、ユーザが潜在的語彙からの２つの有効な単語を分離スペース又はスペース以外の文字によって分離せずに入力した場合、システムは、スペースにより分離された２つの単語を提示し、適切な場合には誤った文字を置き換える。しかしながら、このシステムには、特に以下のようないくつかの限界がある。
・  いずれかの単語にタイプミス又はスペルミスがある場合には動作しない。
・  自動アポストロフィ挿入などの他の入力操作機能と共に動作しない。
・  一度に２つの単語しか分析できず、すなわち１つの単語境界しか識別することができない。
【０００５】
Ａｐｐｌｅ（商標）社製のｉＯＳキーボードは、限られたタイプミス又はスペルミスを補うことができるという点でＡｎｄｒｏｉｄ（商標）版よりも進んでいる。しかしながら、ｉＯＳキーボードも、１つの単語境界の識別に制限される。
【０００６】
これらの制限の１つ又はそれ以上を克服することにより、ユーザが用語境界を明確に挿入することなく、語句全体、さらにはメッセージ全体を入力できるようにすることが本発明の目的である。
【課題を解決するための手段】
【０００７】
本発明の第１の態様では、電子装置にテキストを入力するためのシステムを提供し、このシステムは、
候補生成器を備え、この候補生成器は、
連続する文字シーケンスを含む入力シーケンスから、１又はそれ以上の用語境界により分離された２又はそれ以上の用語を各々が含む１又はそれ以上の候補を生成し、
各々が対応する発生確率を有する用語シーケンスを含む文脈言語モデル内で候補の１又はそれ以上の用語を探索し、
文脈言語モデルからの候補の１又はそれ以上の用語に対応する確率を候補に割り当てる、
ことにより各候補に第１の確率推定値を割り当て、
対応する第１の確率推定値に基づいて１又はそれ以上の候補を廃棄する、
ように構成される。
【０００８】
１つの実施形態では、１又はそれ以上の用語が候補を含む。候補生成器は、文脈言語モデル内で、文脈シーケンスと候補の組み合わせを含むシーケンスを候補毎に探索するように構成され、文脈シーケンスは、１又はそれ以上の用語境界により分離された１又はそれ以上の用語を含む、入力シーケンスに先行するユーザ入力テキストであることが好ましい。
【０００９】
システムは、ユーザ入力信号を入力シーケンス及び文脈シーケンスに変換するように構成された入力シーケンス生成器をさらに備えることができる。入力シーケンス生成器は、文字セットシーケンスを生成することによってユーザ入力信号を入力シーケンスに変換し、各文字セットは、各セット内の各文字に関連する確率値が存在するようにセット内の文字にわたる確率分散を有する。
【００１０】
候補生成器は、入力シーケンスを、１又はそれ以上の候補に対応する１又はそれ以上の経路を含む確率的制約シーケンスグラフに変換することにより、入力シーケンスから１又はそれ以上の候補を生成するように構成されることが好ましい。確率的制約シーケンスグラフは、一群のノードと、各々が１つのノードを別のノードに接続する有向辺とを含む有向非巡回グラフの変種であり、確率的制約シーケンスグラフにおいて、各文字セット内の各文字にノードが割り当てられ、各ノードの入力辺は、関連する文字の確率に対応することが好ましい。確率的グラフの各経路は同じ長さに制約されることが好ましい。
【００１１】
候補生成器は、確率的制約シーケンスグラフに１又はそれ以上の用語境界ノードを挿入するように構成され、１又はそれ以上の用語境界ノードの各々は、入力シーケンスにおいて生じる確率ｔを有することが好ましい。候補生成器は、入力シーケンスのいずれか２つの隣接する文字セットに対応するいずれか２つの隣接するノード間に用語境界ノードを挿入するように構成されることが好ましい。さらに、候補生成器は、入力シーケンスの文字セットを表すいずれかのノードの代用として用語境界ノードを挿入するように構成することができる。
【００１２】
候補生成器は、確率的制約シーケンスグラフに１又はそれ以上のワイルドカードノードを挿入するように構成され、この１又はそれ以上のワイルドカードノードの各々は、確率的制約シーケンスグラフに、入力シーケンスの文字セットに加えてあらゆる文字が挿入されるようにすることが好ましい。
【００１３】
候補生成器は、確率的制約シーケンスグラフ内の候補を表す経路の累積確率を求めることにより、候補の第２の確率推定値を生成するように構成することができる。候補生成器は、各候補の第１の確率と第２の確率を組み合わせるように構成されることが好ましい。
【００１４】
候補生成器は、
最も確率の高い候補の組み合わせた確率を求め、
対象とする候補の組み合わせた確率を求め、
これらの最も確率の高い候補と対象とする候補の組み合わせた確率の比率が閾値ｔよりも小さい場合に候補を廃棄する、
ことにより候補を廃棄するように構成されることが好ましい。
【００１５】
候補生成器は、廃棄されなかったいずれかの候補の第３の確率を求めるように構成することができる。第３の確率は、文脈言語モデル内で、文脈シーケンス、並びにその有効な表記及び語彙揺れを候補と組み合わせたものを含むシーケンスを探索することによって求めることができ、文脈シーケンスは、１又はそれ以上の用語境界により分離された１又はそれ以上の用語を含む、入力シーケンスに先行するユーザ入力テキストである。候補の全体的確率は、第２の確率と第３の確率の積とすることができる。
【００１６】
最も確率の高い候補の１又はそれ以上を、候補生成器から候補ディスプレイに出力してユーザに提示することができる。
【００１７】
１つの実施形態では、用語境界がスペース文字である。
【００１８】
本発明の第２の態様では、連続する文字シーケンスを含む入力シーケンス内の用語境界を推測する方法を提供し、この方法は、
候補生成器を用いて、入力シーケンスから、１又はそれ以上の用語境界により分離された２つの用語を各々が含む１又はそれ以上の候補を生成するステップと、
各々が対応する発生確率を有する用語シーケンスを含む文脈言語モデル内で候補の１又はそれ以上の用語を探索し、
文脈言語モデルからの候補の１又はそれ以上の用語に対応する確率を候補に割り当てる、
ことにより各候補に第１の確率推定値を割り当てるステップと、
対応する第１の確率推定値に基づいて１又はそれ以上の候補を廃棄するステップと、
を含む。
【００１９】
１つの実施形態では、１又はそれ以上の用語が候補を含む。文脈言語モデル内で候補を探索するステップは、文脈シーケンスと候補の組み合わせを含むシーケンスを候補毎に探索するステップを含み、文脈シーケンスは、１又はそれ以上の用語境界により分離された１又はそれ以上の用語を含む、入力シーケンスに先行するユーザ入力テキストであることが好ましい。
【００２０】
この方法は、シーケンス生成器を用いて、ユーザ入力信号を入力シーケンス及び文脈シーケンスに変換するステップをさらに含むことが好ましい。ユーザ入力信号を入力シーケンスに変換するステップは、文字セットシーケンスを生成するステップを含み、各文字セットは、各セット内の各文字に関連する確率値が存在するようにセット内の文字にわたる確率分散を有することが好ましい。
【００２１】
入力シーケンスから１又はそれ以上の候補を生成するステップは、入力シーケンスを、１又はそれ以上の候補に対応する１又はそれ以上の経路を含む確率的制約シーケンスグラフに変換するステップを含むことができる。確率的制約シーケンスグラフは、一群のノードと、各々が１つのノードを別のノードに接続する有向辺とを含む有向非巡回グラフの変種であり、確率的制約シーケンスグラフにおいて、各文字セット内の各文字にノードが割り当てられ、各ノードの入力辺は、関連する文字の確率に対応することが好ましい。確率的グラフの各経路は同じ長さに制約されることが好ましい。
【００２２】
方法は、候補生成器を用いて、確率的制約シーケンスグラフに１又はそれ以上の用語境界ノードを挿入するステップをさらに含み、１又はそれ以上の用語境界ノードの各々は、入力シーケンスにおいて生じる確率ｔを有する。用語境界ノードは、入力シーケンスのいずれか２つの隣接する文字セットに対応するいずれか２つの隣接するノード間に挿入されることが好ましい。
【００２３】
用語境界ノードは、入力シーケンスの文字セットを表すいずれかのノードの代用として挿入することができる。
【００２４】
方法は、候補生成器を用いて、確率的制約シーケンスグラフに１又はそれ以上のワイルドカードノードを挿入するステップをさらに含み、該１又はそれ以上のワイルドカードノードの各々は、確率的制約シーケンスグラフに、入力シーケンスの文字セットに加えてあらゆる文字が挿入されるようにすることが好ましい。
【００２５】
方法は、候補生成器を用いて、確率的制約シーケンスグラフ内の候補を表す経路の累積確率を求めることにより、候補の第２の確率推定値を生成するステップをさらに含むことが好ましい。候補生成器を用いて、各候補の第１の確率と第２の確率の積を求めることができる。
【００２６】
候補を廃棄するステップは、
候補生成器を用いて、最も確率の高い候補の組み合わせた確率を求めるステップと、
候補生成器を用いて、対象とする候補の組み合わせた確率を求めるステップと、
これらの最も確率の高い候補と対象とする候補の組み合わせた確率の比率が閾値ｔよりも小さい場合に、候補生成器を用いて候補を廃棄するステップと、
を含むことが好ましい。
【００２７】
方法は、候補生成器を用いて、廃棄されなかったいずれかの候補の第３の確率を求めるステップをさらに含むことが好ましい。第３の確率は、候補生成器を用いて、文脈言語モデル内で、文脈シーケンス、並びにその有効な表記及び語彙揺れを候補と組み合わせたものを含むシーケンスを探索することによって求めることができ、文脈シーケンスは、１又はそれ以上の用語境界により分離された１又はそれ以上の用語を含む、入力シーケンスに先行するユーザ入力テキストである。候補の全体的確率は、第２の確率に第３の確率を乗じることによって求めることができる。
【００２８】
方法は、最も確率の高い候補の１又はそれ以上を前記候補生成器から候補ディスプレイに出力してユーザに提示するステップを含むことができる。
【００２９】
１つの実施形態では、用語境界がスペース文字である。
【００３０】
本発明の第３の態様では、上述した方法をプロセッサに実行させるためのコンピュータプログラム手段を記憶するコンピュータ可読媒体を含むコンピュータプログラム製品を提供する。
【００３１】
本発明の第４の態様では、
ユーザが現在入力中のテキストを表示するように構成されたテキストペインと、
ユーザが現在入力中のテキストが何を表そうとしているかについての予測である候補を表示するための予測ペインと、
ユーザが入力したテキストを受け付けるための、スペースキーを表すキーを含まない仮想キーボードと、
を含むユーザインターフェイスを提供する。
【００３２】
予測ペインは、ユーザの入力シーケンスを表示する第１のペインと、及びユーザの入力シーケンスに対する予測を表示する第２のペインという２つの予測ペインを含むことが好ましい。
【００３３】
以下、添付図面を参照しながら本発明を詳細に説明する。
【図面の簡単な説明】
【００３４】
【図１】本発明による高水準予測アーキテクチャを示す図である。
【図２ａ】本発明によるインターフェイス例を示す図である。
【図２ｂ】本発明によるインターフェイス例を示す図である。
【図３】本発明によるシステムの使用を示す作業例である。
【図４】本発明による方法のフロー図である。
【発明を実施するための形態】
【００３５】
本発明は、確率的文脈モデルを用いてテキスト入力内の見込まれる用語境界の位置を推測する、携帯電話機又はタブレットなどの電子装置におけるテキスト入力システム及び方法を提供する。
【００３６】
本システムは、潜在的語彙から複数用語境界推測結果を生成する方法と、これらの結果を文脈的言語データに基づいてフィルタ処理する確率的方法とを組み合わせたものである。
【００３７】
このシステムは、（全体が引用により本明細書に組み入れられる）国際出願第２０１１／００１４１９号に記載されるような付加確率的文字操作と組み合わせて、タイプミス又はスペルミスを同時に訂正できるとともに、その他の確率的に導き出される（英語の自動アポストロフィ挿入などの）文字ストリーム操作も可能なシステムをもたらすことが好ましい。従って、このシステムは、高確率複数用語テキスト予測を生成する（そしてユーザ又はシステムに提供する）ことができる。
【００３８】
従って、本システム及び方法は、いずれも単語を手動で分離する必要性を取り除くことによってユーザの入力速度を高めるための手段を提供するとともに、そうしようとするのに上手くいかないユーザ（例えば、ユーザが分離の代わりの疑似文字を入力した場合、又はユーザがいずれかの文字又は分離を挿入できなかった場合）に訂正フィードバックも提供する。
【００３９】
以下の例は、いくつかのユーザテキスト入力例を所与として本発明のシステム及び方法の出力（１又はそれ以上の用語のテキスト予測）を実証するものである。これらの例では、用語境界を含まないユーザ入力テキスト、境界の代わりの疑似文字を含むテキスト入力などの、いくつかの異なるテキスト入力シナリオにわたってシステム／方法の能力を実証する。
【００４０】
ユーザによる、用語境界を含まないテキスト入力の例
「ｓｅｅｙｏｕｌａｔｅｒ」というユーザ入力に対し、本システム／方法は「ｓｅｅ  ｙｏｕ  ｌａｔｅｒ」を予測／出力する。
【００４１】
ユーザによる、境界の代わりの疑似文字を含むテキスト入力の例
「ｓｅｅｃｙｏｕｂｌａｔｅｒ」というユーザ入力に対し、本システム／方法は「ｓｅｅ  ｙｏｕ  ｌａｔｅｒ」を予測／出力する。
【００４２】
開示するシステム及び方法は、例えば以下のように、プレフィックスマッチをリアルタイムで解決することができる。
「ｓｅｅｙｏｕｌａ」というユーザ入力に対し、本システム／方法は「ｓｅｅ  ｙｏｕ  ｌａｔｅｒ」を予測／出力する。
【００４３】
開示するシステム／方法は、例えば以下のように、タイプミス／スペルミスの誤りを補うと同時に単語境界及びプレフィックスを推測することができる。
「ｓｅｅｙｏｏｕｌａｙｅｒ」というユーザテキスト入力に対し、本システム／方法は「ｓｅｅ  ｙｏｕ  ｌａｔｅｒ」を予測／出力する。
「ｗｈａｔｓｔｈｅｔｉ」というユーザテキスト入力に対し、本システム／方法は「ｗｈａｔ’ｓ  ｔｈｅ  ｔｉｍｅ」を予測／出力する。
【００４４】
本システム／方法は、確率的にランク付けした１又はそれ以上の予測の組を生成してユーザに提示するように構成することができる。例えば、本システム／方法は、「ｔｈｅｄｒｍｉｎ」というユーザ入力から、以下のランク付けした予測を出力することができる。
「ｔｈｅｓｅ  ｍｉｎｔｓ」
「ｔｈｅ  ｓｅｍｉｎａｒ」
＜その他＞
【００４５】
図１に、本システムの概要を排他的ではなく一般的に示す。
【００４６】
このシステムは、全体が引用により本明細書に組み入れられる国際出願第ＧＢ２０１１／００１４１９号に記載されるような、既存の確率的テキスト入力システムを強化するように設計されることが好ましい。しかしながら、このシステムを単独で使用して、例えば本出願の背景技術の段落で説明したような既存のテキスト入力システムを単純に強化することもできる。
【００４７】
図１に示すように、システムは候補生成器２を含む。システムは、入力シーケンス生成器１及び候補ディスプレイ３も含むことが好ましい。候補ディスプレイ３は、１又はそれ以上の候補４０をユーザに表示するように構成される。
【００４８】
入力シーケンス生成器１は、ユーザ入力からテキストシーケンスを生成するように構成される。ユーザ入力は、例えば以下のような、異なるタイプのテキスト入力インターフェイスを与えられた様々な範囲の異なる電子装置との異なるタイプの相互作用に対応する様々な範囲のユーザ信号１０により生成することができる。
・  当業で周知のＱＷＥＲＴＹ（又は他のレイアウト）キーボード
・  当業で周知の確率的仮想ＱＷＥＲＴＹ（又は他のレイアウト）キーボード
・  より高度なキープレスモデル（全体が引用により本明細書に組み入れられる英国特許出願第１１０８２００号、「ユーザ入力予測」など）
・  確率的連続ストロークインターフェイス（全体が引用により本明細書に組み入れられる英国特許出願第１２００６４３号、「テキスト入力システム及び方法」など）
【００４９】
入力シーケンス生成器１は、ユーザにより生成された入力信号１０を受け付け、所与の言語の構造的文字シーケンスを戻す。入力シーケンス生成器１は、入力シーケンス２０及び文脈シーケンス３０という２つの構造的文字シーケンスを出力する。
【００５０】
文脈シーケンス３０は、不変の文字シーケンスを含む。入力シーケンス２０は、本明細書で確率的文字列と呼ぶ形をとる。確率的文字列は一連の文字セットを含み、各セットは、各セット内の各文字が関連する確率値を有するように、その文字要素にわたる確率分散を有する。確率的文字列が３つの文字セットにわたるシーケンスを含み、（｛−｝で示す）各セットが合計で１になる対応する確率を有する２又はそれ以上の文字を含む例を以下に示す。
｛｛｛ａ，０．８｝，｛ｓ，０，１｝，｛ｚ，０．１｝｝，｛｛ｒ，０．９｝，｛ｔ，０．０５｝，｛ｆ，０．０５｝｝，｛｛ｅ，０．８｝，｛ｗ，０．２｝｝｝
【００５１】
一例として、ユーザが「Ｔｈｅ  ｄｅｖｉｌ  ｍａｋｅｓ  ｗｏｒｋ  ｆｏｒ  ｉｄｌｅ  ｈａｎ」というシーケンスを入力しており、「ｈａｎ」の直後にカーソルが位置する。この例では、「ｉｄｌｅ」という単語までの文字が文脈シーケンス３０であってこれに含まれ、「ｈ」、「ａ」及び「ｎ」という文字により意図された文字にわたる分散が入力シーケンス２０になる。
0006335794.tif 000002
文脈「Ｔｈｅ  ｄｅｖｉｌ  ｍａｋｅｓ  ｗｏｒｋ  ｆｏｒ  ｉｄｌｅ」
入力「ｈａｎ」
【００５２】
一般に、文脈シーケンス３０は、既にユーザがコミットしたテキストと見なすことができ、入力シーケンス２０は、ユーザが現在入力しようとしているテキストと見なすことができる。入力シーケンス２０は、連続する文字シーケンスである。連続する文字シーケンスとは、明確な用語境界を含まない連続する文字シーケンスのことである。候補生成器２は、入力シーケンス２０全体を、２又はそれ以上の用語間に１又はそれ以上の推測される用語境界を含む２又はそれ以上の用語の予測に置換するように構成され、この置換は、誤り文字をスペースに置換すること、用語の１又はそれ以上を訂正すること、及び／又は句読点を挿入することを含むことができる。
【００５３】
例えば、ユーザが「Ｔｈｅ  ｄｅｖｉｌ  ｍａｋｅｓ」という表現をシステムに対して既にコミットしており、現在「ｗｏｒｋｆｏｒｉｄｌｅｈａｎ」と入力している場合、「Ｔｈｅ  ｄｅｖｉｌ  ｍａｋｅｓ」は文脈シーケンス３０であるのに対し、「ｗｏｒｋｆｏｒｉｄｌｅｈａｎ」は入力シーケンス２０に対応する。
【００５４】
従って、入力シーケンス生成器１は、ユーザが（例えば候補予測４０の前回のユーザ選択５０によって）システムにコミットしたテキストに対応する文脈シーケンス３０と、ユーザが現在入力しているが、これからシステムにコミットする必要がある、連続する文字シーケンスの形のテキストに対応する入力シーケンス２０とを生成するように構成される。
【００５５】
文脈シーケンス３０及び入力シーケンス２０は、入力シーケンス生成器１から出力され、候補生成器２により入力として受け付けられる。
【００５６】
候補生成器２は、必要に応じて用語境界が推測される複数用語シーケンスに各々が対応する１又はそれ以上の候補予測４０を生成するように構成される。これを行うために、候補生成器２は、ユーザが入力しようと意図している／意図していた可能性によってシーケンスをランク付けするように構成される。
【００５７】
これは、以下に準拠するセット内のシーケンスにわたるランク付けと同じである。
（１）
0006335794.tif 000003
式中、ｅは観察根拠（observed evidence）であり、Ｍは確率的推論を行うために使用されるトレーニングモデルの組である。換言すれば、このシステムは、予測を引き出せる元となる全てのシーケンスの組にわたり、根拠を所与としてシーケンスの条件付き確率を推定する。式（１）は、ベイズの定理を用いて再構成すると以下のようになる。
（２）
0006335794.tif 000004
分母内のターゲットシーケンスを周辺化すると以下のようになる。
（３）
0006335794.tif 000005
【００５８】
Ｐ（ｅ｜ｓ，Ｍ）を計算するために、ターゲットシーケンスを所与として、関連モデル下における何らかの分散から独立して生成される互いに素な集合［ｅ１．．．ｅＮ］ に根拠を分離することができると仮定する。従って、以下の仮定を行う。
仮定１：ターゲットシーケンスを所与として、根拠を異なる集合に分離し、各集合内の根拠が他の全てと条件付きで無関係になるようにすることができる。
各ｅｉは、関連するモデルＭｉを有する。
【００５９】
この独立仮定は、数学的に以下のように表される。
（４）
0006335794.tif 000006
【００６０】
これにより、各々が適当なモデルを有する多くの根拠ソースを組み合わせることができるフレームワークの構築が可能になる。
【００６１】
モデルＲ∈Ｍは、ターゲットシーケンスの事前分布に関連付けられることが好ましい。この式と上記の仮定を所与とした場合、式（３）は次のように言い換えることができる。
（５）
0006335794.tif 000007
【００６２】
式（５）の分母はｓに関して一定であり、従ってランク付けに影響を与えず、結果としての確率値に対する正規化係数としてのみ機能する。開示するシステムを実装する場合、正規化した確率値をもたらすための式（１１）に関して後述するように、この値を近似値として推定することができる。しかしながら、この値はランク付けに影響しないため、テキスト予測のランク付けで十分と考えられるので、本発明のシステムが分母を推定する必要はない。
【００６３】
上記の式（５）を所与とした場合、根拠ソースｅｉ及び関連するモデルＭｉ毎の根拠の可能性の各々Ｐ（ｅｉ｜ｓ，Ｍｉ）と共に、ターゲットシーケンスの事前分布Ｐ（ｓ｜Ｒ）を計算しなければならない。
【００６４】
開示するシステムは、根拠の解釈候補を周辺化することにより確率的フレームワーク内の根拠の可能性を計算するための、候補モデル１及び候補モデル２という２つの方法を提供する。
【００６５】
候補モデル１
単一の根拠ソースから根拠の可能性を評価する場合、「ユーザが意図した」シーケンスと観察根拠との間の中間段階である「候補」の観点からモデルを表すことが有用な場合が多い。この可能性は、次のように書き換えることができる。
（６）
0006335794.tif 000008
式中、ｃｊは単一の候補であり、ここで本発明者らは、候補モデルＭｃａｎｄｉｄａｔｅ及びシーケンスモデルＭｓｅｑｕｅｎｃｅという、所与の根拠ソースを表すＭの２つのサブモデルを有する。ここでのキーとなる仮定は以下の通りである。
仮定２：対象とするモデル下での可能性は候補の周辺化として表すことができ、この候補を所与とする場合、根拠はターゲットシーケンスから条件付きで独立している。
【００６６】
この仮定を適用すると、根拠項からｓに対する依存を除外することができる。
（７）
0006335794.tif 000009
【００６７】
候補モデル２
候補モデルの別の変種は、最初にベイズの規則を用いて根拠の可能性を変換する。
（８）
0006335794.tif 000010
【００６８】
根拠の条件付きシーケンス確率は、次のように書き換えることができる。
（９）
0006335794.tif 000011
式中、ｃｊは単一の候補であり、ここで発明者らは、所与の根拠ソースであるＭの、候補モデルＭｃａｎｄｉｄａｔｅ及びシーケンスモデルＭｓｅｑｕｅｎｃｅという２つのサブモデルを有する。この場合、キーとなる仮定は以下の通りである。
仮定３：対象となるモデル下での可能性は候補の周辺化として表すことができ、この候補を所与とする場合、ターゲットシーケンスは根拠から条件付きで独立している。
【００６９】
この仮定を適用すると、根拠項からｓに対する依存を除外することができる。
（１０）
0006335794.tif 000012
【００７０】
候補生成器２は、入力シーケンス生成器１によって出力された文脈シーケンス３０及び入力シーケンス２０に対応する文脈及び入力という２つのソースからの根拠を使用する。
【００７１】
上述したように、文脈は、ユーザが既に何を入力したかに関する観察根拠を表し、文脈シーケンスが複数の単語を含む場合には、用語境界を含む文字シーケンスの形をとる。入力は、ユーザが現在入力しているものに関する観察根拠を表し、確率的文字列の形をとる。
【００７２】
式（５）をこれら２つの根拠ソースでインスタンス化すると、以下のようになる。
（１１）
0006335794.tif 000013
【００７３】
この式では、ランク付けに影響しないという理由で任意であるＺが正規化係数を表し、その概算量については、全体が引用により本明細書に組み入れられる国際出願第２０１１／００１４１９号にさらに詳細に説明されている。具体的には、正規化定数Ｚは以下に近似する。
0006335794.tif 000014
【００７４】
この近似は、以下のようにシステムに実装することができる。関数ｚは、シーケンスセットＴにわたって以下のように考慮される。
0006335794.tif 000015
【００７５】
ｚは以下のように計算される。
0006335794.tif 000016
式中、ｕは「未知」のシーケンスを表し、ｋは｜Ｓ｜−｜Ｔ｜の推定値であり、｜Ｓ｜は、全ての考えられるターゲットシーケンスの組内のシーケンスの数であり、｜Ｔ｜は、潜在的な根拠モデルの少なくとも１つが「既知」の推定値を有するシーケンスの数である。各個々の根拠の条件付きモデルＭは、Ｐ（ｅ｜ｕ，Ｍ）の推定値、すなわち「未知」のシーケンスを所与とする根拠観察にわたる分散を戻す。基本的に、このことは、各根拠の条件付きモデルがその独自の分散上の平滑化に関与するが、全体的な推定される「未知」のシーケンス数に比例するｋに関連付けられなければならないことを意味する。実際には、各モデルは、Ｓ’⊂ＳとするシーケンスセットＳ’について知っており、Ｐ（ｅ｜ｓ，Ｍ）の推定値は一定であり、全てのｓ∈Ｓ’に関してＰ（ｅ｜ｕ，Ｍ）と同等である。この手の平滑化は、各根拠ソースに関連するモデルにおいて、システムが様々なレベルの確かさを考慮できるようにする。
【００７６】
開示するシステムは、上述したモデルフレームワーク内で３つのモデルを実装する。
【００７７】
ターゲットシーケンスの事前分布モデルＲは以下により構成される。
・  ユニグラムモデル−文脈を考慮することなく、ある言語のシーケンスに分散を行い、各シーケンスを原子単位として内部的に処理し、例えば、ユニグラムモデルはサイズ１のｎグラムである。
【００７８】
入力根拠モデルＭｉｎｐｕｔは２つのモデルで構成される。
・  候補モデル：Ｍｉｎｐｕｔ−ｃａｎｄｉｄａｔｅ−特定の解釈候補を所与として入力観察に条件付き分散を行う。
・  シーケンスモデル：Ｍｉｎｐｕｔ−ｓｅｑｕｅｎｃｅ−意図されたターゲットシーケンスを所与として候補に条件付き分散を行う。
【００７９】
文脈根拠モデルＭｃｏｎｔｅｘｔは２つのモデルで構成される。
・  候補モデル：Ｍｃｏｎｔｅｘｔ−ｃａｎｄｉｄａｔｅ−特定の解釈候補を所与として文脈観察に条件付き分散を行う。
・  シーケンスモデル：Ｍｃｏｎｔｅｘｔ−ｓｅｑｕｅｎｃｅ−特定の文脈を所与として言語又は言語セット内のシーケンスに条件付き分散を行う。
【００８０】
候補生成器２は、候補ディスプレイ３上にテキスト予測として１つ又はそれ以上が表示されるこれらの候補のうちのどの候補４０が最高ランクの確率を有しているかを決定するために、式（１１）の分子内の個々の推定値を計算するように構成される。
【００８１】
以下、式（１１）内の関連する個々の確率の各々をいかに計算するかについて説明する。従って、入力可能性Ｐ（ｉｎｐｕｔ｜ｓ，Ｍｉｎｐｕｔ）、文脈可能性Ｐ（ｃｏｎｔｅｘｔ｜ｓ，Ｍｃｏｎｔｅｘｔ）、ターゲットシーケンスの事前分布推定値Ｐ（ｓ｜Ｒ）の各々の計算について説明する。Ｚの計算は任意であり、従って詳細には説明しない。
【００８２】
ターゲットシーケンスの事前分布
ターゲットシーケンスの事前分布は、以下のように計算されることが好ましい。
0006335794.tif 000017
式中、Ｖは、Ｒｕｎｉｇｒａｍに含まれるシーケンスセットであり、モデルの実装は、平滑化した周波数ベースのユニグラム言語モデル及び平滑化したマルコフチェーン文字モデルを構築するための既知の技術に従う。以下、これらのモデルを実装するためのいくつかの適用可能な技術を列挙する。しかしながら、列挙していない他の好適な技術も適用される。
・  平滑化したｎグラム用語又は文字モデル（当業で周知）。
・  ＜参考文献：英国特許出願公開第０９１７７５３号＞に記載されるような適応的マルチ言語モデル。
・  ＜参考文献：Ｓｃｈｅｆｆｌｅｒ２００８＞などに記載されるようなＰＰＭ（部分的マッチングによる予測）言語モデル。
・  構成語彙成分から確率的にシーケンスを生成するように構成された形態学的分析エンジン。
【００８３】
システムは、ターゲットシーケンスの事前分布モデルＲを含むことにより、意図されたシーケンスの予測精度を高める。さらに、ターゲットシーケンスの事前分布モデルＲは、見知らぬターゲットシーケンスの文字ベースの推測を可能にし、すなわちシステムは、未知のターゲットシーケンスをより良好に推測して、全ての考えられるターゲットシーケンスにわたって近似させることができる。
【００８４】
入力可能性Ｐ（ｉｎｐｕｔ｜ｓ，Ｍｉｎｐｕｔ）
入力可能性Ｐ（ｉｎｐｕｔ｜ｓ，Ｍｉｎｐｕｔ）は、候補モデル１により、特定の式（７）において以下のように推定される。
（１２）
0006335794.tif 000018
【００８５】
式中、式（７）の根拠ソースｅは入力（入力シーケンス２０）であり、関連するモデルは、Ｍｉｎｐｕｔ−ｃａｎｄｉｄａｔｅ ａｎｄ  Ｍｉｎｐｕｔ−ｓｅｑｕｅｎｃｅを含む入力モデルＭｉｎｐｕｔである。
【００８６】
従って、入力可能性Ｐ（ｉｎｐｕｔ｜ｓ，Ｍｉｎｐｕｔ）を求めるには、入力候補推定値Ｐ（ｉｎｐｕｔ｜ｃｊ，Ｍｉｎｐｕｔ−ｃａｎｄｉｄａｔｅ）、及び入力シーケンス推定値Ｐ（ｃｊ｜ｓ，Ｍｉｎｐｕｔ−ｓｅｑｕｅｎｃｅ）を求める必要があり、これらの各々については以下で詳細に説明する。
【００８７】
入力候補推定値Ｐ（ｉｎｐｕｔ｜ｃｊ，Ｍｉｎｐｕｔ−ｃａｎｄｉｄａｔｅ）
全体が引用により本明細書に組み入れられる国際出願第２０１１／００１４１９号には、各ノードが１又はそれ以上の文字から成るサブシーケンスを含む、有向非巡回グラフ（ＤＡＧ）の変種である確率的制約シーケンスグラフ（ＰＣＳＧ）が記載されている。この１又はそれ以上の文字から成るサブシーケンスは、入力シーケンス２０の文字セットの２つ又はそれ以上にわたる文字セット又はシーケンスからの個々の文字に対応する。ノードまでの辺（edges）の各々には、入力シーケンス２０の（単複の）文字セット内の文字にわたる（単複の）確率分散に基づく確率が割り当てられる。ＰＣＳＧは、各経路が同じ長さに制約されるという特性も有する。
【００８８】
正式には、ＰＣＳＧは、ノードセットＮ、ルートノードｒ、有向辺セットＥ、及びパラメータ（確率）セットθを含む４タプルから成る。
0006335794.tif 000019
（１７）
【００８９】
２つのノードｎとｎ’の間の辺は（ｎ→ｎ’）によって示され、辺に沿ってｎからｎ’に移動する確率はＰ（ｎ’｜ｎ）によって示される。Ｇを通る経路はノードｒから開始し、各訪問したノードから出力辺を含まないノードに達するまで１つの出力辺を正確にたどる。Ｇには以下の特性が当てはまる。
１）Ｇが有向非巡回グラフ（ＤＡＧ）である。
２）
0006335794.tif 000020
すなわちルートを除く全てのノードが少なくとも１つの入力辺を有していなければならない。
３）
0006335794.tif 000021
すなわち所与のノードから分岐した全ての経路が次の共通ノードにおいて即座に再結合する。この特性はグラフの構造を厳しく制約し、全ての経路が同じ長さを有して経路確率計算における正規化要件を軽減することを意味する。
【００９０】
入力候補モデル関数は、所与の経路の確率を以下のように計算する（入力候補推定値と同等）。
0006335794.tif 000022
式中、Ｐ（ｐｊ｜Ｇ）は経路の可能性であり、経路内の各辺の積として計算される。
0006335794.tif 000023
式中、Ｋは経路内の辺の数である。この好ましい式は、ノード間の非明示的な独立仮定を意味する。この非明示的な独立については、ＰＣＳＧ例の説明後に後述する。
【００９１】
従って、辺上の確率には以下の特性が当てはまる。
0006335794.tif 000024
【００９２】
換言すれば、所与のノードｎからの全ての出力辺上の確率は合計１でなければならない。このことは、
0006335794.tif 000025
すなわちＰＣＳＧ内の全ての経路の確率の総和が１に等しいことも意味する。
【００９３】
開示するシステムでは、入力候補の組が拡張ＰＣＳＧ（ＥＰＣＳＧ）として表される。個々の入力候補は、ＥＰＣＳＧ内の固有の経路によって表される。入力候補毎に、その代表的な経路の正規化した確率を計算することができる。
【００９４】
最初に、（入力候補の組にマッピング可能な）入力シーケンス２０からＰＣＳＧが生成される。次に、このＰＣＳＧが、より表現的でありながら依然として制約された候補を可能にする追加構造で強化される。
【００９５】
以下、入力シーケンスが以下のような場合のシナリオにおけるＰＣＳＧの例を示す。
0006335794.tif 000026
【００９６】
これは、入力シーケンス生成器１が、例えばユーザが「Ｈ」という文字の後に「ｅ」という文字を入力しようと意図したと推定し、従って観察される入力イベントが０．５及び０．８というそれぞれの確率を有すると予想されるシナリオを符号化したものである。しかしながら、入力シーケンス生成器は、各所与の組の文字にわたる確率分散で２つの文字セットを含む確率的文字列を生成することにより、ユーザが「Ｈ」及び「ｅ」以外の文字を入力したいと意図した可能性があることも考慮する。
【００９７】
これらの確率分散の生成方法は本開示の主題ではない。むしろ、例えば以下を含む技術範囲が適用可能であることを強調する。
−  特定のキーボードレイアウト上の所与のターゲットキーを取り囲む文字に基づいて分散を生成することができ、例えばＱＷＥＲＴＹキーボードなどでは、ユーザが「Ｈ」キーに対応する領域をタップした場合、この入力シーケンスは文字「Ｇ」及び「Ｊ」を何らかの確率で含む可能性がある。
−  （仮想タッチ画面キーボード上の）タッチ座標と指定されたキーの座標との間の距離（又は平方根などの何らかの距離関数）に基づいて分散を生成することもできる。
【００９８】
候補生成器２は、入力シーケンス２０から未強化のＰＣＳＧを生成し、このＰＣＳＧでは、入力シーケンス内の各文字セット内の各文字にその固有のノードが割り当てられ、以下のように見えると考えられる。
0006335794.tif 000027
【００９９】
各文字セットは、グラフ内で兄弟ノードセットとして追加され、その直後にヌルノードに再結合してから次の兄弟ノードセットに進む。各兄弟ノードの入力辺確率は、そのセット内の文字の確率値に対応する。
【０１００】
上述したように、経路の可能性のための好ましい式Ｐ（ｐｊ｜Ｇ）は、ノード間の非明示的独立仮定を意味する。この例では、各文字セットの文字にわたる確率分散が、他の文字セット内の文字にわたる確率分散とは無関係なことにより、このことが証明される。従って、文字セットから生成された各兄弟ノードセットは、他の兄弟ノードセットから切り離された無関係な確率分散を有する。このＰＣＳＧの構造から、所与の経路では、各兄弟ノードセットからのこのようなノードを１つだけ使用することができる。
【０１０１】
全体が引用により本明細書に組み入れられる国際出願第２０１１／００１４１９号に記載されるように、ＰＣＳＧを２つの追加構造で強化して、以下を含むＥＰＣＳＧを形成することができる。
・  誤り文字を含む入力シーケンスを可能にする空ノードサブ経路。
・  ユーザがターゲットシーケンスから１又はそれ以上の文字を省いたインスタンスを可能にする「ワイルドカード」構造。
【０１０２】
この（EPCSGを提供する）ようにして強化された同じＰＣＳＧを以下に示す。
0006335794.tif 000028
【０１０３】
システムは、所定の確率ペナルティｅにより、入力シーケンスに対応する文字の代わりにヌル文字を挿入してユーザからの誤った入力に対処することができる。これを行うために、候補生成器２は、上述した各兄弟ノードセット内の追加ノードとして（「φ」によって表される）ヌル文字を挿入するように構成される。従って、ＥＰＣＳＧには、１又はそれ以上のヌル文字を含む経路をたどることによって１又はそれ以上の文字をスキップする経路が存在する。
【０１０４】
また、システムは、所定のペナルティｗにより、入力内で完全に省かれた文字もターゲットシーケンス内で可能にする。この「＊」を付けたノードは、文字セット内で考えられるあらゆる文字（例えば、「ワイルドカード」）を含む分岐の省略表現である。上述したＥＰＣＳＧによれば、候補生成器２は、各兄弟文字ノードセット間にワイルドカード構造（ワイルドカードを表すノードなど）を挿入するように構成される。この構造では、入力に基づくだけでは予測されない省かれた文字を候補内で考慮することができる。
【０１０５】
本システムの候補生成器２は、ＥＰＣＳＧに用語境界の形のさらなる構造を挿入する。スペースなどの用語境界を文字と考える必要はない。言語によっては、単語間にスペースが存在しないものもあるが、このシステムは、どこで１つの単語が終わって別の単語が始まるかを予測し、すなわち用語境界を識別する。これを行うために、候補生成器２は、ユーザがスペースなどの用語境界ではなく文字を入力してしまったことを訂正するために、上述した各兄弟ノードセット内に（「＿」で表記する）用語境界を追加ノードとして挿入するように構成される。さらに、候補生成器は、各兄弟文字ノードセット間にもさらなる用語境界ノードを挿入する。任意に使用されるワイルドカード構造間の用語境界を考慮しなければならないので、単一のワイルドカード構造を２つの同一構造に分割し、その中に用語境界構造を挿入しなければならない。用語境界構造は、用語境界ノードと、用語境界を任意にするヌル文字ノードとで単純に構成される。
【０１０６】
ワイルドカード構造及びヌル文字構造に加え、用語境界構造で強化したＥＰＣＳＧ例を以下に示す。
0006335794.tif 000029
【０１０７】
これらの用語境界ノードにより、以下の２つの主な意味合いが加わる。
・  システムは、所定の確率ペナルティｓにより、誤り文字を用語境界に置換することができる。このモデルケースでは、例えばユーザが改行を入力しようとしたが誤って偽入力を追加してしまった。
・  所定の確率ペナルティｔにより、メインのＥＰＣＳＧにより生成されたものであるか、それともワイルドカード分岐（従って用語境界ノードの両側に存在する）により生成されたものであるかに関わらず、文字間に改行を追加することができる。
【０１０８】
従って、辺の特性：
0006335794.tif 000030
を保持するには、辺確率を合計１になるように基準化する必要があるが、挿入された構造の確率ｅ、ｓ、ｔ及びｗが予め設定されているので可能である。
【０１０９】
ＥＰＣＳＧにおけるこれらの追加構造により、グラフ内の考えられる経路数は大幅に増加する。これを解消するために、本発明は、ＥＰＣＳＧ経路確率及び境界推測用語シーケンスの文脈確率の両方を考慮した新規の確率的プルーニング技術を使用する候補生成器２を提供する。
【０１１０】
候補生成器２は、文脈言語モデルＭｃｏｎｔｅｘｔを利用して、各複数用語候補の文脈確率推定値を生成する。Ｍｃｏｎｔｅｘｔを使用して入力候補の文脈確率推定値を生成することは、ターゲットシーケンスを所与とする関連モデル（Ｍｃｏｎｔｅｘｔ，Ｍｉｎｐｕｔ）の下で、入力根拠（入力シーケンス２０）及び文脈根拠（文脈シーケンス３０）を、何らかの分散から単独で生成される非重複セットに分離できるという仮定に明らかに反する。
【０１１１】
候補生成器２は、各複数用語候補の文脈確率推定値を用いてＥＰＣＳＧ内の経路をプルーニングするように構成され、これについては以下でさらに詳述する。経路をプルーニングすることによって探索空間が大幅に減少し、（境界を含まない）連続テキスト内の用語境界の識別が計算的に可能になる。
【０１１２】
Ｐ（ｔｉ）、Ｐ（ｔｉ｜ｔｉ−１）及びＰ（ｔｉ｜ｔｉ−２）の確率推定値、及び評価すべきｋ長のシーケンスを提供する、例えば三重文字モデル（サイズ３のｎグラム）などの文脈言語モデルＭｃｏｎｔｅｘｔを所与とする場合、文脈確率推定値：
（１３）
0006335794.tif 000031
は、次式を計算することにより形成される。
（１４）
0006335794.tif 000032
【０１１３】
例えば、文脈シーケンス３０が「ｈａｖｅ  ｙｏｕ  ｅｖｅｒ」であり、入力シーケンス２０の候補（すなわち、ＥＰＣＳＧ内の経路）が「ｂｅｅｎ  ｔｏ  Ｌｏｎｄｏｎ」である場合、候補生成器２は、「ｙｏｕ  ｅｖｅｒ  ｂｅｅｎ」、「ｅｖｅｒ  ｂｅｅｎ  ｔｏ」及び「ｂｅｅｎ  ｔｏ  Ｌｏｎｄｏｎ」という３つの三重文字を生成するようになる。三重文字「ｈａｖｅ  ｙｏｕ  ｅｖｅｒ」は、完全に文脈シーケンス３０から構成される。コミットされた入力であるこのような三重文字はいずれも１の確率を有し、従って結果を変化させることができないので考慮されない。次に、これらの３つの三重文字の各々の確率を共に乗じることにより、この例の文脈確率推定値が生成される。
【０１１４】
これには上記の式（１４）が反映され、この例のｋ長シーケンスの長さは５であり、｛ｙｏｕ，ｅｖｅｒ，ｂｅｅｎ，ｔｏ，Ｌｏｎｄｏｎ｝を含む。
【０１１５】
文脈シーケンスが存在せずに入力シーケンスが同じである場合、候補生成器２は、１つの三重文字「ｂｅｅｎ  ｔｏ  Ｌｏｎｄｏｎ」の文脈確率推定値に対して候補をプルーニングするようになる。この結果、「ｂｅｅｎ  ｔｏ  Ｌｏｎｄｏｎ  ｔｏ  ｓｅｅ」などのより長い入力を用いて、３つの三重文字「ｂｅｅｎ  ｔｏ  Ｌｏｎｄｏｎ」、「ｔｏ  Ｌｏｎｄｏｎ  ｔｏ」、「Ｌｏｎｄｏｎ  ｔｏ  ｓｅｅ」の文脈確率推定値に対して候補がプルーニングされるようになる。
【０１１６】
候補の確率推定値を提供するには、あらゆる好適な文脈言語モデルを使用することができ、本システムは、例示目的で使用する三重文字モデルの使用に限定されるものではない。
【０１１７】
従って、本発明は、入力シーケンスの内容全体、及び文脈シーケンス３０が存在する場合には文脈シーケンスの用語全体に基づくプルーニングを提供する。
【０１１８】
このようにトレーニングされた文脈データを使用することにより、意図されていたかどうかに関わらず以前にはモデルによって確認できなかった語句を廃棄できるようになる。
【０１１９】
候補生成器は、ＥＰＣＳＧの経路をプルーニングするために、所与の候補の文脈確率推定値と、その累積されたＰＣＳＧ経路確率とを、これらの２つの確率の積を求めることによって組み合わせるように構成される。候補生成器２は、現在最も確率の高いシーケンスとそれよりも確率の低いシーケンスとの比率、すなわち最も確率の高い経路とプルーニングを検討される経路との確率比に対し、閾値ｔを用いて下限を設定する。従って、以下の式が成り立つ場合、経路ｎ１．．．ｎＬがプルーニングされる。
（１５）
0006335794.tif 000033
【０１２０】
一方で、式１４及び１５に関して上述したもの以外のプルーニング技術を使用することもできる。「確率推定値」という用語は、真に数学的な確率を意味することも、或いはランク付け又はスコア付けなどの他のいずれかの形の推定確率を意味することもできる。式１４の項に重み付けすることにより、候補に割り当てられる確率推定値又は「スコア」を候補内の先に出現する用語の方に偏向（biased）させて、ＥＰＣＳＧの太い帯をできるだけ早く無視できるようにすることができ、従って本方法が全ての経路を求めてＥＰＣＳＧ全体をトラバースする必要がなくなるので、計算効率を高めることができる。さらに、探索される用語シーケンスを、候補を構成する用語シーケンス全体よりも小さくし、例えば候補の最初の１つ又は２つの用語を含むようにすることもできる。いずれにせよ、候補に割り当てられるスコア／確率推定値は、依然として文脈モデルＭｃｏｎｔｅｘｔ内の候補の用語シーケンスを探索することにより決定されるようになる。さらに、式１５の代わりに他の閾値境界設定方法を使用することもできる。
【０１２１】
好ましい実施形態では、候補生成器２が、文脈可能性と、特に文脈シーケンス推定値とを決定するために使用される同じ三重文字を評価することによって入力候補をプルーニングできるようになるという理由で、式１４の確率推定値を計算するように構成される。これにより、以下の式（１７）に関して説明するように、候補生成器２がプルーニングしていない候補の三重文字結果をキャッシュして再使用することができる（及びプルーニング候補に関しては、三重文字結果を廃棄することができる）ので、必要な計算回数が減少する。
【０１２２】
経路をプルーニングすることにより、式１２及び１６において評価する候補が少なくなるので、候補生成器２による（式１１を介した）予測の計算も減少する。
【０１２３】
候補生成器２は、文脈確率推定値に基づいて（ＥＰＣＳＧ内に存在する可能性はあるものの）経路をプルーニングすることができる。一方、ここでこのプルーニングが行われなければ、同じ候補が式１１内の文脈モデルから極めて低いスコアを受け取るようになり（これらがプルーニングされるようになった理由とまさに同じ理由で）、これによりこれらの候補には極めて低い確率が与えられ、代わりにこの後の段階で廃棄されるようになる。
【０１２４】
入力シーケンス推定値Ｐ（Ｃｊ｜ｓ，Ｍｉｎｐｕｔ−ｓｅｑｕｅｎｃｅ）
入力シーケンス推定値：Ｐ（Ｃｊ｜ｓ，Ｍｉｎｐｕｔ−ｓｅｑｕｅｎｃｅ）は、ターゲットシーケンスを所与とする候補シーケンスにわたる分散であり、正規化インジケータ関数として以下のように推定することができる。
（１６）
0006335794.tif 000034
この場合、δ（ｔ，ｔ’）は、ｔ’がｔのプレフィックスである場合にはδ（ｔ，ｔ’）＝１、そうでない場合にはδ（ｔ，ｔ’）＝０であり、 またＺは、
0006335794.tif 000035
すなわち全ての候補の総和である。
【０１２５】
候補の一意性を仮定し、候補セットが全ての考えられるシーケンスを含むことができる場合、ターゲットの長さシーケンスｎに対して正確にｎ個のマッチするプレフィックス、従って候補が存在するので、正規化係数：Ｚ＝ｌｅｎｇｔｈ（ｓ）を再計算することができる。
【０１２６】
文脈可能性Ｐ（ｃｏｎｔｅｘｔ｜ｓ，Ｍｃｏｎｔｅｘｔ）
文脈可能性Ｐ（ｃｏｎｔｅｘｔ｜ｓ，Ｍｃｏｎｔｅｘｔ）は、候補モデル２と、特に根拠ソースｅが文脈である場合の式（８）及び（１０）とによって以下のように推定される。
（１７）
0006335794.tif 000036
【０１２７】
式１７におけるｊの総和は、文脈の語彙揺れ及び表記揺れの総和に関連する。プルーニング段階で入力候補が廃棄された場合、この用語シーケンスではこのような揺れを評価する必要はない。
【０１２８】
式（１７）に示すように、候補生成器２は、文脈可能性を計算するために、文脈シーケンス推定値Ｐ（ｓ｜ｃｊ，Ｍｃｏｎｔｅｘｔ−ｓｅｑｕｅｎｃｅ）、文脈候補推定値Ｐ（ｃｊ｜ｃｏｎｔｅｘｔ，Ｍｃｏｎｔｅｘｔ−ｃａｎｄｉｄａｔｅ）、文脈の事前分布推定値Ｐ（ｃｏｎｔｅｘｔ｜Ｍｃｏｎｔｅｘｔ）、及びターゲットシーケンスの事前分布推定値Ｐ（ｓ｜Ｍｃｏｎｔｅｘｔ）を計算するように構成され、以下、これらの各々について詳細に説明する。
【０１２９】
文脈シーケンス推定値Ｐ（ｓ｜ｃｊ，Ｍｃｏｎｔｅｘｔ−ｓｅｑｕｅｎｃｅ）
文脈シーケンス推定値Ｐ（ｓ｜ｃｊ，Ｍｃｏｎｔｅｘｔ−ｓｅｑｕｅｎｃｅ）は、文脈シーケンスモデルの下で特定の候補シーケンスｃｊを所与とする場合のターゲットシーケンスの確率ｓである。正式には、文脈シーケンスモデルは、文脈シーケンス、すなわちモデルのパラメータをθＳとするｆＳ（ｔｔａｒｇｅｔ，ｔｃｏｎｔｅｘｔ）＝Ｐ（ｔｔａｒｇｅｔ｜ｔｃｏｎｔｅｘｔ，θＳ）を所与とするターゲットシーケンスの確率を戻す関数である。従って、文脈シーケンス確率は、Ｐ（ｓ｜ｃｉ，Ｓ）＝ｆＳ（ｓ，ｃｉ）のように計算される。
【０１３０】
以下のように、個別に又は組み合わせて使用される適用可能な技術がいくつか存在する。
・  ｎグラム言語モデル（当業で周知）
・  全体が本明細書に組み入れられる国際出願第２０１０／００１８９８号に記載される適応的マルチ言語モデル。
・  当業で周知のＰＰＭ（部分的マッチングによる予測）言語モデル
・  当業で周知の生成ＨＭＭ（隠れマルコフモデル）確率的品詞タガー
・  好適に構成されたニューラルネットワーク
【０１３１】
文脈候補推定値Ｐ（ｃｊ｜ｃｏｎｔｅｘｔ，Ｍｃｏｎｔｅｘｔ−ｃａｎｄｉｄａｔｅ）
文脈候補推定値（ｃｊ｜ｃｏｎｔｅｘｔ，Ｍｃｏｎｔｅｘｔ−ｃａｎｄｉｄａｔｅ）は、任意のシーケンスをｔとし、モデルのパラメータをθｃｏｎｔｅｘｔ−ｃａｎｄｉｄａｔｅとする、ｆｃｏｎｔｅｘｔ−ｃａｎｄｉｄａｔｅ（ｔ，ｃｏｎｔｅｘｔ）＝Ｐ（ｔ｜ｃｏｎｔｅｘｔ，θｃｏｎｔｅｘｔ−ｃａｎｄｉｄａｔｅ）の形の関数である。従って、文脈候補条件推定値は以下のように計算される。
0006335794.tif 000037
【０１３２】
文脈シーケンスにおけるこのような揺れを考慮する場合、（例えば、大文字化、短縮、頭字語などの）文脈用語の表記揺れに関するグラフ分岐と共に、ＥＰＣＳＧを使用する技術を入力候補推定法と同じように使用する。
【０１３３】
以下の１２個の文脈候補シーケンスの例を示す。
0006335794.tif 000038
【０１３４】
これらは、以下のＰＣＳＧによって表される（「｜」で示す明確な単語境界及びヌル文字「φ」による空シーケンス）。
0006335794.tif 000039
【０１３５】
以下の（１９）の文脈候補モデルに従って、例えば以下のように辺に確率が割り当てられる。
0006335794.tif 000040
【０１３６】
次に上記の１２個のシーケンスの候補確率がＰＣＳＧから以下のように生成される（簡潔にするために３つの例のみを示す）。
0006335794.tif 000041
0006335794.tif 000042
0006335794.tif 000043
【０１３７】
ＰＣＳＧを構築してノードに確率を割り当てるために使用されるモデルの詳細は、システムの特定のインスタンスによって異なる。上記のスキームでは、３つの一般的な揺れのインスタンスを符号化する。
単語境界における（潜在的に明確な）分岐
格揺れにおける分岐
語彙揺れにおける分岐
【０１３８】
このフレームワークでは、あらゆるタイプの揺れを符号化できることが理解されるであろう。別の例は、前の提案を分岐させることであり、例えば、システムが「ｏｎ」と「ｉｎ」の両方を予測し、ユーザが「ｉｎ」を選択した場合、この分岐は、「ｉｎ」に確率の重みを割り当てるが、ユーザが誤った提案をうっかり受け入れた確率を表すように「ｏｎ」にもわずかな確率を割り当てた分岐として符号化することができる。上記の例では、以下の原理が符号化される。
小文字のイニシャル「ｓ」を含む「ｓｕｎｄａｙ」は、短縮形の「Ｓｕｎ」よりも確率が低く、この短縮形自体は、完全な揺れである「Ｓｕｎｄａｙ」よりも確率が低い。
「ｐｍ」が数字の「３」から離れているトークン化した例は、トークン化していない例よりもわずかに確率が低い。
期間の揺れである「ｐ．ｍ．」は、期間の形ではない「ｐｍ」よりも若干確率が低い。
【０１３９】
文脈候補ＰＣＳＧの特定のインスタンスは、初期シーケンスｓから以下のようにアルゴリズム的に構築されることが好ましい。
ルートに連結されている単一のノードｎｓ内にｓを封入することにより、ｓをＰＣＳＧに変化させる。
揺れ点に分岐ノードを導入することにより、ｎｓを反復的に分解する。
【０１４０】
例えば、「ｓｕｎｄａｙ  ａｔ  ３ｐｍ」という元々のシーケンスに作用するＰＣＳＧ構築アルゴリズムを検討する。まず、ステップ１は以下のようになる。
0006335794.tif 000044
【０１４１】
システムは確率的トークナイザを導入し、その結果、以下のようになる。
0006335794.tif 000045
【０１４２】
なお、修飾は、上記のＰＣＳＧの特性３に起因して、常に分岐−再結合の構造を挿入する形をとるが、１つのノードの分岐である特別な例も存在し、これは経路確率全体に影響を与えないという理由で後続の処理にとって都合が良い。このモデルに従って辺確率が加わり、これについては以下でさらに詳述する。このアルゴリズムを続けると、以下のように格揺れ分析器が導入される。
0006335794.tif 000046
【０１４３】
最後に、以下のように語彙揺れ分析器が導入される。
0006335794.tif 000047
【０１４４】
なお、ＰＣＳＧの特性３に起因して、再分岐前に分岐を収束させなければならない。すなわち、２つの分岐点が連続して生じた場合、場合によっては空ノードを挿入しなければならない。
【０１４５】
ＰＣＳＧには、辺確率が割り当てられることが好ましい。辺確率の割り当ては、文脈候補モデルのパラメータに関して行われることが好ましい。これらの確率の直感的解釈は以下の２要素から成る。
（１）ユーザが特定の分岐に割り当てられたシーケンスを意図した可能性の推定値を表すこと。例えば、ユーザが「Ｄｅａｒ  ｂｅｎ」と入力した場合、本発明者らは、実際にはこれらが「Ｄｅａｒ  Ｂｅｎ」と入力することを意図されたものであることを何らかの確率で認めたいと望むことがある。
（２）特定の分岐が観察されるシーケンスの有効な異形表記である「バックオフ」の可能性を表すこと。例えば、ユーザが「Ｓｅｅ  ｙｏｕ  ｏｎ  Ｔｈｕｒ」と入力した場合、「Ｔｈｕｒ」の別の表記形態は「Ｔｈｕｒｓ」になる。
【０１４６】
ある背景モデル情報を所与とした場合、その推定される異形表記の可能性により、特定の辺に割り当てられる確率に影響を与えることもできる。例えば、文脈シーケンスモデルＳを実際に再使用して異なる異形表記の可能性の推定値を取得し、これを他の確率的尺度と組み合わせて使用して分岐確率をもたらすことができる。文脈シーケンスモデルをこのように利用することは、この文脈シーケンスモデルＳのインスタンスを文脈候補モデルＣが実際に含み、その結果、候補とシーケンスモデルの間の独立仮定に明らかに反するようになること（上記の特性７）を意味するが、この文脈の例では、この仮定が実際に呼び出されることはなく、従って比較的安全である。
【０１４７】
明確化のためには実例が役立つ。好ましい実施形態では、文脈候補モデルが以下のアルゴリズムを使用して確率を割り当てると仮定する。
観察されるシーケンスが０．８の確率を受け取り、その他のシーケンスは均等に分岐を受け取る。
文脈シーケンスモデル推定値によって値を基準化する。
上記のＰＣＳＧの特性（１９）に従うように値を正規化する。
【０１４８】
上記のＰＣＳＧの例から、以下の分岐を検討することができる。
0006335794.tif 000048
【０１４９】
最初に観察されたのは「ｓｕｎｄａｙ」であるため、上記アルゴリズムの段階１ではこれに最初に０．８の確率が割り当てられ、その他の辺には、各々０．１が割り当てられる。文脈シーケンスモデルによって推定値が戻される例は以下の通りである。
0006335794.tif 000049
0006335794.tif 000050
0006335794.tif 000051
式中、ＣＳは、この例では文脈候補モデルが文脈シーケンスモデルを利用していることを示す。従って、この例では、各辺に割り当てられた正規化されていない確率、及び正規化された（おおよその）確率は（それぞれ）以下のようになる。
0006335794.tif 000052
【０１５０】
文脈の事前分布推定値Ｐ（ｃｏｎｔｅｘｔ｜Ｍｃｏｎｔｅｘｔ）
文脈の事前分布Ｐ（ｃｏｎｔｅｘｔ｜Ｍｃｏｎｔｅｘｔ）は、文脈に関連する元々のシーケンスｔの頻度を以下のように正規化することによって近似させることができる。
0006335794.tif 000053
（２１）
式中、ｆｒｅｑ（ｔ）は、トレーニングデータ内のシーケンスの頻度ｔであり、分母は、トレーニングデータ内の全てのシーケンスの頻度の和である。シーケンス「ｔ」は、文脈シーケンス３０である。文脈の事前分布は、予測の導出元である対応するモデルＭｃｏｎｔｅｘｔが所与の文脈シーケンス３０を含む確率に従って文脈候補の確率値に重み付けする。これを行うために、文脈の事前分布は、式の推定値に従って予測値に重み付けする。
【０１５１】
実際には、この推定値が、例えば見知らぬシーケンスの発生頻度を推定することによって平滑化される。
【０１５２】
ターゲットシーケンスの事前分布推定値Ｐ（Ｓ｜Ｍｃｏｎｔｅｘｔ）
同様に、トレーニングデータ内の平滑化頻度分析を用いて、ターゲットシーケンスの事前分布Ｐ（Ｓ｜Ｍｃｏｎｔｅｘｔ）、すなわち式（１７）の分母を推定することができ、例えば、文脈トレーニングデータ内の全てのシーケンスにわたるターゲットシーケンスの頻度を正規化することにより、ターゲットシーケンスの事前分布を近似させることができる。
0006335794.tif 000054
式中、ｆｒｅｑ（ｓ）は、トレーニングデータ内のターゲットシーケンスの頻度であり、分母は、トレーニングデータ内の全てのターゲットシーケンスの全ての頻度の和である。分母は、（複製をカウントした）トレーニングデータ内の総用語数として概算的に同等に求めることができる。
【０１５３】
候補ディスプレイ３
候補生成器２は、最高ランクの候補をテキスト予測として、又は最高ランクの候補の１つよりも多くを１つよりも多くのテキスト予測として候補ディスプレイ３に出力し、ユーザに提示するように構成される。最高ランクの候補とは、式（１１）によって求められる最も確率の高い候補のことであり、Ｚを計算することが好ましいが任意である。
0006335794.tif 000055
【０１５４】
１つの実施形態では、仮想キーボードと共に候補ディスプレイ３上に候補４０を表示してユーザが選択できるようにする。候補が選択されると、この候補の生成元である入力シーケンス２０に対応する入力テキストの部分が置換される。
【０１５５】
別の実施形態では、ユーザが候補４０を選択せずにタイピングを継続する。複数用語の候補をユーザに提示した後にも入力を提供し続け、それでも最高ランクの候補の最初の用語が変化しない場合、この最初の用語を予測から抽出し、作成中のテキストに対して「コミット」する（従って文脈の一部にする）ことができる。図２ａ及び図２ｂに一例を示す。
【０１５６】
図２ａに示すように、候補生成器２は、この例では「ｐｌｅａｓｅ  ｃａｌｌ  ｍｅ」及び「ｐｌｅａｓｅ  ｃａｌｌ  Ｍｅｌａｎｉｅ」である２つの最高ランクの候補４０を候補ディスプレイ３に出力するように構成することができる。
【０１５７】
或いは、図２ｂに示すように、候補生成器２を、この例では「ｃａｌｌ  ｍｅ  ｂａｃｋ」及び「ｃａｌｋｍｅｂａｃ」である逐語的入力と共に最高ランクの候補４０を候補ディスプレイ３に出力するように構成することもできる。
【０１５８】
なお、図２ａ及び図２ｂの例示的なユーザインターフェイスは、従来の「スペース」キーを含んでいない。開示するシステムを候補ディスプレイ及び選択インターフェイスと組み合わせることで、スペースキーを必要としないテキスト入力インターフェイスが可能になる。スペースキーのないキーボードは、貴重な画面空間を節約し、他のキーがより多くの空間を利用できるようになり、又は画面サイズを小さくすることができるので便利である。
【０１５９】
システムの使用例
ユーザが「Ｗｈｅｎ  ｙｏｕ  ｇｅｔ  ｔｈｉｓ、ｓｅｎｄ  ｍｅ  ａ  ｒｅｐｌｙ」というメッセージをタイプしている状況について検討する。さらに、何らかの段階で本発明者らの入力ディスプレイフィールドが以下の状態にあると考える。
0006335794.tif 000056
【０１６０】
この場合、入力シーケンス生成器１は、以下の文脈シーケンス３０及び入力シーケンス２０を出力することができる。
・文脈シーケンス３０：「Ｗｈｅｎ  ｙｏｕ  ｇｅｔ  ｔｈｉｓ、  ｓｅｎｄ  ｍｅ」
・入力シーケンス２０：｛｛ａ，０．８｝，｛ｓ，０．１｝，｛ｚ，０．１｝｝，
｛｛ｒ，０．９｝，｛ｔ，０．０５｝，｛ｆ，０．０５｝｝，
｛｛ｅ，０．８｝，｛ｗ，０．２｝｝
【０１６１】
図３に示すように、候補生成器２は、入力モデル推定値Ｐ（ｉｎｐｕｔ｜ｓ，Ｍｉｎｐｕｔ）を計算して、以下の候補を関連する確率と共に生成する。
｛ａｒｅ，０．５７６｝
｛ａｒｅｎａ，０．５７６｝
｛ａｔｅ，０．０３２｝
｛ａ  ｔｅｘｔ，０．０３２｝
｛ａ  ｒｅｐｌｙ，０．５７６｝
｛ａ  ｒｅｐｏｔ，０．５７６｝
【０１６２】
図３に、グラフ評価の一部の視覚的な例を示し、各評価段階における各候補の確率を強調表示している。
【０１６３】
なお、図３に示すように、複数用語「ａ  ｒｅｐｏｔ」（「ａ  ｒｅｐｌｙ」及び「ａ  ｔｅｘｔ」に比べて非常に低い確率の二重音字）は、一旦形成されても、その文脈確率の低さために候補生成器２によってプルーニングされる。
【０１６４】
候補生成の最後には、意図されたシーケンスではない最高スコアの候補がいくつか存在する。
【０１６５】
しかしながら、候補生成器２は、同じ候補及び文脈シーケンス３０を所与とする文脈モデルＭｃｏｎｔｅｘｔ（この場合は三重文字モデル）を使用して、以下の候補を関連する確率と共に生成することもできる。
｛［ｓｅｎｄ  ｍｅ］ａｒｅ，０．０００００２３｝
｛［ｓｅｎｄ  ｍｅ］ａｒｅｎａ，０．００００００００２｝
｛［ｓｅｎｄ  ｍｅ］ａｔｅ，０．０００００００７｝
｛［ｓｅｎｄ  ｍｅ］ａ  ｔｅｘｔ，０．００７｝
｛［ｓｅｎｄ  ｍｅ］ａ  ｒｅｐｌｙ，０．００５｝
【０１６６】
実際には、文脈に関する限り最も見込みのある候補は「ａ  ｔｅｘｔ」である。最後に、候補生成器２は、２つのモデルからの確率推定値を組み合わせる。当然ながら、好ましい場合には、これらの確率推定値の相対的ランクに影響を与えることなくこれらを正規化することもでき、従ってこれについては簡潔にするために省いている。
【０１６７】
従って、最終的な推定値例は以下のようになる。
｛ａｒｅ，０．０００００１３２｝
｛ａｒｅｎａ，０．００００００００１５９｝
｛ａｔｅ，０．００００００００２２４｝
｛ａ  ｔｅｘｔ，０．０００２２４｝
｛ａ  ｒｅｐｌｙ，０．００２８８｝
【０１６８】
従って、この基本的な例では、組み合わさったモデルセットが、「ａ  ｒｅｐｌｙ」を最上位の予測として正しく選択し、第２の予測は、ユーザが単純にＴキーの代わりにＲキーを打ってしまった状況では明らかに候補に値する「ａ  ｔｅｘｔ」になっている。
【０１６９】
逆もまた当てはまり、ユーザがＲキーの代わりにＴキーを打ってしまった場合、（具体的には２番目の文字における）入力確率ストリングの分散はＴ文字を支持して逆になり、上位２つの結果が単純に逆になると思われる。いずれにせよ、意図された結果が非常に高くランク付けされ、候補ディスプレイ３を介してユーザに提示されるよう準備される。
【０１７０】
本システムに関して説明したように、また図４に示すように、一般的方法は、候補生成器２を用いて、１又はそれ以上の用語境界により分離された２又はそれ以上の用語を各々が含む１又はそれ以上の候補を入力シーケンス２０から生成するステップ（１００）と、各候補に第１の確率推定値を割り当てるステップと（２００）を含む。第１の確率推定値は、各々が対応する発生確率を有する用語シーケンスを含む文脈言語モデル内の候補の１又はそれ以上の用語を探索することによって各候補に割り当てられ、文脈言語モデルからの候補の１又はそれ以上の用語に対応する確率を候補に割り当てる。この方法の最終ステップは、対応する第１の確率推定値に基づいて１又はそれ以上の候補を廃棄するステップ（３００）を含む。
【０１７１】
この方法の他の態様は、上述したシステムに類似し、例えば方法の好ましい実施形態では、１又はそれ以上の候補を生成するステップが、候補生成器２を用いて入力シーケンスから確率的制約シーケンスグラフ（「ＰＣＳＧ」）を生成し、用語境界ノードを挿入するステップを含む。
【０１７２】
文脈候補推定値を決定するための一般化構造（及び特にワイルドカード分岐）をＰＣＳＧに実装するシステムに関して上述したように、方法の好ましい実施形態では、シーケンス予測の組の少なくとも１つが、ユーザがユーザインターフェイスに入力したテキストの調整又は訂正バージョンに対応する。
【０１７３】
この説明はほんの一例にすぎず、説明した実施形態には、特許請求の範囲に定める本発明の範囲から逸脱することなく変更及び修正を行うことができると理解されるであろう。
【図１】
0006335794.tif 000057
【図２ａ】
0006335794.tif 000058
【図２ｂ】
0006335794.tif 000059
【図３】
0006335794.tif 000060
【図４】
0006335794.tif 000061