(57)【要約】【課題】  句の間の翻訳関係を学習するための統計的な方法および装置を提供する。【解決手段】  本発明は、ソース言語において特定された学習されるべき句を伴う並列に整列されたコーパスを受け取ることによって句の翻訳関係を学習する。ターゲット言語における候補句が生成され、ソース言語の句内部の語と候補句内部の語に関する語の関連スコアに基づいて内部スコアが計算される。ソース言語の句外部の語と候補句外部の語に関する語の関連スコアに基づいて外部スコアが計算される。内部スコアと外部スコアが結合されて合併スコアが獲得される。【選択図】  図３
2004171575.tif 000002
【特許請求の範囲】
【請求項１】
ソース言語における句とターゲット言語における句との間の翻訳関係を特定する方法であって、
１つが前記ソース言語におけるソースユニットであり、もう１つが前記ターゲット言語におけるターゲットユニットである、前記ソース言語の句が前記ソースユニットにおいて特定された、複数の語ユニットの整列されたペアに対するアクセスを受け取るステップと、
前記ソース言語の句の仮定された翻訳である、前記ターゲットユニットにおける少なくとも１つの候補句を生成するステップと、
各候補句に関して、前記ソース言語の句内部の語と前記候補句内部の語の間との関連に基づく内部成分と、前記ソース言語の句外部の語と前記候補句外部の語との間の関連に基づく外部成分とを含むスコアを計算するステップと、
前記スコアに基づいて前記ソース言語の句と前記候補句との間の翻訳関係を特定するステップと
を備えることを特徴とする方法。
【請求項２】
ペアは、前記ソースユニットにおける語と、前記ターゲットユニットにおける語とを含み、前記ソースユニットにおける語と前記ターゲットユニットにおける語とのペアの間の関連の度合いを示す個々の語の関連スコアを有する
ことを特徴とする請求項１に記載の方法。
【請求項３】
前記スコアを計算するステップは、
前記ソース言語の句内部の語と前記候補句内部の語との間の関連の度合いを示す内部スコアを計算するステップと、
前記ソース言語の句外部の前記ソースユニットにおける語と前記候補句外部の前記ターゲットユニットにおける語との間の関連の度合いを示す外部スコアを計算するステップとを含む
ことを特徴とする請求項２に記載の方法。
【請求項４】
前記スコアを計算するステップは、
前記内部スコアと前記外部スコアとを結合して合併スコアを得るステップを含む
ことを特徴とする請求項３に記載の方法。
【請求項５】
前記翻訳関係を特定するステップは、
前記合併スコアに基づいて前記ソース言語の句と前記候補句との間の翻訳関係を特定するステップを含む
ことを特徴とする請求項４に記載の方法。
【請求項６】
前記少なくとも１つの候補句を生成するステップは、
前記個々の語の関連スコアに基づいて前記候補句を生成するステップを含む
ことを特徴とする請求項１に記載の方法。
【請求項７】
前記ソースユニットにおける各語は、その各語に最も強く関連しているヌル語を含む、前記ターゲットユニットにおける語を示す語の関連を有し、前記ターゲットユニットにおける各語は、その各語に最も強く関連している、ヌル語を含む、前記ソースユニットにおける語を示す語の関連を有し、前記アクセスを受け取るステップは、
最も強く関連している語ペアの出現のカウントを生成するステップを含む
ことを特徴とする請求項５に記載の方法。
【請求項８】
前記候補句における大文字使用パターンを検出するステップと、
前記大文字使用パターンに基づいて前記合併スコアを調整するステップと
をさらに備えることを特徴とする請求項５に記載の方法。
【請求項９】
前記大文字使用パターンを検出するステップは、
前記候補句における第１の語が大文字で始まる第１のパターンと、
前記候補句における前記第１の語は大文字で始まらないが、前記候補句における１つまたは複数の後続の語が大文字で始まる第２のパターンと、
前記候補句におけるいずれの語も大文字で始まらない第３のパターンと
の少なくとも１つを検出するステップを含む
ことを特徴とする請求項８に記載の方法。
【請求項１０】
前記大文字使用パターンに基づいて前記合併スコアを調整するステップは、
前記第１のパターンが検出された場合に第１の大文字使用スコアを適用するステップと、
前記第２のパターンが検出された場合に第２の大文字使用スコアを適用するステップと、
前記第３のパターンが検出された場合に第３の大文字使用スコアを適用するステップと  を含むことを特徴とする請求項９に記載の方法。
【請求項１１】
前記内部スコアを計算するステップは、
前記ソース言語の句内部の各語に関して、前記語の関連スコアに基づき、その各語に最も緊密に関連している、ヌル語を含む、前記候補句内部の語を特定するステップと、
前記候補句内部の各語に関して、前記語の関連スコアに基づき、その各語に最も緊密に関連している、ヌル語を含む、前記ソース言語の句内部の語を特定するステップと
によって内部語ペアを特定するステップを含む
ことを特徴とする請求項３に記載の方法。
【請求項１２】
前記内部スコアを計算するステップは、
各内部語ペアに関して、前記内部語ペアにおける１つの語の出現が前記内部語ペアにおける別の語を最も強く関連している語として有する確率を示す内部語ペアの確率を生成するステップと、
前記内部語ペアの確率を結合するステップと
をさらに含むことを特徴とする請求項１１に記載の方法。
【請求項１３】
前記外部スコアを計算するステップは、
前記ソース言語の句の外部の、前記ソースユニットにおける各語に関して、前記語の関連スコアに基づき、その各語に最も緊密に関連している、ヌル語を含む、前記候補句の外部の前記ターゲットユニットにおける語を特定するステップと、
前記候補句の外部の前記ターゲットユニットにおける各語に関して、前記語の関連スコアに基づき、その各語に最も緊密に関連している、ヌル語を含む、前記ソース言語の句の外部の前記ソースユニットにおける語を特定するステップと
によって外部語ペアを特定するステップを含む
ことを特徴とする請求項１２に記載の方法。
【請求項１４】
前記外部スコアを計算するステップは、
各外部語ペアに関して、前記外部語ペアにおける１つの語の出現が前記外部語ペアにおける別の語を最も緊密に関連している語として有する確率を示す外部語ペアの確率を生成するステップと、
前記外部語ペアの確率を結合するステップと
をさらに含むことを特徴とする請求項１３に記載の方法。
【請求項１５】
前記合併スコアを計算するステップは、
前記内部語ペアの確率と前記外部語ペアの確率とを結合するステップを含む
ことを特徴とする請求項１４に記載の方法。
【請求項１６】
前記候補句を生成するステップは、
前記ソース言語の句における語に最も強く関連している前記ターゲットユニットにおけるターゲット言語の語を特定するステップと、
前記ソース言語の句における語が最も強く関連している前記ターゲットユニットにおけるターゲット言語の語を特定するステップと
を含むことを特徴とする請求項１に記載の方法。
【請求項１７】
前記候補句を生成するステップは、
特定されたターゲット言語の語で始まり、特定されたターゲット言語の語で終わる語のシーケンスに限定された前記ターゲットユニットにおける語のシーケンスとして候補句を生成するステップをさらに含む
ことを特徴とする請求項１６に記載の方法。
【請求項１８】
前記候補句を生成するステップは、
大文字で始まるターゲット言語の語で始まり、特定されたターゲット言語の語で終わる候補句をさらに生成するステップをさらに含む
ことを特徴とする請求項１７に記載の方法。
【請求項１９】
前記句の翻訳関係を特定するステップは、
候補句に関する前記合併スコアに基づき、前記コーパス全体にわたってどれだけ頻繁に候補句が前記ソース言語の句の翻訳として生成されているかに基づいて、各候補句に関連する前記合併スコアを変更して新しい合併スコアを得るステップを含む
ことを特徴とする請求項５に記載の方法。
【請求項２０】
前記合併スコアを変更するステップは、
前記合併スコアに基づいて前記コーパスにおける各ソース言語の句がどれだけ頻繁に所与の候補句として翻訳されているかについてのカウントを生成するステップを含む
ことを特徴とする請求項１９に記載の方法。
【請求項２１】
前記合併スコアを変更するステップは、
生成された前記カウントから各候補句に関連する新しい内部スコアを推定するステップをさらに含む
ことを特徴とする請求項２０に記載の方法。
【請求項２２】
前記合併スコアを変更するステップは、
前記新しい内部スコアにスケールファクタを適用して、スケーリングされた内部スコアを得るステップをさらに含む
ことを特徴とする請求項２１に記載の方法。
【請求項２３】
前記合併スコアを変更するステップは、
各候補句に関して、前記スケーリングされた内部スコアと前記外部スコアとを結合して、各候補句に関する前記新しい合併スコアを得るステップをさらに含む
ことを特徴とする請求項２２に記載の方法。
【請求項２４】
前記句の翻訳関係を特定するステップは、
各ユニットペアおよび各ソース言語の句に関して、前記新しい合併スコアに基づいて候補句を前記ソース言語の句の最も可能性の高い翻訳として特定し、特定された前記候補句にカウントを割り当てるステップ
によって前記新しい合併スコアを所望の形態に変換するステップを含む
ことを特徴とする請求項１９に記載の方法。
【請求項２５】
前記変換するステップは、
前記新しい合併スコアに基づいて対数尤度比スコアを計算するステップを含む
ことを特徴とする請求項２４に記載の方法。
【請求項２６】
前記変換するステップは、
各ユニットペア、各ソース言語の句に関して、前記対数尤度比スコアに基づいて最良候補句にカウントを割り当てるステップをさらに含む
ことを特徴とする請求項２５に記載の方法。
【請求項２７】
前記変換するステップは、
割り当てられた前記カウントに基づいて新しい対数尤度比スコアを計算するステップをさらに含む
ことを特徴とする請求項２６に記載の方法。
【請求項２８】
前記変換するステップは、
前記最良候補句が安定するまで、前記カウントを割り当てるステップと前記新しい対数尤度比スコアを計算するステップとを繰り返すステップをさらに含む
ことを特徴とする請求項２７に記載の方法。
【請求項２９】
複数語ソースユニットにおける特定されたソース言語の句に対する複数語ターゲットユニットにおける句の翻訳を特定するためのシステムであって、
前記ソース言語の句内部の語とターゲット言語の句内部の語との間の語の関連、および前記ソース言語の句外部の語と前記ターゲット言語の句外部の語との間の語の関連に基づいて、１つまたは複数の候補句、および各候補句に関するスコアを生成するように構成された、個々の単語の関連モデル
を備えたことを特徴とするシステム。
【請求項３０】
前記ソースユニットと前記ターゲットユニットとは、整列されたコーパスの一部であるシステムであって、
前記コーパス全体にわたって前記ソース言語の句に対して生成された他の候補句に基づいて前記スコアを変更して、変更されたスコアを得るように構成されたクロスセンテンスモデル
をさらに備えたことを特徴とする請求項２９に記載のシステム。
【請求項３１】
前記ソース言語の句の翻訳としての前記候補句に関連する信頼性レベルを示す所望の信頼性メトリックに、変更された前記スコアを変換するように構成された変換モデル
をさらに備えたことを特徴とする請求項３０に記載のシステム。
【請求項３２】
ソース言語の複数語ソースユニットにおける特定された句の仮定された翻訳としてターゲット言語の複数語ターゲットユニットにおける候補句を生成する方法であって、
前記ソース言語の句における語に最も強く関連している前記ターゲットユニットにおける第１のターゲット言語の語を特定するステップと、
前記ソース言語の句における語に最も強く関連している前記ターゲットユニットにおける第２のターゲット言語の語を特定するステップと、
第１のターゲット言語の語または第２のターゲット言語の語で始まり、第１のターゲット言語の語または第２のターゲット言語の語で終わる句として、前記候補句を生成するステップと
を備えることを特徴とする方法。
【請求項３３】
前記候補句を生成するステップは、
大文字で始まる語で始まり、第１のターゲット言語の語または第２のターゲット言語の語で終わる句として、追加の候補句を生成するステップ
をさらに備えることを特徴とする請求項３２に記載の方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、句の間の関係を学習することに関する。より詳細には、本発明は、相異なる言語における句の間の翻訳関係を学習するための統計的手法に関する。
【背景技術】
【０００２】
機械翻訳システムは、１つの言語でテキスト入力を受け取り、その入力を第２の言語に翻訳し、第２の言語でテキスト出力を提供するシステムである。これを行う際、そのようなシステムは、通常、翻訳レキシコン（lexicon）を使用して、トレーニング中に得られた内容語の間の対応関係、つまり翻訳関係を獲得する。
【０００３】
経験的データから翻訳レキシコンを導出することの一般的な手法は、第１の言語Ｌ１内の語と第２の言語Ｌ２内の語の間における関連の度合いの測度を、並列２言語コーパスの整列させられた文において選択することに関わる。次に、語ペア（Ｌ１からの語とＬ２からの語からなる）が、選択された関連の測度に従うランクによって順序付けられる。しきい値が選択され、関連の度合いがそのしきい値を超えるすべての語ペアの翻訳レキシコンが形成される。
【０００４】
たとえば、１つの従来の手法では、類似性メトリック（語の間の関連の度合いの測度）は、整列させられた並列テキストコーパスの対応する領域（たとえば、文）の中でどれだけ頻繁に語が一緒に出現する（ｃｏ−ｏｃｃｕｒ）かに基づく。異なる語ペアに関する関連スコアが計算され、それらの語ペアが、関連スコアの降順で分類される。この場合も、しきい値が選択され、関連スコアがそのしきい値を超える語ペアが、翻訳レキシコンの中のエントリになる。
【０００５】
しかし、このタイプの方法は、欠点を有する。１つの問題は、関連スコアが、通常、互いに独立に計算されることである。たとえば、言語Ｌ１における語が、ｋがＬ１における相異なる語を表わす整数である記号Ｖｋで表わされ、言語Ｌ２における語が、ｋがＬ２における相異なる語を表わす整数である記号Ｗｋで表わされるものと想定する。したがって、ＶのシーケンスとＷのシーケンスは、２つの整列されたテキストセグメントを表わす。ＷｋとＶｋが類似する２言語文脈（ｂｉｌｉｎｇｕａｌ  ｃｏｎｔｅｘｔ）（たとえば、整列された文の中で）で出現する場合、妥当な類似性メトリックは、ＷｋとＶｋの分布の相互依存性を反映して、ＷｋとＶｋの間で高い関連をもたらす。
【０００６】
ただし、ＶｋとＶｋ＋１も類似の文脈（たとえば、同一の文の中）で出現すると想定する。そうであるとすると、Ｖｋの分布とＶｋ＋１の分布の間にも強い相互依存関係が存在する。したがって、ＷｋとＶｋが類似の文脈で出現し、ＶｋとＶｋ＋１が類似の文脈で出現する場合、ＷｋとＶｋ＋１も類似の文脈で出現するという問題がもたらされる。これは、ＷｋとＶｋの間の関連、およびＶｋ＋１とＶｋの間の関連のためにだけ生じるので、間接関連として知られる。互いとは独立に関連スコアを計算する従来の方法は、直接関連（たとえば、ＷｋとＶｋの間の関連）と間接関連（たとえば、ＷｋとＶｋ＋１の間の関連）を区別することができない。予期されるとおり、これにより、間接関連で一杯の翻訳レキシコンがもたらされ、この目録も不正確な可能性がある。
【０００７】
間接関連の具体例として、主に翻訳されたコンピュータソフトウェアマニュアルからなる並列フランス語−英語コーパスを考慮されたい。このコーパスでは、英語の用語、「ｆｉｌｅ  ｓｙｓｔｅｍ」と「ｓｙｓｔｅｍ  ｆｉｌｅｓ」が非常に頻繁に出現する。同様に、対応するフランス語の用語、「ｓｙｓｔｅｍｅ  ｄｅ  ｆｉｃｈｉｅｒｓ」と「ｆｉｃｈｉｅｒｓ  ｓｙｓｔｅｍｅ」も非常に頻繁に一緒に出現する。これらの一言語内連語（ｍｏｎｏｌｉｎｇｕａｌ  ｃｏｌｌｏｃａｔｉｏｎ）が一般的であるため、擬似の翻訳ペア、ｆｉｃｈｉｅｒ／ｓｙｓｔｅｍおよびｓｙｓｔ□ｍｅ／ｆｉｌｅもかなり高い関連スコアを得る。これらのスコアは、実際、多くの真の翻訳ペアよりも高い可能性がある。
【０００８】
この欠点には、いくつかの従来の技術によって対処がなされている。たとえば、非特許文献１が、この問題を対象としている。
【０００９】
非特許文献１は、翻訳として関連度の高い語ペアが、同じ語の一方または両方に関わるさらに関連度の高いペアが存在する整列された文から導出されている場合、その語ペアを無視することによってこの問題に対処する。言い換えれば、より強い関連が、同様により信頼でき、したがって、直接関連の方が間接関連より強力であると想定される。したがって、Ｖを含む分節（または文）がＷとＷ'をともに含む分節（または文）と整列されている場合、エントリ（Ｖ，Ｗ）と（Ｖ，Ｗ'）がともに翻訳レキシコンの中で出現してはならない。ともに出現する場合は、少なくとも一方が誤っている可能性が高い。直接関連の方が間接関連より強力である傾向にあると想定しているので、最も高い関連スコアを有するエントリが、正しい関連として選択されるエントリである。
【００１０】
前述した例では、フランス語側で「ｆｉｃｈｉｅｒ」と「ｓｙｓｔ□ｍｅ」を含み、英語側で「ｆｉｌｅ」と「ｓｙｓｔｅｍ」を含む並列の英語の文とフランス語の文において、ｆｉｃｈｉｅｒ／ｓｙｓｔｅｍの関連、およびｓｙｓｔｅｍｅ／ｆｉｌｅの関連が無視される。というのは、「ｆｉｃｈｉｅｒ／ｆｉｌｅ」に関する関連度、および「ｓｙｓｔｅｍｅ／ｓｙｓｔｅｍ」に関する関連度の方が、同じ整列された文の中ではるかに高い可能性が大きいからである。
【００１１】
この手法は、それまでに報告されていたよりもはるかに高いカバレッジ（coverage）・レベルに高精度出力を拡張することが報告されているが、欠点も有している。たとえば、この手法は、実施するのが極めて複雑で、面倒であり、実行するのに極めて時間がかかると考えられている。
【００１２】
語の間の翻訳関係を学習する際に遭遇する別の困難は、複合語（または、まとまりとして考えられて複合語を形成する複数語の文）に関わる。そのような複合語は、他方の言語における単一の語に翻訳される、または他方の言語における複数の語に翻訳される可能性がある。従来の技術は、レキシコン翻訳関係が、単独の語だけに関わると想定していた。もちろん、複合語の以下のリストで示されるとおり、この想定は、明らかに事実に反する。
【００１３】
Base_de_donnees/database
Mot_de_passe/password
Sauvegarder/back_up
Annuler/roll_back
Ouvrir_session/.log_on
【００１４】
以上にリストした最初の４つのペアにおいて、１つの言語における複合語が、別の言語における単一の語として翻訳されている。ただし、最後の例では、一方の言語における複合語が、他方の言語における複合語として翻訳されており、その複合語の個々の構成要素のそれぞれを他方の複合語の個々の構成要素の１つに意味のある仕方で翻訳することはできない。たとえば、「ｏｐｅｎ」と通常、翻訳される「ｏｕｖｒｉｒ」を「ｌｏｇ」または「ｏｎ」に無理なく翻訳することはできない。同様に、「ｓｅｓｓｉｏｎ」と通常、翻訳される「ｓｅｓｓｉｏｎ」も、「ｌｏｇ」または「ｏｎ」に無理なく翻訳することはできない。
【００１５】
この問題に対処する１つの従来の試みがまた、非特許文献２で説明されている。非特許文献２は、２つの翻訳モデル、候補複合語に関わる試行翻訳モデル、および候補複合語に関わらない基礎翻訳モデルを説き勧めている。非特許文献２の目的関数の値が、試行モデルにおいて、基礎モデルにおいてよりも高い場合、複合語は、有効であると見なされる。そうではない場合、候補複合語は、無効であると見なされる。ただし、非特許文献２が可能な複合語を選択するのに使用する方法は、極めて複雑であり、計算リソースを多く消費し（ｃｏｍｐｕｔａｔｉｏｎａｌｌｙ  ｅｘｐｅｎｓｉｖｅ）、試行翻訳モデルの構成による非特許文献２の検証方法も同様である。
【００１６】
より大きい句に関する翻訳関係を学習することには、さらに少ない注意しか払われてこなかった。句の翻訳は、非対称的であるか、または対称的であり、固定の句を対象とするか、またはより柔軟な連語を対象とするものと見なされてきた。システムは、１組の句がソース言語において与えられており、課題は、ターゲット言語における翻訳を見出すことであると想定する場合、非対称的であり、他方、対称的システムは、問題を両方の言語において句を見出すことと見なす。同様に、システムは、ソース言語の句の翻訳が、ターゲット言語における連続した一連の語であると想定する場合、固定の句を対象とする。
【００１７】
非対称的であるとともに、固定の句をターゲットとする唯一の以前の取組みが、非特許文献３に記載されている。このシステムは、辞書編集者のための自動化されたアシスタントであり、１言語方法を使用してコーパスから抽出された技術用語を提案し、ユーザによって承認された技術用語に関して、並列コーパスから可能な翻訳を提案する。
【００１８】
柔軟性のある共起を対象とする非対称的システムの例が、非特許文献４に記載されている。対称的システムの例が、非特許文献５および非特許文献６に記載されている。
【００１９】
【非特許文献１】Melamed, Automatic Construction of Clean Broad-Coverage Translation Lexicons, Second Conference of the Association for Machine Translation in the America's (AMTA 1996), Montreal Canada
【非特許文献２】Melamed, Automatic Discovery of Non-Compositional Compounds in Parallel Data, Conference on Empirical Methods in Natural Language Processing (EMNLP 97) Providence, Rhode Island (1997)
【非特許文献３】Dagan and Church, Termight: Coordinating Humans and Machine in Bilingual Terminology Acquisition, Machine Translation, 12: 89-107, (1997)
【非特許文献４】Smadja他, Translating Collocations for Bilingual Lexicons: A Statistical Approach, Computational Linguistics, 22 (1): 1-38 (1996)
【非特許文献５】J. Kupiec, An Algorithm for Finding Noun Phrase Correspondences in Bilingual Corpora, Proceedings of 31st Annual Meeting of Association for Computational Linguistics, Columbus, Ohio pp. 17-22 (1993)
【非特許文献６】K. Yamamoto他, A Competitive Study on Translational Units for Bilingual Lexicon Extraction, Proceedings of the Workshop on Data-Driven Machine Translation, 39th Annual Meeting of Association for Computational Linguistics, Toulouse, France pp. 87-94 (2001)
【非特許文献７】Dunning, Accurate Methods for the Statistics of Surprise and Coincidence, Computational Linguistics, 19 (1): 61-74 (1993)
【発明の開示】
【発明が解決しようとする課題】
【００２０】
従来のシステムには上述したような種々の問題があり、さらなる改善が望まれている。  本発明は、このような状況に鑑みてなされたもので、その目的とするところは、句の間の翻訳関係を学習するための統計的な方法および装置を提供することにある。
【課題を解決するための手段】
【００２１】
本発明は、学習されるべき句がソース言語において特定された、並列に整列されたコーパスを受け取ることによって、句の翻訳関係を学習する。ターゲット言語における候補句が生成され、内部スコアが、ソース言語の句の内部の語と候補句内部の語に関する語の関連スコアに基づいて計算される。外部スコアが、ソース言語の句外部の語と候補句外部の語に関する語の関連スコアに基づいて計算される。内部スコアと外部スコアが結合されて、合併スコアが得られる。
【００２２】
一実施形態では、結合されたスコアは、句がコーパス全体においてどのように翻訳されているかに基づいて変更される。内部スコアは、クロスコーパスデータ（ｃｒｏｓｓ−ｃｏｒｐｕｓ  ｄａｔａ）に基づいて変更され、重みが付けられる。
【００２３】
別の実施形態では、変更されたスコアは、次に、対数尤度比メトリックなどの好都合な翻訳信頼度メトリックに変換される。
【００２４】
本発明の別の態様は、３つのモデルを含む句の翻訳学習システムを含む。第１のモデルは、単語の関連スコアに基づいて候補句に関するスコアを計算する単語の関連モデルである。第２のモデルは、ソース言語の句がコーパス全体でどのように翻訳されているかを示すクロスセンテンスデータ（ｃｒｏｓｓ−ｓｅｎｔｅｎｃｅ  ｄａｔａ）に基づいて、第１のモデルによって計算されたスコアを変更する。第３のモデルは、第２のモデルからの句の翻訳スコアを所望の信頼度メトリックに変換して、変換に基づいて最も可能性の高い句の翻訳の可能な変更を考慮に入れるメトリック変換モデルである。
【００２５】
また、本発明の別の実施形態は、コーパス全体にわたる翻訳データを調べ（内部スコアおよび外部スコアに基づき）、内部スコアを変更して、重み付けを行い、そのスコアを所望の信頼度メトリックに変換することを含む句の翻訳を学習するための方法およびシステムも含む。
【００２６】
別の実施形態は、句の翻訳学習構成要素において候補句を生成するためのシステムおよび方法である。ソース言語の句の中の語と最も強く関連している語で始まる候補句、およびそのような語で終わる候補句が生成されるか、またはその逆が行われる。オプションとして、ターゲット言語文の中で大文字で書かれた語で始まる候補句を生成することができる。
【発明を実施するための最良の形態】
【００２７】
図１の以下の説明は、本発明を使用することが可能な１つの例示的な環境を示すことだけを目的とし、ただし、本発明は、他の環境においても使用することができる。
【００２８】
図１は、本発明の１つの例示的な実施形態によるコンピュータ２０を示すブロック図である。図１、および関連する説明は、本発明を実施することが可能な適切なコンピューティング環境の簡単な一般的説明を提供することを目的とする。必須ではないが、本発明は、少なくとも一部分、パーソナルコンピュータによって実行される、プログラムモジュールなどのコンピュータ実行可能命令の一般的な状況において説明する。一般に、プログラムモジュールには、特定のタスクを行う、または特定の抽象データ型を実装するルーチンプログラム、オブジェクト、構成要素、データ構造等が含まれる。さらに、本発明は、ハンドヘルドデバイス、マルチプロセッサシステム、マイクロプロセッサベースの家庭用電化製品またはプログラマブル家庭用電化製品、ネットワークＰＣ（personal computer）、ミニコンピュータ、メインフレームコンピュータ等を含む他のコンピュータシステム構成を使用しても実施できることが、当業者には認められよう。また、本発明は、通信網を介してリンクされたリモートの処理デバイスによってタスクが行われる分散コンピューティング環境においても実施することができる。分散コンピューティング環境では、プログラムモジュールは、ローカルのメモリ記憶デバイスとリモートのメモリ記憶デバイスの両方に配置されることが可能である。
【００２９】
図１では、本発明を実施するための例示的なシステムが、ＣＰＵ（central processing unit）２１、システムメモリ２２、ならびにシステムメモリからＣＰＵ２１までを含む様々なシステム構成要素を結合するシステムバス２３を含む従来のパーソナルコンピュータ２０の形態で汎用コンピューティングデバイスを含んでいる。システムバス２３は、様々なバスアーキテクチャのいずれかを使用するメモリバスまたはメモリコントローラ、周辺バス、およびローカルバスを含むいくつかのタイプのバス構造のいずれかであることが可能である。システムメモリは、読取り専用メモリ（ＲＯＭ）２４、ランダムアクセスメモリ（ＲＡＭ）２５を含む。スタートアップ中などにパーソナルコンピュータ２０内部の要素間で情報を転送するのを助ける基本ルーチンを含むＢＩＯＳ（Basic Input/Output System）２６が、ＲＯＭ２４の中に記憶されている。パーソナルコンピュータ２０は、ハードディスク（図示せず）に関して読取りおよび書込みを行うためのハードディスクドライブ２７、リムーバブル磁気ディスク２９に関して読取りおよび書込みを行うための磁気ディスクドライブ２８、およびＣＤ（compact disc）  ＲＯＭまたはその他の光媒体などのリムーバブル光ディスク３１に関して読取りおよび書込みを行うための光ディスクドライブ３０をさらに含む。ハードディスクドライブ２７、磁気ディスクドライブ２８、および光ディスクドライブ３０は、それぞれ、ハードディスクドライブインタフェース３２、磁気ディスクドライブインタフェース３３、および光ドライブインタフェース３４でシステムバス２３に接続される。以上のドライブおよび関連するコンピュータ可読媒体によって、コンピュータ可読命令、データ構造、プログラムモジュール、およびその他のデータの不揮発性ストレージが、パーソナルコンピュータ２０に提供される。
【００３０】
本明細書で説明する例示的な環境は、ハードディスク、リムーバブル磁気ディスク２９、およびリムーバブル光ディスク３１を使用するが、磁気カセット、フラッシュメモリカード、デジタルビデオディスク、ベルヌーイカートリッジ、ランダムアクセスメモリ（ＲＡＭ）、読取り専用メモリ（ＲＯＭ）などの、コンピュータによってアクセス可能なデータを記憶することができる他のタイプのコンピュータ可読媒体も、例示的な動作環境において使用できることが、当業者には認められよう。
【００３１】
オペレーティングシステム３５、１つまたは複数のアプリケーションプログラム３６、他のプログラムモジュール３７、およびプログラムデータ３８を含め、いくつかのプログラムモジュールが、ハードディスク、磁気ディスク２９、光ディスク３１、ＲＯＭ２４、またはＲＡＭ２５に記憶されることが可能である。ユーザは、キーボード４０やポインティングデバイス４２などの入力デバイスを介してパーソナルコンピュータ２０に、コマンドおよび情報を入力することができる。他の入力デバイス（図示せず）には、マイクロホン、ジョイスティック、ゲームパッド、衛星放送受信アンテナ、スキャナ等が含まれることが可能である。以上の入力デバイス、およびその他の入力デバイスは、しばしば、システムバス２３に結合されたシリアルポートインタフェース４６を介してＣＰＵ２１に接続されるが、サウンドカード、パラレルポート、ゲームポート、またはユニバーサルシリアルバスＵＳＢ（Universal Serial Bus）などの他のインタフェースで接続されることも可能である。また、モニタ４７、またはその他のタイプの表示デバイスも、ビデオアダプタ４８などのインタフェースを介してシステムバス２３に接続される。モニタ４７に加えて、パーソナルコンピュータは、通常、スピーカやプリンタ（図示せず）などの他の周辺出力デバイスも含むことが可能である。
【００３２】
パーソナルコンピュータ２０は、リモートコンピュータ４９のような１つまたは複数のリモートコンピュータに対する論理接続を使用するネットワーク化された環境において動作することができる。リモートコンピュータ４９は、別のパーソナルコンピュータ、サーバ、ルータ、ネットワークＰＣ、ピアデバイス、または他のネットワークノードであることが可能であり、通常、パーソナルコンピュータ２０に関連して前述した要素の多く、またはすべてを含むが、メモリ記憶デバイス５０だけを図１に示している。図１に描いた論理接続は、ＬＡＮ（ローカルエリアネットワーク）５１、およびＷＡＮ（ワイドエリアネットワーク）５２を含む。そのようなネットワーキング環境は、オフィス、企業全体のコンピュータ網のイントラネット、およびインターネットにおいて一般的である。
【００３３】
ＬＡＮネットワーキング環境において使用される場合、パーソナルコンピュータ２０は、ネットワークインタフェースまたはネットワークアダプタ５３を介してローカルエリアネットワーク５１に接続される。ＷＡＮネットワーキング環境において使用される場合、パーソナルコンピュータ２０は、通常、インターネットなどのワイドエリアネットワーク５２を介して通信を確立するためのモデム５４、またはその他の手段を含む。内部にあることも外部にあることも可能なモデム５４は、シリアルポートインタフェース４６を介してシステムバス２３に接続される。ネットワーク環境では、パーソナルコンピュータ２０に関連して描いたプログラムモジュール、またはプログラムモジュールの部分は、リモートのメモリ記憶デバイスの中に記憶されることが可能である。図示したネットワーク接続は、例示的であり、コンピュータ間で通信リンクを確立するための他の手段も使用できることが認められよう。
【００３４】
本発明を利用して、実質的にあらゆる環境または状況において句の間の翻訳関係を導出することができる。以下に説明する機械翻訳アーキテクチャは、１つの環境、または１つの状況に過ぎない。
【００３５】
論理形式は、本発明に必須ではないが、図２Ａに示した機械翻訳アーキテクチャに関連して説明する。したがって、そのアーキテクチャを詳細に説明することに先立ち、論理形式を簡単に説明することが役立つ。論理形式、および論理形式を生成するためのシステムおよび方法の完全で詳細な説明は、ハイドーン（Ｈｅｉｄｏｒｎ）他に１９９９年１０月１２日に発行された、「構文ツリーから意味論理形式を計算するための方法およびシステム」という名称の米国特許第５，９６６，６８６号明細書で見ることができる。ただし、簡単に述べると、論理形式は、入力テキストに対して形態解析を行い、文法関係で強化された従来の句構造解析をもたらすことによって生成される。構文解析は、テキスト入力の中の内容語の間のラベル付けされた依存関係を記述するグラフ構造である論理形式を導出するために、さらに処理を受ける。論理形式は、ある構文上の交替（たとえば、能動／受動）を正規化し、文の内部の前方照応（ｉｎｔｒａｓｅｎｔｅｎｔｉａｌ  ａｎａｐｈｏｒａ）と遠く離れた依存関係とをともに解決する。
【００３６】
具体的には、論理関係は、方向関係タイプ（たとえば、部分、時間、上位語、論理主語、原因、領域、場所、やり方、材料、手段、修飾語、所有者、目的、擬似上位語、類義語、論理対象、およびユーザ）によって合併された２つの語からなる。論理形式は、文などの単一のテキスト入力を表わす結合された論理関係のグラフである。論理形式は最低１つの論理関係からなる。論理形式は、構造上の関係（すなわち、構文関係および意味関係）、特に入力ストリングにおける重要な語の間の文法項（ａｒｇｕｍｅｎｔ）関係および／または修飾語句（ａｄｊｕｎｃｔ）関係を描写する。
【００３７】
機械翻訳アーキテクチャの１つの例示的な実施形態では、構文解析から論理形式を構築する特定のコードが、機械翻訳システムが処理する様々なソース言語およびターゲット言語にわたって共用される。共用されるアーキテクチャにより、異なる言語から論理形式分節を整列させる作業が大幅に単純化される。というのは、２つの言語における表面的に異なった構成体が、しばしば、類似の、または同一の論理形式表現に縮約されるからである。
【００３８】
図２Ａは、本発明のための環境の一実施形態を定義する機械翻訳システム２００のアーキテクチャを示すブロック図である。システム２００は、構文解析構成要素２０４および２０６、統計的語関連学習構成要素２０８、論理形式整列構成要素２１０、語彙知識ベース構築構成要素２１２、２言語辞書２１４、辞書マージ構成要素２１６、転位（transfer）マッピングデータベース２１８、および更新された２言語辞書２２０を含む。ランタイム中、システムは、解析構成要素２２２、マッチング構成要素２２４、転位構成要素２２６、および生成構成要素２２８を利用する。
【００３９】
１つの例示的な実施形態では、２言語コーパスを使用してシステムがトレーニングされる。２言語コーパスは、翻訳関係が学習されるべきソース言語の句が特定されている、または何らかの形でマークが付けられている整列された翻訳済みの文（たとえば、スペイン語、またはフランス語などのソース言語またはターゲット言語の他方における翻訳と整列された、英語などのソース言語またはターゲット言語の文）を含む。トレーニング中、文が、整列された２言語コーパスからソース言語文２３０（翻訳されるべき文）、およびターゲット言語文２３２（ソース言語文の翻訳）としてシステム２００に送り込まれる。構文解析構成要素２０４および２０６が、整列された２言語コーパスからの文を構文解析して、ソース論理形式２３４およびターゲット論理形式２３６を生成する。構文解析中、文の中の語が、正規化された語の形態（見出し語（ｌｅｍｍａ））に変換され、統計的語関連学習構成要素２０８に送り込まれる。単独語の関連、および複数語の関連が、それぞれに関する信頼できるセットが得られるまで学習構成要素２０８によって反復的に仮定され、スコアが付けられる。統計的語関連学習構成要素２０８は、学習された単独語翻訳ペア２３８、ならびに複数語ペア２４０を出力する。複数語ペア２４０は、２言語辞書２１４に追加のエントリを追加して更新された２言語辞書２２０を形成するのに使用される辞書マージ構成要素２１６に提供される。新しいエントリは、複数語ペア２４０を表わすものである。単独語ペア２３８、ならびにソース論理形式２３４およびターゲット論理形式２３６は、論理形式整列構成要素２１０に提供される。構成要素２１０はまず、それぞれソース論理形式２３０およびターゲット論理形式２３６におけるノード間で試験的な語彙対応を確立する。これは、統計的語関連学習構成要素２０８からの単独語翻訳ペア２３８で強化された２言語のレキシコン（または２言語辞書）２１４からの翻訳ペアを使用して行われる。また、辞書２１４は、図２Ｂに関連して説明した句の翻訳ペアによっても強化が行われる。可能な対応を確立した後、整列構成要素２１０が、語彙特性と構造特性の両方に従って論理形式ノードを整列させ、論理形式転位マッピング２４２を生成する。
【００４０】
基本的に、整列構成要素２１０は、２言語辞書情報２１４、単独語ペア２３８、および以下に説明する句ペアを使用して論理形式間にリンクを描く。転位マッピングは、ソース論理形式２３４およびターゲット論理形式２３６で見出される頻度に基づいてフィルタされ、語彙知識ベース構築構成要素２１２に提供される。
【００４１】
一例では、転位マッピングは、トレーニングデータの中で少なくとも２回、見られない場合、転位マッピングデータベース２１８を構築するのに使用されない。ただし、任意の他の所望の頻度をフィルタとして使用することも可能である。また、出現の頻度以外の他のフィルタリング技術も使用できることに留意されたい。たとえば、転位マッピングは、入力文の完全な構文解析から形成されているかどうか、また転位マッピングを生成するのに使用された論理形式が完全に整列しているかどうかに基づいてフィルタすることができる。
【００４２】
構成要素２１２が、基本的に、１つの言語における論理形式または論理形式の部分を、第２の言語における論理形式または論理形式の部分にリンクする、転位マッピングを含む転位マッピングデータベース２１８を構築する。このように転位マッピングデータベース２１８が生成されると、その時点で、システム２００が、ランタイム翻訳のために構成されている。
【００４３】
ランタイム中、翻訳されるべきソース言語文２５０が、解析構成要素２２２に提供される。解析構成要素２２２は、ソース言語文２５０を受け取り、以下に説明する１言語辞書にアクセスし、ソース言語文入力に基づいてソース言語文２５０を構文解析してソース論理形式２５２を生成する。
【００４４】
ソース論理形式２５２は、マッチング構成要素２２４に提供される。マッチング構成要素２２４は、リンクされた論理形式２５４を得るためにソース論理形式２５２を転位マッピングデータベース２１８の中の論理形式にマッチさせることを試みる。複数の転位マッピングがソース論理形式２５２の部分にマッチする可能性がある。マッチング構成要素２２４は、マッチする見出し語、マッチする品詞、およびマッチする他の特徴情報を有するマッチする転位マッピングの最良のセットをデータベース２１８の中で探索する。より大きい（より具体的な）転位マッピングが、例として、より小さい（より一般的な）転位マッピングより選好される。等しいサイズのマッピングのなかで、マッチング構成要素２２４は、例として、より高い頻度のマッピングを選好することが可能である。また、マッピングは、ソース論理形式２５２の重なり合う部分をマッチさせることも、その重なり合う部分が全く競合しないという条件付きで可能である。
【００４５】
マッチする転位マッピングの最適セットが見出された後、マッチング構成要素２２４は、転位マッピングによって受け取られた対応するターゲット論理形式分節のコピーに対するリンクをソース論理形式２５２におけるノード上で作成して、リンクされた論理形式２５４を生成する。
【００４６】
転位構成要素２２６は、マッチング構成要素２２４からリンクされた論理形式２５４を受け取り、ターゲット翻訳の基礎を成すターゲット論理形式２５６を生成する。これは、ソース論理形式２５２のノード上のリンクによって指し示されるターゲット論理形式分節が結合されたリンクされた論理形式２５４の上から下へのトラバーサル（ｔｒａｖｅｒｓａｌ）を行うことによって行われる。複雑である可能性がある複数語マッピングに関して論理形式分節を結合する場合、個々のノード間でマッチング構成要素２２４によって設定されたサブリンクを使用して、修飾語に関する正しい付加ポイントを決めること等が行われる。必要な場合、デフォルトの付加ポイントが使用される。
【００４７】
適用可能な転位マッピングが全く見付からない場合、ソース論理形式２５２におけるノード、およびそのノードの関係が、単にターゲット論理形式２５６にコピーされる。それでも、それらのノードに関してデフォルトの単独語翻訳および句の翻訳が転位マッピングデータベース２１８の中で見付かり、ターゲット論理形式２５６の中に挿入される可能性がある。しかし、全く見付からなかった場合、翻訳は、例として、整列中に使用した更新された２言語辞書２２０から獲得することが可能である。
【００４８】
生成構成要素２２８は、例として、ターゲット論理形式２５６からターゲットストリング（または出力ターゲット言語文）２５８にマップする規則ベースのアプリケーション独立生成構成要素である。生成構成要素２２８は、例として、入力論理形式のソース言語に関する情報を全く有さず、転位構成要素２２６によって送られた情報だけを使用して機能する。また、生成構成要素２２８は、例として、この情報を１言語（たとえば、ターゲット言語）辞書と併せて使用してターゲット言語文２５８を生成する。したがって、各言語に関して１つの一般的な生成構成要素２２８で十分である。
【００４９】
図２Ｂは、句の翻訳を学習するため、および図２Ａで示したシステムにおいて使用される１言語辞書および２言語辞書を強化するための、システム３００を示すより詳細なブロック図である。システム３００は、整列された２言語コーパスから句の翻訳を学習し、２言語辞書２１６を強化して更新された２言語辞書２２０を獲得するため、および１言語辞書３０２を強化して更新された１言語辞書３０４を獲得するために使用される。更新された１言語辞書３０４は、構文解析構成要素２０４および／または２０６（図２Ａに示す）によってトレーニング時に使用され、解析構成要素２２２（やはり図２Ａに示す）によってランタイム中に使用される。いくつかのアイテムは、図２Ａで述べているものと同じであり、同様の符号が付けられている。
【００５０】
ソース言語文２３０およびターゲット言語文２３２は、図２Ａに関連して説明したとおり、整列されたトレーニングコーパスからの整列された文である。文２３０および２３２が、構文解析構成要素２０４および２０６に提供される。構文解析構成要素２０４および２０６は、その文を構文解析して、複数語の句にマークを付けることによってその文をトークン化する（ｔｏｋｅｎｉｚｅ）。トークン化された文は、トークン化されたソース言語文３１０およびトークン化されたターゲット言語文３１２によって示される。構文解析器は、様々な複数語の句にマークを付けることができる。
【００５１】
トークン化された文３１０および３１２は、句の翻訳学習構成要素４００に入力される。句の翻訳学習構成要素４００は、トークン化されたソース言語文３１０から関心対象の句を選択する。句の翻訳学習構成要素４００は、次に、選択されたマークが付いたソース言語の句と整列されたターゲット言語文におけるその翻訳の間の関連を学習し、ブロック４１０で示されるとおり、翻訳ペアとその関連スコアを出力する。
【００５２】
句ペアおよび関連するスコア４１０は、句ペアとスコアを２言語辞書２１４にマージして更新された２言語辞書２２０を生成する辞書マージ構成要素２１６に提供される。また、辞書マージ構成要素２１６は、選択されたソース言語の句の翻訳として特定されたターゲット言語の句で１言語ターゲット言語辞書３０２を強化して、更新された１言語ターゲット言語辞書３０４を獲得することも行う。新たに学習されたターゲット言語の句が組み込まれたこの更新された１言語辞書は、したがって、図２Ａに関連して説明したとおり、論理形式整列に関して入力文を構文解析する際により良好に機能することが可能である。さらに、更新された２言語辞書における学習された翻訳関係により、整列自体の働きも向上する。
【００５３】
以上の状況に留意して、以下に本説明は、句の翻訳を学習することに関連してより具体的に述べる。本発明は、生の入力テキストを構文解析する際に生じる問題に対処するのに使用することができる。背景技術のセクションで述べたとおり、句を翻訳する取組みは、ほとんど行われてこなかった。この問題は、多くのタイプのテキスト、特にあるタイプの技術テキストでは、句が通常の形で使用されず、その特定の分野における何物かの名称として使用されるため、さらにより困難になる。たとえば、文、「Click to remove the View As Web Page check mark.」は、非定形動詞句の統語形態を有する用語、「Ｖｉｅｗ  Ａｓ  Ｗｅｂ  Ｐａｇｅ」を含む。しかし、この文の中で、この用語は、あたかも固有名詞であるかのように使用されている。構文解析器は、その句のこの特殊用法を認識しない場合、文を正しく構文解析することが実質的に不可能である。
【００５４】
英語では、このタイプの表現が、単純明快な仕方で扱われることが可能である。これは、主に、英語における大文字使用の慣習により、それらのタイプの句を認識することが容易になっているからである。構文解析を行うことに先立って入力テキストをトークン化するのに使用されるトークン化器は、「Ｖｉｅｗ  Ａｓ  Ｗｅｂ  Ｐａｇｅ」などの大文字で書かれた語のシーケンスが、語彙化された複数語表現として扱われるべきであると仮定する。複数語のこのサブクラスを本明細書では、「キャプトイド（ｃａｐｔｏｉｄ）」と呼ぶ。
【００５５】
ただし、これらのキャプトイドの翻訳を特定することは、非常に困難である。これは、主に、他の言語（たとえば、フランス語またはスペイン語などの）における大文字使用の慣習では、そのような表現の最初の語だけが大文字で書かれるからである。したがって、キャプトイドがどこで始まり、どこで終わるかを特定することが英語では比較的単純明快であるが、他の言語では非常に困難である。
【００５６】
本発明を使用して、キャプトイドの翻訳を特定し、構文解析器によって使用される１言語のレキシコン、および機械翻訳システム内の様々な他の箇所で使用される２言語のレキシコンにその翻訳を追加し、キャプトイドを正確に構文解析し、翻訳できるようにすることが可能である。本発明は、英語では、そのようなキャプトイドを単純明快な仕方で特定することができることを利用し、また、複合語を特定するのに使用することができる本発明の機能も利用する。図３は、本発明の一実施形態による句の翻訳学習構成要素４００をより詳細に示している。句の翻訳学習構成要素４００は、キャプトイドに関わる句の間の関連を学習することに適しているが、実質的にあらゆる句に関しても同様である。
【００５７】
図３は、構成要素４００がトークン化された文３１０および３１２を受け取り、トークン化済みの整列された文を処理のために３つの異なるモデルに提供する構成要素４００を示している。まず、整列された文３１０および３１２が、単語の関連スコアモデル４０４に提供され、次に、クロスセンテンスモデル４０６に提供され、最後に、翻訳ペア、および関連するスコア４１０を出力する信頼性測度変換モデル４０８に提供される。
【００５８】
構成要素４００は、句がソース言語文において特定されている整列されたトークン化済みの文３１０および３１２を受け取り、次に、ターゲット言語文における対応する句を自動的に学習する。ターゲット言語の句は、翻訳ペアおよび関連するスコア４１０から抽出することができ、トレーニング中およびランタイム中にターゲット言語を構文解析する際に使用されるレキシコンに追加することができる。さらに、翻訳ペアは、２言語翻訳辞書２１４（図２Ａおよび２Ｂでも示す）に追加することができる。
【００５９】
構成要素４００は、トークン化された文の代わりに論理形式を処理することもできる。さらに、構成要素４００を機械翻訳機の外部で使用することも可能である。たとえば、構成要素４００を辞書を形成する際に、または単に句の翻訳スコアまたは句の翻訳関係を生成するために使用することができる。
【００６０】
図４は、図３に示した構成要素４００の全体的な動作をよりよく示す流れ図である。構成要素４００はまず、翻訳されるべき句がソース言語において特定されている並列に整列された文を受け取る。これが、ブロック４２０で示されている。翻訳されるべき句は、ターゲット言語における連続した一連の語としてターゲット言語に翻訳されるものと想定されていることに留意されたい。さらに、翻訳されるべき句が、ターゲット言語文においてソース言語文と全く同じ形態で出現する場合、その文の中の対応する句は、１．０の確率を有する所望の翻訳であるものと想定される。
【００６１】
いずれにしても、整列された構文解析済みでトークン化済みの文が、システム４００内の単語の関連スコアモデル４０４に提供される。モデル４００は、例として、前述した単語ペアおよび複数語ペアに関する語の関連スコアを計算する統計的語関連学習器２０８の部分に対応することが可能であり、ただし、複数語は、複数語を構成する単独語に分解されてから、語の関連スコアが計算されるところが異なる。言い換えれば、ソース言語文における語（Ｗｓ）とターゲット言語文における語（Ｗｔ）の間の関連の度合いは、コーパスの整列された文の中でＷｓとＷｔが共起する頻度との比較における、コーパスのソース言語（Ｓ）部分の文の中でＷｓが出現する頻度、およびコーパスのターゲット言語（Ｔ）部分の文の中でＷｔが出現する頻度として計算される。
【００６２】
トレーニングコーパスにおける語ペア間の統計的語の関連を示すスコアを提供する語の関連メトリックが使用されてきた。１つのそのようなメトリックは、非特許文献７においてダニング（Ｄｕｎｎｉｎｇ）が説明している対数尤度比統計である。この統計は、トレーニングデータにおける言語１（ＷＬ１）における語または見出し語の全体的な頻度を、言語２（ＷＬ２）における語または見出し語を所与とした言語１（ＷＬ１）における語または見出し語の頻度（すなわち、ＷＬ２が出現するＬ２の文と整列された、Ｌ１の文の中で、ＷＬ１が出現する頻度）と比較するのに使用される。したがって、対数尤度比統計により、ＷＬ１とＷＬ２との間の観察された正の関連が偶然ではない尤度の測度が提供される。
【００６３】
また、関連スコアが計算される語ペアのリストを剪定（prune）することもできる。言い換えれば、語の関連スコアを計算するプロセスにより、大きいトレーニングコーパスに関して、多数の語（または見出し語）ペアに関する関連スコアが生成される。したがって、１つの例示的な実施形態では、語ペアのセットが剪定されて、さらなる処理が、翻訳ペアとして考慮される少なくとも何らかの可能性を有するペアだけに制限される。１つの例示的なヒューリスティック（heuristic）は、１回の他の出現に加えて、それぞれ１回の共起を有する語または見出し語のペアの関連の度合いに、このしきい値を設定する。
【００６４】
このように、モデル４０４は、対数尤度比統計を使用して、整列された文の中の語ペアに関する語の関連スコアを計算する。これが、図４のブロック４２２で示されている。
【００６５】
これらのスコアに基づき、単語の関連スコアモデル４０４は、ソース言語文の中の各特定された句に関して、ターゲット言語文の中の候補句を仮定する。次に、モデル４０４は、文ペアを、特定されたソース言語の句および候補句の範囲内にある文ペアの部分と、特定されたソース言語の句および候補句の範囲外にある文の部分に区分する。
【００６６】
対数尤度比統計は、単独語翻訳関係（スコアが高いほど、関連が真の翻訳関係である可能性がより高い）を学習するための優れた基礎であることが実証されているが、単語ペアに関するスコアを結合して句の翻訳候補に関する合成スコアにすることは困難である。
【００６７】
したがって、モデル４０４は、内部区分に関する語の関連スコア、および外部区分に関する語の関連スコアから確率（これは、容易に結合することができる）を生成する。このことは、図５Ａおよび５Ｂに関連してより詳細に説明する。ただし、簡単に述べると、モデル４０４は、ソース言語の句における語と候補句の翻訳との間、およびその逆で見出されることが可能な最も強力な関連に関する関連確率の対数を合計することにより、ターゲット言語文の内部部分に関する合併確率スコアを計算する。この合併確率は、内部スコアと呼ばれる。内部スコアは、候補句の翻訳の中にないターゲット言語の語に対する、特定されたソース言語の句の中にないソース言語の語に関して、およびその逆で見出される可能性がある最も強力な関連に関する関連確率の対数の合計に加算される。これは、外部スコアと呼ばれる。したがって、候補翻訳の中にないターゲット言語の語が、特定されたソース言語の句の中のソース言語の語に関連する高い確率を有する場合、その候補翻訳は、その特定のターゲット言語の語を含んでいる別の候補翻訳よりも低いスコアを獲得する可能性が高い。
【００６８】
次に、モデル４０４は、オプションとして、内部スコアに加算され、いくつかの大文字使用パターンに関して推定された対数確率である大文字使用確率スコアを計算し、適用する。これも、図５Ａおよび５Ｂに関連して以下に詳細に説明している。モデル４０４の適用が、図４にブロック４２４で示されている。
【００６９】
次に、区分スコアが、クロスセンテンスモデル４０６に提供される。モデル４０６は、整列されたコーパスにおけるすべての文にわたる特定の句の翻訳の傾向を考慮することの効果を有する。所与の句がいくつかの文において明らかに好ましい翻訳を有する場合、単語の関連確率では、句の翻訳が不明確なままになる文の中の句に関する翻訳を選択する際に、それを考慮に入れることができる。
【００７０】
モデル４０６の適用は、図１０に関連してより詳細に説明しているが、明確にするために、ここで簡単に説明する。モデル４０６は、ソース言語の句を所与として候補句が出現する条件付き確率の直接推定と、候補句を所与としてソース言語の句が出現する条件付き確率の直接推定の積の対数で、モデル４０４において生成された内部スコアを置き換える。次に、改訂された内部スコアが、スケール変更され、元の語の関連ベースの外部スコアに結合される。改訂された内部スコアに関する初期値は、モデル４０４を使用して推定され、ＥＭアルゴリズムを使用して反復的に再推定される。これは、例として、合成スコアをあたかも対数確率であるかのように扱い、推定モデル４０４から持ち込まれた各ソース言語の句に関する１組の候補翻訳にわたって合成スコアを正規化することによって行われる。クロスセンテンスモデル４０６を適用することが、図４にブロック４２６で示されている。
【００７１】
改訂されたスコアは、次に、信頼性測度変換モデル４０８に提供され、このモデル４０８が、そのスコアに適用される。これは、図１１に関連してより詳細に説明する。簡単に述べると、モデル４０８が、ソース言語における特定された句、およびターゲット言語における候補翻訳に関する条件付き確率の結合を句全体に基づく対数尤度比メトリックで置き換え、句および候補翻訳の外部の文脈が除去される。モデルパラメータは、ビタビ（Ｖｉｔｅｒｂｉ）再推定を使用して反復式に再計算される。再推定が収束した場合、句の翻訳スコアの最終セットが、句全体に関する対数尤度比メトリックに関して獲得される。これにより、句の翻訳ペア４１０に関する信頼性の測度として使用する対数尤度比スコアの整合性のあるセットが生成される。モデル４０８の適用を図４のブロック４２８で示している。最終の句の翻訳ペアおよび関連するスコアが、図４のブロック４３０で示すとおり出力される。
【００７２】
次に、本発明の句の翻訳の態様をより詳細に説明する。図５Ａおよび５Ｂは、本発明の一実施形態によるモデル４０４の動作をよりよく示す流れ図である。モデル４０４を適用することに先立って、単独語の関連のすべてが、前述したとおり計算されていることを想い起こされたい。さらに、翻訳が獲得されるべきソース言語の句におけるすべての句が特定されている。
【００７３】
語の関連スコアから結合可能な確率を導出するため、モデル４０４はまず、文ペア（すなわち、ソース言語における１つの文とターゲット言語における整列された文）を選択する。これが、図５Ａのブロック５００で示されている。次に、ソース言語文の中の各語（Ｗｓ）に関して、モデル４０４は、Ｗｓに最も強く関連しているターゲット言語文の中の語（Ｗｔ）を特定し、その最も強い関連のカウントを保持する。これが、図５Ａのブロック５０２で示されている。
【００７４】
次に、ターゲット言語文の中の各語（Ｗｔ）に関して、モデル４０４は、Ｗｔに最も強く関連するソース言語文の中の語（Ｗｓ）を識別し、やはり、その最も強い関連のカウントを保持する。これが、ブロック５０４で示されている。以上が、ブロック５０６で示されるとおり、それぞれの整列された文ペアに関して行われる。
【００７５】
語の関連スコアは、対数尤度比に関するので、互いに結合して句の翻訳を獲得することが困難である。したがって、モデル４０４は、次に、カウントからの確率を推定する。というのは、確率は、容易に結合することができるからである。具体的には、生成されたカウントから、各語Ｗｓに関して、モデル４０４は、Ｗｓの出現が、所与の語Ｗｔを対応する整列された文の中の最も強力に関連する語として有する確率を推定する。これが、ブロック５０８で示されている。
【００７６】
同様に、カウントから、各語Ｗｔに関して、モデル４０４は、Ｗｔの出現が、所与の語Ｗｓを対応する整列された文の中の最も強力に関連する語として有する確率を推定する。これが、ブロック５１０で示されている。
【００７７】
次に、推定された確率が、周知のグッドターニング（Ｇｏｏｄ−Ｔｕｒｉｎｇ）平滑化法などの周知の平滑化技術を使用して平滑化される。経験的に推定された確率分布を平滑化することの目的は、通常、トレーニングデータの中で決して観察されていないイベントに何らかの小さい確率を割り当てることである。つまり、いくつかの、またはすべての観察されたイベントの経験的に観察された確率が、いくらかの量だけ低減され、可能性があるが未観察のイベントのセットに配分される。このタイプの平滑化が行われない場合、トレーニングデータの中で観察されていないすべてのイベントに０の確率が割り当てられることになる。
【００７８】
０の確率の割当てを回避することに最も注意が払われるイベントのタイプは、ソース言語文またはターゲット言語文の中の語が、他方の文の中のいずれの語にも関連を有さないイベントである。これは、ソース言語文またはターゲット言語文の中の特定の語が逐語訳を有さないような自由翻訳に起因して、または一方の言語における他方の言語において対応する語を有さない機能語に起因して生じる可能性がある。たとえば、１つの言語において前置詞で表現される関係が、別の言語において純粋に語順で示され、その関係を表現する特定の語が存在しない可能性がある。
【００７９】
一方の言語における語に関連する他方の言語における対応する語が存在しない状況をモデル化するため、すべての文（または文の部分）の中で出現するものとして扱われる「ヌル（null）」語の概念を使用する。問題の文ペアにおいて、所与の語が他方の言語におけるいずれの語にも既知の関連を有さないことが分かった場合、最も関連度の高い語が「ヌル」語であるケースとしてそのことを分類する。ここで検討している確率に対する平滑化の適用の際、観察されたイベントから取り去られた確率のすべてが、ソース言語の語およびターゲット言語の語を「ヌル」語に関連付けるイベントに割り当てられる。観察されたイベントから差し引かれるべき確率の量は、例として、周知のグッドターニング法を使用して計算し、トレーニングデータの中である少数回（例として１０）より少なく出現する観察されたイベントに適用することができる。
【００８０】
これらの平滑化された確率を計算した後、モデル４０４は、すべての文ペアを再び検討して、文ペアを選択し、対応するソース言語文の中の各特定された句に対する各ターゲット言語文の中の候補句のリストを生成する。これをブロック５１１および５１２で示し、図８に関連する適用例において以下により詳細に説明する。それぞれの整列された文ペアにおいて、ソース言語文の中の特定された句に関して、ターゲット言語文の中で１つまたは複数の候補句（場合により、空の句を含む）が仮定されると言えば十分であろう。次に、モデル４０４は、各候補句に関連するスコアを計算することに取りかかる。
【００８１】
したがって、各文ペア、およびそのペアのソース言語文の中の各特定された句に関して、モデル４０４はまず、ブロック５１４で示されるとおり、候補ターゲット言語の句を選択する。モデル４０４は、次に、ソース言語文の中の特定された句、およびターゲット言語文の中の候補句に基づいてソース言語文、およびターゲット言語文を区分化する。これが、図６に関連してよりよく示されている。
【００８２】
たとえば、ソース言語文５１６が、図示するとおり語Ｓ１〜Ｓ８を有するものと想定する。整列されたターゲット言語文５１８が、図示するとおり語Ｔ１〜Ｔ７を有するものと想定する。図６は、ソース言語文５１６から翻訳されるべき句が、用語Ｓ３〜Ｓ６を囲む括弧で特定され、符号５２０で識別されることをさらに示している。スコアが現在、計算されている候補句は、符号５２２で括弧によって特定されている。したがって、ソース言語文５１６とターゲット言語文５１８はともに、句５２０および５２２の内部の部分と、句５２０および５２２の外部の文の部分に区分化される。
【００８３】
モデル４０４は、次に、前述した平滑化された関連確率に基づいて内部スコアを計算する。これが、図５Ｂのブロック５２４で示されている。内部スコアを計算する際、モデル４０４はまず、句５２０内部のソース言語文５１６の中の各語に関して、ターゲット言語文５１８の中にあり、候補句５２２内部にもあるどの語が、平滑化された関連確率に従ってソース言語文の中の語に最も強く関連している可能性が最高であるかを判定する。「ヌル」語は、候補句５２２の一部として扱われ、ソース言語文の中の語に最も強く関連している可能性が最高である語であることが可能である。
【００８４】
したがって、モデル４０４はまず、句５２２の中のどの語が、句５２０の中の語Ｓ３に強く関連している可能性が高いかを判定する。対応する最も強く関連している語は、Ｔ２であることを見て取ることができる。次に、これが、句５２０の中の残りの語のそれぞれに関して行われ、ソース言語の語Ｓ４は、ターゲットＴ３に最も強く関連しており、ソース言語の語Ｓ６も同様であることを見て取ることができる。また、ソース言語の語Ｓ５は、ターゲット言語の語Ｔ４に最も強く関連している。
【００８５】
この動作は、両方向で行われ、したがって、候補句５２２の中の各ターゲット言語の語に関して、モデル４０４は、ソース言語の句５２０の中のどの語がその語に最も強く関連している可能性が高いかを判定する。この目的で、「ヌル」語もソース言語の句の一部として扱われる。ターゲット言語の語Ｔ２は、ソース言語の語Ｓ３に最も強く関連している可能性が高く、ターゲット言語の語Ｔ３は、ソース言語の語Ｓ４に最も強く関連している可能性が高く、ターゲット言語の語Ｔ４は、ソース言語の語Ｓ５に最も強く関連している可能性が高いことを見て取ることができる。
【００８６】
ソース言語の句５２０内部および候補句５２２内部の最良の語ペアが特定されると、それらの語ペアの確率が、その確率の積の対数を取ることによって結合される。これが、たとえば、各ソース言語の語が特定されたターゲット言語の語に最も強く関連している確率と、各ターゲット言語の語が特定されたソース言語の語に最も強く関連している確率が互いに結合される式１によって示される。  
（式１）  
log (P (s3→t2)・P (t2→s3)・P (s4→t3)・P (t3→s4)・P (s5→t4)・P (t4→s5)・P (s6→t3))
これは、図５Ｂのブロック５２４で示されるとおり、計算された内部スコアである。
【００８７】
次に、モデル４０４は、同じやり方で文５１６および５１８に関する外部スコアを計算する。これが、ブロック５２６で示されている。言い換えれば、図７に示すとおり、モデル４０４は、句５２０の外部の各ソース言語の語に関して、候補句５２２の外部のどのターゲット言語の語が、その語に最も強く関連している可能性が高いかを判定する。同様に、候補句５２２の外部の各ターゲット言語の語に関して、特定された句５２０の外部のどのソース言語の語が、その語に最も強く関連している可能性が高いか。以上の尤度の１つの例示的な算出が、図７の矢印で示されている。次に、式２で示すとおり、確率が結合される。  
（式２）  
log (P (s1→t1)・P (t1→s1)・P (s2→t6)・P (t6→s2)・P (s7→t5)・P (t5→s7)・P (s8→t7)・P (t7→s8))
【００８８】
次に、図５Ｂのブロック５２８で示されるとおり、内部スコアと外部スコアが合計される。これは、句５２０と５２２の間の翻訳関係を解析する際にモデル４０４によって計算される基本的スコアと見なすことができ、ブロック５２７で示されるとおり、各文ペアに関して繰り返される。（句の内部と外部の）両方の区分にスコアを割り当てることにより、本発明は、ソース言語文の中の特定された句の翻訳に正しく属する語を特定することにおいて、従来の技術よりも優れている。
【００８９】
各文ペアおよび各特定されたソース言語の句に関して、候補ターゲット言語翻訳が、内部スコアおよび外部スコアとともに記憶され、したがって、内部スコアおよび外部スコアは、処理のさらなる段階において再計算される必要がない。必要とされるストレージを最小限に抑えるため、ならびに後続の処理の量を最小限に抑えるため、オプションとして、各文ペアおよび各特定されたソース言語の句に関して記憶される候補句の数を剪定して、何らかの数（例として１５）の最高のスコアを有する候補句にすることができる。
【００９０】
必要とされる後続の処理の量をさらに削減するため、コーパス全体を処理した後、オプションとして、各特定されたソース言語の句に関連する候補ターゲット言語翻訳の総数をさらに剪定して、何らかの数（例として１５）のコーパス全体にわたって最も可能性が高い候補翻訳にすることができる。コーパス全体にわたる各特定されたソース言語の句に関する最も可能性が高い候補翻訳は、モデル４０６に関連して以下に説明するＥＭアルゴリズムのＥステップを使用して各候補に関する重み付きのカウントを獲得することによって特定することができる。重み付きのカウントが高いほど、候補翻訳は可能性が高い。
【００９１】
また、モデル４０４は、ソース言語文から翻訳されるべき句がキャプトイドである場合、候補句の大文字使用パターンの尤度を反映するさらなる確率を適用することもできる。これは、もちろん、オプションであり、所望されない場合、なくすことができる。いずれにしても、いくつかの異なる大文字使用パターンが、例として、モデル４０４のこの部分において考慮される。たとえば、特定された句がキャプトイドであり、候補句の最初の語が大文字で書かれている場合は、例として、第１の比較的高い確率に関連付けられる。候補句の中の語のいずれも大文字で書かれていない場合は、例として、第２のより低い確率に関連付けられる。最後に、候補句の最初の語が大文字で書かれていないが、候補句の中の他の語が大文字で書かれている場合は、例として、第３のさらにより低い確率に関連付けられる。大文字使用確率は、各文ペアおよび各特定されたソース言語の句に関して最高の翻訳確率（最高の内部スコアと外部スコアの合計）を有する候補句から、最初に推定される。
【００９２】
大文字使用確率の対数は、例として、句の翻訳に関して以前に計算されている内部スコアに加算される。これにより、もちろん、どの候補句が特定されたソース言語の句に対して最高の翻訳確率を有するかが変わる。したがって、大文字使用確率を適用し、翻訳スコアおよび大文字使用確率を再計算することは、最高の翻訳スコアを有する候補句が安定するまで反復して行われる。大文字使用確率の適用は、図５Ｂのブロック５３０で示されている。
【００９３】
モデル４０６をさらに詳細に説明することに先立って、どのように候補句がターゲット言語文の中で仮定されるか、または生成されるかを示す流れ図である図８を参照してこの説明を進める。多種多様な異なる技術を使用して候補句を生成することができる。たとえば、各ターゲット言語文のすべての可能なサブシーケンスを候補句として仮定することができる。ただし、これには、不要に時間がかかり、不要に計算リソースを消費する可能性がある。したがって、本発明の１つの例示的な実施形態によれば、候補句は、ヒューリスティックに仮定される。
【００９４】
本発明の一実施形態によれば、ターゲット言語文の中で候補句を生成するため、モデル４０４は、ソース言語文の中の各語を選択する。ソース言語文の中の各語に関して、モデル４０４は、ターゲット言語文全体にわたってソース言語文の中のその語が最も強く関連しているターゲット言語文の中の語を探し出す。これが、図８のブロック６００で示されている。次に、ターゲット言語文の中の各語に関して、モデル４０４は、ソース言語文全体にわたってターゲット言語文の中のその語が最も強く関連しているソース言語文の中の語を探し出す。これが、ブロック６０２で示されている。それらの最も強く関連している語を特定する目的では、「ヌル」語は考慮されない。
【００９５】
次に、モデル４０４は、ソース言語の句５２０の中の語（Ｗｓ）に最も強く関連している各語（Ｗｔ）で、候補句が始まることが可能であるものと仮定する。これは、図９Ａに関してよりよく示されており、図８のブロック６０４によっても示されている。図９Ａは、ターゲット言語文の中の語Ｔ２が、ソース言語文の中の特定されたソース言語の句５２０の中の語Ｓ３に最も強く関連していることを示している。したがって、モデル４０４は、候補句が語Ｔ２で始まるものと仮定する。
【００９６】
また、モデル４０４は、特定されたソース句５２０からの語Ｗｓが最も強く関連している各語Ｗｔで、候補句が始まることが可能であることも仮定する。これが、ブロック６０６で示され、図９Ｂによってよりよく示されている。図９Ｂは、句５２０内部にあるソース言語の語Ｓ４が、ターゲット言語の語Ｔ３に最も強く関連していることを示している。したがって、モデル４０４は、候補句が語Ｔ３で始まるものと仮定する。
【００９７】
また、モデル４０４は、候補句が強く関連した語で終わることも仮定する。したがって、モデル４０４は、ソース言語の句５２０の中の語（Ｗｓ）に最も強く関連している各語（Ｗｔ）で、候補句が終わることが可能であるものと仮定する。これが、ブロック６０８で示されている。同様に、モデルは、特定されたソース言語の句５２０からの語（Ｗｓ）が最も強く関連している各語（Ｗｔ）で、候補句が終わることが可能であることも仮定する。これが、ブロック６１０で示されている。
【００９８】
追加のオプションのステップとして、モデル４０４は、ターゲット言語文の中のすべての大文字で書かれた語を候補句の中の可能な開始語として特定することができる。これが、図８のブロック６１２で示されている。
【００９９】
最後に、特定された可能な開始語の１つで始まり、選択された開始語の後に続く特定された可能な終了語の１つで終わるすべての可能な候補句が生成される。これが、ブロック６１３で示されている。
【０１００】
特定されたソース句の中の語に強く関連している語だけで候補句が始まる、または終わることを許すことにより、機能語が翻訳において望ましくない場合に機能語が含まれる尤度が低減されることが分かっている。機能語は、しばしば、何にも強く関連しておらず、したがって、機能語が含まれるべきでない場合にその語を含めることに関してモデルが確率によって罰せられないため、問題となる可能性がある。このため、本技術は、その問題に対処する。
【０１０１】
モデル４０４は、整列された文の中の句の区分の内部と外部の両方の情報を考慮するが、特定された句が、コーパスにおける他の文ペア全体にわたってどのように識別されているかは考慮しない。したがって、モデル４０６が、この情報を考慮する。モデル４０６では、ＥＭアルゴリズムのＥステップが、コーパス、およびモデル４０４において計算された翻訳ペアに関するスコアに適用される。モデル４０６は、したがって、モデル４０４が（前述したオプションの剪定の後）それぞれの可能な翻訳に割り当てた正規化された確率で重み付けし、モデル４０４のスコアを対数確率として扱って、各ソース言語の句がどれだけ頻繁にターゲット言語の語の選択されたシーケンスとして翻訳されているかを、カウントする。
【０１０２】
たとえば、特定の文ペアにおいて、厳密に２つのターゲット言語シーケンスを特定のソース言語の句に対する候補翻訳として特定したものと想定する。第１の候補のモデル４０４のスコアが０．０００１という対数に等しく、第２の候補のモデル４０４のスコアが０．０００９という対数に等しいものと想定する。ＥＭアルゴリズムのＥステップによれば、これらの確率は、結果合計を１にするように選択された共通因数を掛けることによって正規化され、それぞれ０．１と０．９が２つの候補の正規化された確率として与えられる。次に、第１の候補がソース言語の句の翻訳として出現する回数の重み付きのカウントに０．１を加算し、第２の候補がソース言語の句の翻訳として出現する回数の重み付きのカウントに０．９を加算する。整列されたコーパス全体にわたってＥＭアルゴリズムのＥステップを適用することが、図１０のブロック７００で示されている。
【０１０３】
モデル４０６は、次に、重み付きのカウントから直接に新しい内部スコアを推定する。これが、ブロック７０２で示されている。たとえば、コーパスにおいて特定のソース言語の句の１０回の出現が存在し、特定の候補ターゲット言語の句がその翻訳であることに関してＥＭアルゴリズムのＥステップによって計算された重み付きのカウントが７になる場合、モデル４０６は、ソース言語の句がその候補句の中のターゲット言語の語のシーケンスとして翻訳される０．７の確率（７／１０）を割り当てる。同様に、候補句の出現がソース言語の句の翻訳である確率が計算される。したがって、候補句の合計で２０回の出現が存在する場合、モデル４０６は、候補句がソース言語の句の翻訳である０．３５の確率（７／２０）を割り当てる。以上２つの確率の積の対数により、新しい内部スコアのベースが形成される。したがって、モデル４０６は、ソース言語における特定された句が、コーパス全体にわたってどのように翻訳されているかについての情報を利用する。
【０１０４】
ただし、この技術により、スケーリングの問題が生じる。内部スコアと外部スコアが結合されるため、新しい内部スコアにおける２つだけの確率を外部スコアを構成する多くの確率に結合することにより、句の外部に余りにも大きな重み付けが行われ、内部スコアに対して十分な重み付けが行われないことになる。これが生じるのを防止するため、新しい内部スコアをスケーリングして、古い内部スコアと同じぐらい大きな変動を示すようにする必要がある。コーパスにおける特定されたソース言語の句のすべての出現の最も可能性が高い翻訳に関して、（大文字使用確率を組み込んでいない）古い内部スコアの標準偏差、および新しい内部スコアベースの標準偏差を計算することによって適切なスケールファクタ（scale factor）が計算される。以上の標準偏差は、古い内部スコアおよび新しい内部スコアベースの変動の度合いの測度であり、したがって、新しい内部スコアベースに以上２つの標準偏差の比からなるスケールファクタを掛けることによって新しい内部スコアがスケーリングされ、古い内部スコアと同じ標準偏差を有する新しいスケーリングされた内部スコアがもたらされる。新しい内部スコアベースにこのスケールファクタを適用することが、図１０のブロック７０４で示されている。
【０１０５】
したがって、モデル４０６スコアの初期の推定は、新しいスケーリングされた内部スコアと古い外部スコアの合計である。これらのスコアを合計することが、ブロック７０７で示されている。ただし、大文字使用確率の導入の場合と同様に、これにより、各文ペアにおける競合する翻訳候補の相対確率が変化する。したがって、各文ペアにおける各特定されたソース言語の句に対する最も可能性の高い翻訳がもはや変わらなくなるまで、各文ペアに関する翻訳確率、重み付きのカウント、および結果の句の翻訳確率を反復して再推定する。これが、ブロック７０９で示されている。モデル４０６により、したがって、コーパス全体にわたる翻訳の効果を考慮に入れる最も可能性の高い翻訳の新しいセットが生成される。これが、ブロック７１１で示されている。最も可能性の高い翻訳のこのセットが、モデル４０８に提供される。
【０１０６】
図１１は、モデル４０８の動作をより詳細に示す流れ図である。モデル４０８は、ブロック７４９で示されるとおり、モデル４０６から最も可能性の高い翻訳を受け取る。前述したとおり、対数尤度比スコアが、仮定された翻訳関係にどれだけの信頼を置くかについての非常に良好な指標である。したがって、対数尤度比スコアに変換して戻すことが望ましい可能性がある。
【０１０７】
各文ペア、および各特定された句に関して、モデル４０８は、特定された句の最も可能性の高い翻訳をモデル４０６の計算から受け取り、この最も可能性の高い翻訳に１のカウントを与える。これが、図１１のブロック７５０で示されている。モデル４０８は、次に、コーパス全体を検討することに戻り、そのカウントに基づいて候補句のすべてに関する対数尤度比スコアを再計算する。これが、ブロック７５２で示されている。
【０１０８】
各文、および各特定された句に関して、モデル４０８は、計算されたばかりの対数尤度比スコアを所与として、最良の翻訳を探し出し、カウントする。これが、ブロック７５４で示されている。モデル４０８は、次に、新しいカウントに基づいて新しい対数尤度比スコアを計算する。これが、ブロック７５６で示されている。新しい対数尤度比スコアにより、異なる句の翻訳が特定される可能性がある。したがって、モデル４０８は、最良の句の翻訳が変わらなくなるまで、つまり安定するまで、ステップ７５４および７５６を反復する。これが、ブロック７５８で示されている。
【０１０９】
最良の翻訳が安定すると、モデル４０８は、ブロック７６０で示されるとおり、ランク順の翻訳ペアおよびスコアを出力する。
【０１１０】
以上、本発明により、キャプトイド、およびその他のタイプの句に関する翻訳関係の導出が強化されることを見て取ることができる。
【０１１１】
本発明を特定の実施形態に関連して説明してきたが、本発明の趣旨および範囲を逸脱することなく、形態および詳細の変更を行うことが可能であることが、当業者には認められよう。
【図面の簡単な説明】
【０１１２】
【図１】本発明を使用することが可能な一般的な状況を示すブロック図である。
【図２Ａ】本発明を使用することが可能な一般的な機械翻訳アーキテクチャを示すより詳細なブロック図である。
【図２Ｂ】本発明の一実施形態に従って使用することができる句の翻訳学習システムを示すブロック図である。
【図３】本発明の一実施形態による句の翻訳学習器を示すブロック図である。
【図４】図３に示した句の翻訳学習器の全体的な動作を示す流れ図である。
【図５Ａ】本発明の一実施形態による単語の関連スコアモデルの動作を示す流れ図である。
【図５Ｂ】本発明の一実施形態による単語の関連スコアモデルの動作を示す流れ図である。
【図６】本発明の一実施形態による内部スコアの計算を示す図である。
【図７】本発明の一実施形態による外部スコアの計算を示す図である。
【図８】本発明の一実施形態による候補句の生成を示す流れ図である。
【図９Ａ】候補句を生成するように処理される整列された文を示す図である。
【図９Ｂ】候補句を生成するように処理される整列された文を示す図である。
【図１０】本発明の一実施形態によるクロスセンテンスモデルの動作を示す流れ図である。
【図１１】本発明の一実施形態による信頼性測度変換モデルの動作を示す流れ図である。
【符号の説明】
【０１１３】
３１０  トークン化されたソース言語文
３１２  トークン化されたターゲット言語文
４００  句の翻訳学習構成要素
４０４  単語の関連スコアモデル
４０６  クロスセンテンスモデル
４０８  信頼性測度変換モデル
４１０  翻訳ペアおよびスコア
【図１】
2004171575.tif 000003
【図２Ａ】
2004171575.tif 000004
【図２Ｂ】
2004171575.tif 000005
【図３】
2004171575.tif 000006
【図４】
2004171575.tif 000007
【図５Ａ】
2004171575.tif 000008
【図５Ｂ】
2004171575.tif 000009
【図６】
2004171575.tif 000010
【図７】
2004171575.tif 000011
【図８】
2004171575.tif 000012
【図９Ａ】
2004171575.tif 000013
【図９Ｂ】
2004171575.tif 000014
【図１０】
2004171575.tif 000015
【図１１】
2004171575.tif 000016
【外国語明細書】
2004171575.tif 000017
2004171575.tif 000018
2004171575.tif 000019
2004171575.tif 000020
2004171575.tif 000021
2004171575.tif 000022
2004171575.tif 000023
2004171575.tif 000024
2004171575.tif 000025
2004171575.tif 000026
2004171575.tif 000027
2004171575.tif 000028
2004171575.tif 000029
2004171575.tif 000030
2004171575.tif 000031
2004171575.tif 000032
2004171575.tif 000033
2004171575.tif 000034
2004171575.tif 000035
2004171575.tif 000036
2004171575.tif 000037
2004171575.tif 000038
2004171575.tif 000039
2004171575.tif 000040
2004171575.tif 000041
2004171575.tif 000042
2004171575.tif 000043
2004171575.tif 000044
2004171575.tif 000045
2004171575.tif 000046
2004171575.tif 000047
2004171575.tif 000048
2004171575.tif 000049
2004171575.tif 000050
2004171575.tif 000051
2004171575.tif 000052
2004171575.tif 000053
2004171575.tif 000054
2004171575.tif 000055
2004171575.tif 000056
2004171575.tif 000057
2004171575.tif 000058
2004171575.tif 000059
2004171575.tif 000060
2004171575.tif 000061
2004171575.tif 000062
2004171575.tif 000063
2004171575.tif 000064
2004171575.tif 000065
2004171575.tif 000066
2004171575.tif 000067
2004171575.tif 000068
2004171575.tif 000069
2004171575.tif 000070
2004171575.tif 000071
2004171575.tif 000072
2004171575.tif 000073
2004171575.tif 000074
2004171575.tif 000075
2004171575.tif 000076
2004171575.tif 000077
2004171575.tif 000078
2004171575.tif 000079
2004171575.tif 000080
2004171575.tif 000081
2004171575.tif 000082
2004171575.tif 000083
2004171575.tif 000084
2004171575.tif 000085
2004171575.tif 000086
2004171575.tif 000087
2004171575.tif 000088
2004171575.tif 000089
2004171575.tif 000090