(57)【要約】統計的機械翻訳（ＭＴ）（１００）システムは、翻訳メモリ（ＴＭＥＭ）（１１０）及びデコーダ（１１５）を備えている。そのデコーダ（１１５）は、統計的ＭＴデコーディングアルゴリズム、例えばグリィーディーデコーディングアルゴリズムを使用して、入力テキストセグメント（１０２）を翻訳することができる。そのシステムは、上記入力テキストセグメントのカバーをＴＭＥＭ（１１０）のテキストセグメントから生成することができる。デコーダ（１１５）は、上記カバーをデコーディング操作の初期翻訳文として使用することができる。
2005516267.tif 000002
【特許請求の範囲】
【請求項１】
原始言語の入力テキストセグメントを受け取り；次いで統計的デコーディングアルゴリズム及び翻訳メモリ中のテキスト文字列の両者を使用して、上記入力テキストセグメントを、目的言語の翻訳テキストセグメントに翻訳する；
ことを含んでいる方法。
【請求項２】
前記入力テキストセグメントに対するカバー句を、前記翻訳メモリの１又は２以上のテキストセグメントから生成することをさらに含む請求項１に記載の方法。
【請求項３】
前記カバーを、前記統計的デコーディングアルゴリズムに対する初期翻訳文として使用することをさらに含む請求項１に記載の方法。
【請求項４】
前記翻訳が、
前記入力テキストセグメントの少なくとも一部分を、翻訳メモリ中の第一テキストセグメントと照合し；
上記入力テキストセグメントの少なくとも一部分を、上記第一テキストセグメントに対応する上記翻訳メモリ中の目的言語のテキストセグメントで置換し；
上記入力テキストセグメントの初期目的言語翻訳文を生成し；次いで
上記初期翻訳文に対して統計的機械翻訳デコーディング操作を実施することによって、目的言語の翻訳文を生成する；ことを含んでいる請求項１に記載の方法。
【請求項５】
前記初期目的言語翻訳文を生成することが、前記入力テキストセグメントの少なくとも一部分の中に入っていない１又は２以上の単語を、遂語的翻訳で置換することを含む請求項４に記載の方法。
【請求項６】
前記翻訳メモリが統計的翻訳メモリを含んでいる請求項１に記載の方法。
【請求項７】
全入力テキストセグメントの文が前記翻訳メモリ中のテキストセグメントと一致したとき、最終の目的言語翻訳文をさらに戻す請求項１に記載の方法。
【請求項８】
前記統計的機械翻訳デコーディング操作を実行することが、１又は２以上の文修正操作を、第一インスタンス内に前記初期目的言語翻訳文を含む前記現行目的言語翻訳文に実施して１又は２以上の修正目的言語翻訳文を生成し；
上記修正目的言語翻訳文の１又は２以上が、前記現行目的言語翻訳文と比べて改良された翻訳文であるかどうかを確認し；
修正目的言語翻訳文を、現行目的言語翻訳文として設定し；次いで
前記適用、前記確認及び前記設定を、停止条件が生成するまで繰り返す；
ことを含む請求項４に記載の方法。
【請求項９】
前記１又は２以上の文修正操作を実行することが、現行目的言語翻訳文中の、一つ又は二つの単語の訳語を変更することを含む請求項８に記載の方法。
【請求項１０】
前記１又は２以上の文修正操作を実行することが、現行目的翻訳文中の一つの単語の訳語を変更し、同時に、ファーティリティの値がゼロである確率の高い別の単語を、原始言語テキストセグメントと現行目的言語翻訳文との間に最高確率の整合を生じる位置に挿入することを含んでいる請求項８に記載の方法。
【請求項１１】
前記１又は２以上の文修正操作を実行することが、前記現行目的言語翻訳文から、ファーティリティの値がゼロの一単語を削除することを含んでいる請求項８に記載の方法。
【請求項１２】
前記１又は２以上の文修正操作を実行することが、前記現行目的言語翻訳文中のオーバーラップしていない目的言語単語セグメントをスワップすることによって、前記原始言語テキストセグメントと現行目的言語翻訳文との間の整合を修正することを含んでいる請求項８に記載の方法。
【請求項１３】
前記１又は２以上の文修正操作を実行することが、目的言語単語を前記現行目的言語翻訳文から除き、次いで原始単語テキストセグメント中の単語をリンクすることによって、前記原始言語テキストセグメントと現行目的言語翻訳文との間の整合を修正することを含んでいる請求項８に記載の方法。
【請求項１４】
前記停止条件が、修正目的言語翻訳文の正当性の確率が、前記目的言語翻訳文の正当性の確率より少しも大きくないことを確認することを含む請求項８に記載の方法。
【請求項１５】
前記停止条件が、予め定められた繰り返し回数を完了することを含んでいる請求項８に記載の方法。
【請求項１６】
前記停止条件が、予め定められた期間の経過を含む請求項８に記載の方法。
【請求項１７】
複数の翻訳文ペアを含む翻訳メモリであって、その翻訳文ペアが各々原始言語のテキストセグメント及び目的言語の対応するテキストセグメントを含んでいる翻訳メモリ；
原始言語の入力テキストセグメントのカバーを上記翻訳メモリの１又は２以上のテキストセグメントから生成し、かつ目的言語の翻訳文を、統計的デコーディングアルゴリズムを使用して前記カバーから生成するように作動するデコーダ；
を備えてなる装置。
【請求項１８】
前記翻訳メモリが統計的翻訳メモリを含んでいる請求項１７に記載の装置。
【請求項１９】
前記統計的デコーディングアルゴリズムがグリーディデコーディングアルゴリズムを含んでいる請求項１７に記載の装置。
【請求項２０】
前記カバーを生成することが、前記入力テキストセグメントの少なくとも一部分を、前記第一テキストセグメントに対応する翻訳メモリ中の目的言語のテキストセグメントで置換し、そして、前記入力テキストセグメントの少なくとも一部分内に入っていない、１又は２以上の単語をグロスで置換することを含む請求項１７に記載の装置。
【請求項２１】
前記統計的デコーディングアルゴリズムが、
１又は２以上の文修正操作を、第一インスタンス内に前記初期目的言語翻訳文を含む前記現行目的言語翻訳文に実施して、１又は２以上の修正目的言語翻訳文を生成し；
１又は２以上の前記修正目的言語翻訳文が、前記現行目的言語翻訳文と比較して改良された翻訳文であるかどうかを確認し；
修正目的言語翻訳文を、前記現行目的言語翻訳文として設定し；次いで
前記適用、前記確認及び前記設定を、停止条件が生成するまで繰り返す；
ことを含んでいる請求項１７に記載の装置。
【請求項２２】
前記停止条件が、修正目的言語翻訳文の正当性の確率が、前記現行目的言語翻訳文の正当性の確率より少しも大きくないことの確認を含んでいる請求項２１に記載の装置。
【請求項２３】
前記停止条件が、予め定められた繰り返し回数の完了と含んでいる請求項２１に記載の装置。
【請求項２４】
前記停止条件が、予め定められた期間の経過を含んでいる請求項２１に記載の装置。
【請求項２５】
機械に、
原始言語の入力テキストセグメントを受け取らせ；次いで
上記入力テキストセグメントを、統計的デコーディングアルゴリズム及び翻訳メモリ内のテキスト文字列の両者を使用して翻訳させて、目的言語の翻訳されたテキストセグメントにする；
働きをする機械で実行可能な命令を含む機械で読み取り可能な媒体を含んでなる製品。
【請求項２６】
機械に、
前記入力テキストセグメントに対するカバー句を、翻訳メモリ内の１又は２以上のテキストセグメントから生成させる；
働きをする命令をさらに含む請求項２５に記載の製品。
【請求項２７】
機械に、
前記カバー句を、前記統計的デコーディングアルゴリズムに対する初期翻訳文として使用させる；
働きをする命令をさらに含む請求項２６に記載の製品。
【請求項２８】
機械に翻訳させる働きをする命令が、機械に、
前記入力テキストセグメントの少なくとも一部分を翻訳メモリ中の第一テキストセグメントと照合させ；
上記入力テキストセグメントの少なくとも一部分を、上記第一テキストセグメントに対応する上記翻訳メモリ中の目的言語のテキストセグメントで置換させ；
上記入力テキストセグメントの初期目的言語翻訳文を生成させ；次いで、
上記初期翻訳文に対して統計的機械翻訳デコーディング操作を実施することによって、目的言語の翻訳文を生成させる；働きをする命令を含んでいる請求項２５に記載の製品。
【請求項２９】
前記初期目的言語の翻訳文を生成させるための命令が、機械に、前記入力テキストセグメントの少なくとも一部分内に入っていない１又は２以上の単語を、遂語的翻訳法で置換させる働きをする命令を含んでいる請求項２８に記載の製品。
【請求項３０】
前記翻訳メモリが統計的翻訳メモリを含んでいる請求項２５に記載の製品。
【請求項３１】
全入力テキスト文が前記翻訳メモリ中のテキストセグメントと一致したとき、機械に、最終目的言語翻訳文を戻させる働きをする命令をさらに含む請求項２５に記載の製品。
【請求項３２】
統計的機械翻訳デコーディング操作を実行するための命令が、機械に、
１又は２以上の文修正操作を、第一インスタンス内に前記初期目的言語翻訳文を含む前記現行目的言語翻訳文に実行して、１又は２以上の修正された目的翻訳文を生成させ；
上記修正された目的言語翻訳文の１又は２以上が、前記現行目的言語翻訳文と比べて改良された翻訳文であるかどうかを確認させ；
修正された目的言語翻訳文を、現行目的翻訳文として設定させ；次いで
前記適用、前記確認及び前期設定を、停止条件が生成するまで繰り返させる；働きをする命令を含んでいる請求項２５に記載の製品。
【請求項３３】
１又は２以上の文修正操作を実行するための命令が、機械に、前記現行目的言語翻訳文内の１又は２の単語の翻訳を変更させる働きをする命令を含んでいる請求項３２に記載の製品。
【請求項３４】
１又は２以上の文修正操作を実行するための命令が、機械に、前記現行目的言語翻訳文内の一単語の翻訳を変更させ、同時にファーティリティがゼロである確率の高いもう一つの単語を、前記原始言語テキストセグメントと前記現行目的言語翻訳文との間に最高確率の整合を生じる位置に挿入させる働きをする命令を含んでいる請求項３２に記載の製品。
【請求項３５】
１又は２以上の文修正操作を実行するための命令が、機械に、現行目的言語翻訳文から、ファーティリティの値がゼロである単語を除かせる働きをする命令を含んでいる請求項３２に記載の製品。
【請求項３６】
１又は２以上の文修正操作を実行するための命令が、機械に、現行目的言語翻訳文内のオーバーラップしていない目的言語単語セグメントをスワップすることによって、前記原始言語テキストセグメントと前記現行目的言語翻訳文との間の整合を修正させる働きをする命令を含んでいる請求項３２に記載の製品。
【請求項３７】
１又は２以上の文修正操作を実行するための命令が、機械に、目的言語の単語を前記現行目的言語翻訳文から除き、次いで、前記原始言語テキストセグメントの単語をリンクすることによって、前記原始言語テキストセグメントと前記現行目的翻訳文との間の整合を修正させる働きをする命令を含んでいる請求項３２に記載の製品。
【請求項３８】
前記停止条件が、修正された目的言語翻訳文の正当性の確率が前記現行目的言語翻訳文の正当性の確率より全く大きくないことの確認を含んでいる請求項３２に記載の製品。
【請求項３９】
前記停止条件が、予め定められた繰り返し回数の完了を含む請求項３２に記載の製品。
【請求項４０】
前記停止条件が、予め定められた期間の経過を含む請求項３２に記載の製品。
【発明の詳細な説明】
【発明の詳細な説明】
【０００１】
関連出願の相互参照
本願は、２００１年５月１７日付けで出願された米国仮特許願第６０／２９１，８５３号及び２００１年５月１１日付けで出願された米国特許願第０９／８５４，３２７号の特典を主張するものである。なおこれら特許願は本願に援用するものである。
【０００２】
本発明の起源
本願に記載されている研究と開発は、援助番号Ｎ６６００１−００−１−９８１４に基づいたＤＡＰＲＡ−ＩＴＯによる援助を受けたものである。米国政府は本願発明に特定の権利を有している。
【０００３】
背景
機械翻訳（ＭＴ）とは、自然言語の文を、第一言語（例えばフランス語）から別の言語（例えば英語）へ自動翻訳することである。ＭＴ技法を実行するシステムは、原始言語（source
language）を目的言語（target language）に「デコード」するよう命令される。
【０００４】
フランス語の文を英語に翻訳する統計的ＭＴシステムは三つの要素を有している。すなわち任意の英語文字列に確率Ｐ（ｅ）を割り当てる言語モデル（ＬＭ）；英語文字列とフランス語文字列の任意のペアに確率Ｐ（ｆ｜ｅ）を割り当てる翻訳モデル（ＴＭ）；及びデコーダである。そのデコーダは、まだ見ていない文ｆを取りあげて、Ｐ（ｅ｜ｆ）を最大にするか又はＰ（ｅ）・Ｐ（ｆ｜ｅ）を同時に最大にするｅを見つけようとすることができる。
【０００５】
概要
統計的機械翻訳（ＭＴ）システムは翻訳メモリ（ＴＭＥＭ）及びデコーダを備えている。そのＴＭＥＭは、コーパスから作成される統計的ＴＭＥＭ又はヒトが製作するＴＭＥＭでもよい。そのデコーダは統計的ＭＴデコーディングアルゴリズム例えばグリーディ（greedy）デコーディングアルゴリズムを利用して、入力テキストセグメント（input
text segment）を翻訳することができる。
【０００６】
上記システムは、入力テキストセグメントのカバーを、ＴＭＥＭのテキストセグメントから生成することができる。上記デコーダは、上記カバーを、そのデコーディング操作の初期翻訳文として使用できる。
【０００７】
詳細な説明
図１は、翻訳メモリ（ＴＭＥＭ）を利用する統計的機械翻訳（ＭＴ）システムの一実施態様を例示する。ＭＴシステム１００は、原始言語（例えばフランス語）から目的言語（例えば英語）へ翻訳するのに使用できる。ＭＴシステム１００は、言語モデル１０２、翻訳モデル１０５、ＴＭＥＭ１１０及びデコーダ１１５を備えている。
【０００８】
ＭＴシステム１００は原始−チャネル（source-channel）モデルに基づいていてもよい。上記言語モデル（原始）は、どの英語テキスト文字列がより適当であるか、例えばどの英語テキスト文字列が文法的に正しくそしてどの英語テキスト文字列が文法的に正しくないかを示す確率である事前分布Ｐ（ｅ）（Priori
distribution  Ｐ（ｅ））を提供する。上記言語モデル１０２は、自然に生成する大きいモノリシックコーパス（monolithic corpus）（例えば英語）によってトレーニングされて、単語配列の確率を決定することができるｎ−ｇｒａｍのモデルでもよい。
【０００９】
上記翻訳モデル１０５は翻訳の正当性の確率を決定するのに使用できる。この翻訳モデルは、例えば、米国特許第５，４７７，４５１号に記載されているＩＢＭ  ｔｒａｎｓｌａｔｉｏｎ  ｍｏｄｅｌ４でもよい。そのＩＢＭ  ｔｒａｎｓｌａｔｉｏｎ  ｍｏｄｅｌ４は、図２に示すような一対の文全体にわたって単語を整合させる（align）という概念に基づいて作動している。単語を整合させることによってフランス語の各単語に単一ホーム（英語文字列の位置）が割り当てられる。二つのフランス語の単語が同じ英語の単語に整合する場合、その英語の単語はファーティリティ（fertility）が２つであると呼称される。同様に、英語の一単語が整合していないままである場合、その英単語はファーティリティがゼロである。一単語のファーティリティが２以上である場合、その単語は非常にファータイル（fertile）であると呼ばれる。
【００１０】
図２に示す単語整合は、英語文字列２００がフランス語文字列２０５に変換される仮説確率論的プロセス（hypothetical stochastic process）の省略表現である。図３は、このような確率論的プロセス３００を高レベルで記述するフローチャートである。第一に、文字列中の英単語ごとに、ファーティリティが割り当てられる（ブロック３０５）。これらの割り当ては、表ｎ（φ｜ｅｉ）にしたがって確率論的に行うことができる。ファーティリティがゼロの単語はいずれも文字列から削除され、ファーティリティが２の単語は重複される（duplicate）などが行われる。新しい文字列の各英単語の後に、確率ｐ１（一般に約０．０２）の不可視英語ヌルエレメント（invisible
English NULL element）のファーティリティが加えられる（ブロック３１０）。そのヌルエレメントは結局、「スプリアス（spurious）」フランス語単語を生成する。表ｔ（ｆｊ｜ｅｉ）にしたがって、英単語（ヌルを含む）のフランス語単語による遂語的置換が行われる（ブロック３１５）。最後にそのフランス語の単語が並べ換えられる（permute）（ブロック３２０）。並べ換えを行う際、ＩＢＭ翻訳モデル４は、ヘッド（特定の英語単語から生成した左端のフランス語の単語）、ノン−ヘッド（非常にファータイルな英語単語だけによって生成した左端以外のフランス語の単語）及びヌル生成単語（Null-generated）であるフランス語単語を識別する。
【００１１】
一つの英語単語のヘッドは、その前の英語単語に割り当てられた位置を基準にしてフランス語文字列の位置を割り当てられる。英語単語Ｅｅ−１を、フランス語位置ｊの何らかの単語に翻訳する場合、ｅｉのフランス語ヘッドの単語は、ひずみ確率（distortion probability）ｄ１(Ｋ−ｊ｜class(ｅｉ−１)、class(ｆｋ))でフランス語位置ｋに確率論的に配置される。なお上記「ｃｌａｓｓ」は、フランス語と英語の語い項目（vocabulary
item）に対して自動的に決定される単語のクラスを意味する。この相対的オフセットＫ−ｊが、隣接する英語単語をインカレッジ（encourage）して隣接するフランス語に翻訳する。ｅｉ−１がインファータイル（infertile）である場合、ｊはｅｉ−2などから取り出される。ｅｉ−１が非常にファータイルである場合、ｊはそのフランス語翻訳文の位置の平均位置である。
【００１２】
英語単語ヘッドｅｉがフランス語の位置ｊに配置される場合、その最初のノン−ヘッドは、別の表ｄ＞１（ｋ−ｊ｜class（ｆｋ））にしたがって、フランス語の位置ｋ（＞ｊ）に配置される。次のノンヘッドは、位置ｑに、確率ｄ＞１（ｑ−ｋ｜class（ｆｑ））などで配置される。
【００１３】
ヘッドとノン−ヘッドが配置された後、ヌル生成単語が残っている空スロット（remaining
vacant slot）中にランダムに並べ換えられる。φヌル生成単語がある場合、いずれの配置方式も確率１／φ０！で選択される。
【００１４】
ｅで出発するこれらの確率論的決定によって、ｆの異なる選択及びｆとｅの整合が行われる。ｅの値は特定の＜ａ，ｆ＞のペアに確率によってマッピングされる。
【数１】
2005516267.tif 000003
【００１５】
上記式中、「ｘ」記号で分離されている因数はそれぞれ、ファーティリティ、翻訳、ヘッド並び換え（head permutation）、ノンヘッド並び換え、ヌルファーティリティ及びヌル翻訳の確率を示す。上記式中の諸記号は次のとおりである。ｌ（ｅの長さ）、ｍ（ｆの長さ）、ｅｉ（ｅのｉ番目の英語単語）、Ｅ０（ヌル単語）、φｉ（ｅｉのファーティリティ）、φ０（ヌル単語のファーティリティ）、τｉｋ（ａ中のｅｉによって生成したｋ番目のフランス語単語）、πｉｋ（ｆ中のτｉｋの位置）、pｉ（ａ中ｅｉの左側の第一ファータイル単語の位置）、ｃpｉ（pｉに対する全πpｉｋの平均値の最大値（ceilling）又はpｉが未定義の場合ゼロである）である。
【００１６】
ＴＭＥＭ１１０はヒトが生成した翻訳文ペアを含むプリコンパイルされた（pre-compiled）ＴＭＥＭでもよい。例えばフランス語／英語ＭＴの場合、Ｈａｎｓａｒｄ  Ｃｏｒｐｕｓ又はその一部分などのＴＭＥＭを使用できる。そのＨａｎｓａｒｄ  Ｃｏｒｐｕｓは、カナダ議会の議事録の公式記録から抜粋された英語とカナダフランス語の並列テキストを含んでいる。そのＨａｎｓａｒｄ  Ｃｏｒｐｕｓは、ＩＢＭが作成したバージョンの文のシーケンスとして提供されている。そのＩＢＭのコレクションは、そのセットに約２８７万の並列文のペアを含んでいる。
【００１７】
あるいは、ＴＭＥＭは統計的ＴＭＥＭでもよい。統計的ＴＭＥＭは、翻訳モデルをトレーニングコーパス（training corpus）例えばＨａｎｓａｒｄ  Ｃｏｒｐｕｓ又はその一部分でトレーニングし、次に各分のビテルビ（Viterbi）（最も可能性が高い単語のレベル）整合（alignment）すなわち最高確率の整合を抜き出して、フォーム（form）の組（tuple）＜ｅｉ，ｅｉ＋１，・・・,ｅｉ＋ｋ；ｆｊ，ｆｊ＋１,・・・，ｆｊ＋１；ａｊ，ａｊ＋１，・・・，ａｊ＋１＞を抜き出す。なおｅｉ，ｅｉ＋１，・・・,ｅｉ＋ｋは連続の英語の句を表し、ｆｊ，ｆｊ＋１,・・・，ｆｊ＋１は連続のフランス語の句を表し、そしてａｊ，ａｊ＋１，・・・，ａｊ＋１＞は、前記二つの句の間のビテルビ整合を表す。異なる翻訳モデルを使用する場合、ＴＭＥＭは、上記連続のフランス語／英語の句に加えて、利用される翻訳モデルに特異的な隣接情報を含んでいてもよい。
【００１８】
これらの組は特定の基準に基づいて選択することができる。これらの組は、「連続」整合、すなわち英語の句の単語がフランス語の句の単語だけを生成し、そしてフランス語の句の各単語が英語の句からのヌル単語又は一単語によって生成された整合に限定できる。これらの組は、英語及びフランス語の句が少なくとも二つの単語を含んでいた組に限定してもよい。これらの組は、データ中に最も頻繁に現れる組に限定してもよい。
【００１９】
フランス語の句が複数の英語訳文と対になっている場合、可能性がある一つの等価英語翻訳文を、各フランス語の句に対して選ぶことができる。頻度ベースの翻訳メモリ（Frequency-based Translation Memory）（ＦＴＭＥＭ）は、各フランス語の句を、引き出された句のコレクションに最も頻繁に現れる等価の英語と関連づけることによってつくることができる。確率ベースの翻訳メモリ（ＰＴＭＥＭ）は各フランス語の句を、最高確率の整合に対応する等価の英語と関連づけることによってつくることができる。
【００２０】
デコーダ１１５は、図４に示すフローチャートに記載されている操作などのグリーディーデコーディング操作４００を利用して出力文を生成することができる。グリーディーデコーディング法は、ランダム近似解によって始まり次いでその解を、満足すべき解に到達するまで遂次改良しようとする。
【００２１】
デコーダ１１５は翻訳すべき入力文を受け取ることができる（ブロック４０５）。この例では、翻訳されるテキストセグメントは文であるが、他のどんなテキストセグメント、例えば節、パラグラフ又は全書でも事実上使用することができる。
【００２２】
デコーダ１１５は、上記入力文の「カバー（cover）」を、ＴＭＥＭからの句を使用して生成することができる（ブロック４１０）。デリベーション（derivation）は、上記入力文のできるだけ多くを、ＴＭＥＭの最長の句を使用して、ＴＭＥＭ１１０からの翻訳ペアでカバーしようとする。ＴＭＥＭ１１０から抜き出されたどの句の部分でもない入力文中の単語は、本質的な遂語的翻訳法で「グロス（gloss）」するすなわち置換することができる。例えば、フランス語の文「Bien
entendu,il parle de une belle victoire」を翻訳する場合、この方法は、ＴＭＥＭがペア＜well,;bien entendu,>及び＜he
is talking;il parle＞を含んでいるが、フランス語の句「bell victoire」とのペアを含んでいない場合、句「well,he is
talking a beautiful victory」から翻訳プロセスを開始することができる。
【００２３】
入力文が、ＴＭＥＭ１１０中に「そのまま（as is）」見つかった場合、その翻訳文は単に戻されて、それ以上の処理は行われない（ブロック４１５）。そうでなければ処理が続き、そしてデコーダ１１５は、言語モデル及び翻訳モデルによって割り当てられた確率に基づいて、現行翻訳文の正当性の確率Ρ（ｃ）を推定する（ブロック４２０）。最初の整合が生成した後、デコーダ１１５はその整合を改良しようとする（ブロック４２５）。すなわち、デコーダは、以下に述べるように、１又は２以上の文の修正オペレータを適用することによってより高い確率の整合（及び暗黙のうちに翻訳文）を見つけようとする。単語レベルの整合と以下に述べる特定のオペレータを使用することを、この特定の実施態様に対して選んだ。しかし異なる統計モデルを使用する代わりの実施態様は、異なる操作又は追加の操作から利益を得ることができる。
【００２４】
以下のオペレータが、前記デコーダの翻訳エンジンを集合的に構成しており下記のものがある。
【００２５】
一つ又は二つの単語の翻訳（translateOneOrTwoWords）（ｊ１，ｅ１，ｊ２，ｅ２）
この操作は、ｊ１とｊ２の位置に位置している一つ又は二つのフランス語の単語の翻訳文をｅｆｊ１とｅｆｊ２からｅ１とｅ２に変更する。ｅｆｊがファーティリティが１の単語でかつｅｋがヌルであればｅｆｊは上記翻訳文から削除される。ｅｆｊがヌル単語であれば、単語ｅｋは翻訳文中の最高確率の整合を生じる位置に挿入される。ｅｆｊ１＝ｅ１又はｅｆｊ２＝ｅ２ならばこの操作は単一単語の訳語を変えることになる。
【００２６】
翻訳と挿入（translateAndInsert）（ｊ，ｅ１，ｅ２）
この操作は、ｊ位置に位置するフランス語単語の訳語をｅｆｊからｅ１に変更し、かつ同時に最高確率の整合を生じる位置に単語ｅ２を挿入する。単語ｅ２は、ファーティリティがゼロである確率の高い１０２４個の単語の自動的に導出されるリストから選択される。ｅｆｊ＝ｅ１の場合、この操作は結局ファーティリティがゼロの単語を整合中に挿入することになる。
【００２７】
ファーティリティがゼロの単語の除去（removeWordOfFertility０）（ｉ）
この操作は、現行整合のｉ位置のファーティリティがゼロの単語を削除する。
【００２８】
セグメントのスワップ（swapSegments）（ｉ１，ｉ２，ｊ１，ｊ２）
この操作は、オーバーラップしていない英語単語のセグメント［ｉ１，ｉ２］及び［ｊ１，ｊ２］をスワップすることによって、新しい整合を古い整合からつくる。このスワップ操作中、英語単語とフランス語単語の間のすべての既存リンクは保存される。それらのセグメントは、一つの単語と同じほど小さいか又は｜ｅ｜−１個の単語と同じほど長くてもよく、この場合｜ｅ｜は英語の文の長さを表す。
【００２９】
単語の結合（joinWords）(ｉ１，ｉ２)
この操作は、整合から、ｉ１（又はｉ２）の位置にある英語単語を除き、次いでｅｉ１（又はｅｉ２）が生成したフランス語単語を、ｅｉ２（又はｅｉ１）にリンクする。
【００３０】
デコーダ１１５は、これら文修正操作の結果各々の正当性の確率Ｐ（Ｍ１）・・・Ｐ（Ｍｎ）すなわち新しく得た翻訳文各々の正当性の確率を推定できる（ブロック４３０）。デコーダ１１５は、新しい翻訳文がいずれも、それらそれぞれの正当性の確率を比較することによって、現行翻訳文より優れているかどうかを確認することができる（ブロック４３５）。新しい翻訳文がどれも現行翻訳文より優れた解を示したならば、その最良の新しい翻訳文（すなわち、その翻訳文の解は正当性の確率が最高である）を現行翻訳文として設定することができ（ブロック４４０）、次いで、そのデコーディングプロセスは、ブロック４２５に戻って、前記新しい現行翻訳の解に対して１又は２以上の文修正操作を実施できる。
【００３１】
上記プロセスは、文の修正操作が終って（ブロック４３５で確認されるように）、正当性の確率がより高い翻訳解を生成するまで繰り返すことができ、その時点で、そのデコーディングプロセスは終り、現行翻訳文が最終のデコーディング解として出力される（ブロック４４５）。あるいはデコーダ１１５は、例えばヒトのエンドユーザーによって又はデコーダ１１５を翻訳エンジンとして使用するアプリケーションプログラムによって選択される予め定められた回数の繰り返しの後に停止させることができる。
【００３２】
したがって、段階的に、最初のカバー文から出発して、デコーダ１１５はプロセスループ（ブロック４２５−４４０）を使用し、考慮中の整合から一操作離れているすべての整合を網羅的に繰り返すことができる。デコーダは、現行整合の確率がもはや改善できなくなるまで、最高確率の整合を選ぶ。
【００３３】
文の修正を行うとき（ブロック４２５）、システム設計者及び／又はエンドユーザーの選好によって、上記五つの文修正操作をすべて使用してもよく又はその操作のサブセットを使って他の操作を排除してもよい。例えば、デコーダの最も時間のかかる操作は、セグメントのスワップ（SwapSegments）、一つ又は二つの単語の翻訳（TranslateOneOrTwoWords）及び翻訳と挿入（translateAndInsert）である。セグメントのスワップは、長さ｜ｅ｜のシーケンスに対して構築できるすべての可能性のあるオーバーラップしていないスパンのペアにわたって繰り返す。一つ又は二つの単語の翻訳は｜ｆ｜２ｘ｜ｔ｜２の整合にわたって繰り返す。なお｜ｆ｜はフランス語の文の大きさであり、｜ｔ｜は各単語と関連する翻訳文の数である（この実行ではこの数はトップ１０の翻訳文に限定される）。
【００３４】
翻訳と挿入は、｜ｆ｜ｘ｜ｔ｜ｘ｜ｚ｜の整合にわたって繰り返す。なお｜ｚ｜はファーティリティがゼロである確率の高い単語のリストの大きさである（この実施態様で１０２４個の単語）。したがって、デコーダは、デコーディングの速度を上げるためにこれらのより時間のかかる操作の１又は２以上を省略するように設計できるが、正確さが犠牲になる可能性がある。あるいは又はさらに、デコーダは、システムの設計者及び／又はエンドユーザーの目的にしたがって、異なっているか又は追加の文修正操作を利用するように設計することができる。
【００３５】
カバー文を使用すると、例えば入力文の遂語的グロスより優れた結果を生成することができる。というのは、カバー文は、高い確率の翻訳文を生成する可能性があるサブスペース（subspace）のサーチに、デコーダをバイアス（bias）させるからである。なおそのサブスペースは他の方法で探究できない。ＴＭＥＭの強さの一つは、ＴＭＥＭが、文脈の劣ったリダクショニストチャネルのモデル（context
poor,reductionist channel model）を利用する統計的ＭＴシステムが学習したパラメータと調和していない文脈の長距離依存性（contextual,long-distance
dependency）を符号化できることである。
【００３６】
デコーダ１１５は、ＴＭＥＭ１１０からの句を使用して完全翻訳文を生成し、しかもその完成文を排除して、グロス（又はＴＭＥＭ１１０）から得たより高い確率の正しくない翻訳文を残すことができる。ＴＭＥＭベースの翻訳文がたとえ確率的チャネルモデルによる最良の翻訳文でなくても、場合によっては、デコーダ１１５にそのＴＭＥＭベースの翻訳文の方を選ぶことを許す別の順位付け法を、デコーダ１１５は利用することができる。
【００３７】
いくつもの実施態様を記述してきたが、本発明の精神と範囲を逸脱することなく各種の変形を行うことができることは分かるであろう。例えば、前記フローチャートのブロックは、省略したり又は順序を変えて実施してしかも望ましい結果を生成することができる。したがって他の実施態様は本願の請求項の範囲内に入る。
【図面の簡単な説明】
【００３８】
【図１】統計的機械翻訳システムのブロック図である。
【図２】確率的単語整合操作の結果を例示する。
【図３】原始文字列を目的文字列にどのようにしてマッピングできるかを説明する確率的プロセスを記述するフローチャートである。
【図４】ＴＭＥＭと統計的翻訳モデルの両者を使用するグリーディーデコーディング手順を記述するフローチャートである。
【図１】
2005516267.tif 000004
【図２】
2005516267.tif 000005
【図３】
2005516267.tif 000006
【図４】
2005516267.tif 000007
【国際調査報告】
2005516267.tif 000008