(57)【要約】【課題】モデルの不備またはデータスパースネスがある場合でも、高い信頼性で翻訳を生成することのできる翻訳装置を提供する。【解決手段】翻訳装置は、二言語コーパスから、入力文２０に類似するソース文を含む用例を検索するユニット３６と、検索された用例のターゲット文をシードとして用いて文２０を統計的に翻訳し、翻訳候補を生成するデコーダ３８と、候補をそれぞれの統計的スコアとシード文からの編集距離とによって再スコアし、最も高いスコアの候補を選択するためのユニット４０、４２及び４４とを含む。【選択図】        図１
2005250536.tif 000002
【特許請求の範囲】
【請求項１】
各々が第１の言語の第１の文と第２の言語の第２の文とを含む翻訳用例対を複数個含む二言語コーパスとともに用いられる、第１の言語の入力文を第２の言語に翻訳するための翻訳装置であって、
前記二言語コーパスから、予め選択された基準に従って前記入力文と類似すると判断される第１の文を含む翻訳用例対を検索するための検索手段と、
前記検索された用例対の第２の文をシードとして用いて、前記入力文を統計的に翻訳し、前記入力文の複数個の翻訳候補をそれぞれの統計的スコアとともに生成するための統計的機械翻訳手段と、
前記翻訳候補のそれぞれの選択スコアに従って複数の翻訳候補のうち一つを出力するための出力手段とを含み、前記選択スコアは、前記翻訳候補のそれぞれの前記統計的スコアと、前記それぞれの翻訳候補、及び前記検索された用例対の第２の文のそれぞれの間の編集距離との関数である、翻訳装置。
【請求項２】
前記検索手段は、前記二言語コーパスから、予め選択された基準に従って前記入力文と類似すると判断される第１の文を各々が含む複数の翻訳用例対を検索するための手段を含み、
前記統計的機械翻訳手段は、前記検索された用例対の第２の文をそれぞれシードとして用いて、前記入力文を統計的に翻訳し、前記入力文の複数個の翻訳候補をその対応する統計的スコアとともに生成するための統計的に機械翻訳するための手段を含み、前記翻訳候補の各々は前記翻訳候補を生成するのに用いられた前記シードと関連付けられており、
前記出力手段は、
前記複数の翻訳候補の各々について、前記翻訳候補の前記統計的スコア、及び翻訳候補と翻訳候補を生成するのに用いられた翻訳用例対の第２の文との間の編集距離、の関数として前記選択スコアを計算するための手段と、
前記複数個の翻訳候補のうち、予め定められた条件を満たすものを選択するための手段とを含む、請求項１に記載の翻訳装置。
【請求項３】
前記選択するための手段は、前記複数個の翻訳候補のうち、最も高い選択スコアを達成するものを選択するための手段を含む、請求項２に記載の翻訳装置。
【請求項４】
前記統計的スコアは、前記翻訳候補の言語モデルスコアと翻訳モデルスコアとを含む、請求項１から請求項３のいずれかに記載の翻訳装置。
【請求項５】
予め選択された基準がＴＦ／ＩＤＦ基準を含む、請求項１から請求項４のいずれかに記載の翻訳装置。
【発明の詳細な説明】
【技術分野】
【０００１】
この発明はコーパスを用いる翻訳システムに関し、特に、検索された用例のターゲット言語部を基本的に貪欲アルゴリズムによって修正し、候補のうち一つを選択するコーパスを用いる翻訳装置に関する。
【背景技術】
【０００２】
統計的機械翻訳（以下“ＳＭＴ”と称する）方式では、ソース言語Ｓのある文をターゲット言語Ｔに翻訳する問題を、条件付確率の最大化問題として以下のように定式化する。
【０００３】
ａｒｇｍａｘ（Ｔ）ｐ（Ｔ）＊ｐ（Ｓ｜Ｔ）
ｐ（Ｔ）は「言語モデル」（以下“ＬＭ”）と呼ばれ、ターゲット言語の尤度を表す。ｐ（Ｓ｜Ｔ）は「翻訳モデル」(以下“ＴＭ”）と呼ばれ、ＳからＴを生成する確率を表す。
【０００４】
ＬＭ及びＴＭ確率はそれぞれ単言語コーパス及び二言語コーパスを用い、自動学習される。具体的には、これらモデルのパラメータをそれぞれのコーパスから推定する。これらは、ソース言語の単語のシーケンスをターゲット言語へマッピングするのに用いられる、一般的な翻訳知識を表す。
【０００５】
こうした考え方での問題となるのは、探索空間が膨大だということである。すなわち、ある特定のソース言語の文からの翻訳として可能なものの数が多い、ということである。適切な翻訳を見出すためには、翻訳プロセス（デコード）の間に、起こり得る多数の単語の挿入、ソース言語とターゲット言語との単語シーケンス間の複雑な単語のアライメント（ファーティリティ）、及び単語順序の変更（変形）を考慮に入れなければならない。
【０００６】
英語（Ｅ）の単語シーケンスを日本語（Ｊ）にマッピングする例を図３に示す。図３を参照して、ソース文（Ｅ）１００は“could”を繰返し（ファーティリティ）、“recommend”と“another”との間にNULLを挿入し、文の後に別のNULLを付与し（挿入）、各単語をその翻訳と置換え（辞書）、最後に単語の順番を変更すること（変形）によって、日本語の文１０２にマッピングされる。
【０００７】
従来のＳＭＴアプローチは、翻訳モデル（ファーティリティ、NULL生成、辞書、変形）及び言語モデルの確率に基づいて、生成された全ての翻訳候補にスコアをつけている。最も高いＴＭ＊ＬＭスコアを持つ翻訳候補が翻訳出力として選択される。
【０００８】
TM*LM=p(T)*p(S|T)
p(S|T)  =  p(ファーティリティ)*p(NULL)*p(辞書)*p(変形)
p(T)  =  p(言語)
しかし、このシステムは、モデルパラメータの推定時のデータスパースネスのために統計的モデルに不備があること、及び翻訳プロセスで探索誤りが生ずることにより、良好な翻訳を見出すことができない場合がある。
【０００９】
この基本概念を拡張したものが、非特許文献１に提案されている。単語ごとにデコードし出力列を生成する代わりに、ここではそのソース部が入力文と類似する二言語コーパスから検索された翻訳用例を用いる。これは、用例のターゲット部をわずかに修正して、用例対が実際の翻訳になるようにする。
【００１０】
この用例ベースのアプローチの利点は、好ましい翻訳の探索が、当て推量による翻訳ではなく、検索された翻訳用例から出発することであり、この結果、探索誤りが少なくなる。
【００１１】
【非特許文献１】Ｔ．ワタナベ及びＥ．スミタ、「統計的機械翻訳のための例ベースのデコーディング」、ＭＴサミットＩＸ予稿集、ｐｐ.４１０−４１７、２００３。（T.  Watanabe  and  E.  Sumita,  "Example-based  Decoding  for  Statistical  Machine  Translation",  Proceedings  of  MT  Summit  IX,  pp.  410-417,  2003.）
【発明の開示】
【発明が解決しようとする課題】
【００１２】
しかし、非特許文献１に開示の先行技術は基本的な方法と同じ貪欲アルゴリズムを用いており、従って、探索誤りを完全に防ぐことはできない。さらに、基本方式でのモデル不備の問題が依然として残っている。
【００１３】
従って、この発明の目的の一つは、モデルの不備またはデータスパースネスがある場合でも、高い信頼性で翻訳を生成することのできる翻訳装置を提供することである。
【課題を解決するための手段】
【００１４】
この発明の一局面に従った装置は、各々が第１の言語の第１の文と第２の言語の第２の文とを含む翻訳用例対を複数個含む二言語コーパスとともに用いられる、第１の言語の入力文を第２の言語に翻訳するための翻訳装置である。この装置は、二言語コーパスから、予め選択された基準に従って入力文と類似すると判断される第１の文を含む翻訳用例対を検索するための検索手段と、検索された用例対の第２の文をシードとして用いて、入力文を統計的に翻訳し、入力文の複数個の翻訳候補をそれぞれの統計的スコアとともに生成するための統計的機械翻訳手段と、翻訳候補のそれぞれの選択スコアに従って複数の翻訳候補のうち一つを出力する出力手段とを含み、選択スコアは、翻訳候補のそれぞれの統計的スコアと、それぞれの翻訳候補及び検索されたそれぞれの用例対の第２の文の間の編集距離との関数である。
【００１５】
好ましくは、検索手段は、二言語コーパスから、予め選択された基準に従って入力文と類似すると判断される第１の文を各々が含む複数の翻訳用例対を検索するための手段を含む。統計的機械翻訳手段は、検索された用例対の第２の文をそれぞれシードとして用いて、入力文を統計的に翻訳し、入力文の複数個の翻訳候補をその対応する統計的スコアとともに生成するための統計的に機械翻訳するための手段を含んでも良い。翻訳候補の各々は翻訳候補を生成するのに用いられたシードと関連付けられている。出力手段は、複数の翻訳候補の各々について、翻訳候補の統計的スコア、及び翻訳候補と、当該翻訳候補を生成するのに用いられた翻訳用例対の第２の文との間の編集距離、の関数として選択スコアを計算するための手段と、複数個の翻訳候補のうち、予め定められた条件を満たすものを選択するための手段とを含んでも良い。
【００１６】
選択するための手段は、複数個の翻訳候補のうち、最も高い選択スコアを達成するものを選択するための手段を含んでも良い。
【００１７】
好ましくは、統計的スコアは、翻訳候補の言語モデルスコアと翻訳モデルスコアとを含む。
【００１８】
さらに好ましくは、予め選択された基準はＴＦ／ＩＤＦ（Ｔｅｒｍ  Ｆｒｅｑｕｅｎｃｙ−Ｉｎｖｅｒｓｅ  Ｄｏｃｕｍｅｎｔ  Ｆｒｅｑｕｅｎｃｙ：語頻度―逆文書頻度）基準を含む。
【発明を実施するための最良の形態】
【００１９】
[基となる概念]
背景技術の項で説明した問題を克服するためには、ＳＭＴデコーダで選択された翻訳候補の有効性を確認し、統計的モデルの不備または探索誤りにより、最適でない翻訳が生じてしまったかどうかを判断することが必要である。このような検証フィルタがあれば、不備のある翻訳文を棄却でき、システム全体の性能が改良される。
【００２０】
この実施の形態のアプローチは、特願２００３−３０８４０９号の用例ベースの概念を拡張するものである。ここでは、デコーダの出力を、翻訳時に利用された翻訳用例のターゲット部と比較する。ソース部が入力とよく類似した高品質の翻訳用例が与えられるので、デコードの間に用例のターゲットを翻訳候補に変換するために必要な修正が少なくなればなるほど、統計的モデルの不備が少ないと仮定することができる。
【００２１】
各翻訳候補について、デコーダ出力の単語シーケンスと利用された翻訳用例のターゲット部との距離を測定し、これによって、距離尺度、例えば「編集距離」（ＥＤ）と呼ばれるものが計算される。ＥＤの場合、これは一つの単語シーケンスを別のものにマッピングするのに必要とされる挿入、削除、及び置換の数に基づいて計算される。
【００２２】
提案されたシステムは、翻訳モデル及び言語モデルの統計的確率を仮説不備情報（ＥＤ）と以下のように組合せることによって、ＳＭＴデコーダの翻訳候補の再スコアリングを行なう。
【００２３】
スコア＝Ｆ（ＴＭ,ＬＭ,ＥＤ）
ここで「Ｆ」はＴＭ、ＬＭ及びＥＤの値に基づいて候補のスコアを計算する関数を表す。
【００２４】
最大スコアの翻訳候補が翻訳出力として選択される。
【００２５】
[システムの概要]
ＳＭＴ翻訳システム２２を図１にブロック図で示す。図１を参照して、システム２２はソース言語の入力文２０をターゲット言語の出力文２４に翻訳するものであって、二言語コーパス３０と、ソース部が入力文２０と類似する用例文対を、情報検索の枠組に導入されたＴＦ／ＩＤＦ基準を用いて二言語コーパス３０から検索するための検索ユニット３６とを含む。
【００２６】
ＴＦ／ＩＤＦ基準は、文書内で用いられる語の重みから成るベクトルで、その文書を特徴付けるのに用いられる尺度である。ここでは、各文が単一の文書であるとみなす。従って各文には特徴ベクトルが割当られる。こうすれば、２つの文の類似度は、それらの特徴ベクトルの内積または余弦尺度で判断される。
【００２７】
システム２２はさらに、ターゲット言語の言語モデル３２と、翻訳モデル３４（ｐ（Ｓ｜Ｔ））と、検索ユニット３６によって検索された用例対のターゲット部にデコードアルゴリズムを適用することによってＮ−ベストの翻訳候補を出力するデコーダ３８とを含む。ターゲット部の各々はデコーダ３８におけるデコードアルゴリズムのシードとして用いられる。
【００２８】
システム２２はさらに、シードのターゲット文とそれぞれの候補との間の編集距離を計算するための編集距離計算ユニット４０と、候補の統計的スコアを編集距離計算ユニット４０において計算されたそれぞれの編集距離と組合せることによって各候補の再スコアリングをするための再スコアユニット４２と、最大スコアの候補を選択するための選択ユニット４４とを含む。選択された候補が出力文２４として出力される。
【００２９】
二言語コーパス３０は、多数のソース及びターゲット文の対を含み、その各々には前もって対応関係付けの処理がされている。言語モデル３２と翻訳モデル３４とは二言語コーパス３０の一部であるトレーニングセットから得られる。二言語コーパス３０の対は互いに相手に対する良好な訳であると仮定される。
【００３０】
入力文Ｓ０が与えられると、検索ユニット３６は編集距離の基準を用いて、挿入、削除及び置換について１のペナルティを課しながら、翻訳用例の集まり（（Ｓ１，Ｔ１），（Ｓ２，Ｔ２），…)の中でＳ０に類似のＳｋを探す。第１のステップにおいて、ＴＦ／ＩＤＦ基準を導入して、各例を一つの文書として取扱いながら、妥当な用例を探索する。その後、各用例（Ｓｋ，Ｔｋ）について、Ｓ０に対するＤＰマッチングが行なわれ、編集距離を計算する。スコアｅｄ（Ｓｋ，Ｓ０）について入力長さ｜Ｓ０｜を用いた正規化により単語誤り率に変換し、１から減算して訂正率を導き出す。最大スコアの翻訳用例が検索ユニット３６から返される。
【００３１】
図２はデコーダ３８におけるデコードアルゴリズムの概要を示す。類似する用例（（Ｓ１，Ｔ１），（Ｓ２,Ｔ２），…）を検索した後、デコーダ３８は貪欲アルゴリズムを用いて統計的翻訳モデルに従い、翻訳用例のターゲット部からシードターゲット６０を選択する。各シードターゲットについて、ステップ６１で（Ｓ０，Ｔｋ）のビタビアライメントが計算される。単語の挿入／削除操作と特定の単語アライメントの移動／交換を用いて、出力とアライメントとが修正される。修正されたターゲット６４から、アルゴリズムは最良の動作６６をその次の繰返し用のシード候補として選択する。ステップ６８で、ターゲット候補のスコアがシードターゲットのそれよりも良好であるかどうかが判断される。もしそのシード候補のスコアがシードターゲット６０よりも良好であれば、ステップ７０に示されるように、そのターゲット候補が次の繰返しのためのシードとして選択され、次の繰返しが開始される。スコアが改善されない場合は、シードターゲット６０がステップ７２で候補として出力される。
【００３２】
各翻訳候補について、編集距離計算ユニット４０は、デコーダ３８の単語シーケンスと、翻訳で利用された用例対のターゲット部との距離を計算する。二つの単語シーケンスＳＥＱ１とＳＥＱ２との間の編集距離ＥＤ（ＳＥＱ１，ＳＥＱ２）は、一方の単語シーケンスを他方のシーケンスにマッピングするのに必要とされる挿入の数ｉｎｓ（ＳＥＱ１，ＳＥＱ２）、削除の数ｄｅｌ（ＳＥＱ１，ＳＥＱ２）、及び置換の数ｓｕｂ（ＳＥＱ１，ＳＥＱ２）に基づいて計算される。
【００３３】
ED(SEQ1,  SEQ2)=ins(SEQ1,  SEQ2)  +  del(SEQ1,  SEQ2)  +  sub(SEQ1,  SEQ2)
再スコアユニット４２は、デコーダ３８によって出力された統計的スコア、及び、利用された例と候補との編集距離、を組合せることによって、各候補の再スコアリングを行なう。この再スコアは関数Ｆ（ＴＭ，ＬＭ，ＥＤ）によって行なわれる。関数Ｆ（ＴＭ，ＬＭ，ＥＤ）の例を以下に示す。
【００３４】
【数１】
2005250536.tif 000003
ここでscale_factorはコーパス／テストデータに依存して予め選択された定数であり、開発データ（非トレーニング、非テストデータ）を用いて最適化することができる。
【００３５】
【数２】
2005250536.tif 000004
ここでlength（Ｘ）は文Ｘ内の語数を表す。
【００３６】
いずれの場合も、ＥＤの値が大きければＦの値は小さくなる。
【００３７】
以下で説明する実験結果については、上述のＦ1（ＴＭ，ＬＭ，ＥＤ）を用いた。実験では、日本語の文を英語の文に翻訳した。
入力
S0:  "私  は  ギター  を  弾き  ます"
検索：
S1:  "私  は  バイオリン  を  弾き  ます"
T1:  "I  play  the  violin"
デコード：
【００３８】
【表１】
2005250536.tif 000005
編集距離：
【００３９】
【表２】
2005250536.tif 000006
選択：
【００４０】
【表３】
2005250536.tif 000007
出力：
【００４１】
【表４】
2005250536.tif 000008
[実験結果]
出願人の研究所で開発された３種類の異なるコーパスを用いて、３つの選択スコア方式の性能を比較した。
（ａ）ＢＴＥＣ（５１０文）  基本旅行表現コーパス
（ｂ）ＳＬＤＢ（３３０文）  音声及び言語データベース
（ｃ）ＭＡＤ（５０５文）    機械支援対話
各テストセットは、異なる種類の選択スキームを用いて翻訳された。評価のために、参考訳に対する編集距離（挿入／削除／置換）に対しペナルティを課す「単語誤り率（ＷＥＲ）評価尺度」を用いた。
【００４２】
【表５】
2005250536.tif 000009
すなわち、参考訳からスコアＦ（ＴＭ，ＬＭ，ＥＤ）によって選択された候補までの編集距離は、ＴＭ＊ＬＭまたはＥＤによって選択されたものより小さくなっている。
【００４３】
上述の実施の形態は単なる例示であって制限的なものと解してはならない。本発明の範囲は、発明の詳細な説明の記載を参酌した上で、特許請求の範囲の各請求項によって示され、そこに記載された文言と均等の意味及び範囲内でのすべての変更を含む。
【図面の簡単な説明】
【００４４】
【図１】この発明の一実施例に従った翻訳システムの全体構成を示す図である。
【図２】デコーダ３８内のデコードアルゴリズムを概略的に示す図である。
【図３】ソース単語シーケンスをターゲット単語シーケンスにマッピングする例を示す図である。
【符号の説明】
【００４５】
２０  入力文、２２  翻訳システム、２４  出力文、３０  二言語コーパス、３２  言語モデル、３４  翻訳モデル、３６  検索ユニット、３８  デコーダ、４０  編集距離計算ユニット、４２  再スコアユニット、４４  選択ユニット
【図１】
2005250536.tif 000010
【図２】
2005250536.tif 000011
【図３】
2005250536.tif 000012
【外国語明細書】
2005250536000001.pdf
2005250536000002.pdf
2005250536000003.pdf
2005250536000004.pdf