統計的機械翻訳とニューラル機械翻訳の混合 n ベストリランキング
Benjamin Marie 藤田 篤
情報通信研究機構
1

はじめにニューラル機械翻訳 (NMT) は，多くの翻訳タスクにおいて，句に基づく統計的機械翻訳 (PBSMT) を超える性能を示している．NMT による翻訳は，PBSMT によ

純なアプローチであるが，2 つの集合は性質が異なるため，解決が容易とは限らない．例えば NMT に基づく素性は，PBSMT から得た翻訳候補に対して低いスコアになりやすい．そこで，翻訳候補のリランキングる翻訳よりも流暢である場合が多いが，原文と意味がに一般的に用いられている素性，特に PBSMT や NMT異なっていたり，訳し漏れや不要な語の繰り返しを生やデコード時には容易に参照できない素性を，PBSMTじたりする場合もある．また，対訳データが十分になおよび NMT に基づく素性と組み合わせて用いる．

い言語対やドメインなど，現実的な状況下で，PBSMT

2.1 NMT に基づく素性よりも性能が低いことが指摘されている [2, 17, 7] ．

NMT の翻訳モデルを用いると，任意の原文に対するより高品質な翻訳を生成するため，PBSMT と NMT任意の翻訳の尤度を計算できる．一般に，異なる NMTを組み合わせる，次の 4 種類の手法が検討されてきた．のモデル，異なるエポックのモデル，異なる学習戦略・(a) 与えられた翻訳候補集合から，単語アラインメン
トに基づいて Confusion Network などを構成し，そ設定で得たモデルなど，複数のモデルをアンサンブル

こから改めて訳文をデコードする手法 [1, 4]．

文頭から文末に向かって訳文を生成するモデル (left-(b) PBSMT による n ベストの翻訳候補を NMT の尤度

to-right; L2R) で生成した翻訳候補をリランキングする
際は，文末から文頭に向かって訳文を生成するモデルに基づいてリランキング する手法 [8]．

することによって，より適切な尤度が得られる．

(c) NMT による翻訳候補を PBSMT のモデルを用いてリランキングする手法 [19] (Phrase-based forced(right-to-left; R2L) による尤度が有用である [15]．

decoding; PBFD)．
(d) PBSMT と NMT のパイプライン (事前翻訳) [11, 3]．

NMT による翻訳候補に対して PBFD を適用し，そのスコアを素性として用いる [19]．PBSMT による翻訳候

我々は，PBSMT と NMT の各々を用いて生成した 2

補については，デコード時の尤度をそのまま用いる．

つの翻訳候補集合を合わせてリランキングする．本稿
では，我々が検討した種々の素性，および 4 つの翻訳PBFD によってフレーズの対応関係が求まれば，フレーズテーブルにおける翻訳確率の他，PBSMT で一般タスクを用いた評価実験について述べる．

的に用いられる，歪みスコア，語彙化並び替えモデル

2.2 PBSMT に基づく素性のスコア，フレーズペナルティなどの素性も計算でき

2

リランキング手法
n ベストの翻訳候補のリランキングは，探索空間における最適な部分空間のみを対象としつつ，デコード時にる．さらに，それらと言語モデルのスコア，単語ペナルティを組み合わせて PBSMT の尤度も計算できる．

2.3

文レベルの翻訳確率は容易に参照できない素性も参照できるため，PBSMTPBFD ではフレーズ単位の翻訳確率のみを用いるが，の黎明期から用いられてきた [12]．このアプローチで(c) は，単一のシステムから得られる翻訳候補のみを対PBSMT や他の多言語処理タスクにおいて，語彙翻訳確率の有用性も報告されている．NMT は単語アラインメントを陽に特定しないので，次式の通り，原文 f と翻象とするため，多様性に限界がある．上述の手法 (a) は，訳候補 e に含まれる全てのトークンの対についての翻一般に複数の異なるシステムの翻訳候補を組み合わせ訳確率を平均して文レベルの翻訳確率を得る．

ることを想定している．元の翻訳候補集合には含まれIJ)
1 ∑ (1 ∑log
p(ei |fj )Pavg (e|f ) =I i=1
J j=1は，翻訳候補の多様性が鍵となる [5]．上述の手法 (b)，ない翻訳候補も探索空間に含めることになるため，性能が劣化する場合がある．

(1)

我々は，PBSMT と NMT の各々を用いて生成した n

ここで，I と J は各々，e と f におけるトークンの数

ベストの翻訳候補集合を合わせてリランキングする．単を表す．p(ei |fj ) は f の j 番目の語 fj に対する e の i表 1: 実験に用いたデータの記述統計.
データセット

用途

文数

NTCIR

訓練データ
開発データ (pat-dev-2006-2007)
評価データ (ntc9-je, 日英 T09)
評価データ (ntc9-ej, 英日 T09)
評価データ (ntc10-je, 日英 T10)
評価データ (ntc10-ej, 英日 T10)
単言語データ

3M
2,000
2,000
2,000
2,300
2,300-WMT 2015

訓練データ開発データ (newstest2012)
評価データ (newstest2013, N13)
評価データ (newstest2014, N14)
単言語データ

24M
3,003
3,000
3,003-

番目の語 ei の語彙翻訳確率であり，翻訳モデルの訓練

Ja

トークン数
FrEn

110M
73k
74k
74k
99k
87k
27B

102M
67k
68k
70k
92k
80k
15B
726M
82k
74k
81k
2B

3.1

トークンの異なり数
Ja
FrEn

169k
4k
5k
5k
6k
6k
9M

614M
73k
70k
71k
3B

275k
5k
6k
6k
7k
6k
22M
2M
11k
11k
11k
4M

2M
10k
9k
10k
6M

データ

データに単語アラインメントを適用して推定する．ま日英・英日翻訳には，NTCIR の特許翻訳のデータ 1

た，次式の通り，最尤の訳語のみを考慮することも考を用いた．言語モデルを構築するため，NTCIR から提えられる [6]．

供されている単言語データも用いた．仏英・英仏翻訳にI)
1∑ (Plmax (e|f ) =log max p(ei |fj )j
I i=1

は，WMT 20152 のニュース翻訳のデータを用いた．訓(2)

上の 2 つの式による文レベルの翻訳確率を，起点言語から目標言語 (順方向) と目標言語から起点言語 (逆方向) の各々について求め，リランキングに用いる．

2.4

単語事後確率に基づくスコア

練データは，Europarl v7，109 ，news-commentary v10からなる．単言語データとしては，News Crawl の 2007-2014 年分を用いた．データの種類と規模を表 1 に示す．
3.2

翻訳システムPBSMT の実装としては，Moses3 を用いた．日英・英日翻訳については mgiza4 ，仏英・英仏翻訳について

PBSMT による翻訳候補のリランキングにおいて，翻訳候補集合における各トークンの出現確率に基づくスコアも有用である．我々は，式 (1) のスコアや NMT のは fast align5 による単語アラインメントを適用しモデルによる翻訳尤度を各翻訳候補の重みとし，重みデータの目標言語側のみから 1 つ，それと単言語デー付き出現頻度に基づく単語事後確率 [18] を計算する．

タを連結したものから 1 つ，4-gram モデルを Moses

2.5

コンセンサススコア

た後，grow-diag-final-and ヒューリスティックスによってフレーズテーブルを構築した．言語モデルは，訓練の lmplz を用いて構築した．語彙化並び替えモデル

各翻訳候補が，翻訳候補集合中の他の翻訳候補に平は，双方向の MSD モデルを用いた．各モデルの重み，均的にどの程度類似しているかを定量化して用いる．翻および並び替え距離の上限値は，開発データと Moses

訳候補間の類似度としては，文レベルの BLEU スコアの kbmira を用いて定めた．

[13] (sBLEU) や chrF++スコア [14] を用いる.
2.6

その他の素性NMT の実装としては，Nematus6 をデフォルトの設定で用いた．BPE [16] を用いて，日英・英日翻訳につ翻訳候補の長さ (単語ペナルティ(2.2 節) に相当) は，いては言語ごとに 5 万種の語彙を，仏英・英仏翻訳につ翻訳候補の品質を推定する上で有用な情報である [10]．

いては両言語に共通の 5 万種の語彙を定めた．デコー

原文の長さとの差や比なども検討に値する．

ドの方向は L2R とした．翻訳モデルの学習の際，ミニいくつかの素性は，翻訳候補の出自によって極端にバッチを 5,000 回処理するごとにモデルを保存し，学異なる値をとる．そのようなバイアスを制御するため，習の収束後，開発データに対する性能が最も良かった

個々の翻訳候補が PBSMT と NMT のどちらによって生4 つのモデルをアンサンブルに用いた．

成されたものであるかを表す 2 値素性を用いる．

3

評価実験
各手法の性能を，日英・英日・仏英・英仏の 4 つの翻訳タスクを用いて評価した．

1 http://ntcir.nii.ac.jp/PatentMT-2/
2 http://www.statmt.org/wmt15/
3 https://github.com/moses-smt/mosesdecoder
4 https://github.com/moses-smt/mgiza
5 https://github.com/clab/fast_align6 https://github.com/EdinburghNLP/nematus

表 2: リランキングに用いた素性の一覧 (括弧内は素性の数).
素性説明

L2R (5)
R2L (5)
PBFD (1)
LEX (4)
LM (2)WP (1)WPP (2)

4 ベストの L2R の Nematus モデルによる翻訳尤度，およびそれらの幾何平均．
4 ベストの R2L の Nematus モデルによる翻訳尤度，およびそれらの幾何平均．
PBFD のスコア．
文レベルの翻訳確率．翻訳の順方向と逆方向の各々について，2 つの式 (1)，(2) に基づいて計算したもの．
言語モデルのスコア．Moses 用に構築した 2 種類の言語モデルの各々のスコアを使用．
単語ペナルティ．
単語事後確率に基づくスコア．単語事後確率推定時の翻訳候補の重みとして，式 (1) に基づくものとNematus による翻訳尤度の 2 種類を独立に使用．
M+N におけるコンセンサススコア．sBLEU に基づくものと chrF++に基づくものの 2 種類．
原文と翻訳候補の長さの差分およびその絶対値．
翻訳候補を生成したシステムに関するフラグ．M に含まれていれば 1．N に含まれていれば 0．

MBR (2)
LEN (2)
SYS (1)

表 3: 各手法によって生成・選択された訳文の BLEU スコア.
手法

PBSMT: Moses
NMT: Nematus
既存手法 (a): Jane
既存手法 (a): Jane
既存手法 (b): Rnmt
既存手法 (c): Rpbsmt
提案手法
提案手法
提案手法

3.3

日英T09 T10

英日
T09 T10仏英
N13 N14英仏
N13 N14-31.3
41.9

32.7
41.6

34.7
44.8

35.9
45.4

31.4
30.8

39.9
34.0

30.6
30.6

39.1
35.8

M+N (n=1)
M+N (n=100)
M
N

41.5
39.0
33.3
42.5

41.6
40.2
34.1
43.1

44.9
41.6
36.8
46.1

45.8
42.7
38.3
46.7

32.0
32.1
33.6
32.5

40.0
40.0
41.4
34.7

30.8
31.0
32.4
31.4

39.5
39.9
40.5
36.1

MN
M+N

33.5
43.0
43.0

34.2
43.8
43.9

36.7
46.9
47.1

38.5
47.5
47.7

33.6
33.9
34.2

41.438.0
41.6

32.4
32.3
32.6

40.4
38.8
40.8

3.4

評価結果

リランキング対象

リランキングシステム

既存手法 (a) のうち Confusion Network に基づくもの

各手法によって生成・選択された訳文の BLEU スコを，Jane [4] および PBSMT 用に構築した言語モデル

ア [13] を表 3 に示す．最初の 2 行が示す通り，PBSMTを用いて実現した．Moses と Nematus の各々の翻訳と NMT の優劣は翻訳タスクによって異なる．日英・英候補の個数として，1 個と 100 個を比較した．

日翻訳については，長距離の並び替えをうまく扱える

既存手法 (b) に相当するシステム Rnmt では，Moses
素性，Nematus の 4 ベストの L2R モデル，4 ベスト

NMT が，PBSMT よりも 8.9〜10.6 ポイント高い BLEUスコアを達成した．一方，仏英・英仏翻訳については，
PBSMT の方が性能が良かった．の R2L モデルの尤度を用いてリランキングした．一方，既存手法 (a) の性能は，PBSMT よりも常に高かった．

既存手法 (c) に相当する Rpbsmt は，Nematus のビー

また，日英翻訳以外の 3 つの翻訳タスクにおいて，NMT

ム幅 7 を 100 として得た 100 ベストの翻訳候補 (N) を，の性能も改善した．ただし，100 ベストの翻訳候補を

文献 [19] と同様に，Nematus の 4 ベストの L2R モデ用いた場合，日英・英日翻訳の性能は 1.4〜3.3 ポイン

ルの尤度，Moses のフレーズテーブルに基づく PBFD

ト劣化し，NMT を下回った．これは，PBSMT によるのスコア，単語ペナルティを用いてリランキングした．

翻訳候補が極端に低品質であるためと考えられる．

による 100 ベストの翻訳候補 (M) を，Moses の全ての既存手法 (d) も実装・評価したが，全ての翻訳タスク

既存手法 (b) は PBSMT よりも 1.4〜2.4 ポイント，既において，単体の翻訳システムよりも性能が低かった

存手法 (c) は NMT よりも 0.3〜1.7 ポイント高い BLEU

ため，以下では言及しない．

スコアを示した．既存手法の中では，日英・英日翻訳

我々の提案手法は，開発データに対する M と N をあでは手法 (c) が，仏英・英仏翻訳では手法 (b) が最も高わせたもの (以下，M+N)，表 2 に示す 25 種類の素性 8 ，い性能を示した．PBSMT と NMT の優劣は，そのままおよび Moses の kbmira を用いて実現した．

手法 (b) と (c) の優劣に継承されている．
我々の提案手法は，M のみを対象とした場合は既存手

7 翻訳候補の品質の低下を避けるため，デコード時に参照する尤

度を訳文の長さ (トークン数) で正規化した [7]．
8 PBFD の結果に基づいて計算した歪みスコア，語彙化並び替えモ
デルのスコア，翻訳確率，フレーズペナルティ，および PBSMT の尤度も利用できる (2.2 節) が，今回の実験においてはいずれも性能を劣化させたため，以下では言及しない．

法 (b) と同程度の性能であったが，N のみを対象とした
場合は既存手法 (c) よりも 0.5〜3.3 ポイント高い BLEUスコアを達成した．さらに，M+N を対象とすることにより，4 つの翻訳タスク，8 種類の評価データの全てに表 4: 一部の素性を除外して学習した提案手法の性能.
除外した素性 日英, T09 英日, T09 仏英, N13 英仏, N13なし

43.0

47.1

34.2

32.6

L2R
R2L
PBFD
LEX
LM
WP
WPP
MBR
LEN
SYS

43.0
42.6
43.2
43.0
43.1
43.1
43.1
43.1
43.1
43.1

47.1
46.6
47.0
47.1
47.147.1
47.1
46.9
47.1
47.1

34.1
33.7
34.3
34.1
34.0
34.1
34.1
33.9
32.7
34.1

32.5
32.1
32.3
32.4
32.2
32.6
32.4
32.4
32.0
32.6

L2R+R2L
PBFD+LEX
WPP+MBR
WP+LEN

42.5
43.1
43.2
43.0

46.7
47.0
46.9
46.7

33.7
34.3
34.0
32.8

32.0
32.5
32.4
31.9

L2R+R2L+
PBFD+LEX

42.4

46.2

33.6

31.8

おいて，最も高い性能を示した．PBSMT と NMT の良い方のシステムに対する BLEU スコアの改善幅は 1.1〜2.8 ポイントであった．相対的に品質が低い翻訳候補を加えた場合でも性能が劣化しておらず，提案手法の頑健さが示された．
表 2 の素性の一部を除外して学習した提案手法の，日英・英日翻訳の T09，仏英・英仏翻訳の N13 におけるBLEU スコアを表 4 に示す．各素性の影響の多寡は翻訳タスクによって異なっていた．意外なことに，仏英翻訳における LEN (-1.5 ポイント) を除き，素性を 1 つ除外しても，BLEU スコアは最大 0.5 ポイントしか下がらなかった．NMT に基づく素性 (L2R+R2L) と翻訳確率に関する素性 (PBFD+LEX) は計算コストが非常に高いが，これらを除外しても，BLEU スコアは最大 0.9 ポイントしか下がらなかった．NMT の尤度については，

L2R よりも R2L の方が有用であった [15]．L2R のモデルで生成した翻訳候補を用いたためであろう．

4

おわりに
本稿では，PBSMT と NMT の n ベストの翻訳候補を合わせてリランキングすることにより，両者の優劣に関わらず性能を改善できることを示した．これは 2 節で述べた，リランキングの対象とする翻訳候補の多様性 [5] に依拠する．翻訳候補の多様性，品質に関する分
析結果については，本稿の詳細版 [9] を参照されたい．
今後は，より小規模な対訳データしか存在しない状
況における提案手法の有用性を検証する予定である．
謝辞:

本研究は，総務省の情報通信技術の研究開発「グローバルコミュニケーション計画の推進–多言語音声翻訳技術の研究開発及び社会実証– I. 多言語音声翻訳技術の研究開発」の一環として行われた．

参考文献[1] S. Bangalore, G. Bordel, and G. Riccardi. Computing consensus translation from multiple machine translation systems. In Proc. of the ASRU, pp. 351–354, 2001.
[2] L. Bentivogli, A. Bisazza, M. Cettolo, and M. Federico.
Neural versus phrase-based machine translation quality: acase study. In Proc. of EMNLP, pp. 257–267, 2016.
[3] J. Du and A. Way. Neural pre-translation for hybrid machine translation. In Proc. of MT Summit, pp. 27–40, 2017.
[4] M. Freitag, M. Huck, and H. Ney. Jane: Open source machine translation system combination. In Proc. of EACL,pp. 29–32, 2014.
[5] K. Gimpel, D. Batra, C. Dyer, and G. Shakhnarovich. A
systematic exploration of diversity in machine translation.
In Proc. of EMNLP, pp. 1100–1111, 2013.
[6] A. S. Hildebrand and S. Vogel. Combination of machinetranslation systems via hypothesis selection from combined
n-best lists. In Proc. of AMTA, pp. 254–261, 2008.
[7] P. Koehn and R. Knowles. Six challenges for neural machine translation. In Proc. of the First Workshop on NeuralMachine Translation, pp. 28–39, 2017.
[8] H.-S. Le, A. Allauzen, and F. Yvon. Continuous spacetranslation models with neural networks. In Proc. ofNAACL-HLT, pp. 39–48, 2012.
[9] B. Marie and A. Fujita. A smorgasbord of features to combine phrase-based and neural machine translation. In Proc.
of AMTA, 2018. (to appear).
[10] D. S. Munteanu and D. Marcu. Improving machine translation performance by exploiting non-parallel corpora. Computational Linguistics, Vol. 31, No. 4, pp. 477–504, 2005.
[11] J. Niehues, E. Cho, T.-L. Ha, and A. Waibel. Pre-translation
for neural machine translation. In Proc. of COLING, pp.
1828–1836, 2016.
[12] F. J. Och, D. Gildea, S. Khudanpur, A. Sarkar, K. Yamada,A. Fraser, S. Kumar, L. Shen, D. Smith, K. Eng, V. Jain,Z. Jin, and D. Radev. A smorgasbord of features for statistical machine translation. In Proc. of HLT-NAACL, pp.
161–168, 2004.
[13] K. Papineni, S. Roukos, T. Ward, and W.-J. Zhu. Bleu: amethod for automatic evaluation of machine translation. In
Proc. of ACL, pp. 311–318, 2002.
[14] M. Popović. chrF++: words helping character n-grams. In
Proc. of WMT, pp. 612–618, 2017.
[15] R. Sennrich, A. Birch, A. Currey, U. Germann, B. Haddow,K. Heafield, A. V. Miceli Barone, and P. Williams. The
University of Edinburgh’s neural MT systems for WMT17.
In Proc. of WMT, pp. 389–399, 2017.
[16] R. Sennrich, B. Haddow, and A. Birch. Neural machinetranslation of rare words with subword units. In Proc. ofACL, pp. 1715–1725, 2016.
[17] A. Toral and V. M. Sánchez-Cartagena. A multifacetedevaluation of neural versus phrase-based machine translation for 9 language directions. In Proc. of EACL, pp. 1063–1073, 2017.
[18] N. Ueffing and H. Ney. Word-level confidence estimation for machine translation. Computational Linguistics,Vol. 33, No. 1, pp. 9–40, 2007.
[19] J. Zhang, M. Utiyama, E. Sumita, G. Neubig, and S. Nakamura. Improving neural machine translation throughphrase-based forced decoding. In Proc. of IJCNLP, pp.
152–162, 2017.