概要

1　はじめに
近年ニューラル機械翻訳(NMT)が広く浸透している.  NMTモデルの学習には大量の対訳コーパスが必要であるが,ドメインによっては十分な量の学習データを集めることが難しく,その場合品質が高い翻訳モデルを作ることは困難である.これに対し,単言語コーパスを追加の学習リソースとして利用するBack Translation(BT) [1]手法や, BTを順方向・逆方向のモデルで相互に反復することで,両方向のモデルを複数回に渡って改善するIterative Back Translation(IBT) [2, 3, 4]手法が提案されている. BTやIBTはデータ拡張により翻訳モデルの精度を向上できるほか[1] ,単言語コーパスのドメインにモデルを適用させるという面でも高い効果を発揮することが報告されている[5, 6, 7].一方,追加の学習リソースを用いずに複数のモデルで多様な疑似対訳文を生成するデータ拡張手法も存在する[11].本研究では, IBTに対し複数のモデルによる出力文を用いた学習を行うことで従来のIBT手法の効果を更に向上させる手法を提案する.具体的には,順方向・逆方向のモデルを初期パラメータの値を変えた上で複数用意し,それぞれのモデルで翻訳文を出力することで,複数の疑似対訳文を生成する.複数個のモデルによる異なる出力を混合して再学習のための学習データとして使うことで,通常のIBTより高い精度でモデルを学習することできる.また,複数個のモデルを利用してアンサンプル翻訳を行うことで,更に翻訳精度を高めることもできる.英日コーパスと英独コーパスでの実験を通して,提案手法が通常のIBTと比較してより高いBLEUスコアを達成することを確認した.
1.1 関連研究
Sennrichら[1]はNMTにおいてBack Translation (BT)によりターゲット言語側の単言語コーパスをソース側言語に翻訳することで疑似的な対訳文を作り,データを拡張した上でモデルを再学習する手法を提案した. Hoangら[2]やZhangら[3],森田ら[4]は, Back Translationを順方向と逆方向のモデルで相互に繰り返し適用することで両モデルの翻訳精度を向上させるIBT手法によりBTを上回るBLEUを達成したことを報告した.藤澤ら[5], Jinら[6],森田ら[7]はIBT手法がドメイン適応の面でも効果的であることを示した. Nguyenら[11]が提案したData Diversification (DD)手法では,対訳コーパスから順方向・逆方向のモデルをパラメータの初期値を変更してk個ずつ学習し,学習に使った対訳コーパスの文を翻訳することで計2k個の疑似データを得て,それらを学習データに追加することでモデルの翻訳精度を向上させている.
2　提案手法
提案手法の具体的な流れについて説明する.また,図1に図解したものを示す.ソース側言語をX,ターゲット言語をYとする.対訳コーパスであるP xとPy,対訳関係にない単言語コーパスMxとMyをそれぞれ用意し,以下の操作を行う. 1. (Px,Py)から,それぞれ異なるパラメータで初期化した上で, X-Y方向のモデルをk個ずつ(Model x-y,0,…, Model x-y,0)とY-X方向のモデルをk個ずつ(Modely_x,0,…, Modely_x,0)学習する. 2. i ← 0とする. 3. Myを(Model¸_x¸i¸ …, Model¸_x¸i)で翻訳することで(M's i, …, M's i)を生成し,疑似対訳文((M'x , , My), …, (M'x , My))を得る. 4.ステップ３と同様の処理を逆方向で行い,疑似対訳文(( M ′ , , M x ), …, ( M ′ , , M x ))を得る. 5. (Px,Py)と((M'x,j,My), …, (M'x,j,My))を混合した対訳コーパスを用い, (Modelx-y, Modelk_y i)のパラメータを引き継いで学習することで, (Model x -y,i+1, …, Model x -y,i+1)を得る. 6.ステップ5と同様の処理を逆方向で行い, (Modely_x,i+1, …, Modely_x,i+1)を得る. 7. i ← i + 1とし,ステップ3に戻る.上記の流れでk=1とおいた場合が通常のIBTの流れに相当する.異なるパラメータで初期化した複数個のモデルを用いることで,同じ翻訳元の文から異なる表現の文が出力される.よって, 1翻訳方向に付きk個のモデルを用いることで通常の2k倍の疑似対訳文を学習に用いることができる.上記の流れを繰り返すことで,計2k個のモデルが互いを改善しあうため,通常のIBTと比較してさらなるモデルの精度向上が期待できる.また,複数の翻訳モデルの出力分布を平均して推論するアンサンプル翻訳を行うことで,単独のモデルより高い精度で翻訳ができることが知られている[12].提案手法では同一の翻訳方向で常にk個のモデルが存在するため,提案手法で作成されたモデルの効果をより引き上げることが可能である.
実験
3
3.1データセット
2つの翻訳タスクにおいて提案手法の効果を実証するための実験を行った.いずれの実験でもdev/testデータは単言語コーパス側のデータセット内のものを使用した. １つ目の英日実験では,対訳コーパスとして京都に関するWikipedia記事から構成されるKFTT[13]を,単言語コーパスには科学技術論文の抄録から構成されるASPEC[14]を用いた. KFTTは英語側の文に日本語の文字が含まれている対訳ペアを除外した. ASPECデータセット内の対訳コーパス100万文を前半50万文と後半50万文に分割し,前半の英語文と後半の日本語文をそれぞれ文の内容が異なる単言語コーパスとして使用した. 2つ目は英独実験で,対訳コーパスとしてニュース記事の文章から構成されるNews Commentary v12[15]を,単言語コーパスには欧州議会議事録から構成されるEuroparl v7[15]を用いた.英日実験と同様, Europarlデータセット内の対訳コーパス約190万文を2分割し,前半の英語文と後半のドイツ語文をそれぞれ単言語コーパスとして使用した. devデータとtestデータにはEuroparlデータセット内に含まれるdev2006とtest2008を使用した.表1に各データの文数を示す.
前処理として,日本語文にはNFKC変換,それ以外の言語の文には加えてTrue-casing, Moses tokenizerによるトークナイズを行い,最終的に全ての文をSentence Piece[ 16 ]を用いて語彙数16,000でサブワー
表3:英日実験の結果(日英方向)
ド分割した.サプワード分割モデルの学習にはそれぞれのタスクで各言語ごとに対訳コーパスと単言語コーパスを結合した文を用いた. BLEUの計測は翻訳した文をデトークナイズした後単語単位に分割した上で行った.日本語文に関してはMeCab[17]の分かち書きを使用した.
3.2実験条件
翻訳モデルの構築にはOpenNMT-pyを使用する.アーキテクチャとしてTransformerを用い, Encoder, Decoderともに6層とし,隠れ層の次元には512を指定した. IBTの学習をする際、対訳コーパスと疑似対訳文から取得するサンプルの比率が常に1:1になるように調整した.学習の際モデルのチェックポイントからdevデータのaccuracyを毎回計算し,最もスコアが高いモデルを採用した.最終的なモデルの性能評価にはBLEU[18]を用いた. BTでは,翻訳タスクごとに,単言語コーパスの翻訳時のデコード方法にbeam searchを用いる場合とrandom sampling(各時刻の出力分布を下にランダムに語彙を選択する)を用いる場合とで,最終的な精度向上の効果に差があることが知られている[8, 9, 10].本実験では事前にBTの効果がより大きい方法を調べた上で,英日実験にはbeam search (beam size=5),英独実験にはrandom samplingを用いた.
3.3 IBT実験の構成
本稿では(1) baseline (通常のIBT), (2)提案手法(k=2), (3)提案手法(k=3)の3種類のIBT実験を行い,性能を比較する.ここでkは翻訳方向ごとのモデルの数を表す.通常のIBTはk=1の提案手法に相当する.各翻訳タスクにおいて,翻訳方向ごとに初期パラ
表5:英独実験の結果(独英方向)
メータの値を変えた上で3種類ずつのモデルを作成し,以降それぞれモデルA,モデルB,モデルCと呼称する. (1)ではモデルAを, (2)ではモデルA 〜 Bを, (3)ではモデルA〜Cをそれぞれ初期モデルとしてIBT実験を行った.
3.4結果
表2〜3に英日実験の結果を,表4〜5に英独実験の結果を示す.英日実験はIBTの更新を12回まで,英独実験は６回まで行い,最もdevデータでのBLEUが高いモデルでの結果を示している.結果を見ると,全ての実験において通常のIBTと比べ提案手法の方がより高いBLEUを記録している.更に,提案手法における複数のモデルでアンサンプル翻訳を行ったところ,単一のモデルよりも更に精度が向上することが確かめられた.図２と図３に英日実験・日英実験におけるモデルAのBLEU推移を示す.また,各更新段階におけるモデルのアンサンプル翻訳のBLEUも示している.図中の”k=2”は提案手法(k=2)のモデル, ”k=2(+Ens.)”は提案手法(k=2)の各モデルのアンサンプル翻訳のBLEUである.通常IBTと比較して,提案手法は一貫して高いBLEUで推移しており,アンサンプル翻訳の結果は一番高く推移している.また,提案手法によりモデルの数を増やすほど最終的にBLEUがより高い値に収束する傾向にあることがわかる.
3.5   比較実験
3.5.1単一モデルでの比較実験
提案手法で作成したモデルが通常のIBTよりも高いBLEUを記録することが確かめられたが,モデルの数を増やしたことに意味があるわけではなく,単純に疑似対訳文の量が増加したことで精度が向上したにすぎないということも考えられる.よって,通常のIBTにおいてモデル1つにつき3対ずつの疑似対訳文を生成させて学習データのサイズを揃え、提案手法(k=3)とのモデルの精度を比較する実験を行った.実験は英日・英独コーパスで行った. 3.2節におけるbaselineでの設定に翻訳を2種類追加し、疑似対訳文の量を増やした.追加分の翻訳では単一のモデルから表現の異なる文を出力するため, random samplingでデコードを行う.更新は6回まで行い,提案手法(k=3)での6回目までの最大値と比較したり.表6～7に結果を示す.いずれも提案手法(k=3)が比較手法より高いBLEUを記録している.これにより,提案手法が複数のモデルの出力を組み合わせて使うことで精度を向上させていることが示された.
3.5.2 通常IBTでのアンサンブル翻訳実験
提案手法では,ある翻訳方向のモデルk個に対して同一の単言語コーパスを入力することでk種類の疑似対訳文を生成し,それらを混合した対訳文を逆方向のモデル更新時に学習データとして使用するという流れを繰り返す.しかし,先述の通り複数個のモデルがあればアンサンプル翻訳によりそれぞれのモデルの知識を平均化した翻訳を行うことができるため,モデルの学習段階で複数モデルの出力を組み合わせて使わなくとも事足りる可能性もある.そこで本節では,複数モデルの出力をまとめて逆方向のモデル更新に使用することが実際にモデルの改善に寄与しているのかを調べる実験を行った.方法としてはモデルA〜Cを初期モデルとして通常のIBT実験を独立して３種類実施し,各更新段階において３種類のモデルをアンサンプル翻訳した際のBLEUスコアを算出し,提案手法(k=3)によるモデル3種類のアンサンプル翻訳のBLEUスコアと比較する. IBTの更新は６回まで行った.表8に比較した結果を示す.通常のIBT3種のアンサンプル翻訳をbaseline(+Ens.),提案手法(k=3)のアンサンプル翻訳を提案手法(+Ens.)として示している.両者を比較すると,提案手法の方がBLEUが高いことがわかる.よって、提案手法において学習の段階で複数モデルの出力をまとめて逆方向のモデル更新に使用することによる有効性が示された.表6:単一モデルでの比較実験の結果(英日)
表7:単一モデルでの比較実験の結果(英独)
表8:通常のIBT+Ens.との比較実験の結果

おわりに
4
本研究では, Itarative Back Translation手法において複数のモデルによる出力文を用いた学習とアンサンブル翻訳により精度を向上する手法を提案した.具体的には,初期パラメータが異なる順方向・逆方向のモデルを複数用意し,それぞれのモデルで翻訳文を出力することで,複数のモデルが互いを改善し合う.英日実験・英独実験の結果から, DDにより通常のIBTを大きく改善できること,さらに,複数のモデルによるアンサンプル翻訳を組み合わせることで,更に翻訳精度を向上させられることを確かめた. lE本研究はJSPS科研費JP23K11118の助成を受けたものです. [1] Rico Sennrich, Barry Haddow, and Alexandra Birch. Im- proving neural machine translation models with monolin- gual data. In Proceedings of the 54th Annual Meeting of the Association for Computational Linguistics (Volume 1: Long Papers) , pp. 86-96, Berlin, Germany. August 2016. Association for Computational Linguistics. Vu Cong Duy Hoang, Phiilpp Koehn, Gholamreza Haffari, [2] and Trevor Cohn. Iterative back-translation for neural ma- chine translation. In Proceedings of the 2nd Workshop on Neural Machine Translation and Generation, pp. 18-24, Melbourne, Australia. July 2018. Association for Compu- tational Linguistics. Zhirui Zhang, Shujie Liu, Mu Li, Ming Zhou, and Enhong [3] Chen. Joint training for neural machine translation mod- els with monolingual data, In Proceedings of the AAAI Conference on Artificial Intelligence , Vol. 32, No. 1, Apr. 2018.森田知熙,秋葉友良,塚田元,双方向ニューラル機械[4]翻訳の反復的な教師なし適応の検討.言語処理学会第25回年次大会発表論文集, pp. 1451-1454, 2019.藤澤兼太,秋葉友良,塚田元.ニューラル機械翻訳に[5]おける双方向反復的教師なし適応の改善.言語処理学会第26回年次大会発表論文集, pp. 744–747, 2020. Di Jin, Zhijing Jin, Joey Tianyi Zhou, and Peter Szolovits. [6] A simple baseline to semi-supervised domain adaptation for machine translation, CoRR, abs/2001.08140. 2020.森田知熙,秋葉友良,塚田元.双方向の逆翻訳を利[7]用したニューラル機械翻訳の教師なし適応の検討.言語処理学会第25回年次大会発表論文集, pp. 1451-1454, 2019.今村賢治,藤田篤,隅田英一郎.サンプリング生成[8]に基づく複数逆翻訳を用いたニューラル機械翻訳.人工知能学会論文誌, Vol. 35, No. 3, pp. A–JA9–1–9, 2020. Sergey Edunov, Myle Ott, Michael Auli, and David Grang- [9] ier. Understanding back-translation at scale. In Proceed- ings of the 2018 Conference on Empirical Methods in Nat- ural Language Processing , pp. 489–500, 2018. Brussels, Belgium. October-November 2018. Association for Com- putational Linguistics. Jiahao Xu, Yubin Ruan, Wei Bi, Guoping Huang, Shum- [10] ing Shi, Lihui Chen, and Lemao Liu. On Synthetic Data for Back Translation. In Proceedings of the 2022 Confer- ence of the North American Chapter of the Association for Computational Linguistics:  Human Language Technolo- gies , pp 419–430, Seattle, United States. 2022. Association for Computational Linguistics. Xuan-Phi Nguyen, Shafiq Joty, Wu Kui , Ai Ti Aw. Data [11] Diversification:  A Simple Strategy For Neural Machine Translation. Advances in Neural Information Processing Systems, 33:10018–10029. 2020.今村賢治,隅田英一郎.双方向リランキングとア[12]ンサンプルを併用したニューラル機械翻訳における複数モデルの利用法.情報処理学会研究報告, 2017-NL-233, No.9, 2017. [13] Graham Neubig. The Kyoto free translation task. http://www.phontron.com/kftt, 2011. [14] Toshiaki Nakazawa, Manabu Yaguchi, Kiyotaka Uchi- moto, Masao Utiyama, Eiichiro Sumita, Sadao Kurohashi, and Hitoshi Isahara. Aspec:  Asian scientific paper excerpt corpus. In Nicoletta Calzolari (Conference Chair), Khalid Choukri, Thierry Declerck, Marko Grobelnik, Bente Mae- gaard, Joseph Mariani, Asuncion Moreno, Jan Odijk, and Stelios Piperidis, editors, Proceedings of the Ninth Interna- tional Conference on Language Resources and Evaluation (LREC 2016) pp. 2204–2208, Portorož, Slovenia, may 2016. European Language Resources Association (ELRA). Jörg Tiedemann. Parallel Data, Tools and Interfaces in [15] OPUS. In Proceedings of the Eighth International Confer- ence on Language Resources and Evaluation (LREC'12), pp.2214–2218, Istanbul, Turkey. 2012. European Lan- guage Resources Association (ELRA). [16] Taku Kudo, John Richardson, SentencePiece:  A simple and language independent subword tokenizer and detok- enizer for Neural Text Processing. In Proceedings of the 2018 Conference on Empirical Methods in Natural Lan- guage Processing:  System Demonstrations , pp. 66-71, 2018. [17] Taku Kudo, Kaoru Yamamoto, Yuji Matsumoto. Apply- ing Conditional Random Fields to Japanese Morpholog- ical Analysis. In Proceedings of the 2004 Conference on Empirical Methods in Natural Language Processing, pp. 230-237, 2004. Kishore Papineni, Salim Roukos, Todd Ward, and Wei- [18] Jing Zhu. BLEU: A method for automatic evaluation of machine translation. In Proceedings of the 40th Annual Meeting of the Association for Computational Linguistics , pp. 311-318, 2002.