往復翻訳を用いたSMTとNMTのハイブリッドシステム
Hybrid System of SMT and NMT using Two-way Translation
元山梨英和大学教授

江原暉将1967 年早稲田大学理工学部卒。同年 NHK 入局。2003 年諏訪東京理科大学教授。2009 年山梨英和大学教授。
2015 年退職。

有限会社アジア産業研究開発部部長

岡俊行

1983 年東京工業大学数学科卒。株式会社クロスランゲージなどを経て、現在アジア産業に拠点を置きつつ、主にプログラマとして活動中。

1

はじめに大量の対訳コーパスから機械翻訳システムを構築する手法に統計的機械翻訳（SMT：Statistical MachineTranslation）とニューラル機械翻訳（NMT：NeuralMachine Translation）がある。SMT は対訳コーパ

しては往復翻訳を用いる。

2システム構成ベトナム語から日本語（越日）への翻訳を例として、システム構成を【図 1】に示す。

スからフレーズテーブルと呼ばれる一種の対訳辞書を作成し、それを用いて訳語を決定する。そこで翻訳対象原文に含まれる原語に対する訳語のペアは対訳コーパス中に出現するペアに限られる。一方、NMT では訓練結果が多次元のベクトル空間としてモデル化されているため、対訳辞書が陽に存在せず、原語に対する訳語のペアが対訳コーパスに出現しないものが現れることがある［1］。
しかし平均的には NMT は SMT より翻訳精度も高く、特に流暢性の観点から SMT を大幅に上回っている。このように NMT と SMT はそれぞれに得失がある。

250

図1

システム構成本文では SMT と NMT を組み合わせたハイブリッド

越日対訳コーパスを用いて越日 NMT、日越 NMT、システムについて考察する。翻訳対象原文を NMT と

越日 SMT、日越 SMT の 4 つの機械翻訳システムを構

SMT で独立に翻訳し 2 つの翻訳結果を評価して評価値築する。翻訳時には入力ベトナム語文を越日 NMT おの高い方を出力として選択するものである。評価方法とよび越日 SMT でそれぞれ日本語文に翻訳する。越日NMT の出力日本語文は日越 NMT でベトナム語文に戻た。具体的には、NMT 側の往復翻訳結果の BLEU 値をされる。越日 SMT の出力日本語文も日越 SMT でベトBLEU（NMT）、SMT 側の往復翻訳結果の BLEU 値をナム語文に戻される。両者を入力ベトナム語文と比較しBLEU（SMT）とし、BONUS を正の定数とするときて近い方が正しい翻訳結果を得ているとみなし、そちら

BLEU（SMT）＞ BLEU（NMT）＋ BONUSの出力を選択して最終的な出力日本語文とする。ここで近さの基準は文単位で計測した BLEU を用いる 。
1

このような往復翻訳による評価は以前から提案されてが成立する場合は SMT による翻訳結果を選択し、成立しない場合は NMT による翻訳結果を選択する。
BONUS の値としては 0.2 を設定した。本設定についおり［3］、最近も用いられている［4］。ては 5. で述べる。

3

4

実験設定

特許文書から構築した越日文対応コーパスから以下のデータを抽出して実験を進めた。

実験結果

各システムの試験データに対する BLEU 値を【表 1】に示す。BLEU を計算するときの形態素分割は 3. で述

1,220,086 文対

べたサブワード単位で行った。これは NMT、SMT に試験データ2,097 文対共通である。

開発データ

2,175 文対表1

実験結果

NMT システムとしては Marian Transformer を用いた［5］。SMT システムとしては Moses を用いた［6］。
ベトナム語の形態素分割には UET segmenter を用い た［7］。 日 本 語 の 形 態 素 分 割 に は Unidic ベ ー ス［8］の Mecab を 用 い た［9］。 サ ブ ワ ー ド 化 と し て 越 日 ともに Latin 特殊文字とアラビア数字を 1 文字ずつにハイブリッドシステムは越日 NMT 単独システムと分割した。SMT システムの訓練と試験にはこのサブ比較して 0.0267 ポイント BLEU が向上している。表

ワード化の結果を用いた。NMT システムの訓練と試中オラクルとは越日 NMT と越日 SMT の結果のうち験には、さらにベトナム語・日本語別々に 2 万 piece

BLEU が高い方を理想的に選択できた場合であり、ハで SentencePiece 化 し た

イブリッドシステムが到達出来うる BLEU の最高値で。SentencePiece［10］model の訓練には翻訳システム訓練用のデータを流用した。

NMT 単独とハイブリッドシステムの文単位の BLEU

【図 1】の切替部分で、NMT を優先する手法を用い図21ある。

値の頻度分布を【図 2】に示す。

NMT 単独とハイブリッドシステムの文単位の BLEU 値の頻度分布

BLEU の計算には mteval-v13a.pl を用いた［2］。

YEAR BOOK 2O23 251

4- 機械翻訳技術

訓練データ

1BLEU が 0.35 以下の部分と 0.75 以上の部分でハ参考文献

イブリッドシステムの頻度が減少しており、今回の実験［1］江 原 暉 将， 岡 俊 行．2019. ニ ュ ー ラ ル 機 械 翻 訳

設定では、ハイブリッドシステムが平均的に BLEU をにおける訳語誤りについての分析，Japio YEAR向上させるとともに、ばらつきも少なくしていることがBOOK 2019［寄稿集］，pp.292-295.

分かった。

［2］h t t p s : / / g i t h u b . c o m / m o s e s - s m t /mosesdecoder/blob/master/scripts/

5

BONUS の値の設定

generic/mteval-v13a.pl［3］Y o k o y a m a , S h o i c h i e t a l . 2 0 0 1 . A n【表 2】に越日 NMT、越日 SMT、越日越 NMT、越Automatic Evaluation Method for Machine

日越 SMT の各システムの試験データに対する BLEU

Translation using Two-way MT, Proceedings

値を示す。前 2 者は日本語で計測しており、後 2 者はof Machine Translation Summit VIII.

ベトナム語で計測している。
表2

各種システムの BLEU 値［4］岩田一成．2023．音声翻訳機を使うための日本
語，第 14 回産業日本語研究会・シンポジウム資料，
14-3-1.pdf.
［5］Junczys-Dowmunt, Marcin, et al. 2018.
Marian: Fast Neural Machine Translation in
C++, Proceedings of ACL 2018, System

越日では NMT の方が BLEU が高いが、越日越でDemonstrations, pp.116–121.

は SMT の 方 が BLEU が 高 い。 こ の こ と か ら 越 日 越［6］Koehn, Philipp et al. 2007. Moses: Openの BLEU を評価基準とするハイブリッドシステムではSource Toolkit for Statistical Machine

SMT を過度に優遇する可能性が高い。そこで NMT をTranslation, Proceedings of the 45th

優先させるための BONUS を設定した。BONUS の値

Annual Meeting of the Association forを変化させて試験データに対するハイブリッドシステム

Computational Linguistics Companionの BLEU を調べたところ【表 3】を得た。この結果かVolume Proceedings of the Demo andら BONUS=0.2 と設定した。

Poster Sessions, pp 177-180.

表3BONUS の値の変化に対する BLEU の変化［7］N g u y e n , T u a n - P h o n g e t a l . 2 0 1 6 . AHybrid Approach to Vietnamese Word
Segmentation, IEEE RIVF International
Conference on Computing & Communication
Technologies, Research, Innovation, andVision for the Future（RIVF）.
［8］伝康晴ほか．2007．コーパス日本語学のための言語資源：形態素解析用電子化辞書の開発とその応用，

6

まとめ

日本語科学，Vol.22, pp.101-123.
［9］K u d o , T a k u , K a o r u Y a m a m o t o , Y u j i

NMT と SMT の良いところ取りを目的に両者のハイMatsumoto. 2004. Applying Conditional

ブリッドシステムを構築した。往復翻訳を用いて NMT

Random Fields to Japanese Morphological

出力と SMT 出力を比較し評価値の高い方を選択する。

Analysis, Proceedings of the 2004

実験の結果、NMT 単独のシステムと比較して BLEU

Conference on Empirical Methods in Natural

値を 0.0267 ポイント向上させることができた。

Language Processing, pp.230-237.
［10］ Kudo, Taku, John Richardson. 2018.

252

SentencePiece: A simple and language
independent subword tokenizer anddetokenizer for Neural Text Processing,Proceedings of the 2018 Conference onEmpirical Methods in Natural Language
Processing: System Demonstrations, pp.6671.

- 機械翻訳技術

41YEAR BOOK 2O23 253