ニューラル機械翻訳における訳語の統一
Translation unification in neural machine translation

元山梨英和大学教授

江原暉将1967 年早稲田大学理工学部卒。同年 NHK 入局。2003 年諏訪東京理科大学教授。2009 年山梨英和大学教授。
2015 年退職。アジア太平洋機械翻訳協会（AAMT）／ Japio 特許翻訳研究会委員。

有限会社アジア産業

岡俊行

研究開発部部長

1983 年東京工業大学数学科卒。株式会社クロスランゲージなどを経て、現在アジア産業に拠点を置きつつ、主にプログラマとして活動中。

1

DNA polymerase is 9 ° N polymerase .

はじめにに対して正解日本文（参照訳文）がニ ュ ー ラ ル 機 械 翻 訳（NMT：Neural Machine

ある態様において、ファミリー B 古細菌 DNA ポリTranslation）によって機械翻訳の性能が格段に向上し、メラーゼは 9 ° N ポリメラーゼである。

特許翻訳においても実用が進んでいる。特許翻訳では技のように与えられているとする。技術用語の英日対応辞

術用語の正確な翻訳が求められる。NMT では大量の対書として訳コーパスから技術用語の対訳を学習するため、頻度のcertain embodiments ⇒ある態様

少ない技術用語や固有名詞などに対して所望の訳とは異family B archael DNA polymerase ⇒ファミリーなる訳が出力されることがある。

B 古細菌 DNA ポリメラーゼ

NMT において対訳辞書を用いた訳語統一の手法が様々に提案されている［1］。その中に、出力文を修正すること（後修正方式）

N polymerase ⇒ N ポリメラーゼの 3 項目が得られる。

、または入力文を修正すること

通常の NMT1 の出力訳文として［2］（前修正方式）［3］［4］ で訳語統一を行う方法がある。こある実施態様においては、前記 B アーチセル DNA

れらの方法は、翻訳システム自体には手を入れる必要がポリメラーゼは、9 ° N ポリメラーゼである。

ないという利点がある。本文ではさらに進んで、入力文が得られたとする。次の 2 点の後修正が必要となる。と出力文を修正すること（前後修正方式）で訳語統一をある実施態様⇒ある態様行う方法を提案する。

前記 B アーチセル DNA ポリメラーゼ⇒ファミリー
B 古細菌 DNA ポリメラーゼ

2

後修正方式

英日翻訳を例に説明する。次の入力英文
in certain embodiments , the family B archael306

1

実験に用いた NMT システムは Marian Transformer［5］であり、800 万文対の英日特許対訳コーパスで訓練したシステムである。英日混合の 2 万トークンで Sentencepiece［6］化を行った。

このような修正を行うためには入力英文と出力訳文のと＞）を用いた。タグ化英文は次の対応を何らかの方法で求めることが必要である。

in ＜ certain embodiments ＞ ,the ＜ family

certain embodiments ⇒ある実施態様

B archael DNA polymerase ＞ is 9family B archael DNA polymerase ⇒前記 B アーpolymerase ＞ .

チセル DNA ポリメラーゼ°＜ Nとなり、翻訳結果はその後、技術用語の英日対応辞書を用いて正解訳と入＜ある実施態様＞において、＜ B 型アーチセル DNAれ替えることで後修正する。

ポリメラーゼ＞は 9°＜ N ポリメラーゼ＞である。

文献［2］では、このような対応を原文と訳文の各語となった。もちろん訓練時に用いる英文と日本文には、の間のアテンション（source-target attention）のなんらかの対応手段を用いてタグを付与しておく必要が情報から得ている。

ある 2。

後修正方式では、入力英文と出力訳文の間の技術用語タグを頼りに技術用語部分の英日対応を得て、後修正の対応が得られなかったり対応が誤っていたりすると、を行うことができる。対応を得る手法としては、2 と同後修正自体も誤ってしまうという欠点がある。

様に原文と訳文の各語間のアテンション情報を用いる手法に加えて GIZA++ の force align3 を用いる手法があ

前修正方式

後修正方式では、原文と訳文の技術用語の部分に対して、対応情報を必要とした。そのような情報を必要としる。5 に示す実験では両者を比較している。

5実験結果

ない方法として前修正方式がある。この方式では、前記2 で述べた NMT システムを用いて実験を行った。の入力英文に対して、技術用語の英日対応辞書を用いて4,000 文の試験文を用いた実験の結果、【表 1】のよ前修正を加える。その結果

うな BLEU 値が得られた。ただし今回の実験は、訳語

in ある態様 ,the ファミリー B 古細菌 DNA ポリメ統一の精度を比較するのが目的であるため、試験デー

ラーゼ is 9 ° N ポリメラーゼ .

タから構築した理想的な技術用語の英日対応辞書を用のように技術用語の部分だけ日本語化した英文（日本語いて実験した。訳語統一をしない通常の NMT において語彙化英文と呼ぶ）が得られる。このような日本語語彙43.65 であった BLEU 値が、最良システムである前後化英文を元に翻訳することで日本語の正しい技術用語が修正方式（force align）では 50.02 と 7 ポイント以訳出されることが期待できる。ただし訓練時に用いる英上向上した。後修正に文側も日本語語彙化しておく必要がある。

お け る attention の

前修正方式では、日本語と英語が混在した日本語語彙利用と force align の化英文を用いているので、語彙数が増大し翻訳の困難度利用では後者のほうが増すという欠点がある。

が BLEU 値 が 高 か っ表1

実験結果た。 後 修 正 方 式 と 前4

前後修正方式

後修正方式と前修正方式の良いところをとる方式と修正方式を比較すると前修正方式の方がBLEU 値が高かった。

して前後修正方式を提案する。前修正方式では原文英文の技術用語の部分を日本語化したが、前後修正方式では日本語化まではせず、技術用語の部分であることを示す特殊なタグで囲むことのみ行う。これによって、後修正時に必要な技術用語の対応の正確性を増せる可能性があ2

今回の実験では、訓練データに対する技術用語の対応をGIZA++ を用いて求めた。

3

https://github.com/moses-smt/mgiza/blob/master/mgizapp/scripts/force-align-moses.shる。前記の例で示す。タグとしては全角の山かっこ（＜YEAR BOOK 2O22 307

4
機械翻訳技術の向上

3

これまで用いてきた例文に対して、原文や訳文などを【表 2】に示す。

Constraints, Proceedings of the 57th
Annual Meeting of the Association for

表2

翻訳例

Computational Linguistics, pp.3063–3068,
July 2019.
［5］Marcin Junczys-Dowmunt, Roman
Grundkiewicz, Tomasz Dwojak, Hieu Hoang,
Kenneth Heafield, Tom Neckermann, FrankSeide, Ulrich Germann, Alham Fikri Aji,
Nikolay Bogoychev, Andre F.T. Martins,and Alexandra Birch：Marian: Fast Neural
Machine Translation in C++, Proceedingsof ACL 2018, System Demonstrations,pp.116–121, 2018.
［6］Taku Kudo, John Richardson：
SentencePiece:A simple and language
independent subword tokenizer anddetokenizer for Neural Text Processing,arXiv:1808.06226, 2018.

6まとめ

技術用語の対応辞書を用いた訳語統一の手法として、後修正方式、前修正方式、前後修正方式を報告した。これらの手法は NMT システム自体には手を入れる必要がないため、どのようなシステムに対しても適用できる。
英日翻訳での実験の結果 force align を用いた前後修正方式が最も BLEU 値が高かった。

参考文献［1］今村 賢治 , 越前谷 博 , 江原 暉将 , 後藤 功雄 , 須藤 克仁 , 園尾 聡 , 綱川 隆司 , 中澤 敏明 , 二宮 崇 ,王 向莉：特許機械翻訳の課題解決に向けた機械翻訳技術解説、自然言語処理解説論文 Vol.29, No.3,
pp.925–985, 2022.
［2］江原暉将、岡 俊行：ニューラル機械翻訳における訳語誤りについての分析、Japio YEAR BOOK
2019［寄稿集］, pp.292-295、Nov. 2019.
［3］江原暉将、岡 俊行：ニューラル機械翻訳における訳語誤りの改善、Japio YEAR BOOK 2020［寄稿集］、pp. 292-295, Nov. 2020.
［4］Georgiana Dinu et al.,：Training NeuralMachine Translation To Apply Terminology

308

4
機械翻訳技術の向上
YEAR BOOK 2O22 309