機械翻訳(MT)ができそうなことできないこと
藤田 篤
情報通信研究機構 ()先進的音声翻訳研究開発推進センター ()atsushi.fujita@nict.go.jp / fujita@paraphrasing.org

翻訳に対する自然言語処理のアプローチ
原文下訳

MTモデル💡

1. MTの性能向上
・対訳知識の集積・マルチモーダル化
・分野適応 (Chuさん)

MT訳

原文💡

最終訳

最終訳

2. 完璧ではないMTの活用
・ポストエディットとその自動化
・品質推定
・プリエディット (宮田さん)

2

SMTとNMT
SMT: 統計的機械翻訳
対応関係を陽に捉える
l 確率的コピペlNMT: ニューラル機械翻訳
lnl

夕食 は どこ に 行き ます か

原文を数値データに変換
ベクトル，行列，テンソル語の系列を生成

夕食 は どこ に 行き ます か
0.1 0.2 1.4 0.3 0.6 0.2 0.9
0.3 -0.3 -0.3 -0.2 0.4 -0.1 -1.2
… …
… …
…
… …
0.5 -0.1 0.8 -0.2 0.9 0.4 -.0.7
1.2 0.7 -1.3 2.2 -0.1 … 0.9

Where shall we go for dinner ?

Where shall we go for dinner ?
3ニューラル機械翻訳 (NMT)
注意機構付きseq-to-seqモデル [Bahdanau+, 14]l

注意機構: 原文中の個々の語をチラ見する仕組み

夕食はどこに行き ます

か <EOS>

エンコーダ (encoder)
原文をベクトルに変換 (記憶)表現力と記憶力の向上
・双方向エンコード・多層化 (ディープ化)・サブワードの利用

デコーダ (decoder)
ベクトルから語の系列を生成
最近: 回帰性からの脱却
・Transformer [Vaswani+, 17]“AWenXon is All You Need”
・Non-autoregressive [Gu+, 17]<BOS>where shall wego

for dinner ? <EOS>
4

ハードウェア × アルゴリズム × データ
対訳コーパスが大きいほど高性能
より多様な表現・事例をカバーできる
l 統計量をより正確に推定できる
l NMTには不可欠: 小さいとSMTに完敗
lne.g., EnàEsニュース翻訳のBLEUスコア [Koehn+, 17]
BLEU Scores with Varying Amounts of Training Data

対訳が数万文対だとNMT << SMT(多くの分野，少資源言語対)

30.3 31.1
29.6
29.2
30
27.9 28.6 27.4
30.1 30.4
29.2
26.9
26.2
25.7
27.8 28.6
24.9
26.9
26.1
23.5
23.4
24.7
22.2
21.8
21.2
22.4
19.6
20
18.1
18.2
16.4

01061
51212561128
164

1+32

10

1.6

11024

A Republican strategy to counteof Obama
Un órgano de coordinación parlibre determinaciónLista de una estrategia para luelección de hojas de Ohio
Explosión realiza una estrateg
luchar contra las elecciones de a
Una estrategia republicana parade la reelección de Obama
Estrategia siria para contrarrest
del Obama .
Una estrategia republicana parareelección de Obama

数億語( 数百万文)で下訳になりうるレベル(一部のリッチな分野)

14.7
11.9
7.2

Src:

Phrase-Based with Big LM
Phrase-BasedNeural107108Corpus Size (English Words)

Figure 4: Translations of the fi
the test set using NMT system traamounts of training data. Under loditions, NMT produces fluent outp
the input.
5

対訳コーパスの拡充
人手で翻訳l15〜20字の日本語文の翻訳 = 100〜400円

既訳の収集
欧州議会文書: 数100万文 [Koehn, 05]
l 国際出願特許: 日英3.5億文 [JPO & NICT, 15]l 科学技術論文の要旨: 300万文 [Nakazawa+, 16]l OPUS [Tiedemann, 12]l 企業等の資産の集積: e.g., SAP
l 翻訳バンク [NICT, 17b]l

単言語コーパスの活用
逆翻訳で擬似的な対訳文対の生成 [Sennrich+, 16a]l 対訳っぽいフレーズ対，文対の抽出 [Marie+, 17a; 17b; 18a]l6

翻訳バンク@NICT
2017年9月8日に運用開始
l

当面の目標は1億文対の集積

7

MTができそうなこと = X文Y訳 + α
X文Y訳: Text-to-text の変換の範疇e.g., 英文和訳
l NMTは一旦テキストから離れるけれども…
l

テキストの「意味」を「理解」しているわけではない
n 人間の翻訳の際の“deverbalizaXon”でもないnl

テキストの社会的・歴史的位置付けは理解できない+α: 翻訳対象を取り巻く他モーダルの考慮
テキスト内の情報
l テキストの外界の情報
l8

MTができそうなこと (1/2)
どんな情報でも数値データに変換して利用lテキスト内の情報n

起点言語や目標言語の指定による多言語翻訳 [Johnson+, 16]
I’ll be back soon.
目標言語 = ロシア語nЯ скоро вернусь.

文脈の情報に基づく曖昧性解消 [Tiedemann+, 17][Voita+, 18]
すみません前方文脈 = φn

丁寧さやスタイルの制御 [Sennrich+, 16][Takeno+, 17]
どういたしまして
出力単語数 = 9n

Excuse me.

It’s all right.
You’re welcome.

専門分野やテキストタイプへの適応 [Luong+, 15]

9

MTができそうなこと (2/2)
どんな情報でも数値データに変換して利用l

テキストの外界の情報
著者/話し手/読者/聞き手の属性
n 参与者間の社会的関係/親密さ
n 発話の文脈: e.g., 時間，位置情報n

こんにちは藤田さん
聞き手の性別 = 男性

Bonjour, monsieur Fujita.

ごはん行きましょう
時刻 = 11:55 a.m.
関係 = 同僚

Shall we go for lunch?

話し手 < 聞き手
Q. どんな情報が性能向上に寄与するか?
Q. データ作成も含めて，どこまで実現可能か?

10(現状の延長の) MTにはできないこと (1/2)
テキストの社会的・歴史的位置付けの理解
i.e., X文Y訳を始めて良いかどうかの判断
l e.g., 国際条約の文書 [影浦, 17]l

1. 社会的・歴史的に固有の役割を担う文書
2. 目標言語の言語圏の国々における批准の有無
3. 批准しているならば公式の訳が存在を確認
4. 公式の訳を用いるという判断
l

スコポスに基づく例外もある: e.g., 子供向け

必要に応じた動的な既訳の検索
le.g., 翻訳メモリのカバレージの限界
Genius is the man of average ability who makes an eﬀort.
天才とは努力する凡才のことである。

Albert Einstein11

(現状の延長の) MTにはできないこと (2/2)
スコポスに応じた情報の取捨選択・補完・意訳
le.g., 前提となる知識の違いに応じた情報の補完
柿くへば鐘が鳴るなり法隆寺

正岡子規

When I ate a persimmon, the bell tolled at Horyuji.
“Kaki (persimmon) kue (eat) ba (when), kane-ga naru-nari (the bell toll)
Horyuji (a name of temple).” is a haiku composed by Shiki Masaoka atlatest in 1895. This is the most famous haiku among his over 200k
haikus. This haiku illustrates that he was noXﬁed that it wasalready fall when the bell of Horyuji tolled beside he was eaXng
a persimmon a‚er visiXng the temple.
le.g., 人間並みの推論，プラグマティクスn

X文Y訳に矮小化して処理している場合もある
ドアの開閉にご注意ください。
Watch your ﬁngers.

12

MTの研究 = X文Y訳の範疇での精度向上とはいえその範囲についても「完璧」には程遠い
le.g., NICTの英日NMTの精度 [NICT, 17a]

MT界隈のアプローチ
MTそのものの改良: アルゴリズムの改良，データの拡充
l MTの外側の技術: 自動ポストエディット，品質推定
l13MT訳の自動ポストエディット
APE: AutomaXc/Automated Post-EdiXng [Allen+, 00]l

人間のPEの前にできる範囲で修正
e.g., ルールベースMTが繰り返す同じ誤りへの対策
n e.g., MT外部のターミノロジとの照合
n

原文

MT訳

修正訳
修正モデル

原文

MT訳

MT訳’修正訳

14

MT訳の品質推定
QE: Quality EsXmaXon [Specia+, 10]l

ユーザの立場での信頼度 (!=MTシステムの自信)
原文

MT訳

評価値
評価モデル

原文l

評価値

HTER: 人間によるPEの前の見積もり [Specia+, 11]nl

MT訳e.g., 再訳の要否やPEのコスト

OK/NGの2値: MT訳の直接使用の判断 [Soricut+, 10]
ne.g., 音声翻訳器で注意を促すかどうか
le.g., 100%出力する場合は精度80%，上位80%だと精度90%
15

どのタスクもデータの蓄積が重要
種類と用途
l

対訳 à MT
原文l

MT訳のPE結果 à APE, MT
原文l最終訳

MT訳

修正訳

MT訳評価結果 à QE
原文MT訳

評価値

NICTの取り組み
VoiceTraユーザからMT訳の誤り報告
l 人手で再評価・修正
l16