< 韓国日本語学会学術大会, Sep. 19th, 2020 >機械翻訳のしくみ，翻訳との違い

藤田 篤
情報通信研究機構
NICT, Japan

講演内容の概要
機械翻訳(machine translation; MT)の進展
情報通信研究機構(NICT)における研究開発
l 近年用いられているMTのしくみ
l MTが今後できそうなこと
l翻訳とMTの違い
翻訳に必要なこと
l MTが実際に果たしていること
l MTを使う際の注意点
l2

国立研究開発法人 情報通信研究機構
情報通信技術の研究開発 + 情報通信分野の事業支援

3

先進的音声翻訳研究開発推進センター
多言語音声翻訳技術の研究開発のため2014年に新設

4ASTREC設立の経緯
2013年9月
東京オリンピック・パラリンピックの開催決定
2014年4月
総務省 グローバルコミュニケーション計画
世界の「言葉の壁」をなくす
l 多言語音声翻訳技術の開発と社会実装l

急増する訪日外国人 [日本政府観光局 17]# of inbound visitors (million)

35

ASTREC設立

30
2520

2020年までに2000万人!

15
10
5
0
2000

2002

2004

2006

2008

2010
Year

2012

2014

2016

2018

日本政府観光局の統計をもとに作成

5

現在の多言語音声翻訳技術の社会展開例
観光アプリ「はなして翻訳｣
NTTドコモ

専用端末「NEC翻訳」
日本電気「ili(イリー)｣「ili インバウンド｣
ログバー
ログバー

公的機関

･「PIT/スマホと腕時計型端末」岡山県警･「VoiceTra」道府県警(NICT)※実証実験中

ビジネス「mimi ® 音声翻訳
powered by NICT｣
Fairy Devices「しゃべって翻訳 for A」
ATR-Trek

警察

電話「どこでも翻訳｣フィート「接客音声翻訳」
三菱地所(凸版印刷)

自治体「救急ボイストラ」
消防庁「VoiceBiz ®」(ボイスビズ)
凸版印刷

工場

金融

「多言語業務向けシステム」
住友ゴム工業(ATR-Trek)「ハイブリッド式多言語通訳サービスKOTOBAL」
コニカミノルタ「POCKETALK® S｣
ソースネクスト
自動翻訳電話｢PANインバウンド｣
東風津梁「SmaLingualシリーズ
多言語音声翻訳サービス｣「native.heart」
見果てぬ夢 [IP Dream]
ブリックス スマートカルチャーゲートウェイ

消防「対面ホンヤク」
パナソニック｢Fairy I/O ® Tumbler T-01｣
Fairy Devices

交通機関「駅コンシェル®」日立ソリューションズ･テクノロジー

鉄道

タクシー

「鉄道向け多機能翻訳アプリ｣
京急･NICT･ブリックス･日立G(※実証実験時）

プラットフォーム

医療機関「NICT VoiceTra
プラットフォーム」
NICT「みらい翻訳プラット
フォーム音声翻訳API」
みらい翻訳「mimi ® Cloud API Service」
Fairy Devices「多言語音声APIサービス」
日本電気「TOTTRA｣鳥取県ハイヤータクシー協会
Fairy Devices

病院「医療通訳タブレットMELON｣
コニカミノルタ

6多言語音声翻訳アプリVoiceTra
NICTの無料アプリ
31言語に対応l 旅行会話が得意
l 500万ダウンロードl

重点10言語 + 3言語を強化中• 日，英，中，韓，タイ，ベトナム，インドネシア，ミャンマー，スペイン，フランス• フィリピン，ネパール，ブラジルポルトガル

入力音声の音声認識結果

翻訳結果

折り返し
翻訳結果
(翻訳結果を自分の言語で確認できる)7

VoiceTraの音声翻訳のしくみ(1)入力された音声をネットワーク上のサーバに送信

VoiceTra

音声入力

駅はどこですかWhere is the station?
音声出力

多言語音声翻訳サーバ(2)翻訳された音声がサーバから戻ってくる

音声認識

テキスト翻訳

音声合成

音声àテキストe.g., 日本語テキストà英語テキスト

テキストà音声

駅はどこですかWhere is the station?

統計・機械学習・人工知能技術

統計・機械学習・
人工知能技術統計・機械学習・
人工知能技術

日本語の音声データ・
テキストデータ・辞書

日本語と英語の対訳辞書・対訳データ

英語の音声データ・テキストデータ・辞書8みんなの自動翻訳@TexTra
NICT運用の無料のテキスト翻訳サービスl

各分野向けにチューンしたモデルが利用可能
特許
n 金融n 対話n9

グローバルコミュニケーション計画2025

出典:https://www.soumu.go.jp/main_content/000678485.pdf

10機械翻訳(MT)のしくみ
アルゴリズムデータ ( ハードウェア)

MTの性能評価
性能評価 à 性能向上l

色々な観点: 翻訳品質，処理速度，対応言語，対応分野

翻訳品質の評価尺度l(全)自動評価: 信頼性低，コスト低àMTの研究開発を促進
人間が作成した参照訳との(見かけ上の)類似度
n e.g., BLEU [Papineni+ 02], METEOR [Banerjee+ 05], RIBES [Isozaki+ 10]
nl

人間が関わる評価: 信頼性高?，コスト大正確さ(adequacy) / 流暢さ(fluency)
n 後編集(post-edit)の分量: e.g., HTER [Snover+ 06]
n12

MTのアルゴリズムの変遷MT黎明期
1947年: 数学者Weaverから数学者Wienerへの手紙「暗号解読の要領で機械的に翻訳できるのではないか」
l 1950年代には研究が活発化
ln

規則に基づくMT: 人間が数万件の規則と辞書を整備

1964年: ALPACレポート「実用化には程遠い」
l冬の時代の到来

1990年頃以降: コーパスに基づくMTの研究が活発化
lコーパス: (人間が作った)テキストを集めたデータ
1984

1988

2003

2014

2017

用例ベースMT(EBMT)

統計的MT
(SMT)

句に基づくSMT(PBSMT)

ニューラルMT(NMT)

Transformer(NMTの一種)[Nagao 84][Brown+ 88][Koehn+ 03][Sutskever+ 14][Vaswani+ 17]

13

NMTの基本構造
語の系列 à 語の系列l

要素: 語の分散表現，エンコーダ，デコーダ，注意機構
ne.g., Transformer [Vaswani+ 17]

語の分散表現 (embedding)夕食

where shall(0.1, -1.4, 2.9, …, -0.7)

wego for dinner ? <EOS>

k-次元ベクトル

夕食はどこに行き ますか

エンコーダ (encoder)
原文を数値データに変換

デコーダ (decoder)
数値データから語の系列を生成

14

PBSMTとNMT
PBSMT: 句に基づくSMT
対訳データ中に頻出する句の対応を陽に捉える
l 組み合わせの確率的探索l

夕食 は どこ に 行き ます か

NMT: ニューラルMTl

原文を数値データに変換
nle.g., ベクトルや行列語の系列を生成夕食 は どこ に 行き ます か

0.1 0.2 1.4 0.3 0.6 0.2 0.9
0.3 -0.3 -0.3 -0.2 0.4 -0.1 -1.2
… …
… …
…
… …
0.5 -0.1 0.8 -0.2 0.9 0.4 -.0.7

Where shall we go for dinner ?

Where shall we go for dinner ?
15

PBSMTàNMTで翻訳品質が大きく向上
e.g. NICTの英日NMT [NICT 17]

言語や分野によっては「人間並み」!?
[Barrault+ 19]
16

対訳データ
Italy have defeated Portugal 31-5 in Pool C of the2007 Rugby World Cup at Parc des Princes, Paris,France.
Andrea Masi opened the scoring in the fourth minutewith a try for Italy.
Despite controlling the game for much of the first
half, Italy could not score any other tries before theinterval but David Bortolussi kicked three penalties
to extend their lead.
Portugal never gave up and David Penalva scored atry in the 33rd minute, providing their only pointsof the match.
Italy led 16-5 at half time but were matched by
Portugal for much of the second half.
However Bortolussi scored his fourth penalty of thematch, followed by tries from Mauro Bergamasco
and a second from Andrea Masi to wrap up thewin for Italy.
Currently third in Pool C with eight points, Italy face atough match against second placed Scotland on 29
September.
New Zealand lead the group with ten points, aheadof Scotland on points difference.
Portugal are bottom of the group with no points,
behind Romania with one.

フランスのパリ、パルク・デ・プランスで行われた
2007年ラグビーワールドカップのプールCで、イタリアは31対5でポルトガルを下した。
アンドレア・マージが開始4分後のトライでイタリアにとって最初の得点を入れた。
イタリアは試合前半のほとんどをコントロールしていながら、その後インターバルまでのトライでは得点できなかったが、デビッド・ボルトルッシがペナルティキックで3点を入れリードを広げた。
ポルトガルはあきらめることなく、デビッド・ペナ
ルバが33分でトライを決め、試合中唯一の得点をあげた。
イタリアはハーフタイムの時点で16対5とリードしていたが、後半ではポルトガルと互角になった。
だがボルトルッシがこの試合で4つめとなるペナルティキックを成功させ、さらにマウロ・ベルガマ
スコのトライとアンドレア・マージの2回めのトライでイタリアの勝利が確定的になった。
現在8ポイントとプールCでは3位のイタリアは、9月29日に2位のスコットランドとの厳しい戦いに臨む。
ニュージーランドが10ポイントでグループをリードし、勝ち点差でスコットランドに勝っている。
ポルトガルはポイントなしでグループ最下位、1ポイントでルーマニアの下位にいる。

この例 [Riza+ 16] は文書単位の翻訳だがMT研究では文単位の翻訳もよく使われる

17

NMTの訓練には大規模な対訳が不可欠
学習させる対訳データが多いほど高性能
より多様な表現・事例をカバーできる
l より正確に学習できる à 予測能力が上がる
le.g., 我々のNMTの実験結果の例 [Dabre+ 19]
45

数百万文あれば利用できるレベル(一部の言語・分野)

GCP En-Ja
WMT Tr-En
ASPEC En-Ja

40

BLEU score

35
3025

同じ翻訳方向でも分野によって得手不得手がある

20
15
10

対訳が数万文対しか5ないと性能は低い(多くの分野，少資源言語対)

50k

100k

200k
400k
# of parallel sentences

750k

1500k

18

対訳コーパスの拡充
人手で翻訳15〜20字の日本語文の翻訳 = 100〜400円
l クラウドソーシングl 自分で翻訳 (主に評価用データ)
l

既訳の収集
欧州議会文書: 200万文強 [Koehn 05]
l 国際出願特許: 日英3.5億文 [JPO & NICT 15]l 科学技術論文の要旨: 300万文 [Nakazawa+ 16]
l OPUS [Tiedemann 12]
l 翻訳バンク [NICT 17]
l Webからのクロール (Google 他)
l19

翻訳バンク@NICT
2017年9月に運用開始
当面の目標は1億文対の集積
l 製薬，自動車，金融，ビジネス分野で成果
l20

他の種類のデータの利活用 (1/2)
他言語対・他分野の対訳
l

他言語対からの転移学習 [Zoph+ 16][Johnson+ 17]
nle.g., 仏-英 à 越-英

他分野からの転移学習 [Chu+ 17]
ne.g., 科学技術文書 à TEDトーク

デコーダ共有L1

小規模Multi-to-multi

エンコーダ共有

L2

L1

小規模

L3

L2
L3

大規模

大規模

L1
L6

L2L5

L3L4

L1àL6やL2àL5はZero-shot21他の種類のデータの利活用 (2/2)
単言語データl

疑似対訳の獲得
対訳らしい文対の抽出 [Marie+ 17a; 19a]n MTシステムによる擬似対訳文対の生成
nl

L1L2e.g., 逆翻訳: L2àL1’をL1àL2の訓練に利用 [Sennrich+ 16a]
L2
L1L2(1)学習(3)学習L2àL1L1àL2(2)翻訳

L1’l

事前学習
語の分散表現やエンコーダ内部の変換行列を学習
n e.g., BERT [Devlin+ 19], XLM [Conneau+ 19], MASS [Song+ 19]n22

MTができそうなこと = X文Y訳 + α
X文Y訳l

テキストからテキストへの変換に過ぎない
テキストの「意味」を理解しているとも限らない
n テキストの社会的・歴史的位置付けは理解できない
n+αl

どんな情報でも数値データに変換して利用できるn

翻訳対象テキストと同様，陽に与える必要はある

23MTができそうなこと (1/2)
どんな情報でも数値データに変換して利用できるlテキスト内の情報n

起点言語や目標言語の指定による多言語翻訳 [Johnson+ 16]
I’ll be back soon.
目標言語 = ロシア語nЯ скоро вернусь.

文脈の情報に基づく曖昧性解消 [Tiedemann+ 17][Voita+ 18]
すみません
前方文脈 = φn

丁寧さやスタイルの制御 [Sennrich+ 16][Takeno+ 17]
どういたしまして
出力単語数 = 9n

Excuse me.

It’s all right.
You’re welcome.

専門分野やテキストタイプへの適応 [Luong+ 15][Chu+ 17]

24

MTができそうなこと (2/2)
どんな情報でも数値データに変換して利用できるl

テキストの外界の情報
著者/話し手/読者/聞き手の属性
n 参与者間の社会的関係/親密さ
n 発話の文脈: e.g., 時間，位置情報n

Tu bois du thé

こんにちは藤田さん聞き手の性別 = 男性

Bonjour, monsieur Fujita.

ごはん行きましょう
時刻 = 11:55 a.m.

Shall we go for lunch?

関係 = 同僚 ∧ 話し手 < 聞き手
Q. どんな情報が性能向上に寄与するか?
Q. データ作成も含めて，どこまで実現可能か?

25

MTと翻訳

翻訳プロセスの確認[影浦 17]の問い

翻訳して，と文書を与えられたら，どうする?
目的は?
結果物の用途は?
誰が読む?

スコポス

分野は?
文書タイプは?
いつ書かれた?

文書属性…
So the following statement should have been taken into account, among others:
States Parties particularly condemn racial segregation and apartheidand undertake to prevent, prohibit and eradicate all practices of thisnature in territories under their jurisdiction.
Justice Baltasar Garzón decided to indict Augusto Pinochet in 1998, he was …

国際条約からの引用
目標言語を公用語とする国はどこか?
その国はこの条約に批准しているか?
公式の翻訳は存在するか?

人名
既訳は存在するか?

27

翻訳とは何か?
起点言語文書が担う役割を目標言語で果たすこと
l

文書を扱う
文書の内部構造n 構成要素の役割
n それらの相互作用nl

文書の外側にある仕様も要考慮
スコポス [Vermeer 89]: 文書の役割や翻訳の目的
n ノーム: 目標言語における規範
n レジスタ: 文書が所属する言語仕様域
ncf. MTl

定式化のために単純化/無視 à X文Y訳
28

MTの品質の不安定性
MTのみで完璧な翻訳は不可能 [Bar-Hillel 51]
X文Y訳としての品質の担保も，現時点では不可能
l 人間が適切に使いこなす必要あり
l

4つの戦略 [Hutchins+ 92]
人間の介在(a)人手翻訳自動化の程度(b)(c)
機械に支援された 人間に支援された
人手翻訳
MT

(d)
全自動MT

29

(c)人間に支援されたMTの例
後編集(post-edit; PE): MTの結果を人間が手直しするlISO 18587 [ISO 17]
起点言語文書(1) MT

不完全なX文Y訳をPEで補える場面の例• 一部の技術文書• テキスト外の情報に関する前提知識の違いを無視できる言語対

翻訳
目標言語文書
(仮訳)
修正・校閲

文単位
文書単位

PE

目標言語文書(最終訳)
MTなしの工程

MT+PE30

(d) 全自動MTでどこまでできそうか?
PEを2段階に分けて課題を分析 [藤田 20]lニュース記事の英日翻訳
起点言語文書文単位
文書単位(1) MT

翻訳
目標言語文書(仮訳)
修正・校閲(2) PEPE(3) PE

MT+PE

今回の工程

目標言語文書(最終訳)
MTなしの工程31

PE事例 (ID=139760)
原文John Paul’s six-day tour was hugely popular, attracting hundreds of thousands ofpeople from the Catholic religion. It became the first ever UK visit from the Pope,
which will make Pope Benedict’s visit the second papal one.
MT訳

工程(1) 文単位のMT訳の生成

ジョン・ポールの６日間のツアーは非常に人気があって、カトリックの宗教から何十万もの人々を引きつけた。それはローマ教皇からの初めての英国訪問となり、ローマ教皇ベネディクトの第二の教皇訪問となる。

文単位のPEの結果 (今のMTの目標)

工程(2) 文単位のPE

ジョン・ポールの６日間のツアーは非常に人気があり、カトリックを信仰する何十万もの人々を引きつけた。それはローマ教皇の初めての英国訪問となり、ローマ教皇ベネディクトの訪問は２度目の教皇訪問となる。

文書単位のPEの結果

工程(3) 文書単位のPE

法王ヨハネ・パウロの６日間の訪問は非常に人気があり、カトリックを信仰する何十万もの人々を引きつけた。この時がローマ法王の初めての英国訪問となり、法王ベネディクトの訪問は２度目の法王訪問となる。
32

修正事例の列挙・分解・分類
文単位のPEの結果(今のMTの目標)
クレメンス（ワールドシリーズ７回出場で３対０、防御率１．９０）は、少なくとも１日ペティット（ワールドシリーズ１０回出場で３対４、３．９０）と組んで、土曜日に３３回目のポストシーズンのスタートを切る。
工程(3): 文書単位のPE

文書単位のPEの結果

クレメンス（ワールドシリーズ７回出場で３勝０敗、防御率１．９０）は、少な
くとも１日はペティット（ワールドシリーズ１０回出場で３勝４敗、３．９０）と史上最多で並び、土曜日に生涯でポストシーズン33回目の先発登板を行う。

X3

X3

３対０
３勝０敗

X3

３対４
３勝４敗

３３回目のポストシーズンのポストシーズン33回目のX15

X3

１日
１日はX1

[]
生涯でスタートを切る
先発登板を行う

X3

X1[]
史上最多で〜と組んで〜と並び33修正事例の分布 (合計529件)
文書中の他の文を参照する必要の有無で細分類
1101009080706050403020

未完成10

人間の翻訳の分析用に作られた分類体系 [豊島+ 16]0l

X4a:untranslated

用語の訳出誤り

X6:indecision
X7:term

内容の誤り

X1:omission

いわゆる誤訳

X2:addition
X3:distortion
X8:collocation
X10:preposition/particle

目標言語の文法的誤り

NoNeedContext

X11:inflection

NeedContext

X12:spelling
X13:punctuation

結束性違反

X9:syntactic-others

テキストの質的問題

X16:incohesive

レジスタ
固有の問題

X14:register

X4b:too-literal

レジスタ違反X15:clumsy

0102030405060# of examples

708090100

11034文単位の翻訳における課題
X文Y訳を超えて実現すべきことl

必要な外部知識を要参照
一般常識
n 対象分野の専門的知識や表現
n 用語集: 既訳の踏襲，一貫性
nClemens … 3-0 in seven starts
クレメンスは7度先発して3勝0敗

固有名: 地名，人名，組織名など
l 専門用語John Paul
ヨハネ・パウロll

翻訳の仕様を要考慮n

機械翻訳

スコポス: 文書の役割や翻訳の目的
lnmachine translatione.g., 想定読者，文書の用途

レジスタの規範，案件ごとのスタイル等の指定
le.g., 固有名の翻字の要不要，メディアの空間的制約，使用できる語や漢字，括弧の使い方

35文書内の他の文を参照する必要性
修正事例中の32% (168/529)
l【X16 結束性違反】が最多の75件
明示化: 指示詞や人称代名詞等の参照先の名詞句の明示
n 省略: 自明な格要素の削除
n 主題化/非主題化: 「は」と「が」の使い分け
n 訳出の統一: 固有名は【X7 用語の訳出誤り】に分類
nl【X3 歪曲】文脈依存の曖昧性を適切に解消する必要あり
Amnesty International has also urged the government of Pakistan toensure the protection of journalists and media workers in the country.
☓ Amnestyはまた…
✓Amnestyもまた…
Since completion of the surgery, the patient has been on
immuno-suppressant drugs to prevent rejection of the new limbs.
☓足✓手36

翻訳におけるMTの使い方

MTを使う際の注意
現在のMTl必ずしも「翻訳」をしない
翻訳時に参照すべき情報の多くを見ていない
n X文Y訳に過ぎない (うまくいったとしても)nl

翻訳誤りによって深刻な問題を生じうる可能性

そのようなMT (サービス)を利用する際の注意l

使おうとしているMTサービスの利用規約を要確認
何を参照しているか?
n 翻訳誤りの責任は誰が負うのか?
nl

使い方をよく考える誰が消費するのか?
n 翻訳の目的や仕様
n38

MTの使い方の例
情報収集(assimilation): 消費者は自分流暢でなくても意味が通じればOK
l 内容が正確でない可能性を常に疑うl

情報発信(dissemination): 消費者は他人
正確かつ流暢でないと発信者の信頼を損なう
l MT結果を人間が仕上げる
lnle.g., 後編集(PE)，複数人による検査

起点言語文書をMTできるように工夫する(i.e., 前編集)
e.g., 極端に長い文を避ける
n e.g., 主語や述語，構文を明瞭にするn

折り返し翻訳を見て訳質を確認する
l MT結果であることを明記して注意を促す
l39

まとめ
機械翻訳(machine translation; MT)の進展
情報通信研究機構(NICT)における研究開発
l 近年用いられているMTのしくみ
l MTが今後できそうなこと
l翻訳とMTの違い翻訳に必要なこと
l MTが実際に果たしていること
l MTを使う際の注意点
l40