ライビーズ

最近の自動評価法の研究動向とRIBES（最終版）
磯崎秀樹

岡山県立大学 情報工学部

2012 年 9 月 7 日 (金)平成 24 年度 AAMT/Japio 特許翻訳研究会
特許文書の機械翻訳結果評価方法検討会資料集

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)1 / 62

要旨

機械翻訳を改良するうえで、翻訳の品質を評価することは不可欠である。
しかし、人間の評価は時間やコストがかかり、再現性にも問題がある。
そこで翻訳自動評価法が不可欠である。
近年、デファクト・スタンダードの自動評価法である BLEU の問題が指摘され、新しい自動評価法の模索が始まっている。
本発表では、2010 年以降に発表された翻訳自動評価法を紹介する。

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)2 / 62

Outline

1

BLEU の復習

2

RIBES

3

RIBES と関連の深い評価法

4

WMT におけるメタ評価

5

WMT 以外で発表された評価法

6

意味論に基づく翻訳評価

7

まとめ

8

RIBES に関する参考資料

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)3 / 62

BLEU の復習
参照訳 (人間が与えた理想的な訳) との近さを測定することで採点。
▼クリックすると、論文が表示されます。

BLEU P02-1040 の基本は√
1, 2, 3, 4 グラムの適合率の幾何平均 4 p1 p2 p3 p4 。
適合率なので、自信のある部分だけ出力する方が得。
そうしたずるい出力に対して課されるのが Brevity Penalty (BP)。
(
(
))
BP
参照訳の語数BP = min 1, exp 1 −1.0
機械訳の語数x=

機械訳の語数
参照訳の語数としたとき、右図の形。

0.5

0.0
0.00
短い
磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

0.50

1.00

x
1.50
長い

2012 年 9 月 7 日 (金)4 / 62

BLEU の復習√

BLEU = BP × 4 p1 p2 p3 p4
4 グラムがひとつはマッチしていないと 0 点
文単位で採点すると、ほとんどの文が 0 点になってしまう。

BLEU を使うときには、参照訳をいくつも用意して、しかも文単位ではなく、もっと大きい単位で評価するのが普通。
細かい採点ができないので、成績が悪い原因を突き止めることが難しい。

磯崎秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)5 / 62

Outline

1

BLEU の復習

2

RIBES

3

RIBES と関連の深い評価法

4

WMT におけるメタ評価

5

WMT 以外で発表された評価法

6

意味論に基づく翻訳評価

7

まとめ

8

RIBES に関する参考資料

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)6 / 62

翻訳自動評価に関わることになったきっかけ
WMT-2010

英日翻訳で Head Finalization W10-1736, NLP10-B4-2, NTCIR9-SudohK,
ACM TALIP-2012 という preordering (翻訳前並べ替え) を考案
日本語の語順にどれくらい近づいたか知りたかった。
順番を比べるなら順位相関係数、で、 Kendall の τ を利用
特許 180 万文平均 τ = 0.451

τ = 0.722

翻訳前の評価に使えるのなら、翻訳後の評価にも使えるんじゃないか？
磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)7 / 62

語順の順位相関を求めてみよう（SMT 風誤訳）
原文 彼は雨に濡れたので、風邪を引いた。
参照訳

SMT 風誤訳

he caught a cold because he got soaked in the rain
0
1
2 3
4
5 6
7
8 9 105 6
7
8 9 104
0
1
2 3
he got soaked in the rain because he caught a cold

[5, 6, 7, 8, 9, 10, 4, 0, 1, 2, 3] の τ は？
タイがない場合の計算式は、τ =

昇順ペア数
全ペア数

×2−1

降順
昇順

5 6 7 8 9 10 4 0 1 2 3磯崎

秀樹 (岡山県立大学

情報工学部)

τ =21
× 2 − 1 = −0.236
11 C2

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)8 / 62

語順の順位相関を求めてみよう（SMT 風誤訳）

同じ単語が１文中に複数ある場合に、ユニグラムでは対応がつかない。
参照訳

he caught a cold because he got soaked in the rain?
SMT 風の訳?

?

?

he got soaked in the rain because he caught a cold

そこで論文の実験で用いたプログラムではバイグラムを見て判定。
公開中のプログラムは、トライグラム以上も見て判定しているそうです。

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)9 / 62

語順の順位相関を求めてみよう（RBMT 風直訳）

原文 彼は雨に濡れたので、風邪を引いた。
参照訳

RBMT 風の訳

he caught a cold because he got soaked in the rain
0
1
2 3
4
5
8 9 100
1
2 3
45
8 9 10he caught a cold because he had gotten wet in the rain

[0, 1, 2, 3, 4, 5, 8, 9, 10] の τ は？
全ペアが昇順なので τ = 1.000
対応しなかったところは無視していいの？

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)10 / 62対応しなかったところは無視していいの？
got soaked と had gotten wet が対応しているか、意味がどれくらい違うか判定するには、言い換えの辞書などが必要。
NTCIR-7 の翻訳タスクの提出結果を見ると、RBMT も SMT も訳語選択の間違いは気にならない。
SMT は語順が滅茶苦茶なので、何が何の誤訳なのかわからない。
RBMT の訳語は参照訳と違うことが多いが、間違いは少なそう。
性善説に立ち、機械翻訳の訳語の違いは、気にしない。
ただし、τ が同じ場合にも、対応した単語数の多寡は考慮したい。
磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)11 / 62

RIBES (NTT)EMNLP-2010 で提案 磯崎他 D10-1092
2011 年の言語処理学会年次大会で命名 NLP11-D5-2
RIBES: Rank-based Intuitive Bilingual Evaluation Score（ribes はカシスの仲間を表す属名）

τ +1
× P α （0 ≤ α ≤ 1)
2
P はユニグラム適合率。α は NTCIR-7 JE のデータでチューニング。
)
(
昇順ペア数
τ の値域を (τ + 1)/2 =により [0, 1] に変換。
RIBES=

全ペア数

妥当性 BLEU RIBES
原文
彼は雨に濡れたので、風邪を引いた。
参照訳
He caught a cold because he got soaked in the rain.
RBMT He caught a cold because he had gotten wet in the rain.
SMT
He got soaked in the rain because he caught a cold.

磯崎

秀樹 (岡山県立大学

情報工学部)○
×0.53 0.93
0.74 0.38

BLEU は人間の妥当性評価と逆!

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)12 / 62NTCIR-7 日英特許翻訳データでの性能
RIBES のシステム・レベルのスコアは、文レベルのスコアの単純平均
人手評価とのシステム・レベルの順位相関（Spearman の ρ）
自動評価法
RIBES(α = 0.2)
ROUGE-L
IMPACT
METEOR
BLEU

妥当性
0.947
0.903
0.826
0.490
0.515

流暢性
0.879
0.889
0.751
0.508
0.500

NLP11-D5-2

翻訳自動評価の手法としてあまり使われていない Chin-Yew Lin の
ROUGE-L P04-1077 もよい。
このような、評価法の評価を「メタ評価」という。

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)13 / 62NTCIR-9 特許翻訳オーガナイザによるメタ評価
後藤他 NTCIR9-GotoI, NLP12-E2-9

NTCIR-9 では、RIBES が BLEU と並んで自動評価法として採用された
NTT からソースコードを公開
http://www.kecl.ntt.co.jp/icl/lirg/ribes/index-j.html

NTCIR-9 での人手評価（妥当性）との順位相関（Spearman の ρ）
自動評価法
BLEU
NIST
RIBES

日英
▼ 0.042▼ 0.1140.632

英日▼ 0.029▼ 0.074
0.716

中英
0.931
▼はマイナス
0.911
0.949

BLEU, NIST は中英では良いが、日英・英日では人手と相関なし。
RIBES はこれらよりはましだが、NTCIR-7 の時より悪い。

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)14 / 62NTCIR-9 特許翻訳オーガナイザによるメタ評価

NTCIR-9 のメタ評価の結果には、意外なところがあります。
日本語は、語順が比較的自由だと言われています。
「私はごはんを食べます」⇔「ごはんを私は食べます」
このことは、語順を重視する RIBES にとって不利のようです。
ところが、日本語の語順を測定している英日翻訳の方が、英語の語順を測定している日英翻訳よりも、人間の評価との相関が高いのです。

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)15 / 62どんな自動評価法が望ましいか？
磯崎の考える望ましさの基準。
人間の評価との相関が高い。
言語に依存したリソースが不要。
計算が軽い。
必要な参照訳が少ない。
翻訳のどこが悪いかがわかりやすい。

SMT のパラメタ・チューニングに使える。
日英・英日翻訳では

BLEU: 人×リ○軽○参×悪×チ○
RIBES: 人○リ○軽○参○悪○チ？
磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)16 / 62どんな自動評価法が望ましいか？

人間の評価に近づけようとすれば、言い換え辞書等に頼らざるを得ない。
しかし、辞書を作り、メンテナンスしていくのは大変。
WMT-2010

TESLA 論文 W10-1754 は、以下の 3 つに分けている。
WMT-2008

Heavyweight Linguistic Approaches RTE P09-1034, ULC W08-0332,

Lightweight Linguistic Approaches METEOR W05-0909 , MaxSim P08-1007
Non-linguistic Approaches BLEU P02-1040, TER AMTA-2006-snover磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)17 / 62

Dreyer&Marcu の考える望ましさの基準

N12-1017

直観的である。
自動で計算できる。
安定していて、再現可能である。
人間か自動翻訳か RBMT か SMT かハイブリッドかによらず、うまく動く。
その評価法に合わせてチューニングができる。
翻訳エンジンのどこに問題があるのかを判定する手助けとなる。
彼らの HyTER は、上記をすべて満たすそうだ。

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)18 / 62

Outline

1

BLEU の復習

2

RIBES

3

RIBES と関連の深い評価法

4

WMT におけるメタ評価

5

WMT 以外で発表された評価法

6

意味論に基づく翻訳評価

7

まとめ

8

RIBES に関する参考資料

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)19 / 62

LRscore （イギリス・エジンバラ大学）
http://homepages.inf.ed.ac.uk/abmayne/

RIBES の論文をそろそろ投稿しようと思っていたら、Birch ら MachineTranslation 2010 が、磯崎より少し前に中英翻訳評価で τ を利用していることが判明。
ただし、単語アラインメントは自分で計算して与えないといけない。

LRscore (Lexical Reordering score) はその改良
WMT-2010

W10-1749, D11-1079, P11-1103

BLEU と以下の量の補間
K: BP つき Kendall の τ
H: BP つきハミング距離
たとえば、LR-HB1 は、BP つきハミング距離と BLEU1 の補間

LR-KB4 は、BP つき Kendall の τ と BLEU4 の補間磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)20 / 62

FRS （Google）
WMT-2011

Talbot 他 W11-2102, Katz-Brown 他 D11-1017, 賀沢他 NLP11-D5-4

FRS: Fuzzy Reordering Score, FRS = 1 −チャンク境界の数
単語境界の数WMT-2011（cf. METEOR W11-2107, W05-0909 の fragmentation penalty）

SMT のチューニング中なら、原文と翻訳の単語対応が完全にわかる。
原文

he caught a cold because he got soaked in the rain

SMT

he got soaked in the rain because he caught a cold

BLEU RIBES FRS
原文
彼は雨に濡れたので、風邪を引いた。
参照訳 He caught a cold because he got soaked in the rain.
RBMT He caught a cold because he had gotten wet in the rain. 0.53 0.93 1.00?
SMT He got soaked in the rain because he caught a cold.
0.74 0.38 0.80?

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)21 / 62

FRS （Google）

賀沢ら NLP11-D5-4 は、英日翻訳で文レベルのメタ評価を行っている。

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)22 / 62

Outline

1

BLEU の復習

2

RIBES

3

RIBES と関連の深い評価法

4

WMT におけるメタ評価

5

WMT 以外で発表された評価法

6

意味論に基づく翻訳評価

7

まとめ

8

RIBES に関する参考資料

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)23 / 62

翻訳自動評価に関する外国での研究

BLEU に対する疑問は、外国でも昔からある。
統計的機械翻訳ワークショップ (Workshop on Statistical MachineTranslation, WMT) では、欧⇔英翻訳で様々な翻訳自動評価法を比較。
英語以外のヨーロッパ言語としては、ドイツ語、フランス語、スペイン語、チェコ語が使われる。
（チェコ語はしばしばデータ不足などで、表からはずされる。）

以下では 2010 年以降の WMT で上位だった手法を紹介する。

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)24 / 62

WMT10〜12 翻訳自動評価タスクの推移（欧英翻訳）
人手評価とのシステムレベルの順位相関（Spearman）
WMT-2010

WMT-2011

WMT-2012

W10-1703

W11-2103

W12-3102

MTeRater-PLUS

SemPOS

TINE-srl-matchTESLA-FAMBER

TESLA-B
MTeRater, METEOR-ADQ, TESLA-M
METEOR-RANK, AMBER-NLAMBER-TIAMBERSemPOS磯崎

秀樹 (岡山県立大学

F15, F15G3

U-LFG, SEPIA, SVM

LRKB4 ★
LRHB4 ★

-r

情報工学部)

0.85

METEOR, TerrorCat
SIMPBLEU

TER, BLEU

0.80

mpF
wmpF

IQmt-DRdoc
SemPOS-BLEU, i-letter-BLEU
NIST, TESLA, MT-NCD, Bkars
ATEC, METEOR-NEXT, IQmt, BADGER, DC
i-letter-recall, TESLA-M

BLEU

0.90

posF, BlockErrCats 0.75
WordBlockEC, XEnErrCats

0.70

ROSE

BLEU
TER

0.65

an
k

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)25 / 62

SemPOS (チェコ・プラハ・カレル大学)

WMT-2010

WMT-2011

Macháček and Bojar PBML-2009, P10-2016, W10-1705, W11-2108
SemPOS = Semantic Part-of-Speech に基づき、内容語の重なりで評価
ただし、単語を t-lemma と呼ばれる標準形に変換して比較

t-lemma は、深い構文解析が必要で重いので、浅い処理で近似

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)26 / 62

MTeRater-Plus （コロンビア大学, ETS）
（ETS は TOEFL などの英語のテストをしている機関）
WMT-2011

W11-2111

MTeRater 人間が書いたエッセイの自動採点用に考案された ETS
e-rator R の素性を使って機械学習 参照訳不要
grammar, usage, mechanics, style, organization, development, lexical
complexity, vocabulary usage の誤りを採点。
grammar: sentence fragments, verb form errors, pronoun errors
usage: articles, prepositions, collocations
mechanics: spelling, punctuation, capitalization
MTeRater-Plus MTeRater の素性に、BLEU, TERp, METEOR な
どの素性を加えたもの。

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)27 / 62AMBER （カナダ国立研究機構）
WMT-2011

WMT-2012

Chen 他 W11-2105, W12-3104
AMBER: A Modified BLEU, Enhanced Ranking Metricn-gram の適合率・再現率の関数で定義されたスコアに、
いろんなペナルティを掛けたもの。
Strict Brevity Penalty (SBP) Chiang D08-1064
オリジナルの Brevity Penalty は、個々の訳文ではなく、全訳文の長さの和しか問題にしていない。そのせいで、長すぎる訳文が短かすぎる訳文を助けてしまうことがある。
これを禁止。

Strict Redundancy Penalty (SRP) 長すぎる訳文へのペナルティ。
Chunk Penalty (CKP) 訳文が途切れることに対するペナルティ。
METEOR の fragmentation penalty と同じ

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)28 / 62AMBER （カナダ国立研究機構）正規化した順位相関係数も導入している。

Normalized Spearman’s Correlation Penalty (NSCP)
Normalized Kendall’s Correlation Penalty (NKCP)
たくさんパラメタがあるので、downhill simplex 法でチューニング。
Philipp Koehn の SMT 本で Simplex 法と呼ばれているものだが、線形計画法ではない。

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)29 / 62

SPEDE (スタンフォード大学)
Wang & Manning D12-1090
セグメントレベルの自動評価でベスト（だが、τ = 0.25 は低すぎる）
重みつき編集距離を計算するのに確率的有限状態機械 (pFSM) を使う。
最近の評価手法は、線形回帰や SVR で人間の評価を真似(SVR: SVM による回帰)

Padó ら（P09-1034）の RteR (← RTE + Regression)
しかし、素性を抽出するのに時間がかかり、使いづらい。

RteR に比べてずっと軽いことを確認した。
pPDA (probabilistic Pushdown Automaton) に拡張。
磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)30 / 62

WMT10〜12 翻訳自動評価タスクの推移（
英欧翻訳）
WMT-2010
WMT-2011
WMT-2012
W10-1703

W11-2103

W12-3102
0.95

TESLA-M

0.90
TESLA-B
0.85
0.80

mpF
wmpF

0.75

MP4IBM1, AMBER
ROSE
BLEU, AMBER-NL

0.70
FIG15G3

0.65

METEOR-RANK, F15

SIMPBLEU
BlockErrCats
EnXErrCats

TER

posF
WordBlockEC

0.60

TerrorCat
AMBER, TER
METEOR
BLEU

0.55

SVM-rank
TESLA-M, LRKB4 ★
i-letter-recall
磯崎
秀樹
LRHB4
★ (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)31 / 62なぜ、英語以外での自動評価は悪いのか？

個別の言語による事情が十分考慮できていない。
複数の言語でうまくいく方法を見つけるのが難しい
研究者の知識不足
ツールの精度不足
言語リソースの不足

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)32 / 62TESLA （NUS:シンガポール国立大学）

WMT-2011

WMT-2010

Liu 他: D11-1035, W11-2106, W10-1754 http://nlp.comp.nus.edu.sg/software
TESLA: Translation Evaluation of Sentences withLinear-programming-based Analysis
WMT11 Evaluation task で、人間の評価との順位相関 ρ が、英独、英西、英仏の平均でベスト
WordNet の同義語を利用
機械訳と参照訳の n-gram のマッチングにおいて、n-gram に重みを与えられるように、n-gram のマッチングを線形計画法で解くのがポイント

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)33 / 62TESLA （NUS:シンガポール国立大学）

WMT-2011

WMT-2010

Liu 他: D11-1035, W11-2106, W10-1754
n-gram の類似度は、マッチングの良さを表す。
しかし、n-gram の重要性は異なるので、n-gram の重みを考える。
この重みを線形計画法で解く。
目的関数は、類似度の加重和で、最大化する。
各 n-gram につながる枝の重みの総和には上限を与える（たとえば 1.0）

TESLA-M は、n ユニグラムの F 値の平均
TESLA(-F) は SVM-rank でトレーニング

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)34 / 62TESLA （NUS:シンガポール国立大学）「Good morning , sir .」と「Hello , Querrien .」のマッチング

ノードは n グラムで、重みは出現頻度。
含まれる機能語ごとに 0.1 倍。
エッジの重みは n グラムの類似度。
基本形・語義・品詞の一致で計算。

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)35 / 62

SIMPBLEU （シェフィールド大学）

WMT-2010

WMT12 のオーガナイザの論文 W12-3102 は、SIMPBLEU のポインタとWMT-2011
して、ROSE の論文 (Song and Cohn W11-2113) を引用。
しかし、著者本人に確認したところ、ROSE と SIMPBLEU は別のもの
で、SIMPBLEU の論文はまだ出版されていない。

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)36 / 62

TerrorCat (チューリッヒ大学他), BlockErrCats, etc.
(DFKI=ドイツ人工知能研究所)

WMT-2012

WMT-2012

Fishel 他 W12-3105, Popović W12-3106

翻訳誤りを分類し、誤りのカテゴリごとに、翻訳品質に与える影響の深
刻さを調べておく。
同じ誤りでも、言語によって深刻さは違う。
英語では語順の誤りが重要
チェコ語やドイツ語では、屈折の誤りが重要

Zeman の Addictor PBML-2011 や Popovic の Hjerson J11-4002 を使って自動的に誤りを解析する

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)37 / 62

WMT11 Tunable Metrics Task
WMT-2011

W11-2103

目的：MT のチューニングに使える評価法を作ろう (invitation-only,
Urdu-English)
評価関数を取り換えやすい Z-MERT PBML-2009 を利用
結果：BLEU より明らかによいものはなし

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)38 / 62

WMT12 Quality Estimation Task

WMT-2012

W12-3102

目的：参照訳を用いずに、機械学習技術により翻訳の品質を推定したい
英語からスペイン語への翻訳結果を利用
とくに良かったのは

SDLLW MP5bestDeltaAvg, SDLLW SVM 米国・SDL Language Weaver
WMT-2012
Soricut 他 W12-3118
WMT-2012

UU bltk スウェーデン・ウプサラ大学 W12-3112
Tree kernel を使用

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)39 / 62

SDLLW M5P..., SDLLW SVM (SDL Language Weaver)WMT-2012

Soricut 他 W12-3118
後処理の大変さを予測できるように、M5P（Quinlan の M5 もどき）やSVM で学習。
以下の 3 種類の素性を利用
ベースライン素性 タスクで定義されている 17 素性。
原言語・目的言語でのトークン数、言語モデルの確率、低頻度・高頻度の n-gram の割合、句読点の数など。

デコーダ素性 Moses デコーダの内部コスト (distortion cost, word
penalty cost, language-model cost, etc.)
独自素性 原言語側の未知語数、言語モデルのパープレキシティ、
BLEU4/BP、１対１単語アラインメントの数・割合など。
磯崎秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)40 / 62

UU bltk スウェーデン・ウプサラ大学
WMT-2012

W12-3112「参照訳あり」で tree kernel (TK) を使うのはもっともな話。
ここでは「参照訳なし」の翻訳品質の推定に TK を入れた SVR を利用。
いずれにせよ、いかにも計算時間がかかりそう。

TK 単独はよくない。他の素性が基本で、少しだけ TK を混ぜている。
磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)41 / 62

Outline

1

BLEU の復習

2

RIBES

3

RIBES と関連の深い評価法

4

WMT におけるメタ評価

5

WMT 以外で発表された評価法

6

意味論に基づく翻訳評価

7

まとめ

8

RIBES に関する参考資料

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)42 / 62

PORT （カナダ国立研究機構）
Chen 他 P12-1098 （AMBER と同じグループ）
PORT: Precision-Order-Recall Tunable metric
PORT はリソースがいらず、計算が速く、人間の評価との相関もよいだ
けでなく、チューニングに適している。
PORT は Qmean と 新しい順位相関係数 ν の α 乗の調和平均
Qmean は、n グラム適合率の平均 Pa と n グラム再現率の平均 Ra にペナ
ルティをかけ二乗平均√
Qmean = ((Pa × SBP)2 + (Ra × SRP)2 ) /2
SBP: Strict Brevity Penalty
SRP: Strict Redundancy Penalty

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)43 / 62

PORT （カナダ国立研究機構）
Chen 他 P12-1098 どうして新しい順位相関係数を作ったのか？
Spearman の ρ は、長距離移動のペナルティが大きすぎる。
磯崎も τ と ρ の比較実験で、ρ の方がきついことには同意

ρ の計算式は、移動距離の 2 乗和を正規化する形。
∑nd2
ρ = 1 − i=1 i
n+1 C3
ならば、2 乗しなければいい、という発想らしい。
∑n|di |ν1 = 1 − i=1
n+1 C2
これだけではだめだったのか、ν は ν2 という別の係数との調和平均。
磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)44 / 62

PORT （カナダ国立研究機構）
Chen 他 P12-1098 チューニングの結果
PORT が BLEU に勝っている。

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)45 / 62

PORT （カナダ国立研究機構）
Chen 他 P12-1098 新しい順位相関係数 ν の効果はあったのか？

微妙
磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)46 / 62AM-FM （シンガポール科学技術研究庁インフォコム研究所）
Banchs&Li P11-2027 参照文が不要
AM Adequacy-oriented component of the metric
Dumais らの CL-LSI (Cross-Language Latent Semantic Indexing) を利用し、原文と訳文のコサイン類似度を求める。

FM Fluency-oriented component of the metricn-gram 言語モデルによる確率
AM-FM AM と FM の重みつき調和平均 AM-FM =AM × FM
αAM + (1 − α)FMWMT07 の欧⇔英翻訳
参照訳なしの割に健闘

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)47 / 62HyTER (米・SDL Language Weaver)Dreyer&Marcu: N12-1017
同義表現をボトムアップにアノーテーションできるツールを作成
これにより、等価な表現の組み合わせによってできる膨大な参照訳の集合を表すことができる

HyTER は、このネットワークによって HTER AMTA-2006-Snover を真似る。
HTER とは、機械訳と参照訳を人間が見て作った新しい参照訳を基準にして計算した TER (Translation Edit Rate)
距離計算は、有限状態オートマトン (FSA) により効率的に計算できる。

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)48 / 62HyTER (米・SDL Language Weaver)Dreyer&Marcu: N12-1017
HTER を基準としたメタ評価の結果

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)49 / 62

Outline

1

BLEU の復習

2

RIBES

3

RIBES と関連の深い評価法

4

WMT におけるメタ評価

5

WMT 以外で発表された評価法

6

意味論に基づく翻訳評価

7

まとめ

8

RIBES に関する参考資料

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)50 / 62

意味論に基づく翻訳評価 (スペイン・カタルーニャ工科大)

WMT-2007

WMT-2008

WMT-2009

Giménez&Màrquez W07-0738, I08-1042, W08-0332, W09-0440
2010 年より前だが、意味論に基づく評価としてしばしば参照されるので、参考のため入れておく。
文を以下のような LE = Linguistic Elements の bag とみなす。
語形、品詞タグ、係り受け関係、構文的な句、固有表現、意味役割

DRS = Discource Representation Theory （談話表示理論）を利用

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)51 / 62

MEANT （香港科技大学）

SSST-2011

SSST-2012

Lo&Wu P11-1023, L10-1521, W11-1002, W12-4206
意味役割付与 (SRL) のマッチングによる採点
トレーニング・コーパスを使わない。
文レベルでの人手評価との相関がよい。
正しく翻訳された意味フレームの再現率・適合率から、F 値を計算
部分的に正しく翻訳された意味フレームにも少し点を与えるために、式が複雑になっている。

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)52 / 62

Sagan （アルゼンチン・コルドバ国立大学）

WMT-2012

Castillo&Estrella W12-3103
テキスト含意認識 (Recognizing Textural Entailment, RTE) 技術を利用

RTE とは？
Text (T) In 1963 Lee Harvey Oswald murdered JFK.
Hypothesis (H) JFK died in 1963.
のようなものが与えられて、(T) が (H) を含意するかどうか判断する課題。

意味的テキスト類似度 (STS = Semantic Textual Similarity) に基づく

磯崎秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)53 / 62

翻訳以外の文章の自動評価タスク・ワークショップ

TAC AESOP task (Automatically Evaluating Summaries of Peers) 要約の自動評価 2009, 2010, 2011, 2012
HOO pilot shared task (Helping Our Own) 英語を母国語としない人のテ
キストの誤りの自動修正 2011, 2012
ACL Workshop on Intrinsic and Extrinsic Evaluation Measures for
Machine Translation and/or Summarization 2005

磯崎秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)54 / 62

Outline

1

BLEU の復習

2

RIBES

3

RIBES と関連の深い評価法

4

WMT におけるメタ評価

5

WMT 以外で発表された評価法

6

意味論に基づく翻訳評価

7

まとめ

8

RIBES に関する参考資料

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)55 / 62

まとめ

翻訳自動評価は、翻訳品質の向上に不可欠である。
細かい訳語の違いに敏感な BLEU や NIST は、英日・日英翻訳では、人間による評価と無相関。
現在の英日・日英翻訳の SMT 出力は、語順がめちゃくちゃで、個々の訳語の良し悪しが目立たない。

RIBES は、訳語の違いを重視せず、語順を重視することで、人間の自動評価との相関を高くしている。
新しい自動評価法の中には、順位相関係数を取り込んだものもある。
「参照訳が不要な」あるいは「パラメタ・チューニングに使える」
自動評価法の模索が始まっている。

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)56 / 62

Outline

1

BLEU の復習

2

RIBES

3

RIBES と関連の深い評価法

4

WMT におけるメタ評価

5

WMT 以外で発表された評価法

6

意味論に基づく翻訳評価

7

まとめ

8

RIBES に関する参考資料

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)57 / 62

RIBES に関する参考資料

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)58 / 62

RIBES に関する文献（査読あり国際会議 その 1）
国際的には EMNLP-2010 で発表したが、当時は RIBES という名前がついていなかった。その前の WMT-2010 で、Head Finalization による preordering の効果を Kendallの τ で評価している。

W10-1736 Isozaki, Sudoh, Tsukada, Duh: Head Finalization: A Simple
Reordering Rule for SOV Languages, WMT-2010, pp.244-251.

D10-1092 Isozaki, Hirao, Duh, Sudoh, Tsukada: Automatic Evaluation ofTranslation Quality for Distant Language Pairs, EMNLP-2010, pp.944-052.
— 以下は D10-1092 を引用している文献 —I11-1004 Wu, Sudoh, Duh, Tsuakada, Nagata: Extracting Pre-ordering Rules from
Predicate-Argument Structures, IJCNLP-2011, pp.29–37.

I11-1153 Duh, Sudoh, Wu, Tsukada, Nagata: Generalized Minimum Bayes Risk System
Combination, IJCNLP-2011, pp.1356–1360.

MT Summit XIII Sudoh, Wu, Duh, Tsukada, Nagata: Post-ordering in Statistical MachineTranslation, MT Summit-2011, pp.316–323.

D11-1017 Katz-Brown, Petrov, McDonald, Och, Talbot, Ichikawa, Seno, Kazawa: Traininga Parser for Machine Translation Reordering, EMNLP-2011, pp.183–192.

磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)59 / 62

RIBES に関する文献（査読あり国際会議 その 2）
W11-2102 Talbot, Kazawa, Ichikawa, Katz-Brown, Seno, Och: A Lightweight Evaluation
Framework for Machine Translation Reordering, Workshop on Statistical MachineTranslation, pp.12–21.

W11-2105 Chen, Kuhn: AMBER: A Modified BLEU Enhanced Ranking Metric,
WMT-2011, pp.71–77.

D12-1077 Neubig, Watanabe, Mori: Inducing a Discriminative Parser to Optimize
Machine Translation Reordering, EMNLP-2012, pp.843–853.

P12-1001 Duh, Sudoh, Wu, Tsukada, Nagata: Learning to Translate with Multiple
Objectives, ACL-2012, pp.1–10.

P12-1098 PORT: a Precision-Order-Recall MT Evaluation Metric for Tuning, ACL-2012,
pp.930–939.

P12-2061 Goto, Utiyama, Sumita: Post-ordering by Parsing for Japanese-English
Statistical Machine Translation, ACL-2012, pp.311-316.

P12-3022 Wu, Matsuzaki, Tsujii: Akamon: An Open Source toolkit for Tree/Forest-Based
Statistical Machine Translation, ACL-2012, pp.127–132.

W12-3104 Chen, Kuhn, Foster: Improving AMBER, an MT Evaluation Metric,
WMT-2012, pp.59–63.

W12-4207 Dan, Sudoh, Wu, Duh, Tsukada, Nagata: Head Finalization Reordering for
Chinese-to-Japanese Machine Translation. Workshop on Syntax, Semantics and Structurein Statistical Translation (SSST-6), pp.57–66, 2012.
磯崎秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)60 / 62

RIBES に関する文献（言語処理学会年次大会）
日本語では、2011 年の年次大会で RIBES という名前で発表した。前年の年次大会で、Head Finalization による preordering の評価を Kendall の τ で行っている。

NLP10-B4-2 磯崎: 英日翻訳における語順について, 言語処理学会年次大会, 2010 年
NLP11-D5-2 平尾・磯崎・Duh・須藤・塚田・永田: RIBES:順位相関に基づく翻訳の自動評価
法、言語処理学会年次大会, 2011 年．
（優秀発表賞）— 以下は引用 —NLP11-D5-4 賀沢・Talbot・妹尾・Katz-Brown・市川・Och: 英日機械翻訳における語順評価の有効性、言語処理学会年次大会, 2012 年

NLP12-E1-1 星野・宮尾:日本語単語分割が統計的機械翻訳に与える影響の評価、言語処理学会年次大会, 2012 年

NLP12-E1-7 呉・須藤・Duh・永田:An Improvement to the Predicate-Argument Structure
Based Pre-ordering for Statistical Machine Translation、言語処理学会年次大会, 2012 年

NLP12-E2-8 松本・村上・徳久:機械翻訳における人手評価と自動評価の考察、言語処理学会年次大会, 2012 年

NLP12-E2-9 後藤・Lu・Chow・隅田・Tsou:特許翻訳における機械翻訳システムの評価―
NTCIR-9 特許機械翻訳タスクでの分析―, 言語処理学会年次大会, 2012 年

NLP12-P3-18 韓・須藤・呉・Duh・塚田・永田: Syntactic Based Reordering Rules for
Chinese-to-Japanese Machine Translation 言語処理学会年次大会, 2012 年.
磯崎

秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)61 / 62

RIBES に関する文献（NTCIR）
NTCIR-9 では、評価方法として BLEU と並び RIBES が採用されたため、とくに英日・
日英翻訳の論文で利用・引用されている。
NTCIR9-GotoI Goto, Lu, Chow, Sumita, Tsou: Overview of the Patent MachineTranslation Task at the NTCIR-9 Workshop, pp.559–578, 2012.

NTCIR9-SudohK Sudoh, Duh, Tsukada, Nagata, Wu, Matsuzaki, Tsujii: NTT-UT
Statistical Machine Translation in NTCIR-9 PatentMT, pp.585–592, 2012.

NTCIR9-LeeY Lee, Xiang, Zhao, Franz, Roukos, Al-Onaizan: IBM Chinese-to-English
PatentMT System for NTCIR-9, pp.606–613, 2012.

NTCIR9-OhioT Oshio, Mitsuhashi, Kakita: Use of the Japio Technical Field Dictionaries
for NTCIR-PatentMT, pp.614–617, 2012.

NTCIR9-EharaT Ehara:Machine translation system for patent documents combining
rule-based translation and statistical post-editing applied to the PatentMT Task,
pp.623–628, 2012.
NTCIR9-KondoS Kondo, Komachi, Matsumoto, Sudoh, Duh, Tsukada:Learning of Linear
Ordering Problems and its Application to J-E Patent Translation in NTCIR-9 PatentMT,
pp.641–645, 2012.
NTCIR9-MurakamiJ Murakami, Tokuhisa: Statistical Machine Translation with Rule based
Machine Translation, pp.646–651, 2012.
NTCIR9-NaH Na, Li, Kim, Lee:POSTECH’s Statistical Machine Translation Systems for
NTCIR-9 PatentMT Task (English-to-Japanese), pp.652–656, 2012.
NTCIR9-WuX Wu, Matsuzaki, Tsujii: SMT Systems in the University of Tokyo for
NTCIR-9 PatentMT, pp.666-672, 2012.
磯崎秀樹 (岡山県立大学

情報工学部)

最近の自動評価法の研究動向と RIBES

2012 年 9 月 7 日 (金)62 / 62