Vol.2013-NL-212 No.7
2013/7/19

情報処理学会研究報告
IPSJ SIG Technical Report

文レベルの機械翻訳評価尺度に関する調査
Graham Neubig1,a)

概要：本研究では，近年提案されている機械翻訳の自動評価尺度を翻訳文品質の判定能力の観点から調査する．具体的には，日英，英日，仏英翻訳の計 4 タスクにおいて，4 つのシステムの出力に対して人手評価を行い，その結果に基づいて，5 種類の自動評価尺度を分析する．最初の実験では，人手による誤り分析を行う前段階として，自動評価尺度を用いて誤り文を特定する可能性について調査する．次の実験では，システム統合などで必要となる複数のシステムによる翻訳候補の優劣判定能力について調査する．両方の調査の結果，すべての自動評価尺度は，別の評価者による人手評価から得られるアノテータ間一致を大幅に下回っており，文レベルの自動翻訳評価に大きな課題が残っていることが分かった．しかし，複数の参照
文を用いることにより翻訳品質判定能力が文レベルでも向上する結果も見られた．

1. はじめに
機械翻訳の最大の課題の一つは人間の評価に沿うような用することが一般的であり，不完全な評価尺度を用いてしまった場合，「正解」と信じ込みながら「不正解」に向かって最適化を行う恐れがある．

自動評価尺度の開発である．近年様々な評価尺度が開発さ

しかし，機械翻訳のメタ評価に関する研究が多く行われてれており，ある程度大きなテストデータを用意すれば，シいる [3], [16] 中で，そのほとんどは順位相関などの抽象的ステム間の優劣を正確に判定することができるという報告

な評価値を用いており，このような明確なユースケースにはある [3]．しかし，文レベルの翻訳品質を正確に判定する着目した評価を行っていない．

評価尺度にはどれぐらい近づいているのか？つまり，1 つ

本研究では，現在の機械翻訳評価尺度が文レベルの評価の特定の翻訳候補に対して，品質の高い訳であれば高いス

でどれぐらい有用であるかを様々な観点から検証する．特

コア，品質の低い訳であれば低いスコアを与える翻訳尺度に，上記の最適化と人手検証の観点に基づいて以下のようは存在するのか？

な調査を行う：

この文レベルの評価尺度の開発は非常に難しいながら，

人間評価値の推定能力： 自動評価尺度の値に基づいて，

下記のような分野で非常に有用であると考えられる：

人間評価の値を推定できるか？この推定が可能であれ効率的な人手検証： 機械翻訳システムの開発を行う上で，ば，人手検証が必要な品質の低い訳，もしくはシステ

誤った訳が生成された過程を人手で分析し，その改良

ムが特に得意とする品質の高い訳を自動的に特定する作を検討することが有効である．この中で，特に誤りことが可能となる．

の可能性の高い訳をある程度自動的に特定できれば，候補間の優劣判定能力： 同一の入力文に対する翻訳候補

これを翻訳システム開発者に提示し，詳細な分析を行を 2 つ提示した場合，どれが人手評価で優れているかうことが可能となる．

を推定できるか？この推定が可能であれば，最適化のシステム統合や識別学習： 機械翻訳の精度を向上させる

オラクル訳選択などに使用可能である．

方法として，複数のシステムの出力を組み合わせるシ

このような能力を調査する実験を 3 つの言語対（日英，ステム統合手法 [2] や，大規模な素性集合を最適化す

英日，仏英），4 つのタスク，4 つのシステムに対して行い，る識別学習手法 [5], [24] が提案されている．このようその結果について議論する．両方の調査の結果，すべてのな手法において「正解」として用いるオラクル訳が実

自動評価尺度は，別の評価者による人手評価から得られる際に良質な訳であれば，統合や学習によりこのオラク

アノテータ間一致を大幅に下回っており，文レベルの自動ル訳に実際のシステム出力を近づかせることが可能で翻訳評価に大きな課題が残っていることが分かった．

ある。しかし，オラクル訳の選択に自動評価尺度を利1a)

奈良先端科学技術大学院大学 情報科学研究科
neubig@is.naist.jp

c 2013 Information Processing Society of Japan⃝1

Vol.2013-NL-212 No.7
2013/7/19

情報処理学会研究報告
IPSJ SIG Technical Report
表 1

cn (êk ) = |êk | − n + 1

5 段階人手評価の各段階の意味(1)

5

意味は正確に理解でき，表現も母語話者なみに流暢

4

文法も正しく意味も正確に理解できるが，非母語話者の文のよとして定義される．n-gram 一致数は êk の中に含まれていうに不自然な箇所がある

る長さ n-gram x の内，いくつが e∗k の中に含まれているか

3

文法は正しくないが，意味は理解できる
原文の情報が含まれているが，理解が難しい箇所や曖昧な箇所を表す数字である．ある n-gram x が êk に現れた回数を表

2

がある

1

原文の意味が一部読み取れない，もしくは肯定・否定が逆になっているような大きな誤りが含まれているす関数 c(êk , x) を定義すれば，n-gram 一致数を以下のように定義する．

mn (e∗k , êk ) =∑min(c(êk , x), a(e∗k , x))(2)x

この関数を用いて n-gram 適合率 an (e∗k , êk ) をコーパスご

2. 評価尺度
本節では，本研究で対象とする評価尺度について述べる．

2.1 人手評価とに計算する．

∑K∗
k=1 mn (ek , êk )∗k=1 cn (ek )an (E ∗ , Ê) =

∑K

(3)

また，n-gram 適合率を最適化しようと思えば，正解で本研究では，自動評価尺度が人間の評価にどの程度一致あると確信している n-gram のみを含む非常に短い文を出するかを調べるが，まず人手評価に用いた手順を説明する．

力する戦略も考えられる．このように短い文が不当に高い

上記の各タスクに対して構築された 4 つの異なる翻訳シス

評価値とならないように，BLEU では参照文より短いシス

テムを用いて，まずテストデータに対して翻訳候補を生成

テム出力に対する簡潔ペナルティ (BP) も設ける．

する．この翻訳候補の中から，人手評価が行いやすいように，対象を比較的短い 1-30 単語からなる文に限定し，そのBP(E ∗ , Ê) =中から無作為に 200 文を選択し，人手評価を行う．
人手評価の基準として，許容性 [9] を参考に，意味的妥当性と流暢性を同時に考慮した 5 段階評価を用いる．各段階

1

if |Ê| > |E ∗ |e1−|E |/|Ê|∗

BP と n = 1 から n = 4 の確率を組み合わせることで
BLEU が計算される．

の定義を表 1 に示す．この評価基準に基づいて，評価者 2
名に 4 通りの評価タスクにおいて，200 文に対して，4 シス(4)otherwise∗∗

BLEU(E , Ê) = BP(E , Ê)

テムの出力を評価してもらった．具体的には，各タスクに

4∏

an (E ∗ , Ê)1/4

(5)

n=1

おいて評価者は評価者 A と評価者 B と呼び，評価者 A は

このように BLEU をコーパス全体に対して計算するが，本論文の著者であり，評価者 B は企業に外注した翻訳評価

本研究で扱うような文ごとの評価には向かない．その理由結果である．以後，評価者 A による許容性評価を Human

として，多くの文では，n = 4 のような高次の n-gram がA，評価者 B による許容性を Human B と記述する．また，

1 つも一致せず，式 2 の n-gram 一致数がゼロとなり，そ後述する実験において Human B を「正解」として扱い，の影響で式 3 の n-gram 適合率と式 5 の BLEU スコアが 0

Human A をアノテータ間一致を測るために用いる．

となってしまう．この問題を解決するために，[16] では，n = 2 以上の n-gram に対して分子，分母ともに 1 を足す
2.2 自動評価
本研究では，BLEU+1，WER，TER，RIBES，METEORという 5 通りの評価尺度を調査する．本節ではこれらにつことで，高次元の n-gram が一致しなくても 0 とならない

BLEU+1 を提案している．これで，1 文に対して以下のよ
うに n-gram 適合率を計算し，いて簡単に述べる．

2.2.1 BLEU+1
BLEU は機械翻訳で最も広く用いられている自動評価尺度である [21]．システム出力と参照文を比較し，n-gram 適合率に基づいて翻訳の精度を評価する．
定式化するために，ある K 文からなる参照訳 E ∗ ={e∗1 , . . . , e∗K } とシステム出力 Ê = {ê1 , . . . , êK } が与えられた場合を考える．この場合，各文対 ⟨e∗k , êk ⟩ に対して，

a+1n (e∗k , eˆk ) = ∑K∗
k=1 mn (ek ,êk ) ∑K∗cn (ek )∑K k=1∗ ∑k=1 mn (ek ,êk )+1
K
∗ )+1
c
(e
n
k=1
k

if n = 1(6)otherwise

これを用いて BLEU+1 を計算する：

BLEU+1(e∗k , eˆk ) = BP(e∗k , eˆk )4∏a+1n (e∗k , eˆk )1/4

n=1

(7)

n-gram 数 cn (êk ) と n-gram 一致数 hn (e∗k , êk ) を計算する

BLEU の特徴として，局所的に流暢な文，参照文に表現

関数を定義する．n-gram 数は単純に êk の中で長さ n の単法やスタイルが一致する文などに高い評価値を与えること

語列の数となっており，が挙げられる．しかし，意味的妥当性との相関が低いなど，

c 2013 Information Processing Society of Japan⃝2

Vol.2013-NL-212 No.7
2013/7/19

情報処理学会研究報告
IPSJ SIG Technical Report

様々な問題点が指摘されており，これを解決するために次と参照文に対して，ケンダルの τ 順位相関係数 [11] を用

節以降説明する評価尺度を含めて，多くの代替案が提案さ

いる．

れている．

その計算例として，正解の単語列が (a, b, c)，システム出2.2.2 単語誤り率

力が (b, c, a) であった場合を考えよう．ケンダルの τ を計

音声認識の評価などで広く用いられる尺度として単語誤算する上で，「出力の単語列の中で，全ての単語対を比較しり率 (WER) がある．単語誤り率は，まず「挿入 (I)」「削た際に，正解の単語列と同じ順番となっている単語対の割

除 (D)」「置換 (S)」という 3 種類の編集操作を定義し，シ合」をまず計算する．上記の計算例で単語対を列挙するとステム出力を参照文へと変更するのに必要な編集操作を参

「a-b」
「b-c」
「a-c」が存在する．その中で，「b-c」はシステ

照文の長さ R で割ったものとして求められる．

ム出力で正解の単語列と同じ順番となっているが，「a-b」

W ER =

I +D+SR(8)と「a-c」は正解と逆順となっている．このため，順位の正
解率は 1/3 である．

例えば，出力文「the taro visit friend」と参照文「taro vis-

RIBES はこの順位正解率をもとに作られた評価尺度であ

ited his friend」が与えられた時，「the」を削除し，「visit

るが，順位正解率は同一の単語数，同一の単語の場合のみ→ visited」と置換し，「his」を挿入することで出力文を参に適用可能である．この制約を緩めるため，RIBES は参照

照文へと変更できるため，編集操作数が 3 である．これを文とシステム出力の間で一致する単語のみに対して順位相

参照文の長さ 4 で割れば，0.75 という WER 値が求まる．

関を計算し，語彙選択精度や文の長さを 2.2.1 節で説明し出力文を参照文へ変更する最小の編集操作数を動的計画法

た 1-gram 適合率と簡潔ペナルティを用いて評価する．こにより効率的に計算可能である [15]．

の３つの評価使用を組み合わせたものが以下の式の通り，

WER は BLEU が開発される前から，音声認識などの評価で広く使用されていた．しかし，WER では参照文と出力文の語順の違いに非常に厳しい評価尺度となっており，
例えば「brown dog」と「dog brown」のような比較的人間に理解しやすい小さな語順の誤りを完全に誤った訳と判定してしまう．このため，翻訳評価のために WER の代わりに BLEU が利用されていたが，日英・英日翻訳などで

BLEU より WER の方がシステムレベルで人間の評価と相関が高い報告もある [6]．

2.2.3 翻訳編集率
翻訳編集率 (Translation Edit Rate; TER) は人間が機械
翻訳結果の後編集を行った際のコストに着目した評価尺度である [22]．WER と基本的に同じ考え方であるが，WERの並べ替えに対する厳しい罰則を緩める．具体的には，通常の WER で対象となる挿入，削除，置換以外に，「並べ替え」操作も加える．これにより，「brown dog」を「dogbrown」に変更するために，2 回の置換ではなく，「brownを dog の後へ並べ替える」という 1 回の操作だけで済む．

2.2.4 RIBESBLEU の弱点の 1 つとして，語順の誤りに対してそれほど敏感ではないことが取り上げられる．例えば，「tarovisited hanako」という文に対して，システム 1 が「tarovisits hanako」，システム 2 が「hanako visited taro」を出力した場合，BLEU が文の並びより単語の表層的な一致度に引っ張られ，システム 2 に高い評価を与えてしまう．しRIBES の評価値となる．
RIBES(e∗k , eˆk ) = KT(e∗k , eˆk ) ∗ a1 (e∗k , eˆk )α ∗ BP(e∗k , eˆk )β(9)
ここで KT は順位正解率であり，α と β は 1-gram 適合率と簡潔ペナルティの影響をコントロールするパラメータである．通常 α = 0.25 と β = 0.1 が用いられる．

2.2.5 METEOR
上記の評価尺度は全て言語の完全一致に基づくものであり，微妙な表現や活用の違いに敏感である．例えば，「taro

visited hanako」の例で，比較的近い「taro visits hanako」
でも完全に異なる「taro entertained hanako」でも同等の評価値となる．この問題を克服する方法として，上記の評
価尺度で複数の参照訳を用意し，評価の際に全ての参照訳を参考しながら評価値を計算することは可能である [21]．
しかし，多くの場合複数の参照訳を用意することは現実的ではない．
複数の参照訳を用意しなくても表現の微妙な違いを吸収する評価尺度として METEOR が提案されている [1]．
様々な言語で類義語集を用意したり，語幹だけのマッチを許したり，厳密に単語が一致しなくても，単語のマッチと判定する仕組みである．これにより，より正確な評価が可能となる一方，評価する言語に対して類義語集を用意する*1必要がある．

3. 実験設定

かし，日英・英日翻訳など，並び替えが多く発生する言語
まず，本節実験に用いたデータや評価方法について述

対において，文の正しい並びを実現することが文の意味を正確に伝えるのが重要となる．この並べ替えの情報を重視する評価尺度として，RIBES が提案されている [10]．この並べ替えを自動評価可能な形に落とし込むために，出力文c 2013 Information Processing Society of Japan
⃝

べる．
*1

2013 年 6 月現在，METEOR にはまだ日本語の類義語が含まれてないため，日本語に対する評価は METEOR の「言語非依存」
設定で評価する．

3

Vol.2013-NL-212 No.7
2013/7/19

情報処理学会研究報告
IPSJ SIG Technical Report
表 3

各タスク (Task) における翻訳方式 (System)，チューニングに用いた評価尺度 (Tune)，
コーパスごとの自動評価 (BLEU,BLEU+1,WER,TER,RIBES,METEOR)，2 名の評

Task

SystemIWSLT fr-en

KFTT en-ja

MED en-ja

MED ja-en

価者による許容性評価 (Human A,Human B)．太字は最も精度の高いシステムを示す
Tune
BLEU BLEU+1 WER TER RIBES METEOR Human A

Human B

PBMT

BLEU

27.7

32.4

54.4

52.3

82.2

32.2

3.07

2.55

Hiero

BLEU

27.7

32.5

54.3

52.3

81.9

32.4

3.00

2.51

PBMT

TER

27.3

33.3

51.3

49.5

83.5

31.9

3.03

2.57

Hiero

TER

26.8

32.7

51.1

49.3

83.2

31.8

2.85

2.48

PBMT

BLEU

25.4

30.3

78.2

69.3

68.2

43.5

2.24

1.98

Hiero

BLEU

26.7

31.7

73.8

66.7

71.9

43.4

2.32

2.13

F2S

B+R

27.7

34.0

68.6

63.2

75.2

46.1

2.70

2.42

F2S

RIBES

25.3

32.3

65.1

60.7

75.9

42.3

2.78

2.45

PBMT

BLEU

21.3

24.3

84.2

78.1

64.0

37.4

2.15

2.17

Hiero

BLEU

24.0

26.8

78.5

73.2

69.0

39.8

2.65

2.57

F2S

B+R

22.9

26.5

76.5

73.0

68.6

37.8

2.60

2.54

F2S

RIBES

21.4

27.8

69.1

66.8

69.2

36.1

2.52

2.39

PBMT

BLEU

17.6

26.1

77.6

71.6

63.3

23.9

2.22

2.03

Hiero

BLEU

20.1

26.9

74.0

68.9

64.2

24.4

2.33

2.02

T2S

B+R

14.0

23.6

85.9

79.7

55.1

21.6

1.98

1.84

T2S

RIBES

13.8

23.4

82.5

76.9

57.6

21.2

2.01

1.82

表 2 各実験設定で用いた翻訳モデル学習データ (TM)，言語モデル

このデータに対して，翻訳システムを構築し，翻訳仮説

学習データ (LM)，チューニングデータ (tune)，テストデーを生成する．翻訳システムは Moses[12] を用いたフレーズ

タ (test) の単語数

ベース [13] か階層的フレーズベース [4] システムや，Tra-

IWSLT

KFTT

MED

TM (ja/fr)

65.4M

9.41M

36.9M

TM (en)

58.8M

9.12M

25.4M

ムを利用する．トークン化には，英語やフランス語で Moses

LM (ja/fr)

—

9.41M

38.2M

に含まれるスクリプト，日本語では KyTea[20] を用いた．

LM (en)

1.10G

—

716M

構文解析を用いるシステムでは，英語の構文解析器としてtune (ja/fr)

20.6k

26.8k

12.5k

Egret*4 ，日本語の構文解析器として Eda[8] と Travatar にtune (en)

20.2k

24.3k

10.0k

test (ja/fr)

3.64k

3.47k

3.11k

含まれる，日本語の係り受け解析器を句構造機へと変換すtest (en)

3.52k

3.18k

2.20k

vatar[18] を用いた tree-to-string と forest-to-string システるルールを用いた．システムではデフォルトの設定を利用するが，最適化の際に BLEU や RIBES，BLEU と RIBESの線形補間から得られた評価関数 (B+R と記述)，TER な

3.1 データと翻訳システム
評価の題材として 3 通りのデータ，4 通りの翻訳タスクを用いた：どで最適化した．KFTT の英日，IWSLT の仏英，MED の
日英・英日タスクに対して，4 つずつシステムを構築し，その詳細を表 3 に示す．

IWSLT: IWSLT2012 ワークショップ [7] として配布さ

なお，人手評価に関しては，KFTT と MED の翻訳タスれたデータを仏英翻訳システムの構築と評価に利用

クでは，評価者は両言語に精通しており，評価者への指示する．対象として TED*2 の講演．おおよそのデータ

では原言語文と目的言語の参照訳の意味に隔たりがある

は [19] に説明されているとおりであるが，GIGA コー

場合，原言語文を優先するように指示した．IWSLT の場

パスを利用しない．

合，評価者は目的言語の英語のみに精通していたため，原

KFTT: 情報通信研究機構により構築された日英京都関

言語文を参考にせず，目的言語参照文のみに基づいて評価係 Wikipedia 記事を京都フリー翻訳タスク [17] で指定を行うように支持した．これにより，IWSLT は KFTT とされた学習・開発・テストセットを利用する．

MED と若干異なる傾向がみられる可能性はあるが，両言

MED: 医療に関する文書の日英・英日翻訳タスク．学

語が理解できる評価者と目的言語文のみが理解できる評価

習データに我々が収集した医療関係の文章に加えて，者による評価に相関があることも先行研究により，ある程

英辞郎辞書と例文*3 ，や上記の KFTT 学習データ，

度確認されている [21]．

BTEC[23] などを利用する．
各コーパスの諸元を表 2 に示す．
*2
*3

http://www.ted.org
http://www.eijiro.jp

c 2013 Information Processing Society of Japan⃝*4

http://code.google.com/p/egret-parser/

4Vol.2013-NL-212 No.7
2013/7/19

情報処理学会研究報告
IPSJ SIG Technical Report
表 4

4. 人間評価の特定精度
4.1 許容性の推定精度

各評価尺度の誤り文特定効率
IWSLT
KFTT
MED

fr-en

en-ja

MED

en-ja

ja-en

BLEU+1

56.7%

51.5%

59.2%

63.3%

本節では，各自動評価尺度が誤った翻訳結果や良質な翻

WER

57.8%

52.2%

60.5%

63.3%

訳結果を文レベルで特定できるかどうかについて調査す

TER

58.2%

52.2%

61.2%

62.5%

る．具体的には，許容性の 1 から 5 の各段階において，各

RIBES

61.2%

53.6%

58.1%

61.6%

自動評価尺度の中央値と 0.25 と 0.75 の信頼区間を調べる．
この結果において，自動評価の中央値が人間評価と同じ昇METEOR

60.1%

54.2%

58.5%

62.7%

Human A

46.5%

41.2%

39.2%

50.1%

Human B

32.6%

30.7%

32.1%

47.7%

順に並べば，自動評価は人間の評価と同様な情報を捉えており，ある程度翻訳文の優劣の判別に利用可能であることが分かる．さらに，信頼区間が小さければ小さいほど，ある人間評価の値に対して自動評価のばらつきが少なく，自動評価尺度の評価を信頼できると言えよう．
このような中央値と信頼区間を前節で述べた実験設定においてまとめた結果を図 1 に示す．各行は 3.1 で説明したタスクを表し，左の 5 列は各自動評価尺度，右の 1 列は別の評価者に許容性を評価した値を用いている．グラフの 5
つの棒は正解として用いた評価者 B が 1 から 5 の評価値を付与した文に対する自動評価の中央値を指している．例えば，最も左上のグラフの最も左の棒が 0.22 となっているということは，IWSLT の仏英翻訳タスクにおいて，評価者が許容性 1 と評価した文の中で，BLEU+1 の中央値が0.22 であったという意味となる．
この結果から様々な結論が読み取れる．まず，全体的な傾向として，全ての自動評価尺度における評価値は人間の評価と平均的に相関があることが分かる．中央値のおおよ
その傾向を見ると，BLEU，METEOR，RIBES は人間評
価とともに上昇し，WER，TER は人間の評価が上昇する*5とともに低下する．

また，自動評価尺度の中央値は 1，2-4，5 という 3 つのグ
ループに分かれる傾向も見られる．この結果から，自動評
価尺度のほとんどは入力文の意味をなさない訳 (1)，完璧ではないがある程度意味が伝わる訳 (2-4)，完璧な訳 (5) という 3 つのグループをある程度判別できるが，2-4 の間の微妙な違いを判別することが困難であることが分かる．その中で，比較的 2-4 の間の中央値に差が見られるのは IWSLTと KFTT における RIBES と METEOR，MED en-ja における RIBES と，MED ja-en における BLEU と METEORである．最後に別の評価者による許容性の評価を見ると，自動評価尺度より文の優劣を十分に評価できていることが分かる．MED en-ja を除いて，全ての段階において評価値の中央値がアノテータ間で一致していることが分かる．
次は，各許容性の段階における自動評価値の信頼区間に着目すると，全ての自動評価尺度において，信頼区間が重*5MED ja-en において，5 と評価された文はこの傾向と逆方向に動いているが，MED ja-en は他のタスクと比べて全体的に精度が低かったため，5 と評価される文が少なく，中央値としての信頼度が低いためであると考えられる．

c 2013 Information Processing Society of Japan⃝

なっていることが多いことが分かる．従って，本研究で対象にした自動評価尺度がある評価値となったからと言って，人間の評価が悪い，もしくは良いと言い切ることができるほど判別能力が高いというわけではない．

4.2 誤り文の特定効率
この分析を更に深めるために，誤り分析のために誤訳を特定する評価尺度としての利用可能性の観点から見た統計を示す．表 4 にまとめた統計は，自動評価尺度に基づいて，「評価の悪い順にシステム出力を見ていった際，許容性

1 の誤訳を 75%特定するまで，全文の何%を見る必要があるか」を表した数字である．完璧な評価尺度が存在した場
合，この値は 1 と評価された文のちょうど 75%となる．つまり，無駄なく，閲覧した文がすべて誤訳であり，誤り分析を効率良く行うことが出来ると言える．
各自動評価尺度，別の評価者による許容性判定，オラ
クルの誤り文特定効率を示す．この結果から分かる通り，

IWSLT と KFTT において誤り文を特定する効率は BLEU
が最も良く，MED の ja-en と en-ja において RIBES が最も良かったが，最も効率の良い尺度と効率の悪い尺度の間にわずかな差しか見られなかった．これに比べて，別の評
価者による人間評価はオラクルに近づき，他の評価尺度を大幅に上回っている．

5. システム間の文選択性能
前節の分析は，誤り分析などで用いられる翻訳システム
における誤訳や良質な訳の特定に着目した．評価尺度のもう 1 つの役割として，複数の翻訳システムが同一の入力に対して出力した文を比較し，その優劣を判定するタスクがある．このような訳の判定はオンライン学習によるチュー
ニング [24] や，システム統合 [2] などで重要となる．
本節では，各評価尺度が，同一の入力文に対する複数の翻訳候補の優劣を判定できるかどうかを調査する．調査方法として，まず各翻訳タスクにおいて，3.1 節で述べた 4 つの翻訳システムを用いて翻訳候補を生成する．次は，ある評価尺度の評価を行うために，各入力文に対して，4 つの候補の中からその評価尺度が最も良いと判定した候補を選択する．最後に，評価尺度によって選択された文を人間の5

Vol.2013-NL-212 No.7
2013/7/19

情報処理学会研究報告
IPSJ SIG Technical Report

図 1

各タスクと人間評価値における自動評価尺度の中央値と 0.25，0.75 の信頼区間

平均値を上回っていることが分かる．この結果から，全ての自動評価尺度は文レベルでもある程度システム間で許容性の高い訳と低い訳を弁別する能力があることが分かる．
しかし，自動評価尺度が選択した訳と，最も許容性の高いシステムの訳を比較すると必ずしも許容性の向上が見られるわけではない．具体的には，MED では評価尺度により選択された訳は最も良いシステムの訳を上回っているが，

IWSLT と KFTT において顕著な差が見られなかった．こ
図 2

各評価尺度によって選択された文の平均許容性のような状況において，システム統合などで自動評価尺度が最大となるようにシステムの出力を選択したとしても，許容性評価と照らし合わせて，選択された文の許容性の平自動評価尺度の値が増えても実際の人間評価に差が見られ均値を計算する．この平均値が高ければ高いほど，自動評ない恐れがある．

価尺度は複数の候補の中から許容性の高い文を選択していると言える．

更に，各評価尺度のを比較すると，顕著な差が見られな
いが，おおよその傾向として仏英で METEOR により選択実験の結果を図 2 に示す．左側の青で書かれている値された文が最も高い許容性の平均となり，日英と英日翻訳

は，4 システム全ての許容性の平均と最も許容性の高かっにおいて，RIBES が最も高い文選択能力を示した．しかたシステムの訳を既に選択した際の許容性の平均である．

し，別の評価者による許容性評価の選択能力に比べて，全次の赤で書かれた 5 つの値はそれぞれの自動評価尺度に基ての自動評価尺度の選択性能が大幅に下回っていることがづいて文の選択を行った際の結果であり，最後の 2 つの緑

分かる．この結果から，全ての自動評価尺度は文レベルでで書かれた値は別の評価者の人間評価値に基づいて文を選は人間の評価に及ばないことが分かる．

択した場合と，オラクルを示す．

6. 参照文数の影響

まず，各自動評価尺度により選択された訳の平均的な許容性を，文選択を行わずに計算した全てのシステムの許容

翻訳の自動評価の初期から，複数の参照文を用いて自動性の平均と比較すると，全てのタスクと評価尺度において，評価の信頼性を上げることが提案されている [21]．しかし，

c 2013 Information Processing Society of Japan⃝

6

Vol.2013-NL-212 No.7
2013/7/19

情報処理学会研究報告
IPSJ SIG Technical Report

まだ及ばず，2 つの参照文を用意するだけでは人間の評価者と同様の判定精度を実現できているわけではない．

7. おわりに本研究では，機械翻訳の自動評価尺度を文レベルの評価に適用し，誤り文の特定性能とシステム間の文選択性能という 2 つの観点でその能力を検証した．その結果，調査対象とした BLEU，WER，TER，RIBES，METEOR の内，
図 4 1 つもしくは複数の参照文を用いて選択された文の平均許容性

多くの場合，既存の翻訳データを用いて翻訳の学習と評価

全ての評価尺度は人間の評価を大幅に下回っていることが分かり，文レベルの機械翻訳評価に大きな課題が残っていることが分かった．

を行い，更に両言語に精通した翻訳者を雇って更なる参照

今後の課題として，文レベルでも正確に翻訳結果の質を文を作成するコストが高い．このため，ほとんどの翻訳タ評価できる自動評価尺度の提案が残る．この問題を解決す

スクは 1 つの参照文しか使用しない．

るために，新たな評価尺度の提案のみならず，タスクに特

本節で，更なる参照文の追加が上記のような誤り文特定能力やシステム間の翻訳結果優劣判定能力に与える影響を調べる．この調査では，最も自動評価と人間評価の差が大きかった MED en-ja に焦点を絞る．MED en-ja のデー化した評価尺度の学習 [14] や既存の評価尺度の組み合わせなどを視野に入れていきたい．
謝辞：本研究の一部は，JSPS 科研費 25730136 の助成を受け実施したものである．

タに対して，もともとの参照文を参考にせずに，新たな参照文を作成した．下記の分析で，もともとの参照文に対し参考文献て計算した自動評価値を Ref A，我々が作成した新たな参[1]

照文に対して計算した自動評価値を Ref B と呼ぶ．また，

Ref A と Ref B 両方の最大値を取った複数の参照文を用い[2]た評価値を Ref A+B と記述する．
まず，Ref A と Ref B，Ref A+B を参照文として用いた際の許容性特定能力に関する結果を図 3 に示す．Ref A と[3]

Ref B を比較すると，Ref B の方が若干自動評価と人手評価の相関が高いことが分かる．その理由として考えられる[4]のは我々が参照文を作成した際，Ref A に比べて忠実な（直[5]訳に近い）訳し方を行っていることが考えられる．このような忠実な訳は機械翻訳システムが生成しうる訳に近く，[6]

より中の単語がマッチする確率が高いため，訳文の質の判断に有効であると考えられる．Ref A+B に関しては，中央値の順番と差や分散が Ref B とほぼ同等である．つまり，[7]

Ref B のみを用いた場合に比べて，文の評価特定精度が大幅に上回っているわけではないが，複数の参照文の中で比較的精度の良いものに沿った評価が行えると考えられる．

[8]

次に，システム間の優劣判定の結果を図 4 に示す．この結果から，全ての評価尺度において，Ref B で計算された[9]

値が Ref A で計算された値より正確に許容性の高い文を選択している．更に，許容性の特定タスクと異なって，Ref

A+B は BLEU 以外の評価尺度で 1 文しか用いない Ref A[10]と Ref B を上回ったことも分かる．ここで特に注意すべき点として，評価尺度の選択と関係なく，2 つの参照文を用いた方が高い判定精度が実現可能である．つまり，本研究の対象となった評価尺度の差より，もう 1 つの参照文を用意することによる差の方がはるかに大きいことが分かる．

[11]
[12]

Banerjee, S. and Lavie, A.: METEOR: An automatic
metric for MT evaluation with improved correlation withhuman judgments, Proc. ACL Workshop (2005).
Bangalore, S., Bordel, G. and Riccardi, G.: Computing
consensus translation from multiple machine translation
systems, pp. 351–354 (2001).
Callison-Burch, C., Koehn, P., Monz, C., Post, M., Soricut, R. and Specia, L.: Findings of the 2012 Workshop
on Statistical Machine Translation (2012).
Chiang, D.: Hierarchical phrase-based translation, Computational Linguistics, Vol. 33, No. 2 (2007).
Chiang, D., Marton, Y. and Resnik, P.: Online largemargin training of syntactic and structural translation
features, Proc. EMNLP, pp. 224–233 (2008).
Echizen-ya, H. and Araki, K.: Automatic evaluation ofmachine translation based on recursive acquisition of an
intuitive common parts continuum, Proc. MT Summit,
pp. 151–158 (2007).
Federico, M., Cettolo, M., Bentivogli, L., Paul, M. andStüker, S.: Overview of the IWSLT 2012 Evaluation
Campaign, Proc. IWSLT, Hong Kong, HK (2012).
Flannery, D., Miyao, Y., Neubig, G. and Mori, S.: Training Dependency Parsers from Partially Annotated Corpora, Proc. IJCNLP, Chiang Mai, Thailand, pp. 776–
784 (2011).
Goto, I., Lu, B., Chow, K. P., Sumita, E. and Tsou,
B. K.: Overview of the patent machine translation task
at the ntcir-9 workshop, Proceedings of NTCIR, Vol. 9,
pp. 559–578 (2011).
Isozaki, H., Hirao, T., Duh, K., Sudoh, K. and Tsukada,
H.: Automatic Evaluation of Translation Quality for Distant Language Pairs, Proc. EMNLP, pp. 944–952 (2010).
Kendall, M. G.: A new measure of rank correlation,
Biometrika, Vol. 30, No. 1/2, pp. 81–93 (1938).
Koehn, P., Hoang, H., Birch, A., Callison-Burch, C.,
Federico, M., Bertoldi, N., Cowan, B., Shen, W., Moran,C., Zens, R., Dyer, C., Bojar, O., Constantin, A. andとはいえ，2 つの参照文を用いた自動評価は人間の評価に

c 2013 Information Processing Society of Japan⃝7

Vol.2013-NL-212 No.7
2013/7/19

情報処理学会研究報告
IPSJ SIG Technical Report

図 3

[13]

[14]

[15]

[16]

[17]
[18]

[19]

[20]

[21]

[22]

[23]

各参照文と人間評価値における自動評価尺度の中央値と 0.25，0.75 の信頼区間

Herbst, E.: Moses: Open Source Toolkit for Statistical
Machine Translation, Proc. ACL, Prague, Czech Republic, pp. 177–180 (2007).
Koehn, P., Och, F. J. and Marcu, D.: Statistical phrasebased translation, Proc. HLT, Edmonton, Canada, pp.
48–54 (2003).
Kulesza, A. and Shieber, S. M.: A learning approach to
improving sentence-level MT evaluation, Proceedings ofthe 10th International Conference on Theoretical andMethodological Issues in Machine Translation, pp. 75–
84 (2004).
Levenshtein, V. I.: Binary codes capable of correcting
deletions, insertions and reversals., Soviet Physics Doklady., Vol. 10, No. 8, pp. 707–710 (1966).
Lin, C.-Y. and Och, F. J.: Orange: a method for evaluating automatic evaluation metrics for machine translation, Proc. COLING, pp. 501–507 (2004).
Neubig, G.: The Kyoto Free Translation Task, http://www.phontron.com/kftt (2011).
Neubig, G.: Travatar: A Forest-to-String MachineTranslation Engine based on Tree Transducers, Proc.
ACL Demo Track, Sofia, Bulgaria (2013).
Neubig, G., Duh, K., Ogushi, M., Kano, T., Kiso, T.,
Sakti, S., Toda, T. and Nakamura, S.: The NAIST Machine Translation System for IWSLT 2012, Proc. IWSLT(2012).
Neubig, G., Nakata, Y. and Mori, S.: Pointwise Prediction for Robust, Adaptable Japanese Morphological Analysis, Proc. ACL, Portland, USA, pp. 529–533(2011).
Papineni, K., Roukos, S., Ward, T. and Zhu, W.-J.:
BLEU: a method for automatic evaluation of machinetranslation, Proc. ACL, Philadelphia, USA, pp. 311–318(2002).
Snover, M., Dorr, B., Schwartz, R., Micciulla, L. andMakhoul, J.: A study of translation edit rate with targeted human annotation, pp. 223–231 (2006).
Takezawa, T., Sumita, E., Sugaya, F., Yamamoto, H.
and Yamamoto, S.: Toward a broad-coverage bilingual
corpus for speech translation of travel conversations in

c 2013 Information Processing Society of Japan⃝[24]

the real world, Proc. LREC, pp. 147–152 (2002).
Watanabe, T., Suzuki, J., Tsukada, H. and Isozaki, H.:
Online Large-Margin Training for Statistical MachineTranslation, Proc. EMNLP, pp. 764–773 (2007).

8