情報処理学会論文誌

Vol. 51

No. 8

1443–1451 (Aug. 2010)

統計的機械翻訳におけるフレーズ対応最適化を利用した N-best 翻訳候補のリランキング
越

川

満†1
内 山
松 井 知 己†4

将 夫†2
山 本

梅 谷
幹 雄†1

俊

poses the formulation to strictly maximize the phrase-alignment probability
computed from all features which most phrase-based statistical machine translation systems use within. We also propose a reranking method based on the
proposed phrase alignment optimization. In evaluation experiments, our system improved significantly the translation quality. The experimental results
also suggested that a variety of translation candidates are more important forincreasing accuracy than exact phrase alignments.

治†3
1. は じ め にインターネットが普及して以来，ウェブ上に存在する情報は増加の一途をたどっている．

フレーズベース統計的機械翻訳では，連続する単語列（フレーズ）を翻訳の最小単位とした確率的規則に基づいて翻訳候補の順位付けを行い，最も確率の高い候補を出力とする．しかし，入力文のフレーズ区切りや翻訳前後の訳語関係（フレーズ対応）の組合せ数は膨大である．そのため，従来の統計的機械翻訳システムは，翻訳候補およびフレーズ区切り・対応に対して大胆な近似を行うことで探索空間を狭めており，厳密な確率の最大化をしていない．本稿では，フレーズ対応・区切りに関する厳密な確率最大化を行う問題を，フレーズベース翻訳において広く用いられているすべての素性を考慮可能な形式で整数線形計画問題として定式化し，それを翻訳候補のリランキ
ングに応用する手法を提案・実装する．評価実験の結果，提案手法は有意に翻訳精度を改善することが示されると同時に，フレーズベース翻訳における探索の課題は，フレーズ対応ではなく翻訳候補文についてより多くの候補を評価することにあるという示唆が得られた．

この情報を最大限に利用するには，様々な言語で書かれたテキスト情報を翻訳する必要があ
るが，人手によりすべてのウェブページを翻訳することは非現実的である．そこで，翻訳の手段の 1 つとして機械翻訳が期待されている．
統計的機械翻訳では，対訳コーパスと呼ばれる同一の意味を持つ異なる言語で書かれた文ペアの集合から確率的翻訳規則を自動学習し，それをもとに入力文に対する各翻訳候補を順位付け，最も確率の高い候補を出力とする1) ．フレーズベース翻訳は，連続する 1 単語以上の単語列（フレーズ）を最小単位として翻訳を行う手法であり2),3) ，近年，統計的機械翻訳の主流となっている．しかし，入力文に対するフレーズ区切りや翻訳前後のフレーズどうしの対応（フレーズ対応）の組合せ数が膨大であるため，フレーズベースシステムは大胆な近似や様々なヒューリスティックスを用いて探索空間を狭めている2)–5) ．したがって，一N-best Reranking Using Optimal Phrase Alignmentfor Statistical Machine Translation

般にフレーズベースシステムの出力は確率最大の翻訳候補とは限らない．近似計算の結果，確率値が第 2 位以下となり翻訳結果として採択されなかった候補の中には，より適切な翻訳文が含まれることが知られており6) ，確率を厳密に最大化するフレーズ区切り・対応を各

Mitsuru Koshikawa,†1 Masao Utiyama,†2
Shunji Umetani,†3 Tomomi Matsui†4and Mikio Yamamoto†1
Phrase-based statistical machine translation system outputs the candidate
having the highest probability based on the probabilistic phrase translation
rules. However, there exist a huge number of translation candidates and ambiguities on phrase segmentations/alignments for source and target sentences.
Therefore, the current statistical translation systems use various heuristics
for reducing the number of translation candidates and approximating phrasealignment probabilities, in order to narrow the search space. This paper pro-1443

翻訳候補に対して求め直し，その順位付けをより正確にすることで，翻訳精度が改善されると考えられる．
†1 筑波大学大学院システム情報工学研究科
Graduate School of Systems and Information Engineering, University of Tsukuba†2 情報通信研究機構 MASTAR プロジェクト
MASTAR Project, National Institute of Informaiton and Communications Technology†3 大阪大学大学院情報科学研究科
Graduate School of Information Science and Technology, Osaka University†4 中央大学理工学部情報工学科
Department of Information and System Engineering, Faculty of Science and Engineering,
Chuo Universityc 2010 Information Processing Society of Japan


1444

統計的機械翻訳におけるフレーズ対応最適化を利用した N-best 翻訳候補のリランキング

対訳文に対して，与えられたフレーズ翻訳規則の集合から確率最大すなわち最適なフレーズ対応（phrase alignment）を求める手法としては，整数線形計画法を用いた手法7) が提案されている．しかし，この手法では，日本語–英語のような語順変化の激しい言語間の翻訳において，精度の向上に大きく寄与する語順並べ替え（リオーダリング）モデル4) が考慮
図 1 フレーズベース翻訳の例
Fig. 1 An example of phrase-based translation.

されていない．本稿では，リオーダリングモデルを組み込み可能な新しいフレーズアライ
ナ（phrase aligner）の定式化を提案し，これを統計的機械翻訳システムの翻訳候補のリランキングに応用することで翻訳精度が向上することを実験的に示す．
以下，2 章において統計的機械翻訳の概要や従来手法の問題点を説明し，3 章で提案手法について解説する．その後，4 章で評価実験について報告し，5 章で本稿のまとめを行う．

2. フレーズアライナ

ê = arg max
e

e,c



λk hk (f , c, e)(2)k

ここで，hk (f , c, e) は k 番目の素性を表し，λk はその重みである．対数線形モデルの枠組

2.1 統計的機械翻訳

みでは，式 (1) に表れた確率モデルを対数化したもののほか，式 (1) から導くことのできな統計的機械翻訳システムは，入力された原言語文 f に対する翻訳候補としてあらゆる目い素性（たとえば，目的言語文の長さに対するペナルティなど）も翻訳精度向上のために利的言語文 e を考慮し，最も確率の高い目的言語文 ê を翻訳結果として出力する．ここで，原言語および目的言語はそれぞれ翻訳元の言語，翻訳先の言語を意味する．統計的機械翻訳で1)は，以下の近似式に基づいて出力文 ê が決定される ．

ê = arg max P (e)
e

e



e

e

e,c

2.2 フレーズベース統計的機械翻訳
フレーズベース手法では，連続した 1 単語以上の単語列であるフレーズを翻訳の最小単位とする2) ．フレーズベース翻訳の例を図 1 に示す．枠で囲われた単語ないしは単語列がフP (f , c|e)

レーズを，原言語フレーズと目的言語フレーズとを結ぶ矢印がフレーズ対応を表しており，

c

矢印の両端の 2 フレーズをフレーズ対と呼ぶ．フレーズベース翻訳では以下の近似をおく2) ．

≈ arg max P (e) max P (f , c|e)e

用される．なお本稿では，各素性値のことをスコアと呼ぶ．

c≈ arg max P (e)P (f , c|e)(1)

式 (1) において，P (e) は言語モデルと呼ばれ，e の目的言語文らしさを表す．また，c はP (f , c|e) = P (c|e) P (f |c, e)≈ P cI1 |eP f¯ci |ēi



(3)

i=1

f ，e の対訳関係を表す．式 (1) の 2 段目では，最も尤もらしいフレーズ対応に確率が集中



I


を maxc で近似している．なお，この近似は一例であり，実際

ここで，f¯，ē はそれぞれ原言語フレーズ，目的言語フレーズを，cI1 = c1 , c2 , . . . , cI はフには様々な近似の方法が存在する．arge max e,c はデコーダと呼ばれ，入力文 f の翻訳として最も確率の高い e をヒューリスティックに探索する．ここで max はヒューリスティッ

レーズ対応を表す．ci は目的言語側で i 番目のフレーズ ēi が対応する原言語側フレーズの番号である．すなわち，ēi は原言語側で ci 番目のフレーズ f¯c に対応する．P (f¯c |ēi ) はフ

ク探索による max の近似を表す．ヒューリスティック探索としては，現在，マルチスタッ

レーズ翻訳確率である．P (cI1 |e) はリオーダリングモデルと呼ばれ，翻訳前後での語順変化

ク・ビームサーチ法2) が最も広く用いられている．

に対する確率を与える．

するという仮定のもと，

c

実際には，式 (1) を用いるのではなく，式 (2) のような対数線形モデルにより各素性の統
3)

i

i

2.3 リオーダリングモデル
フレーズベース手法におけるリオーダリングに関する素性としては，Lexicalized Block

合を行う ．

Orientation モデル4) および歪みペナルティ2) が広く用いられている．どちらも目的言語側

情報処理学会論文誌

Vol. 51

No. 8

1443–1451 (Aug. 2010)

c 2010 Information Processing Society of Japan


1445

統計的機械翻訳におけるフレーズ対応最適化を利用した N-best 翻訳候補のリランキング

で i 番目および (i + 1) 番目すなわち目的言語側が隣接しているフレーズ対のペアに対する
局所的なリオーダリングの評価を行う．本節では，これらのモデルについて説明する．

2.3.1 Lexicalized Block Orientation モデル
Lexicalized Block Orientation（LBO）モデルでは，目的言語側で i 番目および (i + 1)
番目のフレーズ ēi , ēi+1 に対応するフレーズ対のペアに対して，その原言語側フレーズ f¯ciと f¯ci+1 との位置関係を以下のような 3 クラスに分類する4) ．

class (ci , ci+1 ) =⎧⎪⎪⎨monotone(ci+1 = ci + 1 のとき) ,swap(ci+1 = ci − 1 のとき) ,discontinuous(それ以外) .

⎪⎪⎩図 2 フレーズ対応の成立例（左図）と不成立例（右図）
Fig. 2 Examples of correct phrase alignment (left) and incorrect phrase alignment (right).

(4)d (endi , starti+1 ) =| endi − starti+1 + 1 |(6)

なお，歪みペナルティは式 (3) から導かれるモデルではなく，対数線形モデルの枠組みで目的言語側で隣接するフレーズ対に対して，monotone は原言語側において隣接かつ目のみ考慮可能な素性である．

的言語側と同順であること，swap は原言語側において隣接かつ目的言語側と逆順であるこ

2.4 フレーズ対応問題

4)と，discontinuous は原言語側において両者が離れていることを表す ．たとえば図 1 にお対訳文の各単語を 1 度ずつ被覆するフレーズ対の組合せをその対訳文に対する全単射フ

いて，“今日は”–“today” のフレーズ対と “rainy”–“雨” のフレーズ対とは swap の関係を

レーズ対応という7) ．なお，本稿においてはフレーズ対応として全単射フレーズ対応のみをなしている．

扱うので，以下では単にフレーズ対応と表記する．

LBO モデルでは，上記の 3 クラスを用いた各フレーズ対間のリオーダリング確率の積と4)e1 ∼ e3 は，それぞれ原言語文，目的言語文を構成する単語列を表し，両単語列は対訳文をして，式 (3) 第 1 項を以下のように近似する ．



P cI1 |e ≈Iフレーズ対応が成立する場合とそうでない場合の例を図 2 に示す．図中，f1 ∼ f4 となしている．また，枠内はフレーズ対である．図 2 左図は，フレーズ対群により 1 度ずつ

P (class (ci , ci+1 ) |ēi , ēi+1 )

(5)

i=1

対数線形モデルの枠組みにおいては翻訳精度向上のために，P (class (ci , ci+1 ) |ēi , ēi+1 )
の代わりとして，より多くの情報を持つ P class (ci , ci+1 ) |f¯c , f¯c , ēi , ēi+1 を素性に使ii+1

各単語が被覆されるため，フレーズ対応が成立している．一方，図 2 右図には，被覆されない単語や重複して被覆される単語が含まれるため，フレーズ対応は不成立となる．
フレーズ対応問題とは，対訳文 f , e，およびフレーズ対とその翻訳確率 f¯c , ēi , P (f¯c |ēi )iiの集合であるフレーズテーブルが与えられたとき，確率最大すなわち最適なフレーズ対応を求める問題であり7) ，これを実現するシステムを本稿においてはフレーズアライナと呼ぶ．

用する場合が多い．

2.3.2 歪みペナルティ

フレーズアライナは以下の式で定義される．

歪みペナルティは，目的言語側が隣接しているフレーズ対の原言語側フレーズ f¯ci と f¯ci+1との間に含まれる単語数（単語距離）に比例してリオーダリングに対するペナルティを与える2) ．すなわち，この素性は翻訳結果の monotone 性に対してバイアスをかける．文頭を 0としたときの f¯c の終端単語位置を endi ，f¯cの開始単語位置を starti+1 とすれば，歪
i

i+1

2)

みペナルティd(endi , starti+1 ) は以下のように表される ．

¯1I , ēˆI1 , ĉI1
fˆ


= arg

max

I,cI
,f¯I =f ,ēI
=e
1 1
1







P f¯1I |ēI1 , cI1 P ēI1 , cI1 |e(7)

式 (7) の右辺第 1 項および第 2 項はそれぞれフレーズ翻訳確率，リオーダリング確率を表し，式 (3) の第 2 項，第 1 項と対応している．なお，フレーズ対応問題はフレーズベース
翻訳の部分問題であり，フレーズアライナは式 (1) 2 段目の maxc 以降に相当する．

情報処理学会論文誌

Vol. 51

No. 8

1443–1451 (Aug. 2010)

c 2010 Information Processing Society of Japan


1446

統計的機械翻訳におけるフレーズ対応最適化を利用した N-best 翻訳候補のリランキング

フレーズ対応問題において，フレーズ長に制限をおかない場合，フレーズ対応になりうる
フレーズ対の組合せ，なりえないフレーズ対の組合せを合わせて

min (|f |,|e|) ξ
I=1

I

個の候

補が存在する．ここで，I はフレーズ対応に使用されるフレーズ対の数，ξ は対訳文に適用可能なフレーズ対数である．本稿の実験で使用したデータにおいては，ξ の平均は 500 程
度，min (|f |, |e|) は平均で 30 程度であった．これらの平均数を用いると，フレーズ対応問

図 3 対訳文に対して適用可能なフレーズ対集合
Fig. 3 Candidates of phrase pairs for input paralell sentences.

題の解候補数は，おおよそ 1048 個にものぼる．

2.5 従来手法による整数線形計画問題としての定式化
フレーズ対応問題は非常に大規模な問題であり，解を全列挙することは現実的には不可能である．そこで，フレーズ対応問題を整数線形計画問題として定式化し，一般的な数理計画
問題の solver を利用して最適フレーズ対応を求める手法7) が提案されている．その説明を

maximizesubject to2 値行列 F を定義する ．F は行が原言語文に含まれる各単語，列が各フレーズ対に対応
7)

F x = 1,

(9)

Ex = 1,xk ∈ {0, 1}

フレーズテーブル中のフレーズ対 f¯ck , ēk に対して，その使用の有無を表す 2 値変数
7)

xk tk

k∈K

以下で行う．

xk ∈ {0, 1}，および各フレーズ対が原言語文で被覆する単語位置を 1，それ以外を 0 で表す

(∀k ∈ K) .

ここで tk は，λtm log P (f¯ck |ēk ) の略記であり，λtm は翻訳確率に対する重みである．K は対訳文に適用可能なフレーズ対の集合を表す．また 1 = (1, . . . , 1) ，x = (x1 , . . . , xK )
である．制約式 F x = 1 において，F x は使用するフレーズ対群によって被覆される原言語している．目的言語側についても F と同様に行列 E を定義する ．
例として，対訳文 f = f1 , f2 , f3 , f4 , e = e1 , e2 , e3  に対し，図 3 のようなフレーズ対が単語を表し，右辺の 1 は，対訳文中のすべての原言語単語が 1 度ずつ被覆されることを表適用可能な場合を考える．図 3 において枠内がフレーズであり，フレーズどうしを結ぶ線

す．目的言語側制約条件 Ex = 1 についても同様である．目的関数では，フレーズ対応にがフレーズ対応を表す．このとき，F ，E は式 (8) のようになる．たとえば，フレーズ対 1

使用されているフレーズ対の翻訳確率について最大化を行っている．

は原言語側で f1 ，f2 を被覆するため，行列 F の 1 行 1 列および 2 行 1 列成分が 1 となっ
ている．

⎛

1

⎜ 1
⎜
⎝ 0

F =⎜

0

⎞

⎛

1

0

0

0

1

0 ⎟

0

0

⎟
⎜
⎟,E = ⎝ 1
1 ⎠

0

0

1

1
0

3.1 フレーズアライナを用いたリランキングの手順

⎞

0

1

0

1

0

0 ⎠

0

0

1

⎟

3. 提 案 手 法

本稿では，フレーズアライナを利用した翻訳候補のリランキング法を提案する．リランキ(8)

ングの流れを図 4 に示す．まず，フレーズベースデコーダを用いて入力文に対する翻訳候
補上位 N 個すなわち N-best 翻訳を求める．次に，デコーダに入力した原言語文と各翻訳候補のペアを対訳文として，フレーズアライナに入力し，その最適フレーズ対応を求める．

従来手法では簡単化のために，式 (7) 右辺第 2 項のリオーダリング確率を定数とおき，翻7)

7)

訳確率のみを考慮する ．この仮定のもとでは，フレーズ対応問題は次のように表される ．

なお，翻訳時と異なりフレーズ対応最適化時には，目的言語文が固定されているため，言語
モデルや目的言語文長ペナルティのような目的言語文のみに依存して決まる素性値は考慮しなくてもよいことに注意されたい．最後に，最適化されたフレーズ対応のスコアに対して，言語モデルスコアおよび目的言語文長ペナルティを加味し，各翻訳候補のリランキングを行い，最も確率の高い候補を翻訳システムの出力とする．すなわち，提案手法は，従来のフレーズベースデコーダ（式 (1) の arge maxe,c ）とは異なり，c についての最大化のみでは情報処理学会論文誌

Vol. 51

No. 8

1443–1451 (Aug. 2010)

c 2010 Information Processing Society of Japan


1447

統計的機械翻訳におけるフレーズ対応最適化を利用した N-best 翻訳候補のリランキング

図 4 フレーズアライナによる翻訳候補のリランキングの流れ
Fig. 4 Flowchart of N-best reranking method using phrase aligner.

あるが，近似探索 maxc ではなく厳密に maxc として行う．

3.2 フレーズ対応問題の新しい定式化
2.5 節で説明した従来手法によるフレーズ対応問題の定式化では，各フレーズ対に対して変数をおくため，フレーズ対どうしの位置関係を表すリオーダリングモデルを 1 次式として目的関数に組込むのは難しい．LBO モデルや歪みペナルティは 2 つのフレーズ対間の関係を表すため，従来法ではリオーダリングスコアの表現に 2 つの変数を必要とする．たとえ

図 5 有向グラフ上に表した図 3 の目的言語フレーズ群
Fig. 5 Directed graph built from the target side phrases in 図 3.

ば，フレーズ対 2 とフレーズ対 3 とのリオーダリングスコアは，両フレーズ対が対応の中で使用されているときのみ有効となることを表すために x2 と x3 の積が必要となる．
しかし，一般に 2 次以上の非線形計画問題は，線形計画問題と比較すると効率的に探索を行うことができない．そこで本稿では，1 次式のみによりリオーダリングスコアを表現する
フレーズ対応問題の新たな定式化を提案する．
本稿で提案する定式化では，対訳文に適用可能なフレーズ対群を目的言語側についてのみ
有向グラフ上に表現することを考える．図 3 に示された各フレーズ対の目的言語フレーズ

よび歪みペナルティは，目的言語側で隣接するフレーズ対ペアを評価するモデルであるので，提案する定式化のもとでは，リオーダリングスコア（LBO モデルスコアと歪みペナル
ティの合計値）を目的言語側グラフの枝に対する重みとして組み込むことができる．
式 (9) の定式化において使用した記号に加えて，目的言語側有向グラフ中の枝 a に対し，

a がパスに含まれる場合は 1，そうでない場合は 0 をとる仮変数 ya を新たに定義する．このとき，フレーズ対応問題は以下のように定式化される．

を有向グラフとして表すと図 5 のようになる．図 5 において e1 ∼ e3 は目的言語文中の単語である．フレーズは枠で表されており，その番号は図 3 のフレーズ対の番号と対応している．また，各フレーズの位置と大きさは被覆する単語位置に対応している．フレーズどうしを結ぶ有向枝に割り振られた数字は枝番号を表す．フレーズ対応は，従来法と同様に原言語側について式 (9) の原言語側単語被覆制約 F x = 1 を満たし，かつ目的言語側グラフに

maximize

xk tk +

k∈K

subject to



ya ra

a∈A

F x = 1,M y = b,(10)

N y = x,

おいて開始（文頭）ノード s から終端（文末）ノード g へのパスとなっている必要がある．

xk ∈ {0, 1}(∀k ∈ K) ,たとえば，図 5 においてフレーズ 3，2，4 を通るパスは，原言語側制約も同時に満たしya ∈ {0, 1}(∀a ∈ A) .

ているため（図 3 参照），対訳文に対するフレーズ対応候補の 1 つである．LBO モデルお情報処理学会論文誌

Vol. 51

No. 8

1443–1451 (Aug. 2010)

c 2010 Information Processing Society of Japan


1448

統計的機械翻訳におけるフレーズ対応最適化を利用した N-best 翻訳候補のリランキング

M y = b は目的言語側グラフで文頭ノード s から文末ノード g へのパスとなるための条件⎛であり流量保存則と呼ばれる．b の各要素は，ノードへの流入を +1，ノードからの流出を

⎜
⎜
⎜
⎜
⎜
⎜
⎜
⎜
⎝

−1 と表現する場合，bs = −1，bg = +1，bothers = 0 となる．ここで，bs は文頭ノード s，
bg は文末ノード g ，bothers はそれ以外の各ノードに対応する．それぞれ，グラフの始点からは必ず流出のみ，グラフの終点には必ず流入のみが生じ，その他のノードでは流入量と流出量が一致することを表している．

N は目的言語側パスに含まれる枝と各フレーズ対との関係を与える行列であり，N y = x
は仮変数 y から変数 x へ変換を行う式である．以下，式 (10) において N y = x が必要と

−1

−1

0

0

1

0

0

−1

⎞⎛

y1

⎞

0

0

0

0 ⎟ ⎜ y2 ⎟

⎛

0

0

1

0

0

1

−1

0

0

0

0

1

⎟⎜
⎟ ⎜
⎜
⎟⎜
⎟ ⎜
⎜
⎟
⎟
−1
0 ⎟ ⎜ y3 ⎟ ⎜
⎜
⎜
⎟=⎜
0
0 ⎟
⎟ ⎜ y4 ⎟ ⎜⎟⎜⎟ ⎜1−1 ⎠ ⎝ y5 ⎠ ⎝

0

0

0

0

0

1

y6

−1

⎞

⎟
⎟
0 ⎟
⎟
0 ⎟
⎟
⎟
0 ⎠
0 ⎟

(11)

1

また，図 5 のグラフにおいてフレーズ 4 のノードには枝 4 ないしは枝 5 からパスが流入することになる．したがって枝に対する変数 y4 ，y5 のいずれかが 1 をとるとき，フレーズ

なる理由について説明する．
例として，図 3 においてフレーズ対 1 と 4 を使う場合，図 5 において枝 2，3，5，6 を通対 4 に対する変数 x4 の値は 1 となる．以上より y4 + y5 = x4 という関係式が導かれる．そるパスを考える．前者は原言語側制約 F x = 1 を満たすことは明らかであり，後者は目的の他のフレーズ対についても同様にして有向枝との関係を求めると，仮変数 y から変数 x

言語側制約 M y = b を満たし，そのパスにフレーズ対 3，2，4 のノードを含む．F x = 1，への変数変換式 N y = x は次のようになる．

⎛

M y = b は，それぞれ変数 x，y にのみ依存するため，N y = x が式 (10) に含まれない場
合，上記のような原言語側と目的言語側で用いられているフレーズ対が異なる組合せも解に含まれてしまう．これを防ぐために，変数 x と y とに一意な関係を持たせる目的で変数変換式 N y = x が必要となる．
また A はすべての枝の集合を，ra は目的言語側の枝 a に割り当てられるリオーダリング
スコアを表す．なお，ra の値はリオーダリング素性値とその重みの積である．目的関数第⎛より表すことが可能となっている．

3.3 流量保存則，変数変換式の具体例
図 5 について，流量保存則 M y = b を書き下すと式 (11) のようになる．左辺第 1 項は

⎞

⎞⎜
⎞
⎟ ⎛
x1
⎜ y2 ⎟⎜⎟⎜ 0 0 1 0 0 0 ⎟⎜ y ⎟ ⎜ x ⎟⎜⎟⎜ 3 ⎟ ⎜ 2 ⎟
⎜
⎟
⎟
⎟=⎜
⎝ 0 1 0 0 0 0 ⎠⎜⎜ y4 ⎟ ⎝ x3 ⎠⎜⎟0 0 0 1 1 0
x4⎝ y5 ⎠
1

0

0

0

0

0

(12)

y6

1 項，第 2 項はそれぞれフレーズ翻訳スコア，リオーダリングスコアに対応しており，従来手法では 1 次式として表現できなかったリオーダリングスコアを，提案手法では第 2 項に

y1

ここで，左辺第 1 項の行列が，仮変数 y から変数 x を導出するための変換行列 N である．

4. 評 価 実 験
4.1 実 験 条 件

行列 M であり，その各行は s，フレーズ 1，. . .，4，g のノードに，各列は枝に対応する．

評価実験には，NTCIR-7 特許文翻訳タスク8) で配布された英日対訳コーパスを用いた．

たとえば，式 (11) の 5 行目 y4 + y5 − y6 = 0 は，フレーズ対のノードについての流量保存

フレーズテーブルおよびリオーダリングモデルの学習には同コーパス学習セットを使用した．

則に対応し，フレーズ 4 のノードへの流入量 y4 + y5 が流出量 y6 と等しいことを表す．

デコーダの各素性に対する重み学習は，development セットを用いて Minimum Error-Rate

Training 9) により行った．また，テストセットは NTCIR-7 フォーマルランで配布された
テストセットとした．コーパスの詳細を表 1 に示す．
翻訳方向は日本語から英語とし，翻訳精度の評価には BLEU 10) を，ベースラインには情報処理学会論文誌

Vol. 51

No. 8

1443–1451 (Aug. 2010)

c 2010 Information Processing Society of Japan


1449

統計的機械翻訳におけるフレーズ対応最適化を利用した N-best 翻訳候補のリランキング
表 1 NTCIR-7 特許文翻訳タスクコーパス詳細
Table 1 Description of the data set on NTCIR-7 patent translation task.
データセット学習セット（英）学習セット（日）dev. セット（英）dev. セット（日）テストセット（英）テストセット（日）文数
1,798,571
1,798,571
915
915
1,381
1,381

単語数
59,974,173
64,184,179
30,02832,42745,334
48,737

語彙サイズ

142,435
121,652
3,986
3,653
4,116
3,882

表 2 評価実験条件
Table 2 Experimental condition.
項目

条件

デコーダ
ビーム幅（翻訳候補数）
ttable-limit
リオーダリングモデル
歪み距離制限言語モデル
整数計画問題の solver

Moses（08/02/20 release）
10, 20, 50, 100, 200, 500, 1,00020
msd-bidirectional-feなし
5gram, Interpolated Modiﬁed Kneser-Ney
ILOG CPLEX 11.0

図 6 ビーム幅に対する翻訳精度
Fig. 6 Eﬀect of the beam width on translation quality (BLEU).

Moses デコーダ5) を用いた1 ．また N-best 翻訳を得る際，目的言語文のバリエーションを増やすため，フレーズ区切りは異なるが同一の目的言語文を導く翻訳候補群は，その中でス
コア最大の候補のみを N-best に含めるようにした．言語モデルの学習は，学習セットの英図 7 ビーム幅に対する平均スコア改善幅
Fig. 7 Eﬀect of the beam width on the average score improvement.

語側を用いて SRI Language Modeling Toolkit 11) により行った．デコーダパラメータなどの実験条件を表 2 に示す．ビーム幅は Moses デコーダの探索精度を与えるパラメータであり，原言語文 1 文あたりの N-best 数と同値とした．整数計画問題の solver には，CPLEX

行ったところ，ビーム幅 200 以下の全測定点において，提案手法が Moses を有意に改善す11.0 12) を用いた．

るという結果が得られた．一方，ビーム幅 500 以上では Moses と提案手法とで翻訳精度は4.2 実 験 結 果

ほぼ変わらない．これはビーム幅を大きくとることで，Moses の探索の精度が向上するた

ベースラインおよび提案手法による翻訳結果の BLEU を図 6 に示す．図中，Moses はめである．

ベースラインを，rerank は提案手法をそれぞれ意味する．提案手法と Moses とを比較する

従来のヒューリスティック探索の精度を調べるため，N-best 各候補のフレーズ対応最適化と，提案手法は常に Moses より BLEU 値が高くなっている．有意水準 5% として検定を前後のスコアの差分の平均（平均スコア改善幅）とビーム幅との関係を求めた結果を図 7 に示す．平均スコア改善幅が大きいほど，従来法でのフレーズ対応に関する探索精度が悪いこ1 Moses の N-best 翻訳のリオーダリングスコアには近似が含まれている．本研究ではスコア付けの厳密化を目的とするため，このような近似を行わないよう Moses の一部を実装しなおした．

情報処理学会論文誌

Vol. 51

No. 8

1443–1451 (Aug. 2010)とを表す．図 7 では，ビーム幅を大きくしていくと平均スコア改善幅が小さくなっていく様子が見られる．この結果は，図 6 においてビーム幅が大きいとき BLEU 改善が小さかった

c 2010 Information Processing Society of Japan


1450

統計的機械翻訳におけるフレーズ対応最適化を利用した N-best 翻訳候補のリランキング

明らかになった．
デコーダの探索空間の大きさはフレーズ対応と目的言語文のバリエーションによって決まるが，従来法でもフレーズ対応についての探索精度は十分であることから，目的言語文についての探索精度に問題があると考えられる．したがって，フレーズベース翻訳における探索の課題は，より多くの目的言語文のバリエーションを考慮することにあるという示唆が得られる．
この示唆をふまえ，今後は，リランキング法のようにごく限られた数の翻訳候補に対して最適化手法を利用するのではなく，デコーダ内部で利用することで，より多くの翻訳候補に
図 8 翻訳時間と BLEU との関係
Fig. 8 Eﬀect of the search time on translation quality (BLEU).

ことに対する裏づけとなっている．また，各候補のスコアの大きさはおおよそ −10 ∼ −100程度のオーダであり，スコアの改善幅はこれにくらべて数千分の 1 の大きさである．したがって，従来法でもフレーズ対応については十分な探索精度が得られているといえる．
テストセットに対する処理時間と BLEU の関係を図 8 に示す．ここで処理時間は，Mosesの場合にはテストセット全文の翻訳に要した時間を，rerank の場合には Moses の翻訳時間とフレーズ対応最適化に要した時間との和を表す．Moses と提案手法とで処理時間を比較すると，翻訳精度が同じであるとき，提案手法はおよそ Moses の 2 倍程度の時間を必要とすることが分かる．

5. お わ り に
本稿では，リオーダリングモデルを考慮したフレーズ対応問題の新しい定式化を提案した．また，提案した定式化を用いてフレーズベース翻訳システムの N-best 翻訳に対し，フレーズ対応のスコアを厳密に最大化することによってリランキングを行う手法について検討を行った．

NTCIR-7 特許文翻訳タスクのデータセットを用いた評価実験において，提案手法は Moses
が翻訳候補に与えたスコアをつねに改善し，BLEU を有意に向上させることが確認できた．
一方で，提案手法ではすべてのフレーズ対応候補の中から最適なフレーズ対応を探索しているにもかかわらず，スコアの改善幅はそれほど大きくないという結果が得られた．提案手法
は，フレーズ対応付き翻訳候補文のスコアの厳密値を求めている．そのため，従来のヒュー
リスティック探索であっても，フレーズ対応については高い精度の解が得られていることが情報処理学会論文誌

Vol. 51

No. 8

1443–1451 (Aug. 2010)

ついてスコアの最適化を行う方法について検討していきたい．

参

考

文

献

1) Brown, P.F., Pietra, V.J.D., Pietra, S.A.D. and Mercer, R.L.: The Mathematics ofStatistical Machine Translation: Parameter Estimation, Computational Linguistics,
Vol.19, No.2, pp.263–311 (1993).
2) Koehn, P., Och, F.J. and Marcu, D.: Statistical Phrase-Based Translation, Proc.
Human Language Technology and North American Association for Computational
Linguistics Conference (2003).
3) Och, F.J. and Ney, H.: The Alignment Template Approach to Statistical MachineTranslation, Computational Linguistics, Vol.30, No.4, pp.417–449 (2004).
4) Tillmann, C. and Zhang, T.: A Localized Prediction Model for Statistical MachineTranslation, Proc. 43rd Annual Meeting of the Association for Computational Linguistics, Association for Computational Linguistics, pp.557–564 (2005).
5) Koehn, P., Hoang, H., Birch, A., Callison-Burch, C., Federico, M., Bertoldi, N.,
Cowan, B., Shen, W., Moran, C., Zens, R., Dyer, C., Bojar, O., Constantin, A. andHerbst, E.: Moses: Open Source Toolkit for Statistical Machine Translation, Proc.
45th Annual Meeting of the Association for Computational Linguistics Companion
Volume Proceedings of the Demo and Poster Sessions, Association for Computational Linguistics, pp.177–180 (2007).
6) Hasan, S., Zens, R. and Ney, H.: Are Very Large N-Best Lists Useful for SMT?,
Proc. Human Language Technologies: The Conference of the North American Chapter of the Association for Computational Linguistics; Companion Volume, Short
Papers, Association for Computational Linguistics, pp.57–60 (2007).
7) DeNero, J. and Klein, D.: The Complexity of Phrase Alignment Problems, Proc.
46th Annual Meeting of the Association for Computational Linguistics: Human Language Technology, Short Papers, Association for Computational Linguistics, pp.25–
28 (2008).

c 2010 Information Processing Society of Japan


1451

統計的機械翻訳におけるフレーズ対応最適化を利用した N-best 翻訳候補のリランキング

8) Fujii, A., Utiyama, M., Yamamoto, M. and Utsuro, T.: Overview of the Patent
Translation Task at the NTCIR-7 Workshop, Proc. 7th NTCIR Workshop Meetingon Evaluation of Information Access Technologies: Information Retrieval, Question
Answering and Cross-lingual Information Access, NTCIR, pp.389–400 (2008).
9) Och, F.J.: Minimum Error Rate Training in Statistical Machine Translation, Proc.
41st Anuual Meeting on Association for Computational Linguistics, Association for
Computational Linguistics, pp.160–167 (2003).
10) Papineni, K., Roukos, S., Ward, T. and Zhu, W.J.: BLEU: A Method for Automatic Evaluation of Machine Translation, Proc. 40th Annual Meeting of the Association for Computational Linguistics, Association for Computational Linguistics,
pp.311–318 (2002).
11) Stolcke, A.: SRILM – An Extensible Language Modeling Toolkit, Proc. International Conference on Spoken Language Processing, pp.901–904 (2002).
12) ILOG: ILOG CPLEX 11.0 User’s Manual, ILOG (2007).

梅谷 俊治（正会員）

1974 年生．1998 年大阪大学大学院基礎工学研究科情報数理系専攻博士前期課程修了．2004 年京都大学大学院情報学研究科数理工学専攻博士後期課程指導認定退学．2008 年より大阪大学大学院情報科学研究科准教授．
博士（情報学）．組合せ最適化，アルゴリズムに関する研究に従事．日本

OR 学会，INFORMS，MPS 各会員．
松井 知己

1990 年 3 月東京工業大学大学院総合理工学研究科システム科学専攻博
士後期課程修了．同年 4 月東京理科大学理工学部経営工学科助手．1992
年 4 月東京大学工学部計数工学科講師．1996 年 4 月東京大学大学院工学系研究科計数工学専攻助教授．2006 年 4 月中央大学理工学部情報工学科(平成 21 年 11 月 10 日受付)
(平成 22 年 5 月 6 日採録)
越川満（正会員）

教授となり現在に至る．組合せ最適化の研究に従事．博士（理学）．オペ
レーションズ・リサーチ学会等の会員
山本 幹雄（正会員）

1986 年生．2010 年筑波大学大学院システム情報工学研究科博士前期課

1961 年生．1986 年豊橋技術科学大学大学院修士課程修了．同年（株）程修了．同年株式会社バンダイナムコゲームス入社．現在，同社未来研究沖テクノシステムズラボラトリ研究開発員．1988 年豊橋技術科学大学情所に勤務．大学院在学中は，自然言語処理，特にフレーズベース統計的機報工学系教務職員．1995 年筑波大学電子・情報工学系講師．2008 年筑波械翻訳の研究に従事．

大学システム情報工学研究科教授．博士（工学）．自然言語処理の研究に従事．言語処理学会，人工知能学会，ACL 各会員．

内山 将夫（正会員）

1969 年生．1992 年筑波大学卒業．1997 年同大学院工学研究科修了．博士（工学）．現在，情報通信研究機構主任研究員．言語処理の実際的で学際的な応用に興味がある．言語処理学会，ACL 等各会員．

情報処理学会論文誌

Vol. 51

No. 8

1443–1451 (Aug. 2010)

c 2010 Information Processing Society of Japan