言語処理学会 第20回年次大会 発表論文集 (2014年3月)

構文解析誤りに頑健な日英統計的機械翻訳の事前並べ替え手法
星野 翔 1,2
1

総合研究大学院大学

宮尾 祐介 1,2
2

国立情報学研究所

須藤 克仁 3
3

永田 昌明 3

NTT コミュニケーション科学基礎研究所{hoshino,yusuke}@nii.ac.jp {sudoh.katsuhito,nagata.masaaki}@lab.ntt.co.jp

1

そこで磯崎 [4] は、一部の品詞に対して語順を保存はじめにするためのラベル付けを行うことを提案し、REV の統計的機械翻訳における統語構造に基づく事前並べ替え手法は、日本語と英語のように、語順の大きく問題点のうち大部分を解決したが、並列関係は依然無視されたままである。

異なる言語対での翻訳精度を改善することができる

なお、構文解析誤りの問題をドメイン適応タスク

が、その一方で構文情報を利用するために、構文解析として考え、解析器を再訓練する手法 [8] も提案されの精度が結果を大きく左右するという欠点がある。ているが、理想的には、どのようなドメインでも構

そこで本研究では、構文解析誤りが発生しやすい

文解析誤りに左右されにくい頑健な並べ替え手法で依存構造を一切使用せず、局所的な、連続する文節間の並列関係という構文情報のみに着目することによって、並列関係を扱いながら構文解析誤りに左右あることが望ましい。

3 提案手法されにくい並べ替え手法を提案する。

関連研究の問題点を踏まえて、Katz-Brown and提案手法の有効性を調べるため、特許文書翻訳にCollins の REV 手法のように構文解析の誤りに影響おいて既存の事前並べ替え手法との翻訳精度を比較されない並べ替えを行いつつ、Hoshino et al. のようしたところ、提案手法は既存手法全てを上回り、規に並列関係も考慮した複雑な並べ替えを行うために、則ベースの日英事前並べ替えでは現時点で最高の翻提案手法では、並列関係を考慮する規則 1、長距離の訳精度を示した。

並べ替えを行う規則 2、局所的な単語の並べ替えを行2う規則 3、という 3 つの規則を提案する。このうち規関連研究則 1 のみで構文情報を利用することで、規則 2,3 の頑Komachi et al.[11] や Hoshino et al.[3] など、規則健性を確保している。

ベースの日英事前並べ替え手法は、述語項構造など

これより説明のために、入力文 input は l 個の文節の構文情報を利用しており、そのため特に後者は並で構成され（input = c1 ...cl ）、文節 cx (1 ≤ x ≤ l) は列句を考慮した複雑な並べ替えを行うことができる。

q 個の単語を持っている（c = w1 ...wq ）と仮定し、各しかしこれらの従来手法には、構文情報の正しさに規則によって左辺を右辺に書き換えていくものとす依拠して並べ替えを行うため、構文解析精度に翻訳る。また例文中の記号「|」は文節の区切りを表す。

精度が左右されてしまうという欠点がある。

3.1

一方、Katz-Brown and Collins[7] が提案した 2 つの事前並べ替え手法のうち REV では、文字列を句読規則 1: 入力文分割規則

この規則では、構文情報を用いて、入力文を文節に分解するのが目的である。

点で区切り、区切られたそれぞれの部分文字列につ

まず入力文において、並列関係にある連続した文いて、助詞の「は」以降の語順を逆転させることに節を 1 つの文節とみなし、入力文を m (1 ≤ m ≤ l)

よって、構文情報を利用せず SVO 語順への並べ替え個の文節（input = c1 ...cl → c1 ...cm ）に書き換える。

を達成している。そのため構文解析誤りが並べ替え

この操作により、並列関係にある文節の順序逆転をに影響しない一方、名詞句の語順が逆転してしまう、防ぐことができる。

また並列関係が無視されるなどの問題点がある。

例えば、入力文「表 1 及び | 図 7 に | 示す」では、― 602 ―

Copyright(C) 2014 The Association for Natural Language Processing.
All Rights Reserved.

並列関係にある文節「表 1 及び | 図 7 に」が 1 つの行う。最後に、文節 i = w1 ..wq の終端 wq を残す

文節とみなされ、「表 1 及び図 7 に | 示す」と書き換（ci ...c1 cn ...ci+1 → w1 ...wq−1 ci−1 ...c1 cn ...ci+1 wq ）こえられる。とで、助詞の「は」が文頭へ移動されることを防ぐ。

次に、入力文に u 個の句読点があれば、1 句読点

例えば、入力文「そこで | 各記号は | 次のものを |を 1 文節とみなし、入力文を n = m + u 個の文節表している」は、終端「は」を除いた文節「そこで |（input = c1 ...cm → c1 ...cn ）に書き換える。この操作

各記号」と文節「次のものを | 表している」が逆転さは Katz-Brown and Collins と同じく、特許文書ではれ、「各記号 | そこで | は | 表している | 次のものを」起こりにくい句読点をまたぐ並べ替えの除外を意図と書き換えられる。

している。ただし、元々並列関係にあり連続してい3.3

た文節 cx には以下の例外規則を適用する:
例外 1

この規則では、Hoshino et al. の手法と同じく、こ文節 cx においてある句読点の直前が名詞である場合、この文節はその句読点では分割されない。
例外 2

例外 1 が適用され、文節 cx = w1 ...wq の終端 wq が「は」または「が」ならば、最後に出現した句読点を 1 文節とみなし、文節 cx を 3 つの文節に分割する。
例外 3

規則 3: 文節内並べ替え規則

例 外 1,2 が 適 用 さ れ た か を 問 わ ず、 文 節

cx = w1 ...wq の終端 wq が句読点であった場合、文節 cx を句読点以外と句読点の 2 つの文節に分割する。

れまで並べ替えられたそれぞれの文節内での単語の順序を並べ替え、局所的にも英語の語順により近づけることを意図している。
ま ず 文 節 c = w1 ...wq 内 の 単 語 を 内 容 語

w1 ...wp (0 ≤ p ≤ q) と 機 能 語 （助 詞・ 助 動 詞）
wp+1 ...wq に 分 け、 そ こ か ら 機 能 語 の 語 順 を 逆
転 さ せ て 内 容 語 の 前 に 移 動 （c = w1 ...wq →wq ...wp+1 w1 ...wp ）することで、後置詞句を前置詞句に並べ替える。
例えば、文節「図 3 において」は、機能語「において」が逆転かつ先頭に移動され、「おいてに図 3」と書き換えられる。

例えば、入力文「各記号は、| 次のものを | 表して3.4いる。
」は、句読点で分割されて「各記号は | 、| 次のものを | 表している | 。
」と書き換えられる。

並べ替え結果の比較

表 1 に、文節「表 1 及び」と文節「図 7 に」が並列関係にある例文での、提案手法と既存手法の並べ

一方、並列関係にある文節「表 1、表 2」では、例替え結果とその翻訳例を示している。

外 1 が適用されるため句読点で分割しない。しかしKatz-Brown and Collins では並列句「表 1 及び図並列関係にある文節「表 3、表 4 が」のように、「は」7 に」が逆順になっているが、提案手法は並列関係をまたは「が」が終端であれば例外 2 が適用され、最保つため、このような逆転が発生しない。

後の句読点で「表 3 | 、| 表 4 が」と分割する。

3.2

また、Hoshino et al. では助詞の「は」が文頭近く

規則 2: 文節間並べ替え規則に移動されているが、提案手法では文節間の並べ替

この規則では、Katz-Brown and Collins の REV 手法と同じく、文節の順序を入れ替えることで、SOVえで「は」や「が」の並べ替えを行うことで、このような移動を防いでいる。

語順を SVO 語順にするような長距離の並べ替えを行う。
まず文節 c1 ...cn

このように、提案手法は英語により近い語順に日本語を並べ替えることができる。

*1 でから終端が「は」または「が」ある最初の文節 ci (1 ≤ i ≤ n) を探す。次に、文節4 比較実験

c1 から文節 ci まで、文節 ci+1 から文節 cn までの順提案手法の日英翻訳での効果を確認するため、特序をそれぞれ逆転させる（c1 ...cn → ci ...c1 cn ...ci+1 ）許文書において提案手法と既存手法を比較する実験

ことで、SOV 語順から SVO 語順への並べ替えをを行った。
この実験では、異なる事前並べ替え手法を共通の*1 Katz-Brown and Collins では助詞の「は」のみが用いられていたが、提案手法では事前実験によって「は」と「が」両方の使用が最良だと確認した。

統計的機械翻訳システムで翻訳することにより、翻訳結果の優劣を測る。その際に、事前並べ替えを全― 603 ―

Copyright(C) 2014 The Association for Natural Language Processing.
All Rights Reserved.

日本語入力Katz-Brown and Collins

Hoshino et al.
提案手法
英語参照文

ここで、| 表 1 及び | 図 7 に | 示す | 各記号は、| 次のものを | 表している。
でここ | 、| は記号各 | 示す | に 7 図 | 及び 1 表 | 、| いる表して | をもの次の | 。

here , the symbols shown in Table 1 and FIG. 7 , the following construction .
でここ | 、| は各記号 | 示す | に表 1 及び図 7 | 、| いる表して | をもの次の | 。
here , the symbols shown in Table 1 and FIG. 7 shows a following method .
でここ | 、| 各記号 | 示す | に表 1 及び図 7 | は | 、| 表している | をもの次の | 。
in this case , the respective symbols shown in Table 1 and FIG. 7 represents the followings .
here , symbols shown in Table 1 and FIG. 7 represent the following items .

表1: 既存手法と提案手法の比較
ベースライン（前略）| エネルギーが | 240 keV 、ドーズ量が | 4×1012/cm2

提案手法（前略）| 4×1012/cm2 | 240 keV 、ドーズ量が | エネルギーが

表2: 提案手法の並べ替え失敗例

く用いない設定をベースラインとした。

4.1

事前並べ替え手法
ベースライン

実験設定

Katz-Brown and Collins
Hoshino et al.
提案手法

実験では、対訳データに NTCIR-9 特許機械翻訳テ
ストコレクション*2 の日英翻訳データ約 320 万文対を用いた。そのうち評価データには 2,000 文対を、開データでは、日本語の単語分割および形態素解析にJUMAN 7.0 を、構文解析に KNP 4.1beta を使用しRIBES
68.08
73.10
72.37
74.14

τ
0.39350.5186
0.58290.6091

表3: 比較実験結果

発データには 500 文対を使用し、訓練データは 1 語以上 64 語以下となるようフィルタリングした。対訳

BLEU27.57
29.87
30.56
31.14

τ は評価尺度の 1 つである Kendall’s τ の平均、太字はブートストラップ・リサンプリング [9] におけるその他全手法との統計的有意性（p<0.01）を表している。

た。構文解析に失敗した部分は訓練データから取り除いた。
共 通 の 統 計 的 機 械 翻 訳 シ ス テ ム に は、SRILM

1.7.0[14] の 6-gram 言 語 モ デ ル、MGIZA 0.7.3[1]、提案手法が最良であると分かる。一方で、提案手法

Moses 1.0[10] をそれぞれ使用した。チューニング

も τ = 1.0 となる monotonic な語順には程遠く、未には MERT[12] を使用し、デコード時には事前実験だ改良の余地が大きいことが示されている。

で最も良かった distortion limit 10 を設定した。

4.3

誤り分析

評価 尺 度 に は、BLEU[13]、RIBES[5]、 ま た 並 べ

表 2 に提案手法で正しく並べ替えられなかった例

替えのみの正解率を測るため、Kendall’s τ [6] の平を示す。この例文は、「エネルギーが 240 keV」かつ均*3 を用いた。

「ドーズ量が 4×1012/cm2」という is-a 関係の列挙か実験結果ら構成されている。しかし提案手法は、文節内の並べ4.2

表 3 に比較実験の結果を示す。提案手法は、BLEU替えとは独立して文節間の並べ替えを行うため、文と RIBES の両方の評価尺度で既存手法全てを大幅に節が想定された順序に並べ替えられているにも関わ上回り、局所的にも大局的にも翻訳精度を著しく改らず、文節内の語順が局所的に逆順になるという問善している。

題が発生してしまった。

また、並べ替え後の語順と理想的な語順との順位

このような問題を解決するために、追加規則とし相関を測る Kendall’s τ の平均値においても、提案手て文節を入れ替えた時の文節内の語順の整合性を確法の値が最高となったことから、並べ替え精度でも認することも考えられるが、規則 2,3 がより複雑になるにつれて頑健性が確保できなくなる恐れがある。
そこで今後は、提案手法のように規則を人手で与*2 http://research.nii.ac.jp/ntcir/permission/

ntcir-9/perm-ja-PatentMT.html*3 算出には en-ja.A3.ﬁnal ではなく ja-en.A3.ﬁnal を使用した。

えるのではなく、統計的に並べ替え規則を学習する
手法 [15, 2] に取り組んでいきたい。

― 604 ―

Copyright(C) 2014 The Association for Natural Language Processing.
All Rights Reserved.

5task.

おわりにIn Proc. of the NTCIR-7 Workshop

Meeting, 2008.

本研究では、構文情報を用いた文節間の並列関係[8] Jason Katz-Brown, Slav Petrov, Ryan McDon-の並べ替えとその他の並べ替えを規則によって切りald, Franz Och, David Talbot, Hiroshi Ichikawa,

分けた、構文解析誤りに頑健な事前並べ替え手法を

Masakazu Seno, and Hideto Kazawa. Training

提案した。特許文書において翻訳精度を比較したと

a parser for machine translation reordering. In

ころ、提案手法は既存手法を全て上回り、これらのProc. of EMNLP, pages 183–192, 2011.

規則の有効性が確認できた。

[9] Philipp Koehn. Statistical signiﬁcance tests formachine translation evaluation. In Dekang Lin

参考文献

and Dekai Wu, editors, Proc. of EMNLP, pages[1] Qin Gao and Stephan Vogel. Parallel imple-388–395, 2004.

mentations of word alignment tool. In Software[10] Philipp Koehn, Hieu Hoang, Alexandra Birch,Engineering, Testing, and Quality Assurance

Chris Callison-Burch, Marcello Federico, Nicola

for Natural Language Processing, pages 49–57,

Bertoldi, Brooke Cowan, Wade Shen, Christine

2008.

Moran, Richard Zens, Chris Dyer, Ondrej Bo-[2] Dmitriy Genzel. Automatically learning source-jar, Alexandra Constantin, and Evan Herbst.

side reordering rules for large scale machine

Moses: Open source toolkit for statistical ma-translation.

chine translation. In Proc. of ACL Demo andIn Proc. of COLING, pages

376–384, 2010.

Poster Sessions, pages 177–180, 2007.

[3] Sho Hoshino, Yusuke Miyao, Katsuhito Sudoh, and Masaaki Nagata.

[11] Mamoru Komachi,

Yuji Matsumoto,andTwo-stage pre-Masaaki Nagata. Phrase reordering for statis-

ordering for Japanese-to-English statistical ma-tical machine translation based on predicate-chine translation. In Proc. of IJCNLP, pages

argument structure. In Proc. of IWSLT, pages

1062–1066, 2013.

77–82, 2006.

[4] Hideki Isozaki. OkaPU’s Japanese-to-English[12] Franz Josef Och. Minimum error rate training

translator for NTCIR-10 PatentMT. In Proc.

in statistical machine translation. In Proc. ofof the 10th NTCIR Workshop Meeting, pages

ACL, pages 160–167, 2003.

348–349, 2013.

[13] Kishore Papineni, Salim Roukos, Todd Ward,[5] Hideki Isozaki, Tsutomu Hirao, Kevin Duh,and Wei-Jing Zhu. BLEU: A method for au-Katsuhito Sudoh, and Hajime Tsukada. Auto-tomatic evaluation of machine translation. Inmatic evaluation of translation quality for dis-Proc. of ACL, pages 311–318, 2002.

tant language pairs. In Proc. of EMNLP, pages[14] Andreas Stolcke, Jing Zheng, Wen Wang, and944–952, 2010.
[6] Hideki Isozaki,Victor Abrash. SRILM at sixteen: Update andKatsuhito Sudoh,

Hajimeoutlook. In Proc. of IEEE Automatic Speech

Tsukada, and Kevin Duh. Head ﬁnalization: A

Recognition and Understanding Workshop, 2011.

simple reordering rule for SOV languages. In[15] Roy Tromble and Jason Eisner. Learning lin-Proc. of the Joint Fifth Workshop on Statisticalear ordering problems for better translation. InMachine Translation and MetricsMATR, pages

Proc. of EMNLP, pages 1007–1016, 2009.

244–251, 2010.
[7] Jason

Katz-Brown

Syntactic

reorderingandMichaelinpreprocessing

Japanese→English translation:

Collins.
forMIT systemdescription for NTCIR-7 patent translation― 605 ―

Copyright(C) 2014 The Association for Natural Language Processing.
All Rights Reserved.