言語処理学会 第21回年次大会 発表論文集 (2015年3月)

事前並べ替えを利用したヒンディー語―英語統計的機械翻訳
村松航平

松本裕治

Kevin Duh

奈良先端科学技術大学院大学情報科学研究科{muramatsu.kohei.mb7,kevinduh,matsu}@is.naist.jp

1

はじめにとなることもある。修飾語は英語と同じく被修飾語の日本語のような SOV 型言語と、英語のような SVO型言語間の統計的機械翻訳ではそれぞれの言語の語順の違いが大きな問題となっている。SOV 型の言語とSVO 型の言語では語順が異なり、従来の統計的機械翻訳手法では対処が難しい問題とされてきた。こういった問題に対処する方法として、事前並べ替え、事後並べ替え、Tree-to-String 翻訳といった手法などがある。

図 1: ヒンディー語の語順の例

事前並べ替えは原言語文を目的言語の語順に並べ替えてから、通常の機械翻訳を行う手法である。並べ替
えには構文解析器を用いて原言語文を構文解析し、そ前に置かれ、日本語と同じく前置詞ではなく後置詞がれをもとに並べ替えルールを人手で作成する方法 [1]、取られる。動詞・名詞の性・数による屈折が豊富であ構文解析器・対訳データ・アライメントを利用して、るのもヒンディー語の特徴である。また動詞に関して並べ替えモデルを自動で学習する方法 [2]、対訳デー

は、2 つ以上の動詞が連なって用いられることが多い。

タ・アライメントから並べ替えのための構文解析器を使われるそれぞれの動詞の種類によって文全体の意味自動的に学習する手法 [3] などが考えられている。

が変わってくる。
本稿では、言語処理ツールの乏しい言語としてヒンディー語をあげ、構文解析器を用いない手法で並べ替

2

背景えを行い、それを応用した英語―ヒンディー語間、ヒ並べ替えの手法は多くの場合、構文情報を利用するンディー語―英語間の機械翻訳を行った。

ため構文解析器を必要とする。そのため英語のような高精度の構文解析器を持つ言語ならば精度の高い並べ3関連研究替えが期待出来るが、充実した構文解析器を持たない
英語-ヒンディー語の事前並べ替えを利用した機械言語の並べ替えは困難なものである。
そうした言語の１つ、ヒンディー語はインドを中心とした南アジアで話されている言語で、話者数は世界で約５億人であり世界でも３番目に多くの人に話されている言語である。また、近年経済発展の目覚ましいインドの連邦公用語であり、ますます需要が高まっている言語の一つである。言語的な重要性が高まっているのに関わらず、ヒンディー語の言語処理ツールはい翻訳の研究としては [4, 5, 6] がある。[5, 6] は英語からヒンディー語への機械翻訳が行われており、並べ替えには構文解析器や形態素解析器を利用されている。

[4] は並べ替えを巡回セールスマン問題として捉え、対訳コーパスとアライメントのみで並べ替えモデルを学習している。またこれはヒンディー語―英語、英語―ヒンディー語、ウルドゥー語―英語の機械翻訳の精度向上に成功している。[5] では英語文が構文解析され、まだ十分ではない。
またヒンディー語は英語と比べて SOV 型言語の言語として知られるが、その語順は図 1 のように比較的自由で目的語が主語の前に移動したりと、ときに OSV

人手で作成された並べ替えルールをもとに並べ替えがなされる。[6] では英語が構文解析され、原言語・目的言語双方の品詞タグを利用し語順関係を学習し英語文の並べ替えが行われる。

― 968 ―

Copyright(C) 2015 The Association for Natural Language Processing.
All Rights Reserved.

(STR) と (INV) によって決まる。それぞれの部分木
は原言語の文字列 f とその並べ替え後の文字列 f ’ を示している。f の左側の子 f1 と右側の子 f2 に対し、もし非終端記号のラベルが (STR) ならば並べ替えられた文は f ′ =f1′ f2′ といったように生成され、(INV) ならば f ′ =f2′ f1′ と生成される。

BTG により生成された並べ替えのうち最も良い並べ替えを見つけるためにスコア関数が定義されている。
ある入力文 F から並べ替え文 F’ を導く導出 D は複数生成されると考えられる。複数生成された導出 D の中から最適な並べ替えを行う D を選択する必要がある。そこで BTG の導出 D から抽出された素性とその重み付き和をもとにスコアを計算し、そのスコアが最大となった導出 D を用いて F から F’ を導く。
並べ替えられた原言語文を用いて通常のフレーズベース翻訳を行う。学習の際、構文情報や品詞タグなどの情報も素性に含めて学習を行うことも可能である。

図 2: BTG による並べ替えの例[3] は統計に基づいた手法なので並べ替えルールを人手で作成する必要が無い。そのためその言語に関する

4提案手法

詳細な知識が無くても並べ替えをすることが出来る。
また、学習に用いるアライメントの精度が並べ替えにヒンディー語が十分な構文解析器を持たない言語であるので、本稿では構文解析器を用いない手法でヒンディー語の並べ替えを行い、機械翻訳に応用する。構
文解析器を用いない並べ替え手法として [3] や [4] がある。[4] は対訳データとアライメントを用いて並べ替え影響するため、高精度なアライメントを作成することが精度の高い並べ替えを行うために重要となる。[3] では日本語―英語、英語―日本語間の機械翻訳でフレーズベース翻訳、階層的フレーズベース翻訳よりも高い精度を出すことに成功している。

モデルを学習するものだが、[3] は対訳データとアライメントを用いて並べ替えのための構文解析器を作成する。本論では構文解析器を用いずに並べ替えを行うこ

実験

5とが出来る手法の中でも、未だヒンディー語での応用がなされていない [3] の手法を試みる。[3] では統計的ヒンディー語―英語、英語―ヒンディー語間の統計機械翻訳の並べ替えを改善させるための教師なし識別

的機械翻訳における lader による事前並べ替えの有効構文解析器として lader(Latent Derivation Reorderer)性を調べるため、フレーズベース翻訳と事前並び替えが提案されている。対訳コーパスとアライメントから、を用いた翻訳を比較した。

並べ替えの精度が最大化するように括弧反転トランス
ダクション文法 (Bracketing Transduction Grammar,

5.1BTG) を教師なし学習し並べ替えを行う。

実験データ

図 2 に BTG による並べ替えの例を示した。BTG

実験データにはヒンディー語―英語バイリンガルの導出 D からは (STR) と (INV) のラベルが付いた非コーパス (HindEnCorp)1 とヒンディー語モノリンガ

終端記号と (TERM) のラベルが付いた終端記号の直ルコーパス (HindMonoCorp)2 、WMT2014 で用いら前を意味する記号が生成される。F と F’ それぞれはれた英語モノリンガルコーパス 3 を用いる。それぞ

原言語の文と、その並べ替え後の文を意味し、E は目れウェブ上の様々なサイトをクロールしたテキストで的語の文を意味する。非終端記号に (STR) のラベルある。

が付いた場合は終端記号はそのまま生成され、(INV)のラベルが付いた場合は終端記号は逆順になって生成される。また (TERM) は文字列 f を生成する。このように並べ替えの語順は木構造と非終端記号のラベル

1 https://lindat.mﬀ.cuni.cz/repository/xmlui/handle/11858/00-097C-0000-0023-625F-0
2 https://lindat.mﬀ.cuni.cz/repository/xmlui/handle/11858/00097C-0000-0023-6260-A
3 http://www.statmt.org/wmt14/translation-task.html― 969 ―

Copyright(C) 2015 The Association for Natural Language Processing.
All Rights Reserved.

HindEnCorp から学習データに 25 万文、ディヴェ

学習どちらの場合でも lader で事前並べ替えを行った

ロップメントデータに 1000 文、テストデータに 2500

翻訳結果の方がベースラインを上回っていた。表１の文を用いた。さらに言語モデル作成にヒンディー語と結果からヒンディー語―英語、英語―ヒンディー語間

英語、それぞれ 4 千万文と 2 千万文のモノリンガルにおける機械翻訳での lader による事前並べ替えの有コーパスを用いた。

効性が示されている。
今回の実験では lader に学習させる対訳文とアライ

5.2メントの量を変化させ、その精度の変化を見た。英語

ベースライン―ヒンディー語翻訳では、1000 文の学習の場合ではベースラインには通常のフレーズベース翻訳を設定

BLEU/RIBES ともに 0.94/0.83、10000 文の学習の場した。単語アライメントの獲得には GIZA++を用い、合では BLEU/RIBES それぞれ 1.06/1.69 ベースライ

言語モデルの作成には SRILM を用いた。また、デコーンから向上した。ヒンディー語―英語翻訳では、1000

ダーには Moses、チューニングには MERT を用いた。

文の学習の場合では BLEU/RIBES ともに 0.14/0.60、10000 文の学習の場合では BLEU/RIBES それぞれ

5.3

1.26/1.14 ベースラインから向上した。英語―ヒンデ
ィー語、ヒンディー語―英語翻訳のどちらも 1000 文

事前並べ替え事前並べ替えには lader を用いる。lader の学習にの学習結果よりも 10000 文での学習の結果の方が精度

は HindEnCorp から取り出した対訳文とそのアライが高いことが示されているので、lader での学習量がメントを用いる。学習に用いる対訳文の量を 1000 文、多いほど翻訳精度も高くなることがわかる。

10000 文と変化させ、精度の変化を見た。また、学習に用いたアライメントは GIZA++で取得した。
原言語側の並べ替えを行った後は、ベースライン7と同じように Moses で通常のフレーズベース翻訳を行った。

考察
lader によって並べ替えられた英語・ヒンディー語の例を図 3・図 4 に示す。図 3 を見ると 1000 文での学習と 10000 文での学習の場合どちらも英語文がヒンシステム

en-hihi-en
BLEU/RIBES BLEU/RIBES

PBMT

18.00/63.04

18.63/63.37PBMT+lader(1000)

18.94/63.87

18.77/63.97

しているが、ところどころフレーズがバラバラになっ

PBMT+lader(10000) 19.06/64.73

19.89/64.51ていたり、同一フレーズ内でも並び順が逆になっていディー語の語順に並び変わっているのがわかる。
図 4 にはヒンディー語の並べ替え例を示した。1000
文での学習の場合だいたいの語順は英語の語順と一致る箇所が見られる。10000 文での学習の場合、フレーズがバラバラになってしまう現象や並び順が逆になっ

表 1: lader による事前並べ替えの結果てしまう現象は改善されたように見える。
表 1 を見ると、ヒンディー語―英語翻訳の方が英語―ヒンディー語翻訳よりも RIBES の向上が少ないこと

6がわかる。これは英語の並べ替えと比べてヒンディー実験結果語の並べ替えがうまくいっていないことを示している。

実験結果を表１に示す。PBMT は Moses によるフ

その要因として、英語の文法は基本的に語順により格

レーズベース翻訳、PBMT + lader(1000)、PBMT +を示しており、それと比べてヒンディー語は SOV 型

lader(10000) はそれぞれ 1000 文、10000 文の対訳コー

言語ではあるが英語のような厳しい語順制限は無く、パスとアライメントで lader を学習させ並べ替えを行比較的容易に語順が変化することが考えられる。

い、フレーズベース翻訳を行ったものである。
自動評価には BLEU と RIBES の２つを用いた。ヒ
ンディー語―英語、英語―ヒンディー語翻訳どちらの8場合も、ベースラインに設定した Moses のフレーズベース翻訳結果と lader での事前並べ替えを行った翻訳結果を比べると、1000 文での学習と 10000 文でのおわりに本稿では言語処理ツールが十分ではない言語としてヒンディー語をあげ、ヒンディー語と語順が離れた言語である英語との機械翻訳において事前並べ替えを用― 970 ―

Copyright(C) 2015 The Association for Natural Language Processing.
All Rights Reserved.

図 3: 英語の並べ替え結果の例

図 4: ヒンディー語の並べ替え結果の例

いた。並べ替えは対訳文とアライメントから並べ替え[2] Fei Xia, Michael McCord: Improving a Statisticalのための構文解析器を導出するという形で並べ替えを

MT System with Automatically Learned Rewrite
Patterns, in Proc. of ICCL, pp.508-514, 2004.

行い、結果として機械翻訳の精度を上げることに成功した。

lader によりヒンディー語の並べ替えに成功したが、機械翻訳の精度をさらに上げるためには語順以外の要[3] Graham Neubig, Taro Watanabe, Mori Shinsuke: Inducing a Discriminative Parser to Optimize Machine Translation Reordering, in Proc.
of EMNLP-CoNLL, pp.843-853, 2012.

素を考えて翻訳システムを構築する必要があるだろう。
例えばヒンディー語の文法において特徴的な性・数に[4] Karthik Visweswariah, Rajakrishnan Rajkumar,

よる動詞や名詞の屈折や多数の動詞が連接した複合動

Ankur Gandhe, Ananthakrishnan Ramanathan,
Jiri Navratil: A Word Reordering Model for Improved Machine Translation, in Proc. of EMNLP,

詞などが解決すべき問題として考えられる。

pp.486-496, 2011.
[5] Raj Nath Patel, Rohit Gupta, Prakash B. Pim-

参考文献
[1] Hideki

Isozaki,

Katsuhito

Sudoh,

pale and Sasikumar M: Reordering rules forEnglish-Hindi SMT, in Proc. of the Second
Workshop on Hybrid Approaches to Translation,

HajimeTsukada, Kevin Duh: Head Finalization: A
Simple Reordering Rule for SOV Languages, inpp.3441, 2013.
[6] Taraka Rama, Karthik Gali, Avinesh PVS: Does

Proc. of the Joint Fifth Workshop on Statistical
Machine Translation and MetricsMATR, pp.244251, 2010.

― 971 ―

Syntactic Knowledge help English-Hindi SMT ?,in Proc. of the NLP Tools contest, ICON 2008.

Copyright(C) 2015 The Association for Natural Language Processing.
All Rights Reserved.