整合性尺度を用いた構造的対訳文アラインメント
中澤 敏明

Yu Kun

黒橋 禎夫

東京大学大学院情報理工学系研究科{nakazawa, kunyu}@kc.t.u-tokyo.ac.jp

1

京都大学大学院情報学研究科
kuro@i.kyoto-u.ac.jp

はじめに੤Ꮕ

the carὐ䈪䇮

現在の機械翻訳の主流は 、Brown ら [1] や Och らcame⓭ὼ

[7] に代表されるように統計翻訳であるが 、我々は用

at me䈅䈱

例ベース翻訳システムを研究している。これには以下from the sideゞ䈏㘧䈶಴䈚䈩 ᧪䈢 䈱䈪䈜 䇯の 2 つの理由がある。

1 つは、構造的な言語処理の発展を指向しているからである。機械翻訳は、言語処理研究の成果である形

at the intersection

図 1: アライン メントの例

態素解析や構文解析などの基礎技術のアプリケーションとしてとらえることができる。つまり、基礎技術のᣣᧄ 䈪you(in Japan)

発展がアプリケーションの精度向上につながるであろwill have to file଻㒾(insurance)

うし 、逆にアプリケーション側から、基礎技術の弱点ળ␠ 䈮 ኻ䈚䈩

insurance(to company)が見えてくることもある。

଻㒾

2 つ目は、用例ベース翻訳の問題設定が妥当である

an claim(insurance)⺧᳞ 䈱

場合が少なくないからである。たとえば 、マニュアル

insurance(claim)↳䈚┙䈩 䈏のバージョンアップの翻訳や、関連特許の翻訳などは、

1/2 + 1/1 = 1.5

with the office(instance)น⢻䈪䈜 䉋

コーパスの規模としてはそれほど 多くなく、統計翻訳

in Japan(you can)がうまく働くかというと疑問が残る。しかしこのよう
図 2: 曖昧性の例

な場合、ド メインが同じならば 、同じような用例が多く得られるはずであり、用例ベース翻訳の考え方が有利に働くものと考えられる。
用例ベース翻訳の研究としては、Menezes ら [6] の2

構造的対訳文アラインメント“Logical Form” を用いた研究や、Groves ら [3] の構

統計翻訳の基本姿勢は、対訳辞書や言語知識などは文木を利用した研究などがあるが 、いずれもヒューリ利用しないというものであるが 、用例ベース翻訳ではスティックなルールに基づいた手法であり、1. 複数あこのような言語資源を積極的に利用する。

るアライン メント候補から最適なものを選択する統一

まず用例を得るための対訳文を、それぞれ図 1 のよ的な基準がなく、2. アライン メント全体としての整合うなフレーズごとの依存構造を持った形に変形する。

性を測る尺度もない。

日本語文に対しては JUMAN[5] および KNP[4] を用

本稿では、二つのアライン メント間に係り受け距離い、英語文に対しては Charniak のパーサ [2] を用いと距離-スコア関数 を定義し 、これらを構造的アライて句構造に変換し 、これにフレーズの head を定義す

ン メント手法に組み込むことを提案する。これによりるルールを適用することにより依存構造に変換する。

上記の 2 つの問題を解消することができる。実験結果

次に対訳辞書を用いて、単語ごとの対応候補を見つでは、ベースライン手法に比べて 3.0 ポイント以上のける。図 1 では「交差点 - intersection 」「車 - car 」「来アライン メント精度の向上が見られた。

た - came 」の 3 つの対応候補が得られている。単語ごとの対応がわかったら、その単語を含むフレーズをひとかたまりとして、フレーズごとの対応をつける。対応がつかなかったフレーズは、ルールによって他の対6420-2-4-6応のついているフレーズにマージする。図 1 の例では、「 突然」「 at me 」「 from「あの」が「 車 the car 」に 、the side 」が「飛び出して来たのです came 」にマージされる。
以上がアライン メントの流れであるが 、ここで問題

14121086420 0となるのが 、曖昧性のある対応候補や、文脈上不適切な対応候補が得られる場合である。図 2 の例では、日2468 10 12 14

本語の “保険” と英語の “insurance” がそれぞれ 2 回ずつ出現しているため、組み合わせとして 4 つの対応

図 4: 距離-スコア関数

候補が存在したり、“請求” と “申し立て” にそれぞれ“claim” という訳語があり、対応候補が衝突しているなどの曖昧性がある。このような対応候補の中から、いかに適切な対応を選ぶかが重要であり、本稿でもこの部分に注目する。

3

整合性尺度を用いた構造的対訳文
アラインメント

日本語の係り受け距離

英語の係り受け距離

用言:レベル C
用言:レベル B+/B

65

S/SBAR/SA/:
VP/ADVP

用言:レベル B-/A

4

ADJP/WHADVP
WHADJPヲ格/二格/デ格

3NP/PP/INTJ

3ガ格/ノ格/連体

2
1

QP/PRT/PRN
others2ト格

文節内
対応候補からの適切な対応の選択を実現し 、かつ全54

用言:レベル B+

体的な整合性を測るために、任意の二つの対応候補 (aiと aj とする) の間に整合性スコアを定義する。整合性

図 5: 係り受け距離スコアを用いて、以下の式から最も整合的なアラインメントを得る。

argmax以上の定義により、整合的なアライン メントを得る
nn
alignment i=1 j=i+1

整合性スコア (ai , aj )(1)

整合性スコアは文の依存構造木上で定義される。
まず、任意の一組の対応候補 ai (原言語の句 pSi と問題は 、距離と距離-スコア関数をいかに実装するかという問題に置き換わった。

3.1

ベースライン手法

目的言語の句 pT i との対応) と aj (同様に pSj と pT j )ベースライン手法では、曖昧でない対応候補は無条に注目する。ai と aj の原言語側の距離 dS (ai , aj ) を、件で採用し 、曖昧なものに対してのみ、距離と距離-pSi と pSj との木構造上の距離と定義する。目的言語

スコア関数を用いる。
またすべての枝の距離を 1 とする。つまり、ある対側も同様に dT (ai , aj ) が定義される。
この距離を用いて、整合性スコアは以下のように定応から別の対応への依存構造木上での移動距離をそのまま対応間の距離とする。

義する：

また距離-スコア関数は、f (dS , dT ) = 1/dS + 1/dT
整合性スコア (ai , aj ) = f (dS (ai , aj ), dT (ai , aj ))f (dS (ai , aj ), dT (ai , aj )) は距離のペアに対してスコアを付与する距離-スコア関数である。
文全体のアライン メントの整合性は、整合性スコアを用いて式 1 のように定義される。また整合性スコアを用いて、各対応候補の整合性も以下のように計算できる：

score(ai ) =n
j=iとする。これは 、「 曖昧な候補の近くにある (dS 、dTが小さい) 曖昧でない候補は、曖昧な候補を強く支持する」という仮定に基づいている。図 2 にスコア計算の例を示す。
全ての曖昧な候補のスコアを式 2 に基づいて計算し 、最も高いスコアを得たものを採用し 、これと衝突する候補を棄却する。曖昧な候補がなくなるまでこの計算を繰り返す。

整合性スコア (ai , aj )(2)

1210864201210864201412108
642

0 0 2 4 6 8 10 12 1402468 10 12 1414128100246

図 3: 正解データから学習された距離ペアの分布䋳䊂ᩰ

[case “de”](in Japan)䋱ᢥ▵ౝ䋱ㅪ↪

䋳NPᣣᧄ 䈪ળ␠ 䈮 ኻ䈚䈩(to company)[renyou]䋱[inside clause] ᢥ▵ౝ䋲䊉ᩰ䋲䉧ᩰ

䋱NN଻㒾(claim)Distance=(1,1)
Score Plus↳䈚┙䈩 䈏

[case “ga”](instance)น⢻䈪䈜 䉋䋳PP䋲䉧ᩰin Japan(claim)

Distance=(1,7)
Score Minus(instance)น⢻䈪䈜 䉋

insurance

an claim
䋱NN

insurance

䋳PPwith the office䋳PP

in Japan(you can)

提案手法

提案手法では距離と距離-スコア関数を改善し 、アライン メントの精度向上を目指す。

3.2.1

଻㒾↳䈚┙䈩 䈏

図 6: 適切な距離関係の例

3.2

䋳
NP(insurance)⺧᳞ 䈱[case “no”][case “ga”](you can)䋱NN(to company)

insurancewith the office(insurance)ળ␠ 䈮 ኻ䈚䈩䋲䊉ᩰ

youwill have to file଻㒾[inside clause]䋱[inside clause] ᢥ▵ౝan claim
䋱NN䋳PP䋱
ㅪ↪
[renyou](insurance)⺧᳞ 䈱[case “no”]

䋳NPinsurance(in Japan)䋱ᢥ▵ౝwill have to file(insurance)

䋳NP

ᣣᧄ 䈪

[case “de”]଻㒾[inside clause]

䋳䊂ᩰ

you

距離-スコア関数の学習

距離-スコア関数を改善する。まず毎日新聞 4 万対訳文のアライン メント正解データ [8] から、距離ペアの頻度分布を計数した。

図 7: 不適切な距離関係の例

3.2.2

係り受け距離ベースライン手法では、すべての枝の距離は 1 であるとしたが 、実際には文には句や節などの単位が存在し 、これらの情報を利用することが有効である。例えば 、木構造上では隣接していても、異なる節に属する句同士の距離は大きいと考えられるからである。
日本語構文解析器 KNP が出力する係り受けタイプ情報と、Charniak の nlparser が出力する英語のタグ

図 3 にこの結果を示す。縦軸 (Z 軸) は頻度の log を情報に対して、人手で木構造上での距離を定義した。

取ったものである。二つの横軸 (X,Y 軸) は日本語、英これを係り受け距離と呼び 、dS および dT の計算に利語それぞれの距離である。3 次元のプロットを 2 次元用する。節などの区切りの強さが強いものほど 、距離で視覚的に捉えやすくするために、別角度からの図をが大きくなるようにする。図 5 にその一部を示す。ま2 つ示した。分布は、距離が近いペアが最も多く、遠いペアになるに従ってゆるやかに減少し 、距離の差がた、図 6 、図 7 に実際の文での適用例を示す。枝上の大きくなるに従って急激に減少している。

受け距離である。

この結果を元に 、次のような基準を考え 、距離-スコア関数を人手で設定した：• dS ・dT とも小さければ 、適切な関係である可能性が高いので、プラスの値を与える

ラベルが係り受けタイプ、ラベルの上の数字が 、係り
図 6 の例では、注目する対応同士の距離が、日本語・英語とも 1 であり近いため、適切な関係であると判断し 、プラスのスコアを付与する。一方、図 7 では、日本語の距離は 1 で近いが 、英語の距離は 7 と遠い。このような対応同士は、ど ちらかが不適切な対応である• ど ちらも大きければ 、二つの対応の関係の信頼性が薄いので、スコアは 0 とする可能性が高いため、マイナスのスコアを付与する。

• 一方が小さく、他方が大きければ 、不適切な関係である可能性が高いので、マイナスの値を与えるの頻度分布を係数し 、距離- スコア関数を再設定した。

実際に設定した関数は図 4 に示した。

またこの距離設定のもとで、前章と同様に距離ペア

5結論と今後の課題

表 1: 実験結果
適合率

再現率

F値

本稿では、距離-スコア関数 f (dS , dT ) と係り受け距

61.68
61.58

58.79
60.81

離を利用した新しいアライン メント手法を提案した。

+距離-スコア関数学習

60.2664.35

アライン メント全体の整合性を全ての対応候補のペア+係り受け距離64.93

62.64

61.91のスコアの和で定義し 、適切な候補の選択を可能にしベースラインた。これにより、3 ポイント以上のアライン メント精度の向上を達成した。

3.3

アラインメント の整合性

最良のアライン メントは式 1 により、整合性スコア

今後の課題は、現在人手で設定している係り受け距離を自動学習で獲得することである。これには、各言の和が最大になるように、それぞれの対応を採用・棄語で独立に学習する方法や、言語ペアで学習する方法却していけばよい。しかし全ての場合を調べるのではなどいくつか考えられるが 、その中から最適な方法で候補の数が爆発してしまうので、グリーディーに探索学習することを考えている。

する。
すべての対応の候補について、式 2 で表されるスコアを計算する。スコアが最も高いものを採用し 、それと衝突する候補は棄却する。同時に、このとき計算されたスコアが閾値を下回る候補があった場合、その候補は誤った対応である可能性が高いため、その場で棄却する。これを繰り返すことにより、近似的に最良のアライン メントが得られる。

4

実験結果と考察
毎日新聞対訳コーパス [8] からランダムに 500 文を選び 、アライン メントを行なった。このコーパスにはアライン メントの正解データが付与されている。
評価の単位は、英語は単語単位、日本語は文字単位とした。これは、正解データも我々の出力も句単位なのだが 、日本語の句の区切りが必ずしも一致しないためである。評価は、各文ごとに正解データとの適合率・再現率・F 値を算出し 、その平均値を計算した。
また対訳辞書として、研究社の日英辞書 (36K 見出
しから 214K 対訳を抽出) と英日辞書 (50K 見出しから 303K 対訳を抽出) を利用した。
実験結果を表 1 に示す。+距離-スコア関数学習はベースライン手法の距離-スコア関数を改善し 、学習して得られたものに変えた結果で、+係り受け距離はさらに係り受け距離を利用した結果である。
距離-スコア関数を改善することにより再現率は若干下がったものの、適合率が大幅に向上し 、F 値では 2.1ポイントの精度向上が見られた。また係り受け距離を利用することにより、さらに精度が向上し 、ベースラ
インよりも 3.1 ポイント以上の精度向上を達成した。
この結果から 、我々の提案する距離-スコア関数と係り受け距離がアライン メントに効果的に働いていることがわかる。

参考文献[1] Peter F. Brown, Stephen A. Della Pietra, Vincent
J. Della Pietra, and Robert L. Mercer. The mathematics of statistical machine translation: Parameter
estimation. Association for Computational Linguistics, 19(2):263–312, 1993.
[2] Eugene Charniak and Mark Johnson. Coarse-to-finen-best parsing and maxent discriminative reranking.
In Proceedings of the 43rd Annual Meeting of theAssociation for Computational Linguistics (ACL’05),
pages 173–180, Ann Arbor, Michigan, June 2005.
[3] Declan Groves, Mary Hearne, and Andy Way. Robust
sub-sentential alignment of phrase-structure trees. In
Proceedings of the 20th International Conference on
Computational Linguistics, pages 1072–1078, 2004.
[4] Sadao Kurohashi and Makoto Nagao. A syntactic
analysis method of long Japanese sentences based onthe detection of conjunctive structures. Computational Linguistics, 20(4):507–534, 1994.
[5] Sadao Kurohashi, Toshihisa Nakamura, Yuji Matsumoto, and Makoto Nagao.
Improvements ofJapanese morphological analyzer JUMAN. In Proceedings of The International Workshop on Sharable
Natural Language, pages 22–28, 1994.
[6] Arul Menezes and Stephen D. Richardson. A bestfirst alignment algorithm for automatic extraction oftransfer mappings from bilingual corpora. In Proceedings of the 39th Annual Meeting of the Association for Computational Linguistics (ACL) Workshop
on Data-Driven Machine Translation, pages 39–46,
2001.
[7] Franz Josef Och and Hermann Ney. A systematiccomparison of various statistical alignment models.
Association for Computational Linguistics, 29(1):19–51, 2003.
[8] Kiyotaka Uchimoto, Yujie Zhang, Kiyoshi Sudo,
Masaki Murata, Satoshi Sekine, and Hitoshi Isahara.
Multilingual Aligned Parallel Treebank Corpus Reflecting Contextual Information and Its Applications.
In Proceedings of the MLR2004: PostCOLING Workshop on Multilingual Linguistic Resources, pages 63–70, 2004.