A

平成 20 年度 AAMT/Japio 特許翻訳研究会
報

告書

機械翻訳及び辞書構築に関する研究

平成 21 年 3 月

財団法人 日本特許情報機構

目次

１． はじめに ......................................................................................................................................... 1
辻井 潤一

東京大学・AAMT／Japio 特許翻訳研究会委員長

２． 機械翻訳の評価手法
２．１ NTCIR-7 データを用いた機械翻訳自動評価規準のメタ評価 ......................................................... 2
越前谷 博

北海学園大学江原 暉将

諏訪東京理科大学

下畑 さより沖電気工業(株)

藤井 敦

筑波大学

内山 将夫

(独)情報通信研究機構

山本 幹夫

筑波大学

宇津呂 武仁

筑波大学

神門 典子

国立情報学研究所

２．２ 文分解法によるコーパス規模と Bleu 値との関係........................................................................ 14
宮澤 信一郎

秀明大学

岡田 勇

創価大学

３． 翻訳辞書の自動構築
３．１ 専門用語抽出アルゴリズムを用いた対訳コーパスからの対訳辞書の自動生成.............................. 23
範 暁蓉

東京大学

中川 裕志

東京大学

二宮 崇

東京大学

３．２ 第 3 言語を介した対訳辞書の構築 .............................................................................................. 30
梶 博行

静岡大学

３．３ 対訳特許文書からの専門用語対訳辞書生成：機械学習による異種情報源の統合 .......................... 41
森下 洋平

筑波大学

山本 幹雄

筑波大学

宇津呂 武仁筑波大学

３．４ 対訳辞書および日中漢字の対応関係を用いた特許文書における専門用語の中日翻訳 ................... 52
王 向莉

東京大学

辻井 潤一

東京大学

綱川 隆司

東京大学

４． 翻訳テキストのアラインメント
句の依存関係確率モデルを用いた統計的対訳文アラインメント .................................................. 58
中澤 敏明

京都大学

黒橋 禎夫

京都大学

５． 特許文の構造的な特徴と構文解析
特許文への構文解析適応 ............................................................................................................ 65
横山 晶一

山形大学

i

AAMT／Japio 特許翻訳研究会委員名簿（敬称略・順不同）
委 員 長

辻井 潤一

東京大学大学院教授・AAMT 前会長

副委員長

横山 晶一

山形大学大学院教授

〃

江原 暉将

諏訪東京理科大学教授

宮澤 信一郎秀明大学教授〃梶静岡大学教授〃

黒橋 禎夫

京都大学大学院教授〃

宇津呂

筑波大学大学院准教授

〃

二宮 崇

東京大学講師〃橋本 力

山形大学大学院助教・(独)情報通信研究機構

〃

越前谷

〃

隅田 英一郎(独)情報通信研究機構・(株)国際電気通信基礎技術研究所

〃

熊野 明

(株)東芝

〃

下畑 さより沖電気工業(株)〃潮田 明(株)富士通研究所〃

三浦 貢

日本電気(株)

事 務 局

村上 嘉陽

AAMT/Japio 特許翻訳研究会東京事務局・(株)ナビックス

〃

河田 容英

〃

〃

〃

高田 佳代子〃〃

オブザーバー中川 裕志

東京大学教授〃安藤 進

多摩美術大学講師〃

綱川 隆司

東京大学大学院

〃

星野 綾子

〃

〃

範

暁蓉

〃

〃

王

向莉

〃

〃

守屋 敏道

〃

渡邊 豊英

〃

〃

藤城 享

〃

〃

塙

金治

〃

〃

大塩 只明

〃

〃

三橋 朋晴

〃

〃

柿田 剛史

〃

〃

星山 直人

〃

委

員

博行

武仁

博

北海学園大学助教(財)日本特許情報機構

ii

〃

１． は

じ

め

に

東京大学大学院情報理工学系研究科 教授
マンチェスター大学コンピュータ科学科 教授(兼任)
AAMT/Japio 特許翻訳研究会委員長
辻井潤一

機械翻訳の研究・開発には、５０年にわたる長い歴史がある。非常に楽観的にその可能性が議論されたれた時期、逆に悲観的な見解の時期、ほとんどの研究・開発が中断された時期という、両極を行き来しながら、やっと、技術の客観的な評価ができる時期に来たように思える。現在は、機械翻訳の可能性といったことが議論されることはなく、技術をどのように使って全体の翻訳コストを低減するかに議論が集中するようになった。この中で、特許翻訳というのは使用目的が明確で、かつ、市場価値も明らかであるという点で、技術の格好の適用分野となっている。
実際、多言語社会のヨーロッパでは、翻訳は特許業務の主要な部分を占めており、デンマーク
では、特許のための機械翻訳を運用することでコストを軽減し利益を上げている会社もある。
多言語社会とは無縁であったアジアでも、中国や韓国の台頭により、特許における翻訳の問題が注目を浴びている。この地域では、英語を中間においた多言語状況が続くと思われるが、経済規模の拡大とそれに伴う技術開発の活発化とともに、英語を中核にしながらも、地域内での技術情報の交流が進んでいる。
このような状況のもとで、AAMT (アジア太平洋機械翻訳協会)の特許翻訳研究は、Japio(日本
特許情報機構)からの委託をうけ、本年度も８回にわたって活発な研究調査活動を行った。本年度は、単なる調査の段階から、より技術的な焦点を明確にした研究活動を展開し、Japio からの提供された辞書、テキストコーパスを大学、研究機関、民間企業の研究グループがそれぞれのシス
テムで処理することで、独創的な研究活動が展開できたことであろう。また、本研究会と並行して行われた国立情報学研究所主催の NTCIR の機械翻訳システムのコンペティションと緊密な連携をとることで、研究会メンバーの範囲を超えて広い範囲の調査活動を行うことが可能となった。
具体的には、NTCIR でのシステム評価の結果を参考にして、翻訳の質を定量的に評価するための手法に関して、調査と具体的な提言をまとめたこと、特許翻訳への統計的翻訳手法の適用、専門用語辞書の半自動的な構築手法、より柔軟な訳語の選択機構に向けての予備実験を行った。これらは、現在の統計的機械翻訳の主流となっている米国の研究開発と比べても、独創的な観点を持つものであり、今後の発展が期待できるものである。
本研究会は、平均月１回のペースで委員会に属する委員が各グループでの研究成果や知見をもちよる形で活動している。したがって、委員会独自に大規模な研究開発を実施するものではない
が、日本における主要な機械翻訳グループからの委員が参集する本研究会は、日本における機械翻訳研究、特に特許翻訳に独自の貢献をするものと期待している。本報告書は、平成２０年度の調査研究の成果をまとめたものである。諸賢のご意見、ご批判をいただければ幸いである。

1

２．１

NTCIR-7 データを用いた機械翻訳自動評価基準のメタ評価
北海学園大学 越前谷 博
諏訪東京理科大学 江原暉将

沖電気工業株式会社 下畑 さより
筑波大学大学院

藤井敦（独）情報通信研究機構

内山将夫

筑波大学大学院山本幹雄

筑波大学大学院宇津呂

国立情報学研究所 神門

武仁典子

2.1.1 はじめに
現在の情報化社会において不可欠な機械翻訳の普及を背景に、機械翻訳システムに対する自動評価基準へのニーズが高まっている。今日、業界標準となっている自動評価基準として BLEU[1]が挙げられる。BLEU は人手による主観評価との間で高い相関が得られることが知られている。
しかし、BLEU は複数の文からなるドキュメント単位での使用を前提としており、文単位での自動評価においては信頼性が不十分であることが問題点として指摘されている。ドキュメント単位
において高い相関が得られたとしても、その中の個々の文において十分な相関が得られないということは、人間が行う言語処理とは大きな隔たりが存在していることを意味する。そこで、我々は、今後、より信頼性の高い自動評価基準を実現する上で、既存の自動評価基準がどれほどの性能を有するのかを把握することは非常に重要であるとの考えから、文単位での自動評価の観点よ
り、NTCIR-7 データを用い、これまでに提案されている代表的な機械翻訳自動評価基準のメタ評価を行った。本報告ではその結果について詳細を報告する。NTCIR-7 データに関しては[2]を参照されたい。
2.1.2 翻訳評価基準
今回使用した機械翻訳自動評価基準を以下に示す。
・ IMPACT(recursive acquisition of Intuitive comMon PArts ConTinuum) [3]・ ROUGE-L(Recall-Oriented Understudy for Gisting Evaluation)[4]・ BLEU(Bilingual Evaluation Understudy)
・ NIST(National Institute of Standards and Technology)[5]・ NMG_REF(Normalized Mean Grams)[6]・ NMG_COR[7]・ Charniak score[7]・ WN
・ NMG_WN・ METEOR(Metric for Evaluation of Translation with Explicit ORdering)[8]2

・ GTM(General Text Matcher)[9]・ WER(Word Error Rate)[10]・ PER(Position Independent Word Error Rate)[11]
これらの 13 の自動評価基準について、それぞれその概略を以下に述べる。
2.1.2.1 IMPACT
IMPACT は大きく 2 つの処理からなる。始めに、2 つの文 X、Y の間の LCS（最長共通部分列）を一意に決定する。次いで、一意に決定された LCS を除き、2 つの文 X、Y の間の LCS を再帰的に決定することでスコアを求める。LCS の一意の決定処理は、複数の LCS 経路が存在する場
合、以下の式(2.1.1)、(2.1.2)より得られるスコアが最も高い LCS 経路を選択することで行う。

pos

posX
m

(1.0 |

posY|) 1.0n(2.1.1)

1

Score

(

(length(c)pos ))(2.1.2)c LCS

式(2.1.1)の pos は LCS 経路を構成する共通部分の 2 つの文 X と Y 中における相対位置のずれを示し、値が大きいほどずれが小さいことを意味する。式(2.1.2)の Score は個々の共通部分の構
成単語数の大きさと式(2.1.1)の pos に基づき決定される。したがって、式(2.1.1)と式(2.1.2)より共通部分の相対位置のずれが小さく、かつ、共通部分の構成単語数が大きい LCS 経路が選択されることになる。式(2.1.1)の m、n はそれぞれ、参照訳の単語数と MT 訳の単語数である。
上述した処理より決定された LCS を除き、2 つの文 X、Y の間に LCS が存在しなくなるまで
再帰的に LCS を決定する。そして、以下の式よりスコアを計算する。
1
RN

RI P

i 0

(

i
c CC

length(c ) )(2.1.3)

m
1
RN

PI P

IP( X , Y )

i 0

(

i
c CC

length(c) )n(1 2 ) R IP PIP
2
RIP
PIP
PIP
RIP

(2.1.4)(2.1.5)(2.1.6)式(2.1.3)、(2.1.4)の i は再帰処理の回数をカウントする際に用いられる。また、式(2.1.3)、(2.1.4)では、一意に決定された LCS を CC で表す。LCS が存在しなくなった時点でカウントは終了する。
c は LCS を構成する個々の共通部分であり、length(c)は共通部分の構成単語数を示している。
パラメータα(0.0＜α≦1.0)は個々の CC に対する重み付けであり、値が小さいほど語順の違いがスコアに反映れることになる。パラメータβ(1.0≦β)は個々の共通部分の構成単語数に対する重3

み付けであり、値が大きいほど共通部分が個々に独立して存在する場合よりも連続して存在する
場合の方がスコアは高くなる。式(2.1.5)、(2.1.6)より参照訳と MT 訳においてそれぞれ RIP（再現率）、PIP（適合率）を求め、その F 値を自動評価のスコアとしている。また、IMPACT が出力するスコアは大きいほど評価が良い。
2.1.2.2 ROUGE-L
ROUGE-L は、2 つの文 X と Y の間の LCS（最長共通部分列）に基づく評価基準である。LCSの値に対して参照訳の単語数と MT 訳の単語数を用いて正規化することにより再現率と適合率を求める。そして、その再現率と適合率の F 値を求め、その値をスコアとする。ROUGE-L が出力するスコアは大きいほど評価が良い。

Rlcs

LCS ( X , Y )m(2.1.7)

Plcs

LCS ( X , Y )n(2.1.8)Flcs

2(1) Rlcs Plcs
Rlcs
2 PlcsPlcs
Rlcs(2.1.9)(2.1.10)2.1.2.3 BLEU
BLEU は最も多く利用されている自動評価基準である。BLEU は以下の式の通り、n-gram マ
ッチ率に基づく手法である。
N

BLEU

BP expwn log p n(2.1.11)

n 1

wn

pn

i

1/ N

(2.1.12)

翻訳文中iと参照訳iで一致したn gram数
翻訳文iの中の全n gram数i(2.1.13)式(2.1.11)の BP は MT 訳が参照訳よりも短い場合のペナルティとなっている。また、BLEU は
文単位ではなくドキュメント単位での使用を前提としているため、本実験におけるメタ評価で使用する BLEU では、文単位で使用するための変更を行っている。すなわち、pn=0 の場合には
BLEU=0 となってしまうため、pn≠0 であるような最大の n をＮとして使用している[12]。BLEUが出力するスコアは大きいほど評価が良い。
2.1.2.4 NISTNIST は BLEU と同様に n-gram マッチ率を用いた手法であるが、以下の式で計算される情報量で重み付けしている点が異なる。また、ペナルティ関数も BLEU のペナルティ関数と異なっている。NIST が出力するスコアは大きいほど評価が良い。

4

Info (w1

i

N

NIST

BP

i
翻訳文i と参照訳iに共通するw1 wn

翻訳文i中の全n

n 1

wn )
gram数

(2.1.14)iInfo( w1

wn )

log 2

評価コーパス中のw1 wn 1数
評価コーパス中のw1 wn 数

(2.1.15)

2.1.2.5 NMG̲REF、NMG̲COR
NMG は以下の式で求められ、構文的自然性に着目している点で他の n-gram マッチ率を用いる
評価基準とは異なっている。NMG_REF は参照訳を用いた場合を示し、NMG_COR は大規模な目的言語コーパスを用いた場合の NMG である。また、以下の式(2.1.16)にある grams(wi)は使用
コーパス中に存在する最大の gram 数である。NMG が出力するスコアは大きいほど評価が良い。

NMG (C )nlog e (

i 1

grams ( wi ) / n)

(2.1.16)

2.1.2.6 Charniak score
Charniak score は構文解析ツール Charniak parser が出力する第 1 候補の評価値をその文の構成単語数で割った値をスコアに用いた評価基準である。Charniak score が出力するスコアは小さいほど評価が良い。
2.1.2.7 WN
WN は文の構成単語数そのものをスコアに用いた評価基準である。長文は翻訳精度が悪くなる
傾向があり、WN が出力するスコアは小さいほど評価が良い。
2.1.2.8 NMG̲WN
NMG_WN は上述した NMG_REF、NMG_COR、そして、WN を以下の式に示すように組み合わせた評価基準である。NMG_WN が出力するスコアは大きいほど評価が良い。

NMG _ WN

NMG _ REF

NMG _ COR 0.05 WN(2.1.17)2.1.2.9 METEORMETEOR は、再現率 R と適合率 P に基づく F 値に対して単語の非連続性に対するペナルティ関数 Pen を利用した評価基準である。式(2.1.19)のペナルティ関数 Pen にある m は MT 訳と参照
訳との間で一致した単語数であり、c は一致した各単語を対象として語順が同じものを一つのチ
ャンクとして統合した場合のチャンク数である。したがって、MT 訳と参照訳が完全一致の場合には c=1 となり、語順が全て逆の場合には c=m となる。α、β、γの値はパラメータである。

P R
P (1
) R

F
Pen

(c / m)METEOR(1 Pen) F(2.1.18)(2.1.19)5(2.1.20)

また、本実験でのメタ評価で使用する METEOR では、マッチングモジュールとして、完全一致、porter stemmer による stemming、WordNet による類義語に基づくマッチングを使用している。METEOR が出力するスコアは大きいほど評価が良い。
2.1.2.10

GTM

GTM は以下の式(2.1.21)の size(M)に基づく再現率と適合率の F 値を用いてスコアリングを行う評価基準である。GTM ではチャンクのサイズがスコアに反映されることになる。GTM が出力するスコアは大きいほど評価が良い。

size ( M )length(r ) ee(2.1.21)

r M

2.1.2.11

precisionsize( M )|C|

(2.1.22)

recallsize ( M )|R|(2.1.23)WER

WER は音声認識の分野で利用されている評価指標であり、以下の式の通り、編集距離に基づき
スコアリングを行う。WER が出力するスコアは小さいほど評価が良い。

WER(挿入語数i 削除語数i 置換語数i)i

参照訳iの語数(2.1.24)i

2.1.2.12

PER

PER は bag-of-words として WER を計算する評価基準である。したがって、語順の制約は考慮されない。PER が出力するスコアは小さいほど評価が良い。

PER 1

翻訳文iと参照訳i間の一致語数i

参照訳iの語数
i(2.1.25)

2.1.3 性能評価実験
2.1.3.1 実験データ
MT 訳には、NTCIR-7 の 15 グループによる機械翻訳システムがそれぞれ特許翻訳文を日英翻訳した訳文 100 文を用いた。表 2.1.1 にそれぞれのグループ名と機械翻訳システムの手法の一覧を示す。表中の SMT は統計ベース翻訳、RBMT はルールベース翻訳、EBMT は用例ベース翻訳
をそれぞれ意味する。また、本実験での全訳文に対する参照訳は 1 つである。
表 2.１.1 グループ名とその手法
Group

tori

FDU-MCandWI

HIT2

JAPIO

KLE

手法

SMT

SMT

SMT

RBMT

SMT SMT

Group

NTNU

NTT

TH

Kyoto-U

MIBEL

Moses

tsbmt

手法

SMT

SMT

SMT

EBMT

SMT

SMT

RBMT

6

MIT

NAIST-NTT

NiCT-ATR

SMT

SMT

人手による主観評価は全訳文（英文）を Adequacy と Fluency の観点より 3 名が 5 段階評価で行った。そして、それぞれの MT 訳において、3 名の評価のメジアンを最終的な人手による主観評価の値として用いた。
2.1.3.2 評価方法
13 の機械翻訳評価基準に対する性能評価には、ピアソンの相関とスピアマンの順位相関を用いた。自動評価基準が出力した文単位のスコアと人手による Adequacy の主観評価の間の相関、自動評価基準が出力した文単位のスコアと人手による Fluency の主観評価の間の相関をピアソンの相関とスピアマンの順位相関を用いてそれぞれ求めた。
2.1.3.3 実験結果
今回行った 13 の自動評価基準における実験結果を表 2.1.2 から表 2.1.5 に示す。表 2.1.2 は自動評価基準によるスコアと人手の主観評価との Adequacy におけるピアソンの相関係数を示している。表 2.1.3 は自動評価基準によるスコアと人手の主観評価との Fluency におけるピアソンの相関係数を示している。また、表 2.1.4 は自動評価基準によるスコアと人手の主観評価との
Adequacy におけるスピアマンの順位相関係数を示している。表 2.1.5 は自動評価基準によるスコ
アと人手の主観評価との Fluency におけるスピアマンの順位相関係数を示している。
表中の相関係数は全て絶対値を用いている。相関係数は値が高いほど、自動評価基準のスコアと人手評価の間の相関が高いことを示している。表の 1 列目はメタ評価に用いた機械翻訳自動評
価基準の名称を記している。表中の“Charniak”は“Charniak score”を指している。表の 1 行
目には 15 のグループ名を記している。その際、各グループにおける相関係数は、MT 訳 100 文に対する自動評価のスコアと人手評価との相関係数である。表 1 行目の“Avg.”は 15 グループの相関係数の平均である。また、“All”は 15 グループの全 MT 訳 1,500 文に対する自動評価のスコアと人手評価との相関係数である。自動評価基準の比較については、列単位で相関係数を比べる。
列ごとに、最も高い相関係数には下線を引き、2 番目に高い相関係数は斜体で表記している。
表 2.1.2 と表 2.1.4 の“NTNU”の相関係数が空欄となっている。これは、“NTNU”における人手による 5 段階評価が全て同じ値であったため、表 2.1.2 のピアソンの相関係数、表 2.1.4 のス
ピアマンの順位相関係数共に相関係数を得られなかったことによる。したがって、表 2.1.2 と表
2.1.4 については、“Avg.”は“NTNU”を除いた 14 グループの平均となっている。
“All”については、“NTNU”も含んだ相関係数となっている。

7

表 2.1.2 自動評価基準によるスコアと人手評価との Adequacy におけるピアソンの相関係数
FDU

Ade

tori

MCandWI

HIT2

JAPIO

KLE

MIT

NAIST

NiCT

-NTT

-ATR

IMPACT

0.67650.3461

0.39240.43190.46170.4796

0.5336 0.6861

ROUGE-L

0.66020.30750.37410.43050.42540.43900.48770.6679BLEU

0.56650.27470.19180.23190.38520.28920.47290.5214NIST

0.43130.15340.18840.21240.22470.13030.24250.3635

NMG-REF

0.43620.14170.00380.20240.20860.18470.22090.4469NMG-COR0.02910.13160.08990.27420.12470.00490.08970.0229Charniak0.13580.13970.06250.00270.12880.11180.14630.0467WN

0.50030.29950.31220.43170.36840.4586

0.4886

0.4227

NMG-WN

0.66520.3632

0.23640.57460.44000.43950.53540.5396

METEOR

0.38980.19660.14120.26300.22750.20600.26170.4393GTM

0.40940.18940.17230.30880.16780.1887

0.23670.3692WER

0.66300.32150.37150.39180.4166

0.35370.44220.6518PER

0.3351

0.09830.10020.16880.13700.11680.18430.3617

Ade

NTT

TH

Kyoto-U

MIBEL

Moses

tsbmt

Avg.

All

IMPACT

0.63500.49390.62180.50070.71490.52620.53570.6270ROUGE-L

0.61060.46030.60970.47000.70430.51540.5116

0.6171BLEU

0.49880.22760.45950.42640.53040.35930.38830.4522NIST

0.45170.30050.37550.21280.29740.38770.28370.4183

NMG-REF

0.36070.2287

0.33250.17980.35850.27240.2556

0.4110NMG-COR0.04030.22210.1994

0.09600.10230.29080.12270.1696

Charniak

0.05860.24020.1741

0.24230.08470.05770.1166

0.2726WN

0.52110.35600.42680.55580.51540.45650.43670.3622

NMG-WN

0.57150.48680.5191

0.2376

0.59190.56030.48290.4942

METEOR

0.41420.02710.44530.30870.34110.44750.29350.4489GTM

0.41740.30490.43810.23020.27880.36750.29140.4253WER

0.57630.42380.56840.45000.69750.44950.48410.5660PER

0.30280.1922

0.39240.11740.23070.30180.21710.37388NTNU

表 2.1.3 自動評価基準によるスコアと人手評価との Fluency におけるピアソンの相関係数
FDU-

Flu

tori

MCandWI

HIT2

JAPIO

KLE

MIT

NAIST

NiCT

-NTT

-ATR

NTNU

IMPACT

0.54550.23800.30870.44780.38040.51130.48760.70940.0457

ROUGE-L

0.53720.20270.27840.43950.3506

0.48330.44810.70390.0361BLEU

0.41530.27090.19750.28310.31350.36940.3746

0.53530.1669NIST

0.40380.05390.04030.28950.24410.30640.27900.45130.0052

NMG-REF

0.33330.04540.05070.28350.19690.29290.22340.56250.0396

NMG-COR

0.01240.02060.07780.25390.14710.12900.02320.03760.2062Charniak0.08140.02030.06030.02840.13870.07540.04090.02170.2538WN

0.47300.33050.29740.3371

0.39230.35710.44500.33130.1461

NMG-WN

0.57410.23210.25300.5326

0.46380.48480.43980.55650.1904

METEOR

0.37500.10400.0986

0.33910.2131

0.3626

0.24810.54070.0116GTM

0.40030.05670.02640.33370.24330.32090.23200.44930.0634WER

0.48620.20190.27170.35840.30230.34490.42390.66870.0226PER

0.32810.01550.02000.20980.17020.21550.14930.42400.0170

Flu

NTT

TH

Kyoto-U

MIBEL

Moses

tsbmt

Avg.

All

IMPACT

0.50480.4706

0.56910.27590.57510.42320.43290.6035

ROUGE-L

0.49090.42750.57300.25750.56820.41340.41400.5986BLEU

0.46340.34710.38450.19900.41590.35970.33970.4412NIST

0.40050.29210.31120.16010.31280.3996

0.2633

0.4815

NMG-REF

0.34080.27580.27280.13140.32210.30940.24540.4819NMG-COR

0.02110.2776

0.19500.2536

0.09890.30450.1372

0.2362Charniak

0.08730.23460.08800.11780.01340.02250.0856

0.3119WN

0.38390.35140.42480.44130.47720.27700.36440.3076

NMG-WN

0.43450.5342

0.48760.00490.54530.46180.41300.5372

METEOR

0.29120.17530.36210.1461

0.34210.34910.26390.5091GTM

0.37450.32400.35940.19920.30750.3756

0.27110.5018WER

0.49340.41220.5326

0.26730.55670.36650.38060.5151PER

0.28740.23250.32200.02740.2566

0.32840.20020.44889

表 2.1.4 自動評価基準によるスコアと人手評価との Adequacy におけるスピアマンの順位相関係数
FDU-

Ade

tori

MCandWI

HIT2

JAPIO

KLE

MIT

NAIST

NiCT

-NTT

-ATR

IMPACT

0.60730.31150.41380.4616

0.39110.43490.47220.6011ROUGE-L

0.58090.2786

0.39750.43710.34720.38530.40800.5908BLEU

0.48680.29410.20160.3056

0.27270.23970.38670.4567NIST

0.35910.17850.1952

0.23490.1436

0.11380.18430.3631

NMG-REF

0.33070.18820.00260.25400.11720.16690.17640.3845

NMG-COR

0.11530.10370.06420.23550.13310.0012

0.09780.0061Charniak0.17570.17720.08990.01690.18920.10790.18750.1083WN

0.5586

0.32240.38210.31780.38430.48470.51060.5009NMG-WN

0.67210.35630.31690.54880.40300.4241

0.52880.5390METEOR

0.36700.17370.18130.28100.16810.19790.19160.4326GTM

0.35710.20710.20770.32730.11950.18880.19740.3636WER

0.55300.26800.37900.38790.32650.30520.34500.5234PER

0.2726

0.09660.08440.17150.11460.14370.13650.3512

Ade

NTT

TH

Kyoto-U

MIBEL

Moses

tsbmt

Avg.

All

IMPACT

0.62840.43600.60930.47100.69260.57080.50730.6167

ROUGE-L

0.59330.40320.59820.44100.68380.53360.47700.6003BLEU

0.46620.20040.44390.34520.47020.36610.35260.4247NIST

0.43540.32290.33810.16540.2721

0.34890.26110.3874

NMG-REF

0.30320.17310.31180.1476

0.29610.27040.22310.3644

NMG-COR

0.00570.23460.21290.12010.02090.2346

0.11330.1791Charniak0.03380.25940.16530.26290.07610.01590.13330.2502WN

0.55840.36980.41620.62900.5504

0.39660.45580.3725

NMG-WN

0.58890.52040.5031

0.48840.58230.5716

0.5031

0.5114

METEOR

0.43020.17760.45350.30020.3304

0.4686

0.29670.4378GTM

0.39800.29690.39520.19080.2511

0.34810.27490.3861WER

0.52850.31370.52000.44030.6666

0.45620.42950.5240PER

0.30640.19280.33110.08460.2286

0.28690.20010.333510NTNU表 2.1.5 自動評価基準によるスコアと人手評価との Fluency におけるスピアマンの順位相関係数
FDU-

Flu

tori

MCandWI

HIT2

JAPIO

KLE

MIT

NAIST

NiCT

-NTT

-ATR

NTNU

IMPACT

0.55130.24500.29040.46050.33530.48000.4226

0.65170.0802

ROUGE-L

0.52750.21050.27120.43190.29540.43440.38120.64550.0701BLEU

0.39840.26400.19020.31300.2636

0.35920.28070.49350.1543NIST

0.37720.08390.03560.24300.18930.29240.24760.44850.0132

NMG-REF

0.27450.04580.03330.27180.11140.28590.20200.54700.0305

NMG-COR

0.09600.04550.11150.26410.13730.11970.03560.00850.1768Charniak

0.05720.07250.04560.03240.20450.0736

0.06880.0021

0.1980WN

0.46450.3051

0.32240.30580.39930.34210.46530.35030.1737

NMG-WN

0.55330.24070.28580.55360.45030.46170.4496

0.52150.2163

METEOR

0.36910.10250.11550.34430.18630.36050.20200.53430.0132GTM

0.38830.10480.02940.28400.19510.30770.20880.44020.0701WER

0.43440.14290.22890.35670.24030.2932

0.34320.60490.0731PER

0.30090.00080.03730.14010.15270.21220.13480.41180.0305

Flu

NTT

TH

Kyoto-U

MIBEL

Moses

tsbmt

Avg.

All

IMPACT

0.47070.37470.61330.27580.62120.45540.42190.5953

ROUGE-L

0.45650.32880.60500.26220.61580.41350.3966

0.5793BLEU

0.45920.28310.42910.13090.42020.40290.32280.4447NIST

0.42840.2766

0.29150.0916

0.31100.40790.24920.4339NMG-REF

0.31540.20070.27410.07470.3066

0.33270.2204

0.4167

NMG-COR

0.06740.22920.17650.3396

0.05780.27370.1426

0.2199Charniak0.10830.18970.11800.04900.0507

0.05340.08830.2266WN

0.35190.32840.38190.47830.46100.29020.36130.3098NMG-WN

0.44570.51490.48380.18480.56700.48380.42750.5159

METEOR

0.31330.22620.35390.15650.34170.38510.26700.4616GTM

0.38350.29850.32330.13640.30640.3906

0.25780.4307WER

0.4557

0.27670.52350.2786

0.60350.32820.3456

0.4934PER

0.32380.2097

0.27110.0076

0.26750.33040.18870.374811

2.1.4 まとめと今後の予定
実験結果より、得られた相関係数には大きなばらつきが見られる。例えば、表 2.1.2 において、最も高い相関係数は、“Moses”における“IMPACT”の 0.7149 である。 それに対して、“FDU-MCandWI”では、最も高い相関係数を示した“NMG-WN”でも 0.3632 であった。同様な傾向は表 2.1.3 から表 2.1.5 にも見られた。したがって、今後は安定した、かつ、より高い相関係数を得るための自動評価基準の実現に向けた研究を行う予定である。
また、今回のメタ評価では、使用した参照訳の数が全 MT 訳において 1 つのみであったため、複数の参照訳を用いた際のメタ評価を行う予定である。
謝辞
この研究は国立情報学研究所との共同研究に関連して行われた。
参考文献[1] Papineni, Kishore., Roukos, Salim., Ward, Todd. and Zhu, Wei-Jing. BLEU: a Method forAutomatic Evaluation of Machine Translation, Proceedings of 40th Annual Meeting of the
Association for Computational Linguistics, pp.311-318, 2002.
[2] Fujii, Atsushi., Utiyama, Masao., Yamamoto, Mikio. and Utsuro, Takehito. Overview of the
Patent Translation Task at the NTCIR-7 Workshop. Proceedings of the 7th NTCIR
Workshop Meeting on Evaluation of Information Access Technologies: Information
Retrieval, Question Answering and Cross-lingual Information Access, pp.389-400, 2008.
[3] Echizen-ya, Hiroshi. and Araki, Kenji. Automatic Evaluation of Machine Translation
based on Recursive Acquisition of an Intuitive Common Parts Continuum, Proceedings ofthe Eleventh Machine Translation Summit, pp.151-158, 2007.
[4] Lin, Chin-Yew. and Och, Franz Josef. Automatic Evaluation of Machine Translation
Quality Using Longest Common Subsequence and Skip-Bigram Statistics, Proceedings ofthe 42th Annual Meeting of the Association for Computational Linguistics, pp.606-613,
2004.
[5] NIST. Automatic Evaluation of Machine Translation Quality Using N-gram Co-Occurrence
Statistics, 2002, http://www.nist.gov/speech/tests/mt/doc/ngram-study.pdf[6] Ehara, Terumasa. Rule Based Machine Translation Combined with Statistical Post Editor
for Japanese to English Patent Translation, Proceedings of the Eleventh MachineTranslation Summit Workshop on Patent Translation, pp.13-18, 2007.
[7] 江原暉将. 句レベルの統計的後編集と翻訳精度の評価, 平成 19 年度 AAMT/Japio 特許翻訳研
究会報告書, pp.2-14, 2008.
[8] Banerjee, Satanjeev., and Lavie, Alon. METEOR: An Automatic Metric for MT Evaluation
with Improved Correlation with Human Judgments, Proceedings of the ACL Workshop on
Intrinsic

andExtrinsic

Evaluation

Measures12forMachineTranslation

and/orSummarization, pp.65-72, 2005.
[9] Turian, Joseph P., Shen, Like. and Melamed, I. Dan. Evaluation of Machine Translationand its Evaluation, Proceedings of the 11th Machine Translation Summit, pp.386-393,
2003.
[10] Leusch, Gregor., Ueffing, Nicola. and Ney, Hermann. A Novel String-to-String Distance
Measure With Applications to Machine Translation Evaluation, Proceedings of the 9th
Machine Translation Summit, pp.240-247, 2003.
[11] Su, Keh-Yih., Wu, Ming-Wen. and Chang, Jing-Shin. A New Quantitative Quality
Measure for Machine Translation Systems, Proceedings of the 14th International
Conference on Computational Linguistics, pp.433-439, 1992.
[12] 江原暉将. 新しい機械翻訳自動評価基準を目指して, 平成 18 年度 AAMT/Japio 特許翻訳研
究会報告書, pp.2-11, 2007.

13

２．２

文分解法によるコーパス規模と Bleu 値との関係1
秀明大学

宮澤

創価大学 岡田信一郎
勇

2.2.1 はじめに機械翻訳システムに大規模コーパスを用いる手法が提案されているが、その翻訳品質に対しては、多くの課題が残っている。しかし、現実にはコーパスを用いた機械翻訳の重要性が高まるにつれてある程度の品質をどのように保証するかは喫緊の課題となっている。特に、コーパスの規模と翻訳性能との関係について理解することは集めるべきコーパスの量に関する見通しを与えてくれるなど、重要な知見をもたらすだろう。
そのため本研究では、コーパスの規模とそれに基づく機械翻訳システムの品質評価について議論することにしたい。機械翻訳の品質には大きく人手評価と自動評価に分かれるが、人手評価には莫大なコストと時間がかかるため、自動評価でいかに正確な品質評価が可能であるかについて研究が進められてきている。さらに、隅田(2005) は Bleu の提案によって機械翻訳研究には自動評価結果を示すことが当然視されている現状を指摘している。つまり、規模に対応した品質の大まかな見通しを与えるためには、自動評価でどのくらいの性能を測定できるかが重要となる。そこで、品質を自動評価する方法について議論する。
自動評価とは、あらかじめ正解文が設定されている場合では、正解文と翻訳文との類似性に基づいて品質を評価するのが一般的である。本研究では n-gram を用いた類似性指標を用いた文分解法と名づけた自働評価手法について提案する。
ところで、類似性指標は文単位の評価を計測するものであって、それらを集約して翻訳システ
ムの性能をどう評価するのであろうか。内元(2003)や吉岡(2005) では、交差検証法(n-fold crossvalidation) が性能評価の方法として使用されている。これは、対象となるデータセットを n 分割し、そのうちの１分割を残りのデータセットから推定した時の誤差を全ての分割に対して集め、その自乗和平均を取ることでデータセットの評価を行う手法である。本研究ではこれを参考に、
修正交差検証法と名づけた新たな方法を提案する。
我々は、日英対訳特許文書から生成されたコーパスを用いる。内山(2007) は、特許の機械翻訳が日英・英日の機械翻訳の対象として適切であると主張している。また、森下(2008) は対訳特許
文から専門用語辞書を半自動獲得する手法について新たな手法を提案している。このように日英対訳特許文は機械翻訳研究に良く用いられている。さらに、特許という対象の実用性からも、機械翻訳の性能とコーパスの規模との関係を議論することは有益である。
我々は、機械翻訳の性能とコーパスの規模との関係に関する見通しを持つために、全てのコーパス文書対の類似度を効率的に計算することにした。本研究では、大規模なコーパス文書対の全

この報告は、岡田勇，宮澤信一郎，大規模コーパスの効率的な Bleu 値計算方法の提案，情報処理学会研究報告，2009-NL-189-(1), 1-6、がオリジナルである。
1

14

ての組み合わせに対する Bleu 値を計算するための効率的な手法を提案し、その実行結果について報告する。
２節では、本研究の翻訳品質の評価指標に関する議論を整理し、Bleu ならびにそれを構成する
n-gram を基本としたコーパス性能の評価法について検討する。３節では、提案手法の詳細を説明する。４節では、研究対象と提案手法を実装した結果について報告する。５節では、結果について議論し、本研究をまとめる。
2.2.2 翻訳品質の評価法
翻訳品質をどう評価するのかについては多くの研究がある。このうち、自動評価手法としては、
あらかじめ正解文が設定されている場合では、正解文と翻訳文との類似性に基づいて品質を評価するのが一般的である。ここでは翻訳品質の評価法として個々の文についての類似性評価の方法と、それを全体として集約する方法について議論する。
2.2.2.1 類似性の評価
類似性を表す指標としては、Papineki(2002) の Bleu 値をはじめ多くが提案されており、それらの性能についても多くの研究がある。今村(2004) は、機械翻訳の品質評価について複数の評価指標を比較しており、「完全訳を重視した場合、BLEU, WER の効果が高く、理解可能訳を重視した場合、WER,NIST の効果が高」いとの知見を得ている。岸田(2006) は、Bleu 以外に、WAMUという指標を定義し、それらを用いて言語横断検索の性能を回帰モデルで予測する方法を提案している。江原(2007)では、Bleu の欠点として、単語の文字面の一致に基づく点と構文的な自然性が認識できない点を上げ、新たな評価指標の開発を試みているが、基本的には n-gram の概念を用いている。このように Bleu には多くの議論がなされているが、それに代わる有効な指標が、現状では提案されていない。また本研究目的に照らし、厳密な正確性ではなく、限られた時間と資源制約で概算値を求めるほうが望ましいことから n-gram 一致率を基にする単純な指標である
Bleu 値を、翻訳品質の評価指標として取り上げる。
Papineki(2002) による Bleu 値の定義は次の通りである。
長さ c の候補文 C に対する長さ r の正解文 R の n-gram Bleu 値はBP

exp(1 max 1, r / c )なる BP を用いて、
nBlue( R, C )BP exp(log( pi ) / n)i 1で与えられる。ここで pn とは n-gram 正解率（一致率）のことである。

15

英文の品質評価に際して Bleu 値を用いる場合、金山(2003) によると、人手評価との比較において、英単語を単位とする 4-gram で計算することが望ましいことが示されている。日英対訳特許文において、4-gram による Bleu を用いるとすると、定義から、Bleu > 0 であるための必要十分条件が、4-gram で一致する単語列を有することであるから、文の 4-gram の出現パターンを検討することが本質的に重要である。
次に、Bleu の計算を効率的に行うための方法について述べる。Bleu の定義から、4-gram までの句の一致率を数え上げることが重要である。そのため、文を事前に 4-gram に分割しソーテ
ィングすることで効率的に Bleu を計算できる文分解法と名づけた方法を提案する。
2.2.2.2 コーパスの評価
コーパスの規模を変えたときの翻訳性能の変化を調べるために、コーパスの評価をいかに行うか議論したい。交差検証法では、コーパス全体をテスト文と参照文に分割し、参照文からテスト
文がどのくらい再現できるかを評価するものである。一方、コーパスによる機械翻訳とは、コーパスの中から最も翻訳文に近い候補文をいかに抽出できるかにかかっている。このような優れた
翻訳システムが構築できたとすると、抽出された候補文は、目的となるテスト文との類似性が最も高いものであるとみなして差し支えない。つまり、全てのコーパスを構成する文の中で最も高い類似性を持つ文の類似度がコーパスの性能を表すものとなる。そのため、通常はコーパスの規模が大きくなれるほど、そのコーパスの性能は向上する。一方で、コーパスを大きくするにはコストがかかるので、コストと性能のトレードオフが存在し、そのバランスについて議論できることが重要となる。
このような考え方に基づき本論文では、規模 s のコーパス C の翻訳性能 R(s) を次のように定義することとする。
まず、コーパスの対象とすることができる文のサイズに比べて s が十分小さい場合は、どの文を対象とするかでいくつもの R(C) を計算できるため、規模 s のコーパスを複数作成して計算した R(C)の平均を性能とする。そこで、以下ではある規模 s のコーパスを構成したものとして、その性能を定義する。
交差検証法では、コーパスの一部をテスト文としていたが、本研究では、コーパスを構成する文ではない文集合からテスト文を構成するものとし、その集合を T とする。なぜなら一般的に

Bleu ( x, y )Bleu ( y , x) であるので、交差検証法では対称性が生じやすく、テストデータをコー

パスから独立したほうが望ましいと考えられるからである。T の全ての要素 t に対して、C の全ての要素との Bleu 値を計算し、そのうち最大となるものを ct とする。
すなわち、

ci

arg max Bleu (t , c)c Cである。ある優れた翻訳システムを使用すれば、t に対するコーパス候補文として ct を選択す16

ることが出来るはずであるから、これをコーパスの性能の基礎とする。そこで、Bleu(t,ct) を全てのテスト文に対して行った平均をコーパス C のテスト文集合 T に対する性能 R(C|T) と定義する。すなわち、

R (C | T )ave( Bleu (t , ci ))tTである。これを用いて規模 s のコーパス性能 R(s) を計算する。
この計算は、規模が異なるごとに行う必要があり、計算量爆発の原因となりうるため、それを回避する手段を提案する。その本質は、テスト文と最大規模のコーパス文とのすべての組み合わせに対する Bleu を最初に計算しておいてから、任意の規模でのコーパスの性能を計算するというものである。次節において詳細に説明する。
2.2.3 提案手法とアルゴリズム
ここでは、Bleu 値を効率的に計算する文分解法と、コーパスの性能を計算する方法を提案し、そのアルゴリズムを説明する。
2.2.3.1 文分解法による Bleu の効率的な計算方法
あるテスト文 x に対する候補文 y における Bleu 値を Bleu(x, y) と定義し、この効率的な計算方法を説明する。そのため前処理として、対象文ごとに、全ての 4-gram の句と最後の 3,2,1 単語からなる句を、ソートしてファイルに保存する。例えば、文 x として"The system works in thefront of the neck freely." 文 y として"The system runs in the front of the head." とする場合を考えよう。x に対して表１のようなファイル Fx を、y に対して表２のようなファイル Fy を生成する。
表１：文 x から生成されるファイル Fx
freelyfront of the neckin the front ofneck freelyof the neck freely
system works in thethe front of thethe neck freely
the system works inworks in the front

17

表２：文 y から生成されるファイル Fyfront of the headheadin the front ofof the headruns in the front
system runs in thethe front of thethe headthe system runs in
この前処理により、Bleu 値を計算するための作業領域として、対象文の量に関して約４倍のメモリ領域を用いることになる。
次に、Fx のすべての行 lx に対して以下の動作を行う。lx の第１単語と一致する行が Fy にある場合、その行 ly が lx と第何単語まで一致するか調べ、その値 k に対し、GFx(k) に１を加える。
ただし ly が複数あっても追加する値は最大のもの一つのみとする。
こうして出来た GFx(k) から n-gram 一致率を算出することができ、

pk

k i

G Fx i# ly k 1となる。ただし、ly の個数を#ly とする。以上から Bleu を計算することが出来る。上記の例
では Bleu(x, y) = 0:459 となる。この方式で計算すると計算量は、単語数のオーダーとなり効率的である。
2.2.3.2 修正交差検証法によるコーパス性能の効率的な計算方法
任意の規模のコーパスについて性能評価を効率的に行うため、テスト文 T と最大コーパスを構成する場合のコーパス文 C に関する全ての Bleu(T,C) を計算し、Bleu 値表を作成する。これを用いて任意の規模 s のコーパスの性能 R(s) を以下の方法で計算する。
最大コーパスを分割して、規模 s のコーパス Ci を作成する。Bleu 値表のうち Ci を構成する
文の行を取り出し、テスト文ごとに最大 Bleu 値を算出し、その平均を R(Ci|T) とする。これを全てのコーパス Ci に対して行った平均を R(s) とする。この方法によると計算量は(テスト文の規模×最大コーパスの規模) のオーダーとなるので効率的といえる。
2.2.4 使用データと計算結果

18

ここでは使用データについて説明し、提案手法を実装した結果について紹介する。
2.2.4.1 使用データ
日英対訳特許文として、（財）日本特許情報機構から提供された公開特許公報要約と PAJ 対訳
データの 2003 年公開全件 348,061 件の中から、英文対訳で特許概要を説明している部分（タグ<SDOABLA="E">）を対象とする。この部分は実質的に特許の概要を説明している部分である。
ここは「解決すべき問題(PROBLEM TO BE SOLVED:)」という部分と「解決(SOLUTION:)」という部分に分かれる。前者はほぼ To 不定詞で始まり問題を名詞句の形で表現している。後者で具体的な概要が文として記述されている。そこで全データのうち、後者の部分が１文以上あるもの 348,058 件のうち、327,680 件を対象にした。この部分の２文目以降は、１文目と同じ専門用
語や名詞句の使用が散見されることから、１文目に対する Bleu 値が高くなりやすくコーパスの性能に影響を与えやすい。しかし、これらの文は同時に翻訳されるのが普通であるから、全ての文書対に対する Bleu 値の計算を想定する場合は、コーパスに含めるべきではなく、今回の対象には適さないため、英文説明の１文目のみを抽出し対象データとする。
このデータに対し 32768 = 215 文ごとにグループ 0 から 9 を作り、各グループごとに 0 から順に、文に番号を付与する。各グループに対して、文番号 0−99 の文をテスト文とし、文番号10000−19999 の文をコーパスを構成する文の候補とする。表３にデータの基本統計量を示す。
表３：テスト文とコーパス文の基本統計量
テスト文

コーパス文

規模

1000

100000

１文あたりの

54.10

52.78

4744

62948

平均単語数
総単語種数
2.2.4.2 計算結果
前節で提案した方法を Linux 上にて perl で実装した結果、最も処理時間のかかる、全組み合
わせに対する Bleu の事前計算であっても、１日程度のオーダーで計算可能であることが分かった。また、コーパスの規模別の性能は表４と図１にまとめる。また、規模別の n-gram 一致率の平均の推移を表４と図２に、性能と n-gram 平均一致率との相関を表５にまとめた。ここで相関とは、n-gram の一致数と性能という二つの変量に関する全部で 10 種類ある規模ごとに計算した相関係数のことである。
2.2.5 議論とまとめ本研究では、大規模コーパスの翻訳性能を少ない記憶領域と計算時間で測定する方法を提案装した。その結果、計算すべき 1000 × 10 万件のうち、Bleu が正となるデータも 32; 628 件と19少なく、重複計算を防ぐことで１日程度の計算時間で測定できた。
表４ならびに図１から、本研究で定義したコーパスの性能の推移は規模が 5000 以上であると、コーパス規模の対数に関する線形回帰で表すことが出来ると予測できる。回帰直線と決定係数を求めると

R = -0:0486+ 0:0157 log sとなり、決定係数は 0:997 の高い水準となっている。全ての規模に対する回帰直線の決定係数
も 0:92 と高い。この回帰直線がどのくらいの規模に関して有効なのかは、今後の議論であるが、日英対訳特許における近似的なコーパスの性能予測としては有効であろう。さらに、性能予測曲線は規模の増加に伴いやがて収束することが推測できるので、全体としてＳ字曲線を描くと思われる。この点も今後検討したい。
また、表５からコーパスの性能と n-gram との相関は概ね高く、3-gram では 99:9% となっている。つまり、Bleu で計測した大まかな性能は 3-gram 一致率で計測する場合と近似することを意味する。
本研究は日英対訳特許文書という限定されており、ただちに一般的な性能評価に結びつかない。
表３から明らかなように、テスト文の総単語種類数は 5000 弱であるが、その 100 倍の規模であるコーパス文のそれは 6 万を超えていることから、対象が専門用語の多い特殊性を有することが示唆される。これをどのように拡張して、一般性を持たせるかは今後の課題となろう。
さらに、コーパスの性能として 4-gram までの一致率を使った Bleu を用いたが、他の指標についても検討する必要があるかもしれない。例えば、特許文は特定の専門用語が散見され、その存在によって性能を大幅に低下することがありうる。例えば"I watch an orange under the table."という文と"I watch an apple under the table."という文は 4-gram で一致する部分がないのでBleu = 0 であるが、文の構造は完全に再現され、たった一つの名詞の置き換えで正解文と一致できる良質な翻訳であると判定しても良い。日英対訳特許でもこれと同種の問題が起きる可能性は高く、これに対処できるような指標は検討すべきであろう。

参考文献[今村 2004] 今村賢治, 隅田英一郎, 松本裕治, 機械翻訳自動評価指標の比較, 第 10 回言語処理学会年次大会, 452-455.
[江原 2007] 江原暉将, 新しい機械翻訳自動評価基準 NMG の提案, Japio 2007 YEARBOOK,（財）日本特許情報機構, 238-265.
[金山, 2003] 金山博, 荻野紫穂, 翻訳精度評価手法 BLEU の日英翻訳への適用, IPSJ SIG Notes,
2003(23), (2003-NL-154-19), 131-136.
[岸田 2006] 岸田和明, 三田図書館・情報学会, ２００６年度研究大会.

20[森下 2008] 森下洋平, 宇津呂武仁, 山本幹雄, 対訳特許文書からの専門用語対訳辞書半自動獲得
におけるフレーズテーブルと既存対訳辞書の併用, 情報処理学会研究報告,2008-NL-187,91-98.
[Papineki 2002] Papineki, K., et.al., Bleu : a Method for Automatic Evaluation of MachineTranslation, Proc. ACL 2002, 311-318.
[隅田 2005] 隅田英一郎, 佐々木裕, 山本誠一, 機械翻訳システム評価法の最前線, 情報処理,
46(5),552-557.
[内元 2003] 内元清貴, 関根聡, 村田真樹, 井佐原均, 用例に基づく手法と機械学習モデルの組
み合せによる訳語選択, 自然言語処理, 10(3),87-114.
[内山 2007] 内山将夫, 山本幹雄, 藤井敦, 宇律呂武仁, 特許情報を対象とした機械翻訳:共通基盤による評価タスクを目指して, IPSJ SIG Notes,2007(76), (2007-Nl-180-23), 133-138.
[吉岡 2005] 吉岡篤志, 徳久雅人, 村上仁一, 池原悟,名詞句パターン辞書を用いた日英機械翻訳の試作- bi-gram による訳出選択の場合, 平成 17 年度電気・情報関連学会中国支部連合大会
論文集, 305-306.

21

図１：コーパスの規模(横軸)と性能(縦軸)の関係

図２：コーパスの規模(横軸)と
平均 n-gram 一致率(縦軸)の関係

22

３．１

専門用語抽出アルゴリズムを用いた対訳コーパスからの対訳辞書の自動生成
東京大学

範 暁蓉
二宮

崇

中川 裕志
3.1.1 はじめに対訳辞書は機械翻訳において非常に重要なリソースであり、伝統的なルールベース翻訳システム
だけではなく、近年盛んに研究されている統計的機械翻訳においても構成的ではない複合語や専門用語の対応を可能とする翻訳を実現するために、非常に質の高い対訳辞書が必要とされている。
特許文の翻訳は実社会から大きく期待されているが、特許文には特許文特有の非常に多くの専門
用語や複雑な複合語が出現し、既存の対訳辞書で新しく出現する専門用語や複合語に対応することは難しい。
本稿では、専門用語抽出システムと対訳コーパスを用いて品質の高い対訳辞書を自動的に生成する手法を提案し、日英の特許コーパスに対し適用した結果について報告する。一般に利用可能
な単語対応付けシステムを用いれば、対訳コーパスから自動的に単語対は得られるが、そのまま
では対訳辞書に供せられる質を得ることは難しい。本研究では、専門用語抽出システムを用いて専門用語レベルの対応付けを与え、専門用語対の対応スコアを再ランク付けすることにより非常に質の高い対訳関係の語句を抽出する手法を提案する。本稿では、まず、従来の対訳語の抽出技術を調査し、次に専門用語抽出アルゴリズムを用いた対訳コーパスからの対訳抽出技術を説明し、それを特許文に適用した結果を報告する。
本稿の構成は以下のようになっている。3.1.2 節では、従来の対訳抽出技術に関する調査を説明する。3.1.3 節は、専門用語抽出アルゴリズムを用いた対訳コーパスからの対訳辞書の自動生成手法を説明し、3.1.4 節では、特許文からの用語抽出の実験・結果について報告する。3.1.5 節で本稿の主旨をまとめ、今後の課題について述べる。
3.1.2 従来の対訳語抽出技術に関する調査
対訳語抽出は今までに様々な手法が提案されているが、前提とするリソースの違いによりそれらの手法を大きく分類することができる。例えば、既存の対訳辞書を用いる/用いない手法、中間言語を介する/介さない手法などのように前提とするリソースに大きな違いがある。ここでは抽出元となるリソースの違いにより既存の手法の分類および調査を行う。具体的には、抽出元が、①対訳辞書、②パラレルコーパス、③コンパラブルコーパス、④ウェブである場合に分類する。
①

対訳辞書から対訳語の抽出 (張玉潔ら, 2005)
三つの言語 A と B と C に対し、A と B の対訳辞書がなくて、A と C、B と C 間の対訳辞書が存在するとき、言語 C を介して、A と B の対訳辞書を構築することができる。この方法で

23

は、AC 辞書を用いて A 言語から C 言語への訳語候補を生成し、次に BC 辞書を用いて C 言
語から B 言語への訳語候補を生成することにより A 言語から B 言語への訳語候補を生成する。
この方法で抽出された対訳辞書は精度が高いが、非常に多くの訳語候補が生成される。また、辞書中に存在しない対訳語を抽出することができず、複合語の対訳語抽出が難しい。
②

パラレルコーパスから対訳語の抽出
近年多くのパラレルコーパス (文単位の対応付けがなされている対訳コーパス) が利用可能になり、それらを用いた対訳語抽出の研究が行われている。パラレルコーパスは大きくわけて二種類存在し、一つは翻訳された文学作品や多言語による商品の説明書であり、もう一つは翻訳に関する研究のために構築された対訳コーパスである。パラレルコーパスに対し単語
アライメント (対訳文の単語対応付け) を行えば単単語の対訳対が自動的に得られるため、パラレルコーパスを前提とした単語アライメントの性能向上に関する研究が多い。また、複合語対訳対の抽出にも単語アライメントの結果に基づいて抽出することが可能である。
単単語対訳対の抽出は、頻度、文脈情報、統計手法を組み合わせた単語アライメントにより行われ、以下の方法がある。
(1) 辞書や単語、意味クラスおよび品詞の語彙知識を利用して抽出する方法 (Ker&Chang,1997)。
(2) 統計的な手法で抽出する方法。
統計翻訳モデル (IBM 1-5 モデル) を基づく抽出方法。この手法は EM アルゴリズ
ムを利用して計算する (Brown et al., 1993)
HMM モデルを基づく抽出手法 (Toutanova et al., 2002)
Och のテンプレートに基づく手法。この手法は一対多の単語対応を解決した。
(Och&Ney, 2002; Och&Ney, 2003)
相互情報量を利用する方法 (Gale&Church, 1991)
Och の手法は多くの研究者により用いられており、Giza++はこの手法に基づいて実装された
単語アラインメントツールである。複合語対訳対の抽出は単語アラインメントに基づいて行われるが良い精度を達成することが難しい。
パラレルコーパスからの対訳語抽出は非常に高い精度で抽出することが可能であり、例えば、単語対の抽出精度は 99%に達する。そのためパラレルコーパスを利用する研究が盛んに行われている。しかし、パラレルコーパスの構築は難しく、利用可能なパラレルコーパスの量は十分とはいえない。

③

コンパラブルコーパスからの対訳語抽出
二つの言語の文章データが内容的に非常に似通っている場合、この 2 言語の文書を 1 組にしてコンパラブルコーパスという。コンパラブルコーパスからの対訳語の抽出方法には以下の手法がある (Chiao&Zweigenbaum, 2002; Gamallo, 2007)。
(1) 二つ言語の単語 w1 と w2 に対し、もし w1 の周りの単語が w2 の周りの単語と対訳対の24

関係にあれば、w1 と w2 も対訳対する。この方法は対訳辞書に大きく依存し、対訳辞書の多義性の問題がある。
(2) パラレルコーパスから単語対応を求め、それを利用して手法(1)と同じ方法でコンパラブ
ルコーパスから対訳辞書を抽出する。
(3) 小量のパラレルコーパスからテンプレートを抽出し、そのテンプレートを用いてコンパ
ラブルコーパスから対訳辞書を抽出する。
コンパラブルコーパスから抽出された対訳辞書の精度はパラレルコーパスより低いが、コン
パラブルコーパスはパラレルコーパスに比較して大量に存在する。コンパラブルコーパスからの抽出方法とパラレルコーパスからの抽出手法をうまく組み合わせれば大規模な高精度の対訳辞書が自動的に抽出される。
④

ウェブから対訳語の抽出
ウェブ上に様々な言語で記述されたウェブページが大量に存在する。ニュースや新聞も毎日更新されており、パラレルコーパスやコンパラブルコーパスより、非常に巨大なリソースである。ウェブページからの対訳語抽出に関しては次の研究がある。(Brill et al., 2001; Nazaret al, 2008)(1) ある一つの対訳対をシードとしてサーチエンジンのキーワードとして入力して、ウェブ
上にこの対訳語に関する両言語の文書を抽出する。
(2) コンパラブルコーパスからの抽出手法を用いて、対訳対応を抽出する。
しかし、得られるテキストはコンパラブルコーパスよりも対訳関係が弱いため、これらの手法により得られる対訳語の精度は低い⑤

その他の研究その他に次のような対訳語抽出の研究がある。
(1) Wikipeida から対訳辞書の構築(2) 複数の単一言語コーパスから対訳語を抽出する手法

3.1.3 専門用語抽出アルゴリズムを用いた対訳コーパスからの対訳辞書の自動生成手法
本研究は、専門用語抽出システムと単語アライメントを組み合わせ、質の高い専門用語辞書の生成手法を提案する。図 1 は提案手法の全体像を表しており、次のステップで対訳抽出される。
1. 専門用語抽出 (TermExtractor)
2. リセグメント処理
3. 専門用語付き単語アライメント
4. 単語アライメント
5. リランキング
図中では日英のパラレルコーパスを想定しており、対訳文の対である日本語文と英語文が入力される (図左上と図右上)。

25

Japanese

English

TermExtractor

Corpus(wCorpus(wJapanese

English

Terms

Terms

Re-Segment

Re-Segment

Japanese

EnglishEnglishJapanese

Corpus(p)Corpus(p)Corpus(wCorpus(wGIZA++

GIZA++Term

Wordalignmentalignment
Re-ranking

Translation pairs

図 1. 提案手法の抽出アルゴリズム

本アルゴリズムでは最初にそれぞれの文を専門用語抽出システムで処理し、日本語および英語の専門用語が抽出される。本研究では言選Web (TermExtractor) を用いて専門用語を抽出する。言
選Webは一般に利用可能な専門用語抽出システムであり、日本語、中国語、英語、フランス語、
ドイツ語、イタリア語、スペイン語、フィンランド語、スウェーデン語に対応する。本研究では、日本語の言選Webと英語の言選Webを用いた。
次に、専門用語抽出システムにより得られた専門用語を用いて、日本語文と英語文の単語境界を再計算し (リセグメント処理)、単語アライメントシステム (GIZA++) に入力する (専門用語付
き単語アライメント)。日本語や英語はトーカナイザーにより単語に分割されているが、これらの単語は専門用語よりも短い単位の単語であるため、そのまま単語アライメントを行うと専門用語に対する対訳確率を得ることは難しく、結果として専門用語の抽出が難しくなる。例えば、「組合せ範疇文法を書く」「write a Combinatory Categorial Grammar」という日英の対訳文の対が与えられた時、トーカナイザーは「組合せ | 範疇 | 文法 | を | 書く」と分割するため、「組合せ/Combinatory」「範疇/Categorial」「文法/Grammar」に対する対訳確率やそれらの句の対訳確率が計算されるが、学習が不十分であったりノイズが多い場合には「組合せ範疇文法」に対する「Combinatorial Categorial Grammar」という専門用語の対訳語は得られない。一方、「組合せ範疇
文法」や「Combinatory Categorial Grammar」が専門用語であることがわかっていれば、それらを一つの単語として単語アライメントを行うことにより、より精度の高い専門用語の対訳辞書が得られること、および、統計モデルの学習が容易になることが期待される。本研究で提案するリセ
グメント処理は、専門用語と判定される単語列を一つの単語として区切り直す処理である。例えば、上記の例では、入力として「組合せ | 範疇 | 文法 | を | 書く」を与えたとき、「組合せ範疇文法 | を | 書く」と単語境界を区切り直す。

26

表 1 言選 Web で得られた専門用語
順位

用語

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23

装置
製造方法
画像形成装置
半導体装置
制御装置
画像処理装置
記録媒体
表示装置
方法
プログラム
製造装置
記録装置
制御方法
遊技機
画像表示装置
液晶表示装置
システム
電子機器
処理装置
通信装置
処理方法
画像形成方法
情報処理装置

24
25
26

日本語用語
重要度

英語用語
用語

重要度

231979076.92
196882071.51
103913088.99
58227570.41
36336752.48
30031743.03
27930678.85
26675671.25
26202837.07
25879734.87
23677249.52
19022693.66
18220829.11
17278888.05
12268117.13
11755384.71
11323757.36
10261766.30
8791257.97
8579941.15
8372906.90
8117459.66
8100336.44

順
位
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23

methoddevicemanufacturing method
apparatus
image forming apparatus
systemsemiconductor device
programcontrol method
method of manufacturing
display device
manufacturing
recording medium
image forming device
game machine
control device
image forming method
using
image processing method
vehicleproduction method
liquid crystal display device
producing

1924924798.54
243593927.71
226783016.55
76048463.50
55033626.33
53561371.66
50802151.44
37869450.18
32413791.38
26542475.31
22816450.59
26336501.49
17173321.02
15427921.08
15038502.03
12632549.65
12481169.99
8747302.73
8442823.37
8192541.72
8140130.48
7886150.69
7863396.49

画像処理方法
撮像装置
形成方法

7274028.95
6806003.22
6314294.98

24
25
26

7673459.91
7431868.57
7399380.43

27

電気光学装置6278752.47

27

28
29
30

印刷装置
基板処理装置イ ン ク ジェ ッ ト記
録装置

5920852.82
5390500.11
5291824.63

28
29
30

image display device
programmanufacturing
semiconductor
devicemethodofmanufacturing
semiconductor device
manufacturing method therefor
electronic device
structure

6713068.93
6615284.23
6487897.04
6476402.13

最後に、本研究で提案するリランキング手法を適用する。上述のリセグメント処理により得られる専門用語の対訳対は専門用語が頻出しない場合にはデータスパースネスのため却って得られる専門用語の質が低下することがある。そこで、リセグメント処理を行っていない文書対に対しても単語アライメントシステム (GIZA++) を適用し、専門用語を構成する各単語の対訳確率を用いて、専門用語の対訳確率のスムージングを行う。
3.1.4 特許文からの対訳用語抽出の実験
特許データ日英 364,449 件のタイトルに対し、本研究で提案する手法を用いて、対訳用語の抽出実験を行った。英語の分かち書きは TreeTagger に付属するスクリプト、日本語の分かち書きは茶筅を用いた。専門用語抽出ツールは中川研究室の言選 Web を用いた。
表 1 は特許コーパスの日本語文および英語文に対し言選 Web が出力する上位 30 個の日本語の専門用語と英語の専門用語である。結果を見ると、日本語の専門用語の精度が非常に高い。しかし、英語の専門用語では”-ing”のような三つの動名詞を抽出された。これは stemming 処理をして27

表 2 提案手法により得られた対訳語の例
順番
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20

地図データ送信方法 map data transmission method 1
研削用水溶性加工油 water-soluble machining oil 1
金属屑塊成形装置 forming waste metal block 1
写真プリント品質管理ツールセット photographic print quality control tool set 1
成形用積層発泡シート laminated foamed sheet 1
穴付物干し竿装置 clothespole device 1
熱収縮性複合シート heat-shrinkable composite sheet 1
白黒画像形成装置 black-and-white image forming device 1
立体視用表示方法 stereoscopic display method 1
薄板状材料積層体 thin flat laminar body 1
軟磁性樹脂成型品 magnetic resin molded article 1
レーザビーム径 measuring diameter of laser beam 1
ドレッシング工具 dressing tool 1
砕氷撹拌ドラム crushed ice stirring drum 1
空間像計測方法 measuring spatial image 1
プリモールドパッケージ用リードフレーム pre-mold package 1
プリモールドパッケージ pre-mold package 1
テーマ管理システム theme management system 1
ブラシレスＤＣモータ制御方法 brushless dc motor control method 1
通知情報表示方法 notified information displaying method 1

いないことが原因と考えられる。
表 2 は提案する手法によって得られた対訳用語を示している。上位 20 個の結果を見ると、一部対応がとれていない専門用語対もあるが、長い専門用語の精度はとても良い。
3.1.5 まとめと今後の課題
本稿では、従来の対訳語抽出技術の調査を行い、専門用語抽出とアライメント技術を組み合わせる方法を提案し、日英の特許コーパスを用いてその性能を評価した。今後は、この手法の精度向上に関する研究を行う。
参考文献
張玉潔、馬青、井佐原均：英語を介した日中対訳辞書の自動構築、自然言語処理、Vol. 12, No. 2,

pp. 63-85, 2005.
Ker, S. J. and J. S. Chang. 1997. A Class-based Approach to Word Alignment. Computational
Linguistics, Vol. 23, No. 2, pp. 313-343.

Brown, P. F., S. A. Della Pietra, V. J. Della Pietra and R. L. Mercer. 1993. The mathematics
of statistical machine translation. Computational Linguistics, Vol. 19, No. 2, pp. 263-311.
Toutanova, K., H. T. Ilhan and C. D. Manning. 2002. Extensions to HMM-based Statistical
Word Alignment Models. In Proc. of EMNLP-2002, pp. 87-94.

28

Och, F. J and H. Ney. 2002., Improved Statistical Alignment Models, In Proc. of ACL 2002, pp.
440-447.
Och, F. J. and H. Ney. 2003. A Systematic Comparison of Various Statistical Alignment
Models . Computational Linguistics, Vol. 29, No. 1, pp. 19-51.
Gale, W. A. and Kenneth W. Church. 1991. Identifying word correspondences in parallel texts.
In Proc. of the Fourth DARPA Speech and Natural Language Workshop, pp. 152-157.
Chiao, Y. and P. Zweigenbaum. 2002. Looking for candidate translational equivalents inspecialized, comparable corpora. In Proc. of COLING 2002, pp. 1-5.
Gamallo Otero, P. 2007. Learning Bilingual Lexicons from Comparable English and Spanish
Corpora. In Proc. of Machine Translation Summit XI.
Brill, E., G. Kacmarcik and C. Brockett. 2001. Automatically Harvesting Katakana-English
Term Pairs from Search Engine Query Logs, In Proc. of NLPRS 2001, pp. 393-399.
Nazar, R., L. Wanner and J. Vivaldi. 2008. Two-Step Flow in Bilingual Lexicon Extraction
from Unrelated Corpora. In Proc. of EAMT 2008, pp. 140-149

29

３．２

第３言語を介した対訳辞書の構築
静岡大学情報学部情報科学科
梶博行【要約】一方の言語が同一である２つの対訳辞書から新しい言語対の対訳辞書を生成する
新しい方法を提案する。媒介となる第３言語の語の多義性によって生み出される誤った訳語を除去するため、第１言語と第２言語それぞれの単言語コーパスを用いることが特徴である。すなわち、それぞれの言語のコーパスから関連の強い語のペアを抽出して、第１言語の関連語ペアと第２言語の関連語ペアのアラインメントをとることにより、第１言語の見出し語の各関連語が第２言語のどの訳語を支持するかを決定する。誤った訳語を支持する関連語は非常に少ないので、誤った訳語を除去することができる。日英と中英の対訳辞
書から日中対訳辞書を生成する予備実験を行い、提案方法のフィージビリティを確認した。
3.2.1 はじめに機械翻訳やクロス言語情報検索のニーズがさまざまな言語対に拡がってきている。しかし、大規模な対訳辞書が利用できる言語対は限られている。このため、新しい言語対の対訳辞書を低コストで作成することが課題となっている。
大規模な対訳辞書が存在しない言語対であっても、それぞれの言語と第３の言語（たいていは英語）の間に大規模な対訳辞書が存在するケースが多い。そこで、第１言語−第３言語の対訳辞
書と第２言語−第３言語の対訳辞書から第１言語−第２言語の対訳辞書を合成することが考えられる。第１言語の語と第２言語の語が対訳関係にあるとき、それらに共通の第３言語の訳語が存在するからである。しかし、媒介となる第３言語の訳語が多義語である場合、誤った訳語が混入するという問題がある。
この問題に対し、Tanaka and Umemura（1994）は、媒介となる第３言語の訳語の数が多いほど正しい訳語である可能性が高いという仮説をたて、その有効性を実証した。しかし、この考え方だけでは十分な精度が達成できないことも明らかである。Tanaka and Umemura の方法を基本としながら、意味カテゴリが一致するペアを優先する方法（Bond, et al., 2001）、あるいは品詞や構成文
字の関連性を考慮する方法（Zhang, et al., 2007）が提案されているが、十分な解決には至っていない。
本稿では、第１言語と第２言語のコーパスを利用して誤った訳語を除去する新しい方法について述べる。ここで、両言語のコーパスは同じ分野のコーパスであればよく、パラレルコーパスや
コンパラブルコーパスである必要はない。第３言語を介して対訳辞書を作成しようとする言語対では、通常、大規模なパラレル／コンパラブルコーパスの存在が期待できないことを考慮した結果である。
なお、3.2.2.1 で述べるように、提案方法では、誤った訳語だけでなく、対象分野では使用されない訳語も除去される。したがって、分野を限定しない一般的な対訳辞書を生成することはで30

きない。これは提案方法の限界であるが、分野に適応した対訳辞書が生成されるといJapanese

EnglishChinesefactory

厂 *

plant

植株 **

works

作品 **

workshop工场 *うことはむしろ優れた特徴であるといえる。
3.2.2 提案方法

工場

3.2.2.1 基本アイデア
提案方法は任意の言語対に適用可能であるが、本稿では英語を介して日本語−中国語の対訳辞書を生成する場合について述べる。図 3-2-1 に、日英対訳辞書と中英対訳辞*Correct translation, **Incorrect translation

図 3-2-1 英語を介した日本語と中国語の語の対応

書の結合によって得られる日本語と中国語の語の対応関係を例示する。日本語の見出し語「工場」に対して、「工场」と「厂」は正しい訳語であるが、「植株」と「作品」は誤った訳語（以下、ノイズという）である。これらは、媒介となる英語の語 “works” や “plant” の多義性に起因している。このようなノイズを除去することが必要である。
このため、２つの言語の単言語コーパスを用いた教師なしの語義の曖昧性解消方法として考案したアルゴリズム（Kaji and Morimoto, 2005）を用いる方法を提案する。このアルゴリズムは、それぞれの言語のコーパスから相互に関連の強い語のペアを抽出し、対訳辞書を介してアラインメ
ントをとることにより、第１言語の各見出し語に対してその関連語と訳語の関連行列を反復計算するアルゴリズムである。このアルゴリズムによると、例えば、「工場」の関連語である「バルブ」
や「製造」は、正しい訳語である「工场」や「厂」との関連度が大きく、ノイズである「植株」
や「作品」との関連度が小さくなる。日本語コーパスから抽出される「工場」の関連語と中国語
コーパスから抽出される「工场」や「厂」の関連語の間には対訳関係が成立するものが多いのに対し、「工場」の関連語と「栽植」や「作品」の関連語の間には対訳関係が成立するものがほとん
どないからである。したがって、一定数以上の関連語と高い関連度をもつ訳語のみ選択すること
により、ノイズを除去することができる。なお、この方法によれば、正しい訳語であっても、コーパス中で使用されないものはノイズと同様に除去される。
図 3-2-2 に示すように、提案方法は (1) 日英・中英対訳辞書の結合、(2) 各言語のコーパスからの関連語ペアの抽出、(3) 関連語−訳語関連行列の反復計算、(4) 訳語のスクリーニングの各ステップから構成される。以下、日中対訳辞書を生成する場合について記述するが、日本語と中国語を入れ替えると中日対訳辞書を生成する場合になる。
3.2.2.2 日英・中英対訳辞書の結合
日英対訳辞書と中英対訳辞書から、共通の英訳語をもつ日本語の語と中国語の語のペアをすべて求めることにより、日中対訳辞書を生成する。この辞書にはノイズが含まれる。
3.2.2.3 関連語ペアの抽出

31

Japanese-English
dictionary

Japanese corpus

Chinese-English
dictionary

Chinese corpus

Calculate pointwise mutual
information between words

Combine via English translations

Calculate pointwise mutual
information between words

Japanese word associations“Noisy” Japanese-Chinese dictionary

Chinese word associations

Align word associations and correlate the associated words of a Japanese word with its Chinese translations
Correlation matrix of associated words versus translations (for each Japanese entry word)
Select translations with support not less than a predetermined minimum support“Noiseless and domain-adapted” Japanese-Chinese dictionary

図 3-2-2 提案方法の概要

日本語コーパス、中国語コーパスそれぞれから関連語ペアを抽出する。関連語ペアとは、予め定めた閾値以上の相互情報量をもつ語のペアである。２つの語 x と x'の相互情報量 MI(x, x') は次式で定義される（Church and Hanks, 1990）。

MI ( x, x ' )log

Pr( x, x ' ), [1]Pr( x) Pr( x ' )ここに、Pr(x)は x の生起確率、Pr(x, x')は x と x'の共起確率である。
語と語の共起確率を求めるため、語と語の共起頻度をカウントする。本方法の目的にはトピッ
ク的な関連語が有効と思われるので、前後の文にまたがる比較的大きなウィンドウを設定し、ウィンドウ内に共起する頻度をカウントする。対象とする関連語ペアは内容語のペアであるが、両言語のウィンドウの範囲がつりあうよう、ウィンドウサイズは機能語を除き内容語の数で指定する。3.2.3 の実験ではウィンドウサイズを 25 内容語とした。
3.2.2.4 関連語−訳語関連行列の反復計算
関連語と訳語の関連は、基本的には、対訳辞書を介した関連語ペアのアラインメントに基づいて決定することができる。すなわち、見出し語 x とその第 i 関連語 x (i) のペア (x, x (i)) が第 j
訳語 y(j) とその関連語 y のペア (y(j), y ) と対応づけられるとき、第 i 関連語 x (i) と第 j 訳語
y(j) が関連をもつと考えることができる。しかし、これには次のような問題がある。
(a) アラインメントの失敗： 両言語のコーパスが内容的に対応していない、あるいは対訳辞書のカバレッジが十分でないため、アラインメントがとれる関連語ペアは必ずしも多くない。
(b) アラインメントの曖昧性： 対訳辞書を介したアラインメントでは、偶然対応がつく関連語ペアもあって、関連語ペアの対応にはしばしば曖昧性が生じる。
これらの問題点を解決するため、関連語と訳語の関連度を[2]〜[4]式のように再帰的に定義し、[5]式を初期値として反復計算する。式中の添え字 n は反復計算のサイクルを示す。反復計算の収32

束の様子などの詳細は（Kaji and Morimoto, 2005）を参照されたい。
見出し語 x の第 i 関連語 x (i) と第 j 訳語 y(j) の関連度：

C n x ' (i), y ( j )MI x' (i ), x

C 'n x' (i), y ( j )max C 'n x' (i), y (k )C"n x' (i), y ( j ), [ 2]
C "n x' (i ), y (k )k

ここに、MI (x (i), x) は x (i) と x の相互情報量、 は関連度の第１因子に対する関連度の第２因子の相対的な重みを表すパラメータである。
[2]式からわかるように、関連度 C は「関連語と見出し語の相互情報量」と「２つの因子 C' とC" の重みつき和を（最大値が 1 になるように）正規化した値」の積である。
関連度の第１因子：

C 'n x' (i ), y ( j )Cn 1 x" , y ( j ) ,x" A( x , x ' (i ))[3]

ここに、A(x, x (i)) は x と x (i) に共通の関連語の集合である。
[3]式からわかるように、第１因子 C' は他の関連語と当該訳語の関連度を用いて定義されている。これは、互いに関連する関連語は同じ訳語と強い関連をもつという仮説に基づいており、上述の問題点(a)を解決する。
関連度の第２因子：

C "n x' (i), y ( j )max MI ( y ' , y ( j ))y'

C n 1 x" , y ( j )x" B (( x , x ' (i )), ( y ( j ), y ' )), [ 4]

ここに、B((x, x (i)), (y(j), y ))は、x と x (i) に共通の関連語であって、その中国語訳の少なくとも一
つが x の中国語訳 y(j) と x (i)の中国語訳 yに共通の関連語であるものの集合である。

厂

植株

作品

工场

[4]式からわかるように、
第２因子 C" は、

バルブ

3.98

0.81

0.23

3.75

関連語の３つ組のアラインメントを構成す

工程

3.18

0.45

0.58

3.45

飼料

0.54

3.32

0.17

1.18

製造

2.89

0.43

0.61

3.13

:

:

:

:

る関連語と訳語のペアに対してのみ定義される。これは、関連語ペアのアラインメン:

トと比較して関連語の３つ組のアラインメ(a) “工場”に対する関連行列

ントが信頼できることに着目したもので、上述の問題点(b)を解決する。
関連度の初期値：

C0 x' (i), y( j )MI x' (i ), x . [5]

厂

植株

作品

工场

バルブ

1

0

0

0

工程

0

0

0

1

飼料

0

1

0

0

製造

0

0

0

1

:

:

:

:

:

0.03

0.04

0.00

0.93

3.2.2.5 訳語のスクリーニング
関連語−訳語関連行列を２値化する。すSupport

なわち、各行（関連語）において最大値を(b) ２値行列と支持度もつ要素を 1、それ以外の要素を 0 にする。

図 3-2-3 関連語−訳語関連行列と訳語の支持度

33そして、列（訳語）ごとに、1 の要素の比率を算出する。この比率は、各関連語が１つの訳語を支持すると考えたときに各訳語を支持する関連語の比率を表すので、支持度と呼ぶ。最後に、支持度が予め定めた閾値以上となる訳語を選定する。
関連語−訳語関連行列と支持度の例を図 3-2-3 に示す。この例で支持度の閾値を 0.1 とすれば、
日本語見出し語「工場」の中国語訳語として「工场」が選定され、ノイズである「栽植」と「作品」は除去される。なお、正しい訳語「厂」も除去されるが、これは使用したコーパスにおいてあまり使用されていなかったためと考えられる。
3.2.3 予備実験
3.2.3.1 実験方法
名詞に限定して、EDR 日英対訳辞書と LDC Chinese-English Translation Lexicon から日中対訳辞
書と中日対訳辞書を生成する予備実験を行った。使用したコーパスは次のとおりである。
・日本語コーパス：毎日新聞記事（2000 年 1 月〜2005 年 12 月、632 M バイト）
・中国語コーパス：新華社通信記事（1999 年 1 月〜2004 年 12 月、473 M バイト）
まず、日本語コーパスと中国語コーパスから名詞の関連語ペアを抽出した。日本語テキストは
JUMAN により形態素に分割し、頻度 100 以上の名詞を抽出した。中国語テキストは Nakagawa andUchimoto (2007) による中国語形態素解析プログラムにより形態素に分割し、頻度 30 以上の名詞を抽出した。両言語とも、前後それぞれ 25 内容語を収容するウィンドウ内に共起する名詞のペアを抽出して頻度をカウントし、名詞のペアそれぞれの相互情報量を計算した。そして、相互情報量が 1.0 以上のペアを関連語ペアとして抽出した。
次に、EDR 日英対訳辞書と LDC Chinese-English Translation Lexicon を結合して作成したノイズ
を含む日中名詞対訳辞書と日本語、中国語の関連語ペアを用いて、頻度 100 以上の日本語名詞に対し関連語−訳語関連行列を計算した。同様に、EDR 日英対訳辞書と LDC Chinese-English
Translation Lexicon を結合して作成したノイズを含む中日名詞対訳辞書と中国語、日本語の関連語
ペアを用いて、頻度 30 以上の中国語名詞に対し関連語−訳語関連行列を計算した。なお、関連行
列の反復計算に使用するメモリ量の制約のため、関連語−訳語関連行列の関連語数は最大 700 に制限した。
ノイズを含む日中名詞対訳辞書では、頻度 100 以上の日本語名詞 10,003 語のうち 8,284 語が複数の訳語候補をもっており、これらの見出し語の訳語を関連語−訳語関連行列を用いてスクリーニングした。同様に、ノイズを含む中日名詞対訳辞書では、頻度 30 以上の中国語名詞 9,288 語のうち 8,426 語が複数の訳語候補をもっており、これらの見出し語の訳語を関連語−訳語関連行列を用いてスクリーニングした。
3.2.3.2 実験結果
訳語スクリーニングの結果は支持度に対する閾値によって大きく変わるが、ここでは閾値を 0.1に設定した。このとき、１見出し語あたり訳語数は、日本語の 8,284 見出し語の平均で 15.77 から
1.40 に、中国語の 8,426 見出し語の平均で 27.09 から 1.33 に減少した。このように大きく減少した理由の一つとして、ノイズだけでなく対象分野で使われない訳語も除去されるという提案方法

34

の特質があげられる。
日中対訳辞書のスクリーニング結果の例を表 3-2-1(a)に示す。各見出し語に対し、訳語候補が支持度の降順に示されている。
また、閾値（0.1）以上の支持度を得た訳語は太字で示されている。
・見出し語「ホール」

表 3-2-1 スクリーニング結果の例(a) 日中対訳辞書
Entry
noun

は選択されたが、“hole” を意味する

大堂，大厅，殿，霍尔， 大厅
堂，厅，洞，洞穴，洞 洞
子，空穴，孔，孔洞，霍尔
孔隙，窟，窟窿，窿，
漏洞，穴，阱，堀0.960

新聞(newspaper)

报，报纸，论文，论文 报纸儿，纸，纸头，纸张， 纸张报界，报刊，新闻界
论文

0.986

「洞」は除去された。「洞」は「オゾン」、「量子力学」などの関連語に支持されたが、支持度は十分でなかったためである。
・見出し語「新聞」
英語の“paper”の多義性に起因する

Supportcandidateホール(hall /
hole)

英語の“hall”と“hole”をカタカナ表記した語。“hall”を意味する「大厅」

Translation
Translation candidates

纸電車
带带，吊吊，火车，教 列车
(electric 养，练，列车，培训， 练
train)
培养，培育，培植，训，
火车
训练，斗车
教养

0.034
0.006

0.009
0.001
0.001
0.979
0.016
0.004
0.001

(b) 中日対訳辞書

ノイズ「纸张」（紙）や「论文」（論文）
がうまく除去された。
・見出し語「電車」
ノイズである「练」（訓練）や「教

Entry
noun
大厅
(hall)

0.791

报纸(newspaper)

ペイパー，ペーパ，ペー 新聞
パー，ペープル，新紙， ペーパー
新聞，新聞紙0.993

列车(train)

しつけ，仕付，仕付け，仕立，仕立て，列車，口火，導火，and 14 others

列車

0.994

電車

0.006

车」が除去された。新華社通信記事コ
用されていなかったためと思われる。
中日対訳辞書のスクリーニング結果も同様である。表 3-2-1 (b)に例を示す。

Supportcandidate

ホール，会堂，会館，僧 廊下
堂，堂，堂宇，大広間， ホール
大間，広座敷，広敷，広会堂
敷き，and 5 others
大広間

养」（教養）とともに正しい訳語「火ーパス中、「火车」が「列车」ほど使Translation
Translation candidates

日中対訳辞書のスクリーニングにつ

0.203
0.003
0.001
0.007

いて再現率と適合率を求めた。ただし、訳語候補が正しい訳語であるかノイズであるかを判定する作業はコストがかかるので、384 見出し語を対象とした。
比較のため、
従来方法である１回逆引き法 (田中ほか, 1998)とその変形版によるスクリーニングについても再現率と適合率を求めた。１回逆引き法（IC1 と略記）は、2 語以上の英語の語を介して得られる訳語候補を選択する方法である。IC1 では、どの訳語候補も媒介となる英語の語が 1 語であるような見出し語に対しては訳語が選択されない。
そこで、どの訳語候補も媒介となる英語の語が 1 語であるような見出し語に対しては全ての訳語候補を選択する変形版（IC1’と略記）も用意した。
提案方法と IC1、IC1’の再現率と適合率を表 3-2-2 にまとめた。IC1 では一部の見出し語に対し35

て結果が得られないので、見出し語ベ

表 3-2-2 訳語スクリーニングの再現率と適合率

ースの適用率を計算し、表 3-2-2 に含めProposedmethodた。
提案方法は再現率が非常に低いが、# entry nouns

これは正しい訳語のうちコーパスで使用されているもののみを選択する方法であるためである。コーパスで使用さることは極めて困難であるので、コーらず、正しい訳語がすべて選択されるべきであるという前提で再現率を計算した。したがって、提案方法の再現率

384

273

384

Applicability ratio

100%

71.1%

100%

は IC1 や IC1’より優位である。IC1 との

2,270# selected translations
(T)

553

926

2,485

# selected correcttranslations (S T)

359

565

1,059

Recall

15.8%

24.9%

46.7%

Precision

64.9%

61.0%

42.6%

はコーパスで使用されている訳語の比適合率について比較すると、提案方法

384# correct translation
candidates (S) *パスで使用されている／いないに拘わIC1’# entry nouns for which
one or moretranslations wereselected

れている訳語かどうかを人手で判定す率と解釈したほうがよいかもしれない。

IC1* Correctness of 7,410 translation candidates in total for 384 entry
nouns was assessed manually. Correct translations missing in the“noisy” Japanese-Chinese dictionary were not included. Therefore,
recall is overestimated.

差はそれほど大きくないが、IC1 は適用率を犠牲にしていることに注意すべきである。
3.2.3.3 追加実験１ ― 再スクリーニング
ノイズを含む対訳辞書を用いて計算された関連行列は、ノイズを含まない対訳辞書を用いて計算された関連行列に比べて信頼度が低いかもしれない。なぜなら、ノイズを含む対訳辞書によれば関連語ペアのアラインメントにおける曖昧性が増大するからである。
そこで、再スクリーニングの実験を行った。すなわち、スクリーニングされた対訳辞書を用いて計算しなおした関連語−訳語関連行列を用いて、対訳辞書を再度スクリーニングした。なお、第１段階のスクリーニングでは、その目的を考慮し、支持度の閾値を 0.025 という低い値に設定した。いっぽう、第２段階のスクリーニング
では 3.2.3.2 の実験と同じ 0.1 に設定した。
再スクリーニング結果の再現率と適合率

表 3-2-3 追加実験の結果

を表 3-2-3 に示す。再現率は再スクリーニン

Method (Minimum support)

RecallPrecision

グ前と同程度であるが、適合率が約 5％向上

Basic method (0.1)

17.8%

71.8%

したことがわかる。

Re-screening (1st stage:
0.025, 2nd stage: 0.1)

16.8%

76.9%

3.2.3.4

Bidirectional screening
union (0.25)

26.7%

66.8%

Bidirectional screening
intersection (0.025)

18.0%

76.2%

追加実験２ ― 双方向スクリー
ニングの組合せ

対訳辞書は反転することによって逆方向

Note: Results for 247 Japanese entry nouns were evaluated.

の対訳辞書に変換することができる。そして、

36

反転した対訳辞書をスクリーニングした結果はもとの対訳辞書をスクリーニングした結果を反転したものと必ずしも一致しない。それゆえ、日中対訳辞書のスクリーニング結果と中日対訳辞書のスクリーニング結果を組み合わせることによってよりよい結果が得られる可能性がある。
(1) 双方向スクリーニング結果の和集合
提案方法は、同義の訳語候補があるとき、そのうちの最もよく使用されるもの以外は過小評価されるという欠点をもつ。同義の訳語候補は関連の強い語も共通であるものが多いが、それらの大部分は最もよく使用される訳語との関連度が最大になるからである。例えば、表 3-2-1 において、「火车」の支持度は非常に低かった。その関連語の多くは「列车」との関連度が最大になったためである。
この欠点は反転した辞書のスクリーニングによってある程度解決することができる。比較的使
用頻度が小さい語（例えば、上例の「火车」）が見出し語であっても、提案方法は動作するからである。そこで、日中対訳辞書のスクリーニング結果と中日対訳辞書のスクリーニング結果を反転した辞書の和集合をとり、評価した。この実験では、支持度の閾値を比較的大きく 0.25 に設定した。あまり使用されない訳語は、逆方向の辞書のスクリーニング結果を反転させることによって得られると期待してよいからである。
双方向のスクリーニング結果の和集合をとった場合の再現率と適合率を表 3-2-3 に示す。単方向のスクリーニング結果に比べて、適合率が 5％ほど低下したが再現率が大きく向上している。
(2) 双方向スクリーニング結果の共通部分
日中対訳辞書のスクリーニング結果と中日対訳辞書のスクリーニング結果の両方に含まれる対訳語ペアは、支持度が高くなくても確実性が高いと考えられる。そこで、そこで、支持度の閾値をかなり小さな 0.025 に設定し、日中対訳辞書と中日対訳辞書の両方をスクリーニングし、それらの結果の共通部分をとり、評価した。
双方向のスクリーニング結果の共通部分の再現率と適合率を表 3-2-3 に示す。
単方向のスクリー
ニング結果に比べて、再現率を同程度に保ったまま、適合率が約 4％向上している。
3.2.4 改良の方向3.2.3 に示した実験は提案方法が有望であることを示しているが、改良の余地も大きい。まず、さまざまなパラメータを最適化することが必要である。例えば、関連語ペア抽出におけるウィン
ドウサイズと語の頻度や相互情報量に対する閾値、関連語−訳語関連行列の関連語の数、支持度
に対する閾値などのパラメータがある。3.2.3 の実験を通じて、特に関連語ペア抽出におけるパラメータの値がスクリーニング結果に大きく影響することがわかっている。それに比べて、関連
語−訳語関連行列の計算におけるパラメータ、例えば関連度の第１因子、第２因子を重みづける
パラメータや反復計算の反復回数などはあまり問題がない。関連語−訳語関連行列の反復計算

アルゴリズムが比較的広い範囲のパラメータ値に対して安定に動作することが確認されている(Kaji and Morimoto, 2005)。
3.2.3.3 の再スクリーニングと 3.2.3.4 の双方向スクリーニングはともに有効であった。これ
らを組み合わせることももちろん可能である。なお、双方向スクリーニングにおいて和集合をと37

るか共通部分をとるかは、再現率と適合率のどちらを重視するかによる。
提案方法によって生成される対訳辞

表 3-2-4 訳語候補を補充した日中対訳辞書のスクリーニング結果の例
Entry noun

Beforesupplementation

Aftersupplementation

難民 (refugees)

受难者

难民

日英・中英対訳辞書を結合したノイズを先端 (point, tip)终端，小费，论点

顶端

含む日中対訳辞書に含まれる訳語候補

故郷 (hometown)

底座，由来

家乡，故乡

書が、パラメータの値だけでなく入力として用いる対訳辞書によって大きく変化することは明らかである。提案方法は、の中から選択するだけであり、候補以外の訳語を抽出することはできない。そこ
で、3.2.3 の実験で用いたノイズを含む日中対訳辞書に訳語候補を補充した上でスクリーニング
する追加実験を行った。表 3-2-4 に、３つの見出し語について、訳語候補補充の前と後のスクリー
ニング結果を示す。これからわかるように、適切な訳語候補を補充することにより、再現率だけでなく適合率も向上する。実際的な観点からは、EDR 日英対訳辞書と LDC 中英対訳辞書だけでは不十分であり、日英、中英ともよりカバレッジの高い辞書を用いることが必要である。
3.2.5 関連研究
第３言語を介して対訳辞書を生成する方法は分野を限定しない一般的な辞書を生成する方法と分野に依存した辞書を生成する方法に分けられる。前者には、Tanaka and Umemura (1994) の１回／２回逆引き法とそれに加えて他の手がかりを利用する方法がある (Bond, et al., 2001; Shirai andYamamoto, 2001; Zhang, et al., 2007)。後者として提案された方法はないが、非パラレルコーパスから出現文脈が類似している語のペアを対訳語ペアとして抽出する方法 (Rapp, 1995; Kaji and
Aizono, 1996; Tanaka and Iwasaki, 1996; Fung and Yee, 1998; Rapp, 1999) が適用できることは明らかである。Sammer and Soderland (2007) が、さまざまな言語の単言語コーパスとさまざまな言語対の対訳辞書から PanLexicon と呼ぶ多言語辞書を作成するために、出現文脈の類似度に基づく方法
を利用している。
出現文脈の類似度に基づく方法と本稿で提案した方法はともに「ある言語において強い関連をもつ語の訳語はやはりその言語において強い関連をもつ」という仮説に基づいている。２つの方法の違いは、対訳知識の獲得と語義の曖昧性解消というもともとの目的の違いによる。誤った訳語を除去する方法として、出現文脈の類似度に基づく方法には、「文脈類似度の閾値を全ての見出
し語に共通に設定することが困難である」という問題がある。これに対し、提案方法は「訳語の支持度に対する閾値を全ての見出し語に共通に設定することができる」という利点をもつ。さらに、提案方法においては支持する関連語とともに訳語が選択されるので、テキスト中の各インス
タンスに対し文脈に基づいて訳語を選択することができるという優れた特長をもつ。
3.2.6 おわりに一方の言語が同一である２つの対訳辞書から新しい言語対の“分野適応”対訳辞書を生成する

38

方法を提案した。この方法はそれぞれの言語の単言語コーパスを必要とするが、単言語コーパス
はパラレルコーパスに比べるとはるかに多くの分野で利用可能である。
提案方法の骨子は次のとおりである。２つの対訳辞書を結合して得られる対訳辞書は正しい訳
語だけでなく誤った訳語を含んでいる。そこで、見出し語の関連語と訳語の関連語をそれぞれの言語のコーパスから抽出し、対訳辞書を介してアラインメントをとることにより、各関連語が支持する訳語を決定する。ここでは、アラインメントの失敗やアラインメントの曖昧性に対処する
ため、関連語と訳語の関連度を再帰的に定義し、反復計算する。各訳語の支持度、すなわち各訳
語を支持する関連語の比率を求め、予め定めた閾値以上の支持度をもつ訳語を選択することにより、対訳辞書から誤った訳語が除去される。
EDR 日英対訳辞書と LDC 中英対訳辞書、毎日新聞記事コーパスと新華社通信記事コーパスを用いた予備実験を行い、提案方法のフィージビリティを確認した。提案方法に含まれるさまざまなパラメータを最適化することが今後の課題である。また、実用的な観点からは、より高カバレ
ッジの日英・中英対訳辞書を用いることが重要である。
謝辞：

本研究の一部は科学技術振興調整費によるプロジェクト「日中・中日言語処理技術の開発研究」および（株）日立製作所との共同研究として実施した。
参 考 文 献Bond, Francis, Ruhaida Binti Sulong, Takefumi Yamazaki, and Kentaro Ogura. (2001). Design andconstruction of a machine-tractable Japanese-Malay dictionary. In Proceedings of Machine Translation
Summit VIII, pp. 53-58.
Church, Kenneth and Patrick Hanks. (1990). Word association norms, mutual information, andlexicography. Computational Linguistics, 16(1): 22-29.
Fung, Pascale and Lo Yuen Yee. (1998). An IR approach for translating new words from nonparallel,
comparable texts. In Proceedings of the 36th Annual Meeting of the Association for Computational
Linguistics and the 17th International Conference on Computational Linguistics, pp. 414-420.
Kaji, Hiroyuki and Toshiko Aizono. (1996). Extracting word correspondences from bilingual corpora basedon word co-occurrence information. In Proceedings of the 16th International Conference on
Computational Linguistics, pp. 23-28.
Kaji, Hiroyuki and Yasutsugu Morimoto. (2002). Unsupervised word sense disambiguation using bilingualcomparable corpora. In Proceedings of the 19th International Conference on Computational Linguistics,
pp. 411- 417.
Kaji, Hiroyuki and Yasutsugu Morimoto. (2005). Unsupervised word-sense disambiguation using bilingualcomparable corpora. IEICE Transactions on Information and Systems, E88-D(2): 289-301.
Nakagawa, Tetsuji and Kiyotaka Uchimoto. (2007). A hybrid approach to word segmentation and POS
tagging, In Proceedings of the 45th Annual Meeting of the Association for Computational Linguistics, pp.
217- 220.
Rapp, Reinhard. (1995). Identifying word translations in non-parallel texts. In Proceedings of the 33rd
Annual Meeting of the Association for Computational Linguistics, pp. 320-322.
Rapp, Reinhard. (1999). Automatic identification of word translations from unrelated English and German
corpora. In Proceedings of the 37th Annual Meeting of the Association for Computational Linguistics, pp.

39

519-526.
Sammer, Marcus and Stephen Soderland. (2007). Building a sense-distinguished multilingual lexicon frommonolingual corpora and bilingual lexicons. In Proceedings of Machine Translation Summit XI, pp.
399-406.
Shirai, Satoshi and Kazuhide Yamamoto. (2001). Linking English words in two bilingual dictionaries togenerate another language pair dictionary. In Proceedings of the 19th International Conference on
Computer Processing of Oriental Languages, pp. 174-179.
Tanaka, Kumiko and Hideya Iwasaki. (1996). Extraction of lexical translations from non-aligned corpora.
In Proceedings of the 16th International Conference on Computational Linguistics, pp. 580-585.
Tanaka, Kumiko and Kyoji Umemura. (1994). Construction of a bilingual dictionary intermediated by athird language. In Proceedings of the 15th International Conference on Computational Linguistics, pp.
297-303.
田中久美子，梅村恭司，岩崎英哉．1998．第三言語を介した対訳辞書の作成．情報処理学会論文
誌，Vol. 39, No. 6, pp. 1915-1924．
Zhang, Yujie, Qing Ma, and Hitoshi Isahara. (2007). Building Japanese-Chinese translation dictionary
based on EDR Japanese-English bilingual dictionary. In Proceedings of Machine Translation Summit XI,
pp. 551-557.

40

３．３

対訳特許文書からの専門用語対訳辞書生成：
機械学習による異種情報源の統合
筑波大学 大学院 システム情報工学研究科
知能機能システム専攻

森下 洋平
宇津呂

武仁

コンピュータサイエンス専攻 山本 幹雄
3.3.1 はじめに本研究では，対訳特許文書から専門用語訳語対を獲得する手法として，フレーズベース統計的機械翻訳モデル[1]により学習されるフレーズテーブルと，既存の対訳辞書を用いる要素合成法[3]を併用する．評価実験においては，まずフレーズテーブルにより生成された訳語候補と要素合成法により生成された訳語候補をそれぞれ単独で評価し，また，翻訳資源が異なるこれら二手法によって生成された訳語候補が一致する場合について，その訳語候補を評価する．さらに，Support
Vector Machines (SVM)[4]を用いた機械学習により，得られた訳語候補の検証を行う．SVM の素性は，既存の対訳辞書を利用したものや，全対訳文から得られる統計量などを用いた．その結果，
SVM を用いることによりフレーズテーブルを用いた訳語候補推定の性能を改善することができた．
3.3.2 日英対訳特許文
本研究では, NTCIR-7 の特許翻訳タスクで配布された 1,798,571 件の文対応データを, フレーズテーブルと統計的共起測定法の学習データとして, またその中の 400 件の日本語文から抜き出した専門用語を評価対象データとして使用した. 特許翻訳タスクとは, ワークグループ参加者に特許文書を対象とした対訳文や対訳文書, 評価セットといった機械翻訳における共通基盤となるデータを提供し, さらにそれらを用いて, 特定の課題を行うことによって, 機械翻訳の研究レベ
ルの底上げを図ったタスクである. なお, 配布された文対応データは, 以下の手順で得られたも
のである.
1.

1993-2000 年発行の日本公開特許広報全文と米国特許全文を得る.

2.

米国特許の中から日本に出願済みのものを優先権番号より得て, 日米対訳特許文書を取得する.

3.

日米特許で互いに対応関係にある部分（背景, 実施例）を抽出し, 文アラインメントをつける.

3.3.3 訳語推定手法
3.3.3.1 英辞郎
専門用語が, 既存の辞書に登録されているか否かを調べるために, 既存の対訳辞書として, 収録

41語数約 129 万語である英辞郎1Ver.79 を使用した.
3.3.3.2 要素合成法
名詞句を構成要素に分解し, 既存の対訳辞書（英辞郎）を用いて構成要素ごとに訳語を求め, それらを再構成して全体の訳を得る要素合成法[3]を用いる. 要素合成法によって, 対象日本語名
詞句の訳語候補と, それらが対応するスコアを求める. 図 1 に具体的な手順を示す.

懸垂• dangling• suspension• chin-up• suspensory• pendency

１． 訳を知りたい語を構成要素に分割し、構成要素の訳語を得る

碍子(1.48)
(1.0)
(1.0)
(1.0)
(1.0)

• insulator(0.85)

２． それぞれの訳語にスコアをつける３． それぞれの訳語とスコアを組み合わせる

生成された訳語候補
dangling insulator (1.258)
suspension insulator (0.85)
chin-up insulator (0.85)
suspensory insulator (0.85)
pendency insulator (0.85)

1.48×0.85
1.0×0.85
1.0×0.85
1.0×0.85
1.0×0.85

４． 生成した訳語候補で、専門用語を抜き出した日本語文と対訳となる英語文に出現するもののみを取り出す

図 1 要素合成法による訳語推定
構成要素の訳語を求め, スコアを付与するのに, 要素合成法では２種類の辞書を用いる. 既存の対訳辞書である英辞郎と, 英辞郎から生成した部分対応対訳辞書である. 部分対応対訳辞書とは,「複合語中の構成要素がどのように訳されるのが自然か」の情報を含む辞書である. 例えば,
「applied」は, 一般的には「応用の」, 「応用された」などに訳されるが, 複合語としては
applied mathmatics ↔ 応用 数学のように, 「応用」と訳すことが多い. それにもかかわらず, 既存の対訳辞書には applied ↔ 応用という対応が登録されておらず, このような組み合わせは数多く存在する. 部分対応対訳辞書
は, そのような複合語としての自然な訳を既存の対訳辞書から生成し, 登録した辞書である. また, 部分対応対訳辞書には２つの種類があり, 前節語として自然な訳を登録する前方一致部分対
応対訳辞書, 後節語として自然な訳を登録する後方一致部分対応対訳辞書がある. 前方一致部分
対応対訳辞書の具体的な作成方法を図 2 に示す.

1

http://www.eijiro.jp/42

① 日英各２構成要素からなる訳語対を英辞郎から抽出（ P2 ）② 日英とも共通の第一要素からなる訳語対をP2 から収集
③ 日英双方の第一要素からなる部分対応訳語対を作成
日英各２構成要素からなる訳語対（総数258,211個）

applied mathematics : 応用 数学
applied science: 応用 科学applied robot: 応用 ロボット

第一要素が
第一要素と
対応する
ことを仮定

出現回数 f p
部分対応対訳辞書 applied（前方一致）＊: 応用 ＊: 4022

図 2 前方一致部分対応対訳辞書の作成方法
後方一致部分対応対訳辞書も同様の手順で作成する.
また, 要素合成法のスコアの付け方を図 3 に示す.

43

yS

n

q( si, ti ) Qcorpus( yT )
i 1

構成要素

s1 s 2

懸垂碍子
英語
yT 訳語候補

日本語専門用語の構
成要素と、英語訳語候補の構成要素の対応の適切さ

q ( si , ti )

日本語
専門用語

10(compo ( s ) 1)
( s, tlog fp ( si , ti ) ( si, ti
log fs ( si, ti ) ( si, ti

英語訳語候補自体の適切さin 英辞郎)in Bp)
in Bs )

dangling insulator
suspension insulator
chin-up insulator
suspensory insulator
pendency insulator

懸垂

碍子

t1

t2

dangling insulator
suspension insulator
chin-up insulator
suspensory insulator
pendency insulator

英辞郎：既存の対訳辞書
Bp：自動生成辞書{前接語}
Bs：自動生成辞書{後接語}
compo(s) = 日本語側の用語sの構成要素数

Qcorpus( yT )1

yTが日本語専門用語を抜き出した日本語文と対訳となる英文中に出現する

0

yTが日本語専門用語を抜き出した日本語文と対訳となる英文中に出現しない

図 3: 要素合成法のスコアの付け方
3.3.3.3 フレーズテーブル
フレーズベースの統計的機械翻訳モデルのツールキットである Moses を用いて, 3.3.2 節で述べた文対応データから, 対応しやすいフレーズペア, およびフレーズペアが対応する確率を示したフレーズテーブルを作成する. 以下に Moses がフレーズテーブルを作成する過程を示す.
1.

文対応データの前処理として, 単語の数値化, 単語のクラスタリング, 共起単語表の作成な
どを行う.

2.

IBM モデルにより文対応データから単語対応を生成するツールである GIZA++を用いて, 最尤な単語対応を得る. 英日, 日英の両方向で行う. 求めた英日最尤単語対応の例を図 4 に示す.

44

・

・

で

・

・ ■ ・

・

・

・

・

・

・
・

・

・

・ ■ ・

・

・

・

と

・

・

・

・

・

・

・

・

・ ■

１２

・

・

・

・

・

・

・

・ ■ ・

図

・

・

・

・

・

・

・ ■ ・

は

・

・

・

・

・

・

・

・

・ ■

以外 ・ ■ ・

・

・

・

・

・

・

・

それ ■ ・

・

・

・

・

・

・

・

・

12

e0

remains

同様 ・

fig

・

In

・

as

・

same

・

the

・ ■ ・

are

・

the

ある

・

図 4: 英日最尤単語対応
3.

日英両方向の単語対応から, 対称な単語対応をヒューリスティックスを用いて得る. 対称な単語対応の例を図 5 に示す.
最尤単語対応（日→英）最尤単語対応（英→日）
ある

・

・

■

・

・

・

・

・

・

・

ある

・

・

■

・

・

・

・

・

・

で

・

・

■

・

・

・

・

・

・

・

で

・

・

・

・

・

・

・

・

・

同様

・

・

・

・

■

・

・

・

・

・

同様

・

・

・

・

■

・

・

・

・

と

・

・

・

・

・

・

・

・

・

■

と

・

・

・

・

・

■

■

・

・

１２

・

・

・

・

・

・

・

・

■

・

１２

・

・

・

・

・

・

・

・

■

図

・

・

・

・

・

・

・

■

・

・

図

・

・

・

・

・

・

・

■

・

は

・

・

・

・

・

・

・

・

・

■

は

・

・

・

■

・

・

・

・

・

以外

・

■

・

・

・

・

・

・

・

・

以外

・

■

・

・

・

・

・

・

・

それ

■

・

・

・

・

・

・

・

・

・

それ

■

・

・

・

・

・

・

・

・

the

remains

are

the

same

as

In

fig

12

e0

the

remains

are

the

same

as

In

fig

12

ある

・

・

■

・

・

・

・

・

・

で

・

・

□

・

・

・

・

・

・

同様

・

・

・

・

■

・

・

・

・

と

・

・

・

・

・

□

□

・

・

１２

・

・

・

・

・

・

・

・

■

図

・

・

・

・

・

・

・

■

・

は

・

・

・

□

・

・

・

・

・

以外

・

■

・

・

・

・

・

・

・

それ

■

・

・

・

・

・

・

・

・

the

remains

are

the

same

as

In

fig

12

対称単語対応積： ■のみ和： ■と□
grow-diag:

図 5: 対称単語対応

45を除く■と□

4.

対称な単語対応表に矛盾しない, 一貫したフレーズ対応を得る. 一貫したフレーズ対応の例
を図 6 に示す. 対称の単語対応を図のようなテーブルに置き換え, 英日で任意の単語対応の固まりを四角で囲んだ時, 灰色部分の領域に他の単語対応が存在しないフレーズのペアが一貫したフレーズ対応である. このようなフレーズ対応を全て抽出する.

同様
と
１２
図
は
以外
それ

fig

In

as

same

are

remains

・ ・ ・ ・ ・ ・・ ・ ・ ・ ・ ・・ ■ ・ ・ ・ ・・ ・ ■ ■ ・ ・・ ・ ・ ・ ・ ■・ ・ ・ ・ ■ ・・ ・ ・ ・ ・ ・・ ・ ・ ・ ・ ・・ ・ ・ ・ ・ ・
the

で

・ ・ ■
・ ・ ■
・ ・ ・
・ ・ ・
・ ・ ・
・ ・ ・
・ ・ ・
・ ■ ・
■ ・ ・
the

ある

12

図 6: 一貫したフレーズ対応
5.

学習データからフレーズ対応の数を数えてフレーズ翻訳確率を付与する.

6.

reordering モデル（フレーズの並び替え確率）を計算, 生成する

作成したフレーズテーブルの形式を表 1 に示す.
表 1: フレーズテーブルの形式

日本語フレーズ 英語フレーズ
フレーズ対応のモデルパラメータ
その 結果
as a result
0.242637 | 0.0629573 | 0.229377 | 0.000588454 | 2.718
その 結果
in consequence
0.132075 | 0.00664276 | 0.0014436 | 4.62987e-05 | 2.718
その 結果
the cpu 501
0.0227273 | 4.79776e-06 | 5.1557e-05 | 3.97554e-09 | 2.718
表１は「その結果」という日本語フレーズ周りの対応を示したものである. その 結果 ↔ as aresult という対応が一般的だが, その 結果 ↔ the cpu 501 というあり得ない対応までフレーズ
テーブルには登録されている. これは, 学習データで 「その 結果」と「the cpu 501」が同じよ46

うな使い方をされていたためである. このような, 一般的なフレーズ対応からあり得えにくいフレーズ対応まで網羅したリストがフレーズテーブルである.
フレーズ対応のモデルパラメータは５つとなり, 各種確率は, フレーズの英日翻訳確率

P( ja | en) , 英日方向の単語の翻訳確率(IBM モデル)の積, 日英翻訳確率 P(en | ja ) , 日英方向の単語の翻訳確率(IBM モデル)の積, フレーズペナルティ(常に自然対数の底 e=2.718)となる.
今回は, フレーズテーブルのスコアとして, フレーズの日英翻訳確率 P (en | ja ) を用いた.

3.3.4 各訳語推定手法単独の出力およびその共通部分の性能評価

1993-2000年発行の対訳特許文書の背景、実施例から文対応を得たもの

文対応データ180万件
例：流体圧シリンダの場合は流体が徐々に排出されることとなる。

例：When the fluidpressure cylinder is used,fluid is gradually applied.

SMTモデルによる学習

C. フレーズ翻訳テーブル②訳語推定

fluid pressure cylinderpressure cylinder④SVMによる
訳語候補の絞りこみ①専門用語抽出

日本語
専門用語③英語文に出現するものを抽出する

fluid pressure cylinder
英語
訳語候補

A.英辞郎
fluid pressure cylinderpressure cylinderhydrodynamic pressure cylinder

流体圧シリンダ

B. 要素合成法

図 7: 評価全体の流れ
全対訳文 180 万件から，IPC 分類が均等になるように，無作為に抽出した対訳文を評価用デー
タとした．そして，以下の日本語専門用語集合(図 8)に対して，各訳語推定手法単独，もしくは複数の手法を併用した場合の性能を，図 9 に示す．
(a) 日本語専門用語全体(b) 全ての手法により同一の訳語候補を出力できた日本語専門用語(c) フレーズテーブルと要素合成法により同一の訳語候補を出力できたが，英辞郎では訳語を生成できなかった日本語専門用語(d) フレーズテーブルのみにより訳語候補を生成できた日本語専門用語
集合(d)に対するフレーズテーブルの適合率(88.6%)をベースラインに設定し，これより高い適合率を目指す．三手法全てにより，同一の訳語候補を得られた日本語専門用語集合(b)と，要素合成

47

法およびフレーズテーブルにより，同一の訳語候補を得られた日本語専門用語集合(c)に対する F
値は 90%を超え，ベースラインより高いものとなった． 集合(b)および(c)では，既存の対訳辞書
およびフレーズテーブルという，異なる性質を持つ翻訳資源を併用することにより，共通の訳語を得た場合に適合率を改善する結果が得られた．また，集合(b)と(c)を合わせると，全日本語専門
用語の 43%に対し，約 95% の適合率を実現している．したがって，以上のような手法により，対訳専門用語の半自動獲得において 高い適合率を実現するという，本論文の目的を達成できることが分かる．

(a) 全日本語専門用語 (100%)

91%

43%

17%

フレーズテーブル

要素合成法により

英辞郎により訳

により訳語候補を出力

訳語候補を出力

語候補を出力

(c)

(d)

16.7%

要素合成法とフレーズテーブルのみにより同一のフレーズテー
ブル のみにより訳語候補を出力

8%

(b)

26.2%

49%

どの訳語推定手法でも、訳語を出力できない

３手法全て により、同一の訳語候
補を出力

訳語候補を出力

図 8: 英辞郎、要素合成法、フレーズテーブルの訳語候補が英文中に存在した割合(a) 全日本語専門用語 (100%)

フレーズテーブルのスコア１位

再現率:70.7%91%
適合率:88.6%
フレーズテーブル
により訳語候補を出力
Ｆ値：78.7%

３手法のスコア１位が一致

要素合成法１位とフレーズテーブル１位が一致

43%
再現率:
92.6% 17%
英辞郎により訳
適合率: 98.3%語候補を出力
訳語候補を出力
Ｆ値：
95.3%→翻訳辞書作成者に提示す→翻訳辞書作成者に提示する（改善する必要あり）

るためには、改善する必要あ
り

(c)

(d)
フレーズテー
ブル のみにより訳語候補を出力

既存の対訳辞書に載っているので、新規性はないだろう

(b)

26.2%

49%

どの訳語推定手
再現率：法でも、訳語を出
96.0%
力できない
適合率： 98.8%8%
F値： 97.4%

要素合成法により

16.7%

要素合成法とフレーズテーブルのみにより同一の３手法全て により、同一の訳語候
補を出力

訳語候補を出力

フレーズ対応の一貫性制約：あり

図 9: それぞれの名詞句集合における評価結果

48

3.3.5 SVM による訳語候補の検証
3.3.5.1 手法
本節では，SVM を用いて，三種類の訳語推定手法によって得られた訳語候補の検証を行う．
SVM のツールとして，TinySVM(http://chasen.org/˜taku/software/TinySVM/)を用いた．訓練および評価事例を< tJ,tE,c>と記述する． ここで，tJ は日本語専門用語，tE は少なくとも一つの手法で生成された英語訳語候補，c は tE が tJ の正解訳か否かを示す．tE が正解の場合，c=+となり，そうでない場合 c=-となる．カーネル関数として，線形カーネルと二次多項式カーネルを比較し，より高い性能が得られた二次多項式カーネルを採用した．評価時においては，事例<
tJ,tE,c>のうち日本語側に日本語専門用語 xJ を持つ事例<tJ,tE,c>を集めて，クラス c の判定を行い，十分に信頼できる事例があれば，それを選別する方式で評価を行った．本研究では，SVMの分離平面から，評価事例までの距離を信頼度とし，xJ を共有する事例の中で分離平面からの距離が最長のものを選択した．
以下の評価では，日本語専門用語集合(c)と，日本語専門用語集合(d)から得られた訓練，評価事
例を用意した．これら 2 種類の集合から得られた訓練，評価事例は別々に扱い，それぞれに対して 10 分割交差検定を行った．
3.3.5.2 素性• 単言語素性• 日本語専門用語の形態素数• 英語訳語候補の単語数• 二言語素性– 英辞郎を利用• 要素合成法のスコアと順位• 日本語専門用語・英語訳語候補の構成要素の対応が少くとも一つ英辞郎に存在– 対訳文から得られる統計量を利用• フレーズテーブルのスコアと順位
2• 相互情報量、尺度、dice係数、対数尤度比を求めるのに必要t E ) ， freq ( t J , t E ) の値
freq
(
t
,
t
)
な、
J
E ，freq ( t J ,（直接素性として用いたほうが、よい性能が得られたため）• フレーズ対応の一貫性制約

図 10: SVM の素性
SVM において用いた素性を図 10 に示す．
3.3.5.3 評価結果
フレーズ対応の一貫性制約を用いるにあたって，以下の三つの条件で SVM による絞りこみを行

49

った．
(1)フレーズ対応の一貫性制約に違反する訳語候補をあらかじめ除外しない．SVM の素性に違反の有無素性を用いない．
(2)フレーズ対応の一貫性制約に違反する訳語候補をあらかじめ除外しない．SVM の素性に違反の有無素性を用いる．
(3)フレーズ対応の一貫性制約に違反する訳語候補をあらかじめ除外する．SVM の素性に違反の有無素性を用いない．
評価結果を図 11，12 に示す．訳語候補のうち，信頼性の低いものを識別する手段として，分離
平面から評価事例までの距離に下限を設定し，下限に満たない評価事例がある場合はそれらを除いた．下限値の調整の際には，訓練・評価事例以外の事例を用いた．各素性を用いた場合において，適合率が最高となる下限を用いた結果を表枠内の上に，F 値が最高となる下限を用いた結果を下に示す．以上の結果から，SVM を用いた訳語候補の検証により，対訳専門用語の半自動獲得
において F 値または適合率を改善することができた．

• 集合c（要素合成法とフレーズテーブルのみにより同一の訳語候補を出力した日本語専門用語）
ベースライン（要素合成法1位フレーズテー
ブル1位の訳語候補が一致）

再現率：92.6%(451/487)
適合率：98.3%(451/459)
F値 ：95.3%
フレーズ対応の一貫性制約：あり

SVMによる絞込み（カーネルは２次多項式を使用）

再現率：72.9%
適合率：99.2%
F値 ：80.1%
フレーズ対応の一貫性制約：
ＳＶＭの素性として用いる

再現率：98.2%
適合率：98.2%
F値 ：98.2%
フレーズ対応の一貫性制約：
ＳＶＭの素性として用いる

図 11: SVM の評価結果：集合(c)50

適合率が最高となる下限

適合率が0.9%
向上！（有意差なし）
F値が最高となる
下限

F値が2.9%向上！ （有意差あり）

• 集合d（フレーズテーブルのみにより訳語候補を出力した日本語専門用語）
ベースライン（フレーズテーブルのスコア1位）

SVMによる絞込み（カーネルは２次多項式を使用）

再現率：35.1%
適合率：95.5%
F値 ：49.4%

再現率：70.7%(619/875)
適合率：88.6%(619/699)
F値 ：78.7%

フレーズ対応の一貫性制約：
用いない

再現率：90.9%
適合率：90.9%
F値 ：90.9%

フレーズ対応の一貫性制約：あり

適合率が最高となる下限
適合率が5.9%
向上！（有意差あり）
F値が最高となる
下限
Ｆ値が12.2%
向上！（有意差あり）

フレーズ対応の一貫性制約：
あらかじめ違反するものを除外

図 12: SVM の評価結果：集合(d)3.3.5 おわりに本研究では，対訳特許文に対して，複数の訳語推定手法を併用し，対訳専門用語獲得の性能を改善する手法を提案した．翻訳知識源が異なる 2 種類の訳語推定手法を用いることと，SVM を用いて，フレーズテーブルから得た訳語候補を検証し，信頼度の低いものを排除することで，適合率または F 値を改善することができた．
参考文献[1]. A. Fujii, M. Utiyama, M. Yamamoto and T. Utsuro: Overview of the Patent Translation
Task at the NTCIR-7 Workshop,

Proceedings of the 7th NTCIR Workshop Meeting, pp.

389--400 (2008).
[2].P. Koehn, et al. Moses: Open source toolkit for statistical machine translation. In

Proc. 45th ACL, Companion Volume, pp. 177-180, 2007.
[3].外池 昌嗣, 宇津呂 武仁, 佐藤 理史. ウェブから収集した専門分野コーパスと要素合成法を用いた専門用語訳語推定. 自然言語処理, Vol. 14, No.2, pp. 33-68, 2007.
[4].V. N. Vapnik: Statistical Learning Theory, Wiley-Interscience (1998).

51

３．４

対訳辞書および日中漢字の対応関係を用いた特許文書における専門用語の中日翻訳
東京大学

王 向莉

綱川 隆司

辻井 潤一

3.4.1 はじめに特許文書には多くの分野の専門用語や独特の語彙・言い回しが含まれている。このことにより特許文書の翻訳においては特定の分野の専門的知識や翻訳先言語の特許文の構成に関する知識が必要となる。特許文書等に含まれる専門用語の翻訳には大規模な対訳辞書が不可欠であり，市販の特許文書翻訳に対応した機械翻訳ソフトウェア等でも大規模な辞書が用意されているが，その作成・メンテナンスには大きなコストがかかる。
本研究では，日本語・中国語間の専門用語の翻訳に着目し，現状では対英語と比較して整備が遅れている日中間の専門用語の翻訳を統計的機械翻訳技術によって実現する。翻訳に用いる知識として，既存の中日対訳辞書に加え，日英および中英の対訳辞書から英語を介して日中間の対訳
フレーズ対をより多く獲得し，既存の日中対訳辞書のみではカバーできない語彙に対応する。また，同一のものに対して日中間で（字形の変化を含め）同じ漢字を用いる語彙も多いことから，
日中漢字の対応関係も導入する。
3.4.2 日中漢字の対応関係
漢字は古来中国から日本に伝えられたものであり，現在でも日本語と中国語の間では，共通または類似の意味を持っている漢字が多く存在する。また，中国あるいは日本で発明された語彙がもう一方の国へ伝わったために，同じ概念を同一の単語で表すこともある。このため，日本語と中国語は語族が異なるにもかかわらず，お互いに単語の意味をある程度推測することが可能である。
日本語と中国語の漢字を統一的に扱うための文字集合として Unicode が利用可能である。
Unicode を用いることで，異なる言語間の漢字間の同一表記による対応関係を得ることができる。
しかし，中国語と日本語の間には同じ起源をもつ漢字であっても字形の差や意味の差が存在する
場合がある。
表 1 に同じ起源の漢字に対して日本語・中国語間で字形や意味に差異があるかどうかを分類した。字形が異なる場合，これらを関連づけるためには中国語の簡体字と日本語の新字体との間の変換テーブルが必要となる。さらに，同一起源の漢字であっても，意味が全く異なる場合や一部の意味しか共有していない場合がある。このため，単純な漢字の対応付けでは不適切な訳を生じさせる可能性もある（青木ら, 2009）。
本研究では，字形の異なりに加え，漢字の意味的な対応関係を獲得するために，日中対訳辞書
から統計的機械翻訳（IBM Model）(Brown et al., 1993; Och and Ney, 2003)を利用して日中漢字間の翻訳確率を獲得し，英語を介した専門用語の中日翻訳に適用した。

52

：

表 1： 日中漢字の字形・意味の差異の有無による分類

分類

中国語（括弧内は繁体字） 日本語（新字体） 中国語の意味同一表記で共通の字，体，癌，椅子，条件

意味を表す

字，体，癌，椅
子，条件

字形が異なるが共姬，书（書），广（廣），

姫，書，広，漢通の意味を表す汉字（ 字），关 节（關節） 字，関節同一表記で異なる走，娘（孃），丈夫

走，娘，丈夫，意味を表す

走：歩く，行く
娘：母，年上の女性
丈夫：主人，夫；成年男子

字形が異なり，異汤（湯），手纸（手紙），なる意味を表す告诉（告訴）

湯，手紙，告訴

汤：スープ
手纸：トイレットペーパー
告诉：告げる，知らせる

表 2：

中国語の漢字に対する日本語の漢字への翻訳確率

翻訳確率

娘

翻訳確率

走

翻訳確率

肌

翻訳確率

站

0.152

女

0.163

足

0.812

筋

0.307

駅

0.109

母

0.100

縁

0.084

肌

0.130

立

0.073

婦

0.071

歩

0.020

腱

0.102

所

0.068

親

0.051

行

0.020

箪

0.086

場

…

…

…

…

…

…

…

…

0.039

娘

0.039

走

0.015

膚

0.014

站

表 2 に，得られた漢字間の翻訳確率を示した。最も上の行の中国語の漢字に対して，それぞれの日本語の漢字に訳される確率を左に記した。中国語の「娘」に対しては日本語の「娘」よりも「女」「母」などの漢字に高い確率が割り当てられている。
「走」に対しては，中国語の「走进」が日本語の「足踏みする」に訳されたり，中国語の「走廊」が日本語の「縁側」に訳されたりするために「走」一文字の意味である日本語の「歩」「行」よりも高い確率が「足」「縁」に割り当てられている。中国語の「肌」は日本語の「筋」に対応し，日本語の「肌」「皮膚」を意味するには「肤（膚）」を用いる必要がある。最後の例は中国語の「站」が日本語の鉄道の「駅」に対応する例であり，現在の日本語ではほぼ用いられない「站」には小さい確率しか割り当てられていない。以上のように，同一の起源を持つかどうかにかかわらず，漢字間の意味的な対応関係を得ることができた。
3.4.3 英語を介した専門用語の中日翻訳本研究では，ピボット言語を用いたフレーズベース統計的機械翻訳（内山・井佐原, 2007; 綱
川ら，2008）を用いて，特許文書に現れる専門用語の中日翻訳を行う。このための訓練データ
として，中日対訳辞書に加え，中英および日英対訳辞書を用いる。各辞書の用語に対してそれ

53

図 1：

英語を介したフレーズベース統計的機械翻訳による専門用語の中日翻訳

ぞれの言語の形態素解析を行って単語分割を行い，各対訳辞書を並列コーパスとみなしてフレーズベース統計的機械翻訳 (Och and Ney, 2003) の枠組みを用いて各言語対のフレーズ対とその翻訳確率を獲得する。中英および日英の対訳フレーズ対からは，以下の式により英語を介して日中対訳フレーズ対を新たに作成し，それを中日の対訳フレーズ対とマージする。
,.

以上の枠組みを図 1 に示す。
フレーズベース統計的機械翻訳では，対数線形モデルを用いて，以下の式を用いて中国語の専門用語 を日本語 に翻訳する。
ただし，は間の対訳らしさを表す素性関数であり，は各関数の重みである。

素性関数としては，以下のものを用いた。
中日対訳辞書から求めたフレーズ翻訳確率（両方向）
中英・日英対訳辞書からマージにより得られたフレーズ翻訳確率（両方向）
日本語言語モデル
フレーズの並び替えスコア (Koehn et al., 2003)
日中漢字の対応関係に基づくスコア
日中漢字の対応関係に基づくスコアは，前節で得られた漢字の翻訳確率てのフレーズ対に対して計算を行った。そのアルゴリズムを図 2 に示す。

54

を用いてすべ, 日本語の文字列

入力：中国語の文字列
出力：
1.
2.

，ビーム幅

，閾値

間の日中漢字の対応関係に基づくスコア

またはが空文字列のときは，1 を返す。

中国語の最初の文字に対して，漢字の翻訳確率が高い日本語の文字を順に個まで求める。ただし，漢字の翻訳確率が閾値 以下のものは除く。
3.

求めた日本語の各文字
れぞれについて， からそれを取り除いた文字列をそとする（すべての文字の翻訳確率が閾値

とする）
。また，

以下のときは，

とする。

のそれぞれ

の文字列組について，それぞれ再帰的に本アルゴリズムを適用して得られたスコアをとする。漢字の翻訳確率と再帰的に得られたスコアの積の最大値

図 2： 日中漢字の対応関係に基づくスコアを求めるアルゴリズム
3.4.4 実験
本手法による専門用語の中日翻訳が特許文書に含まれる専門用語に対してどの程度有効かを調べるために以下の実験を行った。
機械翻訳を行うためのフレーズ対は，以下の対訳辞書から抽出した。
中英 万方数据 (Wanfang Data) 英汉-汉英科技大词库（525,259 訳語対）(http://qh.library.hb.cn:85/kjxx/yhcb.htm)
日英JST 機械翻訳辞書（527,206 訳語対）(http://pr.jst.go.jp/others/tape.html)

日中 EDR 日中英辞書（596,967 訳語対）（EDR 電子化辞書(http://www2.nict.go.jp/r/r312/EDR/J_index.html)の日英対訳辞書の一部に中国語訳を付加したもの）
いずれの辞書も専門用語を含み，また日中辞書には一般語も含まれている。形態素解析には
JUMAN (http://nlp.kuee.kyoto-u.ac.jp/nl-resource/juman.html) お よ び cjma (Nakagawa
and Uchimoto, 2007) を用いた。日本語の言語モデルとして，Web 日本語 N グラム（工藤・賀沢, 2007）から構築した 3-グラム言語モデルを用いた。実験にはフレーズベース統計的機械
翻訳のツールキットとして Moses (Koehn et al., 2007) を用いた。
翻訳に用いるテストデータとしては、（財）日本特許情報機構（Japio）から提供された中日
特許文献対訳アラインメントファイルを用いた。これは情報科学分野からなる 232 対訳文アラ
インメントファイルである。
実験結果と考察
表 3 から表 6 に実験の評価を示す。特許文献アラインメントファイルから 210 の中日用語対が得られた。そのうち、完全に一致する用語対は 27 語、ほぼ一致する用語対は 7 語、意味的に一致する用語対は 86 語あり、あわせて全体の 5 割以上を占める。意味的に一致する用語の55

うち実際によく用いられる用語は 50 語あり、意味的に一致する用語のうち半分以上を占める。
また，その中で一方がカタカナによる表記になっているため完全一致にならない用語は 21 語あり、全体の 42％を占める。一方、実際にはほぼあるいは全く用いられない用語は 36 語あり，そのうち 14 語はカタカナによって完全一致にならない用語であり、全体のほぼ 4 割を占める。
表 3： 実験結果の評価（全体）
専門用語

完全一致する

ほぼ一致する

意味的に一致

一部が間違い全部が間違い

用語

用語

する用語

である用語

である用語

210

27

7

86

58

32

100%

12.86%

3.33%

40.95%

27.62%

15.24%

表 4： 実験結果の評価（意味的に一致する用語のうち用いられる用語・用いられない用語）
意味的に一致する用語

よく用いられる用語

用いられない用語

86

50

36

100％

58.14％

41.86％

表 5： 実験結果の評価（表 4 の用いられる用語のうちカタカナによる不一致が原因のもの）
よく用いられる用語

カタカナで不一致である用語

他の用語

50

21

29

100％

42.00％

58.00％

表 6： 実験結果の評価（表 4 の用いられない用語のうちカタカナによる不一致が原因のもの）
用いられない用語

カタカナで不一致である用語

他の用語

36

14

22

100％

38.89％

61.11％

3.4.5

おわりに

本研究では，日中漢字の対応関係を中日対訳辞書から獲得し，英語を介した中日翻訳を行う
ことで特許文書に含まれる専門用語を中国語から日本語へ翻訳することを試みた。テストセッ
トに含まれる 210 語の用語対について，約 13％については抽出した用語対と完全に一致する翻訳結果が得られ，ほぼ一致する用語と意味的に一致するもののうち実際によく用いられる用語を加えて 84 語（40％）について意味的に正しい訳語が得られた。
今後の課題としては，フレーズ対抽出および言語モデル構築に特許文書を用いることで精度の向上を図るほか，特許文書に多く含まれているカタカナ語に対処するために音訳に関する素性を組み込むことが考えられる。

56

[参考文献]Peter F. Brown, Vincent J. Della Pietra, Stephen A. Della Pietra, and Robert L. Mercer. The
mathematics of statistical machine translation: Parameter estimation. Computational

Linguistics, 19(2):263-311, 1993.
Philipp Koehn, Franz Josef Och, and Daniel Marcu. Statistical phrase-based translation. In

Proc. of the 2003 Conference of the North American Chapter of the Association for
Computational Linguistics on Human Language Technology, pages 48-54, 2003.
Philipp Koehn, Hieu Hoang, Alexandra Birch, Chris Callison-Burch, Marcello Federico,
Nicola Bertoldi, Brooke Cowan, Wade Shen, Christine Moran, Richard Zens, Chris Dyer,
Ondrej Bojar, Alexandra Constantin, and Evan Herbst. Moses: Open source toolkit for
statistical machine translation. In Proc. of the 45th Annual Meeting of ACL, demo. session,
pages 177-180, 2007.
Tetsuji Nakagawa and Kiyotaka Uchimoto. Hybrid approach to word segmentation and
POS tagging. In Companion Volume to the Proc. of the 45th Annual Meeting of the

Association for Computational Linguistics, pages 217-220, 2007.
Franz Josef Och and Hermann Ney. A systematic comparison of various statisticalalignment models. Computational Linguistics, 29(1):19-51, 2003.
青木 雅子，蒋 葳，井上 聡子，菊池 俊一．日中科学技術対訳コーパス作成における訳し分け用語・同形異義語の収集・分析．
言語処理学会第 15 回年次大会発表論文集，pages 180-183,
2009.
内山 将夫，井佐原 均．統計的機械翻訳におけるピボット翻訳の比較．言語処理学会第 13 回年次大会発表論文集，pages 187-190, 2007.
工藤 拓，賀沢 秀人．Web 日本語 N グラム第 1 版，2007.
綱川 隆司，岡崎 直観，辻井 潤一．日英・中英対訳辞書からの日中対訳辞書の構築．言語処理学会第 14 回年次大会発表論文集，pages 464-467, 2008.

57

４． 句の依存関係確率モデルを用いた統計的対訳文アライメント
京都大学大学院情報学研究科 中澤 敏明
黒橋 禎夫
4.1.1 はじめに
日本語と英語などのように、言語構造の大きく異なる言語の対訳文を精度良くアライメントする際に重要なポイントは二つある。一つは構造の違いを吸収するために構文解析や依存構造解析を利用することであり、もう一つは多対多のアライメントを生成できることである。既存の対訳
文アライメント手法の多くは、文を単純な単語列として見た単語アライメントであり、大きな構造の違いは扱えない[1, 4]。またこれらの手法によるアライメント結果にさらに構文情報を追加する手法[3, 6]も提案されているが、やはり不十分である。これに対してアライメントの最初から構文情報を利用する手法もいくつか提案されているが、生成可能なアライメントが 1 対 1 のみであるという制約があったり、ヒューリスティックなルールに基づいて多対多対応を生成するな
ど、ロバスト性に欠ける[2, 8]。本稿では両言語を依存構造解析し、木構造上での語句の依存関係をモデル化した新 たな句アライメント手法を提案する。このモデルでは単語列アライメントで扱うのが困難な距離の大きな語順変化にも対応することができるし、モデル内で自然に多対多対応を推定することができる。
4.1.2 依存関係確率モデル
本章では、提案するモデルについて説明する。
4.1.2.1 アライメントの単位
以後の説明では原言語に日本語、目的言語に英語を仮定する。ただし、提案手法は言語対によらない汎用的なものであることに注意されたい。まず対訳文を両言語とも依存構造解析する。日本語文に対してはJUMAN およびKNP を用い、英語文に対してはCharniak のパーサを用いて句構造に変換し、これにフレーズのhead を定義するルールを適用することにより依存構造に変換する。
これらの処理により、文は1 つの内容語と0 個以上の機能語とをひとまとまりとした句をノードとする依存構造木に変換される。
次に機能語を、内容語同士をつなぐものと考える。つまり機能語は、内容語とその係り先の内
容語との間に位置しており、それらをつなぐ枝として働くと考える。なお機能語がない句については、その句の係り受け情報を機能語の代わりとする。係り受け情報としては各パーサによって定義される係り受けタイプと係る方向を利用する。係り受けタイプは日本語では”文節内”や”連用”、”連体”などが、英語では”NP”、”VP”、”PP” などがある。係る方向はその句が係り先の前から係るか、後ろから係るかの情報である。これは英語で同士の前から係る名詞は主語(日本語での”ガ格”) である可能性が高く、後ろから係る名詞は目的語(“ヲ格”) である可能性が高いといった現象を扱うのに有効である。図1 に依存構造木の例を示す。提案モデルではこ58

図 1: 依存構造木の例
れら内容語ノード、付属語ノードそれぞれをアライメントの最小単位として扱う。なお、モデル
推定時には連続する複数のノードのかたまりもアライメントの単位として考慮することにより、多対多対応を実現する(4.1.3.2.3 章参照)。
4.1.2.2 モデルの定義
提案するモデルでは、IBM Model[1]のような方向性のある確率モデルを双方向同時に利用する。
そこでまず方向性のある確率モデルを定義する。IBM Model では与えられた原言語文 f と目的言
語文 e に対して最も良いアラインメント â を

arg max p ( f | e, a ) p(a | e)（１）
により求める。ここで p( f | e, a ) はlexicon probability、 p (a | e) はalignment probability とaˆ

呼ばれている。提案モデルでは木構造を利用しているため、以下のような確率を考える。与えられた原言語の依存構造木 Tf と目的言語の依存構造木 Te に対して、IBM Modelと同様に以下のよ
うに書ける。

aˆ（２）

arg max p(T f | Te , a) p (a | Te )さらに Tf が J 個のノード f1, …, fJ から、Te が I 個のノード e1, …, eJ から構成されているとし、各ノードの係り先（親） のノードを、添字にダッシュを付けることにより表し（例えばノード fj の係り先のノードは fjʼ ）、それぞれの確率を以下のように定義する。

59

Jp(T f | Te , a)（３）p ( f j | ea j )j 1Jp(a | Te )（４）p(rel (ea j , ea j ' ) | rel ( f j , f j ' ))j 1

aj は fj の対応先のノード番号であり、eaj は対応ノードを表す。

p( f j | ea j ) 単語翻訳確率であり、IBM Model 1と同様の定義である。 rel ( f j , f j ' ) は fjʼ からみ
たfj の依存関係であり、 rel (e a j , ea j ' ) も同様である。 p( rel (e a j , e a j ' ) | rel ( f j , f j ' )) は依存関係確率であり、原言語側で直接の親子関係になっている二つのノード（ fj と fjʼ ）の対応する目的
言語側のノード（eaj と eajʼ ）の依存関係がどうなっているかを表す確率である。提案モデルでは対訳文のアライメント確率 p(a | f , e) をlexicon probabilityとalignment probabilityを双方
向分すべて掛け合わせたものとして以下のように定義し、この確率が最大となるアライメントを最も良いアライメントとする。

p(a | f , e)（５）p (T f | Te , a) p (a | Te ) p(Te | T f , a) p (a | T f )4.1.3 トレーニング
モデルのトレーニングではまず単語翻訳確率のみを推定(Step 1) し、これを初期値として依存
関係確率と単語翻訳確率を同時に推定(Step 2) する。推定にはEM アルゴリズムを用いる。
4.1.3.1 Step 1
表 1: カテゴリ確率の有無による精度比較
基本的にはIBM Model 1と全く同じ方法で、

適合率

再現率

Ｆ値

各方向独立に推定を行う。ただし提案モデ

カテゴリ確率なし

58.25

42.77

49.33

ルでは内容語、機能語が内容語、機能語、

カテゴリ確率あり

76.52

50.23

60.65

NULL のどれに対応するかといった確率(カテゴリ確率) も利用する点が異なる。予備実験ではこの確率の導入により、Step 1でのアライメ
ントの精度が表1 のように向上することがわかった。カテゴリ確率は出現頻度が極端に少ない単語を正しくアライメントするのに有効である。これは出現頻度が少ない語はほぼ確実に内容語であるからである。なおカテゴリ確率はStep 1でのみ利用し、Step 2では利用しない。
Step 1では対応の単位は各ノード単体のみであり、複数ノードのかたまりは考慮しない。つまり、この時点では1対1対応のみしか扱えない。多対多対応はStep 2から考慮し、多ノード候補を動的に作り出すことにより実現する。これはStep 1の段階で多ノード候補全てを考慮すると、アライメント候補数が爆発し、扱えなくなるためである。
4.1.3.2 Step 2
単語翻訳確率と依存関係確率を同時に推定する。Step 2では双方向の確率を両方用い、一つの60アライメント結果を得る。しかしStep 1とは違い近似なしでモデルを完全に推定することはできないため、単語翻訳確率のみを用いて初期アライメントを生成し、山登り法により依存関係確率を考慮したn-best アライメントを探索する。
依存関係確率は、原言語側で直接の親子関係にあるノード（ fj と fjʼ ）の対応する目的言語
側のノード（ eaj と eajʼ ）の関係（ rel(eaj, eajʼ ) ）に対して与えられる確率である。rel(P2,P1) はあるノード（P1）から別のあるノード（P2）までの経路で表し、離れているノード数分だけ
以下の表記を並べることにより表現する。

P2 が P1 の子: c
P2 が P1 の親: p
例えば図1 において”いう”から見た”場合”の依存関係は”c“、”考える”は”c;c”、”ある”は”c;c;c;c”などとなる。
4.1.3.2.1

初期アライメントの生成

原言語側、目的言語側の全てのノード及び多ノード候補間の単語翻訳確率を計算し、単語翻訳確率の最も高いペアから順に採用する。ただし、すべてのノードは1度しかアライメントされない。
つまり対応の採用は排他的に行われるが、そもそも多ノード候補を考慮しているため自然と多対多対応が実現される。多ノード候補の生成については3.2.3章で述べる。なお、単語翻訳確率は両方向の単語翻訳確率を単純に掛け合わせることにより計算される。
4.1.3.2.2

山登り法

初期アライメントの状態から、依存関係確率を考慮しながらアライメントを修正していき、徐々に確率の高いアライメントを探索していく。修正手段としては以下の4種類を考える。
対応の入れ替え: 任意の2つの対応に注目し、それらの対応を入れ替える。
大きな対応への拡大: 任意の1つの対応に注目し、その原言語側または目的言語側いずれかの対応
を、親または子方向に1ノード分だけ拡大する。拡大先のノードにすでに対応が存在する場合、その対応は棄却し、反対言語側のノードはNULL対応となる。
対応の追加: 対応がないノード間に新たに対応を追加する。
対応の棄却: すでにある対応を棄却する。
修正後のアライメント確率が修正前よりも高くなる場合にのみ修正を実行し、修正された状態か
ら再度修正を行っていく。確率が高くなる修正箇所がなくなるまで修正を繰り返し行う。最終的に得られたアライメントが、最も確率の高いアライメントとなる。
4.1.3.2.3

多ノード候補の生成獲得された最も確率の高いアライメントの中に、NULLに対応付けされたノードがあった場合、それらを親、または子のNULL対応でないノードに併合したものを新たな多ノード候補として生成し、次のイタレーションから探索に入れる。この新たな多ノード候補はその対訳文から1回出現したものとして数える。

61

4.1.4 実験と考察
表 2: アライメント実験結果
JST日英抄録コーパスを用いてアライメ

適合率

再現率

Ｆ値

ント実験を行った。このコーパスは、科学

Step 1

76.52

50.23

60.65

技術振興機構所有の約200万件の日英抄録

Step 2-1

81.58

54.95

65.67

から、内山・井佐原の方法[7] により、情Step 2-2

82.79

60.34

69.81

報通信研究機構が作成したものであり、100

Step 2-3

83.12

62.27

71.20

万対訳文からなる。このうち100対訳文につStep 2-4

81.70

62.78

71.00

いてアライメントの正解を人手で付与し、Intersection

88.14

40.18

55.20

アライメント精度を適合率、再現率、F値にGrow-diag-final

78.00

52.93

63.06

Grow-diag-final-and

74.95

54.26

62.95

より測定した。実験は全ての語を原形に戻して行った。また提案モデルでは英語の冠詞は無視している。実験結果を表2に示す。
Step 1は両方向とも5回ずつイタレー
ションを行い、得られたパラメータを用いて3.2.1章で説明した初期アライ
メントを生成し、これを評価したものである。Step 2-1はStep 1のアライメ
ント結果から依存関係確率を推定してStep 1のパラメータに追加した状態でのアライメント精度である。つまりStep 1とStep 2-1とを比較することにより、依存関係確率の効果が見て取れる。以後Step 2のイタレーションを4回行い、その都度アライメント精度を算出した。また比較としてGIZA++による

図 2: アライメント結果例

双方向のアライメント結果を様々な対称化アルゴリズムでマージした結果も示す。これらの結果と比較すると、提案モデルの方がより精度の高いアライメントが実現できていることが分かる。
図2にアライメントの例を示す。例を見ると、”母集団
variable”、”による

population”、”変量

due to”など、期待する多対多の対応が得られていることが分かる。

またアライメント誤りの原因として最も大きいのはパース誤りであり、次いで多いのが初期アライメントのミスによるものであった。一方の言語で省略が起こっている場合や、同じ語が複数回出現する場合など、翻訳確率だけでは正しいものを判断できず、山登り法でも修正できなかったケースが多かった。これは初期アライメント生成時に曖昧性がある場合などは、多少依存関係確62図 3: 提案手法と単語ベースモデルとの比較率を考慮するなどすれば解決すると思われる。
図3に単語ベースモデルとの比較を示す。単語ベースモデルでは”上昇 さ せincrease”の対応が取れていない。これはこの部分が単語列で見ると前後の単語と不連続であり、単語ベース
モデルはこのような現象に弱いということが見て取れる。この文を木構造で見ると、単語列としては離れていても木構造では連続であるノードなどを正確に把握できるため、正しいアライメン
トが行なえていることがわかる。つまり、日英のように語順が大きく異なる言語対においては構
文情報を利用するべきであるといえる。
4.1.5 結論
本稿では句の依存関係確率モデルを用いた統計的アライメント手法を提案した。この確率モデ
ルは木構造上でのreorderingモデルと言うことができ、シンプルなモデルながらも言語構造の違いを柔軟に吸収し、精度の高いアライメントを実現できた。今回はアライメントの精度のみを評価したが、この結果が翻訳の精度にどのように影響するかを調査する必要がある。提案手法は依存構造解析に大きく依存しており、依存構造解析誤りが容易にアライメントの誤りにつながってしまう。各言語独立に依存構造解析の精度向上を期待することはできるが、対訳がある状況では両言語の解析結果を照らしあわせて、文構造を修正しつつアライメントすることも可能なはずであり、現在検討中である。これが実現できれば、依存構造解析とアライメント双方の精度向上が可能となると考える。
参考文献[1] Peter F. Brown, Stephen A. Della Pietra, Vincent J. Della Pietra, and Robert L. Mercer. The
mathematics of statistical machine translation: Parameter estimation. Association for Computational
Linguistics, 19(2):263-312, 1993.

63

[2] Colin Cherry and Dekang Lin. A probability mode to improve word alignment. In Proceedings of the
41st Annual Meeting of the Association of Computational Linguistics, pages 88-95, 2003.
[3] Brooke Cowan, Ivona Ku¸cerov¶a, and Michael Collins. A discriminative model for tree-to-treetranslation. In Proceedings of the 2006 Conference on EMNLP, pages 232-241, Sydney, Australia,
July 2006. Association for Computational Linguistics.
[4] Philipp Koehn, Franz J. Och, and Daniel Marcu. Statistical phrase-based translation. In HLT-NAACL
2003: Main Proceedings, pages 127-133, 2003.
[5] Toshiaki Nakazawa and Sadao Kurohashi. Linguistically-motivated tree-based probabilistic phrasealignment. In In Proceedings of the Eighth Conference of the Association for MachineTranslation in the Americas (AMTA2008), 2008.
[6] Chris Quirk, Arul Menezes, and Colin Cherry. Dependency treelet translation: Syntactically informed
phrasal SMT. In Proceedings of the 43rd Annual Meeting of the Association for Computational Linguistics (ACL'05), pages 271-279, 2005.
[7] Masao Utiyama and Hitoshi Isahara. A japanese-english patent parallel corpus. In MT summit XI,
pages 475-482, 2007.
[8] Kenji Yamada and Kevin Knight. A syntax-based statistical translation model. In Proceedings of 39th
Annual Meeting of the ACL, pages 523-530, 2001.

64

５． 特許文への構文解析適応
山形大学 横山 晶一
5.1.1 はじめに特許文が、詳細の説明や要件において、日本語の文には余り見られない長大な一文（200 字以上）になり、複雑な並列構造や係り受け構造を含んで、正確な構造を解析するのが困難であることは、すでに昨年度やそれ以前の報告書でも繰り返し述べてきた[1]。
昨年度までは、主として並列構造について調査し、出力された係り受け構造を修正するシステ
ムを構築した。今年度も並列構造についてある程度の調査は行ったが、特に特筆すべき成果が得られなかった。
本稿では、上記とは異なる立場からのアプローチについて述べる。これまでは、上記にもある
ように、構文解析器（パーザ）の出力を自動修正するシステムを構築してきたが、ここでは、構文解析器自体を、特許に適するように学習させた結果について述べる。
具体的には、Tsujii, Sagae による Ensemble 法[2]を用いて特許文の学習データを作り、構文解
析器をそのデータで学習させて、特許文に適応させるという手法をとる。学習データ作成に使用した構文解析器は、KNP[3], 南瓜[4]、MST [5], malt [6]の各パーザで、KNP 以外のパーザを学習に用いて適応させた[7-9]。評価は、人手で作成した３分野の正解データと、これらのパーザの結果とを比較する形で行った。その結果、ある程度特許文に特化した改善が見られた。その結果について以下に報告する。
5.1.2 Ensemble 法
構文解析器の中には、学習によって、ある分野に特化した出力が得られるように変化できるものがある。その際、問題になるのは学習するための文をどのように作成するかということである。
Tsujii, Sagae は、
学習するための訓練データを作成する方法として、Ensemble 法を提案した[2]。
これは、異なるアルゴリズムに基づく構文解析器を複数用意し、それらに文集合を解析させ、その結果を照らし合わせて、多数決的方法によって、学習のための構文解析情報を出力するという方法である。複数の構文解析器が同一の解析結果を出力するということは、異なる構文規則を用いても、出力が同じ構造になっていることを意味するので、正解データである可能性が高いと考えられる。従って、このデータを、構文解析器を訓練するデータとして使用することが可能である。
5.1.3 特許領域への適応
特許領域へ構文解析器を特化するために、上にも述べたように、いくつかの構文解析器を用いた。また、Ensemble 法による訓練データを作成するための対照パーザとして、KNP [3]を用いた。
以下に詳細を述べる。

65

適応の流れ特許F01分野
27万文
実験用データ
26万文(平文)

解析

不要

KNP

南瓜

解析結果

解析結果

No
一致？
Yes

追加

訓練用データ

南瓜
学習機能

適応済
構文解析器

訓練

適応完了

図1 Ensembleによる適応済構文解析器構築の図[7]665.1.3.1 KNP と南瓜による南瓜の適応
図１に Ensemble 法による南瓜[4]の適応[7]の概念図を示す。解析に用いる特許文は、AAMT/
Japio 研究会データベース[10]の 2004 年度の F01（機械）分野 267,405 文のうち、KNP で解析できる、１文 200 文字以下の 257,818 文である。
訓練用データの作成手順は、図１で示すように、次のステップからなる。
(1) AAMT/Japio 研究会データベース F01 分野の文を用意する(2) KNP, 南瓜にそれぞれ解析用データを入力して解析させる(3) 出力は、表記のしかたに違いがあるので、同じ表記法になるよう書き換える(4) ２つの解析結果を比較し、完全に一致するものを訓練用データとして保存する
上記の文のうち、7.3%に当たる 18,899 文が一致した。これを訓練データとして用いる。
このデータを用いて学習を行った南瓜の評価を行う。評価には、上記データベースの中から、訓練用データに含まれていない 1,000 文を KNP で解析し、人手で確認、修正を行ったものを評
価用データとして用いる。適応前の南瓜と適応後の南瓜の解析結果を評価用データと比較する。
比較のしかたは、１文に含まれる文節すべてに対して、文節の係り先と区切り位置が一致しているかどうかを見るという方法で行った。その結果を表１に示す。
表 1 適応済構文解析器と既存「南瓜」の正解データ比較結果の内訳
既存の南瓜(文)適応済構文解析器(文)

完全一致

5

6

文節数一致,係り受け不一致

304

303

文節数不一致

691

691

計

1,000

1,000

表から分かるように、この手法で改善された文は、１文のみであった。その文を以下に示す。
左の番号は、係り先の文節で、0 から始まり、これが 1 に係ることなどを示す。
# S-ID:P_F01_0207874
ストイキまたはリッチに保持する時間は、数秒ないし数分間で十分である。
* 1 ストイキまたは* 2 リッチに適応済構文解析器の係り先* 3 保持する

既存の南瓜の係り先* 6 時間は、* 5 数秒ないし* 6 数分間で* -1 十分である。

67

この文の第 0 文節「ストイキまたは」は、学習前の南瓜では、第 2 文節「保持する」に係っていたが、適応後には、並列構造である「リッチに」に係っている。たった１文ではあるが、特許文の課題の一つである並列構造[1]を改善したというところには、見るべきものがある。
5.1.3.2 KNP, MST Parser, malt Parser による Ensemble 法
同様の実験を、別のパーザを用いて行う[8,9]。ここでは、言語に依存しないパーザである、MST
Parser [5]と、malt Parser [6]を用いる。各々について簡単に解説する。
MST Parser は、単語の間にスコアをつけて結んだグラフの中から、スコアが最大となるSpanning Tree（閉路を持たないグラフ）を求めることで構文解析を行う。このパーザでは、大量の正しい構文解析データから単語間のスコア付けにおける重みを学習することで、その言語に適応した構文解析器となる。
malt Parser は、transition-based のパーザで、これまでの構文解析結果と、現在の状態が与えられたとき、次のパーザの動作として最も適切なものを選択するか、これらの選択の系列全体を最適化することによって動作する。アルゴリズムは MST とは全く異なっている。
これら２つのパーザは、大量の構文解析済みのテキストコーパスから学習を行うことで、その言語に適応したパーザとなる。そのために、次のような手順を用いる。
(1) 京大コーパス[11]（KNP で解析されている）約４万文を用いて、MST Parser, malt Parser
を日本語に適応させる。これを default のパーザとする(2) 上記の F01 分野の文（約 25 万文）を(1)の default パーザと KNP で解析する(3) MST Parser + KNP, MST Parser + malt Parser の２通りの組み合わせで一致する結果を学習する(4) (3)の結果を用いて MST Parser を学習させる(5) (4)の結果、作成された解析モデルを用いて、G06F（電気的デジタルデータ処理）、C12N（生物）、F01（機械）の３分野各 1,000 文（計 3,000 文）について評価する
表２

評価結果[9]F01（機械）

default

MST のみG06F（生物） （情報）Accuracy

0.90390.91760.9084C.C.

0.11310.17810.1381

0.92360.92730.9219

C.C.

0.1931

0.23420.2162

Accuracy

0.90620.91420.9088C.C.

0.13610.18910.1431

Accuracy

0.90470.91760.9081

C.C.

0.11610.17710.1371

MST + KNP Accuracy
MST + malt

C12N

68

評価は、次の２つの指標を用いて行う。
Accuracy = (正解データと一致した形態素数)／(全形態素数)
Complete Correctness (C.C.) = (正解データと文全体において一致した形態素数) ／(全形態素数)表２に評価結果を示す。表で「MST のみ」と書かれているのは、default のパーザによる解析結果からランダムに 25,000 文を抽出して学習を行ったものである。この中には、MST + KNP,
MST + malt で一致したものは含まれていない。この結果は、Ensemble 法によって行ったものよ
り低くなっている。
表２では、MST + KNP が最も高い数値を示している。また、いずれの分野においても精度が向上している。これは、特許領域では、別の分野であってもある程度適合できることを示唆している。
この出力結果をさらに向上させるために、格フレーム[12]を用いた改善の可能性を探った。MST
Parser では、辞書の情報は使用していない。従って、格フレームを利用して検索を行えば、結果の改善が期待できる。G06F の 1,000 文からランダムに 500 文を抜き出してエラー分析を行った
ところ、名詞―動詞間に誤りがある（すなわち格フレームに誤りがある）文は 12 文であった。このうち、格フレームを用いて修正可能なのは 7 文、格フレームにデータが存在しないものが 4 文、
格フレームを用いて修正すると誤りになるものは 1 文であった。
MST で利用できる文が約 25,000文あることから、この数字をそのままあてはめると、600 程度の文について修正できる可能性がある。
5.1.4 まとめ
構文解析器を特許文対応にする、パーザ適応という手段を用いて構文解析器を学習、特化させたところ、ある程度の改善が見られた。ただ、この手段を用いて評価用データを作ると、計算時間の割に、少数のデータ（7%程度）しか得られず、やや効率が悪いという欠点があった。
今後は、学習のしかたや評価用データの作り方についてさらに検討していきたい。
また、格フレームを用いて適応パーザをさらに改善する手法も試み、ある程度の成果を得た。
今後はこの手法がどの程度有効かをさらに追究する予定である。
謝辞
本研究の一部は、科学技術研究費（基盤研究(C)）
「動的シソーラスを用いた特許文の解析シス
テム」（課題番号 18500102）に基づき行われた。
参考文献[1] 横山晶一・橋本力：並列接続詞を含む特許文の係り受け解析修正システムと、特許文の連体
修飾節の構造解析、平成 19 年度 AAMT/Japio 特許翻訳研究会報告書(2007) pp.68-76[2] Jun’ichi Tsujii, Kenji Sagae: Dependency Parsing and Domain Adaptation with LR Models
and Parser Ensembles, EMNLP-CoNLL (2007) pp.1044-1050

69

[3] KNP (http://www-lab25.kuee.kyoto-u.ac.jp/nl-resource/knp.html) 京都大学黒橋研究室[4] 南瓜(http://chasen.org/%7Etaku/sofrware/cabocha/) 奈良先端科学技術大学院大学松本研究室[5] R. McDonald, F. Pereira, K.Ribarov, and J. Hajic: Non-projective Dependency Parsing
using Spanning Tree Algorithms, Proceedings of HLT/EMNLP (2005)[6] malt Parser (http://w3.msi.vxu.se/~jha/maltparser/)[7] 後藤広樹：Ensemble 法を用いた特許ドメインへの構文解析適応、山形大学工学部卒業論文(2009)[8] 吉田節行、横山晶一：パーサ適応と格フレームによる特許文構文解析精度の向上、情報処理学会第 71 回全国大会 2S-6 (2009)[9] 吉田節行：パーサ適応と格フレームによる特許文構文解析精度の向上、山形大学大学院理工学研究科修士学位論文(2009)[10] AAMT/Japio 特許翻訳研究会データベース(2005)[11] 京大コーパス(http://nlp.kuee.kyoto-u.ac.jp/nl-resource/corpus.html)[12] 河原大輔、黒橋禎夫：高性能計算環境を用いた Web からの大規模格フレーム構築、情報処
理学会自然言語処理研究会 NL-171 (2006) pp.67-73

70

―――――― 禁 無 断 転 載 ――――――
平成20年度AAMT/Japio特許翻訳研究会報告書（機械翻訳及び辞書構築に関する研究）
発 行 日

平成21年3月

発

財団法人 日本特許情報機構 （Japio）

行〒135-0016 東京都江東区東陽４丁目１番７号
佐藤ダイヤビルディング
TEL：(03) 3615-5511

FAX：(03) 3615-5521

編

集

アジア太平洋機械翻訳協会 （AAMT）

印

刷株式会社 ナビックス