言語処理学会 第21回年次大会 発表論文集 (2015年3月)

SVM を用いた
日中パテントファミリーからの対訳専門用語収集∗
董 麗娟†
龍 梓†
宇津呂 武仁†三橋 朋晴‡
山本 幹雄†
筑波大学大学院 システム情報工学研究科† 日本特許情報機構‡

1

訳特許文は，2004-2012 年発行の日本公開特許広報全はじめに近年，中国国内における特許出願は大幅な伸びを見せ

文と 2005-2010 年中国特許全文を対象として，文献 [6]ている．ここで，中国特許文書の翻訳は，特許文書のの手法によって日中間で文を対応付け，スコア降順で言語横断検索等のサービスにおいて不可欠であるため，上位の 360 万文対を抽出したものである．

中国語の特許を日本語に翻訳する仕事が重要になって3いる．機械翻訳や人手による翻訳を行う場合，高い質句に基づく統計的機械翻訳モデルのフレーズテーブルを保つためには大規模で正確な対訳辞書が必要である．
ここで，各国では，年々新しい技術開発が行われ，新句に基づく統計的機械翻訳モデルのツールキットであしい専門用語が作られ，特許が申請されている．しかる Moses [2] を用いて，2 節で述べた文対応データかし，人手によって，対訳辞書を作成するためには，膨ら，日中の句の組及び日中の句の組が対応する確率を大な時間と労力を要するため，自動もしくは半自動的示したフレーズテーブルを作成する．フレーズテーブに日中専門用語対訳辞書を構築する手法が必要である．

ルを作成する際の準備として，日本語文に対しては，そこで，本論文では，文献 [6] の手法を適用することによって，日中パテントファミリーから抽出した 360

MeCab1 による形態素解析を行い，一形態素を単語の単位とする．一方，中国語文に対しては，Chinese

く統計的機械翻訳モデルにより学習されるフレーズ

Penn Treebank を用いた Stanford Word Segment [5]によって形態素解析を行い，一形態素を単語の単位とテーブルを用いて，対訳専門用語を獲得する手法をする．以上の準備を行った日中対訳文に対して，Moses提案する．具体的には，まず，専門用語対訳辞書獲得を適用することにより，フレーズテーブルを作成する．の情報源として用いる日中対訳文対に対して，句に基その際，日本語句および中国語句の形態素数の上限をづく統計的機械翻訳モデルを適用することにより，フいずれも 15 とする．

レーズテーブルを学習する．次に，このフレーズテー4万件の日中対訳特許文を言語資源として，句に基づブルを用いて日本語専門用語の中国語訳語推定を行一組の日中対訳文およびフレーう．最後に，獲得した日中対訳専門用語に対して，複ズテーブルを用いた訳語推定

数の対訳文から得られる情報を素性として，Support

日中対訳文から辞書に登録すべき日中対訳専門用語をVector Machines (SVMs) [7] を適用する．結果とし獲得するために用いた手順の概要を図 1 に示す．日中て，提案手法により，再現率 60%以上という条件のも対訳特許文およびフレーズテーブルを用いて， 専門用とで，90%程度の適合率を達成した．

語の訳語推定を行う．訳語推定手法において，一つの2

日中対訳文を対象として，その日中対訳文に出現する

日中対訳特許文用語の訳語対 (用語対訳対) を推定する．具体的に，ま本論文では，フレーズテーブルの訓練用データとして約 360 万対の日中対訳特許文を使用した. この日中対∗ Collecting Japanese-Chinese Translation of TechnicalTerms from Patent Families by SVM† Lijuan Dong, Zi Long, Takehito Utsuro, Mikio Yamamoto,
Graduate School of Systems and Information Engineering,
University of Tsukuba‡ Tomoharu Mitsuhashi, Japan Patent Information Organization (JAPIO)

ず，全対訳文データの日本語文を形態素解析し，日中対訳文 SJ , SC  中の日本語文 SJ 中に含まれる専門用語を tJ とする．次に，得られた日本語専門用語 tJ に対し，フレーズフレーズに存在し，かつ，得られた対訳文 SJ , SC  の中国語文 SC に出現する訳語候補を抽出する．ここで，各日本語専門用語に対し，フレーズ― 724 ―

1 http://mecab.sourceforge.net

Copyright(C) 2015 The Association for Natural Language Processing.
All Rights Reserved.

図 1: 対訳文およびフレーズテーブルを用いた対訳専門用語獲得の流れ
区切り位置誤り，あるいはそれらの混在したものに分

表 1: 日本語名詞句の分類および例
日本語名詞句の分類

例

類することができる．最後に，日本語名詞句 1,148 例

専門用語

有機 化合 物 膜
希土類 焼 結 磁石のうち，578 例の日本語専門用語のみを評価対象の日一般名詞句製造 方法
化合 物

区切り位置誤り二次加式 リフト クレーン

本語名詞句として選定した．

5.2

前節で述べた手順によって得られた日本語専門用語 578
例に対して，統計的機械翻訳モデルのフレーズテーブ

表 2: 訳語候補集合における正・負例数の内訳

ルを用いて，訳語推定を行い，2,533 例の日中対訳専

正例

負例総数

門用語を生成した．次に，生成した 2,533 例の日中対

1,531

1,002

2,533

訳専門用語に対して，専門用語の対訳対として適切かテーブルにおける翻訳確率 1 位の訳語候補を生成し，訳語推定結果とした．

5

複数の日中対訳文からの情報を素

5.1

参照用対訳対集合の作成否かの判定を行い，表 2 に示すように，全 2,533 例中，正例を 1,531 例，負例を 1,002 例とした．

5.3

SVM の適用

前節で生成した 2,533 例の日中対訳専門用語を全事例性とする SVM の適用集合として，互いに素な部分集合に 10 分割した．た

訳語推定対象の選定

だし，同一の日本語専門用語を共有する複数の日中対日中パテントファミリーから抽出した 360 万件の日中対訳特許文を言語資源として，訳語推定手法の評価を行う対象とする日本語名詞句を選定する．具体的に，
まず，全対訳文データ 360 万件の日本語文を形態素解
析し，1,244,480 万件の日本語名詞句を抽出する2 ．次に，全日本語名詞句に対して，13 の日本語名詞句の頻度レンジを設定し，各頻度レンジにごとに，無作為に90 例 (合計 1,148 例)3 の日本語名詞句を抽出する．これらの日本語名詞句 1,148 例を大別すると，表 1 に示
すように，専門用語，および，それ以外の一般名詞句，2 日本語文の形態素解析結果に対して，名詞・接頭辞・接尾辞・未知語のいずれかの品詞の最長の形態素列に加えて，数字・アルファベットの列が連接することを許容したものを日本語名詞句として抽出する．
3 頻度レンジ 10,000 以上の場合のみ，全体で 68 例のみである．

訳専門用語は，同一の部分集合に含めた．また，本論
文では，TinySVM4 を利用して，評価実験を行った．
カーネル関数としては，一次多項式カーネルおよび二次多項式カーネルを評価し，相対的によい二次多項式カーネルを用いた．また，SVM の分離平面から評価事例までの距離を信頼度とし，正例判定における信頼度の下限を設定した．具体的には，10 個の部分集合のうち，8 個を訓練用事例集合として SVM の訓練を行い，残りのうちの 1 個を調整用事例集合とし，最後の1 個を評価用事例集合とした．調整用事例集合を用いたパラメータの調整においては，分離平面から評価用事例までの距離の下限のパラメータの調整を行った5 ．
4 http://chasen.org/~taku/software/TinySVM

5 本研究では，日中対訳専門用語の適合率および F 値を最大化する調整を行った．ただし，適合率を最大化する場合は，再現率が― 725 ―Copyright(C) 2015 The Association for Natural Language Processing.
All Rights Reserved.

表 3: 日中対訳専門用語同定のための素性分類
単言語素性

二言語素性

素性名定義

f1 : 日本語専門用語の頻度
f2 : 中国語専門用語の頻度

日本語専門用語が属する頻度レンジの番号 (1∼13)
中国語専門用語が属する頻度レンジの番号 (1∼13)

f3 : 翻訳確率f4 : 訳語候補の順位 (翻訳確率の降順)
f5 : 日中対訳専門用語の頻度
f6 : 日本語専門用語と対訳共起頻度の頻度差
f7 : 訳語数
f8 : 文単位の句対応制約の違反のない対訳文の割合
f9 : 要素合成法のスコア

フレーズテーブルにおける翻訳確率
同一日本語専門用語に対する訳語候補の順位 (翻訳確率の降順)
日中対訳専門用語が属する頻度レンジの番号 (1∼13)
日本語専門用語の頻度 − 日中対訳共起頻度が上限値(本論文では 105) 以下の場合 1，上限値を超える場合 0
同一の日本語専門用語に対する中国語訳語候補数

f8 = 文単位の句対応制約の違反のない対訳文対の数
当該日中対訳専門用語の共起頻度
要素合成法により出力された訳語候補のスコア

5.5

表 4: 評価結果 (%)
ベースライン
適合率最大SVM
F 値最大適合率

再現率F値

表 4 に評価結果を示す．ベースラインとして，全事例

60.4
91.876.2

100
59.788.675.372.3
81.9が正しいと判定した場合，適合率は 60.4%，再現率は100%，F 値は 75.3%となった．適合率を最大化する調整を行った場合の適合率は 91.8%，F 値を最大化する

以上の訓練，調整，評価の手順を 10 通り繰り返し，そ調整を行った場合の F 値は 81.9%となった．
表 5 に SVM によって選定された訳語候補の正解例の評価結果のマイクロ平均を算出し，日中対訳専門用および誤り例を示す．

語判定の性能評価を行った．

5.4

評価結果

表 5(a)「SVM に よ る 正 解 例 」の う ち ，日 本 語素性

本論文の手法において用いた素性は，表 3 に示すように，単言語素性と二言語素性から構成される．単言語素性としては，全 360 万対訳文における日本語専門用
語 tJ の頻度 (f1 )，および，中国語専門用語 tC の頻度(f2 ) を用いた．
二言語素性としては，フレーズテーブルによって各訳語候補に付与された翻訳確率の素性 (f3 )，および，同一日本語専門用語に対する訳語候補を翻訳確率の降順に順位付けした場合の順位の素性 (f4 ) を用いた．
その他，日中対訳専門用語 tJ , tC  の共起頻度の素性(f5 ) を用いた．また，日本語専門用語の頻度と日中対訳専門用語の共起頻度の差の素性 (f6 )，同一日本語専
門用語に対する中国語訳語候補の数の素性 (f7 )，文単位の句対応制約 [4] の違反のない対訳文の割合の素性 (f8 ) を用いた．さらに，日本語専門用語 tJ と中国語専門用語 tC との間で，要素合成法に基づき，フレーズテーブルを用いて構成要素の間の翻訳を行った際の翻訳確率の積を求めた値を要素合成法のスコアの素性 (f9 ) として用いた．ただし，フレーズテーブルを用いて構成要素を翻訳する際の翻訳確率に対して下限値 (本論文では 0.005) を設けるとともに，日本語専
門用語 tJ および中国語専門用語 tC を構成要素に分割する際に二通り以上の分割の仕方が可能な場合には，それぞれの分割の仕方における要素合成法スコアの和を用いた．

専門用語「水性/樹脂/組成/物」および中国語訳語の組においては，フレーズテーブルにおける翻訳確率 (素性 f3 ) は 0.95 であり，フレーズテーブルにおける中国語訳語の順位 (素性 f4 ) は 1位である．また，「水性/樹脂/組成/物」の訳語数 (素性 f7 ) は 1 であり，要素合成法により出力された訳語候補のスコア (素性 f9 ) は 0.73 である．これらの素性の効果によって，SVM により正解の対訳専門用語であると判定できた．一方，日本語専門用語「気/液/分離/器」および中国語訳語の組においては，フレーズテーブルにおける翻訳確率および要素合成法スコアの素性 (f3 ，f9 ) の値が十分に小さいことの効果によって，誤りの対訳専門用語であると判定できた．

5(b)「SVM に よ る 不 正 解 例 」の う ち ，日本 語 専 門 用 語「 生 物/処 理/反 応/槽 」お よ び 中 国
表の 組 に お い て は ，素 性語訳語(f3 ,f4 ,f7 ,f9 ) が原因となって，誤って正解訳語と判定されてしまった．逆に，日本語専門用語「非/晶/質/シリコン」および中国語訳語の組においては，要素合成法スコアの素性 (f9 ) が 0 となったことが原因で，誤りの対訳専門用語であると判定されてしまった．これら二組の例においては，いずれも，中国語側の形態素解析の誤りが原因となって，SVM による判定結果が不正解となっている．一つ目の例においては，日本語専門用語中の構成要素「槽」に対応する60%以上となるという条件のもとで，パラメータの調整を行った．

べき中国語側の形態素は― 726 ―であるが，中国語文の形Copyright(C) 2015 The Association for Natural Language Processing.
All Rights Reserved.

表 5: SVM による正解例および不正解例(a) SVM による正解例(b) SVM による不正解例

態素解析結果において，とが分割されなかっ7

おわりにとなって本論文では，日中対訳特許文に対して，句に基づく統しまった．一方，二つ目の例では，日本語側が「非/計的機械翻訳モデルにより学習されるフレーズテーブ晶/質」と一文字ごとに一形態素へと分割されたのにルを用いて，対訳専門用語を収集する手法を提案した．

対して，中国語側がと三文字が一形態素に連提案手法では，評価対象日本語名詞句に対して，対訳結された形態素解析結果となったため，要素合成法に特許文から学習されたフレーズテーブルを用いることおいて構成要素に分割して対応付けることができず，によって，日中対訳専門用語の候補を生成し，生成し要素合成法のスコアが 0 となってしまった．これらのた日中対訳専門用語候補に対して，SVM を適用した．

二例における誤りを回避するためには，中国語側にお提案手法により，再現率 60%以上という条件のもとで，いて一文字を一単語として学習した文字単位フレーズテーブルを併用し，この文字単位フレーズテーブルを90%程度の適合率を達成した．今後は，中国語側の語の区切り単位として，形態素および文字の二種類の単扱うための素性を新たに導入する必要があると考えら

位を併用した上で SVM を適用することによって，日れる．

中対訳専門用語同定の性能を改善する方式に取り組む．

6

謝辞

たため，中国語訳語が関連研究

訳語対の自動獲得において，統計的機械翻訳モデルに本研究においては，日本特許情報機構 (JAPIO) よりより学習されたフレーズテーブルを用いたものとし提供して頂いた日中パテントファミリーのデータを利て，文献 [4, 1] においては，パテントファミリーから用させて頂いた．関係各位に感謝の意を表す．

抽出した対訳特許文を言語資源として，句に基づく統計的機械翻訳モデルにより学習されるフレーズテーブ
ルを用いて，専門用語の訳語推定を行う．訳語推定手法においては，一つの対訳文を対象として，その対訳文に出現する用語の訳語対を推定する．一方，本論文においては，複数の対訳文から得られる素性を用いたSVM によって，高信頼度な日中間対訳専門用語を同定する手法を提案しており，文献 [4, 1] と比べると，これらの点が本論文の新規性となる．また，文献 [3]においては，中米パテントファミリーから対訳特許文を抽出して，統計的機械翻訳モデルにより学習される
フレーズテーブル，および SVM を用いることによって，中英対訳対を獲得する．本論文と文献 [3] の間の最も大きな相違点として，本論文の手法においては，フレーズテーブルから得られるスコアの情報だけではなく，頻度の情報 (f1 ，f2 ，f5 ，f6 )，訳語候補の順位(f4 )，訳語数 (f7 )，文単位の句対応制約の情報 (f8 ) を参考文献[1] 董麗娟, 龍梓, 豊田樹生, 宇津呂武仁, 三橋朋晴, 山本幹雄. 日中
パテントファミリーから抽出した対訳文を用いた専門用語の訳語推定. 言語処理学会第 20 回年次大会発表論文集, pp. 368–371,2014.
[2] P. Koehn, et al. Moses: Open source toolkit for statistical machine translation. In Proc. 45th ACL, Companion
Volume, pp. 177–180, 2007.
[3] B. Lu and B. K. Tsou. Towards bilingual term extraction
in comparable patents. In Proc. 23rd PACLIC, pp. 755–762, 2009.
[4] 森下洋平, 梁冰, 宇津呂武仁, 山本幹雄. フレーズテーブルおよび既存対訳辞書を用いた専門用語の訳語推定. 電子情報通信学会論文誌, Vol. J93–D, No. 11, pp. 2525–2537, 2010.
[5] H. Tseng, P. Chang, G. Andrew, D. Jurafsky, and C. Manning. A conditional random ﬁeld word segmenter for
Sighan bakeoﬀ 2005. In Proc. 4th SIGHAN Workshop
on Chinese Language Processing, pp. 168–171, 2005.
[6] M. Utiyama and H. Isahara. A Japanese-English patentparallel corpus. In Proc. MT Summit XI, pp. 475–482,2007.
[7] V. N. Vapnik. Statistical Learning Theory.
Interscience, 1998.

Wiley-

素性として用いて SVM を適用する点が挙げられる．

― 727 ―

Copyright(C) 2015 The Association for Natural Language Processing.
All Rights Reserved.