日英特許データベースからのシソーラスの自動構築
広島市立大学大学院情報科学研究科准教授● PROFILE

竹澤寿幸

1984 年早稲田大学理工学部電気工学科卒業。1989 年早稲田大学大学院博士後期課程修了。
同年（株）国際電気通信基礎技術研究所入社。2007 年広島市立大学大学院情報科学研究科教授、現在に至る。工学博士。音声対話翻訳の研究開発に従事。平成 18 年度電子情報通信学会 ISS 論文賞受賞。電子情報通信学会、人工知能学会、日本音響学会、言語処理学会各会員。

広島市立大学情報科学部● PROFILE

英嗣

1996 年東京理科大学理工学部電気工学科卒業。2001 年北陸先端科学技術大学院大学情報科学研究科博士後期課程修了。同年、日本学術振興会特別研究員。2002 年東京工業大学精密工学研究所助手。同年、広島市立大学情報科学部講師。2010 年 4 月広島市立大学大学院情報科学研究科准教授、現在に至る。博士 ( 情報科学 )。言語処理学会、情報処理学会、人工知能学会、ACL、ACM 各会員。

広島市立大学大学院情報科学研究科教授● PROFILE

難波間弓沙織2011 年広島市立大学情報科学部知能工学科卒業。
082-830-1584

1 はじめにC”などの定型表現に着目して、用語の上位、下位概念

本研究では、日英特許データベースからシソーラスを造を利用した抽出方法 [ 新里 2005] や、用語の定義文自動的に構築する手法を提案する。シソーラスは、文献を利用した方法 [ 大石 2006] なども提案されている。の検索や専門文書の執筆の際の情報源として、また、計

また、専門用語の訳語推定法については、統計的機械翻算機で言語処理を行う際の知識源としてもしばしば利用訳モデルを用いて訳語推定を行う手法、及び、既存の対されている。しかし、シソーラスを人手で構築し、更新訳辞書を利用した要素合成法を併用して、専門用語の訳することは非常にコストがかかるため、テキストデータ語を推定する手法が提案されている [ 森下 2010]。

2003、相澤 2006]。また、この他にも HTML の構ベースから、シソーラスを自動的に構築するという研究

本研究では、定型表現に基づいて上位、下位概念をが近年活発に行われている。また、専門用語の翻訳の際獲得する手法に着目し、日英特許データベースからそれには、正確な対訳辞書が必要不可欠であるが、既存の辞ぞれ上位、下位概念を獲得する。次に、統計的機械翻書に登録されていない用語が増加し続けており、対訳辞訳モデルを用いた訳語推定法に着目し、引用分析手法書を人手で継続、管理するには非常にコストがかかる。

[Kessler 1963、Small 1973] と合わせて、日本語そのため、専門用語を特許文書から抽出し、正しい訳語と英語の用語間の対応付けを行うことにより、日英特許を自動推定して、翻訳辞書作成を支援するシステムが求シソーラスを自動的に構築する。これにより得られたシめられている。

ソーラスを用いることで、文献の検索や専門文書の執筆、テキストデータベースからシソーラスを構築する代
表的な手法は、「A や B などの C」や“A such as B,248を自動的に抽出するものである [Hearst 1992、安藤YEAR BOOK 2011

訳語推定など、幅広く活用することが可能になると考えられる。

タベースからの上位、下位概念の抽出法を述べ、3 節では、から抽出された 3,185,254 文対を用い、言語モデル

日英の用語間の対応付け方法について説明する。4 節では、用に 3,186,284 文の日本語特許文を用いて、フレー本研究で行った実験について述べ、5 節で実験結果からのズテーブルの作成を行った。

考察を述べる。最後に 6 節で本稿をまとめる。

4

機械翻訳技術の向上

ルである GIZA++ を使用し、翻訳モデル用に日英特許寄稿集

本論文の構成は以下のとおりである。2 節では、
特許デー以下に、作成したフレーズテーブルを用いた用語の対応付け方法について説明する。【図 3】はその流れを示

2 上位、下位概念の抽出
日本文では「A や B などの C」、「A や B 等の C」、英文では、“A, such as B and C”といった定型表現にしたものである。
(1)

翻訳		 テキストデータベースから獲得された日本語の上位概念、下位概念を、作成したフレーズテーブルを用いてそれぞれ単独で翻訳する。

着目する。例えば、「染料や顔料などの着色剤」という(2)

文では、「着色剤」という上位概念に対して、「染料」「顔料」		 得られた訳語から、全ての組み合わせで上位、下位が下位概念であることが分かる。また、“pets, such

上位、下位の候補を作成の候補を作成する。

as cats and dogs”という文では、“pets”という位(3)概念に対して、“cats”“dogs”が下位概念であること		 得られた候補の中から、テキストデータベースからが分かる。本研究では、このような定型表現に着目し、【図獲得された英語の上位、下位概念に当てはまるものが1】のような日本文特許データベースと【図 2】のようあれば、日英の用語を対応付けする。

対応付け

な英文特許データベースから上位、下位概念を獲得する。
上記の (1) ～ (3) のように日英の用語間の対応付けを1993-000024:【構成】 天然繊維、紙、パルプな行った結果、2,635 対の日英用語対が得られた。

どの天然素材の繊維の集合体で加工された開口率５～６０％の網状で厚み５～４０mm の芝養生マット。
図1

図3

フレーズテーブルを用いた対応付け

日本文特許データベースの例The grinding wheel 2 comprises a generally
hourglass shape along its width and is madeof a suitable abrasive material such asaluminum oxide or cubic boron nitride (CBN).
図2

英文特許データベースの例

3 日英の用語間の対応付け
3.1

フレーズテーブルを用いた対応付け

日英の用語対候補の作成には、統計的機械翻訳技術を3.2

日英用語対の抽出用いる。統計的機械翻訳では、対象とする言語に関する3.1 節のフレーズテーブルを用いた対応付けで得られ文法的知識を必要としないため、容易に翻訳システムをた日英の用語対 2,635 対から、用語対候補を絞り込む。

構築することができる。本研究では、統計的機械翻訳ツー用いた素性は、以下の 5 種類である。

YEAR BOOK 2O11249

①

翻訳確率

いて、実線で結ばれたものは上位、下位関係を表し、点②

日本語、英語の上位語の上位語の一致数

線で結ばれたものは日英対応関係を表す。このような関③

日本語、英語の上位語の下位語の一致数係が成り立っているとき、「半導体素子 ＞ トランジス④

日本語、英語の下位語の上位語の一致数

タ」と“semiconductor device ＞ transistor”は、⑤

日本語、英語の下位語の下位語の一致数

共通の上位語あるいは下位語を持ち、対応関係にあると②～⑤については、それぞれの最大一致数で、個々の一考えられる。

致数を割った値を素性値とする。また、日英の用語が一致

本研究では、素性①と、②～⑤の素性のいずれかを用しているかどうかの判断は、3.1 節で述べたフレーズテー

いた 2 種類の素性により、4 通りの組み合わせを使用

ブルを用いて日本語の用語を翻訳し、英語の用語と比較すする。以下、①、②の組み合わせを (a)、①、③の組みることで行う。翻訳の際、フレーズテーブルに登録されて合わせを (b)、①、④の組み合わせを (c)、①、⑤の組いる訳語の中で、最も翻訳確率（日→英の翻訳確率と英→み合わせを (d) とする。

日の翻訳確率の積）の高い訳語のみを使用する。
②～⑤を素性として用いたアイディアは、引用分析

用語対の抽出方法について、以下に (a) を例として説明する。

研究における書誌結合 [Kessler 1963] と共引用分析[Small 1973] に基づいたものである。引用分析とは、(1)

素性の和を計算論文間の引用、被引用関係を用いて、論文間の関係を分素 性 ① の 値 が a、 素 性 ② の 値 が b で あ る と き、析する方法である。書誌結合は、論文間の関連度を測る

a ＋ α×b を 計 算 す る。 こ こ で β は、1/5、1/10、時に、2 論文間でどれだけ同じ論文を引用しているか、1/15、1/20 の 4 通りで計算する。また、α は 0.1、という基準に基づいている。一方、共引用分析は、2 論0.2、…、0.9 とする。

文がどれだけ他の論文で共に引用されているか、という(2)β

訓練基準に基づいた手法である。ここでは、用語間の上位、(1) で求めた和が、ある閾値 x 以上のときに正解、x下位関係を論文間の引用関係と見なし、引用分析手法を未満のときに不正解とし、F 値を算出する。このとき、用いて、日英対応関係を抽出する。【図 4】は、「半導体訓練用データを用いて x の値を 0 ～ 2 の間で 0.01 ず

素子 ＞ トランジスタ」という日本語の上位、下位概念つ変化させ、F 値が最大となる x を求める。と、“semiconductor device ＞ transistor”という

(3)

評価

英語の上位、下位概念を中心に、これらと上位、下位関(2) で得られた x を用い、テスト用データで評価を行う。

係にある用語の一部を示したものである。【図 4】にお(b)、(c)、(d) についても同様の処理を行う。

4 実験
3 節で述べた手法の有効性を調べるため、実験を行った。

4.1◆

実験方法

実験に用いるデータ
フレーズテーブルを用いた対応付けにより得られた日英の用語対 2,635 対の正解判定を人手で行った結果を
図4250

上位、下位関係を用いた対応関係の検出

YEAR BOOK 2011使用する。人手による判定結果を【表 1】に示す。

寄稿集度、再現率、F 値を【表 4】に示す。比較手法は (e) とする。表に示した値は、それぞれの実験において F 値

表 1：人手による判定結果

不正解

合計

982

1,6532,635
表4◆4が最大のときの結果である。

比較実験α

本研究では、用語間の上位、下位関係を用いた引用分析手法の有効性を確認するため、比較手法として、引用分析手法を用いた素性を与えずに実験を行う。比較手法
で用いる素性と、提案手法で用いる素性を【表 2】にまとめる。

β実験結果

精度（%） 再現率（%） F 値（%）(a) 0.1 1/1076.478.177.1(b) 0.1 1/2076.379.577.4(c) 0.1 1/1575.878.476.9(d) 0.1 1/1577.579.478.3(e)78.5

77.878.00

機械翻訳技術の向上

正解

1/15

表 2：実験に用いる素性素性① 素性② 素性③ 素性④ 素性⑤
提案手法 (a)○提案手法 (b)○提案手法 (c)○提案手法 (d)

○

比較手法

○

【表 4】より、提案手法 (d) において、比較手法より高い再現率、F 値が得られ、提案手法の有効性が確認さ○れた。

○
○5 考察

○5.1
◆

評価尺度

日英用語対の抽出

5.1.1 システムが誤って正解と判定したもの

上記の実験に用いるデータを 4 分割し、そのうち 3以下に、人手では不正解と判定したが、システムではつを訓練用、1 つを評価用として、4 分割交差検定を行正解と判定された 226 件の検出誤りを種類ごとに分析うことで評価を行う。

し、主要な原因をいくつか示す。226 件の検出誤りは、人手判定によって正解とした用語対数を Pm、システ大きく次の 5 種類に分類できる。

ム判定によって正解とされた用語対数を Ps とし、さらに人手判定とシステム判定の結果が正解で一致する用語①

対数を Pm-s とする。評価には、【表 3】に示す精度、再現率、F 値を用いた。

類似した用語（73.9%）
226 件 の う ち、167 件（73.9%） が「 亜 鉛 」 と“aluminum-zinc”のような類似した用語と対応付けされたものだった。類似の用語は上位、下位概念に同じ用語を持つ可能性が高いため、引用分析手法において一致

表 3：評価尺度

精度

再現率

F値

Pm-s――
Ps

Pm-s――
Ps

２×再現率×精度――――――――
再現率＋精度数が多くなってしまったと考えられる。
②

抽出個所の不十分な用語（10.6%）
226 件 の う ち、24 件（10.6%） が「 弾 性 体 」 と“elastic”のような抽出個所の不十分だと思われる用語

4.2

実験結果と対応付けされたものだった。

提案手法 (a) ～ (d) と、比較手法によって得られた精YEAR BOOK 2O11251

③

余分な単語が含まれている用語（4.4%）
226 件 の う ち、10 件（4.4%） が「 金 属 」 と“toのような複数形の用語と対応付けされたものだった。
②

metal”のような余分な単語が含まれている用語と対応付けされたものだった。
上記の①～③に共通した原因として、フレーズテーブ
ルを用いた用語対の作成段階で、翻訳候補の全ての組み元素記号（22.9 %）201 件のうち、46 件（22.9%）が「銅」と“cu”のような元素記号と、元素の名称で書かれた用語が対応付けされたものだった。
③

略語（21.4%）

合わせで上位、下位概念の候補を作成したため、「類似201 件 の う ち、43 件（21.4%） が「 Ｃ Ｄ 」 とした用語」や「抽出個所の不十分な用語」、「余分な単語“compact disk”のような略語である用語と対応付けが含まれている用語」と対応付けされたものが多かったされたものだった。と考えられる。この問題は、上位、下位概念の候補を作

上記の①～③の用語は、訳語としてはあまり一般的で成する際に、全ての組み合わせを候補とするのではなく、はない。①～③に当てはまらない用語対も、あまり一般翻訳確率を考慮して候補を作成することで改善できると的ではない訳語と対応付けされたものが多かった。よっ思われる。て、フレーズテーブルにおいて翻訳確率が低くなり、再④現できなかったと考えられる。この問題は、フレーズテー上位語と下位語が同じ用語（4.4%）
226 件のうち、10 件（4.4%）が「車両 ＞ 自動車」

ブルを作成する際の学習データを増やすことで改善できに対して“vehicles ＞ vehicle”のような上位語と下ると思われる。また、一般的でない表現は抽出された上位語が同じ用語と対応付けされたものだった。原因とし位、下位概念も少なく、引用分析手法において一致数がては、フレーズテーブルを用いた用語対の作成段階で、少なくなったと考えられる。

全ての組み合わせで上位、下位の候補を作成したため、英語の上位、下位語が同じになってしまったと考えられ5.2

る。そのため、類似した用語と対応付けされてしまい、

5.2.1 精度についてそれぞれの上位、下位概念に同じ用語を持つ可能性が高提案手法を用いた場合は 226 件、比較手法を用いた

いため、引用分析手法において、一致数が多くなってし場合は、208 件の検出誤りがあった。検出誤りの中で、まったと考えられる。この問題は、上位、下位概念の候提案手法では不正解と判定したが、比較手法では正解と補を作成する際に、候補の中から上位語と下位語が同じ判定した用語対は 0 件であった。逆に、比較手法ではものを削除することで改善できると思われる。

不正解と判定したが、提案手法では正解と判定した用語

また、上記の①～④に共通している原因として、上位、対は 18 件であった。

下位概念の獲得の際の問題が考えられる。実際に本研究提案手法において“vehicles ＞ vehicle”のように、で抽出されたものには、上位、下位概念ではないものや、上位語と下位語が同じ用語と対応付けされたものが誤っ余分な語を含んでいるものがあった。て検出された。また「アルミニウム」に対して“aluminum

5.1.2 システムが正解と判定できなかったものfilm”のように、類似の用語が対応付けされたものも誤っ以下に、人手では正解と判定したが、システムでは不て検出された。これらの用語対は、上位、下位概念に同正解と判定された 201 件の再現できなかった用語対をじ用語を持つ可能性が高いため、引用分析手法において原因の種類ごとに分析し、主要な原因をいくつか示す。

一致数が多くなってしまい、比較手法において誤って検201 件の再現できなかった用語対は、大きく次の 3 種出してしまったと考えられる。これらの問題は、上位、類に分類できる（重複あり）。

下位概念の候補を作成する際に、候補の中から上位語と①下位語同じものを削除したり、上位、下位概念の候補を複数形（33.3%）
201 件のうち、67 件（33.3%）が「金属」と“metals”

252

比較実験

YEAR BOOK 2011

作成する際に、翻訳確率を考慮して候補を作成したりす寄稿集ることで、ある程度改善できると思われる。よって、こ謝辞
本研究で用いた米国特許データは、国立情報学研究所解を判定することにおいて有効となると考えられる。の許可を得て、NTCIR テストコレクションを利用させ5.2.2 再現率についてていただいた。

4

機械翻訳技術の向上のような改善を行うことによって、提案手法が正しく正提案手法を用いた場合は 201 件、比較手法を用いた場合は、216 件の再現できなかった用語対があった。

参考文献

再現できなかった用語対の中で、比較手法では正解と判定したが、提案手法では不正解と判定した用語対は 0[ H e a r s t 1 9 9 2 ] H e a r s t , M . A . ,“ A u t o m a t i c件であった。逆に、提案手法では正解と判定したが、比Acquisition of Hyponyms from Large Text

較手法では不正解と判定した用語対は 15 件であった。

Corpora,”Proceedings of the 14th International

比較手法において、「記憶媒体」に対して“record

Conference on Computational Linguistics,medium”や、「車両」に対して複数形の“vehicles”

pp.539-545, 1992.のように、一般的でない訳語と対応付けされたものが再[Kessler 1963] Kessler, M.M.,“Bibliographic

現できなかった。これらの用語対は、フレーズテーブル

Coupling between Scientific Papers,”Americanにおいて翻訳確率が低くなり、再現できなかったと考え

Documentation, Vol.14, No.1, pp.10-25, 1963.

られる。提案手法で再現できなかった用語対も、一般的[Small 1973] Small, H.,“Co-citation in theでない訳語と対応付けされたものであったが、引用分析

Scientific Literature: A New Measure of the手法を用いることにより、ある程度問題が改善されるこ

Relationship between Two Documents,”Journalとが確認できた。よって、引用分析手法を用いた日英用of the American Society for Information Science,語対の抽出を行う本研究の提案手法は、より多くの正解

Vol.24, pp.265-269, 1973.

を再現することにおいて有効であると考えられる。

[ 相澤 2006] 相澤彰子、類語関係抽出タスクにおけるコーパス規模拡大の影響、情報処理学会研究報告 自6 おわりに本研究では、日英特許データベースから上位、下位概念を獲得し、日英の用語間の対応付けを行うことにより、シソーラスの自動構築を行った。

然言語処理、NL-175、pp.91-98、2006。
[ 安藤 2003] 安藤まや、関根聡、石崎俊、定型表現を利用した新聞記事からの下位概念単語の自動抽
出、情報処理学会研究報告 自然言語処理、NL-157、pp.77-82、2003。
[ 大石 2006] 大石康智、伊藤克亘、武田一哉、藤井敦、上位、下位概念の抽出の際、定型表現に着目し、日英単語の共起関係と構文情報を利用した単語階層関係の特許データベースから上位、下位の用語対を獲得した。

統計的自動識別、情報処理学会研究報告、SLP-61、

また、日英の用語間の対応付けにはフレーズテーブルをpp.25-30、2006。

用い、その後、引用分析手法を用いて日英用語対の絞り込みを行った。
実験の結果、提案手法において、精度 77.5%、再現[ 新里 2005] 新里圭司、鳥澤健太郎、HTML 文書からの単語間の上位下位関係の自動獲得、自然言語処理、Vol.12、No.1、pp.125-151、2005。

率 79.4%、F 値 78.3% という結果が得られた。また、[ 森下 2010] 森下洋平、梁冰、宇津呂武仁、山本幹比較手法を用い、抽出した用語対の精度と再現率を比較

雄、フレーズテーブル及び既存対訳辞書を用いた専門することで提案手法が有効なものであることを示した。

用語の訳語推定、電子情報通信学会論文誌 D、Vol.
J93-D、No.11、pp.2525-2537、2010。

YEAR BOOK 2O11253