定型表現法と分布類似度を用いた特許データ
ベースからの用語の上位、下位関係の抽出
Automatic hyponymy extraction from a patent database using pattern method and distributional
similarity
広島市立大学大学院情報科学研究科准教授

難波英嗣

2001 年北陸先端科学技術大学院大学情報科学研究科博士後期課程修了。博士（情報科学）。
東京工業大学精密工学研究所助手等を経て、2010 年より広島市立大学大学院情報科学研究科准教授。自然言語処理、テキストマイニングの研究に従事。
nanba@hiroshima-cu.ac.jp

1 はじめに

2.1

082-830-1584

定型表現法の問題点

今、以下の 2 文について考える。

オントロジーは複数の要素や概念の関係性を体系化したもので、文献を検索したり高度な言語処理を行ったり（文 1）「パソコンなどの OA 機器」するための有用な情報源となっている。しかしながら、（文 2）「パソコンなどのキーボード」

オントロジーの人手での構築は、一般に非常にコストがかかるため、テキストデータベースからオントロジーをこの 2 文に定型表現法を適用すると、文 1 から「OA自動的に構築する様々な手法が提案されてきた。

機器」─「パソコン」が、文 2 から「キーボード」─「パそのひとつに、「A や B などの C」や “A such as B,ソコン」が、それぞれ上位、下位関係として抽出される。

C” などの定型表現に着目して、用語の上位、下位関係

ここで、「OA 機器」─「パソコン」は上位-下位関係としを自動的に抽出するものがある [Hearst 1992]。このて正しいが、「キーボード」─「パソコン」は正しくない。

手法を、本稿では定型表現法と呼ぶことにする。定型表

後者は、一般に部分、全体関係と呼ばれるが、「自動車現法は、数多くの上位、下位関係の用語対を収集できる等のエンジン」や「飛行機等の翼」など、定型表現法を一方で、上位、下位関係にない用語対も誤って抽出して用いると、部分、全体関係を上位、下位関係と誤認識すしまうという問題があった。この問題に対し、本研究でるケースが少なからず存在する。本節では、このようなは、定型表現法で収集された名詞句対の中から上位、下誤認識を軽減する手法を提案する。

位関係にあるものを選定する手法を提案する。

2.2

226

分布類似度を用いた関連語抽出

分布類似度とは、「用語 A と用語 B の意味が似ていれ

2 用語の上位、下位関係の抽出ば、A と B の特定範囲に出現する共起語（特定のある

本稿では、1 章で述べた問題について、分布類似度 [Lin語とともに頻出する語）も類似する」という仮定に基づ

1998, Lee 1999] と呼ばれる尺度を用いて改善する

き、共起語のベクトルで各用語を特徴付け、共起語ベク手法を提案する。2.1 節では、まず、定型表現法で上位、トルどうしの類似度で語の類似性を測る尺度である。

下位関係の用語対を収集しようとすると、どのような問共起語ベクトルの作成には、単純に同一文内で共起す題が生じるのかについて述べる。次に、2.2 節で分布類る語を用いる方法と、文内で意味の上で結びついた係り似度を用いた関連語抽出手法について、2.3 節では、分受け関係にある語のみを用いる方法の 2 通り存在する。

布類似度を用いた上位、下位関係抽出の改善手法につい相澤は、新聞記事を対象にした調査で、後者の方が前者て、それぞれ述べる。

よりも精度良く関連語を収集できることを示している2.3[ 相澤：2008]。

分 布類似度を用いた上位、下位関係抽出の改善手法

ここでは、相澤と同様の手法により関連語を収集した結果について述べる。図 1 は、公開公報（1993〜

2.1 節で述べた 2 文を例に、分布類似度を用いて上位、2016 年）を用いて作成した「パソコン」の共起語ベ下位関係にあるものとそうでないものを分離する手法にクトルである。このベクトルは、まず、日本語係り受けついて述べる。

解析器 CaboCha を用いて、公開公報の明細書に含ま「パソコン」の関連語を、分布類似度を用いて収集すれる 985,556,899 文を構文解析し、次に、各文中でると、「OA 機器」は収集結果の上位に出現する一方で、直接係り受け関係にある「名詞-表層格と動詞」の対を「キーボード」は出現しないことが期待できる。なぜな抽出し、名詞ごとに tf idf 法を用いて表層格と動詞をらば、図 1 に示す「パソコン」のリストに出現する共重み付けて作成されている。

起語の多くは「OA 機器」の共起語リストに含まれてい＊0.00520775792586484 を_使い慣れる0.00469443553518948 に_取り込めるても不自然ではないが、「キーボード」に含まれるのは不自然だからである。実際に、「キーボード」の共起語ベクトルの一部を図 3 に示す。

0.00436481024477683 を_買い換える
0.00434722420136261 を_持ち歩く
0.00429461761609426 に_とりこむ
0.00424172826128001 を_使いこなす
0.0041798969458932

を_携える

0.00415226314635009 を_使える
0.00398313521124071 で_扱える
0.00397020018583619 に_取りこむ
0.00392873472668023 を_持ち込む
図 1 「パソコン」の共起語ベクトルの一部

この共起語ベクトルと類似度の高い用語を収集した結果が図 2 である。図から、「パソコン」と類似する様々

重み係り受け関係にある動詞

0.00520410336117679 を_使い慣れる0.00500417739891946 を_たたく
0.00476489998914416 を_立掛ける
0.00438619246937393 に_慣れ親しむ
0.00423463445265096 を_立てかける
0.00404156203197133 を_立て掛ける
0.00394834591570089 に_慣れる
0.00380550467639943 を_打てる
0.00379658953262475 で_打ち込む
0.00366171120248995 を_折りたたむ
0.00345465888178231 に_こぼすな機器の名前が収集できていることがわかる。このよう

図 3 「キーボード」の共起語ベクトルの一部に、共起語ベクトルでは、共通の性質を持つ関連語が収

図 3 と図 1 を比べると、共起語の一つ目の「を_使い慣れる」は共通するものの、他に一致する共起語はない。

集される傾向にある。
類似度

関連語

14.9394897027747 パソコン 1
14.4046855836949 パソコン 2
14.1539360812989 パソコン 10

このように、上位、下位関係にある用語対は、何らかの共通の性質を持つはずであり、その一側面が、係り受け関係にある動詞という形で表れていると考えることができる。

14.1497330630177 コンピュータ 2
13.9830894793089 パソコン上13.9462757374554 ワープロ
13.9094509648393 ワードプロセッサ
13.8846924586199 PC20

2.3 節で述べた手法の有効性を確認するため、実験を

13.8822168194158 コンピュータ機器行った。1993〜2016 年の公開公報の明細書に含ま13.750711445519

れる 985,556,899 文のうち、「等の」または「などの」ノート型パソコン

13.7010977506601 計算機 1…
12.3596639985012 OA 機器
図2

3 実験

分布類似度を用いて収集された「パソコン」の関連語を含む文をすべて抽出し、これらの文を、CaboCha を用いて係り受け解析した後、上位、下位関係の候補となる名詞句対を抽出した。これらの候補に対し、2.2 節で提案した分布類似度を用いた手法を用い、上位、下位関YEAR BOOK 2O17 227

3

特許情報の高度な情報処理技術係り受け関係にある動詞重み参考文献係にあるものを選定した。
実験の結果、提案手法は、計 14,167,501 件の候[Hearst 1992] Hearst, M.A.,“Automatic Acquisition

補のうち、6,418,750 件を上位、下位関係と判定した。

of Hyponyms from Large Text Corpora,”

上位、下位関係と判定したもの、上位、下位関係でない

Proceedings of COLING, pp.539-545, 1992.と判定したものの一部を図 4 および図 5 にそれぞれ示[Lee 1999] Lee, L.,“Measures of Distributionalす。なお、網掛けになっている個所は、筆者が上位、下Similarity,”Proceedings of ACL, pp.25-32,

位関係ではないと判断したものである。

1999.

頻度

上位

下位70391 ネットワーク インターネット

Clustering of Similar Words,”Proceedings of39957 車両自動車

COLING/ACL, pp. 768-774, 1998.

34033 金属

アルミニウム27927 影響ノイズ

論文誌 , Vol.49, No.3, pp. 1426-1436, 2008.

23909 発生停電

22268 記憶装置

ハードディスク

20956 弾性体

ゴム

20221 液体水

図4

提案手法により上位、下位関係と判定された
名詞句対の例

頻度

上位

下位

18986 ポインティングデバイス マウス
16260 不活性ガス

窒素13112 不活性ガス

アルゴン

11900 不活性ガス

窒素ガス

11664 理由こと

11290 情報処理装置

パーソナルコンピュータ

10840 値

I/O

9072

問題

こと

8003

利点

こと

提案手法により上位、下位関係でないと判定された
名詞句対の例

図 4、5 の結果より、本来上位、下位関係と判断されるべきものが上位、下位関係でないと判断されたケースが存在しているが、上位、下位関係であると判断されたものの大部分は実際に上位、下位関係にあったため、提案手法は上位、下位関係の判別に一定の効果があると考えられる。

4 おわりに
本稿では、定型表現法と分布類似度を用いた用語の上位、下位関係の抽出手法を提案した。

228[ 相澤 2008] 相澤彰子、“大規模テキストコーパスを用いた語の類似度計算に関する考察，”情報処理学会

27216 画像形成装置 プリンタ

図5

[Lin 1998] Lin, D.,“Automatic Retrieval and特許情報の高度な情報処理技術

3

YEAR BOOK 2O17 229