特許概念検索における特徴語抽出に関する評価と考察
統計的解析から発明概念に基づく意味的解析へ
株式会社日立製作所 中央研究所
間瀬● PROFILE

久雄

１９９０年に株式会社日立製作所入社。システム開発研究所に配属、２０１１年度より中央研究所にて勤務。特許や新聞記事、Ｗｅｂページ等を対象とした、分類自動付与、検索、文章要約、テキストマイニング等の日本語処理の研究に従事。２００７年度から特許版
産業日本語委員会委員。

hisao.mase.qw@hitachi.com

1 はじめに特許を対象とした概念検索の技術課題を整理した 1)。その中で、概念検索精度を低下させる要因の一つとして、「計算機が発明概念を正確に特定できないため、適切な任意の自然言語文章を入力して、内容の類似する文書特徴語を抽出できていない」ことを挙げた。ここで、発を検索する概念検索（類似文書検索、自然言語検索とも

明概念とは、「要するにこの発明のポイントは何なのか言う）が普及してきている。概念検索は、複雑な検索論を端的に記述した内容」である。すなわち筆者は、統計理式を入力する代わりに、検索したい発明内容を文章で的解析だけでなく、意味的解析によって適切な特徴語を入力することによって、その内容に類似する文書を検索選定する必要があると主張している。

できることと、検索結果が類似する度合いの高い順に出

そこで本稿では、特許を対象とした概念検索システム力されるので、所望の文書に早く到達できることが特長において、まず「統計的解析」によって抽出される特徴である。

語がどのくらい妥当であるかを、発明概念を考慮した「意一般の概念検索ではまず、入力文章からその内容を特味的解析」によって選定される特徴語と比較することに徴付ける語（特徴語）を抽出し、その重要度を表す重みよって評価する。次に、意味的解析によって選定されたを付与する。次に、検索対象となる文書の各々から予め特徴語を概念検索に使用した場合の有効性について評抽出しておいた重み付き特徴語を格納した検索インデク価・考察する。

スと照合し、共通する特徴語の重みに基づいて、入力文章と各文書との間の類似度を算出する。最後に、類似度の高い順に文書を並べ替えて検索結果を出力する。
概念検索の精度を向上させるためには、入力文章から適切な特徴語を選定し、適切な重みを付与すること

166

2２．１

統計的解析による特徴語抽出の妥当性評価
評価方法が必須となる。概念検索システムの多くでは、いわゆ

情報検索に関するタスク型国際ワークショップ

る「統計的解析」によって、特徴語の重みを算出してNTCIR-5 特許検索タスク 2) 3) で使用されたフォーマルいる。すなわち、入力文章における出現頻度（Term

ラン課題データ 619 件のうち、2002 年に公開されFrequency, 以下 TF と呼ぶ）が高い特徴語、または、た 107 件の公開特許公報を入力文章（以下、クエリと検索対象文書集合においてその特徴語が出現する文書数呼ぶ）として、これらから抽出される特徴語の妥当性をの 逆 数（Inverted Document Frequency, 以 下 IDF評価した。検索対象特許は、公開特許公報、特許公報なと呼ぶ）が大きい特徴語に対して、重みを高くしている。

ど 19 年分（1993 年～ 2011 年、約 940 万件）と一方で筆者は、Japio YEAR BOOK 2010 において、した（検索対象特許件数は、IDF の算出に影響すること

YEAR BOOK 2011

表１寄稿集に留意されたい）。

抽出された特徴語の字種別割合

該当特徴語数

割合

漢字

627

58.6%

カタカナ

340

31.8%

（２）筆者がクエリの【要約】を読んで、「発明概念に相英文字

969.0%

ひらがな

30.3%当する記載箇所」を手作業で特定し、そこに含まれるその他

40.4%特徴語を抽出する。

合計

1070

100.0%（１）クエリの全文から統計的解析によって、重みの高い上位 10 個の特徴語を抽出する。

2

検索の高効率化と精度向上

１文字目の字種妥当性評価は以下の方法で行った。

（３）上記（１）と上記（２）の特徴語に共通する特徴
表２語の数の割合を算出する。
【課題】自然言語文章を入力とする文書検索において、どのような視点で文章を入力したかという観点を考慮した検索がされていないため、入力文章の特性を十分に活かした検索ができておらず、検索精度も十分に高いものとなっていない。
【解決手段】入力文章の観点集合を利用者に提示し、観点毎にターム抽出方法、重み付け方法、検索範囲を予め定義した観点テーブルを参照して、選択された観点に応じてターム抽出、重み付け、検索範囲を動的に変更して検索を実行する。
：発明対象
図１

：発明前提

：課題効果

：解決手段

意味的解析による統計的解析による
特徴語 10 語（重み順） 特徴語 24 語（出現順）（明細書全文を形態素解析）（図１下線を形態素解析）（数字は出現頻度）
ターム
該観
文章
インデクス
ブックエンド
ＩＤＦ
重み付け
文書
品詞
単語

148 自然
7 文書
129 精度
12 集合
5 選択
7 抽出
62 動的
104
924

言語 文章 入力
検索 観点 考慮
十分 高い 文章
利用 者
提示
応じる ターム
重み付け範囲変更※共通する特徴語はターム、文章、重み付け、文書

発明概念特定の例１（特開 2007-102723）【目的】文章の構成、分野／内容の違いによって加工精度が低下しないための文章加工方法および装置を提供することにある。
【構成】記憶装置に、単語辞書 4 と、文法辞書 5 と、複数の属性項目からなる文章属性データと、文章解析ルール 6 と、複数の文章構成タイプ識別ルール 9と、複数の文章内容タイプ識別ルール 12 と、複数の加工方法設定テーブル 15 と、加工ルール 18 を設定し、文章解析部 3 で、入力電子文書を前記 4、5、6 と文章属性データに基づき解析し、文章解析テー
ブル 7 を生成し、文章構成タイプ推定処理部 10 で前記識別ルール 9 と文章解析テーブル 7 の内容に基づき入力電子文書の文章構成タイプを推定し、同様に文章構成タイプ推定処理部 13 で文章内容タイプを推定し、加工方法設定処理部 16 で前記推定したタイプの組に対応する加工方法設定テーブル 15 を選択し、該テーブル 15 と加工ルール 18 に基づき入力電子文書を加工する。
：発明対象
図２

抽出特徴語の比較１（特開 2007-102723）

：発明前提

：課題効果

：解決手段発明概念特定の例２（特開平 8-272826）

表３

抽出特徴語の比較２（特開平 8-272826）

意味的解析による統計的解析による特徴語 10 語（重み順） 特徴語 16 語（出現順）（明細書全文を形態素解析）（図２下線を形態素解析）（数字は出現頻度）
文章
単語
ルール
NUMOFSENTS
記事
為替
属性
文
文法
辞書

628 加工 精度 低下 文章
69 入力 電子 構成
163 タイプ 推定 内容
対応 方法 設定
2 組
42 テーブル 選択
8128601225※共通する特徴語は、文章のみ

ここで、「発明概念に相当する記載箇所」は、公開特許公報の【要約】において、以下の 4 種類のいずれかに相当する記載箇所とした。
①発明対象（発明内容が作用する対象物）②発明前提（発明内容が作用する状況）③課題効果（発明内容が解決する課題・効果）

YEAR BOOK 2O11167

④解決手段（課題解決のポイントとなる手段）
発明概念の特定結果の例を図１および図２に示す。下線が施された記載箇所が発明概念に相当する。

（１）他の文書に現れにくい（IDF が高い）語
化学物質や人名、地名などの固有名詞に加え、出願人が明細書の中で独自に定義した造語や、英単語、異体字表記や誤字・脱字などは、他の文書に現れにくいため、

２．２

結果と考察

IDF が非常に高くなり、重みが高くなる。この傾向は、

表１は、107 件のクエリの各々から抽出された上位検索対象文書数が多くなるほど顕著に現れる。したがっ10 個の特徴語（合計延べ 1070 個）を字種別にまとて、表３の「NUMOFSENTS」のように、特徴語とし1)めた時の割合を示している 。特徴語全体の 58.6% をては非常に違和感のあるもの（ノイズ）となる。しかし、漢字特徴語が、31.8% をカタカナ特徴語が、9.0% を概念検索精度の観点から見ると、これらの特徴語にヒッ英文字特徴語が占めている。カタカナ特徴語および英文トする文書数が少ないので、さほど精度低下には影響し字特徴語は、漢字特徴語に比べて固有度が高く、IDF がないと考えられる。

比較的高くなり、その結果として重みが高くなると考え（２）クエリに何度も現れる語られる。

発明内容を端的に表す語や、発明内容が適用される技

表２は、図１に相当するクエリから、統計的解析およ術分野に関係する語は、クエリの明細書の中で何度も出び意味的解析によって抽出された特徴語の一覧を示して現することが多い。したがって、TF の値が非常に大きいる。統計的解析によって抽出された特徴語は、TF がくなり、重みが高くなる傾向にある。しかし、これらの非常に高いものと低いものが混在している。
「ターム」「文単語が発明内容を表す語としてふさわしくないノイズ語章」「重み付け」などは TF が比較的高く、逆に、「ブッで、かつ、他の文書にも出現しやすい（IDF が小さい）クエンド」「ＩＤＦ」などは IDF が比較的高いために、重語であると、検索精度に大きな悪影響を及ぼすことになみが高くなっている。一方、意味的解析による特徴語

る。例えば、表２の中の特徴語「記事」は、【実施例】と比較すると、共通する特徴語は 4 語に留まっており、で文書タイプの一つとして使われている特徴語であり、両者には差が見られる。統計的解析による特徴語だけで発明概念を表しているとは言えないノイズ語であるが、は、発明のポイントを十分に記述できていないと考えら他の文書にも比較的現れやすい特徴語であるので、多くれる。のノイズ文書を出力させてしまっている可能性が高い。

表３は、図２に相当するクエリから、統計的解析およ

図３は、各クエリから抽出された特徴語 10 語（以び意味的解析によって抽出された特徴語の一覧を示して下、クエリ特徴語と呼ぶ）に占める、発明概念に含まれいる。共通する特徴語は「文章」のみであり、特徴語にる特徴語（以下、発明概念特徴語と呼ぶ）の割合の分布大きな差が見られる。統計的解析による特徴語のうち、を示している。発明概念特徴語は、１クエリあたり平均「NUMOFSENTS」「記事」「為替」は【実施例】にの19.5 語抽出された。1 件のクエリ特徴語に含まれる発み現れる語であり、発明概念を表していないノイズ語で明概念特徴語の割合の平均は、33.9% に留まった。残ある。一方で、この発明のポイントである「構成」「内容」

りの 66.1% の特徴語には、発明概念とは関係の薄い特などの特徴語は、統計的解析では抽出できていない。

徴語が多く含まれており、これらが検索精度を低下させ

このように、統計的解析によって上位 10 語に入る特徴語をミクロに見てみると、特徴語は以下の二つに大別できる。ている恐れがある。
図４は、発明概念特徴語に占める、クエリ特徴語の割合の分布を示している。その平均値は、18.3% に留まった。残りの 81.7% の発明概念特徴語は、特徴語として

1) 特徴語抽出において使用している形態素解析ツールや抽出アルゴリズムは、概念検索システムによって異なるので、抽出される特徴語はシステムによって多少異なる。

168

YEAR BOOK 2011

重視されていない（重みが低い）、あるいは特徴語として抽出されていないため、これらの特徴語の抽出漏れが寄稿集

検索精度を低下させている恐れがある。
該25
当ク 20エ 15
リ 10
件
数 50

図５は、図３において、クエリ特徴語に占める発明概２

検索の高効率化と精度向上

念特徴語の割合が大きい（40% 以上）クエリ群と、割合が小さい（30% 以下）クエリ群に分けた場合に、概念検索精度がどのくらい違うかを再現率（検索結果文書
0%10% 20% 30% 40% 50% 60% 70% 80%特徴語の割合

図３

クエリ特徴語に占める発明概念特徴語の割合

Ｎ件に含まれる正解特許（審査官引例）の割合）で比較評価した結果を示している。発明概念特徴語が多く含まれているクエリ群の方が、15 ～ 20 ポイントも再現率が高くなっていることがわかる。このことから、概念検索では発明概念特徴語を積極的に使うことにより、検索精度の向上につながる可能性が高いと考えられる。

50
該
当 40
ク 30エ
リ 20
件 10数03

発明概念を考慮した概念
検索の精度評価と考察

発明概念を特定できるとして、クエリから抽出した特
0-10%

図４

10-20% 20-30% 30-40% 40-50% 50-60%
特徴語の割合発明概念特徴語に占めるクエリ特徴語の割合

徴語に発明概念中の特徴語を追加して特徴語の質を向上させることにより、概念検索精度がどのくらい改善するかを評価した。具体的には、２章の評価で用いた 107件のクエリに対して、以下の方法で発明概念特徴語をクエリ特徴語に追加して、検索精度を比較した。
（１）クエリから特徴語を 30 語抽出する。
（２）クエリから発明概念特徴語を抽出する。

70%
60%
50%

（３）30 語のクエリ特徴語のうち、発明概念特徴語に割合30%以下も含まれている特徴語の重みを２倍にする。

割合40%以上

40%（４）発明概念特徴語のうち、30 語のクエリ特徴語に30%含まれていない特徴語をクエリ特徴語に追加する。そ20%の際、重みとして、クエリ特徴語の各々が持つ重みの10%最小値を与える。

0%
10件

50件

100件

概念検索で検索する文書数

なお、検索結果は、各クエリの出願日よりも前に公開された公報のみを出力している。
表４は、概念検索精度を比較した結果を示している。

図５

発明概念特徴語の割合と概念検索再現率

発明概念特徴語を追加して概念検索を行うことによって、概念検索精度が 4.7 ～ 10.3 ポイント向上していることがわかる。

YEAR BOOK 2O11

169

表４

検索件数

発明概念を考慮した場合の概念検索精度すなわち、意味的解析による特徴語抽出は、概念検索精度の向上に有効であることを述べた。

再現率

本稿では、システムが発明概念を特定できることを前全文から抽出した
特徴語 30 個

特徴語 30 個に発明概念特徴語追加提として評価を行ったが、利用者とのインタラクション

10 件

20.6%

26.2%によって、利用者が発明概念の記載箇所を明示的に指定

50 件

33.6%38.3%してもよいと考えている。また、発明概念特徴語の代わ

100 件

42.1%

48.6%

りに、【要約】や【請求項１】に含まれる特徴語を「す300 件51.4%61.7%べて」クエリ特徴語に追加するという擬似的な方法でも、特徴語全体としての質は低下するものの、検索精度の改4)善には有効である 。

また、表４を見ると、検索件数が多い場合の方が、再発明概念の自動抽出については、NTCIR-8 特許マイ現率の改善度合が大きくなっている。発明概念は、発明

ニングタスクでも採りあげられている 5)6)。機械学習ア

内容を端的に記載しているものであるので、検索件数がルゴリズムの導入により、２．１節で挙げた４種類の発少ない場合の再現率がもっと改善されてもよいのではと明概念のうちの「課題効果」については高精度の抽出が考えるのが普通である。これを妨げている原因は、大き可能である 7) 8)。一方、「解決手段」については、高精く２種類あると考えられる。

度に抽出することは比較的難しい。これは、解決手段は一つは、発明概念特徴語に付与する重みの値である。

複数の構成要素からなっており、その表記方法も多岐に

今回は、クエリ特徴語の重みの最小値を与えており、発亘っているため、どの構成要素が発明のポイントである

明概念特徴語を「補足的に」追加する形で重みを設定しかを機械的に特定するのが難しいためである。発明概念ている。クエリ特徴語に対して、発明概念特徴語の重みを人間でも機械でも容易に特定・理解するための請求項が相対的にもっと大きくなるように重みを設定することの書き方については、Japio が主催している産業日本語により、精度が大きく変わる可能性がある。

委員会でも、特許オントロジー 9) というテーマとしてもう一つは、同義語である。クエリにおける発明概念議論されているので、ここでの今後の成果に期待したい。

特徴語の表記が、正解文書での表記と異なっていると、いくら良質な発明概念特徴語を追加しても、ノイズ語に参考文献なるだけである。本手法のように、概念検索に用いる特徴語をピンポイントに絞れば絞るほど、同義語が概念検索精度に与える影響が大きくなるので、同義語の吸収は必須となる。

１）間瀬 : 特許を対象とした概念検索の技術課題 ,Japio
YEAR BOOK 2010, pp.200-207, 2010.
２）N. Kando: Overview of the Fifth NTCIR
Workshop, Proceedings of NTCIR Workshop 5

4 おわりに特許を対象とした概念検索で使われる特徴語の妥当性について評価した。出現頻度などの統計的解析だけでは、

170

Meeting, 2005.
３）A. Fujii, M. Iwayama and N. Kando: Overviewof Patent Retrieval Task at NTCIR-5,
Proceedings of NTCIR Workshop 5 Meeting,2005.

必要十分な特徴語を抽出するのは難しいことを述べた。

４）H. Mase and M. Iwayama: NTCIR-6 Patent

また、発明概念を考慮して特徴語を抽出・重み付けをす

Retrieval Experiments at Hitachi, Proceedings

ることにより、概念検索精度を向上できることを述べた。

of NTCIR Workshop 6 Meeting, 2007.

YEAR BOOK 2011

寄稿集５）N. Kando: Overview of the Eighth NTCIRWorkshop, Proceedings of NTCIR Workshop 8２

検索の高効率化と精度向上

Meeting, 2010.
６）H. Nanba, A. Fujii, M. Iwayama and T.
Hashimoto: Overview of the Patent Mining
Task at the NTCIR-8 Workshop, Proceedingsof NTCIR Workshop 8 Meeting, 2010.
７）R. Nishiyama, Y. Tsuboi, Y. Unno and H.
Takeuchi: Feature-Rich Information Extraction
for the Technical Trend-Map Creation,
Proceedings of NTCIR Workshop 8 Meeting,2010.
８）H. Nanba, T. Kondo and T. Takezawa:
Hiroshima City University at NTCIR-8 Patent
Mining Task, Proceedings of NTCIR Workshop
8 Meeting, 2010.
９）Japio 特許情報研究所 : 平成２２年度特許版・産業
日本語委員会報告書「産業日本語」, 第２章, 2011.

YEAR BOOK 2O11171