特許分類の自動推定に向けた取り組み―機械学習による自動分類技術の特許文献への適用―
一般財団法人工業所有権協力センター 研究所総括研究員
笹野 秀生
PROFILE1

平成 23 年 10 月より現職

はじめに①「学習」フェーズ
学習データ

分類エンジン

分類ルール

一 般 財 団 法 人 工 業 所 有 権 協 力 セ ン タ ー（IPCC:
Industrial Property Cooperation Center、以下「財団」と表す。）研究所は、財団の主たる事業である検索事業、分類付与事業のさらなる効率化及び高精度化をめ②「分類推定」フェーズ
分類エンジン

分類ルール

分類推定
結果・根拠

ざし、独自データ資産を整備するとともに、それらの一層の活用手法を検討している。

未知データ

特許文献検索の際には IPC、FI、Ｆターム等（以下まとめて「分類」という。）を用いるのが常套手段である。

【図１】自動分類推定の全体構成

分類は技術の発展に追随するために時宜を捉えて改正を行うことが必須であり、分類の改正を行った場合には過フェーズに分けられ、図１のような全体構成からなる。

去の文献に新たな分類を付与（再解析）する必要がある。

学習フェーズでは、学習データを分類エンジンに入力

しかしながら、再解析すべき対象案件が年々増え続けすることより、付与すべき各分類について、一つの分類ている中、再解析にはより一層の期間及びコストが必要となってきており、折角良い分類体系を構築しても、検索で利用できるのは何年も先という現状がある。
そこで、財団では自身の有するデータ資産及びノウハウを活かし、分類付与業務の効率化及び高精度化の可ルールが生成される。
分類推定フェーズでは、学習フェーズで生成された分類ルール及び未知データとしての特許文献テキストを分類エンジンに入力することにより、自動分類推定結果と、当該付与の根拠箇所とが自動的に出力される。

能性を探るため、昨年度から機械学習による自動分類推定に関する調査研究を行っている。本稿では、これまでに行った自動分類推定に関する調査研究について紹介する。

3 本調査研究の概要
本調査研究は、これまでＦタームの自動推定をター

2 自動分類推定の全体構成
自動分類推定は、①「学習」フェーズと、②「分類推定」

208

YEAR BOOK 2012

ゲットとし、上記「２自動分類推定の全体構成」に沿ったプロトタイプシステムを構築して実験を行っている。
以下、その実験で採用したデータ及び方式等を紹介する。

学習データ

３．３

寄稿集

３．１

分類ルール

各事例はそれぞれ、各々に含まれる素性を成分とすタームの付与根拠データを活用した。このデータは、特るベクトル、言い換えると多次元空間内の一つの点 x(1),許文献に対して付与されたＦタームの付与根拠箇所となx(2),…,x(n) で表される（n は事例の数を示す。）。二値分る単語や文章をテキスト化したものである。付与者が指類器において分類ルールを求める作業は、各事例を該多摘した根拠箇所は単語だけの場合や、比較的長い文章の次元空間内で２つのクラスに分離するための超平面（以場合等がある。実験では、付与根拠データそのものも使下「分離超平面」という。）を求めることに他ならない。

用したが、最終的には付与根拠データが含まれる段落全

この分離超平面は、SVM においては分離超平面から体の文章を学習データとして採用した。

最も近い位置にある事例までの距離（マージン）を最大

ここで、特許文献 A の段落１の一部を根拠として、化するように求められる。分離超平面は、多次元のベク

AA01 というＦタームが付与されていたとすると、特トル w（方向ベクトル）と、切片 b とを用いて、w・x

許文献 A の段落１は、AA01 の正解データ（正例）と= b と表され、事例を分類するための関数は、次の式でなるが、当該段落の記載を根拠としないその他のＦター表現される [1]。

ムに対しては不正解データ（負例）となる。段落単位

3

データによる分析と評価

学習データとしては、財団が有する情報資産であるＦ

f(x(n)) ＝ w・x(n) – bで学習データを設定するため、同じ特許文献 A 内でも、上記式により、事例 x(n) は、f(x(n))>0 であれば正例に、AA01 の正例となる段落と負例となる段落とが生じ得f(x(n))<0 であれば負例に分類されることになる。図２

るが、付与根拠データは正例となるべき箇所全てについは二次元空間で考えた場合の分離超平面のイメージであて作成されているわけではないため、特許文献 A 内にり、マージンが最大になるように分離超平面が選択されAA01 の正例となる段落がある場合は、同じ特許文献ている。に含まれるその他の段落は、AA01 の負例とはしないこととした。

３．２

分類エンジン

分類エンジンは、自然言語処理において広く利用されている SVM（Support Vector Machine）を利用した。
SVM は線形二値分類器の一つであり、分類するクラスの数が二つである問題に適用することができる。例えば、未知データに AA01 というＦタームを付与する問題を考えると、該未知データは AA01 を「付与する（正例）」クラス及び「付与しない（負例）」クラスのいずれか一【図２】分離超平面のイメージつに分類される。
なお、分類ルール作成及び自動Ｆターム付与のために

３．４未知データ

は、入力される学習データ及び未知データ（以下まとめ自動Ｆターム付与を行う未知データは、本来は未分て「事例」という。）の中から、各事例を特徴付ける情類の特許文献テキストであるべきだが、実験結果（分類報（素性（そせい））としての単語を抽出する必要があ推定の精度）を評価するためには、正解情報を有するるが、この抽出作業（形態素解析）には、オープンソーデータである必要がある。そのため、実験を行うに当たスとして利用できる「MeCab」を用いた。

り、上記 3.1 で説明した複数の学習データの一部を未知データとして採用した。

YEAR BOOK 2O12209

３．５

分類推定結果・根拠を減らして精度の高い分類推定を行うことが、実用化の自動分類推定により、未知データ（特許文献テキストの各段落）について、特定のテーマの全てのＦタームにキーポイントとなる。この分類推定精度は、次の指標（特にＦ値）により評価した。

関する二値分類がなされるとともに、スコアの計算がなされる。ここでスコアとは未知データの分離超平面から精の距離であり、スコアが大きいほど推定の確度が高いも再現率：正答 (a) ÷（正答 (a)+ 漏れ (c)）のである。図３に分類推定結果・付与根拠結果出力のたＦ

度：正答 (a) ÷（正答 (a)+ ノイズ (b)）

値：2 ×精度×再現率÷（精度＋再現率）

めのアプローチを示す。
また、あるテーマ全体の推定精度を評価する場合には、①各段落のＦターム推定及びスコア出力
特許文献 A
段落１AA01; 2.0

段落２BB01; 1.5

BB01; 1.0

テーマ内の指標の平均値を用いた。

推定結果
特許文献 A

AA01; 1.1

CC01; 0.8

ノイズ (b)

CC01

漏れ(c)

②Ｆターム推定結果集計及び付与根拠特定
特許文献 A
AA01

段落１; 2.0

段落Ｎ; 1.1

BB01

段落２; 1.5

段落１; 1.0

CC01

段落Ｎ; 0.8※Ｆターム毎にスコアの高い段落順に並び替えを実施。

正解データ
特許文献 AAA01

AA01
BB01

段落Ｎ

正答(a)

BB01
DD01
EE01

推定結果と正解

正解データとの比較

正例

負例

正例

(a)… 2(b)… 1

負例(c)… 2−

推定結果※精度：0.67、再現率：0.50、Ｆ値：0.57【図４】Ｆターム推定結果評価の一例【図３】分類推定結果・付与根拠出力のアプローチ

推定結果は一つの特許文献の全ての段落について出力されるため、一つの特許文献について集計して推定Ｆ
タームを各文献について出力するとともに、スコアに基実験では、いくつかのテーマについて、Ｆターム推定づいて各Ｆタームの付与根拠箇所の候補となる段落の優を行い、評価を行った。表１はそのうち４テーマにおけ先順位を特定した。

るＦ値のテーマ内平均値の一覧である。

4 分類推定結果の評価指標

210

5 実験結果【表１】Ｆターム推定の実験結果

Ｆタームテーマ

Ｆ値

テーマＡ（光学系）

0.562

分類推定を 100% の精度で行うことは不可能と言っテーマＢ（機械系）

0.541て良い。図４に挙げるように、推定には「ノイズ」と「漏テーマＣ（化学系）0.397れ」とが付きものである。この「ノイズ」と「漏れ」とテーマＤ（電気系）

0.365

YEAR BOOK 2012

寄稿集

実験結果は、テーマによってばらつき（0.365 ～参考文献0.562）が出た。比較的成績の良かった光学系のテー
マＡ及び機械系のテーマＢでは、概ね半数以上の推定結

年 8 月 5 日、コロナ社

データによる分析と評価

果は正しく、正解Ｆタームの中で半数以上は推定できて3[1] 高村大也、言語処理のための機械学習入門、2010いるといえる。一方、化学系のテーマＣや電気系のテー
マＤなどはＦ値が 0.4 を切る結果となったが、その原因としては、学習データが比較的少なかったことや、形態素解析において専門用語の単語抽出が適切にできていなかったこと等が考えられる。
また、個々のＦタームに分類するだけでなく、上位階層レベルのＦタームに分類する実験も行った。このようにすると分類すべきＦターム数が少なくなり、一つのＦターム当たりの学習データ数も多くなるため、予測通り精度が上がり、例えば上記テーマＡでは最上位Ｆターム（観点ターム）で 0.8 以上のＦ値となり、テーマＤにおいても同じく 0.7 弱のＦ値であった。
上記実験結果は、テーマ全体の平均値としての精度を見ると、最も良いテーマでもまだ十分な数値とはいえないが、個々のＦタームの推定精度は高いものもあり、上位階層レベルへの推定結果なども組み合わせれば、分類付与業務の助けとなり得るものと評価している。

6 おわりに
今回の調査研究により、機械学習を用いた自動分類推定について、一定の有効性が確認された。自動分類推定
結果と、当該付与の根拠箇所とを、分類付与実施者に対して提示することにより、効率的かつ網羅的に、付与実施者が付与すべき分類をその根拠箇所とともに検討することができると考えられる。よって、この自動分類推定を高精度に行うことができれば、分類付与業務の大幅な効率化及び高精度化が期待できる。
今後は、分類付与業務の補助システムへの応用を最終的な目標とし、推定精度が低いテーマの底上げや、付与根拠データが無いテーマへの対応等について、調査研究を進めていく予定である。

YEAR BOOK 2O12211