特許文献から技術動向を把握するためのマイニング手法
Mining Method for grasping technical trends from patent literature株式会社 NTT データ数理システム

データマイニング部主任研究員

岩本圭介

1999 年株式会社数理システム（現：株式会社 NTT データ数理システム）入社。同社のテキストマイニング事業の立ち上げ時より、一貫してツール開発・手法開発及び分析業務に携わる。現職はデータマイニング部主任研究員。
iwamoto@msi.co.jp

1 はじめにのステップは、いわばテキスト情報を分析可能な「デー特許文献から世の技術動向を把握し、そこで得られたステップで、得られた「データ」に対して統計やマイニ情報をもとに研究開発の方向付けや事業戦略の組み立てタ」に変換するために必要なものである。そして、次のングの諸手法を適用していく。

を行うということが、各方面で広く行われている。そのようなプロセスにおいては、大量の情報を分析して何ら

2.1

特許文献への自然言語処理技術の適用かの有益な知見を導き出すことができる手段が必要であ計算機にとっては元来文字の羅列であるテキスト情報

る。特に、特許情報の主要な部分は文書（テキスト）デーを単語単位に分割する形態素解析、及び単語間の修飾関タであるため、この目的に貢献する分析手法としてテキ係を求め文章としての構造を明らかにする構文解析それストマイニングの利用が大いに認知されてきている [1]。

ぞれの機能は、それぞれオープンもしくはプロプライエ

本稿では、ある特許データの集合に対して、一般に書タリで多数ツールが存在しておりそれらを用いることも誌情報に明示されている特許文献の分類コードから一旦可能である。特許文献のテキストにこれらを適用させ、離れ、テキスト情報のみを用いて、人間の直感にできる「データ化」を行った結果のイメージを Text Miningだけ合致した分類項目を自動的に作成して技術動向把握Studio のアウトプットに準じた形で示す（図 1）。の助けとなる情報を抽出することを試みた。以下、2 章において分析に用いた手法について論じ、3 章でその実践内容を解説する。最後に 4 章で結言としてまとめを行う。
本稿の分析は、株式会社 NTT データ数理システムのマイニング製品群である Visual Mining Studio 及びText Mining Studio を用いて行った。

2 手法

図1

特許文献情報データ化のイメージ

テキストマイニングは、テキストを自然言語処理技術

図 1 では、形態素解析の結果は「システムの高信頼により自動的に単語へ分解してそれらの間の文法的構造性を確保する」という文字列が、単語に分解された上でを求めるステップと、得られた単語群の情報に対して分ID や品詞情報が付与されるという形で反映されている。

析を行う実際に傾向把握を行うステップからなる。最初

また、構文解析の結果は「係り先」という列において、198

2016イヤーブック寄稿集-3.indb

198

2016/10/26

20:04:31

その単語が他のどの単語を修飾するか、という ID を別途付与する形で反映されている。
ここで、文節末尾に付される助詞や助動詞、及び活用による表記の違いは吸収・統一しておくことが望ましい。
図 1 では、原文そのままの表記「見出し語」列の他に、これらの統一を行った「原形」列を与えることで解消している。
また、特許文献を扱う際には、以下の特別な事情が存在するため、これらを勘案する必要がある。
⃝名詞が複数繋がることで 1 つの意味ある技術用語が
図2

3

特許文書のベクトル表現

は技術の革新とともに常に新たな語の組合せ・パターンが生じるため、逐一列挙することはほぼ不可能であ

ここで、クラスタリング手法としては、二項ソフトクる。適切に連語を連語として扱える仕組みが必要であ

ラスタリングを用いた。二項ソフトクラスタリングは、る。

株式会社 NTT データ数理システムのデータマイニング⃝特許文献特有の定型文や定型語句が多数あり、クリーニングを行わなければ、これらは本来注目すべき技ツール Visual Mining Studio の機能である。以下、二項ソフトクラスタリングの解説を行う [2]。

術用語を埋もれさせてしまうノイズとなる。例えば

特許文献を di として特許文献の集合を D={d1, d2, ...,「本発明」「請求項」等の語句は、頻出するものである

dN}、またある単語を wj として単語の集合を W={w1,が技術動向の把握において意味のあるものではない。

w2, ..., wM} とする。二項ソフトクラスタリングは、Dユーザの指定により、こういった語を分析対象から除と W の間に潜在的なクラスタ Z={z1, z2, ..., zL} が介在外することができる機能が必要である。

しており、di と wj の同時発生確率 P(di, wj) が次式

データによる分析と評価形成されることが非常に多い。更に、こういった用語

L

2.2

文書のベクトル表現

P(di, wj)= ∑ P(zk)P(di|zk)P(wj|zk)
k=1

前節図 1 のデータは、公開番号との紐付けがなされで表されるものと考え、実データに対しての当てはまたうえで、「1 レコード 1 単語」の形式で単語の列挙をりが良くなるようこの P(zk), P(di|zk), P(wj|zk) を算出す表形式で保持しているものといえる。しかし、1 件 1る手法である。これらが算出できれば、文献 di がクラ件の特許文献を 1 件のデータとしてマイニング手法をスタ zk に所属する確率 P(zk|di) も求めることができる。

適用させる場合は、「1 レコード 1 特許文献」の形式の広く用いられている k-means 法などは分類対象である数値データにこの情報を落とし込むことが望ましい。そ要素を、常にどれか 1 つのクラスタに割り振るタイプのために、出現した単語を各成分に取り、単語出現の状のクラスタリング（ハードクラスタリング）であるが、況を数値に落とし込んだベクトル表現を作成する（図二項ソフトクラスタリングは分類対象である要素が複数2）。この行ベクトルを 1 件の特許文献と同一視するこのクラスタに所属することを許容する（ソフトクラスタとができる。

リング）ものである。その場合、量 P(zk|di) は di の各クラスタへの帰属度合いとみなすことができる。本稿で2.3

分類項目作成のためのクラスタリング

は、di の所属先の重なり具合を分析することで、クラス

図 2 の下表は、行で表されるそれぞれの特許文献にタ間の関係について評価することも目的としている。ま対して、列で表されるそれぞれの単語が出現しているか

た、所属先のクラスタを arg max P(zk|di) なる（最も否か、を示している。この行ベクトルに対し、クラスタ所属確率の高い）クラスタ k に決定すると、これはハーリングによって類似したベクトルのまとめ上げを行うこドクラスタリングとしても用いることができる。とで特許文献の分類を試みる。

k二項ソフトクラスタリングでは、文献 di 側だけでな

YEAR BOOK 2O16 199

2016イヤーブック寄稿集-3.indb

199

2016/10/26

20:04:31

く、単語 wj 側についても同時にクラスタリングを行う。

得られたデータの「課題」部分のテキストに対して形

特に、値 P(wj|zk) はあるクラスタ zk における単語 wj の態素解析・構文解析を行い、表 2 に示す単語を除外した。

出現確率を表しており、この確率値が高い単語を観察することで、それぞれのクラスタがどのような観点でまとめられたものであるかという情報を得ることができる。
上記は PLSA（確率的潜在意味解析：ProbabilisticLatent Semantic Analysis）として知られる手法と表2削除した単語

種別

例

特許文書特有の本発明、提供、請求項、など

頻出定型表現約 70 単語

単独の英数かな文字

1、2、A、B、あ、い、う など

類似しているが、Visual Mining Studio の二項ソフ

データ取得時の検索

スマートフォン

トクラスタリングでは、PLSA と NMF（非負値行列分条件に含まれる単語携帯端末位置情報解）とのハイブリッドによる手法の適用により精度向上が試みられており、初期値設定や収束判定等に工夫を施し大規模データに耐えられる実装となっている [3]。

2.3 章で示したクラスタリングを試行する前に、特許文献のテキストに出現する単語や係り受け（構文解析の3 実例
3.1

3.2 データの概観

結果求まった、修飾 - 被修飾 の関係にある語の組）の状況を概観しておく。

対象データ

今回の分析課題を、『スマートフォンや携帯端末の位置情報は、どのような場面で利用が試みられているのか、特許文献から把握する』こととした。サンプルとして使用したデータについての情報を表 1 に示す。

表1

「課題」部分のテキストに出現した単語のランキングを図 3 左に示す。全体的に「容易」「利便性」などユーザにとっての使い易さを訴える単語が上位を占めており、具体的な適用場面はこの時点ではあまり見えてこない。図 3 右は、特に「～性」で終わる単語のみに限っサンプルデータ

件数675 件てランキングを作成したものである。「利便性」以外に検索条件

要約 に『（スマートフォン OR 携帯端末）
AND 位置情報』

も「信頼性」「セキュリティ性」等の観点が存在するこ

期間とがわかる。

出願日が 2010 年～ 2015 年

図3

単語出現頻度（左）、特に「～性」に限ったもの（右）200

2016イヤーブック寄稿集-3.indb

200

2016/10/26

20:04:32

3

係り受け頻度、「～できる」という表現に限ったもの

図 4 に、係り受け表現のランキングを示す。係り元スマートフォンや携帯端末の位置情報が利用されている－係り先の組を集計しているが、係り先の単語の語尾がであろう状況が俯瞰的に見渡せるようになっていること「～できる」「～可能」というように、記述者が『可能でがわかる。

ある』という態度を表明しているような表現のみに絞っここを掘り下げの基点として、更に絞り込んで元々のている。これにより、その発明が何を可能とするか、そテキストを参照することで具体的な理解につなげることのメリットを抽出することができる。利便性の向上の他ができる。例えば「No.13 駐車位置」のクラスタに関に、安否の確認、消費電力の削減などへの言及がみられしては、位置情報を利用して駐車位置を忘れても自分自る。

身が駐車した車の位置を知ることが可能なシステムの実データによる分析と評価

図4

現について多く述べられている。また、「No.26 患者」

3.3

クラスタリングによる把握については、同時に「看護師」も代表語として挙げられ続いて、2.2 章～ 2.3 章に示した手法を用いて、「課ているが、ナースコールによる患者からの呼出し際に、題」のテキストをクラスタに分類し、表 3 の結果を得

看護師の実際の居場所を考慮して制御を行う手段についた。クラスタ Z={z1, z2, ..., zL} の個数は、L=40 とした。て述べられている。

表 3 の『クラスタ ID』の列には各クラスタで P(wj|zk)の値が最も大きかった単語、『代表語』にはその他の3.4

クラスタ間の関係『件数』には、特P(wj|zk) 上位単語をあわせて示した。

前節で試行したクラスタリングはソフトクラスタリン

許文献 di 毎に arg max P(zk|di) となるクラスタ k を採グであるため、実際は 1 件の特許明細が確率値 をもっ用した場合にそのクラスタに割り振られる特許文献の件て複数のクラスタに分類される。ここで、同時に割り振数を示した。図 2 のベクトル表現を作成する際に、列られやすいクラスタ同士の関係を図 5 に図示した。図を構成する単語が 1 つも含まれていない特許文献は零5 は、丸で表されているノードがそれぞれのクラスタ、ベクトルとなってしまい分類の対象にならないため（表線で結びついているもの同士は 1 件の特許に同時に付の「その他」にあたる）、ある程度の量の単語を用いて与されやすいクラスタを示している。

k

この列を構成する必要がある。しかし、これが多過ぎて先述の「No.13 駐車位置」は、「No.31 車両」「No.17も非常に瑣末な情報が含まれることになるため、「全デー目的地」と同時に発生することが多く、車両の制御関タの 90% がカバーできるだけの名詞」でベクトル表現連という大きな括りでの適用が存在することが分かる。の列（次元）を作成するようにした。

「No.8 顧客」「No.15 店舗」は、原文を参照すると、

表 3 を概観すると、図 3、図 4 の単語や係り受けの頻度集計と比較して、話題の全体がカバーされており、店舗内での顧客行動の取得や、顧客端末を利用しての注文形態がトピックとなっている。

YEAR BOOK 2O16 201

2016イヤーブック寄稿集-3.indb

201

2016/10/26

20:04:32

表3

クラスタ毎の代表単語

クラスタ ID

代表語件数

No.1 アプリケーション

アプリケーション25

No.2 コンテンツ

コンテンツ

25

No.3 自分

自分 線区

22No.4 画像

画像 範囲 測位機能 通信事業者設備

22No.5 消費電力

消費電力

20

No.6 地域

地域 番組 災害

19

No.7 画像表示装置

画像表示装置 移動中 ＮＡＭ発言者 現実世界 無線ＬＡＮ通信部

19

No.8 顧客

顧客 両者 保守員 エレベーター 点検作業

18

No.9 サーバ

サーバ

18

No.10 対象

対象 広告効果18

No.11 精度精度 自機

18

No.12 画像形成装置

画像形成装置17

No.13 駐車位置

駐車位置 作業負担 路線

17

No.14 効率

効率 文字入力 + できる 携帯電話機 指一本

17

No.15 店舗

店舗

17

No.16 周囲

周囲 セキュリティ 投稿者

16

No.17 目的地

目的地 環境16

No.18 管理サーバ

管理サーバ 避難経路 要請者 通信障害 部品準備作業

16No.19 画像処理装置

画像処理装置 作業者 外出先

16

No.20 ＲＦＩＤタグ

ＲＦＩＤタグ 携帯電話 従業員 要員 内容

15

No.21 乗車中

乗車中 鉄道車両 地点 乗員 経路

15No.22 高精度

高精度 方向

15

No.23 エリア

エリア

14No.24 文書蓄積サーバ内

文書蓄積サーバ内 度合い 文書蓄積サーバ 管理対象物 行動履歴

14

No.25 操作性

操作性 通信タグ

14

No.26 患者

患者 運転者 看護師

14

No.27 制御方法

制御方法 制御プログラム

13No.28 現在地

現在地 移動手段

13

No.29 作業員

作業員 表示装置 大型化

13No.30 信頼性

信頼性 遊技者

13

No.31 車両

車両

13

No.32 広告毎

広告毎 回数 街頭広告 前方

12No.33 屋内

屋内 手間 放射線量 シームレス 屋外

12

No.34 移動経路

移動経路 タイミング データ

12No.35 メッセージ アプリ

メッセージ アプリ10

No.36 基地局 使用者

基地局 使用者

10

No.37 道路上道路上 被保護者 確実性 緊急通報方法 空調機制御装置

9No.38 通信履歴

通信履歴 データ 基地局識別子 １項 生活パターン

9No.39 基地局

基地局 各分割領域 確率分布 移動確率 移動対象物毎

7No.40 参照点

参照点 観測点 地図上5

その他

代表語がありません

67202

2016イヤーブック寄稿集-3.indb

202

2016/10/26

20:04:33

図5

データによる分析と評価

3

同時に割り振られやすいクラスタ間の関係

4 まとめ
本稿では、特許データにソフトクラスタリング手法を適用して、データ全体を概観するための分類を作成するための手法を論じた。分析例では、自社の技術がどういった方面に活用できるか、ひいてはビジネスとして展開できるか、という点を抽出することを意識している。今回、書誌情報は用いずに「課題」部分のテキストのみを扱ったが、生成されたクラスタと出願人・発明者といった情報とを掛け合わせることで、競合他社の動向把握などより踏み込んだ解析を行うことも可能である。

参考文献[1] 豊田裕貴 菰田文男 編著（2011）『特許情報のテキストマイニング』ミネルヴァ書房[2] 株 式 会 社 NTT デ ー タ 数 理 シ ス テ ム（2016）『Visual Mining Studio マ ニ ュ ア ル バ ー ジ ョ ン8.2』[3] 若杉徹 高橋勲男（2014）「医薬品調剤履歴に関する確率的構造解析に基づく適応症の推定」2014 年
度人工知能学会全国大会論文集

YEAR BOOK 2O16 203

2016イヤーブック寄稿集-3.indb203

2016/10/26

20:04:33