特許情報テキスト可視化のためのマイニ
ング手法
Mining methods for the patent text visualization
株式会社 NTT データ数理システム
PROFILE

データマイニング部主任研究員

岩本圭介

1999 年株式会社数理システム（現：株式会社 NTT データ数理システム）入社。同社のテキストマイニング事業の立ち上げ時より、一貫してツール開発・手法開発及び分析業務に携わる。現職はデータマイニング部主任研究員。
iwamoto@msi.co.jp

1

はじめにる。ここで、特許の「まとまり」を論じるためには、特許文書同士の間に「近さ・遠さ」というものが定義できる必要がある。

特許情報の分析においては、整理・収集した情報にこの「近さ・遠さ」は、テキストデータから確固とし対して集計を行い、その結果をマッピングすることが広たアルゴリズムによって機械的に計算できるものでなくく行われている。特許情報をパテントマップといったビてはならないが、人間の直感からかけ離れたものであっジュアルな形にまとめ上げることは、直感的な理解を促てもいけない。一般には、これは１件１件の特許文書をす上で非常に重要である。ここで、集計によって得られ１データ点と考え、それらの間の点の距離として近さ・る数値情報、例えば年毎の出願件数の推移や出願人の構遠さを表現する。そして、特許データ間の距離関係を出成比率などといったものは、棒グラフや円グラフ、もし来るだけ保ったまま、近しい特許同士はマップ上の近い

くはバブルチャートといった種類のグラフに展開するこ点に存在し、そうではない遠い特許同士はマップ上でもとが可能である。しかし、特許情報の「テキスト」部分離れて位置するような配置を実現することを目指す。この情報を可視化するためには、与えられたデータからその模式図を図１に示す。の中に潜む傾向や法則性を抽出するデータマイニング・テキストマイニングの技術が必要となる。
本稿では、特許情報テキストの可視化を行ううえで有用であるマイニング手法を解説する。以下、２章において、テキストをいかにデータ化するか、またこれをいかに平面上のマップの配置として表現するかという点を論じる。３章で具体的な作成例を示し、最後に４章で結言としてまとめを行う。

2

特許情報テキストの可視化

特許情報テキストの可視化が目指すところは、特許情報の全体像はどのようになっているか、またその中にそのようなまとまりが存在しているか、といった情報を直感的に掴むことの助けになる情報を提供することであ

276

図1

文書間・マップ間の近さ・遠さ

文書のベクトル表現のように配置させた場合、A-B, A-D 間の距離は 1 でこれが保たれているが、A-C 間の距離は√2￣となって元来に、出現した単語を各成分に取り、単語出現の状況を数の３次元空間よりも距離が引き伸ばされて表現されてし値に落とし込んだベクトル表現を作成する（図２）。こまっている。このように、次元を圧縮すると必ずどこかのベクトルを１件の特許文書と同一視することで、ベクにこのような歪みが生じる。このことは避けられないた

トル同士の距離として特許文書間の距離を定義することめ、この歪みをなるべく引き起こさせないような低次元ができる。

空間での配置方法を考える必要がある。

ベクトルの各成分として用いる単語は、特許の特徴を上手く反映するものを使用することが望ましく、実際に2.2.1

多次元尺度構成法

は極端な高頻度語や低頻度語を無視する、tf-idf 等の指多次元尺度構成法（ＭＤＳ）は、対象データ間の関係標を用いて選択を行う、といった処理をここで行う。

を反映するように低次元空間の点の配置を決める代表的な方法である [3],[4]。以下、多次元尺度構成法のバリエーションのうち、計量的多次元尺度構成法と呼ばれるものについて解説する。
計量的多次元尺度構成法では、多次元空間内での特許文書 i と特許文書 j との間の距離の 2 乗 dij を要素とする t × t 行列 D を与え、次の手続きで計算を行う。

図２

特許文書のベクトル表現

1. D に Young-Householder 変換を行った行列 P を求める。

2.2

次元圧縮の利用

前章で作成した特許文書のベクトル表現は、一般には

1
1
P = － ─ HDH, H = I － ─ eeT
2t

極めて多次元の情報である。これを、人間が知覚可能な（ただし、e は全ての要素が 1 の列ベクトル）形で表現するため、この多次元空間内での特徴、すなわ

2. P を特異値分解して、直交行列 V と対角行列Λをち距離関係を出来るだけ保ったまま２次元、もしくは３用いて次のように表す。

次元の点に落とし込む（次元を圧縮する）必要がある。

P = V Λ VT

一般に、多次元空間内の距離関係を完璧に保ったま3. 対角行列Λの固有値の大きい方から d 個取出し、そま２次元の点間の関係として表現することは不可能であれ以外を 0 とした行列をΛd とし、取り出した固有る。例えば、図３左は互いの距離が全て 1 になるよう値に対応する固有ベクトルを並べた行列を Vd する。に A ～ D の４点を配置した例である。こういった配置

Y = Λd1/2VdT とおくと、Pd = Vd ΛdVdT= YTY は、は３次元上では可能で、実際には正四面体の頂点をなす。

P を tr((P－YTY)2) の意味で最小化したものになっ

しかし、「互いの距離が全て 1 になるような４点」を２ている。

次元上で配置させることは不可能である。例えば図３右

この Y を d 次元の座標としてプロットする。

2.2.2

Random Projection

xij を、特許文書 i における単語 j の出現状況を表す数値とし、その xij を要素とする行列 X を考える。X は、図２で示した特許文書ベクトルを全文書分縦に並べたものであると考えられる。
Random Projection は、(i, j) 行 列 で あ る X に、図３２次元で表現することによる歪み

Random Projection Matrix と 呼 ば れ る (j, k) 行 列

YEAR BOOK 2O15 277

データによる分析と評価

１件１件の特許文書を１データ点として考えるため

寄稿集３

2.1

R を 乗 じ、 得 ら れ た 行 列 X' の 行 ベ ク ト ル を、k 次 元に圧縮された特許文書ベクトルとして用いる方法である [1], [2]。このイメージを図４に示す。

●多次元尺度構成法
多次元尺度構成法によって決定した 281 点の特許データの 2 次元上の配置を図５に示す。参考のため、データを点ではなく、出願人を表す文字でプロットしている（ただし、281 件内での出願件数の多い 1 位～10 位にあたる特許を文字 A ～ J、それ未満のものは Zとしている）。特に点線で囲った出願人 F と H が離れて図４ Random Projection のイメージいる、すなわち他の特許と比較してキーワードの用いられ方が異なっているといえる。その他、出願人 D のまとまりも見て取れる。

R の要素 {Rij} は、正規乱数を用いる、またその他に次のような構成方法が知られている。
⎧+ √3￣ with probability 1/6⎜
Rij = ⎨0with probability 2/6⎜⎩－√3￣ with probability 1/6

また、多次元（400 次元）空間の距離が低次元（2 次元）空間での距離にうまく反映されているか確認を行った。
特許データの全ての組合せに対して、400 次元空間と2 次元平面上での距離を求め、前者を横軸・後者を縦軸にとったプロットを図６に示した。点線で囲った領域、2.2.1 章で解説した計量的多次元尺度構成法のような元々のデータのうえでは離れているが 2 次元上では近行列の固有値計算が必要なく、計算コストが大幅に抑えくなってしまっているようなケース目立つが、相関係数られる点が特徴である。

は 0.82 であり、大まかな傾向は反映できているといえる。

3

実例

3.1

対象データ

2 章で解説した手法を用いて、２次元上へのマップ作成を試みた。サンプルとして使用したデータについての情報を表１に示す。
得られたデータの「課題」「解決手段」部分のテキス
トからキーワードを抽出し、その中から特許文書特有の頻出定型表現と上記検索条件に相当する単語を除外した
図５

データから、頻出 400 単語を用いて特許文書ベクトル多次元尺度構成法による配置を作成した（すなわち、2.2.2 章の次元数 j = 400）。
この情報に対して、多次元尺度構成法及び RandomProjection により、次元圧縮を試みた。
表１

サンプルデータ

件数281 件

検索条件

要約・請求の範囲 に『（麺 OR めん）AND（即席 OR インスタント）』

期間

出願日が2001/01/01 ～ 2010/12/31

278

図６

多次元尺度構成法の結果における距離関係

Random Projection によって同様の図示を行った

4

寄稿集３

● Random Projection

まとめものが図７・図８である。{Rij} は正規乱数で構成した。
本稿では、特許文書 1 件を 1 点としてマッピングを

図８は、相関係数は 0.57 であり多次元尺度構成法と比行う方法を論じ、結果の評価を行った。筆者の経験から、較するとばらつきがみられるが、算出過程の単純さを鑑

テキストマイニングによる特許データの可視化はブラッ

みると一定の利用価値は存在するものと考える。

クボックスのようで何を示しているのか判然としないとの印象を持たれることも多いが、本稿がそういった印象を払拭することの一助となれば幸甚である。本稿の分析結果は株式会社 NTT データ数理システムの Visual
Mining Studio 及 び Patent Mining eXpress といった製品群によるものである。

参考文献[1] D. Achlioptas (2001) Database-friendly
random projections: Johnson-Lindenstrauss
with binary coins, In Proc. of ACM Symp. on
図７：Random Projection による配置

Principles of Database Systems, pages 274281[2] E. Bingham and H. Mannila (2001) Random
projection in dimensionality reduction:Applications to image and text data, In Proc.
of 7th ACM SIGKDD ACM SIGKDD Int. Conf.
on Knowledge Discovery and Data Mining,
pages 245-250[3] 岡太彬訓 今泉忠 (1994)『パソコン多次元尺度構成法』共立出版

図８：Random Projection の結果における距離関係[4] 豊田裕貴 菰田文男 編著 (2011)『特許情報のテキストマイニング』ミネルヴァ書房

YEAR BOOK 2O15 279

データによる分析と評価

図７では、出願人 E,F のまとまりが緩やかにみられる。