機械学習を用いた効率的な特許調査方法
─ディープラーニングの特許調査への適用に関する基礎検討─
Effective patent search methods using Machine Learning

花王株式会社

知的財産部／アジア特許情報研究会

安藤俊幸

1985 年現花王株式会社入社、研究開発に従事
1999 年研究所の特許調査担当（新規プロジェクト）、2009 年より現職
2011 年よりアジア特許情報研究会所属
情報科学技術協会、人工知能学会、データサイエンティスト協会 各会員

1 はじめに必要がある。更に人も「AI」もそれぞれの特性に合わせ第３次 AI（Artificial Intelligence）ブームと騒がれさせられている。

て育成する観点が重要なことに日々ことあることに痛感始めてから数年が経過し、新聞、雑誌、Web 等におい

本稿では特許調査・解析の実務に実際に自分の手をて AI の話題を見かけない日はないぐらい AI 関係の情報動かして試して効果を実感できる特許調査の効率化手で溢れている1, 2）。ただ AI が導入されると何でもできる法を検討した。前半では昨年の Japio YEAR BOOKと過大な期待を抱いたり、逆に自分の仕事・職業が無く2017 の論文と同じ例題で特許検索競技大会 2016 のなってしまうのではないかと不安を感じている人もいる

化学・医薬分野の問 2（ガスバリア性包装用フィルム）ようである。一口に AI と言っても単独の AI 技術が存在を使用し機械学習の先行技術調査への適用を念頭に検討する訳ではなく、また定まった AI の定義がある訳でもした6, 7）。後半では技術動向調査を念頭にインクジェッない3）。最近では AI の中心技術である各種機械学習の

トインクのサンプル集合で検討した。

ツールがコモディティ（普通の存在）化してきており最公開されることが増えている。その気になれば誰でも入2 特許調査への機械学習適応時の留意点

手可能である。ただし自分の業務で使いこなして有用な

現在、様々なベンダーからいろいろな「AI」製品が提結果得るまでには「人」の側で習得すべき事項も多い。

供されており謳い文句も様々である。いろいろな「AI」

特許情報の分野においても「情報の科学と技術」誌で製品のパンフレット等には良いことしか書かれていない

昨年に続き 2018 年 7 月号（68 巻 7 号）でも「特集：場合が往々にしてあるが人工知能の分野には昔からいろ

特許情報と人工知能（AI）-II」の特集が組まれている4, 5）。

いろな難問が存在している。これらの難問を知ることで筆者は AI のコア技術である機械学習を用いて研究員

現状の「AI」には原理的な限界が存在することが理解での特許調査を効率化して生まれるゆとり時間を研究員本きる。AI 活用における留意点として以下に重要なもの

来のクリエイティブな活動に充てて新しい価値創出支援を述べる。

新のライブラリが Web 上でマニュアルと共にフリーでを目的に機械学習を試行している。その経験からまず現状の「AI」に何ができて、何ができないのかの理解が必238（1）フレーム問題

須であり、人が行うべき事、「AI」に任せた方が良い事

フレーム問題とは、人工知能における重要な難問のの役割分担を意識する重要性を実感している。現在「AI」

一つで、有限の情報処理能力しかないロボットには、現と呼ばれている複数の技術にはそれぞれ各種原理的な限

実に起こりうる問題全てに対処することができないこと

界も存在しこれらを理解して「AI」を正しく使い分けるを示すものである。 特許調査や学術文献調査等の検索においてどこまで調査するのか調査範囲を決める外枠とている。この定理の数学的な意味も重要であるが名前の考えると理解しやすい。特許調査においては調査目的に由来になった格言の意味も実際の AI 製品の広告やパン

応じてどこまで調べるか調査範囲を決めておくとフレー

フレットを吟味する場合重要である。特に「AI を導入

ム問題を回避あるいは軽減できる可能性がある。もう少するとなんでも／簡単にできる」という意味のフレーズ

し具体的には発明を特許出願する前に行う先行技術調査には要注意である。「なんでもできる＝万能のアルゴリ

では発明に新規性、進歩性があるか調査するがその発明ズム」は無い。「簡単にできる＝無料の昼食」は本当にが属する技術範囲を適切に決めると調査が効率的に行え無料なのか、特に教師あり機械学習において教師データる。調査対象国により IPC、CPC、FI 等を適切に使いを用意したり、機械学習の出力結果を判定／検証するコ分けるあるいは併用すると良い。日本特許の場合は FI、ストを考慮しているのか要チェックである。
（3）醜いアヒルの子の定理

フレーム問題
フレーム問題とは、人工知能における重要な難問の一つで、有限の情報処理能力しかないロボットには、現実に起こりうる問題全てに対処することができないことを示すものである。

要素
A

要素
B

はどんなものを比較しても同程度に似ているとしか言えない、という定理である。
①

外枠

検索において調査範囲を決める
外枠と考えると理解しやすい
図1

醜いアヒルの子の定理とは、純粋に客観的な立場からフレーム問題図１．フレーム問題

他社権利の侵害防止を目的に行うクリアランス調査でも調査範囲の決定は重要である。先行技術調査とは異なる観点からリスクと調査効率のバランスを考慮して調査範囲を決定する必要がある。

醜いアヒルの子②

普通のアヒルの子

体色 背の高さ 横幅 体重 目の開閉 嘴の向き 尾の向き
醜いアヒルの子
灰色
高
細
軽
開
左
右
普通のアヒルの子① 黄色
低
細
軽
開
左
右
普通のアヒルの子② 黄色
低
太
重
開
右
左

3

特許情報の高度な情報処理技術

F タームを利用すると調査精度を高めることができる。

特徴量として体色に着目すると類似性は異なる
1

図2

醜いアヒルの子の定理「醜いアヒルの子を含む n 匹のアヒルがいるとする。
このとき醜いアヒルの子と普通のアヒルの子の類似性は（2）ノーフリーランチ定理（NFL 定理）

図２．醜いアヒルの子の定理

任意の二匹の普通のアヒルの子の間の類似性と同じにな

最適化問題であらゆる問題に適用できる性能の良いる」という定理。各特徴量を全て同等に扱っていること

万能のアルゴリズムは無いという意味である。ある特定により成立する定理である。もう少し具体的には醜いアの問題に焦点を合わせた専用アルゴリズムの方が性能がヒルの子（白鳥の雛で灰色）、普通のアヒルの子（黄色）良いということである。現状は汎用の AI（強い AI）はの特徴量（灰色、黄色）に着目すれば識別可能だが識別無く、特定の問題に強い専用の AI（弱い AI）が多いこに無関係の特徴量、例えば向いている方向、背の高さ、とと関係している。この定理は数学的に証明されており

体重、目を開いている／閉じている等々の特徴量を増や解こうとする最適化問題に対する学習アルゴリズムに万すと類似性で区別できなくなる。

能なものはないので問題にあったアルゴリズムを選択し人は子供でも例えばリンゴとバナナの識別は容易であたり設計することの重要性を説いている。この定理の名る。たとえ黄色いリンゴとバナナの識別も容易にできる。

前の由来は「無料の昼食は無い」というところからきてこれがディープラーニング登場前の「AI」では意外に難いる。酒場の広告で「ドリンク注文で昼食無料」というしい。「特徴量エンジニアリング」と呼ばれる特徴量ののがあったが実際は「ドリンクに昼食料金が含まれてい選択手法を用いて専門家が注意深くチューニングした機る」ということでハインラインの SF 小説『月は無慈悲

械学習が従来より行われおり有効な方法である。ディーな夜の女王』（1966 年）で有名になった格言に由来しプラーニング（深層学習）では従来の専門家による特徴

YEAR BOOK 2O18 2392量抽出が自動的に行われる。ただしディープラーニング

特許検索競技大会 2016 の化学・医薬分野の問 2には大量の学習データと計算能力が必要となる。計算能（ガスバリア性包装用フィルム）を例題として選択し各

力は GPU（Graphics Processing Unit）の使用で大種の検討を行いやすいデータセットを作成した。商用

幅に改善される。

特許データベースとして日立の特許情報提供サービス
8）、NRI サイバーパテントデスク 2「Shareresearch」、を使い検索競技大会の問題文（図４）の請求項 1 を（4）シンボルグラウンディング問題

9）

シンボルグラウンディング問題とは、記号システム内

入力して概念（類似）検索を行い各々上位 376 件と正のシンボルがどのようにして実世界の意味と結びつけら

解公報 49 件の和集合 746 件をデータセットとした6）。

れるかという問題。記号接地問題とも言う。現在の「AI」

2017 年作成のデータセットをそのまま使用した。

は人間と同じように自然言語を理解しているわけではな
いことに注意する必要がある。

3 先行技術調査への機械学習の応用
先行技術調査への機械学習の応用例として特許検索競

特許検索競技大会2016 化学・医薬分野
出題内容:【間2】問題文概要(2/3)
【特許請求の範囲】【請求項1】
熱可塑性樹脂フィルム基材層(A層)、酸化ケイ素蒸着層(B層)、ポリビ
ニルアルコール系樹脂と粘土鉱物を含む塗膜層(C層)が他の層を介して又は介さずにこの順に積層されてなることを特徴とするガスバリア性包装用フィルム。
(C層)ポリビニルアルコール系樹脂と粘土鉱物を含む塗膜層技大会の問題を例題にして検討を行った。図 3 にフィー(B層)酸化ケイ素蒸着層

ドバックセミナー資料より先行技術調査の流れを示す。
機械学習の先行技術調査過程への適用例として調査範囲(A層)熱可塑性樹脂フィルム基材層
ガスバリア性包装用フィルムの確定、検索キー（特許分類、検索キーワード）の抽出、

図4

特許検索競技大会 2016 の化学・医薬分野の問 2

スクリーニング支援（要査読かノイズの仕分け等 2 値

近年、単語のベクトル化手法として word2vec10）、

分類、査読の優先順位をレコメンドするスコアリング）文書のベクトル化手法として doc2vec11） が考案され等が考えられる。各調査プロセスの性質に応じた機械学

これらの発展手法が各種登場してきている。

図４．特許検索競技大会2016の化学・医薬分野の問２

習の個別のアルゴリズムの応用が考えられるが本稿では

図 5 に doc2vec による文書のベクトル化処理の概

発明の構成要素に注目したスクリーニングを検討した。

要を示す。2017 年の検討では doc2vec を使用して構成要素の分析（抽出）は醜いアヒルの子の定理を念頭

文書単位にベクトル化して類似文書のスクリーニング検に「人」が行うことを前提にしている。予備検索を実行討を行った。

して調査範囲を決定するのはフレーム問題で述べたように調査効率（精度）と検索漏れ（再現率）とのバランス

・公報番号（タグ）・タイトル、要約、請求項

特許公報を考えて決める必要がある。

必要に応じて正規表現等によるクレンジング

形態素解析器・MeCab・Janome（Pure Pythonで書かれた辞書内包の形態素解析器）

先行技術調査の流れ（進め方）

特許検索競技大会2016
フィードバックセミナー資料p35

学習用
データ

出願したい明細書から構成要素を分析する
明細書を熟読して発明内容を理解し、検索式作成のための構成要素を決定する

学習実行

予備検索の実行

検索戦略立案、検索式作成

検索実行、スクリーニング
優先順位を決め、効率的にスクリーニングを行う
スクリーニング結果に応じて、検索戦略を再検討
図３．先行技術調査の流れ

240

図3

先行技術調査の流れ

パラメータを調整可能学習したモデルを保存

類似公報

指定文書と最も類似度が高い文書を表示（件数指定可）

必要な文書ベクトルを出力

海外の場合（IPC,CPC）

検索式に使用する特許分類、キーワードの抽出
多観点の検索式の検討
スクリーニング過程を詳細に検討し、機械学習を応用した支援方法（ツール）検討

形態素解析済の単語（名詞、形容詞、
動詞）とタグ（公報番号）を保存

学習済
モデル

特許分類（FI、Fターム、IPC）、キーワードの検討

図5

改良ポイント①公報を文単位に分解してタグ付け②実施例追加
③クエリ：請求項１、構成要素a～g

タグ付け詳細
公報番号_記載部分:文番号
例：P2001‐123456_c6
記載部分略号
T：タイトル
A：要約
C：請求項
E：実施例

図５．Doc2vecによる文書のベクトル化処理の概要

doc2vec による文書のベクトル化処理の概要

本稿では改良ポイントとして下記① ~ ③の検討を行った。
改良ポイント①公報を文単位に分解してタグ付け

②実施例追加

分布仮説に基づいた文脈中の単語の重み学習（word2vec）
分布仮説
・類似する文脈でよく使われる表現は似た意味を持つ・単語の意味はその周辺単語の分布により知ることができる③クエリ：請求項単位、構成要素単位等①は公報を文書（documents）単位から文（sentence）
単位でタグ付けしてベクトル化した。②はタイトル、要約、請求項に実施例を追加した。③はクエリとして請求

学習例
熱可塑性樹脂フィルム基材層、酸化ケイ素蒸着層、ポリビニルアルコール系樹脂・・・
１

２

３

４

５

６ ７

８ ９

10

11

12

８

13 ４

熱/可塑/性/樹脂/フィルム/基/材/層/酸化/ケイ素/蒸着/層/ポリビニルアルコール/系/樹脂
ウィンドウ幅：５

項単位、発明の構成要素単位等任意のクエリを入力でき

単語ID

単語ID

1

1

2
3

2
3

るようにした。タグ付けの詳細は下記のように公報番号に記載部分の通し：文番号とした。

①注目単語の前後の周辺単語を学習/予測する②周辺単語から注目単語を学習/予測する

公報番号_記載部分：文番号

隠れ層の数がベクトルの次元に相当する（数百次元の固定長ベクトル）

図7

例：P2001-123456_C6

分布仮説に基づいた文脈中の単語の重み学習

図 8 に「文」単位での類似度計算による再現率曲線
記載部分略号は下記のように決めた。

を示す。確認数が少ない立ち上がり部では「文単位要記載部分略号

素 a-g の平均値」が最も良い再現率を示している。確

T：タイトル

認数の全体を通して「文書」単位の類似度計算結果も良

A：要約

い結果を得ているが「文」単位の類似度計算は発明の構

C：請求項

成要素毎に根拠個所を特定したりあるいは適合判別の可

E：実施例

能性が考えられる。SR は日立の特許情報提供サービス「Shareresearch」の類似検索結果をベースラインとし

上記のように公報を文単位に分解してタグ付けしクて比較している（以下同様）。

エリも任意の文あるいは句単位で入力可能なようにする
ことで発明の構成要素単位で根拠個所の抽出が期待でき「文」単位での類似度計算による再現率曲線
再現率

る。

理想

図 6 に検索競技大会の模範解答の発明の構成要素分

文書単位

節例を示す。
文単位全要素MAX（請求項１）
熱可塑性樹脂フィルム基材層、酸化ケイ素蒸着層、ポリビニルアルコール系樹脂と粘土鉱物を含む塗膜層が他の層を介して又は介さずにこの順に積層されてなることを特徴とするガスバリア性包装用フィルム。

文単位要素a‐g平均値
SR

正解例と解説:【間2】(1)構成要素分析

確認数が少ない
立ち上がり部分が重要(1)調査依頼された請求項1に対して、検索すべき技術の構成要素(概念)を記述しなさい。
記号

a
b
c
d
e
f
g

構成要素(概念)
熱可塑性樹脂フィルム基材層
酸化ケイ素蒸着層
ポリビニルアルコール系樹脂を含む塗膜層
塗膜層に粘土鉱物を含む
他の層を介してまたは介さずにこの順に積層
ガスバリア性
包装用フイルム※構成要素の分け方は本例に限定しない

重み1 重み2

10%5%

20% 30%
10% 10%30% 30%
5% 1%
15% 19%10% 5%
同じ重みだと

1/7=14.3%

図
6 構成要素分析（検索競技大会の模範解答例）
図６．構成要素分析（検索競技大会の模範解答例）

図 7 に分布仮説に基づいた文脈中の単語の重み学習のword2vec の 模 式 図 を 示 す。doc2vec は word2vec

確認数
図８．「文」単位での類似度計算による再現率曲線
図 8 「文」単位での類似度計算による再現率曲線

図 9 に発明の構成要素の重み付け検討結果を示す。
重み付けは図 6 の重み 1、重み 2 を使用した。確認数の後半で再現率への効果が大きいが重要な確認数の前半で再現率を若干悪化させる。i100 は重み付けを変えていない曲線である。i100 の意味は doc2vec のハイパーパラメータの一つである学習回数である。

を拡張してタグ付き文書を入力する。固定長ベクトルは

図１０、図１１に文の分節とクエリ拡張の影響を示す。

単語（文書）間の距離（類似度）計算や次元圧縮によるクエリに主要な構成要素を含む実施例を入力した場合が可視化、別のネットワークの入力に利用できる。

最も良い結果になっている。

YEAR BOOK 2O18 2413

特許情報の高度な情報処理技術

4 樹脂
・
・
・

樹脂 4
・
・
・

タグ付け詳細発明の構成要素の重み付け検討

各構成要素の最大類似度「文」の平均値で順位２位P1998‐076325
構成要素 記載部 類似度

確認数の後半で再現率への効果が⼤きい

再現率

a
b

E94
E99
E55

c
d

確認数の前半で再現率を若⼲悪化させる

確認数

P0_A1
P0_A2
P0_A3
P0_A4
P0_A5
P0_A6
P0_C1
P0_C2
P0_C3
P0_E1
P0_E2
P0_E3
P0_E4
P0a_C1
P0b_C1
P0c_C1
P0d_C1
P0e_C1
P0f_C1
P0g_C1

0.595

〇

0.523

さらに、本発明では塗膜中に架橋剤を含んでいてもよい。

×0.489

塗膜の構成成分を含んだ塗剤は、溶媒に無機板状粒子が均一に分散もしくは膨潤しかつ水溶性または水分散性ポリマーが均一に溶解もしくは分散した溶液が好ましい。

〇
×

E140

0.511

f

E217

0.714

ガスバリア性に特に優れるフィルムが得られた。

〇

g

T1

0.633

ガスバリアフィルム及び包装材料〇

構成要素
平均値：0.599
a:熱可塑性樹脂フィルム基材層
b:酸化ケイ素蒸着層
c:ポリビニルアルコール系樹脂を含む塗膜層
d:塗膜層に粘土鉱物を含む
e:他の層を介してまたは介さずにこの順に積層
f:ガスバリア性
g:包装用フイルム

図 12

記載部分略号
T：タイトル
A：要約
C：請求項
E：実施例

発明の構成要素毎の根拠個所（文）抽出結果

発明の構成要素 b：「酸化ケイ素蒸着層」の該当文はTACE
ガスバリア性包装用フィルム。
ポリプロピレン、ポリエチレンテレフタレート、ナイロンなどの熱可塑性樹脂からなるフィルムは、透明性、耐熱性を有するため様々な用途に広く用いられている。
しかし酸素や水蒸気バリア性能が求められる用途、例えば鮮度が求められる食品のパッケージ用途には適さない。
そのため、従来から熱可塑性樹脂フィルムとアルミニウム箔とを積層したフィルムが食品用のパッケージとして用いられてきた。
しかしアルミニウム箔を積層したフィルムは、ガスバリア性能は優れる一方で、フィルムの向こう側が視認不能となる上、金属探知機の使用ができなくなるという問題がある。
これらの問題を解決するフィルムとして、熱可塑性樹脂フィルムに酸化ケイ素等の無機酸化物を蒸着したものが開発されているが、そのガスバリア性能は鮮度が求められる食品の保存用途としては十分でなかった。
そこで、酸化ケイ素蒸着層の上にポリビニルアルコール系樹脂と粘土鉱物を含む塗膜層を設けることで、これらの問題を解決した
ガスバリア性包装用フィルムの発明に至った。
熱可塑性樹脂フィルム基材層、酸化ケイ素蒸着層、ポリビニルアルコール系樹脂と粘土鉱物を含む塗膜層が他の層を介して又は介さずにこの順に積層されてなることを特徴とするガスバリア性包装用フィルム。
熱可塑性樹脂がポリプロピレン、ポリエチレンテレフタレート、ナイロンから選ばれた請求項１記載のガスバリア性包装用フィルム。
粘土鉱物がカオリナイト、ディッカイト、ナクライト、ハロイサイト、アンチゴライト、クリソタイル、ヘクトライト、パイロフィライ
ト、モンモリロナイト、白雲母、マーガライト、タルク、パーミキュライト、金雲母、ザンソフィライト、緑泥石から選ばれた請求項１記載のガス バリア性包装用フィルム。
ポリビニルアルコール水溶液に、モンモリロナイトを加え６０℃で７５分間撹拌した。
その後、さらに２－プロパノールを添加し、その混合液を室温まで冷却して塗工液を得た。
熱可塑性フィルム基材として厚さ１５μｍのポリエチレンテレフタレートフィルムを用い、この一方の面上に酸化ケイ素を蒸着した。
蒸着層の上に塗工液をグラビアコート法により形成し、ガスバリア性包装用フィルムを得た。
熱可塑性樹脂がポリプロピレン、ポリエチレンテレフタレート、ナイロンから選ばれた熱可塑性樹脂フィルム基材層。
酸化ケイ素蒸着層。
ポリビニルアルコール系樹脂を含む塗膜層。
粘土鉱物がカオリナイト、ディッカイト、ナクライト、ハロイサイト、アンチゴライト、クリソタイル、ヘクトライト、パイロフィライ
ト、モンモリロナイト、白雲母、マーガライト、タルク、パーミキュライト、金雲母、ザンソフィライト、緑泥石から選ばれた粘土鉱物を含む塗膜層。
他の層を介してまたは介さずにこの順に積層。
記載部分略号
ガスバリア性。
T：タイトル
包装用フイルム。
A：要約

C：請求項
E：実施例

図１０．分の文節とクエリ拡張の影響（クエリ）

図 10

〇

金属及び／または金属酸化物は特に限定されないが、アルミニウム、ケイ素、亜鉛、マグネシウムなどの金属及び／または金属酸化物であることが好ましい。

e

発明の構成要素の重み付け検討

文の分節とクエリ拡張の影響
PatNo
P0_T1

E125

適合

フィルム走行装置を具備した真空蒸着装置内にフィルムをセットし、冷却ドラムを介して走行させる。

図９．発明の構成要素の重み付け検討

図9

0.728

正解公報

該当文
さらに、これらの熱可塑性樹脂基材は、透明であることが好ましい。

文の分節とクエリ拡張の影響（クエリ）「金属及び／または金属酸化物は特に限定されないが、アルミニウム、ケイ素、亜鉛、マグネシウムなどの金属
及び／または金属酸化物であることが好ましい。」であり、直接「酸化ケイ素」の記載はないが「ケイ素の金属酸化物」が該当する。同様に発明の構成要素 d：「塗膜層に粘土鉱物を含む」の該当文は「塗膜の構成成分を含んだ塗剤は、溶媒に無機板状粒子が均一に分散もしくは膨潤しかつ水溶性または水分散性ポリマーが均一に溶解
もしくは分散した溶液が好ましい。」であり「塗膜」と「無機板状粒子」が該当する。
doc2vec では直接的な記載がなくても文脈中の単語

文の分節とクエリ拡張の影響の並びを反映した学習を行い類似の文を提示しており非
常に興味深い結果が得られた。

再現率4

ニューラルネットワークによる学習の基礎検討

本格的なディープラーニングの特許調査への応用を検討する前にネットワーク層が少ないパーセプトロ
確認数
図１１．⽂の⽂節とクエリ拡張の影響（結果）図 11 文の分節とクエリ拡張の影響（結果）図 12 に発明の構成要素毎の根拠個所（文）抽出結果を示す。結果の解釈に関して下記の注意を要する。
①構成要素 a, f, g の順に寄与が大きいが発明の特徴量としてはあまりふさわしくない→構成要素の重み付け
である程度の改善が見込める

242

ン（Perceptron）、多層パーセプトロン（Multilayer
perceptron、略称：MLP）を使った基礎的な検討を行った。MLP は線形分離可能ではないデータを識別できる。
パーセプトロンは、人工ニューロンやニューラルネッ
トワークの一種である。心理学者・計算機科学者のフランク・ローゼンブラットが 1957 年に考案した。
視覚と脳の機能をモデル化したものであり、パターン②適合は人（筆者）が判定している→教師あり学習で改認識を行う。シンプルなネットワークでありながら学習

善が見込める（教師あり学習による適合判定について能力を持つ。1960 年代に爆発的なニューラルネット

は現在検討中である。）

ブームを巻き起こしたが、1969 年に人工知能学者マービン・ミンスキーらによって線形分離可能なものしか学いる。scikit-learn は Python のオープンソース機械学

習できないことが指摘されたことによって下火となっ

習ライブラリである。

た。他の研究者によってさまざまな変種が考案されてお図 15 に Chainer によるニューラルネットワークのり、ニューロン階層を多層化し入出力が二値から実数に訓練と訓練済モデルの品種分類実行例を示す15）。Iris

なったボルツマンマシン（1985 年）やバックプロパ

data set の半分の 75 件でニューラルネットワークをゲーション（1986 年）などによって再び注目を集めた。

訓練して残り 75 件を品種分類した結果 Acuuracy：

2009 年現在でも広く使われている機械学習アルゴリ

96.0 %（正答率）であった。ニューラルネットワーク

ズムの基礎となっている12）。

の中間層が 2 層以上ある時は（狭義の）ディープラー

図 13 に Chainer（チェイナー）13）の多層パーセプ

トロンによる階段関数の学習を示す。ニューラルネット

ニューラルネットワークの訓練（Chainer）

ワークの各エッジの重みを少しずつ調整し、正解ラベル（教師データ）との誤差を小さくする事を、「学習」と呼ぶ。
階段関数をほぼ学習するのに 10 万回の「学習」を要し

萼(がく)片ている。Chainer は Preferred Networks で開発されているニューラルネットワークの計算および学習を行う

花弁

ためのオープンソースソフトウェアライブラリである。

４つの測定値

図 14 に Iris（アヤメ）の品種分類の Iris data setを示す。Iris data set は scikit-learn14） に含まれてChainerの多層パーセプトロンによる階段関数の学習
多層パーセプトロン（３層）

Chainerの層の定義
l1=L.Linear(1, 10),l2=L.Linear(10, 1),

中間層（隠れ層）

入力層

入力層

出力層

・入力層には４つ、出力層には３つのニューロン・４層からなるニューラルネットワークを訓練
訓練済モデルによる品種分類実行例
・訓練済のニューラルネットワークによる品種分類 Correct: 72 Total: 75 Acuuracy: 96.0 %図１５．Chainerによるニューラルネットワークの訓練と分類実行

図 15

Chainer によるニューラルネットワークの訓練

10000回「学習」

出力層

・
・

5

与えられた教師データを忠実に再現する関数を求める

100000回「学習」
ｙ

ｘ

y
0.8

中間層

最低限の実装によるディープラーニング

エッジの重みw1

機械学習品種

ディープラーニングによる先行技術
調査の予備検討

NTT データ数理システムの Visual Mining Studio16）
17）
8.4 の Deep Learning アドオン（Deep Learner）

0
‐1

1

0

を使用して先行技術調査の予備検討を行った。Deep

x

重みw10
階段関数
xを‐1～1まで100分割
x<0のときy=0,x>=0のときy=0.8

図 13

ニューラルネットワークの各エッジの重みを少しずつ調整し、正解ラベルとの誤差を小さくする事を、「学習」と呼ぶ

多層パーセプトロンによる階段関数の学習

Iris（アヤメ）の品種分類（ Iris data set）
各花ごとに４つの測定値

・Sepal length
・Sepal width・Petal length・Petal width

Learner の機能は多層ニューラルネットワークによる教師あり学習・教師なし学習を行う機能である。教師あり学習では、カテゴリ値の予測については判別モデ
ル、数値の予測に対しては回帰モデルを構築する。教師なし学習では、データを次元圧縮し低次元化された表現を得ることができる。 入力するデータは、1 行 1 件のデータである通常のテーブル形式に加え、可変長の時系列データや同社のテキストマイニングツール Text
Mining Studio18）で分かち書きされたテキストデータも扱うことができる。図 16 にデータタイプ別の教師あり、なしの学習の処理内容と特色を示す。画像データは

品種

0:Setosa

1:Versicolor

2:Versinica

各花ごとに４つの測定値+３品種（教師データ）→全部で１５０組
図１４．Iris（アヤメ）の品種分類（
Iris data set）
図 14 Iris（アヤメ）の品種分類（
Iris

data set）

同社の AutoDL で分類モデルを構築できる。
図 17 に Deep Learning アドオン（Deep Learner）の設定画面を示す。最初に Iris data set を csv ファ

YEAR BOOK 2O18 243

特許情報の高度な情報処理技術

3

ニング（深層学習）と呼ばれる。

上記結果は doc2vec も Deep Learning アドオンのニューラルネットワークもハイパーパラメータのチュー
ニングを行っていないが予備検討として精度 100% という興味深い結果が出ている。ただし検索漏れ防止（再現率）の観点からはパラメータチューニングや他の手法との併用等の検討課題も示している。
本願+正解公報＝50公報
doc2vecのベクトル化データ

754公報
200次元

6

ディープラーニングによる技術動向
調査の予備検討

近年世界の特許・実用新案出願の約 6 割を中国が占図 16

Deep Learning アドオン (Deep Learner) の設定画面
データタイプ・学習別処理内容と特色
教師あり学習教師なし学習める状況にある。中国特許調査も念頭に技術動向調査としてインクジェットインク分野を対象に予備的に検討した。Questel 社のグローバル特許データベース Orbit.

テーブル 時系列

com19） のファミリー単位の FamPat データベースで分類分析・回帰分析

次元圧縮

とした。

系列を考慮した
分類分析・回帰分析
例）時系列センサーデータ等

下記検索式 2501 件（2018.08.06 時点）を母集団

テキスト

可変長の系列データから固定長の次元圧縮表現を獲得

テキストの分類分析（4J039GA24）/FTM AND（CN）/PN 2501 件（CN に限定しない 4J039GA24/FTM 18818 件）
4J039GA24 は F タームのインクジェットインク

特色

目的変数は数値、カテゴリを問わず複数指定可能

次元圧縮により得た表現をVMSの他のアイコンで使用可能例）クラスタリング、可視化等

図図１７．データタイプ・学習別処理内容と特色
17 Deep Learner のデータタイプ・学習別処理内容と特色である。JP 特許の F タームと発行国 PN に CN を指定しているので JP と CN にファミリーがある 2051 件が抽出されている。図 18 は Orbit. の分析モジュール

イルより読込み動作確認を行った。次に doc2vec によの教師なし学習であるクラスタリングを使用したフォー

り文書単位でベクトル化したデータを csv ファイルでムツリーマップである。

読込みモデル選択の用途を「予測」としてデータ形式を「テーブル」、目的変数を「正解ラベル（整数）」、説明変数を doc2vec の 200 次元ベクトル（実数）を設定し①溶融インク

④耐光性⑥記録インク

⑨耐オゾン性②水生インクジェットインク

た。ニューラルネットワークのモデルデザインは入力層、中間層を全結合層 1（出力次元数 300）
、全結合層 2（出力次元数 2）、出力層とデザインした。活性化関数をReLU、Dropout Ratio を 0.0 とした。

⑦インクジェットプリン
ティングインク

Deep Learning アドオンに本願 + 正解公報 49 件の計 50 件を含むトータル 754 件のラベル付き（教⑤ノズル目詰まり⑧放射線硬化インク師）データ（doc2vec による 200 次元の固定長ベク

図 18 Orbit のフォームツリーマップ
図１８．Orbitのフォームツリーマップ

トル）を入力して学習させた。予備検討として全データ①～⑨はグループ表示を ON にした時のグループ名

を Deep Learning 予測を行った。
表1

多層ニューラルネットワークによる教師あり学習

正答数 誤答数 正答率 精度
再現率
正解公報
30
20 60.0% 100.0%
60.0%
ノイズ公報
704
0 100.0%734
20 97.3%244③高分子分散剤

称の日本語表記である。実際には英語キーワードで表示される。説明の便宜上日本語で表記する。このチャート
ではシステム内部で自動的に 9 クラスターが指定されクラスタリング計算が行われる。新しい公報が収録されたり検索式を変更したりして母集団が多少変わるとクラ表１．多層ニューラルネットワークによる教師あり学習スタリング状況が変化する。例えば母集団の 27 件の増

機械学習（AI）の出力利用を考える
上での注意点通紙」、④耐光性の表示が無くなり「非水性インク」、「硬7化性」が新しいクラスターとして表れている。クラスタ

２章では「特許調査への機械学習適応時の留意点」とリングアルゴリズムは教師なし機械学習なのである意味

して人工知能分野で昔から難問とされてきた原理的な限当然ではあるがユーザー視点としては特許件数が多少増

界の観点から留意点を述べた。本章では次元圧縮やクラ減しても同じグループ表示が欲しい人も多い。またクラスタリング応用マップを利用する上でのユーザーの観点

スターのカテゴリーとしてインクの種類のカテゴリーとからの注意点を述べる。

加で③高分子分散剤が「青顔料」、⑤ノズル目詰まりが「普効果・性能のカテゴリーには多少違和感がある。ユーザー

人間と機械学習（AI）の役割分担を良く考えることが大前提である。人間の役割を列記する。

が使えると便利である。

人間の役割

図 19 に公報データをベクトル化して次元圧縮して 2・ゴール（目的）を決める

次元で表わしたランドスケープマップを示す。各公報が・ゴールへのルートを決める / 選択する

色つきのドットで表示されクラスター毎に色分けされて・出力を利用して判断する / アクションするいる。マウスで領域を指定するとその集合がリスト表示・出力（マップ）の信頼性、精度、特徴を理解して使用される。表示されたリストを見て内容を確認して自分でする選択した表示領域にラベル（コメント）を付けることが・出力を得るアルゴリズムの特徴を理解するできる。ランドスケープマップのクラスター分けは内部・気付き（セレンディピティ）を得る

で自動的に行われユーザー側では関与できない。図 18・マイニングするものを決めるのフォームツリーマップのクラスタリングの指摘と同様

・正解（教師データ）を準備するにランドスケープマップ上でユーザーが定義あるいは公・間違いに気付く / 修正する報を仕分けしたクラス分類（文書分類）が使えると便利

図 20 に地図の図法とその特徴を示す。地球は 3 次である。７章で次元圧縮とクラスタリング応用のマップ

元の球状であるが 2 次元平面上の地図に次元圧縮する

利用の注意点を述べ 8 章で教師データありの文書分類と各種図法に特有の歪みが生ずる。各図法の特徴を理解との併用を検討する。

して使用することが重要である。ランドスケープマップ
も各公報をベクトル化して高次元空間上の配置を次元圧
注目領域を選択してリスト表示可能縮して 2 次元平面上にマッピングしている。商用のツー
ルでは詳細は非開示のブラックボックスのことが多いが次元圧縮やクラスタリングアルゴリズムは各種存在する。自分で行う場合は特に使用目的や用途に合わせて特徴を理解して利用するのが重要である。
図 21 に scikit-learn のアルゴリズム早見表を示す。
地図の図法とその特徴
地球は３次元→２次元の地図に次元圧縮する各種方法とその特徴を理解して使用する

メルカトル図法

図 19 Orbit のランドスケープマップ
図１９．Orbitのランドスケープマップ

円筒投影による図法
地球表面のすべての部分の角度が正しく表される
図上の２点を結ぶ直線は等角航路となる羅針盤による航海に便利
海図に利用される正距方位図法

モルワイデ図法

地球を楕円形にして、図の中心から他の１地点を結ぶ直線が図の中心からの 極地方の形のゆがみを
正しい方位、最短経路を表し、 少なくした図法
図の中心からの距離を正しく 分布図に使用される求めることができる
飛行機の最短経路や方位を見るために使われる

グート図法

世界全体を通して大陸部分の形の歪みができるだけ小さい地図を作るために、サンソン
図法の地図とモルワイデ図法の地図を組み合わせて作成
面積が正しく表されている

地図投影法学習のための地図画像素材集
http://user.numazu‐ct.ac.jp/~tsato/tsato/graphics/map_projection/

図 20

地図の図法とその特徴

図２０．地図の図法とその特徴

YEAR BOOK 2O18 245

3

特許情報の高度な情報処理技術が定義あるいは公報を仕分けしたクラス分類（文書分類）

文書：4234 記事で行った。テスト文書の分類結果は
クラス
分類

Accuracy＝0.799953 であり約 80％正解率であっ回帰た。
文書のベクトル化、次元圧縮による可視化として下記3 種類を検討した。テスト文書を各カテゴリーに分類したクラス毎にベクトルの標準偏差を計算して全体の標準偏差で割り score を計算した。クラス毎のベクトルのばらつきが全体のばらつきに対して小さいので score
は小さい方がクラス毎に良くまとまっていることを示

クラスタリング

次元圧縮

す。また 2 次元に次元圧縮して公報の散布図を作成することで可視化できる。次元圧縮は scikit-learn の主

http://scikit-learn.org/stable/tutorial/machine_learning_map/index.html

図 21scikit-learn のアルゴリズム早見表

scikit-learn algorithm cheat-sheet20）のページか

成分分析を使用した。
①SCDV:Sparse Composite Document Vectors26）
による文書のベクトル化 score＝0.756449

ら各アルゴリズムの更に詳細な情報にアクセスできる。

全ての単語に対する単語ベクトル辞書を作

NTT データ数理システムの「Visual Mining Studio

成 す る（FastText）。 全 て の 単 語 ベ ク ト ル を

チートシート」 も公開されている。
21）

MinBatchKMeans によってクラスタリングする。各クラスターに属する単語のベクトルを加算して合成して文章ベクトルを生成する。fastText は Facebook が開

教師データありの文書分類と次元圧
SCDV:Sparse 発した単語のベクトル化とテキスト分類をサポートした
Composite Document Vectorsによる文章のベクトル化
縮による可視化
機械学習ライブラリである。FastText は Gensim27）score= 0.756449

8

Apache MXNet22）というディープラーニングフレー
ムワークを使用して教師データありの文書分類を検討した（Python 用の自然言語処理ライブラリ）から実行した。
カテゴリー毎に色付けしている。

。MXNet は Python を 始 め R、Scala、Julia、23）Perl、C++ 等多くののプログラミング言語に対応している。予備検討として 15 カテゴリーの記事が収録されている「Wikipedia 日英京都関連文書対訳コーパス
24）を使用して文書分類の検討を行っ（Version 2.01）」

た。「Wikipedia 日英京都関連文書対訳コーパス」は、
高性能な多言語翻訳、情報抽出システム等の構築を支援することを目的に作成された日英対訳コーパスである。
国立研究開発法人情報通信研究機構が Wikipedia の日
本語記事（京都関連）を英語に翻訳し、作成したものである。文書分類のアルゴリズムはディープラーニン
グの一種である１次元 CNN（Convolutional Neural
25）
を 使 用 し た。 ト レ ー ニ ン グ 文 書 で 教 師
Network）

データ（15 カテゴリー：学校、鉄道（交通関連）、旧

図 22

SCDV と次元圧縮による文書の散布図：②因子解析によるによる文書のベクトル化
score＝0.838752

SCDV:Sparse
Composite Document Vectors
文書内に含まれているすべての単語ベクトルから因子
https://dheeraｊ7596.github.io/SDV/
教、文学、役職・称号、歴史、神社仏閣、天皇）を学習
成分を作成しその因子を文書の意味合いを表すベクトル
家、建造物、神道、人名、地名、伝統文化、道路、仏

させ、テスト文書を各カテゴリーに分類して正解数をカウントする。トレーニング文書：9877 記事、テスト

246

データとする。図 23 に散布図を示す。

因子解析によるによる文書のベクトル化
score = 0.838752

常の先行技術調査や無効資料調査では正解公報の用意が困難である。あるいは逆に数件の正解公報が用意できたとすると先行技術調査や無効資料調査は結論が実質的に明らかとなりそれ以上の調査は不要と考えられる。特に特許出願はまず新規性の確保を目指して明細書が準備されるので文書単位でそれなりの数の正解公報を用意する
こと自体が特許出願の性格上難しいと言える。これを発明の構成要素単位あるいは文（センテンス）単位で用意することは文書単位に比べれば格段に対応の選択肢が増図 23

因子解析による文書のベクトル化散布③ RNN による文書のベクトル化 score＝0.935703

中から発明の構成要素の記載箇所を見つけて教師データとする必要がある。doc2vec の文単位の類似度計算は
正解候補の抽出に利用できる。他にも上手く使えば教師

Recurrent Neural Network（RNN）により直接文
データの準備に有効と思われる手法を紹介する。
文書内に含まれているすべての単語ベクトルから因子成分を作成しその因子を文書の意味合いを表すベクトルデータとする
書データをベクトル化した。RNN は、時系列データやOrbit.com のダウンロードデータ活用事例を図 25
テキストデータを扱うことのできるニューラルネットに示す。図 25 は特定の公報に付与された KEYW：コ

ワークの 1 つである。RNN は過去に計算した中間の状

ンセプトと MLID：化学物質名の ID である。

態を記憶しておけるため時系列の処理ができる。ただし①KEYW：コンセプト（テキストマイニング手法で抽計算に非常に時間がかかるため学習回数（エポック数）出した専門用語）括弧内の数字は（重要度、頻度 TF）

を 5 として実行した。計算時間は
4 コア CPU（GPURNNによる文書のベクトル化を使用しない）で
1 時間以上であった。学習回数を増score = 0.935703
やすと score は改善する。

②MLID：化学物質名の ID
上手く使うと教師データとして興味深い使い方が可能となる。

Orbit.comダウンロードデータ活用事例①KEYW：コンセプト（テキストマイニング手法で抽出した専門用語）
括弧内の数字は（重要度、頻度TF）
例
INKJET(100,25)|MAGENTA INK(100,56)|INKJET RECORDING(58,21)|INKJET MAGENTA INK(54,4)|MAGENTA INKJET RECORDING(54,2)|INK PRINTING TROUBLE(45,1)|AZO PIGMENT(42,29)|PIGMENT DISPERSING RESIN(35,23)|ALKYLAMINO(34,1)|INSOLUBLE ABSORBENTSUBSTRATE(34,18)| ・・・・・②MLID：化学物質名のID
例(JP2018115325)|256(1,2‐PROPANEDIOL|PROPYLENE GLYCOL);|1792(1,3‐BUTANEDIOL);|1280(STEARYL ACRYLATE);|1793(DIETHYLENE GLYCOL MONOPROPYL ETHER);|
58625(ETHYLENE GLYCOL METHYL ETHYL ETHER);|773(POTASSIUM HYDROXIDE);|
1285(LAURYL METHACRYLATE);| ・・・・・

図 25

Orbit.com のダウンロードデータ活用事例

４章で検討した（4J039GA24）/FTM AND（CN）/PN 2501 件の中国特許に付与された KEYW：コン
図 24

RNN による文書のベクトル化散布図

エポック数：５
非常に時間がかかる

9

特許調査における教師データの利用について

5 章の表 1「多層ニューラルネットワークによる教師

セプトの上位 20 を表 2 に示す。
各公報のレコードに付与されている KEYW：コンセ
プトには頻度 TF の数値があるので表 2 のように公報単位で集計した公報件数 DF を使うと簡単に TF・IDFを計算することができる。この母集団のトータル付与
KEYW：コンセプトは 246943 種類であった。

あり学習」では本願を含めて 50 公報を正解公報の教師

MLID： 化 学 物 質 名 の ID も 各 公 報 の レ コ ー ド に 付 与データとして利用できたがこれは非常にレアケースで通されている。ただし付与は完全ではなく付与されてYEAR BOOK 2O18 247

3

特許情報の高度な情報処理技術

える。とはいうものの特許特有の長くて難解な特許文書

表２．KEYW Ranking
表2

KEYW：コンセプトの上位 20 位

No. KEYW Ranking
1 ink
2 methylpyrrolidone
3 inkjet printing
4 inkjet recording
5 inkjet ink
6 hydrogen atom
7 nonionic surfactant
8 colorant
9 additive
10 carboxyl group
11 ink viscosity
12 inkjet
13 inkjet printer
14 anionic surfactant
15 acetylene ethylene glycol
16 plain paper
17 viscosity modifier
18 organic solvent
19 surfactant
20 ball mill

Google翻訳
公報件数DF
インク
1674
メチルピロリドン
1025
インクジェット印刷
965
インクジェット記録
954
インクジェットインク
888
水素原子
861
非イオン性界面活性剤
808
着色剤
783
添加剤
752
カルボキシル基
749
インク粘度
749
インクジェット722
インクジェットプリンター682
アニオン性界面活性剤
658
アセチレンエチレングリコー
629
普通紙
623
粘度調整剤
602
有機溶剤
588
界面活性剤
584
ボールミル
562

表３．MLID 化学物質名ID Ranking 上位20
表3

MLID 化学物質名 ID Ranking 上位 20 位

No. MLID Ranking 名称
Google翻訳
公報件数DF1
73 ester
エステル
1878
2
144 ethylene glycol
エチレングリコール
1863
3
152 amine
アミン
1679
4
34 acrylic acid
アクリル酸
1550
5
1184 diethylene glycol
ジエチレングリコール
1547
616 ether
エーテル
1540
7
186 glycerol
グリセロール1481
8256 propylene glycol
プロピレングリコール
1470
9177 ethanol
エタノール
1398
10
225 polyethylene glycol ポリエチレングリコール
1395
11
198 methanol
メタノール
1303
12
434 amide
アミド
1286
13
206 cyan
シアン
1255
14
28 ammonium
アンモニウム1215
15
74 acrylate
アクリレート1199
16
102 vinyl
ビニール
1181
17
1294 triethylene glycol
トリエチレングリコール
1168
18
695 ketones
ケトン
1165
19
26 carboxylic acid
カルボン酸
1141
20
232 polypropylene glycol ポリプロピレングリコール
1129

力に使用できる。もちろん日本語、中国語を自前で分かち書きを行っても良い。
海 外 特 許、 例 え ば 中 国（CN） 特 許 に は 限 定 的 な例 外29） を 除 い て F タ ー ム は 付 与 さ れ て い な い が 日本（JP）にファミリー特許がある場合はファミリーのJP 特許の F タームを教師データとして利用することも可能である。KEYW：コンセプトのような専門用語
辞書、MLID 化学物質名 ID のような化学物質名辞書、
F タームあるいは独自構築の社内分類を教師データとして word2vec,fastText による単語の固定長ベクトルの分散表現、doc2vec による文・文書のベクトル化データと教師ありの機械学習を組み合わせると SDI（Selective Dissemination of Information）タイプの特許調査の有力な手段となりえる。

11 まとめ前半では先行技術調査を念頭に doc2vec による文のベクトル化と発明の要素単位の類似文抽出検討を行い、後半で動向調査を念頭に教師あり機械学習の 1 次
元 CNN による文書分類と次元圧縮による公報の可視化検討を行った。教師あり機械学習には良質な教師データの準備が重要である。ディープラーニングの機械学習にいないレコードが 387/2501＝15.5％ % 存在しは大量の教師データが準備できるかで学習済モデルの性た。上位 20 位までには表れていないが n-methyl-能が決まる。調査目的に応じたアルゴリズムとデータの2-pyrrolidone とか 1, 6-hexanediol のような表記選択が重要である。

も抽出されている。この母集団のトータル付与 MLID
は 38174 種類であった。インクジェットインク組
成物の例えば有機溶媒にも付与されており化学物質名
称は異表記も多いが MLID として統制されており機械学習の教師データとして興味深い。

12 終わりに
本報告は 2018 年度の「アジア特許情報研究会」のワーキングの一環として報告するものである。
最後に大変有用な各種ツールに関して機械学習の初

10 今後の展望
Orbit の 日 本 語、 中 国 語 の ダ ウ ン ロ ー ド デ ー タ に心者である筆者を様々な形でサポートしていただいた
NTT データ数理システムの多くの皆様に感謝申し上げます。

は 目 に 見 え な い 不 可 視 の 分 割 記 号（16 進 数 表 示 で&H200B）が含まれている。日本語は形態素解析器

参考文献

MeCab（和布蕪） で分かち書きされているとのこと

1）「AI 白書 2017～人工知能がもたらす技術の革新

28）である。この分割記号を使うと簡単に分かち書きできて
doc2vec の入力や NTT データ数理システムの Deep
Learning アドオンのようなディープラーニングへの入248と社会の変貌～」，KADOKAWA, 20172） 松 尾 豊，「 人 工 知 能 は 人 間 を 超 え る か 」，
KADOKAWA，2015 年

3） 松尾豊 編著，「人工知能とは」，人工知能学会監修，
近代科学社発行，2016 年
4）「情報の科学と技術」2017 年 7 月号（67 巻 7 号）．
特集＝特許情報と人工知能（AI）
http://www.infosta.or.jp/journals/201707-ja/
5）「情報の科学と技術」2018 年 7 月号（68 巻 7 号）．
特集＝特許情報と人工知能（AI）-II
https://www.jstage.jst.go.jp/browse/jkg/
68/7/_contents/-char/ja

法」，Japio YEAR BOOK 2017，2017，p. 230-16）Visual Mining Studiohttps://www.msi.co.jp/vmstudio/17）Deep Learning アドオン（Deep Learner）
https://www.msi.co.jp/vmstudio/deepLearning.
html18）Text Mining Studiohttps://www.msi.co.jp/tmstudio/

319）Questel 社 Orbit.com
https://www.orbit.com/
20）scikit-learn algorithm cheat-sheet241．

http://scikit-learn.org/stable/tutorial/

http://www.japio.or.jp/00yearbook/files/

machine_learning_map/index.html

2017book/17_3_04.pdf
7） 安藤俊幸，桐山勉，「機械学習を用いた効率的な特許調査方法」，第 14 回情報プロフェッショナルシ
ンポジウム予稿集，p. 83-88．
https://www.jstage.jst.go.jp/article/infopro/
2017/0/2017_83/_article/-char/ja/
8） 日立

特許情報提供サービス「Shareresearch」

http://www.hitachi.co.jp/Prod/comp/app/
tokkyo/sr/9） NRI サイバーパテントデスク 2
https://www.patent.ne.jp/service/patent/10）Tomas Mikolov, Ilya Sutskever, Kai Chen,

21）Visual Mining Studio チートシート
https://www.msi.co.jp/vmstudio/tips/
tips04_VMS_cheat_sheet.pdf
22）Apache MXNet
https://mxnet.apache.org/
23）坂本俊之，「MXNet で作る データ分析 AI プログ
ラミング入門」，C&R 研究所
24）Wikipedia 日英京都関連文書対訳コーパス
https://alaginrc.nict.go.jp/WikiCorpus/
25）Yoon Kim, Convolutional Neural Networks
for Sentence Classification
https://arxiv.org/abs/1408.5882

Greg S Corrado, and Jeff Dean. Distributed26）SCDV : Sparse Composite Document

representations of words andphrases andVectors using soft clustering over distributional

their compositionality. In Advances in neuralrepresentations

information processing systems, pp. 3111–

https://dheeraj7596.github.io/SDV/

3119, 2013.

https://arxiv.org/abs/1612.06778

11）Quoc V Le and Tomas Mikolov. Distributed
representations of sentences and documents.
In International Conference on Machine
Learning, Vol. 14, pp. 1188–1196, 2014.
12）パーセプトロン
https://ja.wikipedia.org/wiki/ パーセプトロン
13）Chainer
https://chainer.org/
14）scikit-learn
http://scikit-learn.org/stable/

27）Gensim
https://radimrehurek.com/gensim/
28）MeCab（和布蕪）
http://taku910.github.io/mecab/
29）中国特許文献の FI・F ターム付与データ提供についてhttps://www.jpo.go.jp/shiryou/s_sonota/
china_patent.htm
上記 URL はいずれも 2018 年 8 月 30 日に確認したものである。

15）新納浩幸，「Chainer V2 による実践深層学習」，

YEAR BOOK 2O18 249

特許情報の高度な情報処理技術

6） 安藤俊幸，「機械学習を用いた効率的な特許調査方

オーム社，2017 年