DEIM Forum 2015 A2-2

統計的意味論に基づく概念的類似度獲得手法の評価
久保田豊久†

啓††若林† 筑波大学情報学群知識情報・図書館学類 〒 305-8550 茨城県つくば市春日 1-2†† 筑波大学図書館情報メディア系 〒 305-8550 茨城県つくば市春日 1-2
E-mail: †s1313111@u.tsukuba.ac.jp, ††kwakaba@slis.tsukuba.ac.jp
あらまし近年，分布仮説に基づいた単語の概念的類似度の自動抽出手法が盛んに研究されているが，概念的な類似性は様々な観点から評価することができるものであり，抽出される単語類似度がどのような特性をもつのかは自明ではない．本研究では，word2vec と係り受け構造を考慮した類似度計算手法について，抽出される単語類似度と，人手で作成された既存の意味辞書との一致度を定量的に評価することにより，その特徴について新たな知見を得ることを
目指す．
キーワード

係り受け構造，分布仮説，word2vec，統計的意味論

1. は じ め に本研究では，word2vec と係り受け構造を考慮した類似度計
算手法について，抽出される単語類似度と，人手で作成された

情報通信技術の発達によって大量の情報を扱うことができる

既存の意味辞書との一致率を定量的に評価することにより，そようになったことで，情報検索の技術はますます重要になっての特徴について新たな知見を得ることを目的とする．また，日きている．とりわけ，単純な文字列の一致だけではなく，意味

本語の構文的知識を利用している係り受け構造を考慮した類似的な類似性を考慮した検索技術の発展は喫緊の課題であると言度計算手法に対して，word2vec との抽出結果の比較を行うこえる．このことは，キーワードよりも柔軟な入力をクエリとしとにより，日本語における word2vec の有用性を評価する．

た検索や対話インターフェース [1] の実現において，特に重要な観点になると考えられる．

以下に本研究の構成を示す．第 2 章では word2vec を用いた類似度計算手法，係り受け構造を用いた類似度計算手法を示

現在の検索技術では，単語の共起情報に基づいた次元圧縮 [2]す．第 3 章では，各手法における評価手法を示す．第 4 章では，や機械学習 [3] ，単語のクラスタリング [4] によって，単語の

word2vec を用いた類似度計算手法と係り受け構造を用いた類

話題的な類似性を利用する手法が用いられている．しかし，こ似度計算手法の比較実験を行い，両者を比較，評価を行い，そのアプローチでは基本的に単語とクラスタとの関係を扱うこと

れぞれの手法の特徴を明らかにする．第 5 章では，本研究のまから，直接単語間の意味的な類似性を測る方法として用いることめと今後の課題，展望を示す．

とは困難である．
近年では，分布仮説に基づいた単語の概念的類似度の自動抽

2. 分布類似度を用いた類似度計算手法

出手法が盛んに研究されている．分布仮説は，単語の概念的な

2. 1 word2vec を用いた類似度計算手法

関係が，文書における単語同士の出現関係によって推定できる

本節では word2vec を用いた類似度計算手法について述べる．

という仮説である．これまでには，辞書資源を利用したオント

word2vec とは，Mikolov ら [8] によって提案された機械学習手

ロジーの自動生成手法 [5] や構文情報を利用した言い換えの自法であり，文書データのみを入力として単語間の類似度を計算

動生成手法 [6] などが提案されており，分布仮説による単語のする．分布仮説に基づいた Neural network model であり，ベ

概念的関係の自動抽出の可能性が示唆されている．分布仮説にクトルによって単語間の意味的な関係を表現することができる．

基づいた概念的な類似度の抽出手法として，word2vec [7] [8]辞書などの事前の言語的知識を利用しないため，言語や語順，

や係り受け関係を用いた類似度計算手法 [9] が提案されている．

固有表現の影響を受けることなく単語の関係を表現することがこの 2 種の手法は，文書集合を入力することで，概念的に類できる．計算に際しては skip-gram-model を用いて計算を行

似した単語を出力することができるとされている．しかし，概う．skip-gram-model は式 (1) で表現される．T を対象とする

念的な類似性は様々な観点から評価することができるものであ

コーパスの語数，c を訓練に使用する語数，w を訓練に使用さり，分布仮説に基づいて抽出した単語類似度が，どのような特れる語とする．p( wt+j | wt ) は式 (2) のように定義し，式 (1) を性をもつのかは自明ではない．人手で作成された意味辞書にお最大化するように v の値を学習する．vw を入力された語のベ

いては，単語の類義関係の集合の間の関係を記述した日本語

クトル，vw を出力される語のベクトルとする．

WordNet [10] や，単語の語彙的な類似性に基づいて単語を分類している語彙分類表 [11] があり，その基準は明確に異なるとされている [12] ．またこれらの意味辞書と分布仮説に基づいて抽出した単語類似度との対応関係は明らかにされていない．

′

1
T

∑T ∑
t=1

c<
= j<
=c,j̸=0log p( wt+j | wt ) (1)′exp(vwT vwI )p( wO | wI ) = ∑w

w=1

O

′

exp(vwT vwI )(2)

式 (2) の計算量を抑えるために Hierarchical Softmax を用

次に出力されたファイルから単語の出現頻度をカウントする

いる．Hierarchical Softmax は単語をノードに対応させた 2 分と同時に共起語をリスト化する．共起語リスト化の際には，対木の木構造をモデルとした式であり，ルートから単語までの各象単語に対して共起した単語が受け語として共起したのか，係ノードまでのベクトル，内積を計算し，その積を求めるモデル

り語として共起したのかを分けてリスト化し，助詞も含めて共である．この手法により，計算量を単語数の対数時間まで削減

起頻度のリスト化を行う．共起頻度のリスト化を行った結果例

することができる．Hierarchical Softmax における単語確率はが表 3 である．U が付いている場合は受け語を意味しており，

式 (3) によって定義される．n をルートから対象ノードまでのK が付いている場合には係り語を意味する．

距離，ch(n) を n の子供ノード，L(w) を w までの距離とする．
σは式 (4) で表現される．また，頻出語の削除のために，サブ

米飯缶詰 K の備蓄

サンプリングを行う．サブサンプリングとは，式 (5) の確率にサリン汚染 U 居住地区の従ってコーパスから単語を取り除く手法である．t を閾値とし，中心地 U ワシントンのf(w) を単語出現頻度とする．

全般的満足度 K の要因

p( w| wI ) =∏L(w)−1j=1′

σ([[n(w,j+1) = ch(n(w,j))]] · vwT vwI ) (3)1
σ(x) = 1+exp(−x)

p(wi ) = 1 −√東南アジア歴訪 U 前回の
表 3 係り受け構造を考慮した共起リスト例(4)tf(wi )

共起語をリスト化したファイルから単語同士の類似度を計算(5)2. 2 係り受け構造を用いた類似度計算手法
本節では係り受け構造を用いた類似度計算手法について述べる．日本語においては係り語と受け語は必ず 1 つの係り語に対して 1 つの受け語を持つという性質を持っている．文章を係りし，出力する．相澤ら [9] は類似度の計算に Jaccard 係数を用いる方法の精度が高いことを示していることから，本研究ではJaccard 係数を用いる．計算式は式 (6) で表現される．w1 ,w2を比較する単語とし，w1 ,w2 の共起語の集合をそれぞれ V1 ,V2とする．
1 ∩v2 |
(6)
Jaccard(w1 , w2 ) = |v
|v1 ∪v2 |受け解析した例を表 1 に示す．係り受け解析では，文章を文節ごとに分け，係りと受けのペアを作成する．係り受けのペアは

1 つ文のうち，最も関係の深いにある文節をペアとして係り受

3. 評 価 手 法

け構造を構築する．
本章では実験における評価手法について述べる．本研究の目
文書例：A さんはフランスパンを食べた．

的は word2vec と係り受け構造を考慮した類似度計算手法につ↓いて，人手で作成された意味辞書との一致率を定量的に評価す↓係り受け解析ることで，抽出される類似度の質的な特性について知見を得る↓ことである．評価の指標としては，日本語 WordNet および分係り語：A さんは

受け語：食べた．

係り語：フランスパンを

受け語：食べた．

表 1 係り受け解析例
係り受け構造を用いた類似度計算手法は，類似した係り語や受け語をもつ単語同士が概念的に類似しているという仮説に基づいて単語間の類似度を求める [9]．この手法ではまず，コーパ
スを日本語係り受け解析器 CaboCha にかけ，形態素の解析と係り受け構造の解析を行う．今回は名詞の概念的類似度を計算するために，解析結果から一般名詞，固有名詞，代名詞，数詞，
接尾名詞，形容動詞語幹，ナイ形容動詞語幹，サ変接続名詞を抽出する．また，係り語と受け語がどのような語で接続されているかを見るために，助格詞も併せて抽出する．抽出した語は
表 2 のような形式でファイルに出力される．

類語彙表を使用する．

3. 1 日本語 WordNet
日本語 WordNet とは，日本語の単語を synset と呼ばれる単位でまとめた概念辞書である．synset とは，同義語関係にある語をセットとしてまとめたものである．それぞれの synset には他の synset との上位関係，下位関係などの関係も記述されている．さらに語は名詞，動詞，形容詞などの品詞によっても分類される．同じ語であっても品詞を名詞として見た場合，形容詞として見た場合，異なる品詞として見た場合には synset の
内容は異なるものとなる．これは語が名詞の場合，語は「上位語」，「下位語」，「同義語」等の関係を持つが，形容詞の場合には「関係のある名詞」，「動詞の分詞」という関係を持っているためである．
今回は評価のために新たに，「兄弟語」という語の関係を用意

経済産業省 の 安井正也官房審議官 がする．
「兄弟語」とは同一の「上位語」もしくは「下位語」を共安井正也官房審議官 が 務めていた有した語を指す．例としては，図 1 のように評価語の synset の

経産省資源エネルギー庁 の 原子力政策課長 を

1 つ上位概念にあたる synset がもつ，全ての下位概念の synset

原子力政策課長 を 務めていたに含まれる語の集合を，「兄弟語」の 1 つの集合とする．さら

務めていた ０４年に，評価語の synset の 1 つ下位概念に対応する synset がもつ，
表 2 文書抽出例

全ての上位概念の synset に含まれる語の集合を，もう 1 つの

「兄弟語」の集合とする．2 つの「兄弟語」の集合を合わせたもて存在し，かつ両辞書における正解数が 3 以上の単語を評価候のが最終的な「兄弟語」の集合となる．

補単語とする．正解数とは，日本語 WordNet において対象単語の「同義語」，「上位語」，「下位語」がそれぞれ 3 単語以上あることとし，分類語彙表において対象単語の「類」，「部門」，「中項目」，「分類項目」の組み合わせが同じである単語が 3 単語以上あることとする．これは正答数が極端に小さい場合，1 つの正解単語の一致が全体の一致率に大きく影響することによって，適切に評価することが難しくなるためである．
最後の条件として，評価される単語の単語同士の類似度は，類似度上位の単語から評価を行うものとし，辞書に存在する単語のみを評価する．評価にあたり，辞書正解数が 3 件であったならば，類似度は上位 3 件のみを評価し，式 (7) のように一致

図1

兄弟語セット例

数を辞書正解数で割った値を一致率とする．
一致数
一致率 = 辞書正解数(7)

3. 2 分類語彙表
分類語彙表は言葉の意味を分類した表であり，語がそれぞれに持っている関係性を体系づけて表現している．分類語彙表は

4. 実

験

まず図 2 のように，語全体を「体の類」，「用の類」，「相の類」と

4. 1 実 験 方 法

いう，品詞の観点からみた分類に分ける．次に，「抽象的関係」，

word2vec を用いた類似度計算手法と係り受け構造を用いた「人間活動の主体」，「人間活動-精神および行為」，「生産物およ類似度計算手法の比較を行い，それぞれの手法の特徴を明らかび用具」，「自然物および自然現象」という意味的な観点 [12] でにする．本実験では対象テキストとして，CD―毎日新聞 2012の分類を行う．分類には特定の基準は設けられていないが，人

年版及び 1995 年版の記事本文データを用いる．比較を行う際に間がこの分類を見たとき，意味的に分かりやすいことを意識しは，日本語 WordNet，分類語彙表を使用し，3 章に示した一致て分類されている．意味的分類はさらに細目で分類され，最終率を参考に評価を行う．評価の項目に関して，日本語 WordNet

的には「類」，「部門」，「中項目」，「分類項目」という 4 層構造を参照する場合，「同義語」の一致率，「同義語+兄弟語」の一致によって体系づけがなされる．この分類によって語の意味を集率を実験結果とする．分類語彙表を参照する場合には，評価語合として分類することができる．

と類似度上位にある語の「類」，「部門」，「中項目」，「分類項目」の組み合わせが完全に一致している場合のみ，一致しているとして評価する．評価対象語は 3 章でも述べた条件に合致する単語からランダムに 100 単語を選出する．

4. 2 実 験 結 果
表 4 にランダムに選出した 100 語の平均一致率を示す．それぞれの項目を見ると，分類語彙表においては word2vec を用いた類似度計算手法が係り受け構造を用いた類似度計算手法に比べ，一致率が大きいことが確認できる．日本語 WordNet を辞
図 2 分類語彙表体系図書として使用した場合，同義語のみの評価では word2vec を用いた類似度計算手法，係り受け構造を用いた類似度計算手法共に同程度の一致率を示している．兄弟語と同義語を評価に使用

3. 3 評 価 手 順
今回の評価では，名詞の語を評価対象として評価を行う．日
本語 WordNet では「上位語」，「下位語」，「同義語」，「兄弟語」の関係を持つ単語を評価に用い，分類語彙表では最も細分化さした場合には，係り受け構造を用いた類似度計算手法では殆ど一致率の変動は無いが，word2vec を用いた類似度計算手法では 0.126 から 0.073 へと大きく一致率が落ちていることが確認できる．

れる組み合わせである，
「類」，
「部門」，
「中項目」，「分類項目」の 4 層全てが同じ組み合わせである単語の集合を評価に用いることとする．
まず，コーパスにおいて単語の出現頻度が 5 回以上の名詞を抽出する．これは出現頻度が極端に小さい場合，分布仮説における統計量の信頼性が損なわれてしまうことによって，正当な評価が不可能になることを防止するためである．
次に，評価する語が日本語 WordNet 及び分類語彙表におい

使用辞書

分類語彙表

使用項目

分類項目

計算手法

係り受け

平均一致率 0.124247

日本語 WordNet
同義語

同義語＋兄弟語

word2vec 係り受け word2vec 係り受け
0.163386

0.1235120.126252

表 4 平均一致率

word2vec

0.125256 0.0733511

単語

係り受け

word2vec

差分46 語，下回った語は 16 語となった．表 6 では，word2vec を任務

0.545454545 0.363636364

0.181818182

用いた類似度計算手法の方が係り受け構造を用いた類似度計算

速度0.5 0.333333333

0.166666667

手法の一致率を上回った語は 22 語，同じ一致率だった語は 50衣服

0.285714286 0.142857143

0.142857143

語，下回った語は 28 語となった．表 7 では，word2vec を用い

景観

0.142857143

00.142857143

た類似度計算手法の方が係り受け構造を用いた類似度計算手法

趣旨

0.18750.0625

0.125

職業

0

0.125

-0.125

出来事 0.111111111 0.333333333-0.222222222

名前0.076923077 0.307692308 -0.230769231

迫力

0.142857143 0.428571429 -0.285714286

長所

0.25

0.625

-0.375の一致率を上回った語は 16 語，同じ一致率だった語は 2 語，下回った語は 82 語となった．

4. 3 実 験 考 察
表 5 において，最も一致率の大きかった語である「長所」と係り受け構造を用いた類似度計算手法において一致率 0 であった「職業」について詳しく見る．各手法において類似度上位と判定された語は以下の表 8，表 9 に示す．

表 5 分類語彙表における一致率

係り受け

word2vec

単語
趣旨

係り受け

0.24

差分

word2vec
0.08

0.16

やり方 0.230769231 0.076923077

0.153846154

任務

0.142857143

0.333333333

0.19047619

差0.285714286 0.142857143

0.142857143

部門

0.291666667 0.166666667

0.125

真ん中
事情

0.125
0.125

0
0.25

0.125
-0.125

語

類似度

語

類似度

特性

0.457273

功績

0.042307692

強み

0.427378

個性

0.04136253

個性

0.422949

心情

0.041237113

特色

0.417858

過ち

0.040229885

持ち味

0.416799

心理0.040145985

分類語彙表

利点

0.405771

弱点

0.039711191

正解：8 件弱点

0.402594

生き方

0.037848606

メリット

感性

0.396606

強み

0.037647059

強み

才能

0.371493

才能

0.03654485

異色

信念

0.357058

使命

0.035502959

弱点

特徴

0.355441

面影

0.035353535

特徴

考え方

0.341768

手腕

0.034482759

特色

思いやり

0.034090909

特性
利点

文書

0.25

0.375

-0.125

ユーモア

0.338416

曲

0.125

0.25

-0.125パワー

0.335801

唇

0.034013605

魅力

0.335644

感性0.033112583

資質

0.329265

効用

0.032967033

底力0.325476

心身

0.03286385

スタイル

0.322571

腕0.032036613

生き方

0.321368

キャリア

0.030769231

メリット

0.31086

力量

0.030701754

理由

0.071428571 0.214285714 -0.142857143

表 6 日本語 WordNet における同義語一致率
単語
差

係り受け

word2vec

差分

0.234848485 0.034090909

0.200757576

ホール 0.210526316 0.022556391

0.187969925

仲間

0.221052632 0.047368421

0.173684211

本質

0.269592476 0.097178683

0.172413793

感情

0.298412698 0.149206349

0.149206349

裏付け 0.029411765 0.058823529-0.029411765

規律

0.029411765 0.058823529 -0.029411765

方針

0.051546392 0.087628866 -0.036082474

書面

0.057471264 0.103448276 -0.045977011

外見

0.007168459

0.0609319 -0.053763441

表 7 日本語 WordNet における同義語＋兄弟語一致率
次に語ごとの個別一致率を見ていく．表 5 は評価辞書に分類
語彙表を用いた場合の個別一致率を示した表である．表 6 は評価辞書に日本語 WordNet を用いた場合の同義語の個別一致率を示し，表 7 は同義語セットに兄弟語セットを加えた場合の個別一致率を示している．今回は 100 語評価を行っているが，
ここでは主に手法によって一致率の差が大きかった語を表に示している．一致率の差はそれぞれ，（係り受けでの一致率 −日本語 WordNet
正解：5 件
利点
値
価値
メリット
強み

(a)word2vec (b) 係り受け (c) 分類語彙表 (d) 日本語 WordNet
表 8 分類語彙表における「長所」の正解と類似度上位結果
係り受け

word2vec
語

類似度

語

類似度

職種

0.345404

性別0.072368421

性別

0.291723

住所0.067625899

経歴

0.249297

年齢0.057813911

氏名

0.236163

国籍

0.054325956

教養

0.225204

氏名

0.051873199

分類語彙表

年齢

0.214841

学年

0.048913043

正解：8 件教員

0.213607

生き方

0.034246575

家事

日本語 WordNet

身分

0.206926

境遇

0.032663317

事務

正解：4 件形態

0.196045

番号

0.032200358

事業

勤め

職

0.193525

体調

0.029644269

職

職務

里親

0.19269

名前0.029214559

実務

職

教材

0.190398

人種

0.028985507

業務

務め

人材

0.188585

心情

0.028735632

公職

キャリア

0.187696

症状

0.027522936

ビジネス

フリーター

0.187623

口座0.02739726

職場

0.18467

居場所

0.027088036

役職

0.183066

経歴

0.026978417

部署

0.181591

悩み

0.026392962

趣味

0.180271

運命

0.026033691

学科

0.180174

性格

0.025614754(a)word2vec (b) 係り受け (c) 分類語彙表 (d) 日本語 WordNet
表 9 分類語彙表における「職業」の正解と類似度上位結果

word2vec での一致率）で計算している．表 5 に示した，分類語彙表を評価辞書として用いた一致率評価では，word2vec を

表 8 を見ると，分類語彙表正解データ 8 件の中で word2vec

用いた類似度計算手法の方が係り受け構造を用いた類似度計算

を用いた類似度計算手法では「特性」，
「個性」，
「特色」，
「利点」，

手法の一致率を上回った語は 38 語，同じ一致率となった語は「弱点」の 5 件，係り受け構造を用いた類似度計算手法では「個性」，「弱点」の 2 件が正解となっている．評価外となってしま

において最も一致率が大きな語であった「差」について詳し

うが，word2vec を用いた類似度計算手法では「特徴」，「メリッ

く見る．各手法において類似度上位と判定された語を表 11 にト」という語が上位 20 件までに含まれている．係り受け構造示す．表 11 を見ると，日本語 WordNet 同義語+兄弟語正解を用いた類似度計算手法でも「強み」という語が評価外で存在データは 266 件あり，word2vec を用いた類似度計算手法の一している．両者を見比べると，辞書一致率は word2vec を用い

致率は 0.034，係り受け構造を用いた類似度計算手法では一致た類似度計算手法の方が大きくなっている．分類語彙表が意味

率は 0.234 であった．同義語のみで一致率を評価した場合には，的な観点の分類において，人間にわかりやすい分類を行っていword2vec を用いた類似度計算手法では 0.142 となり，兄弟語をることから，word2vec を用いた類似度計算手法の計算結果は評価に含めたことで一致率は大きく低下した．これは正解デー

より，人間の感覚に近い計算をしていると言える．一方，係りタが増えたことに対して，類似度上位の正解数がほとんど増え

受け構造を用いた類似度計算手法での類似度上位には，「功績」

なかったことを意味している．一方，係り受け構造を用いた類や「手腕」，「キャリア」等の仕事に関係する語が上位になって似度計算手法では同義語のみを正解データとした場合であっていることが確認できる．これは「長所」という語が仕事関連のも一致率は 0.285 であり，一致率の低下は限定的であった．こ

記事に多く登場し，係り受け解析によって類似度上位に出現しれは，正解データが増えたと同時に，類似度上位の語が正解とていると考えることができる．日本語 WordNet の正解データ

して一致数を伸ばし，一致率の低下を抑えたためであると考えとも比較すると，正解データ 5 件の中で word2vec を用いた類

られる．

似度計算手法では「強み」の 1 件のみ，係り受け構造を用いた

係り受け

word2vec

日本語 WordNet

類似度計算手法では評価内において正解は 0 件となっている．

語

類似度

語

類似度

しかし，一致率では依然として word2vec を用いた類似度計算

内容

0.427677

理念

0.045822102

心考え方

0.326624

意義

0.045333333

本質

手法が優位であった．

立場

0.319737

中身

0.044189853

次 に 表 9 を 見 る と ，分 類 語 彙 表 正 解 デ ー タ 8 件 の 中 で言い方

0.303602

内容

0.04345898

動機0.300818

あり方 0.036736899

word2vec を用いた類似度計算手法では「職」の 1 件のみ，

見解

0.298136

見解

0.036323202

係り受け構造を用いた類似度計算手法では正解は 0 件となって理念

0.296453

性格

0.036290323

理由

0.295587

目的

0.035541195

いる．また，係り受け構造を用いた類似度計算手法は「性別」，

形式

0.289854

精神0.035338346「住所」，「氏名」等の関係の無い語を類似度上位に挙げている．

意向

0.289407

考え方 0.032258065

目的

0.285337

点

0.031415461

これは新聞という媒体からコーパスを所得したことで，アン

根拠

0.282271

立場

0.030815109

心情

0.275328

方向0.030590717

観点

0.272921

本質

0.030534351

信念

0.272766

役割

0.030176416

やり方

0.267626

経緯

0.029959514

経緯

0.263896

法

0.029876977

こと

0.257035

姿勢

0.0293055

方針

0.247879

ルール 0.028013582

ケート結果や犯罪事件の記事等から多くの係り受け関係を抽出してしまったからであると考えられる．一方，word2vec を用いた類似度計算手法は「フリーター」や「教員」といった「職業」という語に関連する語を類似度上位として挙げている．これは，サブサンプリングによって高頻度で出現するが関係の無い語を削除できたことが要因として考えられる．
次に表 6 について，係り受け構造を用いた類似度計算手法において最も一致率が大きな語であった「趣旨」について詳しく見る．各手法において類似度上位と判定された語を表 10 に示す．表 10 を見ると，日本語 WordNet 正解データ 25 件の中で係り受け構造を用いた類似度計算手法では「意義」，
「中身」，
「内
容」，
「目的」，
「本質」，
「役割」の 6 件が正解となり，word2vecを用いた類似度計算手法では「内容」，「目的」の 2 件が正解となっている．分類語彙表の正解データを見ると，「精神」と「理念」の 2 語が類似度上位の正解として加わっている．どちらの辞書で比較を行っても，この語では係り受け構造を用いた類似度計算手法の一致率が大きくなっている．
「理念」，
「見解」，
「考
え方」といった両手法の類似度上位に存在する語は考えや目的を表す語である．分類語彙表が日本人の分類感覚を反映した分類になっていることから，「趣旨」という語は「理念」や「見解」といった語に近い語であると言える．つまり，この両手法は語によっては人間の感覚に近い語を類似している語であると評価し，類似度上位に結果として表示することができると考えられる．
次に表 7 について，係り受け構造を用いた類似度計算手法

正解：25 件分類語彙表
正解：16 件
要領
重点
議題
話題
ストーリー
精神
主眼
争点
テーマ
理念
意義
概要
題材
含み
大筋

効用
役割
気
働き
用
中身
目的
意
狙い
メッセージ
テーマ
目当て
要領
内容
課題
物
主題

真実

0.247135

根拠申し入れ

0.245495

在り方 0.027798648

責務

0.239591

仕組み 0.027173913

使い方

虚偽

0.234255

条件

0.027059774

意義

方法

0.232745

文書

0.026475038

考え

真相

0.232302

意向

0.026255182

役目

0.027855153

大綱

対象
題

(a)word2vec (b) 係り受け (c) 分類語彙表 (d) 日本語 WordNet
表 10 日本語 WordNet における「趣旨」の同義語正解と類似度上位結果

係り受け

word2vec

計算手法の方がより有効であると言える．

日本語 WordNet

語

類似度

語

類似度

同義語+兄弟語

大差

0.507882

点差0.444878

力0.037702504

正解：266 件

格差

0.387074

格差

0.032490975

好評

ばらつき

0.350507

距離0.031376065

域
日本語 WordNet

バランス 0.035897436

5. 結

遠隔

本研究では，word2vec と係り受け構造を考慮した類似度計

気持ち

0.030130566

気互角

0.322745

点

0.028205128

活性

同義語

ズレ

0.316939

面

0.028119508

間隔

正解：7 件ずれ

アドバンテージ 0.334557

僅差

0.315567

レベル

0.027624309

降り

誤差0.300305

状況

0.02748791

理由

距離

リード

0.298296

動向

0.026876268

性質

変わり

折り合い

0.296265

態度

0.026287554

行い格差

オルフェーヴル

0.29455

ずれ

0.025990903

モチーフ

異なり

違い

0.294232

実力0.025408348

実力

開き

隔たり

0.293483

考え方

0.025136154

香り

溝

引き離す

0.289107

価値

0.024878313

メッセージ

奪え

0.286238

成績0.024767802

度合い

出遅れ

0.285195

言葉

0.024560661

認め

キープ

0.283924

性格

0.024415584

猛追

0.27607思い

0.024278392

劣勢

0.273951

姿勢

0.024259609(a)word2vec(b) 係り受け

論

外見
局面
..
.

(c) 日本語 WordNet

表 11 日本語 WordNet における「差」の正解と類似度上位結果
実験結果全体を見比べて考察を行えば，人手によって構築された既存の意味辞書との一致率は約 1 割程度であることを確認した．
分類語彙表を用いた評価では，word2vec を用いた類似度計
算手法の一致率がより大きくなった．word2vec を用いた類似度計算手法は全ての語をベクトルとして利用し，計算を行うが，係り受け構造を用いた類似度計算手法は係り受け関係以外の語
は捨て，計算を行う．この違いが一致率の差として結果に現れたと考えられる．つまり，係り受け関係をもつ単語の分布のみ
が日本語の分類的特徴を表現するという仮定は適切ではなく，語の意味的な観点の分類には係り受け構造以外の語の関係も考慮する必要があると言える．

算手法について，抽出される単語類似度と，人手で作成された
既存の意味辞書との一致率を定量的に評価することにより，その特徴について考察を行った．また，日本語の構文的知識を利用している係り受け構造を考慮した類似度計算手法に対して，

word2vec との抽出結果の比較を行うことにより，日本語における word2vec の有用性を評価した．
実験では人手によって構築された既存の意味辞書との定量的比較において，両手法共にコーパスの影響を受けたとしても，
約 1 割程度を網羅することができることを確認した．word2vecを用いた類似度計算手法では，サブサンプリングによってコーパスによる影響をより軽減し，日本人の分類感覚に近い語が上位として挙がることを，分類語彙表での一致度を通して確認できた．しかし，日本語 WordNet を用いた評価によって，兄弟語の抽出が難しいという特徴も確認した．係り受け構造を用いた類似度計算手法では，日本語 WordNet において word2vecと同等の同義語抽出性能を持ち，兄弟語を上手く抽出することができることを確認した．
今後の展望として，トピックモデルを用いた類似度計算手法
といった異なる計算手法との比較を行う，コーパスの量を変化させる，別コーパスを学習させといった方法によって結果にどのような差異が現れるか，検証を行っていく．また今回は名詞のみの評価であったが，動詞や形容詞も追加することで精度の向上か可能であるかを検証し，辞書自動生成やその技術の一端としての利用を検討していく．

謝辞

日本語 WordNet を用いた評価では，同義語のみの評価では両手法共に同程度，兄弟語を含めた場合には，係り受け構造を用いた類似度計算手法の一致率はほぼ変化せず，word2vec を用いた類似度計算手法のみが大きく一致率を下げた．これは辞書が評価する語の増加に対して，正解数が殆ど増加しなかったためである．一方，係り受け構造を用いた類似度計算手法は兄弟語を含めて評価した場合であっても，殆ど一致率が変化しなかったことから，評価する語の増加に比例して，正解数が増加したと言える．このことから，係り受け構造を用いた類似度計
算手法では，同義語に加えて兄弟語の抽出に用いることができると言える．兄弟語は必ずしも意味的，文脈的な類似性を持つ
わけではなく，概念階層において同階層にある語であるという特徴をもつ．この点において，係り受け構造を考慮した類似度
計算手法は，word2vec とは異なる傾向があると言える．
また，実験の評価対象では無いが，評価を行うまでの計算時間を考えると，word2vec はコーパスを分かち書きし，学習を行うのみという小さなコストで計算を行うことができる．一方で係り受け構造を考える場合には，CaboCha による係り受け解析が必要となる．よって，日本語 WordNet の同義語のみの評価であれば，計算コストの小さな word2vec を用いた類似度

本研究の一部は，JSPS 科研費（課題番号 25280110,25540159）の助成によって行われた．
文

献[1] 柴田 雅博, 冨浦 洋一, 西口 友美, “雑談自由対話を実現するための WWW 上の文章からの妥当な候補文選択手法,” 人工知能学
会論文誌, Vol. 24, No. 6, pp. 507-519, 2009[2] 北 研二, “言語モデルの応用,” 確率的言語モデル, pp. 180-185,
2004[3] Blei, D, Ng, A, Jordan, M, “Latent dirichlet allocation,”
Journal of Machine Learning Research 3, pp. 993-1022, 2003
[4] 仁科 朋也, 内海 彰, “単語グループに基づく Web 文書クラスタ
リング,” 自然言語処理, Vol. 17, No. 4, pp. 24-41, 2010
[5] 鈴木 敏, “辞書からの上位情報抽出とオントロジー自動生成,” 自然言語処理, Vol. 16, No. 1, pp. 102-116, 2009[6] 乾 健太郎, 藤田 篤, “言い換え技術に関する研究動向,” 自然言
語処理, Vol. 11, No. 5, pp. 152-198, 2004
[7] Tomas Mikolov, Kai Chen, Greg Corrado, Jeﬀrey Dean,“Eﬃcient Estimation of Word Representations in Vector
Space, arxiv preprint arxiv:1301.3781, 2013[8] Tomas Mikolov, Ilya Sutskever, Kai Chen, Greg Corrado, Jeﬀrey Dean, “Distributed Representations of Words
and Phrases and their Compositionality, arxiv preprint
arxiv:1310.4546, 2013[9] 相澤 彰子, “大規模テキストコーパスを用いた語の類似度計算に関する考察,” 情報処理学会論文誌, Vol. 49, No. 3, pp. 1426-1436
2008

[10] Francis Bond, Timothy Baldwin, Richard Fothergill andKiyotaka Uchimoto, “Japanese SemCor: A Sense-tagged
Corpus of Japanese,” In Proceedings of the 6th International Conference of the Global WordNet Association(GWC), 2012[11] 国 立 国 語 研 究 所, “分 類 語 彙 表-増 補 改 訂 版 デ ー タ ベ ー ス,”
http://www.ninjal.ac.jp/archives/goihyo/, 2004[12] 金田一 春彦, 林 大, 柴田 武, “語と意味,” 日本語百科大辞典, pp.
373-375, 1995