DEIM Forum 2016 F7-3

グラフ構造を用いた意味的文書検索
小中 史人†

三浦 孝夫†† 法政大学 理工学研究科 〒 184–8584 東京都小金井市梶野町 3-7-2
E-mail: †fumito.konaka.2t@stu.hosei.ac.jp, ††miurat@hosei.ac.jp
あらまし

本論文では WordNet を用いた単語間の意味的類似性を測るための新たな指標を提案する．各単語は意味

情報とカテゴリ情報を持つと仮定し，これらを用いてドメイングラフを構築する．これにより単語の意味的情報を扱うことが可能になる．実験では，単語間の意味的類似度指標としての性能を確認し，ドメイングラフを文の意味的類
似度タスクに適用する．

In this paper we propose new methods for similarity between words. Assuming that each word corresponds to unitof semantics, called synset, with categorical features, called domain, we construct domain graph of a synset whichis all the hypernyms which belong to the domain of the synset. Here we take an advantages of domain graphs toreflect semantic aspect of words. In experiments we show how well the domain graph approach goes well with word
similarity. Also we examine sentense similarity independent of BOW.
キーワード

ドメイングラフ，類似度

1. 前 書 き
近年，Web ページや Google Books 等様々な形式のデータ

によって意味情報をインデックス化することで，文書検索に要する時間を大幅に短縮できることを確認する．また，SNS 上の文の意味的類似性に対する新たな指標の有効性を確認する．

が爆発的に増加しており，中には構造的な情報を持ったデータ

本論文において，第 2 章で基本概念を導入し，本論文で扱うも存在する．また，Twitter 等のソーシャルネットワーキング問題とその困難さ，特に意味的類似性を的確に定めることが容サービス (SNS) の流行により，SNS 上で生成される文書データ

易でないことを述べる．第 3 章では提案手法の定式化と有効性も増加している．SNS 上の文書データは，短い文書が多い，擬の検討を行い，解決策となることを述べる．同時に，実現上解音語を含む，省略や強調による表記の揺れ (例：never と nevr,

決すべき問題と対案を示し，第 4 章でその有効性を検証し，第baby と babyyyyy) 等の特徴を持つ．これらの膨大なデータの5 章で結論を述べる．

全てを把握することはできないため，計算機による支援が求められる．

2. 語の意味的類似性

計算機支援の 1 つとして，情報検索が挙げられる．情報検索

語の意味的特徴を捉える方法として知識源に基づく手法ととは，大量のデータセットからクエリに類似するデータを抽出

コーパスに基づく手法がある．知識源に基づく手法ではオントするタスクである．文書検索での情報表現は主にベクトル空間

ロジなどの意味体系を導入し，その体系に基づいて単語の意味

モデル (VSM) が用いられる．このモデルは「似た意味を持つ的な類似性を判別することができる．オントロジは見出語に対単語は似た文脈に出現する」という仮説に基づいて単語の意味

して意味情報 (synset) を与えており，その意味情報は他の意味

情報をベクトルで表現する．このため文書集合中の各文書とク

情報と何かしらの関係で接続されている．各 synset にはそのエリの類似度の算出と，それによるランキングが可能という利

synset を説明する文や他の synset との上位語，下位語，同義点がある．しかし，VSM は短い文書に有効ではない．また，語語，反意語等の関係によるリンクが与えられている．

順情報の損失，同義語や類義語などの単語同士の意味関係を反映できないという欠点も持つ．

オントロジの一つとして，WordNet [12] がある．WordNet
は 117,659 の synset で 155,287 語の英単語が分類されている

このため，VSM は SNS 上の文書に対する文書検索に適切で辞書である．WordNet もリンクを持ち，このリンクを用いてはない．SNS 上の文書に対する検索を実現するためには，VSMグラフを構築し，単語間の類似度を考えることができる．例との欠点である語順や語義の解釈に加え，表記の揺れを考慮する

して corgi と bulldog という単語を考える．この 2 単語は共に必要がある．また，短い文書は文が少ないため，文の意味的な犬であり，オントロジ上では synset ”dog”, ”mammals”を共有

類似性を適切に与える必要もある．VSM の欠点を補完し，SNSしている．一方，siamese と bulldog は siamese が犬ではない上の文書の特徴を考慮することで，SNS 上の文書も考慮した文ため，corgi と bulldog の例と比べ，より低い類似性を持つ．し

書検索の実現を期待できる．

かし，共に物体という観点で類似していると言うことができる．

本論文の貢献点は 3 点ある．本論文では，類似度算出対象となる単語に対して独立に意味情報の保存やインデックス化が可能な，単語間の新たな意味的類似度指標を提案する．この指標

リンクによって構築されるグラフを用いた単語間の類似度

指標は数多く存在し [10]，一部は WordNet::Similarity（注 1） やNLTK（注 2） より利用できる．NLTK で用意されている Path,
Lch, WuPalmer, Res, Jcn, Lin については，以下のように類似

本章ではオントロジを用いた単語間の新たな類似度指標を提案する．この指標は VSM とは独立に意味情報を扱うことがで性が定義されている．

P ath =

3. ドメイングラフ

max

si ,sj ∈w1 ,w2(1)

pathlen(si , sj )
2×D

(2)

Lch = max −log
si ,sjきる．第 1 章で述べたように，VSM はベクトルの各次元に単−log pathlen(si , sj )2 × depth(LCS(si , sj ))si ,sj depth(si ) + depth(sj )W uP almer = max

Res = max −logP (LCS(si , sj ))si ,sj

語を割り当てているため，クエリを含む文書に対して類似度を算出する．つまり，VSM では意味的な類似性を考えることができない．
一般に，各単語は synset の集合といくつかの特徴による有向

(3)
(4)

グラフを持つ．2 つの単語間の類似度を定義するために，synset
間の関係に制約を持たせた，ドメイングラフを述べる．一般に，単語間の類似度はある synset とそのオントロジ上の関係で決1
Jcn = max
si ,sj 2 × logP (LCS(si , sj )) − (logP (si ) + logP (sj ))(5)
2 × logP (LCS(si , sj ))Lin = max
(6)
si ,sj logP (si ) + logP (sj )ここで w1 , w2 は単語を，si , sj は synset を表す．Path, Lch,

WuPalmer は最短経路に基づく手法であるのに対し，Res, Jcn,

定される．つまり，高い類似性を示すには 2 つの synset が意
味的により近い関係にある．低い類似性を示す場合は，2 つのsynset がお互いに離れている．ドメイングラフも，WuPalmer
や Jcn と同様に，深い階層にある synset ほど高く類似すると仮定する．

WordNet では多くの synset に対して表 1 に示す lexicogra-

Lin はコーパスの情報量に基づく手法である．WuPalmer, Jcn

pher file names (以下ドメイン) が付与されている．WordNet

は階層構造の浅い部分に存在する synset よりも，深い部分にを用いた単語間の類似度指標は数多く存在するが，ドメインを存在する synset の方が高い類似度を示すという仮説に基づい考慮したものは我々の知る限り存在しない．ドメイングラフでている．

はドメインの異なる synset は類似性を持たないと仮定する．ドRichens は，WordNet 3.0 における動詞の階層構造には図 1

メイングラフは従来手法が階層構造の浅い部分で共有していたに示すような循環や輪が存在することを指摘した [14]．Path やエッジの無視に加え，従来手法が考慮していないグラフの部分

Lch，WuPalmer などの最短経路に基づく類似度指標では図 1

的な重複の考慮が可能となる．加えて，一度構築したグラフを(b) に示す輪を考慮することができない．

保持することができるという利点がある．
ドメイングラフのアイデアは，グラフの部分グラフによる表現である．加えて，synset に新たな特徴としてドメインを与える．単語 w とその synset sw が与えられたとき，w のドメ
イングラフは sw の全ての上位語のうち，同じドメインを持つ

synset で構成される．ドメイングラフでは，階層構造の浅い部分にある synset は類似しないと仮定する．つまり，抽象性の高い synset は多くの synset の上位語であるため無視する．
ここでは部分グラフとしてノードとエッジを考える．グラフ(a) 循環(b) 輪

図 1: 循環・輪間の類似度指標の 1 つとしてグラフ同士がどの程度重複しているかという指標が考えられる．集合 p, q の重複度を判定する方法である Jaccard 係数は次の式で与えられる．

コーパスに基づく手法である潜在意味解析 (LSA) は，単語文
書行列 A を A = U ΣV T に特異値分解することで単語の持つ潜Jaccard(p, q) =|p∩q ||p∪q |

在意味を明らかにする．関連手法に pLSA, LDA があるが，い単語 w1 , w2 のドメイングラフの類似度を定義する．s1 , s2 をずれの手法も単語の共起情報に基づいて潜在意味を捉えている．

w1 , w2 の synset とすると，ドメイングラフの類似度は Jaccard
係数を用いて次のように定義される．ここで G(s) は s によって得られるドメイングラフの全ての部分グラフである．

DGsimilarity(w1 , w2 ) = Jaccard(G(s1 ), G(s2 ))しかし，データサイズが大きい場合には Jaccard 係数の算出に膨大な時間がかかる．最小ハッシュ法 (MinHash) [2] はこの問題を解決する．MinHash はあるハッシュ関数 h で集合 p, q の各
（注 1）：http://wn-similarity.sourceforge.net/（注 2）：http://www.nltk.org/

要素をハッシュした際に，それぞれの最小ハッシュ値 h(p), h(q)が一致する確率が Jaccard 係数に等しいという性質を持つ．

では図 2 (a), (b) 共に最短経路におけるエッジ数は 2 であるため，ノード B に対するノード A と A’ の類似度は等しくなる．

Pb(h(p) = h(q)) = Jaccard(p, q)

つまり，ベースラインではノード D へのエッジを考慮することそのためハッシュ関数を k 個用意し，一致回数 n を k で割ったができない．ドメイングラフではノード D へのエッジを考慮す

値を Jaccard 推定量とする．

ることができるため，ベースラインよりも適切な類似度を期待

n
Jˆ =
k
これにより Jaccard 係数を高速に推定することが可能となる．
加えて，全ての部分構造を保存することなく，k 個の最小ハッ

できる．
D

D

DomainGraph

DomainGraph

シュ値によるインデックス化が可能となる．MinHash を用いCCることで，文書検索の際に単語の意味的類似性を高速に判別することが可能となる．

BaselineA

ドメイングラフを構築する方法をアルゴリズム 1 に示す．

sw = argmaxs∈Synsets|T ∩ (gloss(s) ∪ synonyms(s))||gloss(s) ∪ synonyms(s)|A’Baseline(a)

ドメイングラフを構築するために Lesk アルゴリズムに基づく次の式で語義曖昧性解消 (WSD) を行う [13]．

B

B

(b)

図 2: ドメイングラフと従来手法の考慮範囲の違い
簡単な例題を用いてドメイングラフを構築する．例題として implement という名詞を考える．implement が持つ synset

上 式 に お い て Synsets は 単 語 w が 取 り 得 る 全 て の synsetの 1 つは SID-03563967-N であり，この synset のドメインはの集合，T は入力の文中に出現している全ての単語の集合，noun.artifact である．ドメインに含まれる synset は点線で囲ま

gloss(s) は synset s の説明文に含まれている全ての単語の集れている．点線で囲まれていない部分は，ドメインを考慮しない

合，synonyms(s) は T に含まれている全ての単語の集合であ場合に得られる synset である．アルゴリズム 2 の 1 行目でまずる．WSD により得られた単語 w の synset sw に対応するドメ

部分構造を加える．現在持ちうる部分構造は SID-03563967-N

インを D(sw ) とし，sw の上位 synset c のドメインが D(sw )のみなので，これを DomainGraph に加える（アルゴリズムである限り上位リンクを辿り続ける．つまり，sw を始点とし2：1）．次に上位 synset のリストを取得する（アルゴリズムて，D(sw ) を満たす全ての sw の上位 synset によってグラフを2：2）．この場合の上位 synset は SID-03575240-N であり，こ構築する．

の synset のラベルも noun.artifact である（アルゴリズム 2：

図 2 に示す 2 つのグラフを考える．実線で囲まれた部分は

3 – 4）．従って，現在持ちうる部分構造は SID-03563967-N，

ベースラインで考慮できる領域，破線で囲まれた部分はドメイ

SID-03575240-N と，この 2 つの synset を結ぶエッジである．

ングラフで考慮できる領域である．簡単のためベースラインは

これらの部分構造を DomainGraph に加える（アルゴリズム 2：Path (式 1) とする．図 2 (a) ではノード A, B の類似度を，図3 – 1）．次の上位 synset は SID-00021939-N だが，この synset

2 (b) ではノード A, A’ の類似度を考える．ノード A’ はノードのドメインは noun.Tops であるため，グラフ構築を終了する

A が持たないノード D へのエッジを持つため，ノード B に対

（アルゴリズム 2：5 – アルゴリズム 1：3）．tool のドメイング

してノード A よりもノード A’ は類似している．ベースライン

ラフも同様にして構築することができる．

Algorithm 1 makeDomainGraph(Sentence T , Word w ∈ T )SID-03563967-N
SID-03563967-N

SID-03575240-N

SID-03575240-N
SID-04451818-N

Output: The Set of Subgraphs DomainGraph(w)noun.artifact

SID-00021939-N

1: Synset sw ← doW SD(w, T ), Domain D(sw )2: DomainGraph(w) ← nullnoun.artifact

SID-00003553-N

SID-00003553-N
SID-00002684-N

SID-00001930-N

SID-00021939-N

SID-00002684-N

SID-00001930-N

3: scanDict(sw , D(sw ), DomainGraph(w))
SID-00001740-N

Algorithm 2 scanDict(Synset s, Domain D, DomainGraph)
Output: DomainGraph(a) implement

SID-00001740-N(b) tool

図 3: ドメイングラフの例

1: DomainGraph.add(subgraphs)
2: The List of Hypernyms HList ← getHypernyms(s)3: for each hypernym h in HList do

WordNet を用いた意味的な特徴量に加えて，以下の 4 つの4:CurrentSynest c ← h, CurrentDomain D(c)特徴を考える．文字 2-gram, 3-gram を用いることで SNS 特

5:

if D(c) = D then

有の表記の揺れに対応する．また，同じ単語を用いた文は意

6:
7:

scanDict(c, D, DomainGraph)end if

8: end for

味が似ていると仮定し単語 1-gram を用いる．加えて，単語2-gram を用いることで語順を考慮する．特徴量には各特徴のJaccard 係数を用いる．

表 1: synset に付与されているドメイン
ID

4. 実

ドメイン名

概要

00

adj.all

all adjective clusters

01

adj.pert

relational adjectives (pertainyms)

02

adv.all

all adverbs

03

noun.Tops

unique beginner for nouns

04

noun.act

nouns denoting acts or actions

05

noun.animal

nouns denoting animals

06

noun.artifact

nouns denoting man-made objects

07

noun.attributenouns denoting attributes of people and objects

08

noun.bodynouns denoting body parts

09

noun.cognition

nouns denoting cognitive processes and contents

10

noun.communication nouns denoting communicative processes and contents

11

noun.event

nouns denoting natural events

12noun.feelingnouns denoting feelings and emotions

13

noun.foodnouns denoting foods and drinks

14

noun.group

nouns denoting groupings of people or objects

15

noun.location

nouns denoting spatial position

16

noun.motive

nouns denoting goals

17

noun.object

nouns denoting natural objects (not man-made)18

noun.person

nouns denoting people

19

noun.phenomenon

nouns denoting natural phenomena

20noun.plantnouns denoting plants

21

noun.possession

nouns denoting possession and transfer of possession

22

noun.process

nouns denoting natural processes

23

noun.quantity

nouns denoting quantities and units of measure

24

noun.relation

nouns denoting relations between people or things or ideas

25

noun.shapenouns denoting two and three dimensional shapes

26

noun.statenouns denoting stable states of aﬀairs

27

noun.substancenouns denoting substances

28

noun.timenouns denoting time and temporal relations

29

verb.bodyverbs of grooming, dressing and bodily care30

verb.changeverbs of size, temperature change, intensifying, etc.

31

verb.cognition

verbs of thinking, judging, analyzing, doubting

32

verb.communication

verbs of telling, asking, ordering, singing

33

verb.competition

verbs of fighting, athletic activities

34

verb.consumption

verbs of eating and drinking

35

verb.contact

verbs of touching, hitting, tying, digging

36

verb.creation

verbs of sewing, baking, painting, performing

37

verb.emotion

verbs of feeling38verb.motion

verbs of walking, flying, swimming39

verb.perception

verbs of seeing, hearing, feeling40verb.possession

verbs of buying, selling, owning41

verb.social

verbs of political and social activities and events

42

verb.stative

verbs of being, having, spatial relations

43

verb.weather

verbs of raining, snowing, thawing, thundering

44

adj.pplparticipial adjectives

験的類似度指標としての性能を確認する．次に，ドメイングラフ
を文書検索に適用し，インデックス化によって実行時間が改善

本章では，提案手法の有効性を確認するために 3 種類の実験

されることを確認する．最後に，文に対して意味的な類似度をを行う．単語ペアに対して人手による類似度が付与されたデー

適切に付与できていることを確認する．本実験では WordNet

タセットを用いて，WordNet を用いた既存の類似度指標とドより得られたグラフ間の類似度は，予備実験より得たパラメー

メイングラフとの性能の比較を行う．これにより単語間の意味

タ k = 10 とする MinHash によって得る．グラフ構築の際にドメインを扱うために [6] を，ハッシュ関数には murmurhash3を用いる．WordNet は WordNet 3.0 を用いる．

前処理として小文字化と TreeTagger（注 3） による原形化を行い，予めコーパスに付与されている品詞情報を用いて第 3 章

4. 1 単語間の類似性で述べた特徴量を生成する．第 3 章で述べた特徴量を生成後，データセットとして Li30 [8]，RG-65 Test Collection [15]，SVR を行うことで類似度を算出する．SVR には LIBSVM [1]WordSimilarity-353 Test Collection [5]，VP130 [17] の 4 種類の ε-SVR をデフォルトパラメータで用いる．ε-SVR では次のを用いる．これらのデータセットは単語のペアに対して人手に式で与えられる誤差関数を最小化する．

よるスコアが与えられている．本実験ではドメイングラフによって算出される類似度をスピアマンの順位相関係数で評価すCる．ドメイングラフ構築の際に WSD は行わず，第 2 章で示した従来手法（式 1 – 6）と同様に，全ての synset の組み合わせにおける最大値を単語間の類似度とする．
ベースラインには NLTK より Path, Lch, WuPalmer, Res,

Jcn, Lin (式 1 – 6) を用いる．加えて，ドメインを考慮せずにグラフを構築し，類似度を算出する手法をドメイン無しとする．

N
∑
∥w∥2
(ξn + ξˆn ) +
2
i=1


0
ξn =
ξ

(tn <
= y(xn ) + ε)n(tn > y(xn ) + ε)


0
ξˆn =
ξˆ

(tn >
= y(xn ) + ε)n

表 2 に計算機環境を，実験結果を表 3 に示す．表 3 より，ド(tn < y(xn ) + ε)

メイングラフはベースラインと同程度の精度を有していること

誤差関数の第 1 項は損失項であり，許容誤差 ε に収まらないがわかる．また，ドメイングラフの精度はドメイン無しと比べ，データ点に対してペナルティを与える．このため良いフィッティ

Li30 では 0.045，RG65 では 0.004，WS353 では 0.12，VP130ングを得ることが期待できる．

SVR によって得られた類似度と，予めコーパスに付与されでは 0.032 上回っている．

ているスコアを [0,1] の尺度に置き換えたスコアとのピアソン
表 2: 計算機環境
項目

仕様

相関係数で評価を行う．ベースラインには，Eyecioglu らによる文字 2-gram と単語 1-gram による特徴量を用いて SVR を行

CPUIntel(R) Xeon(R) X3430 2.40GHz

う手法 (ASOBEK) [4]，Das らによる n-gram から得られる特

メモリ

16GB

徴量でロジスティック回帰を行う手法 (LR) [3]，Guo らによる

OS

Windows 7 64bit OS

重み付き行列因子分解を行う手法 (WTMF) [7] を用いる．

開発言語

Java

コンパイラ

Eclipse Compiler for Java

実験結果を表 5 に示す．記号的特徴のみを扱った LR や

ASOBEK と比べ，提案手法では相関係数が最大 1.12 倍向上している．共起情報を扱う WTMF と比べ，提案手法では 1.6 倍

ベースラインと同程度の精度を示している理由は，ドメイン

向上している．

グラフによって構築されるグラフの多くは輪を持たないためで

WTMF が非常に低い相関を示していることについて考察すある．ドメイングラフは，図 3 のように，共有している階層構る．これは表 4 にあるように，SNS ならではの表記の揺れが影造の浅い部分を無視して，エッジの重複を見ている．このため，

響が考えられる．行列因子分解による潜在意味解析は単語の共ドメイングラフは既存手法と同程度の精度を示している．

起情報に基づいて潜在意味を抽出する．例えば cute は cuuuute

4. 2 文の意味的類似性

や cuuuuuuuuuuute といった表現が存在し，同じ単語である

データセットとして PIT2015 で用いられた PIT-2015 Twit-にも関わらず，別の単語として扱われる．このため WTMF は

ter Paraphrase Corpus [16] を用いる．このコーパスは，2013

SNS 上のデータに対して適切ではないと言える．

年 4 月 24 日から 2013 年 5 月 3 日の間に存在した 500 以上の

次に，記号的特徴のみを考慮した ASOBEK や LR と提案手

Twitter 上のトレンドから収集された文によって構築されてい法との相関係数の差について考察する．表 6 の上段はテスト

る．データセットは 13,063 ペアの訓練データ，4,727 ペアの開データに含まれている類似度 4 のペアの一例だが，実際のテス

発データ，972 ペアのテストデータを有しており，訓練データとトデータに与えられている類似度は [0,1] の尺度に置き換えてい開発データは 17,790 ペアからランダムに分割を行うことで生成るので類似度 0.8 である．提案手法ではこの文ペアに対して類されている．テストデータは，2013 年 5 月 13 日から 2013 年 6

似度 0.727401 を算出している．このペアに関して与えられた

月 10 日の間の Twitter 上のトレンドからランダムに 20 個を選

特徴量は文字 2-gram，3-gram，単語 1-gram，2-gram，Word-

択し収集された文によって構築されている．その後，Amazon

Net によるグラフの近似類似度の順に JaccardCb = 0.571428,

Mechanical turk によって [0,5] の範囲でスコア付けが行われてJaccardCt = 0.529411, JaccardWu = 0.4375, JaccardWb =いる．スコアは 0 に近いほど類似していないことを示し，5 に0.3125, JaccardWDG = 0.724137 である．WordNet によるグ近いほど類似していることを示す．このコーパスには類似度ス

ラフを構築する際に用いた単語及び形態素を表 6 の下段に示す．

コアに加えて，全ての単語に対して品詞情報と固有名詞情報がn-gram のみでは wish と hope に対して類似性を検出すること付与されている．表 4 の文ペアは PIT2015 コーパスより抜粋したものである．

（注 3）：http://www.cis.uni-muenchen.de/˜schmid/tools/TreeTagger/表 3: 単語間の意味的類似度指標としての性能と実行時間
データセット

Li30
ρ

sec

RG65

WS353

VP130

ρ

ρ

ρ

sec

sec

sec

Path

0.729 2.189 0.781 2.243 0.296

4.495

0.725 2.817

Lch

0.729 2.219 0.781 2.302 0.296

4.58

0.725 2.776

WuPalmer

0.705 2.186 0.755

0.329

4.699

0.728 2.839

Res

0.704 4.151 0.776 4.271 0.329

6.608

0.661 4.717

Jcn

0.742

0.775 4.331 0.280

6.981

0.695 4.878

Lin0.761 4.168 0.784 4.369 0.296

7.01

0.689 4.859

6.343

0.693 3.863

0.778

0.721

ドメイングラフ インデックス無し

0.776 1.108 0.798 1.345 0.406

インデックス有り
ドメイン無し

4.24

2.3

0.127

0.208

0.731 1.462 0.794

1.92

0.286 10.491 0.661 4.107

表 4: PIT2015 コーパスに収録されている文の例
類似度

文1

文2

0

Awwwwwwwwwwwww Blue Ivy is so cuuuuuuuuute Blue Ivy I found who unfollowed me

1

Ciara in that Body Party video though

I didnt like Ciara Song Body Party At 1st But Now I Love it

2

SO to the newest Titan Chance Warmack

Chance Warmack 10pick in the draft

3

Barrett jones is a sweeeeeet pick for the rams

We all love the Barrett Jones pick cuz weve heard of him

4

you da bomb please follow me calum

CALUM WHY WONT YOU FOLLOW ME AND ashtonirwow

5

Hopefully going to see the purge tonight

Debating if I should see the purge tonite

表 7: 表記の揺れた語を含む文の例

表 5: PIT2015 コーパスにおける性能
モデル

相関係数

ASOBEK [4]0.504Good week to be a Northsiderrr in Chicago

LR [3]

0.511

Lydia is a GROOOOOOOWN woman

WTMF [7]0.35

I will brin them Taco Bell chipotle soo they let me stay

提案手法

0.561

The ungeekedeliteschicago Daily is out

類似度スコアが付与されている．ただし，これらのデータセッができないが，WordNet を用いることでこのような場合にもトは表記揺れを含んでいない．このデータセットに対する相関類似性を判別することが可能であると言える．

と，PIT2015 に対する相関の比率で有効性を判断する．モデル

表 6: 記号的特徴では不十分な例

n-gram，Feature1）を用いる．結果を表 8 に示す．結果から，

MHP wishes you a safe and happy Memorial Day weekend
We hope that everyone has a very safe and happy Memorial Day Weekend
wish#verb, memorial#noun, day#noun, weekend#noun
hope#verb, have#verb, memorial#noun, day#noun, weekend#noun

文字 n-gram は表記揺れに対する決定的な解決策とはなっていはモデル 1（単語 n-gram，ドメイングラフ）とモデル 2（文字ないと言える．
表 8: 文字 n-gram の考慮による改善率

WordNet を用いる利点はデータに依存せずに意味情報を扱

コーパス

モデル 1 モデル 2 改善率

うことができる点にある．欠点としては WordNet に含まれてMSRpar

0.409

0.608

1.49

いない語については類似性を判別できない点が挙げられる．こMSRvid

0.684

0.811

1.19

の問題を解決するために，共起情報を用いる手法がある．しか

SMTeuroparl

0.501

0.552

1.10

し，表 7 に示すように表記の揺れにより，単語を正しく認識す

PIT2015

0.488

0.561

1.15

ることが困難であるため，適切に潜在意味を抽出することができない．従って，共起情報を用いる手法は有効ではない．SNS
上の文書に対して精度を上げるには，このような単語の正規化が必要だと考えられる．

5. 結

論

本論文では WordNet を用いた単語間の新たな類似度指標を表記揺れに対する有効性を確認するために SemEval2012 コー

提案した．WordNet を用いた単語間の類似度指標は数多く存

パスより MSRpar, MSRvid, SMTeuroparl を用いる．これら在するが，ドメインを用いたものは我々の知る限り存在しない．

のデータセットも PIT2015 同様に文ペアに対して人手によるこれにより従来の類似度指標が考慮していないグラフの部分

的な考慮に加え，階層構造の浅い部分を無視することが可能となった．また，既存の類似度指標はクエリ依存であったが，提案する指標は意味情報の保存やインデックス化が可能である．
提案する指標の応用の 1 つとして文書検索が考えられる．文書検索に提案する指標を導入することで，主流であるベクトル空間モデルでは単語同士の意味関係を考慮できないという問題を解決することが期待できる．
提案手法の有効性を確認するために，3 種類の実験を行った．
単語ペアに対して人手によるスコアが付与されているデータセットでは，単語間の新たな類似度指標が既存手法と同程度の精度を有していることを確認した．次に，文書検索への適用を念頭に，25,000 個の文書に対して類似度算出に要する時間を計測した．ドメインラベルを考慮することで，考慮しない場合の 0.94 倍の時間でグラフを構築できることが明らかになった．
予めインデックス化を行っている場合は，ベースラインと比べ0.006 倍の時間で 25000 個の文に対して類似度を付与できることも確認した．また，SNS 上の文に対して，従来手法よりも適切に意味的類似性を解釈できていることを確認した．記号的特徴のみを考慮した Eyecioglu ら [4] と比べ，意味的特徴も考慮した提案手法により相関係数を 1.12 倍改善した．
しかし，表現の揺れによって単語を正確に認識できないという問題がある．今後はそのような単語の正規化を検討し，更なる精度の改善を試みる．

文

献[1] CHANG, Chih-Chung; LIN, Chih-Jen. LIBSVM: A libraryfor support vector machines. ACM Transactions on Intelligent Systems and Technology (TIST), 2011, 2.3: 27.
[2] COHEN, Edith, et al. Finding interesting associations without support pruning. Knowledge and Data Engineering,IEEE Transactions on, 2001, 13.1: 64-78.
[3] DAS, Dipanjan; SMITH, Noah A. Paraphrase identification
as probabilistic quasi-synchronous recognition. In: Proceedings of the Joint Conference of the 47th Annual Meeting of
the ACL and the 4th International Joint Conference on Natural Language Processing of the AFNLP: Volume 1-Volume
1. Association for Computational Linguistics, 2009. p. 468476.
[4] EYECIOGLU, Asli; KELLER, Bill. ASOBEK: Twitter
paraphrase identification with simple overlap features andSVMs. Proceedings of SemEval, 2015.
[5] FINKELSTEIN, Lev, et al. Placing search in context: Theconcept revisited. In: Proceedings of the 10th international
conference on World Wide Web. ACM, 2001. p. 406-414.
[6] FINLAYSON, Mark Alan. Java libraries for accessing thePrinceton WordNet: Comparison and evaluation. In: Proceedings of the 7th Global Wordnet Conference, Tartu, Estonia. 2014.
[7] GUO, Weiwei; DIAB, Mona. Modeling sentences in the latent space. In: Proceedings of the 50th Annual Meetingof the Association for Computational Linguistics: Long
Papers-Volume 1. Association for Computational Linguistics, 2012. p. 864-872.
[8] LI, Yuhua, et al. Sentence similarity based on semantic nets
and corpus statistics. Knowledge and Data Engineering,IEEE Transactions on, 2006, 18.8: 1138-1150.
[9] LIU, Hongzhe; WANG, Pengfei. Assessing sentence similarity using wordnet based word similarity. Journal of Software,2013, 8.6: 1451-1458.
[10] MENG, Lingling; HUANG, Runqing; GU, Junzhong. A review of semantic similarity measures in wordnet. International Journal of Hybrid Information Technology, 2013, 6.1:
1-12.
[11] MIHALCEA, Rada; CORLEY, Courtney; STRAPPARAVA, Carlo. Corpus-based and knowledge-based measuresof text semantic similarity. In: AAAI. 2006. p. 775-780.
[12] MILLER, George A. WordNet: a lexical database for English. Communications of the ACM, 1995, 38.11: 39-41.
[13] NAVIGLI, Roberto. Word sense disambiguation: A survey.
ACM Computing Surveys (CSUR), 2009, 41.2: 10.
[14] RICHENS, Tom. Anomalies in the WordNet verb hierarchy.
In: Proceedings of the 22nd International Conference on
Computational Linguistics-Volume 1. Association for Computational Linguistics, 2008. p. 729-736.
[15] RUBENSTEIN, Herbert; GOODENOUGH, John B. Contextual correlates of synonymy. Communications of theACM, 1965, 8.10: 627-633.
[16] XU, Wei; CALLISON-BURCH, Chris; DOLAN, William B.
SemEval-2015 Task 1: Paraphrase and semantic similarity
in Twitter (PIT). In: Proceedings of the 9th International
Workshop on Semantic Evaluation (SemEval). 2015.
[17] YANG, Dongqiang; POWERS, David MW. Verb similarity
on the taxonomy of WordNet. Masaryk University, 2006.