言語処理学会 第25回年次大会 発表論文集 (2019年3月)

対義語対の差分ベクトルを使用した評価極性辞書の拡張
川島寛乃† ∗松田寛‡†毛利研‡†慶應義塾大学 環境情報学部‡株式会社リクルート Megagon Labs, Tokyo, Japan{hotarak,hiroshi matsuda, kenmohri}@megagon.ai

はじめに1

口コミや記事などの文書を分析する際に単語の極性情報は重要であり，日本語では小林ら [1] の日本語評
価極性辞書や高村ら [2] の単語感情極性対応表，また梶ら [3] の評価表現辞書などが利用できる．
しかしこれらの評価極性辞書に含まれる単語は，特定のドメインにおけるテキストに対しては適合しないことがある．一例として，本研究でデータセットとし

図 1: 差分ベクトルを用いた追加候補語の獲得．て用いる旅行情報サイトの口コミデータでは，評価極性辞書に含まれる 13,625 個の単語のうち約 6 割強の単語はデータの語彙に含まれず，ドメインに適応した単語が辞書に含まれているとは言い難い．また「静か」のように極性辞書では negative な極性単語として登録されているが，実際の口コミデータにおいては肯定的な意味合いで使われる単語も存在する．このようなドメインに特化した辞書を用いたい場合，ドメインに応じて低コストで辞書の拡張を行う必要がある．
そこで，本研究では極性既知の単語のベクトルに対して類似度の高いベクトルを，評価極性辞書への新たな追加候補語として取得する方法を提案する．
まず極性が既知で対義関係にある単語対の差分を差の内容を分析する上で重要であり，これまで評価表現抽出や評価極性判定に関する研究が行われてきた．
成果が辞書として日本語で一般公開されているものとして，日本語評価極性辞書 [1] がある．これは文書から意見情報を抽出をすることを目的としており，獲得した意見を表す 13,625 件の表現に対して人手で 2 種類の極性ラベルが付与されている．また中澤ら [4] は文の句単位ごとに，5 段階の極性情報を人手で付与した日本語評価極性タグ付きコーパスを公開している．

2.2

評価極性辞書の拡張分ベクトルとして算出し，元の極性既知の単語ベクトドメインに特化したデータにおいては一般的な評価ルに差分ベクトルを加えたベクトルに対する高類似度極性辞書が適さない場合がある．その際にコストを割単語を取得することで，反対極性の単語を除外した追きドメイン対応の辞書を作成することは困難である．
そのため，鳥倉ら [5] は Twitter においてブートス加候補語の獲得を試みる．

トラッピング法を使いた低コストな評価極性辞書の自2

関連研究

2.1

評価極性辞書の作成

動拡張を行っている．この研究では Tweet が 140 文字である点から「同一 tweet 内に存在するコロケーションの極性は同じである」いう仮定に基づいており，同ある単語やフレーズがどのような評価極性を持つかという情報は，口コミや記事，発話文などのテキスト∗ 本稿は株式会社リクルートのインターンシップ・プログラムでの研究成果をまとめたものである．
† Corresponding author

様の仮定を置けるデータに適用できる．また五島ら [6]は専門用語の多い金融のデータに特化した評価極性辞書の拡張を行うために，言語外の補足情報として株式の価格の上下の情報を用いている．本研究では 1 つの文書内に異なる極性の単語が存在することを許容し，― 1335 ―Copyright(C) 2019 The Association for Natural Language Processing.
All Rights Reserved.

また補足情報がない場合に可能な評価極性辞書の拡張
表 1: 「じゃらん net」の口コミデータについて．
文数（文）16,320,799

手法を提案する．

語彙数（語）

2.3

90,186

分散表現を用いた評価極性辞書の拡張

佐藤ら [7] は単語の分散表現から極性の抽出を行い，評価極性辞書の拡張を行っている．ここでは分散表現

表 2: 日本語極性辞書より得られた極性単語について．
Positive Negative
合計

5,461

に対して極性を判別する分類機を訓練しているが，分8,164

13,625

散表現の獲得時に似た文脈で出現する対義語なども類

d+ = vpos − vneg , d− = vneg − vpos

似度が高くなりやすい点に対処しているわけではない．
対義語に対処した研究として，中村ら [8] は単語分散表現の学習時に目的関数を拡張し評価極性を埋め込む手法を提案している．この手法では分散表現に極性バイアスを与えるために，単語ベクトルの初期値として positive の語は前半の次元に-1 を，後半の次元に+1をセットすることで，学習結果の単語ベクトルから評価極性を判定可能にしている．中村らの手法の極性単語の初期化を再現実験してみたところ，極性の分離平(2)とする．このとき positive な単語を取得したい場合は，対義語対の positive な単語のベクトル vpos に差分ベ
ˆ = vpos +d+ にクトルを加えて得られたベクトル vpos
対して類似度の高い単語を選出する．同様に negativeな単語を取得したい場合は negative な単語ベクトル

vneg に差分ベクトルを加えた v̂neg = vneg + d− に対して類似度の高い単語を追加候補語として獲得する．

面を作るように極性単語の分散表現を分けることができた．一方で学習を進めるほど極性語の初期化の効果は薄れていく傾向にあり，また操作を加える分散表現が安定しないため，安定的な極性辞書追加語候補を探

4

実験

4.1

データセットすことを目的としている本研究では用いなかった．

本研究ではドメインに依存する実データとして，旅行情報サイト「じゃらん net」1 の口コミデータの一部

3提案手法を使用する．このデータは施設に対するユーザーの口本研究では Word2Vec などで得られる単語ベクトルのベクトル間の差分を用いて極性を強化し，効率的に評価極性辞書を拡張する手法（図 1）を提案する．
まず，辞書をもとに極性既知の単語を調べ，獲得した単語のベクトルに類似する単語ベクトルを，同極性の辞書への追加候補語として獲得する．単語ベクトルの獲得には skip-gram を用いた Word2Vec[9] を使用する．単語ベクトル v1 ，v2 間の類似度はコサイン類似度を使用し，v1 v2similarity(v1 , v2 ) =|v1 ||v2 |コミと施設からの返信から成る文書の集合であり，これを文単位で分割したテキスト（表 1）を使用する．
前処理では各文を形態素解析エンジン MeCab2 (IPA辞書を使用) で分かち書きにし，活用形を持つ単語は全て終止形に表記を改めたほか，語彙に含める単語の最低出現回数を 3 回に制限した．

4.2

対義語対の獲得

極性既知の単語でかつ対義関係にある対義語対の単(1)と算出する．このとき分布仮説 [10] に基づくと意味的に類似性の高い単語のベクトルは類似度が高くなるが，前後の文脈が似た対義語についても単語ベクトルの類似度が高くなるという欠点がある．
そこで本研究では，候補語の中から対義語を除外するために，対義関係にある極性既知語同士の単語ベク語を獲得するために，評価極性および対義語の情報が含まれた辞書を使用する．まず東北大学の提供している日本語評価極性辞書 [1] より，表 2 の計 13, 625 個の極性単語・フレーズを極性既知語として得る．極性既知語に対して日本語形態素解析システム JUMAN の辞書3 を用い，意味項目内に反義情報が存在するかどうか調べる．反義情報に反義語が存在し，かつそれがトル間の差分を用いる．極性が既知の対義関係にある

1 https://www.jalan.net/

単語のベクトルを vpos , vneg とし，その対を対義語対2 http://taku910.github.io/mecab/, version 0.996と呼び，そのベクトル間の差分を差分ベクトル

3 http://nlp.ist.i.kyoto-u.ac.jp/index.php?JUMAN, version

7.01― 1336 ―Copyright(C) 2019 The Association for Natural Language Processing.
All Rights Reserved.

反対極性の極性既知語である場合に，反対極性で対義関係にある 2 単語の単語対を，対義語対として定義す

表 3: 追加候補語の一例，元の単語が「良い」のとき．
(a) Baseline．

る．この方法で選出した結果，得られた対義語対の数は全部で 94 個となった．

実験方法

4.3

差分ベクトルを使用する提案手法に対して，差分ベクトルを使用しない方法をベースラインとして，2 通りの方法で追加候補語の獲得を試みる．
ベースライン (Baseline) 対義語対の単語のベクトルに対して単語ベクトルの類似度が高い上位 100 件の単語を追加候補語として獲得．
提案手法 (Diﬀerence vector) 対義語対の単語のベ

単語類似度

極性

単語類似度

●

良い (元の単語)

1.0●

良い (元の単語)

1.0

よい0.952

よい0.855●

いい0.849●

いい0.749●

イイ0.728

●

素晴らしい

0.648

●

素晴らしい

0.69

●

イイ0.635●

すばらしい0.66●

すばらしい0.618

よく0.596●

嬉しい0.602●

良好0.59●

気持ちいい0.58

●

気持ちいい

0.56

●

最高0.57

●

抜群

0.559

●

気持ち良い

0.564

グッド

0.558

●

素敵

0.558

●

最高0.554

うれしい

0.558

●

好い

0.553

ありがたい

0.549

●

嬉しい

0.552

●

ステキ

0.547

×

悪い

●

心地よい

◎

0.548
0.538

グッド

0.534
0.526

好0.534◎0.512

心地よい

0.53

気持ちよい

0.508

うれしい

0.52

GOOD

0.507

GOOD

0.516

good

0.494

ヨカッタ

0.504

●

有難い

0.492

good

0.504

●

すてき

0.487

バツグン

0.503

よく

0.476

上々

0.5

●

良好

0.469

バッチリ

0.498

●

抜群

0.468

イマイチ

0.496

●

満足

0.465

ありがたい0.493

好0.463

今一つ

0.491

サイコー

0.462

ヨカッタ

0.456

クトルに差分ベクトルを加えた結果のベクトルに対して類似度が高い上位 100 件の単語を獲得．

●

評価方法

4.4
4.4.1

定量評価

●

定量評価では，追加候補語の適合性および再現性を評価する．まず適合性を判断するために，追加候補語(b) Diﬀerence vector．

極性×に含まれている単語が適正であるかどうかを，極性正解率（Polarity accuracy）を用いて調べる．極性正解

×

今ひとつ

0.489

率は追加候補語の中で極性が既知の単語 M 個のうち，

●

気持ち良い

0.486

●

快適

0.444

元の単語と極性が一致する単語の個数 S の割合を指×

いまいち0.486

●

ナイス

0.442

し， 式 (3) で算出する．

PolarityAccuracy =SM

(3)

4.5

4.1，4.2 で述べたデータセットと対義語対を使用し再現性の評価では，単語のデータコーパスにおける出現頻度を調べる． 追加候補語として得た N 個の語彙のうち i 番目の単語の出現回数を li とし，その平均出現頻度（Mean count）を式 (4) で算出する．

1 ∑ il
N i=1て追加候補語を取得した．その一例として，対義語対「良い, 悪い」を使用した時の結果の一部を表 3 に示す．
表 3(a) のベースラインでは，元となる単語「良い」に対して類似度の高い単語ベクトルを取得した時に，「悪い」や「イマイチ」「今一つ」などの逆極性の単語N

MeanCount =実験結果(4)が類似度の高い候補の上位に挙がっている．一方で，表 3(b) の提案手法の差分ベクトルを用いた場合には追加候補語の上位から逆極性を除外し，元の単語と同4.4.2

定性評価

じ極性の単語を取得することができた．

定性評価では 10 個の対義語対を元に得た追加候補

また，対義語対の単語を用いて得た追加候補語のう語の中で，極性が不明の単語に対して，人手で positive，ち，極性が不明な単語の割合とその個数，平均出現回

negative，neutral の 3 種類のラベル付与の評価を行う

数，また追加候補語のうち極性既知の単語の極性正解実験をする．今回は 3 人の被験者に実験協力してもら率を表 4 に表す．提案手法を用いることでベースライい，2 人以上の評価が一致した場合に，評価を単語のンに比べ，極性正解率は約 6%増加し，追加候補語の極性を表す評価ラベルとした．

― 1337 ―Copyright(C) 2019 The Association for Natural Language Processing.
All Rights Reserved.

6

表 4: 定量評価結果．
追加候補語のうちの極性不明語の割合（%）
極性不明語数（個）Mean Count（回）Polarity Accuracy（%）

Baseline
73.2

Diﬀerence vector77.06,380
1,555
88.9

6,652
1,740
94.8

Positive 追加語
260（36.6%）64（9.0%）387（54.4%）717

本研究では，極性既知の単語とそれに類似する単語ベクトルをもつ拡張候補リストから，対義語など反対極性の単語を除外するための方法として，極性既知単語と対義関係かつ反対極性にある単語のベクトルの差分に着目する方法を提案した．極性既知の単語ベクト
ルに差分ベクトルを加えた結果のベクトルに類似度が

表 5: 定性評価の評価ラベル付与結果．
評価ラベル
Positive
Negative
Neutral
合計（個）

結論高い単語を追加候補語とすることで，追加候補語の極Negative 追加語
42（6.3%）262（39.1%）366（54.6%）
670

性正解率が改善され，94 個の極性既知の対義語の対から新たに 6,652 個の極性追加候補語を獲得することができた．その一部に適正かどうかの人手の定性評価をしたところ，反対極性の評価ラベルの単語はいずれ適合性が向上した．また平均出現回数もベースラインされた単語数は全体の 4 割近くになった．に比べて約 200 回増える結果となった．
定性評価の結果を表 5 に示す．追加候補語はどちらの極性でも異なる極性のラベルが付与されたものの数はいずれも 1 割未満にとどまり，逆極性単語を除外した効率的な極性単語の獲得ができた．一方，追加候補語の中で neutral であると判断された単語がそれぞれの極性の追加候補語のうち半分程度を占めた．

5考察
実験結果から，差分ベクトルによる追加候補語の極性正解率の改善効果が確認できた．これは，埋め込み空間において，図 1 のように対義語間の差分ベクトルを加えることにより，評価極性に関連する何らかの意味を強化する作用 (極性強化作用) が生じることで，逆極性の単語を除外した追加候補語を獲得できるためであると考えられる．
この時，差分ベクトルを加えている分元となる単語の純粋な状態の単語ベクトルから，類似語として得られる単語のベクトルは遠ざかる．実際に追加候補語の類似度に着目してみると，ベースラインに比べ提案手法の方が元の対義語対の単語ベクトルに対する類似度がより低くなっている．本研究の目的は対義語対を用いて極性辞書への追加候補語を取得することであり，対義語対の 2 単語に対する候補語の意味自体の類似性は問題として取り上げていないが，差分ベクトルを加えたことによる意味の変化は考慮する必要がある．
また定性評価の結果，より効率的に追加語を獲得するためには追加語候補とする単語を対義語対の選び方や選出後の類似度，出現回数などに注目した閾値を定めることで対処していくべきだと考えられる．

も 1 割未満にとどまり，追加候補として適正だと判断

参考文献[1] 小林のぞみ, 乾健太郎, 松本裕治, 立石健二, 福島俊
一. 意見抽出のための評価表現の収集. 自然言語処理,
Vol. 12, No. 3, pp. 203–222, 2005.
[2] Hiroya Takamura, Takashi Inui, and Manabu Okumura. Extracting semantic orientations of words using spin model. In Proceedings of the 43rd Annual
Meeting on Association for Computational Linguistics, pp. 133–140. Association for ComputationalLinguistics, 2005.
[3] Nobuhiro Kaji and Masaru Kitsuregawa. Automaticconstruction of polarity-tagged corpus from html
documents. In Proceedings of the COLING/ACL on
Main conference poster sessions, pp. 452–459. Association for Computational Linguistics, 2006.
[4] 中澤真人, 池田可奈子, 山田美知花, 吉村綾馬, 鈴木由衣, 小町守. リビュー文書を対象とした句単位の日本語
評価極性タグ付きコーパス. 言語処理学会第 24 回年次大会, 2018.
[5] 鳥倉広大, 小町守, 松本裕治. Twitter を利用した評価
極性辞書の自動拡張. 言語処理学会第 18 回年次大会,2012.
[6] 五島圭一, 高橋大志. 株式価格情報を用いた金融極性辞書の作成. 自然言語処理, Vol. 24, No. 4, pp. 547–577,2017.
[7] 佐藤貴俊, 高村大也, 奥村学. 分散表現を用いた単語の感情極性抽出. 研究報告自然言語処理 (NL), Vol. 2016,
No. 12, pp. 1–6, 2016.
[8] 中村拓, 田然, 乾健太郎. 単語の極性を埋め込んだ分散表現. 言語処理学会 第 24 回年次大会, 2018.
[9] Yoav Goldberg and Omer Levy.
word2vec
explained: deriving mikolov et al.’s negativesampling word-embedding method. arXiv preprint
arXiv:1402.3722, 2014.
[10] Zellig S Harris. Distributional structure.
Vol. 10, No. 2-3, pp. 146–162, 1954.

― 1338 ―Word,Copyright(C) 2019 The Association for Natural Language Processing.
All Rights Reserved.