言語処理学会 第24回年次大会 発表論文集 (2018年3月)

ターゲット領域のキーワード含有率を事例の重みとした
感情分析の領域適応白静
茨城大学大学院
理工学研究科情報工学専攻

古宮 嘉那子茨城大学工学部
情報工学科

新納 浩幸
茨城大学工学部
情報工学科{17nm719x, kanako.komiya.nlp, hiroyuki.shinnou.0828}@vc.ibaraki.ac.jp

1

はじめに

2

本論文では感情分析の領域適応に対して、新たな事例ベースの手法を提案する。

関連研究
領域適応の手法は、まず、ターゲット領域のラベル付きデータを用いる教師ありの手法と、それを用いな感情分析とはレビュー文書（例えば映画のレビュー）い教師なしの手法に大別できる。教師ありの手法の場が肯定的なものか、否定的なものかを判定するタスク

合、Daumé の手法 [3] が簡易でしかも能力が高いたである。これは文書分類の一種であり、教師あり学習をめ、標準手法となっている。

用いて解決できる。しかし判定先の文書が学習データ

本論文で扱うのは教師なしの手法である。教師なしの領域とは異なる領域の文書（例えば書籍のレビュー）の手法の場合、素性ベースのものと事例ベースのものであった場合に、教師あり学習で得られた分類器の精に大別できる [6]。素性ベースの手法は学習データの素度が下がってしまう。これが領域適応の問題である。

性に重みを付けた学習であり、事例ベースの手法は学

領域適応の問題に対する手法は、素性ベースのもの習データの事例に重みを付けた学習である。素性ベーと事例ベースのものに大別できる [6]。素性ベースのスの手法としては古典的には SCL [2] が有名である。

手法は学習データの素性に重みを付けた学習であり、近年は CORAL [7] が簡易でしかも能力が高いため注事例ベースの手法は学習データの事例に重みを付けた目されている。さらに素性ベースの手法は深層学習と学習である。

も相性がよく [5]、CORAL を拡張した手法 [8] や敵対

ここでは新たな事例ベースの手法を提案する。従来、性ネットワークを利用した手法 [4][9] が state of the事例ベースの手法としては共変量シフトを仮定し、確率密度比を事例の重みとする手法が一般的である。たart と思われる。
一方、事例ベースの手法の研究は素性ベースのもの

だし確率密度比を算出する計算コストは大きい。ここと比べると数が少ない。事例ベースの手法では共変量シで提案する手法は単純なものであるが、確率密度比以フトを仮定する。共変量シフトとは PS (c|x) = PT (c|x)

上の効果がある。

かつ PS (x) = PT (x) という仮定である。共変量シフ

提案手法ではターゲット領域の文書集合から、IDF

ト下では、ソース領域のデータ x に対して確率密度値を用いてターゲット領域における単語 w のキーワー

比 r = PT (x)/PS (x) を重みとした重み付き学習から、ドの度合い dw を設定する。この dw を用いて、ソースワードを含むかというキーワード含有率 wx を設定すPT (c|x) を得ることができる。確率密度比の算出方法
としては様々な手法がある。単純には PS (x) と PT (x)を求めればよいが、それらのモデルが複雑な場合は問る。この wx を x の重みとして重み付け学習を行うこ

題をより複雑にするために、直接、確率密度比をモデルとで、領域適応の問題に対処する、化する手法が研究されている。それらの中でも uLSIF

領域における事例 x がどの程度ターゲット領域のキー実験では Amazon dataset [1] を用いて、確率密度比を求める２つ手法（ uLSIF [10] と論文 [11] の提案手法）と提案手法を比較することで、提案手法の有効性を示す。

[10] は比較的計算量が少なく、広く利用されている。
ただし、自然言語処理に限れば、bag-of-words の P (x)を Naive Bayes でモデル化できるので、論文 [11] では領域 R でのデータ x が素性リスト {f1 , f2 , · · · , fn }∏nであるとき PR (x) = i=1 PR (fi ) としている。また― 332 ―Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.

PR (fi ) は以下で求めている。
PR (f ) =1,000 個あり、これらを合わせた 2,000 データをその領域の訓練データとする。

n(R, f ) + 1
N (R) + 2

表 1: 領域毎の文書数

ここで n(R, f ) は領域 R 内での素性 f の頻度、n(R)は領域 R のデータ数である。以上より確率密度比は

books
dvdelectronics
kitchen以下となる。

r=

PT (x)n(T, f ) + 1 N (S) + 2=·PS (x)N (T ) + 2 n(S, f ) + 1(1)

positive
1,000
1,000
1,000
1,000

negative
1,000
1,000
1,000
1,000test data
4,465
3,586
5,681
5,945

学習アルゴリズムには scikit-learn の SVM を用いる。カーネルは linear、C パラメータの値は 0.1 で固3

提案手法

3.1

ターゲット領域におけるキーワードの度合い定とする。scikit-learn の SVM には重み付き学習も

ここでは単語 w がターゲット領域においてどの程度キーワードとみなせるかという度合い dx を w のター
ゲット領域の文書集合における IDF 値に設定する。
( )N
dx = log+1di
ここで N はターゲット領域の文書集合の文書数、diサポートされているので 1 、ここでの重み付き学習もscikit-learn の SVM を用いる。
領域適応としては、B → D、B → E、B → K、D → B、
D → E、D → K、E → B、E → D、E → K、K → B、K →D、K → E の 12 通りが存在する。それぞれの領域適応に対して、確率密度比を求める２つ手法（ uLSIF [10]と Naive Bayes を用いた式 (1) ）及び提案手法を用いた結果 (テストデータに対する正解率) を表 2 に示す。表 2 中の NONE は領域適応の手法を用いず、単はターゲット領域の文書集合の中で単語 w を含む文にソース領域の訓練データから構築した分類器をその書数である。

ままターゲット領域のテストデータに適用した結果である。また IDEAL はターゲット領域の訓練データを用いて分類器を学習し、それをターゲット領域のテス

ソース事例中のキーワードの含有率3.2トデータに適用した結果である。

ソース領域の事例 x の重み wx を定める。まず事例（文書）x の単語の集合を {wi }Ki=1 とする。また単語wi の x 内での頻度を fi とする。これらを用いて、wxを以下の式で定める。
1wx = ∑KK∑

i=1 fi i=14

事例への重み付き手法である uLSIF、NB および提案手法を比較すると、12 個の領域適応の中で 6 個について提案手法が最も高い正解率を出し、残りの 6 個は NB が最も高い正解率を出している。12 個の平均を取ると提案手法がわずかに NB を上回っており、提案手法は事例への重み付き手法としては、優秀である

fi · dwiと言える。

実験

5実験では

考察

Amazon dataset [1] を 用 い る 。
具体的には以下のサイトで公開されている
processed_acl.tar.gz を 展 開 し た デ ー タ を 用の方が正解率が高い。本実験データに限れば、事例いる。

ベースの手法は領域適応には効果がないと言える。

表 2 の NONE と事例への重み付き手法（uLSIF、NB および提案手法）を比較すると、明らかに NONE

https://www.cs.jhu.edu/~mdredze/datasets/

ただし事例ベースの手法は素性ベースの手法と容易sentiment/に組み合わせられるという長所がある。ここでは論文

このデータは books (B), dvd (D), electronics (E)および kitchen (K) の 4 つの領域をもち、それぞれ[7] で行っている 4 つの領域適応 B → E、D → B、E →K、K → D に対して、最初に SCL を用いて訓練デーの領域に含まれる文書数は表 1 の通りである。どの領域でも positive データと negative データはそれぞれ

1 http://scikit-learn.org/stable/auto_examples/svm/
plot_weighted_samples.html― 333 ―

Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.

IDEAL

表 2: 実験結果
NONEuLSIF

NB

提案手法

B→D

0.822

0.806

0.806

0.811

0.809

B→E0.852

0.761

0.756

0.755

0.765

B→K

0.878

0.845

0.778

0.779

0.785

D→B

0.831

0.762

0.733

0.745

0.741

D→E

0.852

0.761

0.748

0.753

0.758

D→K

0.878

0.795

0.773

0.782

0.789

E→B

0.831

0.712

0.714

0.723

0.719

E→D

0.822

0.722

0.708

0.723

0.714

E→K

0.878

0.849

0.854

0.857

0.855

K→B

0.831

0.713

0.707

0.714

0.715

K→D

0.822

0.740

0.733

0.723

0.736

K→E

0.852

0.842

0.847

0.852

0.845

平均0.846

0.776

0.763

0.768

0.769

IDEAL

表 3: 素性ベース手法＋事例ベース手法
NONE
CORAL 提案手法 SCL

SCL + 提案手法

B→E

0.852

0.761

0.763

0.760

0.757

0.756

D→B

0.831

0.762

0.783

0.756

0.732

0.733

E→K

0.878

0.849

0.836

0.849

0.852

0.853

K→D

0.822

0.740

0.739

0.743

0.732

0.733

平均

0.846

0.778

0.780

0.777

0.768

0.769

タの素性ベクトルを変換し、次にその変換されたベク

い、次元縮約したデータによりニューラルネットワー

トルに提案手法の重みを付けて学習を行う実験を行っ

クで学習を行うことを試してみる。学習では前述したた。その結果を表 3 に示す。表 3 の CORAL は [7] のように損失関数の損失値に本論文の提案手法から得ら表から取り出した。

れた重みを乗じて、それを損失値とした（図 1 参照）。

表 3 を見ると SCL はあまり効果がなく、SCL に提B → E のみの実験であるが、表 4 と図 2 の結果が得案手法を組み合わせた手法の精度は良くない。しかしられた。なお、この実験でのニューラルネットワーク

SCL に提案手法を組み合わせた場合、SCL 単独の精度を改善できており、素性ベースの手法に事例ベースの手法を組み合わせた効果が確認できる。素性ベースの学習は 25 epoch で終了させており、正解率は 25の手法には SCL 以外にも多くの手法があるので、そに縮約している。

epoch 後の学習によって得られたモデルをテストデータで評価した結果である。また次元縮約では 400 次元

れらの手法と提案手法を組み合わせて改良できると考えている。

表 4: ニューラルネットワークによる重み付き学習

また本論文では重み付き学習には重み付き SVM を利用したが、ニューラルネットでは損失関数の損失値に重みを乗じて、それを損失値とすることで容易に重み付き学習が実現できる。深層学習を利用した領域適応の手法は数多く提案されており、それらと事例ベースの手法を組み合わせることも容易である。
簡単な例として、ソース領域のデータとターゲット領域のデータから AutoEncoder により次元縮約を行

IDEAL

NONE

NNAE+NN

0.852

0.761

0.743

0.690

AE+NN+
重み付け
0.695

チューニングが十分でなく、良い値は得られてはいないが、素性ベースの手法と事例ベースの手法を組み合わせることが、ニューラルネットワークで容易に実現できることがわかる。今後はこの枠組みでの領域適応の手法を考案したい。

― 334 ―

Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.

報告したものである．

u৾ಆ

参考文献

ST‫؞؞؞‬[1] John Blitzer, Mark Dredze, and Fernando Pereira.
Biographies, Bollywood, Boom-boxes and Blenders:
Domain adaptation for Sentiment Classification. InACL-2007, pp. 440–447, 2007.

‫؞؞؞‬‫؞؞؞‬‫؞؞؞‬S[2] John Blitzer, Ryan McDonald, and Fernando
Pereira. Domain adaptation with structural correspondence learning. In EMNLP-2006, pp. 120–128,2006.

ST

੎ा

ছঋঝ

図 1: AE+NN+重み付き学習0.

780.

730.

680.

630.

580.

530.

[3] Daumé III, Hal. Frustratingly Easy Domain Adaptation. In ACL-2007, pp. 256–263, 2007.
[4] Yaroslav Ganin and Victor S. Lempitsky. Unsupervised domain adaptation by backpropagation. InICML, pp. 1180–1189, 2015.
੎ाહऐ4[5] Xavier Glorot, Antoine Bordes, and Yoshua Bengio.
Domain Adaptation for Large-Scale Sentiment Classification: A Deep Learning Approach. In ICML-11,
pp. 513–520, 2011.
[6] Sinno Jialin Pan and Qiang Yang. A survey ontransfer learning. Knowledge and Data Engineering,IEEE Transactions on, Vol. 22, No. 10, pp. 1345–1359, 2010.
[7] Baochen Sun, Jiashi Feng, and Kate Saenko. Returnof Frustratingly Easy Domain Adaptation. AAAI,2016.

812345678910111213141516171819202122232425

図 2: ニューラルネットワークによる重み付き学習

6

おわりに
本論文では感情分析の領域適応に対して、新たな事例ベースの手法を提案した。ターゲット領域からのIDF 値を利用してキーワードの度合いを定め、ソース領域におけるデータがどの程度ターゲット領域のキーワードを含むかというキーワード含有率を求め、そのキーワード含有率をデータの重みとする。実験では確率密度比を求める２つ手法と比較することで、提案手法の優位性を示した。ただし事例ベースの手法単独で[8] Baochen Sun and Kate Saenko. Deep coral: Correlation alignment for deep domain adaptation. In
Computer Vision–ECCV 2016 Workshops, pp. 443–450, 2016.
[9] Eric Tzeng, Judy Hoﬀman, Kate Saenko, and Trevor
Darrell. Adversarial discriminative domain adaptation. arXiv preprint arXiv:1702.05464, 2017.
[10] Makoto Yamada, Taiji Suzuki, Takafumi Kanamori,Hirotaka Hachiya, and Masashi Sugiyama. Relative
density-ratio estimation for robust distribution comparison. Neural Computation, Vol. 25, No. 5, pp.
1370–1370, 2011.
[11] 新納浩幸, 佐々木稔. 共変量シフトの問題としての語義曖昧性解消の領域適応. 自然言語処理, Vol. 21, No. 1,
pp. 61–79, 2014.

は領域適応に対して効果は少なく、今後素性ベースの手法を組み合わせることが有効だと考える。その際にニューラルネットワークでの組み合わせが容易に実現できるため、今後はこの方向で研究を進めたい。

謝辞
本研究の一部は国立国語研究所の共同研究プロジェ
クト「all-words WSD システムの構築及び分類語彙表と岩波国語辞典の対応表作成への利用」の研究成果を― 335 ―

Copyright(C) 2018 The Association for Natural Language Processing.
All Rights Reserved.