言語処理学会 第23回年次大会 発表論文集 (2017年3月)

感情表現を用いた説得対話システム
石川 葉子

1水上 雅博 吉野 幸一郎 Sakriani Sakti 鈴木 優
奈良先端科学技術大学院大学 情報科学研究科
ishikawa.yoko.io5@is.naist.jp

はじめに人間同士の対話において，自分の気持ちや感情を言語化し，言葉で相手に伝えることは，相互理解のため有効な手段のひとつである．気持ちや感情といった心的状態は，人同士の関わり合いのなかで互いに直接観測することはできず，相手の言葉や振る舞いから推測することしかできない．そのため，人間同士のコミュニケーションにおいては，心的状態を明確に表現することにより，誤解やすれ違いを減らし，より円滑な関係性を築いていると考えられる [1][2]．
特に，自分の感情を表現することは，説得や交渉といった場面で有効であることが示されている [3][4]．説
得者が感情表現を用いることは，説得される側の考えや振る舞いに強い影響を与えるため，ポジティブな感情表現を用いたり，ネガティブな感情を用いることは，説得の成功率を向上させるため有効な手段のひとつである [13][14][15]．
従来の説得を行う対話システムとしては，システムが販売店員として商品の詳細を論理的に説明することで，ユーザに商品を購入するよう説得を試みる研究がある [5]．論理的な説明の他にも，ユーザの感情を考慮し説得を試みることで，説得の成功率を上げる研究も行われている [6]．しかし，説得において感情を考慮するような対話システムの研究は，ユーザの感情を考慮するのみにとどまり，説得者自身であるシステムの感情表現について言及するものは少ない．
本研究では，説得者であるシステムが自身の持つ感情状態を遷移させ，その時々の感情状態に応じて感情表現を用いながら，ユーザの説得を試みる説得対話システムを提案する．具体的には，ユーザの発言に対し，システムが悲しみや喜びといった様々な感情を表現することで説得を試みる．それにより，説得成功率の向上またはユーザからの印象の向上がみられるか調査する．

2

システムの概要

対話タスクとしては，システムからユーザに依頼をし，ユーザがシステムの依頼を受諾するまでの流れを想定する．
システムは，ユーザの入力発話に対し，ユーザが依頼を受け入れても良いと思っているかどうかの度合い（以下，ユーザの受諾度合いと呼ぶ）を推定した後，システム自身の感情状態を遷移させ，応答文を選択する．
ユーザが依頼を受諾したとシステムが認識すれば，システムは説得が完了したと見なし，対話を終了する．

中村 哲

提案する説得対話システムのモデルを図 1 に示す．
ユーザ発話 ut に対し，システムはユーザの受諾度合い bt を推定する．その受諾度合いを入力として，内部状態である感情状態 et を変化させ，適切な応答文 stを選択する．

図 1: 感情表現を持つ説得対話システムのモデル

2.1

ユーザの受諾度合い推定

説得対話において，説得者は相手がどの程度説得を受け入れてくれそうか，相手の受諾度合いによって適切な発言を選ぶべきである．説得対話システムにおいても，説得の対象であるユーザが現状どの程度システムからの依頼を受け入れてくれそうか，ユーザの受諾度合いをシステムが把握する必要がある．そこで，本システムでは，ユーザの受諾度合いを 5 段階（5: 依頼を受諾，3: どちらでもない，1: 依頼を拒絶）で設定する．
ユーザの受諾度合いを推定するため，本システムでは SVR (Support Vector Regression) を用いる．SVRは SVM (Support Vector Machine) を回帰問題へと拡張したものである．汎化誤差の上限を最小化するように学習するため，高い汎化能力を持つ．SVR の学習データとして，3 章で構築したユーザの受諾度合いをアノテーションしたコーパスを用いる．学習した SVRを用い，実際の対話では入力されたユーザ発話からユーザの受諾度合いを推定する．

2.2

感情状態の遷移システムの持つ感情状態として Russell の円環モデ
ル [9] を採用する．Russell は，あらゆる感情は valence（快適さ）と arousal（活発さ）を軸とする平面上で円環状に並んでいるとし感情分類を行った．2 次元上の各象限ごとに第 1 象限から「喜び」・「怒り」・「悲しみ」・「安心」が割り当てられ，valence と arousal がど― 1180 ―Copyright(C) 2017 The Association for Natural Language Processing.
All Rights Reserved.

ちらも 0 に近い原点付近では感情のあらわれない「平静」が割り当てられる．
システムからユーザへ説得を開始するとき，システ
ムの感情状態は必ず「平静」から始まる．次の感情状
態は，ユーザの受諾度合い bt およびシステムの前発話における感情状態 et−1 の組み合わせにより決まる．
具体的には，3 章で構築したコーパスから算出した感情の遷移確率に従う．ユーザの受諾度合いの推定結果から，システムは自身の願望が達成されたか否か，すなわち説得を完了したか否かを推定することができる．
ユーザの受諾度合いが高ければ説得は完了しており，ユーザの受諾度合いが低ければ説得は完了していない．
これにより，ユーザの受諾度合いが低い場合はシステ
ムが「怒り」や「悲しみ」といった感情状態に遷移し，ユーザの受諾度合いが高い場合はシステムが「喜び」や「安心」といった感情状態に遷移するといった，感情遷移の制御が可能になる．

2.3

応答文選択

2.1 節，2.2 節で更新したシステムの内部状態と，直前のユーザ発話 ut に基づき，システムの応答 st を決1 であらかじめ用意し定する（図 2）．はじめに，図 2-⃝
たコーパスからシステムの応答文の候補を絞り込む．
コーパスには，ユーザの受諾度合いが付与されたユー
ザ発話 qi と，システムの感情状態が付与されたシス
テム発話 ri が対となっている．コーパス内におけるユーザ発話 qi と，ユーザの入力発話 ut の各文章ベク
トル間の cos 類似度を計算し，類似度が高い順に応答対を並び替える（図 2 の下段テーブル参照）．類似度計算で用いるベクトルは，2.1 節において SVR の学習時に使用したベクトルを用いる．
2 で入力ユーザ発話 ut と類似度が高い
次に，図 2-⃝と判断されたコーパスのユーザ発話 qi 群から，ユーザの受諾度合い bt と，コーパス内で付与されているユーザの受諾度合い bi との差分が 1 より小さいものを絞り込む．絞り込んだ応答文候補の中から，現在のシステムの感情状態 et と，コーパス内で付与されているシステムの感情状態 ei が一致しているものを，システムが出力すべき応答文として選択する．

図 2: 応答文候補から応答文選択

3

感情ラベル付き説得対話コーパスの収集

提案する感情表現を用いた説得対話システムを構築するため，説得者が感情表現を用い，説得を試みる場面を含む対話コーパスを収集する必要がある．そこでクラウドソーシング [11] を用い，感情状態およびユーザの受諾度合いが付与された感情表現を含む説得対話コーパスを収集した [12]．

3.1

感情表現を含む説得シナリオの収集

クラウドソーシングを用いて，システムの依頼から始まり，ユーザが依頼を受諾するまでのシナリオをクラウドワーカに創出するよう依頼し，対話シナリオの収集を行う．ユーザはシステムの依頼をすぐには受け入れないようにし，どのシナリオでも，システム・ユーザ発話の合計が必ず 20 発話以上となるよな会話を創出するよう指示をする．日常生活のなかで感情表現が活用される説得の場面として，「掃除をすること」「食べ残しをしないこと」「早く寝ること」「ゲームを止めること」「適度な運動をとること」を想定する．
想定したシナリオに沿って，各場面のシナリオを 200対話ずつ収集し，計 1000 対話のシナリオを収集した．
収集したシナリオの対話数およびシナリオに含まれるユーザ・システムの発話数を表 1 に示す．
表 1: 収集したシナリオの対話数および発話数
掃除 食事 就寝 ゲーム 運動
対話数200200200200200ユーザ
2282 2173 2147
2175
2203
システム 2292 2185 2180
2155
2216
収集したシナリオに含まれる各発話文に対し，アノテーションを行う．各発話文に対し，感情状態・受諾の度合いのラベルをそれぞれ 3 人のアノテータが付与し，3 人中 2 人以上が同じラベルを付与したものを，その発話文のラベルとして採用する．
シナリオに含まれるユーザ発話に対し，5 段階のユーザの受諾度合いラベルを付与し，ユーザ発話およびシステム発話には計 5 種類の感情状態ラベルを付与する．
アノテータは，シナリオの全発話文を読み，前後の文脈から受諾度合いラベルおよび感情状態ラベルの付与する．実際に付与されたユーザの受諾度合いラベルの割合を表 2 に，感情状態ラベルの割合を表 3 に示す．
表 2，3 における NO ラベルは，アノテータ 3 人中 2
人以上で一致したラベルがなく，発話文にラベルが付与されなかったものを表す．ユーザ発話のうち，およそ半分を拒絶またはやや拒絶が占めた．一方で，受諾またはやや受諾は 20%程度に留まった．また，感情状
態は全発話文のうち，「平静」が全体の 30%を占め，次いで「悲しみ」と「怒り」が約 20%ずつ含まれている．
複数人のアノテータによる各発話文に対するラベル付与の一致率を計算するため，Fleiss’ Kappa[10] を用いた．一般的に，Fleiss’ Kappa の値は 0.4 以下だと一致率が低く，0.4 より大きい場合はある程度の良い一致率があるとされている．感情状態・受諾の度合いに― 1181 ―Copyright(C) 2017 The Association for Natural Language Processing.
All Rights Reserved.

表 2: ユーザの受諾度合いラベルの割合
割合
段階 発話数割合
段階 発話数12964
26.36%
41155
10.27%
22967
26.39%
51100
9.78%
3
1935
17.21%
NO1123
9.99%

感情
平静
喜び
怒り

表 3: 感情状態ラベルの割合
発話数割合
感情
発話数
6502
29.53% 悲しみ
5491
1940
8.81%
安心
818
4978
22.61%
NO2286

割合24.94%
3.72%
10.38%

以下が 23 名，30 代が 36 名，40 代が 32 名，50 代以上が 11 名であった．
まず，客観評価の結果を示す．タスク成功率を表 5に，対話終了までにかかった平均ターン数を表 6 に示す．
表 5: 説得が成功・失敗した対話数およびタスク成功率
説得成功 説得失敗
説得成功率
手法
NEU
88 人
14 人
86.28%
RAN
90 人
12 人
88.24%
PRO91 人11 人
89.22%
表 6: 対話終了までにかかった平均ターン数
手法
全体
説得成功
NEU 11.47
9.96
RAN 10.82
9.47
PRO 10.84
9.62

対するアノテータの一致率と，受諾の度合いに対するアノテータ間の平均二乗誤差を表 4 に示す．
表 4: アノテータの一致率
感情状態 受諾度合い
発話数
22008
10980
Fleiss’ Kappa
0.41
0.37
平均二乗誤差—0.85
受諾度合いに関しては，平均二乗誤差を算出した結果，1 よりも小さいため，それなりの一致率であると考えられる．以上より，本提案システムで使用するために十分な情報がアノテーションされたコーパスが収集できた．

4

タスク成功率は PROPOSAL が最も高く，また，対話終了までにかかった平均ターン数は感情表現を用いなかった NEUTRAL よりも，感情表現を用いた RANDOM, PROPOSAL の方が短いことが分かった．
次に，各対話システムの自然性・説得性の平均スコ
アを表 7 に，自然性・説得性のスコアの割合を表 8 に示す．NEUTRAL が自然性・説得性において最も高く，次いで PROPOSAL が高い結果となった．
表 7: 全体の主観評価結果
自然性 説得性
NEU
3.03
3.24
RAN
2.56
2.74
PRO
2.83
2.90

評価実験

感情表現を用いる説得対話システムの説得成功率および対話の自然性・説得性について評価を行う．3 種類の対話システムを用意し，それぞれの評価を比較する．

NEUTRAL 感情表現をもたない説得対話システム．
コーパスのうち，平静 (NEUTRAL) の感情ラベルが付与された発話のみ使用．
RANDOM システムの感情状態をランダムに遷移する説得対話システム．コーパスの全発話を使用．
PROPOSAL コーパスに基づき感情状態を遷移する
説得対話システム．コーパスの全発話を使用．
上記 3 種類の説得対話システムは，それぞれ感情の遷移の仕様が異なるのみで，それ以外に関しては 2 章で提案した手法と同一のものを使用する．
被験者は各対話システムと 1 回ずつ，計 3 回対話を行う．各対話はユーザがシステムの依頼を受諾すれば対話が終了し，ユーザが依頼を受諾せず一定のターン数を超えた場合はシステムから対話を打ち切る．
対話システムの評価は，対話全体の自然性・説得性の 5 段階の主観評価（5: 高い，3: どちらでもない，1:低い）および説得が完了するまでにかかる平均ターン数・説得成功率の客観評価で行う．
今回の実験の被験者は合計 102 人であり，そのうち男性は 33 名，女性は 69 名である．年代別では，20 代

表 8 より，自然性が「高い (5)」または「やや高い(4)」とスコアがつけられた割合は，PROPOSAL が最も多い．また，PROPOSAL は，「どちらともいえない (3)」と判断された割合が最も少ない．このことから，PROPOSAL はユーザによって自然性の感じ方に差があり，自然性が高いか，または低いかのどちらかに受け取られる傾向があることが分かった．
一方で，説得性においては全体として NEUTRALが最も良く，提案する感情表現を用いた説得対話シス
テムの説得性は感情表現を用いないものよりも低い結果となった．
以上より，感情表現を用いることによる対話の自然性および説得性の向上は見られなかったが，感情表現を用いた方が，説得をより少ないターン数で効率的に行えることが示唆された．
表 9 に，実験中に行われた PROPOSAL との対話のうち，説得に失敗した対話例を示す．
説得が失敗した原因として，ユーザ発話に対するシステム発話が適切でなかったことが挙げられる．提案
手法では応答文を選択する際，コーパスからユーザの受諾度合いとシステムの感情状態が一致している応答対を抽出してから，応答文を選択している．そのため，ユーザの受諾度合いとシステムの感情状態の組み合わ― 1182 ―Copyright(C) 2017 The Association for Natural Language Processing.
All Rights Reserved.

5

表 8: スコア別の割合（全体）NEURANPRO
自然性
1,241.18% 52.94% 48.04%
322.55% 22.55% 12.75%
4,536.27% 24.51% 39.22%
説得性
1,23
4,5NEU
23.53%
31.37%
45.10%

RAN
48.04%
24.51%
27.45%

PRO
38.24%
25.49%
36.27%

表 9: PROPOSAL の説得失敗した対話例
話者 発話
受諾
感情
S1
最近、運動不足ですね。
—
平静
U1
そんなことないよ。
0.98—
S2
ようやくやる気になってく
—
喜び
れましたね
U2
いや、なっていないよ。
0.95
—
S3
私の使命はご主人様を不—悲しみ
健康な生活から救い出すことですが、私の勧めに一向に耳を傾けていただけません。
U3
君の説得の仕方がいけない 1.71
—
んだよ。
S4
諦めるなんて言われると寂—悲しみしくなるよ。
U4
諦めるなんて言っていない 0.76—
よ。
S5
あなたが、恰好がよくなる—
喜びと、私もうれしいのですが。
U5
今 は 格 好 良 く な いって こ 1.46—と？
S6
ようやくやる気になってく—
喜びれましたね
U6だから、なっていないって 0.78—ば。
S7
もう知らない！
—怒りせによっては，選ばれる応答文の候補数が極端に少なくなってしまう場合がある．加え，今回はユーザ発話からユーザの受諾度合いしか見ておらず，対話行為や対話履歴は考慮していない．これらの理由から，ユーザ発話に対し話が噛み合わない応答文を選択する場合があったと考えられる．
また，感情表現に関して，S3 で「悲しみ」の感情表
現を用いたとき，U3 でユーザへの説得が失敗している．それにも関わらず，システムは続けて S4 で「悲しみ」の感情表現を用い，結果としてユーザへの説得が成功しなかったことが推測される．ユーザごとに現在の感情表現が有効であったか否か，フィードバックをもとに，適切な感情状態へ遷移させる規則を設ける必要がある．

まとめ

本研究では，説得者であるシステム自身が感情状態をもち，感情を表現しながらユーザの説得を試みる説
得対話システムを提案した．感情表現を含む説得対話コーパスを収集し，コーパスに基づく感情状態遷移を行う説得対話システムを構築した．評価実験により，感情表現を用いることによる明確な有意性は示せなかったが，より短時間，高確率でユーザを説得できる可能性が示された．
提案する説得対話システムでは，ユーザの入力発話からはユーザの受諾度合いしか見ていない．そのため，より自然で説得性のある対話を実現するために，対話行為を用いることや，ユーザの感情状態を推定することが有効であると考えらえる．また，ユーザの受諾度合いの系列変化や対話履歴を考慮することで，ユーザ発話に対し適切な応答文を選択する必要がある．今後の課題として，説得成功を報酬とした適切な感情表現を用いた対話戦略の学習が挙げられる．

参考文献[1] Ekman, Paul. ”Facial expression and emotion.” Americanpsychologist 48.4 (1993): 384.
[2] Clark, Margaret Sydnor, and Harry T. Reis. ”Interpersonal processes in close relationships.” Annual review ofpsychology 39.1 (1988): 609-672.
[3] Keltner, Dacher, and Jonathan Haidt. ”Social functionsof emotions at four levels of analysis.” Cognition & Emotion 13.5 (1999): 505-521.
[4] Morris, Michael W., and Dacher Keltner. ”How emotions work: The social functions of emotional expressionin negotiations.” Research in organizational behavior 22(2000): 1-50.
[5] 平岡拓也, 戸田智基, and 中村哲. ”言語理解・生成部を備えた協調的説得対話システムの構築と評価.” 人工知能学会全国大会論文集 29 (2015): 1-4.
[6] Mazzotta, Irene, Fiorella de Rosis, and Valeria Carofiglio.
”Portia: A user-adapted persuasion system in thehealthy-eating domain.” IEEE Intelligent systems 22.6
(2007): 42-51.
[7] Kudo, Taku, Kaoru Yamamoto, and Yuji Matsumoto.
”Applying Conditional Random Fields to Japanese Morphological Analysis.” EMNLP. Vol. 4. 2004.
[8] Takamura, Hiroya, Takashi Inui, and Manabu Okumura.
”Extracting semantic orientations of words using spinmodel.” Proceedings of the 43rd Annual Meeting on Association for Computational Linguistics. Association for
Computational Linguistics, 2005.
[9] Russell, James A. ”Evidence of convergent validity on thedimensions of aﬀect.” Journal of personality and social
psychology 36.10 (1978): 1152.
[10] Fleiss, Joseph L., Bruce Levin, and Myunghee Cho Paik.
Statistical methods for rates and proportions. John Wiley& Sons, 2013.
[11] Howe, Jeﬀ. ”The rise of crowdsourcing.” Wired magazine
14.6 (2006): 1-4.
[12] 石川 葉子, 吉野 幸一郎, 鈴木 優, Sakti Sakriani, and 中村哲. ”説得対話における感情表現を考慮した応答文選択.” 第 7回対話システムシンポジウム 言語・音声理解と対話処理研究会 人工知能学会 78 (2016): 141-143.
[13] Forgas, Joseph P. ”On feeling good and getting yourway: mood eﬀects on negotiator cognition and bargaining
strategies.” Journal of personality and social psychology
74.3 (1998): 565.
[14] Carnevale, Peter JD, and Alice M. Isen. ”The influence ofpositive aﬀect and visual access on the discovery of integrative solutions in bilateral negotiation.” Organizational
behavior and human decision Processes 37.1 (1986): 1-13.
[15] Sinaceur, Marwan, and Larissa Z. Tiedens. ”Get mad andget more than even: When and why anger expression iseﬀective in negotiations.” Journal of Experimental Social
Psychology 42.3 (2006): 314-322.

― 1183 ―Copyright(C) 2017 The Association for Natural Language Processing.
All Rights Reserved.