情報処理学会 インタラクション 2019
IPSJ Interaction 2019

3B-54
2019/3/6

ユーザの感情の種類と原因を考慮した対話エージェントの応答モデルの開発
沼田崇志†1朝康博†1 北垣友博†1†2

橋本剛明†3

唐沢かおり†3

概要：近年の人工知能（AI）に関する技術の発展に伴い，新たな価値を持つサービスやシステムの提案が期待されている．AI を活用し快適で豊かな生活を送るためには，AI のインタフェースとして，ユーザの感情に合わせて適切に応答し，ポジティブな気分を誘起することで，ユーザと信頼関係を構築できる対話エージェントが有用となる．本研
究では，特定の感情とその原因を示すエピソードを呈示し，その際の対話エージェントの応答による主観的気分を評価することで，感情の種類と原因による最適な応答を抽出した．その結果，ユーザが喜び，悲しみまたは驚きを感じた場合は，原因に関係なく感情表現の模倣が最適であった．一方，ユーザ自身や対話エージェントに向けて怒りを感じた場合は，感情表現の模倣ではなく，悲しみの感情表現が最適であった．これらの結果から，感情の種類と原因を考慮して応答する対話エージェントを開発することで，よりユーザのポジティブ気分を誘起し得ることが分かった．

1. はじめに
1.1

背景

近年，人工知能（AI; Artificial Intelligence）に関する様々な技術が発展しており，AI を用いて新たな価値をもつサー

相手のネガティブな感情を誘起する場合があること[10][11]も報告されている．対話エージェントは，ヒトの様々な感情に対してポジティブな気分を誘起することが期待されるため，様々な種類の感情に対する対話エージェン
トの適切な応答モデルを開発することは有用である．

ビスやシステムが提供されることで，より快適で便利な生また，同じ感情が生起されても，感情を引き起こす原因活となることが期待されている[1]．AI を用いたサービスやとなった存在（感情の原因）が異なると注意状態が異なる

システムは，インタフェースを介在して利用されるため，[12]など，感情の原因により外部刺激の影響が異なること

AI のインタフェースが重要な役割を担う．そのインタフェが知られている．そのため，対話エージェントの応答も，ースの一つとして，ヒトと対話できる機能を持つエージェ

感情の原因により異なる影響を及ぼす可能性があり，感情ント（対話エージェント）が注目されており，様々な対話の原因を考慮することで，より適切に対話エージェントがエージェントが開発されている[2]-[4]．対話エージェント応答できると考えた．感情の原因については，対話を想定

は，AI による新たな価値をスムーズに提供するだけでなく，し，自分，相手（対話エージェント），第三者の三種類に区対話を通じてヒトと信頼関係を構築し，ヒトがポジティブ別して評価する必要がある．に暮らせるように支援し得るため，有用性が高い．
信頼関係を構築する方法として，ヒト同士では相手の行1.2 目的動の模倣により，共感を誘起するアプローチが有用である

本研究では，ユーザの感情の種類と原因による対話エー[2]．ただ，先行研究では，対話エージェントがヒトの行動ジェントの最適な応答を抽出し，ユーザの感情の種類と原を模倣しても，必ずしもヒトの共感を誘起できていなかっ因を考慮した対話エージェントの応答モデルを開発するこた[3][4]．そこで我々は，単純な顔や身体の動きではなく，とを目的とした．

感情表現の模倣が共感誘起に有用な要因と考えて，感情表具体的には，ユーザの感情として喜び，悲しみ，怒り，現を模倣する対話エージェントを開発してきた[5][6]．そし驚きの 4 種類，その感情の原因として自分，相手，第三者て，対話エージェントがポジティブな感情表現を模倣するの 3 種類，対話エージェントの応答として喜び，悲しみ，ことで，ポジティブな気分に導けることを示している[7]．

怒り，驚きの 4 種類を設定した上で，その中の特定の感情

しかし，ネガティブな感情についても，感情表現の模倣とその原因を示すエピソードを呈示し，そのエピソードににより共感を誘起し，ポジティブな気分へと導くアプロー

おける対話エージェントの応答を見た際の主観的気分を回チが最適であるかは明らかでない．ヒト同士の対話におい答する課題を課した．そして，応答による主観的気分を比て，模倣そのものにポジティブな気分を誘起する効果があ較することで，対話エージェントの最適な応答を抽出した．

ること[2][8]や，ネガティブな表情も模倣する傾向があること[9]は知られている．一方で，ネガティブな感情の発露は，†1 (株)日立製作所 研究開発グループ 基礎研究センタ†2 東京大学 文学部†3 東京大学 人文社会系研究科© 2019 Information Processing Society of Japan923

情報処理学会 インタラクション 2019
IPSJ Interaction 2019

3B-54
2019/3/6

2. 対話エージェント

3.2 評価結果および考察

本研究では，対話エージェントとして，ヒヨコ型の対話エージェント「ピヨタ」を用いた[5]-[7]（図 1）．ピヨタは，デフォルメを用いて，大きな目と小さな鼻と口により好ましいと感じやすい外見[13]をもち，Plutchik の感情モデル[14]に基づいて開発した表現 24 種（8 相の感情と各 3 段階の感情レベルの組み合わせ）などの様々な表現を有する．

対話エージェントの表現のうち，最も特定の感情が選択された割合が高かった表現を感情別に抽出した結果，喜び，悲しみ，怒り，驚きの 4 種類において，95%以上の被験者が特定の感情を表現していると感じられる表現を抽出できた（図 3）．一方，嫌悪，恐れ，同情については，多くの被験者が特定の感情を表現していると感じられる表現を抽出できず，対話エージェントの表現から推定される感情の個人差が大きいと判断した．そのため，本研究では喜び，悲しみ，怒り，驚きの 4 種類の感情に限定して，対話エージ
ェントの応答について評価した．

感情の種類

図 1

喜び悲しみ

怒り

嫌悪

一致率

96.0 %

98.4 %

95.2 %

83.1 %

感情の種類

驚き恐れ

同情

95.2 %

71.8 %

46.0 %

対話エー
ジェントの表現

対話エージェント「ピヨタ」

3. 対話エージェントの表現と感情の関係評価
3.1 評価方法
対話エージェントの表現は，特定の感情を示すように意図して開発したが，実際にユーザが読み取る感情には個人差が存在することが考えられる．個人差が大きい表現を用

対話エー
ジェントの表現一致率いると，対話エージェントの応答に対する解釈が複雑になり，汎用性の高い対話エージェントの応答モデルを開発す

図 3

各感情における最も特定の感情が選択された割合が高かった表現とその割合ることが困難となる．そこで本研究では，対話エージェン
トの表現のうち，特定の感情を示していることが明らかな表現を抽出し，それらの感情表現を用いて評価を行った．
まず，対話エージェントの表現のうち，特定の感情を示す表現を抽出した方法について述べる．
被験者は，健常な男女 124 名（平均年齢 28.3±11.8 歳）とした．対話エージェントの表現に対して，それぞれ感情7 種類（喜び，悲しみ，怒り，嫌悪，驚き，恐れ，同情）を用意し，対話エージェントの表現に対して最も近いと思う感情を選択するように指示した．対話エージェントの表現の呈示および感情の選択は，質問紙により実施した（図 2）．
本実験のデータは，東京大学文学部の実験倫理委員会の承認を得るとともに，（株）日立製作所研究開発グループで定める倫理審査基準に則り審査し，取得した．

喜び

悲しみ

怒り

嫌悪

驚き

恐れ

4.1 評価方法
ユーザの感情の種類と原因による対話エージェントの適切な応答を抽出するため，特定の感情とその原因を示すエピソード（感情エピソード）を呈示し，その感情エピソー
ドにおける対話エージェントの応答を見た際の主観的気分を回答する課題を課した．
被験者は，健常な男女 145 名（平均年齢 19.8±1.1 歳）とした．課題では，ユーザの 4 種類の感情（喜び，悲しみ，怒り，驚き）と 3 種類の原因（自分，相手，第三者）を組み合わせた 12 種類の感情エピソードについて，対話エージェントの 4 種類の応答（喜び，悲しみ，怒り，驚き）を記入例）キャラクタの表情を見て、キャラクタは「悲しみ」の感情になっていると思ったら、下のように該当する場所に○をつけてください。
表情

4. 対話エージェントの応答評価

同情

見た際の主観的気分を取得した．感情エピソードの呈示および主観的気分の回答は，質問紙により実施した（図 4）．
感情エピソードは，各種類の感情につき 4 つ作成した．
そして，それぞれの感情エピソードに原因を示す情報を追加し，特定の感情の種類と原因を示すエピソードにした．

図 2

対話エージェントの表現と感情の関係評価における質問紙の一例

これにより，計 48 つ（ヒトの 4 種類の感情×4 エピソード×3 種類の感情の原因）の感情エピソードを作成した．尚，原因間で感情エピソードは共通しているため，各被験者に© 2019 Information Processing Society of Japan924情報処理学会 インタラクション 2019
IPSJ Interaction 2019

対して特定の原因の感情エピソードのみ呈示することにして，被験者ごとに異なる原因の感情エピソードを呈示した．
主観的気分の計測は，VAS（Visual Analogue Scale）[15]を用いて行った．本研究における VAS は，70mm の水平線について，左端を「とても悪い気分」，右端を「とても良い気

3B-54
2019/3/6

赤字: 対話エージェントの応答による比較結果
青字: 感情の原因による比較結果*: p<0.05, **: p<0.01, NS: 有意差なし(A) 喜び分」として，自身の気分に相当する位置に垂線を描くよう交互作用: **
全ペア**

35

全ペア**

全ペア**

感情エピソードにおける対話エージェントの応答を見た際の主観的気分については，統計解析により評価を行った．具体的には，それぞれのユーザの感情について，3 種

主観的気分に指示した．
0

類の感情の原因（自分，相手，第三者）と 4 種類の対話エ-35

ージェントの応答（喜び，悲しみ，怒り，驚き）の 2 要因12 条件について比較した．まず，取得した主観的気分のVAS データに対して最大 3.5 点～最小-3.5 点の点数を付与した．次に，各被験者の各感情の種類の感情エピソード間

**

*

自分自身

対話エージェント

喜び

悲しみ

35

2ペア除き**ない t 検定，対話エージェントの応答間については対応の

0**
自分自身

**

**
対話エージェント間および応答間の組み合わせ，有意でなければ原因間と応
喜び

第三者

悲しみ

怒り

驚き

(C) 怒り対話エージェントの表現と感情の関係評価と同様に，本35

主観的気分

実験のデータは，東京大学文学部の実験倫理委員会の承認る倫理審査基準に則り審査した上で，取得した．

*

感情の原因答間それぞれで比較を行った．尚，統計解析の有意水準（pを得るとともに，（株）日立製作所研究開発グループで定め

*

*-35

ある t 検定により比較した．交互作用が有意であれば原因値）は 0.05 とした．

1ペア除き**

NS主観的気分重比較補正を行った上で，感情の原因間については対応の驚き

交互作用: **

全ペア**

析（two-way ANOVA; two-way measures analysis of variance）
る主観的気分を比較した．その後，Bonferroni 補正により多怒り(B) 悲しみの主観的気分の平均値を算出した．そして，2 要因分散分を用いて，感情の原因および対話エージェントの応答によ

第三者

感情の原因

交互作用: **
1ペア除き**

2ペア除き**

**
**
**

NSNS
*

0-35

**
自分自身

**

**

対話エージェント

第三者

感情の原因
喜び

悲しみ

怒り

驚き(D) 驚き

交互作用: NS
全ペア**
（原因間共通）主観的気分35

図 4

対話エージェントの応答評価における質問紙の一例

0NS-35
自分自身

喜び

ユーザの感情の種類に対する感情の原因と対話エージェ
者が喜び，悲しみ，驚きの感情をもった場合は，感情の原

第三者

感情の原因

4.2 評価結果および考察
ントの応答による主観的気分を比較した結果（図 5），被験対話エージェント

図 5

悲しみ

怒り

驚き

ユーザの感情の種類に対する感情の原因と対話エー
ジェントの応答による主観的気分の比較結果

因に拘わらず，対話エージェントが被験者の感情を模倣す© 2019 Information Processing Society of Japan925

情報処理学会 インタラクション 2019
IPSJ Interaction 2019

3B-54
2019/3/6

るように感情表現（感情表現を模倣）することで，最もポなく，ユーザの感情の種類と原因に応じて適切な感情を表ジティブな気分を示した．一方，被験者が怒りの感情をも現することで，対話エージェントの応答によりポジティブった場合のうち，怒りの感情が第三者に因る場合は感情表な気分を誘起できることが示唆された．

現を模倣することで最もポジティブな気分を示したが，怒今後は，本研究で提案した，ユーザの感情の種類と原因りの感情が自分または相手に因る場合は，悲しみの感情表を考慮した応答モデルを対話エージェントに実装すること現により最もポジティブな気分を示した．これらを踏まえで，適切に感情を表現する対話エージェントの開発をめざ

ると，感情の種類および原因によっては，必ずしも感情表す。

現の模倣が最適ではないことが示唆された．ネガティブな感情においても，感情の種類と原因により感情表現の模倣

参考文献が最適かどうかは異なっていたため，被験者の感情の種類[1][2]と原因に応じて適切な感情を表現することで，対話エージェントの応答によりポジティブな気分を誘起できることが分かった．
これらの結果から，対話エージェントの応答について，ユーザが喜び，悲しみ，驚きを感じた場合全てと，ユーザが怒りを感じた場合のうち，その原因が第三者であった場合は感情表現の模倣が最適であり，ユーザが怒りを感じた場合のうち，その原因が自分や対話エージェントであった場合は，悲しみの感情表現で応答することが最適であることが分かった．これらをまとめて，ユーザの感情の種類と原因を考慮した対話エージェントの応答モデルを開発できた（表 1）．
表 1

ユーザの感情の種類と原因を考慮した
対話エージェントの応答モデル

対話エージェントの最適な応答

ユーザの感情の種類
喜び

悲しみ

模倣（喜び）

模倣（悲しみ）怒り

驚き

ユーザ自身ユーザの感情の原因

対話エージェント
第三者

悲しみ

模倣（驚き）

模倣（怒り）

本研究の結果において，感情表現の模倣が最適でなかった怒りの感情についても，ヒト同士では表情を模倣することが報告されている[9][16]．そのため，ヒト同士の対話で見られる現象をそのまま対話エージェントの機能として実装することは，必ずしも最適ではないことが示唆された．
また，相手の気分をポジティブに導くという観点では，自然に表情を模倣してしまうヒトよりも，感情表現を任意に選択できる対話エージェントの方が適切に応答し，ポジティブな気分を誘起し得る可能性を示したと考えられる．

5. おわりに本研究では，ユーザの特定の感情とその原因を示すエピソードを呈示し，その感情の原因および対話エージェントの応答による主観的気分を比較した．その結果，対話エージェントによる感情表現の模倣は必ずしも最適な応答では© 2019 Information Processing Society of Japan

内閣府. 第 5 期科学技術基本計画. 2016
Chartrand, T. L. and Bargh J. A.. The Chameleon Effect: The
perception-behavior link and social interaction. Journal ofPersonality and Social Psychology, 1999, vol. 76, no.6, pp.893-910[3] Gratch, J. Wang, N. Gerten, J. Fast E. and Duffy, R.. Creating
Rapport with Virtual Agents. International Conference onIntelligent Virtual Agents, 2007, pp.125-138[4] Wang, N. and Gratch, J. Can virtual human build rapport andpromote learning? The 14th International Conference on Artificial
Intelligence in Education, 2009, pp.737-744[5] “株式会社日立製作所 人に言寄り添う AI の実現に向け，感情表現を模倣する技術を開発”.
http://www.hitachi.co.jp/rd/news/topics/2018/1106.html, (参照2018-12-18)[6] 沼田崇志, 朝康博, 牧敦. 感情表現を模倣する対話エージェントの開発とその脳活動計測による擬人化効果の実証. 日本
バーチャルリアリティ学会研究報告 サイバースペースと仮想都市研究会, 2018, CSVC2018-25[7] Sato, H. Numata, T. Asa, Y. Koike, T. Miyata, K. Nakagawa, E.
Sumiya, M. Sadato, N. An fMRI investigation on the positive
consequences of being imitated by a virtual non-human agent.
Neuroscience, 2018, 110[8] Catmur, C. and Heyes, C. Is it what you do, or when you do it?
The roles of contingency and similarity in pro-social effects ofimitation. Cognitive Science, 2013, vol. 37, pp.1541-1552[9] Lundqvist, L-O. Facial EMG reactions to facial expressions: Acase of facial emotional contagion? Scandinavian Journal ofPsychology, 1995, vol. 36, pp.130-141[10] Friedman, R. Anderson, C. Brett, J. Olekalns, M. Goates, N. andLisco, C. C. The positive and negative effects of anger on dispute
resolution: evidence from electronically mediated disputes. Journalof Applied Psychology, 2004, vol. 89, no. 2, pp.369-376[11] Kulesza, W. M. Cistak, A. Vallacher, R. R. Nowak, A. Czekiel, M.
and Bedynska, S. The face of the Chameleon: The experience offacial mimicry for the mimicker and the mimickee. The Journal ofSocial Psychology, 2015, vol. 155, no. 6, pp.590-604[12] Imbir, K. Origin and source of emotion as factors that modulate
the scope of attention. Roczniki Psychologiczne / Annals ofPsychology, 2013, vol. 14, no. 2, pp.287-310[13] 平家雅之, 川崎裕達, 田中貴紘, 藤田欣也. 類似度と好感度を両立する個人化アバタのデフォルメ法の検討. ヒューマンイ
ンタフェース学会論文誌, 2011, vol.13, no.3, pp.243-254[14] Plutchik, R. The nature of emotions: Human emotions have deep
evolutionary roots, a fact that may explain their complexity andprovide tools for clinical practice. American Scientist, 2001,vol.89, no.4, pp.344-350[15] Torrance, G. W. Feeny, D. and Furlong, W. Visual Analog Scale:Do they have a role in the measurement of preferences for healthstates? Medical Decision Making, 2001, vol. 21, pp.329-334.
[16] 市川寛子, 牧野順四郎. 刺激表情に対する観察者の同調的表情. 心理学研究, 2004, vol. 75, no. 2, pp.142-147

926