情報処理学会 インタラクション 2022
IPSJ Interaction 2022

3D192022/2/21

エージェントの感情と社会的評価プロセスの可視化佐藤 幹晃1,a)

寺田 和憲1,b)

概要：感情表現は，物理的環境と社会的環境の両方を反映した感覚入力を評価した結果，表情などとして現れる．感情表現の観察者は，逆評価をすることで感覚入力がどのように評価されたかを解読し，他者の意図を推論する．しかし，逆評価は，同じ感情表現が異なる状況で生成されることや，同じ状況でも個人差によって感情表現が異なることから，逆問題となる．この問題を克服するためには，個人が適切な評価モデルを持つ必要がある．その為，他者の心的状態を理解することが困難な自閉スペクトラム症者などでも，適切な評価モデルの獲得をできるように訓練できるインタフェースが求められる．そこで，本研究では感情的評価過程を可視化したインタフェースを開発した．このインタフェースによって社会的スキルが獲得できるかどうかを調査することが今後の課題である．

1. はじめに社会は非ゼロ和であり，選好の違いや生産能力の違いを状況でも個人差によって感情表現が異なるため，逆問題となる．この問題は，観察者が適切な評価モデルを用いてベイズ推論などを行うことで克服できる [3]．

考慮して協力することで Win-Win な結果を望める．一方心的状態の推論は，社会生活を生き抜くための基本的なで，協力的態度の搾取は簡単である為，他者の表現から得計算能力の一つであるが，自閉スペクトラム症者など，他られる情報によって，他者の心的状態を考慮し，裏切る人者の精神状態を理解することが困難な人もいる．そこで本と協力的な人を識別する必要がある．この識別をする上研究では，評価プロセスを数学的・図式的に表現することで重要な情報として感情表現が挙げられる．感情表現は，で，表現された感情と心的状態との関係を理解することを物理的・社会的世界の主観的な評価の結果として現れるた容易にするインタフェースを作成した．

め，他者の精神状態を推測するために重要な情報を含んでいる [1]．
評価プロセスでは，現在の状況（または心の中で想像された状況）を信念や目標と比較する．ある状況が期待され，目標達成を促進するものであれば，その状況は肯定的に評価される．一方，ある状況が好ましくなく，行為者の目標達成を妨げるものであれば，その状況は否定的に評価される．例えば，自分の利益だけでなく相手の利益も大切にする協力的な人は，2 人で利益を共有している状況の方が，利益を独占している状況よりも，喜びなどの肯定的な感情を表現することがある．肯定的な表現は，現在の状況が有利であり，継続が望まれていることを示し，相手に伝えられる．観察者の課題は，観察した現在の状況と感情表現に応じて，適切な判断をすることである．そのためには，行為者の意図を正しく認識する必要がある．意図は逆評価プ
ロセスによって解読される [2], [3]．
逆評価は，同じ感情表現が異なる状況で生成され，同じ
1a)
b)

岐阜大学
motoakist@gmail.com
terada@gifu-u.ac.jp© 2022 Information Processing Society of Japan

図1

複数論点最後通牒ゲームにおいて、現在の配分がどのように評価され、どのような感情表現となるか可視化したインタフェース。
アニメキャラクターの画像は Live2D Cubism, Live2D Inc. から入手したものである。デモはオンラインで公開されている。

https://yosemite.ai.info.gifu-u.ac.jp/cgi/pareto hiyori

470

情報処理学会 インタラクション 2022
IPSJ Interaction 2022

3D192022/2/21

本研究では，ユーザとエージェントが解決すべき対象課
題として，複数論点最後通牒ゲームを用いて，エージェン
トの評価プロセスを可視化するインタフェースを開発した．ユーザーは，スライダーバーを操作することで，どのような嗜好，現在の配分がどのような感情表現をもたらすかを探り，理解することができる．

2. 実験
図 1 は ，複 数 論 点 最 後 通 牒 ゲ ー ム に お い て ，エ ー

図2

ユーザーから提示されたポイントを評価した結果の表情。提供されたポイントの量とリミットによって表情が変化する。ユージェントが現在の配分をどのように評価し，どのようザがエージェントに多くのポイントを提供した場合、エージェ

な感情表現となるかを可視化したインタフェースであントは喜びを表し、ユーザが少ないポイントを割り当てた場る（本インタフェースはオンラインで公開されている:

合、エージェントは悲しみを表す。また、ポイントの合計がリ

https://yosemite.ai.info.gifu-u.ac.jp/cgi/pareto hiyori 2.0

ミットを下回ると、エージェントは怒りの表情を見せる。

提案者 (ユーザ) と応答者 (エージェント) の 2 人のプレイヤーが，一方通行かつ一度きりの交渉で複数のアイテムを簡単に設計することができる．図 1 の左側のグラフは，を配分する．標準的な最後通牒ゲームはゼロ和ゲームであユーザとエージェントの合計ポイントを示している．エーるが，複数論点最後通牒ゲームは，提案者と応答者で選好ジェントは，現在のアイテムの配分をポイントとして評価に違いがあれば非ゼロ和ゲームとなる．例えば，図 1 では，する．赤い丸は，エージェントが評価したアイテムの合計

ユーザーにとってのショートケーキのポイントは 2 ポインポイントを示している．ポイントの合計が許容できる限界

トであるが，エージェントにとってのポイントは 0 ポイン(リミット) よりも低い場合，エージェントは怒った表情とトである．ユーザーとエージェントにとって同じ 4 ポインなる．ポイントの合計がリミットより高い場合，リミットトの価値があるプリン（ゼロ和）とは異なり，ショートケーに近いときは悲しげな表情，ポイントが増えると無表情，キには利害の対立がない（非ゼロ和）．ユーザーにとって価さらにポイントが増えると嬉しそうな表情をする．また，値のないエクレアをエージェントに多く配分し，エージェユーザーがリミットを変更することもできる．リミットがントにとって価値のないショートケーキをユーザーに多く低い場合，エージェントは怒りの表情を抑え，ポイントの配分することで，ユーザーもエージェントもより高いポイ配分が少なくても喜びの表情を見せる．リミットが高い場ントを得ることができる．このような好みの違いが，両者合，エージェントは怒りを示し，ほとんど笑顔を見せない．

にとってより満足度の高い win-win な結果につながる．

リミットを変更することで，ユーザーはエージェントを強ユーザーはスライダーバーを動かしてアイテムを割り当気にしたり，寛大にしたりすることができる．

てることができる．エージェントは，アイテムがどのようスライダーバーの動きに応じて，表情が滑らかに変化に割り当てられているかを評価し，その評価に応じて表現する（図 2）．使用したのは，Live2D Inc. のソフトウェアを変える．ユーザがスライダバーを左端に動かすと，エー「Live2D Cubism」に収録されている，大きな目をした日本

ジェントへのアイテムの割り当てはゼロになり，ユーザへのアニメ調の女性像「百瀬ひより」である．Live2D Cubismのアイテムの割り当ては最大になる．ユーザーがスライで目，眉，口のパラメータを操作することで，図 2 の表情ダーバーを右端に動かすと，エージェントへのアイテムのを含む 18 種類の表情を GIF ファイルとして作成した．

割り当てが最大となり，ユーザーへのアイテムの割り当てはゼロとなる．ユーザーは，各アイテムのポイントを設定

3. おわりにすることができる．ユーザーがあるアイテムに高いポイン

現在のエージェントは個人主義，すなわち自分の利益のトを設定した場合，例えば 4 ポイントであれば，エージェみに関心があり，自己利益が大きくなると肯定的な表現をントがそのアイテムを気に入っていることを意味する．一するようになっている．今後は，他者の利益を考慮する協方で，ユーザがあるアイテムに低いポイントを設定した場力的なエージェントや，他者と比較して自分の利益が高く合，例えば 0 ポイントであれば，エージェントはそのアイテなることを重視する競争的なエージェントなど，他の社会ムに全く興味がないことを意味する．エージェントは状況的価値志向性のエージェントを実装する予定である [4]．評を評価し，ユーザがポイントの高いアイテム，すなわち好価プロセスを数学的・図式的に表現することで，特に他者みのアイテムを割り当てた場合には，肯定的な表情を示す．の心を理解することが困難な人にとって，表出された感情

しかし，ユーザが 0 点のアイテムを割り当てた場合は，いと心的状態の関係の理解が容易になると考えている．今後

くら割り当ててもエージェントの表情は変わらない．ユーの研究で，本インタフェースによって社会的スキルが向上

ザは，スライダバーを動かすことで，エージェントの好みするかどうかを調査する予定である．

© 2022 Information Processing Society of Japan471

情報処理学会 インタラクション 2022
IPSJ Interaction 2022

3D19
2022/2/21

参考文献
[1]

[2]

[3]

[4]

K. R. Scherer, Appraisal Theory, in Handbook ofCognition and Emotion, John Wiley & Sons, Ltd, 2005,pp. 637–663.
C. M. de Melo, P. J. Carnevale, S. J. Read, and J. Gratch,
Reading people s minds from emotion expressions ininterdependent decision making, J. Pers. Soc. Psychol.,vol. 106, no. 1, pp. 73–88, 2014, doi: 10.1037/a0034251.
Y. Wu, C. L. Baker, J. B. Tenenbaum, and L. E.
Schulz,Rational Inference of Beliefs and Desires
From Emotional Expressions, Cogn. Sci., 2017, doi:
10.1111/cogs.12548.
S. Bogaert, C. Boone, and C. Declerck, Social value orientation and cooperation in social dilemmas: A review
and conceptual model, Br. J. Soc. Psychol., vol. 47, no.
3, pp. 453–480, 2008, doi: 10.1348/014466607x244970.

© 2022 Information Processing Society of Japan472