2023年度日本認知科学会第40回大会

P1-008A

Win-Win 関係構築のための感情認知計算
Affective Computing for building Win-Win relationship佐藤 幹晃 † ，寺田 和憲 † ，ジョナサン グラッチ ‡Motoaki Sato, Kazunori Terada, Jonathan Gratch†

岐阜大学，‡ 南カリフォルニア大学

Gifu University, University of Southern California
motoaki.sato@ai.info.gifu-u.ac.jp

概要

るかどうかを検討した．

ケーションすることで相手について学ぶことが重要で

2.

Win-Win な交渉をするためには，事前にコミュニある．人-人の交渉において，感情表現は偽りがなく，信頼できる信号だと考えられているが，人-AI エー

ジェントの交渉結果にどのような影響を与えるかは

実験参加者は Yahoo！クラウドソーシングで募集した，19 歳から 70 歳までの男性 119 人，女性 28 人であった (Mage = 46.31, SDage = 11.092)．ID の不一致とアテンションチェック該当者を取り除き，147 人 (選未知であった．そこで本研究では，交渉前のコミュニ好学習フェーズ有:75 人，無: 参加者 72 人) をデータとケーションで感情表現から AI エージェントの選好をして集計した．

学習することが，Win-Win な交渉結果に寄与するか

参加者は Yahoo!クラウドソーシングから Qualtrics検討した．

で作成したアンケートページに進み，年齢と性別を答キーワード：交渉, 表情， 評価理論， 心的状態の推測

1.

実験方法

えたのち，複数論点最後通牒ゲームの説明を受け，理はじめに解を確認する問題に答えた．次に参加者は 16 種類の近年のバーチャルリアリティ（VR）と人工知能（AI）

食べ物に 1 から 4(1: 嫌い，2: どちらでもない，3: まじて人と交渉する具現化 AI エージェントが実現され4 段階に少なくとも 1 つ以上の食べ物が割り当てられるよう，選好がばらけるような食べ物を事前に選定しあまあ好き，4: とても好き) の水準で評価した．このの進歩により，言語・非言語コミュニケーションを通つつある [1]．交渉では，交渉前や交渉中にチープトーた．加えて，選好が極端に偏る参加者を考慮し，各水クを通じて様々な情報が交換され，信頼などの相手の準に対して，少なくとも 1 つ以上の食べ物を割り当て印象や選好などの心理状態といった交渉相手のモデルを形成している．チープトークとは，ゲーム理論におるように強制した．各水準からランダムに 1 つの食べヤー間のコミュニケーションのことである．AI エー

プリプレイコミュニケーションを行う前にエージェン

物を選択し，4 つのアイテムを後のタスクに用いた．

いて，ゲームのペイオフに直接影響を与えないプレイトの選好をどのように推測したかを評価するために，

ジェントは後ろめたさを感じることなく嘘をつくこと

参加者はエージェントの選好を推定し，1 から 4 までができるため，競争的な状況ではエージェントのチープトークを無視した方が良いが，協力的な状況では順位をつけた．

[2]．非言語によるチープトークは交渉に有効である

行った．参加者はスライダーバーを用いて，アイテム情報よりもより正直で信頼性が高い [4] ため，偽るこ1dのような重みの設定であり，配分されたアイテムの次に，全ての参加者は複数論点最後通牒ゲームを無視しない方が Win-Win な解決に至ることができるの配分をエージェントに提示することができた．表[3]．非言語信号が効果的な理由の 1 つは，口頭での重みの合計がポイントとなった．エージェントはポイとが難しいからである．したがって，人間が AI エーントが高いほどより喜んだ表情を表出した．エージェ

ジェントとの交渉で Win-Win となるためには，交渉ントの喜びの表情は，喜びの段階を適切に表している

前に交わされる非言語情報を用いて，人間が AI エーか妥当性を検証した 8 段階を用いた (図 1f)．エージェ

ジェントをどのようにモデル化しているのかをより知ントは許容できる限界のポイント (リミット) を下回るる必要がある．本研究では，交渉前の感情表現から AIと怒った表情を表出した．参加者がリミット以上で配エージェントの選好を学習することで，人間と AI と分を決定すると，参加者とエージェントともに配分にの交渉において Win-Win な解決策を導くことができ72

2023年度日本認知科学会第40回大会-1: 嫌いP1-008A

1: まあまあ好き

0: どちらでもない

2: とても好き(a) アイテムごとに表出するエージェントの表情 (wエージェント = −1(嫌い), wエージェント = 0 (どちらでもない), wエージェント = 1 (まあまあ好き), wエージェント = 2 (とても好き).

アイテム (個数)w
wエージェントA (7)

B (5)

C (5)

D (5)

2
2

100
-1

-1
1

喜び
Joy(d) アイテムの重み

エージェントポイント

参加者(b) 選好学習フェーズ

無表情
Neutral

怒りAnger

参加者ポイント(c) エージェントが配分をどのように評価するかと複数論点最後通牒ゲームにおけるパレート最適を示した評価
理論のヒートマップ(e) 複数論点最後通牒ゲーム
感情

怒り

無表情

喜び1

喜び2

喜び3喜び4喜び5喜び6喜び7

エージェントポイント

11<1213141516171819(f) エージェントの利得に応じてエージェントの表情が変化する

図 1: 方法: 選好学習のインタフェース

応じたポイントを獲得した．参加者がリミット未満でいるエージェントの表情を観察することでエージェン両者ともにポイントを獲得できなかった．図 1cのヒー

wエージェント = −1, 0, 1, 2．エージェントが嫌いな問題を示している．参加者の課題は，エージェントに拒否割り当てられている．wエージェント と表情の関係を図

トの選好を学習した (図 1b)．エージェントの選好は配分を決定すると，エージェントに配分を拒否されてには-1 が，エージェントがとても好きな問題には 2 が

トマップはエージェントのポイントと表情の対応関係1aに示す．最後に全ての参加者は再度エージェントのされることなく参加者のポイントを増やすことであった．そのために，参加者はエージェントの好みとエー選好推定を行った．

インタフェースを用いることで，エージェントの選好

1 つは，エージェントの見た目のリアルさや単純さでしかし，選好とリミットを同時に推論することはエージェントを用いて，最後通牒ゲームにおいて口の交渉結果に影響を与える可能性のある重要な特徴のジェントのリミットを推論する必要があった．図 1eのある．寺田らは，単純な線画からなるソフトウェア・とリミットの同時推論が理論的に可能である．

角度が上下するにつれて人々の向社会的行動が変化す

難しい [5]．そこで本研究では，選好学習フェーズ有ることを示した [6]．deMelo らは，実際の人間に似た条件の参加者のみに，交渉前に選好学習を行う機会エージェントを用い，囚人のジレンマにおいて，エーを与えた．選好学習フェーズでは，選好を符号化して732023年度日本認知科学会第40回大会

選好学習フェーズ有

選好学習フェーズ無参加者の選好推定とエージェントの真の選好の順位相関(a) 合計ポイント! $

選好学習フェーズ有

選好学習フェーズ無(b) エージェントポイント! (d) 固定パイ・バイアス$

参加者⾃⾝の選好とエージェントの真の選好の順位相関

選好学習フェーズ無参加者ポイント

合計ポイントエージェントポイント

P1-008A

選好学習フェーズ有(c) 参加者ポイント

選好学習フェーズ無

選好学習フェーズ有(e) 選好推定

図 2: 実験結果

ジェントが競争的な感情表現と比較して協力的な感情

トポイント)，参加者が獲得したポイント (参加者ポイた [7]．そこで本研究では，単純な見た目と実際の見いて，2 水準 (選好学習フェーズ: 有/無) の一元配置分ントとして用いた．

ムの前と後の 2 回，エージェントの選好を推定したのント)，両者が獲得したポイント (合計ポイント) につ表現を示すと，人々はより協力的になることを確認し散分析を行なった．参加者は，複数論点最後通牒ゲーた目の中間であるアニメ風のキャラクターをエージェで，固定パイ・バイアスと選好推定について，最初・参加者には，参加費として PayPay ポイントを 200

最後の 4 アイテムの複数論点最後通牒ゲームのインタポイント支払った．さらに，複数論点最後通牒ゲーム

ラクション要因 (学習前/ゲーム後水準: 参加者内) ×で獲得した参加者自身のポイントに応じて，より多く選好学習フェーズの有無の外見要因 (選好学習フェーのお金を獲得する機会を与えた．今回の実験では 150

ズ: 有/無) の 2 要因混合計画で行った.

人中上位 5%，つまり 7 人の参加者に Amazon ギフト
券 3000 円分を与えた．

本研究は，岐阜大学大学院医学系研究科の医学審査

3.

実験結果

合計ポイントについて，一元配置分散分析の結果，委員会 (IRB) の承認を得ている．参加者には，データ選好学習フェーズ有の条件 (M = 20.6, SD = 4.3) のセットに参加者の情報が使用されることについて，イ方が，選好学習フェーズ無の条件 (M = 18.5, SD =ンフォームドコンセントを行った．

4.3) よりも有意に高いことがわかった (F (1, 146) =9.8, p = .002, ηp2 = .063 (図 2a))．この結果は，選好学
習フェーズが，エージェントと参加者にとって Win-複数論点最後通牒ゲームにおいて，エージェントが獲得したポイント，参加者が獲得したポイント，両者の合計ポイントを検証した．また，参加者が推定したWin な配分をすることに寄与することを示す．エー
ジェントポイントについて，一元配置分散分析の結果，選好学習フェーズ有の条件 (M = 11.0, SD = 5.0) の方が，選好学習フェーズ無の条件 (M = 7.5, SD =エージェントの選好順位を測定し，[8] に倣い，参加者が推定したエージェントの選好と参加者の選好 (固定パイ・バイアス)，参加者が推定したエージェントの選好とエージェントの実際の選好 (選好推定) の間のケン5.2) よりも有意に高いことがわかった (F (1, 145) =ドールの順位相関係数をそれぞれ算出した．実験計画

17.3, p = .000, ηp2 = .105 (図 2b))．この結果は，選好は 2(選好学習フェーズ: 有/無) の参加者間要因配置で学習フェーズにより，参加者がエージェントに譲歩す行った．エージェントが獲得したポイント (エージェンるようになったことを示している．参加者ポイント74

2023年度日本認知科学会第40回大会

P1-008Aについて，一元配置分散分析の結果，選好学習フェー主義から協力主義なエージェントにデザインすること

フェーズ無の条件 (M = 10.9, SD = 5.1) に有意な差

Win-Win な解決策を導き出すことが容易になる可能

で，参加者自身のポイントも上げることができ，よりズ有の条件 (M = 9.6, SD = 4.1) の方が，選好学習性がある．

はなかった (F (1, 145) = 2.6, p = .107, ηp2 = .018 (図2c))．エージェントポイントの結果も踏まえるとこの結果は，エージェントの選好を正しく推定することで，参加者は自身のポイントを下げることなく，エージェントのポイントを上げることを示している．

固定パイ・バイアスについて，繰り返しありの二要

文献[1] J. Gratch, “The promise and peril of automatednegotiators,” Negotiation Journal, vol. 37, no. 1,pp. 13–34, jan 2021.

因分散分析を行った結果，学習前/ゲーム後水準に主[2] R. Cooper, D. V. DeJong, R. Forsythe, and T. W.
Ross, “Communication in coordination games,”

効果はなく，選好学習フェーズの有/無の主効果もなく(F (1, 145) = 1.64, p = .202, ηp2 = .011)，交互作用も確認されなかった (F (1, 145) = 0.922, p = .339, ηp2 =.006 (図 2d))．このことから，固定パイ・バイアス

The Quarterly Journal of Economics, vol. 107,
no. 2, pp. 739–771, may 1992.
[3] H. Takagi and K. Terada, “The effect of anime

は選好学習や学習前後に影響されないことがわかっcharacter s facial expressions and eye blinking on

た．選好推定について，繰り返しありの二要因分散分析を行った結果．学習前/ゲーム後水準に主効果が認められた (F (1, 145) = 105.05, p < .001, ηp2 = .420)．

Bonferroni の方法による多重比較を行った結果，参加者が推定したエージェントの選好は，学習前 (M =donation behavior,” Scientific Reports, vol. 11, pp.
1–8, Apr. 2021.
[4] L. I. Reed, R. Stratton, and J. D. Rambeas, “Facevalue and cheap talk: How smiles can increase ordecrease the credibility of our words,” Evolution-.54, SD = .51) と比較して，ゲーム後 (M = .05,ary Psychology, vol. 16, no. 4, p. 147470491881440,
oct 2018.

SD = .42) の方が有意に高かった (p < .001)．加えて，学習前/ゲーム後と有/無の交互作用が確認された[5] M. Sato and K. Terada, “The effect of visualizingの方法による多重比較を行った結果，選好学習フェー

to reach win-win outcomes in a multi-issue ultima-(F (1, 145) = 105.05, p < .001, ηp2 = .420)．Bonferroni

other’s appraisal process on the cognitive ability

ズ有の参加者は (M = .79, SD = .42)，無の参加

tum game,” in Conference of the International So-

者 (M = .31, SD = .47) と比較して，ゲーム後にciety for Research on Emotion (ISRE2022), 2022.
[6] K. Terada and C. Takeuchi, “Emotional expres-エージェントの選好をより良く推定した (F (1, 145) =41.56, p < .001, ηp2 = .223(図 2e))．このことは，選好sion in simple line drawings of a robot’s face leads

学習フェーズにより，参加者がエージェントの選好を

to higher offers in the ultimatum game,” Frontiersin Psychology, vol. 8, pp. 1–9, May 2017.
[7] C. M. de Melo, P. J. Carnevale, S. J. Read, andより良く推定できるようになったことを示している．

4.

議論

J. Gratch, “Reading people’s minds from emotion

本研究では，選好学習により，交渉において感情表

expressions in interdependent decision making,”

現から相手の心理状態を推測する能力が向上し，Win-Journal of Personality and Social Psychology, vol.

Win な解決策を導くことができるかを検討した．その結果，選好学習フェーズ有の参加者は，無の参加者に106, no. 1, pp. 73–88, 2014.
[8] E. Johnson and J. Gratch, “The impact of im-

比べて，相手の選好をより良く推定し，エージェントと参加者の合計ポイントが増加することが示された．
これは，選好推定が正確になることで，より Win-Winな配分をすることにつながったことを示している．

plicit information exchange in human-agent negotiations,” in Proceedings of the 20th ACM International Conference on Intelligent Virtual Agents.
ACM, oct 2020.

Win-Win な配分の内訳について，エージェントの[9] P. J. Carnevale and A. M. Isen, “The influence of
positive affect and visual access on the discovery of

ポイントは選好推定により上がったが，参加者のポイントは変わらなかった．協力主義者は個人主義者より

integrative solutions in bilateral negotiation,” Organizational Behavior and Human Decision Pro-も Win-Win な配分に容易に到達可能である [9]．そのため，現在の自分のポイントにしか興味がない個人

cesses, vol. 37, no. 1, pp. 1–13, feb 1986.

75