情報処理学会 インタラクション 2024
IPSJ Interaction 2024

2P-73
2024/2/28

集団規範アウェアなエージェントによる利害関係下の人間集団内のインタラクション仲介
布施 陽太郎1,a)

アイエドゥン エマヌエル2,b)

徳丸 正孝2,c)

概要：本研究は集団規範を考慮して振舞う計算機エージェントがプレイヤとしてゲームに参加し，人間プレイヤ同士のインタラクションを仲介するポジションで振舞うことで，人間集団内の利害調整を促す可能性を探索する．エージェントが自律した人間社会の一員として受容されるために，我々はエージェントによる個々の人間集団特有の暗黙の了解 (暗黙的集団規範) への適応に着目している．我々が提案した最後通牒ゲームを基にした利害関係下の集団ゲームにおいて，集団規範アウェアなエージェントは人間プレイヤの公平な振舞いを促進した．本研究ではエージェントがゲームに参加する場合としない場合を比較して人間プレイヤの振舞い方への影響を調査する．本実験の結果より，人間集団と比べて人エージェント集団では人間プレイヤの公平な振舞いが促進されたものの，プレイヤの利益は相対的に小さくなった．このことはエージェントの仲介が集団内プレイヤの利益低下と引き換えに公平な振舞いを促進したことを示唆する．

1. はじめにかの基準になり，その主体の振舞いの理解のしやすさの向上に貢献する．

今日，アシスタントやパートナーとしてエージェントや我々は直接的なやり取りが無い状況でも，暗黙的に形成ロボットが人間と共生する社会の実現に向けて，人間とされる集団規範に適応するエージェントやロボットの研究

エージェントの間のインタラクションに関する様々な研究に取組んできた [4]．暗黙的に期待される振舞いの推察が可が取り組まれている [1]．人間とロボットの共生のために能なロボットやエージェントの実現を目的にしている．そは，ロボットに対する人間の受容が不可欠であり，ロボッのようなエージェントは従来に比べて親しみやすさや人間トの感情表出やジェスチャ，視線などの社会的な振舞いにらしさ，行動の予測しやすさを向上させ，人間とエージェついて研究されている [2]．

ントの共生への貢献が期待される．したがって，ロボット社会性とは集団を作って生活しようとする性質であり，社会を成立させるために必須の特性である．社会には守らやエージェントに対する人間の受容の観点からも集団規範への適応について探求している．

れるべき規範が存在し，それに従うことは社会性を持つ振我々の先行研究 [4] では比較的単純な実験シナリオにお舞いを表出するための手段の 1 つである．社会は多様で多いてエージェントやロボットを評価しており，集団内の利数の大小さまざまな集団により構成される．集団内で人間害や自身の行動へのフィードバックがある状況が考慮されは直接的なやり取りや指示無しに，その場の状況に応じてていなかった．一般に，ゼロサムであれ非ゼロサムであれ，集団の一員である他者に特定の振舞いを期待することがあ集団においてある集団成員の利益が他メンバの損になる状る [3]．そのようなとき，その集団では特有の集団規範が況が発生し得る．集団内に利害関係がある場合，人間は他共有されているといえる．人間の集団ではその場で求めら者に公平であることを望み，他者と自分との利益の差があれる振る舞いは明文化されず，しばしば暗黙的に共有されることを好まない [5]．加えて，人間は集団内のメンバの行る．すなわち，社会全体で共有される規範があれば，個々動に対して直接的な返答やフィードバックを実施することの集団におけるローカルの規範もある．その特定の集団のがある．したがって，より現実的な集団に即した評価実験

規範への適応は，ある主体を集団の一員として認めるか否の実施には，そのような要素を含む実験シナリオでの提案
意思決定手法の評価が必要である．

12a)b)c)

富山県立大学関西大学
fuse@pu-toyama.ac.jp
emay@kansai-u.ac.jp
toku@kansai-u.ac.jp© 2024 Information Processing Society of Japan

利害関係にある人間は所属する集団内の他者が公平に振舞うことを望む．加えて，自分の得を好み，自分の損を好まない．このことから以下の 2 点のことが言える．

945

情報処理学会 インタラクション 2024
IPSJ Interaction 2024

• 自分の極端な利他的振舞いは自身の利益を損ない，公平さの観点から自身が許容しない．

• 自分の極端な利己的振舞いは他者の利益を損ない，公平さの観点から他者が許容しない．

2P-73
2024/2/28

2. 実験シナリオ
2.1 最後通牒ゲーム
最後通牒ゲームでは，2 名のゲームのプレイヤが 提示者

したがって，利他と利己を織り交ぜた意思決定が人間らし(proposer) と 受け手 (responder) に任命され，金銭のく理にかなった集団内での振舞いとして求められる．そこ

分配と受領に関する意思決定に従事する．初めに，提示者では，ある程度他者の利益に配慮を見せることで利他的には実験の主催者から金銭を与えられ，それを受け手と自分振舞いつつ，自らの利益を守るよう利己的に振舞うことがとの間でどのように分割するかを決定し，分割した金額を重要である．このことは従来研究のシナリオに比べて，よ受け手に提案する．受け手が提案を受諾する場合 (accept)，

り複雑なシナリオにおいてエージェントが集団メンバとし主催者から初めに与えられた総額は提示者の提案通りに分て振舞う必要があることを意味する．

割される．一方で，受け手が提案を拒否する場合 (reject)，本実験シナリオに関する我々の先行研究 [6] では，提案両者とも獲得金額がゼロになる．文化の違い考慮したうえ

モデル搭載エージェントを集団規範に適応的なエージェ

でも，提示者は平均して得た金額のの 40% を受け手に提ントとみなし，ゲーム内で振舞いを変えない非適応的エー示する傾向があることが報告されている [9]．

ジェントと比較評価した．実験シナリオでの集団は 3 名の人間メンバと 1 体のエージェントメンバの合計 4 メンバに2.2 集団型最後通牒ゲームよって構成された．実験の結果，集団規範アウェアなエー

本項では，本研究で用いられた集団型最後通牒ゲーム

ジェントが参加した集団の人間メンバが公平な振舞いをよ(GUG) について説明する．ゲームの基本的なルールとしり表出することが観察された．このことはトップダウンでて，お金を他者に分配し，その金額について受領ないしはのルールや制度の制定ではなく，集団メンバである計算機拒否する．集団型最後通牒ゲームにおいて，各プレイヤはエージェントの振舞いを起点としたボトムアップの集団内金額を提示する提示者と提示された金額に対して受領か拒協調や公平な振舞いの促進の可能性を示唆している．また，否かを返答する受け手という 2 つの役割を担う．

Hang らは人間の利他的行動を促進するナッジエージェン

1 ラウンドにおけるお金の取引の流れを図 1 に示す．実トを提案し，そのエージェントがインタラクションする動験主催者は 1, 000 円を各プレイヤに配布し，各プレイヤは画を見た人間被験者が利他的な振舞いをする傾向があるこ

左隣のプレイヤに金額 m を提示し，その後右隣のプレイヤとを報告している [7]．以上のような先行研究があるものから提示される金額に対する受諾または拒否の返答 r を表の，公平さや利他性の促進という側面でのエージェントの出する．実験ではラウンドを 20 回繰り返す．加えて，各研究は多くない．

プレイヤはゲーム内のすべての情報を得られない．プレイ

本研究では人間集団での公平さや利害に着目し，エーヤは自身が行った取引についての情報と 1 ラウンドが終了

ジェントが人間と人間の間のインタラクションを仲介するする時にどのプレイヤが受諾または拒否を表明したのかのポジションで振舞うことによる集団内利害関係の調整の公開情報のみを得る．しかしながら，本実験においては利可能性を探索する．最後通牒ゲーム [8] を基に先行研究 [6]

害関係下にある集団における集団規範に適応することの影で提案された集団型最後通牒ゲームを，集団内で利害関係響の調査を目的とするため，提案モデルはすべてのプレイと行動へのフィードバックを考慮して振舞う必要がある実ヤの取引情報を得て，その情報を基に意思決定した．

験シナリオとして本研究で用いる．人間同士のインタラク以上より，通常の最後通牒ゲームと異なり，GUG のプレションにおいて利害関係の不一致や利害衝突がある状況イヤは提示者であり受け手でもある．交渉を伴う集団内イで，集団規範アウェアなエージェントが人間と人間の間のンタラクションにおいて，あるメンバは提示者であったり媒介として集団に参加することによって，利害関係の衝突受け手であったりすることもあり得る．また，GUG シナを回避できるという仮説を立て，実験シナリオで表出されリオは実世界での人間集団内で起こり得る個々の利益と集た人間被験者たちの振舞いを分析する．

団全体の利益が衝突する社会的ジレンマの状況にあるといゲームの構造上，各ゲームプレイヤは他者のすべての振える．以上から，通常の最後通牒ゲームと比較して，GUG舞いを観察できない．しかし，我々が提案した集団規範アシナリオは単純な拡張方法によって集団でのダイナミクス

ウェアな意思決定モデル [6] は集団内のすべての振舞いをを反映し，プレイヤの分析によって集団内での公平さに関観察可能であることを前提にしている．したがって，本研する指標を提供することが期待できる．

究はエージェントの意思決定が集団規範に適応的であることの影響を調査することを目的する．人間プレイヤとは異なり，エージェントは集団内のすべての振舞いを観察した上で意思決定する．

© 2024 Information Processing Society of Japan

2.3 ゲームインターフェース
人間のゲームプレイヤはディスプレイとゲーム用コント
ローラをインターフェースとして，集団型最後通牒ゲーム

946

情報処理学会 インタラクション 2024
IPSJ Interaction 2024

2P-73
2024/2/28

図 2

図 1

ゲーム環境全体．

ゲーム環境全体における実験主催者とプレイヤ Px のポジションの概念図．mx が提示金額で，rx が提示された金額への判断．

図 3

ある特定のプレイヤの提示金額入力画面．に取組んだ．図 2 はゲーム用仮想空間の全体を示す．中心の灰色の円形の机を囲っている 4 体のロボットがゲームに取組む．各プレイヤはそれらのロボットのいずれかの視点に立ち，そのロボットを操作することでゲームをプレイする．図 3 から図 6 はあるプレイヤが見るディスプレイに表示されるインターフェースの例を示す．プレイヤはコントローラを用いて自身のゲーム内の振舞いを決定する．図 6

図 4における 1 ラウンドの取引の結果を示す画面は，各色のロプレイヤに提示される理想の金額を質問する画面．

ボットの返答のみを示す．各被験者は他のプレイヤのゲーム画面を見ることはできない．加えて，実験主催者がゲームの進行を常に確認していることを被験者は知らされる．
加えて，ゲームシナリオ内では 1 ラウンドごとに，図 4に示されるようなインターフェースによってアンケートを実施する．ゲームに参加する各人間プレイヤは金額提示（図 3）と判断（図 5）の間に，「あなたが提示される金額は何円以上であることが望ましいのか」を回答する．このアンケートを実施することにより，人間プレイヤ p が提示

図 5

ある特定のプレイヤの返答 (受諾か拒否) の入力画面．

されることを期待する金額 m∗→p と実際に提示される金額m→p の差を計算することが可能になる．これにより，各人間プレイヤの期待と実際の差や人間プレイヤにとっての取引相手の予測可能性を定量化することを目論む．

3. 実験
3.1 実験の概要
1 集団において，GUG を人間プレイヤのみで集団が形

図 6

1 ラウンド目における全てのプレイヤの判断の表示．全てのプレイヤが同じ情報を得る．この後に第 2 ラウンドに移行する．

成される 4H 条件で 1 回，人間とエージェントで集団が構成される 2H2A 条件で 1 回実施する．図 1 が示すように加するので，人間はあるエージェントに金額を提示し，別ゲームのプレイヤは 4 名存在し，そのプレイヤとして人間のエージェントから金額を提示されることになる．このこHx もしくはエージェント Ax が参加する．各条件においてとは人間プレイヤと人間プレイヤの間でエージェントプレどのプレイヤとして人間 Hx もしくはエージェント Ax がイヤが仲介することを意味する．

ゲームに参加するのかを表 1 に示す．各 2H2A 条件では，

集団規範アウェアなエージェントの意思決定手法は先行エージェントが奇数もしくは偶数番号のプレイヤとして参研究 [6] に基づく．加えて，表 2 にエージェントの意思決© 2024 Information Processing Society of Japan947

情報処理学会 インタラクション 2024
IPSJ Interaction 2024

2P-73
2024/2/28

定に関するパラメータを示す．第 1 ラウンドでは 2 体の表 3

エージェントは 400 円を提示しエージェントに提示された金額が 200 円以下なら拒否するように初期状態を設定しGroup

各条件におけるゲームの結果．
Total amount of playerCondition

1234

た．被験者の人数は 16 名 (すべて男性)，平均年齢は 21.9

A4H14,340

13,98013,67014,010A

2H2A 1

10,1509,890

10,0109,950

歳 (SD = 0.899) であった．

A

2H2A 2

4,950

5,005

4,995

5,050

B

4H

10,798

10,60012,105

10,497

B

2H2A 1

1,500

2,500

1,960

2,040

本実験は富山県立大学「人を対象とする研究」倫理審査部会の承認を得て実施された (受付番号: R4-6)．
表 1

B

2H2A 2

8,080

7,635

8,4257,860

実験集団の各条件におけるプレイヤ Px ．Hx は人間，Ax はC

4H

16,15016,91016,85018,090

エージェントを意味する．
Condition
P1

表 2C

2H2A 1

14,04013,93014,17013,860P2

P3

P4C2H2A 212,810

13,10012,89013,2004H

H1H2H3H4D4H

5,899

7,578

7,217

7,306

2H2A 1H1A2H3A4

D2H2A 1

3,766

4,1644,150

3,920

2H2A 2

A1H2A3H4D2H2A 2

9,498

8,860

9,2208,422

集団規範アウェアなエージェントのパラメータ
学習率 α0.2
割引率 γ0.8

報酬関数パラメータ ∆kurtosis

5010000

initial arg max Voﬀr400

initial arg max Vdiﬀ

−2003.2 結果
表 3 は各集団における 2 回分のゲームの結果を示している．各集団のプレイヤが各ゲームにおいて最終的に得た金図 7

集団 A における 4H 条件でのゲームの推移．

額が示されている．集団 (Group)A と B は 1 回目のゲームが 4H 条件，2 回目のゲームが 2H2A 条件であった．集団(Group)C，D は逆の順番での条件の集団を設定した．また，図 7，8 と図 9，10，11 は実際の集団 A と集団 D における各ラウンドでの提示金額 m，判断 r の推移を示す．各ラウンドにおいて提示された金額がグラフに，各プレイヤの受諾 (A) もしくは拒否 (R) についての判断がグラフの上の表に示されている．プレイヤ番号と人間被験者，エージェント番号は共通しており，プレイヤ x は人間被験者 Hx もしくはエージェント Ax のことを指す．加えて，図 12 は各
人間プレイヤが得た最終スコア TA の条件間比較を示す．

2H2A 条件よりも 4H 条件での人間プレイヤの最終スコア

図 8

集団 A における 2H2A 1 条件でのゲームの推移．

が有意に大きくなる傾向がウィルコクソンの符号順位検定によって示された．

次に，図 14 は各人間被験者の各ラウンドの |m∗→p −m→p |各実験集団における意思決定の推移と最終的なスコアにの合計値を条件間で比較する．人間被験者が提示される金加えて，以下の 3 つの指標に基づいた 4H 条件と 2H2A 条

額の期待と実際の金額の差が 0 に近いほど，人間被験者が件の比較を実施した．まず，ゲーム内人間プレイヤの振舞最低限期待する相手からの提示金額に近い金額を取引相手いを分析する指標として，図 13 は各被験者の 20 回の提示が提示していることを意味する．4H 条件と 2H2A 条件にお金額の標準偏差を示す．ウィルコクソンの符号順位検定をいて，人間プレイヤにとっての取引相手はそれぞれ人間プ実施し，人間被験者の提示金額の変動度合いの条件間の比レイヤ，エージェントである．ウィルコクソンの符号順位較において，2H2A 条件での人間プレイヤの提示金額のば検定を実施し，2H2A 条件での人間被験者の |m∗→p − m→p |らつきが有意に小さいことが示された．の合計値が有意に小さいことが示された．

© 2024 Information Processing Society of Japan948

情報処理学会 インタラクション 2024
IPSJ Interaction 2024

図 9

図 10

集団 D における 4H 条件でのゲームの推移．

2P-73
2024/2/28

図 12

人間被験者が得た最終スコア (TA) の条件間比較．

集団 D における 2H2A 1 条件でのゲームの推移．
図 13

図 11

各被験者の提示金額の標準偏差の条件間比較．

集団 D における 2H2A 2 条件でのゲームの推移．

図 14

最後に，図 15 は，集団内の人間プレイヤ H と H から見た各被験者の各ラウンドの |m∗→p − m→p | の合計の条件間比較．

3.3 考察3 名の他プレイヤとのスコアの差の絶対値 |TAH − TAother |図 12 より 2H2A 条件よりも 4H 条件での人間プレイヤの条件間比較を示す．各人間プレイヤが集団内他者とどののゲームスコアが高い傾向にあることが明らかになった．

程度異なるスコア TA を得たかを算出することで，各人間2H2A 条件ではエージェントが人間被験者の提示金額を拒プレイヤがどの程度公平な振舞いをしたかの指標としてみ否する傾向がみられたのが原因の一つとして考えられる．

なせる．その値が大きいほど集団内でのスコアに格差があしたがって，エージェントは集団規範への適応にこだわっることを意味する．対応あり t 検定を実施し，2H2A 条件て妥協せず，そのことが原因で集団内の各プレイヤの最終での人間プレイヤとそのプレイヤにとっての他プレイヤのスコア TA が低下した可能性がある．

最終スコアの差が有意に小さいことが示された．

© 2024 Information Processing Society of Japanまた，図 9，10 での人間被験者 H1 のようなランダム戦

949

情報処理学会 インタラクション 2024
IPSJ Interaction 2024

2P-73
2024/2/28

統制は強く表れているが，そのことが集団内の公平を実現する可能性を示唆している．すなわち，今回の GUG 実験
シナリオの結果から，GUG では公平さと富の総量は相反し，どちらを重視するかによってエージェントが参加すべきか否かが異なることも示唆された．

4. おわりに本研究では利害関係のある人間集団ゲームシナリオに参加した集団規範アウェアなエージェントが人間と人間の間のインタラクションを仲介するポジションで振舞うことによる集団内利害関係の調整の可能性を探索した．ルールを
図 15

集団内スコアの他者との差分の絶対値の条件間比較．

集団内に制定することによるトップダウンでの社会的ジレンマの解決というより，集団規範アウェアなエージェント略を採用するプレイヤの提示金額が拒否を誘発し，集団全が集団メンバとして仲介することによるボトムアップでの体が損する様子がたびたび観察された．人間被験者 H1 が社会的ジレンマの解決を目論むエージェントベースアプ含まれない集団 D の 2H2A 2 条件である図 11 では，表 3

ローチの探索である．実験結果より，集団規範アウェアなによると，集団 D の 4H 条件と比較して，全体的に高いエージェントが参加する集団では，人間のみの集団よりもスコアを得られた．ランダム戦略を取るプレイヤへの対処

人間メンバの公平な振舞いが表出されるが，各メンバの利が構造上困難であることは，実集団モデリングの観点から益は低くなる傾向があることが示された．このことは当該GUG 実験シナリオの今後の課題として考えられる．

エージェントの仲介が公平さの促進と引き換えに集団内の図 13 は 4H 条件に比べて 2H2A 条件の方が予測可能性利益を低下させたことを示唆している．将来的には，被験の高い意思決定を人間が実施したことを示唆した．2H2A

者数を増加させての実験，人間とロボットの集団での本シ条件の方が人間の提示金額のばらつきが少なく，その提示ナリオ実験，実験シナリオのゲームルールの調整に取組む．

金額を与えられるプレイヤにとって予測可能性の高い提示金額であったことが推察される．また，図 14 は 2H2A 条

謝辞

本研究は科研費 JP23K16983，JP21K12099 の助成を受けたものである．

件の方が提示される金額の期待と現実のギャップが小さいことを意味し，エージェントの提示金額は人間被験者を参考文献サプライズさせる度合いが小さかったと考えられる．すな[1]

わち，このことは人間被験者にとって予測しやすい意思決定をエージェントが表出した可能性を示唆している．加え[2]て，エージェントの提示金額が人間の期待を下回りにくく過度に上回ることもないことは，人間にとって最低限提示されたい金額に近い金額がエージェントによって提示さ[3]れ，エージェントは取引相手が得をしすぎない金額を提示したことを意味する．提示する側と提示される側というペ[4]アの利害関係下での協調や利害調整が比較的発生していたことが示唆された．人間プレイヤの期待と関連付けられた[5]

指標において公平な提示金額をエージェントが表出した可能性を示す．加えて，図 15 は 2H2A 条件の方が最終獲得[6]

スコア TA の集団内部格差が有意に小さいことを意味し，集団規範アウェアな意思決定をするエージェントが人間の[7]間のインタラクションに介入する形で参加したことが人間被験者の公平なスコア獲得を促進した可能性がある．
以上より，集団規範アウェアなエージェントが 2 体参加[8]

する 2H2A 条件の集団では，エージェントの仲介が公平な分配を人間に促す一方で，集団内のプレイヤの最終スコアは 4H 条件に比べると低くなる傾向があった．エージェン[9]Sheridan, T. B.: A review of recent research in socialrobotics, Current Opinion in Psychology, Vol. 36, pp. 7–12 (2020)
Onyeulo E. B., Gandhi V.: What Makes a Social Robot
Good at Interacting with Humans?, Information, Vol. 11,
No. 1, 43 (2020)
Feldman, D. C.: The development and enforcement ofgroup norms, Academy of Management Review, Vol. 9,
No. 1, pp. 47–53 (1984)
Fuse, Y., Tokumaru M.: Social Inﬂuence of Group
Norms Developed by Human–Robot Groups, IEEE Access, Vol. 8, pp. 56081–56091 (2020)
Fehr, E., Schmidt, K. M.: A theory of fairness, competition, and cooperation, Quarterly Journal of Economics,
Vol. 114, No. 3, pp. 817–868 (1999)
Fuse, Y. et al.: Unleashing Fairness: How a Group NormAware Agent Shakes Up the Ultimatum Game, IEEE Access, Vol. 11, pp. 36727–36740 (2023)
Hang C., Ono T., Yamada S.: Designing Nudge Agentsthat Promote Human Altruism, The 13th International
Conference on Social Robotics, pp. 375–385 (2021)
Thaler, R. H.: Anomalies: The ultimatum game, Journal of economic perspectives, Vol. 2, No. 4, pp. 195–206(1988)
Oosterbeek, H. et al.: Cultural Diﬀerences in Ultimatum
Game Experiments: Evidence from a Meta-Analysis, Experimental Economics, Vol. 7, pp. 171–188 (2004)

トの拒否判断によって金額提示という行動に対する規範的© 2024 Information Processing Society of Japan950