HAI シンポジウム 2022
Human-Agent Interaction Symposium 2022

G-13

他者認知モデルに基づき人に配慮し行動するエージェント
A model of spacing behavior with compassion for others
坂本孝丈 1∗ 竹内勇剛 1
Takafumi Sakamoto1
Yugo Takeuchi1
静岡大学
Shizuoka University1

1

Abstract: 公共場面においてエージェントが人とコミュニケーションを開始するうえで，エージェ
ントはその場にいる他者に配慮しながら行動する必要がある．本研究では，他者への配慮を「推定した相手の欲求に合わせた自身の欲求の値の変化」としてモデル化し，相手に配慮しながら接近行動を示すエージェントの設計を行なった．実験では，VR 環境上で目標地点に移動する実験参加者と設計したエージェントとの間で生じるインタラクションを観察した．結果として，エージェントが配慮を伴う行動を示した場合に，エージェントを忌避する実験参加者の行動が抑制されることが示された．
このことから，本研究のモデルが配慮を伴う行動を生成するモデルとして妥当性を有することが示唆された．

1

はじめにン開始場面における接近・回避行動を生成するためのモデルを提案し計算機シミュレーションによる検証を行ってきた [6]．また，配慮を伴う行動を含めたインタラクションのモデルについて検討を行ってきた [7]．しかし，実際にモデルに基づき行動するエージェントと人との間のインタラクションの観察と検証は行われていない．
そこで，本研究では先行研究のモデルを拡張し，配慮を伴う行動生成するエージェントのモデルを提案する．本研究のモデルでは，相手エージェントの内部状態の推定値に応じて自身の内部状態を調整する関数とそのパラメータにより他者への配慮を表現する．またエージェントの配慮を表すパラメータの値によって，生じるインタラクションの差異についてシミュレーションを通して検討を行う．そこから，VR 環境を用いてモデルの動作に従うロボットと人のインタラクションを観察し，配慮を表すパラメータが人とのインタラクションに及ぼす影響について検証する．

自律的に動作するロボットが人と関係を構築・維持するためには，ロボットが人社会における儀礼に従い人とインタラクションする必要がある．例えば，公共場面では見知らぬ他者同士が同一の空間内を行き交うことから，過度にコミュニケーションが生じないように，移動方向や移動速度，視線方向などが制御されている（[1]）．このようなコミュニケーションのダイナミクスをモデル化することで，人社会に受け入れられやすいロボットの振る舞いを設計できると考えられる．
ロボットが人とのコミュニケーションを開始するための接近行動や，衝突の回避や不快感を低減するための回避行動に関する研究は数多くみられる（[2] や [3]を参照）．また，公共場面においてロボットが人の行動を分類または予測し，適切な話しかけ相手の選択と接近を行う手法が提案されている [4, 5]．一方で，エージェント同士のインタラクションをシステムダイナミクスとして記述したモデルはほとんど見られない．エージェントは目的に応じて自律的に行動する存在であるため，自身の行動を促進（または抑制）する内部状態
2 他者への配慮を伴うインタラクシを持つ．エージェント間の社会的なインタラクション
ョンのモデルは，自身の内部状態の値を，状況や他者に応じて調整することで成立し得る．そのため，他者の内部状態を他者への配慮を伴う行動は「他者の行動や内部状態認知するプロセスも含めてインタラクションをモデル（欲求）の推定値に応じた自身の内部状態の調整とそれ化する必要がある．に伴う行動」としてモデル化することができる．そのこれに対して，これまでの研究ではコミュニケーショため，他者への配慮が可能なエージェント間のインタ∗ 連絡先： 静岡大学
ラクションを記述するためには，図 1 に示す変数と関〒 432-8011 静岡県浜松市中区城北 3-5-1
数を規定する必要がある．特に配慮を伴う行動は，相E-mail:sakamoto@sapientia.inf.shizuoka.ac.jp

手の内部状態の値を推定する関数と，推定値に応じて自身の内部状態の相対を調整する関数により表現し得る（図 1 の太線部分）．本研究では，相手が持つ欲求の値の推定値と自身が持つ欲求の値の差分を小さくする関数により，コミュニケーション開始時の配慮を表現する．また，この差分を時間当たりにどれくらいの量で小さくしていくのかを表す量的なパラメータにより，他者への配慮の量を表現する．

内部状態と行動生成の関数 f のみを規定した場合に生成される接近・回避行動を図 2 に示す．

図 1: 他者への配慮を伴うインタラクションを記述するために必要な関数と変数
以下では，２体のエージェント間のコミュニケーショ
ン開始場面における接近・回避行動に基づくインタラクションのモデルについて述べる．内部状態と行動生成，内部状態の推定について，先行研究 [6, 7] と重複する部分については概要のみを示す．

2.1

2.2

内部状態と行動生成

内部状態の値に応じたエージェントの行動生成の関数については先行研究 [6] のモデルを用いる．このモデルでは２体のエージェント A1 ，A2 の間の身体的なインタラクションを環境 x12 = {r12 , θ12 , θ21 } の時間的な変化により表す．なお，r12 は A1 –A2 の距離を表し，
θ12 と θ21 はそれぞれ A1 からみた相対角度の絶対値とA2 からみた相対角度の絶対値を表す．
エージェントの内部状態は行動を促進または抑制する変数を表す．コミュニケーション開始場面における内部状態の変数として，ここでは自身から相手への関与に対する選好（Control）と，相手から自身への関与に対する選好（Acceptance）の２つの変数を扱う．A1の A2 に対する内部状態を S1→2 = (c1 , a1 )，A2 の内部状態を S2→1 = (c2 , a2 ) で表す．
エージェントの行動それぞれは x12 の時間的な変化により表される．A1 の行動を ∆1 x12 は行動生成の関数 f を用いて以下の式で表される．

∆1 x12 = f (x12 , s1→2 ; ϕ1 )図 2: 内部状態の値に応じて生成される接近・回避行動の例 [6](1)ただし，ϕ1 は移動速度の最大値などの行動特性を表す値とする．s1→2 は A1 の内部状態の値を表し，s1→2 =(c1 , a1 ) ∈ [−1, 1]2 とする．

内部状態の推定関数

配慮を伴う行動を生成するうえで，他のエージェントの内部状態を推定するプロセスを扱う必要がある．こ
こでは，先行研究と同様に式 1 の行動生成の関数を用
いて内部状態の推定を行う [7]．A1 が A2 の行動 ∆2 x12から内部状態を推定する場合，x12 は観測可能な変数である．また，ϕ2 は推定しなければならないが，行動特性を表す変数であるため，行動を観察することでおおよそ推定可能であると仮定する．そのうえで，A1 により s2→1 の推定値 ŝ2→1 は関数 h を用いて以下の式で表される．
()(t)
ŝ2
= h x12 , ∆2 x12 , ϕ̂2( ())= argmax L ∆2 x12 ; ϕ̂2(2)ŝ

ただし()L(·) = 1 − l f (x, ŝ) − ∆2 x12 ; ϕ̂2(3)とする．l は 0 ≤ l(·) ≤ 1 となる f により生成可能な行動と ∆2 x12 の差を規格化する関数を表す．これにより，∆2 x12 と最も類似している行動を生成し得る内部状態が推定値になる．このとき，s2→1 は 2 次元の変数であるため，グリッド探索により近似的に解を求めることができる．

2.3

内部状態の変化を表す関数

内部状態の変化は関数 g を用いて表す．行動結果に基づく内部状態の変化のみを扱う場合 A1 の内部状態の変化 ∆s1→2 は以下の式で表される．

∆s1→2 = g(x12 , s1→2 ; ψ1 )(4)

ここで，ψ1 は A1 の内部状態の変化の速さなどの認知的な特性を表す．先行研究と同様に，A1 が A2 に対して配慮する場合の内部状態を変化を表現するために，関数 g を以下の式に拡張する．

∆s1→2 = g(x12 , s1→2 , ŝ2→1 ; ψ1 )(5)

関数 g やパラメータ ψ の値をどのように規定するかによって，そのエージェントがどの程度，相手に配慮するのかが決まる．

2.4

他者への配慮を表すパラメータ

本研究では，他者への配慮を一つのパラメータ ψ の値で表す．内部状態の変数である２つの選好は，一方から他方への関与に対する選好の方向による違いを表していることから，一方の Control の値が他方の Acceptanceの値に対応している．すなわち，一方のエージェントの Control の値と他方のエージェントの Acceptance の値が一致していれば互いの選好が満たされることになる．そこで，内部状態の変化の関数 g を Control と Acceptance の値のギャップをフィードバックするように規定する．具体的には，A1 の内部状態の変化を以下の式で表す．
∆c1 = −ψ1 ∗ (â2 − c1 )(6)

∆a1 = −ψ1 ∗ (ĉ2 − a1 )(7)

このとき，パラメータ ψ1 は A1 が A2 に配慮し自身の内部状態を変化させる量を表す．ψ1 が正の値であるとき，A1 は A2 に配慮した行動を示すようになる．また，
ψ1 の値が大きければ，A1 の内部状態の調整がより速く行われることになる．一方で，ψ1 が負の値を取る場合も考えられる．この場合，相手の選好を満たさないように行動することになり，配慮とは逆の作用を表すことになる．

値を 0.0001，0.0005, 0.01 の３通り設定する．A1 が A2に話しかけようとする場面であることから，A1 の内部(0) (0)状態の初期値を {c1 , a1 } = {0.5, 0.5} とする．また，
A2 は A1 に対する内部状態の値が一定の値よりも小さい場合（|s2 | < 0.3），目的地に向かって一定の速度で移動する．
A2 は A1 に関心がない状態とし，内部状態の初期値(0) (0)を {c2 , a2 } = {0, 0} に設定した場合の軌道を図 3 に示す．なお，図 3 は上部が A1 ，A2 の位置と身体方向の変化を表し，下部が内部状態の変化を表す．図 3 の軌道は左から ψ1 の値が 0.001，0.005，0.01 に対応しており，ψ1 の値が大きいほど A1 が A2 を追いかける動作を止めるのがタイミングが早くなっている．
A2 が A1 の接近に対して拒否的な反応を示す場合の動作は，ψ2 を負の値に設定することで生成できる．ψ2の値を-0.01 にした場合に生じるインタラクションの軌
道を図 4 に示す．A1 の接近に対して A2 の内部状態の値が負の方向に変化している（図 4 の下部右側）．そのため，A2 の軌道は A1 との距離を取るような軌道になっている．ψ1 の値ごとの軌道を比較すると，ψ1 が大きい方が A1 が A2 への接近を中断するタイミングが早くなるため，A2 が A1 を回避する量も小さくなっている．このことから ψ1 の値により A1 の配慮の度合いを表現できていると考えられる．
また，A2 が A1 とのコミュニケーションを望んでいる場合のインタラクションとして，A2 の内部状態の初(0) (0)
期値を {c2 , a2 } = {0.5, 0.5} に設定した場合の軌道を図 5 に示す．この場合は，A1 と A2 の選好が一致しているため，ψ1 の値の差による軌道の差異は生じていない．

3

前節のモデルを用いて，実際に人とエージェントがインタラクションをする場合に，配慮を表すパラメー
タがインタラクションに及ぼす影響を検証するために実験を行う．実験は VR 環境を用いて実施し，VR 環境内で移動するロボットに対する人の反応を分析する．

3.1
2.5

シミュレーション

配慮を表すパラメータの値によって，インタラクションにどのような差異が生じ得るかを検討するため，実際に計算機上でエージェントの軌道を生成する．ここでは，エージェント A1 がエージェント A2 に話しかけようとする場面を想定し，配慮を表すパラメータ ψ1 のVR 環境を用いたインタラクション実験

実験環境

図 6 に実験環境の概略図を示す．実験環境は Unity で構築した VR 環境により行われる．実験参加者は HMD（Oculus Rift）を装着することで VR 環境上の視覚情報を得る．また，センサーを取り付けた靴を履き，すり鉢上のトレッドミル（KATWALK C）の上で行動することで，VR 環境上の移動や方向転換を行う．

図 3: 相手が反応しない場合の配慮を伴う行動の例

図 4: 相手が拒否的な反応をする場合の配慮を伴う行動の例

図 5: 相手が接近する場合の行動の例

図 6: 実験環境

オブジェクトを手渡す役割に従事している」ということも教示される．
まず，実験参加者は KATWALK C で HMD を装着し，VR 環境上での方向に慣れるためにポール間の移動を行う．ある程度歩行に慣れた段階で，練習試行としてロボットが静止した状況においてポール間の移動を 5 回実施し，最後にロボットが持つオブジェクトへの接近を行う. ターゲットに十分接近できた場合はベルが鳴り，次のターゲットの指定が行われる（ターゲットとなるポールまたはオブジェクトが赤色で表示される）．なお，指定されるポールの位置は現在指定されているポールの遠方反対側に位置する３つの中からランダムで決定される．
次に，ロボットがモデルに基づき動作する試行を開始する．ロボットの配慮を表すパラメータは 0.001，0.005，0.01 の中からランダムで決定される．ターゲットの指定は 11 回行われる．指定されるターゲットは５回目と10 回目がロボットが持つオブジェクトで，残りは 9 回はポールが指定される．11 回目の移動が終了した後，終了のブザーがなり試行が終了となる．実験参加者はHMD を外し，KATWALK C から降りた後でアンケー
トの記入を行う．アンケートの記入後，疲労や３ D 酔いの有無を確認し，状況に応じて別のパラメータの値のロボットに対して試行とアンケートを実施する（最大３回の試行とアンケートを実施する）．

3.3
図 7: 実験フィールド
図 7 に示すように，VR 環境上のフィールドの６箇所にポールが設置され，中央にロボットが位置する．ポールは実験課題の目的位置に利用される．ロボットの身体は外観から与えられる情報を少なくするために抽象的な形状のオブジェクトを組み合わせにより構成される．具体的には，体部分は直方体，頭部は円柱のオブジェクトにより構成され，身体方向を示すために頭の一部が黒色に着色されている（図 6）．ロボットは実験条件に応じて前節のモデルに基づき動作する．

3.2

実験課題

実験課題はフィールド内の指定されたポール，または，ロボットが持つオブジェクト（ターゲット）に接近することである．ターゲットの指定はポールやオブジェクトの色を赤色に変更することで行われる．実験
参加者には「ロボットはターゲットの色を判断できず，実験参加者が与えられる課題については知らない」ということが教示される．また「ロボットは自身が持つ分析方法

ロボットの配慮を表すパラメータの値は 0.001，0.005，0.01 のいずれかであり，これに練習試行のロボットが静止した状態の実験参加者の行動を含めて分析を行う．
実験課題としてポールがターゲットとして指定された場合，実験参加者はロボットとのインタラクションを望んでいない状態である．もし実験参加者がロボットの影響を受けていなければ，ターゲットの位置に向かって直線的に進むことができる．逆にいえば，進行方向のベクトルのうちターゲットの向きに対して垂直な成分はロボットを忌避する動きの指標として利用可能である．そこでポールがターゲットとして指定されている場合の参加者の移動に関しては，図 8 の周回成分を評価指標として用いる．
一方で，ロボットが持つオブジェクトがターゲットである場合はロボットへの関与を望んでいる状態に対応している．この場合，ロボットが実験参加者に接近することで実験参加者の移動量を減らすことができる．
そのため，ロボットが持つオブジェクトがターゲットである場合の移動に対する評価指標として実験参加者の移動量を用いる．
なお，現段階における実験参加者は５名でそれぞれの参加者は状況に応じて１〜３回の試行を実施した．

図 8: ロボットを忌避する量の評価に用いる移動ベクトルの垂直成分

3.4

結果と考察

合，下記直線は右肩上りであり，フィールド内での移動を繰り返すうちにロボットを忌避する動作が増加していることを示している．一方で，配慮のパラメータが 0.005 や 0.01 に設定された試行では，練習試行と比較すると増加傾向ではあるものの，0.001 の場合よりも増加傾向が小さい．この値が大きくなる場合は実験参加者が目的位置に対して，遠回りをするような動きをしていることになる．そのため，ロボットの配慮を表すパラメータの値が小さい場合（0.001），ロボットは実験参加者に対して十分な配慮ができていなかったと考えられる．
図 10 は．実験参加者がロボットが持つオブジェクトに向かって移動した際の移動量の合計（移動距離）を表す．練習試行ではロボットが静止した状態であるため，このときの移動量がベースラインになりうる．ロボットの配慮を表すパラメータの値が 0.001，0.005，0.01のいずれの値であっても，実験参加者の移動量は小さい値を示している．そのため，実験参加者がロボットに接近する必要がある場合については，ロボットが適切に接近できていたといえる．

図 9 は，各条件において実験参加者がポールに向かって移動する際に，実験参加者がロボットを忌避するように動いた量を表す．図 9 の Psi はその試行におけるロボットの配慮のパラメータを表し，各グラフの横軸はその試行において何回目の移動（ターゲットの指定）であるかを表す（1〜4 回目, 6〜9 回目，11 回目がポールを目的地点とした移動となる）．また，“STOP” は練習試行を表し，練習試行ではロボットが静止している状態であるため指標のベースラインとなる（ただし練習試行の移動回数は 1〜5 回までである）．グラフ上の直線は回帰直線を表し，灰色の領域が 95%信頼区間を表す．
図 10: ロボットに接近する際の実験参加者の移動量（Psiがロボットの配慮を表すパラメータの値を表し “STOP”は練習試行を表す）

図 9: ポールへ接近する際に生じる実験参加者がロボットを忌避する動きの量（Psi がロボットの配慮を表すパラメータの値を表し “STOP” は練習試行を表す）
ロボットの配慮を表すパラメータの値が 0.001 の場

以上の結果から，人がロボットに対して関わるつもりがない場合については，ロボットの配慮を表すパラメータの値に応じて人のロボットを忌避する行動の量が変化することが示された．また，人がロボットに対して接近するつもりがある場合については，ロボットの配慮を表すパラメータの値に影響はみられなかった．
これらは，シミュレーションで検証した結果と同様の結果であり，本研究のモデルが配慮を伴う行動を記述するモデルとして妥当性を有することを示唆している．
ただし，現段階では実験参加者の数が限られており，十分な分析は行われているとはいえない．また，本実験は VR 環境を用いた実験であり，実際のロボットを用いた実験やフィールド実験を行う必要がある．

4

まとめ

本研究では，コミュニケーション開始場園において接近・回避行動を生成する先行研究のモデルを拡張し，他者への配慮を伴う行動についてモデル化を行った．またVR 環境を用いた実験を行いロボットの配慮を表すパラメータの値によって生じるインタラクションの際について検証した．結果として，配慮を表すパラメータの値が小さい（0.001）場合は，実験参加者がロボットを忌避する行動が増加し，ある程度の大きさの値（0.005 や0.01）であれば増加傾向が抑制されることが示された．
このことから本研究のモデルが配慮を伴う行動を生成するモデルとして妥当性を有することが示唆された．

参考文献[1] Erving Goﬀman. Behavior in public place. Free Press,1963.
[2] Thibault Kruse, Amit Kumar Pandey, Rachid Alami,and Alexandra Kirsch. Human-aware robot navigation: A survey. Robotics and Autonomous Systems,Vol. 61, No. 12, pp. 1726–1743, 2013.
[3] Jorge Rios-Martinez, Anne Spalanzani, and ChristianLaugier. From proxemics theory to socially-aware navigation: A survey. International Journal of Social
Robotics, Vol. 7, No. 2, pp. 137–153, 2015.
[4] Takayuki Kanda, Dylan F Glas, Masahiro Shiomi, andNorihiro Hagita. Abstracting people’s trajectories forsocial robots to proactively approach customers. IEEE
Transactions on Robotics, Vol. 25, No. 6, pp. 1382–1396, 2009.
[5] Satoru Satake, Takayuki Kanda, Dylan F Glas, Michita Imai, Hiroshi Ishiguro, and Norihiro Hagita. A
robot that approaches pedestrians. IEEE Transactions
on Robotics, Vol. 29, No. 2, pp. 508–524, 2012.
[6] Takafumi Sakamoto and Yugo Takeuchi. Simulation ofspatial behavior based on an agent model in humanagent initial interaction. In Proceedings of the 6th International Conference on Human-Agent Interaction,
pp. 310–317. ACM, 2018.
[7] 坂本孝丈, 竹内勇剛. 他者への配慮を伴う接近・回避行動のモデル化. HAI シンポジウム 2021, p. G21, 2021.