HAI シンポジウム2014
D-1

Human-Agent Interaction Symposium 2014

メタ相手モデルがエージェントとのインタラクション時の思考過程へ与える影響
The Influence of Meta Opponent Model on Human Agent Interaction
浅田 麻菜 1

伊藤 毅志 1

Mana ASADA1, Takeshi ITO1
11

電気通信大学 情報理工学研究科
Graduate School of Informatics and Engineering, The University of Electro-Communications
Abstract: Although deep reasoning for opponent facilitates the communication of people, whether it canapply for artificial agent or not has been uncertain. In this research, we defined “meta opponent model” asthe reasoning about the opponent who has opponent model about “me”, and confirmed that it can beappear or not with strategic task and verbal protocol experiment. This result indicated the possibility thatusing top-down thinking process enable people to think meta opponent model for artificial agents.

1

はじめに

近年、飛行機の自動操縦システムや自動車の運転アシストシステムなど，知的な人工システムが我々の行動を支援する状況が急速に増えている．一方で，急速に知的になったシステムに対する人間の理解不足が重大な事故を引き起こす場合もあり，知的な人工物と使用者である人間のインタラクションや人工物との円滑なコミュニケーションは現代において大きな問題となっている[1][2]．これは、人間側が人工物に対して「適切な相手モデルを持ちづらい」ことが一因として考えられる。
一方で，人間間のコミュニケーションでは、相手の中に心の存在を推測する「心の理論」や、それを再帰的に利用した「高次の心の理論」を利用することで豊かなコミュニケーションを行っている。例えば、相手の嘘と皮肉の識別には 2 次の心の理論、また冗談や、物語文の理解についても 2 次以上の高次の心の理論が使用されていることが指摘されている[3] [4]．また，このような高次の「入れ子構造の推論」を用いた方略の存在について Stuhlmüller らは、ベイズネットに基づいたモデルシミュレーションを行うことで，言語理解だけでなく二人ゲームにおいても高次の心の理論を使用していると説明している[5]．
このような高次のインタラクションが行えることが、人間と人工物とのコミュニケーションとの違いであるとも言える。

151

言い換えると、人間が人工物に対しインタラクション感の不足を感じるのは，「相手」としての人工物に対する高次の推論の不足が一因であると考えられる．そこで本論文では，「相手が『自分に対するモデル』を持って推論をしている」という思考モデルを「メタ相手モデル」と定義し、人工物とのインタラクションにおいてもメタ相手モデルが使用できるかについて確認することを目的とする。
なお「高次の心の理論」における推論の深さは次数で表現されることが一般的であるが、この次数についての定義は定まっていない。本研究で扱う推論の深さについても、「志向意識水準」としての「心の理論」を定義する場合 3 次とされるが、じゃんけんなどのゲーム課題のように相互的なインタラクションを扱う研究では 2 次と定義される[6][7]。次数で議論すると混乱が生じる恐れがあるため本研究では「相手モデルを意識したより深い相手モデル」という意味で、「メタ相手モデル」という用語を用いることにする。

2関連研究

インタラクションの相手が人間か人工物であるか否かが、人間の思考に影響があることが指摘されている．高橋らは 2 種類の記号から 1 種類の記号を 2 人が同時に選択し、選択された組み合わせにより得点を競う二人ゲーム「マッチングペニー課題」を、相手が人工物である場合と人間である場合について行い，その際の記号選択行動の変化と fMRI による脳活動の変化を調べた[8]．結果，相手が人間だと感じることで記号選択行動が複雑化し，社会性に関わるとされる脳の部位で賦活が確認できたとした．しかし，この実験で使用されたマッチングペニー課題は非常に単純で，自己の選択履歴と得点履歴から相手の手が再生できるため，相手について考えているかどうかわからないという指摘がされている[9]．また，
本研究で着目する、メタ相手モデルのような思考の深さについても議論されていない．
そこで、本研究では，メタ相手モデルが人工物を相手にした場合でも使用されるのかについて，相手に対する思考を必要とする課題を用いた実験で検証することを目的とする．

3

実験

3.1

実験参加者

本実験には大学生 8 名（男性 5 名，19.8±1.04 歳，右利き）が参加した．また，実験参加者には開始前に実験概要を文書と口頭にて説明し，同意を得られた参加者のみが実験に参加した．

図 2 は本課題における利得表と記号ごとの選択可能戦略である．例えば「イチゴ」は，相手が同じ記号を出した際に最も点数が高くなる相手に対して協調的な行動を行う「協調的」行動である．一方「ブドウ」は，相手が「協調的」行動であるイチゴを選択した場合に最も得点が高くなる，「敵対的」な行動となる．そして「ミカン」は「イチゴ」と「ブドウ」に対して，中間的な戦略を持つ行動である．実験参加者には，実験開始前に十分に本課題について練習を行わせ，利得表の概要と各記号の持つ戦略的な意
味については学習させてから実験を実施した．また，高得点を取るモティベーションを高めるために得点に応じて謝金を増減させた．

図2

3.3 手続き

3.2 使用課題
実験では、3 種類の記号（イチゴ，ミカン，ブドウ）から 1 種類の記号を同時に選択する課題を作成した．
制限時間内（発話プロトコル実験：20 秒に 3 種類の記号の中から 1 種類を選択し，制限時間終了後に両者が選択した記号が同時に表示され，実験参加者と相手エージェントが選択した記号の組み合わせにより得点が得られる．この一連の動作を 1 試行とし，条件ごとに 20 試行を連続して行わせた．
なお、本課題での提示画面ではキャラクタなどの身体性を持ったエージェントを提示は行わなかった(図 1)。これは、モダリティの付加によるインタラクションの質に対する影響を結果から除外し、純粋な思考過程のみに着目するためである。

実験では，実験参加者全員に対し，実験中の思考を発話させながら実施する「発話プロトコル実験」と，fNIRS で脳血流量の計測を行う「fNIRS 実験」の 2つの実験を実施した．
実験では始めに、実験についての説明を行いその後，30 分程度，課題の練習を実験者が相手となり行った．そして，発話プロトコル実験，fNIRS 実験を行わせた．また発話プロトコル実験，fNIRS 実験の間では，10 分程度の休憩時間を設けた．

3.4 実験条件
本実験では各実験参加者に対して 4 つの条件で実験を実施した（表 1）．
4 つの条件は，3 種類の動作の異なる対戦相手プログラムと，2 種類の相手に対する教示で構成された．
表1

使用プログラムの挙動

L 条件

実験参加者の直前試行の選択記号を選択

P 条件
PH 条件

提示画面

152

各条件と使用プログラム

条件名M 条件

図1

課題の利得表と選択行動

実験参加者の直前 3 試行の選択記号の多数決により選択
実験参加者の第１試行から直前試行までの選択記号に応じてルーレット式に選択
P 条件と同プログラム．
ただし，相手が人間であるという教示

【L 条件】は，実験参加者が直前試行で選択した記号を選択する「直前型」のプログラム，【M 条件】
は実験参加者が直前 3 試行で選択した記号の多数決でプログラム側が記号を選択することで直近の選択傾向を反映する「直前傾向型」のプログラム，また【P 条件】では実験参加者が同一条件・同一実験内の試行で選択した全試行の記号選択割合に応じて 1～100 までの番号が記号ごとに帯状に付番され，同様にランダムに選択された 1～100 迄の数字を含む帯に対応する記号を選択する「ルーレット式」の選択を行うプログラムである．また，【L 条件】【M 条件】【P 条件】では，対戦相手がプログラムであることを明示した．一方，【PH 条件】は【P 条件】と同様プログラムを使用した上で，「対戦相手が人間である」と教示を与えた．また，実験参加者に相手が人間であることを信じ込ませるために，スタート画面と課題画面の間にネットワーク上での接続を確認していることを連想される「connecting」画面を 20 秒提示した(図 3)．

表2
分類項目

分類基準

アルゴリズム
予測

相手の記号選択方略やアルゴリズムを予測する発言

相手の手の予測

相手の選択記号を予測する発言

自分の手の選択

自分の記号選択結果の発言

予測の検証

相手の選択記号や選択アルゴリズ
ムへの予測に対して検証する発言

履歴想起

相手や自分の過去の選択履歴を想起する発言

ルール・得点確認

残り試行数や利得表の得点等、ルールに関する発言

相手モデル

相手の存在を考慮した発言．但し，選択記号の予測はこれに含まない

不明・その他

発言内容の意味が不明な場合や，上記分類項目に含まれない発言

表3

図3

分類項目と分類基準

発話分類項目と参加者群の分類

P 条件(上)・PH 条件(下)における画面遷移※ ×は該当の実験参加者群には含まれない発話項目

4結果【G 群】には 2 名の実験参加者が分類された．そして「相手モデル」項目の発話が確認された，相手に対する思考を行ったとされた【M 群】には 4 名の実験参加者が分類された．

4.1 発話プロトコル
4.1.1 実験参加者の分類
発話プロトコルについては，発言内容をすべて文字に起こし，その意味内容に応じて分け，それぞれに対し「アルゴリズム予測」「相手の手の選択」「自分の手の予測」「予測の検証」「履歴想起」「ルール・得点確認」「相手モデル」「不明・その他」の 8 項目に分類を行った．表 2 は各項目の分類基準である。
上記の分類結果から，実験参加者の課題方略に応じて 3 群に分類した．
【R 群】は反射的に課題を行った実験参加者群で予測に関連する発話項目（「アルゴリズム予測」「相手の手の予測」「予測の検証」）を何れの条件下でも確認できなかった場合がこれに該当する．結果，2 名の実験参加者が【R 群】に分類された．一方，【G 群】は予測に関連する発話項目は確認できたが、「相手モデル」に該当する項目が存在しない，ゲームとして課題をこなした実験者群である．

153

4.1.2 相手モデル・メタ相手モデル
人工物に対するメタ相手モデルの存在について検討するため，「相手モデル」についての発言が存在する
M 群に分類され実験参加者の発話について着目する．

・相手モデルM 群 4 人における「相手モデル」を持ち思考を行っているとみなせる発言は，PH 条件の場合は 4 人全員で確認できたが，P 条件，つまり相手がコンピュータであると教示を受けた場合にも確認できたのは1 人のみであった．この実験参加者 M4 の P 条件，PH 条件における第 1 試行の発話を示す．
（下線は「相手モデル」に分類された発話である．）

実行していることを疑うが，その後の発言で，相手が人間だからそのような単調な選択はしてこないはずだと否定している．この発言から M4 が人間は「複雑」な行動をするというモデルを持つことが推察される．
一方，M2 の発話では，第 10 試行での発言や第 12試行目での発言より，相手の選択規則を予測できず，「複雑」な行動をしていることを M2 が認識しているがわかる．しかし，それにも関わらず，相手の意図が理解できないと発言している．つまり，このことから M2 は行動が「複雑」であることよりむしろ，行動に対して「意図帰属」が可能だという人間のモデルを強く持つことが推察される．このことから，同様に「相手モデル」について言及した場合でも，実験参加者によって異なる「人間」のモデルを持つことが示唆された．

【M4・P 条件・第 1 試行】

とりあえずブドウ，ブドウ，・・0 点になる・・まずミカンを選んでいきます．さあ，相手がどうなるか？
【M4・PH 条件・第 1 試行 (一部)】

さー，で，最初，相手がヒトなので，相手も多分，高得点狙ってくるとは思うんですけど，どうなんだろうな，どっちもブドウ，ブドウ選んで終わっちゃうので（以下省略）

・メタ相手モデル
前述のような「相手モデル」に分類される発話の中で次のような，自己に対する発言が確認できた．
【M1・PH 条件・第 6 試行】

4.2 思考時間と思考方略の変化

オレンジ出してきたので・・次，多分，ブドウを出すと思ってるから・・・イチゴぶつけ・・えー，勝負つけてくるのか？
このような「相手モデル」項目の発言の中で，自己に言及する発言は，形成した相手モデルにより自己のモデルを想定している思考，つまり，メタ相手モデルを利用しているとすることが出来る．なお，このようなメタ相手モデルを持ったとみなせる発言を行ったのは M 群の実験参加者 4 人中で 1 人であった．

発話プロトコルから、課題に対する思考方略に複数の種類が確認できた。ここではメタ相手モデルの使用を確認できた実験参加者 M1 の、P 条件と PH 条件下における発話プロトコルを比較する。なお、実験参加者 M1 の発話プロトコル全文については付録に掲載した。

4.2.1 方略の分類
発話の分類結果から次の 4 種類の思考方略を定めた。

・「人間」モデルの違い
・「相手モデル方略 （M）」
発話項目として「相手モデル」を含む思考方略
・「仮説-検証方略（HT）」「アルゴリズム予測」の発話の後や、「相手の手の予測」の発話の後、その予測を検証することで記号選択する方略
・「確率的方略（P）」「履歴想起」の発話項目は含まれるが、「アルゴリズムの予測」発話が無く、「自分の手の選択」項目が発話された場合の記号選択方略
・「トップダウン方略（TD）」
発話項目として「自分の手の選択」が出る以前にその判断の元となる情報が過去の履歴から収集されていない場合の記号選択方略

M 群の実験参加者の相手モデルについての発言の中でどのような人間像が想定されているかに着目する．以下は，PH 条件における実験参加者 M4 の第 6試行目での発話の一部と，同 M2 の第 12 試行目での発話である．
【M4・PH 条件・第 6 試行】（略）イチゴミカンブドウ，イチゴミカン・・ブ

ドウ・・いやー，そんな単純だった，はずは，えーっと，とりあえず，ミカンですかね，次はきっと．
【M2・PH 条件】

はっ？なにこれ．何がしたいんだ？・・・ブドウ・・
ミカン，ブドウ・・イチゴ出しとく・・ミカンだったりする？（第 10 試行）

4.2.2 分類結果と思考時間
ミカン率の高さ・・えー，何しているのかわからない，この人．うー・・ミカン・・こうするとまたブドウが来る気が．（第 12 試行）

表 4 は実験参加者 M1 の P 条件・PH 条件での各試行
における思考時間と、その際の方略を上の基準で分類したものである。なお図中の M, HT, P, TD の記号はそれぞれ「相手モデル方略」「仮説-検証方略」「確率的方略」「トップダウン方略」の意味である。

1 つ目の M4 の発話では，相手が「イチゴ→ミカン→ブドウ」という単調な記号の選択アルゴリズムを154論を方略として使用していることを感じると，2 次の心の理論（本研究での「メタ相手モデル」）の適用を始めると主張している[11]．つまり，本研究おいて実験参加者は「相手が人間である」という教示により、もともと保持していた「人間」に対する表象をトップダウン的に人工物に対し適用し「相手モデル」が形成され、そこから更に、相手も「相手モデル」を使用すると考えた結果，最終的に更に深い推論である「メタ相手モデル」の使用を始めるという思考の流れが存在したことが考えられる．
一方で、今回の実験で「メタ相手モデル」の要因とはなっていないものの一つに、「相手」プログラムの挙動が考えられる。このことは「相手モデル」に含まれる発話が PH 条件以外では確認できなかったことから示唆される。これには、本実験での使用課題が実験参加者にとって初見の課題であったため本当に相手が人間であった場合の挙動の知識がなく判断が出来なかったことも影響していることが考えられる。

5.2 思考方略の変化
図45

各試行における思考時間(秒)と分類方略

考察

5.1 メタ相手モデルの手法的・心的基盤
PH 条件下において実験参加者の半数で相手モデルを持つ思考を確認でき、更にその中の 1 人についてメタ相手モデルを持つ思考を確認出来た。ここでは、
M 群の実験参加者が相手モデル・メタ相手モデルを使用した要因について考察を行う。
まず 1 つ目の要因のとして、手法的基盤の存在が考えられる。信念課題を用いた高次の心の理論研究
では、手法として課題の得点に応じた報酬が必須であることが指摘されている[9]。これは、実験参加者に課題に対して実験者の意図通りの目標を持たせる効果があるだけでなく、高次の心の理論という複雑な思考を使うことへの動機づけとするためである。
本実験のような繰り返し実行する課題においても課題に応じた報酬という手法が、メタ相手モデルが使用されるための手法的基盤となっていることが考えられる。
2 つ目の要因として、相手モデルの存在がメタ相手モデルの心的基盤になっていることが考えられる。
Hedden らは階層的な心の理論の適用について実験を行った結果，高次の心の理論の適用過程について，当初は 1 次の心の理論（本研究での「相手モデル」）を使用するが，敵対的な相手が同様に 1 次の心の理155実験結果では、参加者がメタ相手モデルや相手モデルを含む「相手モデル方略」を使用した場合においても、一連の課題の中で「仮説-検証方略」や「確率方略」などを組み合わせていることが確認できた．
相手の存在により課題の思考方略が変化することは、過去の研究においても指摘されている。例えば、時田は可能性判断場面において、出題者に意図性を感じた場合は相手の中に心の存在を考慮した心の理論を用いた推論方略を用いるのに対し、意図性を感じない場合は確率的推論方略を用いると指摘している[6]。また、このような課題に対する思考をベイズモデルと再帰的構造を用いて計算レベルでのモデル化を試みた研究もある [5].しかしながら、これらで使用された課題は、実施が一度限りの課題で、連続的な判断を要する本実験のようは課題では、単一の方略によるモデル化は困難であることが考えられる。
実際、相手が人工物だと思い込むか否かに関わらず、本課題において実験参加者は複数の方略を用いていることが実験結果により確認されている。人間と人工物とのインタラクションにおいても、一度限りのインタラクションだけで完結する状況より、むしろ繰り返しのあるインタラクションを求められる状況が今後増加していくことが考えられる。このような場合に、人間が人工物に対しメタ相手モデルを持った人間が方略を動的に変化させながらインタラクションを行うというモデルの実現が、人工物との間に豊かなインタラクション感を生み出すために必要だと考える。

6

reasoning by nested conditioning: Modeling theory of

おわりにmind with probabilistic programs, Cognitive Systems

本研究では，人間同士で用いられる「相手に対するモデルを通して形成された自己のモデル」をメタ相手モデルと定義し，このような「入れ子」状の深い推論が人間と人工物のインタラクションにおいても適用されることが可能かどうかについて検討した．
そのために相手に対する思考が必要な課題を用いて実験を行い，その際の発話プロトコルについて分析を行った．その結果，実験参加者の一部において，「相手が人間である」という教示を与えた場合に，メタ相手モデルを持ち得たと思われる発話を確認することができた．このことから，人間は人工物に対してもメタ認知を持ちうること，また，持たせるためには一定の複雑性を持つ反応と適当な教示が必要であることが示唆された．
しかし一方で，同様の教示を受けながら全く相手モデルについての発話が確認できなかった実験参加者や相手が人間だと感じても記号の選択方略に変化が確認できない実験参加者も見られた．この違いは何に起因するかについては実験参加者数が十分でないため，発話データも不足しており，この原因を特定するに至らなかった．今後は，より多くの実験参加者に対し同様の実験を行うことにより，メタ相手モデル持ち得た実験参加者とそうでない実験参加者の比較を詳細に行うことで，人工物に対する人間の思考方略について更に検討していきたい．さらに，メタ相手モデルが実際に豊かなコミュニケーションの実感につながっているのかについても， 調べていきたい．

謝辞
本研究は JSPS 科研費（基盤研究 B）25280130 の助成を受けたものです．

参考文献[１] 国土交通省,平成 24 年度 国土交通白書 (2013)[２] 前東 晃礼, 三輪 和久, 寺井 仁: 自動化システムの使用と信頼の役割, 認知科学 Vol.21, No.1, pp.100-112,(2014)[３] 林 創: 児童期における再帰的な心的状態の理解, 教
育心理学研究, Vol.50, No.1, pp.43-53, (2002)[４] Bethany Liddle, Daniel Nettle: Higher-order theory ofmind and social competence in school-age children,
Journal of Cultural and Evolutionary Psychology, Vol. 4,No.3-4, pp.231-246, (2006)[５] A.

Stuhlmüller, N.D. Goodman: Reasoning about

156

Research, Vol.28, pp.80-99, (2014)[６] 時田 真美乃: 確率判断課題における「心の理論」の優先性 : Monty Hall Problem の変形問題を用いて,認知科学, Vol.13, No.1, pp.125-128, (2006)[７] Harmen de Weerd, Rineke Verbrugge, Bart Verheij: Howmuch does it help to know what she knows you know? An
agent-based simulation study, Artificial Intelligence, Vol.
199–200, pp. 67-92, (2013)[８] 高橋 英之, 岡田 浩之: 社会認知における「社会的思い込み効果」の役割とその脳内メカニズム, 認知科学,
Vol.18, No.1, pp.138-157, (2011)[９] 佐藤 友美, 大塩 立華, 吉田 和子, 石井 信; 他者の内部状態推定と行動予測を用いた意思決定モデル,
電子情報通信学会技術研究報 NC, Vol.107, No.413,pp.73-78, (2008)[１０]

Andrew M Colman: Depth of strategic reasoning ingames,Trends in Cognitive Sciences, Vol,7, Issue 1,pp.2-4, (2003)[１１]

Trey Hedden, Jun Zhang: What do you think I think

you think?: Strategic reasoning in matrix games,
Cognition, Vol.85, Issue 1, pp. 1-36, (2002)

付録
実験参加者 M1 の P 条件，PH 条件における全発話を示す．なお，表中の各項目は以下の意味である．
・試行回数
該当の条件（P 条件，PH 条件）内における，試行回数．1 条件辺り 20 試行を行った．
・人間選択手／COM 選択手
実験参加者／相手プログラム側の選択した記号の種類．各数字は以下の意味である．
－0：イチゴ－1：ミカン（オレンジ）－2：ブドウ・発話
実験参加者が発した発話の内容．なお，文中のスラッシュ（／）は分類項目で分類するための区切りで，ドット（・）は，実験参加者が無言であった部分を意味する．
・分類
上記で区切った発話について，その意味内容ごとに分類を行った結果である（分類基準については表 2）．また，各数字はその分類項目に該当する発言が，同一試行内の区切られた発言間で発せられた順番を意味する．

付録 1

実験参加者Ｍ1・P 条件・全発話

付録 2

実験参加者Ｍ1・PH 条件・全発話

157