立石科学技術振興財団

助成研究成果集(第27号) 2018

課題に内包される「暗黙の了解」の種類が機械に対する相手モデルの適用に与える影響
Implict agreement about artificial agents and the influence
for deciding opponent model in human behavior
2167001

研究代表者

電気通信大学 情報理工学研究科 博士後期課程

浅田麻

菜

共同研究者

電気通信大学 情報理工学研究科

伊藤

毅

志助

教

「暗黙の了解」である機械が実装上はエラーで[研 究 の 目 的］ある文言を返しても，ユーザはそれをウィット第三次人工知能ブームと呼ばれる近年，人間に富んだ返信と認識することすらある。つまり，が「人工知能」(或いは「機械」) とインタラク

機械に対する「暗黙の了解」はユーザビリティションを行う状況は増加している。しかし，この判断に大きく影響を与えることが推測される。

れらのインタラクションの目的は一様ではない

しかし従来のヒューマンエージェントインタラ

ため，相手の機械に対するメンタルモデルもまクション研究においては，この点に着目されるた一様ではない。例えば，スマートフォンに搭ことは少なく，むしろ機械に対する画一的なメ載された対話機能「人工知能」の利用は，汎用ンタルモデルが想定され分析されることが多的な状況下におけるコミュニケーションが目的かった。

であろう。一方，投資の高速自動取引に使用さ本研究では，人間と機械との「暗黙の了解」れる「人工知能」を使用する目的は，投資速度に着目し，機械の使用目的 (課題) が，人間のや正確性であり，コミュニケーションを求める機械に対する表象 (相手モデル) に与える影響ことはあり得ない。このように，同じ「人工知を明らかにすることを目的とする。

能」という言葉を使用しても，その使用目的や[研究の内容，成果］役割に応じて「人工知能」に対し人間が抱くメンタルモデルは「人間らしさ」であることもあ

実験 1：「人工知能」に対する「暗黙の了解」れば，「無機質な正確性」と様々である。
このメンタルモデルの違いが表出する点の一〇 目的と概要

つに，機械に対して抱く「暗黙の了解」の違い

本研究では，「人工知能」と呼ばれる機械にが考えられる。そして，人間は機械とインタラ

対し，一般にどのような「暗黙の了解」が考えクションを行う場合，この「暗黙の了解」を元られているのかを確認するため，インターネッに行動を行う。例えば，「無機質にルールを実ト調査会社の登録パネルを対象とした調査を実行する」ことが「暗黙の了解」である機械が間施した。

違った結果を返した場合，それはバグと呼ばれ〇 調査紙の構成・回答者

る が，「エ ン タ テ イ メ ン ト 性 を 持 つ」こ と が― 1 ―

調査紙では，性別・年齢・職業・居住地に加立石科学技術振興財団が持っていると考えられている能力の平均個数

え以下の 3 項目の質問をした。
1) あなたは「人工知能 (AI)」という言葉は回答者全体で 2.80 個であった。また 20 歳代を聞いたことはありますか。(択一選択)

2.61 個，30 歳 代 2.63 個，40 歳 代 2.89 個，502) あなたは「人工知能」という言葉を聞い

歳代 2.94 個，60 歳代 2.86 個であった (図 1)。

たとき，どのような「能力」を持ってい

図 2 は世代別の個々の「知能」の選択割合でると考えますか。以下の選択肢からあてある。20 歳代，30 歳代，40 歳代では「言語能はまるものを自由に選択してください。

力」が最も選択され，次いで「論理・数学」能(多肢選択)力が選択された。一方，50 歳代，60 歳代では

3) ｢人工知能 (AI)」と聞いて思いつく具体逆に，最も選択されたのが「論理・数学」で，的なモノやサービスを自由にご回答くだ次いで「言語能力」であった。また，この 2 つさい。(自由記述)の選択割合の違いが大きい 30 歳代，40 歳代になお，2) 人工知能の知能イメージを問う設対し，「言語」「論理・数学」能力を選択した割問の選択では，Gardner の多重知能理論で提唱合の差の有無を検定した結果，30 歳代では χ 2された 7 個の知能 (1987 年) に提案された言(1, N=311)=3.29, p=0.0697, 40 歳 代 で は χ 2 (2,語能力・論理数学能力・音楽能力・身体運動能N=370)=2.82, p=0.0930，であり 5 % 水準で帰無力・空間能力・対人能力・内省能力) を選択肢

仮説を棄却できなかった。

として使用した。なお，馴染みのあまりない能力も含まれるためそれぞれの選択肢には 20〜30 文字程度の説明文を付加した。また各選択
肢の表示順は，回答者によってランダムに表示されるようにした。
な お，回 答 者 は 合 計 1601 人，内 訳 は 男 性
832 人，女性 769 人，年齢層は 20 歳代 244 人(M=26.4 歳，S. D.=2.42 歳)，30 歳 代 311 人(M=35.2 歳，S. D.=2.89 歳)，40 歳 代 370 人(M=44.5 歳，S. D.=2.78 歳)，50 歳 代 319 人(M=53.7 歳，S. D.=2.44 歳)，60 歳 代 357 人(M=44.5 歳，S. D.=2.74 歳)。

図1

世代別「人工知能」の知能個数〇結果1) ｢人工知能」の認否｢人工知能」という語を「聞いたことがある」「聞いたことが無い」「わからない」という選択
肢 に 対 し て，「わ か る」と 答 え た の は 全 体 の95.8% であった。年齢層別に見ると，最も低い
30 歳代で 94.2%，最も高い 50 歳代で 97.2% であった。この 2 群の比率の差を検定したとこ
ろ p=0.066, 95% 信頼区間は [0.944, 0.971] であった。
2) ｢人工知能」の知能イメージ
7 個の「知能」の選択肢に対し，「人工知能」― 2 ―図2世代別「知能」選択結果

Tateisi Science and Technology Foundation

ら，本研究で得られた知識イメージは世代を超えた共通する知能イメージと考えられる。次いで，「人工知能」の知能選択の設問では，7 個の「知能」に対し 2 個前後が選択され，その回答の多くが「論理・数学」「言語能力」を含むこと，またその傾向は年代による差が無いことが確認できた。子安は，多重知能説で列挙され図3た 7 個の知能を相互関係から 3 種類の分類し，「言語」「論理・数学」能力の選択状況

ここで選択された「論理・数学」「言語能力」に「空間能力」を加え技術的 (学校) 知識[子更に，「言語」「論理・数学」能力を選択した

安，2005] と 分 類 し た。つ ま り，現 時 点 で は場合，どちらか一方のみを選択した場合と，両「人工知能」という語は学校的知能という語を方とも選択した場合は図 3 のような結果になっ総合した語であるという「暗黙の了解」が世代た。こ の と き，各 年 代 で「言 語」の み，「論を超えて共有されていると考えられる。
しかし一方で，「人工知能」に対して芸術的理・数学」のみを選択した人の割合に有意差は知能・人格的知能が含まれると考える回答者，確認できなかった。
また，全体のデータに対し，各「知能」と知すなわち，選択知能個数が 6 個以上の回答者群

能の選択個数の間の連関を求めるため，クラメが存在した。この点について，3) の「人工知ルの連関係数を求めた。結果，全体のデータに能」に対する自由記述欄に対し，6 個以上の知対 し，連 関 係 数 が 0.650 を 超 え た 組 合 せ は，能を選択した回答者を対象に分析を行った (紙「音楽能力」「選択知能個数」(0.726)，「内省能面 の 都 合 で 割 愛)。結 果，よ り 詳 細 な 知 識 を力」「選択知能個数」(0.688)，「空間能力」「選持った回答者や，実際にインタラクションを択知能個数」(0.679) の 3 組だった。これらに行った経験を記述した回答者が，選択知能個数対し，残差分析を行った。「音楽能力」「個数」が 1 個〜2 個の回答者より多い傾向にあった。

で調整済み標準化残差が 2 を超えたのは，「音このことから，実際に記憶に残るような深いイ楽能力」を選択せず，「選択知能個数」が 1 個ンタラクションを行った経験や，人工知能技術

か ら 3 個 だ っ た 場 合 (そ れ ぞ れ，15.9, 8.28,について調べた経験が，人工知能に対する知能2.51) と，「音楽能力」を選択し，「選択知能個イメージを変化させる可能性があることが示唆数」が 4 個 か ら 7 個 の 場 合 (そ れ ぞ れ 5.23,される。つまり，現時点では「人工知能」を学10.0, 11.9, 19.8) であった。連関係数が 0.65 を校知的なイメージでとらえるのが暗黙の了解と超えた他の組み合わせでも同様，「内省」「空なっていても，将来的にそのメンタルモデルは間」能力を選択しなかった人は「選択知能個変化していく可能性があるといえるだろう。
一方で，この調査では，個人間の機械に対す数」の数が少なく，逆に選択した人は「選択知能個数」の数が多い結果だった。

るメンタルモデルの違いが，行動レベルでどの〇 考察

ような影響が出るのかについてまでは確認する

本研究では「人工知能」に対し，どのようなことができなかった。そこで，以下実験 2 では，知能が「暗黙の了解」として捉えられているの実際にインタラクションを行っているときの状かを調べるため，大規模質問紙調査を行った。

態を分析することで，機械に対する「暗黙の了まず「人工知能」という語の認否を確認した結解」が行動レベルでどのような影響が出ている

果，世代間に認否の差はなかった。このことかのかを確認する。

― 3 ―立石科学技術振興財団

実験 2：「暗黙の了解」と生体反応への影響〇 背景と目的近年，将棋プログラムは 2015 年に情報処理学会が人間の棋士を超えたという宣言をする程に強く，実際，トッププロ棋士との公式対局でも度々勝利している。このことは多くの将棋プ
図4

レイヤにとって将棋プログラムが強いモノであSCR 計測装置(左)，実験風景(右)るという暗黙の了解を抱かせるのに十分な役割を果たしている。本実験では，将棋プログラム将棋部に所属する学生である。また，S は実験を使用し，実際にインタラクションを行った際

1 日目に H-nonH 条件で 2 局対局(1 勝 1 負)，にこのような暗黙の了解が行動にどのような変実験 2 日目に nonH-nonH 条件で 1 局対局(1化を与えるのかを調べた。

負)した。
インタビューは 2 日目の nonH-nonH 条件の〇 実験概要
本実験ではアマチュア有段者を対象に実施し対局終了後に実施した。まず，将棋プログラムた。実験時は全てオンライン上で実施した。そとの対局をするといわれたとき，どう思ったの際，対局相手はプログラムだが対局前に相手か？という質問に対し，S は「警戒していた。

が人間だと伝える場合 (H-nonH 条件) と，相普段，対人間で指している指し方とは変えよう

手がプログラムであると伝える場合 (nonH-と思った。コンピュータだと，序盤から苦しいnonH 条件)，そして相手が人間だと伝え，実と多分，負けるので，序盤は安全に行こうと際に人間と対局する場合 (H-H 条件) の 3 条思って…」と発言した。また，H-nonH 条件で件で対局した。なお，*-nonH 条件の対局で使の対局が実際には人間相手での対局ではなかっ用した将棋プログラムには，仲道らによって提たことを伝えた後に感想を聞くと「人間が相手案された接待将棋プログラムを使用した [仲道，だったら，序盤は角交換をすればよかったで2016]。このプログラムは形勢に対する評価値す。
」と発言。また，人間との対局とプログラがゼロに近づくような指し手を選択することでムとの対局の違いについて尋ねると，「今日勝ち過ぎない挙動をするプログラムである。つ(nonH-nonH) は 安 全 に 行 き ま し た が，昨 日まり，相手の指し手によってはプログラムで導(H-nonH)は，結構，雑な部分があったかなと出した最善手ではない手を選択する将棋プログ思います。人間だと思っていましたので，」とラムのため，将棋プログラムは常に最善手を指発言した。これらの発言から S は，将棋プロすという参加者の暗黙の了解とは異なる挙動をグラムの終盤での計算能力の高さという暗黙のする。

了解から，序盤に積極的な指し手を選ぶという実 験 は，左 手 に 皮 膚 コ ン ダ ク タ ン ス 反 応行動意識したことがわかる。実際，SCR の結(SCR) を計測装置端末を装着し (図 4 左)，右

果は精神性発汗の程度を 0〜10 の 11 段階 (レ手でマウス操作で将棋の対局をした (図 4 右)。

ベル 0 が発汗が計測されない程弱い状態，レベSCR 端末を装着後，精神性発汗のデータを以ル 10 が 強 い 精 神 性 発 汗) で 表 示 さ れ る が，外を除去するためのキャリブレーションを行っ

H-nonH 条件の 2 局目でレベル 6 を超えるようた後に実験を実施した。

な強い精神性発汗があったのは，27 手目に相〇 結果と考察手が想定外の手を指してきた直後のみで，そここでは，実験参加者 S の結果を中心に説れまでは レベル 2〜3 程度であった。一方で明をする。S 自身はアマチュア高段者で，大学

nonH-nonH 条件では対局開始時にはすでにレ― 4 ―Tateisi Science and Technology Foundation

ベル 7 程度の精神性発汗が観測され，その後も点として，インターネット調査の回答者の質の終盤近くまで継続して強い精神性発汗が確認さ問題がある。先行研究では，質問文を読まずにれた。このことから，S は，実際には最善手を回答する回答者が一定数存在することが指摘さ指さないプログラムとの対局にもかかわらず，れている。本研究ではこれを踏まえ，質問文は将棋プログラムは強く，また最善手を指すとい簡潔で，短文になるようにすると共に，選択肢う暗黙の了解により，人間が相手だと思い込んはランダムで表示されることによって，質問文だ場合と異なる行動をしたことが確認できた。

を回答しないで回答する回答者の影響を低減するようにした。また 2 つ目の問題として，インターネット利用者数の世代間の違いについて検[今後の研究の方向，課題］討する必要がある。総務省の発行した平成 29
本研究では人間の人工知能や機械に対する年度版情報通信白書では，2016 年時点でのイ「暗黙の了解」を調査するとともに，その「暗ンターネット利用者数は 20 歳〜59 歳では 90%

黙の了解」が行動や生態データへどのように影を 超 え て い る 一 方 で，60〜64 歳 で は 83.3%，響するのかを調べた。結果，機械・人工知能に665〜69 歳では 69.4% と報告されてる。このこ

対しては人格的な知能を持つことは共有されてとから，特に 60 歳代以上のサンプルについておらず，学校知的な知能が暗黙の了解として世は，同世代の中でも ICT 機器に対し，知識が代を超えて共有されていること，また機械に対豊富な人が回答した可能性があると考えられる。

する暗黙の了解は実際の状況と異なっていてもこの点は今後，複数の調査方法を混合するなど人間の行動を変化させる可能性があることが確して検証する作業が今後併せて行っていく必要認できた。今後は更に，この暗黙の了解がインがあると考える。

タラクションの中でどのように変容していくのかについて調べていきたい。

[参考文献]

なお今回の実験結果について，特に，実験 1[仲道 2016]

仲道隆史，伊藤毅志，プレイヤの技能にの結果がインターネット調査会社を使用した点

動的に合わせるシステムの提案と評価，情報処理学は留意すべき点であると考える。1 つ目の問題会論文誌，57(11), pp. 2426 - 2435 (2016)．

― 5 ―