JAIST Repository
https://dspace.jaist.ac.jp/

Title

顔表情識別器を用いた非同調反応がもたらす人とロボットのインタラクション特性の解析

Author(s)藤原, 秀平

CitationIssue Date

2020‑03

Type

Thesis or Dissertation

Text version

author

URL

http://hdl.handle.net/10119/16377

RightsDescription

Supervisor: 小谷（融合科学）

一孔, 先端科学技術研究科, 修士

Japan Advanced Institute of Science and Technology

修士論文

顔表情識別器を用いた非同調反応がもたらす人とロボットのインタラクション特性の解析

1850005

藤原 秀平

主任研究指導教員

小谷 一孔

北陸先端科学技術大学院大学
金沢大学（融合科学）

令和 2 年 3 月

顔表情識別器を用いた非同調反応がもたらす人とロボットのインタラクション特性の解析
Analysis of Human-Robot Interaction using Asynchronous Responses
based on Facial Expression Information
北陸先端科学技術大学院大学 1850005
氏名 藤原 秀平
主任研究指導教員氏名 小谷 一孔
1. 序論
人とのコミュニケーションに主眼をおいたロボットが社会に普及しつつある。人とロボットが共生する時，
我々はこのようなロボットに対して，人に対して思うのと同様に自身の気持ち（感情）をくみ取った言動を期待する。ロボットが認識した感情に対して行動を選択する方法として同調反応がある[1]。同調反応とは意
識的か無意識的かを問わず，他者の行動と同じ行動を起こす反応を指す。例えば，悲しんでいる人に対して一緒に悲しむ反応は同調反応である。一方で人同士のコミュニケーションについて考えると，一緒に悲しむという同調反応をする人だけでなく，そっとしておく人やなだめる人，笑って励ます人もいる。このような同調反応以外の反応を非同調反応と呼ぶこととする。非同調反応が人とロボットのコミュニケーションにもたらす効果を解析することで，ロボットは現在より複雑な反応を選択出来る。本研究では人とロボット間の感情を伴うインタラクションにおいて，非同調反応に着目し，反応の違いがインタラクションに及ぼす効果
を顔表情識別器の類似度から得られる評価値を用いて定量的に解析することを目的とする。
2. インタラクションシステム
システムは図 1 のようにロボットとサーバで構成し，ロボッ
トには RoBoHoN を，顔表情識別器には EMC[2]を用いた。
表情の取得は以下のように行う。
①人はロボットに対してトリガー（表情）を表出する②ロボットは人の顔画像（変化前の顔画像）を撮影しサーバへ送信する③サーバは画像を顔表情識別器へ入力し表情認識を行う④サーバは予め登録した反応辞書から反応を決定し，動作命令をロボットへ送信する⑤命令に応じてロボットが反応し，インタラクションが生じる⑥再度画像を撮影し保存する（変化後の顔画像）

図 1 インタラクションシステム

これによりインタラクションによる顔表情の変化前後の顔画像が取得可能となり解析を行うことができる。
3. 同調・非同調反応がインタラクションに及ぼす効果の解析
被験者 9 名に対し 16 種類のインタラクション実験を行った。実験のフローチャートを図 2 に示す。

図 2 実験のフローチャート

図 3 類似度の時間変化の例

各インタラクションについて，主観評価と顔表情の取得を行い，インタラクションの評価値の検討と解析を行った。図 3 はある被験者のインタラクションにおける顔表情識別器の類似度の時間変化である。ロボッ
トの反応によって表情が変化し，類似度に変化が起きている。
人とロボットのコミュニケーションでは相手の感情に与える影響がポジティブかネガティブかが重要となる。このため，反応前後の類似度の変化量をポジティブな感情クラスとネガティブな感情クラスについて重み付して和を取り，評価値として類似度変化量Δ𝑠を定義した。主観評価値も同様に重み付して和を取り，主観変化量Δ𝑝とした。この 2 つ値を被験者ごと平均し，相関関係を解析した。結果として，相関係数が 0.88 と強い正の相関が得られ，類似度変化量Δ𝑠の有用性を示した。また，相関の無い被験者も存在したことから心理尺度 NARS，RAS，SAES[3],[4]との相関関係を分析し，ロボットに対する感情的なコミュニケーションについて，否定的な意識を持つ被験者に対しては類似度変化量Δ𝑠によってインタラクションを正しく評価できないという結果を得た。ロボットに対する否定的な意識を持つ被験者はロボットとのインタラクションに対して慣れていないことが予想される。今後の実験では，被験者に対しロボットの説明を十分した上で，一定時間以上のコミュニケーションをとらせることでロボットに対して慣れさせることが必要になる。
類似度変化量Δ𝑠を用いてインタラクションを解析した結果について述べる。同調反応はトリガーが属するクラスに応じた効果を与える。トリガーがポジティブな感情クラスに属する場合であればポジティブな効果を与え，ネガティブな感情クラスに属する場合であればネガティブな効果を与える。非同調反応はトリガーが属するクラスに応じた効果を与えるとは限らない。トリガーがポジティブな感情クラスに属する場合に与える効果は小さいが，トリガーがネガティブな感情クラスに属する場合には大きな効果を与えることもある。
トリガーが Neutral の場合は反応が属するクラスに応じた効果が表れ，ポジティブな反応をすることでポジテ
ィブな効果が生じ，ネガティブな反応をすることでネガティブな効果を与える。これは人がロボットに対して無意識に同調した結果だと考えられる。
4. 結論
人の感情に対する同調・非同調反応がインタラクションに及ぼす効果を表す評価値の検討と解析を行った。
主観評価による結果と類似度による結果を比較し，評価値として類似度変化量Δsの有用性を示した。また，
認知心理学の観点から類似度変化量Δ𝑠と心理尺度 NARS，RAS，SAES の相関関係を分析し，ロボットに対する感情的なコミュニケーションについて，否定的な意識を持つ被験者に対しては類似度変化量Δsによってインタラクションを正しく評価できないという結果を得た。さらに，主観評価の結果と評価値Δs を用いた解析から，以下の知見を得た。

非同調反応は同調反応と比較して個人性が高い

同調反応はトリガーが属するクラスに応じた効果を与える。

非同調反応はトリガーが属するクラスがネガティブな場合に効果が大きい。

トリガーが Neutral の場合は反応が属するクラスに応じた効果が表れる。
今後は類似度変化量Δsを用いてより多くの反応を解析し，ロボットの学習に用いることや数分から数時間といった長時間のインタラクションについて議論する必要がある。
参考文献[1] 山野美咲, 薄井達也 , 橋本稔, “情動同調に基づく人間とロボットのインタラクション手法の提案,” HAI
シンポジウム, 2D-4, pp. 1-6, 2008.
[2] 黒住隆行, 新座良和, 剣持雪子 , 小谷一孔, “固有空間法と重判別分析による顔画像の個人性と表情の解析,” 信学技報, CS98-122, IE98-101, pp. 57-64, 1998.
[3] 野村竜也, 神田崇行, 鈴木公啓, 山田幸恵 , 加藤謙介, “Human-Robot Interaction (HRI) における人の態度・不安・行動,” 第 26 回ファジィシステムシンポジウム, TB2-4, 2010.
[4] 酒井久美代, “情動認識力が他者認識力に与える影響,” 日本女子体育大学紀要, Vol.37, pp. 1-8, 2007.

目次
序論 ....................................................................................................... 1
研究背景................................................................................................... 1
人とロボットのインタラクションと分類 .......................................... 2
従来研究................................................................................................... 5
顔表情の類似度を用いたインタラクション特性の解析 ..................... 5同調反応を用いたインタラクションの研究 ...................................... 7
従来研究のまとめ .............................................................................. 8
研究目的................................................................................................... 9
本研究におけるインタラクション ......................................................... 10
インタラクションの表現構造 .......................................................... 10
感情クラス ...................................................................................... 11
同調の定義 ...................................................................................... 11
インタラクションシステム .................................................................. 12
顔表情識別器 ......................................................................................... 14
前処理.............................................................................................. 14
特徴空間への射影 ............................................................................ 18

類似度計算及び識別 ........................................................................ 18
顔表情の取得方法及び識別器の学習 ............................................... 20
同調・非同調反応がインタラクションへ与える効果の解析 ................ 22
実験概要と条件 ...................................................................................... 22
実験結果................................................................................................. 25
主観評価 .......................................................................................... 25
類似度.............................................................................................. 25
解析に用いる評価値の検討 .................................................................... 29
評価値の定義 ................................................................................... 29
評価値の検討 ................................................................................... 31
類似度変化量Δ𝑠の認知心理学の観点からの考察 ............................. 33
非同調反応の解析 .................................................................................. 38
結論 ..................................................................................................... 43
まとめ .................................................................................................... 43
今後の課題 ............................................................................................. 44
謝辞 .................................................................................................................. 45
参考文献 ........................................................................................................... 46
付録 A

アフィン変換行列の求め方 ............................................................... 49

付録 B

クラス特徴に基づく固有空間法........................................................ 50

付録 C

実験に使用した質問用紙 .................................................................. 53

付録 D

主観評価の結果................................................................................. 54

図目次
図 1.1

表現構造によるインタラクションの分類 [3] ................................ 3

図 1.2

ペットロボットにおける対人心理作用 [3] ................................... 4

図 1.3

表現手段よる認識特性の違い [6].................................................. 5

図 1.4

動的にロボットの表現方法を変更した場合の類似度変化 [6] ....... 6

図 1.5

人とロボットの情動変化 [7] ......................................................... 7

図 1.6

インタラクションの表現構造 ...................................................... 10

図 1.7

本研究で用いる感情クラス ......................................................... 11

図 2.1

システム概要 ............................................................................... 13

図 2.2

RoBoHoN [10] ............................................................................ 13

図 2.3

表情識別の過程 ........................................................................... 14

図 2.4

前処理の過程 ............................................................................... 15

図 2.5

顔領域の検出 ............................................................................... 15

図 2.6

68 個のランドマークと目鼻座標 ................................................. 16

図 2.7

正規化のパラメータ .................................................................... 17

図 2.8

特徴空間上で計算される顔表情の類似度𝑠𝑓 ................................ 19

図 2.9

人とロボットの位置関係 ............................................................. 20

図 2.10

学習した表情識別器の基底𝐞𝑘の例 ............................................ 21

図 3.1

実験のフローチャートと実験の様子 ........................................... 22

図 3.2

各シナリオにおける表情の取得例............................................... 23

図 3.3 𝑖(Anger, Anger)の主観評価値 ....................................................... 26
図 3.4𝑖(Anger, Happiness)の主観評価値 ............................................... 26

図 3.5𝑖(Anger, Neutral)の主観評価値 .................................................... 26

図 3.6𝑖(Anger, Sadness)の主観評価値 ................................................... 26

図 3.7𝑖(Anger, Anger)における表情と類似度の時間変化（被験者 F） . 27

図 3.8 𝑖(Anger, Happienss)における表情と類似度の時間変化（被験者 F）........................................................................................................... 27
図 3.9𝑖(Anger, Neutral)における表情と類似度の時間変化（被験者 F）........................................................................................................... 28
図 3.10𝑖(Anger, Sadness)における表情と類似度の時間変化（被験者 F）........................................................................................................... 28
図 3.11

インタラクション前後の類似度の変化量（被験者 F） ............. 30

図 3.12

各インタラクションにおける類似度変化量Δ𝑠𝑖 ......................... 32

図 3.13

各インタラクションにおける主観変化量Δ𝑝𝑖............................. 32

図 B.1

級間分散と級内分散の差が最大となる軸 ................................... 50

図 B.2

画像のラスタスキャン ................................................................ 51

図 C.1

実験に使用した質問用紙の例 ..................................................... 53

図 D.1

𝑖(Happiness, Anger)の主観評価値 .............................................. 54

図 D.2

𝑖(Happiness, Happiness)の主観評価値 ........................................ 54

図 D.3

𝑖(Happiness, Neutral)の主観評価値 ............................................ 54

図 D.4𝑖(Happiness, Sadness)の主観評価値 ........................................... 54

図 D.5𝑖(Neutral, Anger)の主観評価値 ................................................... 55

図 D.6𝑖(Neutral, Happiness)の主観評価値 ............................................ 55

図 D.7𝑖(Neutral, Neutral)の主観評価値 ................................................. 55

図 D.8𝑖(Neutral, Sadness)の主観評価値 ................................................ 55

図 D.9𝑖(Sadness, Anger)の主観評価値 .................................................. 56

図 D.10𝑖(Sadness, Happiness)の主観評価値 ......................................... 56

図 D.11𝑖(Sadness, Neutral)の主観評価値 .............................................. 56

図 D.12𝑖(Sadness, Sadness)の主観評価値 ............................................. 56

表目次
表 1.1

ロボットの表現方法を変える閾値................................................. 6

表 2.1

表情に用いた Action Unit (AU) .................................................. 20

表 3.1

各インタラクションにおける場面設定 ....................................... 24

表 3.2

ロボット否定的態度尺度（NARS）の項目 [16]......................... 35

表 3.3

ロボット不安尺度（RAS）の項目 [16] ...................................... 35

表 3.4

情動認識力尺度（SAES） [17] .................................................. 36

表 3.5 Δ𝑠𝜓𝑖とΔ𝑝𝜓𝑖の相関係数𝑟𝜓と各心理尺度との相関係数 ................ 37
表 3.6

類似度変化量Δ𝑠（𝑎 = Anger） .................................................... 38

表 3.7

類似度変化量Δ𝑠（𝑎 = Happiness） ............................................. 39

表 3.8

類似度変化量Δ𝑠（𝑎 = Neutral）.................................................. 40

表 3.9

類似度変化量Δ𝑠（𝑎 = Sadness） ................................................. 41

序論
研究背景
人とのコミュニケーションに主眼をおいたロボットが社会に普及しつつあり，
今後，一人一台パーソナルなロボットを所有する時代が来る。人とロボットが共生する時，我々はこのようなロボットに対して，人に対して思うのと同様に自身の気持ち（感情）をくみ取った言動を期待する。
人は対話相手に対して相手の表情を見て対応を変える。しかしながら，現状のロボットの多くは相手の顔表情を認識した上で反応を選択することはできない。
人がロボットに対して「元気だよ」と言った場合に，ロボットが人の喜びの顔や悲しみの顔の違いを認識して反応を選択することが望ましい。ロボットが人の感情に応じた行動をとる為には，人の感情を推定して行動を選択する必要がある。
ロボットが人の感情を推定する為に顔表情は不可欠である。人同士の感情コ
ミュニケーションにおいて，93%の情報は非言語情報により，更にその 59%は表情や視線，身振りなどの身体動作により伝達される [1]。表情は情報を伝達す
るメディアとして，音声情報にはない「情報発信の持続性」があり [2]，人の表
情を任意のタイミングで計測しロボット制御に用いることが出来る。

1

ロボットが認識した感情に対して行動を選択する方法として同調反応がある。
同調反応とは意識的か無意識的かを問わず，他者の行動と同じ行動を起こす反応を指す。例えば，悲しんでいる人に対して一緒に悲しむ反応は同調反応である。
一方で人同士のコミュニケーションについて考えると，一緒に悲しむという同調反応をする人だけでなく，そっとしておく人やなだめる人，笑って励ます人もいる。このような同調反応以外の反応を非同調反応と呼ぶこととする。
非同調反応が人とロボットのコミュニケーションにもたらす効果を解析する
ことで，ロボットは現在より複雑な反応を選択出来る。

人とロボットのインタラクションと分類➢ インタラクションとは人とロボットのコミュニケーションに関する研究分野をヒューマンロボット
インタラクション（HRI：Human-Robot Interaction）という。HRI の分野では分野名にある通り「インタラクション」という言葉が頻繁に用いられる。人とロ
ボットのインタラクションとは人とロボットが互いに影響を及ぼしあうことをいう。具体的にはコミュニケーションを通して，人の感情や表情，身体的特徴に変化が起きたりロボットの内部パラメータに変化が起きたりすることをいう。
本研究ではインタラクションにおいて，一方からもう一方への働きかけをトリガーと言い，これに対する行動を反応と言う。
2

➢ インタラクションの分類
佐藤ら [3]は人とペットロボットのインタラクションについて表現構造に着目し，図 1.1 のように分類している。

図 1.1

表現構造によるインタラクションの分類 [3]以下に各構造について述べる。
➢ モナッド（Monad）
表現が一方通行であり反応が起こらないため厳密にはインタラクションとは呼べないが，コミュニケーションの一種と考えられる。
➢ ダイアド（Dyad）
ダイアドはインタラクションの最も簡単な形態である。相手からの働きかけ（トリガー）に対して反応を行う。反応の決定に相手や自身の過去の行動が影響することはない。
➢ ポリアド（Polyad）
ダイアドは直前のトリガーに対してのみ反応するが，ポリアドは相手や自身の過去の行動履歴を次の反応の決定に用いる。
3

さらに，この表現構造による分類に，表現内容による分類，表現手段による分類を加えペットの対人心理作用として図 1.2 のようにまとめている。

図 1.2

ペットロボットにおける対人心理作用 [3]これらはすべてペットロボットに対する分類である。しかしながら，この分類
方法は人とのコミュニケーションに主眼をおいたロボットの研究という共通点
からペットロボットに限らず，本研究で扱うパーソナルなロボットに対しても適用できると考える。

4

従来研究
顔表情の類似度を用いたインタラクション特性の解析
これまで我々は顔表情認識器を用いた人とロボットにおけるインタラクショ
ン特性の解析に取り組んできた [4], [5]。矢野ら [6]は，図 1.3 のようなロボッ
トの表現手段の違いを顔表情の類似度によって解析した。類似度は入力された表情が辞書として登録されている喜びや怒りなどの各表情の平均顔と似ている
度合いを表す。

図 1.3

表現手段よる認識特性の違い [6]ロボットの表現手段（音声のみ，動作のみ，音声＋動作）の違いによって類似度の最大値に差が生じ，音声＋動作によってロボットが反応することで類似度が最も高くなることを示した。さらに類似度の高さに応じてロボットの表現手
段を変更する実験を行った。実験において被験者はロボットに対し表情を表出
し，ロボットは識別した表情と同クラスに属する反応を返す。反応の表現手段を
類似度の高さに応じて表 1.1 のように変更した場合のインタラクションへの効
5

果を解析した。
結果として図 1.4 の(a)を見るとインタラクション開始から 35 秒
付近で類似度が大きく低下するが，表現手段が変わることで類似度が上昇した
ことを報告している。
表 1.1

ロボットの表現方法を変える閾値

類似度𝑠の高さ𝑠 < 0.85

0.85 ≤ 𝑠 < 0.9

0.9 ≤ 𝑠

表現方法

動作＋音声

動作のみ

音声のみ

図 1.4

動的にロボットの表現方法を変更した場合の類似度変化 [6]

この研究において，ロボットの反応内容は識別した感情クラスに対して同一のものを用いていた。この為ロボットとのインタラクションについて，被験者に飽きが生じ，類似度の低下が起きたことを報告している。
6

同調反応を用いたインタラクションの研究
山野ら [7]は KAMIN [8]を用いて音声から人の感情を推定し顔表情をロボッ
トに表出させ，ロボットの情動を人の情動に対して同調，非同調させる実験を行った。情動は感情と感情に伴う身体的変化を指す。情動の表現には Russell の円環モデル [9]を用い，横軸は快－不快，縦軸は覚醒－眠気を表す。実験時の人とロボットの情動変化を図 1.5 に示す。この図の（a）,（b）において上の図は円環モデル上での人の感情推定値（赤点）とロボットの感情値（黒点）を表し，下の図は実験時にロボットが表出した表情を表す。
（a）同調の場合は（b）非同調の場合と比較すると人の感情推定値を表す赤点が時間の経過に伴い右の方向（快方向）へ移動している。このことから人の心理状態がよりポジティブな方向に変化したことが分かる。また，ロボットとのインタラクション時間が約 44%増加したと報告している。

図 1.5

人とロボットの情動変化 [7]7この研究において，非同調は情動の認識結果に関係なくあらかじめ定めた表情を表出するという設定であった。このため非同調の違いによる効果について十分議論されていない。またロボットに対して自由に話しかける設定であった
為，トリガーの違いによる効果についても議論が十分ではない。

従来研究のまとめ➢ 表情認識特性の解析に関する従来研究

表情識別器の識別特性によってインタラクションを評価できる



表現手段の違いによるインタラクションへの効果の解析➢ 同調反応に関する従来研究

同調には心理状態をポジティブにする効果がある

表現内容の違いによるインタラクションへの効果の解析



非同調について十分な議論がなされていない

これらのことから，様々なトリガーに対しての反応を同調，非同調に区分して表情識別器の類似度から得られる評価値を用いて解析することで，図 1.2 の分類における表現内容の違いによるインタラクションへの効果を明らかにできる。

8

研究目的
本研究では人とロボット間の感情を伴うインタラクションにおいて，非同調反応に着目し，反応の違いがインタラクションに及ぼす効果を顔表情識別器の類似度から得られる評価値を用いて定量的に解析することを目的とする。
この目的を達成する為に，人の感情に対する同調・非同調反応が可能で人の顔表情を撮影可能なロボットとこれを制御するサーバからなるインタラクション
システムを用いてインタラクション実験を行う。各インタラクションには場面を設定し，感情クラスの異なるトリガーを被験者に表出してもらい，これらのトリガーに対してロボットが同調・非同調反応を行い，これによる被験者の表情変化を取得する。これを基に顔表情識別器の類似度を用いたインタラクションの評価値について検討を行い，解析することで反応の違いがインタラクションに及ぼす効果を明らかにし，ロボットの表現内容がインタラクションに及ぼす効
果に関して新たな知見を得ることが出来る。

9

本研究におけるインタラクション
本節では本研究におけるインタラクションの表現構造，感情クラス，同調の定義について述べる。

インタラクションの表現構造
本研究では図 1.6 に示すようなダイアドインタラクションを中心に議論する。
人の顔表情をトリガー，ロボットの音声と動作を反応とする。トリガー及び反応の集合をそれぞれ𝐴, 𝑅とし，各トリガーを𝑎 ∈ 𝐴，各反応を𝑟 ∈ 𝑅とする。人からロボットへのトリガー𝑎に対して，ロボットによる反応𝑟が起きたとする。これをインタラクション𝑖(𝑎, 𝑟)として定義する。𝑖(𝑎, 𝑟)前後の顔表情の変化がインタラクションによる人の感情の変化であるとする。

図 1.6

インタラクションの表現構造

10

感情クラス
本研究では図 1.7 に示す感情クラスを用いる。これはロボットが日常に溶け込んだ場合を想定して，重要性が高いと考えられる感情を選んだ。

図 1.7

本研究で用いる感情クラス

感情クラスの集合を𝐹，各感情クラスを𝑓として式(1. 1)のように定義する。
𝐹 = {𝑓 | Neutral, Anger, Sadness, Happiness}(1. 1)

同調の定義
本研究で扱うトリガー𝑎及び反応𝑟は前項の感情クラスのいずれかに属する（トリガー𝑎 ∈ 𝑓，反応𝑟 ∈ 𝑓）。トリガーが属する感情クラスを𝑓𝑎 ，反応が属するクラスを𝑓𝑟 とする。本研究では同調と非同調を以下のように定義する。
➢ 同調
𝑓𝑎 = 𝑓𝑟(1. 2)

𝑓𝑎 ≠ 𝑓𝑟(1. 3)➢ 非同調

11

インタラクションシステム
インタラクションシステムの概要を図 2.1 に示す。システムはロボットとサーバで構成される。このシステムにより人とロボットがインタラクションする。
1.4.1 で定義したインタラクションにおける表情変化取得の流れを説明する。
① 人はロボットに対してトリガーを表出する。
② ロボットは人の顔画像（変化前の顔画像）を撮影しサーバへ送信する。
③ サーバは画像を顔表情識別器へ入力し表情認識を行う。
④ サーバは予め登録した反応辞書から反応を決定し，動作命令をロボットへ送信する。
⑤ 動作命令に応じてロボットが反応し，インタラクションが生じる。
⑥ 再度画像を撮影し保存する。（変化後の顔画像）

このシステムによってインタラクションによる顔表情の変化前後の顔画像が取得可能となり解析を行うことができる。
本研究ではロボットとして，図 2.2 に示す SHARP の RoBoHoN [10]を用いた。RoBoHoN はスマートフォンとしての機能を持ったパーソナルなロボットである。カメラにより顔表情を取得でき，音声合成及び身体動作により感情表現が可能であることから，本研究に適している。

12

図 2.1

システム概要図 2.2

RoBoHoN [10]このシステムにおいて顔表情は約 0.2 秒間隔で取得可能であるが，通信状態の悪化や表情認識の失敗などが原因で取得に数秒程度かかる場合もある。
13

顔表情識別器
顔表情識別器が表情を識別する過程を図 2.3 に示す。

図 2.3

表情識別の過程

識別する顔表情クラスの集合は 1.4.2 で定義した𝐹とし，各クラスを𝑓 ∈ 𝐹とする。ロボットにより撮影された画像𝐱 0 がある表情クラス𝑓に識別されるまでの過程を「前処理」，「特徴空間への射影」，「類似度計算及び識別」の項に分けて説明する。

前処理
顔領域検出時の切り出し位置のずれによって顔表情識別器の類似度に変動が生じることが予想される。このため，前処理により顔位置を正規化する必要がある。前処理ではロボットにより撮影された画像𝐱 0 に対して，顔検出及び顔位置の正規化を行い，顔画像ベクトル𝐱を得る。前処理の過程を図 2.4 に示す。

14

図 2.4

前処理の過程

前処理は手順①～③により行う。
① 顔領域の検出
顔領域は Open CV の Haar-like 特徴を用いた Cascade 型分類器によって検出する。本研究では学習済みの分類器を利用する [11]。これにより図 2.5 のよ
うにロボットにより撮影された画像𝐱 0 から顔領域画像𝐱 c を得る。
➢ 使用した学習済み分類器
haarcascade_frontalface_default.xml

図 2.5

顔領域の検出15

② 顔器官（ランドマーク）による目鼻座標の抽出
顔位置の正規化にはアフィン変換を用いる。変換行列を計算するためには３つの点が必要となる。鼻は顔の中心にあり特に鼻下は表情変化による位置変化が少ない。また，目の中心位置も表情変化による影響を受けにくいと考えられる。
これらの理由から顔位置の正規化に左右の目と鼻下の座標𝐸r , 𝐸l , 𝑁を用いる。
（図2.6）𝐸r , 𝐸l , 𝑁は Dlib の顔器官検出器 [12]によって検出したランドマーク𝐥𝑛 (𝑛 =1,2, ⋯ 68)から計算する。𝐸r , 𝐸l , 𝑁は式(2. 1)～(2. 3)で定義する。
42

1
𝐸𝑟 = ∑ 𝐥𝑛
6(2. 1)

𝑛=37
48

1
𝐸𝑙 = ∑ 𝐥𝑛
6(2. 2)

𝑁 = 𝐥34(2. 3)

𝑛=43➢ 使用した学習済み検出器
shape_predictor_68_face_landmarks.dat

図 2.6

68 個のランドマークと目鼻座標
16

③ アフィン変換②で求めた左右の目，鼻下の座標𝐸r , 𝐸l , 𝑁が各座標に対応した点𝐸r′ , 𝐸l′ , 𝑁 ′ に一致するように顔領域画像𝐱 c 全体をアフィン変換し，顔画像ベクトル𝐱を得る。
𝐸r′ , 𝐸l′ , 𝑁 ′ は図 2.7 のように定義する。各パラメータは丸島ら [13]の研究を参考に平均顔における目鼻座標の位置を基に決定した。

図 2.7

正規化のパラメータ

顔画像ベクトル𝐱のある画素を(𝑥, 𝑦) ∈ 𝐱，顔領域画像𝐱 c のある画素を(𝑥c , 𝑦c ) ∈ 𝐱 cとし，各画素を式(2. 4)でアフィン変換する。
𝑥𝛼11[𝑦] = [𝛼21
1
0

𝛼12
𝛼22
0

𝛼13 𝑥c𝛼23 ] [𝑦c ]11

アフィン行列の係数𝛼11 から𝛼23 は𝐸r , 𝐸l , 𝑁及び𝐸r′ , 𝐸l′ , 𝑁 ′ から求める。
※係数の求め方は付録 A を参照
17(2. 4)

特徴空間への射影
本研究で用いる特徴空間は，クラス特徴に基づく固有空間法（Eigenspace
Method based on Class features; EMC）により求める [14]。EMC は数クラスの識別において個人ごとに学習を行う場合，各クラス数十枚の学習データで 8割程度の識別率を得ることができる。本研究において識別クラス数は 4 クラス
であり，パーソナルなロボットを対象としていることから，大量の学習データが必要となる深層学習の手法ではなく EMC を採用した。この EMC により特徴空間を構成する𝐾個の基底𝐞𝑘 (𝑘 = 1,2, ⋯ 𝐾)及び各表情クラスの辞書画像の平均顔を特徴空間に射影した辞書ベクトル𝐝𝑓 を得る。
※EMC の概要と基底及び辞書ベクトルの計算方法については付録 B を参照
式(2. 5)より基底𝐞𝑘 を用いて顔画像ベクトル𝐱から特徴ベクトル𝐯を求める。
𝐯 = [𝐞1

𝐞2⋯

𝐞𝐾 ]𝑇 (𝐱 − 𝐱̅)(2. 5)

類似度計算及び識別類似度𝑠𝑓 は顔画像ベクトル𝐱を特徴空間に射影して得られた特徴ベクトル𝐯と，各表情クラスの辞書画像の平均顔を特徴空間に射影した辞書ベクトル𝐝𝑓 が似ている度合いを表す指標である。

18

特徴ベクトル𝐯と辞書ベクトル𝐝𝑓 のなす角を𝜃として，cos 𝜃を類似度𝑠𝑓 とする。類似度𝑠𝑓 を式(2.6)により求める。
𝑠𝑓 = cos 𝜃 =𝐯 ⋅ 𝐝𝑓‖𝐯‖‖𝐝𝑓 ‖(2. 6)

識別クラス𝑓は式(2. 7)により与える。
𝑓 = argmax(𝑠𝑓 )図 2.8(2. 7)

特徴空間上で計算される顔表情の類似度𝑠𝑓

以上がロボットにより撮影された画像𝐱 0 がある表情クラス𝑓に識別されるまでの過程である。

19

顔表情の取得方法及び識別器の学習
顔表情識別器は学習を行うために被験者の顔表情を必要とする。表情は 1.4.2
にて定めた 4 クラスを取得する。各表情は Facial Action Coding System; FACS
[15]に基づいて表 2.1 のように定めた。
表 2.1

表情に用いた Action Unit (AU)

Neutral（無表情）

特になしAnger（怒り）

AU4(両眉を中央に寄せる) + 5(目を見開く) + 7(瞼に力を入れる) + 23(唇を硬くする) + 24(唇を押し合わせる)

Sadness（悲しみ）AU1 + 4(両眉を上げて寄せる) + 15B(口角を押し下げる)

Happiness（喜び）AU6(頬を上げる) + 12(口角をつり上げる)

辞書用顔表情の取得は図 2.9 に示す位置関係で次の方法で行った。
① 各表情について被験者は図 1.7 を見本に鏡を使って表情表出の訓練をする。
② Neutral から順に表情画像を取得する。1 回の撮影は約 10 秒で，50 枚の画像を取得する。
③ 計 2 回行い，表情ごとに計 100 枚の表情画像を得る。

図 2.9

人とロボットの位置関係
20取得した顔表情は 2.1.1 の手順で前処理し，これを用いて識別器の学習を行う。
例として学習した識別器の基底𝐞𝑘 を図 2.10 に示す。カッコ内は累積寄与率である。本研究において，基底𝐞𝑘 の次元数𝐾は累積寄与率が 9 割以上を目安として
𝐾 = 40とした。

図 2.10

学習した表情識別器の基底𝐞𝑘 の例
21

同調・非同調反応がインタラクションへ与える効果の解析
本実験の目的を以下に示す。
➢ インタラクションの効果を解析するための評価値の検討➢ 同調・非同調反応がインタラクションへ与える効果の解析

実験概要と条件
被験者は後述する計 16 種類のインタラクション𝑖(𝑎, 𝑟𝑎 )を行った。実験のフローチャート及び実験の様子を図 3.1 に示す。ここで𝐼は実験に用いた 16 種類のインタラクション𝑖(𝑎, 𝑟𝑎 )を要素とする集合である。

図 3.1

実験のフローチャートと実験の様子
22➢ 被験者
20 代の学生 9 名（男性 8 名，女性 1 名）
➢ インタラクションと場面
実験にはトリガー𝑎とこれに対応する反応𝑟𝑎 からなる計 16 種類のインタラク
ション𝑖(𝑎, 𝑟𝑎 ) を用いた（𝑎 ∈ 𝐹，𝑟𝑎 ∈ 𝐹）。また，表情表出を促すことを目的として各インタラクションには場面を設定した。（表 3.1）
➢ 表情の取得
各インタラクションで表情の取得を行う。トリガーの直後に 1 枚，反応の直後に 5 枚の計 6 枚の顔画像を撮影した。例を図 3.2 に示す。

図 3.2

各シナリオにおける表情の取得例➢ 主観評価
被験者は各インタラクションにおいて Anger，Happiness, Neutral, Sadness,
Arousal, Valence の 6 項目を 5 段階で評価する。各項目と評価方法については質問用紙に記載した他，口頭でも説明を行った。
※実験に用いた質問用紙の例を付録 C に示す。
➢ 類似度
各インタラクションで撮影した画像について 2.1 で説明した顔表情識別器を用いて類似度𝑠𝑓 及び識別クラス𝑓を取得する。
23

表 3.1
トリガー𝑎

Anger

各インタラクションにおける場面設定

トリガー𝑎の内容

NeutralSadness

反応𝑟𝑎 の内容

Anger

なんだようるさいな！

Happiness

たのしー

Neutral

なんにも

Sadness

ごめんなさい

Anger

ずるい！

Happiness

おめでとう！

Neutral

そうなんだ

Sadness

ぼくのははずれだ

Anger

おしえてあげない！

Happiness

もちろんさ！

Neutral

わかった

Sadness

ぼくもわからないや

Anger

なにやってんだよ！

Happiness

ざまあみろ

Neutral

どうしたの？

Sadness

ざんねんだったね

こら！何してるの！

やったー！
Happiness

反応𝑟𝑎

宝くじが当たったよ！

勉強を教えて？

失敗しちゃったなぁ

24

実験結果
被験者 9 名をそれぞれ A～I とする。

主観評価
主観評価結果の例として，図 3.3～図 3.6 にトリガー𝑎 = Angerの場合の主観評価値の箱ひげ図を示す。他のトリガーの結果については付録 D に示す。
図 3.3～図 3.6 を見ると同じトリガーであっても反応の違いによって主観評価値に差が表れていることが確認できる。特に図 3.3 の同調反応𝑟𝑎 = Angerの場合と比較して，図 3.4～図 3.6 の非同調反応𝑟𝑎 = Happiness, Neutral, Sadnessの場合は四分位範囲が大きい。これは同調反応と比較して非同調反応のばらつきが大きいことを表す。

類似度
類似度の結果の例として，図 3.7～図 3.10 に被験者 F におけるトリガー𝑎 =Angerの場合の表情の変化と類似度の時間変化の様子を示す。
各図における上部の 6 枚の画像を見ると反応の前後で表情が変化しており，反応後もわずかに変化している。また，同じトリガーであっても反応の違いによって類似度の時間変化に差が表れている。例えば，図 3.7 では Anger の類似度
は変化が小さいが，図 3.9 では大きく低下している。
25

図 3.3 𝑖(Anger, Anger)の主観評価値

図 3.4

𝑖(Anger, Happiness)の主観評価値

図 3.5

𝑖(Anger, Neutral)の主観評価値

図 3.6

𝑖(Anger, Sadness)の主観評価値

26

図 3.7𝑖(Anger, Anger)における表情と類似度の時間変化（被験者 F）

図 3.8 𝑖(Anger, Happienss)における表情と類似度の時間変化（被験者 F）

27

図 3.9𝑖(Anger, Neutral)における表情と類似度の時間変化（被験者 F）

図 3.10𝑖(Anger, Sadness)における表情と類似度の時間変化（被験者 F）

28

解析に用いる評価値の検討
前節で述べた実験結果からインタラクションを解析する評価値の検討を行う。
評価値の定義インタラクションによる類似度の変化を捉える為に感情クラスごとの類似度の変化量を∆𝑠𝑓 として式(3. 1)に定義する。
𝐽1∆𝑠𝑓 = ∑ 𝑠𝑓𝑗 − 𝑠𝑓0
𝐽(3. 1)

𝑗=1

ここで，𝑗はインタラクション中に撮影された画像の番号である。反応前を𝑗 = 0，
反応後を𝑗 = 1,2, ⋯ , 𝐽とする。今回の実験では𝐽 = 5である。
被験者 F における類似度の変化量∆𝑠𝑓 を図 3.11 に示す。この図より，例えば
図中左上の𝑖(Anger, Anger)と右上の𝑖(Anger, Sadness)を比較すると∆𝑠Anger の値は同程度であるのに対して∆𝑠Sadnessの値は大きく異なる。このようにインタラクシ
ョンによって∆𝑠𝑓 の各要素に異なる変化が表れていることが分かる。

29

図 3.11

インタラクション前後の類似度の変化量（被験者 F）

人とロボットのコミュニケーションでは相手の感情に与える影響がポジティ
ブかネガティブかが重要となる。1.4.2 で定義した感情クラスをポジティブな感
情𝐹P = Hapinessとネガティブな感情𝐹N = {Anger, Sadness}に分ける。
インタラクションの評価値として，類似度の変化量Δ𝑠を以下の式(3. 2)で定義
し，Δ𝑠を類似度変化量と呼ぶこととする。
Δ𝑠 = ∑ 𝑤𝑓 ∙ Δ𝑠𝑓(3. 2)

𝑓∈𝐹

重み𝑤𝑓 は式(3. 3)で定義する。|𝐹P |, |𝐹N |は𝐹P , 𝐹N の要素数である。
1(𝑓 ∈ 𝐹P )
|𝐹P |
𝑤𝑓 =
1
(𝑓 ∈ 𝐹N )−{ |𝐹N |
30

(3. 3)

評価値の検討
前項で求めた類似度変化量Δ𝑠のインタラクション評価値としての適性を検討する為に主観評価値との比較を行う。主観評価と類似度変化量Δ𝑠による評価が一致していれば，インタラクションによる効果をΔ𝑠によって正しく評価できたといえる。被験者の集合を𝛹 = {𝜓 | A, B, ⋯ , I}とする。インタラクションの集合を
𝐼 = {𝑖 | 𝑖(Anger, Anger), 𝑖(Anger, Happiness), ⋯ , 𝑖(Sadness, Sadness)}とする。
以下に示す類似度変化量Δ𝑠 𝑖 と主観変化量Δ𝑝𝑖 によって比較を行う。
➢ 類似度変化量Δ𝑠 𝑖
被験者𝜓のインタラクション𝑖における類似度変化量をΔ𝑠𝜓𝑖 とする。これを𝛹について平均しΔ𝑠 𝑖 を得る。Δ𝑠𝜓𝑖 を図 3.12 の箱ひげ図に示す。この図の×印で表されている点がΔ𝑠 𝑖 である。
➢ 主観変化量Δ𝑢𝑖
被験者𝜓の各インタラクションにおける主観変化量を𝑝𝑓 と定義し，式(3. 2)のΔ𝑠𝑓 に置き換えて計算したものを主観変化量Δ𝑝とする。Δ𝑝はインタラクションが感情に与えた効果を主観評価値によって説明したものと解釈できる。被験者𝜓の𝑖
インタラクション𝑖における主観変化量をΔ𝑝𝜓とする。これを𝛹について平均し𝑖
Δ𝑝𝑖 を得る。Δ𝑝𝜓
を図 3.13 の箱ひげ図に示す。この図の×印で表されている点がΔ𝑝𝑖 である。
31

図 3.12

各インタラクションにおける類似度変化量Δ𝑠 𝑖

図 3.13

各インタラクションにおける主観変化量Δ𝑝𝑖32➢ 類似度変化量Δ𝑠 𝑖 と主観変化量Δ𝑝𝑖 の比較
図 3.12 及び図 3.13 の×印で示される類似度変化量と主観変化量の平均値
Δ𝑠 𝑖 とΔ𝑝𝑖 の相関係数𝑟を解析する。相関係数𝑟は式(3. 4)で計算する。
1̅̅̅)(Δ𝑝𝑖 − Δ𝑝̅̅̅̅)
∑ (Δ𝑠 𝑖 − Δ𝑠
|𝐼| 𝑖∈𝐼𝑟=1̅̅̅)2 √ 1 ∑𝑖∈𝐼(Δ𝑝𝑖 − Δ𝑝̅̅̅̅)2√ ∑𝑖∈𝐼(Δ𝑠 𝑖 − Δ𝑠|𝐼||𝐼|

(3. 4)

̅̅̅とΔ𝑝̅̅̅̅は式(3. 5)及び式(3. 6)で定義する。
ここで|𝐼|は𝐼の要素数である。Δ𝑠1∑ Δ𝑠 𝑖|𝐼|(3. 5)1̅̅̅̅ = ∑ Δ𝑝𝑖
Δ𝑝|𝐼|(3. 6)

̅̅̅ =
Δ𝑠

𝑖∈𝐼

𝑖∈𝐼

式(3. 4)により相関係数𝑟を求めた結果，𝑟 = 0.88という強い正の相関が得られた。
これにより人とロボットのインタラクションが人の感情に与えた効果を類似
度変化量Δ𝑠によって評価可能であることが示された．

類似度変化量Δ𝑠の認知心理学の観点からの考察
前項で検討した評価値Δ𝑠は平均値について強い正の相関がみられたが，各被𝑖験者𝜓についてΔ𝑠𝜓𝑖 とΔ𝑝𝜓の相関係数𝑟𝜓 を求めると，1/3の被験者では相関が無い。

この原因として以下の 2 つが考えられる。
➢ 被験者がロボットとのインタラクションに心理的な距離感を感じて表情が表出されにくい。
➢ ロボットに対する感情が正しく認知されていない。
33

認知心理学の分野ではこうした被験者の心理状態を測る尺度が数多く開発されている。心理尺度によって相関が無い被験者の心理的な特性を考察する。
使用した心理尺度はロボット否定的態度尺度（Negative Attitudes toward
Robots Scale; NARS），ロボット不安尺度（Robot Anxiety Scale; RAS）の 2 つ[16]と情動認識力尺度 [17]である。各心理尺度について以下に述べる。

➢ ロボット否定的態度尺度（NARS）
NARS は表 3.2 に示す人のロボットに対する否定的態度を測定する 14 項目
5 件法（1：全くそう思わない～5：全くそう思う）の心理尺度であり，S1：ロボット対話否定的態度，S2：ロボット社会的影響否定的態度，S3：ロボット対話
感情否定的態度の 3 つの下位尺度から構成される。各下位尺度の得点は対応する項目の合計として算出する。

➢ ロボット不安尺度（RAS）
RAS は表 3.3 に示す人のロボットに対する不安を測定する 11 項目 6 件法（1：
全く不安に思わない～6：非常に不安に思う）の心理尺度であり，S1：ロボット
会話能力不安，S2：ロボット行動特性不安，S3：ロボット対話不安の 3 つの下位尺度から構成される。各下位尺度の得点は対応する項目の合計として算出する。
34

表 3.2ロボット否定的態度尺度（NARS）の項目 [16]
就職してロボットを利用するような職場にまわされるかもしれな
いと考えると，不安になる。
ロボットと聞いただけで，もうお手上げの気持ちだ。

ロボット対話
否定的態度

人が見ている前でロボットを利用すると，恥をかきそうだ。
人工知能とか，ロボットによる判断といった言葉を聞くと不愉快になる。
私は，ロボットの前に立っただけで，とても緊張してしまうだろう。
ロボットと会話をすると，とても神経過敏になるだろう。
もしロボットが本当に感情を持ったら不安だ。
ロボットが生き物に近づくと，人間にとってよくないことがありそうな気がする。

ロボット社会的ロボットに頼りすぎると，将来，何か良くないことが起こりそう

影響否定的態度な気がする。
ロボットが子供の心に悪い影響を与えないか心配だ。
これからの社会は，ロボットによって支配されてしまいそうな気がする。

ロボット対話
感情否定的態度ロボットと会話すると，とてもリラックスできるだろう。*
ロボットが感情を持ったら，親しくなれるだろう。*
感情的な動きをするロボットを見ると，気分がいやされる。*（*は逆転項目）表 3.3
ロボット
会話能力不安ロボット不安尺度（RAS）の項目 [16]ロボットが会話中に的外れなことを話すのではないか。
ロボットとの会話は融通がきかないのではないか。
ロボットは難しい話が理解できないのではないか。
ロボットがどのような動きをするのか。

ロボット
行動特性不安ロボットが何をしてくるのか。
ロボットがどれくらいの力を持っているのか。
ロボットがどのくらいの速さで動くのか。
ロボットにどう話しかけたらいいのか。

ロボット
対話不安

ロボットから話しかけられた時にどう答えたらいいのか。
ロボットに自分のした話の内容が理解されているのか。
ロボットから話しかけられた内容が自分には理解できないのでは
ないか。

35

➢ 情動認識力尺度
情動認識力（self-awareness of emotions）とは自己の情動を理解する能力である。情動は感情と感情に伴う身体的変化を指す。情動認識力尺度（本研究における略語を Self-Awareness of Emotions Scale; SAES とする）は表 3.4 に示す 9 項目 5 件法（1：全くあてはまらない～5：非常にあてはまる）の心理尺度である。SAES の得点は各項目の合計として算出する。

表 3.4

情動認識力尺度（SAES） [17]

私は自分がどうしてそのように感じるのか理解するのが難しい。*
私はなぜ自分の気持ちが変わったのかが分かる。
私は自分の複雑な気持ちを理解する。
私は自分の気持ちが変わったのに気がつく。
私は自分の気持ちを分析する。
私は自分の気持ちについて考える。
私は自分の声の調子で自分が感じている気持ちに気がつく。
私は自分の身体感覚から自分の気持ちに気がつく。
私は自分が他者に送っている言語以外のメッセージに気づいている。
（*は逆転項目）36𝑖
Δ𝑠𝜓𝑖 とΔ𝑝𝜓の相関係数𝑟𝜓 と各心理尺度との相関を表 3.5 に示す。
𝑖
表 3.5 Δ𝑠𝜓𝑖 とΔ𝑝𝜓の相関係数𝑟𝜓 と各心理尺度との相関係数

NARS

RAS

S1

S2

S3

S1

S2

S3

-0.2700.037-0.213

0.095

0.090

0.079

SAES
-0.006※太字は相関がある尺度を表す。

𝑖
NARS-S1 及び S3 の尺度に負の相関がある。このことからΔ𝑠𝜓𝑖 とΔ𝑝𝜓の相関係数𝑟𝜓 に相関が無い（主観評価と類似度変化量Δ𝑠による評価が一致しない）被験者はロボットとのコミュニケーションに対して否定的であり，特に感情を伴ったコミュニケーションに対して否定的と言える。
一方で SAES に相関が無いことからロボットに対する感情が正しく認知されていないという可能性は排除された。
従って，類似度変化量Δ𝑠によってインタラクションを正しく評価できる対象
はロボットとの感情を伴うコミュニケーションに対して肯定的な人物である。
ロボットに対する否定的な意識を持つ被験者はロボットとのインタラクションに対して慣れていないことが予想される。今後の実験では，被験者に対しロボットの説明を十分した上で，一定時間以上のコミュニケーションをとらせる
ことでロボットに対して慣れさせることが必要になる。

37

非同調反応の解析
前節にてインタラクションの評価値としての有用性と有効な対象を示した類
似度変化量Δ𝑠を用いて反応の違いによるインタラクションへの効果を解析する。
𝑖
Δ𝑠は類似度変化量Δ𝑠𝜓𝑖 と主観変化量Δ𝑝𝜓の相関係数𝑟𝜓 に相関がある被験者について平均した値を用いる。トリガー𝑎について場合分けし，トリガー𝑎及び反応
𝑟𝑎 の内容とそのクラス，類似度変化量Δ𝑠について表 3.6～表 3.9 に示す。同調反応のクラスと類似度変化量最大を太字で示す。
トリガーごとに考察した後，全体の考察を行う。

➢ 𝑎 = Angerの場合
表 3.6
トリガー𝑎の内容

こら！何してるの！



類似度変化量Δ𝑠（𝑎 = Anger）

反応𝑟𝑎 の内容
なんだよ
うるさいな！
たのしー

反応𝑟𝑎 のクラス

類似度変化量Δ𝑠

Anger-0.365Happiness-0.105

なんにもNeutral-0.374

ごめんなさいSadness

0.098

同調反応
ネガティブな効果が表れている。怒りというネガティブな感情に対して歯向かうような反応をすることによってさらにネガティブな感情が誘発されたと考
えられる。

38



非同調反応
𝑟𝑎 = Happiness, Neutralの場合はネガティブな効果を与え，𝑟𝑎 = Sadnessの場合はポジティブな効果を与えている。
「ごめんなさい」と謝り悲しがる反応によって怒りが収まったと考えられる。

➢ 𝑎 = Happinessの場合
表 3.7
トリガー𝑎の内容



類似度変化量Δ𝑠（𝑎 = Happiness）
反応𝑟𝑎 の内容

反応𝑟𝑎 のクラス

類似度変化量Δ𝑠

ずるい！

Anger

0.056

やったー！

おめでとう！

Happiness

0.337

宝くじが当たったよ！

そうなんだ

Neutral

0.019

ぼくのははずれだ

Sadness-0.043

同調反応
最もポジティブな効果が表れている。相手の喜びに対して，共感し一緒に喜ぶ

反応によって，ポジティブな効果が得られたと考えられる。


非同調反応
𝑟𝑎 = Sadnessの場合はネガティブな効果を与え，𝑟𝑎 = Neutral, Angerの場合はポジティブな効果を与えている。同調反応と比較して与えた効果は小さい。

39➢ 𝑎 = Neutralの場合
表 3.8
トリガー𝑎の内容

勉強を教えて？



類似度変化量Δ𝑠（𝑎 = Neutral）

反応𝑟𝑎 の内容

反応𝑟𝑎 のクラス

類似度変化量Δ𝑠

おしえてあげない！

Anger-0.454

もちろんさ！

Happiness

0.241

わかった

Neutral

0.118

ぼくもわからないや

Sadness-0.138

同調反応
ポジティブな効果が表れている。要求に対して同意するという反応内容による文脈効果が表れた結果と考えられる。


非同調反応
最もポジティブな効果を与えているのは𝑟𝑎 = Happinessの場合であり，最もネ

ガティブな効果を与えているのは𝑟𝑎 = Angerの場合である。

トリガーがNeutralの場合は反応𝑟𝑎 が属するクラス𝑓𝑎 に応じた効果が表れる。

40

➢ 𝑎 = Sadnessの場合
表 3.9
トリガー𝑎の内容

失敗しちゃったなぁ

類似度変化量Δ𝑠（𝑎 = Sadness）

反応𝑟𝑎 の内容

反応𝑟𝑎 のクラス

なにやってんだよ！

Anger

類似度変化量Δ𝑠-0.217

ざまあみろHappiness-0.638

どうしたの？

Neutral-0.040

ざんねんだったね

Sadness-0.167

同調反応
ネガティブな効果が表れている。悲しみに共感するような反応は悲しみを和らげる効果があると考えたが結果は意図したものと異なった。


非同調反応
すべての反応でネガティブな効果が表れている。その中で最もポジティブな効果を与えているのは𝑟𝑎 = Neutralの場合で，次にポジティブな効果を与えているのは同調反応𝑟𝑎 = Sadnessの場合である。最もネガティブな効果を与えたのは
𝑟𝑎 = Happinessの場合である。

41

➢ 全体の考察
同調反応はトリガーが属するクラスに応じた効果を与える。トリガーがポジ
ティブな感情クラスに属する場合であればポジティブな効果を与え，ネガティ
ブな感情クラスに属する場合であればネガティブな効果を与える。
非同調反応はトリガーが属するクラスに応じた効果を与えるとは限らない。
トリガーがポジティブな感情クラスに属する場合に与える効果は小さいが，トリガーがネガティブな感情クラスに属する場合には大きな効果を与えることもある。
トリガーがNeutralの場合は反応が属するクラスに応じた効果が表れ，ポジティブな反応をすることでポジティブな効果が生じ，ネガティブな反応をすることでネガティブな効果を与える。これは人がロボットに対して無意識に同調した結果だと考えられる。

42

結論
まとめ
本研究の目的は人とロボット間の感情を伴うインタラクションにおいて，非同調反応に着目し，反応の違いがインタラクションに及ぼす効果を顔表情識別
器の認識特性を用いて定量的に解析することである。人の感情に対する同調・非同調反応が可能で人の顔表情を撮影可能なロボットとこれを制御するサーバからなるインタラクションシステムを構築し実験を行い，インタラクションに及ぼす効果を表す評価値の検討と解析を行った。
主観評価による結果と類似度による結果を比較し，評価値として類似度変化
量Δ𝑠の有用性を示した。また，認知心理学の観点から類似度変化量Δ𝑠と心理尺
度 NARS，RAS，SAES の相関関係を分析し，ロボットに対する感情的なコミュニケーションについて，否定的な意識を持つ被験者に対しては類似度変化量
Δ𝑠によってインタラクションを正しく評価できないという結果を得た。
さらに，主観評価の結果と評価値Δ𝑠を用いた解析から，以下の知見を得た。
➢ 非同調反応は同調反応と比較して個人性が高い➢ 同調反応はトリガーが属するクラスに応じた効果を与える。
➢ 非同調反応はトリガーが属するクラスがネガティブな場合に効果が大きい。
➢ トリガーがNeutralの場合は反応が属するクラスに応じた効果が表れる。
43

今後の課題
本研究において特徴空間は EMC によって求めたが，その他の手法を用いて特徴空間を求めた場合に類似度変化量Δ𝑠が有用であるかは分からない。このため，特徴空間を求める手法の違いが類似度変化量Δ𝑠に及ぼす影響を調べる必要がある。
本研究では 16 通りのインタラクションについて解析を行った。今後はより様々な場面設定におけるインタラクションの解析を行う必要がある。トリガー
がネガティブな感情クラスに属する場合には，反応の違いによって人の感情に及ぼす効果が大きく異なることから，このような場面を重点的に解析するべきである。
本研究により類似度変化量Δ𝑠を用いてインタラクションを評価し、反応を学習することが可能となった。反応を学習したロボットとのインタラクションによる顔表情識別器の特性について調査する必要がある。
今後，数分から数十分といった長時間のインタラクションについて議論する
場合，ロボットの反応によって様々な表情クラスが表出する可能性がある。このため分類する表情クラスについて再考する必要がある。

44

謝辞
本研究を進めるにあたり，日頃から熱心にご指導頂いた主任研究指導教員の
小谷一孔教授，認知心理学の観点からご指導頂いた副主任研究指導教員の小島治幸教授に深く感謝いたします。また，日頃から数多くのご助言を頂いた本学のシリタナワンパーリンヤ助教，公立小松大学の井澤純子講師に深く感謝いたします。さらに，多くの議論と協力，助言を頂いた小谷研究室の皆様，本研究の実験被験者として協力してくださった皆様に深く感謝いたします。
2020.02.05

45

藤原 秀平

参考文献
[1]
[2]

黒川隆夫, ノンバーバルインターフェイス, オーム社, 1994.
吉川左紀子, “表情は何を伝えるのか-メディアとしての表情,” 著: 身体性とコンピュータ, 共立出版, 2001, pp. 376-388.

[3]

佐藤友正 , 中田亨, “人と調和するペットロボットのための対人心理作用技術,” 人工知能学会誌, 16 巻, 3 号, pp. 406-411, 2001.

[4]

安東基範, “顔表情認識特性に対する人とペット型ロボットとのインタラ
クションの効果に関する研究,” 北陸先端科学技術大学院大学

修士論文,

2009.
[5]

水嶋英紀, “人とロボットとの感情インタラクション成立時における顔表
情認識特性に関する研究,” 北陸先端科学技術大学院大学

修士論文 ,

2010.
[6]矢野航大 , 小谷一孔, “顔表情認識特性に基づく人とヒューマノイドロボ
ット間の感情インタラクション特性の解析,” 映像メディア学会技術報告=ITE technical report 41(40), pp. 43-46, 2017-11.

[7]

山野美咲, 薄井達也 , 橋本稔, “情動同調に基づく人間とロボットのイン
タラクション手法の提案,” HAI シンポジウム, 2D-4, pp. 1-6, 2008.

[8]

D.Morooka , M.Hashimoto, “Robotic Facial Expression Using a Curved

46

Surface Display,” Jounal of Robotics and Mechatronics, Vol.18, No.4, pp.
504-510, 2006.
[9]

J. A. Russell, “A circumplex model of affect,” Journal of Personality andSocial Psychology, Vol.39, No.6, pp. 1161-1178, 1980.

[10]

SHARP, “ 商 品 紹 介- ロボホン,”[ オ ン ラ イ ン ]. Available:

https://robohon.com/product/robohon.php. [アクセス日: 13 01 2020].
[11]“ opencv/data/haarcascades - Github, ”[ オ ン ラ イ ン ]. Available:

https://github.com/opencv/opencv/tree/master/data/haarcascades. [アクセス日: 16 01 2020].
[12]“dlib/Index of /files,” [オンライン]. Available: http://dlib.net/files/. [アクセス日: 19 1 2020].

[13]

丸島紀子 , 齊藤勇, “顔パーツ配置の差異による顔印象の検討,” 立正大学
心理学研究年報, Vol.6, pp. 35-52, 2015.

[14]

黒住隆行, 新座良和, 剣持雪子 , 小谷一孔, “固有空間法と重判別分析による顔画像の個人性と表情の解析,” 信学技報, CS98-122, IE98-101, pp.
57-64, 1998.

[15]

P. Ekman , E. L. Rosenberg, “What the Face Reveals: Basic and Applied
Studies of Spontaneous Expression Using the Facial Action Coding
System (FACS),” OXFORD UNIVERSITY PRESS, 2005.

47

[16]

野村竜也, 神田崇行, 鈴木公啓, 山田幸恵 , 加藤謙介, “Human-Robot
Interaction (HRI) における人の態度・不安・行動,” 第 26 回ファジィシス
テムシンポジウム, TB2-4, 2010.

[17]

酒井久美代, “情動認識力が他者認識力に与える影響,” 日本女子体育大学
紀要, Vol.37, pp. 1-8, 2007.

48

付録A

アフィン変換行列の求め方

左右の目，鼻下の座標𝐸r , 𝐸l , 𝑁及び各座標に対応した点𝐸r′ , 𝐸l′ , 𝑁 ′ の各座標を以下のように定義する。
𝐸r = (𝑥r , 𝑦r ), 𝐸l = (𝑥l , 𝑦l ), 𝑁 = (𝑥n , 𝑦n )𝐸r = (𝑥r ′ , 𝑦r ′ ), 𝐸l ′ = (𝑥l ′ , 𝑦l ′ ), 𝑁 ′ = (𝑥n ′ , 𝑦n ′ )′(A. 1)

これら 3 組の対応する点をそれぞれ式(2. 4)に代入し，係数𝛼11 から𝛼23 について
式(A. 2)を得る。
𝑥r ′
𝑥r
′
𝑥l
𝑥l
′
𝑥n
𝑥
= n
0
𝑦r ′
′
0
𝑦l
′
[𝑦n ] [ 0

𝑦r
𝑦l
𝑦n
0
0
0

1 0
1 0
1 0
0 𝑥r
0 𝑥l
0 𝑥n

0
0
0
𝑦r
𝑦l
𝑦n

0 𝛼11
0 𝛼12
0 𝛼13
1 𝛼21
1 𝛼22
1] [𝛼23 ](A. 2)

𝑥r
𝑥l
𝑥n
𝐴=
0
0
[0

𝑦r
𝑦l
𝑦n
0
0
0

1
1
1
0
0
0

0
0
0
𝑦r
𝑦l
𝑦n

0
0
0
1
1
1]

(A. 3)

ここで，
0
0
0
𝑥r
𝑥l
𝑥n

とし，𝐴の逆行列𝐴−1を求めれば，係数𝛼11 から𝛼23 は式(A. 4)によって求まる。
𝑥r ′
𝛼11
𝑥l ′
𝛼12
′
𝛼13
−1 𝑥n
=
𝐴
′
𝛼21
𝑦r
𝛼22
𝑦l ′
[𝛼23 ][𝑦 ′ ]n49(A. 4)

付録B

クラス特徴に基づく固有空間法➢ EMC の概要
EMC は図 B.1 に示すような級間分散と級内分散の差が最大となる射影軸を求める手法である。このような固有空間を求めることでクラス識別が容易になる。ただし，複数クラスが近接又は重なっている場合はクラス間の分離が困難となり，識別精度が低下する。この点を考慮し，本研究では識別器の学習を個人ご
とに行う。

図 B.1

級間分散と級内分散の差が最大となる軸➢ 基底の求め方基底を求める前に前提条件として「識別クラス」，「顔画像」，「学習データ」
について述べる。


識別クラス識別するクラスの集合を𝐹，各クラスを𝑓 ∈ 𝐹とする。
50



顔画像
顔画像は 256 階調のグレースケール画像とし，𝐻 × 𝑊の画像を図 B.2 のようにラスタスキャンして𝑁（𝐻 × 𝑊）次元ベクトルとして扱う。

図 B.2


画像のラスタスキャン

学習データ
各クラス𝑓について学習用顔画像ベクトルの集合を𝑻𝑓 とし，各顔画像ベクトルを𝐭𝑓 とする。全顔画像ベクトルの集合を𝑻とする。

級間分散と級内分散の差が最大となるような正規直交基底𝐞を求める。
級間分散𝑆b と級内分散𝑆i はそれぞれクラス間とクラス内における共分散行列であり，級間分散𝑆b は式(B. 1)，級内分散𝑆i は式(B. 2)により求める。
𝑆b =

1
𝑇
∑|𝑻𝑓 |(𝐭̅𝑓 − 𝐭)̅ (𝐭̅𝑓 − 𝐭)̅
|𝑻|(B. 1)

𝑓∈𝐹

𝑆i =

1
|𝑻𝑓 |

∑ ∑ (𝐭𝑓 − 𝐭̅𝑓 )(𝐭𝑓 − 𝐭̅𝑓 )𝑓∈𝐹 𝐭 𝑓 ∈𝑻𝑓

51

𝑇(B. 2)

̅ 全顔画像ベ
ここで，𝐭̅𝑓 は各クラスにおける顔画像ベクトルの平均値を， 𝐭はクトルの平均値を表し，それぞれ式(B. 3)と式(B. 4)で求める。なお，|𝑻𝑓 |, |𝑻|はそれぞれ𝑻𝑓 , 𝑻の要素数を表す。
1

𝐭̅𝑓 =

𝐭̅ =

|𝑻𝑓 |

∑ 𝐭𝑓

(B. 3)

𝐭 𝑓 ∈𝑻𝑓1∑ ∑ 𝐭𝑓|𝑻|(B. 4)

𝑓∈𝐹 𝐭 𝑓 ∈𝑻𝑓

級間分散と級内分散の差𝑆を式(B. 5)とする。
𝑆 = 𝑆b − 𝑆i

(B. 5)

正規直交基底𝐞は式(B. 6)に示す𝑆の固有値問題を解くことにより得る。
𝑆𝐞 = λ𝐞(B. 6)

求めた基底𝐞について固有値λの絶対値が大きいものから順に𝐾個選び，これを特徴空間の基底𝐞𝑘 (𝑘 = 1,2, ⋯ 𝐾)とする。ただし，𝑘 ≤ 𝑁である。

➢ 辞書ベクトルの求め方
辞書ベクトル𝐝𝑓 は式(B. 7)に示すように各クラスにおける顔画像ベクトルの平均値𝐭̅𝑓 を，基底𝐞𝑘 を用いて特徴空間へ射影することで求める。
𝐝𝑓 = [𝐞1𝐞2⋯ 𝐞𝐾 ]𝑇 (𝐭̅𝑓 − 𝐭̅𝑓 )ここで，𝐭̅𝑓 は𝐭̅𝑓 の各要素の平均値を表す。

52(B. 7)

付録C

実験に使用した質問用紙

氏名：
年齢：
これはロボホンとの一対一のコミュニケーションをする実験です。
あなたがロボホンに話しかけると、ロボホンが受け答えをします。
「あなたが話しかけて、ロボホンが反応する」これをひとつの実験と定義します。
実験において、あなたは以下の 4 種類の言葉の内どれかひとつをカッコ内の感情を込めてロボホンに話しかけます。

勉強を教えて？（無表情）
こら！何してるの！（怒り）

やったー！宝くじが当たったよ！（喜び）
失敗しちゃったなぁ（悲しみ）実験は 1~16 まであります。別紙に 1~16 の実験において、あなたがロボホンに話しかける言葉を載せているので実験時はそれを参照してください。
ひとつの実験が終了したらアンケートを記入してもらいます。
以下の 6 項目について、実験時のロボホンの反応に対して自分が感じた感情を 5 段階で評価してもらいます。実験と評価を 16 回繰り返して終了です。
アンケートの各項目についてNeutral

無表情（何も感じなかった）



Anger

怒り



Sadness悲しみHappiness

喜びArousal

非覚醒-覚醒



Valence不快-快Neutral については、まったく何も感じなかった場合を 5、何か他の感情を強く感じた場合を 1 として評価してください。
Anger, Sadness, Happiness については、各感情を強く感じた場合を 5、その感情を何も感じなかった場合を 1 として評価してください。
Arousal は覚醒を 5、非覚醒を 1 として評価してください。覚醒、非覚醒については以下を参考にしてください。
覚醒：驚き・動揺・興奮・高揚・ ドキッとした場合など心が動いた状態を表す
非覚醒：リラックス・平静・停滞．ぼんやりとした場合など心が動かない状態を表す
Valence はロボホンの反応が心地よかった場合「快」を 5、ロボホンの反応を不愉快、不快に感じた場合「不快」を 1 として評価してください。

管理番号：

図 C.1

実験に使用した質問用紙の例
53

付録D

主観評価の結果

図 D.1

𝑖(Happiness, Anger)の主観評価値

図 D.2

𝑖(Happiness, Happiness)の主観評価値

図 D.3

𝑖(Happiness, Neutral)の主観評価値

図 D.4

𝑖(Happiness, Sadness)の主観評価値
54

図 D.5𝑖(Neutral, Anger)の主観評価値

図 D.6

𝑖(Neutral, Happiness)の主観評価値

図 D.7

𝑖(Neutral, Neutral)の主観評価値

図 D.8

𝑖(Neutral, Sadness)の主観評価値

55

図 D.9𝑖(Sadness, Anger)の主観評価値

図 D.10𝑖(Sadness, Happiness)の主観評価値

図 D.11𝑖(Sadness, Neutral)の主観評価値

図 D.12𝑖(Sadness, Sadness)の主観評価値

56