ヒューマンエージェント
インタラクション：
AIとHCIの葛藤
慶應義塾⼤学 理⼯学部
今井 倫太

⾃⼰紹介
• 1988-1994 慶應義塾⼤学 理⼯学部出⾝• 安⻄ 祐⼀郎 研究室• 1994- NTT ヒューマンインタフェース研究所• 1997- ATR 知能映像通信研究所• 2002- 慶應義塾⼤学 理⼯学部
ATR 知能ロボティクス研究所• 2009-2010 シカゴ⼤学 訪問研究員• 2015-2017⼈⼯知能学会理事• 現在、理⼯学部情報⼯学科 教授
2020/4/20

今井 倫太@慶⼤2

インタラクションの認知科学 (認知科学のススメ)
新曜社
今井 倫太

2020/4/20

今井 倫太@慶⼤3

アウトライン• 知能にとってのインタラクション• エージェント・ロボットとのインタラクションの研究• インタラクションと他者• イミテーション・知能・インタラクション• AI-HCIの葛藤• インタラクション研究のAI回帰

2020/4/20

今井 倫太@慶⼤4

知能にとってのインタラクション

2020/4/20

今井 倫太@慶⼤

5エージェント・ロボットとのインタラクションの研究

Linta 1991

2020/4/20

Itaco 1998 演出2003

今井 倫太@慶⼤

TEROOS 20126

エージェント・ロボットとのインタラクションの研究• 状況に依存した⾔語解釈No good!

No good!

I will stop.
About what?

A situation where
it almost strikes the box.
2020/4/20

今井 倫太@慶⼤

7エージェント・ロボットとのインタラクションの研究• ⾳声認識• 構⽂解析・意味解析• 状況認識• 状況依存解釈・推論• ⾏動⽣成・返答⽣成

2020/4/20

今井 倫太@慶⼤

8エージェント・ロボットとのインタラクションの研究• エージェントマイグレーション Itaco[Imai&Ono‘98]• 個⼈プロファイルの移動• 会話履歴の継続• 個⼈カスタマイズ• 好み、性別、etc.

• 推薦

2020/4/20

今井 倫太@慶⼤

9エージェント・ロボットとのインタラクションの研究• Wizard of Oz 法アクション選択認識処理
映像
⾳声

2020/4/20

今井 倫太@慶⼤

10エージェント・ロボットとのインタラクションの研究• TEROOS [Kashiwabara, Shinozawa, Imai‘12]

2020/4/20

今井 倫太@慶⼤

11エージェント・ロボットとのインタラクションの研究• テレプレゼンス

⾳声発話
操作映像
⾳声

2020/4/20

今井 倫太@慶⼤

12エージェント・ロボットとのインタラクションの研究

知能

Linta 1991

Itaco 1998 演出2003

TEROOS 2012

⼩中⼤

100%

50%

0% !!

Wizard of Oz
2020/4/20

今井 倫太@慶⼤

インタラクション

テレプレゼンス13

インタラクションと他者• インタラクションにおける道具vs他者
能動的に環境を認識し、⾃律的に⾏動するエージェント
⼈と異なる⽬的を持つこともある。

⼈の意図通り動く事が期待される道具
2020/4/20

今井 倫太@慶⼤

14

インタラクションと他者• 読み合う関係・意図、⽬的・認識対象、注意対象
・感情
・信念・知識・意図、⽬的・認識対象、注意対象
・感情・信念・知識推測
推定2020/4/20

今井 倫太@慶⼤

15

インタラクションと他者• 読み合う関係・意図、⽬的・認識対象、注意対象・感情・信念・知識

推測

2020/4/20

今井 倫太@慶⼤

16

インタラクションと他者• 擬⼈化: 他者性を持たせるのに優位
https://newatlas.com/disney-catchingrobot/25145/• https://www.youtube.com/watch?v=83eGcht7IiI&f
eature=youtu.be

2020/4/20

今井 倫太@慶⼤

17

インタラクションと他者• ⼈の状態推定の難しさ• ⼈の内部状態は観測できない• ⽂脈依存性

推定
かなり難しい2020/4/20

今井 倫太@慶⼤・意図、⽬的・認識対象、注意対象・感情・信念・知識

18

インタラクションと他者• ⼈の状態推定の放棄• 練られたシナリオによるロボット⼿動対話• 擬⼈化しやすい形状なので、⼈側の推測だけで成⽴• ロボットは⼈側の状態を推定する必要なし• ⼈の状態はシナリオに沿って変化するはず
こんにちは⽤意されたシナリオに⼈が付き合っている間は良いインタラクションが成⽴する。

あそぼう!
じゃんけんしよ!
どこから来たの?
2020/4/20

今井 倫太@慶⼤

19

イミテーション・知能・イン
タラクション ⼈から⾒ると、いろんな要素が絡まって返答が⽣成されるので、このやりとりを⾒た⼈は、プログラムの背後にも同様の認知情報処理プロセスを想像してしまう。
このプグラムは知能があって凄い!

• ⼈⼯無能：ELIZA
⼈：最近不安でしょうがないんです。

ELIZA

ルールの例

なぜ、あなたはXだと思うのですか？

⼈だったら・意図: 相談に乗る・認識対象: 相⼿の⼼理状態理解
・感情: 同情・共感・知識: カウンセラーの知識
・推論: 相⼿の発⾔の背景理解
・計画: 何を話して相⼿を理解するか

ELAIZA:なぜ、あなたは、最近不安でしょうがないと思うのですか？
2020/4/20

今井 倫太@慶⼤

20

イミテーション・知能・イン
タラクション ⼈から⾒ると、いろんな要素が絡まって返答が⽣成されるので、このやりとりを⾒た⼈は、プログラムの背後にも同様の認知情報処理プロセスを想像してしまう。
このプグラムは知能があって凄い!

• ⼈⼯無能：ELIZA
⼈：最近不安でしょうがないんです。

⼈だったら・意図: 相談に乗る・認識対象: 相⼿の⼼理状態理解
・感情: 同情・共感・知識: カウンセラーの知識
・推論: 相⼿の発⾔の背景理解
・計画: 何を話して相⼿を理解するか

ELAIZA:なぜ、あなたは、最近不安でしょうがないと思うのですか？
2020/4/20

今井 倫太@慶⼤

21

イミテーション・知能・イン
タラクション• ⼈⼯無能：ELIZA• 現状のエージェントやロボットも似たような物• 深層学習はどうなのか？

2020/4/20

今井 倫太@慶⼤

22

イミテーション・知能・イン
⼈は、複雑な⼊出⼒を⾒ると、その背後にタラクション ⼈と同様の認知情報プロセスを想像してし• 深層学習はELIZA???

まう。
「このプグラムは知能があって凄い!」という認識がELIZAと同様に⽣じる。
ELIZA以上かも？
⼈だったら何の写真？

・意図: 質問に答える。
・認識対象: 写真の理解
・感情: ニュートラル
・知識: お祭り、町、etc
・推論: 相⼿の発⾔の背景理解
・計画: 何を回答するのが適切か

深層学習
・データ間に内在される相関・⼈⼿ではコーディングできない⼊出⼒関係の抽出

2020/4/20

お祭りです。
⼈が何⼈か居ます。

今井 倫太@慶⼤

23

イミテーション・知能・イン
⼈は、複雑な⼊出⼒を⾒ると、その背後にタラクション ⼈と同様の認知情報プロセスを想像してし• 深層学習はELIZA???

まう。
「このプグラムは知能があって凄い!」という認識がELIZAと同様に⽣じる。
ELIZA以上かも？
⼈だったら何の写真？

・意図: 質問に答える。
・認識対象: 写真の理解
・感情: ニュートラル
・知識: お祭り、町、etc
・推論: 相⼿の発⾔の背景理解
・計画: 何を回答するのが適切か

2020/4/20

お祭りです。
⼈が何⼈か居ます。

今井 倫太@慶⼤

24

イミテーション・知能・インタラクション• 深層学習でもELIZAと同じ事が起きてしまっている。
• 複雑な⼊出⼒を実現してみせて⼈に知能を想起させてしまう能⼒は、同じどころかELIZA以上!

• 真の⼈⼯知能になり得ないと悲観するか、この現象を逆⼿にって利⽤するか、あなた次第• ヒューマンエージェントインタラクションでは、この現象を利⽤している。
2020/4/20

今井 倫太@慶⼤25

AIとヒューマンインタフェースの葛藤
仲違いした兄弟は再度⼿を結ぶことができるのか？

AI

ヒューマンインタフェース

⼈に使いやすい便利な機械を作りたい。という観点では同じ⽬標を追求している。
2020/4/20

今井 倫太@慶⼤26

AIとヒューマンインタフェースの葛藤
なぜこんな⾏き違いが、⼈と機械の間で発⽣したのだろうか。
⼈は、機械が現在どういう状態（モード）なのか分からない。
モード: 原稿作り、両⾯複写

ヒューマンインタフェース
⼈にとって機械の状態を ・分かりやすい機械を分かりやすくする。
デザインする。
例：画⾯の⼯夫、・複雑で分かりづらくな⼿順の⼯夫
る⼈⼯知能はできるだ
け排除

・深層学習によって⼈の⾏動認識た⾶躍的に向上
・AIを排除していたヒューマンインタフェースは変わる？
両⾯コピーを取るのが難しい。
80年中頃のゼロックスの研究所

機械は、⼈が今何をしようとしているのか分からない。

2020/4/20

機械がセンサで⼈が何をしたいか認識する。
例：ボタン操作から推論
画像認識

今井 倫太@慶⼤

気が付いたら⽅向性が全然違うものになった。
⼈⼯知能・近年までなかなか良い精度で動かないので、⽤いると帰って⾜を引っ張っていた。

27

インタラクション研究のAI回帰

知能

Linta 1991

Itaco 1998 演出2003

TEROOS 2012

⼩中

⼤

100%

50%0%100%100%

2020/4/20

今井 倫太@慶⼤

インタラクション28

インタラクション研究のAI回帰
JST CREST
⽂脈と解釈の同時推定に基づく相互理解コンピューテーションの実現
2019.10-2025.3
代表：慶應義塾⼤学 理⼯学部 今井 倫太
分担：慶應義塾⼤学 理⼯学部 ⾼橋 正樹
慶應義塾⼤学 理⼯学部 杉浦 孔明
東京⼤学
植⽥ ⼀博
2020/4/20

今井 倫太@慶⼤29