第33回 全脳アーキテクチャ勉強会

社会的承認による定義をされたAGIに向けた
HAIとWBAの役割
⽇本⼤学⽂理学部 情報科学科 助教
次世代社会研究センター (RINGS) ⻑⼤澤 正彦

01 ⾃⼰紹介1

⼤澤 正彦 (Masahiko Osawa)

⽇本⼤学⽂理学部 次世代社会研究センター (RINGS) ⻑ / 情報科学科 助教 / ⼤澤研究室 主宰
専修⼤学 ネットワーク情報学部 兼任講師
株式会社BLUEM 代表取締役
孫正義育英財団 正財団⽣, 全脳アーキテクチャ若⼿の会 設⽴者/フェロー
1993年⽣まれ. 2020年3⽉ 慶⼤院にて博⼠ (⼯学)を取得.
2020年4⽉より⽇⼤⽂理助教, 同年12⽉よりRINGS センター⻑
記憶のないくらい前からずっと, ドラえもんをつくるのが夢

Copyright @ Masahiko Osawa, 2021.

01 ⾃⼰紹介

全脳アーキテクチャ若⼿の会

AIに関係のない人なんていない

2014年夏に大澤が設立．2017年6月まで代表．
6年間で 2,600人規模 の団体に成長
全世界に優秀な運営メンバー- 関東支部, 関西支部, 九州支部, 東北支部の4拠点- 大学・大学院の首席8名輩出- Harvard, Johns Hopkinsなど輩出
運営メンバーの共同研究開発の成功
多種多様な立場の老若男女がフラットに議論・情報共有できる場- 研究者, ビジネスマン, 起業家,ライター, 小説家, 漫画家, 医者,ダンサー, etc.

2018年度スポンサーシップ締結企業

02 AGI汎⽤⼈⼯知能をテーマに博論

Copyright @ Masahiko Osawa, 2021.

3

02 AGI

社会的承認によって定義されたAGIの開発• 汎⽤⼈⼯知能 (Artificial General Intelligence; AGI)
○ 環境に応じて汎⽤的に動作可能な⼈⼯知能○ 特化型⼈⼯知能（narrow AI) の対⽴概念• AGI開発の障壁○ 膨⼤かつ⾼難易度な機能要件集合○ 明確でない機能要件集合○ 定義の曖昧さ

定義⽅法や評価⽅法から⾒直しCopyright @ Masahiko Osawa, 2021.

4

02 AGIAGIの定義⽅法と評価⽅法• 機能要件集合によるAGIの定義○ “何ができたらAGIか”という機能要件を列挙○ 例: 感情を持っていたらAGI!
• 社会的承認によるAGIの定義○ “多くの⼈にAGIと認められればAGI”○ 典型例︓チューリングテスト

社会的承認によって定義されたAGIの可能性を模索
Copyright @ Masahiko Osawa, 2021.

6

02 AGI

7

AGIの定義⽅法と評価⽅法

機能要件集合による定義
𝑹!←$
合議
!←#

𝑹!

𝑹

𝑹!←%

社会的承認による定義
𝑹!←$
!←#

𝑹

𝑹!←%
静的評価
照会

𝑹!

動的評価

𝑎𝑔𝑡の!
機能集合(𝑹! )不変

合議による共通の機能要件集合は作られない

𝑹!←$
𝑹!←#
𝑹!←%

Copyright @ Masahiko Osawa, 2021.

照会・相互適応

𝑎𝑔𝑡の!
機能集合(𝑹! )可変

02 AGI

定義⽅法の差異による研究アプローチの⽐較

機能要件集合で定義した場合にとれるアプローチ
実装する

実装せずに実装済みにみせる実装せずに許してもらう

社会的承認で定義した場合にとれるアプローチ
Copyright @ Masahiko Osawa, 2021.

8

02 AGI

9

研究アプローチの⽐較• 例︓○ R1: ⽬に⾒える○ R2: 感情がある○ R3: タイムマシーンに乗ってやってくる
実装する

実装せずに実装済みにみせる

Copyright @ Masahiko Osawa, 2021.

実装せずに許してもらう

02 AGI

社会的承認によって定義されたAGIの中間成果物実装する機能要件集合によって定義した
実現困難
AGI

Copyright @ Masahiko Osawa, 2021.

10

02 AGI

社会的承認によって定義されたAGIの中間成果物実装する機能要件集合によって定義した
実現困難
AGI

①

②

③

社会的承認によって定義した
AGI
実装する

実装せずに実装済みにみせる

実装せずに許してもらう④実装

実装せずに許してもらう

しない

実装する機能要件を分解↓① 愚直に実装② 実装済みに⾒せる技術開発③ 許させる技術開発④ 実装しないことを説得

Copyright @ Masahiko Osawa, 2021.

11

02 AGI

社会的承認によって定義されたAGIの中間成果物
機能要件集合によって定義した実現不可能
AGI

社会的承認によって定義した
AGI

社会的承認によって定義したAGIの中間成果物︖

実装
しない

現在の課題はここに当たる問題設定

Copyright @ Masahiko Osawa, 2021.

12

02 AGI

AGIのつくりかた
実装する

あらかじめ実装しておく

実装せずに実装済みにみせる

実装せずに許してもらう

エージェント→⼈の⼈→エージェントの

例: WBA

例: HAI

適応

インタラクションの中で実現する

13

Copyright @ Masahiko Osawa, 2021.

適応02 AGI
エージェント→⼈の適応

ドラえもんのつくりかた

⼈→エージェントの実装する

実装せずに実装済みにみせる

例: WBA

あらかじめ実装しておく

適応

実装せずに許してもらう

例: HAI⼈とエージェントの⼈→エージェントの相互適応
適応エージェント→⼈のインタラクションの中で実現する

14

適応

例: Human-Agent Interaction (HAI)

例: 機械学習Copyright @ Masahiko Osawa, 2021.

02 AGI

15

社会的承認によるAGIの定義
研究の体系化

神経科学
参考

深層学習

改良

適応アーキテクチャ

認知科学

??

参考
適応

搭載

適応
Copyright @Masahiko Osawa, 2021.
エージェント⼈

02 AGI

16

社会的承認によるAGIの定義
研究の体系化

神経科学
参考

深層学習

認知科学
参考

改良

適応

適応
アーキテクチャ搭載
適応
Copyright @Masahiko Osawa, 2021.
エージェント⼈

02 AGI

17

社会的承認によるAGIの定義
研究の体系化

神経科学

深層学習

認知科学

WBA

参考

改良

適応アーキテクチャ

搭載

HAI

参考

適応

適応
Copyright @Masahiko Osawa, 2021.
エージェント⼈

02 AGI

18

社会的承認によるドラえもんの定義
研究の体系化
エージェント→⼈の神経科学
参考適応深層学習

認知科学
例: WBA参考

改良適応

適応アーキテクチャ搭載
適応
Copyright @Masahiko Osawa, 2021.
エージェント⼈

02 AGI

19

社会的承認によるドラえもんの定義
研究の体系化⼈→エージェントの神経科学
深層学習

認知科学

適応
例: HAI

参考

参考

改良

適応

適応アーキテクチャ搭載
適応
Copyright @Masahiko Osawa, 2021.
エージェント⼈

02 AGI

20

社会的承認によるドラえもんの定義
研究の体系化

神経科学
参考

深層学習

認知科学
参考

改良

適応

適応アーキテクチャ搭載
適応
Copyright @Masahiko Osawa, 2021.
エージェント⼈

03 研究紹介
ネズミレベルの最⼩認知アーキテクチャ

22

Chersi and Neil, “The cognitivearchitecture of spatial navigation:
hippocampal and striatalcontributions.”, Neuron, 2015.
Copyright @ Masahiko Osawa, 2021.

03 研究紹介
ネズミレベルの最⼩認知アーキテクチャ

23

深層強化学習的Chersi and Neil, “The cognitivearchitecture of spatial navigation:
hippocampal and striatalcontributions.”, Neuron, 2015.
Copyright @ Masahiko Osawa, 2021.

03 研究紹介
ネズミレベルの最⼩認知アーキテクチャ

24

深層強化学習的Chersi and Neil, “The cognitivearchitecture of spatial navigation:
hippocampal and striatalcontributions.”, Neuron, 2015.

⼯学的未成熟だが⽣物学的な知性に重要
Copyright @ Masahiko Osawa, 2021.

03 研究紹介
ネズミレベルの最⼩認知アーキテクチャ

25

Chersi and Neil, “The cognitivearchitecture of spatial navigation:
hippocampal and striatalcontributions.”, Neuron, 2015.
Copyright @ Masahiko Osawa, 2021.

03 研究紹介

海⾺を参考にした深層学習器の概要

26● 海⾺では成体の脳に神経新⽣→ 神経新⽣を参考にした学習モデル [1]* 新⽣させる細胞(素⼦数)を⾃動決定するアルゴリズムも独⾃開発 [2]発表3件中3件受賞 (*1*2*3)● 海⾺では強いリカレント構造→ リカレント構造を取り⼊れた学習モデル [3]● 神経科学への⽰唆 [4][1] Matsumori, Abe, Osawa, Imai, Procedia Computer Science, 2018.
[2] Osawa and Hagiwara, ISIS, 2015.
[3] Osawa, Imai, and Yamakawa, ICONIP, 2016.
[4] Osawa and Imai, Procedia Computer Science, 2018.
(受賞)*1 IEEE Japan Chapter Young Researcher Award, 2014.
*2 ISIS2015, Best Presentation Award, 2015
*3 ⽇本神経回路学会⼤会奨励賞, 2017.

Copyright @ Masahiko Osawa, 2021.

03 研究紹介
ネズミレベルの最⼩認知アーキテクチャ

27

Chersi and Neil, “The cognitivearchitecture of spatial navigation:hippocampal and striatalcontributions.”, Neuron, 2015.
Copyright @ Masahiko Osawa, 2021.

03 研究紹介
前頭前野を参考にした汎⽤調停モデルの概要● 前頭前野は複数モジュールの調停機能を担うとされる→ Accumulator ニューロンのモデルを⼯学応⽤して実装→ 別の問題設定の機械学習タスク（教師あり学習・強化学習）に汎⽤的に有効な調停⼿法を実現 [5], *4→ 多数の応⽤事例 [6-8][5] Osawa, Ashihara, Seno, Imai and S. Kurihara, ICONIP, 2017[6] Seno, Osawa, Imai, HAI, 2018[7] Okuoka, Takimoto, Osawa, Imai, HAI, 2018.
[8] Seno, Osawa, Imai, BICA, 2018.
(受賞)*4 ⼈⼯知能学会30 周年記念事業奨励賞, 2016.
Copyright @ Masahiko Osawa, 2021.

28

03 研究紹介 社会的承認によるドラえもんの定義

29

研究の体系化

神経科学
参考

深層学習

認知科学
参考

改良

適応

適応アーキテクチャ搭載
適応
Copyright @Masahiko Osawa, 2021.
エージェント⼈

03 研究紹介

30

Copyright @ Masahiko Osawa, 2021.

03 研究紹介

⾃律動作を調停する遠隔操作ロボット
遠隔操作者

遠隔操作者

ABAM
自律動作

随意運動モジュール群

遠隔操作

遠隔操作

A2

…

対話者

振る舞いモジュール P2

重み付き平均化

不随意運動
モジュール群

テレプレゼンス
ロボット

物体

A1

…

センサ ,メモリ ,...

振る舞いモジュール P1

物体

ロボット

One Minder

テレプレゼンス
ロボット

Aop

遠隔操作

優先度付き選択

自律動作対話者

31

SB アーキテクチャ

抑制信号

奥岡,大澤,今井, “遠隔操作と自律操作を適応的に切Copyright @ Masahiko Osawa, 2021. り替える半自律テレプレゼンスロボットアーキテクチャ”, 人工知能, 2021-3.

03 研究紹介

⾃律動作を調停する遠隔操作ロボット
遠隔操作者

遠隔操作者

ABAM
自律動作
t-testt-test
随意運動モジュール群

遠隔操作

遠隔操作操作衝突軽減

A2

…

対話者

操作負荷軽減振る舞いモジュールP2

重み付き平均化

不随意運動モジュール群

テレプレゼンス
ロボット

物体

A1

…

センサ ,メモリ ,...

振る舞いモジュール P1

物体

ロボット

One Minder

テレプレゼンス
ロボット

Aop

遠隔操作

優先度付き選択

自律動作

対話者

32

SB アーキテクチャ

抑制信号

奥岡,大澤,今井, “遠隔操作と自律操作を適応的に切Copyright @ Masahiko Osawa, 2021. り替える半自律テレプレゼンスロボットアーキテクチャ”, 人工知能, 2021-3.

03 研究紹介 社会的承認によるドラえもんの定義

33

研究の体系化

神経科学
参考

深層学習

認知科学
参考

改良

適応

適応アーキテクチャ搭載
適応
Copyright @Masahiko Osawa, 2021.
エージェント⼈

03 研究紹介34

03 研究紹介「⾔葉を使わずに」しりとり

「りんご」
ドララ!
「ごりら」…って⾔ったの︖
じゃあ、「らっぱ︕」

35

03 研究紹介

エージェントデザインのトレードオフ

36

技術的課題
「心を想定される」と「役に立つ」ことの両立が困難
非自然言語
エージェント

自然言語
エージェント

役に立つために自然言語能力が重要
技術が未成熟なため不適切な応答心を想定される
役立つ心を想定される
役立つ

ユーザに内部設計を見透かされる
ユーザは心ではなく内部設計を想定

03 研究紹介

エージェントデザインのトレードオフ

「りんご」
ドララ!
「ごりら」…って⾔ったの︖
じゃあ…
「らっぱ︕」●概要
⽂脈に基づいて表出の意図を推定させる

37→⾃然⾔語を⽤いたものと同様のインタラクション●実現できたことユーザに内部設計を⾒透かされずに⾃然⾔語的なインタラクションが実現●実現できていないこと
ユーザの予測のきっかけとなる⽂脈⽣成→⽂脈がないと役に⽴てなくなる

⽂脈⽣成さえできれば、「⼼を想定される」ことと「役に⽴つ」ことを両⽴

03 研究紹介

38

ITACO x ⾮⾃然⾔語エージェント● 非自然言語エージェントが文脈を作れない欠点があったが、「乗り移る」ことで新たに文脈を自律的に生成可能に
e.g. 冷蔵庫に乗り移ったということは、食材について伝えたい？

!!

実社会において「心を想定される」「役に立つ」を両立

05 まとめ

HAIはWBAの中間成果物として有効か︖

39● 社会的承認による定義を考えた時、私は…

HAIはAGIの中間成果物として有効と考えている

HAIはWBAの中間成果物として有効であることを期待している● 論点は、⽣物の脳と整合性がとれる情報処理アーキテクチャがHAIにおいて① ⼈から他者モデルを想定されやすい② ⼈に対して他者モデルを想定しやすいを満たすか︖

Copyright @ Masahiko Osawa, 2021.

Fin.
Copyright @ Masahiko Osawa, 2021.

40