35
2022.10.5 18:00 ~ 20:40

人工知能が心をもつならば
主催：NPO法人 全脳アーキテクチャ・イニシアティブ

アジェンダ
18:00

開会の挨拶と趣旨説明

山川宏（WBAI）

18:15

感情発達ロボティクス

日永田智絵（奈良先端科学技術大学院大学）

18:45「意識の科学」のための「意識のアップロード」或いは渡邉正峰（東京大学）「意識のアップロード」のための「意識の科学」

19:15

休憩（10分）

19:25

意識の価値

19:55

パネルディスカッション

20:35

Closing Remark

20:40 終了

新川拓哉 (神戸大学)

山川宏（モデレーター）、日永田智絵、渡邉正峰、新川拓哉
森岡大成 （実行委員長)

開会の挨拶と趣旨説明
全脳アーキテクチャ・イニシアティブ

山川 宏

全脳アーキテクチャ・アプローチ

Since 2014

脳全体のアーキテクチャに学び⼈間のようなAGIを創る(⼯学）①脳の各器官を機械学習モジュールとして開発②それらを統合した認知アーキテクチャの構築

本アプローチの利点
共同開発の基盤として脳の構造を利⽤して開発を加速● ⼈間に関わる諸分野の科学知⾒を活⽤できる● 開発の発散を防げる合意しうる認知アーキテクチャ● 脳にガイドされた有機的な技術の統合
3

⼈と親和性の⾼いAGIを作れる● 対⼈インタラクションが必要な応⽤● 精神疾患などのモデル化など医療応⽤● Mind-uploadingの器

全脳アーキテクチャ・イニシアティブ（WBAI)
良くも悪くも⼈類の福利厚⽣に対して⼤きな影
響を与えるのは知能。
ヒトのあらゆる知的能⼒を凌駕する汎⽤⼈⼯知能(AGI)の実現は、もはや夢物語でない。
「⼈類と調和した⼈⼯知能のある世界」というビジョン実現のため、脳型からのAGIのオープンな開発を促進する(2030年⽬処)。
特定の組織がAGIを独占するリスクを抑制。

NPO法人WBAI代表

山川 宏

4

BRA駆動開発
脳型ソフトウエア

仮説的コンポーネント図(HCD)

ることで、⼈間の解剖学的
築

SCID法

構制約

脳情報フロー (BIF)

メゾスコピックレベル（均⼀サーキット）より粗いレベルの解剖学的構造に関する情報フロー

作成

BIFの適切度評価

価アを構築する⼿法

HCDの適切度評価

評

機能を再現するソフトウェ

ROIのBIFと整合しつつ、その最上位機能を達成するように体系化された計算機能のコンポーネント図

脳参照アーキテクチャ (BRA)実装

脳全体の神経回路を参照す
構造にに整合性の⾼い認知忠実度
評価

神経科学分野の論⽂・データ
科学
脳の真実

5

WBAIのビジョンにむけた技術ロードマップ

WBAIの推進体制
顧問：

銅谷賢治（OIST） 北野宏明（Sony）
冨田勝（慶應義塾大） 森川博之（東大）
岡ノ谷一夫（東大）

理事：

山川宏（代表） 松尾豊（副代表/東大）
高橋恒一（副代表/理研） 荒川直哉

監事：

井上康秀

会議：総会、理事会、その他委員会

■ 特別賛助会員

賛助会員■ 賛助会員■ 賛助会員（個人）後藤健太郎 様

上林厚志様

上野山勝也 様

賛助会員
■ 創設賛助会員

活動趣旨をご理解の上、ご支援頂けますと助かりますクラウドファンディング

アカデミストというクラウドファンディングサイトで寄付の募集を始めました！
https://academist-cf.com/fanclubs/267

全脳アーキテクチャの解説を含む書籍「心をとらえるフレームワークの展開」の発売
目次：
序
第1章
第2章
第3章
第4章
第5章
第6章
第7章

第三世代の認知科学の可能性（横澤一彦）
統合的認知（横澤一彦）
プロジェクション科学（鈴木宏昭）
内受容感覚の予測的処理（大平英樹）
自由エネルギー原理（乾敏郎）
圏論による認知の理解（布山美慕・西郷甲矢人）
全脳確率的記号創発ロボティクス（谷口忠大）
生成モデル
全脳アーキテクチャ──機能を理解しながら脳型AIを設計・開発する（山川 宏）

https://wba-meetup.connpass.com/event/260105/

第７回全脳アーキテクチャシンポジウム

汎⽤ロボティクスと脳型知能
2022年10⽉12⽇ 13︓15〜17:20

パネル討論
脳を参照するロボティクス
主後協運

催︓ NPO法⼈ 全脳アーキテクチャ・イニシアティブ
援︓ 学術変⾰ ⾏動変容⽣物学⼒︓ AIアート集団「波羅密多」
営︓ WBA勉強会実⾏委員会

⼈のような⼼をもつAIはどう役⽴つか︖

WBAアプローチの利点︓
⼈と親和性の⾼いAGIを作れる–対⼈インタラクションが必要な応⽤–精神疾患などのモデル化など医療応⽤–Mind-uploadingの器
13

WBAIで議論されてきた倫理性に配慮した脳型AGI
新皮質が担う理性的な価値判断• 普遍性をの高い倫理を追求しうる

生命の目標
：

情報の生存

•

人類の生存（SDGs）

脳を真似て実装することは妥当

血族の生存
共感

皮質下が担う(攻撃性等)
本能的/利己的な価値観• 急速な環境変化(技術爆発)に対して不適合•個体の生存• 自己保存
• リソース獲得

好奇心

そのまま実装はしない
が、ヒトの心を理解するためにモデル化する

寒い
腹減った

Stefan Koelscha, The quartet theory of human emotions:, 2015.
14⼈⼯脳が⼼をもつならば︓ 感情と意識
⼼とは、⼈間（や⽣き物）の精神的な作⽤や、それのもとになるものなどを指し、感情、意志、知識、思いやり、情などを含みつつ指している。
• 感情– ⽇永⽥智絵（奈良先端科学技術⼤学院⼤学）• 感情発達ロボティクス• 意識– 渡邉正峰（東京⼤学）• 「意識の科学」のための「意識のアップロード」或いは「意識のアップロード」のための「意識の科学」– 新川拓哉 (神⼾⼤学)• 意識の価値15

関連研究• 扁桃核における情動関連の機能仮説の構築– 恐怖条件付けにおける消去学習と回復を実現する扁桃体の相互抑制機構を考慮した機能仮説（宮本 ⻯也・⽥和辻可昌・⼭川 宏）• https://ken.ieice.org/ken/paper/20220930RCMp/• 意識のEntification仮説（⼭川）– 世界から存在を⾒出すためのシリアルな処理を意識とみなす– 参考⽂献• 布川絢⼦， 松尾豊. 意識の Entification 仮説. in 2022年度⼈⼯知能学会全国⼤会（第36回）• 第22回 汎⽤⼈⼯知能研究会 (2022/11/22) to appear
16

扁桃体の恐怖関連機能のモデル化

宮本 竜也ら、NC研究会, 2022年9月

条件付け・消滅・回復の機構について、⽣物学的に妥当な機能仮説を提案

USと同時に提示されたCSに対して、恐怖反応が条件付けされる

US のない状態でのCS の繰り返し提示により、同一Contextに安心する

17

左記と同Context でUS が提示されたときに恐怖反応が回復Entification︓ 存在を⾒出す処理

第22回 汎用人工知能研究会 (2022/11/22) to appear

世界から観測される情報のなかに繰り返し現れる不変のパターンを見出す処理
前処理
観測
主キー

事例集合

観測データ

サンプリング(標本テーブル内)

読取り
⼿続き

シングル
アウト

evaluatio
n
標
X1 本テ
X2 ーブ
X3
ル
X4X5

(整列済みテーブル内)

整列化
evaluationFb）

bam

Z2
Z1bGaGb圧テ 縮済ー みブル
Z1Z2済

A1 みテ
A2 ーブ
ル
A3A4m aFbGm Ga(圧縮済みテーブル内)

列FaGm

Gb Gm GaFbFaFm

符号化表現（generative feedback
整FaFm

符号化
マッピング

prediction

Fm

主キー

selection

PK

Entity記述

Z2tb

Z1Gb

整列化
SPM
12value set256

観測不変要因
→ 種別

変動要因
→質

https://arxiv.org/pdf/2208.06590.pd
18

意識のEntification仮説︓主キー系列で制御されるEntification処理
仮説：意識とは、主キー系列を用いて行われるEntification処理

新⽪質上では、ある時点で表現できる内容は⼀つ隣接する時刻間のみで表現内容が⽐較可能（誤差を計算することができる）
主キー系列
順序付けされた主キー

主キー系列

なぜ系列なのか︖

読取り⼿続きPK

標
X1 本テ
X2 ーブ
X3
ルX4X5

FbFaFm

FGb Gm Ga12value set

256

観測19Gb

⼼をもつAIはどのようにつくられるべきか︖ by ⼭川• 単に攻撃能⼒が⾼い⾼度AIが対⽴すれば、技術爆発で狭くなった世界では、相互破壊にいたる危険性が極めて⾼い(Existential Risk)。
• よって知的でありながら共存共栄を実現するには「信頼関係を構築する能⼒」に優れたAIを構築すべき。
• それゆえ、信頼構築能⼒をもつAIがいわゆる「倫理空間」への参加権（道徳的地位を認められる）をもつ。
Entification能⼒は、信頼構築能⼒の基盤であるため、少なくとも、それをもたないレベルの主体は、倫理空間に⼊る資格をもたないだろう。
– 他者認識︓主体の候補となる外界の事物を存在として扱う能⼒– 意図推定︓ ⾃⼰の内部状態(意図・感情・信念など)を存在として扱い、それを他者に対応付ける類推能⼒
20趣旨説明：人工脳が心をもつならば● 高度な人工知能を人の脳のように構築してゆけば、それは、ヒトと近い、心／感情／意識をもつ主体となっていくであろう○ それは時に過去の生者から連続もしくは非連続的な意識がアップロードした主体であるかもしれない。
○ 進展著しい、大規模言語モデルなどとの接点はどうなるか？
● 本勉強会では、倫理的な課題をひとつの軸としつつ議論を行う○ 人々はそうした主体となりたいと思うのか○ そうした主体の尊厳を認めるべきかといった運営体制
プログラム委員長：
実行委員長：
司会者：
Zoom：
Connpass運営：
Slack運営：

山川 宏
森岡大成
濱田太陽
生島 高裕、西村由弥子
孫 暁白
土肥栄祐

運営全般： WBA勉強会実行委員会

活動募集
活動への参加、お待ちしています

1. WBA勉強会実行委員会
2. WBAI開発部
3. 賛助会員

WBA勉強会実行委員会
勉強会やシンポジウムの企画や運営支援を行うボランティアグループです。
ご興味のある方はこちらからhttps://wbainitiative.org/get̲involved/join/

WBAI開発部

脳型AIの実装、開発方法論やロードマップの議論にご興味ある方はぜひご参加ください
wba-initiative.org/join-sig-wba

賛助会員

理念に賛同し汎用人工知能の実現を支援して下さる賛助会員を募っています。
https://wba-initiative.org/support/

クラウドファンディング

アカデミストというクラウドファンディングサイトで寄付の募集を始めました！
https://academist-cf.com/fanclubs/267