第5回 WBAレクチャー[オンライン]

2023/03/28

全脳計算モデルの実現に向けた認知モデルの役割

全脳確率的生成モデルによる統合認知モデルとロボティクス応用立命館大学情報理工学部
講師 谷口 彰

自己紹介
氏名： 谷口 彰
職位：講師
所属： 立命館大学 情報理工学部 創発システム研究室
略歴◆ 2018年 3月 立命館大学大学院 情報理工学研究科 博士後期課程 修了◆ 2017年 4月～2019年 3月 日本学術振興会 特別研究員 (DC2, PD)◆ 2019年 4月～2022年 3月 立命館大学 情報理工学部 特任助教
◆ 2022年 4月～
立命館大学 情報理工学部 講師

博士（工学）

主な研究テーマ：「確率的生成モデルに基づくロボットによる場所概念・語彙の獲得と活用」➢ 位置情報・言語情報・画像情報などのロボットのマルチモーダル情報からの場所概念（場所のカテゴリ）の形成や空間的語彙の獲得と，それらの実世界タスクへの活用を目指す研究．
➢ 記号創発ロボティクス，知能ロボティクス，人工知能，機械学習，ロボット学習，概念形成，言語獲得

2

今回の講演内容•概要– 人の認知機能は、脳の全体的な働きと身体性による制約、環境との相互作用によって実現される。
– 多様な実世界における認知モデルの実装と実証のためには、身体を持つロボットの活用が重要となるだろう。
– 本講演では、人工知能学会誌の特集「生成AI 時代における認知のモデリング」において執筆した記事「脳科学とロボティクスを結ぶ統合認知モデルの実践と展望」の内容をベースに紹介する。
– 主に、脳に学び、ロボットに実装可能な統合認知モデルとして全脳確率的生成モデル（Whole Brain
Probabilistic Generative Model：WB-PGM）のアプローチについて概説する。
– また、WB-PGM実現に向けた個々の研究事例として、海馬体のナビゲーション機能や聴覚・言語野の二重分節化機能に着目したPGMを紹介する。
– その後、現在の課題と実現への道筋について考察する。

•

工学的な視点から事例紹介的な内容が中心
3

全脳確率的生成モデル(WB-PGM)
Whole brain Probabilistic Generative Model•

PGMによる全脳アーキテクチャ構成のためのパースペクティ
ブ論文 [Taniguchi et. al., 2021]を共同執筆•目的– 汎用人工知能（AGI）の実現– 人の脳に学び、脳を模した認知アーキテクチャの構築– 確率的生成モデルを用いた統合的認知システムの構築•Research Question– どのような認知モジュールを実装するべきか？
– それらをどのように統合させ連携されればよいか？

•以下の2つのアプローチを組み合わせることで、これらの疑問に答える。
1.

脳にインスパイアされたAI：人間レベルの知能を創り出すために、人間の脳アーキテクチャから学ぶ

2.

PGMベースの認知システム：記号創発・認知発達ロボティクスにおける構成論的アプローチとしてPGMを統合した統合的認知システムを開発する

Taniguchi, T., Yamakawa, H., Nagai, T., Doya, K., Sakagami, M., Suzuki, M., Nakamura, T., & Taniguchi, A. (2022). Whole brain Probabilistic Generative
Model toward Realizing Cognitive Architecture for Developmental Robots. In Neural Networks. http://arxiv.org/abs/2103.08183

4実世界での認知モデルの意義• 人の認知機能は、脳の全体的な働きと身体性による制約、環境との相互作用によって実現される。
• このような認知機能を人工的に実現するためには(1)脳全体の機能と構造を参照した認知モデルの構築(2)その認知モデルを駆動するために身体性を持つロボットへの実装(3)実世界において検証が重要である。

• 認知システムは、システム自身が観測するマルチモーダルな感覚運動情報を自己組織化し、様々なスキルを学習する必要がある。
そのためには、物理的および社会的環境を能動的かつ自律的に探索する身体が必要であり、実世界で行動できるロボットを使用することが有効であると考える。
⇒記号創発ロボティクスにおける構成論的アプローチ
5

BRAとしての確率的生成モデル（PGM）
構築のための変換方法
6

確率的生成モデルとは？
Probabilistic generative model (PGM)• データが生成される過程をモデル化したもの• 確率分布を仮定することでデータの統計的な性質をとらえる• グラフィカルモデルによってモデル構造を可視化できる• グラフィカルモデル
生成モデル
𝑥𝑖 ~ 𝑝 𝑥𝑖 𝜃𝑦𝑖 ~ 𝑝 𝑦𝑖 𝑥𝑖 , 𝜃)

– 変数間の依存関係をグラフ構造で表現– ノード：確率変数– エッジ：依存関係

生成モデル

推論モデル

= 𝑝𝜃 𝑥𝑖= 𝑝𝜃 𝑦𝑖 𝑥𝑖 )推論モデル
𝑞 𝑥𝑖 𝑦𝑖 , 𝜙 = 𝑞𝜙 𝑥𝑖 |𝑦𝑖両方（VAE）

7

なぜ確率的生成モデル？
• グラフィカルモデルによって構造を容易に可視化できる• PGM同士を統合しやすい（Neuro-SERKETフレームワーク[Taniguchi 2020] ）➢ 全脳PGM へ• 教師あり学習、教師なし学習、強化学習
をすべてPGMの上で議論できる• 神経科学分野などでも議論・理論構築されている– ベイズ脳仮説 [Doya 2007]– 自由エネルギー原理/予測符号化仮説[Friston 2012]– 世界モデル（World model）↑谷口忠大先生スライドより[Taniguchi 2020] Tadahiro Taniguchi, Tomoaki Nakamura, Masahiro Suzuki, Ryo Kuniyasu, Kaede Hayashi, Akira Taniguchi, Takato Horii,and Takayuki Nagai, “Neuro-SERKET: Development of Integrative Cognitive System through the Composition of Deep Probabilistic
Generative Models”, New Generation Computing, Jan. 2020.
[Doya 2007] Doya, K., Ishii, S., Pouget, A., Rao, R.P.N., Bayesian Brain: Probabilistic Approaches to Neural Coding. MIT Press. 2007.
8[Friston 2012] Friston, Karl, and Ping Ao. "Free energy, value, and attractors.“ Computational and mathematical methods in medicine 2012.

Neuro-SERKET: Development of Integrative Cognitive System Through theComposition of Deep Probabilistic Generative Models [Taniguchi+ 20]

1. Belief propagation
2. SIR
3. MH
複雑な認知システムを効率的に開発可能に
 Connecting cognitive modules developed as probabilistic generative models
and letting them work together as a single unsupervised learning system.
 Having inter-module communication of probabilistic information andguaranteeing theoretical consistency to some extent.
 Neuro-SERKET supports deep generative models, i.e., VAE, as well.
Nakamura T, Nagai T and Taniguchi T, SERKET: An Architecture for Connecting Stochastic Models to Realize a Large-Scale Cognitive Model. Front.
Neurorobot. 12:25. (2018) doi: 10.3389/fnbot.2018.00025
Taniguchi, T., Nakamura, T., Suzuki, M. et al. Neuro-SERKET: Development of Integrative Cognitive System Through the Composition of Deep
Probabilistic Generative Models. New Gener. Comput. 38, 23–48 (2020). https://doi.org/10.1007/s00354-019-00084-w

9

SERKET-SDE• SERKETとROSを接続するブリッジを提供• 個別モジュールの独立した開発と統合モデルにおけるモジュール組み換えを容易に行うことができる
El Hafi, Lotfi & Zheng, Youwei & Shirouzu, Hiroshi & Nakamura, Tomoaki & Taniguchi, Tadahiro. (2023).
Serket-SDE: A Containerized Software Development Environment for the Symbol Emergence in Robotics
Toolkit. 1-6. 10.1109/SII55687.2023.10039424.

10プロトタイプモデル• 表現学習、言語学習、強化学習モジュー
ルをNeuro-SERKETを使用して統合• 脳の主要な機能と代表的な脳領野レベルの接続を参考に作られた• 今後は、BRA駆動開発へと繋げることが重要•

Miyazawa, K., Aoki, T., Horii, T., & Nagai, T.: Integration ofMultiple Generative Modules for Robot Learning.
Workshop on Deep Probabilistic Generative Models for
Cognitive Architecture in Robotics (in IROS2019). (2019)• Miyazawa K, Horii T, Aoki T and Nagai T (2019)
Integrated Cognitive Architecture for Robot Learning ofAction and Language. Front. Robot. AI 6:131.

11

脳参照アーキテクチャ(BRA)とBRA駆動開発
脳参照アーキテクチャ (BRA)

神経科学の論文・データ

脳の真実

構
築

脳情報フロー (BIF)
メゾスコピック・レベルの制
解剖学的構造上の情報フロー 約
構
築

サーキット

ROI

1

コネクション

B

2

C

3

E

4

65
D

環境： ありうる様々なタスク

BRA設計

仮説的コンポーネント図
仮説的コンポーネント図(HCD)
仮説的コンポーネント図(HCD)
ROIが担う最上位機能を解剖学的構造と一致するように機能を整理しようとする図7コンポーネントの機能: A, B, C, D, E
信号の意味： 1, 2,3,4,5,6

脳開 脳型
発脳 型 ソ型ソフ開 ソフト
発 フトウトウエ
開ウエア
発エアア

BRA活用
電子情報通信学会 ニューロコンピューティング研究会

GIPA: Generation-inference process allocation••

脳部位の解剖学的構造を生成モデルの変数の依存関係へ変換
PGMの制約– Directed acyclic graphsである必要性（ループを作れない）•

基本的なGIPAの手順
1.
2.

エッジを生成モデルと推論モデルに分ける（Table 1を主な基準とする）
次時刻生成(𝚫𝒕)の表現を導入する
WB-PGM論文より

t←t+1
13

Hippocampal formation-inspired probabilistic generative model

HF-PGM：海馬体の確率的生成モデル～認知モジュール構築の事例として～

Akira Taniguchi, Ayako Fukawa, Hiroshi Yamakawa, "Hippocampal formation-inspired probabilisticgenerative model", Neural Networks, Vol.151, No. July, pp.317-335, 2022. DOI:
10.1016/j.neunet.2022.04.001
https://www.sciencedirect.com/science/article/pii/S0893608022001332

14

なぜ海馬体なのか
海馬体：脊椎動物の記憶を司る脳部位
空間学習や空間探索といった空間記憶に深く関わる

認知的処理を担うコア領域

脳型の汎用人工知能の構築に不可欠の構成要素

海馬体に関する数多くの神経科学知見が蓄積されている
15

Egocentric and allocentric representations of space in the rodent brain
LECがエゴセントリック，MECがアロセントリック Current Opinion in Neurobiology 2020

perirhinal cortex (PER) and postrhinal cortex (POR)
posterior parietal cortex (PPC) and retrosplenialcortex (RSC)16

LEC側は場所の概念的な情報を担う（表現学習）

LECとMECからの２つの情報を統合

自己位置推定(Path integration)
は主にMEC側

予測的な情報過去の推定位置のRefine

エゴセントリックな情報（主観座標系の視点）

動作情報（回転速度）

アロセントリックな情報（客観座標系の視点）

17

海馬体のBRA形式データ（HF.bra)

仮説的コンポーネント図(HCD)

脳情報フロー(BIF)

CircuitCircuitCircuit

Source of ID
Circuit ID

Circuit

Names
Super Class
Uniform

CircuitCircuitTransmitter
Modulation Type
Projections
Circuit ID
Circuit ID
Circuit ID
Terminal[sensor]Terminal[actuator]

Uniform circuit

Connection

Here is a List of thetarget circuit IDs

Property only for Uniform Circuits

Sub-Circuits

参考資料：• 脳参照アーキテクチャ(BRA)データの記述マニュ
アルおよび具体例の公開• 第1回 WBAレクチャー～認知機能の脳構造に沿った分解手法―脳機能の体系的理解を目指して
18

研究アプローチ〇大竹 俊輔1、前山 功伊1、長谷川 翔一1、中島 毅士1、谷口 彰1、谷口 忠大1、山川 宏2,3 (1. 立命館大学、2. 全脳アーキテクチャ・イニシアティブ、3. 東京大学)，海馬体に学んだ確率的生成モデルの実装と有効性検証，人工知能学会全国大会，Vol. 37，No. 1Q3-OS-7a-05，熊本，2023年6月．
19

Proposed method
Combine RSSM and MCL to create a model that approximately follows the HF-PGM.

RSSM

MCL

Estimate self-location.
Extract representation of place.

Two different merging methods. (Model1 , Model2)
20

RSSM＋MCLによる大域的自己位置推定、誘拐ロボット問題への対応◼Visualize latent variables as a celllatent variables like a place celllatent variables difficult to interpret✔

提案モデル2のパーティクル置換によって統合したモデルがMCL（ベースライン）より優位✔

モデルの統合により、パーティクル枯渇問題・誘拐ロボット問題を回避する効果を得た

DEQ-MCL:
Discrete-Event Queue-basedMonte-Carlo Localization
This research outcomes will be presented at the following international conference:•Akira Taniguchi, Ayako Fukawa, Hiroshi Yamakawa, "DEQ-MCL: Discrete-Event Queue-basedMonte-Carlo Localization", AROB-ISBC-SWARM 2024. (Accepted)

Abstraction as discrete-event queue•••

シータ波位相歳差によって経験を離散化し、時間的に圧縮して処理することが知られている
現在、過去、未来の事象が位相内に符号化されていると考えられている[Terada et al., 2017]
位相歳差キュー仮説（Phase precession queue assumption）– Pentasynapticループ回路上を循環するシータ波の1周期内に圧縮された観測状態は、離散的な時間間隔でサンプリングされた状態を表すキュー（discrete-event queue）とみなすことができる。
– 海馬とMECの間のpentasynapticループ回路• MECII-DG-CA3-CA1-Sb-ParaSb-MECII.

23
Terada, S., Sakurai, Y., Nakahara, H., & Fujisawa, S. (2017). Temporal and Rate Coding for Discrete Event Sequences in the Hippocampus. Neuron, 94 ,1248-1262.e4.

Discrete-event queue-based Monte-Calro localization (DEQ-MCL)
シータ位相歳差DEQ-MCLの定式化•

過去、現在、未来を含めた状態の同時事後分布をキューとして表現• ベイズフィルタの拡張として表現できる

離散イベントキュー– フィルタリングに平滑化と予測を組み合わせた

逐次更新アルゴリズム

24

Akira Taniguchi, Ayako Fukawa, Hiroshi Yamakawa, "DEQMCL: Discrete-Event Queue-based Monte-Carlo Localization",
AROB-ISBC-SWARM 2024. (Accepted)

海馬体に学んだモデルのまとめ• 共に空間認知の機能を担うSLAMと海馬体の知見の橋渡しを目指した• PGMベースのSLAMと海馬体の脳科学的知見をまとめた• 海馬体の機能や解剖学的構造と整合性のとれたPGMを構築した– 布川らが提案した海馬体のBIFをベースにLECを加えたBIFに発展させ議論– PGMベースのSLAMやSpCoSLAMを海馬体BIFの解剖学的構造に合うように拡張• HPF-PGMの従来のSLAMとの主な違い– MECのみならずLECも統合してモデル化– Discrete-event queueの導入、定式化• 今後の方向性– HF-PGMをWB-PGMのサブモジュールとして統合– 生成モデル・推論モデルの確率分布やアーキテクチャの詳細設定– 移動ロボットへの実装・導入
25

二重分節解析機能に関係する領域と対応する機能

A38• 単語情報を取り扱う→単語分節化

STC• 音声信号の音響特性の処理→音節化• 韻律情報による分節化

rA42• 音素の知覚→音素を保存• 音声・非音声の判別

A1C• 音声の入力→音声信号の入力

26

モダリティの意味情報のハブ [6-16]• ハブ＆スポークモデル：
言語および非言語的な経験による概念を構築するための中核的な材料（material）となり、これらの情報源は脳全体に分布している特異的な皮質（＝スポーク）に対応していると仮定したモデル• 全モダリティ固有な情報源のクロスモーダルな相互作用は、
the anterior temporal lobes（ATLs）の両側に位置する単一のトランスモーダルハブによって媒介されると提唱している

27

Brain information flow (BIF) for DAA

28

BIFの上に配置した音声言語の二重分節解析のグラフィカルモデル

単語化

プロソディ

音節化

言語情報のカテゴリー分類
非音声情報の判別

音素保存
視覚情報
情報を統合

触覚情報

非音声の聴覚情報

音響特徴量

音声信号の入力29

ロボットのマルチモーダルな観測情報を活用した単語分割の実例
Phoneme/word discovery

Speech regarding each object
これはぬい
ぐるみだよ

Ex.1: “おかし|です”

かえるのぬいぐるみ
Phoneme sequence
A B C A D B A A C

これはまる
いぼーる

ちいさい
ぼーるだよAB

単語分Co-occurrence
かえる の information
ぬいぐるみ
かえる の割ぬいぐるみ
Tactile Vision Auditory画像
触覚画像 音
触覚音
ふわふ
ふわふ
わ
わInferenceWord sequence

Multimodal object
categorization

ACBDCB

Mutualutilization

Ex.2: “おいしい|ね”

Category 2

Category 1“AB”“ACDF”
“BE”

“XYZ”
“ST”
“PQ”

30

現在の課題と実現への道筋

31

現場知識を用いたGPTによるロボットの行動計画
GPTによる行動計画

場所概念モデルに基づく現場知識の獲得と記述
現場知識
• 物体名
• 場所名
• 物体の配置(X, Y)=(*, *)位置“living”, …

言語,,

画像
物体

逐次的な行動実行
FlexBE

成功
or
失敗

制御
命令

スキルセット• Navigation• Object Detection• Pick• Place
LLMや基盤モデルをどのように脳と対応付けるか？
言語命令
Bring a cup to the kitchen.

実世界における生活支援タスクの達成

自由エネルギー原理、能動的推論のロボット応用
 ロボットが「意味的に未知」な場所に移動しユーザに能動的に質問することで場所概念を獲得するSpCoAEを提案[Taniguchi 2022]
 理論的には期待自由エネルギー最小化における能動的推論と接続性がある

Active SpCoSLAM （右図：実行例）

能動的な探索による学習

Learning result×16Camera SpCoSLAMをActive SLAMを融合し地図を作成しながら環境理解を進めるActive Semantic mapping手法
神経科学的な知見をモデルのみならず推論アルゴリズムとして表現する方向性も検討したい
Taniguchi, A., Tabuchi, Y., Ishikawa, T., Hafi, L. E., Hagiwara, Y., & Taniguchi, T. (2022).
Active Exploration based on Information Gain by Particle Filter for Efficient Spatial
Concept Formation. arXiv preprint arXiv:2211.10934.
Tomochika Ishikawa, Akira Taniguchi, Yoshinobu Hagiwara, Tadahiro Taniguchi, "Active
Semantic Mapping for Household Robots: Rapid Indoor Adaptation and Reduced UserBurden", IEEE International Conference on Systems, Man, and Cybernetics (SMC), Oct. 2023.

実世界環境

33

現在の課題と実現への道筋• 個別モジュールの刷新– 深層生成モデルやTransformerベースのモデルを採用していく• SERKETの理論的発展とSERKET-SDEの拡張– 確率的生成モデル以外の多様なモデルも取り込む– 対照学習や変分推論などの多様な推論アルゴリズムへの対応– センサデータやモジュール間の計算の同期・非同期– 各モジュールを容易に組み替えながら、より適したモデルを比較検討できるようにする– モデルとROSがリアルタイムに通信し逐次的な学習や推論を可能にする• WBAIのロードマップとのリンク– 構築される全脳参照アーキテクチャを参考に実世界でのロボットに実装・検証へとつなげる
34