大脳皮質って何？
大脳皮質についての基礎知識
第37回 全脳アーキテクチャ勉強会
一杉裕志（産総研）
2022-02-177

自己紹介• 1990年東京工業大学大学院情報科学専攻修士課程修了• 1993年東京大学大学院情報科学専攻博士課程修了
博士(理学)• 同年電子技術総合研究所入所• 並列言語、拡張可能言語、オブジェクト指向言語のモジュー
ル機構、スクリプト言語等を研究• 2001年より産業技術総合研究所に改組• 2005年より計算論的神経科学を研究• 2015年より人工知能研究センターに配属(きょうの話は主に 2015年ごろの自分の知識)

8私の研究の長期的目標：
脳全体のアーキテクチャに学んだAGIの実現[Ichisugi and Takahashi, BICA 2018][Ichisugi, ICANN 2012]

Ichisugi Y., Takahashi N., A Formal Model of the
Mechanism of Semantic Analysis in the Brain. In:
Biologically Inspired Cognitive Architectures 2018 (BICA2018), Advances in Intelligent Systems and Computing,vol 848. Springer, Cham, pp.128--137, 2018.

Yuuji Ichisugi, A Computational Model ofMotor Areas Based on Bayesian Networksand Most Probable Explanations, In Proc.
of The International Conference on Artificial
Neural Networks (ICANN 2012), Part I,
LNCS 7552, pp.726--733, 2012.

最近の研究：
再帰的強化学習を用いてプログラム合成する
脳型AGIアーキテクチャ
報酬最大化原理にもとづく脳型
ＡＧＩアーキテクチャの構想,
第18回 人工知能学会 汎用人工知能研究会(SIG-AGI), 2021.

運動野前頭前野[Ichisugi, IJCNN 2007]
Yuuji ICHISUGI, "The cerebral cortex model that selforganizes conditional probability tables and executes beliefpropagation", In proc. of International Joint Conference on
Neural Networks (IJCNN2007), Aug 2007.

大脳皮質
言語野

視覚野

[Nakada and Ichisugi, BICA 2017]
Hidemoto Nakada and Yuuji Ichisugi,Context-Dependent Robust Text Recognition using
Large-scale Restricted Bayesian Network, In Proc. ofInternational Conference on Biologically Inspired
Cognitive Architectures (BICA 2017), Procedia
Computer Science, Vol. 123, pp.314--320, 2018.

大脳基底核

扁桃体

海馬

小脳
9

今日の話の構成• 大脳皮質の基礎知識（２５分）• 2015年前後に使った講演資料をベースにした内容• 大脳皮質の計算論的モデル（１０分）• SOM、スパースコーディング、ベイジアンネット• 私の最近の研究（脳型AGIアーキテクチャ）との関係（５分）• 質疑（５分）

10

大脳皮質に関する神経科学的知見

11

大脳皮質
• 脳の中でも知能をつかさどる重要な部分• 視覚野、言語野、運動野、前頭前野、・・・

12

図は http://en.wikipedia.org/wiki/Brodmann_area より

大脳皮質の領野• 各領野の機能、接続構造はかなり明らかになりつつある

Daniel J. Felleman and David C. Van Essen
Distributed Hierarchical Processing in the Primate Cerebral Cortex
Cerebral Cortex 1991 1: 1-47

13

視覚系領野

運動野

大脳皮質のコラム構造の模式図

ミニコラム
50μm

マクロコラム
500μm

I
II
III
IVV
VI

I
II
III
IV
V
14

VI

厚さ約２ミリIT野の顔の向きに応答するコラム[Wang et al. 1996]

15

Wang G, Tanaka K and Tanifuji M,
Optical imaging of functional organization in themonkey inferotemporal cortex
SCIENCE 272 (5268): 1665-1668 JUN 14 1996.

図は下記論文よりKeiji TanakaColumns for Complex Visual Object Features in the Inferotemporal Cortex:
Clustering of Cells with Similar but Slightly Different Stimulus Selectivities
Cerebral Cortex, Vol. 13, No. 1, 90-99, January 2003

領野間・層間の結合[Pandya and Yeterian 1985][Gilbert 1983]• 情報処理の途中結果の３層の情報が上位領野に送られ、最終結果の５層の情報は下位領野に戻される

IIIIIIIVVVI
16

高次領野

皮質下へ出力低次領野

ニューロン（神経細胞）• ヒトの脳で１０００億個• 内積計算のような簡単な演算しか行えない• シナプスが w という重みを学習
x1

w1

x2

w2.
.
.
xn
17

ニューロンへの入力

wn
シナプス

y =  ( wi xi )i

ニューロンからの出力

大脳皮質の各スケールでの構造• 領野 約５０個• マクロコラム約１００万個• ミニコラム 約１億個
• ニューロン 約１００億個• シナプス 約１００兆個

Wikipedia よりDaniel J. Felleman and David C. Van Essen
Distributed Hierarchical Processing in thePrimate Cerebral Cortex
Cerebral Cortex 1991 1: 1-47

マクロコラム
ミニコラム

III
III
IV
V
VI

I
II
厚さ約２ミリ

III
IV

18V
VI

x1
w2x2 .
.
wn.

xn

w1

シナプス

y =  ( wi xi )i

ニューロンからの出力

大脳皮質の不思議さ• 脳の様々な高次機能（認識、意思決定、運動制御、思考、推論、言語理解など）が、たった５０個程度の領野のネットワークで実現されている

Wikipedia よりDaniel J. Felleman and David C. Van Essen
Distributed Hierarchical Processing in thePrimate Cerebral Cortex
Cerebral Cortex 1991 1: 1-47

マクロコラム
ミニコラム

I
II
III
IV
V
VI

I
II
厚さ約２ミリ

III
IV

19

V
VI

x1
w2x2 .
.
wn.

xn

w1

シナプス

y =  ( wi xi )i

ニューロンからの出力

大脳皮質の動作原理がわかれば脳のアーキテクチャ解明の重要な手掛かりに

大脳皮質の領野

20

大脳皮質と deep learning の大きな類似点• 領野の階層構造

運動野

体性感覚野

• 上の層ほど多くの特徴量（感覚入力）を統合• 上の層ほど複雑な情報を表現• 上の層ほど抽象度が高い情報を表現

背側経路
Where pathway

腹側経路
What pathway
聴覚野

脳の絵は Wikipedia より

21

言語野
• ブローカー野：文法処理に関与

ブローカー野（４４・４５野）• ブローカー失語：• 発話：電文体（機能語が省略される）• 理解：文法に強く依存した文の理解が困難• ウェルニッケ野：言語音と概念の連合に関与• ウェルニッケ失語：• 発話：流暢に話すが意味のない内容• 理解：障害されている

脳の絵は Wikipedia より

ウェルニッケ野（一次聴覚野と角回の近く）

参考：カンデル神経科学 p.1336-1339、言語処理学事典 p.772-787

脳においては「発話」と「理解」というモジュール分割ではなく「文法」と「意味」というモジュール分割がなされている

22

前頭前野(PFC, Prefrontal cortex)
背外側前頭前皮質
DLPFC, Dorsolateral
Prefrontal Cortex

前頭葉のうち４野（一次運動野）と６野（前運動野）を除いたところ。
「前頭前野はヒトをヒトたらしめ，思考や創造性を担う脳の最高中枢であると考えられている。」「前頭前野 - 脳科学辞典」
http://bsd.neuroinf.jp/wiki/%E5%89%8D%E9%A0%AD%
E5%89%8D%E9%87%8E

眼窩前頭皮質OFC,
Orbitofrontal cortex
脳の絵は http://en.wikipedia.org/wiki/Brodmann_area より

23

前帯状皮質(ACC,Anterior cingulate cortex)
２４野、３２野あたり

ACCは特にヒトにおいて、担う機能の違いから、行動モニタリングおよび行動調節に関わる領域、社会的認知に関わる領域、および情動に関わる領域に大きく分かれる。
「前帯状皮質 - 脳科学辞典」
https://bsd.neuroinf.jp/wiki/%E5%89%8D%E5%B8%AF%E7%8A%B6%E7%9A%AE%E8%B3%AA

脳の右半球を内側から見たところ

脳の絵は http://en.wikipedia.org/wiki/Brodmann_area より

24

強化学習を行う並行した解剖学的結合のループ
運動野
運動前頭眼野眼球運動前頭前野
実行機能・連合

前帯状皮質
情動・動機

大脳皮質

線条体
黒質網様体・淡蒼球内節
視床
Principles of Neural Science 5th ed.
Eric R. Kandel et al. , McGraw-Hill, p. 987

25

並行ループの間の階層

前帯状皮質(ACC)が最上位の階層

前帯状皮質/眼窩前頭皮質

背外側前頭前野

ACC/OFC

DLPFC

前運動野 一次運動野

PMMI

線条体
行動価値

TD誤差
報酬信号

VTA（腹側被蓋野） SNc（黒質緻密部）

中脳

Haber SN. , The primate basal ganglia: parallel
and integrative networks. J Chem Neuroanat.
2003 Dec;26(4):317-30.
26大脳皮質の局所回路とニューロン

27

大脳皮質内の局所回路「大脳皮質の局所神経回路 - 脳科学辞典」窪田芳之、川口泰雄
https://bsd.neuroinf.jp/wiki/大脳皮質の局所神経回路

28

シナプスの学習
シナプスはニューロンの間の結合部位、結合の強さ（信号の伝えやすさ）で情報を記憶
脳内でバックプロパゲーションが行われれているとは考えられていない
よく想定される学習則： ヘブ則「ニューロンAの発火がニューロンBを発火させると2つのニューロンの結合が強まる」「ヘブ則 - 脳科学辞典」 高橋直矢、池谷裕二、松木則夫
https://bsd.neuroinf.jp/wiki/ヘブ則29

スパイクタイミング依存可塑性(spike timing-dependent plasticity; STDP)
STDP の振る舞いは発火頻度にも依存
P. J. Sj¨ostr¨om, G. G. Turrigiano, and S. B. Nelson. Rate, timing,and cooperativity jointly determine cortical synaptic plasticity.
Neuron, 32:1149–1164, 2001.
https://www.ncbi.nlm.nih.gov/pubmed/11754844

Δ𝑊

よく見かけるSTDPの図

スパイクタイミングの間隔

WTA 回路と組み合わせてEM アルゴリズムを実現可能
STDP enable spiking neurons to detect hidden causes of
their inputs
NIPS 2009
B Nessler, M Pfeiffer, W Maass
http://papers.nips.cc/paper/3744-stdp-enables-spikingneurons-to-detect-hidden-causes-of-their-inputs.pdf

30

樹状突起で論理演算[Koch, Poggio, Torre 1982]

Philos Trans R Soc Lond B Biol Sci. 1982 Jul 27;298(1090):227-63.
Retinal ganglion cells: a functional interpretation of dendritic morphology.
Koch C, Poggio T, Torre V.
http://cbcl.mit.edu/publications/ps/koch-poggio-torres-PRSL-1982.pdf

31

• ミクロなレベルの現象は複雑で詳しくわかっていないことが多い→ ミクロな知見の積み上げだけで脳の機能を人工的に再現（whole brain emuration）できる日は遠い• マクロな知見と計算論的モデルで補完することが重要

32

大脳皮質の計算論的モデル

33

大脳皮質の多くのモデルはオートエンコーダー• センサーからの入力を使って脳内の情報表現を教師なし学習• 例：• 自己組織化マップ (Self-organizing map) [Kohonen 1995]• スパース符号化 (Sparse coding) [Olshausen and Field, Nature, 1996]• 予測符号化 (Predictive coding) [Rao and Ballard 1999]• BESOM [Ichisugi 2007]

…

隠れ層
認識…

生成・予測

入力層
34

自己組織化マップ(self-organizing map）[Kohonen 1995]• 脳の一次視覚野のモデル([Linsker 1988]など)を工学的に扱いやすくしたもの• 高次元の入力ベクトルを低次元に圧縮• 勝者総どり(winner-take-all)型の学習（競合学習）「自己組織化マップ - 脳科学辞典」 古川 徹生
https://bsd.neuroinf.jp/wiki/自己組織化マップ

35

Sparse coding [Olshausen and Field, Nature, 1996]“Emergence of simple-cell receptive field properties
by learning a sparse code for natural images”.
Bruno A. Olshausen and David J. Field
Nature, 381:607-609 (1996)

・ 大脳皮質一次視覚野 単純型細胞のモデル
・ できるだけスパースに重み付けされた基底ベクトルの線形和で入力ベクトルを近似
・ 不思議な形をした受容野を単純なアルゴリズムで再現
脳の一次視覚野単純型細胞の受容野構造「受容野 - 脳科学辞典」 田中 宏喜https://bsd.neuroinf.jp/wiki/受容野

自然画像に対してスパース符号化によって得られた基底局所性、方位選択性、空間周波数選択性がある36

いろいろな「予測符号化」モデル
画像圧縮技術としての予測符号化＝ 予測値との差分を圧縮MPEG などで使われている

知覚に関する仮説としての予測符号化＝ 知覚は観測と予測を統合して行われる
知覚

観測 予測

≒ ベイズ脳 P(X|Y)∝P(Y|X)P(X)
学習の目的としての予測符号化＝ 予測誤差を最小化するように学習≒ オートエンコーダー
Self-Organizing Map

網膜が予測符号化をしているという論文もある「Dynamic predictive coding by the retina |Nature」
https://www.nature.com/articles/nature03689

Sparse coding[Rao and Ballard 1999][Rao 2005]

双方向結合の役割の仮説としての予測符号化 ＝
feedback 信号は予測誤差
実験事実との整合性には疑問

HTM [George and Hawkins 2005]
BESOM [Ichisugi 2007]37

脳とベイズ38

ベイズの効率化技術• 脳はベイズ推論を行っているらしい• しかし、ベイズを使った計算は、普通は計算量がとても多い（指数関数的）• 効率的推論を可能にする多くの技術• マルコフ連鎖モンテカルロ(MCMC)• ギブスサンプリング• 変分ベイズ• グラフィカルモデル
神経科学的妥当性が非常に高いと私が思うモデル• ベイジアンネット• マルコフ確率場

39

大脳皮質とベイジアンネット

40

大脳皮質とベイジアンネットの類似点• トップダウンとボトムアップの非対称の接続• 局所的かつ非同期な情報のやり取りだけで動作• 値が非負• 情報が正規化される• ヘブ則学習• 文脈や事前知識に依存した認識• ベイズに基づく動作

一杉裕志, 解説：大脳皮質とベイジアンネット、
日本ロボット学会誌 Vol.29 No.5, pp.412--415, 2011.
41

Daniel J. Felleman and David C. Van Essen
Distributed Hierarchical Processing in the Primate Cerebral Cortex
Cerebral Cortex 1991 1: 1-47

ベイジアンネットを使った
大脳皮質モデル• 視覚野の機能、運動野の機能、解剖学的構造、電気生理学的現象などを説
明•
••
•
•
•
•
•
••

42

[Lee and Mumford 2003][George and Hawkins 2005][Rao 2005][Ichisugi 2007] [Ichisugi 2010] [Ichisugi 2011] [Ichisugi 2012][Rohrbein, Eggert and Korner 2008][Hosoya 2009] [Hosoya 2010] [Hosoya 2012][Litvak and Ullman 2009][Chikkerur, Serre, Tan and Poggio 2010][Hasegawa and Hagiwara 2010][Dura-Bernal, Wennekers, Denham 2012][Chikkerur, Serre, Tan and Poggio 2010]のモデル

物体の場所
L (LIP)

物体のアイデンティティ
O (PFC)

視覚野の腹側経路・背側経路というマクロな構造を模した１つベイジアンネットで、たくさんのモデルを同時に再現特徴（方位・色など）があるかないか
Fi (IT)特徴 Fi のある場所
Fil (V4)
視覚刺激
I (V2)
43

Chikkerur, S., T. Serre, C. Tan and T. Poggio, What and where: A Bayesianinference theory of attention. Vision Research. 55(22), pp. 2233–2247, 2010.

他のモデルとの比較

確率伝搬アルゴリズムと解剖学的構造との対応

44

確率伝搬アルゴリズム[Pearl 1988]
BEL( x) =  ( x) ( x)

U1

 ( x) =  P( x |u1 ,  , um )  X (uk )u1 ,,u mπX(uk)k ( x) =  Y ( x)
 Y ( x) =  ( x) Y ( x) X (uk ) =   ( x)x45

λX(uk)

πYl(x)

lj lUmX

ll

...

Y1j

λYl(x)...

 P( x |u ,, u )  (u )1u1 ,,u m / u km

Xiik

局所的に情報をやり取りするアルゴリズム

Yn近似確率伝搬アルゴリズムとコラム構造・６層構造との一致 [Ichisugi IJCNN 2007][Gilbert 1983]

IIIIII
IV
VVI
低次領野

高次領野

解剖学的構造

kUXoX[Pandya and Yeterian 1985]
Pandya, D.N. and Yeterian, E.H., Architecture and connections of corticalassociation areas. In: Peters A, Jones EG, eds. Cerebral Cortex (Vol. 4):
Association and Auditory Cortices. New York: Plenum Press, 3-61, 1985.
Gilbert, C.D., Microcircuitry of the visual-cortex, Annual review ofneuroscience, 6: 217-247, 1983.

46lUXbU

k XYoYl XY
ZXbX

ZY

親ノードモデル

子ノードI
IIIII
IVVVI

確率伝搬と大脳皮質の対応 Ver.2
U1
𝐵𝐸𝐿 𝑥 = 𝛼𝜆 𝑥 𝜋 𝑥𝜋(𝑥) = Σu1 ,…,um 𝑃 𝑥 𝑢1 , … , 𝑢𝑚 Π𝑘 𝜋𝑋 𝑢𝑘πX(uk)𝜆 𝑥 = Π𝑙 𝜆𝑌𝑙 𝑥
πYl(x)
𝜋𝑌𝑙 𝑥 = 𝐵𝐸𝐿 𝑥 Τ𝜆𝑌𝑙 𝑥
𝜆𝑋 (𝑢𝑘 ) = Σ𝑥 𝜆(𝑥)Σ𝑢1,…,𝑢𝑚 ∖𝑢𝑘 𝑃 𝑥 𝑢1 , … , 𝑢𝑚 Π𝑖≠𝑘 𝜋𝑋 𝑢𝑖
Y1𝜋 𝑢𝑘

IIIIIIIVVVI
下位領野

上位領野

解剖学的構造[未発表]...

UmλX(uk)

X

λYl(x)
...

Yn𝜋 𝑥

III

𝜆 𝑢𝑘

𝜆 𝑥

III𝜆𝑋 𝑢𝑘

𝜆𝑌 𝑙 𝑥IV𝐵𝐸𝐿 𝑢𝑘

𝐵𝐸𝐿 𝑥

V𝜋𝑋 𝑢𝑘𝜋𝑌 𝑙 𝑥VI47

大脳皮質のベイジアンネットモデルのまとめ• 大脳皮質はおそらく、ある種のベイジアンネット• 過去のたくさんのモデルがベイジアンネットを核として１つの万能モデルに統合されつつあった• 大規模シミュレーションが難しく研究が途絶えている状況（対策を検討中）より詳しい情報：「脳とベイジアンネット」
https://staff.aist.go.jp/y-ichisugi/besom/j-index.html
48

私の最近の研究と大脳皮質との関係

49

私の研究の長期的目標：
脳全体のアーキテクチャに学んだAGIの実現[Ichisugi and Takahashi, BICA 2018][Ichisugi, ICANN 2012]

Ichisugi Y., Takahashi N., A Formal Model of theMechanism of Semantic Analysis in the Brain. In:
Biologically Inspired Cognitive Architectures 2018 (BICA2018), Advances in Intelligent Systems and Computing,vol 848. Springer, Cham, pp.128--137, 2018.

Yuuji Ichisugi, A Computational Model ofMotor Areas Based on Bayesian Networksand Most Probable Explanations, In Proc.
of The International Conference on Artificial
Neural Networks (ICANN 2012), Part I,
LNCS 7552, pp.726--733, 2012.

最近の研究：
再帰的強化学習を用いてプログラム合成する
脳型AGIアーキテクチャ
報酬最大化原理にもとづく脳型
ＡＧＩアーキテクチャの構想,
第18回 人工知能学会 汎用人工知能研究会(SIG-AGI), 2021.

運動野
前頭前野

[Ichisugi, IJCNN 2007]
Yuuji ICHISUGI, "The cerebral cortex model that selforganizes conditional probability tables and executes belief
propagation", In proc. of International Joint Conference on
Neural Networks (IJCNN2007), Aug 2007.

大脳皮質
言語野

視覚野

[Nakada and Ichisugi, BICA 2017]
Hidemoto Nakada and Yuuji Ichisugi,Context-Dependent Robust Text Recognition using
Large-scale Restricted Bayesian Network, In Proc. ofInternational Conference on Biologically Inspired
Cognitive Architectures (BICA 2017), Procedia
Computer Science, Vol. 123, pp.314--320, 2018.

大脳基底核

扁桃体

海馬

小脳50

私の研究の中期的目標• ローグライクゲームのような実世界を極力単純化した環境で脳型AGIのデモを動かす• エージェントどうしが対話して生活し独自の文化を発展させるようなデモを目指す• 中核技術「ローグライクゲーム - Wikipedia」
https://ja.wikipedia.org/wiki/ローグライクゲーム• 大脳皮質モデル BESOM （未完成）[Ichisugi 2007]• 再帰的強化学習 RGoal[Ichisugi+ 2019]• プログラム合成対象言語 Pro5Lang[一杉+ 第20回 汎用人工知能研究会, 2022]

開発中のAGIエージェント実行環境
51

U1...

Node52

Uk... U m

Node... Yn

NodeX

X
Y1...

YlYlUnit

BESOM による統計的機械学習と記号処理との橋渡し
パターンマッチを行う BESOM の回路[一杉+ 第15回 汎用人工知能研究会, 2020][X, 1, 2]=>0.1[X, X, 2]=>0.2[1, X, Y]=>1
...

変数ノード

パターンノード
P

V
価値ノード

I1

X

Y

Z

I2

I3

I4

入力ノード
53

再帰的強化学習 RGoal によるプログラム合成
知的エージェント
報酬関数 状態 = ( , )
( , )

センサー

ワーキングメモリ

報酬

行動価値関数の圧縮表現＝ 報酬を最大化する
プログラム

サブゴール

スタック

行動価値関数( , , )

環境

内部状態の更新
Call, Set, ...

行動

環境への行動出力

アクチュエーター

再帰的強化学習 RGoal のアーキテクチャ

十分な性能を持つプログラム合成システムは AGI

Cf. AIXI, MagicHaskeller, DNC, DreamCoder,
AlphaCode,…

性能を上げるためには合成対象言語の設計が重要： Pro5Lang [一杉+ 第20回 汎用人工知能研究会, 2022]
54最後に
脳と機械学習理論の両方を深く広く理解すればヒトのようなAGIは作れるはず
私の最近の研究については下記ページをご覧ください
https://staff.aist.go.jp/y-ichisugi/j-index.html

オンラインでの議論も歓迎55

以上56