ヒト規模の脳神経回路シミュレーションを目指して: 小脳の場合
山﨑 匡 (電通大)
NumericalBrain.Org
大学院生募集中修士博士問わず給料払えます
2017年10月26日 科学技術計算分科会 2017年度会合 @ANAクラウンプラザホテル神戸

今日の内容1. (小)脳について
2. 人工小脳の開発
2.1. 小脳神経回路シミュレーション
2.2. ネコスケール人工小脳の開発
2.3. リアルタイムシミュレーションの御利益
3. ヒトスケール小脳の開発に向けて

今日の目標 「小脳ってすごい！」と思ってもらえること

神経回路シミュレーションとは人工の脳を作ることに相当

実験可能

脳のシステム的理解
・神経回路の挙動の再現
・仮説の検証・実験結果の解釈と予言実験ではできない操作が可能

行動
実験可能？

実験可能

生理

実験可能

解剖

EUのThe Human Brain Project
ヒト全脳シミュレーション
10年で10億ユーロ

JUQUEEN (IBM, 5.9PFs)

Markram et al. Cell (2015)

大脳と小脳大脳

体積比

大脳

小脳80%

10%

1.6×1010 6.9×1010
細胞数
(19%)
(80%)
Azevedo FA et al. Equal numbers of neuronal and nonneuronal cells
make the human brain an isometrically scaled-up primate brain.
J Comp Neurol. 513:532-541, 2009.

小脳小脳 = 教師付学習機械(aka Marr-Albus-Ito model)(Marr 1969; Albus 1971; Ito 1982)

小脳はパーセプトロン

Climbing ﬁber (登上線維)*

Purkinje cell (プルキンエ細胞)

Parallel ﬁber (平行線維)
Granule cell (顆粒細胞)
Mossy ﬁber (苔状線維)
Pons (橋核)Inferior olive (下オリーブ核)

小脳の役割小脳

高次運動野+

目標軌道-一次運動野+運動指令+

身体部位(例えば腕)

感覚系

フィードバック誤差学習 (Kawato 1987)実現軌道

2. 人工小脳の開発

実装する小脳回路
2x2 mm2の微小複合体を実装 (厚さ方向は押しつぶす)
Climbingfibe
Parallel fibersr

2 x 2 mm21048576 GR
Basket cells
Granule cells
Golgi cells

32 PKJ
32 BS

Mossy fibers

Vestibularnuclei

OutputInput

Inhibitory

Inferior olive

1 IO
1 VN

Input

Excitatory

Purkinje cells

1024 GO

ニューロンモデルはスパイキングニューロン (積分発火型)

シミュレーションのコード概要
for ( int nt = 0; nt < NT; nt++ ) {for ( int i = 0; i < N; i++ ) {//ニューロン
シナプス入力の計算 ( i ); 入力}
for ( int i = 0; i < N; i++ ){//ニューロン
膜電位の更新 ( i );状態
スパイク生成 ( i );出力}}

分子層ネットワークダイナミクス(Hausser & Clark, Neuron 1997)(Lennon et al., Front Comput Neurosci 2014)

2.1. 小脳神経回路シミュレーション

小脳と運動学習
・運動制御・運動学習において重要・損傷→運動失調・運動学習障害

運動制御 = ゲイン + タイミング
運動の大きさ運動の開始と終了

適切なパラメータを発見・記憶として保持 ＝ 運動学習

音
時間

エアパフ
時間

まばたき時間瞬目反射の条件づけ

瞬目反射条件づけの小脳回路
顆粒細胞
プルキンエ細胞(エアパフ)IO US
下オリーブ核

登上線維

小脳皮質

(音)

CS

橋核
PN

苔状線維

CN
小脳核

(まばたき)

CR

顆粒細胞の発火パターン
50
neuron index

4030
201000200

400600time (ms)8001000

音時間音

苔状線維

顆粒細胞集団平行線維

音時間

プルキンエ細胞下オリーブ核登上線維
エアパフ
時間

PKJ ID = 11, 94 spikes

PKJ ID = 1, 27 spikes

0-20-40-60
0200

400 600
time (ms)

800

1000

0

membrane potential (mV)

CN ID = 1, 0 spikes

小脳核

PKJ ID = 11, 30 spikes

20
membrane potential (mV)

プルキンエ細胞シミュレーション結果

200

400 600
time (ms)

800

1000

0

CN ID = 1, 2 spikes

200

400 600
time (ms)

800

1000

CN ID = 1, 13 spikes

0-20-40-60
-80
0

200

400 600
time (ms)800

10000(Yamazaki and Tanaka 2007)200

400 600
time (ms)800

10000200400 600time (ms)8001000

小脳によるゲイン学習の例
視機性眼球運動 (OKR)の適応

眼球の回転の大きさ = ゲイン

伊藤仮説 (1979)
介在細胞

プルキンエ細胞顆粒層登上線維

平行線維

視野速度

苔状線維

前庭核

眼球運動

興奮性
抑制性

網膜像のずれニューロン番号

顆粒細胞のダイナミクス

時間 (ms)OKRのシミュレーション結果
80

60
40
200cycle #1
cycle #10
cycle #1000500

1000 1500
time (ms)プルキンエ細胞2000

firing rate (spikes/s)

firing rate (spikes/s)

8060
40200cycle #1
cycle #10
cycle #1000500

1000 1500
time (ms)

前庭核

2000

2.2. ネコスケール人工小脳の開発

ネコスケール人工小脳
1,008 PEZY-SCチップ (252/320ノード)を利用
・4月上旬の時点で単精度ピーク性能2.6PFlops
・実行効率 2.6%
10億 (= 109) ニューロンからなる小脳回路を実装
・ニューロン数でネコ1匹分の小脳相当・面積換算で 62×64 mm2
実時間シミュレーション・1秒間の小脳の神経活動を1秒以内でシミュレート
・Δt = 1 ミリ秒
もちろん世界最大
最高速
最も精緻実装の実際 (1/4)
32個
小脳を広げて平らにすることを想像する
1008チップをタイル上に並べて平面を作る
1チップに2x2 mm2の回路を実装(厚さ方向は押しつぶす)
31個
16個
1008 = 32 x 31 + 16

シミュレーションのコード概要
for ( int nt = 0; nt < NT; nt++ ) {for ( int i = 0; i < N; i++ ) {//ニューロン
シナプス入力の計算 ( i ); 入力}
for ( int i = 0; i < N; i++ ){//ニューロン
膜電位の更新 ( i );状態
スパイク生成 ( i );出力}}
for ( int nt = 0; nt < NT; nt++ ) {シナプス入力の計算 ();カーネル呼び出し
膜電位の更新 ();ニューロンで並列
スパイク生成 ();}}

カーネル＝ニューロンの並列計算

tt+Δt

Neuron 1
Neuron 2:
Neuron 1
Neuron 2
:
1スレッド

t

Thread 1

Thread 2

Thread N

Neuron 1

Neuron 2

Neuron N

カーネル実行t+Δt

Neuron 1

Neuron 2
カーネル実行N スレッドNeuron N

プルキンエ細胞へのシナプス入力

顆粒細胞の活動 xj 平行線維重み wij

プルキンエ細胞 i262144個/プルキンエ細胞

32個/PEZY-SCチップ

syn( i ) = Σ wijxj を計算 (積和の計算)
jwij の値を変える = シナプス可塑性

PEZY-SCチップの構成PE: 計算コア (Processing Element)リダクションの高速化
1 PC

1 PC262144

Reduction #1
1 PC

1 PC1024
#2256

#316

#41

GiB)
PC = Purkinje cellCompute syn( i ) = Σj wijxj
0 ≦ i < 320 ≦ j < 262144

キャッシュ階層の利用

syn( i )Repeat 8 times

計算と通信のオーバーラップ
Neuron 1
Neuron 2:
Neuron 1
Neuron 2:

カーネル実行
Thread 2
Thread N

Thread 1t

Neuron 1

Neuron 2

Neuron Nt+Δt

Neuron 1

Neuron 2

Neuron N t+Δt

MPI通信
N スレッド1スレッド

Neuron 1
Neuron 2:
Neuron 1
Neuron 2:
1スレッドtt

カーネル実行
Thread 2
Thread NThread 1t

Neuron 1

Neuron 2

t+Δt

Neuron 1
Neuron 2:
Neuron 1
Neuron 2:
Neuron 1
1スレッド
Neuron 2:
Neuron 1
Neuron 2:

Neuron N
1スレッド

t+Δt

Neuron 1

Neuron 2

カーネル実行
Thread 2
Thread N

Thread 1t

Neuron 1

Neuron 2

Neuron N

t+Δt

Neuron 1

Neuron 2

Neuron N

カーネル実行
2
Thread N
スレッド
N Thread

Thread 1t

Neuron 1

Neuron 2

Neuron N

t+Δt

Neuron 1

Neuron 2

Neuron N:

N スレッド

MPI通信

MPI通信

:

Neuron N

MPI通信
N スレッド:時間

時間

スパイクの配列をダブルバッファリング

通信そのものの削減
Noisy delayed spike transmission
Yamazaki, Igarashi, Makino, Ebisuzaki (2017)

tt+ΔttNeuron 1
Neuron 2:
Neuron 1
Neuron 2:
Neuron 1
1スレッド
Neuron 2:
Neuron 1
Neuron 2:

ニューロンの計算Nステップ毎に1回通信
t+Δt

tt+Δt

通信回数を1/Nに

tt+Δt

tt+Δt

tt+Δt

Neuron 1
1スレッド
Neuron 2:
Neuron 1
Neuron 2:
Neuron 1
1スレッド
Neuron 2:
Neuron 1
Neuron 2:
Neuron 1
1スレッド
Neuron 2:
Neuron 1
Neuron 2:
Neuron 1
1スレッド
Neuron 2:
Neuron 1
Neuron 2:
1スレッド

カーネル実行
Thread 1

Thread 2

Thread Nt

Neuron 1

Neuron 2

Neuron N

t+Δt

Neuron 1Neuron 2

Neuron N

Thread 1
Thread 2スレッド
Neuron 1 NNeuron
2

Neuron N

Neuron 1

Neuron N

MPI通信

カーネル実行
tt+ΔtNeuron 2

Thread N

カーネル実行tNeuron 1

Thread 1

Thread 2
N スレッドNeuron 2

Neuron N

Thread N

t+Δt

Neuron 1

Neuron 2

Neuron N

カーネル実行
Thread 1

tt+Δt

Thread 2
N スレッドNeuron 1
Neuron 2

Neuron N

Neuron 1

Neuron N

Neuron 2

MPI通信

Thread N

カーネル実行
Thread 1

tt+Δt

Thread 2
スレッド
N
Neuron 1
Neuron2

Neuron N

Neuron 1

Neuron N

Neuron 2

Thread N

カーネル実行
Thread 1

tt+Δt

Thread 2
N スレッドNeuron 1
Neuron 2

Neuron N

Neuron 1

Neuron N:

Neuron 2

N スレッドThread N

時間:

こういう工夫を積み上げてリアルタイムに近づける

2.3. リアルタイムシミュレーションの御利益

1. ロボット制御

バックネットセンサ

バットロボット

目標: ボールが飛んでくるタイミングを学習して打ち返す

2. 長時間かかる脳内現象の再現

記憶の形成 = 獲得 + 定着
Shutoh et al. Neuroscience (2006)

複数のシナプス可塑性が関与
介在細胞
長期抑圧(LTD)
短期記憶

顆粒層

プルキンエ細胞
登上線維

平行線維
記憶の転送
長期記憶
長期増強(LTP)

視野速度

苔状線維

前庭核

眼球運動

興奮性
抑制性

網膜像のずれ・間接的な証拠が積み上がるばかり
・統一理論は提唱されていなかった
Shutoh et al. (2006); Ito, Yamaguchi, Nagao, Yamazaki (2014)

小脳学習における記憶定着の理論
Yamazaki et al. PNAS (2015)

ゲインの変化

シナプス結合の変化
2.0

Synaptic weight
Synapticeﬃcacy

OKR gain

0.8

0.6

0.4

0.201234567
Training period (day)89Cerebellar
苔状線維 (v)nucleus1.5

1.0

Cerebellar
平行線維 (w)cortex0.5

0.001234567
Training period (day)・記憶の定着はトレーニング後に起こる・破壊実験や薬理実験の結果も再現成功

891週間のトレーニングを再現
OKRゲイン
シミュレーション

0.8

0.8

0.6

0.6

OKR gain

OKR gain理論 (数学モデル)

0.4

0.2

0.4

01234567
Training period (day)Yamazaki et al. PNAS (2015)

890.2012345
Training period (day)6

Gosui & Yamazaki, Front Neuroanat (2016)(Modiﬁed)

1週間のトレーニングのシミュレーションが1週間でできる

7

3.ヒトスケール小脳の開発に向けてネコからヒトへ
隣接する8チップのみとの通信 → 弱スケーリングは良好
32個

31個
16個

基本的にこのまま規模を大きくしていけば良いConﬁdential

人工小脳の最終形態
脳機能の一部を人工脳で補完する
運動の補完
リハビリテーション
QoLの向上
神経活動

人工小脳
実時間

運動指令