修士論文 要旨

Quadratic integrate and ﬁre モデルに基づくニューラルネットワー
クのダイナミクスを利用した学習手法
数理情報学専攻 48-206219
指導教員

清水 元喜
豊泉 太郎 教授

Algorithm 1 event-based update of QIF network.
1: t ← tstart , initialize Vi

1 はじめに
脳内ではシーケンシャルな神経活動がしばしば観察

2: while t < tend doされ（例：海馬の sharp-wave ripples (SWR) 中のリプ

3:k ← arg mini Φ(Vi , ηi )レイ [1]）、知覚・運動・認知課題など様々な情報の表現

4:∆t = Φ(Vk , ηk ) + ϵに関与している。

5:

if ∆t < ∞ thenVi ← F ((Vi , ηi , ∆t)) + Wi,k

神経回路モデルにシーケンシャルな記憶を学習させ

6:る際、各記憶への収束と次の記憶への遷移の順序が乱

7:

end if

れ、想起の減衰・発散が起きやすいのが課題であった。

8:t ← t + ∆t

これを防ぐため、シナプス入力の遅延 [2, 3] やニューロンの適応 [4] などを反映したモデルが提案されてきた。
本 研 究 で は 、単 純 な 学 習 則 を 用 い て quadratic

integrate-and-ﬁre 型ニューロン（QIF ニューロン）[5, 6]

9: end while

2.3

Firing-rate equations

次のような単純な状況を考える。

1. ネットワークは各 N ニューロンからなる P 個のグのネットワークにシーケンシャルな活動を記憶させるループから構成される。

手法を提案する。

2. k 番目の記憶はグループ k の活動が表現する。

2 モデル

3. シナプス結合はグループ k からグループ k + 1 に

2.1 QIF ニューロン

4. 結合強度は均一である。

向けてのみ存在する。

QIF モデルでは、ニューロンのダイナミクスはこのとき、単一ニューロンのダイナミクスはV̇ = V 2 + η + I(t)(1)
V̇k,i = Vk,i + ηk,i + Jsk−1 (t) + I(t)で表現される。I(t) = 0 のとき、(1) の解 V (t) はV (t) = F (V (0), η, t) √√η tan( ηt)+V√√
1−tan( ηt)V / ηF (V, η, t) := −√−η tanh(√−ηt)+V√√
1−tanh( −ηt)V / −ηsk (t) =(2)(η ≥ 0)(3)(η < 0)δ(t − tfk,i )f

定の下で N → ∞ でのネットワークの挙動が各グループの平均発火率 rk , 平均膜電位 vk を用いて∆+ 2rk vk
πv̇k = vk2 + η̄ + Jrk−1 + I − (πrk )2ṙk =(7)(8)と 記 述 さ れ る こ と を 示 し た (ﬁring-rate equations;FREs)。
2.4

2.2 QIF ネットワークの更新アルゴリズム

1N i=1(6)と書ける。本研究では先行研究 [8] を拡張し、適切な仮である。また次の発火時刻 tf は次で表される。

tf = Φ(V (0), η)(4)((√)) √ arctan η/V mod π / η(η√≥ 0)
Φ(V, η) := ∞(η < 0 and v ≤ −η)√√arctanh( −η/v)/ −η (otherwise).
(5)N ∑∑記憶シーケンスの想起(6) も FREs (7), (8) もシーケンシャルな記憶を安定

QIF ニューロンのネットワークでは発火したニューに想起できていた（図 1）。また、シミュレーション (6)ロンからのシナプス伝達の瞬間以外他のニューロンかと FREs は正確に一致していた（図 2）。結合強度を不ら影響を受けない。よって 2.1 節の解を用いて発火が起均一にし様々な確率分布からサンプリングした場合できたタイミングでのみ状態の更新を行うことができるも同様の結果であった。

(event-based update) [7]。

Quadratic integrate and ﬁre モデルに基づくニューラルネットワークのダイナミクスを利用した学習手法 (清水 元喜)
simulation

8866# group# grouptheory42

4 non-sparse な記憶シーケンスの学習
次に、時間的に非対称的な Hebb 則 (11) を用いて記4µ

憶シーケンス {ξi } を埋め込むことを考える。

2000123t(s)450

12t(s)

345wij =図 1. シーケンシャルな記憶の想起.
r0(t)

300

r0 (theory)r0 (simulation)

175

先行研究では non-sparse な記憶の再生が困難であっ1001250v

10075

た [9, 10] が、QIF ネットワークはパターン µ から µ + 1

10050

以外の想起を抑制するような学習則

200

2500

12t(s)

34300

5012t(s)345wij =図 2. FREs vs シミュレーション.

J ∑ µ+1(ξi− f )(ξjµ − f )Nf µ(12)や、パターン µ 内の再帰的な結合をさらに追加した

3 想起メカニズムの理解
FREs (7), (8) で他のグループに由来する項は (8) のJrk−1 のみである。rk (t) は δ 関数で近似できる形状をしていたため、「切り離された」ダイナミクス

wij =J ∑ µ(ξ + ξiµ+1 − f )(ξjµ − f )Nf µ i(13)により non-sparse な記憶シーケンスを想起できた。

5 まとめ∆+ 2rvπv̇ = v 2 + η̄ − (πr)2 + JKδ(t − t0 )ṙ =(9)(10)

で想起の様子を理解できる。

本研究では QIF ニューロンのネットワークにシーケンシャルな記憶を想起させることに成功した。先行研
究と比較して単純な学習則・モデルで十分想起は安定(a)(b)し、これは QIF ニューロンが神経細胞の特性をよく表rv

4422現しているためであると理解できた。また、モデルは記00

憶が不均一・non-sparse な場合にも拡張可能であった。

r, vv(11)

2.3 のモデルは活性度 f → 0 の極限と解釈できる。

v0 (theory)v0 (simulation)

200150rv0(t)J ∑ µ+1 µξjξ
Nf µ i

2240.0

40.5

1.0

r

1.5

2.0

2.50

12t (s)345

図 3. 切り離されたダイナミクスでの発火.
3025vk + 120151050051015vk202530

図 4. QIF ニューロン集団の入出力関係.

固定点 (r0 , v0 ) から v0 を ∆v だけ増加させると、一過性に発火率の上昇が起こり元の固定点に戻る（図 3）。
また入力 ∆vk と出力 ∆vk+1 の関係は、∆vk がある程度大きい領域で ∆vk+1 はほぼ一定であった（図 4）。
この結果から、QIF モデルは (1) 入力から発火に遅延を伴う (2) 非線形な入出力関係を持つという神経細胞の特性をよく表現しており、一定の強度・間隔での安定な想起につながっていると解釈できた。

参考文献[1] H. F. Ólafsdóttir, D. Bush, C. Barry, Current Biology, 2018, 28, R37–R50.
[2] H. Sompolinsky, I. Kanter, Physical Review Letters,
1986, 57, 2861–2864.
[3] D. Kleinfeld, Proceedings of the National Academy ofSciences, 1986, 83, 9469–9473.
[4] A. Ecker, B. Bagi, E. Vértes, O. Steinbach-Németh,M. R. Karlócai, O. I. Papp, I. Miklós, N. Hájos,T. F. Freund, A. I. Gulyás, S. Káli, eLife, 2022, 11,e71850.
[5] P. E. Latham, B. J. Richmond, P. G. Nelson,
S. Nirenberg, Journal of Neurophysiology, 2000, 83,808–827.
[6] D. Hansel, G. Mato, Physical Review Letters, 2001,86, 4175–4178.
[7] A. Tonnelier, H. Belmabrouk, D. Martinez, NeuralComputation, 2007, 19, 3226–3238.
[8] E. Montbrió, D. Pazó, A. Roxin, Physical Review X,
2015, 5, 021028.
[9] R. E. Suri, T. J. Sejnowski, Biological Cybernetics,
2002, 87, 440–445.
[10] M. Gillett, U. Pereira, N. Brunel, Proceedings of theNational Academy of Sciences, 2020, 117, 29948–29958.