数理解析研究所講究録
第 827 巻 1993 年 75-84

75

成長過程の

Synapse 形成を考慮した Neural Network

Neural Network with Developing Synapse
神奈川大工

宇佐見義之

Yoshiyuki Usami, Institute of Physics, Kanagawa University
Rokkakubashi 3-27-1, Kanagawa-ku, Yokohama 221, Japan

1. Introduction〈問題提起〉
通常の神経回路網研究における Hebb 型学習モデルは普通、 シナプス結合
ように書く 1-3)。

$\frac{dw_{ij}}{dt}=-\alpha w_{*j}+\eta x_{j}f(\sum_{j}w_{ij}x_{j}-\theta)$

; 入力、

;

$w_{ij}$の増強則を次の,(1)

ステップ関数、; 定数。
それでは、 この系は入力 (学習信号) が無くなったらどうなるか ?
入力 $Xj$ が無いとこのよ
うな系は $w_{1j}arrow 0$ っまり、 覚えたことを忘れてしまうことになる。 おおかたの神経回路網研究$x_{j}$$f$$\theta$$\alpha,$$\eta,$

においてはこの点について、 学習をさせた都合のよい段階で話を終えているように思える。

この問題に対する解答として、 筆者は最近 (1) 式の第一項を$arrow$$-\alpha w_{1j}$$aw_{1j}-bw_{ij^{\prime’}}^{3}= \backslash -\frac{V(w_{ij})}{w_{jj}}$,$V(w_{jj})=- \frac{1}{2}w_{j}^{2}+\frac{1}{4}w_{j}^{4}$,(2)と書き換えることによって、 学習した内容をシナプス結合のポテンシャルの安定点に保存させることができ得ることを論じた。 4) ぎた、 それが人為的な書換えであるだけではなく、 実際の生理系においても意味がありそうに馬えるということについても考察を加えた。

本研究においては、 この点に関して更に考察を進め、 (2) の項が更に時間に依存して変化する場合、 ネッ

トワークの振舞いがどのようになるかを調べ、 生理学との対応について考察する。
図$1$

神経系の修飾における臨界期の存在

3–4
1–2

遇聞

ネコの視覚野形成か月

サルの視覚野形成10–24 時間

鳥の刷り込み図2$\zeta)$76
上述の神経回路モデルに対応する生理的な知見として、 学習の臨界期の存在、 ニューロン
結合形成の選択的安定化仮説がある。
$<$

学習の臨界期にっいて $>$生物の神経系のある部分は、 あらかじめ修飾される時期が決っている場合が結構多く存在する
そしてその時の学習結果はその後生涯失われない。 日本ではこのような現象は 「三(図 1)
つ児の魂百まで」 と称してよく知られている。 以下にこのような現象をいくっか挙げる。
。

(1) 鳥類の刷り込み

ある種の鳥類は生後数日以内に見た動く物体を親と認知して、 その学習ガンが、 彼を親効果は生涯持続する。 有名な例は動物学者のコンラートに育てられたハイイ
5)とみなして後をっいていく図 2 のような写真にみられる。
$\dot{\text{ロ}}$(2) ネコ、 サルなどの視覚系の形成
Hubel,Weisel らの研究によって重要な進展がもたらされた視覚系神経系の形成においても、 生後修飾されう

図$3$

眼優位性コラム形成の時間依存性

片眼遮蔽$\mathcal{J}$$-$(鯛サルの場合 ) 乙

//)

片眼遮蔽

る時期が存在することが知られている。6)
この時期は特に臨界期と呼ばれ、 ネコの場合は生後 3-4 週間、 サルの場合は生後 1-2 か月であることが分かっている。 7) この様子を図 3に模式的に示した。 第一次視覚野の眼優位性コラムという部分は両眼からの神経の投射を半々に受けている。
通常はこの両眼からの神経投射を受けて左右に反応する細胞群が半々の領域を帯状に形成する。 そこで、 生
後まもない期間に片方の目を遮閉す
るとその目に対応する細胞が発達せず、領域の面積が狭くなる。 しかしこのような神経系の発達が環境に左右されるのは若い時に限られ、 生後しばらく成長した後に同じことを行っても神経系は変更されない
。

(3)

’
$|_{\mathfrak{l}}’|t\vee\iota,\iota_{1!_{t}}^{1}’$$\iota_{\backslash (1^{t_{I}^{||_{|\backslash \backslash \backslash |}}}}^{1}|\backslash _{\iota_{\iota_{|’|}}}$$\iota\backslash ^{\backslash _{\backslash \backslash ^{\backslash \backslash }}}\backslash _{a^{\backslash _{\backslash }}}^{\backslash \backslash \backslash _{-}}\backslash ’\backslash _{\backslash }$若い時に片眼を覆うと成体になってから片眼をその領域が小さくなる

覆っても領域は修飾されない

哺乳類の視覚系と一次視覚野‘

人間の言語獲得能力、 聴覚識別能力など人間の言語獲得は生後 3 年から 1

$0$

年位の期間

に行われるが、 この期間に適切な教育を行わないとそれから後の言語修得ぽ非常に難しいこと
が狼少年、 狼少女らの事例より分かっている。 さらに経験的にも十代の時の第 2 言語修得は成人の時のそれより容易であることが知られている。 またいわゆる絶対音階識別能力といわれるような高度の聴覚能力の獲得は 3–4 歳の頃の聴覚教育が決定的に重要であることもよく知られている。

以上のことは神経系に関する知見でもかなりマクロな現象であるといえるが、 これとは比較的独立に、 神経細胞 1 つ位のスケールにけるシナプス結合形成に関して成長段階のある時期に特異的に選択が行われているのではないかという仮説が Changeux らによって提唱されている。
8)

77
$<$

ニューロン結合形成の選択的安定化仮説 $>$これは脳の中の神経回路が個体の成長と共にどのようにしてできるかという問題に対する神経生理学者 J.P.Changeux が提出した仮説である。 8) この仮説は回路形成のある段階で、 冗長度のある結合がかなりつくられると考える。 これがある発育段階 (臨界期) で選択されて、有用な結合のみが残されて安定化していき、 それ以外のシナプスは退化していくとする (図 4)。

実験的に同一の神経細胞のシナプス形成を成長の期間追跡していくことは現状では不可能なので、 この説明は現在は仮説の段階であるが、 間接的に支持する証拠は幾っか報告されている。

例えばヒ ト前頭野における 1 つのニューロンあたりのシナプス数が発達のある時期に一時的に増大することが観測されている (図 5) 。同様な傾向はネコの視覚野や小脳のプルキンエ細胞でも観測されている。 9)
図4(Changeux et.al. (1976))

神経回路網形成の選択的安定化仮説$’\backslash$口$q|$$\%^{1}\backslash |$成長のある段階で刺激を受けた結合のみ過剰な結合が作られるが残りこれが安定化する$\dagger^{\aleph_{\backslash }}$$’\{\backslash ’\backslash$

図$5$

ヒトのシナプス数の変化$\eta$)

シナプスの数は一時的に増大する

以上の実験 、( 観測事実をっないで、 かっ冒頭に述べたような学習した内容を保持し続ける神経
回路のモデルを以下に提示し、 その学習特性を調べるのが本研究の主題である。

\S 2. 学習の臨界期を記述する神経回路*’ デル
まずはじめに次のような Hebb 型学習方程式の変形を考える。

(3a)

$=$

$- \eta_{0}\frac{\partial V}{\partial w_{i}}+\eta_{1}R_{i}(t)$$V(t, w;)$$=$$- \frac{1}{2}A(t)w_{i}^{2}+w_{i}^{4}+B(t)w;\eta_{2}$$R_{1}(t)$$=$$\frac{dw_{j}}{dt}$(3b)$\ulcorner$$x;f( \sum_{i}w_{i}x_{i}-\theta)$

図$\backslash \backslash 6$$\eta_{0},$$\eta_{1},$$\eta_{2}$は定数、 $A(t),$ $B(t)$ は時間と伴に変化する係数。

(3) 式で決まるシナプス結合荷重$w$; のダイナミクスは次のようなる。 図 6 に示したように、 入 ]が提示された時、 シナプ
ス結合荷重 $w$ ; の重みをかけた和がしきい値を越えた場合出$f$はステップ関数)
力側の細胞が発火し ((3c) 式,
入力 ;$w$が正の値のところのシナプス結合 ; が効率で増強される。
$^{\vee}\llcorner$$7$$- x_{i}$$\theta$、$x$$\eta_{1}$

また図 6 中に示したようにシナプス結合 : はそれ自身の特性、
つまりここでは 2 重安定点を持つ p\’otential 関数に従っても運動
$w$

する。

Synaptc Connection$\tilde{a}\nwarrow^{w_{i}}$$0oep\ovalbox{\tt\small REJECT}$星$\mapsto\infty\div$1$\swarrow$

(3c)

78
2 重安定点を持っ potential において左側の安定点は実際のシナプス結合荷重 $w$ ; がゼロ(完全に切れている) 右側の安定点は実際のシナプス結合荷重 $w$ : が 1(完全につながっている) という状態を持っことを表す。
(3) 式で示した座標
は理論の取扱が便利なように左右対称に座標をとった仮想的なもの、$w_{i}$

で、$w_{i}$

と

$w$

; とは、

$w_{\mathfrak{i}}(t)=w_{i}(t)+\frac{1}{4}(A(t)+1)$,(4)の関係にある。 これはシナプス結合荷重 $w$ ; が切図7

parameIer$A(t).\mathfrak{g}()$の時間変{ヒ

れている状態か完全にっながっている状態を安で考えれば か 1 の状定な状態として持つ (態) ということを表している。 シナプス結合荷$0$$w_{i}$$A$

重がこのような 2 重安定点を持っ potential 関数のダイナミクスに従う Hebb 型学習方程式の特性については、文献 $()$ において筆者によって研究されている。 そこで、 ここではさらに (3b) のpotential が時間が経つに従って (個体が成長するに従って) 図 8 のように変化することを考える。 式でいうと $(3b)$ 中の$t$

potential のパラメーが時間とともに図 7 のように変化する。 (3b) 式中の 2 乗 4 乗の potential の 2乗の係数が $- 1$ から 1 に序々に変化するという

図8(実際のシナプス$V(w)$

ター $A(t),B(t)$ことは、 図 8 に示したように結合でいって) 初めは$0$

potential の時間変化$v_{(\omega)}$

が安定であった状態が、時間の経過と伴に非常に可塑的になり (外からの外力によっては変化しやすくなる) 、最後$w_{i}$には$0$(切れている状態) と 1(完全につながっている状態) が安定になることを意味する。 このようなシナプス結合の振舞いは前節で述べた
生理学的な知見を反映した形になっている。
次に、 (3) 式として提案した神経回路モデルを簡単なものに変形していくことを考える。

(1)

一つのシナプス結合の時間変化だけに着目して議論を進める。
問題設定として、 例えばネコの視覚野形成における右目、 左目優位の場合のように、 成長の過程を通して一様な刺激が入力する場合をここでは考えることにする。 図 1 でいえば、 ;という入力のパターンは固定して、 それがシナプス形成のどの時期に入力するかという問題にまた今考えている神経回路の部分は必ず発火すると仮定する。 こう問
はなしを限定する。
題を限定すると 論じるべき $w$ ; は $x;=1$ または $x;=0$ の場合のみに限定される。
さらに後述
するように $x;=0$ に対応するシナプス結合の動きは単純になるので ( $w;arrow 0$ for $x;=0$ ) $x;=1$に対応するただ一種類のシナプス結合の動きのみを考えればよくなる。
$x$

(2)

神経回路の発達の時間スケール (数日から数か月、 数年) は通常の神経のインパルスの時間間隔よりもはるかに長いことから、 (2) 式の増強項 $R_{i}(t)$ は、 神経結合にとって次のような学習期間に一定の値をもつ増強の効果として平均化して考え得るとする。

79
上述の (1),(2) を (3) 式に適用すると次のような比較的簡単底方程式\mbox{\boldmath $\theta$}-{得られる。

$\frac{dw}{dt}$

$V$

$=$

$- \frac{1}{2}A(t;t_{f}, t_{c})w^{2}+w^{4}+B(t;t_{f}, t_{c})\eta_{2}$$w_{i}$

間の要素の入った変数、 係数を$\hat{V}$(4a)$- \eta_{0}\frac{\partial V}{\partial w}+\eta_{1}g(t;t_{1}, t_{2})$ここでシナプス結合加重$\frac{dw}{f_{t}}$,$=$$\eta_{0}$(4b)位の時間でポテンシャル上を緩和するので、 全体に時でスケールすると、 最終的なモデル方程式、は$\frac{\partial\hat{V}}{\partial w}+\wedge\epsilon_{0}g(t;t_{1},t_{2})\wedge\wedge\wedge$$\frac{1}{\eta 0}$

,

(5a)

$=$

$-$

$=$

$- \frac{1}{2}A(t;t_{f},t_{c})w^{2}\wedge\wedge\wedge+w^{4}+B(tt_{f},t_{c})\wedge\eta_{2}\wedge.\wedge\wedge$

,

(5b)

が得られる $\circ(t=\eta_{0}t,\epsilon_{0}=\eta_{1}\wedge\wedge/\eta_{0},t_{1}\wedge=tt_{2}=t_{2}t_{f}=t_{f}\wedge\wedge\wedge)$ 実際の座標 $w$ での方程式は,$\frac{dw}{dt}$$\hat{V}$

$=$

$=$

$- \eta_{0}\frac{\partial\hat{V}}{\partial w}+\epsilon_{0}\wedge g(t;t_{1},t_{2})\wedge\wedge\wedge$,$- \frac{1}{2}A(t;t_{f},t_{c})(w-\frac{1}{4}(A+1))^{2^{-}}+(w-\frac{1}{4}(A+1))^{4}\wedge\wedge\wedge$$+B \subset t;t_{f},t_{c})w(\hat{\eta}_{2}-\frac{1}{4t_{c}})\wedge\wedge$という形をしていて、 元の
いる

(6a)

(図 8) 。 ($B\cap t$

は

$w$

,

(6b)

の式と比べて全体にバイアス

ここでもとにもどって$B(t)w_{4}=_{t_{c}}^{1}$がかかった形になって

で 1, それ以外でとなるパラメーター)は不定性のパラメーターで、 生理的な知見からのみでは唯一に$\wedge t_{f}<t<t_{f}+2t_{c}\wedge\wedge\wedge$$\hat{\eta}_{2}$ー$0_{\backslash }$は定まらないが、 ここではモデル構築の上での一番簡単な選択$\hat{\eta}_{2}=\frac{1}{4t_{c}}$

をとる。

意味的に

$t=0$ で $w=0$

は、 系になにも摂動が加わらない場合にある結合は成長後も $w=0$ にあることを$(w=0arrow w=- 1/2)$表す。
すなわち成長期になにも刺激がないと、 その部分の結合は成長しないことを意味している。

以上までモデルを構成してきたが、 こ之でモデル方程式に表れたパラメーター群を整理してみよう。 ここでのアイデアは各パラメーターをシステムに固有なものと学習によって変え得るものに分けることである。
$r$

学習によって変え得るパラメーター$\wedge t_{1}$$\wedge t_{2}$$\wedge\epsilon_{0}$

学習の開始時期
学習の終了時期
刺激 (入力)システムに固有なパラメーター$\wedge t_{f}$$\wedge t_{f}$$\hat{\eta}_{2}$$\tau$

potential が変化するまでの時間( $\sim 10$ 日位とする)
potential が変化している時間( $\sim 10$ 日位とする)
potential 全体の傾き(に固定)$\frac{1}{4t_{c}\wedge}$

80

$<$

各パラメーターの設定 $>$モデル方程式に表れるパラメーターは沢山あるので、 ここではモデルケースとしてシステ
ムの方をネコの視覚野形成を参考として設定し、 これを固定して考えよう。 その上で、 システ
ムの発展が学習によって変え得るパラメーターにどのように依存するかを調べる。
ここで学習によって変え得るパラメーターは学習の開始時期 , 学習の終了時期 , 摂動の 3 つである。 摂動の大きさについては以下の範囲にあるべしという目安が存の大きさ$\wedge t_{2}$$\wedge t_{1}$$\wedge\epsilon_{0}$在する。

(1) 何もしなければ(ur—1/2) に行こうとする、 ポテンシャル全体の傾き$w=0$$(w=1/2)$ の安定点までたどり着くためにおよそて $w=1$$\frac{1}{4t_{c}}(\sim 0.025)<\epsilon_{0}$，帽海を満たさなければならない。

(2) 成長しきった後に刺激を受けてもシナプス結合はポテンシャルの山を越えて反対の安定点
すなわちポテンシャルのどちらの谷に行くかは、 臨界期における刺激のみに
よって変わり、 それ以後の刺激はシナプス結合を本質的には変えないとい う問題意識であった
ので、刺激の大きさはポテンシャルの不安定点近傍の傾きの最大値よりも小さくなけれに遷移しない。

$\ovalbox{\tt\small REJECT}$$\wedge\epsilon_{0}$ばならない。

図9$\frac{\partial V}{\partial w}|_{\max}<\wedge\epsilon_{0}(\sim 0.2)$

ここでは摂動の大きさが以上の範囲のうちで比較的小
と、大き
さい場合
の 2 つのい場合$\wedge\epsilon_{0}=0.04$$\wedge\epsilon_{0}=0.15$

ケースについて調べた。

\S 3. 数値解の振舞い上の方程式は形は比較的簡単であるが、 解析的には解けない。特に臨界期近傍での $w$ の振舞いは非常に特異的である。 一方数値解法としては一次元の微分方程式であり、容易に解くことができる。その結果を以$\wedge t\sim$$\wedge t_{f}+t_{c}\wedge$$\cup$$T$

1$\cup$$T_{2}$$\cup$$T_{4}$$T_{3}$$r_{s}$$T$$T_{7}$

図1下に示す。

図 9 は臨界期の時期に刺激の時が与えられた場合の$(\epsilon_{0}\wedge=0.15)$
間変化を示す$u- u$$U$$0$$\omega$$w$。

臨界期に刺激を与えられると (図の中では上方向に摂動が加えられた)$w$のトラジェクトリーは $w=1/2$ の安定点に向う。これはシナプスの結合ができたことを意味する。図の下方にポテンシャ
ルの時間変化と、併せてポテンシャル上での $w$ の位置を図示した。

$\cup$$T_{1}$$\cup$$\cup$$T_{2}$$T_{3}$$U$$\cup$

$T$

$-$

ろ箱

$T_{7}$

81$<$

図 1 1,

図 10 は臨界期を過ぎてから刺激を与えた場合のシナプス結合の時間変化を表す。

$\omega$

後から刺激を与えてもシナ
プスは結合を形成せず、 図
中で上向きの摂動が加えられているにも関わらず $w=-$

1/2 の安定点に落ちてしまう。 興味深いのは臨界期のごく近傍で、 最小の期間だ

けよ刺う激なケが加スえでらあれるた。図ポ 1 テのン$\cup$$\cup$$\cup$$\cup$$T_{1}$$T_{2}$$T_{3}$$T_{4}$$U$

シャルが急激に変化するの時期に僅かだけプラス方$\ovalbox{\tt\small REJECT}$

向に摂動が加えられ、 その後にポテンシャル上を自由$T_{6}$$T_{5}$$T_{7}$に運動する。

図中の$T_{5},$にいる$w$の時期はポテンシャルの変化の方が速く、 これに比べて勾配の緩い不安定点近傍の位置の変化は大変小さい。 細かく見ると、晃の段階では、 まだ
はポテンシャル
$T_{6}$$w$の山の左側 $(w=- 1/2)$ にいるが、$w$の$\text{ト_{}o^{1}}J$$w$の変化よりもポテンシャルの変化の芳が速く、$T_{6}$の段階でジェクトリーは ポテン シャルの不安定点にクロスされる形になっている。
$Y$

そして、 ポテンシャルが十分変化して、 $w$ もある程度成長した段階鱈では、 シナプス結合 $w$ は急激に成長することになる。

全体から眺めて、 この場合の $w$ の運動は、 臨界期に於ける短い刺激によって、 その成果が後から$w$の成長と 6 して禿現してくる構図に宏っている。 また実際の神経系でこのようなことが起こるかどうかは大変興味深いところであると思う。

実際には純粋にこのようなモデルのポテン

シャル上での動きに近似しえないか、 またはニューロンの発火も、 純粋な外部刺激によってのみ起こるのではなく、 自発発火や学習の刺激以外の部分からくるノイズなどもあるので、 このようなシャープな $w$ の変化はないかも知れない。 またはそのようなこと全部が起こってもなお
かっ、

$w$

の成長が刺激を加えた後に起こるというような現象は実際に見っかるかも知れない。

このように、 刺激の大きさ ^\epsilon 0 が一定の場合、学習の開始時期と終了
時期によってシナプス結合ができるか、 できないかの 2 通りに分類される。 学習の開始時期} 終了時
期 2 っのパラメーター空間中における、 シナプス結合形成の領域を相図のように描いたものが図 12である。 小さいドッ トは計算を行姦宮$\vdash$腺$\mathfrak{W}$訃ったポイントを示し、 黒塗りで示された領域が結合が形成される学
習期間を示す。
図1 2

学習開始時期

82
図 13 は計算で得られた相図について、 シナ) と学習の開始、 終
プスの発達関数$\wedge\wedge$$A\subset t,t_{f},t_{c}$了時期の関係を模式的に図中に書き込んだものである。 また図 14 は図 13 中に示した各点$a_{1},$ $a_{2},$$\cdots,$$b_{1},$$\cdots$のトラジェク トリーを示し

図 13 に見られる特徴は、結合が形成できる期間に対して次の 2 っの部
分で図中に直線が表れることにある。
(1) 領域 1: この領域はシナプスの発達の速い段階で学習がおこなわれる場合の話である。 図中にみられるこの部分の特徴は、 ある学習の終了時期。を境に、 図中上の部分、の領域で結合が形成されることにあ
境界線が水平になっているということる。
た。 これら図 12

買言、$*\vdash$帥卦$\hat{T}^{\ovalbox{\tt\small REJECT}}$$\hat{T}_{\epsilon}^{*}<\wedge t$$t_{f}^{\wedge}$は、 この部分では学習開始には無関係に、学図1 3

習終了の時期のみによって結合が形成される$t^{\wedge}+t_{c}^{\wedge}f$

学習開始時期

かどうかはきまることを意味する$c_{\iota} \frac{1/=}{1-\backslash }$$a, \frac{1--}{\lceil\sim}$

すなわちこの時期における学習においては、学は習な開始、1o^ 学時期習終は重了要がであ$a_{1} \frac{1--}{\lceil\sim}$$b_{a} \frac{1\nearrow\prime}{1\sim}$$c, \frac{1\underline{\nearrow}}{1\backslash --<}$

る時期以降でなければ結合が形成されないことである。
$\ovalbox{\tt\small REJECT}\frac{1_{-}\underline{\nearrow}}{\lceil\approx}$$b_{\mathfrak{l}} \frac{1\nearrow}{1}$(2) 領域 2: この領域はシナプスの発達の後期に学習が行われる場合である。 (1) の場合と同様に相
図中に直線部分が存在するが、 (1) とは異なって、
直線が縦方向に現れている。 ここでは結合が形成されるかどうかが (2) の場合とは反対に学習の終了時期には依存せず、いっ学習を開始したかによってのみ決まる。

すなわち図に示した時点$\hat{T}_{e}^{*}$

より速い時期に学習を開始しなければシナプス結合
この場合はこの後にいくら学習を続けてもダメなことを、 図の垂直な線は示し
は形成されない。
ている。

$t_{f}^{\wedge}+t_{c}^{\wedge}$$t_{f}^{\wedge}$

図1 5

学習開始時期83
以上のことをまとめて言うなら、 シナプスの発達それ自身の発展が定まっている場合、 早
い段階の学習は、 ある程度期が熟すまで続けなければ効果はなく、 一方成長期間に学習を始め) に学習を始めなければだめということになる。
る場合にはある時期以前 (今の場合は$\hat{T}_{\theta}^{*}$

一方が小さい場合にシナプス結合が形成され得る学習期間を図 15 に示した この図を図 12と比べて言えることはシナプス結合ができる学習範囲の相図中の形はが大きい場合 (図 12)と変化せず、 その相図中に占める割合が全体的に左上方に平行移動したことである。 図 12 と併せてこの図が意味するところは、 刺激の大きさ の変化に対してこの神経系の学習時期の特性は本質的には変化は無く、 ただ領域 1(早い時期に学習を行う場合) の学習終了時期を刺激が強い場合よりも遅らせなければならないことと、 領域 2(発達の後期に学習を行う場合) では$\hat{\epsilon}_{0}$$0$$\wedge\epsilon_{0}$$\wedge\epsilon_{0}$$\hat{\epsilon}_{0}$

学習を開始する時期を$\wedge\epsilon_{0}$が大きいときよりもはやめなければならないことである。

\S 4. まとめ
最後に本研究が提起した問題とその解法などについて、 箇条書きにまとめる。

(1) 生理学、 動物行動学などで知られている学習時期における臨界期の存在にっいて、 これを数理的に記述する方法を神経回路の数理の枠組吟中でモデル化し、 その性質にっいて議論した。

(2) 現在の神経回路モデルにおいては、 減衰項が存在する為に学習した内容を全て忘却するシステムになっていることを指摘した。
この忘却を避ける為の簡単な解決法の っとして、 シチプス結合荷重 $w$ がゼロ以外の安- 定点を持っようなポ
テンシャノレを持つ場合を考えて、 その場合の生理的な対応が上記の臨界期を記述することにつ$\underline{d}w_{\dot{A}^{j}}dt=-\alpha w_{jj}+\eta x_{j}$$f( \sum_{j}w_{1j}x_{j}-\theta)$–

ながることを示した。

(3) ここで筆者が提示したような特性を実際のニューロン、 シナプス結合が持っているかどうかは現在のところ分かっていないと思われる。 しかしながら実際のニューロン同士めシナプス(つながっていない) か 1(っながっている) かのいずれか状態を安定な状態とし結合がて維持しているとする考えはある程度正当な見方なのではないだろうか。
$0$(4) しかしながら上述のように、 シナプス結合がを認めることと、 これを表現する為に potential を$0$か

1 を安定な状態として持っということ$w^{2},$ $w^{4}$ととることはすぐには結びっかずこ

こにはモデル化の為の飛躍がある。

(5) このモデルは広く物理で使われている相転移のモデルに類似な構造をしている。 この点に関して興味深い点は通常の相転移モデルでの温度は、 本モデルでは発達あるいは成長の時間そのものに対応することである。 っまり、 温度が下がっていって相転移を示す系に組織的に外力が加わった形になっている。
通常神経回路研究において統計力学のアイデアの転用から仮想温度を導入して工学的には有用な結果を引- き出すものの、 生理的には意味の無いものと思われてきた。 本研究において温度という概念がある部分では生理的な対応をもうことを示した点は、 これらの神経回路研究の流れのなかでは重要な点に思われる。

また神経回路網研究における温度という概念が、 シナプス結合の可塑性と関係があるという点

は田中も指摘していることを付記しておく。 10)(6) 本研究は、神経系というシステムの能力がそれ自身の性格だけでは決定できず、 システム$+$

外界からの影響をセッ ト特定して初めて決定され得ることを明示的に示した点についても特徴があるといえよう。

84(7) 最後に、 本研究で示したモデルで記述されるような現象は生物的、 社会的に少なからず存在するように思われる。 すなわち系の時間変化のなかで選択枝の (あるいは解の) 分岐が起こり、 その臨界期に於ける選択が将来を決定する現象である。 例えば生物の生殖、 (人間の場合結婚) など生物の社会現象を数理的に記述するモデルになり得ているのではないだろうか。

文献

1) S.Amari: Biol. Cybern.26(1977)175.
2) G.A.Carpenter: Neural Networks 2(1989)243.
3) S.Grossberg: Neural Networks 1 (1988)17.
4) Y.Usami, “ Pattern Formation of Synaptic Connections in a Generalized Hebb-Type Learning
Model”: J.Phys.Soc.Jpn., to be published (1992).
5) 講談社 Quak 編集部: 賢い脳の作り方, 講談社 (1990)
6) 塚原仲晃: 脳の可塑性と記憶, 紀 国屋書店 (1987)
7) T.N.Wiesel and D.H. Hubel: J. Neurophysiol. 28(1965)1029; D.H. Hubel and T.N.Wiesel: J. Physiol.
206 (1970)419; S. Levaym T.T.Wiesel and D.H. Hubel: J.Comp. Neurology 191 (1980)1.
8) J.P.Changeux and A.Danchin: Nature 264(1976)705; J.P.Changeux: L’homme Neuronal,
Livrairie Artheme Fayard, Paris(1983), ニュ
人間, みすず書房 (1989)
9) 久保田競: 脳の発達と子どものからだ, 築地書館 (1981).
10) S.Tanaka: Biol.Cybern.65(1991)91; S.Tanaka: Neural Network 3(1990)625.
11) 塚田裕三編: 別冊サイエンス; 脳を探る, 日経サイエンス社 (1982)$\nearrow$$-\subset 1/\backslash$