大脳皮質神経回路が行うベイジアンネット構造学習に関する考察
A Consideration about the Structure Learning of Neural Network
Model of Cerebral Cortex
一杉裕志 1∗
Yuuji ICHISUGI1
11

産業技術総合研究所 脳神経情報研究部門
National Institute of Advanced Industrial Science and Technology(AIST)

Abstract: The side as a Bayesian network of BESOM model, a neural network model of thecerebral cortex, is described.

1

はじめに

筆者は神経科学と機械学習に関する最新の知見を踏まえた上で、脳の情報処理原理解明の突破口を開く研究を行っている。これにより、人間のような知能の高いロボットを実現可能にしようとしている。
筆者は BESOM モデルと呼ぶ、大脳皮質の神経回路モデルを提案している [2]。BESOM モデルは４つの機械学習技術（自己組織化マップ、ベイジアンネット、独立成分分析、強化学習）をエレガントに組み合わせたもので、脳の機能を再現させるモデルとして計算論的に妥当な特徴を持っている。そして、計算論的に導かれたアルゴリズムを実行する神経回路は、驚くべきことに大脳皮質の主要な解剖学的特徴と非常によく一致しており [1]、大脳皮質の情報処理原理を説明する正しいモデルであることはほぼ間違いないと考えている。
神経回路モデルはまだ不完全だが、小規模な計算機シミュレーションが動きつつある。将来的には計算機上で効率的に実行可能であると考えており、新しい機械学習技術としての工学応用の面でも有望である。
モデルの全体像およびその神経科学的・計算機科学的妥当性の詳細については [2] を参照されたい。
本稿では、 BESOM モデルの概要を主にベイジアンネットとしての側面から説明するとともに、[2] で述べた不完全な学習アルゴリズムを少し修正し、ベイジアンネットの構造学習と見なせるようにした学習アルゴリズムについて述べる。また、大規模なネットワークを学習する際に必要不可欠となる正則化の方法について考察する。

∗ 連絡先： 産業技術総合研究所 脳神経情報研究部門〒 305-8568 茨城県つくば市梅園１−１−１ 中央第２E-mail: y-ichisugi@aist.go.jp

2

BESOM モデルの概要

2.1

BESOM モデルの構成要素

BESOM モデルは脳全体のマクロなスケールの構造から、個々のニューロンの機能というミクロなスケールの構造にいたるまで、幅広く関係している。
BESOM モデルは、現在のところＢＥＳＯＭネットと強化学習機構の２つの機構からなる。BESOM ネッ
トは図 1 のような構造をしている。
BESOM ネットは、基底と呼ぶ単位の階層構造で構成される。
基底は、多数のノードから構成される。ノードは確率変数を表す。１つの基底内のノードが表す情報は独立成分分析 (ICA) により互いに独立になる。
異なる階層の基底に含まれるノードどうしはエッジで結ばれる。従って、ノードは非循環有向グラフを構成する。このノードのネットワークはベイジアンネッ
トとして動作する。外界の観測データは最下端のノードの値として与えられる。
ノードは複数のユニットから構成される。ノードは確率変数だが、ユニットはその確率変数が取りうる値に対応する。各ノードは、自己組織化マップ（ＳＯＭ）の競合層でもあり、自分の子ノードからの入力を圧縮する。個々の確率変数の値が持つ意味は、ＳＯＭによって獲得される。ＳＯＭの学習結果は、条件付確率表になる。
BESOM ネットを動作させるための認識アルゴリズ
ムは、その一部に loopy な近似確率伝播アルゴリズムを用いていると考えている。アルゴリズムは現在のところ１０種類弱の変数（2.5 章）を用いて表現されている。アルゴリズムは単純な繰り返しを行うもので、神経回路で実現可能である（2.6 章）。
基底の階層構造、基底内のノードの数、ノード内の基底ノード
ユニット
ノード...

...

...

...

入力

図 1: BESOM ネットの構成要素。四角は基底、基底の中の丸はノード、ノードの中の白い丸はユニットを表す。
ユニットの数はすべて最初に与えられ、学習により変化しない。学習により変化するのは、ユニット間の結合の重みのみである。

2.2

大脳皮質の構成要素との対応

前節で述べた BESOM の構成要素は、脳の構成要素と構造的・機能的にうまく対応がつくため、神経科学的な妥当性が高いと考えている。
基底、ノード、ユニット、変数、結合の重みは、それぞれ大脳皮質の領野、ハイパーコラム、コラム、ニューロン、シナプスに、ほぼ対応する。
ヒトの大脳皮質は、約２０万個のノードから成るベイジアンネットに相当すると考えている。各ノードは、約 10 × 10 個のユニットから成る２次元ＳＯＭであると考えている。

2.3

オンライン学習アルゴリズム

BESOM モデルによれば、大脳皮質の最も基本的な機能は、外界の認識と、外界のモデルの教師なしの学習である。大脳皮質は、外界の状態を観測データに基づいて推定し、推定結果を学習するという動作を繰り返すことで、外界をよく近似するモデルをオンライン学習すると考える。
[1][2] では、認識ステップで近似確率伝播アルゴリズ
ムを用いてノードごとの事後確率を計算し、学習ステップで、各ノードが子ノードにおける事後確率最大の値を入力として受け取って学習するという仮説を説明した。しかしネットワーク全体の目的関数が不明であり、意味のある動作をする保証がなかった。

本稿では、大脳皮質の学習の目的はベイジアンネットの構造学習である、すなわち、観測データの尤度を最大とするベイジアンネットを獲得することであるという仮説を提案する。そして、具体的にその目的を達成するために大脳皮質が行うオンライン学習アルゴリ
ズムの候補の１つを提案する。提案するアルゴリズム
は、下記の認識ステップと学習ステップを、観測データが与えられるたびに繰り返すというものである。

1. 認識ステップ：
BESOM ネットは、ベイジアンネットとして動作し、入力に対する MPE (most probable explanation, 観測データを最もよく説明する変数の値の組) を求める。
2. 学習ステップ：
BESOM ネットを構成する各ノードが、SOM として動作し、自分の子ノードからの MPE に基づいた入力を学習する。この時、条件付確率表は、入力データの尤度が上がる方向に更新される。（詳しくは 2.4 節。）
現在動いている小規模シミュレーションは、このアルゴリズムに基づいている。現在のシミュレーション
では確率伝播アルゴリズムを用いていない。MPE は、すべての値の組み合わせを全数探索することで求めている。
実際の脳では、認識ステップでは、何らかの形で loopyな近似確率伝播アルゴリズムが使われていると筆者は推測している。たとえば、 MPE を局所探索法によって求める際、探索に先立って最初に探索の範囲をおおまかにしぼるために使われるのかもしれない。近似確率伝播アルゴリズムの導出と、脳がそれを実際に用いていると思われる神経科学的根拠について詳しくは [1][2]で述べたが、概略を 2.5 節で述べる。
BESOM はパラメタ数がきわめて多く、認識においても学習においても強い正則化が必要となると思われる。正則化の方針については 3 章で述べる。

2.4

確率分布ＳＯＭによる条件付確率表の自己組織化

この節では、ＳＯＭによっていかにして条件付確率表が学習されるかについて述べる。
ＳＯＭは、競合学習と近傍学習を特徴とする教師なし機械学習アルゴリズムである。ＳＯＭは、高次元の数値ベクトルの入力を、距離関係を保ったまま次元削減し、低次元のベクトルに変換する方法を学習する。学習した結果は、マップとも呼ばれる。

普通のＳＯＭ（値ＳＯＭ）

確率分布ＳＯＭ...

３次元の入力、１次元の出力の例
図 2: 普通のＳＯＭ（値ＳＯＭ）と確率分布ＳＯＭ。
ＳＯＭはもともとは、大脳皮質の一次視覚野のコラム構造を再現させる神経回路モデルを、工学的に扱いやすいよう単純化したものである。
普通のＳＯＭは参照ベクトルが特徴量の値の代表値を学習するが、BESOM で使われるＳＯＭは、特徴量の確率分布（条件付確率）を学習する。このようなＳＯＭを確率分布ＳＯＭと呼ぶことにする（図 2）。確率分布ＳＯＭは、入力と出力が同じ形式をしているため、ＳＯＭの出力を上の階層のＳＯＭに入力するという階層構造を持たせることができる。
確率分布ＳＯＭの場合、１つの特徴量は、ただ１つの要素が１の値、他の要素は０の値を持つ s 個の要素からなるベクトルで表現する。例えば、特徴量が [0,1)の範囲の値であれば、i 番目 (i=0,1,...,s-1) の要素が１である場合に、特徴量が区間 [i/s, (i+1)/s) に入る値であることを意味するものとする。
特徴量が n 個ならば、 s 次元のベクトルを n 個連結した ns 次元の入力ベクトルを確率分布ＳＯＭに与えることになる。参照ベクトルも入力ベクトルと同じ、ns 次元である。たとえば、 n=2, s=10 の場合、２つの特徴量の組 (0.3, 0.7) は、 20 次元の入力ベクトル(0,0,0,1,0, 0,0,0,0,0, 0,0,0,0,0, 0,0,1,0,0) として入力される。
なお、従来の普通のＳＯＭ、すなわち１つの特徴量を１つの値で表現し、 n 個の特徴量を n 次元の入力ベクトルで与え、参照ベクトルも n 次元であるようなＳ
ＯＭを、ここでは値ＳＯＭと呼ぶことにする。
前節で述べたように、学習ステップでは、 BESOMネットの各ノードは SOM の競合層として働き、子ノードからの入力をクラスタリングする。ＳＯＭの学習は競合学習と近傍学習を特徴とするが、この節では確率分布ＳＯＭの競合学習の部分について説明する。基本的には [1][2] で述べたものと同じ学習則だが、2.3 節で提案したアルゴリズムに合わせて表現を修正した。近傍学習については、3.2 節で述べる。
ノード X が子ノード Yl (l = 1, · · · , n) を持つとする。学習ステップでは、SOM は MPE における各子ノードの値を、上で述べた入力ベクトルの形で受け取る。すなわち、ノード Yl が値 yil (i = 0, · · · , s − 1) を取り得るとすると、Yl からの入力ベクトル v l の要素は以下のようになる。
{
1 (MPE における Yl の値が yjl の場合)
lvj =0 (その他の場合)
ノード X においては、 MPE の値を表すユニットが、競合学習における勝者になる。勝者ユニットでは、通常のＳＯＭと同様、参照ベクトルを入力ベクトルに近づける。ノード X の勝者ユニット xi とノード Yllとすると、更新式のユニット yjl の間の結合度を wijは次のようになる。
lllwij← wij+ αi (vjl − wij)

学習率 ai の値は、 xi が n 回目の勝者になったときに 1/n となるようにする。そのためには、 ai の初期値を 1 として、xi が勝者になるたびに以下の式で値を更新すればよい。

αi ← αi /(1 + αi )ここで、学習の後期において近傍学習の効果が十分lは条件付小さく無視できると仮定すれば、結合度 wijl
確率 P (Yl = yj |X = xi ) となることが簡単な計算で示される [1][2]。
なお、 α が一定値の場合は、過去の経験を忘却し最近の経験に比重を置いた条件付確率と解釈できる。

2.5

近似確率伝播アルゴリズム

この節では、認識ステップにおいて大脳皮質が用いていると考えている、近似確率伝播アルゴリズムについて述べる。
オリジナルの確率伝播アルゴリズムは近傍のノードとの間の局所的な情報交換だけで実行可能であるため、神経回路と似たところがある。しかし、そのままでは神経回路で素直に実現することはできない。そこで、筆者はいくつかの仮定の下で、神経回路で実現可能な近似確率伝播アルゴリズムを導いた [1]。
近似アルゴリズムの導出に用いた仮定は以下の３つである。

1. noisy-OR を仮定する。これは、条件付確率表が下記の性質を見たすモデルである。
∏P (X|U1 , · · · , Um ) = 1 −(1 − P (X|Ui ))
i

t
t
lt+1
XY = z Y + W XY oY⊗∏ot+1
X =lt+1XY

Y ∈children(X)tTkt+1U X = W U X bU
∑kt+1pt+1
UX
X =U ∈parents(X)

t+1ZX=∑t+1t+1
r t+1X = oX ⊗ pXt+1t+1t+1(rX)i (= ∥r t+1X ∥1 = oX • pX )it+1t+1t+1 Tz t+1
X = (ZX , ZX , · · · , ZX )t+1 t+1bt+1
X = (1/ZX )r X

ただしx ⊗ y = (x1 y1 , x2 y2 , · · · , xn yn )T
図 3: 近似確率伝播アルゴリズム [1]
さらに、P (X|Ui ) が十分小さいと仮定し、以下の近似式が成り立つと仮定する。
∑P (X|U1 , · · · , Um ) ≈P (X|Ui )i

2. １つのノードは十分多くの親ノードと子ノードを持つと仮定する。そうすると、通常あるノードの確率変数の値を支持する証拠は複数のノードから得られるから、メッセージ送信先から来た情報を排除せずに含めてしまっても、推定結果に大きな影響はないであろう。このように考え、「メッセージ送信相手から来た情報を含める」という近似を行うことにする。例えば、ノード X から子ノード Yl へのメッセージ πYl (x) は下記のように近似できる。
∏πYl (x) = π(x)λYj (x)j̸=l≈ π(x)∏λYj (x)j= λ(x)π(x)3. 親ノードからのメッセージが正規化されていると仮定する。
∑πX (uk ) = 1
uk以上の仮定のもとに近似したアルゴリズムを整理した結果が図 3 である。
大文字の T は転置行列を表す。小文字の t, t + 1 は時刻を表し、t における他の変数の値を使って t + 1 における値を計算する。右下の添え字 X はノード名を表す。例えば変数 bX は、ノードごとに存在することになる。また、右下の添え字 XY や U X は、２つのノードを結ぶエッジを意味する。例えば変数 lXY や行列 WXY は、エッジごとに存在する。
全てのノードについて、ノード内のユニット数は sであるとする。行列 WXY は、ノード X とその子ノード Y に含まれるユニット間の結合の重みを表す s × sの行列である。ZX はスカラー値、他の変数 lXY , oX ,kU X , pX , r X , z X , bX は長さ s の縦ベクトルである。
変数 lXY , oX , kU X , pX , r X , bX の i 番目の要素は、ノード X のユニット xi の計算をする。行列 WXY の要素 wij は、条件付確率 P (Y = yj |X = xi ) を表す。
各変数は、適当な初期値から始める。各変数の値の更新は、値がある程度収束するまで繰り返す。近似確率伝播アルゴリズムの実行中は WXY の値は変化しない。
変数 oX (observation の略) は主にボトムアップの情報を使った観測データに基づく値、pX (prediction の略) はトップダウンの情報を使った予測に基づく値、それらの積 r X を正規化した値 bX (belief の略) は最終的に得られる事後確率を表す。

2.6

神経科学的知見との対応

2.5 節で述べた近似確率伝播アルゴリズムを実行する神経回路は、大脳皮質の主要な解剖学的特徴とよく一致し [1][2]、BESOM モデルが正しい大脳皮質のモデルであることを裏付ける強い証拠である。本節では、その概略を述べる。
大脳皮質の６層構造に関する様々な神経科学的知見をふまえて、近似確率伝播アルゴリズムを神経回路で表現してみたものが図 4 である。この図は２つのユニットの各変数の値を計算する神経回路である。
図 4 の神経回路には、以下のような解剖学的知見との一致が見られる。
1. 低次の領野（子ノード）からは、主に３層から出た信号が４層に入る。
2. 高次の領野（親ノード）からは、主に５・６層出た信号が１層に入る。
3. 領野内では主に４層→２・３層→５層の順に情報が処理される。
4. コラム内では垂直方向だけでほとんどの情報処理が行われる。

(bU1 )1(bU1 ) 2I

(bU 2 )3(bU 2 )1+(bU 2 ) 2+

( kU 1 X )1

(kU1 X ) 2+(bU 2 )3++( p X )1(o X )1II+( kU 2 X )1(kU 2 X ) 2( pX ) 2(o X ) 2(rX )1( l XY1 )1(l XY1 ) 2++III(rX ) 2ZY1(oY1 )1(oY1 ) 2( l XY2 )1+(l XY2 ) 2(oY1 )3+Z Y2(oY2 )1

図 5: 通常の近傍学習を用いた学習例。

IV(oY2 ) 2/ZX
ZX(bX )1/(oY2 )3(b X ) 2+(o X )1(b X )1(o X ) 2(b X ) 2V
VI

図 4: 近似確率伝播アルゴリズムを実行する神経回路。

5. ２層、４層、５層には水平線維が見られる。
6. ２層および４層には細かい多数のニューロンがある。（図 4 では少ないが、実際には親ノードと子ノードの数に比例した多数のニューロンが必要となる。）
この神経回路モデルからは説明できない解剖学的特徴も存在するが、主要な特徴の大部分は説明できていると考えている。このことは、 BESOM モデルが大脳皮質の主要な機能を説明するモデルであることを意味している。

3脳が行う正則化

3.1

脳のベイジアンネットの特徴

神経科学的知見および BESOM モデルを前提にすると、大脳皮質が実現するベイジアンネットは以下のような特徴を持つと考えられる。

図 6: 入力をぼかした近傍学習を用いた学習例。
これらの性質のうち、１、２、３はパラメタの数を減らし、モデルの自由度を下げるが、４、５は自由度を大幅に上げる。全体的には、非常に自由度が高く、かなり強い制約条件を入れないと、学習時に意味のない局所解に陥ることが想像される。
脳は極めて汎用的な学習器であるために、対象となる事象固有の事前知識の作り込みはあまりできない。
作り込めるのは「汎用的な事前知識」しかない。そこで以下の節では、「滑らかさ」と「スパース性」を用いた正則化のアイデアを述べる。
滑らかさは、ＳＯＭの近傍学習によって実現され、「似た事象は似た信号を発生させる」という自然界に対する事前知識を表している。
スパース性は、ベイジアンネットによる認識・学習時に実現され、「事象の間の因果関係はスパースである」という自然界に対する事前知識を表している。

1. noisy-OR モデル。

3.2

2. 10 段程度の階層構造を持つ。階層内のノード数は固定。同一階層内のノード間にはエッジがない。

確率分布ＳＯＭを使って、確率分布の連続なマップを獲得させようとすると、近傍学習をどのように行うべきかが問題となる。単純に従来の値ＳＯＭと同様な近傍学習をしても、連続なマップにはならないことが多い。これは、参照ベクトルの次元が n 次元から ns次元と大幅に増え、機械学習モデルとしてのパラメタの数が増えたために、モデルの自由度が増し、望まれる解以外の膨大な数の局所解が存在するようになったことが理由の１つである。
もう少し詳細に原因を検討すると、参照ベクトルと3. ネットワークのマクロな構造は事前知識として与えられる。
4. 最下端のノード以外はすべて隠れ変数。
5. 各隠れ変数は、100 個程度の固定した数の値を持つ。

近傍学習による正則化

入力ベクトルの類似度を計算する際、値ＳＯＭの場合と違って、内積計算では必ずしも適切な値とならないことも理由の１つである。例えば、0.3 と 0.4 は近い値であるが、それぞれの値を表す参照ベクトル(0,0,0,1,0,0,0,0,0,0) と入力ベクトル (0,0,0,0,1,0,0,0,0,0)との内積値は 0 であり、まったく類似していないことになってしまう。これでは近傍学習がマップを連続にする効果が出にくい。
例えば、区間の [0,1) の一様分布に従う値 x およびf (x) = (2x − 1)2 という２つの値を、それぞれ３０次元の２つの特徴量として、１次元の競合層に３０個のユニットを配置した確率分布ＳＯＭに入力し学習させてみると、図 5 のように、分断されたグラフが学習される。ここで、図 5 の縦軸は競合層（ユニットの並び）を表し、各ユニットの参照ベクトルの要素の値を濃淡で横方向に並べて表現している。
本来ならば、x と f (x) という２つの値を表すグラフがそれぞれ１本の連続した線として学習されなければならない。
この例のように入力が正しく次元削減されていないと、確率分布ＳＯＭの出力を別の確率分布ＳＯＭに入力し、多層化することができなくなってしまうという問題がある。
この問題への対処として、参照ベクトルと入力ベクトルの類似度の計算式を工夫する方法、近傍学習の仕方を工夫する方法、勝者選択の仕方を工夫する方法などが考えられる。現在のシミュレーションでは、近傍学習の仕方を工夫することで、この問題を解決している。
例えば、特徴量 0.3 を学習後の参照ベクトルが (0.1,0.2, 0.8, 1, 0.8, 0.2, 0.1, 0, 0, 0, 0) というふうにぼかした表現になるようにしておく。そうすれば、特徴量0.4 を表す入力ベクトル (0,0,0,0,1,0,0,0,0,0) との内積値は 0.8 であり、２つが比較的近い値であること示すようになる。
このようなぼかした参照ベクトルを獲得するための学習アルゴリズムとして、入力ベクトルをぼかした近傍学習を考える。
学習時に、参照ベクトルの値を近づける目標値を、(0,0,0,1,0,0,0,0,0,0) のような１と０のみからなる数値ベクトルではなく、(0.1, 0.2, 0.8, 1, 0.8, 0.2, 0.1, 0, 0,0, 0) のような、入力ベクトルをぼかした値に設定すればよい。このような入力ベクトルをぼかした値に参照ベクトルを近づければ、参照ベクトルも当然ぼかした表現になる。
図 6 は、そのような近傍学習アルゴリズムを用いて xと f (x) = (2x − 1)2 の値の組を学習させた結果で、連続した確率分布のマップが正しく獲得されている。ただし、入力のぼかし幅、近傍学習における近傍半径、学習率は、学習が進むにすれ徐々に小さな値に近づけた。
なお、入力ベクトルをどのようにぼかせば効果が高いのかは自明ではない。上で述べた方法でも、必ずしもマップは連続にならない場合がある。どのようなぼかし方が最適かは学習対象となるデータの性質に依存する、一種の事前知識であるため、理論だけからは決定することはできない。また、このレベルの詳細な神経科学的知見はおそらく得られておらず、電気生理的な実験等で決定することも、あまり容易ではないだろう。今後、最適なぼかし方を理論的考察および計算機実験により求める予定である。

3.3

スパース化による正則化

学習時に強いスパース性の制約を加えることで汎化能力が上がることが期待される。
変数間の因果関係をスパースにすれば、 MPE を求める際の計算量や条件付確率表の記憶に必要なメモリ量を減らすことができる。
因果関係のスパース性は、脳においてはニューロン間を接続するシナプスの数が少ないことを意味し、シナプスの維持コストが小さいという意味でも生物にとって有利であると思われる。

4

まとめと今後大脳皮質の神経回路モデルである BESOM モデルの概要を、主にベイジアンネットとしての側面から説明し、学習時に必要となるであろう正則化の方針について考察した。
モデルはまだ不完全であり、近似確率伝播アルゴリズムが認識ステップでどのように使われるかは現段階では分かっていない。
今後は、大規模なシミュレーションによって、新しい機械学習技術としての工学的な有用性を示していくと同時に、神経科学的によく知られている現象を再現させることで、大脳皮質の正しいモデルであることを証明していきたい。

参考文献[1] Yuuji ICHISUGI, The cerebral cortex model that
self-organizes conditional probability tables and executes belief propagation, In Proc. of International
Joint Conference on Neural Networks (IJCNN2007),
pp.1065–1070, Aug 2007.
[2] 一杉裕志、「脳の情報処理原理の解明状況」産業技術総合研究所テクニカルレポート AIST07-J00012, Mar2008.
http://staff.aist.go.jp/y-ichisugi/besom/
AIST07-J00012.pdf