BESOMモデルへの時系列学習機構の追加の構想
産業技術総合研究所
一杉裕志
2007-07-24

概要• BESOM モデルに時間遅れの再帰的入力を追加するだけで、以下の機能が自然に実現される可能性があることを述べる。
– 時系列学習。
– 短期記憶。
– 位置ずれ、変形に強いパターン認識。

• この機構は大脳皮質の６層から４層への入力に対応する。
• 運動時系列の強化学習機構とチューリングマシンの類似性についても述べる。

従来の BESOM モデルの問題点• 大脳皮質が持っていると思われる、以下の機能がない。
– 時系列学習。
– 短期記憶。
– 位置ずれ、変形に強いパターン認識。

• このうち、時系列学習は、時間遅れのある再帰的入力の追加で実現可能であろう。
– （機械学習でよく行われる手法。 e.g. エルマン
ネット [Elman 1991]）

時系列学習が可能なBESOMネット• 「t-1における識別結果」を観測値として持つ子ノードが存在すると考える。このノードは、時間的文脈情報を親ノードに与える。
識別結果が表現される
ノード

クラス(t)

クラス

特徴１

特徴２

...

時間的文脈情報なし

クラス(t-1)

特徴１

特徴２

時間的文脈情報あり...

多層の場合

tt-1

t-1

t-1

t-1

t-1

tttt

疑問点
• クラス(t-1)ノードは、他の兄弟ノードとは条件付独立になるだろうか？
• クラス(t-2) ノードも必要かもしれない。それ以上はどうだろうか。
• 自分自身の t-1 だけでなく、近傍のノード（ハイパーコラム）の t-1 の入力も必要だろう。
• しかし、以下、説明を簡単にするため、「自分自身の t-1 のノードのみがある」と仮定。

解剖学的妥当性• 大脳皮質の６層から４層への入力が、コラムの認識結果を、少し時間をずらして再びコラムの入力に戻していると考えられる。これは神経科学的に十分無理のない解釈である。
– （大脳皮質機能コラムにおいて、４層は入力、５層は出力。また、４層→２・３層→５層→６層→４層という情報の流れがある [Gilbert 1983] ）関連論文•J Neurosci. 1998 Oct 1;18(19):8086-94.
Ascending projections of simple and complex cells in layer 6 of the cat striate cortex.
Hirsch JA, Gallagher CA, Alonso JM, Martinez LM.

• ６層の単純細胞の軸索は４層に、６層の複雑細胞の軸索は２・３層、５層周辺に。
– （注：単純細胞は４層に多い。）• ６層ニューロンから（同一コラム内に限らず）ランダムにシナプス結合し、ヘブ則で学習し、重み０のシナプスが軸索とともに消滅するならば、この傾向が説明可能。
– そうならば、前述の６層の機能の解釈と矛盾しない。
つまり、その解釈を支持する証拠の１つと言える。

短期記憶

短期記憶の効果• 視覚刺激の入力を選択的注意により遮断す
ると、「クラス(t)」のノードは同じイメージをしばらく表現し続ける。

t-1 にリンゴがあったという情報を送る

クラス(t-1)

t-1 にリンゴがあったらt にもリンゴがあるはずだと認識し、このノードにはリンゴのイメージがしばらく表現され続ける。
（短期記憶）

クラス(t)

視覚刺激の入力を遮断する。
...

ワーキングメモリ• ４６野あたりが、短期記憶で表現されたパターンの認識と、そのパターンの想起を繰り返すことで、長い間意図的に記憶を維持することができるだろう。

「リンゴだ、リンゴだ、リンゴだ・・・」

46

リンゴを想起リンゴを認識クラス(t)

クラス(t-1)...

この機構の特徴• やみくもに BESOM モデルに短期記憶の機構を入れると、ベイジアンネットとしての妥当性が失われてしまうという問題があった。
• 本機構では、ベイジアンネット本来の動作によって短期記憶が自然に実現されるので、その問題がない。
• 短期記憶、ワーキングメモリに関する膨大な知見とどの程度整合性があるかについては、今後調査。

位置ずれ、変形に強い
パターン認識先行研究• 視覚刺激の時間的連続性を学習時に利用することで、位置ずれや変形に強いパターン認識が可能になることを示す研究が多くあるようである。
• [Fukushima 1999]• slow feature analysis [Wiskott, Sejnowski 2002]• [Dileep George, Jeff Hawkins 2005]

slow feature analysis and ICA•

Tobias Blaschke, Pietro Berkes, and Laurenz Wiskott
What Is the Relation Between Slow Feature Analysis and Independent Component Analysis?
Neural Comp. 2006 18: 2495-2508.

• 未読。「slow feature analysis は１時刻遅れの２階ＩＣＡ（？）と等価」?
• 想像：物体の形、位置、動き、大きさは独立なので、時系列の画像を階層的にＩＣＡすればそれぞれの成分が分離されるのだろう。これにより、位置ずれ等に強い認識が可能になるのではないか？
– BESOM も学習時に階層的 ICA を行うので、同じことが自然に実現されるだろう。

時系列運動の学習

BESOM モデルによる強化学習• 基底核－皮質ループを構成する領野は、状態行動対 (s,a)を学習するものとする。
• 一定時間ごとにその時点での状態 s から対応する行動 a を選択する。
(s,a)
入力

出力sa• この仮定のもとで、状態行動対が時系列学習する場合を考えてみる。

時系列を強化学習する
BESOM ネット
• 次のような BESOM ネットワークを考える。
n: (s,p,a) の組を記憶するノード（強化学習でいう状態行動対）
s: 外界の状態
p: ノード n の直前の値（内部状態）
a: アクションn

入力s• 現在の状態 (s,p) から行動 a を選択。
– ちなみに、これはチューリングマシンの動作そのもの。

p

出力aチューリングマシンとの類似性
ＴＭの状態遷移表

前述のモデルのノードnの表

p: 内部状態s: ヘッド上の記号
a: アクションn: 次の状態n: 表のインデックス
s: 外界の状態
p: ノード n の直前の値（内部状態）
a: アクション（ただし n は表のインデックスなので明示的に記憶する必要はない）

動作：表より(p,s)から(a,n)を決定。

動作：表より(p,s)から(a,n)を決定

ps

anns

pa

1

"0"

...

21...

6...

"1"...

52...

3...

" "...

13...

8...

"0"

...

64...

3...

"1"...

85...

3...

2...

...

この機構の特徴• 前頭前野の振る舞いが、チューリングマシンや人工知能技術の１つプロダクションシステムと似ている理由を、うまく説明できる。
• チューリングマシンをベイジアンネット・強化学習と統合して拡張したものになっている。直感（確率推定）に基づいて合理的に行動選択する脳の振る舞いも、うまく説明できる。
• 脳はプログラム（状態行動対）を、模倣学習などによって獲得するのだろう。

まとめ• 現在の BESOM モデルに不足していた全ての機能が、大脳皮質の６層から４層への入力に対応する時系列学習の機構を追加するだけで、自然に実現される可能性があることを述べた。
• シミュレーション、詳細な先行研究調査は今後。