計測自動制御学会東北支部 第  回研究集会   
資料番号 

自己組織化ニューラルネット による概念形成モデル

       

○小谷中 洋介，本間 経康，酒井 正夫，阿部 健一○

          
東北大学大学院工学研究科

            
ニューラルネット ワーク キーワード   概念形成   自己組織化    

連絡先

〒 ! !" # $ 

の学習則    

仙台市青葉区荒巻字青葉 東北大学 大学院 工学研究科 電気・通信工学専攻 阿部研究室

 

 %，&'$    ，( $       に処理し ようとする過程で ，発見的に一ずつ形成はじめにされ ると 考えられ る．
概念の形成は生体の脳における重要な機能の一

また ，【 形 】，【 色 】，【 味 】といった概念が 既に 形つである．我々が ，『 リンゴ 』の特徴を挙げ よと 言成され ている段階で ，初めて『 バナナ 』に 出会っ

われた場合，「 球体 」，「 赤 」，「 おいし い 」など と 挙た場合を考え る．このとき，脳は『バナナ 』よりげ ることができるのは ，我々の中に ，【 形 】，【 色 】，観測され る膨大な感覚的情報から，「 棒状」，「 黄」，【 味】といった概念が形成されており，さらに，『リ「 おいし い」といった論理的な情報を容易に取得しンゴ 』に関するそれらの情報（「 球体」，「 赤 」，「お記憶するはずである．すなわち，観測的対象から，いし い」）を記憶として既に取得しているからだと既に形成されている概念に関する情報を同時に取いえ る．一方，我々が 全く概念を持たない状態に得することは ，比較的容易であると考えられ る．

おいて 初めて『 リンゴ 』と 出会った場合には ，例

さらに ，観測対象と過去に取得し た記憶の同一え観測対象である『 リンゴ 』から ，「 球体 」，「 赤 」，性の判別には ，概念ご との論理的な情報の比較が「 おいし い 」など の 特徴的な 情報が 観測され てい用いられていると考えられ る．例えば ，【 形 】といたとし ても，それらを同時に気付くことはおそら

う概念し か形成され ていない段階で『 リンゴ 』とく不可能である．なぜならば ，感覚的なものとし『ボ ール 』の同一性を 判別し た場合には ，と もにて入力され る情報を ，そのような論理的情報とし「 球体」という論理的情報を持っており，両者を異て記憶するためには ，【 形 】，【 色 】，【 味 】といったな るものと 判別することが 困難であ る．一方で ，概念が 必要不可欠だからである．このような概念【 味 】とい う概念を 形成することが 出来れば ，「おは ，おそら く観測対象から得られ る膨大な量の感

いし い 」「， おいし くない（ 食べられない ）」という覚的情報の うち，最も印象的だった情報を論理的!

Neural input

情報の比較によって，両者を論理的に区別することが 可能となるはずである．
このような脳における概念形成の特徴は，以下Synaptic weight

xi1

w1

xij

wj

ixm

wmのようにまとめることができる．
新し い概念は一つずつ形成され る．

既形成の概念に関する論理的情報は一度にまとめて修得できるyf (:)

Neural output

提案ニューロンモデル 

ューロンの結合重み Û を ，概念ご との論理的情報を比較することで ，観Û

測対象と過去に記憶し た対象の同一性を比較           できる．のように定義する．ここで ， は既形成の概念の本研究では ，外界からの情報に対し 自己の構造数であり，Û  Ü  Ë が 成り立つならば ，提案モを適切に変える自己組織能力を持つニューラルネッ

デルにおいて観測対象 Ü がニューロンに記憶されト ワーク  を基にし て，先にまとめた特徴を考慮たと考える．すなわち，観測対象の概念ご との情し た概念形成モデルを提案し ，また ，簡単な追加

報  が ，ニューロンの結合重み学習問題に対する動作検証を行うことでその有効ることを意味する．

 とし て記憶され

また ，対象 Ü より観測し た場合のニューロン の性を示す．

出力を ，次式のような  関数により定義する．

概念形成モデル

観測対象の定義Ü Û 

まず， 個の観測対象の集合を Ë ，       のように定義できる．ここで，Ü        

複数のニューロンより構成され るニューラルネッ
ト ワークにおいて，観測対象 Ü に最も近い記憶を持つニューロンを認識対象の候補として選択する．

 のように 値で

本研究では ，そのための手法とし て一般的な自己表す．

 競合学習

あり，本研究では簡単のためその概念の有効性の

合は Ü   を出力することが 分かる．

は 番目の観測対象の 番目の概念に関する情報で有無だけを 考慮し て ，  ニューロンの出力が 大きくなり，全て一致し た場     は 番目の観測対象ベクトルであり， 個の概念より，

Üンが 取得し ている記憶 Û の差が 小さいほど 出力が      

これ より，対象 Ü より観測され る情報とニューロÜ  Ü      Ü     Ü と定義する．ここで，Ü



観測対象より取得される情報の扱いを定義する．

 Ë

組織化マップ     における競合学習を用いる．以下に ，本研究で用いたニューロンモデル

提案ニューロンモデルを競合学習のアルゴ リズムを示す．
に示す また，ニ始めに ，観測対象に対し て式  の出力が 最も"

大きいニューロンを ，候補ニューロン とする．







Ü 





以下の場合ご とに結合重みを改変する．
り，かつ観測対象の情報が 完全にニュー

ここで ，  は 番目のニューロン の出力を 意味す

ロンの結合重みに記憶されているÜ   る．このとき，式  を満たすニューロンが複数 Û 場合は 改変を行わない．
     存在した場合は，それぞれのニュー  が最も大きロンの結合重みの総和  "$候補ニューロン の出力が  Ü      あり，かつ観測対象の情報が まだ 完全にニいニューロンを候補とする．


候補ニューロンの出力が  Ü     であューロンの結合重みに記憶されていない  Ü    Û 場合は ，新たな 概念を 形成さらに ，式   を 満たすニューロンが 複数存在しする．

た場合はランダ ムで選択する．





結合重みの改変%    %&

また，その新たなる概念に関する情報を，候補として選択されたニューロン の結合重みÛ 

候補ニューロンは観測対象から取得し ，そを， !"" の学習則  を基にし て改変する．!""の他のニューロン の記憶は 便宜的に とする．の学習則とは ，二つ以上のニューロンが 同時に発   

火し た場合は ，そのニューロン 間の結合が 強化さ 次のように改変する．



対応する結合重み 

-



    
トルを Û        ,の場合は$番目のニューロンを生成%    %

 

また，観測対象から取得した情報Ü   を，新た に 生 成し た ニュー ロン の 結 合 重みÛ   とし て取得する．

             

，即形成概念数を     %

%    ，そし て ，その 結合重みベク      に おいて ，ニューロン ユニッ

ト 数をする．

例を示す



#

概念形成アルゴリズム

初期状態

候補ニューロンの出力が 
新たに

以下に $ 本研究で 用いた 概念形成アルゴ リズム

'()* +

れ るというものである．本研究では ，観測対象の概念ごとの情報  有無により，候補ニューロン の    
%  と設定する

観測対象の集合 Ë より，任意の対象Ü    Ë ， % とし  に戻る

動作検証        を 選択し ，その 対象を 観Ü  測し た場合のニューロンの出力       と 節で示し た競合アルゴ リズ

ムの有効性を検証するために，簡単な追加学習問

ムにより候補ニューロン を選択する．

題に対する動作検証を行う．以下に，用意した つ    

提案モデルと  節で示した概念形成アルゴ リズ #

の観測対象に求まる．

   ÜÜ

Ü






Ü



Ü












 #,

これより，概念形成アルゴ リズムの条件 -が適

を認識・学習することで ，概念が 形成され る一連用され ることから，の流れを示す．

クの結合重みは次のように改変され る．

まず初期状態

における，ネット ワークモデ

ルは以下のような状態である．

 ÛÛ  Û  Û   Ü  を選択し た場合，ニューロンの出力は ， Ü

 を選択した場合，ニューロンの出力は以下のように決まる．
となり，ネット ワー同様に，  における観測対象としてÜ   Ü

ここで，最初の観測対象として Ü    

Ü







Ü





Ü











 #,



 #,



これ より，概念形成アルゴ リズ ムの条件 "が適用され  であり，概念形成アルゴ リズムの条件"が適用となり，ネット ワークの結合重

され ることから ，   となり，ネット ワーク

みは ，Û  

の結合重みは次のように改変され る．

のように改変され る．

次に ， におけ る観測対象とし て Ü  Üを選択し た場合，ニューロン の出力は以下のよう   ÛÛ

Û



この段階で ，観測対象 Üに求まる．
Ü 









Ü





Ü  Üが ，ニューロン の結 Û とし てそれぞれ 記憶され たことになる．従って，以後，学習済みの観測対象 Ü  Ü合重み Û #,これより，概念形成アルゴ リズムの条件-が適が 選択され た場合は ，概念形成アルゴ リズムの条用され ることから ，新たにニューロンが 生成され件が適用され ，ネットワークの改変は行われ  となり，ネット ワークの結合重みは次のない．
その後，観測対象として Ü    Üが選択されたように改変され る．

ÛÛ

場合，ニューロン の出力は ，

さらに，  における観測対象として Ü   Üを選択し た場合，ニューロン の出力は以下のよう$ÜÜÜ

 #,







と なり，概念形成アルゴ リズ ムの 条件 -が 適1用され ることから ，ニューロンが 新たに生成され*'/$ 5'-%   Û Û Û     % 

% % 

% ÜÜ '( ' 647 18 4' $ .(Ü ことになる．

まとめ

本研究では ，自己組織化ニューラルネット ワー
クによる概念形成モデルと ，その認識・学習アルゴ リズムを提案し た．また，簡単な追加学習問題に対する動作検証を行うことで，脳における概念形成の特徴を考慮し た認識と追加学習を提案モデルによって実現できることを示し た．
動作検証では ，概念形成を 行 う過程に おいて ，ど の観測対象の情報とも一致しない記憶Û が生成され たが ，このような冗長な記憶が 生体の脳での概念形成におけ る何に対応し ，ど のような意味を持つかの考察は ，今後の課題である．また，提案モデルの特性や能力をより詳細に考察するためには，概念の情報を 値ではなく連続値で扱った場合や，観測対象から得られ る情報に誤差や欠落を生じ させた場合など の，より難し い問題における動作検証を試みる必要がある．

参考文献
福島邦彦：神経回路と自己組織化 −自己組織化のモデル−，共立出版株式会社（ ,#, ）/ $ 01"$ 2 !

-9 -'-( (8 +$  ':'$ 

3/2

%49" $, ,$ ,&!""3)   ( ' ' ): '$< 9$ .* ='/$ ,,全ての観測対象が 提案モデルに完全に学習された!'$ '  2 '( ' ' (''

'

 ;

象 Ü もニューロンの結合重み Û  とし て記憶され ， .

4'-(，ネット ワークの結合重みは ，のように改変される．これより，残っていた観測対 3 0')'Û    