計測自動制御学会東北支部第174回研究集会
資料番号174−9ニューロン3個から成るネットワークの振動現象
0＄CillationphenomenoJlOn3−NewonsNetwo止

吉田 等【札 ○川村 暁，恒川佳陸，三浦 守
HitoakiYoshida，OSatoshiKawamum，
YoshitakaTsunekawa，MamoruMiura

岩手大学工学部情報工学科

血融潤血画日和畑皿痛句画加計励叫佃Ⅶ御地Ⅶ拍血醜血出血

キーワード：ニューラルネットワーク（n亡肌1n亡tWOfk），振動（OSCillatio巾，カオス（血aos）

連絡先：〒020−（Ⅰ泊占岩手県盛岡市上田小3−5 岩手大学工学部情報工学科三浦・恒川研究室

川村 暁，E−mail：kawamura鮎s．iwate−u．aC．jp

POSitivebalanCedsigmoid関数を用いてきた．

1．はじめに人工ニューロン（以下ニューロン）は，生しかし，本研究では．より一般的なsigmoid

物の神経素子（ニューロン〕の最も基本的な関数を用い，ニューロン数も4つであるNN

機能を数学的にモデル化したものであり，こので，同様の結果が得られるかどうか検討し人工ニューロンを結合したものが人工ニューた．また．このネットワークが真にカオスを発ラルネットワーク（以下NN）であるlユ］）．

生させる最小構成であるかどうかを検討し，興味深い結果が得られたので報告する．

生物のニューロンや神経系での振動現象や4j抑，カオス的な挙動を示すこと姐叫が知られている．また，人工NNについての研究例もある1ト15）

これまで当研究室では，以下のような構成の4ニューロンより成るNNにおいて肝ig．1），周期振動，準周期振動，カオス等が発生する
田宮．2）ことを見いだしている16、岬．この場合，Fig．14neuron王i日日振動現象が放いやすい非線形関数として−1−

生しない．

この為，最も基本的な振動するネットワークは，ニューロン2個から成るものである肝i呂・4）・

F由．4日晶由仁NN

この系は．重み係数の正負によってその振る舞いが変化すると考えられる．よって．重み係数の正負により，基本NNを以下のように分Fi訃2ニューロン1の出力のポアンカレ切断面

ここでのl卸間嬬徹は正の価である．

類する．興奮性（Excitat叩）結合のみの場合をT脚−E，抑制性（Ⅰ血bito吋）結合のみの場合を2．ニューロンモデルとNN構成

Ty匹1興奮性・抑制性の両結合（呵b舶）があ

2．1ニューロンモデル

る場合をType・Hと呼ぶことにする（T且ble．1）．

本研究で用いたニューロンモデルについて

軋l帖く0，I挽＞0の場合も考えられるが，記す肝i呂．ヨ）．本研究では，Self氏edbackloopのTy匹−Hと等価である．

あるニューロンは全く用いていない．非線形

Table．1V即向tiono一日asicNN関数としては，バックプロパケーションモデル
We車・tやホップフィールドモデルなどで広く用いられている，非線形関数であるsigmoid関数を用いて研究を行った（式1）．

NN乃pe耶ヱ仲立

乃pe・E＞0＞0

叩pe−H＞0＜0町pe−Ⅰ

く0

く0……（1）伽嗣）＝

1佃甲（一帖叫2．2．2 ニューロン4個から成るHN

まず，R呂．1の心削で，非線形関数としてSigmoid関数を用いた場合について検討を加えた．
Fig．3ト帖ul℃nMod由2．2．3 ニューロン3個から成るNN

2．2．1で示した基本NNを含む，ニューロン32．2 NNの構成個から成るネットワークを示す〔軸5）．尚，網2．2．1基本日日掛けの部分は，2ユ1の基本抑寸である．

自然界では単一で振動する出力を発生する

このネットワーク〔以下3NN）も，重み係数例もある刀が，今回用いた人工ニューロンの場

I侮，仲もと，基本NNの種類によりその挙動が合には，1佃のニューロンのみでは振動は発異なると考えられる．
…2・し・Fig．53neu「0nnetWOrk

Fig．6入出力特性国晰ヱ＝1亡＝唯一＝−10，♂7＝♂ヱ＝0︳J′ノ￣￣「J一」′′コ■

よって，重み係数の正負と基本NNの組み合

■コ
コ
コ
J

■

わせそれぞれについて検討を加えた．

︳﹂■■J1ココ

5コ

ヽ︳J■コ■﹁■︻■3．実験結果t■

ココ
J

■

Ty町E，H，Ⅰを含む3NNそれぞれについて，■∵1⊥i■「：忘「T■T ニに叩1；エ‖「−■1r」

t■

計算機シミュレーションを行った結果を示す．

uFig．了入出力特性図帆＝−10，岨ニ10，♂．＝2，♂ヱ叫入出力特性囲は，各州で等しいJを入力し続けたときの，ニューロンの出力を表してい3．2 4個のニューロンから成る日日る．初期の不安定な状態を除くため．1DⅨ）回Fig．1と同じ構成のmで，非線形関数とし繰り返した後からプロットしている．てsigmoid関数を用いた場合を検討した，ニ入出力特性図で，点の密度が高い部分がューロン1とニューロン2の部分の基本mとし見受けられる場合がある．この場合，この部て，Type−Eを用いた．

分では仰が特異な挙動をしていると考えられ

重み係数仲完，仲ムが負の場合と重み係数る．

仲妄のみが負の場合について実験を行った．

それぞれの囲は，ニューロン1の出力に関尚，3．2．1，3．2．2のm共に，Sigmoid関数の傾きするものである．

係数」＝0．4，しきい値椚ますぺて−3である．

3．1基本日日

3．2．1ル』∫抑与ナが負の場合

基本mについて検討すると，いずれの場合

重み係数0 ユ．ユ 175
つJ︼ 町肌∵町肌0 −ユ ロー3 0 0■ヽJ

1．

2．2 0 0O ．7 ∩∨ ∧Uユ﹁▲ 町肌∵町肌．ヰ ．且． ．且﹁ ．■† 町肌∵町肌︼

1一値は10である．しきい値8はゼロの場合と変1で振動した．尚．各mは，重み係数の絶対﹁−町肌∵町肌にも，出力は収束するか，或いは有限の周期更した場合で調べた．入出力特性図の例とし入出力特性図をFig且1iapnov指数をFig．9，て，収束した例をFig．6に，振動したと例をFig．7

外部入力値が2．1のときのボアンカレ切断面をにしめす．

Fi呂．10に，それぞれ示す．

−3−

Fig．8入出力特性囲Fig．11入出力特性固■ 署星■l■■●ttl

●l■

■■■

1引I

l▲1■H■山＃■人力■
T

Fig．91由pnov指数

l■

l．1

I■

■■

Uullp

什■▲nt

Fig．121iapnov指数

Fig．1ロボアンカレ切断面
Fig．13ポアンカレ切断面

入出力特性国で点の密度が高くなっている部分がある．この部分は，Fig．9け1g．10より，入出力特性図で点の密度が高い部分があ準周期振動をしていると考えられる．

る．この部分について考えてみる，

外部入力値が2．26でのアトラクタは，単純な閉曲線ではない肝ig．1升．また，このときの3．2．2 他のみが負の場合

1i叩nOV指数は正の値である．よって．この系

重み係数

つJtJ

■〇一U

8T J‖ n■ n

■J︻JO30＋．っ：0HD

0㍑O10軋粕軋軋

つ一恥恥侮恥つ一

机肌∵叫肌

は，カオス的な振る舞いをしていると考えられる．

入出力特性国師昌．11）は，通常のカオス的な入出力特性図をF痩．11，1iapnov指数をNNの入出力特性図を比較すると，カオス的Fi呂．1ユ．外部入力値が2．26のときのポアンカレ
ユな分岐図が2つ重なっているようにみえる．

切断面をFi呈．13に．それぞれ示す．
ユ−4−

机肌∵

よって，4個のニューロンから成るこの朋Nよ

振動している霜の例として，以下のNNを挙りも，より単純なNⅣでカオス的な出力が実現げる．軸15はその人出力特性図である．

できるのではないかと推測されるため，本研
究では，特にこの点について考察を加えてみ重み係数

た．

肝IlⅣ1ユ 押1】

0 −101

押11押1ユ 押ちユ−10 0 0

押11町氾 押1】0 1 0

しきい値♂ノ＝♂∫＝♂j＝0

3．3 3個のニューロンから成るNN
基本mである町pe−E，H，Ⅰを含む3NNの挙動について述べる．重み係数恥，怖気の正負の場合それぞれについて検討を加えた．
Si卯．Oid関数の傾き係数」＝1である．

3．3．1Ty叩−Eを含む3日H
重み係数Ⅷ屯＞0，仲妄＞0の場合とI粘く0，廿ら＜0の場合は．mは振動せず収束した．

Fig．15入出力特性国

4．3．3 ■丹P計Hを含む3日H

重み係数町j＞0，呼野く0の場合と恥＜0，重み係数恥，l帖の正負により，そのN仲力

仲妄＞0の場合は，mは振動した．

挙動には大きな違いがあった．

振動する仰の例として，以下のNNを挙げ，それぞれの場合別に，結果を記す．

入出力特性図をFig．14に示す，

加00町】1町iコ 肝1ユ川n Tl

重み係数

O100

町11押′1コ 肝lユ・耶7＞0．怖ち＞0の場合

NNは収束した．入出力特性図をFig．16に示す．

町ユ1押1コ 押ち3

しきい値勘＝1，♂g＝4，♂j＝−2
重み係数

このときの振動周期は．最大で6周期であっ町】】『1ユ 『1ユO 10 10

押11拝も 侮−10 0 00 ユ．7 D

押1】肝ヨヱ 町1コ

た．

しきい値βノ＝βコ＝♂コ＝0u相川叫川畑∴u叫洞⁝∴ Ⅶ相場叩畑／／ ノーーノよ」ふ−■トーこ1じ1▲⊥J■■■■1⊥■■■■こJJふ■一仁＝uぷエ⊥■■■ごぷJ■■■■1ぷ1■■■■■品♭■■■∫一Fig．14入出力特性園

F垣」6入出力特性国・附．7く0．肌，＞0．1析マく0．恥く0の場合

3．ヨ．2 Type一催告む3日H

どちらの場合も，NNは準周期振動をした．

この場合，重み係数の正負に関わらず．振入出力特性国をRg．17に，1iapnov指数をFig．1引こ，外部入力値が5．22の時のポアンカレ動するNNを構成することが出来た．

切断面をRg．19に示す．入出力特性図で点の汀5−

・怖1了＞0．拝もく0の場合密度が高い部分があるが，1i叩nOV指数の最大

この場合．特異な挙動を示すNNが見られ値が0以下であることと，ボアンカレ切断面がた．その例を2コ挙げ，検証する．

単純な閉曲線を描いていることより，系は準周−

Inl坪1】町ヨユ

町】1肝ほ 町lユ

U

町コ1肝主2 町コユ

1400∧Ut−一〇町11肝■1コ 町ユ

重み係数

重み係数

川りO期振動をしていると考えられる．

しきい値♂ノ＝βヱ＝♂j＝0

打ち1仲ち工 作1ユl特1町氾 H‰

入出力特性国を抗g．20，1i叩nOV指数をFig．ユ1，軸22に，外部入力値が1．240305のときのポアンカレ切断面を鞄．23，その拡大図をFig．礼軸ユ5に．それぞれを示す．

しきい値βノ＝♂プ＝♂J＝0′′一′「・、ノrⅦ
止＿1ノノ」 ⊥イ＿■■■■㍊■■‥二．」ふ■■■‖L」㌫■■■■−■上長■■■■uじ■■■．＿＿■■」］⊥＝L．は■1■■■ユ」

Fig．1丁入出力特性周Li印加Y指先

8

F垣．20入出九特性個

↓1れ■

︳■呈﹂

Li乱pnOY指数

R■n戯＃・邑．．■コづ．■

■

■
外曹入力暮

￠■Jnつ■▲

Fig．1古抽叩OV指数

β4q

外部入力■

Fig．211i8PnOV指数
Li叩nOV指数
輩丈■︳賓事き争コmm附冊脚弧8L815
0．01
8瓜1らロ
12：呵巨ロl㌘柑了や

123g甘812叩1【11F叩：如外＃入力■

Fig．19ポアンカレ切断面

Fig．221i8叩OV楯軌拡大国）

6

12棚01Z

た，自己相似（プラクタル）的な構造があることが分かる．よって，カオス的な挙動を示しているといえる．

0凸′mつJ

Jつ﹂
肝二町⊥町

つJ

ハU

■▲JnU

ユ﹁爪U

ll

川05

︵U▲．J

勺▲

机机机

重み係数

Oり■

しきい値βノ＝♂ヱ＝♂J＝0

入出力特性国をFig．26，1i叩nOV指数をFi呂．27，Rg．2呂に，外部入力値が−0．1呂7舛の時のポアン▲

カレ切断面とその拡大図をFig．29，Fig．軋
Fi≦ト23ボアンカレ切断面

Ⅰ軸．31に示す．

町恥恥
Fjg．26入出力特性国

Fjg・24ボアンカレ切断面（拡大図11Fig．271軸InOV指数

Liapnov指数ロ．糾

莞 0F短・25ボアンカレ切断面（拡大図2）

重吉一口．研入出力特性図で．点の密度の高い部分が見られる．この部分の挙動について考える．

一0．08

1iapnov指数のグラフより，同指数の最大値は一吼‖柑−○柑1−01月−8118

外輝入力■約0．朗（入力値＝1．24付近）である一 このときのボF庖．281i叩nOV指数（拡大図）

アンカレ切断面は，折り畳み構造がみられ ま−7冊

−D．1了2

に見える．しかし，その拡大図では，自己相似（プラクタル）的な構造や折り畳み構造が見られる．これらより．この系は．カオス的な振る舞いをしていると考えられる．

4．結論
従来，非線形関数として匹Sitiveb山皿諾dSi呈mOid関数を用いた4個の人工ニューロンより成る川ヾの出力が，カオス勒な振る舞いをすることが知られていた．しかし今回，通常のNN

Fig．2gボアンカレ切断面で用いられる，Si呂皿ロid関数を用いたNNに於いても．系がカオス的な振る舞いをすることが分かコた．さらに，同関数を用いたより単純なニューロン3個から成るNⅣでも，カオス的な振る舞いをすることが確認できた．
これにより，通常のニューロンを用いたmでも，カオス的な振る舞いをすることが分かった．

5．参考文献F垣．30ポアンカレ切断面（拡大図1）

1．PHIuPD−WASSE札MAN著，石井直宏ら訳＝ ■ニューラル・コンピューティング一理論と実践−t■ト顛末出版（1p狙）り．デイホフ原著：t■ニュ←ラルネットワークアr

キテクチャ入門■■，森北出版（1卵2）3，阿部重雄著＝‖ニューラルネットとファジィシ

ステムー■，近代科学社（1ワ粥）ヰ．甘利俊一，‖神経回路網の数理■1，産業図書（1！柑2）

L中小l八郎．永井克也＝■■脳と生物時計一体のリズムのメカニズムー‖，共立出版，1卵ヨ
6・心血芸，B・0∴−■spon也10uSaCdl中hisolated50mぬof Aoli血pa亡em血r n亡∬皿S −．j▲ G以L P血ブ由011．
F画．31ボアンカレ切断面（拡大図2）；l，Pp・ヱ9〜＋叩貼畠）

7．J亡掛Pie汀亡Chng亡m，新谷明宏訳：‖ニューロ

この系でも，入出力特性囲で点の密度が高ン人間■■，みすず書酪1990

い部分が見られる．

島．G．M打払Ⅷ10叫K．A血訂a．軋Ⅰ血敲awa弧dA．Tぉ止i＝J▼

1iapnov指数が最大値約D．05をとっている，外Theor．Neurobiol．．3（1984・）

部入力値が−0．19近傍を考える．ポアンカレ切

9・K・Aihara and G・Malmoto＝．†chao畠in Biologieal

断面は，一見単純な閉曲線を措いているよう

Systens†．，ed・byH・De旦n．A・V・Holden姐dL・F・Oisen・一日−PlenumPress・N・Y・，PP・121（1987）

2ヨ．芹沢治＝−■カオスの現象学‖，東京図書（19粥）

10・K・Aihara and GrMatsumoto and Y・1kegaya＝■ J・

24・P・Berge，Y・Pomeau，Ch・Vidal著，相沢洋二訳：：Tl

Theor・Biol・，109，PP†24・9（19＆4）

カオスの中の秩序一乱流の理解へ向けて−‖，H．H．R．WilsoIl且ndJ．D．Cownm：■ A Madlematical

産業図書（19粥）

Theoryofthe FunctionalDynami亡SOfCortiea）arld
25．合原一幸編＝−，応用力オス，■，サイエンス社
Thahmic Nervous Tissuelr，Kybernetik，13，PP・55〜（1995）
80（197】）

2りIl上博，上田哲史共著：I■CによるカオスCG■■，

12・E・K・BlumaLndX・Wang＝11StabilityofFixedPoints

サイエンス社（19叫

andPeriodicOrbitsandBifurcadonsinAnalogNeural
Network5 ，NeuralNetworks，5，PP・577〜5呂7（1992）

13．吉田等明，三浦守＝■■多様な周期で振動する
ニューテル・ネットワーグ■，計測自動制御学会

東北支部30周年記念学術講演会2∃∃．pp・5∃〜
58（19別−）lヰ・HLYoshda and M・Miura＝lrchiralityin Neural
Network Systemr，Proceedings of APCCAS −94，

ヰA■1，Pp3〜7（199¶

1与．吉田等明，三浦守＝−，ニューラルネットワーク
におけるキラリティ 振動周期の教師無し学習■I，平成6年度電気関係学会東北支部連合大会，2Fl
軋米城健二，吉田等明，三浦守＝1■人工ニューラ
ルネットワークにおける振動発生機構■■，計測自動制御学会東北支部第153回研究集会．153，PP・1／∋〜7／町9耶）
17．米城健二，吉田等明，三浦守＝，■人工ニューロンの組み合わせによるカオスの発生■T．平成7年
度電気関係学会東北支部連合大会，1E15，PP・柑町995）

柑．米城健二，吉田等明，恒川任陸，三浦守：tlニ
ューラルネットワークにおける振動，準周期振動，カオス■t，第18回情報理論とその応用シンポジウム正一7−ヨ．pp・7ヨ5〜7呵1995）
19・Hitoaki YOSHIDA，Kenji YONEKT，Yosbjtah
TSuNEKAWA and Mamoru MIuRA：‖Chaos N亡ul−alNetwork．proceedings of ISPACSr96，Vol・lof3，

PP・1G・1・1〜l后・1・5（199句

20．台庸一幸編：t＼カオスーカオス理論の基礎と応用−■■，サイエンス社（1992）
21・T・Y・LiandJ・A−Yorkこ period threeimp］i耶

Chos ，Anner・Math・Mounth1y，827PP・985〜992（1975）

22．D亡myGulick著，前田恵一ら訳】：■■カオスとの遭遇¶力学系への数学的アプローチーI■，産業図書（1995）−9−