【2015／中間】No.17・複雑系の数理とシミュレーション・斎藤朝輝 川越敏司 川口聡

複雑系の数理とシミュレーション
Mathematics and simulation of the complex system

大場和貴 尾ケ瀬拓哉 斉藤健士郎 齋藤達哉 中谷奨吾 藤島真央

Kazuki Oba, Takuya Ogase, Kenshiro Saito, Tatsuya Saito, Shogo Nakaya, Mao Fujishima

テーマの説明活動成果

ニューラルネットワークとは，人工ニューロンを用いた神経回路網であり，脳の働きを模倣したモデルである．また，ニューラルネットワークは大きく分けると階層型ネットワークモデルと相互結合型ネットワークモデルの二つに分類され，パターンの識別などの課題の解決が実現可能である．
そこで，本プロジェクトでは実際にニューラルネットワークを使って、人の認知機能の一部分を模倣するシミュレータを作成し、認知過程の数値実験を行う．

●ホップフィールドネットワーク

Explanation of the theme

The neural network is nerve network using the artiﬁcial
neuron and is a model in imitation of the function of brain.
There are hierarchical network and mutual combination
type network. They can distinguish the pattern.
Then, we use a neural network, make a simulator which inimitation of the cognitive function of the person, and test
the cognitive process.

プロジェクトの概要

Activity result

Hopﬁeld network

ホップフィールドネットワークは 1982 年に J.J. Hopﬁeld によって提案された，ニューロン間に対称的な相互作用がある相互結合型のニューラルネットワークである．動作は非同期的に行われる．ネットワークの動作を理解するためにエネルギー関数という概念が導入され，内部状態変化が行われたとき，エネルギー関数が極小化されることが知られている．ホップフィールドネットワークで，連想記憶の実現が可能である．
The Hopﬁeld network is the interconnecting neural network
which was suggested by J.J. Hopﬁeld. The movement is carryed out asynchronously. To understand the operation thenetwork, we innovate a concept called the energy function.
When the neuron changes a state, the energy function minimizes it. Realization of the assiciative memory is possible byusing Hopﬁeld network.

Summary of the project●プロジェクトの活動内容

Activity contents of the project

前期は，ニューラルネットワークに関する書籍を各メンバーが分担して輪読を行い，ニューラルネットワークの数理を理解した．後期は，前期で理解した内容を踏まえ，例えば既に研究されている英語の過去時制の学習過程など，認知的な課題を解決できるようなネットワークのモデルを開発する．
In the ﬁrst semester, we read a book which is about neuralnetwork in turns, and understood a methematics of theneural network. In the second semester, based on the contents which we understood, we are going to make a modelof network which can solve the cognitive problems, for example learning process of the English past tense.
●最終成果物
The last works

ニューラルネットワークを用いて上記の認知的課題を解決するために開発したモデルと，認知過程の数値実験について高校生にも理解できるようにコンパクトにまとめたパンフレットを仕上げる．
We make the model to solve the cognitive problem mentioned above and pamphlet to explain the experiment ofcognitive process to the high school students.

活動計画

The activity plans

8-9 月 前期の復習
10 月 モデル開発，シミュレータ開発の準備
11 月 シミュレータおよび視覚化ツール開発
12 月 数値実験，最終発表
1 月 最終報告書の作成
August to September: A ﬁrst-term review.
October: Model development, preparations for simulator development.
November: A simulator and visualization tool development.
December: A numerical value experiment, the last announcement.
January: the making of the last report.

↑事前に記憶させたいパターンを記憶させておくと……

↑このようなノイズのあるパターンから記憶させたパターンを出力することが可能●ボルツマンマシン
Boltzman machine

ボルツマンマシンは 1985 年に Geoﬀrey Hinton と Terry
Sejnowski によって開発された，ニューロンが確率的な内部状態変化をする相互結合型のニューラルネットワークである．
ホップフィールドネットワークとは異なり，エネルギー関数を増加させるような状態変化を生じる．これにより，ローカルミニマムに陥る問題の解決が可能である．最短経路問題や巡回セールスマン問題などの組み合わせ最適化問題に利用される．
The Boltzman machine was made by Geoﬀrey Hinton andTerry Sejnowski in 1985. It is the interconnecting neural network which the neuron changes the state at random. Unlike
Hopﬁeld network, it produces a change of state increasingenergy function.So, we are able to solve the problem to fall
into a local minimum. It is used to solve the shortest course
problem or combinatorial optimization problem, for example traveling-salesman problem.

↑横軸をあるニューロンにおける入力の総和，縦軸をニューロンが 1 を出力する
ための確率としたときの関係を表したグラフ．温度と呼ばれるパラメータによって青線や赤線のように変動する．温度が大きいと赤線，温度が小さいと青線のように変化する．