予測のはなし－予測の基礎からニューラルネットワークによる予測まで－
豊橋創造大学 経営学部
教授 今井 正文
E-mail:mimai@sozo.ac.jp

経営と情報（情報ビジネス概論）
予測のはなし 今井正文

1

2013/6/25

本日のトピック

予測の基礎
質的予測と量的予測
時系列データと変動

コンピューティングの分類と問題点
ハードコンピューティングとソフトコンピューティング

ニューラルネットワーク入門

経営と情報（情報ビジネス概論）
予測のはなし 今井正文

2

2013/6/25

予測の基礎：質的予測と量的予測


予想と予測は何が違うのか？（というより必要なの？）



経営（経営工学や経営システム工学）から（回帰分析だって予測はできる、、、）



質的予測と量的予測、どっちが大事？



予測を困難にする環境の変化
3つの○○構造の変化（＋技術革新等）は予測を困難にしてしまう

経営と情報（情報ビジネス概論）
予測のはなし 今井正文

3

2013/6/25

予測の基礎：時系列データと変動

時系列とは時間とともに不規則な変動をする現象の観測値



時系列の変動を構成する四つの要素（従来の考え方）
四つの要素：傾向変動（トレンドカーブ）、…
解析には時系列解析（指数平滑法、移動平均、etc）



カオス理論とカオス時系列データの話
自然に発生するこれらの現象は、従来の手法を適用してもあまり良い結果を得られない。

経営と情報（情報ビジネス概論）
予測のはなし 今井正文

42013/6/25

コンピュータに求められること
 人間の思考を補助する。
（支援、訂正、発見など）→従来のコンピューティ
ングとは異なる手法が必要となる。

• 人間の作業を補助する。
データを集積、分析すること （労力の軽減、様々な計算を高速に行なう）
1月
東京
名古屋
大阪

2月
20.4
30.6
45.9

3月
27.4
38.6
46.9

4月
90
34.6
45

20.4
31.6
43.9

データベース、売上集計の計算な
どは作業を補助する例の代表。
グラフ化は作業と思考を補助の両方の役割をする。
→これをもっと進めるには？

9080706050東京
名古屋
大阪

4030
20
100

1
月

2月

3月

4月

経営と情報（情報ビジネス概論）
予測のはなし 今井正文

52013/6/25

コンピュ－ティングの分類と問題点


ハードコンピューティング → 厳密な計算（計算時間やコストが増大する傾向がある）



ソフトコンピューティング → 過度の厳密性を避ける事により実用性を向上させる。
代表的な理論：
ファジィ理論、ニューロコンピューティング、
遺伝的アルゴリズム、カオス理論、etc

経営と情報（情報ビジネス概論）
予測のはなし 今井正文

62013/6/25

ソフトコンピューティング

ファジィ理論
人間の言語のような曖昧さを取り扱う事ができる（柔らかい制御などが得意）。
ニューロコンピューティング
神経回路網の応用、学習や予測を行うことができる。
遺伝的アルゴリズム（GA：Genetic Algorithms）
生物進化のメカニズムを利用、解の発見などに有効。
カオス理論、etc
自然界にみられる複雑な現象を取り扱う。非線形理論。

経営と情報（情報ビジネス概論）
予測のはなし 今井正文72013/6/25

神経回路網とニューラルネット・ニューラルネットワークとは人間の脳を構成する神経回路網をニューロンとそのつながりであるニューラルネットワークとしてコンピュータ上に再現し、問題に適用しようとする新しいアルゴリズムである。

入力
信号
実際の神経回路網（生物の脳や神経）
経営と情報（情報ビジネス概論）
予測のはなし 今井正文

8θ

出力
θ信
θ
号
ニューラルネットワーク（コンピュータ上に神経網を再現）
2013/6/25

ニューロンモデルの基本動作
ニューロンは基本的に多入力多出力だが簡単のため4入力1出力かつ閾値モデルの場合を考える
yx1 w
11w2x2w3x3



y


0w44

w xi 1x4y0

注：実際の生物ニューロンは生体パルスの頻度で発火し、閾値も個々に異なる。
経営と情報（情報ビジネス概論）
予測のはなし 今井正文

i i

4w x i 1i i

4y 19w x i 1i i

2013/6/25

その他のニューロンモデル
他にもいろいろなニューロンのモデル（応答関数、出力関数の型）がある。以下はシグモイド関数
1/(1-exp(X))

w1

w3

y0.8
0.6
0.40.2

w4x41086420-2-1
00-4x3f (X )

1-6x2

1/(1-exp(X))

w2

1.2-8x1

XnX   wi xiとしてy  f (X ) 1
1  exp(  X )i 1

経営と情報（情報ビジネス概論）
予測のはなし 今井正文

学習は、教師信号と出力との誤差から結合係数を修正して行われる。
（一般デルタ則、BP法)
102013/6/25

ニューラルネットワークの特徴
・長所与えられた数値データから学習や認識を行う。
非線形関係や対象の構造が未知でも学習できる可能性を持つ。（応用例：パターン認識、音声認識や文字認識、家電製品等の制御など）･短所
学習や認識の過程、または学習した結果の構造の解析が困難である。

経営と情報（情報ビジネス概論）
予測のはなし 今井正文

112013/6/25

分類について代表的なニューロンのタイプ・閾値関数、線形関数、シグモイド関数、etc
代表的なニューラルネットワークのタイプ

・パーセプトロン、ポップフィールドネットワーク、ボルツマンマシンなど。
ネットワークトポロジー（形態）による分類も注意
代表的な学習則・教師なしと教師あり学習、標準デルタ則と一般デルタ則、学習の方向（前向き後向き）など。
特に教師ありの一般デルタ則やフィードバック型のバックプロパゲーション法（BP法）が有名
経営と情報（情報ビジネス概論）
予測のはなし 今井正文

122013/6/25

パーセプトロン•最初に提案されたニューラルネットワークのモデル•基本は2層のニューラルネットッワーク（本来は3層）
例：2入力のANDを学習するには以下のような2層のニューラルネットッワークを考えれば良い
ｘ1 ｘ2 Ｙx1w1

 f (X )w2x2
入力

y000

1000101

11

出力

経営と情報（情報ビジネス概論）
予測のはなし 今井正文

132013/6/25

パーセプトロン（ＡＮＤの学習）
結果の例

経営と情報（情報ビジネス概論）
予測のはなし 今井正文

142013/6/25

パーセプトロン（結果の検討）
W0=-7.06304、 W1=4.64377、 W2=4.64377
pattern1
pattern2
pattern3
pattern4-7.06304
111
14.64377
01014.64377 x0*w0x1*w1x2*w2
X=sum(x) exp(-X)
1+exp(-X) 1/(1+exp(-X))
0-7.06304
00 -7.06304
1167.991168.990.000855439
0-7.06304
4.64377
0 -2.41927 11.23765 12.23765
0.081715016
1-7.06304
0 4.64377 -2.41927 11.23765 12.23765
0.081715016
1-7.06304
4.64377
4.643772.2245 0.108121 1.108121
0.902428146

1/(1-exp(X))

x0

1/(1-exp(X))

1.2
1x1

0.8
0.6

w1

0.4
0.2

w2

1086

4

2

0-2-4-6-8-1
00
X

経営と情報（情報ビジネス概論）
予測のはなし 今井正文

w0

教師信号ｘ0=1（ｘ0*ｗ0を閾値と考えても可） f (X )yx2
15

2013/6/25

3層ニューラルネットワーク
パーセプトロンは簡単なルールしか学習できない。入力層と中間層、出力層の3階層構造のネットワークを使うとより複雑な学習ができるようになる。

x1yw11w21zv1w12x2
入力

中間

経営と情報（情報ビジネス概論）
予測のはなし 今井正文

v2w22

出力

162013/6/25

3層ニューロ（ＥＸＯＲの学習）

経営と情報（情報ビジネス概論）
予測のはなし 今井正文

172013/6/25

3層ニューラルネット（結果の検討２）
正解

ニューラ
ルネットの解答
x1 x2

x1x2

z

00

0

10

1

教師信号

01

1x0

1

10y1

Y2

v0w02

z

000.87575

0.000860.04036

100.03419

0.07386

0.95391010.03421

0.07384

0.95391

110.00017

0.88053

0.04386

経営と情報（情報ビジネス概論）
予測のはなし 今井正文

y0w01

18x1w11 yz

1w21v1w12x2w22

y2v2
2013/6/25

3層ニューラル（結果の検討3）
x1 X2 y1Y2z

x1 X2 y1 Y2 z

000.8757588 0.0008621 0.0403638

0010 0100.0341920 0.0738679 0.9539155

1000 1010.0342184 0.0738463 0.9539137

0100 1110.0001779 0.8805304 0.0438699

110

1 0x1yw11w21z

電子回路に直すと

v1w12x2v2w22

経営と情報（情報ビジネス概論）
予測のはなし 今井正文

192013/6/25

時系列データに対する適用
一般的な3層ニューロとバックプロパゲーションだ
けで時系列データの予測が可能…

昨日の為替x2のデータ

経営と情報（情報ビジネス概論）
予測のはなし 今井正文

yw11zv1w21w12

今日の為替の予測値

v2w22

…

一昨日の為 x替のデータ 1202013/6/25

時系列データに対する適用例
入力数（利用する過去のデータ数）によって予測が変化
1.2←入力2、中間層4、出力1、学習1000回

10.8(tts-min(tts))/(max(tts)-min(tts))
2_4_1 1000t

0.6
0.4

1.20.21403734283125

22161913107

1
40

入力4、中間層4、 →出力1、学習1000回

0.8(tts-min(tts))/(max(tts)-min(tts))
4_4_1 1000t

0.60.40.2

経営と情報（情報ビジネス概論）
予測のはなし 今井正文

21403734283125221619

13

10

7

1
4

0

2013/6/25