…t…lll…………………………‖‖‖‖‖州l……………lllll…l‖‖‖‖‖‖川…l………＝‖‖＝＝‖川l………………llll…‖‖州…‖‖＝刑……ll…lll……………………ll州………川……………lll…川…………＝＝＝‖‖＝‖‖‖‖‖＝‖‖‖‖＝州l

翌日最大電力需要想定におけるニューラルネットワーク構成の最適化
小野田 崇…l…………l刷…l………l仙…l………lll…川Illl……l…lll……l………llll…ll…l……‖‖＝‖‖‖‖‖‖‖‖‖‖‖＝‖‖＝‖‖＝‖‖‖‖‖‖‖＝‖‖……………………ll…＝‖‖‖‖‖……ll………‖＝‖‖‖‖‖＝‖‖……ll……………＝‖‖州Il…ll……l

表1：翌日最大電力需要予測に利用できるデータ

1． はじめに
翌日最大電力需要想定問題には従来、回帰モデルを●

最大電力需要

翌日

当日

？

？

前日
実績値 実績値

中心とした研究がなされてきた。最近では、要求する

天 気

予報億 予報値 実績値 実績値

処理に対して具体例を与えるだけで自動的にネットワ

平均気温予報億 予報値 実績値 実績値

最高気温

予報値 予報億 実績値 実績値

最低気温

予報値 予報値 実績値 実績値

曜 日

既知

ーク内の結合荷重を変化させ、教えた信号に出力を調整する学習能力と非線形性を有するような任意関数

既知 実績値 実績値を近似できる能力を持つニューラルネットワークをこの翌日最大電力需要想定問題に適用する研究が進められている。その際、最大電力需要想定に適用される
ニューラルネットワークの構成をいかに選定するかが重要な課題となっている。

3．回帰モデルでの予測
本章では、ある電力会社のデータに基づき、1990年に当所で開発した重回帰分析に基づく翌日最大電力

本報告では、翌日最大電力需要想定問題に回帰モデルを適用した場合と経験的に構成の決められたニュー
ラルネットワークを適用した場合の予測能力の比較結

需要想定モデル【1］の概要とその問題点について述べる。

モデルは以下の式で表される。

果について述べる。さらに、ニューラルネットワーク

を適用する際の、最適なネットワーク構成の設計方法

α0＋α1・f＋α2・P且A∬ト1

P且A且 fについて述べ、提案する設計方法を用いた場合と用い＋α3・〟0Ⅳt＋α4・C上）f

ないで経験的にネットワークの構成を決めた場合とで＋α5・（C上）t一戸万ト1）の、予測能力の比較結果について報告する。

＋α6・ガ刀t＋α7・岬βt一万万ト1）

2．翌日最大電力需要想定問題＋α8・Ⅳ㌫＋et

電力会社の中央給電指令所では、火力発電所などの各変数の意味は以下のとおりである。

設備は立ち上がりに時間がかかるため、当日午前中に翌日の最大電力需要を予測し、設備連用計画を作成しなければならない。このことは、最大電力需要予測問
題が表1に示されているように、予測前日までの実績

PβA∬t：f日の修正最大電力需要
融t＿1：以下の式で計算されるfTl日までの修正
最大電力需要の指数平滑億ダガA打ト1＝

値と、予測を行なう当日と予測される翌日との予報値に基づいて行なう予測問題であることを意味する。

0．4・PβA∬t＿1十0．6・PβA属 t＿2

f−1≠特殊日
おのだ たかし（財）電力中央研究所情報研究所

夕且A∬t■2

f−1＝特殊日〒201狛江市岩戸北2−11−1〟0凡：月曜ダミー
1996年9 月号© 日本オペレーションズ・リサーチ学会. 無断複写・複製・転載を禁ず.

（23）493〟0∧rf＝

f＝月曜の有する任意の非線形連続関数を近似できる能力【2】f≠月曜を利用することが有効であると考え、階層型ニューラ
ルネットワークを本間題に適用した。階層型ニューラ

C上）t：次の式で計算される冷房需要に関する変数

ルネットワークの基本的な構造は、入力層、中間層、出力層からなり、各層は複数のユニットから構成されC上）t＝maX（ごt−20，0）る（図1）。
ここでは、ニユ㌻ラルネソトワークへ入力した学習

ここでごtは土日の平均気温を表している。

データ、適用した学習方法、及び予測結果について説
百万f：以下の式で計算される上記の変数Cヱ）のf日ま明する。

での指数平滑億
4．1 学習デー・タ
0．4・C刀t＋0．6・百万ト1f≠特殊日
C上）t＝

f＝特殊日

Cl）t＿1

ガβt：次の式で計算される暖房需要に関する変数

垂回帰モデルとの予測能力の比較を行なうため、ニューラルネットワークの学習に用いるデータの項目としては、できる限り重回帰モデルで採用している項目と同じものを採用した。項目選定のために最初に注意
打払＝min（∬t−16，0）

したことは、2章で述べた通り、翌日最大電力需要予測が殆んど気象についての予報値を基に行なわれる

百万t：以下の式で計算される上記の変数g刀のf日までの指数平滑値

百訊＝〈

ため、予報値の予測精度が極端に悪いものは避けなけ

ればならないということである。例えば、夏季におけ
0・4・且玖＋0．6・ガβト1f≠特殊日
f＝特殊日

茸βt＿1

る湿度と最大電力需要との関係は相関が非常に高いが、湿度の予測誤差は平均10％以上と非常に大きいので、翌日最大電力需要の予測には利用できないと判断

Ⅵ′れ；f日の天候を表す変数した。上述のようにして入力項目を絞り、絞られた項

4
2

雨・雪，かつJt＜181

曇り，かつ ごt＜18目と最大電力需要の変動との統計分析を基に以下のようなデータを採用した【3】。

0

薄曇り，かつ ∬t＜18

・夏季の場合（6月末から9月末迄）、学習時の入力

晴れ，または ごf≧18

デ㌻夕としては、当日の平均気温、当日の最高気

なお回帰係数の推定には、特殊日を除く至近180日

温、当日の最低気温の3種類を採用し、その値には実績値を使用した。また、予測時にはこれらののデータを用いる。

このような回帰モデルを用いた予測手法には2つのデータの予報億を採用した。

問題点がある。問題点の一つは、モデルを構築する担当者が最大電力需要の変動に通じている必要があるばかりでなく、重回帰分析などの統計解析に関する知識も有している必要があることである。もう一つの問

題点は、最大電力需要の振舞いが、提示したモデルで考慮している気象条件などに対して、非線形であるに

教師信号

‑O

も関わらず、非線形性を容易に扱えないために予測誤差が大きくなる点である。

4．ニューラルネットワークでの予測
ニューラルネットワークには、階層型、相互結合型

入力層

中間層

出力層

など様々な種類がある。翌日最大電力需要想定のような数値を予測する問題では、ニューラルネットワーク
494（Z4）

図1：階層型ニューラルネットワーク© 日本オペレーションズ・リサーチ学会. 無断複写・複製・転載を禁ず.

オペレーションズ・リサーチ

●冬季の場合（11月から3月末迄）、学習時の入力デ5．10日（または、15日）分の学習信号より一番古い・一夕に前々日の最大電力需要、当日の天候、当日

ものを削除し、前段階で作成された学習倍号を加の平均気温、当日の最高気温と当日の最低気温のえる。

5種類を採用し、その値には実績値を採用した。
また、予測時にはこれらのデータの予報値を採用

6．予測対象日がなくなったら終了、予測対象日が残っている場合は、1．へ。

した。

●学習時の出力ユニットへの教師データとしては、最大電力需要から特約分1を引き、休振り等減
電2を加えた修正最大電力需要の実頼値を採用し上述のように10日（または、15日）単位で学習を行なったのは、ニューラルネットワークにできるだけ至近の最大電力需要の変動を学習させたかったのと、学習時間をできるだけ削減するためである。また、中間

た。

ユニット数は実験的に予測誤差の小さくなるものを採

4．2 学習用した。夏季の場合は、中間ユニット数を3個とし、階層型ニューラルネットワークの学習には一般に誤●差逆伝播学習法が用いられるが、この学習法は学習

4．3 予測シミュレーション

速度が遅い、極小解に捕まるなどの問題点がある。そこで、本研究ではニューラルネットワークの学習として、一般的な誤差逆伝播学習に学習速度を速め、最小解への促進を図るための学習制御パラメータの最適化ルーチンを組み込んだ手法を採用した。この学習制

御パラメータの最適化ルーチンには、DSC探索方法（Davis，Swann，Campeysearchmethod）を適用して実際に最大電力需要を予測する際に利用可能な情報のみを適用して予測シミュレーションを行い、出力された予測値と最大電力需要の実績値とを比較した
結果を示す。シミュレーションは、夏季（7月初旬から9月末）について1988年、1989年の2ケース、冬季（11月中旬から3月末）について1938年、1989年の2ケースの計4ケースについて行った。また、予測誤差いる。

ニューラルネットワークの入力データには修正最大
電力需要、平均気温など単位の違うデータを使用する
ため、実際の学習、予測の際には値がスケールに依存しないように、上述した入力データの各値をト1，1】間に規格化したものを入力倍号とした。また、教師倍号
としては、修正最大電力需要を同様に【0，1】間に規格の評価には、平均自乗誤差の平方根（RMSE）と平均
絶対パーセント誤差（MAPE）を用いた。

表2にニューラルネットワークを用いた予測シミュ
レーション結果を、表3に3章で述べた重回帰モデル
による予測結果を示す。
また、1988年度の最大電力需要実績値とニューラル
ネットワークによる予測値および重回帰モデルによる化したものを使用した。

●

冬季の場合は4個とした。

学習データのニューラルネットワークへの提示は、

夏季は10日分を1組として、冬季は15日分を1組と予測値のグラフを図2に示す。
ニューラルネットワークによる予測結果と重回帰モ

して以下の手順を用いて行なった。
1．ネットワークの結合荷重、しきい値を疑似乱数（

表2：ニューラルネットの予測誤差
RMSE（MW）

が慣用的）を使用して初期化する。
1988年度夏季

2．予測日の至近10日（または、15日）分の学習デー

1988年度冬季
1989年度夏季

タを学習させる。

1989年度冬季

MAPE（％）

2．50
1．59
2．56
1．80

519．2
298．9
605．5
351．5

3．学習の収束条件を満足したら学習を止め、予測を
表3：重回帰モデルによる予測誤差行なう。

RMSE（MW）

4．予測終了後、その日の学習データを作成する。

1988年度夏季

1988年度冬季

1産業用等大口需要家等に適用される特約分の電力需要。現在は、需給調整契約電力と言われる。

1989年度夏季

1989年皮冬季

668．4
298．8
665．7
372．4

MAPE（％）

3．27
1．58
2．90
1．90

2企業グループ等の休業により減る電力需要。
1996年9 月号（25）495© 日本オペレーションズ・リサーチ学会. 無断複写・複製・転載を禁ず.

5．ニューラルネットワーク構成の最■大電力実績と予測19閲年度王季

適化
本章では、ニューラルネットワーク構成上の問題点、
ぎ邑︳只吋︽ヰそれを解決するための情報量基準、および、情報量基準を用いて決められたニューラルネットワークによるシミュレーション結果について述べる。

5．1 ニューラルネットワーク構成上の問題
点

0

5

10 15

20

25

30

35

40

前章までで、電力需要想定問題にニューラルネット

45
日（平日のみ）ワークを適用することの有効性を示した。しかし、ニ
最大電力実績と予測19舶年度冬季ュワラルネットワークを用いる場合の問題の一つとして、対象とする問題にニューラルネットワークを適用して近似したモデルの質をいかに測定するかがある。

●

ぎ邑︳只騨︽■

この近似の質は、近似しようとする非線形で連続な入出力関係の複雑さばかりでなく、適用するニューラル
ネットワークの構造にも依存する。この質の測定問題
は、ニューラルネットワークの構造の視点から見ると、ニューラルネットワークの最適なパラメータ数をどのように推定したらよいかという問題であり、入出力関
0 5 10 15 20 25 30 35 40 45 部 55 60 85 70 75
日（平日のみ）係のサンプルだけから、非線形で連続な入出力関係を近似するのに必要なニューラルネットワークの中間ユ

図2：1988年度最大電力実績値と予測値

ニット数を推定する問題に帰着する。
この間題の難しさは、パラメータの数を増加させれ
ば教師倍号に対する出力誤差は減少するが、末学習のデータに対する誤差は増加するという点にある。一般にこのような現象は「過学習」と呼ぼれる。例えば、

デルでの予測結果を比較すると、表2、3より夏季の

次の2つのニューラルネットワークを考えてみる。一場合、ニューラルネットワークを用いた予測の方が重つは中間ユニット数10個のニューラルネットワーク

回帰モデルより実績値に近い結果が得られているこであり、もう一つは中間ユニット数100個のニューラとがわかる。さらに、夏季の場合、ニューラルネット

ルネットワークを想定する。1000個の教師信号に対しワークを用いた予測のRMSEが重回帰モデルを用いて十分な学習が済んだ後では、100個の中間ユニット

た場合よりも小さく、実績値に対する予測値の大きなを有する大きなニューラルネットワークの方が、10個はずれがニューラルネットワークを用いた場合の方がの中間ユニットを有する小さなネットワークより教師

小さい。また、図2よりニューラルネットワークを用倍号に対する出力は良いものが得られる。しかし、未いた予測が夏季の最大電力需要の大きな変動に十分知のデータに対しては大きなニューラルネットワークに対応していることがわかる。

の方が小さなネットワークより良くない出力を導く。

冬季についても同様に、ニューラルネットワークを

つまり、既知の入力データに対して精度の高い出力を用いた予測で、重回帰モデルによる予測と同等以上の生成しようとすることと未知の入力データに対して結果が得られている。そして、図2より冬季の場合に精度の高い出力を予測することとの間にはトレード

ついても、ニューラルネットワークを用いた予測の方

オフの関係が存在する。このような既知の入力データが重回帰をモデルを適用した予測よりも、最大電力需と未知の入力データの間の不均衡は、推定されるパラ要の変動に十分に追従していることがわかる。

メータ数の増加とともに大きくなる。
オペレーションズ・リサーチ

496（26）© 日本オペレーションズ・リサーチ学会. 無断複写・複製・転載を禁ず.

●5．2 情報量基準

仮定：十分大きな学習データⅣが与えられたとする。

前節の問題を解決するアプローチとしては、情報量基準を用いたアプローチが代表的である。情報量基準と言えば、重回帰モデルなどのパラメータ敷設定など

ⅣからJ（J≪Ⅳ）を抽出して学習を行なったとき、これによって得られたパラメータ推定値の平均対数尤度は学習データⅣからほ抜いた倍号に対する前述で得られたパラメータ推定値での対数尤に使われるAIC（Aたα盲点eノβ坤r†柁α如乃伽ねrわ几）が有名である【4】。しかし、ニューラルネットワークのパラ

メータ敷設定にAICを直接適用することは難しい。
ニューラルネットワークの場合、最適なパラメータと実際にニューラルネットワークの学習によって推定されるパラメータの間には、次の2つのゆらぎが存在する。

度の平均で十分よく近似できると期待できる。また、学習データはり推定される推定パラメータと学習データNより推定される推定パラメータとが互いに近傍に存在する。
また、AICで必要とされるモデルがfaithfu1である
条件を必要としない情報量基準NIC【6】も提案されているが、このNICでは、学習に伴うゆらぎが評価さ●統計的ゆらぎ●れていない。

最適パラメータは、学習データが無限に与えられた場合に求められるパラメータである。実際には、有限個の学習データからある種の方法で最適
パラメー

タの近似値を求めているにすぎないムこのために起こるゆらぎ。

価するために導かれた。また、IC（且∵Ⅳ）は学習に伴うゆらぎを評価するために提案された。これら3つの情報量基準は2つのゆらぎのうちの一つを評価しているが、2つを同時に評価していない。そこで、ここでは
文献【7】【8】で提案されている情報量基準NNICを採用●学習に伴うゆらぎ
ニューラルネットワークの学習は一般に非線形連立方程式となるため、特殊な場合を除き解析的に解くことは困難である。そこで反復法を用いた近似計算によって最適パラメータを求めることになる。しかし、一般に数億演算によって推定されたパラメー

上述の情報量基準AIC、NICは、統計的ゆらぎを評

タは初期値に依存し、必ずしも最適パラメータと一致せず、推定されるパラメータは、最することとする。この，NNICは、統計的ゆらぎと学習に伴うゆらぎの両方を考慮に入れ、評価する情報量基準である（このNNICの導出についての詳細は、文献【7】と【8】を参照のこと）。ここではNNICの形式について簡単に述べる。

NNICは次のように表現される。
ⅣⅣ∫C ＝ 5（拡章毎）

適パラメータの周辺にばらつくことになる。この＋（f−1）5（沌，壷Ⅳ）

ために起こるゆらぎ。

＋（1一書）〈∫（甘ん，動）〉＋Ⅳ（如）g＊（帰一1

ニューラルネットワークの適切なパラメータ数を決定する情報量基準は、上記2つのゆらぎを評価できる必

（1）

ここで、

要がある。
情報量基準として有名なAICでは、モデルがfaith＿鮎如）＝妄主軸J；如）
J＝1hlであるという条件の下で、統計的ゆらぎを評価している。しかし、学習に伴うゆらぎを評価してはいない。また、AICは学習データが無限に近い状況におい（5（甘ん，血m）〉−〈g（沌，曲り〉て導かれているため、データ数が少ない場合には評価〈∫（9㌫，血m）〉一〈∫（嬬，動）〉が難しい。

学習に伴うゆらぎを評価するために提案された情であり、血mは各々Ⅳ個の学習デー・夕から任意にm個

報量基準IC（∬，Ⅳ）【5】は、統計的なゆらぎについて評のデータを抽出して作られた学習データに基づき、求価していない。また、IC（∬，Ⅳ）は以下の仮定の下に導められた推定パラメータである。β（エゴ，町如）は推定出されており、この仮定を満たす学習データを観測すパラメータ血Ⅳでのニューラルネットワークのエネル

ることは難しい。

ギー関数であり、通常はこユーラルネットワークの出1996年9月号© 日本オペレーションズ・リサーチ学会. 無断複写・複製・転載を禁ず.

（27）49丁表4：最適なニューラルネットワーク構成での予測誤差

RMSE（MW） MAPE（％） 2．3 1．48 198年度夏季 564． 2．41 98年度冬季 34．0 1．72
1988年度夏季

507．0

1988年皮冬季
278．0

予測精度の良いニューラルネットワークが選定されていることがわかる。

6． まとめニューラルネットワークの有する学習能力による関数近似を適用した翌日最大電力需要想定問題について解説した。本論では気象データに基づき、ニューラ

ルネットワークを利用した最大電力需要想定問題を検力値と学習データの出力値との差の自乗を用いる。また、〈・〉は期待値を表す。Ⅴ＊（如）と併（如）は討し、従来の重回帰モデルと同程度以上の精度で予測が行なえることを示した。さらに、情報量基準を用い
Ⅴ−（如）＝妄皇∇β（与湖再妬）叫刷；項rてニューラルネットワークを最適化し、経験的に構成されたネットワークより、安定した予測ができること

メ＝1

を示した。

参考文献

が（如）＝妄皇∇∇β如；如）
・J＝l

川小野賢治，所健一： 「通年モデル」による翌日となる。∇はgradientを意味する。

最大電力予測 ，電力中央研究所報告（依頼報告），式（1）で表されるNNICは、その右辺第4項で統計的なゆらぎを評価し、右辺第2、3項で学習に伴うゆらぎを評価している。このNNICの値を最小にするニューラルネットワークのパラメータ数を選定すれ

Y90502，（1990）．
［2】船橋賢一： ニュー

ラルネットワークのcapabil−

ityにらいて ，電子情報通倍学会技術研究報告，
MBE88，No・52，127−134，（1988）・

ば、学習データに基づく最適なニューラルネットワー【3］Taka5hiOnoda：

ク構成が得られる。

Next day peakload forecast−

1ng uSingan artificialneuralnetworkwithmodi−
fiedbackpropagationlearnlngalgorithmM，Proc・

5．3 シミュレーションJC〃Ⅳβイ，3766−3769，（1994）・
ニューラルネットワークの構造はその中間ユニット数で決まる。そこで、前述NNICを最小とする中間ユ【4】坂元慶行，石黒真木夫，北川源四郎： 情報量統計
学 ，共立出版（19幻）．

ニット数を有するニューラルネットワークを最適なニューラルネットワーク構成として採用し、4章で述べた予測シミュレーションを行なった。

4章のシミュレーションでは中間ユニット数を夏季は3個に、冬季は4個に固定していたが、ここでは学習データが変わるごとにNNICの値を最小とする中間ユニット数を選定した。その結果、中間ユニット数
はその学習データによって、1988年度夏季については2個から6個まで変化し、1989年度夏季については2個から5個まで、1988年度冬季については2個から5個まで、1989年度冬季については2個から8個まで変化した。中間ユニット数の変化は、季節の変わり目な［5】和田安弘，川人光男‥ 新しい情報量基準とcrossValidationによる汎化能力の推定 ，電子情報通倍学会誌D一ⅠⅠ，J74−D−ⅠⅠ，No．7，955−965，（1991）．
【6］NoboruMurata，SlmnjiYoshizawa，andShun，ichi
Amari．：

Networkinformation criterion−deter−minlngthe numberofhidden unitsfbranartifi−
Cialneuralnetworkmodel，1EEE升ansaclionson

Ⅳe祝γαJ〃e古び0γたβ，Vol・5，No・6，865「872，（199叫【7】TakashiOnoda：

Neuralnetworkinformationcri−

terionfor the optimalnumberofhidden unitsM，Proc・JCWノβJ，275−280，（1995）．

【8】小野田崇： 階層型ニユ「ラルネットワークの情報

どモデルの構造的変化が必要とされる場合に起こって量基準 ，，人工知能学会誌，Vol．11，No．4，574−584，

いた。最適な中間ユニット数をその都度選定した場合（1996）．

の平均予測誤差を表4に示す。
表4を表2、3と比較してみると、表4のRMSEと
MAPEが共に、表2、3の億よりも小さく、平均的に498（28）© 日本オペレーションズ・リサーチ学会. 無断複写・複製・転載を禁ず.

オペレーションズ・リサーチ