カオス時系列データの予測のためのパラメータ最適化手法
伊藤憲

一

Optimization of the Parameters for Predicting Chaotic Time Series
Ken-ichi ITOH

Abstract
A new method is proposed for predicting chaotic time series based on a local approximation. In the local approximation, a time series is embedded in a state space using delay
coordinates and a local predictor is constructed using the nearest neighbors of the current
state. The embedding dimension and the number of the nearest neighbors are significant
parameters affecting the prediction accuracy. The proposed method aims to select the optimal parameters of the embedding dimension and the nearest neighbor number so as tominimize the prediction error. The efficacy of the proposed method is demonstrated using
chaotic time series generated by the Hénon map and the Ikeda map.
Keywords: chaos, time series, prediction, embedding dimension, nearest neighborる。

１．まえがき局所近似法においては，埋込み次元や近傍不規則に変動する時系列データがカオスの点の数などのパラメータ値が予測精度に大き性質を有していれば，カオスの決定論的な特な影響を与えるため，これらのパラメータ値徴を生かした精度の良い短期予測が可能であをどのように設定するかが重要である。埋込る。このような考え方に基づくカオス時系列

み次元については，アトラクタの再構成に必

データの予測手法の研究がこれまで活発に行要な値を，観測データから正確に推定できるわれてきた［１］〜［５］。

かどうかという問題がある。特にデータ数がカオス時系列データの予測を行う場合，ま少ない場合は推定が困難である［８］，［９］。まず１変数の時系列データから，埋込みの手法た，埋込み次元を推定できたとしても，埋込［６］，［７］を用いて多次元空間上にアトラクタみとなる最小の次元が予測精度上最適であるの軌道を再構成する。次に，このアトラクタ保証はない。一方，近傍点の数についても，の軌道を生成する力学モデルを推定する。こ最適値の設定は困難である。近傍点の数が少の推定方法の１つに，局所近似法がある［１］なすぎると個々の近傍点の動きに解が大きく〜［３］。局所近似法は，アトラクタ上のある依存するため，解の安定性がなくなる。近傍点の近傍点は短時間経過後もまだ近傍点であ点の数が多すぎると予測点から離れた点までるという考え方を基に，ある点の将来の値を近傍点として選択されるため，解は予測点のその近傍点の動きにより推定する方法であ局所的な動きを反映せず，この結果予測誤差―１０９―長崎県立大学国際情報学部研究紀要

第１１号（２０１０）する。

が増加する。
本論文では，上記問題解決を図るため，局

Xt+p $ F (Xt)

所近似法の主要なパラメータである埋込み次#元と近傍点の数を最適化するための手法を提アトラクタ上の Xt の時間変化は，微小時案する。さらに，Hénon map［１０］および Ikeda

間内であればその近傍点の時間変化にほぼ等map［１１］から生成されるカオス時系列データしいと考え，アトラクタ上の点の中から Xtを用いて予測精度に関する評価実験を行い，の 近 傍 点 XT（h＝１，２，…，n）
を 選 択 し，こ れh本提案手法の有効性を示す。

らの n 個の近傍点の平均的な推移を最小２乗法により求め，関数 F を推定する。
実際に xt+p を予測するためには，Xt+p の m２．局所近似法

個の要素のうち１番目の要素 xt+p を求めればカオス時系列データの予測手法である局所近似法について，その概要と主な問題点を述よい。そこで，次の線形近似式により xt+p を推定する。

べる。

xt+p $ f (Xt)

x２，…，xK が，v 次元空ある時系列データ x１，#= a０ + ! akxt−(k−１)τ

間上のカオス力学系から生成されたものとす"""る。この１変数の時系列データから 元 の v$

次元空間上のアトラクタの軌道を再構成する

係 数 a０，a１，…，am は 次 の よ う に し て 求 めため，一定の時間遅れ τ を用いて m 次元空る。まず Xt を除くすべての Xi について，Xt間上に次の m 次元ベクトル Xi を生成する。とのユークリッド距離 r を計算する。
#!"

r = ( ! (xi−kτ−xt−kτ)２)１／２

Xi = (xi, xi−τ, …, xi−(m−１)τ),i =１+(m−１)τ,２+(m−１)τ, …, K −１, K

""!

"%

次に，r の小さい順に n 個の点を Xt の近ここで，m #２v＋１であればこの変換は埋

１，２，…，n）と し，次 の 最 小２乗
傍 点 XT（h＝h込みになり，元の v 次元空間上のアトラク

a１，…，am を決定する。
条件より係数 a０，$タの構造が m 次元空間上に保存されること! (xTh+p−f (XTh))２ = min&が，Takens により証明されている［６］。その!""後 Sauer らにより，アトラクタのボックスカ

この係数の値を式$に代入することによ

ウント次元を D０とするとき，m>２D０であれ

り，xt+p を求めることができる。

ば埋込みになることが示されている［７］。この m 次元空間上での Xi の動きを推定するこ

最小２乗解を得るために必要な近傍点の数n は，次式を満たす必要がある。とにより予測を行う。

n # nmin = m+１

局所近似法においては，Xi の近傍点は短時'間経過後もまだ近傍点であるという考え方を局所近似法においては，埋込み次元 m お

基に，Xi の将来の値をその近傍点の動きによよび近傍点の数 n が予測精度に大きな影響り推定する。具体的な方法を以下に述べる。

を与えるため，これらのパラメータ値をどの時刻 t までの時系列データ x１〜xt が観測さように設定するかが重要である。埋込み次元れたとき，時間 p 経過後の値 xt+p を予測する

m と近傍点の数 n の設定にあたっては，次問題を考える。まず観測値 x１〜xt を用いて式のような問題点がある。

"によりアトラクタの再構成を行い，次にア［埋込み次元 m の問題点］トラクタ上で xt に対応する点 Xt と時間 p 経! m>２D０を満たす必要があるため，予測過後の予測点 Xt+p の関係を，次式により近似に先立って D０を推定する必要がある。

―１
１０―

伊藤

憲一：カオス時系列データの予測のためのパラメータ最適化手法" 観測データから D０を正しく推定できるせながら予測を繰り返し，相対誤差を求め，かどうか不明である。特にデータ数が少ない予測に適した埋込み次元と近傍点の数を決定

時は推定が困難である［８］，［９］。

する。

# 仮に D０を正しく推定できたとしても，具体的な方法は以下のとおりである。

m>２D０を満たす m をいくつに設定すべきか! m＝２，Ef＝∞とする。という問題がある。従来は m>２D０を満たすとする。
" n＝２nmin＝２（m＋１）# 埋込み次元を m，近傍点の数を n に設最小値 mmin を使用してきたが，mmin が予測精度上最適である保証はない。

定して予測を行い，相対誤差 E を求める。
$ n の値を１つずつ減少させながら予測［近傍点の数 n の問題点］! n の最適値は，観測データ数や埋込み次元などにも依存すると考えられ，一般解をを繰り返し，相対誤差 E が最初に増加するn の直前の値を nd とする。

得るのは困難である。n は，最小２乗解を得とし，n の値を１% n＝２nmin＝２（m＋１）

るために必要な最小値 nmin の２倍にするのがつずつ増加させながら予測を繰り返し，相対適当であるという報告［４］もあるが，どのよ誤差 E が最初に増加する n の直前の値を nuうな場合でも当てはまるとは限らない。とする。

" n が少なすぎると個々の近傍点の動き& 近傍点の数 n が nd のときの相対誤差とに解が大きく依存するため，解の安定性がなnu のときの相対誤差を比較し，相対誤差が小くなる。特に実データの場合は通常雑音が含さい方の n を nc，そのときの相対誤差を Ecまれるため，n が少ないと雑音の影響を受けとする。
' Ec と Ef を比較する。

やすい。

Ec! Ef のとき，(へ。

# n が多すぎると予測点から離れた点まEc＜Ef の と き，mf＝m，nf＝nc，Ef＝Ec と しで近傍点として選択されるため，解は予測点の局所的な動きを反映しなくなり，予測誤差た後，m＝m＋１とし，"へ。
( 埋込み次元を mf，近傍点の数を nf に決が増加する。

定する。
３．提案手法
ここでは，局所近似法において予測精度上

４．評価実験提案手法の有効性を確認するために，評価最適な埋込み次元と近傍点の数を求めるため実験を行った。ここでは，実験内容，実験結の手法を提案する。
本手法では，観測データ数がある程度減少

果および考察について述べる。

しても，予測に適した埋込み次元と近傍点の数は大幅に変化しないと考え，観測データの４．
１ 予測対象データ
Hénon map［１０］
お よ び Ikeda map［１１］
からみを用いて予測を行い予測誤差を求め，最適な埋込み次元と近傍点の数を推定する。すな生成されるカオス時系列データを用いた。

わち，観測データ L 個のうち先頭の Lf 個のHénon map は，次の２次元写像である。

データをアトラクタ再構成用の学習データとxn＋１ = yn+１−Ax２n ，して用い，残りの L−Lf 個のデータについてyn＋１ = Bxn

p ステップ先を局所近似法により順次予測す)る。この L−Lf 個の予測値と観測値より相対式)に お い て，パ ラ メ ー タ 値 A＝１．
４，B

誤差 E を求める。相対誤差 E の定義は４．
２３，y０＝０．
３と し た と き＝０．
３，初 期 値 x０＝０．

節に示す。埋込み次元と近傍点の数を変化さの x を時系列データとした。

―１１１―長崎県立大学国際情報学部研究紀要の数の最適化のための予測データとして使用

Ikeda map は，次の２次元写像である。

する。以上の関係を，図１に示す。

xn＋１ =１+µ(xn cos t−yn sin t),yn＋１ = µ(xn sin t+yn cos t)

第１１号（２０１０）"

実験では，表１に示すパラメータ値を使用し た。学 習 デ ー タ 長 L は，１００か ら１００００ま

ここで，t＝０．
４−６．
０（／ １＋x２n ＋y２n ）である。

で変化させた。予測データ長 N は L と同一式"において，パラメータ値 µ＝０．
７，初とした。予測ステップ数 p＝１，時間遅れ τ３，y０＝０．
３としたときの x を時系
期値 x０＝０．

＝１とした。Lf については，どの程度に設定列データとした。

するのが有効かを調べるために，L の２５％，５０％，７５％とした。

４．
２ 予測値の評価指標

埋込み次元 m および近傍点の数 n につい１，２，…，N）とN ステップ分の観測値 x（i＝iては，次のように設定した。すなわち，提案

１，２，…，N）が与えられたとその予測値 y（i＝i手法では，３章の方法により求めた mf と nf

き，次式の相対誤差 E を用いて予測精度のを使用した。従来手法では，埋込み次元は m評価を行う［１］。

>２D０を満たす最小値 mmin を使用し，近傍点とした。Hénonの数は n＝２nmin＝２（mmin＋１）"!"!! !$ "%###$
" " #"!
"!! !$"$#$# #" " #"!

２６，Ikeda map の D０＝１．
３２であ
map の D０＝１．
#

り，両データとも，埋 込 み 次 元 m＝３，近傍点の数 n＝８となる。また，局所近似法による予測精度の限界を示すため，埋込み次元"#" !! $ここで，$#である。
" #"!

m と近傍点の数 n を変化させて予測を行

E ＝０のとき，予測は完全であることを示

ときの m，n の値を求めた。

い，相対誤差が最小となる限界値およびそのす。E ＝１のとき，単に平均値を予測したに
表１ パラメータ値
Table 1 Values of parameters.

すぎないことを示す。
４．
３ 実験方法
実験では，提案手法の有効性を確認するため従来手法と提案手法による予測を行い，相対誤差を比較する。
予測においては，予測対象データの先頭 L個のデータをアトラクタ再構成用の学習デー

種類
学習データ長予測データ長予測ステップ数

記号値
L １００ 〜 １００００NL と同一
p１

時間遅れ
パラメータ選定用
学習データ長τLf

１
L の２５％，５０％，７５％

タとして使用し，引き続く N 個のデータについて p ステップ先を順次予測する。すなx２，…，xL および予測
わち，過去の観測値 x１，４．
４ 実験結果と考察点の観測値 xi をもとに p ステップ先の予測!

値 yi+p を求め，観測値 xi+p との誤差を求める。

提案手法および従来手法による予測を行

こ れ を i＝L＋１か ら i＝L＋N ま で N 回 行

い，相対誤差を求めた。同時に，局所近似法

い，この N 回分の予測値と観測値より相対において相対誤差が最小となる限界値につい誤差 E を求める。また，提案手法では L 個ても求めた。

提案手法と従来手法の比較のうち先頭の Lf 個を，埋込み次元と近傍点

Hénon map における学習データ長と相対誤の数の最適化のための学習データとして使用差の関係を図２に示す。ここで，提案手法はし，残りの L−Lf 個を，埋込み次元と近傍点０％の ケ ー ス を 示 す。ま た，図２
Lf が L の５―１
１２―

伊藤憲一：カオス時系列データの予測のためのパラメータ最適化手法

図１ 実験方法
Fig. 1 Experimental method.

で実際に使用した埋込み次元と近傍点の数をその度合いは，Hénon map の場合よりはるか

図３，図４に示す。図２より，提案手法ではに大きい。その原因の１つは埋込み次元の不限界値にかなり近い相対誤差となっている。

足と考えられる。図６からわかるように，一方，従来手法の相対誤差は，学習データ長

Ikeda map では，学習データ長が大きい場合が小さいときは限界値に近いが，学習データに加えて小さい場合でも，埋込み次元は最小長が５０００を超えると限界値から乖離する。す埋込み次元の３では不足していることがわか

なわち，提案手法は，限界にかなり近い予測る。提案手法では，埋込み次元の不足という精度を実現でき，学習データ長が大きい程従従来手法の問題点をある程度解決している。

来手法に比べてより有効であるといえる。

また，近傍点の数 n について，図７からわ

従来手法の問題点の１つは埋込み次元の不をかるように，常に n＝２nmin＝２（mmin＋１）

足と考えられる。図３からわかるように，従用いるのが最適とはいえず，特に学習データ

来手法では常に最小埋込み次元の３を用いて長が大きい場合は近傍点の数をさらに増加さいるが，限界値のケースでは学習データ長がせることが予測精度上望ましいといえる。こ大きくなると埋込み次元は４以上となる。提の点についても，提案手法ではある程度対応

案手法では，学習データ長が３０００以上で埋込している。

み次元が４以上となっており，埋込み次元不!

足という従来手法の問題点をある程度解決し５％，５０％，Hénon map にお い て Lf を L の２ている。また，近傍点の数 n について，図７５％と変化させたときの相対誤差を図８に示

Lf の設定方法

４からわかるように，従来手法では常に n＝５％，お よ び７５％の 場 合，学す。Lf が L の２を用いているが，限界値２nmin＝２（mmin＋１）

習データ長が１０００付近で相対誤差がやや増加のケースでは学習データ長が大きい場合はこ０％の場合の相対 誤 差 は，する。Lf が L の５れよりも大きい値となっている。この点につ２５％，７５％の場合に比べて全体的に小さいといても，提案手法ではある程度対応していいえる。
５％，５０％，
Ikeda map において Lf を L の２る。
Ikeda map における学習データ長と相対誤

７５％と変化させたときの相対誤差を図９に示差の関係を図５に示す。ここで，提案手法は５％の 場 合，学 習 デ ー タ 長 がす。Lf が L の２０％の ケ ー ス を 示 す。ま た，図５
Lf が L の５５０００以上で相対誤差が増加する。また，Lf がで実際に使用した埋込み次元と近傍点の数をL の７５％の場合，学習データ長が７００で相対

図６，図７に示す。図５より，提案手法では０％の場合の相誤差が増加する。Lf が L の５限界値にかなり近い相対誤差となっている。

対誤差は，２５％，７５％の場合に比べて全体的一方，従来手法では，学習データ長が大きくに小さい。

なる程相対誤差は限界値から大きく乖離し，―１
１３―以上の結果から，Hénon map，Ikeda map長崎県立大学国際情報学部研究紀要

第１１号（２０１０）

図２ Hénon map における学習データ長と相対誤差の関係
Fig. 2 Relative error vs. training data length for the Hénon map.

図３ Hénon map における学習データ長と埋込み次元の関係
Fig. 3 Embedding dimension vs. training datalength for the Hénon map.

図４ Hénon map における学習データ長と近傍点の数の関係
Fig. 4 Number of nearest neighbors vs. training data length for the Hénon map.

―１
１４―

伊藤憲一：カオス時系列データの予測のためのパラメータ最適化手法

図５ Ikeda map における学習データ長と相対誤差の関係
Fig. 5 Relative error vs. training data length for the Ikeda map.

図６ Ikeda map における学習データ長と埋込み次元の関係
Fig. 6 Embedding dimension vs. training datalength for the Ikeda map.

図７ Ikeda map における学習データ長と近傍点の数の関係
Fig. 7 Number of nearest neighbors vs. training data length for the Ikeda map.

―１
１５―

長崎県立大学国際情報学部研究紀要

第１１号（２０１０）

図８ Hénon map において Lf を変化させたときの相対誤差
Fig. 8 Relative error for different values of Lf for the Hénon map.

図９ Ikeda map において Lf を変化させたときの相対誤差
Fig. 9 Relative error for different values of Lf for the Ikeda map.

―１
１６―

伊藤憲一：カオス時系列データの予測のためのパラメータ最適化手法

ともに Lf は L の５０％程度に設定するのが適当であるといえる。
$A, vol.45, no.6, pp.3553-3558, March 1992.
[4] M. Casdagli, “Nonlinear prediction of chaotic

実験結果のまとめtime series,” Physica D , vol.35, pp.335-356,! 提案手法を用いることにより，埋込み1989.

次元，近傍点の数の最適化を図ることがで[5] A. Lapedes and R. Farber, “Nonlinear signal

き，局所近似法の限界に近い予測精度を達成

processing using neural networks: Prediction

す る こ と が で き た。特 に Ikeda map に お いand system modeling,” Los Alamos Nationalて，提案手法は従来手法に比べて予測精度をLaboratory Report, no.LA-UR-87-2662, 1987.

大幅に改善することができた。

[6] F. Takens, “Detecting strange attractors in tur-０％程度" 提案手法において，Lf は L の５bulence,” in Dynamical Systems and Turbu-に設定するのが適当である。

lence, eds. D. A. Rand and L. S. Young, Lec-

# 従来手法では，予測に先立って埋込み

ture Notes in Mathematics, vol.898, pp.366-に必要な次元を推定しなければならないが，

381, Springer, Berlin, 1981.

提案手法ではこの推定は不要であり，最小埋[7] T. Sauer, J. A. Yorke, and M. Casdagli, “Em-込み次元が不明なデータにも適用可能であbedology,” J. Stat. Phys., vol.65, no.3,4,る。

pp.579-616, 1991.
[8] J. Theiler, “Spurious dimension from correlation algorithms applied to limited time-series

５．むすびdata,” Phys. Rev. A, vol.34, no.3, pp.2427-

本論文では，カオス時系列データの代表的2432, September 1986.

な予測手法である局所近似法において，埋込[9] J. P. Eckmann and D. Ruelle, “Fundamental

み次元と近傍点の数を最適化する手法を提案

limitations for estimating dimensions andした。さらに，Hénon map および Ikeda map

Lyapunov exponents in dynamical systems,”から生成されるカオス時系列データを用いて

Physica D , vol.56, pp.185-187, 1992.

予測精度に関する評価実験を行い，提案手法[10] M. Hénon, “A two-dimensional mappingは局所近似法の限界に近い予測精度を達成でwith a strange attractor,” Commun. Math.

きることを示した。

Phys., vol.50, pp.69-77, 1976.

今後，提案手法について，実データを用い[11] K. Ikeda, “Multiple-valued stationary state

た評価実験を行っていきたいと考える。

and its instability of the transmitted light by aring cavity system,” Opt. Commun., vol.30,

文no.2, pp.257-261, 1979.

献[1] J. D. Farmer and J. J. Sidorowich, “Predicting
chaotic time series,” Phys. Rev. Lett., vol.59,no.8, pp.845-848, Aug. 1987.
[2] G. Sugihara and R. M. May, “Nonlinear forecasting as a way of distinguishing chaos frommeasurement error in time series,” Nature,vol.344, no.19, pp.734-741, April 1990.
[3] J. Jiménez, J. A. Moreno, and G. J. Ruggeri,“Forecasting on chaotic time series: A local optimal linear-reconstruction method,” Phys. Rev.

―１
１７―