NTAA JOURNAL 2017.6

12345Vol.4

懸賞論文 優秀賞

123

深層学習を用いたカオス時系列解析によるテクニカル分析

645

三井住友アセットマネジメント

7中川 慧

8日興グローバルラップ

9678910

今村 光良 1011111212131415161718192021

要13旨14

本論文ではカオス時系列解析の枠組みのもと深層学習を組み合わせたテクニカル分析手法の提案を行う。カオス時系列解析では、まず時系列データを高次元空間に対して「埋め込み」を15御を行う手法である。したがって高次元空間上でのアトラクタの再現（関数近似）が予測には1716行う。そして埋め込んだ高次元空間における幾何学的な軌道（アトラクタ）を用いて予測や制必須であるが、この関数近似に画像認識などの高次元データ解析で有効性が認められている深18層学習を用いる。

19

当該手法を用いて日経平均株価を対象に実証分析を行った結果、深層学習を用いたカオス時

20

系列解析により作成されたシグナルは高い予測力と収益性を持つことが確認できた。

2122222323242425 1．はじめに列データにカオス性があり、その背後にある何ら 252627

通常、株価や為替などの経済時系列データは非28 常に複雑な挙動を示す。予測や制御への活用のた
29 め、これらの経済時系列データを時系列解析の枠30 組みでモデル化するケースは数多く存在する。通31 常の時系列解析の枠組みでこのような複雑・不規32 則な挙動の時系列データを説明するためには、攪33 乱項を加える必要がある。この攪乱項は通常、ホワ
34 イトノイズといわれる確率変数である。つまり、あ35 る一定の幅で変動し平均すれば 0 になる確率変数かの決定論的法則を見出すことができれば、近未 26来を予測することが可能になる。時系列データの 27
複雑な挙動を生み出す原因を、我々の観測できな 28い誤差項として排除するのではなく、時系列デー 29タを生成するシステムに本質的に内在する非線形 30性に求める解析手法をカオス時系列解析という。 31
カオス時系列解析による枠組みはテクニカル分析 32でいうところのフォーメーション分析との等価性 331）が指摘されている 。

カオス時系列解析は Takens の埋め込み定理

342）

3536 で予測が不可能な項である。このような攪乱項をに基づいて、まず時系列データを高次元空間へ埋 3638 ル分析で使用されている移動平均等の手法である。

何学的な軌道（アトラクタ）を用いて予測や制御 3837 排除し、時系列のトレンド抽出を行うのがテクニカ
39

一方で、このような確率論的な攪乱項を用いなめ込む。そして埋め込んだ高次元空間における幾 37を行う手法である。したがって高次元空間上でのア 39

40 くても、決定論的に複雑な変動を作り出せることトラクタの再現（関数近似）が予測には必須であ 4042 の一つである。もし、複雑な挙動をしている時系

所線形近似法や動径基底関数（RBF）ネットワーク 4241 が知られており、これが時系列のカオス性の特徴る。従来は、類推法やヤコビ行列推定法などの局 41

日本テクニカルアナリスト協会

2017.61Technical Analysts Journal

123456やニューラルネットワークなどの非線形近似手法が用いられていた 。低次元のカオス性を示す時系
3）

列データは、これらの方法で十分な予測精度を得ることができるが、高次元のカオス性しか示さない時系列データの場合は予測が困難となる。特に経済時系列データはその傾向が強いとされている 。
4）

そこで、近年の人工知能 ･ 機械学習の分野のブ

789

レークスルーと言われ、目覚ましい発展を遂げている深層学習を関数近似に用いることで当該問期予測ができないという際立った特徴を持つ。

このようなカオス性を満たす典型的な例として、ロジスティック写像がある。ロジスティック写像は、式 1 という非常に簡単なルールによって定まっているが、グラフを描くと複雑な変動をしている。これがカオス性の特徴（1）決定論的なシステムの例である。初期値 0.15 から計算されたグラフを図 1 に示す。

12 り、ニューラルネットワークを多層化したもので2345678910 題の解決にあたる。深層学習とは人間の脳（神11 経細胞）の働きを模した教師あり学習手法であ1( 式 1) 1011
図 1 の通り、ロジスティック写像は複雑な変動 1213 ある。従来では多層化したネットワークを学習すをするが、元の次元よりも高次元の空間（ロジス 1315 training）を行うことで学習が可能になったことをよって、ある規則性が浮かび上がってくる。これ 1514 ることは困難であったが、近年、事前学習（pre‑16 皮切りに、画像認識、音声認識、自然言語処理な17 どの高次元空間にデータが存在するような場面でティック写像の場合は 2 次元）へ写像することに 14を埋め込みという。具体的には、ロジスティック 16
1718 他の機械学習の手法を圧倒する高い性能を示して19 いる18。そのため、カオス時系列解析に関して

5‑7）

1920 も深層学習をアトラクタの再現という高次元空間

2021 上の関数近似に利用することにより精度が向上す

2122 る可能性があると考えられる。

222323

本稿では、カオス時系列解析の枠組みに従って24 株価を高次元空間へ埋め込み、高次元空間上へ埋2425 め込んだアトラクタを深層学習で再現し、予測を行

25

26 うテクニカル分析手法を提案する。当該手法を用い

26

27 て日経平均株価指数を対象に実証分析を行った結27

28 果、高い予測力と収益性を持つことが確認できた。

2829

図 1．ロジスティック写像

30 2．カオス時系列解析
31293031

通常の確率論的な時系列解析においては、ラン

323233 ダムに変化する確率変数によって表現されてきた。

3334 一方で、カオス時系列モデルでは確率変数を使う

34

35 ことなく、複雑な変動を表現することができる。

35

36 確率論的な時系列解析とカオス時系列解析とでは、3637 前者が時系列の統計的特徴量（平均、自己共分散3738 など）を解析するのに対して、後者は幾何学的な3839 軌道（アトラクタ）の特徴を解析する点で異なる。

3940

40

時系列データがカオス性を満たすと、（1）背後41 には決定論的なシステムが存在し、（2）初期値の42 変化に対する鋭敏性を持ち、したがって、（3）長2テクニカルアナリストジャーナル41
図 2．2 次元空間への埋め込み
2017.642NTAA JOURNAL 2017.6123456789

写像を 2 次元空間上の 1 点としてプロットする。図 2 の通り、一見すると複雑に見える時系列データでも高次元空間へ埋め込

むことにより、幾何学的な規則性を見つけだすことができる。

次に、初期値を 0.15 と 0.15001 に設定した 2 つのロジスティック写像のグラフを図 3 に示す。この図 3 のグラフから t が 10 くらいまで 2 つのロジスティック写像は同じ挙動を示すが、それ以後は10 徐々に離れ始め、t が 14 を越えた辺りからは全くVol.4

このベクトルを 次元の高次元空間に順次プロットしていくと軌道（アトラクタ）が描かれる。 次

12元の高次元空間に埋め込みをした後に、アトラクタ

3

これがカオス時系列解析の手順である。3 次元空間5の幾何学的な特徴を関数近似して表現し予測する。 4へ埋め込み予測を行うイメージを図 4 に示す。

673．深層学習

89深層学習（Deep Learning）とは、深い、つまり 1011 別の挙動を示す。つまりカオス性の特徴（2）初期多くの層を持ったニューラルネットワークモデルを 1113 値に観測誤差がどんなにわずかでも発生する現実

トワークは人間の脳（神経細胞）の働きを模した教 13（3）長期予測はできない。
15 の影響が拡大されるので、具体的な問題に応用する場合には層の数や層の中の 1512 値の変化に対する鋭敏性を持ち、したがって初期14 的な状況下では、短期的な予測は可能でも、誤差16用いた機械学習手法の総称である。ニューラルネッ 12師あり学習手法である。ニューラルネットワークを 14

一般には、カオス性を持つ 1 次元の時系列デーノードをいくつにするかを決める必要がある。一般 16として埋め込むことで当3 および図 5 に隠れ層を 1 つだけ持つ順伝播型の 1817 タを式 2 のように適当な遅れ時間 と、18 高次元空間に 1 点次元の19 該時系列の変動が捉えることができる（Takens の20 埋め込み定理 ）。に、層を増やすとより複雑な問題に対応できる。式 17ニューラルネットワークの数式とモデルを示す。

192）

20212221( 式 2)

( 式 3) 2223232424252526262727282829293030313132323333343534

図 3．初期値 0.15（青線）と 0.15001（赤線）のロジスティック写像

3536363737383839394040414142

図 4．カオス時系列解析のイメージ
日本テクニカルアナリスト協会

2017.6423

Technical Analysts Journalが123456次元の入力データであり、次元ネットワークは、高速に学習する誤差逆伝播法

は活性と呼ばれ、そなった 。誤差逆伝播法とはネットワークの出力の出力データである。また、とするノードの数で、れぞれとがが隠れ層を構成という非線形の活性化関数に渡される。活性化関数には、以下のような Sigmoid
関 数（ 式 4） や 双 曲 線 正 接 関 数（ 式 5）、ReLU7 （Rectiﬁed Linear Unit）関数（式 6）などが問題8に応じて用いられる。

9( 式 4)1011( 式 5)1213( 式 6)1415なお、活性化関数が非線形であることがニュー

1617 ラルネットワークの本質であり、単なる線形関数18 を活性化関数に用いると、式 3 から線形関数の線と呼ばれる訓練方法によって学習できるように
9）

結果と実際の出力結果との誤差を最小にするように、出力層から入力層に向かって、ネットワークの各層間の重みを修正する方法である。順伝播は式 3 の通り非線形計算だが、逆伝播は線形計算である。順伝播は活性化関数が非線形なので、層の入出力関係も非線形になる。例えば、出力層に123456789ロジスティック関数を用いた場合には出力は常 10に［0,1］の範囲に限定される。一方で逆伝播は 11微分により線形化するため、出力層から入力層に 12向かって誤差が伝播するにつれ、急速に小さくな 13り消失するか、大きくなり発散するかのいずれか 14となる。そのため重みの更新が困難になり学習が 15うまくいかないという勾配消失問題が指摘されて 16いた。

17

しかしながら教師なし学習手法である制約ボル 1819 形結合は再び線形になるため、多層化する恩恵がツマンマシンや自己符号化器（オートエンコー 1921 ぞれ入力層と隠れ層の活性に係る重みとバイアスとに行い、層を積み重ねて、最後にニューラル 2120 受けられない。

、と、はそれ22 である。図 5 の通り、入力データが非線形に変換23 されて隠れ層、出力層へと順方向に伝播するモデダー）を用いた事前学習（pre‑training）を層ご 20
ネットワーク全体の学習を誤差逆伝播法で行う解 22決手法が提案された 10‑11）。制約ボルツマンマシン 2324 ルとなっている。このモデルは原理上、十分に多も自己符号化器も主成分分析と同じようにデータ 2426 数を近似できることが示されている 。

れらを積み重ねることで、圧縮した表現をさらに 2625 くのノードを持つ層が一つあれば、任意の連続関8）

このような隠れ層を持つ順伝播型のニューラル

2728を圧縮した表現を学習する構造になっている。そ 25
圧縮し、抽象化していくことで学習を進めてい 27
る。これらの解決手法やさらに改良を加えた深層 28
学習によって画像認識、音声認識、自然言語処理 2929などの高次元空間にデータが存在するような場面 3030で他の機械学習の手法を圧倒する高い性能を示し 3131ている 5‑7）。ただし、深層学習を用いてネットワー 3232クを構成するには、中間層の数やユニット数、各 3333

層の活性化関数等の制御すべきパラメータが膨大 3434になるため、解くべき問題に合った構造のネット 3535

ワークを熟慮しなければならない。

36374．実証分析

38363738393940

本章では、本稿で提案した深層学習を用いたカ 40

オス時系列解析によるテクニカル分析の有効性の 4141
図 5．順伝播型ニューラルネットワーク

424

検証を行う。具体的には、（1）カオス時系列解析 42

テクニカルアナリストジャーナル

2017.6NTAA JOURNAL 2017.6

1
234
5678910の枠組みに従って時系列データを高次元空間へ埋め込み、（2）高次元空間上へ埋め込んだアトラクタを深層学習で再現する。ただし先に述べた通り、深層学習のネットワークの構造はアトラクタを近似するような構成を考える必要がある。本稿ではアトラクタの近似に適切であると考えられるネットワーク構造を提案する。そして、（3）再現されたアトラクタを用いてシグナルを日々作成し、予測を行う。

分析対象は日経平均株価指数（NKY Index）の

11 終 値 で あ り、 対 象 期 間 は 1970 年 1 月 初 か ら

12 2016 年 11 月末（営業日ベース）までである。学（1）カオス時系列モデル推定
先行研究4）

1で指摘されている高次元カオス性をとられるため埋め込み次元を 5、そして遅れ時間を、週次を意味する 5 として日経平均株価指数の埋め込みを行う。埋め込みにあたっては対数化や収益率への変換は行わない。そして埋め込んだ
5 次元空間上で深層学習を用いてアトラクタの学習を行う。

埋め込み次元

ト数が23456789（2）深層学習のネットワーク構成

10に対して、入力層のユニッ 11、ユニット数が12の中間層が 10 層、出力層のユニット数が 1313 習期間が 1970 年 1 月初から 2006 年 12 月末まで、
14 テスト期間が 2007 年 1 月初から 2016 年 11 月

Vol.4となるように深いニューラルネットワーク 1415 末までである。以上を用いてシグナルによる上下を構成した。当該構成では、入力層は 5 次元のベ 1517 買した場合のパフォーマンスの両方を評価する。

り、この 1 入力に対して、中間層の16 予想の精度と、当該シグナルに基づき仮想的に売クトルを 1 つの入力単位として割り当てられてお 1618 データは情報端末である Bloomberg から取得しユニットが個別に割り当てられている。そして中 1820 分析は Python 上で行った。具体的な分析手順は層の活性化関数は式 6 の ReLU 関数を用いた。こ 2019 た。また深層学習は Chainer
21 以下の通りである。

を使用して実装し、12）個の 17間層間は全ノード結合により接続されている。各 19の構成では 1 日先ではなく、遅れ時間先の時点の 2122株価を予測する。直感的には、入力層の入力単位 22232324242525262627272828292930303131323233333434353536363737383839394040414142

図 6．アトラクタの再現に用いたネットワークの構造
日本テクニカルアナリスト協会

2017.6425

Technical Analysts Journal

1234をアトラクタ上の 1 つのベクトル（5 次元）として、それを埋め込み次元と同じだけ用意し、アトラクタ上の次の時点のベクトルを予測させる構造である。具体的な構成は図 6 の通り。

以上の構成を持つネットワークを 1970 年 1 月

56789

初から 2006 年 12 月末までを学習期間として学習させる。その際、学習期間の日経平均株価指数を［0,1］の範囲に基準化を行う。学習は自己符号化法を用いて各層ごとに誤差逆伝播法を行い、重10 みの初期値を事前学習したあと、当該初期値を用11 いて全体を誤差逆伝播法で学習する。なお、今回12 は 2006 年 12 月末以降使用可能なサンプルが増
13 えてもネットワークの再学習を行わなかった。
1415 （3）シグナルの作成なった。これは学習期間中に存在しないアトラクタの構成が出現したことで学習モデルでは予測できず精度が悪化したと考えられる。テスト期間全体におけるシグナルは、上昇が 54%、下落が 46%であるに対して、予測されたシグナルは、上昇予測が 57%、下落予想が 43% と極端なシグナルの偏りは確認できなかった。また、テスト期間全体の株価が 13,163 円、5 日間のボラティリティが3.7% であるので、5 日分の変動は 487 円程度で23456789ある。表 1 の二乗誤差平均から、予測された 5 日 10後の株価自体の水準は通常の 5 日分の変動よりは 11狭いレンジで予測できている。

12

表 2 がシグナルに基づき、シグナルの発生した 13翌日の終値で日経平均株価を買いあるいは売りを 1415学習したアトラクタを用いて、当日の終値まで16117 を［0,1］の範囲に基準化して入力層に与え、出

表 1．日経平均株価の予測結果

18 力された出力値（すなわち 5 営業日後の株価）が16171819 本日の株価と比較して上昇していれば買い、下落1920 していれば売りのシグナルを日次で得る。

20212122 （4）分析結果

22

学習したアトラクタを用いて出力された予測値

232324 と 5 営業日後の実測値との符号一致率と、予測2425 値と実測値との二乗誤差平均が表 1 である。直近

2526 5 年では 60%、全期間でも 57% という高い予測

2627 精度である。ただし、リーマンショックのあった

2728 2008 年については正答率が 50% を下回る結果と28292930

表 2．シグナルに基づく売買結果

313031323233333434353536363737383839394040414142426

テクニカルアナリストジャーナル

2017.6NTAA JOURNAL 2017.6

123456789行い、予測した 5 営業日後にポジションを閉じるという仮想的な売買を行った結果である。リターン、標準偏差、シャープレシオはそれぞれ年率換算している。またレバレッジがかからないように 1 回あたりの売買単位を 1/5 にしているが、売買コストは考慮していない。表 1 の予測結果が良好な年ほど売買結果も良好となっている。全体としても年度のリターンがマイナスとなったのは2008 年以外にはなく、さらにシャープレシオも10 1.8 と良好な結果となった。
1112 5．まとめ

Vol.4

は三井住友アセットマネジメントおよび日興グ
ローバルラップとしての見解をいかなる意味でも表しません。

1234＜参考文献＞

51） 鈴木智也（2014）｢決定論的時空間テクニカル分析｣，『テクニカルアナリストジャーナル』，Vol.16782） F. Ta k e n s ( 1 9 8 1 ) “ D e t e c t i n g s t r a n g e

9attractors in turbulence”, ʻDynamical systems 10and turbulenceʼ, pp366‑381

11『カオス時系列解析の基礎と応用』，産業図書

133） 合原一幸，池口徹，山田泰司，小室元政（2000） 1213
本論文ではカオス時系列解析の枠組みのもと深4） J. Ramsey, C. Sayers, and P. Rothman (1990) 1416 を行った。カオス時系列解析では、高次元空間上

calculations using small data sets: Some 16

1415 層学習を組み合わせたテクニカル分析手法の提案

17 でのアトラクタの再現（関数近似）が予測には必18 須である。日経平均株価を用いた実証分析の結果、
19 この関数近似に深層学習を用いることで、カオス
20 時系列解析による予測は高い予測力と収益性を持21 つことを持つことが確認できた。
22

さ ら な る 発 展 と し て、 今 回 は 2006 年 12 月

23 末以降サンプル数が増えても追加の学習を行わ“The Statistical properties of dimension 15
economic applicat ions”, ʻInternat ional 17
Economic Reviewʼ31, pp991‑1020

185） A. Krizhevsky, I. Sutskever,and G. Hinton 19(2012) “Imagenet classification with deep 20
convolutional neural networks” ʻIn Advances 21
in neural information processing systems 22
pp1097‑1105

2324 ず、学習モデルを変更しなかった。そのため新た

6） F. Seide, G. Li, and D. Yu (2011) “Conversa‑ 24

26 ライン学習や都度ネットワークを再度学習し直す

Dependent Deep Neural Networks” ʻIn 26

25 なデータが入手可能になり次第逐次学習するオン
27 などの学習方法でさらなる精度向上が可能かどう

tional Speech Transcription Using Context‑ 25Interspeechʼ, pp437‑440

2728 か検討する。加えて、アトラクタの再現という問

7） R. Socher, J. Pennington, H. Huang Y. Ng 28

30 させることが挙げられる。例えば、時系列構造をrecursive autoenco ders for predict ing 30

29 題に合わせたかたちで深層学習の構造をより洗練

31 考慮することができると言われている Recurrent
32 Neural Network（RNN）

や Long Short‑Term、アトラクタの幾何学的な構造
33 Memory（LSTM）

34 をとられるために画像認識の分野で精度が確認さ35 れ て い る Convolutional Neural Network（CNN）
36 等を用いることが考えられる。
3738 謝39

and D. Manning (2011) “Semi‑supervised 29
sentiment distributions” ʻIn Proceedings of 31
the Conference on Empirical Methods in 32
Natural Language Processingʼ, pp151‑161338） G. Cybenko (1989) “Approximation by 34
superpositions of a sigmoidal function” 35ʻMathematics of control, signals and systemsʼ 362(4), pp 303‑314

辞本論文の執筆にあたって、三井住友アセットマ

40 ネジメントおよび日興グローバルラップのクオン
41 ツチームの皆さまには有意義な議論をさせて頂き

42 深く感謝いたします。なお、ここで示された内容

379） D. Rumelhart, G. Hinton, and R. Williams 38(1988) “Learning representations by back‑ 39
propagating errors” ʻCognitive modelingʼ5(3)4010）G. Hinton, S. Osindero, and Y. Teh (2006) “A 41fast learning algorithm for deep belief nets” 42

日本テクニカルアナリスト協会

2017.67

Technical Analysts Journal

ʻNeural computationʼ18(7), pp1527‑15541211）Y. Bengio, P. Lamblin, D. Popovici, andH. Larochelle (2007) “Greedy layer‑wise

3training of deep networks” ʻAdvances in4

neural information processing systemsʼ19512）S. Tokui, K. Oono, S. Hido, and J. Clayton(2015) “Chainer: a Next‑Generation Open
Source Framework for Deep Learning” ʻIn

Neural Information Processing Systems(NIPS)ʼ

6789101112131415123456

プロフィール中川 慧2012 年京都大学経済学部卒。同年ニッセイアセットマネジメン
ト入社。2014 年より三井住友アセットマネジメントにてクオンツファンドマネージャーを務める。
2016 年 10 月より日興グローバルラップ株式会社へ出向し、クオンツアナリストを務める。2015年筑波大学ビジネス科学研究科修了（経営学）。

プロフィール

今村 光良

2014 年北陸先端科学技術大学院大学修了 ( 情報科学 )。同年日本
ヒューレットパッカード株式会社( 現 : 日本ヒューレットパッカードエンタープライズ株式会社 ) に入社。その後、日本マイクロソフト株式会社にてネットワークエンジニアを務め、現在日興グローバ
ルラップ株式会社のクオンツアナリストを務める。

78910111213
1415161617171818191920202121222223232424252526262727282829293030

313132

32

33

33

3434

3535

36

36

37

37

38

38

393940

40

4141

42

42
8

テクニカルアナリストジャーナル

2017.6