TensorFlowを投資につかうまで 衝撃のサンプル編 (2)

#前置き
衝撃のサンプルとはGoogle公式の以下です。
[財務時系列データを使用した機械学習](https://cloud.google.com/solutions/machine-learning-with-financial-time-series-data)

まだ機械学習まで到達できませんが、とても勉強になりました。
ひきつづき学習用データの作成を行っていきます。

#前回のコード

```python:study.py
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt

# ダウンロードしてきたやつ
INDEIES = ["N225",  # Nikkei 225, Japan
           "HSI",   # Hang Seng, Hong Kong
           "GDAXI", # DAX, German
           "DJI",   # Dow, US
           "GSPC",  # S&P 500, US
           "SSEC",  # Shanghai Composite Index (China)
           "BVSP"]  # BOVESPA, Brazil
def study():
    closing = pd.DataFrame()
    for index in INDEIES:
        # na_valuesは文字列"null"のとき空として扱う CSVみるとnullって書いてあります。
        df = pd.read_csv("./data/" + index + ".csv",na_values=["null"])
        df["Date"] = pd.to_datetime(df["Date"])
        closing[index] = df["Close"]
    closing = closing.fillna(method="ffill")
    print(closing.describe())
    #グラフ表示
    closing.plot()
    plt.show()
if __name__ == "__main__":
    study()
```

#学習させる前にデータの整理と確認が必要の続き

前の記事でデータを集めてグラフを表示するところまで行いました。
まだまだデータを整えていきます。

##絶対値がインデックスにより違うのでそろえる
![Figure_1.png](https://qiita-image-store.s3.amazonaws.com/0/198768/3c904471-7195-be63-72ea-c0da1d888e34.png)
BVSP(ピンク)の絶対値が大きくGSPC(紫)はもはやどう動いているのかわかりません。
単純に各インデックスの最大値で全部割ってしまいます。

グラフ表示前に以下を追加。

```python:study.py
    for index in INDEIES:
        closing[index] = closing[index] / max(closing[index])
```

![Figure_2.png](https://qiita-image-store.s3.amazonaws.com/0/198768/4b251060-2bb6-3b6f-e99d-c66adf6adf89.png)

インデックスがすべて0から1の間に収まり比較しやすくなりました。
だいたい同じような動きをしてそうですがSSECはあんまり関係なさそうな感じ。
これを正規化（normalization）というらしいです。
上がるか下がるかの判断にN225は10000円程度とかDJIは同じく10000位とかの情報はいらないということですね。

##各インデックスで前のデータがどれだけ似ているかみる

```python:study.py
from pandas.plotting import autocorrelation_plot

    fig = plt.figure()
    fig.set_figwidth(20)
    fig.set_figheight(15)
    for index in INDEIES:
        autocorrelation_plot(closing[index])
    plt.show()
```

![Figure_4.png](https://qiita-image-store.s3.amazonaws.com/0/198768/f6423bdc-6f5e-7cf2-72d8-4ac0f670a34a.png)

横軸がデータをさかのぼった数で縦軸は1がほとんど同じ動きで-1がほとんど真逆の動き。
すべて1から始まっているので１個前（１日前）のデータは当日のデータとすごい似ている
驚愕のサンプルは直前のデータはすごく似ているから大丈夫だね！でおわっています。

よくわからないので単純なsin波も同様にやってみます。
sin(0.2 * i * π)　iは0から40です。

![sin.png](https://qiita-image-store.s3.amazonaws.com/0/198768/717bacbd-e59d-ae7c-9987-752d6fb6379a.png)

比較してわかることは
急激にさがっているインデックスは上下の激しい動きをする。
ゆるやかにさがっているインデックスはトレンドがながい。
０に収束していくので過去になるほど関係なくなる。

ということかしら。
似ている度合を相関(correlation)と呼び、１つの時系列データにおこなったものは自己相関というらしいです。

##２つインデックスがどれだけ似ているか（相関があるか）見てみる。
縦軸、横軸を２つのインデックスにし散布図を作成します。
似た動きをしている場合は線に近くなり、近くない場合はもわーと雲みたいになり視覚的にとらえられるそうです。

```python:study.py
from pandas.plotting import scatter_matrix

    scatter_matrix(closing, figsize=(20, 20), diagonal='kde')
    plt.show()
```
![無題.png](https://qiita-image-store.s3.amazonaws.com/0/198768/8fb44593-1ca8-3770-c316-37af54327646.png)

うん　GSPCとDJIがかなり似ているのはわかるんですがN225に近いのはDJIあたりでBVSPはN225とはあんまり関係なさそうってことかしら。
まだデータの整理が必要なんだそうです。
この図は散布図行列というそうです。

##１個前のデータとの差分のLogを取る
参考 : [収益率の代わりに対数差分を用いられる理由](http://studysummary.hatenablog.com/entry/2016/02/26/110704)

logged returnsと書いてありますが、対数差分？というそうです。
なんでですの？という所なんですが以下の理由があるそうです。
元の言葉は意味わからなすぎるので自分なりに把握した言葉にすると

1. 後の利益率の計算が簡単
2. 値動きの大きさによる影響を小さく
3. トレンドの情報をなくす

1はのちのちつかうかもってことで、2,3に関してはなるべくsin波みたいに綺麗にしたいってことだと思います。
差を取ってlog取るだけなので計算は簡単です。
正規化した個所に１行追加します。

```python:study.py
    for index in INDEIES:
        closing[index] = closing[index] / max(closing[index])
        closing[index] = np.log(closing[index] / closing[index].shift()) # << これ
```
またグラフで見てみます。
closingをそのままグラフにしたもの
![ttt.png](https://qiita-image-store.s3.amazonaws.com/0/198768/89165a80-cff3-293b-f656-c846cf40820c.png)
なるほど!　わからん。

自己相関　
![sdf.png](https://qiita-image-store.s3.amazonaws.com/0/198768/c22a9526-7862-ede7-56fb-dc8cd1a34985.png)
自己相関なくなっちゃった！

散布図行列　
![dddds.png](https://qiita-image-store.s3.amazonaws.com/0/198768/364b4de0-a9d6-b30d-b72d-8e56b6c1a762.png)
N225みるとなんか相関ありそうなのなくなっちゃんだけど大丈夫?大丈夫?

コードは以下の様になりました。

```python:study.py
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt
from pandas.plotting import autocorrelation_plot
from pandas.plotting import scatter_matrix
# ダウンロードしてきたやつ
INDEIES = ["N225",  # Nikkei 225, Japan
           "HSI",   # Hang Seng, Hong Kong
           "GDAXI", # DAX, German
           "DJI",   # Dow, US
           "GSPC",  # S&P 500, US
           "SSEC",  # Shanghai Composite Index (China)
           "BVSP"]  # BOVESPA, Brazil
def study():
    closing = pd.DataFrame()
    for index in INDEIES:
        # na_valuesは文字列"null"のとき空として扱う CSVみるとnullって書いてあります。
        df = pd.read_csv("./data/" + index + ".csv",na_values=["null"])
        df["Date"] = pd.to_datetime(df["Date"])
        df = df.set_index("Date")
        closing[index] = df["Close"]
    #空の部分は古いので埋める。
    closing = closing.fillna(method="ffill")
    print(closing.describe())
    for index in INDEIES:
        closing[index] = closing[index] / max(closing[index])
        closing[index] = np.log(closing[index] / closing[index].shift())
    #グラフ表示
    closing.plot()
    plt.show()

    #自己相関
    fig = plt.figure()
    fig.set_figwidth(20)
    fig.set_figheight(15)
    for index in INDEIES:
        autocorrelation_plot(closing[index], label=index)
    plt.show()

    #散布図行列
    scatter_matrix(closing, figsize=(20, 20), diagonal='kde')
    plt.show()
if __name__ == "__main__":
    study()
```

次に続きます。てかpython pandas matplotlibってすごい

前 [TensorFlowを投資につかうまで 衝撃のサンプル編 (1)](http://qiita.com/verizi/items/2685ed83b69a6830848e)
次 [TensorFlowを投資につかうまで 衝撃のサンプル編 (3)](http://qiita.com/verizi/items/bfc88efc413f45d88f0e)