【dqn】カオスな運動を深層強化学習する♬～たぶん過誤。。。

いよいよカオスな運動を深層強化学習してみました。

###やったこと
（１）Pendulumの深層強化学習
（２）カオスなDuffing振動子の深層強化学習
（３）カオスなLorenz方程式の解の深層強化学習
（４）ちょっと考察
###（１）[Pendulumの深層強化学習](https://github.com/MuAuan/dqn/blob/master/dqn_Pendulum.py)
※コードは見出しからリンクしてます

```
Training for 9600 steps ...
Interval 1 (0 steps performed)
 9600/10000 [===========================>..] - ETA: 5s - reward: 67.6096done, took 135.389 seconds
Testing for 5 episodes ...
Episode 1: reward: 34889.989, steps: 240
Episode 2: reward: 34889.989, steps: 240
Episode 3: reward: 34889.989, steps: 240
Episode 4: reward: 34889.989, steps: 240
Episode 5: reward: 34889.989, steps: 240
Testing for 10 episodes ...
Episode 1: reward: 34889.989, steps: 240
Episode 2: reward: 34889.989, steps: 240
Episode 3: reward: 34889.989, steps: 240
Episode 4: reward: 34889.989, steps: 240
Episode 5: reward: 34889.989, steps: 240
Episode 6: reward: 34889.989, steps: 240
Episode 7: reward: 34889.989, steps: 240
Episode 8: reward: 34889.989, steps: 240
Episode 9: reward: 34889.989, steps: 240
Episode 10: reward: 34889.989, steps: 240
```
plot_x-p_pendulum
![plot_x-p_pendulum.png](https://qiita-image-store.s3.amazonaws.com/0/233744/5d992ec8-e2d0-2ee0-f668-5847217668af.png)
![plot_epoch_9600_pendulum_dqn.png](https://qiita-image-store.s3.amazonaws.com/0/233744/60feb0c6-f565-a542-3822-d7ccb2a7fdb0.png)
![plot_epoch_9600_pendulum_obvs&original.png](https://qiita-image-store.s3.amazonaws.com/0/233744/c9376368-4bdc-344a-a86f-e8b8aee959b8.png)
###（２）[カオスなDuffing振動子の深層強化学習](https://github.com/MuAuan/dqn/blob/master/dqn_Duffing.py)
※コードは見出しからリンクしています

```
Training for 9600 steps ...
Interval 1 (0 steps performed)
 9600/10000 [===========================>..] - ETA: 5s - reward: 39.9779done, took 126.762 seconds
Testing for 5 episodes ...
Episode 1: reward: 11182.445, steps: 240
Episode 2: reward: 11182.445, steps: 240
Episode 3: reward: 11182.445, steps: 240
Episode 4: reward: 11182.445, steps: 240
Episode 5: reward: 11182.445, steps: 240
Testing for 10 episodes ...
Episode 1: reward: 11182.445, steps: 240
Episode 2: reward: 11182.445, steps: 240
Episode 3: reward: 11182.445, steps: 240
Episode 4: reward: 11182.445, steps: 240
Episode 5: reward: 11182.445, steps: 240
Episode 6: reward: 11182.445, steps: 240
Episode 7: reward: 11182.445, steps: 240
Episode 8: reward: 11182.445, steps: 240
Episode 9: reward: 11182.445, steps: 240
Episode 10: reward: 11182.445, steps: 240
```
![plot_epoch_9600_Duffing_dqn (1).png](https://qiita-image-store.s3.amazonaws.com/0/233744/994f5452-fd8f-f7ff-386d-9cc5c8541eaa.png)
![plot_epoch_9600_Duffing_obvs&original (1).png](https://qiita-image-store.s3.amazonaws.com/0/233744/db64a819-4d98-1393-ca58-5ecc7f2196e7.png)
###（３）[カオスなLorenz方程式の解の深層強化学習](https://github.com/MuAuan/dqn/blob/master/dqn_Lorenz.py)
※コードは見出しからリンクしています

```
Training for 9600 steps ...
Interval 1 (0 steps performed)
 9600/10000 [===========================>..] - ETA: 5s - reward: -27.8420done, took 140.154 seconds
Testing for 5 episodes ...
Episode 1: reward: 0.000, steps: 240
Episode 2: reward: 0.000, steps: 240
Episode 3: reward: 0.000, steps: 240
Episode 4: reward: 0.000, steps: 240
Episode 5: reward: 0.000, steps: 240
Testing for 10 episodes ...
Episode 1: reward: 0.000, steps: 240
Episode 2: reward: 0.000, steps: 240
Episode 3: reward: 0.000, steps: 240
Episode 4: reward: 0.000, steps: 240
Episode 5: reward: 0.000, steps: 240
Episode 6: reward: 0.000, steps: 240
Episode 7: reward: 0.000, steps: 240
Episode 8: reward: 0.000, steps: 240
Episode 9: reward: 0.000, steps: 240
Episode 10: reward: 0.000, steps: 240
```
Lorenz_xt
![plot_epoch_9600_Lorenz_xt_dqn.png](https://qiita-image-store.s3.amazonaws.com/0/233744/f6e0d803-bf9d-3b4e-422f-0667f1dba08f.png)
Lorenz_xt_obvs&original
![plot_epoch_9600_Lorenz_xt_obvs&original.png](https://qiita-image-store.s3.amazonaws.com/0/233744/29e1fb3f-bb1f-531b-5425-4c7c7dc05bdf.png)
Lorenz_yt
![plot_epoch_9600_Lorenz_y_dqn.png](https://qiita-image-store.s3.amazonaws.com/0/233744/91f5c3b0-25c3-6735-38ae-1b5f2ac89e31.png)
Lorenz_yt_obvs&original
![plot_epoch_9600_Lorenz_y_obvs&original.png](https://qiita-image-store.s3.amazonaws.com/0/233744/fe4169ec-5dd8-47a1-e549-6bc75a30befa.png)
Lorenz_zt
![plot_epoch_9600_Lorenz_z_dqn.png](https://qiita-image-store.s3.amazonaws.com/0/233744/791b10ae-c053-e2c9-8d39-af1128524e44.png)t
Lorenz_zt_bvs&original
![plot_epoch_9600_Lorenz_z_obvs&original.png](https://qiita-image-store.s3.amazonaws.com/0/233744/cab57493-f2ae-1936-d61d-f6b9380c36a4.png)

plot_xy
![plot_xy.png](https://qiita-image-store.s3.amazonaws.com/0/233744/0746a00f-22fc-4f34-d2db-1ce40724b44c.png)
plot_yz
![plot_yz.png](https://qiita-image-store.s3.amazonaws.com/0/233744/3d023ffb-3b4f-37c5-9261-ee2e098b26a3.png)
plot_zx
![plot_zx.png](https://qiita-image-store.s3.amazonaws.com/0/233744/a28d1cbd-b92b-0b6e-f263-b92fa631b9e8.png)
###ちょっと考察
今回の特徴は無茶苦茶Testの結果がいいということである。
もちろん、Cartpoleは初期値こそ違うので一応運動学習をしたといえるけど、それでもその後の運動はほぼ一緒なのでそれもTest結果がよかった。

しかし、今回の自由な運動やカオスな運動のTestは初期値も同じだし、その後の動きも一緒なのでいわゆる学習データで検証しているようなものである。
ということでそれではそのパラメータを用いて未知の初期値を予測するとどうなるのかということに興味がわく。

ということで、パラメータをzvsｔのデータで学習し、その後 x vs. t やy vs. tに適用する
コードは以下を追加した。

```
# After training is done, we save the final weights.
dqn.save_weights('dqn_{}_weights.h5f'.format(ENV_NAME), overwrite=True)
```
zvs.tの学習
![plot_epoch_9600_Lorenz_z_dqn.png](https://qiita-image-store.s3.amazonaws.com/0/233744/aaf6ed71-6ec3-9152-f2d5-50f7324a0a8f.png)
このときのパラメータを使って、xvs.tのデータで、しかも学習なしでdqn.testをやってみました。

```PY
dqn.load_weights('dqn_{}_weights.h5f'.format(ENV_NAME))
# トレーニングを開始。同じ正弦曲線を9600 = 240 x 400回 回す。
#histry = dqn.fit(env, nb_steps=9600, visualize=False, verbose=1)
# After training is done, we save the final weights.
#dqn.save_weights('dqn_{}_weights.h5f'.format(ENV_NAME), overwrite=True)
# トレーニング結果を確認
dqn.test(env, nb_episodes=5, visualize=False)
```
以下のように大きなrewardが得られました。

```
Testing for 5 episodes ...
Episode 1: reward: 317410.349, steps: 240
Episode 2: reward: 317410.349, steps: 240
Episode 3: reward: 317410.349, steps: 240
Episode 4: reward: 317410.349, steps: 240
Episode 5: reward: 317410.349, steps: 240
Testing for 10 episodes ...
Episode 1: reward: 317410.349, steps: 240
Episode 2: reward: 317410.349, steps: 240
Episode 3: reward: 317410.349, steps: 240
Episode 4: reward: 317410.349, steps: 240
Episode 5: reward: 317410.349, steps: 240
Episode 6: reward: 317410.349, steps: 240
Episode 7: reward: 317410.349, steps: 240
Episode 8: reward: 317410.349, steps: 240
Episode 9: reward: 317410.349, steps: 240
Episode 10: reward: 317410.349, steps: 240
Plotting Results
```
そして予測結果も以下のとおりほぼ完ぺきです。
![plot_epoch_9600_Lorenz_Xz_dqn.png](https://qiita-image-store.s3.amazonaws.com/0/233744/f2476339-bcee-ad34-f7ed-a1a4fd51673d.png)
![plot_epoch_9600_Lorenz_Xz_obvs&original.png](https://qiita-image-store.s3.amazonaws.com/0/233744/c064758b-c0d8-491b-893e-6c5c100614c6.png)
同じくyvs.tの学習を同じパラメータでやりました。今回は初期値を[0.1,0,0]から[0,10,20]へ
そして、区間も[0,48,240]から[48,96,240]へ変更して実施してみました。
その結果、以下のようにまたまた大きなrewardになりました。

```
Testing for 5 episodes ...
Episode 1: reward: 478383.841, steps: 240
Episode 2: reward: 478383.841, steps: 240
Episode 3: reward: 478383.841, steps: 240
Episode 4: reward: 478383.841, steps: 240
Episode 5: reward: 478383.841, steps: 240
Testing for 10 episodes ...
Episode 1: reward: 478383.841, steps: 240
Episode 2: reward: 478383.841, steps: 240
Episode 3: reward: 478383.841, steps: 240
Episode 4: reward: 478383.841, steps: 240
Episode 5: reward: 478383.841, steps: 240
Episode 6: reward: 478383.841, steps: 240
Episode 7: reward: 478383.841, steps: 240
Episode 8: reward: 478383.841, steps: 240
Episode 9: reward: 478383.841, steps: 240
Episode 10: reward: 478383.841, steps: 240
```

そして、以下のようにグラフもかなり良好な再現性となっています。
![plot_epoch_9600_Lorenz_Yz[0,10,20][48,96,240]_dqn.png](https://qiita-image-store.s3.amazonaws.com/0/233744/0c9f41d5-cca8-cc51-3974-444bb0f7b908.png)
![plot_epoch_9600_Lorenz_Yz[0,10,20][48,96,240]_obvs&original.png](https://qiita-image-store.s3.amazonaws.com/0/233744/85b5b9b7-802f-ea43-a5a2-adebaaa94b52.png)

結果が良すぎてかなり引っ掛かりますが、検証のやり方が思い浮かばないので今回はここまでにしたいと思います。
###まとめ
・カオスな運動の深層強化学習をやってみた
・フィッティングは通常の運動と同様綺麗に再現した。

・学習済パラメータを使って、同じLorenz方程式の未知データのフィッティングを実施したが、綺麗すぎる再現性を得た。
・今回示していないが、rewardが小さいのに再現する場合もあるのでどこか過誤がある

・本来model.predictから構成すべきだと考察されるので、初めに戻って再考察したいと思う
・dqnの学習とValidationについての知見がないのでさらに深堀して予言できるようにしたい