【pandas】気象データで遊んでみた♬

今年は異常な暑さだということで、気象データいじって何か出てこないかなということで、ググってみると、以下の記事があった。
【参考】
・[あまりに暑いので，140年分の気温をProphetで分析した](https://qiita.com/haltaro/items/9c68f0914677bb3a629c)

最近よく聞くpandasを使ってデータ整理しているので、興味を持った。
また、できれば気温を単純にLSTMしてみようかと考えていたので、ちょうどいい題材だ。
###やったこと
（１）気温と雨量の取得
（２）平均と積算；最高気温の年変化と経年変化、雨量との関係
（３）ちょっと考察、。。
###（１）気温と雨量の取得
もうここは以下のようなコードで上記参考のとおりに実施しました。
[過去の気象データ・ダウンロード](https://www.data.jma.go.jp/risk/obsdl/index.php)

```py
read_path = 'data/'
data_ave = pd.DataFrame()
with codecs.open(read_path+"data_1878.csv", "r", 
                     "Shift-JIS", "ignore") as f:
    data2 = pd.read_table(
            f, delimiter=",", skiprows=5, index_col=0, 
            usecols=[0, 1, 4])
data2.index = pd.RangeIndex(start=0, stop=len(data2), step=1)
print(data2)

data_ave = data2
data_ave.columns = ['temp', 'rain']

plt.figure(num=None, figsize=(30, 15), dpi=60)
print('Plotting Results')
plt.subplot(2, 1, 1)
plt.plot(data_ave['temp'])
plt.subplot(2, 1, 2)
plt.plot(data_ave['rain'])
plt.pause(3)
plt.savefig('plot_epoch_{0:03d}_temp.png'.format(1878), dpi=60)
plt.close()
```
以下は、上段が１８８８年から１０年間の最高気温と下段が日雨量です。
![plot_epoch_1878_temp.png](https://qiita-image-store.s3.amazonaws.com/0/233744/5d99455b-1ef5-3232-192b-4e2350c54c1e.png)

これを１８７８年から２０１８年まで１０年ごとにまとめて取得しました。
そして、このデータを処理することになります。
###（２）平均と積算；最高気温の年変化と経年変化、雨量との関係
しかしPandasの初心者には結構厳しい。。。
まず、全体の推移は以下のようになっていて、参考記事の結果と同じく、最高気温の経年変化は徐々に増加しているようです。。一方雨量も少し増えているかな。
![plot_epoch_all_data_temp.png](https://qiita-image-store.s3.amazonaws.com/0/233744/e72e1c75-2aa1-39c8-6500-6f8ef0feb09a.png)

ということで、ほんとにそうなっているか、１０年分くらいずつ平均して変化を分析したいところですが、隣り合った年の平均は取りずらい。。

ということで、[リンクのコードで](https://github.com/MuAuan/pandas/blob/master/read_temp.py)１０年を束にして全体の平均をとって、一年の経年変化を重ねて描いてみました。
![plot_epoch_data_ave_mon1_temp.png](https://qiita-image-store.s3.amazonaws.com/0/233744/08ba27fc-042a-25dd-56ce-33a912bf609f.png)
そして、これを平均したのが以下の結果です。
つまり１４０年の平均です。
![plot_epoch_data_ave_mon2_temp.png](https://qiita-image-store.s3.amazonaws.com/0/233744/8f89547c-eac4-cda1-5a31-0942a2f99006.png)
この図も結構な情報があります。
つまり、事実として
・夏至からひと月以上ピークがずれている
・秋と梅雨に気温が低めな季節がある
・秋は梅雨よりも雨量が多いようだ
・雨季から乾季への変化が急激に起きている
・夏季と冬季は雨量が少ない
などなど、。。。

しかし、上記の気温のここ１４０年の変化をきちんととらえるために、やはり１０年毎の平均の経年変化を取りたくて、[リンク先のコード](https://github.com/MuAuan/pandas/blob/master/read_temp2.py)で再集計してみた。
結果は以下のとおり、。。。
![plot_epoch_2008_allpandas_year.png](https://qiita-image-store.s3.amazonaws.com/0/233744/d95f6c5f-edb5-c17a-1e80-c77ea7ca7243.png)
残念ながら、それぞれの年度の線が識別できなかった。
しかし、寄せ集めながら、上記の１４０年の平均を先にやって、１０年の平均をとったものと比較すると、若干線が太くなっており、これがあの数度の経年変化を示しているようだ。この様子はおまけに示した図を丁寧に見ればどのように経年変化しているか見える。
###（３）ちょっと考察、。。
そもそも年変化の説明として妥当なのはなんなの？？
よくQAとかでは、海の水がというのがあって、熱容量の問題だと思えば、それはそうかもなあ～というところ。。。それではほんとに海水温はそうなっているのか？？
![kaisuion.jpg](https://qiita-image-store.s3.amazonaws.com/0/233744/d8f9d79b-92a4-77fd-3849-fa22099ab308.jpeg)

上記は神奈川県水産技術センターが公開しているデータとのことで、かなり同じような推移してますね。
しかし、これは水温と最高気温がほぼ比例しているということであって、ほんとうの理由とはいいがたいと思います。なにせ、非線形すぎる。。。むしろ降水量が効いてるんではないか。。。日照時間や湿度というか大気中の水分量とか。。そもそも大気のマクロ運動。。つまり赤道と極地方の大気の大移動。。[偏西風蛇行](http://www.cokbee.com/weather/jetout.htm?n&xn/xn180725.gif)（その逸脱版の[寒冷渦](https://ja.wikipedia.org/wiki/%E5%AF%92%E5%86%B7%E4%BD%8E%E6%B0%97%E5%9C%A7)）や台風や。。。エルニーニュ。。。[マッデン・ジュリアン振動](https://ja.wikipedia.org/wiki/%E3%83%9E%E3%83%83%E3%83%87%E3%83%B3%E3%83%BB%E3%82%B8%E3%83%A5%E3%83%AA%E3%82%A2%E3%83%B3%E6%8C%AF%E5%8B%95)
いずれにしても、単純な高層圏の不活性ガスやオゾンや水蒸気などだけの問題ではないだろう。。

そもそも太陽活動が一番効いてくるはずで、そういうことを考慮して一番メジャーな影響要素を見つけるのが正しい方向性だと思う
###まとめ
・気温と降水量を取得してpandasで遊んでみた
・１４０年間を見ると、最高気温の年変化は上昇しているように見える
・平均すると、年平均の変化が綺麗に得られた

・pandasでのデータ取り回しやPlotが今一つ自由じゃない
・LSTMでの予測ができていない

【参考】pandas
・[Python pandas プロット機能を使いこなす](http://sinhrks.hatenablog.com/entry/2015/11/15/222543)
・[pandasのplotメソッドでグラフを作成しデータを可視化](https://note.nkmk.me/python-pandas-plot/)
###おまけ
![1878-2008.gif](https://qiita-image-store.s3.amazonaws.com/0/233744/9204c0b8-7fac-d1f7-e629-274f1ae1e454.gif)