Pythonで一般ガウス状態空間モデル

# はじめに
状態空間モデルは時系列分析の１手法。時系列での変動を複数の成分に分解してモデリングできるため、解釈性が高い。近年、状態空間モデルについて分かりやすく解説している書籍が複数出版されている。

## この記事で解説しないこと
* 状態空間モデル、カルマンフィルターとは？
* RのKFAS、dlmでの実装
* statsmodelsの基本的な使い方

下記の参考書籍や解説記事を参照。

## この記事で解説すること
* statsmodelsのMLEModelを使って、自由に状態空間モデルを実装する方法
* 実装したモデルのサンプルデータへの適用

## 状態空間モデルの参考文献

1. [時系列分析と状態空間モデルの基礎: RとStanで学ぶ理論と実装](https://www.amazon.co.jp/%E6%99%82%E7%B3%BB%E5%88%97%E5%88%86%E6%9E%90%E3%81%A8%E7%8A%B6%E6%85%8B%E7%A9%BA%E9%96%93%E3%83%A2%E3%83%87%E3%83%AB%E3%81%AE%E5%9F%BA%E7%A4%8E-R%E3%81%A8Stan%E3%81%A7%E5%AD%A6%E3%81%B6%E7%90%86%E8%AB%96%E3%81%A8%E5%AE%9F%E8%A3%85-%E9%A6%AC%E5%A0%B4-%E7%9C%9F%E5%93%89/dp/4903814874/ref=sr_1_1?__mk_ja_JP=%E3%82%AB%E3%82%BF%E3%82%AB%E3%83%8A&keywords=%E7%8A%B6%E6%85%8B%E7%A9%BA%E9%96%93%E3%83%A2%E3%83%87%E3%83%AB&qid=1554681669&s=gateway&sr=8-1)
紹介する３冊の中で一番数式が少なく、平易に書かれている。とりあえず状態空間モデルのイメージをつかんで、Rで実装できるようになれば良い、という人におすすめ。RのKFASによる実装が中心だが、dlmにも触れている。

2. [基礎からわかる時系列分析 ―Rで実践するカルマンフィルタ・MCMC・粒子フィルター](https://www.amazon.co.jp/%E5%9F%BA%E7%A4%8E%E3%81%8B%E3%82%89%E3%82%8F%E3%81%8B%E3%82%8B%E6%99%82%E7%B3%BB%E5%88%97%E5%88%86%E6%9E%90-%E2%80%95R%E3%81%A7%E5%AE%9F%E8%B7%B5%E3%81%99%E3%82%8B%E3%82%AB%E3%83%AB%E3%83%9E%E3%83%B3%E3%83%95%E3%82%A3%E3%83%AB%E3%82%BF%E3%83%BBMCMC%E3%83%BB%E7%B2%92%E5%AD%90%E3%83%95%E3%82%A3%E3%83%AB%E3%82%BF%E3%83%BC-Data-Science-Library/dp/4774196460/ref=pd_sbs_0_1/356-7900534-8904633?_encoding=UTF8&pd_rd_i=4774196460&pd_rd_r=6cba9d2a-5991-11e9-b4dc-811bcb7ea7c6&pd_rd_w=hpZLR&pd_rd_wg=8TNR0&pf_rd_p=ad2ea29d-ea11-483c-9db2-6b5875bb9b73&pf_rd_r=PQSTK8PGCF3HMAA4XW95&psc=1&refRID=PQSTK8PGCF3HMAA4XW95)
ボリュームだっぷりの１冊。他の本には記載のないウィーナーフィルタなどにも触れている。コードがたっぷりで応用的なモデルの実装も学べる。Rのdlmライブラリを使用。

3. [カルマンフィルタ ―Rを使った時系列予測と状態空間モデル―](https://www.amazon.co.jp/%E3%82%AB%E3%83%AB%E3%83%9E%E3%83%B3%E3%83%95%E3%82%A3%E3%83%AB%E3%82%BF-%E2%80%95R%E3%82%92%E4%BD%BF%E3%81%A3%E3%81%9F%E6%99%82%E7%B3%BB%E5%88%97%E4%BA%88%E6%B8%AC%E3%81%A8%E7%8A%B6%E6%85%8B%E7%A9%BA%E9%96%93%E3%83%A2%E3%83%87%E3%83%AB%E2%80%95-%E7%B5%B1%E8%A8%88%E5%AD%A6One-Point-2/dp/4320112539/ref=pd_sim_0_3/356-7900534-8904633?_encoding=UTF8&pd_rd_i=4320112539&pd_rd_r=9b8a9003-5991-11e9-9e5c-3b7545c0d2f2&pd_rd_w=kyk9t&pd_rd_wg=rhkfr&pf_rd_p=b88353e4-7ed3-4da1-bc65-341dfa3a88ce&pf_rd_r=7Q1J7M8DSYWV6M0ZDF7G&psc=1&refRID=7Q1J7M8DSYWV6M0ZDF7G)
数式ベースでの解説が一番丁寧な一冊。タイトルの通り、カルマンフィルタの理解には一番おすすめ。粒子フィルタの解説もある。KFASのサンプルコードも載っている。

いずれも数式での解説からRのコードまで載っており、かなり参考になった。
一方で、最近は**Pythonでの実装**が求められることもあるのではないか。

Pythonで状態空間モデルというと**statsmodels**というライブラリが使われるが、いかんせん公式リファレンスの説明が少なすぎて、いまいち使い方が分かりづらい。
statsmodelsによる状態空間モデルの基本については、[こちらの記事](https://logics-of-blue.com/python-state-space-models/)に解説がある。

本記事ではstatsmodelsのもう少し発展的な使い方を解説する。



# statsmodelsによる一般ガウス状態空間モデル
一般ガウス状態空間モデルは下式で表される。
<更新予定>

一番基本的な状態空間モデルであるローカルレベルモデルは全ての係数行列が単位行列のモデル。
係数行列を適切に指定することで、トレンド成分モデル、周期成分モデルなど様々なモデルを表現することができる。
RのKFASやPythonのstatsmodelsでは、係数行列を直接指定してモデルを構築することができる。

ただし、基本的なモデルはもっと簡単に実装する方法が用意されている。


## UnobservedComponentsクラス
statsmodelsでトレンドや周期成分、回帰成分などを組み込んだモデルを実装する場合、基本的には[**UnobservedComponents**](https://www.statsmodels.org/dev/generated/statsmodels.tsa.statespace.structural.UnobservedComponents.html#statsmodels.tsa.statespace.structural.UnobservedComponents)というクラスを使う。


ただし、UnobservedComponentsでは、時変の係数を用いた回帰成分モデルが設定できない、複数の周期成分を組み込めない、既知の値で状態を初期化できないなど、モデリングの自由度は低い。

例えば、カルマンフィルタの利点は**逐次的な予測**ができることであり、実用上は**オンライン予測**を行うことも多いはず。その場合、まず一定期間のデータでカルマンフィルタを実行後、新たに得られたデータで再度フィルタリングを行うことになる。その際、前回のカルマンフィルタの最終時点の状態予測値に基づいて、次のフィルタリングに用いる状態の初期値や予測誤差分散を決定することになる。

ところが、UnobservedComponentsでは近似的な散漫初期化（簡単に言うと、初期状態についてまったく手がかりがないと考えること）がデフォルトになっており、**既知の値で初期化することができない**。
こうしたケースでは、MLEModelを使う必要がある。


## MLEModelクラス
自分で好きなモデルを設定する場合は、[公式リファレンス](https://www.statsmodels.org/stable/statespace.html)に説明がある通り、[**MLEModel**](
https://www.statsmodels.org/stable/generated/statsmodels.tsa.statespace.mlemodel.MLEModel.html?highlight=mlemodels)というクラスを使えば良い。
ローカル線系トレンドモデルの実装方法について、公式サイトに[解説](https://www.statsmodels.org/stable/examples/notebooks/generated/statespace_local_linear_trend.html)がある。ただし、このモデルの場合はUnobservedComponentsで実装できる。

ここでは、UnobservedComponentsでは実現できない下記２点を満たすモデルの実装を紹介する。

1. 回帰係数が時変の回帰成分モデル
2. 初期化の方法が選択可能

```python3:CustomizeMLEmodel.py
import numpy as np
import pandas as pd
import statsmodels.api as sm
import matplotlib.pyplot as plt

"""
Regression Model
"""
class StateSpaceRegression(sm.tsa.statespace.MLEModel):
    def __init__(self, endog, exog, initialization, initial_state=None, initial_state_cov=None):
        # Model order
        # k_state:  状態の次元
        # k_posdef: 過程誤差分散行列の次元
        k_states = k_posdef = 2

        # Initialize the statespace
        super(StateSpaceRegression, self).__init__(
            endog, exog=exog, k_states=k_states, k_posdef=k_posdef,
            initialization=initialization, initial_state=initial_state, initial_state_cov=initial_state_cov,
            loglikelihood_burn=k_states
        )

        # Initialize the matrices
        # 時間変化するdesign matirxで説明変数を表す。
        n_obs = len(exog)
        self.ssm['design'] = np.vstack((np.repeat(1, n_obs), exog))[np.newaxis, :, :]
        
        self.ssm['transition'] = self.ssm['selection'] = np.eye(k_states)

        # updateでself.ssmにstate_covの値をセットするために用いる
        self._state_cov_idx = ('state_cov',) + np.diag_indices(k_posdef)

    @property
    def param_names(self):
        return ['sigma2.measurement', 'sigma2.intercept', 'sigma2.coefficient']

    @property
    #  パラメータの最尤推定の際の初期値
    def start_params(self):
        return [np.std(self.endog)]*3

    def transform_params(self, unconstrained):
        return unconstrained**2

    def untransform_params(self, constrained):
        return constrained**0.5

    def update(self, params, *args, **kwargs):
        params = super(StateSpaceRegression, self).update(params, *args, **kwargs)
        
        # Observation covariance
        self.ssm['obs_cov',0,0] = params[0]

        # State covariance
        self.ssm[self._state_cov_idx] = params[1:]
```

ポイントは下記の通り。

1. k_state, k_posdef: 状態ベクトルと過程誤差分散行列の次元。目的変数（観測値）の次元はデータから推測されるので与える必要がない。
2. update: fitメソッドでパラメータを最尤推定する際に用いられる。パラメータを受け取り、適切な状態空間行列を設定する。
3. statespace matrices: デフォルトでは全ての行列がゼロ行列となっている。単位行列でないことに注意。時間変化する場合はupdateメソッドで設定する必要がある。self.ssmに格納されている。
4. start params: 分散パラメータの最尤推定の際の初期値
5. initialization: 状態ベクトルの初期分布の平均値と分散を設定する必要がある。初期分布が既知の場合はinitialize_known、不明の場合はinitialize_approximate_diffuse(近似的な散漫初期化)を用いる。
6. transform: デフォルトでは制約なしでパラメータ推定が行われるが、transform_paramsを設定することで、正値をとる分散のように制約付きのパラメータに変換することができる。
7. param_names: 推定するパラメータに名前をつけられる。


## 実データへの適用
上記3冊目の参考文献の[サポートサイト](https://sites.google.com/site/shunichinomu/home/kalmanfilter)から入手できるサンプルデータを使って実験した結果を載せる。

最初のプロットは実測値。$x$（オレンジ）を説明変数とした時変係数の回帰成分モデルで$y$（ブルー）を予測している。
２番目のプロットは水準成分、３番目のプロットは回帰係数を表している。
このデータの場合、期間後半になるほど回帰係数が増加傾向にあることが分かる。

![nintendo.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/132208/d918d07e-fe6c-bc70-0d1a-7a3e8938b50e.png)

コードはこちら。

```python3
nintendo = pd.read_csv('data/NINTENDO.csv', index_col=0, parse_dates=[0])
nikkei = pd.read_csv('data/NIKKEI225.csv', index_col=0, parse_dates=[0])

def scaler(s):
    return (s - s.mean()) / s.std()

endog, exog = scaler(nintendo.Close), scaler(nikkei.Close)

# 時変回帰係数のモデル
mod_reg = StateSpaceRegression(endog, exog, initialization='approximate_diffuse')

res_mod_reg = mod_reg.fit()
res_mod_reg.summary()

# 状態の一期先予測
mu_pred, beta_pred  = res_mod_reg.predicted_state
# 平滑化状態
mu_smoothed, beta_smoothed = res_mod_reg.smoothed_state


fig, axes = plt.subplots(3, 1, figsize=(8, 8), sharex=True)
endog.plot(ax=axes[0], label='y')
exog.plot(ax=axes[0], label='x')
axes[0].set_title('observed variables')
axes[0].legend()

axes[1].plot(endog.index, mu_smoothed)
axes[1].set_title('level component')

axes[2].plot(endog.index, beta_smoothed)
axes[2].set_title('regression coefficient')
```

# おまけ： TensorFlow Probabilityという選択肢
statsmodelsを使う場合は、最尤法＋カルマンフィルタでパラメータを点推定することになるが、ベイジアンモデリングにできると、自在なモデルを構築、推定可能で、予測の確信度も自然に定量化できるという利点がある。  
ベイズ状態空間モデルの実装にはStanを使うのがスタンダードなようだが、どうしてもコーディングの労力がかかってしまう。また、pystanもあるものの、Rで使うことが多い気もする。  
  
Pythonでベイズ状態空間モデルを実装するとき、新たな選択肢としてTensorFlow Probability（TFP）のstsモジュールがある。[公式記事](https://medium.com/tensorflow/structural-time-series-modeling-in-tensorflow-probability-344edac24083)参照。

ただ、2019.12現在、TFPは絶賛開発中ということもあり、まだ安定して使える感じではない。今後に期待！