自己回帰モデル
上記のように自己回帰モデルは、決定論的/deterministicな線形変換に、確率的/probabilisticなブレ(確率項)が線形に追加されるモデルである。別の表現として、自己回帰モデルは統計モデル(生成モデル)で表すことができる。
自己回帰モデル AR(n) を考えるとし、因果関係を持つ時点 t から時刻 t-n までの値の組を
X n = ( x t , x t − 1 , . . . , x t − n ) {\displaystyle X_{n}=(x_{t},x_{t-1},...,x_{t-n})}
とする。Xn の確率分布すなわち xt ~ xt-nの同時確率 pAR(n) は
p A R ( n ) ( X n ) = p A R ( n ) ( x t , x t − 1 , . . . , x t − n ) {\displaystyle p_{AR(n)}(X_{n})=p_{AR(n)}(x_{t},x_{t-1},...,x_{t-n})}
であり、条件付き確率の定義を用いる(確率の連鎖律(英語版))と
p A R ( n ) ( X n ) = p ( x t | x t − 1 , . . . , x t − n ) ⋅ p ( x t − 1 , . . . , x t − n ) = . . . = ∏ i = 0 n p ( x t − i | ⋂ j = i + 1 n x t − j ) {\displaystyle p_{AR(n)}(X_{n})=p(x_{t}|x_{t-1},...,x_{t-n})\cdot p(x_{t-1},...,x_{t-n})=...=\prod _{i=0}^{n}p(x_{t-i}|\bigcap _{j=i+1}^{n}x_{t-j})}
自己回帰モデル(じこかいきモデル、英: autoregressive model)は時点 t におけるモデル出力が時点 t 以前のモデル出力に依存する確率過程である。ARモデルとも呼ばれる。
自己回帰モデルは、例えば自然科学や経済学において、時間について変動する過程を描写している。(古典的な)自己回帰モデルは実現値となる変数がその変数の過去の値と確率項(確率、つまりその値を完全には予測できない項)に線形に依存している。ゆえに自己回帰モデルは一種の確率差分方程式の形状を取る。
自己回帰モデルはより一般的な時系列の自己回帰移動平均モデル(ARMAモデル)の特別なケースである。また、一つ以上の確率差分方程式からなるベクトル自己回帰モデル(英語版)(VARモデル)の特別ケースでもある。推計統計学・機械学習における生成モデルとしても自己回帰モデルは表現でき、古典的な(線形)自己回帰生成モデルを拡張した非線形自己回帰生成モデルも盛んに研究されている。