自己回帰移動平均モデル
自己回帰移動平均モデル（じこかいきいどうへいきんモデル、、ARMAモデル）は、統計学において時系列データに適用されるモデルである。George Box と G. M. Jenkins の名をとって "ボックス・ジェンキンスモデル" とも呼ばれる。
時系列データ "X" について、ARMAモデルはその将来の値を予測するためのツールとして機能する。モデルは自己回帰(AR)部分と移動平均(MA)部分からなる。一般に ARMA("p","q")モデルと表記され、"p" は自己回帰部分の次数、"q" は移動平均部分の次数を表す（定義は後述）。
AR("p") という表記は次数 "p" の自己回帰モデルを表す。AR("p")モデルは次の式で表される。
ここでformula_1はモデルのパラメータ、formula_2 は定数項、formula_3 は誤差項（後述）である。定数項は単純化するために省かれることが多い。
自己回帰モデルは基本的に無限インパルス応答フィルタに一種の変形を加えたものである。
モデルとして定常的であるために、パラメータの値には何らかの制約が必要である。例えば、|φ| > 1 となる AR(1)モデルは定常的ではない。
AR(1)過程は次の式で表される。
ここで、formula_3 は、formula_5の分散に従うホワイトノイズである（formula_6 のような添え字は省いてある）。この過程は formula_7 であれば、共分散定常性を有する。formula_8 であれば、formula_9 は単位根を表し、ランダムウォークと見なされ、共分散定常性を有しない。そうでない場合、formula_9 の期待値の計算は単純である。ここで共分散定常性を以下のように定式化する。
従って、次のようになる。
ここで formula_11 は平均である。c = 0 なら、平均も 0 になり、分散は次のようになる。
自己共分散は次の式で表される。
この自己共分散関数は減衰時間 formula_12 で減衰する（これを確かめるには、formula_13 で formula_14 が formula_15 に独立な場合を考えればよい。formula_16 であり、指数関数的減衰の法則 formula_17 に適合することに注意されたい）。スペクトル密度関数は自己共分散関数の逆フーリエ変換である。離散系では、離散時間逆フーリエ変換が適用される。
=\frac{1}{\sqrt{2\pi}}\,\left(\frac{\sigma^2}{1+\varphi^2-2\varphi\cos(\omega)}\right).
formula_18 が離散的であるため、この式の分母にあるコサインの項が折り返し雑音（エイリアス）を表している。標本化間隔(formula_19)が減衰時間(formula_20)より十分に小さいと仮定すると、formula_21 に連続体近似を適用できる。
この場合、スペクトル密度はローレンツ分布に従う。
ここで formula_22 は減衰時間 formula_20 に関する角周波数である。
formula_9 の別の表現方法として、最初の式で formula_25 を formula_26 に置き換える方法がある。これを再帰的に "N"回繰り返すと次の式になる。
"N" が無限大に近づくと、formula_27 はゼロに近づき、最終的に次の式が得られる。
AR("p")モデルは次の方程式で与えられる。
これはパラメータ formula_28（"i" = 1, ..., "p"）に基づいている。これらパラメータは以下の Yule-Walker方程式で計算できる可能性がある。
ここで "m" = 0, ... , "p" であり、"p" + 1 個の方程式となる。formula_29 は X の自己共分散関数、formula_30 は入力ノイズ過程の標準偏差、δ はクロネッカーのデルタである。
この式の最後の部分は "m" = 0 のときだけ 0 でない値となるので、この方程式は一般に "m" > 0 のときの行列式で表すことで解ける。
これにより formula_31 が全て求められる。また、"m" = 0 のときは次のようになる。
これにより formula_32 が求められる。
AR過程を定義する方程式は次の通りである。
両辺に X をかけて、期待値を求めるとしたとき、次のようになる。
自己共分散関数の定義から、formula_33 である。ノイズ関数の値は互いに独立であり、ゼロより大きい "m" について "X" は ε に独立である。"m" ≠ 0 の場合、formula_34 となる。"m" = 0 の場合、次のようになる。
従って、次が得られる。
これにより次の Yule-Walker方程式が導かれる。
MA("q")という表記は、次数 "q" の移動平均モデルを表す。以下の数式で表される。
ここで θ, ..., θ はモデルのパラメータ、ε, ε... は誤差項である。移動平均モデルも無限インパルス応答フィルタに一種の変形を加えたものである。
ARMA("p", "q")という表記は、"p"次の自己回帰と"q"次の移動平均を組合わせたモデルを指す。以下の数式で表される。
誤差項 ε は一般に「独立かつ同一の分布に従う」(i.i.d.)無作為変数であり、ゼロを平均値とする正規分布に従う。すなわち ε ~ N(0,σ) で、σ は分散である。このような仮定を弱めることもあるが、そうするとモデルとしての性質が変化する。特に、i.i.d. という仮定を変更すると根本的な性質が変化する。
ARMAモデルをラグ作用素（遅れ作用素） "L" を使って表す場合もある。この場合、AR("p")モデルは次のように表される。
ここで、φ は次の多項式で表される。
また、MA("q")モデルは次のように表される。
ここで θ は次の多項式で表される。
以上から、ARMA("p", "q")モデルは次のように表される。
あるいは、もっと簡潔に記せば、次のようになる。
ラグ作用素とは、時系列データのある時点のデータで他の時点のデータを表すように係数化したもの。上記の式はいずれも "X" しか出現しない（他の時点のデータが出てこない）ことに注意されたい。他の時点のデータは全てラグ作用素によって表されている。
実データに適用する場合、ARMAモデルの p と q を選択後、誤差項を最小化するパラメータを探るため最小二乗法を使うのが普通である。また、実データに適合する最小の p および q を見つけることでよい結果が得られることが知られている。純粋なARモデルでは、これに Yule-Walker 方程式を利用することができる。
"X" の過去の値や誤差項 ε との依存関係は特に何かが判明するまで線形な関係であると見なすのが普通である。依存関係が非線形である場合、このモデルを「非線形移動平均」(NMA)、「非線形自己回帰」(NAR)、「非線型自己回帰移動平均」(NARMA)モデルと呼ぶ。
自己回帰移動平均モデルは他の方法でも一般化される。例えば、ARCH（自己回帰条件付き分散変動）モデルやARIMA（自己回帰和分移動平均）モデルがある。複数の時系列を扱うベクトルARIMAモデルもある。データに季節変動効果がある場合、SARIMA（季節ARIMA）モデルでモデル化される。
その他の一般化として、「多変量自己回帰」(MAR)モデルがある。