自己回帰モデル
] [ φ 1 φ 2 φ 3 ⋮ φ p ] {\displaystyle {\begin{bmatrix}\gamma _{1}\\\gamma _{2}\\\gamma _{3}\\\vdots \\\gamma _{p}\\\end{bmatrix}}={\begin{bmatrix}\gamma _{0}&\gamma _{-1}&\gamma _{-2}&\dots \\\gamma _{1}&\gamma _{0}&\gamma _{-1}&\dots \\\gamma _{2}&\gamma _{1}&\gamma _{0}&\dots \\\vdots &\vdots &\vdots &\ddots \\\gamma _{p-1}&\gamma _{p-2}&\gamma _{p-3}&\dots \\\end{bmatrix}}{\begin{bmatrix}\varphi _{1}\\\varphi _{2}\\\varphi _{3}\\\vdots \\\varphi _{p}\\\end{bmatrix}}}
これは全ての { φ m ; m = 1 , 2 , ⋯ , p } {\displaystyle \{\varphi _{m};m=1,2,\cdots ,p\}} について解くことが出来る。残りの m = 0 についての方程式は
AR(2) 過程は特性方程式の根に依存する3つのグループに分割される。
z 1 , z 2 = 1 2 ( φ 1 ± φ 1 2 + 4 φ 2 ) {\displaystyle z_{1},z_{2}={\frac {1}{2}}\left(\varphi _{1}\pm {\sqrt {\varphi _{1}^{2}+4\varphi _{2}}}\right)}
φ 1 2 + 4 φ 2 < 0 {\displaystyle \varphi _{1}^{2}+4\varphi _{2}<0} の時、過程は複素共役根のペアを一つ持ち、中周波でピークを作る。
f ∗ = 1 2 π cos − 1  ( φ 1 ( φ 2 − 1 ) 4 φ 2 ) {\displaystyle f^{*}={\frac {1}{2\pi }}\cos ^{-1}\left({\frac {\varphi _{1}(\varphi _{2}-1)}{4\varphi _{2}}}\right)}
そうでなければ実数根を持ち、
φ 1 > 0 {\displaystyle \varphi _{1}>0} の時、 f = 0 {\displaystyle f=0} で頂点を持つホワイトノイズに対するローパスフィルタのように振る舞い、
非線形自己回帰生成モデルの難点の1つは、非線形性からくるパラメータ推定の難しさにある。統計的推論には最尤推定がしばしば用いられるが、古典的な(線形)ARモデルと比較してパラメータ推定の難易度が高い。
γ 0 = ∑ k = 1 p φ k γ − k + σ ε 2 , {\displaystyle \gamma _{0}=\sum _{k=1}^{p}\varphi _{k}\gamma _{-k}+\sigma _{\varepsilon }^{2},}
となり、一度 { φ m ; m = 1 , 2 , ⋯ , p } {\displaystyle \{\varphi _{m};m=1,2,\cdots ,p\}} の値を知ってしまえば、この方程式を σ ε 2 {\displaystyle \sigma _{\varepsilon }^{2}} について解くことが出来る。
他の定式化として自己相関についてのものがある。ARパラメーターは自己相関 ρ ( τ ) {\displaystyle \rho (\tau )} の最初の p + 1 個の要素で決定する。完全な自己相関関数はこの時、再帰的な計算によって導出できる。
ρ ( τ ) = ∑ k = 1 p φ k ρ ( k − τ ) {\displaystyle \rho (\tau )=\sum _{k=1}^{p}\varphi _{k}\rho (k-\tau )}
幾つかの低い次数の AR(p) 過程についての例は
p=1 γ 1 = φ 1 γ 0 {\displaystyle \gamma _{1}=\varphi _{1}\gamma _{0}} ゆえに ρ 1 = γ 1 / γ 0 = φ 1 {\displaystyle \rho _{1}=\gamma _{1}/\gamma _{0}=\varphi _{1}}
よって、左辺の総和を移項し多項式表現を用いれば、
φ ( B ) X t = c + ε t . {\displaystyle \phi (B)X_{t}=c+\varepsilon _{t}\,.}
と表せる。ゆえに自己回帰モデルは、ホワイトノイズを入力値とする、全ての極における無限インパルス応答の出力値として見なすことも出来る。
自己回帰モデルが弱定常であるためにはいくつかのパラメーター制約が必要になる。例えば、 | φ 1 | ≥ 1 {\displaystyle |\varphi _{1}|\geq 1} であるAR(1) モデルで表現される過程は定常ではない。より一般的に、AR(p) モデルが弱定常であるためには、多項式 z p − ∑ i = 1 p φ i z p − i {\displaystyle \textstyle z^{p}-\sum _{i=1}^{p}\varphi _{i}z^{p-i}} の根が単位円の内側になくてはならない。つまり全ての根 z i {\displaystyle z_{i}} が | z i | < 1 {\displaystyle |z_{i}|<1} を満たさなくてはならない。
AR(p) 過程の偏自己相関はラグが p + 1 より大きい時にゼロとなり、結果として適切な最大ラグはそのラグより大きいラグでの偏自己相関が全てゼロになるものである。