自己回帰モデル
この時、 φ | n | = e | n | ln  φ {\displaystyle \phi ^{|n|}=e^{|n|\ln \phi }} であり、指数減衰法則 e − n / τ {\displaystyle e^{-n/\tau }} と一致する]。
スペクトル密度とは自己共分散関数のフーリエ変換である。離散時間の場合、フーリエ変換は離散時間フーリエ変換に対応する。
Φ ( ω ) = 1 2 π ∑ n = − ∞ ∞ B n e − i ω n = 1 2 π ( σ ε 2 1 + φ 2 − 2 φ cos  ( ω ) ) . {\displaystyle \Phi (\omega )={\frac {1}{\sqrt {2\pi }}}\,\sum _{n=-\infty }^{\infty }B_{n}e^{-i\omega n}={\frac {1}{\sqrt {2\pi }}}\,\left({\frac {\sigma _{\varepsilon }^{2}}{1+\varphi ^{2}-2\varphi \cos(\omega )}}\right).}
この表現は X j {\displaystyle X_{j}} の離散的性質により周期的となり、それは分母におけるコサイン項によって明らかとなっている。もしサンプリング時間 ( Δ t = 1 {\displaystyle \Delta t=1} ) が減衰時間 ( τ {\displaystyle \tau } ) より非常に小さいと仮定するならば、 B n {\displaystyle B_{n}} の連続体近似を用いることが出来る。
となる(条件付確率分布の積、因子分解の積)。モデルのn次自己回帰性(== 過去方向にn次までしか依存しない)より xt-n はそれ単体で分布が定まる。
p(xt-k|xt-k-1, xt-k-2, ..., xt-n)を考えると(線形変換・ガウス確率項)ARモデルは確率項がガウス分布に従い、その平均値統計量は決定論的な線形変換で決まるため、
p ( x t − k | x t − k − 1 , . . . , x t − n ) = N ( x t − k | w t − k − 1 ⋅ x t − k − 1 , σ ) {\displaystyle p(x_{t-k}|x_{t-k-1},...,x_{t-n})=N(x_{t-k}|w_{t-k-1}\cdot x_{t-k-1},\sigma )}
であるといえる。xt-k-1より過去の系列の情報はすべてxt-k-1の実現値として集約されている。
以上をまとめると、n次自己回帰モデルは統計モデル/生成モデルとして以下のように定式化できる。
X n := ( x t , x t − 1 , . . . , x t − n ) {\displaystyle X_{n}:=(x_{t},x_{t-1},...,x_{t-n})}
x t − k ∼ p ( x t − k | x t − k − 1 , . . .
E  ( X t + n | X t ) = μ [ 1 − ( 1 − θ ) n ] + X t ( 1 − θ ) n {\displaystyle \operatorname {E} (X_{t+n}|X_{t})=\mu \left[1-\left(1-\theta \right)^{n}\right]+X_{t}(1-\theta )^{n}} , and
Var  ( X t + n | X t ) = σ 2 [ 1 − ( 1 − θ ) 2 n ] 1 − ( 1 − θ ) 2 {\displaystyle \operatorname {Var} (X_{t+n}|X_{t})=\sigma ^{2}{\frac {\left[1-(1-\theta )^{2n}\right]}{1-(1-\theta )^{2}}}} .
E  ( X t ) = E  ( c ) + φ E  ( X t − 1 ) + E  ( ε t ) , {\displaystyle \operatorname {E} (X_{t})=\operatorname {E} (c)+\varphi \operatorname {E} (X_{t-1})+\operatorname {E} (\varepsilon _{t}),}
より次の式
μ = c + φ μ + 0 , {\displaystyle \mu =c+\varphi \mu +0,}
が成り立ち、ゆえに以下が得られる。
μ = c 1 − φ . {\displaystyle \mu ={\frac {c}{1-\varphi }}.}
特に、 c = 0 {\displaystyle c=0} ならば、平均は0である。
分散は以下のように定まる。
var  ( X t ) = E  ( X t 2 ) − μ 2 = σ ε 2 1 − φ 2 , {\displaystyle \operatorname {var} (X_{t})=\operatorname {E} (X_{t}^{2})-\mu ^{2}={\frac {\sigma _{\varepsilon }^{2}}{1-\varphi ^{2}}},}
ここで σ ε {\displaystyle \sigma _{\varepsilon }} は ε t {\displaystyle \varepsilon _{t}} の標準偏差である。これは以下の式、
最も単純なARモデルは AR(0) であり、項の間に依存関係がない。誤差/イノベーション/ノイズ項のみが過程の出力に寄与し、ゆえに図で示されているように AR(0) はホワイトノイズに対応する。
φ {\displaystyle \varphi } の値が正である AR(1) 過程について、その過程の以前の項とノイズ項のみが出力に寄与する。もし φ {\displaystyle \varphi } が0に近ければ、その過程は依然としてホワイトノイズのように見える。しかし、 φ {\displaystyle \varphi } が1に近いならば、出力はノイズに比べて現在の項に大きな影響を受ける。結果として出力の"スムージング"もしくは和分が起こり、ローパスフィルタと似たものとなる。
AR(2) 過程について、以前の二つの項とノイズ項が出力に寄与する。 φ 1 {\displaystyle \varphi _{1}} と φ 2 {\displaystyle \varphi _{2}} が共に正ならば、出力はノイズの高周波数領域が減衰するローパスフィルタに似通ったものとなる。もし φ 1 {\displaystyle \varphi _{1}} が正である一方で φ 2 {\displaystyle \varphi _{2}} が負であれば、過程はその項の間で符号が変わりやすくなる。出力は循環的となる。これは方向におけるエッジ検出もしくは変化検出と結びつけることが出来る。
AR(1) 過程は連続時間におけるオルンシュタイン=ウーレンベック過程の離散時間のアナロジーである。ゆえに AR(1) モデルの性質を理解するために同様の形式に変換することが時として有用になる。この形式において AR(1) モデルは以下で与えられる。
X t + 1 = X t + θ ( μ − X t ) + ε t + 1 {\displaystyle X_{t+1}=X_{t}+\theta (\mu -X_{t})+\epsilon _{t+1}\,}
ここで | θ | < 1 {\displaystyle |\theta |<1\,} であり μ {\displaystyle \mu } はモデルの平均である。これを X t + 1 = c + φ X t {\displaystyle X_{t+1}=c+\phi X_{t}\,} の式に当てはめ X t + n {\displaystyle X_{t+n}\,} についての系列に展開することで次が示される。