自己回帰モデル
AR(1) については以下のようになる。
S ( f ) = σ Z 2 | 1 − φ 1 e − 2 π i f | 2 = σ Z 2 1 + φ 1 2 − 2 φ 1 cos  2 π f {\displaystyle S(f)={\frac {\sigma _{Z}^{2}}{|1-\varphi _{1}e^{-2\pi if}|^{2}}}={\frac {\sigma _{Z}^{2}}{1+\varphi _{1}^{2}-2\varphi _{1}\cos 2\pi f}}}
もし φ 1 > 0 {\displaystyle \varphi _{1}>0} ならば、スペクトルは f = 0 において単峰で、レッドノイズと呼ばれる。 φ 1 {\displaystyle \varphi _{1}} が1に近ければ低周波においてパワーが強くなる。つまり時間のラグが大きくなる。これはローパスフィルタであり、フルスペクトル光に適用された時、赤の波長を除いてすべてがフィルタリングされる。
もし φ 1 < 0 {\displaystyle \varphi _{1}<0} ならば、スペクトルは f = 0 において最小値を取り、ブルーノイズと呼ばれる。これはハイパスフィルタのように振る舞い、青の波長を除いてすべてがフィルタリングされる。
φ 1 < 0 {\displaystyle \varphi _{1}<0} の時、 f = 1 / 2 {\displaystyle f=1/2} で頂点を持つホワイトノイズに対するハイパスフィルタのように振る舞う。
根が単位円の外側にある時、この過程は定常である。 根が単位円の内側にある、もしくは同じことだが係数が三角形 − 1 ≤ φ 2 ≤ 1 − | φ 1 | {\displaystyle -1\leq \varphi _{2}\leq 1-|\varphi _{1}|} の内部にある時、安定である。 完全なパワースペクトル密度関数は以下のように表される。
S ( f ) = σ Z 2 1 + φ 1 2 + φ 2 2 − 2 φ 1 ( 1 − φ 2 ) cos  ( 2 π f ) − 2 φ 2 cos  ( 4 π f ) {\displaystyle S(f)={\frac {\sigma _{Z}^{2}}{1+\varphi _{1}^{2}+\varphi _{2}^{2}-2\varphi _{1}(1-\varphi _{2})\cos(2\pi f)-2\varphi _{2}\cos(4\pi f)}}}
A R ( p ) {\displaystyle AR(p)} という記法はオーダー p の自己回帰モデルを意味している。AR(p) モデルは以下のように定義される。
X t = c + ∑ i = 1 p φ i X t − i + ε t {\displaystyle X_{t}=c+\sum _{i=1}^{p}\varphi _{i}X_{t-i}+\varepsilon _{t}\,}
ここで φ 1 , ... , φ p {\displaystyle \varphi _{1},\ldots ,\varphi _{p}} はモデルのパラメーターであり、 c {\displaystyle c} は定数項、 ε t {\displaystyle \varepsilon _{t}} はホワイトノイズである。この式は後退オペレーター(英語版) B を用いることで以下のような同値である表現で書き表すことが出来る。
X t = c + ∑ i = 1 p φ i B i X t + ε t {\displaystyle X_{t}=c+\sum _{i=1}^{p}\varphi _{i}B^{i}X_{t}+\varepsilon _{t}}
上の方程式(ユール–ウォーカー方程式)は、理論的な共分散を推定値に置き換えることで、 AR(p) モデルのパラメーターを推定する為にいくつかの方法を提供する。下記のような方法が考えられる。
自己共分散もしくは自己相関の推定。便利な推定法を用いて自己共分散もしくは自己相関の項のそれぞれを分割して推定したものとする。推定の方法は多様であり、どれを選択するかは推定のスキームが持つ性質に影響を与える。例えば、ある方法では分散の負の推定量が生じうる。
Xt の予測値を同じ系列の過去の p 個の値として基礎づける最小二乗予測問題を構築する上での最小二乗回帰問題としての定式化。これは前方予測スキームとして考えられる。この問題についての正規方程式(英語版)は同じラグで現れる自己共分散を少し違った推定値で置き換えたユール–ウォーカー方程式の行列形式の近似と対応するように見える。
最小二乗予測問題の拡張形式としての定式化。ここで二つの予測方程式のセットを一つの推定スキームと単一の正規方程式に結合する。一つのセットは前方予測方程式のセットとなっており、もう片方は対応する後方予測方程式のセットとなっている。これはARモデルの後退表現と関連している。
X t = c + ∑ i = 1 p φ i X t − i + ε t ∗ .