自己回帰モデルは、例えば自然科学や経済学において、時間について変動する過程を描写している。(古典的な)自己回帰モデルは実現値となる変数がその変数の過去の値と確率項(確率、つまりその値を完全には予測できない項)に線形に依存している。ゆえに自己回帰モデルは一種の確率差分方程式の形状を取る。自己回帰モデルはより一般的な時系列の自己回帰移動平均モデル(ARMAモデル)の特別なケースである。また、一つ以上の確率差分方程式からなる(VARモデル)の特別ケースでもある。推計統計学・機械学習における生成モデルとしても自己回帰モデルは表現でき、古典的な(線形)自己回帰生成モデルを拡張した非線形自己回帰生成モデルも盛んに研究されている。定義.よって、左辺の総和を移項し多項式表現を用いれば、と表せる。ゆえに自己回帰モデルは、ホワイトノイズを入力値とする、全ての極における無限インパルス応答の出力値として見なすことも出来る。ショックの異時点間における影響.(ここで定数項は変数が平均からの逸脱として測定されると仮定することで無視できる)が以下のように書き直せることからもまた分かる。特性多項式.より次の式が成り立ち、ゆえに以下が得られる。分散は以下のように定まる。と上の量は安定な不動点となることから示される。自己共分散は以下で与えられる。これにより、コーシー分布(ローレンツ型プロファイル)のスペクトル密度が得られる。最大ラグの選択.ARパラメーターの計算.ARモデルの係数の推定には多数の方法があり、例えば最小二乗法の手続きや、もしくは(ユール–ウォーカー方程式()を通した)モーメント法がある。ユール–ウォーカー方程式.ユール–ウォーカー方程式は、とギルバート・ウォーカーにちなんで名づけられたもので、以下の方程式からなる。各方程式の最後の部分がゼロとならないのはの時に限られるので、この方程式はの方程式を行列形式に表すことで解くことが出来る。よって次の方程式が得られる。ARパラメーターの推定.スペクトル.そうでなければ実数根を持ち、根が単位円の外側にある時、この過程は定常である。完全なパワースペクトル密度関数は以下のように表される。自己回帰予測の質の評価.