自迴歸模型

自迴歸模型係一種方法攞嚟處理一迾觀察值嘅，種序迾可以係時間序迾或者空間序迾。通過對前便啲觀察值做迴歸可以得出孻尾隻觀察值，而考慮埋孻尾觀察值甚至可以對後續啲觀察值做預測。「自」表示隻方法係對序迾本身做嘅而嘸係做畀另外嘅變數；「迴歸」指明方式係迴歸分析。符號上，自迴歸模型用表示。

定義 
對於序迾，模型着定義成：

其中係啲參數，係隻常數，係白噪聲。

借由褪後操作符可以等效噉表示過上式，成：

捉右邊項左移到左便合併攞多項式表示法表示有：

即係可以捉自回歸模型睇作係個輸出、出自輸入為白噪聲嘅全極點無限脈衝響應濾波器嘅。

另外，都可以着睇作係一種畀連續觀察值嘅概率性模型：

其中表示個高斯分佈。

性質 
模型個平均值函數、自協方差係：

個自協方差可以透過皮亞遜自積差相關方程做歸一化：

其中係方差。自協方差表示手頭有往前個數據嗰陣，幾大程度可以知曉到後便個值。

平穩性 
好多時，要解得模型嘅話需要到某種平穩性嚟排除啲值隨  嘅變動：

，表示平均函數係常數；
 ，表示自協方差取決於距離間隔而嘸係取決於  ；
 ，表示前面兩者都係求得到嘅。
喺噉樣嘅平穩性限制下，隻模型會有以下啲動差：
  ，表示平均函數係常數；
 ；
 ，表示自方差取決於距離而嘸取決於  ；
。
對於模型裏頭啲過程需要有先平穩得；對於模型要有。推廣開去，對於模型，廣義平穩性要求多項式根要喺單位圓外即每個複數根要滿足 。

參數估計 
估計係數嘅方法有好多，例如普通最細二乘法或者矩量法。

模型基於參數，其中i = 1, ..., p 。啲參數戥過程嘅協方差函數之間存在有直接對應關係，而且可以將種對應關係倒過嚟從自相關函數確定返參數。呢個可以使用 Yule-Walker 方程完成。

Yule-Walker 方程 
Yule-Walker 方程命名自Udny Yule同Gilbert Walker，係以下方程組：

其中 ，產生方程。當中嘅係嘅自協方差函數；最後部分係輸入噪音過程嘅標準差，係Kronecker delta 函數。最後項  唯有喺先非零， 嗰陣都係零，所以可以先求解所有啲，憑以下方程組：

m = 0 嗰陣，剩餘方程係：

其中，一旦已知，可以求解返

考 

迴歸模型
計量經濟學