線性迴歸

在統計學中 ， 線性迴歸  是利用稱爲線性迴歸方程的最小平方函數對一個或多個自變量和因變量之間關係進行建模的一種迴歸分析 。 這種函數是一個或多個稱爲迴歸係數的模型參數的線性組合 。 只有一個自變量的情況稱爲簡單迴歸 ， 大於一個自變量情況的叫做多元迴歸  。 在線性迴歸中 ， 數據使用線性預測函數來建模 ， 並且未知的模型參數也是通過數據來估計 。 這些模型被叫做線性模型 。 最常用的線性迴歸建模是給定X值的y的條件均值是X的仿射函數 。 不太一般的情況 ， 線性迴歸模型可以是一箇中位數或一些其他的給定X的條件下y的條件分佈的分位數作爲X的線性函數表示 。 像所有形式的迴歸分析一樣 ， 線性迴歸也把焦點放在給定X值的y的條件概率分佈 ， 而不是X和y的聯合概率分佈 （ 多元分析領域 ） 。 線性迴歸是迴歸分析中第一種經過嚴格研究並在實際應用中廣泛使用的類型 。 這是因爲線性依賴於其未知參數的模型比非線性依賴於其未知參數的模型更容易擬合 ， 而且產生的估計的統計特性也更容易確定 。 線性迴歸有很多實際用途 。 分爲以下兩大類 ： 如果目標是預測或者映射 ， 線性迴歸可以用來對觀測數據集的和X的值擬合出一個預測模型 。 當完成這樣一個模型以後 ， 對於一個新增的X值 ， 在沒有給定與它相配對的y的情況下 ， 可以用這個擬合過的模型預測出一個y值 。 給定一個變量y和一些變量, ..., ， 這些變量有可能與y相關 ， 線性迴歸分析可以用來量化y與Xj之間相關性的強度 ， 評估出與y不相關的 ， 並識別出哪些的子集包含了關於y的冗餘信息 。 線性迴歸模型經常用最小二乘逼近來擬合 ， 但他們也可能用別的方法來擬合 ， 比如用最小化 “ 擬合缺陷 ” 在一些其他規範裏 （ 比如最小絕對誤差迴歸 ） ， 或者在橋迴歸中最小化最小二乘損失函數的懲罰 。 相反 ， 最小二乘逼近可以用來擬合那些非線性的模型 。 因此 ， 儘管 “ 最小二乘法 ” 和 “ 線性模型 ” 是緊密相連的 ， 但他們是不能劃等號的 。