普通最小二乘法 在回归分析当中最常用的估计 β displaystyle beta  回归系数的方法是普通最小二乘法英語ordinary least squares簡稱OLS它基於誤差值之上用這種方法估计 β displaystyle beta  首先要計算残差平方和residual sum of squaresRSSRSS是指将所有误差值的平方加起來得出的数 R S S   i   n e i  displaystyle RSSsum inei β  displaystyle beta  與 β  displaystyle beta  的数值可以用以下算式计算出來 β      x i  x    y i  y     x i  x    displaystyle widehat beta frac sum xibar xyibar ysum xibar x β    y   β   x  displaystyle widehat beta bar ywidehat beta bar x 当中 x  displaystyle bar x 為 x displaystyle x 的平均值而 y  displaystyle bar y 為 y displaystyle y 的平均值 假设总体的误差值有一个固定的變異數這个變異數可以用以下算式估计 σ  ε   R S S n    displaystyle hat sigma varepsilon frac RSSn 這個数就是均方误差mean square error這個分母是样本大小减去模型要估计的参数的量這個回归模型当中有两个未知的参数 β  displaystyle beta  與 β  displaystyle beta   而這些参数估计的标准误差standard error為 σ  β   σ  ε    x i  x    displaystyle hat sigma beta hat sigma varepsilon sqrt frac sum xibar x σ  β   σ  ε  n  x     x i  x     σ  β   x i  n displaystyle hat sigma beta hat sigma varepsilon sqrt frac nfrac bar xsum xibar xhat sigma beta sqrt frac sum xin 有了上面這个模型研究者手上就有会有 β  displaystyle beta  與 β  displaystyle beta  的估计值就可以用這個算式來预测 Y displaystyle Y 的数值