線形回帰
値 x → = x → 0 {\displaystyle {\vec {x}}={\vec {x}}_{0}} における 100 ( 1 − α ) % {\displaystyle 100(1-\alpha )\%} の信頼区間は下式で表される。
x 0 → β ^ ± t α 2 , n − p − 1 x 0 → ( X ⊤ X ) − 1 x 0 → ⊤ S 2 {\displaystyle {{\vec {x_{0}}}{\widehat {\beta }}\pm t_{{\frac {\alpha }{2}},n-p-1}{\sqrt {{\vec {x_{0}}}(\mathbf {X} ^{\top }\mathbf {X} )_{}^{-1}{\vec {x_{0}}}^{\top }S^{2}}}}}
同様に値 x → = x → 0 {\displaystyle {\vec {x}}={\vec {x}}_{0}} における 100 ( 1 − α ) % {\displaystyle 100(1-\alpha )\%} の予測区間は下式で表される。
x 0 → β ^ ± t α 2 , n − p − 1 ( 1 + x 0 → ( X ⊤ X ) − 1 x 0 → ⊤ ) S 2 {\displaystyle {{\vec {x_{0}}}{\widehat {\beta }}\pm t_{{\frac {\alpha }{2}},n-p-1}{\sqrt {(1+{\vec {x_{0}}}(\mathbf {X} ^{\top }\mathbf {X} )_{}^{-1}{\vec {x_{0}}}^{\top })S^{2}}}}}
S S R = ∑ ( y i ^ − y ̄ ) 2 = β ^ ⊤ X ⊤ y → − 1 n ( y → ⊤ u → u → ⊤ y → ) {\displaystyle {{\mathit {SSR}}=\sum {\left({{\hat {y_{i}}}-{\bar {y}}}\right)^{2}}={\hat {\beta }}^{\top }\mathbf {X} ^{\top }{\vec {y}}-{\frac {1}{n}}\left({{\vec {y}}^{\top }{\vec {u}}{\vec {u}}^{\top }{\vec {y}}}\right)}}
ここで y ̄ = 1 n ∑ y i {\displaystyle {\bar {y}}={\frac {1}{n}}\sum y_{i}} であり u → {\displaystyle {\vec {u}}} は n × 1 の1ベクトル(各要素が1)である。 項 1 n y ⊤ u u ⊤ y {\displaystyle {\frac {1}{n}}y^{\top }uu^{\top }y} は 1 n ( ∑ y i ) 2 {\displaystyle {\frac {1}{n}}(\sum y_{i})^{2}} と等価である。
誤差の二乗和 ESS は下式で与えられる。