線形回帰
線形回帰が「線形」であるのは、目的変数 Y が説明変数 X の係数 β に対して線形であるためである。たとえば
Y = β 0 + β 1 x + β 2 x 2 + ε {\displaystyle Y=\beta _{0}+\beta _{1}x+\beta _{2}x^{2}+\varepsilon }
という回帰は x に対して明らかに線形ではないが、係数 β に対して線形であるから、線形回帰の問題に分類される。
単回帰(英語版)の場合、説明変数は1つだけであり回帰パラメタは2つである。上式は以下のようになる。
y = a + b x + ε {\displaystyle y=a+bx+\varepsilon \ }
同等な定式化に、線形回帰を条件付き期待値のモデルとして陽に表すものがある。
E ( y | x ) = α + β x {\displaystyle {\mbox{E}}(y|x)=\alpha +\beta x\ }
ここで、所与の x に対する y の条件付き確率分布は擾乱項の確率分布に一致する。