損失関数
二次損失関数(quadratic loss function)は、たとえば、最小二乗法などでよく使用される。この関数は分散の特性や対称性があるため、他の損失関数よりも数学的に扱いやすいことが多い。目標を上回る誤差は、目標を下回る同じ大きさの誤差と同じ損失をもたらす。目標を t とすると、二次損失関数は、ある定数 C に対して
λ ( x ) = C ( t − x ) 2 {\displaystyle \lambda (x)=C(t-x)^{2}\;}
となる。定数の値は判定に影響を与えないので、1に等しくすることで無視することができる。これは二乗誤差損失(squared error loss、SEL)とも呼ばれる。
t検定、回帰モデル、実験計画法などの一般的な統計学の多くは、二次損失関数に基づく線形回帰理論を適用した最小二乗法を用いている。
また、二次損失関数は、線形二次最適制御問題(英語版)でも利用されている。このような問題では、不確実性がない場合でも、すべての目標変数の望ましい値を達成することができない場合がある。多くの場合、損失は対象変数の望ましい値からの偏差の二次式で表わされる。このアプローチは一階微分条件(英語版)となるため扱いやすい(英語版)。確率制御(英語版)の文脈では、二次形式の期待値が使われる。