損失関数
スカラーのパラメータ θ {\displaystyle \theta } について、出力 θ ^ {\displaystyle {\hat {\theta }}} を θ {\displaystyle \theta } の推定値とする決定関数と、二次損失関数(二次誤差損失)が L ( θ , θ ^ ) = ( θ − θ ^ ) 2 , {\displaystyle L(\theta ,{\hat {\theta }})=(\theta -{\hat {\theta }})^{2},} とすると、危険関数は推定値の平均二乗誤差 R ( θ , θ ^ ) = E θ  ( θ − θ ^ ) 2 {\displaystyle R(\theta ,{\hat {\theta }})=\operatorname {E} _{\theta }(\theta -{\hat {\theta }})^{2}} となる。平均二乗誤差を最小化することで求められる推定器は、事後分布の平均を推定する。
密度推定(英語版)において、未知パラメータは確率密度そのものである。その損失関数は通常、適切な関数空間におけるノルムとして選択される。たとえば、Lノルム L ( f , f ^ ) = ‖ f − f ^ ‖ 2 2 {\displaystyle L(f,{\hat {f}})=\|f-{\hat {f}}\|_{2}^{2}\,} の場合、その危険関数は平均積分二乗誤差(英語版) R ( f , f ^ ) = E  ‖ f − f ^ ‖ 2 {\displaystyle R(f,{\hat {f}})=\operatorname {E} \|f-{\hat {f}}\|^{2}} となる。