カーネル密度推定
あまり平滑でない推定器(例えばヒストグラム密度推定器)は漸近的に一致させられるが、他の推定器は不連続であるか、カーネル密度推定より収束が遅い。カーネル密度推定器は、標本を一定幅の箱に入れて数えるのではなく、カーネル関数から決定されたコブを各標本に与えるものと見ることができる。つまり、「コブの総和」によって推定が形成されるため、結果として非常に滑らかになる(下図参照)。
h ∗ = c 1 − 2 / 5 c 2 1 / 5 c 3 − 1 / 5 n 1 / 5 {\displaystyle h^{*}={\frac {c_{1}^{-2/5}c_{2}^{1/5}c_{3}^{-1/5}}{n^{1/5}}}}
ここで
c 1 = ∫ x 2 K ( x ) d x {\displaystyle c_{1}=\int x^{2}K(x)\,dx} c 2 = ∫ K ( x ) 2 d x {\displaystyle c_{2}=\int K(x)^{2}\,dx} c 3 = ∫ ( f ′′ ( x ) ) 2 d x {\displaystyle c_{3}=\int (f''(x))^{2}\,dx}
である。最適なバンド幅を選択したとき、リスク関数は R ( f , f ^ ( x ) ) ≈ c 4 / n 4 / 5 {\displaystyle R(f,{\hat {f}}(x))\approx c_{4}/n^{4/5}} であり c4 > 0 はある定数である。弱い仮定の下で、カーネル推定器より早く収束するノンパラメトリックな推定器は存在しないことが示される。なお、n という収束レートは、パラメトリックな手法での典型である n という収束レートよりも遅い。