Kullback–Leibler divergence
有限次元のパラメーターformula_6によって特徴づけられる確率密度関数formula_7を用いてformula_8を推定するという文脈では、カルバック・ライブラー情報量の経験量の最小化