Kullback–Leibler divergence
"X" を、 formula_9 個の確率密度 formula_10 の内の1つに等しい確率密度を持つ確率変数とする。さらに、密度の任意の対のカルバック・ライブラー情報量は大きすぎることはできない。