カルバック・ライブラー情報量
The relative entropy, or Kullback–Leibler divergence, is always non-negative. A few numerical examples follow: