カルバック・ライブラー情報量
これらの式に出てくる対数の底は、情報の単位をビットとするときは 2 とし、ナットを単位とするときは "e" を底とする。カルバック・ライブラー情報量に関わる方程式の多くは対数の底が何であろうと無関係である。