微分エントロピー
一般に、任意の可逆な写像の下で不変ではない。
特に、定数 a {\displaystyle a} に対しては h ( a X ) = h ( X ) + log  | a | {\displaystyle h(aX)=h(X)+\log |a|} ベクトル値確率変数 X {\displaystyle \mathbf {X} } と可逆な正方行列 A {\displaystyle \mathbf {A} } に対しては h ( A X ) = h ( X ) + log  ( | det A | ) {\displaystyle h(\mathbf {A} \mathbf {X} )=h(\mathbf {X} )+\log \left(|\det \mathbf {A} |\right)}
一般に、あるベクトル値確率変数から同じ次元のベクトル値確率変数への変換 Y = m ( X ) {\displaystyle \mathbf {Y} =m\left(\mathbf {X} \right)} があるとき、対応するエントロピーは
h ( Y ) ≤ h ( X ) + ∫ f ( x ) log  | ∂ m ∂ x | d x {\displaystyle h(\mathbf {Y} )\leq h(\mathbf {X} )+\int f(x)\log \left\vert {\frac {\partial m}{\partial x}}\right\vert dx}
を満たす。ここで | ∂ m ∂ x | {\displaystyle \left\vert {\frac {\partial m}{\partial x}}\right\vert } は変換 m {\displaystyle m} のヤコビ行列式である。