微分エントロピー
を持つ。
一方で相互情報量 I ( X ; Y ) {\displaystyle I(X;Y)} は、連続量に対しても2情報の依存度合の尺度として基本的に重要である。この量は実質的に、離散的な X {\displaystyle X} と Y {\displaystyle Y} にそれぞれ「分割(partition)」を施していき、分割幅を限りなく細かくしていったときの極限に相当するからである。 I ( X ; Y ) {\displaystyle I(X;Y)} は X {\displaystyle X} と Y {\displaystyle Y} を線形な位相同型(自身および逆が連続である写像)で変換しても不変であるばかりでなく非線形同型写像による変換の下でも不変である。相互情報量は、空間的に連続的な値を許すような伝送を介する状況下での2情報量の関係を表現することができる。
離散的なエントロピーが持つ性質の微分エントロピーへの拡張については en:limiting density of discrete points を参照。