エントロピーレート
一方、関連する量に
H ′ ( X ) = lim n → ∞ H ( X n | X n − 1 , X n − 2 , ... X 1 ) {\displaystyle H'(X)=\lim _{n\to \infty }H(X_{n}|X_{n-1},X_{n-2},\dots X_{1})}
がある。強定常過程に対しては H ( X ) = H ′ ( X ) {\displaystyle H(X)=H'(X)} となる。エントロピーレートは確率過程の一般的性質として捉えることができ、これは漸近等分割性(英語版)と呼ばれる。エントロピーレートは確率過程の複雑性の推定にも使うことができる。また、言語の複雑性の特徴付け、ブラインド信号源分離、量化子器の最適化、データ圧縮アルゴリズムといった広範な対象に応用される。例えば、エントロピーレート最大化基準は機械学習における特徴選択に利用することができる。