，依热力学第二定律（参见统计力学），系统的平衡态由系统与热库之总熵的最大化所决定。若略去单独粒子间状态的相关性（或更一般地，统计不独立性）将导致不正确的微观态的概率分布，从而引起熵的高估。 此种关联乃发生于具非平凡相互作用的粒子构成的系统，即所有较理想气体复杂的系统。此符号 formula_7 几乎普遍地简称为「熵」。它也可以用来指涉「统计熵」或「热力学熵」而不变其涵义。注意到统计熵的上述表达式为香农熵的离散形式。冯诺依曼熵公式为吉布斯熵公式在量子力学下的扩展。事实表明吉布斯熵等于以 formu