熵

熵（Entropy）是一种测量在动力学方面不能做功的能量总数，也就是当总体的熵增加，其做功能力也下降，熵的量度正是能量退化的指标。熵亦被用于计算一个系统中的失序现象，也就是计算该系统混乱的程度。熵是一个描述系统状态的函数，但是经常用熵的参考值和变化量进行分析比较，它在控制论、概率论、数论、天体物理、生命科学等领域都有重要应用，在不同的学科中也有引申出的更为具体的定义，是各领域十分重要的参量。

## 熵的热力学定义

<image>

熵的概念是由德国物理学家克劳修斯于1865年所提出。克氏定义一个热力学系统中熵的增减为：在一个可逆过程里，系统在恒温的情况下得到或失去热量（$Q$），并可以公式表示为：

$$\Delta S = \frac{Q}{T}$$

克劳修斯对S予以“熵”（εντροπια，entropia；entropie；entropy）一名，希腊语源意为“内向”，亦即“一个系统不受外部干扰时往内部最稳定状态发展的特性”。与熵相反的概念为“反熵”（εκτροπια，ektropia，源意“外向性”；Ektropie；extropy）。

1923年，德国科学家鲁道夫·普兰克到中国讲学用到“entropy”这个词，胡刚复教授翻译时灵机一动，把“商”字加火旁来意译“entropy”这个字，创造了“熵”字（音读：shāng），因为熵是$Q$（热量）除以 $T$（温度）的商数。

值得注意的是，这条公式只牵涉到熵的增减，即熵一词只是定义为一个添加的常数。

### 熵的增减与热机

克劳修斯认为熵是在学习可逆及不可逆热力学转换时的一个重要元素。

热力学转换是指一个系统中热力学属性的转换，例如温度及体积。当一个转换被界定为可逆时，即指在转换的每一极短的步骤时，系统保持非常接近平衡的状态，称为“准静态过程”。否则，该转换即是不可逆的。例如，在一含活塞的管中的气体，其体积可以因为活塞移动而改变。可逆性体积转变是指在进行得极其慢的步骤中，气体的密度经常保持均一。不可逆性体积转变即指在快速的体积转换中，由于太快改变体积所造成的压力波，并造成不稳定状态。无耗散的准静态过程为可逆过程。

热机是一种可以进行一连串转换而最终能回复开始状态的热力学系统。这一进程被称为一个循环。在某些转换当中，热力机可能会与一种被称之为高温热库的大型系统交换热能，并因为吸收或释放一定的热量而保持固定温度。一个循环所造的结果包括：

- 系统对外所做的功（等于外界对系统做功的相反数）
- 高温热库之间的热能传递

基于能量守恒定律，高温热库所失的热能正等于热力机所做的功，加上低温热库所获得的热能。

当循环中的每个过程皆是可逆时，该循环是可逆的。这表示它可以反向操作，即热的传递可以相反方向进行，恢复到初始状态而不对外界产生影响，以及所作的功可以正负号调转。最简单的可逆性循环是在两个高温热库之间传递热能的卡诺循环。

在热力学中，在下列公式中定义使用绝对温度，设想有两个热源，一个卡诺循环从第一个热源中抽取一定量的热$Q'$，相应的温度为$T$和$T'$，则：

$$\frac{Q}{T}=\frac{Q'}{T'}$$

现在设想一个任意热机的循环，在系统中从N个热源中交换一系列的热$Q_1,Q_2...Q_N,$，并有相应的温度$T_1,T_2,...T_N,$设系统接受的热为正量，系统放出的热为负量，可以知道：

$$\sum_{i=1}^N\frac{Q_i}{T_i}\le 0$$

如果循环向反方向运行，公式依然成立。

求证，有N个热源的卡诺循环中引入一个有任意温度$T_0$的附加热源，如果从$T_0$热源中，通过$j$次循环，向$T_j$热源输送热$Q_j$，从前面定义绝对温度的式中可以得出，从$T_0$热源通过$j$次循环输送的热为：

$$Q_{0,j}=T_0\frac{Q_j}{T_J}$$

现在考虑任意热机中N个卡诺循环中的一个循环，在循环过程结束时，在$T_1,...,T_N$个热源中，每个热源都没有纯热损失，因为热机抽取的每一份热都被循环过程弥补回来。所以结果是（i）热机作出一定量的功，（ii）从$T_0$热源中抽取总量为下式的热：

$$Q_0 = \sum_{j=1}^N Q_{0,j} = T_0 \sum_{j=1}^N \frac{Q_j}{T_j}$$

如果这个热量是正值，这个过程就成为第二类永动机，这是违反热力学第二定律的，所以正如下式所列：

$$\sum_{i=1}^N \frac{Q_i}{T_i} \ge 0$$

只有当热机是可逆的时，式两边才能相等，上式自变量可以一直重复循环下去。

要注意的是，$T_j$代表系统接触的温度，而不是系统本身的温度。如果循环不是可逆的，热量总是从高温向低温处流动。所以：

$$\frac{Q_j}{T_j} \le \frac{Q_j}{T}$$

这里T代表当系统和热源有热接触时系统的温度。

然而，如果循环是可逆的，系统总是趋向平衡，所以系统的温度一定要和它接触的热源一致。在这种情况下，可以用$T$代替所有的$T_j$，在这种特定情况下，一个可逆循环可以持续输送热。

$\oint \frac{\delta Q}{T} \equiv \oint dS = 0$（可逆循环）

这时，对整个循环进行积分，$T$是系统所有步骤的温度。

### 熵作为状态函数

现在，不仅仅在循环中，而是从任何热力学过程中，可以从熵的变化推断出一个重要的结论。首先，想象一个可逆过程，如果将系统从一个平衡状态A转移到另一个平衡状态B。假如再经过一个任何可逆过程将系统带回状态A，结果是熵的绝对变化等于零。这意味着在第一个过程中，熵的变化仅仅取决于初始与终结状态.由此可以定义一个系统的任何平衡状态的熵。选择一个参照状态R，定义它的熵为$S_R$，任何平衡状态X的熵为：

$$S_X = S_R + \int_R^X \frac{\delta Q}{T}$$

因为这个积分式与热转移过程无关，所以当作为熵的定义。

现在考虑不可逆过程，很明显，在两个平衡状态之间热传递造成熵的改变为：

$$\Delta S \ge \int \frac{\delta Q}{T}$$

如果过程是可逆的，此公式仍然有效。

注意，如果$\sigma Q = 0$，那么$\Delta S \ge 0$。热力学第二定律的一种表述方式正是：一个绝热系统的全部熵不会自动减少。

设想一个绝热系统但和环境保持机械联系，和环境之间不是处于机械平衡状态，可以对环境作功，或接受环境对它作功，如设想在一个密封、绝热的活塞室内，如果室内气体的压力和室外不同，活塞会膨胀或收缩，就会作功。上述结论表明在这种情况下，这个系统的熵会增加（理论上可以持续增加，但实际不会。）在一定的环境下，系统的熵存在一个极大值，这时熵相当于“稳定平衡状态”，也就是说不可能和其他平衡状态产生可使熵降低的传热过程，一旦系统达到最高熵状态，不可能再作任何功。

## 熵的统计学定义，玻尔兹曼原理

1877年，玻尔兹曼发现单一系统中的熵跟构成热力学性质的微观状态数量相关。可以考虑情况如：一个容器内的理想气体。微观状态可以以每个组成的原子的位置及动量予以表达。为了一致性起见，只需考虑包含以下条件的微观状态：（i）所有粒子的位置皆在容器的体积范围内；（ii）所有原子的动能总和等于该气体的总能量值。玻尔兹曼并假设：

$$S = k (\ln \Omega)$$

公式中的$k$是玻尔兹曼常数，$\Omega$则为该宏观状态中所包含之微观状态数量。这个被称为玻尔兹曼原理的假定是统计力学的基础。统计力学则以构成部分的统计行为来描述热力学系统。玻尔兹曼原理指出系统中的微观特性（$\Omega$）与其热力学特性（$S$）的关系。

根据玻尔兹曼的定义，熵是一则关于状态的函数。并且因为$\Omega$是一个非零自然数（$1,2,3,...$），熵必定是个非负数（这是对数的性质）。

### 熵作为混乱程度的度量

可以看出$\Omega$是一个系统混乱程度的度量，这是有道理的，因为作为有规律的系统，只有有限的几种构型，而混乱的系统可以有无限多个构型。例如，设想有一组10个硬币，每一个硬币有两面，掷硬币时得到最有规律的状态是10个都是正面或10个都是反面，这两种状态都只有一种构型（排列）。反之，如果是最混乱的情况，有5个正面5个反面，排列构型可以有$C_{5}^{10}=252$ 种。（参见组合数学）

根据熵的统计学定义，热力学第二定律说明一个孤立系统的倾向于增加混乱程度，根据上述硬币的例子可以明白，每一分钟我们随便掷一个硬币，经过一段长时间后，我们检查一下硬币，有“可能”10个都是正面或都是反面，但是最大的可能性是正面和反面的数量相等。

混乱程度倾向于增加的观念被许多人接受，但容易引起一些错误认识，最主要的是必须明白$\Delta S \ge 0$只能用于“孤立”系统，值得注意的是地球并不是一个孤立系统，因为地球不断地从太阳以太阳光的形式接收能量。但一般认为宇宙是一个孤立系统，即宇宙的混乱程度在不断地增加，可以推测出宇宙最终将达到“热寂”状态，因为（所有恒星）都在以同样方式放散热能，能源将会枯竭，再没有任何可以作功的能源了。但这一观点并没有得到证明。然而有些人认为，宇宙是个开放的、无限的系统，不能把从有限的时空尺度范围内的“熵增”推广到广袤的宇宙中，因此热寂说不正确。

### 微观计算

在经典统计力学中，微观状态的数量实际是无限的，所以经典系统性质是连续的，例如经典理想气体是定义于所有原子的位置和动量上，是根据实际数量连续计算的。所以要定义$\Omega$，必须要引入对微观状态进行“分类”的方法，对于理想气体，我们认为如果一个原子的位置和动量分别在$\delta x$和$\delta p$范围之内，它只属于“一种”状态。因为$\delta x$和$\delta p$的值是任意的，熵没有一个确定值，必须如同上述增加一个常数项。这种微观状态分类方法叫做“组元配分”，相对应于量子力学选择的组元状态。

这种模糊概念被量子力学理论解决了，一个系统的量子状态可以被表述为组元状态的位置，选择作为非破缺的哈密顿函数的典型特征状态。在量子统计力学中，$\Omega$是作为具有同样热力学性质的基本状态的数量，组元状态的数量是可以计算的，所以我们可以确定$\Omega$的值。

但是组元状态的确定还是有些随意，决定于微观状态的“组元配分”和经典物理学中不同的微观状态。

这导致了能斯特定理，有时也叫热力学第三定律，就是说系统在绝对温度零度时，熵为一恒定常数，这是因为系统在绝对温度零度时存在基础状态，所以熵就是它基础状态的简并态。有许多系统，如晶格点阵就存在一个唯一的基础状态，所以它在绝对温度零度时的熵为零（因为$ln(1) = 0$）。

## 熵的历史

热力学第一定律阐述的是“能量”以及“能量守恒”的概念，但是第一定律无法定量解释摩擦和耗散的影响。

法国数学家拉扎尔·卡诺的分析和贡献最终导致了“熵”这个概念的诞生。1803年，拉扎尔·卡诺发表了一篇文章“运动和平衡的基本原理”，提出在任何一个机器的运动部分的加速和冲击意味着动量（momentum）的损失，换句话说，在任何自然过程中，总是存在着“有用”的能量逐渐耗散这一固有的趋势。基于上述研究，1824年拉扎尔·卡诺的儿子尼科拉斯·莱奥纳德·萨迪·卡诺发表了“关于火的原动力”，提出所有的热机的工作都需要存在温度差，当热量从热机热的部分向热机冷的部分转移时，热机获得了原动力。这是对热力学第二定律的最初洞见。

卡诺提出的可逆热机只存在于理想情况。19世纪50年代和60年代，德国物理学家克劳修斯在对实际热机的研究中进一步指出，任何热机都不是可逆的，不可能毫无“改变”，并进一步对这个“改变”进行了定量研究。克劳修斯认为，实际热机在使用过程中会产生“无法使用”的热量（比如热机的活塞和热机壁摩擦产生的热量。在此基础上，克劳修斯提出了熵的概念，将熵描述为能量的耗散。

## 熵的图绘

以下公式可用于在P-V图表上绘出熵：

$$S = n R \ \ln (1 + P^{C_V \over R} V^{C_P \over R})$$

两项注意事项：（1）这并非熵的定义（是从熵引申），（2）它假设$C_V$及$C_P$皆为常数，但事实并非如此，详情请见下面。

## 熵的测量

在现实的实验中，一个系统中的熵是很难测量的。所以，测量的技巧是建基于热力学中熵的定义，并且依靠严格的测卡法。

为了简单起见，测量一个热力学状态可以体积$V$及压力$P$来描述的机械系统。为了要测量个别状态的熵，应首先在一个从参考状态到预期状态中的一系列连续状态中测量在固定体积及固定压力（可分别以$C_V$及$C_P$表示）情况下的热容量。热容量跟熵$S$及温度$T$之间的关系为：

$$C_X = T \left(\frac{\partial S}{\partial T}\right)_X$$

下标X跟固定体积或固定压力有关。这可以定积分计算出熵的改变：

$$\Delta S = \int \frac{C_X}{T} dT$$

因此，可以获得与一个参考状态（$P_0$,$V_0$）关连的熵的任何状态（$P$，$V$）。完整的公式如何在于所选择的中间状态。比方说，如果参考状态与最终状态气压相同的话：

$$S(P,V) = S(P, V_0) + \int^{T(P,V)}_{T(P,V_0)} \frac{C_P(P,V(T,P))}{T} dT$$

另外，如果参考状态与终结状态中间存在一阶相变，与相变有关连的潜热应纳入计算之中。

参考状态下的熵应作独立的计算。在完美的情况下，应该把参考状态定在一个极高温，系统以气态存在的点。在此状态下的熵就像完美气体再加上分子旋转及振动的情况，可以用分光法加以测量。如果所选择参考状态的温度太低的话，该状态的熵有机会构成非预期的表现而对计算构成困难。举例说，以后者方法计算冰的熵值，并设零度温度下无熵，得出来的结果会比以高温参考状态计算出的结果少3.41 J/K/mol。造成这现象的原因是冰晶体带有几何不稳定性的性质，并因此在相当低温的情况下会带有不消失的零点下的熵。

## 非热力学的熵

信息论方面的熵，请参阅熵 (信息论)。事实上，两种熵之间存在紧密联系，它们之间的关系显示出热力学及信息论之间的深厚关系。

信息熵之所以仍然称为“熵”，是因为他的公式和热力学熵的公式一样，是玻尔兹曼在统计力学领域推导出来的，玻尔兹曼从微观粒子出发，总结熵的宏观性质，（上面第二章可以看到玻尔兹曼公式对熵的解释）。不仅信息科学，生物学和生态学也利用熵的概念。热力学中熵表示的是“系统混乱状态”，这和生物学相通，1940年代薛定谔在《生命是什么》之中就提出了生物就是负熵的过程；信息论中信息熵表示的是信息量；生态学中熵表示的是生物多样性。

### 时间之箭

熵是在物理学领域中似乎暗示只朝向一个特定行进方向的量，有时被称为时间之箭。随着时间的推移，热力学第二定律：孤立系统的熵状态永远只会增加，不会减少。因此，从这个角度看，熵的测量被看作是一种时钟。