エントロピー
熱力学第一法則から、ある熱力学過程の間に系が外部から得る熱Qは、その過程の前後での系の内部エネルギーUの変化ΔUと、その過程の間に系が外部になす仕事Wにより
Q = Δ U + W {\displaystyle Q=\Delta U+W}
と表すことができる。無限小の変化で考えると
d ′ Q = d U + d ′ W {\displaystyle d'Q=dU+d'W}
となる。クラウジウスの不等式とエントロピーの定義式から無限小変化に対して
d S ≥ d ′ Q T ex {\displaystyle dS\geq {\frac {d'Q}{T_{\text{ex}}}}}
となる。系が体積Vの変化dVを通してのみ外部に仕事をなす場合には、外部の圧力をpexとして
d ′ W = p ex d V {\displaystyle d'W=p_{\text{ex}}dV}
となる。これらをまとめると
d S ≥ 1 T ex ( d U + p ex d V ) {\displaystyle dS\geq {\frac {1}{T_{\text{ex}}}}(dU+p_{\text{ex}}dV)}
が成り立つことがわかる。可逆過程では等号
d S = 1 T ex ( d U + p ex d V ) {\displaystyle dS={\frac {1}{T_{\text{ex}}}}(dU+p_{\text{ex}}dV)}
が成り立ち、さらに準静的過程では系と外部が熱平衡および力学的平衡にあるので、外部の温度Texは系の温度Tに等しく、外部の圧力pexは系の圧力pに等しい。すなわち、(U,V)で表される平衡状態から(U+dU,V+dV)で表される平衡状態への準静的な無限小変化では
ある巨視的状態(例えば、圧力と体積を指定した状態)に対して、それを与える微視的状態(例えば、各分子の位置および運動量)は多数存在すると考えられる。そこで仮想的にアンサンブルを考える。つまり、ある巨視的状態に対応する微視的状態の集合を考え、その各々の元が与えられた巨視的状態の下で実現する確率分布を与えることにする。
系の微視的状態(例えば量子系であればエネルギー固有状態)ωを考え、微視的状態ωが実現される確率分布p(ω)が与えられているとき、ボルツマン定数をkとして、エントロピーSを
S = k ⟨ ln  1 p ( ω ) ⟩ = − k ∑ ω p ( ω ) ln  p ( ω ) {\displaystyle S=k\left\langle \ln {\frac {1}{p(\omega )}}\right\rangle =-k\sum _{\omega }p(\omega )\ln p(\omega )}
により定義する。これはギブズエントロピー(英: Gibbs entropy)とも呼ばれる。
すなわち、統計力学におけるエントロピーは情報理論におけるエントロピー(無次元量)と定数倍を除いて一致する。