エントロピー
歴史
エントロピーは、ドイツの物理学者ルドルフ・クラウジウスが、カルノーサイクルの研究をする中で、移動する熱を温度で割ったQ/Tという形で導入され、当初は熱力学における可逆性と不可逆性を研究するための概念であった。後に原子の実在性を強く確信したオーストリアの物理学者ルートヴィッヒ・ボルツマンによって、エントロピーが原子や分子の「乱雑さの尺度」であることが論証された。
クラウジウスは1854年にクラウジウスの不等式として熱力学第二法則を表現していたが、彼自身によって「エントロピー」の概念が明確化されるまでにはそれから11年を要した。不可逆サイクルでゼロとならないこの量をクラウジウスは仕事と熱の間の「変換」で補償されない量として、1865年の論文においてエントロピーと名付けた。エントロピーという言葉は「変換」を意味するギリシア語: τροπή（トロペー）に由来している。
その後ボルツマンやギブスによって統計力学的な取り扱いが始まった。情報理論（直接的には通信の理論）における情報量の定式化が行われたのは、クロード・シャノンの1948年『通信の数学的理論』である。シャノンは熱統計力学とは独立に定式化にたどり着き、エントロピーという命名はフォン・ノイマンの勧めによる、と言われることがあるが、シャノンはフォン・ノイマンの関与を否定している。
熱力学におけるエントロピー
エントロピーは、熱力学における断熱過程の不可逆性を特徴付ける量として位置付けられる。熱力学では、系のすべての熱力学的な性質が、一つの関数によってまとめて表現される。そのような関数は完全な熱力学関数と呼ばれる。エントロピーは完全な熱力学関数の一つでもある。
簡単な状況下での説明
温度 T₁ の吸熱源から Q₁ の熱を得て、温度 T₂ の排熱源に Q₂ の熱を捨てる熱機関を考える。この熱機関が外部に行う仕事はエネルギー保存則から W = Q₁ − Q₂ であり、熱機関の熱効率 η は
で与えられる。
カルノーの定理によれば、熱機関の熱効率には二つの熱源の温度によって決まる上限の存在が導かれ、その上限は
で表される。
これら2本の式を整理することで、
(*
)
が成立することが分かる。
可逆な熱機関の熱効率は ηₘₐₓ と等しく、このため可逆な熱機関では(*) 式は等号
(†
)
が成り立つ。すなわち、可逆な過程で高熱源に接している状態から低熱源に接している状態に変化させたとしても Q/T という量は不変となる。クラウジウスはこの不変量をエントロピーと呼んだ。
可逆でない熱機関は熱効率が ηₘₐₓ よりも悪いことが知られており、このため可逆でない熱機関では(*) 式は等号ではなく不等式
が成り立つ。すなわち、可逆でない過程で高熱源で熱を得た後、低熱源でその熱を捨てるとエントロピーは増大する（エントロピー増大則）。
一般の場合
上では話を簡単にするため、高熱源と低熱源の2つしか熱源がない場合を考えたが、より一般にn個の熱源がある状況を考えると(*) 式は
となる（クラウジウスの不等式）。ただし上の不等式では(*) 式と違いQᵢは全て温度Tᵢの熱源から得る熱であり、熱を捨てる場合は負の値としている。
可逆なサイクルでは等号
が成り立ち、この式でn→∞とすると、
となる 。状態Aから状態Bへと移る任意の可逆過程C,C'を考え、−CをCの逆過程とする。このとき、C'と−Cを連結させた過程C'−Cは可逆なサイクルとなり
(**
)
が成り立つ。つまり、この積分の値は始状態と終状態が同じならば可逆過程の選び方によらない。
そこで、適当に基準となる状態Oと、そのときの基準値S₀を決めると、状態AにおけるエントロピーS(A)を
と定義することができる。ここでΓ(A)は基準状態Oから状態Aへと変化する可逆な過程である。(**) 式からエントロピーの定義は可逆過程Γ(A)の選び方によらない。
基準状態Oから状態Aへと移る可逆過程Γ(A)と、状態Aから状態Bへと移るある可逆過程Cを連結させた過程Γ(A)+Cは基準状態Oから状態Bへと移る可逆過程である。したがって、
あるいは
となる。
エントロピー増大則
状態Aから状態Bへと移る任意の過程Xと、同じく状態Aから状態Bへと移る可逆過程Cを考え、−CをCの逆過程とする。このときXと−Cを連結させた過程X−Cはサイクルとなる。
このサイクルについて、導出と同様にクラウジウスの不等式から
が導かれる。ここでTₑₓは熱源の温度であり、一般には系の温度Tとは一致しない。しかし、可逆過程Cの間においては、系は常に平衡状態にあるとみなされるから、熱源の温度Tₑₓは系の温度Tに一致する。したがって
となる。
特に断熱系（外から仕事が加えられても良い）においてはd'Q = 0なので、
という結果が得られる。これがエントロピー増大則である。熱力学第二法則と同値なクラウジウスの不等式からこれが求められたことにより、熱力学第一法則がエネルギー保存則と対応するのになぞらえて熱力学第二法則とエントロピー増大則を対応させることもある。なお、この導出から明らかなように、熱の出入りがある系ではエントロピーが減少することも当然起こり得る。
エントロピーが増加するために、熱エネルギーのすべてを他のエネルギーに変換することはできない。したがって、熱エネルギーは低品質のエネルギーとも呼ばれる。
温度による表示
エントロピーを完全な熱力学関数として用いる場合の系の平衡状態を表す変数は内部エネルギーと体積などの示量性変数である。しかし、温度は測定が容易なため、系の平衡状態を表す変数として温度を選ぶ場合がある。
閉鎖系で物質量の変化を考えない場合に、温度 T と体積 V の関数としてのエントロピー S(T,V) の温度 T による偏微分は
で与えられる。ここで CV 定積熱容量である。
また、エントロピー S(T,V) の体積 V による偏微分は
で与えられる。これは熱膨張係数 α と等温圧縮率 κT で表せば
となる。
従って、T-V 表示によるエントロピーの全微分は
となる。
さらに体積に変えて圧力 p を変数に用いれば、体積 V(T,p) の全微分が
であることを用いれば、T-p 表示によるエントロピーの全微分は
となる。
気体のエントロピー
低圧領域において実在気体の状態方程式をビリアル展開
の形で書くと、モルエントロピー Sₘ の圧力による偏微分は、マクスウェルの関係式より
となる。従って、低圧領域においてモルエントロピーは
で表される。ここで
で定義される S°ₘ(T) は、温度 T における標準モルエントロピーであり、この実在気体が理想気体の状態方程式に従うと仮定した時の、圧力 p°におけるモルエントロピーに相当する。
リーブとイングヴァソンによる再構築
1999年にエリオット・リーブとヤコブ・イングヴァソンは、「断熱的到達可能性」という概念を導入して熱力学を再構築した。「状態Yが状態Xから断熱操作で到達可能である」ことを  と表記し、この  の性質からエントロピーの存在と一意性を示した。
この公理的に基礎付けされた熱力学によって、クラウジウスの方法で用いられていた「熱い・冷たい」「熱」のような直感的で無定義な概念を基礎から排除した。温度は無定義な量ではなくエントロピーから導出される。このリーブとイングヴァソンによる再構築以来、他にも熱力学を再構築する試みがいくつか行われている。
統計力学におけるエントロピー
ある巨視的状態（例えば、圧力と体積を指定した状態）に対して、それを与える微視的状態（例えば、各分子の位置および運動量）は多数存在すると考えられる。そこで仮想的にアンサンブルを考える。つまり、ある巨視的状態に対応する微視的状態の集合を考え、その各々の元が与えられた巨視的状態の下で実現する確率分布を与えることにする。
系の微視的状態（例えば量子系であればエネルギー固有状態）ωを考え、微視的状態ωが実現される確率分布p(ω)が与えられているとき、ボルツマン定数をkとして、エントロピーSを
により定義する。これはギブズエントロピー（英: Gibbs entropy）とも呼ばれる。
すなわち、統計力学におけるエントロピーは情報理論におけるエントロピー（無次元量）と定数倍を除いて一致する。
小正準集団
例えば、エネルギーEの状態にある孤立系に対応して、小正準集団を用いるとする。すなわち、微視的状態ωにあるときのエネルギーをE(ω)としたときに、系のエネルギーEにある微視的状態のみに有限の確率を等しく
として与える（等重率の原理）。ここで、規格化定数Ω(E)は状態数と呼ばれ、系がエネルギーEにあるときに実現しうる微視的状態の数を意味する。このとき、エントロピーはボルツマンの公式としてよく知られる
で与えられる。
熱力学との整合性
このように小正準集団により与えられたエントロピーが、先に見た熱力学のエントロピーと整合していることを確認する。エネルギーE、小正準集団によるエントロピーSの系を、透熱壁を入れることにより 2 つの部分系に分離する。それぞれの系にエネルギーがE₁, E₂と分配されるとしよう。この場合、系全体の状態数か、あるいはその対数であるエントロピーが最大になるように部分系のエネルギーが決定されると考えるのは自然であろう。系全体の状態数は 2 つの部分系の状態数の積であり、すなわち系全体のエントロピーSは 2 つの部分系のエントロピーS₁, S₂の和である。条件E₂ = E − E₁の下で全体のエントロピーを最大とする条件を考えると、
すなわち
となる。ここで、このエントロピーを熱力学のものと同一視すると、dS/dE = 1/Tが成立するのであった（部分系の体積は固定しておくことにする）。透熱壁を用いて 2 つの系を接触させた場合、平衡状態では当然 2 つの系の温度は等しくなることと、ここで確認した事実は確かに整合している。
熱力学と整合するアンサンブルは、ここで例示した小正準集団の他にも、正準分布や大正準分布がある。
ブラックホールのエントロピー
ブラックホールのエントロピーは表面積に比例する。
ここでSはエントロピー、Aはブラックホールの事象の地平面の面積、ℏはディラック定数（換算プランク定数）、kはボルツマン定数、Gは重力定数、cは光速度である。
生物学におけるエントロピー
エルヴィン・シュレーディンガーは、生命をネゲントロピー（負のエントロピー）を取り入れエントロピーの増大を相殺することで定常状態を保持している開放定常系とした。負のエントロピー自体は後に否定されたが、非平衡系の学問の発展に寄与した。