統計力学におけるエントロピー.
ある巨視的状態（例えば、圧力と体積を指定した状態）に対して、それを与える微視的状態（例えば、各分子の位置および運動量）は多数存在すると考えられる。そこで仮想的にアンサンブルを考える。つまり、ある巨視的状態に対応する微視的状態の集合を考え、その各々の元が与えられた巨視的状態の下で実現する確率分布を与えることにする。
系の微視的状態（例えば量子系であればエネルギー固有状態）を考え、微視的状態が実現される確率分布が与えられているとき、ボルツマン定数をとして、エントロピーを
すなわち、統計力学におけるエントロピーは情報理論におけるエントロピー（無次元量）と定数倍を除いて一致する。
小正準集団.
例えば、エネルギーの状態にある孤立系に対応して、小正準集団を用いるとする。すなわち、微視的状態にあるときのエネルギーをとしたときに、系のエネルギーにある微視的状態のみに有限の確率を等しく
として与える（等重率の原理）。ここで、規格化定数は状態数と呼ばれ、系がエネルギーにあるときに実現しうる微視的状態の数を意味する。このとき、エントロピーはボルツマンの公式としてよく知られる
で与えられる。
熱力学との整合性.
すなわち
熱力学と整合するアンサンブルは、ここで例示した小正準集団の他にも、正準分布や大正準分布がある。
情報理論におけるエントロピーとの関係.
情報理論においてエントロピーは確率変数が持つ情報の量を表す尺度で、それゆえ情報量とも呼ばれる。
確率変数に対し、のエントロピーは
で定義されており、これは統計力学におけるエントロピーと定数倍を除いて一致する。この定式化を行ったのはクロード・シャノンである。
これは単なる数式上の一致ではなく、統計力学的な現象に対して情報理論的な意味づけを与える事ができることを示唆する。情報量は確率変数が数多くの値をとればとるほど大きくなる傾向があり、したがって情報量はの取る値の「乱雑さ」を表す尺度であると再解釈できる。よって情報量の概念は、原子や分子の「乱雑さの尺度」を表す統計力学のエントロピーと概念的にも一致する。
統計力学と情報理論の関係は量子力学においても成立しており、量子統計力学におけるフォン・ノイマンエントロピーは量子情報の情報量を表していると再解釈された上で、量子情報や量子計算機の研究で使われている。