密度行列
Aを物理量、すなわち状態空間上の自己共役作用素であるとする。
今何らかの量子力学的な系が与えられていたとし、この系でAを観測した観測値の期待値を
E ( A ) {\displaystyle E(A)}
と書くことにする。なお系の具体的な状態は問わない。したがって系が純粋状態であっても混合状態であってもよい。
E ( A ) {\displaystyle E(A)} は自己共役作用素Aに実数を対応させる関数
E : A ↦ R {\displaystyle E~:~A\mapsto \mathbf {R} }
とみなす事ができるが、物理的に考えると、この関数は次の2性質を満たさねばならないはずである。なお以下でIは単位行列である。さらにAが非負であるとは、任意の状態ベクトル | ψ ⟩ {\displaystyle |\psi \rangle } に対し ⟨ ψ | A | ψ ⟩ ≥ 0 {\displaystyle \langle \psi |A|\psi \rangle \geq 0} が成立する事を言う:
(1) E ( I ) = 1 {\displaystyle E(I)=1}
(2) Aが非負なら、 E ( A ) ≥ 0 {\displaystyle E(A)\geq 0}
なぜこれらの条件が要請されるかというと、単位行列Iの固有値は全て1なので、Aを観測した結果は常に1でなければならない(=条件(1))。
以上を踏まえた上で、密度行列とその関連概念を以下のように定義する。
上で定義した重ね合わせの概念は、状態ベクトルの重ね合わせとは異なる概念である。実際、一般には
| c 1 ψ 1 + c 2 ψ 2 ⟩ ⟨ c 1 ψ 1 + c 2 ψ 2 | ≠ c 1 | ψ 1 ⟩ ⟨ ψ 1 | + c 2 | ψ 1 ⟩ ⟨ ψ 1 | {\displaystyle |c_{1}\psi _{1}+c_{2}\psi _{2}\rangle \langle c_{1}\psi _{1}+c_{2}\psi _{2}|\neq c_{1}|\psi _{1}\rangle \langle \psi _{1}|+c_{2}|\psi _{1}\rangle \langle \psi _{1}|}
である。
両者を区別するため、状態ベクトルの重ね合わせをコヒーレントな重ね合わせ、密度行列の重ね合わせをインコヒーレントな重ね合わせという。
ここで | ψ 1 ⟩ {\displaystyle |\psi _{1}\rangle } 、 | ψ 2 ⟩ {\displaystyle |\psi _{2}\rangle } 、...は完全正規直交系であり、 t r ( A ^ | φ ⟩ ⟨ φ | ) {\displaystyle \mathrm {tr} ({\hat {A}}|\phi \rangle \langle \phi |)} は行列 A ^ | φ ⟩ ⟨ φ | {\displaystyle {\hat {A}}|\phi \rangle \langle \phi |} のトレース (trace) である。
したがってより一般に「p1の確率で | φ 1 ⟩ {\displaystyle |\phi _{1}\rangle } 、p2の確率で | φ 2 ⟩ {\displaystyle |\phi _{2}\rangle } 、...」という混合状態を観測すればその期待値は