Lie group
のように、「滑らかな」構造を持った群をリー群という（厳密な定義はリー群の項目を参照）。特に のように行列からなるリー群を行列リー群あるいは単に行列群という。本項で登場するリー群は以下の行列群に限られる。そこで本項ではリー群の一般論を展開するのは避け、以下の行列群に限定して話をすすめる。 以下では複素計量ベクトル空間であり、は単位行列であり、はのエルミート共役である：