Schur の直交関係

既約表現の話で重要な Schur の補題と Schur の直交関係を求めます。
群の積は g1 g2 のように書いています。
同じ記号を使いまわしているので混乱しないようにしてください。

群 G の元は g とし、ベクトル空間 (表現空間)V での群 G の表現 Π を (Π, V ) と表記します。言い回しを簡単にするために、ここでは Π(g) も表現と言っていきます。
最初に指標 (character) を定義しておきます。表現 (線形演算子)Π(g) は基底を選ぶことで行列 D(g) にできます。

D(g) は基底の選び方を変えれば、ある行列 S による相似変換 D′ (g) = SD(g)S −1 を受けます。D′ (g), D(g) は同じベクトル空間上での基底の違いでしかなく、この意味で同値な表現となります。なので、基底の変換で不変な量を定義すると便利で、それは簡単に作れます。

D′ (g) のトレースを取ると、トレースの巡回性から

trD′ (g) = tr[SD(g)S −1 ] = tr[S −1 SD(g)] = trD(g)となり、D′ (g), D(g) で同じなのが分かります。なのでχ(g) = trD′ (g) =∑′Dii(g)iとしたものを指標 (character) と定義し、表現が同値なら同じ値を持ちます。和の範囲は n × n 行列なら 1 から nまでです。既約表現の指標は単純 (simple) と呼ばれ、単純指標 (simple character) と言ったりします。
群 G の元 g1 , g2 が同じ共役類に含まれているとして、gk ∈ G によって

g1 = gk g2 gk−1とします。これの表現の行列 D(g1 ) はD(g1 ) = D(gk g2 gk−1 ) = D(gk )D(g2 )D(gk−1 ) = D(gk )D(g2 )(D(gk ))−1トレースを取れば、巡回性からtrD(g1 ) = trD(g2 )となるので、g1 , g2 が同じ共役類なら指標は一致します。
後で使うので、有限群において任意の表現はユニタリー表現と同値であることを示します。ユニタリー表現は、
群 G の表現 Π による Π(g) がユニタリー演算子になるときです。なので、表現空間 V での内積 (v, w) (v, w ∈ V )に対して (Π(g)v, Π(g)w) = (v, w) となるならユニタリー表現です。もしくは、ベクトル空間の基底を選んだときに Π(g) がユニタリー行列になるならユニタリー表現です。
ここでの同値は行列で言えば相似変換で繋がっているという意味なので、ユニタリー行列を作れる相似変換があることを示せばいいです。

1

有限群を G とし、元を gi (i = 1, 2, . . . , n) とします。表現の行列を Ri = R(gi ) と表記します。ここで、エルミート行列 H をH=n∑Ri† Rii=1と作ります。エルミート共役は和に対して (A1 + A2 )† = A†1 + A†2 なので H = H † となっています。エルミート行列はユニタリー行列によって対角化できるので、ユニタリー行列を U として

D = U † HUとして、対角行列 D を作ります。これは行列成分で書けば

Daa =n ∑∑(U † )ab (Ri† )bc (Ri )cd Uda

i=1 b,c,d

D の対角成分の a = s が 0 とします。そうすると、

0=∑(U † )sb (R1† )bc (R1 )cd Uds + · · · +b,c,d∑(U † )sb (Rn† )bc (Rn )cd Udsb,c,dから、右辺の各項は 0 の必要があります。なので、(Ri )cd Uds = (Ai )cs(U † Ri† = (Ri U )† = A†i )とすれば、A は s 列目が 0 の行列です。1 列がすべて 0 なので行列式は det Ai = 0 となり

det Ai = det[Ri U ] = det Ri det U = 0
ユニタリー行列には逆行列がいるので det U ̸= 0 です。しかし、det Ri = 0 を要求すると Ri の逆行列がいないことになり、表現には R−1 がいるという定義と矛盾します。なので、Daa > 0 となり、行列式が 0 にならないので、D の逆行列は存在します。さらに、T 2 = D として、正の実数を対角成分に持つ T を作れば、同様に T も逆行列を持つので

S = T U † , S −1 = U T −1として、Ri を相似変換の形

Ri′ = SRi S −1によって変換すると2(U † = U )Ri′† Ri′ = (SRi S −1 )† SRi S −1 = (S −1 )† Ri† S † SRi S −1= (U T −1 )† Ri† (T U † )† T U † Ri U T −1
= T −1 U † Ri† U T T U † Ri U T −1= T −1 U † Ri† U DU † Ri U T −1= T −1 U † Ri† U U † HU U † Ri U T −1= T −1 U † Ri† HRi U T −1=n∑

T −1 U † Ri† Rj† Rj Ri U T −1

j=1

Ri 部分は(R(gj )R(gi ))† R(gj )R(gi ) = R† (gj gi )R(gj gi )なので、gj gi = gk ∈ G とし、固定された i に対してRi′† Ri′ =n∑

T −1 U † R† (gk )R(gk )U T −1 = T −1 U † HU T −1 = T −1 DT −1 = T −1 T T T −1 = 1

k=1

よって、Ri から S による相似変換でユニタリー行列 Ri′ を作れるので、有限群の表現はユニタリー行列と同値です。
次に Schur の補題に移ります。群 G の既約表現の行列 D(g), D′ (g) に対してD(g)M = M D′ (g)を満たす行列 M は M = 0 となり、D(g) = D′ (g) では M は単位行列のスカラー倍になります (M と D(g) が交換する)。これを Schur の補題と言います (下の補足も参照)。Schur の補題の証明を見ていきます。

n 次元ベクトル空間 V の基底ベクトルを ei とします。表現 (Π, V ) が可約なら、m < n となる m 次元の不変な部分空間 W (Π(g)w ∈ W, w ∈ W ) が存在します。その部分空間の基底を fi とします。基底 ei , fi によって表現

Π には

Π(g)ei =n∑

Dki (g)ek , Π(g)fi =k=1m∑k=1として、行列 D(g), D′ (g) が与えられます。基底の変換は

fi =n∑
k=1として3Mki ek′Dki(g)fkΠ(g)fi =m∑′Dki(g)fk =nm ∑∑′Dki(g)el Mlk

k=1k=1 l=1n∑n ∑n∑もしくはΠ(g)fi =Π(g)ek Mki =k=1

Dlk (g)el Mki

k=1 l=1なので、Π が可約のとき行列 M によって、D(g), D′ (g) はm∑′el Mlk Dki(g) =k=1m∑n∑el Dlk (g)Mki

k=1′
Mlk Dki(g) =k=1n∑

Dlk (g)Mkik=1

この関係が成立しているとき、n 次元ベクトル空間の不変な部分空間として m 次元ベクトル空間の基底ベクトル

fi が

fi =n∑

Mki ekk=1と与えられます。なので、0 か V 自身以外に不変な部分空間がない既約表現では M = 0 となります。
次に、D(g) = D′ (g) として v ∈ V に作用させるとD(g)M v = M D(g)v
v を M の固有値 λ の固有ベクトル x とすると

M D(g)x = λD(g)x
なので、D(g)x も λ の固有ベクトルです。このため、λ の固有ベクトルによる部分空間 X で D(g)x ∈ X なので、D(g) が既約であるためには、X は V 自身か {0} の必要があります。{0} は M = 0 で、V 自身では全ての v が固有値 λ の固有ベクトルになるので M は単位行列の λ 倍です。よって、Schur の補題が示せたことになります。
これで準備ができたので、既約表現の直交性を求めます。2 つの既約表現の行列を D(g), D′ (g) とします。これらによって任意の行列 K をM=∑

D(g)KD′ (g −1 )g∈Gと変換します。和は群 G に含まれる全ての元に対して取ります。h ∈ G として4(1)M D(h) = D(h)∑∑D(g)KD′ (g −1 ) =g∈G

D(h)D(g)KD′ (g −1 ) =g∈G∑

D(hg)KD′ (g −1 )g∈G

最後へは表現の定義からです。さらにD′ (g −1 ) = D′ (g −1 )D′ (h−1 )D′ (h) = D′ (g −1 h−1 )D′ (h) = D′ ((hg)−1 )D′ (h)から∑M D(h) =D(hg)KD′ ((hg)−1 )D′ (h)g∈G群なので、全ての g とある与えられた h との積の組み合わせは G の全ての元になります (hg ∈ G)。そうすると、hg に対して g の和を取ることは g の和を取ることと同じなので

M D(h) =∑D(g)KD′ (g −1 )D′ (h) = M D′ (h)(2)g∈G

D(h) = D′ (h) なら Schur の補題から、M は単位行列の定数倍です。
D(g) = D′ (g) とします。有限群の表現はユニタリー表現と同値なので、D(g) を n × n ユニタリー行列とします。そうすると、(1) のトレースは

trM = nλ∑tr[D(g)KD(g −1 )] =g∈G∑

tr[D(g −1 )D(g)K] =g∈G∑

trK = |G|trKg∈G

g の和は任意の行列 K とは無関係なので、群の元の数 |G| になります。よって

λ=|G|trKn(3)

K は任意なので、(i, j) 成分が 1 でほかの成分は 1 の行列 E(i, j)（行列によるベクトル空間の基底ベクトル）を選ぶことにすれば

trK = trE(i, j) = δij
E(i, j) で i = j のときにトレースが 1 になるからです。
(1) でも E(i, j) を使えばMab =n∑ ∑Dac (g)Ecd (i, j)Ddb (g −1 ) =g∈G c,d=1∑g∈G5Dai (g)Djb (g −1 )

最右辺へは c = i, d = j のときだけが 1 で他は 0 だからです。ユニタリー行列なので

Mab =

∑

Dai (g)(Djb (g))−1 =g∈G∑∑

Dai (g)(Djb (g))† =g∈G∗
Dai (g)Dbj(g)g∈GMab = λδab と (3) から∑∗Dai (g)Dbj(g) =g∈G|G|δab δijn

一方で、D(g) ̸= D′ (g) では Schur の補題から M = 0 なので、K は E(i, j) と選ぶことで∑′∗Dai (g)Dbj(g) = 0g∈Gとなり、表現が異なれば 0、同じなら 0 でないという直交関係が求まります。このときは、D(g) は n × n 行列、E(i, j) は n × m 行列、D′ は m × m 行列です。
よって、既約表現の nµ × nµ ユニタリー行列 D(µ) (g) に対して

• 同値でない (相似変換で繋がっていない)D(ν) (g) の場合
∑(µ)

(ν)∗

(µ ̸= ν)(4a)|G|
δab δijnµ(4b)Dai (g)Dbj (g) = 0g∈G

• 同じ Dµ (g) の場合
∑(µ)

(µ)∗

Dai (g)Dbj (g) =g∈Gとなり、Schur の直交関係や大直交性定理 (great orthogonality theorem) と言います。
指標を使うことで既約表現を扱うときに便利な性質が求められます。ここからはユニタリー表現とします。表現の行列のトレースが指標なので、(4b) は D(µ) (g) の指標を χ(µ) (g) として

∑∑(µ)

(µ)∗

Dii (g)Djj (g) =g∈G i,j∑|G| ∑δij δij ⇒χ(µ) (g)χ(µ)∗ (g) = |G|nµ i,jg∈GD(ν)∗ (g) (µ ̸= ν) では 0 です。さらに、群 G の元 g1 , g2 が同じ共役類だと指標は同じになることを使います。例
えば、群の元が 2 個の共役類 K1 , K2 で構成されており、それぞれの元の個数が |G1 |, |G2 | 個なら∑(µ) (µ)∗χ(µ) (g)χ(µ)∗ (g) = χ1 χ1(µ) (µ)∗|G1 | + χ2 χ2|G2 |g∈G(µ)(µ)と書けます。χ1 , χ2は K1 , K2 での指標です。これから、l 個の共役類があるときl∑(µ) (µ)∗χi χii=16|Gi | = |G|となります。
これを完全可約表現の行列 R(g) に持ち込みます。完全可約表現では対角部分に既約表現の行列が入っているので、既約表現の和に分解できます。D(µ) (g) を既約表現として、それをR(g) =∑aµ D(µ) (g)(5)µと書きます (各表現での行列成分の数を揃えないなら行列の直和)。係数 aµ は 0 以上の整数になるように定義し、同じ既約表現の個数とします。表現 Π(µ) の aµ 個の直和として書けば

aµ Π(µ) = Π(µ) ⊕ Π(µ) ⊕ · · · ⊕ Π(µ)ということです。R(g) の指標 χ(g) は、例えば D(1) (g), D(2) (g) に分解できるとすれば(tr)

D(1) (g)00

D(2) (g)= trD(1) (g) + trD(2) (g) = χ(1) (g) + χ(2) (g)(6)となるので

χ(g) =∑aµ χ(µ) (g)(7)µχ(g) に χ(ν)∗ (g)|G| をかけると

χ(g)χ(ν)∗ (g)|G| =∑aµ χ(µ) (g)χ(ν)∗ (g)|G|µχi を共役類 Ki の指標とし、その和を取れば∑(ν)∗χi χi|Gi | =∑aµµi=∑∑(µ) (ν)∗χi χi|Gi |iaµ δµν |G|µ= aν |G|aν =1 ∑(ν)∗χi χi |Gi ||G| iとして、完全可約表現を既約表現で分解したときの定数が求まります。なので、実際に完全可約表現は (5) と分解できます。

(7) に

7

χ∗i |Gi | =∑(µ)∗

aµ χi|Gi |µをかけて、共役類の和を取ると∑χi χ∗i |Gi | =∑∑ii==aν χi(ν)∗|Gi |(µ) (ν)∗|Gi |νaµ aν∑ν∑∑µ∑µ∑∑µ(µ)

aµ χiχi χiiaµ aν δµν |G|ν∑1 ∑|χi |2 |Gi | =a2µ|G| iµ
これから、左辺が求められているとき、aµ は 0 以上の整数なので既約表現への分解の制限を与えます。例えば、左辺が 1 なら右辺は 1 にしかなれないので R(g) は既約表現と分かり、2 と求まっていれば右辺は 1 + 1 にしかなれないので 2 個の既約表現に分解されるのが分かります。
・補足

Schur の補題は線形演算子でも同様に導けます。線形演算子 ϕ のベクトル v への作用も行列のように ϕv と書きます。
群 G のベクトル空間 V1 , V2 における 2 つの既約表現 Π1 , Π2 があるとします。V1 から V2 への線形演算子 ϕ がϕΠ1 (g) = Π2 (g)ϕを満たすとき (ϕ と Π1 (g), Π2 (g) の合成写像で、V1 のベクトルに作用する)、ϕ は interwiner と呼ばれます。この場合での Schur の補題を示します。
まず、ϕ のカーネル (核)Kerϕ は V1 の不変な部分空間、ϕ の像 Imϕ は V2 の不変な部分空間であることを示します。v ∈ Kerϕ とすれば、ϕv = 0 なのでϕΠ1 (g)v = Π2 (g)ϕv = 0となり、Π1 (g)v も Kerϕ にいるのが分かります。よって、v, Π1 (g)v ∈ Kerϕ から Kerϕ は V1 の不変な部分空間です。

ϕ の像は w = ϕu ∈ Imϕ なので (u ∈ V1 , w ∈ V2 )

Π2 (g)w = Π2 (g)ϕu = ϕΠ1 (g)uΠ1 (g)u ∈ V1 なので ϕΠ1 (g)u ∈ Imϕ となり、Π2 (g)w ∈ Imϕ です。よって、Imϕ は V2 の不変な部分空間です。
ϕ ̸= 0 とします。Π1 が既約表現であるためには、Kerϕ は V1 か {0} です。しかし、Kerϕ (ϕ ̸= 0) は V1 にはなれないので、Kerϕ = {0} です。Π2 が既約表現であるためには、Imϕ は V2 か {0} です。Imϕ = {0} は ϕ = 0 になってしまうので、Imϕ = V2 です。よって、Kerϕ = {0}, Imϕ = V2 なので ϕ は全単射です (Kerϕ = {0} は単射、8

Imϕ = V2 は全射の必要十分条件)。ϕ ̸= 0 で全単射なので V1 での作用は ϕ(V1 ) = V2 となり、ϕ は同型写像です。
よって、ϕ が interwiner なら、ϕ = 0 か ϕ(V1 ) = V2 です。
次に、表現が同じとして (Π1 , V1 ) = (Π2 , V2 ) = (Π, V ) とします。線形演算子 ϕ の固有値を λ とすれば(v ∈ V )ϕv = λv

固有値、固有ベクトルがいるので、ϕ − λI (この I は恒等演算子) は Ker(ϕ − λI) ̸= {0} です。これを Π(g)v に作用させると、ϕ は interwiner なので(ϕ − λI)Π(g)v = ϕΠ(g)v − λΠ(g)v= Π(g)(ϕv − λv)=0
これから、Π(g)v は ϕ − λI のカーネルにいます。Π は既約表現なので Π(g)v ∈ V で、不変な部分空間は V か {0}です。よって、Ker(ϕ − λI) = V となり、(ϕ − λI)v = 0 から ϕ = λI です。
まとめると、演算子での Schur の補題は、既約表現 (Π1 , V1 ), (Π2 , V2 ) があり、ϕ が V1 から V2 への interwinerなら• ϕ = 0 か同型写像• (Π1 , V1 ) = (Π2 , V2 ) = (Π, V ) なら ϕ = λIとなります。
直交関係では、(1) の変換をψ=∑

Π1 (g)ϕΠ2 (g −1 )g∈Gとします。h ∈ G として、(2) と同じようにして

Π1 (h)ψ =∑Π1 (h)Π1 (g)ϕΠ2 (g −1 )

g∈G=

∑

Π1 (hg)ϕΠ2 (g −1 )

g∈G=

∑

Π1 (hg)ϕΠ2 ((hg)−1 h)

g∈G=

∑

Π1 (hg)ϕΠ2 ((hg)−1 )Π2 (h)g∈G= ψΠ2 (h)ϕ が interwiner なら9ψ=∑Π1 (g)Π1 (g −1 )ϕ = ϕg∈G∑

= |G|ϕg∈G

そして、(Π1 , V1 ) = (Π2 , V2 ) = (Π, V ) なら Schur の補題から ψ = λI なので、n をベクトル空間 V の次元としてtrψ = tr[λI] = λtrI = nλ
そして、trψ = |G|trϕ から

λ=

1|G|
trψ =
trϕnn

後は行列にして上と同じことをすれば、Schur の直交関係になります。

10