유니터리 표현

군 표현론에서 유니터리 표현(unitary表現, 영어: unitary representation)은 모든 군 원소의 상이 어떤 복소수 힐베르트 공간 위의 유니터리 작용소를 이루는 군 표현이다. 위상군 G {\displaystyle G} 의 유니터리 표현은 다음과 같은 데이터로 주어진다. 복소수 힐베르트 공간 V {\displaystyle V} 군 준동형 π : G → U ⁡ ( V ) {\displaystyle \pi \colon G\to \operatorname {U} (V)} 이는 다음 조건을 만족시켜야 한다. π {\displaystyle \pi } 는 연속 함수이다. (여기서 U ⁡ ( V ) {\displaystyle \operatorname {U} (V)} 위에는 작용소 노름 거리 위상을 부여한다.) 같은 위상군 G {\displaystyle G} 의 두 유니터리 표현 ( π , V ) {\displaystyle (\pi ,V)} , ( π ′ , V ′ ) {\displaystyle (\pi ',V')} 사이의 유니터리 얽힘 연산자(영어: unitary intertwining operator)는 다음 조건을 만족시키는 유니터리 작용소 T : V → V ′ {\displaystyle T\colon V\to V'} 이다. T π ( g ) = π ′ ( g ) T ′ ∀ g ∈ G {\displaystyle T\pi (g)=\pi '(g)T'\qquad \forall g\in G} 두 유니터리 표현 사이에 유니터리 얽힘 연산자가 존재한다면, 서로 유니터리 동치(영어: unitarily equivalent)라고 한다. 위상군 G {\displaystyle G} 의 유니터리 표현 π : G → U ⁡ ( V ) {\displaystyle \pi \colon G\to \operatorname {U} (V)} 이 주어졌다고 하자. 만약 임의의 부분 복소수 벡터 공간 W ≤ V {\displaystyle W\leq V} 가 다음 두 조건을 만족시킨다고 하자. G {\displaystyle G} 의 작용에 대하여 불변이다. (즉, 임의의 g ∈ G {\displaystyle g\in G} 에 대하여 π ( g ) W = W {\displaystyle \pi (g)W=W} 이다.) 그렇다면 cl ⁡ ( W ) {\displaystyle \operatorname {cl} (W)} 와 W ⊥ = { v ∈ V : ⟨ w | v ⟩ = 0 } {\displaystyle W^{\perp }=\{v\in V\colon \langle w|v\rangle =0\}} 역시 닫힌 불변 부분 공간이며, π = π cl ⁡ ( W ) ⊕ π W ⊥ {\displaystyle \pi =\pi _{\operatorname {cl} (W)}\oplus \pi _{W^{\perp }}} 로 분해된다. 증명: W ⊥ {\displaystyle W^{\perp }} 가 불변 공간임을 보이려면, 임의의 g ∈ G {\displaystyle g\in G} 및 v ∈ W ⊥ {\displaystyle v\in W^{\perp }} 및 w ∈ W {\displaystyle w\in W} 에 대하여, ⟨ w | π ( g ) | v ⟩ = 0 {\displaystyle \langle w|\pi (g)|v\rangle =0} 임을 보이면 족하다. 그런데 유니터리 표현의 정의에 의하여 ⟨ w | π ( g ) | v ⟩ = ⟨ π ( g − 1 ) w | v ⟩ = 0 {\displaystyle \langle w|\pi (g)|v\rangle =\langle \pi (g^{-1})w|v\rangle =0} 이다. 특히, cl ⁡ ( W ) = W ⊥⊥ {\displaystyle \operatorname {cl} (W)=W^{\perp \perp }} 역시 닫힌 불변 부분 공간이다. 이에 따라: V = cl ⁡ ( W ) ⊕ W ⊥ {\displaystyle V=\operatorname {cl} (W)\oplus W^{\perp }} 이다. 사실, 다음과 같은 제2 페터-바일 정리가 성립한다. 임의의 콤팩트 위상군 G {\displaystyle G} 의 유니터리 표현 ( π , V ) {\displaystyle (\pi ,V)} 에 대하여, π = ⨁ ^ π i {\displaystyle \pi ={\widehat {\bigoplus }}\pi _{i}} V = ⨁ ^ V i {\displaystyle V={\widehat {\bigoplus }}V_{i}} 가 되는 유한 차원 기약 유니터리 표현들의 족 ( π i , V i ) i ∈ I {\displaystyle (\pi _{i},V_{i})_{i\in I}} 이 존재한다. 여기서 ⨁ ^ {\displaystyle {\widehat {\bigoplus }}} 는 힐베르트 공간의 직합, 즉 (대수적) 직합의 완비화이다. 콤팩트 위상군 G {\displaystyle G} 위의 르베그 공간 L 2 ( G ; C ) {\displaystyle L^{2}(G;\mathbb {C} )} 를 생각하자. 여기서 제곱 적분 가능이란 하르 측도에 따른 것이며, 편의상 vol ⁡ ( G ) = 1 {\displaystyle \operatorname {vol} (G)=1} 로 규격화하자. G {\displaystyle G} 의 임의의 유한 차원 유니터리 기약 표현 r : G → U ⁡ ( V r ) {\displaystyle r\colon G\to \operatorname {U} (V_{r})} 에 대하여, V r {\displaystyle V_{r}} 에 임의의 기저를 잡아 행렬 성분들 r i j : G → C {\displaystyle r_{ij}\colon G\to \mathbb {C} } ( i , j = 1 , … , dim C ⁡ V r ) {\displaystyle i,j=1,\dots ,\dim _{\mathbb {C} }V_{r})} )을 정의할 수 있다. 페터-바일 정리(Peter-Weyl定理, 영어: Peter–Weyl theorem)에 따르면, 함수들 dim C ⁡ V r r i j : G → C {\displaystyle {\sqrt {\dim _{\mathbb {C} }V_{r}}}r_{ij}\colon G\to \mathbb {C} } 은 L 2 ( G ; C ) {\displaystyle L^{2}(G;\mathbb {C} )} 의 정규 직교 기저를 이룬다. 페터-바일 정리는 프리츠 페터(독일어: Fritz Peter)와 헤르만 바일이 1927년에 증명하였다. Peter, Fritz; Weyl, H. (1927). “Die Vollständigkeit der primitiven Darstellungen einer geschlossenen kontinuierlichen Gruppe”. 《Mathematische Annalen》 (독일어) 97: 737–755. doi:10.1007/BF01447892.  Knapp, Anthony (1986). 《Representation theory of semisimple groups》 (영어). Princeton University Press. ISBN 0-691-09089-0.  Bump, Daniel (2004). 《Lie groups》 (영어). Springer. ISBN 0-387-21154-3.  계승혁 (1998년 4월). 《군과 조화해석》. 대우학술총서 자연과학 120. 민음사. ISBN 89-3743620-5.  “Unitary representation”. 《Encyclopedia of Mathematics》 (영어). Springer-Verlag. 2001. ISBN 978-1-55608-010-4.  “Peter-Weyl theorem”. 《Encyclopedia of Mathematics》 (영어). Springer-Verlag. 2001. ISBN 978-1-55608-010-4.  “Unitary representation”. 《nLab》 (영어).  “Super-unitary representation”. 《nLab》 (영어).  “Unitary representation of the Poincaré group”. 《nLab》 (영어).  “Unitary representation of the super Poincaré group”. 《nLab》 (영어).  Vogan, David A., Jr. “Computing the unitary dual” (PDF) (영어).