핵작용소

함수해석학에서, 핵작용소(核作用素, 영어: nuclear operator)는 그 성분들의 p {\displaystyle p} 거듭제곱들의 합이 수렴하는 콤팩트 작용소이다. 특히, p = 1 {\displaystyle p=1} 일 경우(즉, 성분들의 합이 절대 수렴)를 대각합류 작용소(對角合類作用素, 영어: trace-class operator)라고 하며, 이 경우 무한 차원의 경우에도 대각합을 정의할 수 있다. p = 2 {\displaystyle p=2} 인 경우를 힐베르트-슈미트 작용소(Hilbert-Schmidt作用素, 영어: Hilbert–Schmidt operator)라고 한다. K ∈ { R , C } {\displaystyle \mathbb {K} \in \{\mathbb {R} ,\mathbb {C} \}} 가 실수체 또는 복소수체 가운데 하나라고 하자. 임의의 양의 실수 p ∈ R + {\displaystyle p\in \mathbb {R} ^{+}} 가 주어졌다고 하자. 두 K {\displaystyle \mathbb {K} } -힐베르트 공간 V {\displaystyle V} , W {\displaystyle W} 사이의 유계 작용소 T : V → W {\displaystyle T\colon V\to W} 가 다음과 같은 꼴의 급수로 표현될 수 있다면, T {\displaystyle T} 를 p {\displaystyle p} 차 핵작용소( p {\displaystyle p} 次核作用素, 영어: p {\displaystyle p} -nuclear operator)라고 한다. T = ∑ 0 ≤ i < N α i f i ⟨ e i , − ⟩ {\displaystyle T=\sum _{0\leq i<N}\alpha _{i}f_{i}\langle e_{i},-\rangle } 여기서 0 ≤ N ≤ ∞ {\displaystyle 0\leq N\leq \infty } 이다. ( e i ) 0 ≤ i < N {\displaystyle (e_{i})_{0\leq i<N}} 는 V {\displaystyle V} 속의 정규 직교열이다. 즉, ⟨ e i , e j ⟩ = δ i j {\displaystyle \langle e_{i},e_{j}\rangle =\delta _{ij}} 이어야 한다. (그러나 ( e i ) 0 ≤ i < N {\displaystyle (e_{i})_{0\leq i<N}} 는 V {\displaystyle V} 의 정규 직교 기저일 필요가 없다. 예를 들어, 만약 V {\displaystyle V} 가 분해 가능 공간이 아니라면 이는 정규 직교 기저일 수 없다.) ( f i ) 0 ≤ i < N {\displaystyle (f_{i})_{0\leq i<N}} 는 W {\displaystyle W} 속의 정규 직교열이다. 즉, ⟨ f i , f j ⟩ = δ i j {\displaystyle \langle f_{i},f_{j}\rangle =\delta _{ij}} 이어야 한다. (그러나 ( f i ) 0 ≤ i < N {\displaystyle (f_{i})_{0\leq i<N}} 는 W {\displaystyle W} 의 정규 직교 기저일 필요가 없다. 예를 들어, 만약 W {\displaystyle W} 가 분해 가능 공간이 아니라면 이는 정규 직교 기저일 수 없다.) ( α i ) 0 ≤ i < N ∈ L p ⁡ ( { i } 0 ≤ i < N ; K ) {\displaystyle (\alpha _{i})_{0\leq i<N}\in \operatorname {L} ^{p}(\{i\}_{0\leq i<N};\mathbb {K} )} . (여기서 L p ⁡ ( { i } 0 ≤ i < N ; K ) {\displaystyle \operatorname {L} ^{p}(\{i\}_{0\leq i<N};\mathbb {K} )} 은 크기 N {\displaystyle N} 의 이산 공간 위의 르베그 공간이다. 만약 N = ∞ {\displaystyle N=\infty } 라면 이는 ℓ p ( K ) {\displaystyle \ell ^{p}(\mathbb {K} )} 이며, N < ∞ {\displaystyle N<\infty } 라면 이는 K N {\displaystyle \mathbb {K} ^{N}} 이다.) 급수의 수렴은 유계 작용소 공간 B ⁡ ( V , W ) {\displaystyle \operatorname {B} (V,W)} 의 작용소 노름에 대한 것이다. 만약 p = 1 {\displaystyle p=1} 일 경우, 1차 핵작용소는 대각합류 작용소 또는 단순히 핵작용소라고 불린다.:207, §VI.6 만약 p = 2 {\displaystyle p=2} 일 경우, 2차 핵작용소는 힐베르트-슈미트 작용소라고 불린다.:210, §VI.6 V {\displaystyle V} 와 W {\displaystyle W} 사이의 p {\displaystyle p} 차 핵작용소들의 K {\displaystyle \mathbb {K} } -벡터 공간을 S p ( V , W ) ⊆ B ⁡ ( V , W ) {\displaystyle {\mathfrak {S}}_{p}(V,W)\subseteq \operatorname {B} (V,W)} 로 표기하자. 이는 유계 작용소 공간 B ⁡ ( V , W ) {\displaystyle \operatorname {B} (V,W)} 의 부분 공간이므로, 따라서 K {\displaystyle \mathbb {K} } -노름 공간을 이룬다. 핵작용소의 정의는 0 < p ≤ 1 {\displaystyle 0<p\leq 1} 의 경우 바나흐 공간으로 일반화될 수 있다. 그러나 p > 1 {\displaystyle p>1} 일 경우 이는 그렇지 않다. 임의의 K {\displaystyle \mathbb {K} } -힐베르트 공간 V {\displaystyle V} 에 대하여, S 1 ( V , V ) {\displaystyle {\mathfrak {S}}_{1}(V,V)} 위에 다음과 같은 함수를 정의할 수 있으며, 이를 대각합이라고 한다. tr : S p ( V , V ) → K {\displaystyle \operatorname {tr} \colon {\mathfrak {S}}_{p}(V,V)\to \mathbb {K} } tr ⁡ ( ∑ 0 ≤ i < N ⟨ e i , − ⟩ α i j e j ) = ∑ i = 0 N α i j {\displaystyle \operatorname {tr} \left(\sum _{0\leq i<N}\langle e_{i},-\rangle \alpha _{ij}e_{j}\right)=\sum _{i=0}^{N}\alpha _{ij}} 이는 사용되는 정규 직교 벡터열 e i {\displaystyle e_{i}} 에 의존하지 않음을 보일 수 있다. 이는 S 1 ( V , V ) {\displaystyle {\mathfrak {S}}_{1}(V,V)} 위의 K {\displaystyle \mathbb {K} } -선형 변환을 이룬다. 마찬가지로, S p ( V , W ) {\displaystyle {\mathfrak {S}}_{p}(V,W)} 위에 다음과 같은 샤텐 p {\displaystyle p} -노름(영어: Schatten p {\displaystyle p} -norm)을 정의할 수 있다. ‖ ‖ p : S p ( V , W ) → R ≥ 0 {\displaystyle \|\|_{p}\colon {\mathfrak {S}}_{p}(V,W)\to \mathbb {R} _{\geq 0}} ‖ ‖ p : T ↦ tr V ⁡ ( T ∗ T ) p / 2 = tr W ⁡ ( T T ∗ ) p / 2 {\displaystyle \|\|_{p}\colon T\mapsto \operatorname {tr} _{V}(T^{*}T)^{p/2}=\operatorname {tr} _{W}(TT^{*})^{p/2}} ( T ∗ {\displaystyle T^{*}} 는 에르미트 수반이다. 1 / q {\displaystyle 1/q} 거듭제곱을 취하는 것은 T ∗ T {\displaystyle T^{*}T} 가 자기 수반 작용소이기 때문에 가능하며, 그 결과는 항상 S 1 {\displaystyle {\mathfrak {S}}_{1}} 에 속한다.) (물론, p < 1 {\displaystyle p<1} 일 경우 샤텐 p {\displaystyle p} -노름은 사실 노름이 아니다.) 이는 위와 동치로 T {\displaystyle T} 의 (대수적 중복수를 고려한) 특잇값 ( s i ) i = 0 N {\displaystyle (s_{i})_{i=0}^{N}} 들이 주어졌을 때 ‖ T ‖ = ∑ 0 ≤ i < N | s i | p {\displaystyle \|T\|=\sum _{0\leq i<N}|s_{i}|^{p}} 로 정의될 수 있다. 위와 같은 p {\displaystyle p} -노름을 부여하면, S p ( V , W ) {\displaystyle {\mathfrak {S}}_{p}(V,W)} 는 K {\displaystyle \mathbb {K} } -바나흐 공간을 이룬다.:232, §1 특히, p = 2 {\displaystyle p=2} 인 경우, S 2 ( V , W ) {\displaystyle {\mathfrak {S}}_{2}(V,W)} 는 힐베르트 공간을 이룬다. 구체적으로, 그 내적은 다음과 같다. ⟨ S , T ⟩ = tr ⁡ ( S ∗ T ) {\displaystyle \langle S,T\rangle =\operatorname {tr} (S^{*}T)} 이 내적은 힐베르트-슈미트 내적(Hilbert-Schmidt內積, 영어: Hilbert–Schmidt inner product)이라고 한다. 이에 따라, 다음과 같은 K {\displaystyle \mathbb {K} } -힐베르트 공간 사이의 동형(유니터리 변환)이 존재한다. S 2 ( V , W ) → V ¯ ⊗ ^ K W {\displaystyle {\mathfrak {S}}_{2}(V,W)\to {\bar {V}}{\hat {\otimes }}_{\mathbb {K} }W} ∑ 0 ≤ i < N ⟨ e i , − ⟩ α i j f j ↦ ∑ 0 ≤ i < N α i j e ¯ i ⊗ K f j {\displaystyle \sum _{0\leq i<N}\langle e_{i},-\rangle \alpha _{ij}f_{j}\mapsto \sum _{0\leq i<N}\alpha _{ij}{\bar {e}}_{i}\otimes _{\mathbb {K} }f_{j}} 여기서 ⊗ ^ K {\displaystyle {\hat {\otimes }}_{\mathbb {K} }} 는 (대수적) K {\displaystyle \mathbb {K} } -텐서곱의 완비화 (=힐베르트 텐서곱)를 뜻한다. 임의의 0 < p < 2 {\displaystyle 0<p<2} 에 대하여, S p ( V , V ) {\displaystyle {\mathcal {S}}_{p}(V,V)} 위에도 힐베르트-슈미트 내적을 부여할 수 있으나, 이 경우 일반적으로 이 내적 공간은 힐베르트 공간을 이루지 못하며, 내적에 대한 완비화는 S 2 ( V , V ) {\displaystyle {\mathfrak {S}}_{2}(V,V)} 이다. 정의에 따라, 임의의 0 < p ≤ p ′ < ∞ {\displaystyle 0<p\leq p'<\infty } 에 대하여 다음이 성립한다. S p ( V , W ) ⊆ S p ′ ( V , W ) {\displaystyle {\mathfrak {S}}_{p}(V,W)\subseteq {\mathfrak {S}}_{p'}(V,W)} 또한, 만약 V {\displaystyle V} 와 W {\displaystyle W} 가 무한 차원이라면 이 포함 관계는 일치하지 않는다. (만약 V {\displaystyle V} 와 W {\displaystyle W} 가 유한 차원이라면 물론 항상 S p ( V , W ) = B ⁡ ( V , W ) {\displaystyle {\mathfrak {S}}_{p}(V,W)=\operatorname {B} (V,W)} 이다.) 특히, 두 K {\displaystyle \mathbb {K} } -힐베르트 공간 사이의 선형 변환에 대하여 다음과 같은 포함 관계가 성립한다. 선형 변환 ⊇ 유계 작용소 ⊇ 콤팩트 작용소 ⊇ 힐베르트-슈미트 작용소 ⊇ 대각합류 작용소 임의의 0 < p < ∞ {\displaystyle 0<p<\infty } 에 대하여, S p ( V , W ) {\displaystyle {\mathfrak {S}}_{p}(V,W)} 는 K {\displaystyle \mathbb {K} } -벡터 공간을 이룬다. 즉, 이들은 유한 합과 스칼라 곱에 대하여 닫혀 있다. 또한, 임의의 T ∈ S p ( V , W ) {\displaystyle T\in {\mathfrak {S}}_{p}(V,W)} 에 대하여, 그 에르미트 수반 역시 다음과 같은 핵작용소이다. T ∗ ∈ S p ( W , V ) {\displaystyle T^{*}\in {\mathfrak {S}}_{p}(W,V)} 만약 V = W {\displaystyle V=W} 일 경우, 임의의 0 < p < ∞ {\displaystyle 0<p<\infty } 에 대하여, S p ( V , V ) ⊆ B ⁡ ( V , V ) {\displaystyle {\mathfrak {S}}_{p}(V,V)\subseteq \operatorname {B} (V,V)} 는 바나흐 대수 B ⁡ ( V , V ) {\displaystyle \operatorname {B} (V,V)} 의 양쪽 아이디얼을 이룬다.:232, §1 다음과 같은 곱셈 정리(-定理, 영어: multiplication theorem)가 성립한다. 임의의 0 < p , q < ∞ {\displaystyle 0<p,q<\infty } 에 대하여, 1 / r = 1 / p + 1 / q {\displaystyle 1/r=1/p+1/q} 를 정의하면, 임의의 세 K {\displaystyle \mathbb {K} } -힐베르트 공간 U , V , W {\displaystyle U,V,W} 에 대하여 다음이 성립한다.:232, §1 S q ( V , W ) S p ( U , V ) ⊆ S r ( U , W ) {\displaystyle {\mathfrak {S}}_{q}(V,W){\mathfrak {S}}_{p}(U,V)\subseteq {\mathfrak {S}}_{r}(U,W)} ‖ T S ‖ r r ≤ ‖ T ‖ q ‖ S ‖ p ∀ S ∈ S p ( U , V ) , T ∈ S q ( V , W ) {\displaystyle \|TS\|_{r}r\leq \|T\|_{q}\|S\|_{p}\qquad \forall S\in {\mathfrak {S}}_{p}(U,V),\;T\in {\mathfrak {S}}_{q}(V,W)} 힐베르트 공간 V {\displaystyle V} 에 대하여 다음 두 조건이 서로 동치이다. S 2 ( V , V ) ⊆ B ⁡ ( V , V ) {\displaystyle {\mathfrak {S}}_{2}(V,V)\subseteq \operatorname {B} (V,V)} 는 (유계 작용소들의 바나흐 대수 B ⁡ ( V , V ) {\displaystyle \operatorname {B} (V,V)} 에 작용소 노름 위상을 부여하였을 때) 닫힌집합이다. V {\displaystyle V} 는 유한 차원 K {\displaystyle \mathbb {K} } -힐베르트 공간이다. 다음이 주어졌다고 하자. K {\displaystyle \mathbb {K} } -힐베르트 공간 V {\displaystyle V} 대각합류 작용소 T ∈ S 1 ( V , V ) {\displaystyle T\in {\mathfrak {S}}_{1}(V,V)} T {\displaystyle T} 의 고윳값들이 (대수적 중복수를 포함하여) ( λ i ) 0 ≤ i < dim K ⁡ H {\displaystyle (\lambda _{i})_{0\leq i<\dim _{\mathbb {K} }{\mathcal {H}}}} 라고 하자. 그렇다면, 리츠키 정리(Лидский定理, 영어: Lidskii’s theorem)에 따르면 다음이 성립한다. tr ⁡ T = ∑ 0 ≤ i < dim K ⁡ H λ i {\displaystyle \operatorname {tr} T=\sum _{0\leq i<\dim _{\mathbb {K} }{\mathcal {H}}}\lambda _{i}} 힐베르트-슈미트 작용소의 대표적인 예는 힐베르트-슈미트 적분 작용소(영어: Hilbert–Schmidt integral operator)이다. 연결 열린집합 U ⊆ R n {\displaystyle U\subseteq \mathbb {R} ^{n}} 및 함수 f ∈ L 2 ⁡ ( U × U ; C ) {\displaystyle f\in \operatorname {L} ^{2}(U\times U;\mathbb {C} )} 가 주어졌다고 하자. 그렇다면, f {\displaystyle f} 에 대응하는 힐베르트-슈미트 적분 작용소는 다음과 같다. T : L 2 ⁡ ( U ; C ) → L 2 ⁡ ( U ; C ) {\displaystyle T\colon \operatorname {L} ^{2}(U;\mathbb {C} )\to \operatorname {L} ^{2}(U;\mathbb {C} )} T u ( x ) = ∫ U f ( x , y ) u ( y ) d y {\displaystyle Tu(x)=\int _{U}f(x,y)u(y)\,\mathrm {d} y} 이 경우, 그 힐베르트-슈미트 노름은 f {\displaystyle f} 의 L2 노름과 같다. ‖ T ‖ 2 = ‖ f ‖ L 2 {\displaystyle \|T\|_{2}=\|f\|_{\operatorname {L} ^{2}}} 힐베르트-슈미트 적분 작용소는 다비트 힐베르트와 에르하르트 슈미트 가 1900년대에 연구하였다. 이후 그 특성을 임의의 힐베르트 공간에 대하여 추상화하여 힐베르트-슈미트 작용소의 개념이 도입되었다. 힐베르트 공간에서, 임의의 p {\displaystyle p} 에 대한 p {\displaystyle p} -핵작용소의 개념은 로베르트 샤텐(폴란드어: Robert Schatten, 1911~1977)과 존 폰 노이만이 1948년에 도입하였다.:580 리츠키 정리는 우크라이나 태생의 수학자 빅토르 보리소비치 리츠키(러시아어: Ви́ктор Бори́сович Ли́дский, 우크라이나어: Ві́ктор Бори́сович Лі́дський 빅토르 보리소비치 리지키[*], 1924~2008)가 증명하였다. Reed, Michael C.; Simon, Barry (1980). 《Functional analysis》. Methods of modern mathematical physics (영어) 1. Academic Press. ISBN 0-12-585050-6. Zbl 0459.46001.  Grothendieck, Alexander (1955). “Produits tensoriels topologiques et espace nucléaires”. 《Memoirs of the American Mathematical Society》 (프랑스어) 16. MR 75539.  Grothendieck, Alexander (1956). “La theorie de Fredholm”. 《Bulletin de la Société Mathématique de France》 (프랑스어) 84: 319–384. MR 88665.  Hinrichs, Aicke; Pietsch, Albrecht (2010년 2월). “p-nuclear operators in the sense of Grothendieck”. 《Mathematische Nachrichten》 (영어) 283 (2): 232–261. doi:10.1002/mana.200910128.  Pietsch, Albrecht (1984년 3월). “Grothendieck’s concept of a p-nuclear operator”. 《Integral Equations and Operator Theory》 (영어) 7 (2): 282–284. doi:10.1007/BF01200378.  Hilbert, David (1904년 3월 5일). “Grundzüge einer allgemeinen Theorie der linearen Integralgleichungen (Erste Mitteilung)”. 《Nachrichten von der Gesellschaft der Wissenschaften zu Göttingen, Mathematische-Physikalische Klasse》 (독일어) 1904: 49–91.  Hilbert, David (1904년 6월 25일). “Grundzüge einer allgemeinen Theorie der linearen Integralgleichungen (Zweite Mitteilung)”. 《Nachrichten von der Gesellschaft der Wissenschaften zu Göttingen, Mathematische-Physikalische Klasse》 (독일어) 1904: 213–260.  Hilbert, David (1905년 7월 22일). “Grundzüge einer allgemeinen Theorie der linearen Integralgleichungen (Dritte Mitteilung)”. 《Nachrichten von der Gesellschaft der Wissenschaften zu Göttingen, Mathematische-Physikalische Klasse》 (독일어) 1905: 307–338.  Hilbert, David (1906년 3월 3일). “Grundzüge einer allgemeinen Theorie der linearen Integralgleichungen (Vierte Mitteilung)”. 《Nachrichten von der Gesellschaft der Wissenschaften zu Göttingen, Mathematische-Physikalische Klasse》 (독일어) 1906: 157–228.  Schmidt, Erhard (1907). “Zur Theorie der linearen und nichtlinearen Integralgleichungen. I Teil. Entwicklung willkürlicher Funktionen nach Systemen vorgeschriebener”. 《Mathematische Annalen》 (독일어) 63: 433–476. ISSN 0025-5831. 2016년 12월 31일에 원본 문서에서 보존된 문서. 2017년 1월 15일에 확인함.  Schmidt, Erhard (1907). “Zur Theorie der linearen und nichtlinearen Integralgleichungen. Zweite Abhandlung. Auflösung der allgemeinen linearen Integralgleichung”. 《Mathematische Annalen》 (독일어) 64: 161–174. ISSN 0025-5831.  Schmidt, Erhard (1908). “Zur Theorie der linearen und nichtlinearen Integralgleichungen. III Teil. Über die Auflösung der nichtlinearen Integralgleichung und die Verzweigung ihrer Lösungen”. 《Mathematische Annalen》 (독일어) 65: 370–399. ISSN 0025-5831.  Schatten, R.; von Neumann, J. (1948년 7월). “The cross-space of linear transformations III”. 《Annals of of Mathematics》 (영어) 49 (3): 557–582. doi:10.2307/1969045. JSTOR 1969045.  “Nuclear operator”. 《Encyclopedia of Mathematics》 (영어). Springer-Verlag. 2001. ISBN 978-1-55608-010-4.  “Hilbert-Schmidt operator”. 《Encyclopedia of Mathematics》 (영어). Springer-Verlag. 2001. ISBN 978-1-55608-010-4.  “Hilbert-Schmidt norm”. 《Encyclopedia of Mathematics》 (영어). Springer-Verlag. 2001. ISBN 978-1-55608-010-4.  “Hilbert-Schmidt integral operator”. 《Encyclopedia of Mathematics》 (영어). Springer-Verlag. 2001. ISBN 978-1-55608-010-4.  Weisstein, Eric Wolfgang. “Trace-class operator”. 《Wolfram MathWorld》 (영어). Wolfram Research.  Weisstein, Eric Wolfgang. “Hilbert-Schmidt operator”. 《Wolfram MathWorld》 (영어). Wolfram Research.  Weisstein, Eric Wolfgang. “Hilbert-Schmidt norm”. 《Wolfram MathWorld》 (영어). Wolfram Research.  “Trace-class operator”. 《nLab》 (영어).  “tr(ab)=tr(ba)?” (영어). Math Overflow.