数理解析研究所講究録
第 1632 巻 2009 年 96-105

96

ヒルベルト空間の中のいくつかの空間の配置の幾何(Geometry of the relative position of several subspaces in a Hilbert space)

榎本雅俊 (Masatoshi Enomoto) 甲子園大学総合教育研究機構

この仕事は、綿谷安男氏との共同研究である。この論説の内容は、以下の通りである。
(主に、[EW2] の内容の紹介であり、一部に準備中の結果 [EW3] のアナウンスを含んでいる。)(1) 我々の仕事の動機とその枠組み(3) 直既約ヒルベルト表現と準同型代数(5) コクセター関手と向き付け変更(2) 主結果(4) 拡張された Dynkin 図形の defect(1) 我々の仕事の動機とその枠組み

われわれの仕事の動機は次の通りである。次の仕事の無限次元ヒルベルト空間への拡張を行う。
(l)Gelfand-Ponomarev の分類定理 (1970)Problem of linear algebra and classification ofquadruples of subspaces in a finite dimensional vector space (有限次元ヒルベルト空間の中の 4 つの部分空間の組で直既約なものの完全分類)(2)Gabriel の定理

有限連結クイバーで、有限次元の直既約表現は有限個だけであるものは、その下のグラフが Dynkin 図形 An, $D_{n},E_{6},E_{7}$ ,Es の一つに限る。
何故、 4 個の部分空間の組を考えるのか。 空間 $K$ を、有限次元ヒルベルト空間とし、作用素
は、$K$ 上の線形作用素としよう。$H=K\oplus K$ の中の次の 4 個の部分空間の組を考えよう。
$T$$H=K\oplus K,E_{1}=K\oplus O,E_{2}=0\oplus K,E_{3}=\{(x,x);x\in K\},E_{4}=\{(x, Tx);x\in K\}$は、作用素 T に標
それを次の記号$Sr=$ $(H;E_{1},E_{2},E_{3},E4)$ で書くことにする。 この組
準的に結びついていると言われる。 を K 上の線形作用素とする。このとき,$S_{T}=(H;E_{1},E_{2}, E_{3},E_{4})$ とに対して、次のことが成立する。 が と similar であるのは、と $Sr$ が同型であるときに限る。この方法での情報は、 の情報で捕まえることが出来$S_{T}$

$S$

$T$

$S$

$T$

$S_{S}$$T$$S_{T}$る。

4 個の部分空間の (一般に、 個の部分空間の ) 枠は、 次である。
$n$

定義: $H$ をヒルベルト空間として、 $E_{1},E_{2},E_{3},E_{4}$ を H の中の閉部分空間とする。
このとき、 $S=(H;E_{1},E_{2}, \ldots,E_{n})$ を、 n-部分空間の組という。2 つの n-部分空間の組$S=$ ( $H$;El, E2, .. .,En), と $T=(K:F_{t},F_{2}, \ldots,F_{n})$ が同型とは、ある有界可逆線形作用
素 $\Phi\in B(H,K)$ で、 $\Phi(E_{l})=F_{l}(i=1, \ldots, n)$ を満たすものが存在するときを言う。このとき、そのことを7 で表す。その直和 $S\oplus T$ は、次で定義される。
$S\simeq$.

$S\oplus T=(H\oplus K;E\iota\oplus F_{1},E_{2}\oplus F_{2}\ldots,E_{n}\oplus F_{n})$であるとは、$H=0$ のときをいう。
n-部分空間の組 8
一つの組 $S=(H;E_{1},E_{2}, \ldots,E_{n})$ が直既約であるとは、もし $S\simeq S_{1}\oplus S_{2}$ であるとき、$S_{1}\simeq 0$ であるか $S_{2}\simeq 0$ がなりたつときをいう。
$=(H;E_{1},E_{2}, \ldots,E_{n})$

が

$0$

97

一般のヒルベルト空間の中の直既約な n-部分空間の組を調べよう。 $n=1$ については,$S=(H;E_{1})=(C;\mathbb{C})$であるか、$(\mathbb{C};0)$. である。 $n=2$ , については、. である。 $n=3$ , については、もしであれば、$S=(H;E_{1},E_{2},E_{3}),$ $\dim H=1,$ $\dim E_{i}=0$ or 1, と、その他に、$S=(H;E_{1},E_{2})=(\mathbb{C};\mathbb{C}, \mathbb{C}).(\mathbb{C};\mathbb{C}, 0)_{:}(\mathbb{C};0.\mathbb{C}),$ $(\mathbb{C};0,0)$$\dim H<$$\infty$$\dim H=2,S=(H;E_{1},E_{2},E_{3})=(\mathbb{C}^{2};\mathbb{C}(\begin{array}{l}10\end{array}), \mathbb{C}(\begin{array}{l}01\end{array}), \mathbb{C}(\begin{array}{l}11\end{array}))$のみが、存在す

る。

. については、未解決の問題である。もし Halmos の transitive lattice 問題が肯定的に解決されると、 その存在が導かれる。
については、 有限次元 Hilbert 空間の中の直既約 4-部分空間の組の完全分類$\dim H=\infty$$\backslash n=4$が存在する。 その分類では、直既約 4-部分空間の組の様々な型のものが現れる。 例えば、 ジョルダン標準形が現れる。

無限次元ヒルベルト空間では, 非可算個の直既約標準 4-部分空間の組が現れる。

例えば、

$S$

をヒルベルト空間上の片側シフトとする。このとき、$S_{S}$

は、直既約である。 更に、 直既約標準 4-部分空間の組に同型でない非可算個の直既約 4-部分空間の組が存在する。

ここで、 Gelfand$-Ponomarev$ の有限次元ヒルベルト空間の中の直既約な 4 個の部分空間の組についての分類結果を挙げておこう。それは、直既約な 4 個の部分空間の組$S=(H;E_{1},E_{2},E_{3},E_{4})$に対する不変量 $defect\rho(S)=\sum_{i-1}^{4}\dim(E_{l})-2\dim(H)$ によって、次の形で分類される。H の部分集合 M について、[瑚で、M から生成される閉部分空間を表す。

(I) $\dim H=2k(k=1,2, \ldots)$ の場合,
は H の基底とする。

$H=[e_{1}, \ldots,e_{k},fi, \ldots J_{k}]$$\{e_{1}, \ldots,e_{k_{2}}fi, \ldots,f_{k}\}$$(I_{a})\rho(S)=-1$ の場合,$H=[e_{1}, \ldots,e_{k}J_{1}, \ldots J_{k}]$$E_{1}=[e_{1} , ..., e_{k}],E_{2}=V_{1},$ $\ldots,f_{k}],E_{3}=[e_{2}+fi, \ldots,e_{k}+f_{k-1}],E_{4}=[e_{1}+fi,$ $\ldots,e_{k}+f_{k}$$(Ib)\rho(S)=+1$ の場合$H=[e_{1}, \ldots,e_{k},fi, \ldots J_{k}]$,$E_{1}=[e1, \ldots,e_{k}],E_{2}=K\iota,$ $\ldots J_{k}],E_{3}=[e_{1},e2+fi, \ldots,e_{k}+f_{k-1},f_{k}],E_{4}=[e1+f_{1},$ $\ldots,e$$(I_{c})\rho(S)=0$ の場合 (パラメータは、なし).
$H=[e_{1}, \ldots,e_{k},fi, \ldots J_{k}]$$E_{1}=[e1, ..

.

,2 e_{k}],E_{2}=V1,$ $\ldots J_{k}],E_{3}=[e_{1},e2+fi, \ldots,e_{k}+f_{k-1}],E_{4}=[e1+fi,$ $\ldots,e_{k}+$$(Id)\rho(S)=0(\lambda\neq 0,1)$ の場合$H=[e1, \ldots,e_{k}J_{1}, \ldots J_{k}]$$E_{1}=[e_{1}, ..

,., e_{k}],E_{2}=V\iota,$ $\ldots,f_{k}],E_{3}=[e_{1}+\lambda f_{1}, e_{2}+f_{1}+\lambda f_{2}, \ldots,e_{k}+f_{k-}i+\lambda f_{k}],E_{4}=$(II) $\dim H=2k+1(k=0,1,2, \ldots)$ の場合$H=[e_{1}, \ldots,e_{k},e_{k+1}J_{1}, \ldots,f_{k}],$ $\{e_{1}, \ldots,e_{k},e_{k+1},f_{1}, \ldots f_{k}\}$$(II_{a})\rho(S)=2$ の場合$H=[e_{1}, \ldots,e_{k},e_{k+1}J_{1}, \ldots J_{k}]$,$E_{1}=[e_{1}, .., ,e_{k},ek+1],E_{2}=V1,$ $\ldots f_{k},e_{k+1}]$ ,is a basis for $H$.

98.

$E_{3}=[e_{1},e_{2}+fi, \ldots,e_{k+1}+f_{k}],E_{4}=[f_{1},e_{1}+f_{2}, \ldots,e_{k-1}+f_{k},e_{k}+e_{k+1}]$(II ) $\rho(S)=-2$ の場合$b$$H=[e_{1}, \ldots,e_{k},e_{k+1},fi, \ldots,f_{k}]$,$E_{1}=[e\iota, \ldots,e_{k}],E_{2}=[fi, \ldots,f_{k}]$,$E_{3}=[e_{2}+fi, \ldots,e_{k+1}+f_{k}],E_{4}=[e_{1}+f_{2}, \ldots,e_{k-1}+f_{k},e_{k}+e_{k+1}]$.

$(II_{c})\rho(S)=+1$ の場合$H=[e_{1}, \ldots,e_{k},e_{k+1}J_{1}, \ldots J_{k}]$,$E_{1}=[e_{1}, \ldots,ek,e_{k+1}],E_{2}=V\iota,$ $\ldots,f_{k}]$ ,$E_{3}=[e_{1},e_{2}+fi, \ldots,e_{k+1}+f_{k}],E_{4}=[e_{1}+fi, \ldots,e_{k}+f_{k},e_{k+1}]$.

$(II_{d})\rho(S)=-1$ の場合$H=[e_{1}, \ldots,e_{k},e_{k+1},f_{1}, \ldots J_{k}]$,$E_{1}=[e_{1}, \ldots,e_{k},e_{k+1}],E_{2}=V\iota,$ $\ldots,f_{k}]$,$E_{3}=[e_{2}+fi, \ldots,e_{k+1}+f_{k}],E_{4}=[e_{1}+fi, \ldots,e_{k}+f_{k}]$.

$(II_{e})\rho(S)=0$ の場合$H=[e_{1}, \ldots,e_{k},e_{k+1}J_{1}, \ldots J_{k}]$,$E_{1}=[e_{1}, \ldots,e_{k},e_{k+1}],E_{2}=V1,$ $\ldots,f\iota]$ ,$E_{3}=[e_{1},e_{2}+fi, \ldots,e_{k+1}+f_{k}],E_{4}=[e_{1}+fi, \ldots,e_{k}+f_{k}]$.

Gelfand-Ponomarev は、 直既約 4-部分空間の組 $S=$ $(H;E_{1}, \ldots , E_{4})$ の不変量 defect$\rho(S)=\sum_{i-1}^{4}\dim(E_{l})-2\dim(H)$を定義して、それを、 直既約 4-部分空間の組 5 の分類に使った。無限次元の場合には,Fredholm 作用素を使って不変量 (のを、拡張定義できる。それには、直既約 4-部分空間の組 $S=(H;E_{1}, \ldots,E_{4})$ に対して、加算作用素 $A_{ij}:E_{i}\oplus E_{j}arrow H(i_{2}j=1, \ldots, 4),A_{lj}(x_{l},x_{j})=x_{i}+x_{j}(x_{i}\in E_{l})$ を、まず、が、 quasi-Fredholm 作用定義する。このとき、 $\dim A_{ij}<\infty,$ $\dim A_{ij}^{*}<\infty$ , の場合を、素であるという。このとき、その指数 $Ind(Au)$ を、$lnd(A_{ij})=\dim KerA_{ij}-\dim KerA_{ij}^{*}$ . で定義する。直既約 4-部分空間の組 5 $=(H;E_{1}, \ldots,E_{4})$ が、 quasi-Fredholm であるとは、す
べての砺が、 quasi-Fredholm 作用素であることとする。このとき、 その defect $\rho(S)$ を、により、定義する。もし、$\dim H<\infty$ , のときは、 Gelfand-Ponomarev$\rho$$A_{ij}$$\rho(S)=\frac{1}{3}\sum_{1\dot{g}}Ind(A_{ij})$の defect と、われわれの defect の一致が示せる。また、Gelfand-Ponomarev は、有限次元
Hilbert 空間 の中の直既約 4-部分空間の組を分類するために、コクセター関手が構, -を使用した。 無限次元の場合においても、 コクセター関手
Functors
成できて、ある条件下では、は、不変量 defect が、保存される。 4-部分空間の組
は、 クイバー. の表現と捕えることができる。よって、われわれは、 拡大 Dynkin 図形の無限次元表現を考えることができる。つまり、部分空間の組は、次のようにクイバー (有向グラフ) の表現と見なせる。ここから、話は、 (2) の Gabriel の定理に移る。
$\Phi^{+}$$\Phi$$\Phi^{+},\Phi^{-}$$\Phi^{+},$$\tilde{D_{4}}$$\Phi^{-}$

99

巨I

.

$g_{z}$$b_{1}^{\sim}$ら$\triangleright\iota|^{\wedge}()_{\ovalbox{\tt\small REJECT}\ovalbox{\tt\small REJECT}}$$b_{1}^{\ovalbox{\tt\small REJECT}}\mathcal{E}_{t}$ら$\mathcal{G}_{l}$$\backslash _{H}\swarrow$$\downarrow H$$\backslash _{H}\iota\swarrow$$\backslash \}/\swarrow\}$$(A_{b1^{t*i*v1}}$

ヘ$t^{\prime’}0_{^{u\dot{v}c\triangleright)}}$$\backslash$(_{p_{s\uparrow|}\nutV}$ )$$(A_{r\uparrow^{n\grave{w}V}\gamma}$

定義: クイバー $\Gamma=(V,E,s,r)$ とは、 頂点の集合 V, 矢の集合 と、 2 つの写像
$s,r$ :E
V からなる 4 つ組で、写衡, は、各矢 $a\in E$ をその始点 $s(a)$ と終点に写すものである。$b\in V$力 sink であるとは、SO) が、すべての $0\in$ E こついて成立するときをいう。さらに、$a\in V$力
であるとは、$a\neq$ rO) が、すべてのE こついて成立する$E$$arrow$$r(\alpha)$$r$$\grave{\grave{1}}$$b$$\neq$$F$$\grave{\grave{\backslash }}source$$\rho$$\in$$F$ときをいう。

$\frac{d}{\chi}*b(-$$_{t}_{\iota}.-\forall_{k}\nwarrow 1_{\wedge}^{\vee}\nearrow$$T_{1}V_{t}\cdot\sim\cdot\forall_{k}\backslash t_{\iota}\nearrow$$(Sir\ltimes)$$C\sigma ouVt\epsilon)$

定義 $:\Gamma=(V,E,s,r)$ を有限クイバーとする。(H,f) が、 のヒルベルト表現とは、$\Gamma$$H=(H_{v})_{v\in V}$$f=(f_{a})_{a\in E}$

がヒルベルト空間の族で、が、有界線形作用素 fa :$H_{s(a)}arrow H_{r(a)}$の族で、あるものをいう。

$\nabla_{1\wedge^{*V}}0*$$H_{v_{I}}F^{E_{r_{*}}}\oint$$e_{1}(’\searrow_{l}^{e}$$v_{t}^{t_{\sim_{e}}p_{1}v_{3}}\frac{-\sim}{--,H_{\backslash }\cdot 1b\ell vt\kappa\ell n:rt\dagger\dot{cl}b}($$H_{v_{t}}c^{\nwarrow_{H_{v;}}^{f_{C_{3}}}}bJ_{f_{\epsilon_{\iota}}}$$(\ulcorner)$$\zeta\}\cdot 1,f)$

定義: $\Gamma=(V,E,s,r)$ を有限クイバーとする。$(H,f),$ $(K,g)$ を、 の 2 つのヒルベルト表現とする。 (H,f) と (K g) が、準同型であるとは、ある有界線形作用素 v $\in B$ ( ,Kv) の族$\Gamma$$\varphi$$\kappa$

で、$\varphi=(\varphi_{v})_{v\in V}$$\varphi$$\varphi_{r(a)}f_{a}=g_{a}\varphi_{s(a)}$$H_{v}$

を満たすものが存在するときをいう。このとき、: $(H,f)arrow(K,g)$ と書く。すべての準同型$\varphi$: $(HJ)arrow(K,g)$ の全体を、$Hom((H,J), (K,g))$ と書く。また、$Hom((H,f)$ , (H. D) を、End(H 切で書く。

定義: $\Gamma=(V,E,s,r)$ を有限クイバーとする。$(H,f),$ $(K,g)$ を、 の 2 つのヒルベルト表現と$\Gamma$100

する。 $(H,f)$ と $(K,g)$ が、同型であるとは、ある有界可逆線形作用素 l’の族,, v ” で、を満たすものが存在するときをいう。このとき、$(H.f)\simeq(K,g)$ と書く。
$(V,E. s.r)$ を有限クイバーとする。 $(K.g),$ $(K’,g’)$ を、 のヒルベルト表現とす
定義:$(K.g)\oplus(K’,g)$ を、$H,,$ $=K_{v}\oplus K_{1}’,(v\in V),$ $f_{a}=g_{a}\oplus g_{a}-(\alpha\in E)$ で定る。直和義する。ヒルベルト表現 (H9f) が であるとは、$H_{v}=0(v\in V)$ のときをいう。 の でないヒルベルト表現が、直既約であるとは、もし (H.f) $\simeq(K,g)\oplus(K’,g’)$ ならば、$(K,g)\simeq 0$ か$(K’,g’)\simeq 0$ のこととする。直既約性を示す道具は、次の命題である。
命題:(H,f) を、 のヒルベルト表現とする。このとき、次は同値である。
(1) $(H,f)$ は、直既約である。
(2) End(HJ) の元で、idempotent なものは、 か、I である。
$\varphi$$\varphi=$$(\varphi$$\in B(H_{1},.K_{t}\cdot)$$\varphi_{r(a}f_{a}=g_{a}\varphi_{s(a)}$

$)$

$\in$

$\Gamma=$$\Gamma$$(H_{\backslash }f)=$$0$$\Gamma$$0$$\Gamma$$0$(2) 主結果
例1$S(-u\iota\ltimes*\kappa|$

や $:_{1}d’\{p\{\overline{\sim}A\sim$ ,蜘轟

$(H,\{)_{:}H_{t}\mathfrak{n}O^{\wedge}$$CW)$

ここで、$S$ は、$H_{1}=l^{2}$ (N) 上の片側シフトである。

このとき、 $(H,f)$ は、無限次元の直既約ヒルベルト表現である。
証明: $T\in$ End(HJ) を、idempotent なものとする。このとき、 $T^{2}=$ 7-かつ $TS=$ ST である。
そうすると、 は下三角 Toeplitz 行列となる。 T は、 idempotent であるので、T は、 か、I にな
$T$

$0$

る。

例2
$r_{:}^{1}\nearrow\searrow_{arrow\cdotarrow Q--\cdot-<}’\}P|\approx\tilde{D_{*}}$$(H,f)^{0\bigotimes_{\bullet}\kappa_{\searrow}}:_{ko}\nearrow^{k^{1}arrow}$kち$—arrow t^{1}\backslash _{|’(\gamma,S_{t})\}}\swarrow^{((2,I))}$

このとき、 $(H,f)$ は、無限次元の直既約ヒルベルト表現である。
例3

P-$|p|=\tilde{\zeta_{t}}$101$(H|+)_{\backslash }$$r_{(z.\iota)\}}bY$,$\downarrow$$(r_{f}c^{\chi}+:_{J}x\dagger S_{i_{1}}x)\}$$C^{\iota}\theta Karrow|(\theta 0\K-k^{3}t’arrow k^{\iota}\circ 0arrow 0\otimes$$Ke$ $0$

このとき、 $(H_{2}f)$ は、無限次元の直既約ヒルベルト表現である。

例4$\Gamma$:$(\aleph_{J}f)_{:}$$\theta-,-arrow li_{arrow rarrowarrow\cdot/}|\cap|=\tilde{\mathcal{E}_{\eta}}$$k$$ $0^{1}arrow k\0{(\mathfrak{n},x\backslash \}arrow$ に$\oplus$0$\Phi$$k^{\iota}$$\downarrow$

1 $t_{\iota}t^{Y}" f)\}arrow\kappa*$$($$0\kl0^{\iota}-*09K\Phi\int t1_{1}51)\}arrow C\oplus K^{3}\uparrow$

このとき、 $(H_{1}f)$ は、無限次元の直既約ヒルベルト表現である。
例5
む$|^{\neg}\backslash$$\sigma\wedge 9\sim oe^{\theta}arrow\alphaarrow^{\theta}arrow\Phi_{arrow\phi}/I^{p|\tilde{\epsilon}}=|$$CH’+1$ ;$b^{3} \mathfrak{g}Ko0^{\iota}\cdotrightarrow 0qk\mathfrak{g}\int(\theta^{S}r|)\backslash \sim 0^{?}9l^{l}arrow 0^{\iota}\epsilon K^{s}$$\{(\tau,x)\}_{9\text{廼}}^{\swarrow}$$((4_{t}\,x_{r}o_{I}4,t)\}-k^{l_{4}/}$$\tilde{\iota^{\iota_{\phi}}}r(Y\prime f^{\gamma},,i|k_{\iota_{\theta 0^{t\prime}}^{L}}$

このとき、 $(H.f)$ は、無限次元の直既約ヒルベルト表現である。

定理:

を有限連結クイバーとする。もし下の無向グラフ が、拡大 Dynkin 図形の一つを含むならば、 の無限次元の直既約ヒルベルト表現が存在する。
$\Gamma$$|\Gamma|$$\Gamma$

102

系: を有限連結クイバーとする。もし の無限次元の直既約ヒルベルト表現が存在しな
いならば、その下の無向グラフ は、Dynkin 図形の一つである。
$\Gamma$$\Gamma$$|\Gamma|$(注意) この逆が、真であるかは、未解決の問題である。
(3) 直既約ヒルベルト表現と準同型代数(この節の結果は、[EW3](準備中) にある)定理:$\Gamma$を、$\tilde{A}_{1}$とし、$\Gamma’$を An とする。その表現をそれぞれ、$(H,f),$ $(K,g)$ とおく。
$A$$\Gamma^{l}:t^{\wedge}\cup^{O}$’$(H_{/}f)\backslash \backslash H_{0_{\dot{8}}}^{\wedge}H_{t}$$\iota H_{\iotaarrow}^{I}H_{t^{arrow--\prec}}^{I}H_{\sigma A}\nearrow\searrow$$r\urcorner_{\underline{\backslash }}/\varpi^{--rightarrow}arrow\#k_{O/}(k,\backslash \sim H_{\iota}$$H\downarrow$$\searrowarrow 0---arrow$$IH_{o_{1}}\searrow H,-\cdot-->H_{t}^{\nearrow_{8}}t$このとき、次をもつ。

End$(H,J)\simeq End(K,g)$ .
これ以外の多くの型の間の準同型代数の関係については、 [EW3] で、詳しく説明されている。

(4) 拡張された Dynkin 図形の defect
われわれは、4 部分空間の組について、その不変量 defect を Fredholm 指数を使って定義した。
$\llcorner_{1}\searrow_{H’}/g$,$\star su4s\mu\iota\epsilon s_{\rangle^{\zeta*n}}$$\zeta\swarrow\nwarrow g_{\iota}$

つまり、4 つ組 3 $=(H;E_{1}, \ldots,E_{4})$ について、その defect (S) を、$\rho$$\rho(S)=\frac{1}{3}$

Ind(Aij) で定義した。ここで、$A_{ij}$$\sum_{i<j}$$A_{ij}((x_{i},x_{j}))$$=x_{i}+x_{j}(x_{i}\in E_{i},x_{j}\in E_{j})$$Ind(T)=$ dim ker $T-$ dim ker$\tau*$:Ei$\oplus$Ej$arrow$で定義される加算作用素であり、である。

このとき、この定義は、有限次元のときのものと一致する。
次に、拡大 Dynkin 図形 の場合を考える。
$\tilde{E_{6}}$

H は、

103

$/^{e}z_{\wedge}^{\nearrow\vdash_{L}}\circ\sim$$F_{\dagger \mathbb{E}\iota}^{r}Qarrow\thetaarrow_{\succ\}^{a}K_{\sim}’\circ\sim--a$。

$q$$F_{\tilde{s}}$これに対して、われわれは、defect の定義として、( ,Fj) をおく。ここで、$d$$\rho(S)=\frac{1}{2}$$E_{i}$jかFj)–dim(Ei F ) である。の表現のクラスとして、$S=$ $(H;E_{i},F)$ で次のものを考える。

$d(E_{i},F_{j})=$$\tilde{E_{6}}$dim(Ej$\perp$$+$$\cap$なるものを取る。このクラスのものに対して、上でdefect を定義すると、有限次元では、この定義は、もとの有限次元の defect の定義と一致する。 についても、同様に定義できる。 については、無限次元の例を含めるように、今のところ定義できてはいない。

$\dim(E_{i}\cap F_{j})<\infty,\dim(E_{i}+F_{j})^{\perp}<$$\tilde{E_{7}}$$\infty$$\tilde{E_{8}}$(5) コクセター関手と向き付け変更(2) の主定理は、 のすべての向き付けについて、 の無限次元の直既約ヒルベルト表
現が存在することを示している。しかし、例では、ひとつの包含関係のときの向き付けのみ
しか、 の無限次元の直既約ヒルベルト表現が存在することを、示していない。そのため、$\Gamma$$\Gamma$$\Gamma$

向き付けを変えたときにも、 の無限次元の直既約ヒルベルト表現が存在することを、示す$\Gamma$

必要がある。その為の、武器となるものが、コクセター関手である。これについて、残りの節では、[EW2] に従って、説明する。このために、ある性質の良いクラスを設定しよう。
例として、次を見よう。
3 つの部分空間を考えよう。このとき、$H_{1}\subset H_{2}\subset H_{3}$$K_{1}=H_{1},K_{2}=H_{2}\cap H_{1}^{\perp},K_{3}=H_{3}\cap H_{2}^{\perp}$

とおく$\circ$

このとき、$H_{1}=K_{1}\oplus 0\oplus 0arrow J\oplus 0\oplus 0H_{2}=K_{1}\oplus K_{2}\oplus 0arrow I\oplus I\oplus 0$$arrow H_{3}=K_{1}\oplus K_{2}\oplus K_{3}$.

定義 :を有限クイバーとする。 の下の無向グラフ を、 とする。 (H,f) を のヒルベルト表現とする。例えば、$HiJ$ H2 f 乃 $H_{3}o_{3}H_{4}arrow f_{4}H_{5}arrow\sqrt sH_{6}$ がその例である。このとき、$(H,f)$ が正. ユニタリ対角形であるとは、ある $m\in N$ と、あるヒルベルト空間の直交分解
は があり得る) 、ある作用素の分解(
で次を満たすもの存在することである。
$6f_{ki}$ :が、$f_{k,i}=0$ であるか、または、ある正のスカラー k,l, あるユニタリが存在して、と書けることである。
$\Gamma$$\Gamma$

$|$

r

$|$

$\Gamma$$A_{n}$$arrow$$H_{k}=\oplus^{m}{}_{i\Rightarrow 1}H_{ht}$$H_{ht}$$0$$f_{k}=\oplus_{i1}^{\underline{m}}f_{k,i}\cdot:\oplus_{i1}^{\underline{m}}H_{s(a_{k}),i}arrow\oplus_{i}^{\underline{m}}{}_{1\langle a_{k})_{\partial}i}H$$\lambda$$H_{s(a_{i}),i}arrow H_{r(\alpha_{k}),l}$$u_{ht}$$f_{k,i}=\lambda_{ht}u_{ti}$次の補題が鍵である。
補題: を有限クイバーとする。 の下の無向グラフ を、 とする。 (HJ) を のヒルベル
ト表現とする。$a\in V$を、 source とする。もし、 (H,f) が正-ユニタリ対角形であるならば、は、正-ユニタリ対角形である。
このことと、次の事実を使う。
$\Gamma$$\Phi_{\overline{a}}(H,f)$$\Gamma$$|\Gamma|$$A_{n}$$\Gamma$

104

命題:

$\Gamma 0$と を有限クイバーとする。
$\Gamma$$\Gamma_{0}$と の下の無向グラフ$\Gamma$$|\Gamma_{0}|$と$|\Gamma|$

を、$A_{n}(n\geq 2)$ とす

る。
ここで、
る。

$\Gamma_{0}$は、標準な向きをもつものとする。つまり、

このとき、あるは、$v_{k}$$\circ|$$arrow 0_{3}$$arrow\circ 2$$arrow\cdots\circarrow 0_{n}$とす/で次を満たすものが存在する。
, ( o) の source であり、であり、

$v_{1},$ $v_{2},$$\cdots,$$v_{m}\in$$\Gamma$$Vk\neq n(\forall k=1,2, \cdots,n)$$\Gamma$$\sigma_{\overline{v}_{n}},\cdots\sigma_{1\underline{\backslash }}^{-}\sigma_{\mathfrak{i}_{1}}^{-}(\Gamma 0)=$$\sigma_{\overline{\iota}_{k-t}},\cdots\sigma_{\backslash \backslash }^{-}\sigma_{1}$である。

この事実とコクセター関手を組み合わせて、(1] 堅 O)Jo) をもつ。これで、望まれた の無限次元の直既約ヒルベルト表現が存在することが、示せたことにな$(H,J)=\Phi_{1m}^{-}\cdots\Phi_{\overline{v}_{-}},\Phi_{1}$$)$$\Gamma$る。

以下では、道異になる反射関手を説明する。
定義
を有限クイバーとする。$b\in$ 7 を sink とする。 $b\in$ V の周りの矢の集合を、$:(\sigma_{b}^{+}(\Gamma))$$\Gamma$$E^{b}=\{a\in E;r(a)=b\}$ と書く。
$b\in$V の周りの矢の向きだけを反対方向に変えたクイバーを、$\sigma_{b}^{+}$$\sigma_{b}^{+}(\Gamma)=(\sigma_{b}^{+}($の $, \sigma_{b}^{+}(E),r,s),$ $\sigma_{b}^{+}(V)=V,\sigma_{b}^{+}(E)=$ {ff;$\alpha\in$

Eb}(r) で、表す。つまり、(E Eb) とするのであ$\cup$$\backslash$る。

定義 $:(\Phi^{+}(H,J))$を有限クイバーとする。$b\in$ 7 を sink とする。 のヒルベルト表現を、(H,f) とする。これか$\Gamma$$\Gamma$

ら、のヒルベルト表現 b $(H,f)=(K,g)$ を定義する。
V の周りのヒルベルト空間 の直和から、Hb への和写像$\Phi+$$\sigma_{b}^{+}(\Gamma$ $)$$b\in$$H_{b}$$h_{b}((x_{s(a)}))$:$i_{b}$$= \sum_{a\in E^{b}}f_{a}(x_{s(a)})\in H_{b}$$K_{b}arrow\oplus_{a\in E^{b}}$で定義する。

H,(。)(埋め込み) とする。

$P\rho$$h_{b}$

を、$K_{b}=kerh_{b}\subset\oplus_{\alpha\in E^{b}}H_{s(a)}$

:

と置く。

を、射影とす$\oplus_{a\in E^{b}}H_{s(\sigma)}arrow H_{s(\beta)}(\beta\in Eb)$

る。
ここで、$K_{v}=K_{b}(v=b),K_{v}=H_{v}(v\neq b)$ と置き、
$gp=P\rho\cdot i_{b}(\beta\in E^{b}),g\rho=f_{\beta}(\beta\not\in E^{b})$

と置く。

定義
を有限クイバーとする。$a\in$ 7 を source とする a
V の周りの矢の集合を、$E_{a}=\{\alpha\in E;s(\alpha)=a\}$ と書く。
$a\in$ V の周りの矢の向きだけを反対方向に変えたクイバーを、 5(r) で、表す。つまり、(E Ea) とするのであの$:(\sigma_{\overline{a}}(\Gamma))$$\Gamma$$\in$$\circ$$\sigma$$\sigma_{\overline{a}}(\Gamma)=(\sigma:($$, \sigma_{\overline{a}}(E),r,s),\sigma_{\overline{a}}(V)=V,\sigma_{\overline{a}}(E)=\{\varpi;a\in Ea\}\cup$$\backslash$る。

定義 $:(\Phi^{-}(H,J))$を有限クイバーとする。$a\in$ 7 を source とする。 のヒルベルト表現を、(H,f) とする。これ
から、$(K,g)$ を定義する。座標写像のヒルベルト表現 5(H D
を、$\Gamma$$\sigma$$\Gamma$a-$\Phi$$(\Gamma$ $)$$=$$\partial$$\tilde{h_{a}}:H_{a}arrow\oplus_{\alpha\in}s_{a}H_{u)}$$\tilde{h_{a}}(x)=(f_{a}(x))_{\alpha\in E_{a}}$$j_{\beta}$:$H_{r(\beta)}arrow\oplus_{a\in E}$と、定義する。

$K_{a}=({\rm Im}\tilde{h_{a}})^{\perp}\subset\oplus_{\alpha\in E_{\Phi}}H_{ra)}$$H_{\wedge a)}$。

$Q_{a}:\oplus_{a\epsilon E_{a}}H_{\wedge u)}arrow K_{a}=$$(\beta\in Ea)$$({\rm Im}$ha$)\perp$

を、埋め込み写像とする。

を、

と置く。

105

射影とする。これらを用いて、$K_{1},$$=K_{a}(v=a),K,,$ $=H_{v}(v\neq a)$ と置き、

$gp=Q_{a}\cdot j_{\beta}(\beta\in E_{a}),g_{\beta}=f_{\beta}(\beta\not\in E_{a})$と置く。

道具 (向き付け変更)定理: を有限クイバーとする。$a\in$ V を source とする。 のヒルベルト表現を、(H,f) とす$\Gamma$$\Gamma$る。
(条件) $(H,f)$ は直既約である。また、$\sum_{\alpha\epsilon E_{a}}$Im 冷は、閉である (これを、$a\in$ 7 で余-閉であるという)。

このとき、もし、ならば、$\Phi_{\overline{a}}(H,f)\neq 0$$\Phi_{\overline{a}}(H,f)$

は、直既約である。

参考文献[EWI]M. Enomoto and Y. Watatani, Relative position offour subspaces ? a Hilbert
space, Adv. Math. 201 (2006), 263-317.
[EW2]M. Enomoto and Y. Watatani, Indecomposable representations ofquiVers of$ii?ffiii’te$ -dimeiisional Hilbert spaces,(Joumal of Functional Analysis, in press)[EW3]M. Enomoto and Y. Watatani,in preparation.
$1i$