数理解析研究所講究録
第 895 巻 1995 年 98-11398

代数群の 2 つの involution に関する両側剰余類分解 II

京大・総合人間学部

1

Introduction$G$を reductive なリー群、$\sigma,$$\tau$

を $G$ 上の 2 っの involution $(\sigma^{2}=\tau^{2}=$ 昭$(G^{\sigma})_{0}\subset H\subset G^{\sigma}$

を満たす

$G$

$(G^{\tau})_{0}$$(G^{\sigma})_{0},$松木敏彦 (Toshihiko MATSUKI)の部分群とする。 ただし、,$)$とし、 $H,$$L$を、$(G^{\tau})_{0}\subset L\subset G^{\tau}$$G^{\sigma},$$G^{\tau}$

はそれぞれ$\sigma$, に関する$\tau$の固定部分群、$G$はそれらの単位元を含む連結成分とする。

[8] $(,[7])$ ではいくつゆの典型的な例 $(G$ は代数群、 $H=G^{\sigma}$、$L=G^{\tau})$について両側

剰余類分解

H G/ゐ
$\backslash$の標準的代表元を与えた。 そこで用いられた方法はすべて代数的であるので、 基本的な例 GL $(p, F)\cross GL(n-p, F)\backslash GL(n, F)/GL(r, F)\cross GL(n-r, F)$ にっいては任意の体 $F$(非可換でもよい) について記述した。 他の (2 次形式に関係する) 例にっいては、 筆者の興味と能力によって $F=$ IR$tD$, 正 1 の場合に限定したが、 もっと一般に記述できると思われる。

本稿では、 まず $G$ が compact のときに、 そして次に noncompact のときに、 両側剰
余類分解 $H\backslash G/L$ の構造の一般論にっいていくっかの例と共に述べる ([9])

。

関連する研究としては、 次のようなものがある。

(1)
いて [3]
(2)

$G$

、

$G$

が compact のときに、構造定理とIntertwining function (球関数の一般化) につ
compact 対称空間上の Radon 変換について [4]が noncompact のときに、等質空間上の調和解析について [5]の。

$G_{IR}\backslash G_{tD}/H_{\mathbb{C}}$、

複素解析的性質について $[2]$$H\backslash G/H$、の不変固有超関数について $[1],[11]$ など、 対称対の巾零共役類について [6] [10], [12] など。
$)$(3) $G$ が有限体、 局所体などの上の代数群のとき、 川中、宇沢などによる研究がある。

Compact case

2
$G$

は

compact とする。
$\sigma\tau=\tau\sigma$のとき、 $H\backslash G/L$ の構造は、 3
$[$

$]$

で研究さ

. ている。

$r_{t}$

99$(G, H, L)=(O(2m), O(r)\cross O(s), U(m))(2m=r+s,$$\underline{\{\emptyset|1}$$\sigma g=I_{r,s}gI_{rs,)}$,$\tau g=J_{m}gJ_{m}^{-1}$$I_{r,s}=(\begin{array}{ll}I_{r} 00 -I_{s}\end{array})$のとき、$\tau$のどんな共役$\tau_{x}=$Ad$(x)\tau$

,

Ad

,

$H=G^{\sigma}$:odd, $s<m)$$s$,$L=G^{\tau}$$J_{m}=(\begin{array}{ll}0 I_{m}-I_{m} 0\end{array})$を取っても、$(x)^{-1}$$\sigma_{x}\tau\neq\tau\sigma_{x}$

である。

ゐx

$\equiv n- r8fl$$=G^{\tau_{x}}$とおく。

$\sigma\tau_{x}=\tau_{x}\sigma$$H/H\cap$と仮定すると、 $\tau_{x}H=H$ ,ゐ x’

ゐ x $=$ ゐ x であるから、$L_{x}/H\cap L_{x}$$\cong$

U $(m)$ に対して、 そのようなゐ x は存在しない。 (compact 対称空間の分類による。)$\square$は共に対称空間である。 ところが、 $H=O(r)\cross O(s)$ , ゐ x$H\cap$$\sigma$$(G, H,$ ゐ $)=(U(2m), U(r)\cross U(s), Sp(m))$のときも同様である。

9 を $G$ のリー環とし、$\mathfrak{g}=\mathfrak{g}^{\sigma}\oplus \mathfrak{g}^{-\sigma}=\mathfrak{g}^{\tau}\oplus \mathfrak{g}^{-\tau}$を$\sigma,$に関する$\tau$$+1,$ $-1$

固有空間分解とする。

$a$を$9^{-\sigma}\cap 9^{-\tau}$の 1 つの極大可換部分空間とし、$A=\exp a$

とおく。

$\mathfrak{g}_{s}=[\mathfrak{g}, \mathfrak{g}],$は$\delta$$\mathfrak{g}$のcenter とすると、$\mathfrak{g}=\mathfrak{g}_{s}\oplus 3$

定理 1$G=HG_{0}$ ゐで、$\sigma\tau|_{3}$が semisimple のとき、

$G=HA$ ゐ玉 emmal$\sigma,$$\tau$

は実ベクトル空間 $V$ の involution とする。
$V=(V^{\sigma}+V^{\tau})\oplus(V^{-\sigma}\cap V^{-\tau})$

例2$V=IR^{2}$とし、$V^{\sigma},$$V^{-\sigma},$と、 (2.1) は成り立たない。 ($\sigma\tau$$V^{\tau},$は$V^{-\tau}$$\sigma\tau$が semisimple のとき、(2.1)

が次の図のようになるように

semisimple でない。 )$\sigma,$$\tau$

を定義する

100

定理 1 の証明$x\in G^{\sigma\tau}$のとき、$\sigma\tau(\sigma x)=\sigma(\tau\sigma)x=\sigma(\sigma\tau)^{-1}x=\sigma x$であるから、である。

である。 よって、$\sigma x\in G^{\sigma\tau}$$A\subset\exp(\mathfrak{g}^{-\sigma}\cap \mathfrak{g}^{-\tau})$$\sigma G^{\sigma\tau}=G^{\sigma\tau}$となり、$(G^{\sigma\tau}, G^{\sigma}\cap G^{\tau})$は対称対はこの対称対の maximal torus であるから、 compact である。 よって、$HALfh$ compact。

仮定により、 $HAL$ は $G$ のすべての連結成分と交わるから、$HA$ ゐlk open in $G$を示せばよい。
ある $N$ があって$(\sigma\tau)^{N}|_{9_{S}}\in$Int$(\mathfrak{g}_{s})$であるから、$\sigma\tau th$semisimple$\sigma\tau|_{g_{s}}$は semisimple である。 よって、。

Lemma 1 により、$\mathfrak{g}=(\mathfrak{g}^{\sigma}+\mathfrak{g}^{\tau})\oplus(\mathfrak{g}^{-\sigma}\cap \mathfrak{g}^{-\tau})$(2.2)

である。 $(G^{\sigma\tau}, H\cap L)$ は compact 対称対だから、$\mathfrak{g}^{-\sigma}\cap \mathfrak{g}^{-\tau}=$

Ad $(H\cap$ ゐ $)a$

$HA$ ゐ $=H\exp(Ad (H\cap L) \alpha)$ ゐ $=H\exp(\mathfrak{g}^{-\sigma}\cap \mathfrak{g}^{-\tau})$ ゐ(2.2), (2.3) により、 $HAL$ は単位元
$H$による左移動と

$L$

$e$

(2.3)

の近傍を含む。

による右移動を考慮すれば、 任意の $a\in$ 孟に対して $HA$ ゐがの近傍を含むことさえ示せばよい。 よって、
$HA$ ゐ $a^{-1}=HA(cx$ ゐ $a^{-1})$

$a$

101

が

$e$

の近傍を含むことを示せばよい。 $L_{a}=aLa^{-1},$$\tau_{a}=$Ad$(a)\tau$

Ad $(a)^{-1}$ とおこう。 このとき、$\alpha\subset \mathfrak{g}^{-\sigma}\cap Ad(a)\mathfrak{g}^{-\mathcal{T}}=\mathfrak{g}^{-\sigma}\cap \mathfrak{g}^{-\tau}\nearrow$であり、 さらに$\alpha\subsetneqq a’\subset 9^{-\sigma}\cap \mathfrak{g}^{-\tau_{a}}$となる可換な$a’$が存在すると仮定すると、 同じ議論により、$a’\subset \mathfrak{g}^{-\sigma}\cap Ad.(a)^{-1}\mathfrak{g}^{-\tau_{a}}=\mathfrak{g}^{-\sigma}\cap \mathfrak{g}^{-\tau}$となり、 $a$ の仮定に反する。 よって、$\alpha$が$9^{-\sigma}\cap 9^{-\tau_{a}}$示された。 従って H-ゐ a double coset H $A$ ゐ a が注意$x\in G$に対し、 $L_{x}=x$ ゐ$x^{-1}$$e$の極大可換部分空間であることがの近傍を含むことがわかる。

とおく。 写像$Hg$ ゐ $\mapsto HgLx^{-1}=Hgx^{-1}L_{x}$により、 2 つの両側剰余類分解 $H\backslash G/L$ と$H\backslash G$/ゐ x は自然に同一視できる。

Weyl 螢の一般化 (c.f. [3], Chapter 8)$\ovalbox{\tt\small REJECT}$$=$$\{(h, \ell)\in H\cross L|hA\ell^{-1}=A\}$$Z_{A}$$=$$\{(h,$ $\ell)\in H\cross L|ha\ell^{-1}=a$

$J$

$=$

$N_{A}/Z_{A}$for all $a\in A\}$

とおく。

注意

$(h, \ell)\in N_{A}$のとき、$h\ell^{-1}=he\ell^{-1}\in A$$hAh^{-1}=hA\ell^{-1}(hl^{-1})^{-1}=A$

よって、$J\cong\{(Ad($ ん $)|\mathfrak{a}, h\ell^{-1})|h\in N_{H}(A), \ell\in$ ゐ $, h\ell^{-1}\in A\}$

例3

$H=$ ゐのとき、$J\cong W_{H}(A)\ltimes\cdot(A\cap H)$である。 さらに、 $H=G^{\sigma}$ ならば$A\cap H=\{a\in A|a^{2}=e\}$

口

102

であることに注意しよう。
命題 1$W_{H}$(孟) $=W_{H\cap L}(A)$ のとき、
」全

ただし$\text{」_{}0}=Z_{H}$$Z_{L}$(渦)$\cap$$a,$$b\in A$(孟)$\triangleright<J_{0}$A$G=HAL$ のとき、

定理 2

証明

(孟)

$W_{H}$」$\backslash A\cong H\backslash G/L$,
$b=ha\ell^{-1}$for some ん $\in H,$$\ell\in L$のとき、$b=h’a\ell^{\prime-1}$となる$(h’, \ell’)\in N_{A}$$A’=$ ん$A\ell^{-1}$が存在することを示せばよい。

とおくと、 $A’\ni b$ ,$A’b^{-1}$である。 よって、 $a’=$$=$

ん $A\ell^{-1}b^{-1}=$ ん $A\alpha^{-1}\text{ ^{}-1}=$ ん$=$$b\ell a^{-1}A\ell^{-1}b^{-1}=b\ell A(b\ell)^{-1}$ん

Ad (ん) $a=$ Ad$(b\ell)a$$A\text{ん^{}-1}$が定義できて、$a’\subset \mathfrak{g}^{-\sigma}\cap Ad(b)\mathfrak{g}^{-\tau}$が成り立っ。 一方、$a\subset \mathfrak{g}^{-\sigma}\cap Ad(b)\mathfrak{g}^{-\tau}$

も成り立っので、 $(G^{\sigma\tau_{b}}, H\cap bLb^{-1})$ が compact 対称対であることにより、

Ad$(x)\alpha’=\alpha$を満たす $x\in H\cap bLb^{-1}$ が存在する。 ん’ $=x$ ん $\in H,$ん/$A\ell$’ $-1$ん’a4‘root 系$\alpha\in ia^{*}$

$=$

$x$

$=$

$x$

$-1$

$\ell’=b^{-1}xb\ell\in L$とおけば、

ん $A\ell^{-1}b^{-1}x^{-1}b=xA’b^{-1}x^{-1}b=A$
ん $\alpha\ell^{-1}b^{-1}x^{-1}b=xbb^{-1}x^{-1}b=b$に対し、$\mathfrak{g}_{(\iota}(a, \alpha)=\{X\in \mathfrak{g}|[Y,$$X]=\alpha(Y)X$ for all $Y\in a\}$$\Sigma=\Sigma(\mathfrak{g}_{tD}, a)=\{\alpha\in ia^{*}-\{0\}|\mathfrak{g}_{tC}(\alpha, \alpha)\neq\{0\}\}$$\square$103とおくと、 root space 分解$\mathfrak{g}_{(}=\oplus_{\alpha\in\Sigma\cup\{0\}\mathfrak{g}_{\mathbb{C}}(a,\alpha)}$が成り立っ。 ここで、

$a\subset \mathfrak{g}^{\sigma\tau}$に注意すれば、 さらに$\mathfrak{g}_{\mathbb{C}}(a, \alpha)$$=$$\oplus_{|\lambda|=1}\mathfrak{g}_{tD}(\alpha, \alpha, \lambda)$$\mathfrak{g}_{\mathbb{C}}(\alpha, \alpha, \lambda)$$=$$\{X\in \mathfrak{g}_{\dot{\mathbb{C}}}(a, \alpha)|\sigma\tau X=\lambda X\}$と固有空間分解できる。
命題 2$\Sigma$はroot 系の公理を満たす。

$(G, H, L)=(U(n, F), U(p, F)\cross U(q, F), U(r, F)\cross U(s, F))(F=$ IR

例4$n=p+q=r+s$ ,$\mathbb{C},$ffl$r\geq p\geq q\geq s$とし、$\sigma g=I_{p,q}gI_{p,q}$,$\tau g=I_{rs,)}gI_{rs,)}$,$H=G^{\sigma}$,$L=G^{\tau}$とおくと、

ん 1 $\in U(p, F),$ $h_{2}\in U(q, F)\}$ ,

$H$

$=$

$\{(\begin{array}{ll}h_{1} 00 h_{2}\end{array})|$

$L$

$=$

$\{(\begin{array}{ll}\ell_{1} 00 \ell_{2}\end{array})|\ell_{1}\in U(r, F),$となる。 このとき、$9^{-\sigma}\cap 9^{-\tau}$の極大可換部分空間$a=1^{Y(\theta_{1},\ldots,\theta_{s})=}(-d(\theta_{1},.., \theta_{s})0.$$0$$\ell_{2}\in U(s, F)\}$$a$を次のように取る。

$d(\theta_{1}, \ldots, \theta_{s})0$$|\theta_{1},$$\ldots,$$\theta_{s}\in IR$

ただし$d(\theta_{1}, \ldots, \theta_{s})=(\begin{array}{lll}\theta_{1} 0 \ddots 0 \theta_{s}\end{array})$$e_{j}\in$

ね

$*$

.

を
.

$e_{\gamma}:Y(\theta_{1}, \ldots, \theta_{s})\mapsto i\theta_{\gamma}$で定義すると、$\Sigma=\Sigma(\mathfrak{g}_{tD}, \alpha)$は次の$\Sigma_{\max}$(BC 型) に含まれる。
$s$$\Sigma_{\max}=\{\pm e_{j}\pm e_{k}|1\leq j<k\leq s\}\cup\{\pm e_{j}|1\leq j\leq s\}\cup\{\pm 2e_{f}\cdot|1\leq j\leq s\}$

$)$

104

$G^{\sigma\tau}\cong U(p+s, F)\cross U(q-s, F)$であるから、$\dim \mathfrak{g}_{tD}(a, \alpha, \lambda)$

は容易に計算できて、次の表で与えられる。

ただし、$c=\{\begin{array}{l}1 (F=IR)2 (F=tD)4 (F=\mathbb{H})\end{array}$

また、 $W_{H}(A)=W_{H\cap L}(A)$ であるので、 命題 1 により 」$\cong W_{H}(A)\triangleright<J_{0}$ となり、 この場合$J_{0}=Z_{H}(A)Z_{L}(A)\cap A=\{a\in A|a^{2}=e\}$となる。

同様にして、$\mathfrak{g}_{s}$が古典型単純リー環の場合に、 すべての$(\mathfrak{g}_{s}, \sigma, \tau)$を分類し、 それぞれについて 1 つ の 標準的な $(G, H, L)$ を選んで・ $\Sigma_{\max’)}W\dim \mathfrak{g}_{tD}(a, \alpha, \lambda)$ , 」を求めると・

次の表のようになる。 $(\sigma=\tau$ の場合は省略した。
決まるが、 W, 」は

$G$

の取り方と

$H,$ $L$$\Sigma,$$\dim \mathfrak{g}_{\mathbb{C}}(\alpha, \alpha, \lambda)$

は$(\mathfrak{g}_{s}, \sigma, \tau)$によっての連結成分の取り方によって、 多少変化し得る。

このような細かい変化も重要なはずだが、後の研究にゆだねたい。)

105(044401)$(\begin{array}{l}SO(4m)U(2m)I,U(2m)I’\end{array})$

DIII–IIIt$BC_{m-1}$

2$(I’=I_{4m-1,1})$$p=r=5$

DI–I’

のとき

$(\begin{array}{l}\pi(SO(8))7\ulcorner(SO(p)\cross SO(q))\kappa\pi(SO(r)\cross SO(s))\end{array})$

short long1112
1

$G_{2}$$(\begin{array}{ll}p,r= 5or 7\end{array})$$0$$\pm\omega$$(\begin{array}{ll}k \emptyset lffi tXA =\{e\}\end{array})$

ここで、

皿

$p+q=r+s=n(=2m)$ ,$7\Gamma$$c=\{\begin{array}{ll}1 (F=IR)2 (F=tD)4 (F=IH)\end{array}$$=\{\begin{array}{ll}\oplus (F=IR)\mathbb{I}i (F=\oplus)\end{array}$$r\geq p\geq q\geq s$,$\epsilon=s-2s’=\{\begin{array}{ll}0 ( s:は: $SO(8)arrow SO(8)/\{\pm I\}\cong$ Ad (SO (8)),の配列は、
DI-I’ 型以外の$\kappa$$7T^{\cdot}(SO(8))$even) , \omega^{3}=1,1( s:odd) \end{array}$の位数 3 の外部自己同型。

$\dim \mathfrak{g}_{tD}(a, \alpha, \lambda)$

また、 $J=W$

く$J_{0}$,$J_{0}=\{a\in A|a^{N}=e\}$である。

$\sigma\tau_{x}$の固有値$(G, H,$ ゐ$)$$x\in G,$$\tau_{x}=$Ad$(x)\tau$Ad$(x)^{-1}$とするとき、$\sigma\tau_{x}$の固有値を調べる。

が定理 1 の仮定を満たすとすると$x=ha\ell$$(h\in H, a\in A, l\in L)$と表せる。 このとき、$\sigma\tau_{x}$よって、$\sigma\tau$$=$$\sigma$Ad$(ha\ell)\tau$$=$

Ad (ん) Ad$=$

Ad (ん)$\sigma$$\sigma\tau$Ad$(ha\ell)^{-1}$$(a)\tau$Ad$(a)^{-2}$

Ad $(a)^{-2}$ の固有値を調べればよい。
$\sigma\tau$Ad$(a)^{-1}$AdAd$(h)^{-1}$$(h)^{-1}$$0\neq X\in \mathfrak{g}_{(D}(\alpha, \alpha, \lambda)$

Ad $(a)^{-2}X=\sigma\tau a^{-2\alpha}X=\lambda a^{-2\alpha}X$

のとき、

106

(ただし、 $A\ni a\mapsto a^{\alpha}\in U(1)$ は$\sigma\tau_{x}$$l^{\backslash }f\underline{\in}=$の1$\alpha$: $aarrow iIR$ から決まる準同型) であるから、$\lambda a^{-2\alpha}$

っの固有値である。

(例 1 の再考)

にっいて、

$s$

$(G, H, L)=(O(2m), O(r)\cross O(s), U(m))$ or $(U(2m), U(r)\cross U(s), Sp(m))$:odd, $s<m$ とする。

表の DI-III,AIII-II 型のところを見ると、 $\alpha=\pm eJ$ のとき、$\mathfrak{g}_{tD}(a, \alpha, \lambda)\neq\{0\}\Leftrightarrow\lambda=\pm 1$

,面

よって、

{

$\sigma\tau_{x}$の固有値}$\supset$$\{\pm a^{-2\alpha}, \pm ia^{-2\alpha}\}\not\subset\{\pm 1\}$$(\sigma\tau_{x})^{2}\neq id$

regular elements$\mathfrak{g}_{qj}(a, \alpha, \lambda)\neq\{0\}$.

$\sigma\tau_{x}\neq\tau_{x}\sigma$を満たす任意の$\alpha\neq 0,$$\lambda$

に対して、$\lambda a^{-2\alpha}\neq 1$のとき、 $x=$ ん認は regular であると言おう。 明らかに次が成り立っ。

命題 3
例5

$x$

が regular$\Leftrightarrow \mathfrak{g}^{\sigma\tau_{a}}\subset \mathfrak{g}_{(\iota}(a, 0)\Leftrightarrow \mathfrak{g}^{-\sigma}\cap \mathfrak{g}^{-\tau_{a}}=a\Leftrightarrow \mathfrak{g}^{-\sigma}\cap \mathfrak{g}^{-\tau_{x}}$$G=G_{1}\cross\cdots\cross G_{1}$

$(2n$

個

$)$

とし、

$\sigma,$$\tau$

を次で定義する。

$\sigma(g_{1}, g_{2}, g_{3}, g_{4}, \ldots, g_{2n-1}, g_{2n})=(g_{2}, g_{1}, g_{4}, g_{3}, \ldots, g_{2n}, g_{2n-1})$$\tau(g_{1}, g_{2}, g_{3}, \ldots, g_{2n-2}, g_{2n-1}, g_{2n})=(g_{2n}, g_{3}, g_{2}, \ldots, g_{2n-1}, g_{2n-2_{7}}g_{1})$

このとき

は

$\sigma\tau$

の位数は

$n$

である。 $H=G^{\sigma}$ , ゐ $=G^{\tau}$ とおく。 このとき、写像$H(g_{1}, \ldots, g_{2n})L\mapsto\{gg_{1}^{-1}g_{2}\cdots g_{2n-1}^{-1}g_{2n}g^{-1}|g\in G_{1}\}$

により$H\backslash G/$

ゐ$\cong${conjugacy classes in$G_{1}$

}

(2.4)

である。

(2.4) の証明
$H(g_{1}, \ldots, g_{2n})$ゐ$=$$H(g_{1}^{-1}, g_{1}^{-1}, e, \ldots, e)(g_{1}, \ldots, g_{2n})L$$=$$H(e, g_{1}^{-1}g_{2}, g_{3}, \ldots, g_{2n})$$=$$H(e, g_{1}^{-1}g_{2}, g_{3}, \ldots, g_{2n})(e, g_{2}^{-1}g_{1}, g_{2}^{-1}g_{1}, e, \ldots, e)$$=$$H(e, e, g_{3}g_{2}^{-1}g_{1}, g_{4}, \ldots, g_{2n})$$=$$H(e, e, e, g_{1}^{-1}g_{2}g_{3}^{-1}g_{4}, g_{5}, \ldots, g_{2n})$$=$$H(e, \ldots, e, g_{1}^{-1}g_{2}\cdots g_{2n-1}^{-1}g_{2n})$

ゐ

ゐ

ゐ

ゐ.

ゐ

が可換

107

$g,$

$g’\in G_{1}$に文 し、$\iota\grave$$(e, \ldots, e, g’)=$ ん $(e, . . . , e, g)\ell^{-1}$for some $h=(h_{1}, \ldots, h_{2n})\in H,$$\ell=(\ell_{1}, \ldots, \ell_{2n})\in$

ゐ

とすると、
$\ell_{2n}=\ell_{1}=h_{1}=h_{2}=\ell_{2}=\ell_{3}=\cdots=l_{2n-2}=\ell_{2n-1}=h_{2n-1}=h_{2n}$$g’=h_{2n}g\ell_{2n}^{-1}=h_{2n}gh_{2n}^{-1}$

逆に、 $g’=x_{1gx_{1}^{-1}}(x_{1}\in G_{1})$ のとき、 $x=(x_{1}, \ldots, x_{1})\in H\cap$ ゐとおくと$(e, \ldots, e, g’)=x(e, \ldots, e, g)x^{-1}$$\square$$\mathfrak{g}^{-\sigma}\cap \mathfrak{g}^{-\tau}=\{(-X, X, \ldots, -X, X)\in \mathfrak{g}|X\in \mathfrak{g}_{1}\}$であるから、$\alpha_{1}$を$\mathfrak{g}_{1}$の1っの極大可換部分環とするとき、$a=\{(-X, X, \ldots, -X, X)\in \mathfrak{g}|X\in a_{1}\}$は$\mathfrak{g}^{-\sigma}\cap 9^{-\tau}$

任意のの極大可換部分空間である。

$\alpha\in\Sigma(\mathfrak{g}_{tD}, a)$は、$\alpha(-X, X, \ldots, -X, X)=\alpha_{1}(X)$によっそ$\alpha_{1}\in\Sigma(\mathfrak{g}_{1},$$a_{1})$

for$X\in a_{1}$と同一視でき、$\dim \mathfrak{g}_{tD}(\alpha, \alpha)=2n$である。 さらに、 任意の 1 の $n$ -乗根
磁$\lambda$

に対し、$m\mathfrak{g}_{\mathbb{C}}(\alpha, \alpha, \lambda)=2$

である。

容易に
$W_{H}(\alpha)=W_{L}(a)=W_{H\cap L}(\alpha)=\{(w, \ldots, w)|v)\in W_{1}\}\cong W_{1}$$(W_{1}=N_{G_{1}}(A_{1})/Z_{G_{1}}(A_{1}))$$Z_{H}(a)$$=$$\{(\alpha_{1},$$Z_{L}(\alpha)$$=$$\{(a_{1},$$\ldots,$$\ldots,$であるから、」$\cong W_{1}KJ_{0}$ であり、

$a_{2n})\in A_{1}\cross\cdots\cross A_{1}|a_{2_{J}-1}=a_{24}$for $j=1,$$\ldots,$$a_{2n})\in A_{1}\cross\cdots\cross A_{1}|a_{2j}=a_{2j+1}$

for $j=1,$$\ldots,$

$n\}$

,

$n-1$ and $a_{2n}=a_{1}\}$ ,108$\ovalbox{\tt\small REJECT}(\alpha)Z_{L}(a)=\{(a_{1}, \ldots, a_{2n})\in A_{1}\cross\cdots\cross A_{1}|a_{1}^{-1}a_{2}a_{3}^{-1}a_{4}\cdots a_{2n-1}^{-1}a_{2n}=e\}$であるから$J_{0}=Z_{H}(a)Z_{L}(a)\cap A=\{(a^{-1}, a, \ldots, a^{-1}, a)\in A|a^{2n}=e\}$である。
$G_{1}$

が連結のとき、 次の 4 っの全単射からなる可換図式がかける。
」$arrow^{\sim}$$W_{1}\backslash A_{1}$$\backslash A$$;$$\zeta$H G/ゐ$arrow^{\sim}$$\backslash$

ここで、 縦の写像は$G_{1}/$

conj.

inclusion map で与えられ、 横の写像は (2.4) により$(g_{1}, \ldots, g_{2n})\mapsto g_{1}^{-1}g_{2}\cdots g_{2n-1}^{-1}g_{2n}$特に」 A$\backslash$$arrow W_{1}\backslash A_{1}$は.

$(a^{-1}, a, \ldots, a^{-1}, a)\mapsto a^{2n}$.

によって与えられる。

3.Noncompact case
簡単のため、 $G$ は連結、 半単純とする。

基本的考え方$G/$ ゐ$\ni g$

ゐ $\mapsto f_{g}=\sigma\tau_{g}=\sigma$ Ad $(g)\tau$ Ad $(g)^{-1}\in$により、 $Hg$ ゐに対し、 Aut$(\mathfrak{g})$

の中の

Aut

$(\mathfrak{g})$Ad $(H)$ -共役類

{Ad (ん)$f_{g}$

Ad $(h)^{-1}$ }が対応する。

Jordan 分解$f_{g}=su=us$
を $f_{g}\in$ Aut$s,$$(\mathfrak{g})$$u\in$の乗法的 Jordan 分解とすると、 Aut

Aut (g),$u=\exp$ ad $(-2X_{u})$$(\mathfrak{g})$は代数群だから、

for some nilpotent element$X_{u}.\in \mathfrak{g}$109が成り立っ。

(i) $\sigma X_{u}=\tau_{g}X_{u}=-X_{u}$命題 4(ii) $g_{s}=(\exp X_{u})^{-1}g$ とおくと、 $f_{g_{s}}=s$

(i)

型 fl

$\sigma(S7J)\sigma=\sigma(\sigma\tau_{g})\sigma=\tau_{g}\sigma=(\sigma\tau_{g})^{-1}=(us)^{-1}=s^{-1}u^{-1}$$\sigma s\sigma=s^{-1}$,$\sigma u\sigma=u^{-1}$,$\sigma X_{u}=-X_{u}$同様にして、 $\tau_{g}X_{u}=-X_{u}$(ii)$f_{9s}=\sigma$Ad$(g_{s})\tau$Ad$(g_{s})^{-1}=\sigma$

Ad$(\exp X_{u})^{-1}\tau_{g}$Ad $(\exp X_{u})=\sigma\tau_{g}$ Ad $(\exp 2X_{u})=$$suu^{-1}=s$$\square$

命題 4 を用いて、 容易に次の定理が得られる。
定理 3

$($

i

$)$

任意の $g\in G$ は$g=(\exp X_{u})g_{s}$

$($

ただし、

$f_{g_{s}}$semisimple,

は$X_{u}$

はの巾零元で $\sigma X_{u}=\tau_{g_{S}}X_{u}=-X_{u}$ を満たす。

$\mathfrak{g}$

$)$

と一

意的に表せる。
$($

$($

ii
a

$)$

$g=(\exp X_{u})g_{s},$ $g’=(\exp X_{u}’)g_{s}’$$)$$h\in H,$$l\in$$g’\in G$ の$($i における分解とする。
$)$

ゐに対し、
$g’=hg\ell$(b)

を $g,$$\Leftrightarrow$$g_{s}’=hg_{s}\ell$

and$X_{u}’=$

Ad $(h)X_{u}$のとき、$g_{s}=g_{s}’$$g’\in HgL\Leftrightarrow X_{u}’\in$$Ad$ $(H\cap g_{s}$ ゐ $g_{s}^{-1})X_{u}$(ii) の (b) における Ad $(H\cap g_{s}Lg_{s}^{-1})X_{u}$ は対称対である (c.f. [6],[10],[12] etc)$(\mathfrak{g}^{\sigma\tau_{g_{s}}}, \mathfrak{g}^{\sigma}\cap \mathfrak{g}^{\tau_{g_{S}}})$$\grave{\backslash }l\exists i.\underline{\Leftarrow}\backslash \simeq$の巾零共役類。

命題 5
例6$Hg$ ゐ([8])$I_{r,s}gI_{r,s},$is closed in $G\Leftrightarrow g=g_{s}$$G=G$ ゐ $(n, F)$$H=G^{\sigma},$( $F$ は標数 $\neq 2$ の体)とする。 $\sigma g=I_{p,q}gI_{p,q},$$L=G^{\tau}(n=p+q=r+s)$ とすると、$H=\{(\begin{array}{ll}\text{ん_{}1} 00 h_{2}\end{array})|$ゐん 1 $\in G$ ゐ $(p, F),$ $h_{2}\in GL(q, F)\}$$=\{(\begin{array}{ll}\ell_{1} 00 \ell_{2}\end{array})|\ell_{1}\in G$

ゐ $(r, F),$$\ell_{2}\in G$

ゐ $(s, F)\}$$\tau g=$110

このとき、 $g\in G,$

に対し、$X\in \mathfrak{g}$$f_{g}X=\sigma$

Ad

Ad $(g)^{-1}X=$ Ad $(I_{p,q}gI_{r,s}g^{-1})X$$(g)\tau$とおけば、よって、 $\tilde{f}_{g}=I_{p,q}gI_{r,s}g^{-1}$$f_{g}=$である。従って、 $f_{g}\in$ Aut$(\tilde{f}_{g})$Jordan 分解のかわりにの$(\mathfrak{g})$Ad$\tilde{f}_{g}\in G$

ゐ (n, F) の Jordan 分解を考えればよい。
簡単な場合を考えてみよう。 $p=q=r=s=1$ とし、佛$=(\begin{array}{ll}0 11 0\end{array})$,$X_{u}=(\begin{array}{ll}0 10 0\end{array})$とすると、$\tilde{f}_{g_{s}}$$=$$I_{p\}q}g_{s}I_{r,s}g_{s}^{-1}$$=$$(\begin{array}{ll}1 00 -1\end{array})(\begin{array}{ll}0 11 0\end{array})(\begin{array}{ll}1 00 -1\end{array})(\begin{array}{ll}0 11 0\end{array})$$=$$-I_{2}$であり、 $\tau_{g_{S}}=\tau=\sigma$ であるから$X_{u}\in \mathfrak{g}^{-\sigma}=\mathfrak{g}^{-\sigma}\cap 9^{-\tau_{gs}}$となり、$g=(\exp X_{u})g_{s}=(\begin{array}{ll}1 10 1\end{array})(\begin{array}{ll}0 11 0\end{array})=(\begin{array}{ll}1 11 0\end{array})$は定理 3(i) の条件を満たす。この場合、 は群 $G$ の元としては semisimple であり、$\exp X_{u}$$g$と$g_{s}$

は可換でない。

あるから、 $\exp X_{u}$ は

極分解$f_{g}=\sigma\tau_{g}\in$の$(\tilde{f}_{g}\in G$$\tilde{f}_{g}$Jordan 分解は, と可換である。)

Aut$(\mathfrak{g})$はsemisimple とする。

$\mathfrak{g}_{\mathbb{C}}=\oplus_{\lambda\in tD^{X}}\mathfrak{g}_{tD)}^{\lambda}$を用いて、線形写像ん,$\tilde{f}_{g}=\tilde{f}_{g_{s}}\exp(-2X_{u})=\exp(-2X_{u})\tilde{f}_{g_{s}}$$p$:$\mathfrak{g}_{tD}arrow \mathfrak{g}_{tD}$$f_{g}$による 9，慮罵 空間分解$\mathfrak{g}_{(D}^{\lambda}=\{X\in \mathfrak{g}_{(\iota}|f_{g}X=\lambda X\}$を次で定義する。

for

$kX$

$=$

$\frac{\lambda}{|\lambda|}X$

$pX$

$=$

$(\log|\lambda|)X$$X\in \mathfrak{g}_{D}^{\lambda}($forX$\in \mathfrak{g}_{tD}^{\lambda}$

で

111

容易に、次のことがわかる。
$f_{g}=k\exp p=(\exp p)k$ ,$p=$

Aut (g),$k\in$

ad $(-2X_{p})$for some$p\in$Der (g),$X_{p}\in \mathfrak{g}$(i) $\sigma X_{p}=\tau_{g}X_{p}=-X_{p}$命題 6(ii) $g_{k}=(\exp X_{p})^{-1}g$ とおくと、 $f_{gk}=k$(証明は命題 4 と同じ。)
次の 3 条件を満たす

命題 7$\mathfrak{g}$の$\sigma\theta=\theta\sigma$$C$,artan involution
ん $\theta=\theta k$ ,以下、 次の条件を満たす $C$ artan involution$\sigma\theta=\theta\sigma$(一般に$G|f_{g}$$\tau$,$\theta$が存在する。

$\theta X_{p}=-X_{p}$$\theta$が存在するとし、 それを 1 つ固定する。

$\tau\theta=\theta\tau$をその共役に取り替える必要がある。) $K=G^{\theta},$$t=\mathfrak{g}^{\theta},$$P=\mathfrak{g}^{-\theta},$$G_{ss}=\{g\in$is semisimple} とおく。

命題 7 を用いて、 容易に次の基本的な定理が証明できる。

定理 4(i)$G_{ss}$に含まれる任意の H-ゐ double coset は次の形の代表元を含む。
$g=(\exp X_{p})g_{k}$ただし、 $g_{k}\in K,$$\sigma X_{p}=\tau_{gk}X_{p}=\theta X_{p}=-X_{p}$(ii) $g=(\exp X_{p})g_{k},$ $g’=(\exp X_{p}’)g_{k}’\xi_{i}(i)$ の形の 2 つの元とする。
$X_{p}’=$ Ad $(h)X_{p}$ for some $h\in K\cap H,$ $\ell\in K\cap$ ゐ(a) $g’\in Hg$ ゐ(b) $g_{k}=g_{k}’$ のとき、$\Leftrightarrow$$g_{k}’=hg_{k}\ell,$$g’\in HgL\Leftrightarrow X_{p}’\in$$Ad$ $(K\cap H\cap g_{k}$ ゐ $g_{k}^{-1})X_{p}$をfundamental Cartan subset (群の場合の fundamental Cartan subgroup の一般化)の 1 っの極大可換部分空間とし、 $T=$ expt とおく。 $c=\{\oplus a(a\subset p)$ をの 1 つの極大可換部分空間とし、 $C=(\exp\alpha)T($ a fundamental Cartan
を含む
subset) とおく。
$t$$\epsilon^{-\sigma}ne^{-\tau}$$t$$\mathfrak{g}^{-\sigma}\cap \mathfrak{g}^{-\tau}$

直交系

次のような

$\zeta$直交系” $Q$ を考える。
$Q=\{X_{\alpha}1’\ldots, X_{\alpha}k\}\subset$

や(

$D$

112

ただし、各 $j=1,$$\lambda_{r^{X_{\alpha}}j}$for some

に対し、

$k$

$\alpha_{j}\in$$\ldots,$

吃一$\{0\},$$\alpha,\cdot(\alpha)=\{0\},$’standard Cartan subsets

for$j\neq l$

このような直交系 $Q$ に対し、$\alpha_{Q}$$=$$a\oplus \mathbb{R}(X_{\alpha_{1}}-\sigma X_{\alpha_{1}})\oplus\cdots\oplus$$T_{Q}$$=$$\{t\in T|t^{2\alpha_{j}}=\lambda_{j}$$C_{Q}$$=$$(\exp a)T_{Q}$for $j=1,$

IR$\ldots$$(X_{\alpha_{k}}-\sigma X_{\alpha_{k}})$

,ん

$\}$

の各連結成分を standard Cartan subset と呼ぼう。

fundamental Cartan subset

注意$G$$C_{Q}$$\sigma\tau X_{\alpha}=j$$\sigma X_{\alpha}j=-\overline{X_{\alpha}j}$$\lambda_{J}\cdot\in U(1),$$[X_{\alpha}j’ X_{\alpha z}]=[X_{\alpha}j’\sigma X_{\alpha}l]=0$とおき、$0\neq X_{\alpha}j\in \mathfrak{g}_{tD}(c, \alpha,\cdot),$$C$は可換だが、一般に standard Cartan subset $C’$ はの部分集合としては可換でない。 ( $\{f_{g}|g\in C’\}$ はAut (9) の可換部分集合である。)$J_{K}=N_{T}^{K}/Z_{T}^{K}$

を \S 2 で定義した$J_{K}\backslash T\cong K\cap H\backslash K/K\cap$となる群とする。 2 っの standard Cartan subset$C_{1},$$C_{2}$

for some$C_{2}\cap T=h(C_{1}\cap T)l^{-1}$ゐが $J_{K}$ -共役とは、$(h, \ell)\in N_{T}^{K}$であることとする。 $\{C_{i}|i\in I\}$ を standard Cartan subsetsの$J_{K}$-共役類の 1 っの完全代表系とする。
$N_{C_{i}}^{K}$$=$$\{(h, \ell)\in(K\cap H)\cross(K\cap$$Z_{C_{i}}^{K}$$=$$\{(h,$ $\ell)\in(K\cap$J_{C_{i}}$$=$$N_{C_{i}}^{K}/Z_{C_{i}}^{K}$H)\cross(K\cap L)|hg\ell^{-1}=g$とおき、 $G_{rs}=\{g\in G_{ss}|9^{-\sigma}\cap 9^{-\tau_{g}}$ が可換$\hat{iE}$

理

$5$

(i)

$G_{ss}= \bigcup_{i\in I}HC_{i}$ゐ $) |hC_{i}\ell^{-1}=C_{i}\}$$\}$for all $g\in C_{i}\}$

とおく。

ゐ

(ii) $G_{rs}=u_{i\in I}H(C_{i}\cap G_{rs})$ ゐ
ゐ
(iii)
(iv)
( $C|h$ fundamental Cartan subset)
ゐ /ゐ$H\backslash G_{rs}/$$\cong u_{i\in I}\text{」_{}C_{i}}\backslash (C_{i}\cap G_{rs})$$H\backslash HC$$\underline{\neq T_{4}\backslash }$$G$$\cong J_{C}\backslash C$

が complex で、$\sigma,$$\tau$

が正則のとき、(i) $G_{ss}=HC$ ゐ(ii)$H\backslash G_{ss}/L\cong J_{C}\backslash C$(この場合、$J_{C}\cong J_{K}$である。 なぜならば、 $(h, \ell)\in$ N 許のとき、 $C=(\exp i.t)T$ だから

ん $C\ell^{-1}=$ $(\exp i$ Ad (ん)t ん丁 -l $=(\exp it)T=C_{\text{。}})$$)$$\ell$

113

References[1] S. Aoki and S.

ato. $U(n, n)/GL(n, \mathbb{C})$ 上の不変固有超関数の接続公式について. In
数理解析研究所講究録 855, pages 78-100, 1993.
$K$[2] S. Gindikin. On Stein extensions of real symmetric spaces. Math.
1990.

$Anr\iota,,$$286:1-12$ ,[3] B. Hoogenboom. Intertwining functions on compact Lie groups. $PhD$ thesis, Mathematisch Centrum, Amsterdam, 1983.
[4] T. Kakehi and C. Tsukamoto. Characterization of images of Radon transforms.
A dvan $cedStudi$ es in 錫丁 Ma $th,$ $22:101-116$ , 1993.
$P$

$e$

$,$

[5] T. Kobayashi. 簡約型等質多様体上の調和解析とユニタリ表現論. In 数学 46 巻 2 号, pages 124-143, 1994.

[6] B. Kostant and S. Rallis. Orbits and representations associated with symmetricMath,, 93:753-809, 1971.
spaces. Amer.
‘

$J$ ,

[7] T. Matsuki. 代数群の 2 っの involution に関する両側剰余類分解. In 数理解析研究所
講究録 855, pages 64-77, 1993.
[8] T. Matsuki. Double coset decompositions of algebraic groups arising from two involutions I. to appear in Journal of Algebra.

[9] T. Matsuki. Double coset decompositions of algebraic groups arising from two involutions II. in preparation.
[10] T. Ohta. Classification of admissible nilpotent orbits in the classical real Lie algebras.
」 urnal of algebra, 136:290-333, 1991.
$0$[11] S. Sano. Distributions sph\’eriques invariantes sur les espaces sym\’etriques semi-simples$G_{(l}/G$ . 」. Math, Kyoto University, 31:377-417, 1991.
[12] J. Sekiguchi. Remarks on real nilpotent orbits of a symmetric pair.
Japan, 39:127-138, 1987.

$J$ ,Math, Soc.