数理解析研究所講究録1052 巻 1998 年 30-4130$SU(2,2)$ 上の Siegel 放物型部分群に関する

一般化 Whittaker 関数について
権寧魯 (東京大学数理科学

1$\mathrm{Y}\mathrm{a}\mathrm{S}\mathrm{u}\mathrm{r}\mathrm{o}$

GON)

序
$G$

を符号 $(2+, 2-)$ の特殊ユニタリ群 $SU(2,2),$ $K$ を $G$ の極大コンパクト部分群,の Lie 環とする.

$G$$P_{S}$

で表す.

$N_{S}$の非退化指標$\xi(2$を $G$をもつものを Siegel
次のエルミート行列 $H$ でパラメトラの極大放物型部分群であって可換なべき単根基

放物型部分群といい$\mathrm{g}$$N_{S}$

イズされ, 以下では同–視) をひとつ固定し, $G$ 上の関数 $F$ であって全ての $g\in G$ 及
び $n\in N_{S}$ に対して $F(ng)=\xi(n)F(g)$ をみたすもの全体のなす空間を
とおく.
$G$
.
このとき
から
の既約許容表現への絡作用素の空間$C^{\infty}-$$C_{\xi}^{\infty}(N_{s\backslash )}c$$(\pi, H_{\pi})$$C_{\xi}^{\infty}(N_{s}\backslash G)$$\mathrm{H}\mathrm{o}\mathrm{m}_{(\mathrm{g})}K)(H_{\pi}, c^{\infty}\xi(N_{S}\backslash G))$とその像を調べることは対応する保型形式の (Siegel 放物型部分群に関する) Fourier 展開を研究する上で最も基本的かつ重要な問題である. しかしながら –般には上の絡作用素の空間は無限次元になるのでを含む $G$ のある閉部分的 $R$ と well-defined な $R$-下群 であってへの制限が なるものを次節で導入する. そこで, $G$ 上の V-値関数 $F$ で$N_{S}$$\eta$$N_{S}$$C^{\infty}-$$\xi$

あって全ての $g\in G$ 及び $r\in R$ に対して $F(rg)=\eta(r)F(g)$ をみたすもの全体のなす空間を$C_{\eta}^{\infty}(R\backslash G)$

とおく. そこで, 本稿では与えられた $G$ の既約許容表現 $(\pi, H_{\pi})$ にたいして次のような絡空間$GW(\pi;\chi, \xi)=GW(\pi, \eta)=\mathrm{H}\mathrm{o}\mathrm{m}_{(\mathfrak{g},K)}(HC_{\eta}\pi’(\infty R\backslash G))$を考え, この空間の各絡作用素を–般化 Whittaker 汎関数と呼ぶ.
でない $GW(\pi;\eta)$ の元の像で K- タイプを特定した関数を表現 に対する K- タイプ
つきの $-$ 般化
whittaker 関数と呼ぶ. 我々の関心は絡空間 $GW(\pi;\chi, \xi)$ の次元やの明示公式で$0$$T$$\Phi_{\pi,\tau}(g)$$\pi$$\tau^{*}$$\Phi_{\pi,\tau}(g)$

ある.

31

2

一般化 whittaker 関数の定義

2.1

Siegel 放物型部分群$G$

を特殊ユニタリ群 $SU(2,2)$ とすると $G$ には例えば次の 2 つの実現

$G_{1},$がある.

$G_{2}$$G_{1}=\{g\in SL(4, \mathbb{C})|{}^{t}\overline{g}g=\}$ ,(1)$G_{2}=\{g\in SL(4, \mathbb{C})|{}^{t}\overline{g}g=\}$ .

(2)

ここで 12 を行列サイズ 2 の単位行列とする. これ以降同型写像を固定する. ここで,$\varphi_{12}$:$G_{1}\ni g\ovalbox{\tt\small REJECT}arrow Cgc-1\in$$G_{2}$$C= \frac{1}{\sqrt{2}}(-\sqrt{-1}\cdot 1_{2}1_{2}$でまた$\varphi_{21}$$\sqrt{-1}1_{2}1_{2}.)$=\mbox{\boldmath $\varphi$}疹とおく.

を $G=SU(2,2)$ として使い Siegel $\text{放物型部分群}$
実現
基をもつ極大放物型部分群をとる.
.
$G_{2}$$P_{S}$, すなわち可換なべき単根.

$\cdot$$G_{2}\supset Ps--\{$$L_{S}\ltimes N_{s}$を$P_{S}$($0_{2}^{*}$$**)\in G_{2}\}$.,$\cdot$.

の Levi 分解とするとこれらの部分群はつぎのように実現される.

$L_{S}=\{l(g)=|g\in GL(2, \mathbb{C}),$ $\det g\in \mathbb{R}\}$ ,.

$N_{S}=\{n(B)=|{}^{t}\overline{B}=B\in\backslash M_{2}(\mathbb{C})\}\simeq \mathbb{R}^{4}$

2.2
$\xi$

$N_{S}$

を$N_{S}$の指標のユニタリ指標でエルミート行列 $H_{\xi}=$ に付随するものとする.

$n=n(B)\in N_{S},$ $B=( \frac{a}{\beta}\beta d)$ ,に対して$\xi(n(B))=\xi()=\exp 2\pi\sqrt{-1}\mathrm{t}\mathrm{r}\{(\frac{a}{\beta} \beta d)\}$$=\exp 2\pi\sqrt{-1}(c_{1}a+c_{2}d+\gamma\overline{\beta}+\overline{\gamma}\beta)\in \mathbb{C}^{(1)}$

.

32

の
が非退化, すなわち $\det H_{\xi}\neq 0$ を仮定する.
それによって誘導されるの指標群上への作用における連結成分を $SU(\xi)$ と書く,

これ以降

$\xi$

$L_{S}$$N_{S}$$\overline{N}_{S}$$L_{S}$$SU(\xi)=\mathrm{s}_{\mathrm{t}}\mathrm{a}\mathrm{b}_{Ls}(\xi)0\subset L_{S}$$\xi$上の共役作用を考えての安定部分群の単位元の.

すると$SU(\xi)=\{|g\in G{}^{t}\overline{g}H_{\xi g}=L(2, \mathbb{C}))gH\xi\det\in \mathbb{R}\}^{\mathrm{O}}$すなわち$SU(2)$$H_{\xi}$が定符号 0 とき,$H_{\xi}$が不定符号のとき.

$SU(\xi)\simeq\{$$SU(1,1)$

次に$P_{S}$の部分群を,$R_{\xi}$$R_{\xi}=SU(\xi)\ltimes N_{S}$で定義し $SU(\xi)$ の既約ユニタリ表現

れば, well-defined な

2.3$R_{\xi}$-加群$\chi$$\eta=\chi\otimes\xi$を取る.

$\xi\in\overline{N}_{S}$と $\chi\in SU(\xi)^{\wedge}$ を上記のように取が定義できる.

一般化 Whittaker 模型と関数

定義 2.1 既約許容表現$(\pi, H_{\pi})$に対し, $GW(\pi;\eta)$ を次のような絡作用素の成す空間とする,$cW(\pi;\chi, \xi)=GW(\pi;\eta)=\mathrm{H}_{\mathrm{o}\mathrm{m}_{(}}9^{K},)(Hc_{\eta}^{\infty}\pi’(R_{\xi}\backslash G))$.

ここで,
$C_{\eta}^{\infty}(R_{\xi}\backslash G)=\{f:G^{C}arrow V_{x}|\infty f(rg)=\eta(r)f(g)$また$C_{\eta}^{\infty}(R\xi\backslash G)^{\mathrm{m}\mathrm{o}}\mathrm{d}$を$C_{\eta}^{\infty}(R_{\xi}\backslash G)$$\forall(r, g)\in R\cross G\}$.

の中で緩増大な関数たちのなす部分空間とする (Wallach[14, Sect. 8] を参照).
定義 2.2 $T(\neq 0)\in GW(\pi;\eta)$ と$\tau$の重複度 1 の $K$-typeの反傾表現である. 次に K-同変な単射
をとり
$\pi$

$(\tau^{*}, W_{\mathcal{T}^{*}})$$\iota:W_{\tau^{*}}arrow H_{\pi}$を取る. ここで,は, の像を考$\iota(v^{*}),$$\tau^{*}$$v^{*}\in W_{\tau^{*}}$える$T(\iota_{\tau^{*}}(v)*)(g)=\langle v*, \Phi_{\pi},(\mathcal{T}g)\rangle$

ここで, ,$\langle$$\rangle$は$C_{\eta,\tau}^{\infty}(R\backslash G/K)$.

上の標準的な内積である. これにより定数倍を除いて関数が決まる. ここで,

$W_{\tau}\cross W_{\tau}*$$C_{\eta}^{\infty}(R\backslash c/K))=\{f:G^{c\infty}arrow V\otimes W_{\tau}|f(rgk)=\eta(r)\otimes\tau(k-1)f(x.g)$

我々は$\Phi_{\pi,\tau}$

を表現

$\pi$

に対する

$\mathrm{K}$-type$\tau^{*}$$\Phi_{\pi,\tau}(g)\in$$\forall(r, g, k)\in R\cross G\mathrm{x}K\}$付き –般化 Whittaker 関数と呼ぶ.

.

33

3

$SU(2,2)$ とその Lie 環の構造論

3.1

Lie 群と Lie 環$G$を特殊ユニタリ群 $SU(2,2)$ であって次のように実現したものとする.
$G=\{g\in SL(4, \mathbb{C})|^{t}\overline{g}I_{2},2g=I2,2\}$とでそれぞれ の転置や複素共役を表すとす
であり,
$G$
を使う.
の極大コンパクト部分群 $K$ を以下のように固定する:

ここで $I_{2,2}=\mathrm{d}\mathrm{i}\mathrm{a}\mathrm{g}(1,1, -1, -1)$

る, すなわち実現$G_{1}$${}^{t}g$$K=\{|u_{1},$の Lie 環$G$$\mathrm{g}$$g$$\overline{g}$$u_{2}\in U(2),$ $\det(u_{1})\det(u_{2})=1\}$

は以下のように実現される:$\mathrm{g}=\{|{}^{t}\overline{X}_{i}=-x_{i}(i=1,2),$$K$.

$\mathrm{t}\mathrm{r}(x_{1}+X_{2})=0,$$x3\in M_{2}(\mathbb{C})\}$.

の Lie 環は:$\mathrm{f}=\{\in \mathrm{g}\}$

すると Cartan 分解:$\mathrm{g}=\mathrm{f}+\mathfrak{p}$,$\mathfrak{p}=\{$

を得る. 次に$\mathfrak{p}$$\in \mathrm{g}\}$ .

の極大な可換部分代数$\alpha$を以下のように固定する:$a=\mathbb{R}H_{1}+\mathbb{R}H_{2}$$\mathrm{L}\mathrm{i}\mathrm{g}$with$(\mathbb{R}_{>0})^{2}$$,$-split トーラスの単位元の連結成分となる.
と次のようにして同–視する,

群 $A=\exp(a)$ は $G$ の極大な

以下では, $A$ を$H_{1}=$ $H_{2}=$ .
$\mathbb{R}$$A\ni(a_{1}, a_{2})=\exp(\log(a_{1})H_{1}+\log(a2)H2)$$\Sigma$

を$(\mathrm{g}, a)$の制限ルート系とする.

$\Sigma$は$C_{2}$

with$(a_{1}, a_{2})\in(0, \infty)\cross(0, \infty)$型となり正ルート系$\Sigma^{+}=\{2\alpha_{1},2\alpha_{2}, \alpha_{1}+\alpha_{2}, \alpha_{1} - \alpha_{2}\}$$\Sigma^{+}$.

を次のように選ぶwith $\alpha_{i}(H_{j})=\delta_{i,j}(i, j=1,2)$ .

ルートベクトルを次のように置く$E_{1}=\sqrt{-1}$ , $E_{2}=\sqrt{-1}$ ,34$E_{3}= \frac{1}{2}$ ,$E_{4}= \frac{\sqrt{-1}}{2}$ ,$E_{5}= \frac{1}{2}$ ,$E_{6}= \frac{\sqrt{-1}}{2}$ .

すると, 各ルート空間$\alpha\in\Sigma^{+}$$\mathrm{g}_{\alpha},$$\mathrm{g}_{2\alpha_{1}}=\mathbb{R}E_{1}$,は以下のように与えられる:$\mathrm{g}_{2\alpha_{2}}=\mathbb{R}E_{2}$,,$\emptyset\alpha_{1}+\alpha_{2}3=\mathbb{R}E+\mathbb{R}E4$

and$\mathrm{g}_{\alpha_{1}-\alpha_{2}}=\mathbb{R}E_{5}+\mathbb{R}E_{6}$.

次のように置けば$\mathrm{n}_{s}=\mathrm{g}_{2}\alpha 1+\mathrm{g}2\alpha_{2^{+}}\mathrm{g}\alpha_{1}+\alpha_{2}$$\mathfrak{n}=\mathfrak{n}_{s}+_{9}\alpha 1-\alpha_{2}$岩澤分解$\mathrm{g}=\mathfrak{n}+a+\mathrm{e}$たもの)を得る. 以下では実現$E_{-i}=\theta Ei=-^{t}\overline{E}_{i},$$\mathrm{e}_{\mathbb{C}}$と$\mathfrak{n}_{s=}\mathrm{L}\mathrm{i}\mathrm{e}(N_{s})$$G_{1}$$(i=1, \ldots, 6)$,($N_{S}$

(3)

’

(4)

’

は Siegel 放物型部分群$P_{S}$

で$G_{1}$

で実現されしか使わない.

と置けば,$9-2\alpha_{1}=\mathbb{R}E_{-1}$の基底を次のように固定する

等を得る.

.

$l_{\mathbb{C}}=\mathbb{C}h^{1}+\mathbb{C}h^{2}+\mathbb{C}e_{+}^{1}+\mathbb{C}e_{-}^{1}+\mathbb{C}e_{+}^{2}+\mathbb{C}e_{-}^{2}+\mathbb{C}I_{2,2}$

,

(5)

ここで,

$h^{1}=,$ $h^{2}=$ , $e_{\pm}^{1}=$ , $e_{\pm}^{2}=$ ,(6)$h=,$ $e_{+}=,$ $e_{-=}$ .

(7)

と

組

$\{h, e_{+}, e-\}\wedge$を$\epsilon \mathfrak{l}_{2}$-三つ組と呼ぶ. コンパクトな$\mathrm{c}_{\mathrm{a}\mathrm{r}}\tan$

部分代数$\mathrm{t}=\mathbb{R}\sqrt{-1}h^{1}+\mathbb{R}\sqrt{-1}h^{2}+\mathbb{R}\sqrt{-1}I_{2,2}$$(\mathrm{g}_{\mathbb{C}}, \{_{\mathbb{C}})$のノレ一ト系$\triangle$(は$A_{3}$

を以下のように取る

(8)

.

型で,

$\triangle=\{[\pm 2,0;0], [0, \pm 2;0], [\pm 1, \pm 1, \pm 2]\}$$\mathrm{t}$.

35のように表され, ここで $\beta=[r, s;u]$ は $r=\beta(h^{1}),$ $s=\beta(h^{2})$ と $u=\beta(I_{2,2})$ を意味するものと約束する. 4 つのルート $\pm[2,0;0|,$ $\pm[0,2;0]$ はのコンパクトな部分系を成す. コンパクトルート系の正ルートを以下で決める: .
$\triangle$$\triangle_{c}^{+}=\{[2,0;0],$

4

$K$

[

$\triangle_{c}$$0,2;^{0]\}}\subset\triangle_{\mathrm{c}}$.

(9)と $SU(\xi)$ の表現

既約 $K$ -覧群の parametrization を与えよう.

$\mu$

を

$\Delta$:-支配下で, 上の整な線型形式, す$\mathrm{t}$かつ $\mu_{1}+\mu_{2}+\mu 3\in 2\mathbb{Z}$ なるたちは整数でなわち, $\mu=[\mu_{1}, \mu 2;\mu_{3}]$ であってものとする. 極大コンパクト部分群 $K\simeq S(U(2)\cross U(2))$ の有限次元既約表現の同値類の集合は次で与えられる.
$\mu_{1},$$\mu_{j}$$\mu_{2}\geq 0$$\overline{K}\simeq\{[r, s;u]|r, s\in \mathbb{Z}_{\geq 0}, u\in \mathbb{Z}, r+s+u\in 2\mathbb{Z}\}$.

一般化関数 Whittaker を記述する為に次のような表現空間の “ 標準基底” を導入する.
.

補題 4.1 $\tau=[r, s;u]\in\overline{K}$ とする.
$r,$$0\leq l\leq s)$$\tau$の表現空間,$\tau(e_{+}^{1})f_{kl}=(r-k)fk+1,\iota$$\tau(\dot{e}_{-})1f_{k}l=kfk-1,l$$\tau(I_{2,2})f_{kl}=uf_{k\iota}$

5,$\tau(h^{2})f_{kl}=(2l-S)fk\iota$,,$\tau(e_{+}^{2})f_{kl}=(s-l)fk,\iota+1$$\tau(e_{-}^{2})fk\iota=lf_{k,\iota_{-1}}$

,

,

.

の既約ユニタリ表現$SU(\xi)\simeq SU(2),$ $sU(1,1.)$$\{v_{j}\}$にはつぎのような基底 $\{f_{kl}\}(0\leq k\leq$が存在する. 特に 2 このとき $\dim\tau=(r+1)(s+1)$ となる.
$\tau(h^{1})f_{k\iota}=(2k-r)f_{k\iota}$を$W_{\tau}$$\chi$

に対しても表現空間の “ 標準基底”$V_{\chi}$とおく.

$SU(2,2)$ の離散系列表現
コンパクトな正ルート系$\triangle_{\mathrm{c}}^{+}$を含む正ルート系としてつぎの 6 つがある.

$\triangle_{\mathrm{I}}^{+}=\{[2,0,0], [1, -1;2], [1,1;2], [-1, -1;2]_{)}[-1,1;2], [0,2;^{\mathrm{o}]}\}$$\triangle_{\mathrm{I}\mathrm{I}}^{+}=\{[1, -1;2], [2,0;\mathrm{o}], [1,1;2], [1,1;-2], [0,2;^{\mathrm{o}]}, [-1,1;2]\}$,,$\triangle_{\mathrm{I}\mathrm{I}\mathrm{I}}^{+}=\{[1, -1;2], [1,1;2],.[2, \mathrm{o};\mathrm{o}], [0,2;0], [1,1;‘-2]_{:}[1, -1;-2]\})$$\triangle_{\mathrm{I}\mathrm{V}}^{+}=\{[-1,1;-2], [1,1;-2], [0,2;0], [2,0;\mathrm{o}], [1,1;2], [-1,1;2]\}$,$\triangle_{\mathrm{V}}^{+}=\{[-1,1;-2], [0,2;^{\mathrm{o}]}, [1,1;-2], [1,1;2], [2,0;\mathrm{o}], [1, -1;-2]\}$,$\triangle_{\mathrm{V}\mathrm{I}}^{+}=\{[0,2;^{\mathrm{o}]}, [-1,1;-2])[1,1;-2], [-1, -1;-2], [1, -1;-2], [2,0;\mathrm{o}]\}$

各 $J\in$ {, III, IV, , } に対して,合とし, 支配的なウエイトの部分集合を定義する.
$\mathrm{I}\mathrm{I}$$\mathrm{V}$$\mathrm{V}\mathrm{I}$$\triangle_{J,n}^{+}=\triangle_{J}^{+},\backslash \triangle_{c}^{+}$$\mathrm{I},$王J$=\{\Lambda=[\Lambda_{1}, \Lambda_{2;}\Lambda_{3}]|\Lambda$

をノンコンパクトな正ルートの集’は$\triangle_{J,n}^{+}$.

-支配的}.

36
集合$\mathrm{U}_{J=1}^{\mathrm{I}}$三」は $SU(2,2)$ の離散系列表現の Harish-Chandra による parametrization を与える.
を Harish-Chandra parameter A—」なる $G$ の離散系列表現としよう.
の Blattner
parameter ははコンパク トな正ルートの和の半で与えられる, ここでは \Delta 九に属するノンコンパクトな正ルートの和の半分である. Blattner の公式よ分,
りは最高ウエイトがなる極小 K- タイプを重複度 1 で持つ.
各 にたいして,を計算すると,$\pi_{\Lambda}$$\lambda=\Lambda-\rho$

。

$\in$

$\pi_{\Lambda}$$+\rho_{\text{」},n}$$\rho_{c}$$\rho_{\text{」},n}$$\lambda$$\pi_{\Lambda}$$J$$\lambda$

for
for
for
for
for
for

$\Lambda+[-1, -1;4]$$\Lambda+[0, \mathrm{o};2]$$\Lambda+[1, -1;0]$$\lambda=\{$$\Lambda+[-1,1$;OJ$\Lambda+[0,0;-2]$$\Lambda+[-1, -1;-4]$[ $17|$ において計算されたように,$\pi_{\Lambda}$の,$\Lambda\in--\mathrm{I}\mathrm{I}-$

,

-III,

$\Lambda\in--$$\Lambda\in\cup-\mathrm{I}\mathrm{V}-$$\Lambda\in---\mathrm{V}$

(10)

,

,

$\Lambda\in--\mathrm{V}\mathrm{I}-$.

Gelfand-Kirillov 次元は次のようになる:

4for$\dim(\pi_{\Lambda})=\{$
GK6for5for
それゆえ Harish-Chandra parameter A$\Lambda\in--1-$$\in--\mathrm{I}\mathrm{I}^{\cup}-\Xi \mathrm{v}$$\Lambda\in--1-\cup--\mathrm{V}\mathrm{I}-$$\Lambda\in--\mathrm{I}\mathrm{I}-\cup--\mathrm{V}-$,,$\Lambda\in--\mathrm{I}\mathrm{I}\mathrm{I}-\cup--\mathrm{I}\mathrm{V}-$

(11)

.

なる表現は Vogan [13] の意味で 大きい“

離散系列と呼ばれ, 通常の Whittaker 模型を持つ (Kostant [10] を参照). Harish-Chandra
parameter(resp.
) なる表現は正則 (resp. 反正則) 離散系列と呼ばれている. さらに, ここでは Gelfand-Kirillov 次元が 5 になる表現を, “ 中間 の離散系列と呼ぶことに$\Lambda\in---\mathrm{I}$$—\mathrm{V}\mathrm{I}$

”

しよう.

5.1

-般化 Whittaker 関数の特徴付け

Schmid 作用素$\nabla_{\eta,\tau_{\lambda}}$とある射影子 P(力を定義する.

先ずを $K$ の有限次既約表現,
を 上の Killing 形式に関する の正規直交基底とする. $K$ の上の随伴表現を Ad と書く. この基底を使って Schmid 作用素は次で定義される.
$(\tau, W_{\tau})$$\{X_{j}\}_{j=}^{8}1$$\mathrm{g}$$\mathfrak{p}$$\mathfrak{p}_{\mathbb{C}}$$\nabla$$\nabla$ここで, 関数 $F$ の変微分作用素,$\nabla$:$C_{\tau}^{\infty}(G/K) \ni F\vdasharrow\sum_{j=0}^{8}Xj\cdot F(\cdot)\otimes X_{j}.\in C_{\mathcal{T}\otimes}^{\infty}\mathrm{A}.\mathrm{d}(G/K)$.

による右微分は $x.F(g)= \frac{d}{dt}F(g\exp tX)|_{t}=0$ と書いた.
は well-defined で基底の取り方に独立である.
$X\in \mathrm{g}$(12)
この K-声$\sqrt{}^{\backslash }Rlarrow$$P_{\tau_{\lambda}}^{(J)}$:$W_{\lambda}\otimes \mathfrak{p}_{\mathbb{C}}arrow W_{\lambda}^{-}=\oplus,W_{\lambda\beta}\beta\in\triangle_{J}+n-\cdot$で定義する.

(13)

37
を Harish-Chandra parameter
定理 1 (Yamashita [17])三 J なる $G$ の離散系列表の Blattner parameterが下記の条件 $(FFW)$ を満たすと仮定する. しか現とする.
$\Lambda\in$$\pi_{\Lambda}$$\lambda$$\pi_{\Lambda}$

らば,$\mathrm{H}\mathrm{o}\mathrm{m}_{()(}\mathfrak{g},K\pi_{\Lambda}^{*},$$C\eta\infty(R\backslash G))\simeq \mathrm{k}\mathrm{e}\mathrm{r}(P^{()_{\circ\nabla}}\text{」},)\tau\lambda\eta_{\mathcal{T}_{\lambda}}$の任意の部分集合 $Q$ にたいしては “ 壁から遠い ”.

$(FFW):\triangle_{\text{」},n}^{+}$$\lambda$$\lambda-\Sigma_{\beta\in Q}$

が$\Delta_{c}^{+}$.

-支配的である, すなわち,Remark. 定理にある条件: $(FFW)$ は “translation principle” によって除かれることが知られている.
で A $\in---JJ=\mathrm{I},$, III なる表現たちに対する –般化
Whittaker 関数の満たす偏微分方程式系を具体的に書き下す. 次に得られた偏微分方程式
系の解析的な解を調べることによって–般化 Whittaker 関数の明示公式と絡作用素の空間の次元が求まることになる. 3 タイプの離散系列なかで特に (反) 正則離散系列にたいする
一般化 Whittaker 関数は古典的に知られており, 対応する種数 2 の正則エルミートカスプ
形式の Fourier 展開にあらわれる. また, その Fourier 係数は Andrianov-Gritsenko-菅野 L関数の構成に使われた. この場合, Fourier 係数は次数 2 のエルミート行列 $H$ で番号付けられる. Koecher 原理 ([9]) により $H$ l こおける Fourier 係数が消えないならば $H$ が正の定符
上の定理を使い離散系列表現$\pi_{\Lambda}$$\mathrm{I}\mathrm{I}$号であることが知られている.

6

主結果 (定符号),$J=\mathrm{I},$$\mathrm{I}\mathrm{I}$, IIIの指標 が正の定符号という仮定の下さて本論文の主要な結果を説明しよう. まず
三 mI) にたいするが $G$ の大きい離散系列 (王 II) または中間の離散系列 (で,.
のみたす微分方程式を具体的に書き下しminimal.K-.tyP つき –般化 Whittaker 関数$GW(\pi;\chi,\xi)$ の次元を与えた.
のみたす微分
それを解くことによって明示公式と絡空間方程式は前節のように計算されて, 得られた微分方程式を詳しく調べるには, 岩澤分解に現を考れるに対して, $G=RAK$ なる岩狸-Cartan 型分解をまず示す. 次に$N_{S}$$\pi^{*}=$$\xi$$\Lambda\in$$\Lambda\in$$\pi_{\Lambda}$$\Phi_{\pi,\tau}$$\Phi_{\pi,\tau}$$A(\simeq \mathbb{R}_{>^{0}}^{2})$えている非正則離散系列$(.\tau, W_{\mathcal{T}})$$\pi_{\Lambda}$の minimal$K- \mathrm{t}\mathrm{y}\mathrm{P}^{\mathrm{e}}$として$C_{M0}^{\infty}(A)$を $A$ 上の V\mbox{\boldmath $\chi$}\otimes W\tau -値$C^{\infty}-$関数であって $M_{0}=K\cap SU(\xi)$ に関する両立条件をみたすもの全体のなす空間とする. 先への制限写像が単射になるこからの分解 $G=RAK$ の帰結として,とが示せるので, 一般化 Whittaker 関数の $A$ への制限 $\Phi_{\pi,\tau}(a)(a=(a_{1}, a_{2})\in A)$ はに関する偏微分方程式を得の動径成分の元とみることができる. これによりを使って展開できるので,
の標準基底
の元は
,
る. 関数空間$C_{\eta,\tau}^{\infty}(R\backslash G/K)$$C_{M0}^{\infty}(A)$$C_{M0}^{\infty}(a)$$\Phi_{\pi,\tau}(a)$$C_{M0}^{\infty}(A)$$V_{\chi}$$W_{\tau}$$a_{1},$ $a_{2}$$\{v_{j}\},$$\{f_{k}\iota\}$$C^{\infty}-$

関数列 $\{C_{jkl}(a)\}$ を使って
. . $\Phi_{\pi,\tau}(a)=\sum_{j,k,\iota}c_{jl(}ka)(vj^{\otimes}fkl)$とかける. 結果として係数関数 $c_{jkl}(a)$ に関する偏微分-差分方程式系が得られたことになる.

こうして得られた微分方程式系を解くことにより以下の結果を得る.

38

定理 2

が正
の指標
三 III なる離散系列表現とする.
の極小 K-タイプの最高ウエイトが $[r, s;u]$ とすると次が成の定符号で, $\dim x=d+1,$$\pi_{\Lambda}$

を$\Lambda\in--\mathrm{I}-\cup--\mathrm{I}\mathrm{I}-\cup$$N_{S}$$\xi=\mathrm{d}\mathrm{i}\mathrm{a}\mathrm{g}(C1, C2)$$\pi_{\Lambda}$

り立つ.

$\dim_{\mathbb{C}}GW(\mathcal{T}\Lambda*;\chi)\xi)=\{$

1
2
$0$

...

$\Lambda\in--1-\hslash>\mathrm{C}d=r+S$

... A

...

,

$\in_{-\mathrm{I}\mathrm{I}}--\hslash 10d\in r+S+2\mathbb{Z}_{\geq 0}$,

火王 II で上記以外.

または$\Lambda\in--\mathrm{I}\mathrm{I}\mathrm{I}-$$\Lambda\in\cup-_{\mathrm{I}\mathrm{I}}-\mathrm{I}\mathrm{E}r\Leftrightarrow\iota $\Lambda\in---\mathrm{I}$\mathrm{x}\Lambda\in--_{\mathrm{I}\mathrm{I}\mathrm{I}}-\cup^{-}\cup--\subset$

保型形式の Fourier 展開には緩増大な–般化 Whittaker 関数があらわれるので (絡空間がゼロにならないときには,) 緩増大な関数に値をとる部分絡空間の次元が特に重要である.
のとき, すなわち正則離散系列のときは容易に重複度 1 定理と明示公である 大きい” 離散系列の場合について述べる.
式が得られるので, 以下では
$GW(\pi;\chi, \xi)^{\mathrm{m}}\mathrm{o}\mathrm{d}$$J=\mathrm{I}$“$J=\mathrm{I}\mathrm{I}$定理 3$\frac{d+r+s}{2}\in \mathbb{Z},$$d\geq r+s$と$\xi=\mathrm{d}\mathrm{i}\mathrm{a}\mathrm{g}(c1, C2)>0$を仮定する. このとき,.

$\dim_{\mathbb{C}}\mathrm{H}\mathrm{o}\mathrm{m}(\mathrm{g},K)(\pi_{\Lambda}, \mathit{0}*\infty\eta(R\backslash G)\mathrm{m}\mathrm{o}\mathrm{d} )=1$

より正確には,“大きい”, 離散系列表現

Whittaker 関数で極小 K- タイプ$\tau^{*}\rangle$

A $=[r, s;u-2]\in$ EII に対する –般化$\pi=\pi_{\Lambda}^{*}f$$\tau=[r, s;u]$を持つは次のように記述される.
と書こう. もしが各$\Phi_{\pi,\tau}.(a)$$\Phi_{\pi,\tau}(a)$$\Phi_{\pi,\mathcal{T}}(a)=\Sigma \mathrm{o}0\leq k\leq r<\iota<sCkl(a)(v_{\frac{d+r+s}{2}}-k-^{\iota}\otimes f_{kl})\in C_{M_{0}}^{\infty}(A;V_{x}\otimes W_{\tau})$$a_{1},$

に関して無限遠点で緩増大ならば,$a_{2}$$\Phi_{\pi,\tau}(a)$は定数倍を除いて–意に決まりその係数関数は次のように与えられる$c_{kl}(a)=(\sqrt{c_{1}}a_{1})^{b\mathrm{o}+k+}r-l+2(\sqrt{c_{2}}a2)b_{0}+k+s-l+2(C1a_{1^{-c}}2a^{2})^{\frac{d-r-s}{2}}22$$\cross e^{-2\pi(+ca^{2}}c1a_{1}^{2}22)i=-\sum(k\iota-1)^{i}a_{i}(_{C_{1}a_{1}ca^{-})}(k,l)22-122k-\iota-ig_{-i,i}(a)$,$a_{i}^{(k,l)}= \sum_{j=0}\iota$ ,$g_{-i,i}(a)= \int_{0}^{1}F(2\pi c1at+1222(1-t)\pi c2a_{2})t\frac{d-r-s}{2}+r-i(1-t)\frac{d-r-s}{2}+S+idt$.

ここで$F(x)=e^{x}x^{--} \overline{2}W\frac{b_{0^{-}}d-2}{9},\frac{b_{3}-1}{\mathrm{o}}(2X)$

また

[

$r,$

$W_{\kappa,\mu}(z)$$s;u|$.

は Whittaker の合流型超幾何関数 ([15] の 16 章を参照) であり,

$b_{0}..’\ldots.’b_{3}$

はから決まる整数である. $2b_{0=r+S+}u,$ $2b_{3}=-r-s+u$ など.

直接計算により次の系を得る. 対応する Andrianov-L 関数のガンマ因子の計算に役立っと思われる.

系 6.1 上の定理において $d=r+s$ のとき,

$c_{k\iota}(a)$の明示公式で $x=c_{1}a_{1}2=c_{2}a_{2}^{2}$ とせよ.

このとき
$C_{kl}(x)=(-1)^{k}+ \iota x^{\frac{b_{0}+2}{2}}e^{-2\pi x}W(4\pi X)\frac{b_{3}-2}{2},\frac{b_{3}-1}{2}$

が

$k$

と

$l$

に独立な定数を除いて成り立つ.

,

(14)

39

7

主定理 (不定符号), $J=$ III

前節の結果において注目すべきは, 中間の離散系列
に関しては
の指標
が定符号である限り, モデルは存在しなくて, 対応する –般化 Whittaker 関数は 以外にない. これはに対する非主則調和白保聖形式の Fourier 展開にはの指標が不定符号に対応する項しかあらわれないことを意味する. これは, 正則力スプ形式の Koecher 原理の類似の現象であり, 逆 Koecher 康理 とも呼ぶべきものである.
中間の離散系列に対してはさらにの指標が不定符号のときも定符号のときと同様な手順を踏むことにより以下の結果を得る.
$\pi_{\Lambda}(\Lambda\in---\mathrm{I}\mathrm{I}\mathrm{I})$$N_{S}$

$\xi$

$0$

$N_{S}$$\pi_{\Lambda}$“”$N_{S}$

定理 4を離散系列表現で, A $=[r-1, s+1, u]\in---\mathrm{I}\mathrm{I}\mathrm{I},$ $(r-s-2>|u|)$ なるも$\pi=\pi_{\Lambda}^{*}$のとし,を $c_{1}>0$ かつ $c_{2}<0$ なる不定符号とし,の指標$(\simeq SU(1,1))$ の既約ユニタリ表現とする.
とおく.
(a) がユニタリ主系列表現, 補系列表現もしくは トリヴィアル表現ならば,$N_{S}$$\xi=\mathrm{d}\mathrm{i}\mathrm{a}\mathrm{g}(C1, C2)$$\chi$

を $SU(\xi)$$\eta=\chi\otimes\xi$$\chi$.

$\dim_{\mathbb{C}}\mathrm{H}\mathrm{o}\mathrm{m}(\mathfrak{g},K)(\pi^{*c(}\Lambda’\eta\infty R\backslash c))=0$が Blattner parameter が士 p なる離散系列表現(b-1)$p>r+s$ なる条件を満たすとすれば f$\chi$であって $p<r-s$ または$D_{p}^{\pm}$$\dim_{\mathbb{C}}\mathrm{H}_{0}\mathrm{m}_{(_{9},K})(\pi C_{\eta}^{\infty}*\Lambda’(R\backslash G))=0$$(\mathrm{b}-2)\chi$が Blattner parameter が $p$ なる離散系列表現

つ $p\equiv r+s$

$D_{P}^{+}$

(15)

.

(16)

であって $r-s\leq P\leq r+s$ か(mod 2) なる条件を満たすとすれば,$\dim_{\mathbb{C}}\mathrm{H}\mathrm{o}\mathrm{m}_{()}\mathrm{g},K(\pi c*\Lambda’\eta\infty(R\backslash c))=1$

.

(17)

この場合さらに,$\dim_{\mathbb{C}}\mathrm{H}_{0}\mathrm{m}_{(_{9}},K)(\pi_{\Lambda}^{*,c_{\eta}}\infty(R\backslash G)^{\mathrm{m}}\mathrm{o}\mathrm{d})=0$

.

(18)

より正確には, $0\leq q\leq s$ なる整数を使 $\backslash p=\gamma-s+2q$ と書けば,に対する極小$\tau=[r,$つき –般化 Whittaker 関数
K- タイプ
はつぎのように記述される.
$\mathrm{A}$$\pi=\pi_{\Lambda}^{*}$$\tau^{*},$$s;u\mathrm{I}$$\Phi_{\pi,\tau}(a)$$\Phi_{\pi,\tau}(a)=\Sigma_{j\in pk}+2\mathbb{Z}\geq\text{。^{}\Sigma b_{j}()}0_{0}\leq<\iota\leq\leq rsk\iota a(u_{j}\otimes fk\iota)\in C_{M_{0}}^{\infty}(A;V\otimes W\tau)P$とかけば,$\Phi_{\pi,\tau}(a)$は以下のように定数倍を除いて–意に書かれ$\Phi_{\pi,\mathcal{T}}(a)=.\sum_{w=0}^{-}\sum^{s}b+2h,S-q-w-h,w(pa)Sq-qh=0-w.(u_{p+h}2\otimes f_{S-q}-w-h,w)$,上に現れる係数関数は次で与えられる$=..(w!)-1$$b_{p,qw-}+2h_{S-}-h,w(a)$$\mathrm{x}\mathcal{R}_{h}^{()}p,u(\sqrt{c_{1}}a_{1}, \sqrt{-C_{2}}a2)\cdot \mathcal{F}w+(-4\pi c1a^{2}+1\pi 4C_{2}a^{2})2$$\cross(\sqrt{c_{1}}a_{1})r+2-b_{2}-q(\sqrt{-c_{2}}a_{2})^{r}+2+b_{1}-q$$\cross(c_{1}a_{1}-2c2a_{2}^{2})^{-}(S-q+1)e^{2}\pi(c_{1}a_{1^{-}}2c2a_{2}^{2})$

.

(19)

40
ゆえに, すべての $b_{jkl}(a)$ は指数増大である.
(b-3) が Blattner parameter が $-p$ なる離散系列表現
つ $p\equiv r+s$
(mod 2) なる条件を満たすとすれば,$\chi$.
$D_{p}^{-}$であって $r-s\leq$ $p\leq r+s$ か.

$\dim_{\mathbb{C}}\mathrm{H}_{\mathrm{o}\mathrm{m}_{(\emptyset)}}K)(\pi c*\Lambda’\eta(\infty R\backslash G))=1$.

$\cdot(20)$

この場合さらに,.

(21)$\dim_{\mathbb{C}}\mathrm{H}_{0}\mathrm{m}(\mathfrak{g},K)(\pi^{*c.(}\Lambda’\eta\infty R\backslash G)^{\mathrm{m}}\mathrm{o}\mathrm{d})=1$

より正確には f $0\leq q\leq s$ なる整数を使 $\mathrm{A}^{)}P=r-s+2q$ と書けば,に対する極小タイプ$\tau=[r, s;u]$ つき –般化 Whittaker 関数
Kはつぎのように記述される.
$\pi=\pi_{\Lambda}^{*}$$\tau^{*},$$\Phi_{\pi,\tau}(a)$$\Phi_{\pi,\tau}(a)=\Sigma_{j\in-p+}2\mathbb{Z}\sum\leq 00<k<rbjk\iota(a)(uj\otimes f_{kl})\in C_{M_{0}}^{\infty}(A;\overline{V}_{p}\otimes W_{\tau})$とかけば,$\Phi_{\pi,\tau}(a)$1 ま以$\text{下_{の}ように定数倍を除いて}-\text{意に書}0\overline{\leq}l\overline{\leq}s\text{かれ}$$\Phi_{\pi,\tau}(a)=.\cdot\sum^{q}\sum^{-w}b_{-p2}-h,r-S+q+w.+h,s-w(a)(u_{-p-2h^{\otimes}}fr-s+q+w+h,s-w)w=s-0s-qh=0$’

上に現れる係数関数は次で与えられる$=(w!)-1$$b_{-p-}-2h,\gamma S+q+w+h,S-w(a)$$\cross \mathcal{R}_{h}^{(p,u})(\sqrt{-C_{2}}a_{2}, \sqrt{c_{1}}a1),$$\tau+(w4\pi c_{1}a^{2}-4\pi C12a_{2}^{2})$$\cross(\sqrt{c_{1}}a_{1})\gamma+2+b_{1}-q(\sqrt{-c_{2}}a2)^{r}+2-b_{2}-q$$\cross(C_{1}.a_{1^{-Ca}}^{2}222)-(S-q+1)\pi(_{C}1a1^{-}e^{-2}2c_{2}a_{2}^{2})$実際すべての$b_{jkl}(a)$

.

(22)

は急減少である.

ここで明示公式に現れる多項式は$F_{w}^{+}(x)= \sum_{=i0}^{w}\frac{(s-w+i)!}{(s-w)!}x^{w-i}$,

であり, Laurent 多項式は$\mathcal{R}_{h}^{(p,u)}(x, y)=\sum_{=i0}^{h}(-1)^{i}.x^{h-2}yi-h+2i$ .

である.

Remark.

$(\mathrm{b}-2)$$(\sqrt{-C_{2}}a_{2}, \sqrt{c_{1}}a_{1})$に出てくる係数関数 $b_{p+2h_{S}},-q-w-h,w(a)$ は変数をからへ取り替えればに出てくる $b_{-p-2}h,r-S\dotplus q+w+h,s-w(a)$ と同じである.
$(\sqrt{c_{1}}a_{1}, \sqrt{-c_{2}}a_{2})$$(\mathrm{b}-3)$

離散系列表現以外に $G$ の許容表現 が Jacobi 放物型部分群から誘導された主系列表現\mbox{\boldmath $\pi$}」の場合も扱った. 結果は大きい離散系列の場合と同様である.
$\pi$

41

References[1] A. Debiard and B. Gaveau:
R\’epresentation int\’egrale de certaines s\’eries de fonctions
sph\’eriques d’un syst\‘em de racines $BC$ . J. Funct. Anal. 96 (1991), 256-296.
[2] A. Debiard and B. Gaveau: Integral formulas for the spherical polynomials of a root systemof type. J. Funct. Anal. 119 (1994), 401-454.
$BC_{2}$[3] Y. Gon: Generalized Whittaker functions on $SU(2,2)$ with respect to the Siegel parabolic
subgroup. Thesis, University of Tokyo (1998), 1-100.
[4] T. Hayata: Differential equations for principal series Whittaker functions on $SU(2,2)$ . Indag.
Mathem., N.S., 8 (4), $(1997)$ , 493-528.

[5] T. Hayata and T. Oda: An explicit integral representation of Whittaker functions for the
representations of the discrete series –the case of $SU(2,2)-$ . J. Math. Kyoto Univ. 37-3
(1997), 519-530.
[6] A. Hori: Andrianov’s -functions associated to Siegel wave forms of degree two. Math. Ann.
303 (1995), 195-226.
$L$[7] M. Iida: Spherical functions of the principal series representations of
metric functions of -type. Publ. RIMS, Kyoto Univ. 32 (1996), 689-727.

$Sp(2, \mathrm{R})$as hypergeo-$C_{2}$[8] A. W. Knapp: Representation theory of semisimple groups, –an overview based on
examples–, Princeton Mathematical Series 36 (1986), 1-773.
[9] M. Koecher: Zur Theorie der Modulformen -ten Grades. I. Math. Z. 59 (1959), 399-416.
$n$[10] B. Kostant:

101-184.

On Whittaker vectors and representation theory. Invent. Math. 48 (1978),[11] T. Miyazaki: The generalized Whittaker functions forAndrianov -function. preprint, RIMS-1053. (1995), 1-74.

$Sp(2, \mathrm{R})$and gamma factor of the$L$[12] S. Niwa: On generalized Whittaker functions on Siegel’s upper half space of degree 2. Nagoya
Math. J. 121 (1991), 171-184.

[13] D. Vogan Jr.: Gelfand-Kirillov dimension for Harish-Chandra modules. Invent. Math. 49(1978), 75-98.
[14] N. Wallach: Asymptotic expansions of generalized matrix entries of representations of real
reductive groups. Lie Group Representations I, Lecture Notes in Math. 1024, Springer-Verlag(1984), 287-369.
[15] E. T. Whittaker and G. N. Watson: A course of modern analysis. Cambridge Univ. Press,, (1965), 1-608.
$4\mathrm{e}\mathrm{d}.$[16] H. Yamashita: Finite multiplicity theorems for induced representations of semisimple Liegroups I, II. J. Math. Kyoto Univ. 28 (1988), 173-211, 383-444.
[17] H. Yamashita: Embeddings of discrete series into induced representations of semisimple Liegroups, I: General theory and the case of $SU(2,2)$ . Japan J. Math. (N.S.), 16 (1990), 31-95.