数理解析研究所講究録 1410 巻 2005 年 173-187

173

$O$

(p, 2) の極小表現と反転の積分表示 1.

京都大学 数理解析研究所

小林俊行 (Toshiyuki KOBAYASHI)
真野元 (Gen MANO)

京都大学・数理解析研究所

Research Institute for Mathematical Sciences,
Kyoto University
toshi@kurims.ky0t0-u.ac.jp gmano@kurims.kyoto-u.ac.jp

概要$O$(p, )($p+q$ は偶数) の極小ユニタリ表現
$q$

$\pi$

は

$\mathrm{R}^{p+q-2}$の円錐 $C$ 上の二乗可積分関数からなるヒルベルト空間 $L^{2}(C)$ の上て実現することがてきる (定理 A)。

このモデルはメタプレクティック群の Weil 表現 (osciUator 表現、 Segal-Shale-Weil
表現ともよばれる)の Schr\"odinger モデルと多くの類似性をもつ幾何的実現てある。

Wefl 表現の S\Phi \"odinger モデルては、 Siegel 放物型部分群の反転を与える元は、 本
質的には Fourier 変換として作用し、 さらに、 これは複素半群への解析接続てある

Hermite 半群の境界値として得られることが知られている。 これに相当する結果として、 この論稿の後半ては、$L^{2}$(C) に実現した$O$(p, 2) の極小ユニタリ表現について、 「反転」 元がどのようなユニタリ作用素て表されるか、 また $O(p+2,$$\Theta$のある複素半群への解析接続がどのような形て作用するかを具体的に決定する。 これらの積分公式の核関数は変形ベッセル関数によって表示される (定理 D、 定理 B)。 これ
らの結果の特別な場合として、 古典的に知られている Fourier-Bessel 変換の再帰公式や Weber の積分公式に群論的な新しい意味が与えられる (定理 C)。

日次
はじめに

錐上の二乗可積分関数*

京都大学数理解析研究所における研究集会 「表現論およひ等質空間上の調和解析」
月 12 日 (研究代表者 : 井上順子氏) における講演記録

1$2\alpha \mathrm{I}4$

年8月 9$\mathrm{R}\sim 8$

74

3

$O$

(p, ) の極 表現の4$O$(p, 2) の極小表現に対する積分公式

5

反転作用素に対する積分公式

1$/|\backslash$$q$$\mathrm{S}\mathrm{c}\mathrm{h}\mathrm{r}\ddot{\mathrm{o}}\mathrm{d}_{\dot{\mathrm{I}}}\mathrm{n}\mathrm{g}\mathrm{e}\mathrm{r}$モデ

6$j\triangleright$

9
12

はじめに
この解説では、不定値直交群$O$(p, )($p+q$ は偶数) の極小表現$q$

特に、 $q=2$ の場合の極小表現は、 そのリー代数$SO_{0}(p, 2)$の)$\mathrm{o}(p, 2)$

の

$\pi$

の

$L^{2}$

モデルを扱う。

(あるいは $.O(p, 2)$ の連結成分

最高ウエイト表現と最低ウエイト表現の直和である。 この表現について、

リー群 $O$ (p, 2) のユニタリ作用素および、複素半群の表現を与える縮小作用素の積分公式を説明する。
動機を説明するために、 シンプレクテイツク群 $Sp(n, \mathrm{R})$ の二重被覆群であるメタプレ
クティック群$S\overline{p(n,\mathrm{R}}$) の Segal-Shmle-Weil 表現$\varpi$

を思い出すことにしよう。 この表現

は様々な美しい側面があり、歴史的にも多くの研究がなされているが、 ここでは特にに実現する Schr\"odinger モデノレを取り上ける。 Schr\"odinger モ
をヒノレベノレト空間$\varpi$$L^{2}(\mathbb{R}^{l})$デルの特徴を手短かにまとめると :1) 表現空間・内積は簡単てある ; ただの $L^{2}(?)$ である。
) は関数空間 (r) に作用するが、多様体
2) 群全体$S\overline{p(n,\mathrm{R}}$$L^{2}$$\mathrm{R}^{n}$に作用するのは Siegel

放物型部分群 $P$ だけてある。
への作用は、 単に、 平行移動とアーを $P$ に制限しても既約てある。 $P$ の
3)
ベル群のユニタリ指標による乗法により与えられる。
$L^{2}(\mathrm{R}^{n})$$\varpi$4) リー環卯 ( , R) の微分作用$n$5) ある特別な元$w_{0}$$d\varpi$は高々 2 階の微分作用素で与えられる。

が存在し ( $P$ に対する「反転」元) 、対応する$L^{2}(\mathrm{R}^{n})$の変換$\varpi(w_{0})$は本質的に Fourier 変換てある。

Segal-Shale-Weil 表現は$S\overline{p(n,\mathrm{R}}$) の二つの既約ユニタリ表現に分解されて、 それらはJoseph の意味て「極小表現」 と呼ばれる。 Segal-Shale-Weil 表現以外の極小表現については特に解析的な立場てはまだ未知の部分が多いが、 1990 年代以降極小表現の代数的研
究はかなり進んできた (例えば [16])。
不定値直交群 $O$ (p, )(p, $q\geq 3$ ) に関しては、 $p+q>8$ が奇数なら極小表現が存在し$q$ないことが Vogan によって指摘されている $[17]_{\text{。}}p+q$ が偶数の場合には、 Kostant[12]

2

175

が $p=q=4$ の場合に極小表現を構成したのが最初て、 続いて、 Binegar-Zierau[l] がKostant の構成法を一般の乃 (\geq 2) に拡張した。 同じ表現の別な実現のモデルも多数発見されている : 例えば、の自明な表現の -lifG として Huang-Zhu [6]、共形幾何$q$$SL(2, \mathbb{R})$$\theta$([7] の解説参照) の観点から山辺作用素の解空間として [10]、など。 さらに、 この表現は、上の符号 ($p-1,$ -l) の二次形式の零の第 3 論文 [11] では、$\mathrm{R}^{p+q-2}$$\mathrm{K}\mathrm{o}\mathrm{b}\mathrm{a}\mathrm{y}\mathrm{a}\mathrm{s}\mathrm{h}\mathrm{i}-\emptyset \mathrm{r}\mathrm{s}\mathrm{t}\mathrm{e}\mathrm{d}$点として定まる円錐 $C$ の上のされた$\mathrm{C}$関数のなすヒルベルト空間上に実現できることが証明$\text{。}*1$

第 2 節と第 3 節では (($L^{2}$$q$$\mathrm{D}$型の群である) $O(p, q)$ ($p+q$ は偶数) の極小表現のこの実現と、型の群てある)Sp–(n,R) の Segal-Shale-Weil 表現の Schr\"odinger モデノレとを比較し、その似ている点を拾い上けながら先にあけた特徴 )$1$

ユークリッド運動群 $O$ ($p-1,$$O(p-1, q-1)\ltimes \mathrm{R}^{p+q-2}$る役割を担う。 このとき、

-l)

$q$

$\ltimes \mathrm{R}^{p+q-2}$) に沿って解説する。 例えば、擬は自然にを含む極大放物型部分群$\overline{P^{\max}}$$\sim 4$$\overline{P^{\max}}$$L^{2}$( C) に作用する。 このとき、は Siegel 放物型部分群に相当すに属さない元は $L^{2}(C)$ にどのようなユニタリ作用素として作用するのだろうか ?
第 4 節と第 5 節は $q=2$ の場合についてこの問題を扱う。 このとき、 錐 $C$ は二つの連結成分$C_{+}$と$C_{-}$(未来錐と過去錐) に分かれる。 そして未来錐に台を持つ関数からなる空間上には連結群 $SO_{0}(p, 2)$ のユニタリ最高ウェイト表現を実現することがてきる。
この表現をより詳しく調べるために、 極大コンパクト部分群の中心のリー環の生成元$\sqrt{-1}Z$が定める微分作用素、 すなわち、 自己共役作用素$d \pi(Z)=\frac{r}{4}\frac{\partial^{2}}{\partial r^{2}}+\frac{p-2}{4}\frac{\partial}{\partial r}+\frac{\Delta_{S^{p-2}}}{4r}-r$に注目し、 $d\pi(Z)$ によって生戒される $L^{2}(C_{+})$ 上の Hilbert-Schmidt 作用素の (複素解析的) 半群$\pi(e^{tZ})=\exp(td\pi(Z))$(Re $t\geq 0$ )と同一視した。 $\pi(e^{tZ})$を極座標によってを具体的に計算する。 ただし、
甲であることがわかるのて、 ${\rm Re} t>0$ という仮定の下で $\pi(e^{tZ})$の作用素ノルムは$\mathrm{R}_{+}\mathrm{x}S^{p-2}$$C_{+}$${\rm Re} t$$e^{-}$

は縮小写像である。 この半群は、$G\mathrm{c}=O(p+2, \mathbb{C})$の$t\in\sqrt{-1}\mathrm{R}$ならば $e^{tZ}\in G$ てあることから $G$ の複素化

( $G$ を境界とする) 複素部分多様体への表現$\pi$の解析接続を与えているといえる。

$\mathrm{r}1$Drsky-Sg. [2, p.206] では $p\neq q$ の場合には $O$ (p, ) の極小表現を $L^{2}(C)$ の形て実現することはて$q$

きないと主張しているが、 定理 A て述べるようにこの主張は正しくない。

3

178

実リー群 $G$ の表現を $G$ の複素化

$G_{\mathbb{C}}$における複素領域にまて解析接続するという問

題意識は、 Gelfand-Gindihn プログラムと呼ばれ、 $G=SL$ (2,R) の場合に Gelfand-Gindikin [4] て提起され、 より一般の Hermite リー群に対し、 Ohhanskii [13], Stanton[15] らが、 最高ウエイト表現に対して複素半群への拡張定理を抽象的な形て示している。
(第 4 節) ては、 この Gelfand-Gindikin プログラムを具体的な積分表示を与え
定理$\mathrm{B}$る形て実行する。 そこでの主結果は、 $L^{2}(C_{+})$ 上の作用素 $\pi(e^{tZ})$ が、核関数$K^{+}( \zeta, \zeta’;t):=\frac{2e^{-\sqrt{2}(|\zeta|+|\zeta’|)\coth\xi}}{\pi^{*^{-2}}\sinh 2\frac{t}{2}}\sqrt{2\langle\zeta,\zeta’\rangle}^{-*^{-4}}$に対する$\mathrm{B}$$( \frac{2\sqrt{2\langle\zeta,\zeta’\rangle}}{\sinh\frac{t}{2}})$の積分変換で具体的に与えられるという主張てある。 ただし、 $I_{\nu}(z)=$$C_{+}$$\sqrt{-1}^{-\nu}J_{\nu}(\sqrt{-1}z)$定理

I甲は変形ベツセル関数てある。

で与えた $L^{2}(C_{+})$ 上の半群 $\{\pi(e^{tZ}) : {\rm Re} t>0\}$ はガウス核を用いて与えられる(?) 上の Hermite 半群の類似物と考えられる (Segal-Shale-Weil 表現との関係については Howe [5] を参照 ; また [3] も参照)。 つまり、 以下の類似が成り立つ :$L^{2}$

Segal-Shale-Weil 表現

表現
核関数$(\sinh t)^{-^{1}}\mathrm{z}e^{-_{\overline{l\mathrm{l}}\mathrm{n}}\not\in_{\overline{t}(|x|^{2}\mathrm{c}\mathrm{o}s\mathrm{h}t-2(ae,y\rangle+|y|^{2}\mathrm{c}}}$半群の生成元
ここて、

$O$

osh )
$t$

$\langle x, y\rangle$

は(p, 2) の極小表現()$K^{+}$

さらに、 反転元$w_{0}$$\zeta$e$t$$d\pi(Z)$$- \pi|x|^{2}+\frac{1}{4\pi}\sum_{j=1\theta x_{j}}^{||\partial^{2}}\neg$$\mathbb{P}$$\zeta,$の通常の内積て、 $|x|:=\sqrt{(x,x}\rangle$ はノノレムてある。
が$e^{\pi\sqrt{-1}Z}$て与えられることに注目して、縮小作用素$\pi(e^{\mathit{0}Z})$が$t$が $\pi\sqrt{-1}$ に近ついたときの 「境界値」 を考えると、 ユニタリ作用素 $\pi(w_{0})$ の、積分公式を得ることがてきる

$($

定理

$\mathrm{D}$$(1))_{\text{。}}$

Schr\"odinger モデルにおけるメタプレクテイツク

群 $Sp(n,$ \leftrightar ow の Weil 表現の場合には、 そのような作用素$\varpi(w_{0})$は本質的に$L^{2}(\mathrm{R}^{n})$(p, 2) のFourier 変換にほかならないが (上記の特徴 5) を参照のこと) 、不定値直交群$O$場合には、 Fourier-Bessel 変換が $\pi(w_{0})$ の記述に現れることがわかる (定理(2))。

$\mathrm{D}$のなお、 $O$ (p, )(p, $q\geq 3$ ) の場合にも $\pi(w_{0})$ を積分表示できる。 これについては別の機$q$.

会に述べたい。

2 錐上の二乗可積分関数
この節ては、 $O$ ($p-1,$$q$-l) の作用による引き戻しと$\mathrm{F}^{+q-2}$の 1 次元ユニタリ表現による乗法によって得られる、半直積群 $O(p-1, q-1)\ltimes \mathrm{R}^{p+q-2}$ のヒルベルト空間 $L^{2}(C)$上への既約ユニタリ表現$\pi$を記述する。 この節の結果は旧知てある。 第 3 節では、 この表

4

177

現

$\pi$

が $O$ (p,$q$), $(p+q\in 2\mathrm{N})$ の極小表現に拡張することができることを説明する (定理 A参照)。
$\mathrm{R}^{p-1,q-1}$

を、 ユークリッド空間$\mathrm{R}^{p+q-2}$に標準的な不定値計量

2-1-d 2- .. -d$ds^{2}=d\zeta_{1}^{2}+\cdots+d\zeta$$\zeta$が入った擬リーマン多様体とする。 すると、$\cdot$の等長変換群$\mathrm{R}^{p-1,q-1}$

なわち擬ユークリッド運動群) は半直積群 $O$ ($p-1,$

$q$

-l)

(2.1)

$\zeta_{p+q-}^{2}2$$\mathrm{I}\mathrm{s}\mathrm{o}\mathrm{m}(\mathbb{P}^{-1,q-1})$$\ltimes \mathrm{R}^{p+q-2}$(すに同型である。

次に、 錐 $C$ を$C:=\{(\zeta_{1}, \cdot\cdot\epsilon, \zeta_{p+}q-2) \in \mathrm{R}^{p+q-2} :.

\zeta_{1}^{2}+\cdot.$$+(1\zeta_{p-1}^{2}-;p2-\cdot..-\zeta_{p+q-2}^{2}=0\}\backslash \{0\}$て定める。 錐 $C$ は $p+q-3$ 次元て不定値直交群 $O$ ($p-1,$$q$-l) が推移的に作用する。

極座標$\mathrm{R}_{+}\cross S^{p-2}\mathrm{x}S^{q-2}arrow C$

に関して、 $C$ 上の測度

$d\mu$,(r,$\omega,$$\eta$)(2.2)$\vdash*(r\omega, r\eta)$

を$d \mu=\frac{1}{2}rp+q-5dr$d$d\eta$で定義する。 これは $O(p-1, q-1)$ 不変な測度である。 なせなら、$d(\zeta_{1}^{2}+\cdots+;p-12-;p2-\cdot..-\zeta_{p+q-2}^{2})\wedge\theta=d\zeta_{1}\Lambda$を満たす任意の $(p+q-3)$ 次の微分形式$\theta$.. .

$\wedge d\zeta_{p+q-2}$

.

に対して

$\theta|c=d\mu$となっているからである。

従って、 引き戻しによって、 ヒルベルト空間$O$($p-1,$ -l) の表現$q$

続いて、 アーベル群$\pi(b)$

$\pi$

(C,

$L^{2}$$d\mu$)$\equiv L^{2}$( C) 上に定義されたはユニタリになる。

$\mathrm{F}^{+q-2}$

を$L^{2}$: $L^{2}(C)arrow L^{2}(C)$ ,(C) に$\psi(\zeta)\vdasharrow e2\sqrt{-1}$( b $1\zeta_{1}+\cdots+bp+q-2\zeta_{p+q-2}$ )$\psi(\zeta)$

として作用させる。 ここで $b=(b_{1}, \cdots, b_{p+q-2})\in \mathrm{R}^{p+q-2}$ てある。 $\pi(b)$ は明らかにユニタリてある。
$O$($p-1,$ -l) と$q$$\mathrm{F}^{+q-2}$の $L^{2}(C)$ への上記の作用は半直積群 $O(p-1, q-1)\ltimes \mathbb{P}^{+q-2}$の表現を定めることが示される (それを同じ記号$\pi$て書くことにする)。 さらに、 この表

現は既約てある。 まとめると ([11], Proposition 3.3 参照) :命題 2.1. $(\pi, L^{2}(C))$ は半直積群 $O$ ($p-1,$

$q$

5

-l)

$\ltimes \mathrm{R}^{p+q-2}$.

の既約ユニタリ表現てある。

178

3

$O$

(p, ) の極 表現の Schr\"odinger モアノレ$/1\backslash$$q$

一般的に、群 $G$ の既約表現は、部分群 $G’$ に制限したときに、既約にはならない。 換言すれば、 部分群 $G’$ の既約表現が群 $G$ の (同じ表現空間の) 既約表現に拡張されることは極めて稀てある。 ところが、命題 2.1 全体で構成された $O(p-1, q-1)\ltimes \mathrm{R}^{p+q-2}$ の既約
ユニタリ表現が、 次の包含関係 :(3.1)$O(p-1, q-1)\ltimes \mathrm{R}^{p+q-2}\subset O(p, q)$において、 部分群から全体 $O$ (p,$q$) に拡張できるのてある。

定理 A(\mbox{\boldmath $\nu$}1], Theorem 4.9, $[Sq$). $p+q\geq 6$ は偶数とし、 $p,$ $q\geq 2$ とする。 このとき、半の既約ユニタリ表現 ( $L$ 2(C)) は $O$ (p, ) の既約ユニ直積群 $O$ ($p-1,$ -l)$\ltimes \mathrm{R}^{p+q-2}$$q$$\pi,$$q$

タリ表現に拡張される。
上の定理て $G:=O$ (p, ) に拡張された表現を同じ記号$q$は $p+q\geq 8$ のとき$\pi$て表すことにする。 この表現

(Joseph が普遍包絡環を用いて定義した意味での) 極小表現になっGelfand-Kirillov 次元は $p+q-3$ てあり、それはユニタリ表現の Gelfand-Kirillov 次元の中て最小の値である。
ている。

$\pi$

この表現

の

$\pi$

$G$

の全ての既約無限次元

は$\min(p, q)=2$ のとき

最高ウエイト表現と最低ウエイト表現の直和$p=q$ のとき$K$

-fixed vector をもつ表現 (球表現)となる。. $p,$ $q\geq 3$ かつ $p\neq q$ の場合には最高ウエイト表現てもなく K-fixed vector もも
たない。
定理$\mathrm{A}$の第二のポイントは、 メタプレクテイツク群$S\overline{p(n,\mathrm{R}}$) の Segal-Shmle-Weil 表現

に対する Scb\"odinger モデルによく似た、群 $G$ の極小表現に対するヒルベルト空間 $L^{2}(C)$上のモデノレを与えているということである。 Dvorsky と Sahi は $[2, 14]$ て、 メタプレク
ティック群以外のいくつかの群 (例えば、半単純 Jordan 代数に付随した Koecher-Tits 群
なお、 $[2, 14]$ の) 以外のもの) の極小表現に対して類似の結果を発表している
証明法ては、 が最高ウエイトをもつあるいは K-fixed vector を持つ表現 (球表現) てあるという仮定が本質的である。 定理 A の証明法は $[2, 14]$ とは全く異なり Fourier-Laplaceて $O$ (p,$\text{。}*2$

$q$

$\pi$

$*2$

彼らの証明は解析的な部分に関してこのままでは不完全てあることが多くの専門家によって指摘されている。 著者の一人による修正が出るとのことである。

6

178

変換を直接計算するものて、最高ウェイト表現でもなく、 $K$-fixed vector を持たない (つまり球表現ではない) 場合に対しても適用できる。 このように、 より一般の場合に対しても極小表現が定理$\mathrm{A}$$L^{2}$(C) という形の関数空間上に実現できることが示された。

について、 群 $G$ およびリー環 9 が$L^{2}$(C) に作用しているのかを見てみよう。

ます、 記法を定め、 包含関係 (3.1) を説明する。
し、$e_{0},$$e_{p+q-1}$$\cdots,$を$\mathrm{R}^{p+q}$の標準基底と, を行列要素とする。 また$E_{1j}.$$:j:=\{$

1-1$(1\leq j\leq p-1)$$(p\leq j\leq p+q-2)$ ,j $E_{p+q-1,j}$$(1 \leq j\leq p+q-2)$ ,$N_{jj,0}:=E-E_{j,p+q-1}-\epsilon_{j}E_{0,j}-\epsilon_{j}E_{p+q-1,j}$$(1 \leq j\leq p+q-2)$ ,$\overline{N_{j}}:=E_{j,0}+E_{j,p+q-1}-\epsilon_{j}E_{0,j}+\epsilon$$E:=E_{0,p+q-1}+E_{p+q-1,0}$と定める。

$\mathfrak{g}$の部分環を$\overline{\mathfrak{n}^{\max}}:=\sum_{j=1}^{\mathrm{p}+q-2}\mathrm{R}\overline{N_{j}}$,$\mathfrak{n}^{\mathrm{m}\delta_{1}\mathrm{X}}:=\sum_{j=1}^{p+q-2}\mathrm{R}N_{j}$,$a:=\mathrm{R}E$,で定め、 $G$ の部分群を以 T のように定義する :$M_{+}^{\max}:=${$g\in G:g\cdot e_{0}=e_{0},$ $g\cdot e_{p+q-1}=ep+q-$ l} $\simeq O(p-1, q-1)$ ,$M^{\mathrm{m}\mathrm{a}1\mathrm{C}}:=M_{+}^{\mathrm{m}}‘\cup\{-I_{p+q}\}\cdot M_{+}^{\mathrm{m}}$‘$\simeq O$($p-1,$ -l)$q$$\mathrm{x}$Z2、$A:=\exp(a)$ ,$N^{\mathrm{m}\mathrm{a}]\epsilon}:=\exp(\mathfrak{n}^{\max})$

,

‘ $)$

.

$\overline{N^{\max}}:=\exp(\mathfrak{n}^{\mathrm{m}}$このとき、 次の全単射を通じて$\overline{N^{\max}}arrow \mathrm{R}^{p+q-2}\sim$

部分群$M_{+}^{\mathrm{m}}‘ N^{\max}$,$\exp(\sum_{j=1}^{p+q-2}bj\overline{Nj})\succ\}$は半直積群 $O$ (p, )$q$$\ltimes \mathrm{F}^{+q-2}$( b1,$\cdot$.. ,$b_{p+q-2}$)と同型であることがわかる。 したがって、 自然な包含関係 $M_{+}^{\max}\overline{N^{\max}}\subset G$ は冒頭に述べた包含関係$(3\cdot 1)$に他ならない。

の別の意味は、 $O(p-1, q - 1)\ltimes \mathrm{R}^{p+q-2}$ が擬リーマンユークリツド空間

長変換群であるのに対して、 $O$ (p, ) は共形構造を保つ$q$ていることである。

7$\mathrm{R}^{p-1,q-1}$$\mathrm{R}^{p-1,q-1}$$(3\cdot 1)$の等の M\"obius 変換群になつ180

続いて、極大放物型部分群$\overline{P^{\max}}:=M^{\mathrm{m}\mathrm{a}\mathrm{x}}1A\overline{N^{\max}}$を定義する。

$\overline{P^{\max}}$

はメタプレクテイツク群) の Siegel 放物型部分群と類似した$S\overline{p(n,\mathrm{R}}$

役割を果たす。 包含関係
$M_{+}^{\max}N^{\max}\subset\overline{P^{\max}}\subset G$に関して、 ユニタリ表現$\pi$

を M 〒 axNmax から$\pi(-I_{p+q})\psi:=(-1)$ 〒$\overline{P^{\max}}$に拡張することは、$\psi$$\pi(e^{tE})\psi(\zeta):=e^{-R\pm}\#^{\underline{-4}}{}^{t}\psi(e^{-t}\zeta)$と定義することにより簡単に達成てきる。 ここて群
$M_{+}^{\mathrm{m}\mathrm{a}1\mathrm{x}},\overline{N^{\max}},$,$t\in \mathrm{R}$$\overline{p\max}$は$-I_{p+q},$ $e^{tE}(t\in \mathrm{R})$で生威されることを思い出そう。
ユニタリ表現$\pi$が$\overline{p\max}$から $G$ へとのように拡張されるかを記述するために、Gelfand-Naimark 分解$\mathfrak{g}=\overline{\mathfrak{n}^{\max}}\oplus a\oplus \mathrm{m}^{\max}\oplus \mathfrak{n}^{\max}=\overline{\mathfrak{p}^{\mathrm{m}\mathrm{a}\mathrm{x}}}\oplus \mathfrak{n}^{\max}$を用いる。 すると、 $G$ の表現$\pi$

は、既に知っている$\overline{P^{\max}}$

分表現 $d\pi(X)$ を与えれば決定される。 そのために、の作用に加えてとロ$E_{\zeta}$$\zeta$$X\in \mathfrak{n}^{\max}$の微をそれぞれ EUler 作用素、Laplace 作用素とする、 つまり、$\partial\zeta_{p+q-2}\partial$$E_{\zeta}:= \zeta_{1}\frac{\partial}{\partial\zeta_{1}}+\cdots+\zeta_{p+q-2}$ –ラ$\coprod_{\zeta}:=\frac{\partial^{2}}{\partial\zeta_{1}^{2}}+\cdots+\frac{\partial^{2}}{\partial(_{p-1}^{2}}-\frac{\partial^{2}}{\partial\zeta_{p}^{2}}-\cdots-\frac{\partial^{2}}{\partial\zeta_{p+q-2}^{2}}$$X\in \mathfrak{n}^{\max}$.

を基底を用いて $X= \sum_{j=1}^{p+q-2}b_{j}N_{j}(b_{j}\in \mathrm{R})$ と表すと、微分表現 $d\pi(X)$ は、[11, Lemma 3.2] で次のように与えられている :$d \pi(\sum_{j=1}^{p+q-2}b_{j}N_{j})=\sqrt{-1}((-\frac{p+q}{2}-E_{\zeta})\sum_{j=1}^{p+q-2}b_{\mathrm{j}}\frac{\partial}{\partial\zeta_{j}}+\frac{1}{2}( \sum_{j=1}^{p+q-2}b_{j}\epsilon_{j}\zeta_{j})\square _{\zeta}))$ここで、 $d\pi(X)$ は、 $L^{2}(C)$ の Schwartz 超関数の空間 $S’(\mathbb{P}^{+q-2})$ への埋め込み$L^{2}(C)\ovalbox{\tt\small REJECT}\mapsto r\mathrm{S}’(\mathrm{R}^{p+q-2})$8$\psi\iotaarrow\psi$

d

$\mu$

.

(3.2)

181

によって、

$\mathrm{S}’(\mathbb{R}^{p+q-2})$に作用する微分作用素としてみなしている。

微分作用素 (3.2) は二階の作用素である。 このことは部分群 $N^{\max}$ は錐 $C$ には作用せす、 関数空間$L^{2}$(C) にしか作用しないことを反映している。

以上により、 $G$ の$L^{2}$(C) への作用は、部分群$\overline{P^{\max}}$

微分表現の分解に応じて$9=\overline{\mathfrak{p}^{\max}}+\mathfrak{n}^{\max}$の作用$d\pi(X)(X\in \mathfrak{n}^{\mathrm{m}}‘)$を与えることによって特徴付けることがてきた (これが $G$ の表現を定めることは自明てはない ; 証明は [11] 参照)。

第 5 節では、 $q=2$ の場合にリー環$G$$\mathfrak{n}^{\max}$の微分作用のかわりに、 より直接的に群$d\pi$の $L^{2}$ (C) への作用を、 積分公式を用いて書き下す。

4$O$(p, 2) の極小表現に対する積分公式

以下、 常に $q=2$ と仮定する。 この場合、 錐 $C$ は自然に二つの連結戒分$C=C_{+}\cup C_{-}$に分離する。 ここで、 $C\pm:=\{(\zeta_{1}, \cdots, \zeta_{p})\in C : \pm\zeta_{p} >0\}$ てある。 極座標 (2.2) も$\mathrm{R}_{+}\mathrm{x}S^{p-2}arrow C+$,$(r, \omega)\mapstor\omega, r)$$\mathrm{R}_{+}\mathrm{x}S^{\mathrm{p}-2}arrow C_{-}$,$(r, \omega)\vdash+(r\omega,$

,

$-r)$

と一層簡単な形になる。 この座標系では、 不変測度は d\mu =-2lrp-3dr ぬという形になり、その$L^{2}$

空間 $L^{2}(C)$ は$L^{2}(C)=L^{2}(C_{+})\oplus L^{2}$(C-)と直和分解する。 この直和分解は、 $G$ から $G_{0}:=SO_{0}(p, 2)$ ( $G$ の単位元成分) への分岐則

$G\downarrow G_{0}$$K$に対応する。

を $G$ の極大コンパクト群とする。 すると、 $K\simeq O$ (p)$K_{0}:=K\cap G_{0}$は$G_{0}$($\simeq SO(\mathrm{p})\mathrm{x}$の極大コンパクト群になる。 $L^{2}(C_{+})$ の$K_{0}$$\mathrm{x}O$(2) てあり、SO(2))

有限ベクトルの空間を $L^{2}(C+)_{K}$0 て書

く。 $L^{2}(C_{+})_{K}$o は $L^{2}(C_{+})$ の稠密な空間てあり、 リー環$\mathfrak{g}$が微分作用素として作用する。

(t) を $K$ のリー環 の中心とすると、 ( f) は $p>2$ ならば一次元てある$s(\mathrm{t})\otimes \mathrm{n}\mathbb{C}$$\mathrm{C}$

$f$

$f$

生成元 $Z$ として$Z:=\sqrt{-1}(E_{p,p+1}-E_{p+1,p})\in\sqrt{-1}\mathrm{a}(f)$9$\text{。}$の82を取ると、 L2(C+)K。の $d\pi_{+}(Z)$ の固有値は$\{-(j+\frac{p-2}{2}) :j=0,1,2\cdots\}$で与えられるので、 上に有界、すなわち、 $(\pi_{+}, L^{2}(C_{+}))$ はる。 同様に、 $(\pi_{-}, L^{2}(C_{-}))$ は$t\in \mathbb{C}$に対して線形写像$G_{0}$$G_{0}$の最高ウエイト加群てあの最低ウエイト加群てある。

$\pi_{+}(e^{\mathrm{Z}Z})$:$L^{2}(C_{+})_{K_{0}}arrow L^{2}(C_{+})_{K}$o を$\pi_{+}(e^{tZ}):=\sum_{n=0}^{\infty}\frac{1}{n!}(d\pi_{+}(tZ))^{n}$で定める。 上記の $d\pi_{+}(Z)$ の固有値のリストから、 ${\rm Re} t\geq 0$ ならば、 $\pi_{+}(e^{tZ})$ は $L^{2}(C_{+})$の連続作用素にまで拡張されることがわかる。 従って、集合 $\{\pi_{+}(e^{tZ}) : {\rm Re} t\geq 0\}$ は複素解析的半群をなし、 この半群の生成元は (3.2) などを用いることにより、 $L^{2}(C_{+})$ の自己
共役作用素

(4.1)

$d \pi_{+}(Z)=\frac{r}{4}\frac{\partial^{2}}{\partial r^{2}}+\frac{p-2}{4}\frac{\partial}{\partial r}+\frac{\Delta_{S^{\mathrm{p}-2}}}{4r}-r$て与えられることが示される。 ここで、$\Delta_{S^{\mathrm{p}-2}}$

は球面 $S^{p-2}$ 上の Laplace-Beltrami 作用素を表す。
複素領域 $D$ を
$D:=$

{

e $t\geq 0$ }$t\in \mathbb{C}:\mathrm{R}$$\backslash 2\pi\sqrt{-1}\mathbb{Z}$と定義し、 $D$ において作用素 $\exp(td\pi_{+}(Z))=\pi_{+}(e^{tZ}),t$ \in D を具体的に積分変換の形て与えよう。

て定める。

$\langle\cdot, \cdot\rangle$

で$\mathrm{R}^{p}$+x$C_{+}\mathrm{x}C$の標準的な内積を表すことにして、 ノルム$D$上の核関数 $K^{+}$ ($\zeta,$$\zeta$$|\zeta|$をl; ) を以下の式て定義する :$t$$K^{+}( \zeta, \zeta" t):=\frac{2e^{-\sqrt{\mathit{2}}(|\zeta|+|\dot{\zeta}’|)\coth}}{\pi^{L^{-\underline{2}}}2\mathrm{s}\dot{\mathrm{m}}\mathrm{h}\epsilon\frac{t}{2}}\sqrt{2\langle\zeta,\zeta’\rangle}^{-\mathrm{f}\mathrm{i}^{-\underline{4}}}I_{\mathrm{Z}\frac{-4}{2}}(\frac{2\sqrt{2\langle\zeta,\zeta’\rangle}}{\sinh\frac{t}{2}}$ここで、 $I_{\nu}(z)$ は第 1 種変形ベッセル関数てあり、$\langle\zeta, \zeta’\rangle>0$

).

(4.2)

([18] 参照) :$I_{\nu}(z)=\sqrt{-1}^{-\nu}J_{\nu}(\sqrt{-1}z)$$t\not\in 2\pi\sqrt{-1}\mathbb{Z}$$|\zeta|:=\sqrt{(\zeta,\zeta\rangle}$.

てあるという仮定から、核関数の分母に出てくる siffi$\frac{t}{2}$は 0 てはないことに注意する。 $L(C_{+})$ に実現された $SO_{0}(p, 2)$ の極小ユニタリ表現を (複素解析的) 半群 $\pi_{+}(e^{tZ})$ に拡張したとき、 その作用素は積分公式として次で与えられる :

10

183

定理

$\mathrm{B}$(複素半群の積分公式). $t\in D$ であるとき、作用素 $\pi_{+}(e^{tZ}):L^{2}(C_{+})arrow L^{2}(C_{+})$

は次の積分変換で与えられる :$( \pi_{+}(e^{tZ})u)(\zeta)=\int_{C_{+}}K^{+}(\zeta, \zeta’;t)u(\zeta’)d\mu(\zeta’)$,$u\in L^{2}(C_{+})$

.

(4.3)

積分 (4.3) の収束についてコメントしておこう; もし $t\in D$ が $D$ の内点てあるとき、すなわち ffi $t>0$ をみたすならば、 固定された各$t$に対して、 $K^{+}(\zeta, \zeta’;t)\in L^{2}(C_{+}\mathrm{x}C_{+})$であるので、 $\pi_{+}(e^{tZ})$ は $L^{2}(C_{+})$ における Hilbert-Schmidt 作用素になる。 が $D$ の境$t$

界にあるときは、 (4.3) の収束はもう少し微妙である。 しかし、

らば、積分 (4.3) は$K_{0}$$t\in\sqrt{-1}\mathrm{R}\backslash 2\pi\sqrt{-1}\mathbb{Z}$

有限ベクトル $u\in L^{2}(C_{+})_{K}$o に対して絶対収束して、$C_{+}$

上のな$L^{2}$

関数を定めることが証明できる。
定理$\mathrm{B}$は任意の関数 $u\in L^{2}(C_{+})$ に関する積分公式てあるが、るときにさらに具体的な公式を与えよう。 すなわち、$\phi\in \mathcal{H}^{l}(\mathrm{R}^{p-1})$$\mathcal{H}^{l}(\mathrm{R}^{p-1})$が特別な形をしてい$u$がある $f\in L^{2}((0, \infty),$ $r^{p-3}dr)$ と$u(r\omega, r)=f(r)\phi(\omega)$

(4.4)

によって、

のように変数分離されている場合について定理
し、$u$は $S^{p-2}$ 上の次数 $l(l=0,1, \cdot.

’(Rp )$-\mathrm{I}$$\mathcal{H}$.)$$=\{\phi\in C^{\infty}(S^{p-2}) :をあらわすものとする。 各

$l$

に対して、

$\mathrm{B}$の公式 (4.3) を書き直してみよう。 ただの球面調和関数の空間、 つまり、\Delta_{S^{\mathrm{p}-}}2\phi=-l(l+p-3)\phi\}$$\mathbb{R}_{+}\mathrm{x}\mathbb{R}$

+x

$D$

上の核関数 $K_{l}^{+}(r, r’;t)$ を$K_{l}^{+}(r, r’;t):= \frac{2e^{-2(\tau+\mathrm{r}’)\coth\frac{t}{2}}}{\sinh\frac{t}{2}}(rr’)^{-\mathrm{L}_{\frac{-3}{2}}}I_{p-3+2l}(\frac{4\sqrt{rr’}}{\sinh\frac{t}{2}})$(4.5)

で導入する。
次の定理のポイントは、もし$u$が (4.4) のように変数分離されていれば、作用素 $\pi_{+}(e^{tZ})$

は、 一変数の関数 $f$ (r) の積分だけに本質的に還元されることである、 すなわち、定理 C. もし、$u$が $u(r\omega, r)=f(r)\phi(\omega),$$\phi\in \mathcal{H}^{l}(\mathrm{R}^{p-1})$, なる形をしていれば$( \pi_{+}(e^{tZ})u)(r\omega,r)=\phi(\omega)\int_{0}^{\infty}Kl+(r, r’;t)f(r’)r^{\prime p-3}dr’$が成り立つ。
注意 1.

$\pi_{+}$

が半群の準同型写像てある、 すなわち$\pi_{+}(e\iota_{1}z)\pi_{+}(et_{2}Z)=\pi_{+}$(e(t11t2)Z)11$(t_{1}, t_{2}\in D)$

(4.6)

184

という代数的性質は、 定理$\mathrm{C}$によって、 核関数に対する積分方程式(4.7)$\int_{0}^{\infty}K_{l}^{+}(r, s;t_{1})K_{l}^{+}(s, r’;t_{2})s^{p-3}ds=K_{l}^{+}(r, r’;t_{1}+t_{2})$と同等である。 これは、 lfber の積分 (Webex’s second exponential integml;[18]、\S 13.31 (1) 参照) と呼ばれる古典的な公式$\int_{0}^{\infty}e^{-\beta l^{2}}J_{\nu}(\alpha x)J_{\nu}(\beta x)xdx=\frac{1}{2\rho^{\mathit{2}}}\exp(-\frac{\alpha^{2}+\beta^{2}}{4\rho^{2}})I_{\nu}(\frac{\alpha\beta}{2\rho^{2}})$に対応する。

5 反転作用素に対する積分公式$G_{0}$の位数 2 の「反転」 元$w_{0}$

を$w_{0}:=(\begin{array}{ll}I_{p} 00 -I_{2}\end{array})$て定義する。 すると、

$w_{0}$は、 随伴作用て $M^{\max}A$ を不変に保ち(5.1)$\mathrm{A}\mathrm{d}(w_{0})\mathfrak{n}^{\max}=\mathfrak{n}^{\mathrm{m}}$を満たす。 したがって、 群 $G$ は$\overline{P^{\max}}$と $w0$ によって生成される。

$g\in\overline{P^{\max}}$に対応する

ユニタリ作用素 $\pi(g)$ はすでに第 2 節て与えていた。
この節の目標は $L^{2}(C_{+})$ のユニタリ作用素 $\pi_{+}(w_{0})$ の積分公式を明示的に与えることて
ある。

反転元

$w_{0}$は$\mathrm{f}$の中心元 $Z$ を用いて $w_{0}=e^{\pi\sqrt{-1}}Z$ と表せることに注目し、 $t=\pi\sqrt{-1}$を (4.2) と (4.5) に代入する。 すなわち、 以下の核関数を定義する :$K^{+}( \zeta, \zeta’):=K^{+}(\zeta, \zeta’;\pi\sqrt{-1})=\frac{2}{(-1)\mathrm{f}\mathrm{i}_{\pi^{R_{\frac{-2}{2}}}}^{-\underline{2}}}\sqrt{2\langle\zeta,\zeta’\rangle}^{-2_{\frac{-4}{2}}}J_{*^{-4}}(2\sqrt{2\langle\zeta,\zeta^{/})})$$K_{l}^{+}(r, r’):=K_{l}^{+}(r, r’;\pi\sqrt{-1})=2(-1)^{-\neq^{-2}+l}(rr’)^{-}$

すると、 定理$\mathrm{B}$と$\mathrm{C}$,甲 $J_{p-3+2l}(4\sqrt{rr’})$ .

の特別な場合として、 以下の結果が得られる。

定理 D. 1) ユニタリ作用素$\pi_{+}(w_{0})$: $L^{2}(C_{+})arrow L^{2}(C_{+})$ は$T:L^{2}(C_{+})arrow L^{2}(C_{+})$,$u \vdash\neq\int_{c_{+}}K^{+}((, \zeta’)u(\zeta’)d\mu(\zeta’)$

12

(5.2)

185

で定義される積分変換に一致する。

2) もし、$f(r)\phi(\omega)$が球面調和関数 $\phi\in \mathcal{H}^{l}(\mathbb{R}^{p-1})(l=0,1, \cdot. .)$, によって、 $u(r\omega, r)=$$u$なる形に変数分離されているとき、積分 (5.2) は、 一変数の積分 :$T_{l}$: $L^{2}(C_{+})arrow L^{2}(C_{+})$ ,として表される。 ここて、 作用素$T\iota$:(5.3)$u(r\omega, r)\daggerarrow\phi(\omega)(T_{l}f)(r)$$L^{2}((0, \infty),$ $r^{p-3}dr)arrow L^{2}((0, \infty),$ $r^{p-3}dr)$

は、

(5.4)

$(T_{l}f)(r):= \int_{0}^{\infty}K_{l}^{+}(r, r’)f(r’)r^{\prime p-3}dr’$て定義される。
$T_{l}$

は、核関数 $K_{l}^{+}(r, r/)$ の形から本質的には Fourier-Bessel 変換てあることに注意する。

同じような積分公式が$L^{2}(C_{+})\oplus L^{2}$系$\mathrm{E}$(C-)($C_{-}$は過去錐) 上のユニタリ作用素 $\pi_{-}(w_{0})$ や、$L^{2}(C)\equiv$(C-) 上のユニタリ作用素

最後に、 定理$w_{0}^{2}=I_{p+2}$$L^{2}$から$\mathrm{D}$$\pi(w_{0})$についても証明できる。

から直接導かれる系を紹介してこの解説を終わりにすることにする。

$\pi+(w_{0})^{2}=\mathrm{i}\mathrm{d}$が得られるので、(逆公式と Plancherel の公式)$\circ L^{\mathit{2}}((0, \infty),$$r^{p-3}dr)$の積分作用素 $T$ ( $(5.2)$ 参

照) は位数 2 てある、 すなわち、 $T$ の逆作用素は単に$T^{-1}=T$で与えられる。 さらに、 $T$ はユニタリてある :$||$系$\mathrm{F}$(Tu L2( $(7+)=|$ DJ $||L2(c+)$ ,$||$$u\in L^{2}(C_{+})$.

とす-Bessel 変換 1 こ対する逆公式, Plancherel の公式) $l=0,1$ ,, rp-l\rightarrow 上の積分作用素 ( (5.4) 参照) は位数 2 のユニタリ作用素てあ$Fou\dagger\dot{\mathrm{v}}er$。

る。 $L^{2}((0, \infty)$$2,$$\cdots$$T_{l}$る。 したがって、$T_{l}^{-1}=T_{l}$,$||T_{l}f||_{L^{2}((0,\infty),t^{p-s}d\tau)}=||f||_{L^{2}((0,\infty),td\mathrm{r})}\mathrm{p}-3$,$f\in L^{2}$( , 科科), $r^{p-3}dr$ )
$(0$

て島る。

注意 2. 系$\mathrm{F}$中の主張 $T_{l}^{-1}=Tl$ は、積分公式“$f(r)r^{L^{-\underline{8}}}2=4 \int_{0}^{\infty}(\int_{0}$$f(r’)r^{\prime \mathrm{L}_{2}^{-\underline{\theta}}}J_{p-3+2l}(4\sqrt{r’r^{\prime/}})dr’)J_{p-3+2l}(4\sqrt{rr^{\prime/}})dr’’$

13

186

と同等である。 これは、 Fourier-Bessel 変換の再帰公式 ([18], \S 14.3(3) 参照).

$F(x)= \int_{0}^{\infty}(\int_{0}^{\infty}F(y)J_{\nu}(y\xi)ydy)J_{\nu}(\xi x)\xi d\xi$に相当する。

注意 3. Segal-Shale-Weil 表現の場合には、 $T$ に対応する作用素は実質的に Fourier 変換$\mathcal{F}$であり、 系$\mathrm{B}$(逆変換と Plancherel の公式) に相当するのは次のよく知られた事実である :$\mathrm{c}=\mathrm{i}\mathrm{d}$$\mathcal{F}$,はユニタリ作用素。

(メタプレクテイック群 $Sp(n, \mathrm{R})$ において、$w_{0}$に対応する元は位数 4 てあることに注

意する)。

参考文献
[1] B. Binegar and R. Zierau, Unitarization of a singular representation of SO(p, ),Comm. Math. Phys., 138 (1991), 245-258.
[2] A. Dvorsky and S. Sahi, Explicit Hilbert spaces for certain unipotent represen$q$, Invent. Math., 138 (1999), 203-224.
[3] B. Folland, Harmonic Analysis in Phase Space, Annals of Mathematics Studies,, 1989.
122. Princeton University Press, Princeton,[4] I. M. Gelfand and S. G. Gindikin, Complex manifolds whose skeltons are real
semisimple groups, and the holomorphic discrete series, ffinct. Anal. Appl., 11(1977), 19-27.
[5] R. Howe, The oscillator semigroup, Amer. Math. Soc., Proc. Symp. Pure Math.,tations$\mathrm{I}\mathrm{I}$$\mathrm{N}\mathrm{J}$

48 (1988), 61-132.
[6] J.-S. Huang and C.-B. Zhu, On certain smaU representations of indefinite orthogonal groups, Representation Theory, 1 (1997), 190-206.
[7] T. Kobayashi, Conformal geometry and global solutions to the Yamabe equa
Wintions on classical pseudO- iemannian manifolds, Proceedings of theter School “Geometry and Physics” (Srni, 2002). Rend. Circ. Mat. Palermo (2)$22\mathrm{n}\mathrm{d}$Suppl. 71 (2003), 15-40.

14

187

[8] 小林俊行,$O$(p, ) の極小ユニタリ表現のシュレディンガーモデル,

講究録 1342 ($q$$\mathrm{I}\mathrm{V}$

数理解析研究所型対称空間上の保型形式の研究, ed. 織田孝幸氏) (2003), 107-116.

[9] T. Kobayashi and G. Mano, Integral formulas for the minimal representation of, Acta Appl. Math., to appear.
[10] T. Kobayashi and B. (Drsted, Analysis on the minimal representation of $O(p, q)$
I. Realization via conformal geometry, $Adv$ . Math., 180 (2003), 486-512.
, Analysis on the minimal representation of $O(p, q)$[11] T. Kobayashi and B.
,q-1, $Adv$. Math., 180 (2003), 551-595.
III. Ultrahyperbolic equations on[12] B. Kostant, The vanishing scalar curvature and the minimal unitary representa,. Connes et , Operator Algebras, Unitary Representations,tion of SO
kh\"auser,
Enveloping Algebras, and Invariant Theory, Progress in Math., 92 ,$O(p, 2)$$\emptyset \mathrm{r}\mathrm{s}\mathrm{t}\mathrm{e}\mathrm{d}$$\mathrm{R}^{p-1}$$(\mathit{4}, 4)$$\mathrm{e}\mathrm{d}\mathrm{s}$$\mathrm{a}1$$\mathrm{B}\dot{\mathrm{n}}$1990 Boston, 85-124.
, Invariant cones in Lie algebras, Lie semigroups and the holO[13] G. I.
morphic discrete series, Funct. Anal. Appl., 15 (1981), 275-285.
[14] S. Sahi, Explicit Hilbert spaces for certain unipotent representations, Invent.
Math., 110 (1992), 409-418.
[15] R. J. Stanton, Analytic extension of the holomorphic discrete series, Amer. .
Math., 10 (1986), 1411-1424.
[16] P. Torasso, M\’ethode des orbites de Kirillov-Duflo et repr\’esentations minimales
des groupes simples sur un corps local de caract\’eristique nule, Duke Math. J. 90(1997), 261-377.
[17] D. Vogan Jr., Singular unitary representations, Springer Lecture Notes in Math$\mathrm{O}\mathrm{l}\mathrm{s}\mathrm{h}\mathrm{a}\mathrm{n}\mathrm{s}\mathrm{k}\mathrm{i}\check{\mathrm{i}}$$J$

ematics 880 (1980), 506-535.
on the Theory of Bessel Rmctions, Cambridge, 1922.
[18] G. N. Watson, A }$I$$\mathrm{e}atise$15