微分トポロジーにおいて、モース理論(モースりろん、英: Morse theory)は、多様体上の微分可能函数を研究することにより、多様体の位相的性質の分析を可能とする。マーストン・モース (Marston Morse) の基本的な見方に従うと、多様体上の典型的な微分可能函数はその位相的性質を極めて直接的に反映する。モース理論は、多様体上のCW構造やハンドル分解を見つけたり、多様体のホモロジーの本質的な情報を与えたりすることができる。

モース以前は、アーサー・ケイリー (Arthur Cayley) とジェームズ・クラーク・マクスウェル (James Clerk Maxwell) がトポグラフィーの文脈で、モース理論のいくつかのアイデアを考え出した。モースの元来の応用は、測地線の理論(経路上のエネルギー汎函数の臨界点を調べる理論)への応用であった。これらのテクニックは、ラウル・ボット (Raoul Bott) の周期性定理の証明に使われた。

モース理論の複素多様体での類似が、ピカール・レフシェッツ理論である。

## 基本概念

説明のために、山がちな地形 M を考える。函数 f : M → R を M 上の各点の高さを表す写像とすると、R 上のある点の逆像は単純に等位集合(等高線)となる。各々の等高線の連結成分は、点、閉曲線、二重点(double point)などになる。点は山頂または窪地に、二重点は鞍点(saddle point)に対応する。ここで鞍点とは、稜線と谷間が交差する点のことである(右図の赤い点)。等高線はより高次の点(三重点など)を含むかもしれないが、これらは少しの変形で消せるか、または二重以下の点の組み合わせに解消できる。言い換えると、三重以上の点が現れるのは極めて稀ということである。

この地形を水に浸すことを想像してみる。水が高さ a へ到達すると、水でひたされている領域は f(−∞, a] 、つまり高さが a 以下の地点となる。次に、水位を上げていったときこの水面のつながりがどのように変化するか考えてみよう。直感的には、a が臨界点(critical point)を超えない限りは変化しないように思える。ここで臨界点とは、f の勾配が 0 となる点(より一般には、f のヤコビ行列が最大ランクを持たない点)である。言い換えると、水位が下記の点に達するときに、水面のつながり方が変化する。

これら 3つのタイプの臨界点 – 窪地、峠、山頂 (または極小点、鞍点、極大点とも言う) – に対し、指数を割り付ける。直感的に言うと、その点の周りで f が減少する独立した方向の数を、臨界点 b の指数とする。二次元面を考えている今の場合、極小点、鞍点、極大点の指数はそれぞれ 0, 1, 2 となる。厳密には、臨界点の指数は、その点でのヘッセ行列の作用が負定値となるような最大部分空間の次元である。

より一般の面 M を考えよう。M を f(−∞, a] で定義する。さきの例と同様に、M のトポロジーがどのように a の増加に対し変化するのかを分析できる。例えば M が右図のように立ったトーラスで、 f が垂直軸への射影とすれば、f は平面の上の高さを表す。

トーラスの下の端から順に、p, q, r, s を指数がそれぞれ 0, 1, 1, 2 である臨界点とする。a が 0 より小さいときは、M は空集合である。a が p の高さを通り過ぎた後、0<a<f(q) のときに、M は空集合に繋がる点(0-cell)にホモトピー同値な円板になる。次に、a がレベル q を超えた f(q)<a<f(r) のとき、M は円筒状となり、(左に図示するように)1-cell (線分)がくっついた円板にホモトピー同値となる。さらに a がレベル r を超え f(r)<a<f(s) となると、M は円板がくりぬかれたトーラスとなり、(右に図示するように)1-cellがくっついた円筒にホモトピー同値となる。 最後に、a が臨界レベル s よりも大きくなると、M はトーラスとなる。これも、円板がくりぬかれたトーラスに 2-cellである円板をくっつけたもの、と言える。

従って、次のようなルールを持っているように思われる。M のトポロジーは、α が臨界点の高さを通過しない限り変化しない。そして指数 γ の臨界点を通るときに γ-cell がくっつけられる。このルールは複数の臨界点が同じ高さにある場合については何も言えないが、そうした状況は f を少し摂動させることで回避できる。図形(あるいは、ユークリッド空間へ埋め込まれた多様体)の場合には、この摂動は図形を傾ける(座標系を回転させる)というシンプルな操作になるだろう。

注意として、このルールは臨界点が非退化であることが前提となっている。このことを理解するために、M = R で f(x) = x を考えよう。x=0 は f の臨界点であるが、M のトポロジーは α が 0 を通過しても変わらない。原因は f''(0) = 0 つまり x=0 での f のヘッセ行列(今は M が一次元のため、単に f の二回微分)が 0 であることにある。このような点を退化した臨界点という。この退化した臨界点は、例えば座標系を少し回転させるだけで消えてしまうか、または、2つの非退化な臨界点へ分解してしまう。

## 形式的な拡張

微分可能多様体 M の上の実数に値を持つ滑らかな函数 f : M → R に対し、f の微分が 0 となるような点を f の臨界点(critical points)と言い、f による像は臨界値(critical value)と言う。臨界点 b で 2階偏微分の行列(ヘッセ行列)が非特異ならば、b を非退化な臨界点と言い、ヘッセ行列が特異であれば、b を退化した臨界点と言う。

再び一次元 (M = R) の例を考える。R から R への函数

$$f(x)=a+bx+cx^{2}+dx^{3}+\cdots$$

は、b=0であれば、原点で臨界点を持つ。臨界点は c≠0(つまり、f は、a+cx+...の形)であれば非退化であり、c=0(つまり、f は、a+dx+...の形)であれば退化している。退化した臨界点の簡単な例が、先程の f(x) = x の例の猿の腰掛けである。

f の非退化臨界点 b の臨界指数(index)は、 b での M の接空間でヘッセ行列が負定値であるような最大部分空間の次元である。直観的には、臨界指数は f の値が減少する方向の数に対応する。退化性と臨界点の指数は、シルベスターの慣性法則が示しているように、使用する局所座標系の選択には依存しない。

### モースの補題

b を f : M → R の非退化臨界点とすると、b の近傍 U の中に近傍座標系(chart) (x1, x2, ..., xn) が存在し、すべての i に対し $x_{i}(b)=0$ と

$$f(x)=f(b)-x_{1}^{2}-\cdots -x_{\alpha }^{2}+x_{\alpha +1}^{2}+\cdots +x_{n}^{2}$$

が U 全体で成り立つ。ここで α は b での f の指数に等しい。モースの補題の系として、非退化な臨界点は孤立点である。(複素領域への拡張は、複素モース補題(Complex Morse Lemma)を参照、一般化についてはモース・パレの補題(Morse-Palais lemma)を参照)

### 基本定理

多様体 M 上の滑らかな実数値函数は、退化した臨界点を持たないとき、モース函数(Morse function)という。モース理論の基本的結果から、ほとんどすべての函数はモース函数であることが言える。厳密に言うと、モース函数の集合は、 C位相ですべての滑らかな函数 M → R の集合の稠密な開部分集合をなすということである。このことを「典型的な函数はモース函数である」、あるいは、「ジェネリック(generic)な函数はモース函数である」ということもある。

このことを示す前に、M = f(−∞, a] のトポロジーが a の変化につれて、いつ変化するのかという問題に興味が湧く。この問題の答えの半分は次の定理によって与えられる。

この定理は、a が臨界点を通過したとき、M のトポロジーがどのように変化するのかを知るためも興味がもたれる。次の定理はこの問いに対する答えである。

これらの結果は前のセクションで述べた「ルール」を一般化し定式化したものである。

以上の2つの結果と、任意の微分可能多様体上にモース函数が存在するという事実を使い、任意の微分可能多様体は、指数 n の臨界点に対し n-cell をもつCW複体であるということを証明できる。証明するためには、各々の臨界レベルにひとつの臨界点を持つように整列させることができるというテクニカルな事実を必要とする。このテクニックは普通は臨界点を再整列させるため勾配的ベクトル場(gradient-like vector field)を使い証明することができる。

### モース不等式

モース理論は多様体のホモロジーのいくつかの強い結果を証明することに使える。f : M → R の指数 γ の臨界点の数は、f を「登る」ことで得られるCW複体の中の γ cells の数に等しい。位相空間のホモロジー群のランクの交代和が、ホモロジーの計算に使うチェイン群のランクの交代和に等しいという事実と、胞体チェイン群を使えば(胞体ホモロジー(英語: cellular homology)を参照)、オイラー標数 $\chi (M)$ が、和

$$\sum (-1)^{\gamma }C^{\gamma }\,=\chi (M)$$

に等しいことは明らかである。ここで C は指数 γ の臨界点の数である。また、胞体ホモロジーにより、CW複体 M の n-次ホモロジー群のランクは、M の n-cells の数以下であることも分かる。従って γ 次ホモロジー群のランク、つまりベッチ数 $b_{\gamma }(M)$ は M のモース函数の指数 γ の臨界指数以下である。より強く、モース不等式(Morse inequalities)、

$$C^{\gamma }-C^{\gamma -1}+-\cdots -(-1)^{\gamma }C^{0}\geq b_{\gamma }(M)-b_{\gamma -1}(M)+-\cdots -(-1)^{\gamma }b_{0}(M).$$

が成り立つ。

とくに、任意の

$$\gamma \in \{0,\dots ,n=\dim M\}$$

に対し、

$$C^{\gamma }\geq b_{\gamma }(M)$$

を得る。

このことは、多様体のトポロジーを研究するための力強いツールとなる。閉じた多様体上に、ちょうど k 個の臨界点を持つモース函数 f : M → R が存在するとしてみよう。この f の存在は M にどのような制限を課すだろうか? k = 2 の場合は1952年にレーブ(Reeb)により研究された。レーブの球定理(英語: Reeb sphere theorem)は M が球 $S^{n}$ に同相であることを言っている。k = 3 の場合は、おそらく低次元の多様体のみが可能となり、M はイールス・クーパー多様体(英語: Eells–Kuiper manifold)と同相となる。1982年にエドワード・ウィッテンは、'摂動作用素'(英: perturbed operator)$d_{t}=e^{-tf}de^{tf}$についてド・ラームコホモロジーを考えることによって、モース不等式において解析的な方法を開拓した。

### モースホモロジー

モースホモロジー(Morse homology)は、滑らかな多様体(smooth manifold)のホモロジーを理解するためのとくに容易な方法である。モースホモロジーは、モース函数とリーマン計量を選択することにより定義する。基本定理は、結果として出てくるホモロジーは多様体の不変量である(つまり、函数と計量とは独立)という定理で、多様体の特異ホモロジーと同型となる。この定理はモースホモロジーと特異ベッチ数が一致することを意味し、モース不等式の証明となっている。モースホモロジーの無限次元の類似はフレアーホモロジーである。

エドワード・ウィッテン(Edward Witten)は、1982年に調和函数を使い、モース理論へのアプローチする別の方法を開発した。

## モース・ボットの理論

モース函数の考え方は、非退化臨界点しか持たない多様体上の函数を考えることへと一般化できる。モース・ボットの函数(Morse–Bott function)は、多様体上の滑らかな函数であって、臨界点の集合が閉じた多様体であり、法線の方向にヘッセ行列が非退化なものである。(同じことであるが、臨界点でのヘッセ行列の核は、臨界部分多様体への接空間に等しくなる。)モース函数は、臨界多様体が 0 次元のときの特別な場合である。(従って、臨界点でのヘッセ行列はすべての方向へ非退化、つまり、核を持たない。)

臨界指数は、非常に自然に、ペア

$$(i_{-},i_{+}),$$

と考えることができる。ここで i− は、臨界多様体の与えられた点での不安定な多様体の次元であり、i+ は i− に臨界多様体の次元を足した次元である。モース・ボットの函数が、臨界軌跡上の小さな函数で摂動されると、摂動された函数の臨界多様体の上のすべての臨界点の指数は、i− と i+との間に存在することとなる。

モース・ボット函数は、一般のモース函数よりも扱いやすい。モース・ボット函数は、可視化することができ、それを使い簡単に計算できて、典型には対称性を持っている。それらは、正の次元の臨界モデルをもたらすことが多い。ラウル・ボット(Raoul Bott)は、モース・ボットの理論を、ボットの周期性定理(Bott periodicity theorem)の証明に使用した。

ラウンド函数(Round function)は、モース・ボット函数の例であり、そこでは臨界点の集合が円(の非交和)となる。

モース・ボット函数に対してもモースホモロジー(Morse homology)を定式化できる。モース・ボットホモロジーの微分形式は、スペクトル系列(spectral sequence)により計算される。フレデリック・ブルジェオス(Frederic Bourgeois)は、彼の一連の仕事の中でモース・ボット版のシンプレクティック場の理論にアプローチしたが、本質的な解析の難しさのため公開されなかった。