幾何学的不変式論
V / / G = Spec  A = Spec  R ( V ) G {\displaystyle V/\!\!/G=\operatorname {Spec} A=\operatorname {Spec} R(V)^{G}}
である。
この記述にはいくつかの困難な点があり、最初一つは、一般線型群の場合にヒルベルトにより成功裏に解決された代数 A が有限生成であることを証明することである。これは商がアフィン代数多様体(affine algebraic variety)であるときに必要である。同じ事実が任意の群 G に対して成立するかどうかを問うたのが、ヒルベルトの第14問題であり、永田雅宜が一般には否定的であることを示した。他方、20世紀の前半に表現論の発達の中で、この回答が肯定的であるような群の大きなクラスが特定され、これらのことを簡約群と呼び、全ての有限群や古典群を含むクラスである。
しかし、A が有限生成であることは、A の完全な記述に向けての第一段階であり、むしろ、微妙な問題を解決することの前進は穏やかであった。不変式は古典的には制限された領域でのみで記述されていて、この記述を超えるいくつかの場合の複雑さは、一般の不変式の代数の完全な理解には望みが薄い。
簡約群 G がベクトル空間 V 上へ線型に作用していると、V の 0 でない点は次のような各々の呼ばれ方をする。
不安定(unstable) 0 がその軌道の閉包にあるとき
半安定(semi-stable) 0 がその軌道の閉包にないとき
安定(stable) その軌道が閉じていて、スタビライザーが有限のとき
以上のことを言う同値な方法がヒルベルト・マンフォード評価条件(英語版)(Hilbert–Mumford criterion)として知られている。
0 でない点 x が不安定であることと、G の 1径数部分群が存在し、x についてのウェイトが正であることは同値
0 でない点 x が不安定であることと、全ての不変多項式が 0 と x で同じ値を持つことは同値
0 でない点 x が半安定であることと、x についてのウェイトが正であるような G の 1径数部分群が存在しないことと同値
0 でない点 x が半安定であることと、不変多項式が存在して、0 と x で異なる値を持つこととは同値
0 でない点 x が安定であることと、全ての G の 1径数部分群が x についてのウェイトが正(と負)であることと同値
0 でない点 x が安定であることと、x の軌道に属していない全ての y に対し、x と y で異なる値を持つ不変多項式が存在し、不変多項式の環は、超越次数 dim(V)−dim(G) を持つことと同値
V の対応する射影空間の点は、V での点の像が不安定、半安定、安定のとき、それぞれ不安定、半安定、安定と呼ばれる。「不安定」は「半安定」(「安定」でない)の反対である。不安定な点は射影空間のザリスキー閉集合を形成することに対し、半安定と安定な集合は双方ともにザリスキー開集合を形成する(空集合かもしれない)。