不変集合
もっとも単純な不変集合の例は何かの軌道で、軌道それ自体一つで不変集合である。一般的な不変集合は、普通は無数の軌道から成る。線形力学系の部分空間は不変集合であり、不変部分空間と呼ばれる。R の線形系の平衡点の固有値で決まる安定部分空間、不安定部分空間、中心部分空間は、いずれも不変多様体である。
ω 極限集合、α 極限集合、非遊走集合、遊走点全体から成る集合、これらも一般的に不変集合である。アトラクターも一般的に不変集合である。
ざっくりいえば、S が不変集合であるとは、S の中から軌道が出発すれば、その軌道はずっと S の中に留まるということである。常微分方程式で定義される連続力学系について考える。相空間を M とし、初期条件 x0 を満たす解(流れ)を φ(t, x0) で表す。ある部分集合 S ⊂ M が連続力学系の不変集合であるとは、S ⊂ M が次のような条件を満たすことである。
x0 を S に含まれる任意の点とする。このとき、全ての t ∈ R について φ(t, x0) は常に S に含まれる。
集合 S が上記の条件を満たすことを、単に「不変である」ともいう。写像で定義される離散力学系についても同様に不変集合が定義される。写像を g とし、初期条件を x0 とする写像の m 回反復繰り返しを g(x0) で表す。離散力学系の不変集合は、次のような条件を満たす部分集合 S ⊂ M のことである。
x0 を S に含まれる任意の点とする。このとき、全ての m ∈ Z について、g(x0) は常に S に含まれる。
S が C 級可微分多様体であれば、S を C 不変多様体という。不変集合が曲線の場合は不変曲線ともいう。時間(t または m)が正の場合について S が不変であれば、S を正不変集合と呼び、時間が負の場合について S が不変であれば、S を負不変集合と呼ぶ。