極限集合
あるいは、任意の t ∈ R について y ∈ ω(x0) であれば φt(y) ∈ ω(x0) が満たされる。もし相空間 X がコンパクトであれば、その上の流れまたは写像の極限集合は空ではない。
また、連続力学系の軌道 O(x0) が有界であれば、その極限集合はコンパクトかつ連結である。リアプノフ関数 V を、相空間の部分集合 G の閉包上で連続で、t について単調減少な実数値関数と定義する。このとき、G に含まれる正の半軌道 O+(x0) が存在すれば、ω(x0) 上で V は一定値となる。
ある点 x がその ω 極限集合自身に属するとき、すなわち x ∈ ω(x) であるとき、x を再帰点と呼ぶ。再帰点であることは、その点が強い再帰性を持つことを意味する。力学系における他の再帰性の概念、例えばポアンカレの再帰定理が保証する再帰性あるいは非遊走集合が意味する再帰性よりも、強い再帰性を保証する。連続力学系においても離散力学系においても、任意の点は ω 極限点であれば非遊走点である。
x0 に対する ω 極限集合を、記号では ω(x0) や ω lim(x0) と表す。
一方で、時刻の点列 tn が負の無限大に発散する場合も考えられる。n → ∞ で tn → −∞ となるような時刻の点列に対し、y が
lim n → ∞ φ t n ( x 0 ) = y {\displaystyle \lim _{n\to \infty }\phi _{t_{n}}(x_{0})=y}
を満たすとき、y を φt (x0) の α 極限点と呼ぶ。x0 を通る流れ φt (x0) のα 極限点全てから成る集合を、α 極限集合という。記号では、x0 に対する α 極限集合を α(x0) や α lim(x0) と表す。
極限集合を定義する上で、t ではなく、わざわざ点列 tn の極限を考える理由の一つは、t → ∞ の極限では極限集合が閉曲線となるような場合に有効に定義できない点にある。また、ポアンカレ写像を用いて力学系の構造を調べるときに必然的に時間は点列になるので、点列による定義が必要となる。