極限集合
一般に、極限集合は閉じている。実際、流れ φt (x0) に対する極限集合は、次のように閉包の共通集合としても表せる。
ω ( x 0 ) = ⋂ 0 ≤ τ ⋃ τ ≤ t < ∞ φ t ( x 0 ) ̄ {\displaystyle \omega (x_{0})=\bigcap _{0\leq \tau }{\overline {\bigcup _{\tau \leq t<\infty }\phi _{t}(x_{0})}}}
α ( x 0 ) = ⋂ τ ≤ 0 ⋃ − ∞ < t ≤ τ φ t ( x 0 ) ̄ {\displaystyle \alpha (x_{0})=\bigcap _{\tau \leq 0}{\overline {\bigcup _{-\infty <t\leq \tau }\phi _{t}(x_{0})}}}
さらに、極限集合は流れ φ または写像 g に関して不変である。すなわち、g(ω(x0)) = ω(x0) が満たされる。
x0 が平衡点および不動点だとすれば、その極限集合 ω(x0) および α(x0) は x0 自身だけである。x0 が周期軌道上の点であれば、ω(x0) および α(x0) は、その周期軌道である。また、周期軌道 γ が x0 ∉ γ の ω(x0) あるいは α(x0) に含まれるとき、γ はリミットサイクルと呼ばれる。
3次元相空間の極限集合は極めて複雑になることもあるが、2次元相空間(相平面)の極限集合はそれと比較して簡単なものに限られる。f を相平面上(R または S)の滑らかなベクトル場とし、ある x0 から始まる前方軌道が有界であるとする。また、f の平衡点は全て孤立点であるか、有限個であるとする。ポアンカレ・ベンディクソンの定理より、このときの ω(x0) は以下の3種類のいずれかである。
ω(x0) は、平衡点
ω(x0) は、周期軌道
ω(x0) は、ホモクリニック軌道やヘテロクリニック軌道のような、平衡点とそれらを結ぶ軌道からなる集合
力学系における極限集合(きょくげんしゅうごう、英: Limit set )は、軌道の集積点の集合である。時間正方向についてのω 極限集合と時間負方向についてのα 極限集合があり、これらを総称して極限集合という。位相力学系の基礎を築いたジョージ・デビット・バーコフによって定義・導入された。