周りの軌道を反発するリミットサイクルは軌道不安定あるいは単に不安定であるという。相平面のリミットサイクルで、内側の軌道が吸引されて外側の軌道が反発するような場合、あるいは内側の軌道が反発して外側の軌道が吸引されるような場合、これらの場合のリミットサイクルは半安定であるという。
存在条件.
流れに沿って相空間の体積が変化しない系を保存系と呼び、体積が零に漸近する系を散逸系と呼ぶ。散逸系の場合にリミットサイクルが存在する。周期軌道が散逸系で存在する場合、それらの周期軌道の大抵はリミットサイクルであると推定される。系が勾配系である場合も、リミットサイクルは存在しない。
の値が零ではなく、かつ符号が一定であれば、 に完全に含まれる閉軌道は存在しない。また、系がリエナール方程式に相当するのであれば、リエナールの定理により原点を囲む漸近安定なリミットサイクルが存在する。
周期軌道の安定性は、ポアンカレ写像の構成や周期軌道周りの線形化方程式（変分方程式）の構成から判別できる。適当な 次元の局所断面を取り、ポアンカレ写像を設定することで連続力学系の周期解を離散力学系の写像に置き換えることができる。写像が漸近安定な不動点を持つ場合は元の周期軌道が漸近安定である。ポアンカレ写像は、リミットサイクルを見出したポアンカレ自身がリミットサイクルを考察するために生み出した手法である。あるいは、周期軌道からの微小なズレを想定して周期軌道に対する線形化方程式を構成することによって、フロケ理論を適用することができる。線形化方程式のフロケ乗数あるいはフロケ指数から周期軌道の安定性が決定できる。ただし、ポアンカレ写像による方法も線形化方程式による方法も、任意の微分方程式系に適用できる解析的な一般的手法は存在しない。ポアンカレ写像であれば対象の系ごとに個別に工夫して構成する必要があり、フロケ乗数による判定であれば数値計算による手法がある。
具体例.
リミットサイクルが現れる簡単な微分方程式系の例として、
となり、動径 と偏角 の振る舞いが互いに無関係に決まる単純な形となる。 の一般解は一定振動数で回転し続ける関数となる。 の一般解は