これまで本稿では、行列ゲームに対する進化的安定性を議論してきたが、行列ゲームは下記のような条件を満たす場合にしか現実世界の生物の闘争をモデル化できない：
しかし実際の生物学における応用では、以上の条件を満たさない事も多い：
本章の目標は上で述べたような、行列ゲームの範疇に収まらないより一般的なゲームに対して進化的安定性を定義する事である。
一般化の手法.
繰り返しゲーム.
戦略空間.
が戦略空間である。ここでは取りうる純粋戦略の個数である。
また「個体の体長」のように連続量の純粋戦略が取れる（が闘争の際ランダムに体長を変える事はできないので混合戦略は取れない）ゲームの場合、戦略空間は正の実数全体の集合
である。一方「動物が行動を起こすまでの時間」のように純粋戦略は連続量であり、混合戦略も取りうるゲームの場合には、戦略空間は
である。なお進化的安定性の議論では、戦略間の「近さ」の概念が定義できる事が望ましいので、戦略空間が位相空間である事を求める事も多い。
個体群.
もしくは
また上では個体群が有限個の戦略のいずれかしか取らない場合を考えたが、が性質のよい空間であれば無限個の戦略を取る場合も考える事ができる。しかし進化的安定性を定義する上では有限個の戦略を取る場合のみを考察すれば十分であるので、本稿では以下、無限個の戦略を取る場合は考えない。
本稿では個体群の性質として主として考えるのは個体群戦略のみなので、紛れがなければ個体群とその個体群戦略とで記号を混用し、
という表記も用いるものとする。
対称化.
そこで本章では以下、対称なゲームに対する進化的安定性のみを議論するものとし、非対称なゲームに対する進化的安定性は後の章で議論するものとする。
行列ゲームの再定式化.
前章で述べた行列ゲームでは、は個体群の中のいずれか一匹の個体と一度だけゲームを行う事を前提としていた。しかし本章で述べる一般的フレームワークにおいては、の中の複数の個体と闘争する事を前提としている。より正確に言うと、定数を固定し、以下のようなゲームを回繰り返す：
の個体群戦略が混合戦略により
進化的安定性の定義.
以上の準備の元、進化的安定性の概念を一般化する。集合を一つ固定し、これを戦略空間と呼び、の元を戦略ないし個体戦略と呼ぶ。そして任意の戦略に対し、形式和
すでに述べたように行列ゲームでは