進化的安定性はゲーム理論の概念に基づいて定式化することができる。そこで本節では、必要なゲーム理論の概念を導入し、次節で進化的安定性を定式化する。
利得関数.
定義.
進化的安定性を定義するには、まず個々の個体の利得をゲーム理論的に定義する必要がある。ゲーム理論において利得はほかの個体とゲームを行ったときに得られる実数値として定義され、得られる利得は自分が取った戦略と対戦相手がとった戦略の結果として決まる。
利得関数はゲームが始まる前の段階で、外界の状況等により事前に定まっており、個々の個体が変えることはできない。個々の個体にできるのは、与えられた利得関数から得られる利得を最大化するよう自身の戦略を選ぶことだけである。
対称性.
とすると、
混合戦略の利得.
により定義される。
進化ゲームの定式化.
進化的安定性を定義するためのゲーム（進化ゲーム）は以下のようなものである。なお、このゲームはゲーム理論の言葉で言えば「対象な2人戦略型ゲーム」に相当する。
具体例.
下に上げたのは、前述したタカ戦略、ハト戦略からなる進化ゲーム（タカハトゲーム）の利得表である：
混合戦略の線形結合.
最後に、進化的安定性を定義する際に記法を簡単にするため、混合戦略の「線形結合」を定義する。
以下、話を簡単にするため、各個体が取れる純粋戦略の種類が有限個である事を仮定するが、無限個の場合にも自然に定義を拡張できる。
を利得関数とするとき、任意の混合戦略、、に対し、次が成立する事が簡単な計算により分かる：
進化的安定性の厳密な定義.
定義.
定義の解釈.
となり、で登場する不等式の右辺と一致する。
を用いて定義してものものと同値になる。
簡便な特徴づけ.
は進化的安定性の直観的な意味を自然に定式化したものになっているものの、この定義に基づいて混合戦略の進化的安定性を直接チェックするのは容易ではない。そこで進化的安定性をより簡単にチェックする事を可能にする、別の特徴付けを紹介する：
ナッシュ均衡との関係.
から明らかに以下の事実が成りたつ：
しかしの逆向きの包含関係は一般には成立しない。
具体例.
進化的安定性概念の一般化.
モチベーション.