進化的安定戦略（しんかてきあんていせんりゃく、、ESS）は、進化生物学およびゲーム理論の重要な概念で、ジョン・メイナード＝スミスとジョージ・プライスによって1973年に提唱された。

これは、生物の母集団のとる、「侵略されない戦略」の概念を基礎としている。仮に突然変異で対立遺伝子が発生し、別の戦略を取って他の生物に働きかけようとしても、母集団を侵略することはできず、逆に自然淘汰で排除されてしまうような戦略である。メイナード＝スミスらはこの概念によってゲーム理論の有効性を広く示し、行動生態学、経済学、心理学などに影響を与えた。

概要 
具体例をもとに進化的安定性を説明する。動物が交尾相手や餌といった資源を同じ種の個体と争う場合、互いに殺し合うような闘争を避け、威嚇などの儀式的な闘争をする事で決着をつける事がある。
こうした儀式的闘争が発達した原因として、進化的安定性の概念が登場する以前は、「闘争の際に殺し合いを行なう種は絶滅してしまうので、儀式的闘争をする種だけが生き残った」といった群淘汰的な理由づけがなされがちであった。

しかし自然選択の対象が個々の個体である事を考えると、群淘汰的な理由づけでは儀式的闘争が数多くの種で発達した事をうまく説明できない。また、実際の動物の闘争を観察すると、戦いがエスカレートして傷つけ合ったり殺し合ったりする事も珍しくない事も前述した理由づけとは合致しない。

そこで、儀式的闘争のような現象を群淘汰に頼らず、生物進化の基本的な原則である「自然選択によって繁殖成功率が高い適応戦略が種に広がっていく」という事によって説明する為の枠組みが、本稿の主題である進化的安定性である。

話を簡単にするため、動物の戦略が「タカ戦略」と「ハト戦略」の２つのみからなる場合を考える。タカ戦略とは、闘争がエスカレートした場合に戦う戦略であり、ハト戦略は闘争がエスカレートした場合には逃げる戦略である。

もし同じ動物種に属する全ての個体が常にハト戦略を取るのであれば、儀式的なものであれ実際的なものであれ、闘争は生じないであろう。しかしこのような種に突然変異などによって生まれた、タカ戦略を取る個体が少しでも侵略してくれば、周囲にいるハト戦略の個体は全て逃げ出すわけだから、タカ戦略を持つ個体が圧倒的に有利となり、子孫を残す事で種にタカ戦略が広がる事となる。したがってハト戦略を取る個体だけからなる種は安定しない。

逆に全ての個体が常にタカ戦略を取るとすれば、闘争は常にエスカレートする。ここにハト戦略の個体が侵入してくると、他の個体が闘争により著しく疲弊している中、闘争から逃げているハト戦略の個体だけが有利となり、ハト戦略が種の中に広まっていく。したがってタカ戦略を取る個体だけからなる種もやはり安定しない。

こうして、ハト戦略の個体とタカ戦略の個体が混じり合った状態で種は安定する事になる。この状態では、闘争相手がハト戦略を取るかタカ戦略を取るかを見極める事が重要となる為、儀式的闘争が発達する事になる。

進化的安定性は、上で述べたような複数の戦略が入り混じった状態での安定性概念である。

混合戦略 

前節で説明した例をはじめとして、生物による多くの駆け引きは、自身の利得を最大化しようとする個体の同士による一種のゲーム(進化ゲーム)とみなす事ができる為、生物の駆け引きをゲーム理論により記述する事ができる。

進化的安定性の概念もゲーム理論の枠組みで記述でき、その定式化にはゲーム理論における混合戦略の概念が有用となる。

前節で説明した例を使って説明すると、闘争が必要になった時、各個体が取りうる選択肢として、｢タカ戦略｣と｢ハト戦略｣という二種類の戦略(純粋戦略)があった。しかし各個体はこれらの純粋戦略のうちひとつを常に取り続けるわけではなく、｢30%の確率でタカ戦略を取り、70%の確率でハト戦略を取る｣といった戦略をも取りうる。

混合戦略とは、このように個々の純粋戦略の上に確率を付与した戦略を指す。進化的安定性の概念は、この混合戦略の概念に対して定式化される。

進化的安定性の直観的な定式化 

進化的安定性とは、何らかの混合戦略が集団の中で支配的になるための条件である。すなわち、混合戦略 σ が進化的に安定であるとは、直観的には、集団の中に戦略σがすでに広まっている状況下において、 別の混合戦略τ を取る個体が少数侵入してきたとしても、それが排除される事をいう。

より詳しく言うと、たとえσ に近い別の混合戦略 τ を取る個体群が集団に少数侵入してきたとしても、戦略σ を取る個体と戦略τを取る個体が2者間で戦った際、前者の個体の方がより高い利得が期待できるため、戦略τを取る個体は自然選択により、いつしか集団から消えてしまう、という事である。

ゲーム理論からの準備 

進化的安定性はゲーム理論の概念に基づいて定式化することができる。そこで本節では、必要なゲーム理論の概念を導入し、次節で進化的安定性を定式化する。

利得関数

定義  
進化的安定性を定義するには、まず個々の個体の利得をゲーム理論的に定義する必要がある。ゲーム理論において利得はほかの個体とゲームを行ったときに得られる実数値として定義され、得られる利得は自分が取った戦略と対戦相手がとった戦略の結果として決まる。

すなわち、純粋戦略i を取る個体P が、純粋戦略 j を取る別の個体Qとゲームを行ったとき、個体Pは利得と呼ばれる実数値

を獲得する。そしてi、jにを対応させる関数Eを個体Pに関する利得関数と呼ぶ。

利得関数はゲームが始まる前の段階で、外界の状況等により事前に定まっており、個々の個体が変えることはできない。個々の個体にできるのは、与えられた利得関数から得られる利得を最大化するよう自身の戦略を選ぶことだけである。

対称性  
進化的安定性を定義する際には、全ての個体に対して同一の利得関数が適用される事が前提となる。したがって純粋戦略i を取る個体P が、純粋戦略 j を取る別の個体Qと戦った時、個体Qが得る利得を

とすると、

が任意のi、jに対して成立する事が要請される。利得関数がこのような性質を満たすゲームを対称なゲームという。

混合戦略の利得 

混合戦略を取る個体の利得は、純粋戦略に対する利得の期待値として定義される。すなわち、各個体が取りうる純粋戦略にと番号をつけ、純粋戦略を取る確率がである混合戦略をと書く事にすると、個体P 、Qがそれぞれ混合戦略、を取る際のPの利得は、

により定義される。

進化ゲームの定式化 

進化的安定性を定義するためのゲーム（進化ゲーム）は以下のようなものである。なお、このゲームはゲーム理論の言葉で言えば「対象な2人戦略型ゲーム」に相当する。

進化的安定性を定義するための進化ゲームでは、対戦する2個体A、Bが選択肢として取りうる純粋戦略1、2、…、および利得関数が「ゲームのルール」として事前に定まっている。そしてA、Bは以下の手順でゲームを行なう：
A、Bはそれぞれ、与えられた選択肢の中から１つの純粋戦略i、jを秘密裏に選ぶ
 A、Bはi、jを同時に公表する
 A、Bはそれぞれ利得、を得る。

A、Bの目的は、自身の利得を最大化する事である。

前節でも述べたように、進化的安定性の文脈では全ての個体に対して同一の利得関数が適用される事が前提とされるため、上述したゲームにおいてA、Bが得られる利得はそれぞれ、と対称な形になっている。

上述した進化ゲームは、ゲームに参加する2個体A、B取りうる純粋戦略をそれぞれ行、列としてA、Bの利得を行列の形にまとめた利得表により特徴づけられる。

具体例 

下に上げたのは、前述したタカ戦略、ハト戦略からなる進化ゲーム（タカハトゲーム）の利得表である：

ここでは2個体が争っている資源（例えば餌）を得た時に得られる利得を表し、は闘争によって怪我を追う事による損失を表す。

また利得表で縦軸は個体Aの取る戦略、横軸は個体Bの戦略であり、表内の (○, △)は、A、Bの利得がそれぞれ○、△である事を意味する。例えば表の左下のマスにかかれているは個体Aがハト戦略、個体Bがタカ戦略を撮った時、A、Bの利得がそれぞれ、である事を意味する。表の左上と右下で値が2で割られているのは、2個体で資源を分け合った為である。

混合戦略の線形結合 

最後に、進化的安定性を定義する際に記法を簡単にするため、混合戦略の「線形結合」を定義する。

以下、話を簡単にするため、各個体が取れる純粋戦略の種類が有限個である事を仮定するが、無限個の場合にも自然に定義を拡張できる。

まず、記号を定義する。各個体が取りうる純粋戦略にと番号をつける。そして純粋戦略を取る確率がである混合戦略をと書く事にする。

2つの混合戦略の、、および実数とが与えられた時、、の、による線形結合を

により定義する。であれば、混合戦略の線形結合もまた、混合戦略である。

を利得関数とするとき、任意の混合戦略、、に対し、次が成立する事が簡単な計算により分かる：
 　　　…

進化的安定性の厳密な定義 
有限個の純粋戦略を持つ戦略型ゲームの事を(利得表が有限サイズの行列の形に書けるので)行列ゲームといい、これはもっとも典型的な進化ゲームの一つである。本節では対称な行列ゲームに対する進化的安定性を３つの異なる視点から定義づける。これら３つの定義は対称な行列ゲームにおいては同値であるが、より一般的な進化ゲームにおいては必ずしも同値ではない。

定義 

対称な行列ゲームにおける進化的安定性は以下のように定義される。のを侵入障壁という。では侵入障壁が混合戦略に依存する事を許容するバージョンの定義を採用したが、がに依存しないバージョンの定義も存在し、これを一様な侵入障壁をもつ進化的安定性（ESS with uniform invasion barrier）と呼ぶ。一般には一様なもののほうがそうでないものより強い定義であり、純粋戦略が無限個あるゲームの場合には進化的安定であるにもかかわらず一様な侵入障壁をもつ進化的安定ではない混合戦略が存在する事が知られている。しかしで考えているゲーム（＝有限個の純粋戦略を持つ対象な戦略型ゲーム）の範囲では、両者の定義は同値である。

定義の解釈
混合戦略を取る個体の集団に、混合戦略を取る個体群が侵入し、集団全体の中で後者の割合がになったとする。このとき、対戦相手がランダムに選ばれるとすれば、混合戦略を取る個体の利得の期待値は

となり、で登場する不等式の左辺と一致する。同様の理由により混合戦略を取る個体の利得の期待値は

となり、で登場する不等式の右辺と一致する。

したがっては混合戦略を取る個体群が以下の割合だけ侵入したとしても、混合戦略を取る個体の利得の期待値の方が混合戦略を取る個体の利得の期待値よりも真に大きくなる事を示している。

局所優位性(local superiority) 
２つの混合戦略、の距離を

　　　…

により定義するとき、進化的安定性を以下のように異なる角度から特徴づける事ができる：なお、上では距離を式に従って定義したが、に書いたESSの別定義で本質的なのは距離そのものではなく、距離から定まる位相構造なので、式の代わりに以下のℓ1距離

　　　

を用いて定義してものものと同値になる。

に書いたESSの別定義はより広範な進化ゲームに対して進化的安定性の概念を一般化する場合に有益であり、一般化のさせかたにより、neighborhood invader strategy、neighborhood superiorなどとも呼ばれる。

簡便な特徴づけ 
は進化的安定性の直観的な意味を自然に定式化したものになっているものの、この定義に基づいて混合戦略の進化的安定性を直接チェックするのは容易ではない。そこで進化的安定性をより簡単にチェックする事を可能にする、別の特徴付けを紹介する：

与えられた混合戦略に対し、を最大にする混合戦略をの最適反応(best reply)という。

均衡条件は、が自身の最適反応である事を意味しており、の最大値はである。一方、安定条件は、を満たす、すなわちに対する最適反応のうち以外の混合戦略はを満たしている事を意味している。

ナッシュ均衡との関係 
ゲーム理論における重要な均衡概念としてナッシュ均衡があり、進化的安定性はのナッシュ均衡性と関係がある。本項で考えているゲーム（2人対称戦略型ゲーム）の場合、混合戦略の組がナッシュ均衡であるとは任意の混合戦略に対し、

 　　…

が成立する事を言う。特に任意の混合戦略に対して式の不等号がイコールなしで成り立つ場合、は狭義ナッシュ均衡であるという。

から明らかに以下の事実が成りたつ：
しかしの逆向きの包含関係は一般には成立しない。

具体例 
前述したタカハトゲーム対してを適用する事で次が成立する事が分かる：

 なら、「確率でタカ戦略、確率でハト戦略」という混合戦略は進化的安定である
 なら、「確率1でタカ戦略」という純粋戦略が進化的安定である。これは利得が非常に高い資源を争う場合は、儀式的闘争ではなく直接的闘争が行われる事を意味する。

進化的安定性概念の一般化

モチベーション 
これまで本稿では、行列ゲームに対する進化的安定性を議論してきたが、行列ゲームは下記のような条件を満たす場合にしか現実世界の生物の闘争をモデル化できない：

 ゲームは一度しか行われない
 各個体がとれる純粋戦略の個数は有限である
 各個体がどの純粋戦略を取るのかはゲーム開始時点にランダムに選ぶ事ができる
 ゲームは常に２個体で行われる
 全ての個体に対して同一の利得関数が適用される事が前提としている

しかし実際の生物学における応用では、以上の条件を満たさない事も多い：

 多くの状況では各個体はその生涯において何度も他の個体と闘争を繰り返すので、ゲームを繰り返し行う形でモデル化した方が自然な場合が多い
 「植物が種を飛ばす飛距離」や「動物が行動を起こすまでの時間」のように純粋戦略として連続量を取る事ができるケースでは純粋戦略の個数は無限にある
 哺乳類の配偶戦略のように「オスかメスか？」という生まれた段階で決定する戦略は、ゲーム開始時点にランダムに選ぶ事はできない
 草むらで種をばらまいて近くにいる他の全ての個体と種のばらまく位置を争うケースのように、複数個体と争うゲームも多い
 「オスとメス」、「テリトリーを守る個体とそこに侵入する個体」のように非対称な闘争では、闘争する個体がどちらの立場にいるのかで利得関数が異なるはずである

本章の目標は上で述べたような、行列ゲームの範疇に収まらないより一般的なゲームに対して進化的安定性を定義する事である。

一般化の手法 
本節では上述した1,...,5の制約を外すための手法を順に述べていく。

繰り返しゲーム 
まず1に関しては、ゲーム理論の言葉で言えば繰り返しゲームを考える必要がある、という事である。一回のゲームの利得と繰り返し行ったゲームの利得の平均値とを区別する為、一回のゲームの利得はこれまで通りで表し、繰り返し行ったゲームの利得の平均値をと表す事に事にする。

ゲームを行うたびに闘争相手が毎回異なると仮定できる場合には、繰り返しゲームの平均利得はと一致する（詳細後述）。一方、同一の闘争相手と何度もゲームを繰り返す場合はより複雑で、後退帰納法（有限繰り返しゲームの場合）やフォーク定理（無限繰り返しゲームの場合）など、ゲーム理論の手法を用いてを求める必要がある。

戦略空間 
2および3に関しては、戦略空間(strategy space)という概念を導入する事で一般化を図る。戦略空間とは、そのゲームにおいて各個体が取りうる戦略全体の集合の事である。例えば行列ゲームの場合は混合戦略全体の集合が戦略空間である。すなわち、

　　　　...

が戦略空間である。ここでは取りうる純粋戦略の個数である。

また「個体の体長」のように連続量の純粋戦略が取れる（が闘争の際ランダムに体長を変える事はできないので混合戦略は取れない）ゲームの場合、戦略空間は正の実数全体の集合

である。一方「動物が行動を起こすまでの時間」のように純粋戦略は連続量であり、混合戦略も取りうるゲームの場合には、戦略空間は

上の確率分布

である。なお進化的安定性の議論では、戦略間の「近さ」の概念が定義できる事が望ましいので、戦略空間が位相空間である事を求める事も多い。

個体群 
4に関しては、個体vs.個体だけでなく個体vs.個体群(population)の闘争を考える事で一般化を図る。個体群に属する個体数が有限である場合には数学的解析が難しくなるので、以下本説では個体数が無限であるものと仮定する。より厳密に言うと、戦略空間に属する戦略を取る個体の割合を区間に属する実数として定義できるものと仮定する。現実には無限の個体を含む個体群は存在しないが、個体群に属する個体が十分大きい場合には、近似的にこのような仮定を置いて議論を進める事ができる。

個体群の各々の個体は戦略空間に属するいずれかの戦略を取る。個体群において、「戦略を（確率1で）取る個体の割合がそれぞれである」という状態を

もしくは

と表記し、これをの個体群戦略(population strategy)と呼ぶ。個体群戦略と区別するため、個々の個体の戦略の事を強調して個体戦略(player strategy)と呼ぶ。

なお上の式における記号「」は、混合戦略の和「」と区別する為につけられた単なる記号であると解釈して差し支えない。この場合、上記の式は数学的には形式和である。しかしこのを上で定義されたディラックのデルタ関数であると解釈する事で、上式を上の分布を表す式とみなす事もできる。

また上では個体群が有限個の戦略のいずれかしか取らない場合を考えたが、が性質のよい空間であれば無限個の戦略を取る場合も考える事ができる。しかし進化的安定性を定義する上では有限個の戦略を取る場合のみを考察すれば十分であるので、本稿では以下、無限個の戦略を取る場合は考えない。

本稿では個体群の性質として主として考えるのは個体群戦略のみなので、紛れがなければ個体群とその個体群戦略とで記号を混用し、

という表記も用いるものとする。

対称化 
5で述べたように実際の生物では２つの個体の立場が非対称なゲームも起こりうるが、進化ゲーム理論では２つの個体が対称な場合のみに対して進化的安定性を定義し、非対称なゲームには対称化を施す事により対称なゲームに対する進化的安定性の概念を利用する。例えば「オス」と「メス」という２つの立場がある状況では、個体が受精した際「オス」か「メス」かをランダムに選べる事を考慮する事により、全ての個体が「オス」になる可能性も「メス」になる可能性もある対称なゲームとして定式化する。

そこで本章では以下、対称なゲームに対する進化的安定性のみを議論するものとし、非対称なゲームに対する進化的安定性は後の章で議論するものとする。

行列ゲームの再定式化 
以上までで述べた一般的なフレームワークにおける進化的安定性の定義を述べる前に、行列ゲームを上述のフレームワークにおいて再定式化する。このために通りの純粋戦略が取れる行列ゲームを考え、その利得関数をとする。さらにを個体群とし、を個体群の中にいる一匹の個体とし、が取る混合戦略をとする。

前章で述べた行列ゲームでは、は個体群の中のいずれか一匹の個体と一度だけゲームを行う事を前提としていた。しかし本章で述べる一般的フレームワークにおいては、の中の複数の個体と闘争する事を前提としている。より正確に言うと、定数を固定し、以下のようなゲームを回繰り返す：

 の中から一様ランダムに一匹の個体を選ぶ（は回行う各ゲームで毎回独立に選ばれる）。
 とが利得関数を持つ行列ゲームを行う。

そしてこのようなゲームにおけるの平均利得をと表記する（ここで我々は前節で述べたように記号を混用して個体群の個体群戦略にもという記号を用いている）。

の個体群戦略が混合戦略により

と書けるとき、の対戦相手の戦略は確率でであり、確率でである。行列ゲームは回行われるが、我々は個体群には無限に多い個体が含まれていると仮定していたので（前述）、が同一の個体と複数回ゲームを行う事はありえない。よって回の行列ゲームの平均利得は明らかに

を満たす。すなわち行列ゲームの場合は複数回のゲームの平均利得と個体群戦略で考えようが、一回の行列ゲームの利得と1個体の混合戦略で考えようが実質的な差はない。

しかし行列ゲーム以外のゲームではこのような単純な関係が成立するとは限らず、そもそも「２個体間の一回のゲームの利得」が定義できない場合もある（例えば、２個体間の闘争ではなくの全ての個体が闘争する場合）ので、本章で述べる一般的なフレームワークにおいて改めて進化的安定性の概念を定式化する必要がある。

進化的安定性の定義 
以上の準備の元、進化的安定性の概念を一般化する。集合を一つ固定し、これを戦略空間と呼び、の元を戦略ないし個体戦略と呼ぶ。そして任意の戦略に対し、形式和

　　

を個体群戦略と呼ぶ。さらに戦略と個体群戦略の組に利得と呼ばれる実数を対応させる関数

を一つ固定し、この関数を利得関数と呼ぶ。直感的にはの第一変数の個体戦略を取るある個体が、個体群戦略を取る個体群の中で（一般には複数回）闘争したときのが得られる利得（ないしその平均値）がになるという事である。

以上のフレームワークにおいて、ゲームは戦略空間と利得関数の組として定義される。

ゲームに関する進化的安定性は以下のように定義される：上の定義でははに依存する事を許容しているが、に依存しないが取れる場合には、一様な侵入障壁をもつ進化的安定性（ESS with uniform invasion barrier）と呼ぶ。

の定義より、任意の戦略はのように個体戦略としての第一変数としてする事も、のように個体群戦略としての第二変数として登場する事も可能である。したがって「オス」と「メス」のように立場の異なる個体が存在したとしても、第一変数を「オス」の戦略、第二変数を「メス」の戦略といったふうに2つの変数を使い分ける事はできない。すなわち前述したように、立場の異なる個体間の非対称なゲームに対する進化的安定性を上記の定義では記述できず、何らかの「対称化」の操作を行う事によって非対称ゲームを記述する必要がある。対称化に関しては後の章でより詳しく説明する。

の性質 
すでに述べたように行列ゲームでは

という単純な関係があり、しかも行列ゲームの利得関数は行列を用いて簡単に表記できるので、線形性

が成立した。

しかしこうした性質は行列ゲーム以外のゲームでは必ずしも成立するとは限らない。実際我々は現段階では一般のゲームにおけるには一切仮定をおいていない為、線形性どころか連続性すら成り立つとは限らない。

このため行列ゲームに対して示した性質は一般のゲームに対しては無条件に成り立つとは限らず、線形性など何らかの仮定をおいた上でこうした性質（の類似物）を示す必要がある。

そこで本節では、線形性などに関する性質をいくつか導入し、これらの性質を元に進化的安定性の満たす性質を示す。

個体群戦略に関する線形性と個体戦略に関する線形性 
本節ではの線形性の概念を定義する。

行列ゲームにおける混合戦略のように、戦略空間上に線形和が定義できる場合には、左線形性も同様に定義できる：

これら２つの性質は行列ゲームの場合は明らかに満たされる。

多くのゲームにおいて、戦略空間は行列ゲームの場合と同様、何らかの混合戦略全体の空間であり、混合戦略の利得はのように純粋戦略の利得の期待値として定義されるので、個体戦略に対する線形性は多くのゲームで成立する。

それに対し個体群戦略に対する線形性は満たさないゲームも多く、例えば以下の３つの状況では満たされない事が多い：

 ゲームが１：１の闘争でないとき
 （１：１の闘争であったとしても）同じ個体と複数回闘争しなければならないとき
 取りうる戦略が連続量であるとき

2013年現在、「線形性が満たされないゲームに関する一般的な理論はまだ十分に発展しているとは言い難い」状況にあり、個別のゲームに応じた議論を行う必要がある。

多型-単型同値性 
行列ゲームにおける戦略空間は混合戦略全体の集合なので、戦略同士の線形和が定義できる。このように戦略空間上に何らかの和の概念が定義できている場合、以下の概念を定式化できる：多型-単型同値性は行列ゲームでは明らかに成立する：

多型-単型同値性の直観的な意味を説明する。の式の左辺ではの第２変数がであるので、個体群の中には戦略を取る個体が割合だけ存在し、...、戦略を取る個体が割合だけ存在するという状況を左辺は意味している。一方右辺ではの第２変数がであるので、個体群に属する全ての個体が全く同一の戦略を取っている状況を右辺は意味している。

多型-単型同値性はが純粋戦略であるケースを考えると理解しやすい。上で述べた事から、の式の左辺は純粋戦略を取る個体が割合だけ存在し、...、純粋戦略を取る個体が割合だけ存在するという状況である。すなわち全ての個体は何らかの純粋戦略を取っており、個体毎にどの純粋戦略を取るのかが決まっている状況である。これは例えば、遺伝的多型により、個体が生まれた段階でどの純粋戦略を取るのかが決まる場合がこの状況に相当する。

一方、の式の右辺は、全ての個体が全く同一の混合戦略を取っている状況である。これは例えば、「混合戦略を取る事」が遺伝的に単型な形で刷り込まれており、ゲーム開始の段階でランダムにのうちどれかを行う場合がこの状況に相当する。

多型-単型同値性はこの多型のケースと単型のケースがの第一変数の戦略を取る個体の平均利得という観点から見るとこの「多型」の状況と「単型」の状況に差がない事を意味する。

の闘争相手がゲームのたびに個体群から毎回ランダムに選ばれるケース（個体群の個体数は無限大なのでこれは闘争相手が毎回異なる事を意味する）における繰り返し行列ゲームの場合には、明らかに多型-単型同値性が成立する。しかしゲームによっては多型-単型同値性が成り立たないものもあり、次章以降でそうしたゲームについて見る。

進化的安定性の簡便な特徴づけ 
行列ゲームにおける進化的安定性の概念が均衡条件と安定条件により特徴づけられる事をで見た。この定理は本章で述べた一般的なゲームに関する進化的安定性に対しては常に成立するわけではないが、適切な条件下ではの類似物を示す事が可能である。

前節までと同様、を戦略空間とし、を上の個体戦略と個体群戦略に「利得」とよばれる実数値を対応させる関数とする。さらに戦略を固定し、インセンティブ関数を

により定義する。ここでは0以上1以下の実数全体の集合である。このとき次が成立する：多くの生物学上の応用では、

を満たすの集合は零集合（≒面積0の集合）であるので、上記偏微分が0になる確率が0である事を多くのケースでは仮定できる（これをgeneric payoff assumptionという）。この仮定の元では進化的安定性は均衡条件と安定条件が両方成立する事とほとんど至る所で同値である。

定理３と定理G5の関係 
本節ではとの関係を見るため、を行列ゲームに適用してみる。すでに述べたように行列ゲームでは

であり、は右線形かつ左線形であるので、インセンティブ関数は

である。よってにおける偏微分は

である。の安定条件の仮定が成り立つ条件下では

であるので、の安定条件はのそれと一致する。すなわちは、を要求する事以外はと一致している。

具体例

個体群ゲーム(Population Game) 
本章では個体群ゲームというゲームを定義し、このゲームにおける進化的安定性の性質を述べる。

モチベーション 
多くのゲームにおいて、戦略空間は行列ゲームの場合と同様、有限個の純粋戦略を混合した混合戦略全体の空間であり、混合戦略の利得は

のように純粋戦略の利得の期待値として定義される。ここでさらに多型-単型同値が成り立てば、任意の個体群戦略は

のようにたった一つの混合戦略により記述できる。ここでと定義すれば、

が成立する事になる。利得関数が上式のように書けるゲームが個体群ゲームである。

定義 
以上をまとめると次のようになる。なお以下では式で定義される集合であり、直観的には有限個（個）の純粋戦略を混合した混合戦略全体の空間を意味する。

応用例：場を通じる型(playing the field) 
行列ゲームでは個体が個体群からランダムに選ばれた個体と１：１の闘争を行うケース（１対１型）を想定していた。しかし生物学における実際の状況は、このようなは１：１の闘争を行うものばかりではなく、が個体群に属する全ての他の個体と闘争しなければならないものも存在する。

このようなの全ての他の個体との闘争を行われる状況を場を通じる型（playing the field）という。例えば植物が種を飛散させる状況下では、近くにいる他の全ての個体と土地を争わなければならないので、場を通じる型の類型に属する。

場を通じる型のセッティングでは、そもそも１：１の闘争は行われないので行列ゲームのような１：１の闘争を前提とした利得関数は定義できず、を使わずに直接を定義する必要がある事になる。

この際利用できるのが、個体群ゲームのフレームワークである。で述べたように、左線形性や多型-単型同値などの条件が成立しさえすれば、場を通じる型の状況を個体群ゲームとして記述できるので、個体群ゲームは有益な概念である。

性質 
以下の２つの性質が成立する：
ここでは式により定義される上の距離であるが、と同様、と同一の位相を定める距離であれば他のものでもよい。

非対称なゲーム 
これまで全ての個体が対等である状況を考察してきたが、実際の生物学では「オス vs. メス」、「テリトリーの所有者 vs. テリトリーへの侵入者」、「体の大きい個体 vs. 体の小さい個体」のように２つの非対称な立場がある個体同士が闘争する。しかし前章でも述べたように、進化ゲーム理論ではこうした非対称なゲームに関しては何らかの「対称化」を施すことにより、対象なゲームとして進化的安定性を定義する。

非対称なゲームの記述 
本節では非対称なゲームを定式化し、対称化を方法を述べる。今各個体には2つの立場(role)があり、どちらの立場にいるかにより取れる戦略が異なるものとする。立場0、立場1にいる時に取れる戦略全体の集合をそれぞれ、と表記する。このとき、非対称なゲームの戦略空間は

である。戦略空間の元の直観的意味は「もし自分が立場0であれば戦略を取り、立場1であれば戦略を取る」というものである。

このゲームにおける個体群戦略はとを用いて

と書けるものを指す。ゲームは非対称であるので、利得関数も自分が立場0にいるときと立場1にいるときで異なる。自分が立場にいるときの利得関数を

と書く。ここではの元であり、はの元である。非対称なゲームは組

により定義される。

対称化 
以上のように定義された非対称なゲームに対し、利得関数の対称化を行う。このために記号を導入する。個体群戦略

に対し、

、

と書くことにする。関数

を一つ固定するとき、利得関数の組をにより対称化した利得関数を

により定義する。直観的にはは個体戦略を取っている個体が立場0になる確率である。

なお、対称化が定数関数

を用いて行われた場合、この対称化は戦略-立場独立(strategy-role independent)であるという。

進化的安定性 
非対称なゲームに関する進化的安定性は、対称化したゲームの進化的安定性により定義する。すなわち個体戦略が進化的安定であるとは、戦略空間がであり利得関数がであるゲームに関して進化的安定である事を指す。もちろんこの進化的安定性の概念は関数に依存しており、が異なれば進化的安定性の概念も異なる。

一般化 
これまで非対称なゲームを考察するに当たって、同じ立場にいる個体同士が闘争しないことを暗に仮定していた。すなわち、自分が立場0にいる時は立場1にいる個体と闘争し、立場1にいるときは立場0にいる個体と闘争する、という事である。しかし一般にはこれが成立しない場合もある。この場合には、4つの利得関数を考え、

として対称化をはかる。ここではを満たす関数である。

直観的にはは自分が立場、闘争相手が立場にいるときの利得関数で、は自分が個体戦略を取っている際に、自分が立場、闘争相手が立場になる確率である。

レプリケーター方程式(Replicator Equation)と進化的安定性 

レプリケーターダイナミクス(replicator dynamics、自己複製子動学)は与えられた個体群内の各個体が取る戦略の頻度分布（すなわち、前章までの言葉で言えば個体群戦略）がどのように時間発展するかを定式化したモデルで、このモデルにおいて頻度分布の時間発展を記述する方程式をレプリケーター方程式(replicator equation)という。本節では「離散型」、「連続型」の２種類のレプリケーター方程式を紹介し、行列ゲームにおいて連続レプリケーター方程式の解の収束先と進化的安定性の関係を述べる。

レプリケーター方程式 
本節では以下の２種類のレプリケーター方程式を紹介する：

離散レプリケーター方程式（discrete replicator equation）：無性生殖する個体群の戦略の頻度分布を（オーバーラップのない）「世代」という離散的な時間で記述できると仮定した場合の方程式
連続レプリケーター方程式（continuous replicator equation）：個体数が十分大きいため世代がオーバーラップし、連続的な時間によって（無性生殖する）個体群の戦略の頻度分布を記述できると近似した場合における方程式

離散レプリケーター方程式 
離散レプリケーター方程式を定式化するために、以下のような個体群を考える：

 個体群の構成が世代によって記述でき、各世代にはオーバーラップがない。すなわち世代に生きた個体はには全て死滅し、世代は世代に生まれた個体の子供のみから構成される。
 個体群内の各個体は有限個の純粋戦略のいずれかを取り、混合戦略は取らない
この個体群は無性生殖によって子孫を残す
 この個体群には突然変異が生じないもの

この個体群において世代で（純粋）戦略を取る個体の割合をと表記すると、この個体群における戦略の分布

と記述できる。

この個体群で戦略を取る各個体の利得をと表記し、に関して以下の仮定を置く：

 この個体群で世代において戦略を取る個体が残す事ができる子供の数は利得に等しい

このように仮定すると、個体群のうち割合の個体が、それぞれの子供を残すのだから、世代において戦略を取る個体の比率は

となる。ここで我々は

 仮定3.により、（突然変異を例外とすれば）子供は親と同じ遺伝子を持つため、親と同じ戦略を取り
 仮定4.により突然変異が起こらない

事を利用した。以上より世代世代において戦略を取る個体の割合は、以下の離散レプリケーター方程式に従う：

ここで

である。

離散レプリケーター方程式の分母 
分数は分母だと意味を持たないので、最後に離散レプリケーター方程式の分母について触れておく。離散レプリケーター方程式の直観的な意味から、利得の期待値は

を満たす必要がある。または割合であったのでであり、数学的帰納法により、離散レプリケーター方程式の分母が0になる世代の直前までは

が成立する事も示せる。したがって離散レプリケーター方程式の分母が0になる場合、すなわち

の場合は、正の数の和が0である事になるので、

が成立する。これは各に対し、かのいずれかが0である事を意味する。であれば、純粋戦略を取る個体は絶滅した事になるので、任意のに対し、である。またであれば、純粋戦略を取る個体が世代で残せた子供の数が0である事を意味するので、やはり任意のに対し、である。結局、離散レプリケーター方程式の分母が0になるという事は個体群の全ての個体が絶滅した場合に相当する。

連続レプリケーター方程式 
連続レプリケーター方程式を定式化する為、離散レプリケーター方程式の節の2～4の仮定と以下の1'の仮定を満たす個体群を考える：

1'. 個体数が十分大きいため世代がオーバーラップし、連続的な時間によって個体群の戦略の頻度分布を記述できる

前節同様、（純粋）戦略を取る個体の割合をと表記し、とし、この個体群で戦略を取る各個体の利得をと表記する。

利得に関して前節のものと似た以下の仮定を置く：

 この個体群で時刻において戦略を取る個体の増加率は利得に等しい

個体群に属する個体数が十分に大きいと仮定しているので、個体数はに関して微分可能な連続量であるとみなして差し支えないので、とすると、上述の仮定から、

    …

が成立する。記号を簡単にするため、時間微分をのようにドットで書くことにすると、とより、

が成立し、しかもから

  

でもあるので、以下の連続レプリケーター方程式が成立する：

ここで

である。なお、適切な条件下では離散レプリケーター方程式の極限として連続レプリケーター方程式が得られる事が知られている。

行列ゲームの連続レプリケーター方程式と進化的安定性 
本節の目標は、行列ゲームに対し、レプリケーター方程式の解が進化的安定な状態へと収束する条件を見る事である。なお、行列ゲーム以外のゲームに関してはこのような収束性は成り立つとは限らない。その理由の一端は、（後述するように）レプリケーター方程式が純粋戦略のみをとる個体群を想定しているのに対し、進化的安定性の定義では混合戦略をも考慮する事が多いからである。したがって単型-多型同値が成り立たない系では、レプリケーター方程式による解析と進化的安定性とが一致しない可能性がある。

行列ゲームにおける連続レプリケーター方程式 
まず行列ゲームに対する連続レプリケーター方程式を記述する。の行列と行の縦ベクトルに対し、積の第行を

という記号で書くことにすると、利得関数が

と記述できる行列ゲームにおいて、純粋戦略を取る個体の利得の期待値は明らかに

なので、行列ゲームにおける連続レプリケーター方程式は

　      …

と記述できる。ここではを転置した横ベクトルである。

解の性質 
本節ではと進化的安定性の関係性を調べるため、に関する性質を述べる。まずは純粋戦略を取る個体の割合であったから、の初期値は

　　　　...(、再掲)

の元である。は行列によって記述できる常微分方程式であるので、（少なくとも初期値の近傍では）解が存在し、しかもその解は一意である（Picard–Lindelöf theorem）。

解の一意性から、における時間発展で２つの超平面

が保存される事を簡単に示せるので、以下が明らかに従う：ここから明らかに次の系が従う：はコンパクトであるので、以上の性質と前述の解の局所的存在性・一意性から次が従う：次の事実も知られている：

進化ゲーム理論のフォーク定理 
と進化的安定性の関係を述べるため、以下の概念を定義する。なお以下で、は初期値がであるときのの（必ず存在する一意な）解である：なお大域的安定性の定義での境界の点に対してへの収束性を求めないのは、で述べたように、の点はにおける時間発展でに留まり続ける為、に収束することはありえないからである。

このとき次が成立する。なおゲーム理論にも「フォーク定理」という名称の定理があるが、下のものはこれとは無関係の定理である。
すでに述べたように行列ゲームにおいては

狭義ナッシュ均衡⇒進化的安定⇒ナッシュ均衡

という関係性が成立するので、上述の定理から連続レプリケーター方程式の解と進化的安定性との関係がある程度わかる事になる。

また以下も成立する：

行列ゲームの混合戦略に対する連続レプリケーター方程式と進化的安定性

混合戦略に対する連続レプリケーター方程式 
これまで我々は、着目している個体が純粋戦略を取る場合の連続レプリケーター方程式に関して考察してきたが、より一般に、有限個の混合戦略を取る個体がそれぞれ割合で存在する個体群に対する連続レプリケーター方程式を考える事もできる：

　      …

ここでは平均混合戦略

　      …

である。の導出はのそれと同様なので省略する。

進化的安定性との関係 
においてであれば、、、と略記すると、なので、に登場する本の式はいずれも

　      …　      

に同値である事が簡単な計算から確かめられる。このとき、次が成立する事が知られている：

行列ゲームの混合戦略に対する離散レプリケーター方程式と進化的安定性

行列ゲームの純粋戦略に対する離散レプリケーター方程式 
混合戦略に関して考察する前に、まず本節では行列ゲームの純粋戦略に対する離散レプリケーターを導出する。純粋戦略を取る個体の割合をと表記し、とし、この個体群で戦略を取る各個体の利得をと表記する。

の行列を用いて利得関数が

と書ける行列ゲームにおいて、純粋戦略を取る個体の利得の期待値は明らかに

なので、これを利用して離散レプリケーター方程式の具体的な形を書き下す事ができる。より一般に各個体が行列ゲームの利得以外に「背景利得」(background payoff)を得られる場合、すなわち

の場合には、離散レプリケーター方程式の具体的な形は

　　      …　 

である。

行列ゲームの混合戦略に対する離散レプリケーター方程式 
連続レプリケーター方程式の「純粋戦略版」であるから「混合戦略版」のを導いたのと同様の方法で、離散レプリケーター方程式の「混合戦略版」を「純粋戦略版」であるから導くことができる。

すなわち、有限個の混合戦略を取る個体が世代においてそれぞれ割合だけ存在する個体群を考え、とするとき、混合戦略を取る個体の利得の期待値は平均混合戦略

　      …

を用いて

と表記できるので、

　　      …　

となる。なおより明らかに比の等式

　　      …　

が成立する。ここで

   …　

である。上の比の等式は左辺に登場する分母が0である場合は意味を持たないが、前節でも述べたのと同様の議論により、が0になるのは混合戦略を取る個体が個体群から絶滅した事を意味するので、以降のに関しては常にであるものと解釈する。

進化的安定性との関係性 
離散レプリケーター方程式と進化的安定性との関係を見るため、でであるケースを考え、、、と略記すると、なので

　      …　

である。ここではのように定義されており、

　      …

であり、の左辺の分母が0である場合の解釈は前節と同様であるものとする。また離散レプリケーター方程式の利得は子供の数を示していたので、

　      

が成立する事を仮定する。このとき、次が成立する：

上述の定理は、個体群においてを取る個体の割合が進化的安定戦略の侵入障壁よりも小さい時は、世代を重ねる事でを取る個体の割合が0に収束していく事を意味する。

年表 

 1972年：ジョン・メイナード＝スミスが自著「On Evolution」のエッセイで進化的安定性にふれる
 1973年：メイナード＝スミスとジョージ・プライスが進化的安定性を提唱した論文がネイチャーに載る
 1974年：メイナード＝スミスによるより長い論文がJournal of Theoretical Biologyに載る
 1982年：メイナード＝スミスが自著「Evolution and the Theory of Games」で更に詳しく説明