進化戦略
突然変異(上述の正規乱数を各成分に加える行為)の成功率は 1/5 とするべきである。つまり成功率が 1/5 未満ならσを小さくし、1/5 以上ならσを大きくするべきである。この主張は以下のような数学的な解釈に基づいている。
最適解を x としたとき、解の収束への速さを
ψ = E { | | x ∗ − x ( t ) | | − | | x ∗ − x ( t + 1 ) | | } {\displaystyle \psi =E\left\{||x^{*}-x(t)||-||x^{*}-x(t+1)||\right\}}
とおく。ここで t は探索を繰り返した回数である。このときψを最大化する、すなわち
d ψ d σ | σ ∗ = 0 {\displaystyle \left.{\frac {d\psi }{d\sigma }}\right|_{\sigma ^{*}}=0}
となるようなσが最適なσであるとする。この式を多くの方程式に適用してσを求め、そのときの成功確率を求めた結果、ほとんどの式が 0.2 すなわち 1/5 付近の解を持つことに至ったため、上記の主張がなされるようになった。これを 1/5 ルールという。
ここからは(μ,λ)-ES系のアルゴリズムについて述べる。このアルゴリズムは探索する x を複数にして、より効果的な大域探索を可能とするアルゴリズムの開発を目指したものである。しかしながら、そのような場合 (1+1)-ES のような 1/5 ルールが成り立たなくなってしまい、突然変異のパラメータ調整の具体的な指針が存在しない。
そこで、(μ,λ)-ES系では突然変異のパラメータも個体の中に埋め込み最適解の探索と同時にパラメータの数値も進化させる手法が試みられている。 具体的には個体を a とした場合、個体は次のような構成となる。
a = ( x , σ , α ) {\displaystyle a=(x,\sigma ,\alpha )}
(探索ベクトル) x = ( x 1 , x 2 , ... , x n ) {\displaystyle x=(x_{1},x_{2},\dots ,x_{n})} (突然変異パラメータ) σ = ( σ 1 , σ 2 , ... , σ n ) {\displaystyle \sigma =(\sigma _{1},\sigma _{2},\dots ,\sigma _{n})} (調整パラメータ) α = ( ... , α i j , ... ) ( i = 1 , ... , n − 1 ) ( j = i + 1 , ... , n ) {\displaystyle \alpha =(\dots ,\alpha _{ij},\dots )(i=1,\dots ,n-1)(j=i+1,\dots ,n)}