ベイズ法
ベイズ法では、最尤法がベイズ推定の枠組みの中で再構築されている。最尤法ではある特定の仮定(進化モデル)の下で与えられた配列群の尤度を最大化する系統樹が最適樹として選択される。すなわち、与えられた配列に対する系統樹の枝長と進化モデルの尤度が最尤法では目的関数として取られている。一方で、ベイズ法の目的関数は、与えられた配列に対する系統樹の樹形と枝長と進化モデルの事後確率となる。最適樹は事後確率分布の最頻値を最大事後確率推定した系統樹として選択される。
ただし、特に樹形の事前分布を一様分布とした場合、最尤法による系統樹とベイズ法による系統樹はほぼ一致し、ベイズ法はむしろ最尤法では必要のない事後確率を計算する回りくどい手法となる。そこでベイズ法では単一の最適樹を求めるのではなく、複数の最適樹を事後確率と共に提示するか、あるいはそれらを統合して単一の合意樹を作成することを主目的とする。これにより、遺伝子の水平伝播などにより系統樹が一意に定まらない場合や、複数の系統仮説が求められる場合に、ベイズ法は効果を発揮することになる。
ベイズ法は1996年頃からYangにより系統推定に導入され、2001年にはベイズ法を利用した系統推定ソフトウェアMrBayesが登場した。MrBayesはベイズ法を用いる系統推定ソフトウウェアの中では最も広く使用されているものである。MrBayesの登場により、より効率的なアルゴリズムや現実的な進化モデルが実装されたこともあり、ベイズ法は広く一般に普及した。
MrBayesでは、事後確率分布がある程度高い場所(局所的な最適解)でマルコフ連鎖が定常状態に達しないよう、MCMCを改良したMetropolis Coupled MCMC(MCMCMC)が採用されている。MCMCMCでは複数本のMCMCを走らせており、そのうち1本をcold chain、残りをhot chainとする。cold chainは元々のMCMCであり、局所的な最適解を脱出しにくい一方で、膨大な時間をかければ正しい事後確率分布に収束する。hot chain では目標分布が平坦化されており、系統樹が撹乱を受けるため、正しい事後確率分布への収束の保証を破棄する一方で局所的な最適解からの脱出率を高めている。また、一定回数ごとに異なるchain同士の変数を交換し、脱出を容易にしつつ収束の効率を高めてもいる。