マンテル検定
もしn個の対象があり行列が対称行列であるなら(つまり対象物 aから対象物bまでの距離はbから aまでと同じになる)、この行列は次の式で表される距離を含む
n ( n − 1 ) 2 {\displaystyle {\frac {n(n-1)}{2}}}
距離は相互に独立していないので– 一つの対象物の位置を変えることはこれらの距離の n − 1 {\displaystyle n-1} を変えることになり(動かした対象物の他のそれぞれの対象物への距離) – 二つの距離のセットの間の相関係数を単純に評価することで調べられなくなり、また統計学的な有意性検定を行うこともできなくなる。マンテル検定はこの問題を取り扱うものである。
ここで用いられる手順はある種のランダム化、あるいは置換検定である。2つの n ( n − 1 ) / 2 {\displaystyle n(n-1)/2} で表される距離のデータのセットの間の相関関係を計算する。
これは相関関係の大きさであると同時に検定統計量となる。原則的にはどのような相関係数を用いることもできる。しかし通常はピアソンの積率相関係数が用いられる。
通常の相関係数の使用とは対照的に、相関関係の有意性を解析するために一方の行列の行および列に対して繰り返しランダム置換を行う。そして相関関係も置換ごとに再計算する。観測された相関関係の重要性の程度は、高い相関関係を導くことになったこれらの置換の割合に該当する。 その理由はもし2つの行列の間に関係がないという帰無仮説が正しければ、行列の行および列の置換から大きい係数も小さい係数も同じような確率で導き出されるはずだ、というものである。2つの行列の各要素の統計上の依存性から来る問題を克服することに加えて、置換検定を用いることで行列の要素の統計的な分布を推測する必要がなくなる。 多くの統計ソフトにはマンテル検定が標準で組み込まれている。