マン・ホイットニーのU検定
標本サイズが大きい場合には正規分布による近似:
z = U − m U σ U {\displaystyle z={\frac {U-m_{U}}{\sigma _{U}}}}
が使える(ここでzは標準正規分布に従うかどうかを考え、その有意性は正規分布表で確認できる)。帰無仮説が正しいとすればmUとσUはUの平均および標準偏差であり、次の式で与えられる:
m U = n 1 n 2 2 {\displaystyle m_{U}={\frac {n_{1}n_{2}}{2}}}
σ U = n 1 n 2 ( n 1 + n 2 + 1 ) 12 {\displaystyle \sigma _{U}={\sqrt {\frac {n_{1}n_{2}(n_{1}+n_{2}+1)}{12}}}}
U検定は独立な標本に対するスチューデントのt検定と同様の状況で用いられ、どちらを用いるのがよいかが問題になる。コンピュータが簡単に使えなかった頃は計算の手間がかからないことから一般にU検定が推奨された。現在でも順序データ(初めから順位として表現されているデータ)を用いる場合にはU検定が推奨される。また少数の外れ値のために偽の有意な結果が出ることは、t検定に比べるとはるかに少ない。
一方、U検定を2標本の分布が大きく異なる場合に用いるのは誤りである。U検定は2標本が共通の分布に基づくかどうかを検定するものであって、平均は同じだが分散は異なるような分布に基づく場合には偽の有意な結果が出ることもある(モンテカルロ法を用いて示されている)。
例えば、イソップが「カメがウサギに競走で勝った」というあの有名な実験結果に疑問を持っているとしよう。彼はあの結果が一般のカメ、一般のウサギにも拡張できるかどうか明らかにするために有意差検定を行うことにする。6匹のカメと6匹のウサギを標本として競走させた。動物たちがゴールに到達した順番は次の通りである(Tはカメ、Hはウサギを表す):
T H H H H H T T T T T H (あの昔使ったカメはやはり速く、昔使ったウサギはやはりのろかった。でも他のカメとウサギは普通通りに動いた)Uの値はどうなるか?
直接的な方法では、各カメを順番にとり、それぞれが負かしたウサギの数を数えると、こうなる: 6, 1, 1, 1, 1, 1。したがって U = 6 + 1 + 1 + 1 + 1 + 1 = 11。
間接的な方法では: 各カメの順位の合計は1 + 7 + 8 + 9 + 10 + 11 = 46になる。
全動物の順位の合計は12×13÷2 = 78になる。
だからウサギの順位の合計 = 78 − 46 = 32。
したがって U = 6×6 + 6×7÷2 − 46 = 36 + 21 − 46 = 11。
表を使って次のことが分かる:「この結果からはカメの方が速いとはいえないし、かといってウサギの方が有意に速いともいえない」。
これらの度数をすべて総和したものがUである。
大標本に対しては、公式を用いる。すべての観察を並べて一つの順位系列とし、小さい方の標本の順位を総和する。すべての順位の和はN(N + 1)/2 (ここで N は全観察数)に等しいから、Uは次のように求められる:
U 1 = n 1 n 2 + n 1 ( n 1 + 1 ) 2 − R 1 {\displaystyle U_{1}=n_{1}n_{2}+{n_{1}(n_{1}+1) \over 2}-R_{1}}
U 2 = n 1 n 2 + n 2 ( n 2 + 1 ) 2 − R 2 {\displaystyle U_{2}=n_{1}n_{2}+{n_{2}(n_{2}+1) \over 2}-R_{2}}
この2つのUのうち、低い値の方を検定に用いる。
ここでn1とn2は2組の標本の大きさで、R1 は標本1.
の順位の和である。
Uの最大値は2標本の大きさの積で、上記の方法で得られた値がこの最大値の半分より大きい場合は、それを最大値から引いた値を数表で見つけ出せばよい。