ルビーン検定
統計量W は、下記の式で定義される:
W = ( N − k ) ( k − 1 ) ∑ i = 1 k N i ( Z i ⋅ − Z ⋅ ⋅ ) 2 ∑ i = 1 k ∑ j = 1 N i ( Z i j − Z i ⋅ ) 2 , {\displaystyle W={\frac {(N-k)}{(k-1)}}{\frac {\sum _{i=1}^{k}N_{i}(Z_{i\cdot }-Z_{\cdot \cdot })^{2}}{\sum _{i=1}^{k}\sum _{j=1}^{N_{i}}(Z_{ij}-Z_{i\cdot })^{2}}},}
ここで
W {\displaystyle W} は検定統計量
k {\displaystyle k} は比較する群の数
N {\displaystyle N} は全群の総観測数
N i {\displaystyle N_{i}} は第 i {\displaystyle i} 群の観測数
Y i j {\displaystyle Y_{ij}} は第 i {\displaystyle i} 群の j {\displaystyle j} 番目の変数の値
Z i j = { | Y i j − Y ̄ i ⋅ | | Y i j − Y ~ i ⋅ | {\displaystyle Z_{ij}=\left\{{\begin{matrix}|Y_{ij}-{\bar {Y}}_{i\cdot }|\\|Y_{ij}-{\tilde {Y}}_{i\cdot }|&\end{matrix}}\right.
} Y ̄ i ⋅ {\displaystyle {\bar {Y}}_{i\cdot }} は第 i {\displaystyle i} 群の平均値 Y ~ i ⋅ {\displaystyle {\tilde {Y}}_{i\cdot }} は第 i {\displaystyle i} 群の中央値
(中央値を用いる検定は厳密にはブラウン・フォーサイス検定(英語版)である。下記の比較の節参照。)
Z ⋅ ⋅ = 1 N ∑ i = 1 k ∑ j = 1 N i Z i j {\displaystyle Z_{\cdot \cdot }={\frac {1}{N}}\sum _{i=1}^{k}\sum _{j=1}^{N_{i}}Z_{ij}} は全ての Z i j {\displaystyle Z_{ij}} の平均値、
Z i ⋅ = 1 N i ∑ j = 1 N i Z i j {\displaystyle Z_{i\cdot }={\frac {1}{N_{i}}}\sum _{j=1}^{N_{i}}Z_{ij}} は第 i {\displaystyle i} 群の Z i j {\displaystyle Z_{ij}} の平均値。
W {\displaystyle W} をF検定の統計量(自由度は k − 1 {\displaystyle k-1} と N − k {\displaystyle N-k} ) F ( α , k − 1 , N − k ) {\displaystyle F(\alpha ,k-1,N-k)} と比較する。 α {\displaystyle \alpha } は有意水準であり、通常0.05または0.01を用いる。