ランダム効果モデル
Y i , j {\displaystyle Y_{i,j}} の分散は、 U i {\displaystyle U_{i}} の分散 τ 2 {\displaystyle \tau ^{2}} および W i , j {\displaystyle W_{i,j}} の分散 σ 2 {\displaystyle \sigma ^{2}} の和に等しい。
Y ̄ i , ∙ = 1 n ∑ j = 1 n Y i , j {\displaystyle {\overline {Y}}_{i,\bullet }={\frac {1}{n}}\sum _{j=1}^{n}Y_{i,j}}
を i {\displaystyle i} 番目の学校におけるスコアのうち無作為標本に含まれるものの平均値とすると、
Y ̄ ∙ , ∙ = 1 m n ∑ i = 1 m ∑ j = 1 n Y i j {\displaystyle {\overline {Y}}_{\bullet ,\bullet }={\frac {1}{mn}}\sum _{i=1}^{m}\sum _{j=1}^{n}Y_{ij}}
が総平均となる。
S S W = ∑ i = 1 m ∑ j = 1 n ( Y i , j − Y ̄ i , ∙ ) 2 {\displaystyle \mathrm {SSW} =\sum _{i=1}^{m}\sum _{j=1}^{n}(Y_{i,j}-{\overline {Y}}_{i,\bullet })^{2}\,}