因子分析
E [ ε ] = 0 , V a r [ ε ] = Ψ {\displaystyle \mathrm {E} [{\boldsymbol {\varepsilon }}]=\mathbf {0} ,\quad \mathrm {Var} [{\boldsymbol {\varepsilon }}]={\boldsymbol {\Psi }}} ( Ψ {\displaystyle {\boldsymbol {\Psi }}} は対角行列; 異なる変数に対する独自因子は無相関)
であるという仮定がおかれる。
この仮定を用いて,観測された変数 x {\displaystyle \mathbf {x} } の分散共分散行列を考えると
V a r [ x ] = E [ ( x − μ ) ( x − μ ) t ] = Σ = Λ Φ Λ t + Ψ {\displaystyle \mathrm {Var} [\mathbf {x} ]=\mathrm {E} [(\mathbf {x} -{\boldsymbol {\mu }})(\mathbf {x} -{\boldsymbol {\mu }})^{t}]={\boldsymbol {\Sigma }}={\boldsymbol {\Lambda }}{\boldsymbol {\Phi }}{\boldsymbol {\Lambda }}^{t}+{\boldsymbol {\Psi }}}
となり、観測変数の分散共分散行列がパラメータ行列で構造化されていることがわかる。
ここでは分散共分散行列が構造化されると述べたが、通常のパラメータ推定手順においては観測変数 x {\displaystyle \mathbf {x} } を前もって標準化しておくことで、分散共分散行列ではなく相関係数行列に上記の構造化を考える。