質問: 分散共分散行列とは? 分散共分散行列のことを調べたのですが、参考になるものがあまり見つかりません。教えてください。 分散共分散行列とは、どのようなもののことを言うのでしょうか? また、どうしてその行列が分散を表しているのでしょうか? その、行列の行列式?が小さければ、分散が小さいといえるのでしょうか? 良く分からないので、詳しい方、ぜひぜひ教えてください。 よろしくお願いします。
回答: 多変数の確率変数の特性値の一種です。簡単のため、まず二変数の確率変数z=(x,y)について説明します。 一般に二つの確率変数x,yがあったとき、cov(x,y)=e[(x-e(x))(y-e(y))]をxとyの共分散と呼びます。共分散は正にも負にもなり、雑にいって正で大きいときはxとyは正の相関を、負で小さいときはxとyは負の相関を持ち、絶対値が小さいときは、xとyは無相関に近くなります。これらの用語はよく使われるので、また調べてみてください。さて、定義からcov(x,x)はxの分散に他なりません。つまり自分との共分散は分散になるというわけです。 そこで、1,1成分にcov(x,x)を、1,2成分にcov(x,y)を、2,1成分にcov(y,x)を、2,2成分にcov(y,y)を並べた2×2の行列をz=(x,y)の分散共分散行列と呼びます。これは正定値の対称行列です。正定値というのは、固有値が全部非負という意味であって、これは通常の分散が非負であることに対応しています。文字通り、分散(対角成分に)と共分散(非対角成分に)が並んだ行列な分けです。 n変数の確率変数z=(x_1,...,x_n)のときは、i,j成分がcov(x_i,x_j)なるn×n行列を、zの分散共分散行列と呼びます。 1変数の正規分布が平均と分散で完全に分布が決定されるように、多変数の正規分布は平均ベクトル(各成分の平均)と分散共分散行列で完全に分布が決まります。この意味で、まさに多変数の分散を表すものが、この分散共分散行列ということがお分かりだと思います。少し難しい言葉を使えば、多変数版の2次モーメントを決定するもの、といえます。