多変量正規分布

\det(\boldsymbol\Sigma)^{-\frac{1}{2}} \, e^{ -\frac{1}{2}(\mathbf{x} - \boldsymbol\mu)^}} \boldsymbol\Sigma^{-1}(\mathbf{x} - \boldsymbol\mu) },</math>存在するのは Σ が正定値行列であるときに限る。
 | 分布関数 = 
 | 期待値 = μ
 | 中央値 =
 | 最頻値 = μ
 | 分散 = Σ
 | 尖度 = 
 | 歪度 = 
 | エントロピー = formula_1
 | モーメント母関数 = formula_2
 | 特性関数 = formula_3
確率論と統計学において、多変量正規分布（たへんりょうせいきぶんぷ、）または多次元正規分布、あるいは結合正規分布（）、もしくはこれらの語で「正規分布」を「ガウス分布」に換えたもの、は1次元の正規分布を高次元へと一般化した確率分布である。が "k" 変量正規分布に従うとは、それらの "k" 個の成分（実数値確率変数）の任意の（実係数）線型結合が1変量正規分布に従うことを言う。この分布の重要性は主として、多変数の場合の中心極限定理の分布収束先として現れることによる。多変量正規分布はしばしば、少なくとも近似的に、互いに相関を持ち、平均ベクトルの周辺に値が集中するような確率変数の組を記述するのに用いられる。
記法とパラメータ.
"k" 次元ベクトル値確率変数 formula_4 が多変量正規分布に従っていることを、次のように記す：
もしくは "X" が "k" 次元であることを明示して
と書くこともある。
ここで "k" 次元平均ベクトルは
であり、formula_8 分散共分散行列は
（ただし formula_10）である。分散共分散行列の逆行列は精度行列（precision matrix）と呼ばれ、formula_11 と記す。
定義.
標準正規確率変数ベクトル.
実数値確率変数から成るベクトル formula_12 が標準正規確率変数ベクトル（standard normal random vector）であるとは、それらの成分 formula_13 が独立であって、いずれも平均 0、分散 1 の正規分布に従っている（全ての formula_14 に対し、formula_15）ことを言う。
中心化正規確率変数ベクトル.
実数値確率変数から成るベクトル formula_12 が中心化正規確率変数ベクトル（centered normal random vector）であるとは、 formula_17 実成分定行列 formula_18 が存在して、formula_19 が formula_20 と同一の確率分布に従うことを言う。ここで formula_21 は formula_22 次元標準正規確率変数ベクトルである。
正規確率変数ベクトル.
確率変数ベクトル formula_12 が正規確率変数ベクトルであるとは、formula_22 成分の標準正規確率変数ベクトル formula_21、formula_26 次元平均ベクトル formula_27、および formula_17 行列 formula_18 があって、 formula_30 と書けることを言う。
形式的に表すと：
このとき共分散行列は formula_31 となる。
共分散行列が非正則である（退化している）場合、対応する多変量正規分布は（連続であるような）確率密度関数を持たない。このような事態は統計学ではしばしば起こり、例えば、最小二乗法における残差ベクトルがそうした分布に従うことがある。
また、ここでの成分 formula_32 の集まりは一般的には独立な確率変数ではないことに注意する。これらは独立な正規確率変数の集まり formula_21 に行列 formula_18 を作用させたものである。
同値な定義.
上記の定義で用いた条件は、以下のいずれの条件とも同値である。ベクトル値確率変数 formula_35 はこれらのいずれかが成り立つとき、多変量正規分布に従うと言う。
球面正規分布（spherical normal distribution）とは、どんな直交座標系で表示しても確率変数ベクトルの各成分が独立となるような分布、と特徴付けられる。
性質.
確率密度関数.
非退化の場合.
多変量正規分布が非退化であるとは、共分散行列 formula_41 が正定値であることである。この場合、分布は次の形の確率密度関数を持つ。
</math>
ここで formula_45 は実 "k" 次元列ベクトルで、formula_46 は formula_41 の行列式である。formula_41 が formula_49 行列（つまり単一の実数）である場合、この式は1変量正規分布の確率密度関数に帰着する。
の場合はこれとはわずかに違った形のものになる。
"k+1" 次元空間内の任意の「等高線」、つまり確率密度関数の値が等しくなるような点の集合は、楕円またはその高次元対応物となる。よって多変量正規分布はの特別な場合である。
記述統計量 formula_50 はマハラノビス距離として知られ、試験ベクトル formula_45 と平均ベクトル formula_52 との一種の距離を表す。formula_53 の場合、これは標準得点の絶対値に帰着する。
2変量の場合.
2次元で非退化の場合（）、ベクトル （右肩のダッシュは転置を表す）の確率密度関数は、
となる。ここで "ρ" は "X" と "Y" の相関係数であり、formula_55 かつ formula_56 である。このとき、
2次元のときは、多変量正規分布であるための同値な条件として挙げた最初の方は、やや緩められる：
2変数の場合の等高線を "x,y"-平面にプロットすると楕円になる。相関係数 "ρ" が大きくなっていくとき、楕円は次の直線：
の方向に向かって押しつぶされていく。この背景として、この式の sgn("ρ") （"sgn" は符号関数）を "ρ" に取り換えたものは、"X" の値が与えられたときの "Y" の（best linear unbiased prediction）になっているという性質がある。
結合分布の正規性.
正規分布と独立性.
確率変数 formula_59 と formula_60 が正規分布に従い、独立であるならば、これらの結合分布は結合正規分布である。つまり、対 formula_61 は2変量正規分布に従う。しかしながら、多変量正規分布に従う確率変数ベクトルの相異なる2成分は独立であるとは限らない。それらが独立であるのは無相関（formula_62）の場合に限られる。
正規分布に従う確率変数の対は、必ずしも2変量正規分布には従わない.
2個の確率変数 formula_59 と formula_60 がいずれも正規分布に従っているとしても、それらの対 formula_61 は必ずしも2変量正規分布には従わない。次のように簡単な例（反例）が構成できる。
3変数以上の場合も同様に反例が構成できる。一般に、こうした確率変数の和によってが作られる。
相関と独立性.
一般に、2個の確率変数が無相関であっても独立であるとは限らない。しかし、確率変数ベクトルが多変量正規分布に従っている場合、その2個以上の成分が互いに無相関であれば、それらは独立である。特に、これらがであれば、独立である。
しかしながら、すぐ上で指摘した例からわかるように、2個の確率変数が正規分布に従い、かつ無相関であるからといって、それらが独立であるとは限らない（"X" と "Y" の相関係数が 0 となるよう定数 "c" を選べばよい）。
周辺分布.
多変量正規分布に従う確率変数ベクトルから、その中のいくつかの成分を抜き出した確率変数の組が従う周辺分布を得るには、単に平均ベクトル、分散共分散行列から無関係な成分を除けばよい。これが成り立つことは、多変量正規分布の定義と線形代数によって証明できる。
例.
 が多変量正規分布に従うとし、平均ベクトルを 、分散共分散行列を Σ とする。
このとき の周辺分布は再び多変量正規分布であり、その平均ベクトルは 、分散共分散行列は
である。
アフィン変換.
formula_72 で がそのアフィン変換であるとき（c は formula_73 定ベクトル、B は formula_74 定行列）、Y も多変量正規分布に従い、平均ベクトルは 、分散共分散行列は BΣBT である（つまり formula_75）。
特に、成分 "Xi" たちの任意の部分集合が従う周辺分布は再び多変量正規分布になる。例えば、部分集合 ("X"1, "X"2, "X"4)T を直接抜き出してくるには、行列
を使えばよい。
別の系として、多変量正規分布に従う X と定ベクトル b のドット積をとった は、1変量正規分布に従う（formula_77）。
と考えればよい。Σ の正定値性（半正定値性）から、ドット積をとった確率変数の分散は正（非負）になる。
X のアフィン変換 2X は、X と同一の分布に従う2個の独立な確率変数の和とは別物である。
母数の推定.
確率密度関数が
である多変量正規分布に従う大きさ "n" の標本から、共分散行列を推定することを考える。この場合の最尤推定量は
であり、これは単純に標本共分散行列を計算したものである。ただし不偏推定量ではなく、期待値は
となる。よって
とすれば不偏推定量になる。多変量正規分布の母数の推定において、フィッシャー情報行列は閉じた式で書け、例えばクラメール・ラオの限界の算出に用いられる。詳細はフィッシャー情報量を参照。
多変量正規分布からのサンプリング.
平均ベクトル μ、分散共分散行列 Σ の "N" 次元正規分布に従う乱数ベクトルを生成する方法として、以下に述べるような手法が広く用いられている。