事後予測分布

ベイズ統計学における事後予測分布(じごよそくぶんぷ、)とは、ある量についての観測に基づいて予測された将来の観測でのその量が従う確率分布である。

に関する独立同分布な N 回の観測データがあるとき、新たな観測値はパラメータに依存するある分布



に従う。ここで、はパラメータ空間である。

として最良推定のを利用することは魅力的に見えるかもしれない。しかし、これを採用するとの不定性が考慮されなくなる。そして、不定性の源もまた無視されるため、予測分布も極めて狭くなる。

言い換えれば、極端なの観測確率は、パラメータの事後分布が与えるの不定性を考慮した場合と比較して過小評価されることになる。

事後予測分布はの不定性を考慮に入れた分布である。 の事後分布はに依存する:



そして、に基づいたの予測分布は、について周辺化することで得られる:



事後予測分布はの不定性を考慮しているので、一般的にの点推定を利用した予測分布に比べて広い分布を示す。

 事前予測分布と事後予測分布 
ベイズ統計学の文脈において、事前予測分布(英: prior predictive distribution)は事前分布によってを周辺化した分布である。すなわち、 かつであれば、対応する事前予測分布 は次で与えられる:



この概念は、事後分布の代わりに事前分布を利用して周辺化を行っている(期待値を取っているということもできる)ことを除けば、事後予測分布に類似している。

さらに、事前分布がであれば、事後予測分布と事前予測分布は同じ分布族に属する。これは簡単に示すことができる。もし事前分布が共役であれば、以下が成立する:



すなわち、事後確率分布もまたの形を取り、パラメータがからへと変化しただけとなる。すると、



したがって、事後予測分布と事前予測分布とは、(ハイパーパラメータが更新された)同一の分布Hに従う。

事前予測分布は複合確率分布の形で与えられるが、実際には複合確率分布を定義するときに出現することも往々にして存在する。これは、データへの依存や共役性の問題などの複雑な要素がないからである。例としてT分布は、 既知の期待値、未知の分散で特徴付けられる正規分布について、の事前分布としてである(パラメータで特徴付けられる)逆ガンマ分布を利用した場合、事前予測分布は位置尺度T分布となる:

これは共役事前分布であるから、事後予測分布もデータの情報を基に更新されたハイパーパラメータ

で特徴付けられる逆ガンマ分布となる。

適切な複合分布は目下の問題における予測分布にとって最も自然なものとは異なるパラメータを採用して定義される場合がある。 これは、複合分布を定義するために使用された事前分布が、現在の問題で使用されている事前分布と異なるために起こることが多い。上記の例では、 もまた共役事前分布であり、実際尺度つき逆カイ二乗分布と逆ガンマ分布は適切なパラメータ変換のもとで同じ確率分布を記述する。

 脚注 

 関連項目 

 予測
 周辺分布
 最尤推定

Category:ベイズ統計
Category:確率分布論
Category:数学に関する記事