階層ベイズモデル
θ j ∣ φ ∼ P ( θ j ∣ φ ) {\displaystyle \theta _{j}\mid \phi \sim P(\theta _{j}\mid \phi )}
統計的手法とモデルは、一般に、問題がこれらのパラメータの同時確率モデルの依存性を暗示するような方法で関連または接続されていると見なすことができる複数のパラメータを含む。確率の形で表される個々の信念の程度には、不確実性が伴う。その中で、時間の経過とともに信念の度合いが変化する。ホセ・M・ベルナルド教授とエイドリアン・F・スミス教授が述べたように、「学習プロセスの現実は、現実についての個人的および主観的な信念の進化にある」。これらの主観的な確率は、物理的な確率よりも精神に直接関係している。したがって、ベイジアンが特定のイベントの事前発生を考慮に入れた代替の統計モデルを策定したのは、この信念を更新する必要があるためである。
φ ∼ P ( φ ) {\displaystyle \phi \sim P(\phi )}
尤度 P ( y j ∣ θ j , φ ) {\displaystyle P(y_{j}\mid \theta _{j},\phi )} は θ j , φ {\displaystyle \theta _{j},\phi } に依存するが、 φ {\displaystyle \phi } は θ j {\displaystyle \theta _{j}} を通してのみ尤度に影響する。
条件付き確率の定義から、 θ j , φ {\displaystyle \theta _{j},\phi } の事前分布 P ( θ j , φ ) {\displaystyle P(\theta _{j},\phi )} は、超事前分布 P ( φ ) {\displaystyle P(\phi )} を用いて、次のように分解できる。
P ( θ j , φ ) = P ( θ j ∣ φ ) P ( φ ) {\displaystyle P(\theta _{j},\,\phi )=P(\theta _{j}\mid \phi )\,P(\phi )}