階層ベイズモデル

階層ベイズモデル（かいそうべいずもでる、Bayesian hierarchical modeling）は、複数のレベルで記述された、階層形式の統計モデルであり、ベイズ推定を用いて事後分布のパラメータを推定する。サブモデルを組み合わせて階層的なモデルを形成し、ベイズの定理を用いて観測データと統合して、全ての不確実性を考慮した事後分布を得る。 ベイズ統計ではパラメータを確率変数として扱い、主観的な情報に基づき、これらのパラメータの分布を仮定する。このため、頻度論的統計ではベイズ統計とは一見矛楯した結論が得られることがある。設定する問い自体が異なるため厳密に言えば矛楯するものではないが、どちらの答えを重要視するかに違いがある。ベイジアンは、意思決定と信念の更新についての関連情報を無視することはできないこと、対象者から複数の観察データが得られる場合には階層モデリングが古典的な方法を覆す可能性があることを主張する。さらに、このモデルはロバストであることが証明されており、事後分布は、より柔軟な階層的事前分布にはあまり影響されない。 階層モデリングは、複数の異なるレベルの観測単位で情報が得られる場合に使用する。例えば、複数の国の感染経路を記述する疫学モデルでは、観測単位は国であり、国毎に日々の感染者の経時的データが異なる。複数の油田やガス田の産出量の減衰曲線を説明する減衰曲線分析では、観測単位は貯蔵地域の油田またはガス田であり、それぞれに生産率経時的データがある（通常、バレル/月） 。階層モデリングのデータ構造は入れ子状である。階層的な分析・統合は、パラメータがたくさんある問題を理解するのに役立つだけでなく、計算戦略の策定にも重要な役割を果たす。 統計的手法とモデルは、一般に、問題がこれらのパラメータの同時確率モデルの依存性を暗示するような方法で関連または接続されていると見なすことができる複数のパラメータを含む。確率の形で表される個々の信念の程度には、不確実性が伴う。その中で、時間の経過とともに信念の度合いが変化する。ホセ・M・ベルナルド教授とエイドリアン・F・スミス教授が述べたように、「学習プロセスの現実は、現実についての個人的および主観的な信念の進化にある」。これらの主観的な確率は、物理的な確率よりも精神に直接関係している。したがって、ベイジアンが特定のイベントの事前発生を考慮に入れた代替の統計モデルを策定したのは、この信念を更新する必要があるためである。 現実世界で事象が発生した場合、通常、ある選択肢における選好が修正される。これは、選択肢を定義する事象に対して個人が抱く信念の度合いを修正することで行われる。 心臓治療の効果を調べる研究で、病院 j {\displaystyle j} の患者の生存確率を θ j {\displaystyle \theta _{j}} とする。生存確率 θ j {\displaystyle \theta _{j}} は、心臓病患者の生存率を高めると信じる人がいる事象 y {\displaystyle y} の発生で更新される。 イベント y {\displaystyle y} が発生した状況で、 θ j {\displaystyle \theta _{j}} について確率の記述を更新するには、 θ j {\displaystyle \theta _{j}} と y {\displaystyle y} の同時分布 P ( θ , y ) {\displaystyle P(\theta ,\,y)} を与えるモデルから始めなければならない。 これは、事前分布 P ( θ ) {\displaystyle P(\theta )} とサンプリング分布 P ( y ∣ θ ) {\displaystyle P(y\mid \theta )} の積として記述することができる。 P ( θ , y ) = P ( θ ) P ( y ∣ θ ) {\displaystyle P(\theta ,y)=P(\theta )P(y\mid \theta )} 条件付き確率の基本性質から、事後分布は次のようになる。 P ( θ ∣ y ) = P ( θ , y ) P ( y ) = P ( y ∣ θ ) P ( θ ) P ( y ) {\displaystyle P(\theta \mid y)={\frac {P(\theta ,\,y)}{P(y)}}={\frac {P(y\mid \theta )\,P(\theta )}{P(y)}}} この条件付き確率と個々の事象との関係を示す式をベイズの定理という。 この単純な表現の中に、更新された信念 P ( θ ∣ y ) {\displaystyle P(\theta \mid y)} を適切かつ解決可能な方法で組み込むことを目的とするベイズ推定の技術的核心が含まれている。 統計分析は、通常、 n {\displaystyle n} 個の値 y 1 , y 2 , … , y n {\displaystyle y_{1},y_{2},\ldots ,y_{n}} が交換可能であることを仮定することから始める。 θ j {\displaystyle \theta _{j}} を他と区別する情報がデータ y {\displaystyle y} しかなく、パラメータの順序付けやグループ化ができない場合、事前分布においてパラメータ間の対称性を仮定する必要がある。この対称性は、確率的には、交換可能性で表される。 一般的に、分布 P ( θ ) {\displaystyle P(\theta )} に従うパラメーターベクトル θ {\displaystyle \theta } が与えられたとき、独立同分布としてモデル化することが有用かつ適切である。 定数 n に対して、集合 y 1 , y 2 , … , y n {\displaystyle y_{1},y_{2},\ldots ,y_{n}} が交換可能であるとは、同時確率 P ( y 1 , y 2 , … , y n ) {\displaystyle P(y_{1},y_{2},\ldots ,y_{n})} が添え字の順列によらず不変であることをいう。つまり、 1 , 2 , … , n {\displaystyle 1,2,\ldots ,n} を並び替えて得られるすべての順列 π ( π 1 , π 2 , … , π n ) {\displaystyle \pi \,(\pi _{1},\pi _{2},\ldots ,\pi _{n})} に対して次の式が成立する。 P ( y 1 , y 2 , … , y n ) = P ( y π 1 , y π 2 , … , y π n ) . {\displaystyle P(y_{1},y_{2},\ldots ,y_{n})=P(y_{\pi _{1}},y_{\pi _{2}},\ldots ,y_{\pi _{n}}).} x 1 , … , x n {\displaystyle x_{1},\ldots ,x_{n}} が独立同分布ならば交換可能だが、交換可能であっても独立同分布であるとは限らない。 次に、交換可能だが独立同分布ではない例を示す。 壺の中に赤い玉 1 個と青い玉 1 個があり、二分の一の確率でどちらかを取り出すものとする。n 個の中から玉を 1 個取り出して、引いた玉は戻さずに、n - 1 個の中から次の玉を取り出す。 Y i = { 1 , if the  i th ball is red , 0 , otherwise . {\displaystyle Y_{i}={\begin{cases}1,&{\text{if the }}i{\text{th ball is red}},\\0,&{\text{otherwise}}.\end{cases}}} 最初に赤い玉、2 番目に青い玉を取り出す確率も、最初に青い玉、2 番目に赤い玉を取り出す確率も、同じく二分の一であり、 y 1 {\displaystyle y_{1}} と y 2 {\displaystyle y_{2}} とは交換可能である。 P ( y 1 = 1 , y 2 = 0 ) = P ( y 1 = 0 , y 2 = 1 ) = 1 2 {\displaystyle P(y_{1}=1,\,y_{2}=0)=P(y_{1}=0,\,y_{2}=1)={\frac {1}{2}}} しかし、最初に赤い玉を取り出した後で 2 番目に赤い玉を取り出す確率は 0 であり、2 回目に赤い玉を取り出す確率とは等しくない。 P ( y 2 = 1 ∣ y 1 = 1 ) = 0 ≠ P ( y 2 = 1 ) = 1 2 {\displaystyle P(y_{2}=1\mid y_{1}=1)=0\neq P(y_{2}=1)={\frac {1}{2}}} 無限の交換可能性とは、無限数列 y 1 , y 2 , … {\displaystyle y_{1},y_{2},\ldots } のすべての有限な部分集合が交換可能である、という性質である。つまり、任意の n {\displaystyle n} について、数列 y 1 , y 2 , … , y n {\displaystyle y_{1},y_{2},\ldots ,y_{n}} 交換可能である。 階層ベイズモデルでは、以下の 2 つの重要な概念を利用して事後分布を導出する。 ハイパーパラメータ Hyperparameter：事前分布のパラメータ 超事前分布 Hyper prior：ハイパーパラメータの分布 確率変数 Y {\displaystyle Y} が、平均 θ {\displaystyle \theta } 、分散 1 の正規分布に従うと仮定する。このことを、チルダを用いて下記のように表記する。 Y ∣ θ ∼ N ( θ , 1 ) {\displaystyle Y\mid \theta \sim N(\theta ,1)} さらに、パラメータ θ {\displaystyle \theta } が平均 μ {\displaystyle \mu } 、分散 1 の正規分布に従うと仮定する。 θ ∣ μ ∼ N ( μ , 1 ) {\displaystyle \theta \mid \mu \sim N(\mu ,1)} そして、ハイパーパラメータ μ {\displaystyle \mu } が標準正規分布に従うものとする。 μ ∼ N ( 0 , 1 ) {\displaystyle \mu \sim N(0,1)} このようなハイパーパラメータが従う分布を、超事前分布と呼ぶ。 Y {\displaystyle Y} の分布の表記は、別のパラメータを追加することで変化する。 Y ∣ θ , μ ∼ N ( θ , 1 ) {\displaystyle Y\mid \theta ,\mu \sim N(\theta ,1)} ハイパーパラメータ μ {\displaystyle \mu } が平均 β {\displaystyle \beta } 分散 ϵ {\displaystyle \epsilon } の正規分布に従う場合、 β {\displaystyle \beta } と ϵ {\displaystyle \epsilon } もまたハイパーパラメータであり、その分布も超事前分布となる。 μ ∼ N ( β , ϵ ) {\displaystyle \mu \sim N(\beta ,\epsilon )} y j {\displaystyle y_{j}} を観測値、 θ j {\displaystyle \theta _{j}} を y j {\displaystyle y_{j}} のデータ生成過程を支配するパラメータとする。 さらに、パラメータ θ 1 , θ 2 , … , θ j {\displaystyle \theta _{1},\theta _{2},\ldots ,\theta _{j}} が交換可能な形で共通母集団から生成され、その分布がハイパーパラメータ ϕ {\displaystyle \phi } によって規定されるものとする。 階層ベイズモデルには、次の段階が含まれる。 Stage I y j ∣ θ j , ϕ ∼ P ( y j ∣ θ j , ϕ ) {\displaystyle y_{j}\mid \theta _{j},\phi \sim P(y_{j}\mid \theta _{j},\,\phi )} Stage II θ j ∣ ϕ ∼ P ( θ j ∣ ϕ ) {\displaystyle \theta _{j}\mid \phi \sim P(\theta _{j}\mid \phi )} Stage III ϕ ∼ P ( ϕ ) {\displaystyle \phi \sim P(\phi )} 尤度 P ( y j ∣ θ j , ϕ ) {\displaystyle P(y_{j}\mid \theta _{j},\phi )} は θ j , ϕ {\displaystyle \theta _{j},\phi } に依存するが、 ϕ {\displaystyle \phi } は θ j {\displaystyle \theta _{j}} を通してのみ尤度に影響する。 条件付き確率の定義から、 θ j , ϕ {\displaystyle \theta _{j},\phi } の事前分布 P ( θ j , ϕ ) {\displaystyle P(\theta _{j},\phi )} は、超事前分布 P ( ϕ ) {\displaystyle P(\phi )} を用いて、次のように分解できる。 P ( θ j , ϕ ) = P ( θ j ∣ ϕ ) P ( ϕ ) {\displaystyle P(\theta _{j},\,\phi )=P(\theta _{j}\mid \phi )\,P(\phi )} ベイズの定理から、 θ j , ϕ {\displaystyle \theta _{j},\phi } の事後分布　 P ( ϕ , θ j ∣ y ) {\displaystyle P(\phi ,\,\theta _{j}\mid y)} は次のように比例する。 P ( ϕ , θ j ∣ y ) ∝ P ( y j ∣ θ j , ϕ ) P ( θ j , ϕ ) {\displaystyle P(\phi ,\,\theta _{j}\mid y)\propto P(y_{j}\mid \theta _{j},\,\phi )\,P(\theta _{j},\,\phi )} 以上から、 P ( ϕ , θ j ∣ y ) ∝ P ( y j ∣ θ j ) P ( θ j ∣ ϕ ) P ( ϕ ) {\displaystyle P(\phi ,\,\theta _{j}\mid y)\propto P(y_{j}\mid \theta _{j})\,P(\theta _{j}\mid \phi )\,P(\phi )} このことをさらに説明するために、次のような例を考えてみる。ある教師が、生徒の SAT での成績を推定したいものとする。教師は、生徒の高校の成績と現在の GPA（評点平均）に関する情報を使って、推定値を算出する。生徒の現在の GPA を Y {\displaystyle Y} 、SAT の成績を θ {\displaystyle \theta } として、次のように表される。 Y ∣ θ ∼ P ( Y ∣ θ ) {\displaystyle Y\mid \theta \sim P(Y\mid \theta )} SAT の成績は、学年 ϕ {\displaystyle \phi } でインデックスされた共通の母集団分布からのサンプルとみなされる。 θ ∣ ϕ ∼ P ( θ ∣ ϕ ) {\displaystyle \theta \mid \phi \sim P(\theta \mid \phi )} さらに、ハイパーパラメータ ϕ {\displaystyle \phi } は超事前分布 P ( ϕ ) {\displaystyle P(\phi )} が与える分布に従う。 GPAに関する情報に基づいて SAT を予測するには、 P ( θ , ϕ ∣ Y ) ∝ P ( Y ∣ θ , ϕ ) P ( θ , ϕ ) {\displaystyle P(\theta ,\,\phi \mid Y)\propto P(Y\mid \theta ,\,\phi )\,P(\theta ,\,\phi )} P ( θ , ϕ ∣ Y ) ∝ P ( Y ∣ θ ) P ( θ ∣ ϕ ) P ( ϕ ) {\displaystyle P(\theta ,\,\phi \mid Y)\propto P(Y\mid \theta )\,P(\theta \mid \phi )\,P(\phi )} 問題のすべての情報が事後分布を解くために使用される。 事前分布と尤度関数だけを使って解くのではなく、超事前分布を使うことで、より多くの情報を得て、パラメータの振る舞いについてより正確な信念を持つことができる。 一般に、2段階の階層モデルで関心のある共同事後分布は次の通り。 P ( θ , ϕ ∣ Y ) = P ( Y ∣ θ , ϕ ) P ( θ , ϕ ) P ( Y ) = P ( Y ∣ θ ) P ( θ ∣ ϕ ) P ( ϕ ) P ( Y ) {\displaystyle P(\theta ,\phi \mid Y)={P(Y\mid \theta ,\phi )P(\theta ,\phi ) \over P(Y)}={P(Y\mid \theta )P(\theta \mid \phi )P(\phi ) \over P(Y)}} P ( θ , ϕ ∣ Y ) ∝ P ( Y ∣ θ ) P ( θ ∣ ϕ ) P ( ϕ ) {\displaystyle P(\theta ,\,\phi \mid Y)\propto P(Y\mid \theta )\,P(\theta \mid \phi )\,P(\phi )} 3段階の階層モデルの場合、事後分布は次の式で与えられる。 P ( θ , ϕ , X ∣ Y ) = P ( Y ∣ θ ) P ( θ ∣ ϕ ) P ( ϕ ∣ X ) P ( X ) P ( Y ) {\displaystyle P(\theta ,\,\phi ,\,X\mid Y)={\frac {P(Y\mid \theta )\,P(\theta \mid \phi )\,P(\phi \mid X)\,P(X)}{P(Y)}}} P ( θ , ϕ , X ∣ Y ) ∝ P ( Y ∣ θ ) P ( θ ∣ ϕ ) P ( ϕ ∣ X ) P ( X ) {\displaystyle P(\theta ,\,\phi ,\,X\mid Y)\propto P(Y\mid \theta )\,P(\theta \mid \phi )\,P(\phi \mid X)\,P(X)}