ベイジアンネットワーク

ベイジアンネットワーク（）は、因果関係を確率により記述するグラフィカルモデルの1つで、複雑な因果関係の推論を有向非巡回グラフ構造により表すとともに、個々の変数の関係を条件つき確率で表す確率推論のモデルである。ネットワークとは重み付けグラフのこと。

定義 
確率分布は確率変数をノード、変数間関係をリンクとするグラフ/ネットワークで表現できる（確率的グラフィカルモデル）。このうちリンクが向きを持ち依存関係が巡回しないもの（有向非巡回グラフ）は次の名称で呼ばれる。

 ベイジアンネットワーク（）
 有向グラフィカルモデル（）
 有向確率モデル（）
 有向確率的グラフィカルモデル（）
その有向非巡回性から確率変数群の同時分布は次のように表現できる：

 
すなわち同時分布が親ノードで条件付けられた確率の積として記述できる。

特徴 
確率分布を有向グラフと捉えることにより、グラフを用いた解析が可能になる。また有向グラフであるため変数間の因果関係をリンクで表現できる。ベイジアンネットワーク上で確率推論を行うことで、複雑でかつ不確実な事象の起こりやすさやその可能性を予測することができる。これまで蓄積された情報をもとに、起こりうる確率をそれぞれの場合について求め、それらを起こる経路に従って計算することで、複雑な経路を伴った因果関係の発生確率を定量的に表すことが可能となる。

ベイジアンネットワークは有向非巡回構造を仮定したモデルであり、（この構造を必要としない）同時分布を直接モデル化するのではなく、条件付き確率モデルの組み合わせで表現される場合が多い。

モデルの簡単な例 
確率変数A、B、Cの間の条件付依存性をA→C、B→Cと表し、リンクの元となる親ノードをAやB、リンクの先にくる子ノードをCとする時、Aが起こる確率をP(A)、Aが既に起こったときにCとなる条件付確率をP(C|A)のように表すこととすると、Cが起こりうる確率は、P(A,B,C)=P(C|A,B)P(A)P(B)となる。

色々な因果関係に対し、グラフ上の各ノードに対応する確率変数として表現する方法やルールが定められている。複雑な系においても、各ノードにおける条件付確率表やベイズの定理等を用いながら、それぞれの確率を計算でき、確率的な依存関係をモデル化できる。

応用例 
医者の診断、イメージ認識、言語認識、選択アルゴリズム など、1980年代から各種の応用例が報告されている。

最適化 
分布  をベイジアンネットワークによってモデル化するための様々な最適化手法が存在する。

全観測モデル 
全ての変数が観測変数であるベイジアンネットワークでは最尤推定が利用できる。

まず、このモデルは次の式で表現される：

最尤推定の目標関数である対数尤度を考えると、

すなわち条件付き確率分布の対数の和が対数尤度となる。

前提より全ての変数が観測変数であるため、 からサンプリングされた標本を用いて全ての条件付き確率分布値が計算できる。ゆえに対数と和で対数尤度が計算可能となり、分布が微分可能であれば勾配降下法により  の最適化が実現する。

潜在変数モデル 
ベイジアンネットワークを採用した潜在変数モデルの場合、全観測モデルの場合と異なり最適化は容易でない。

歴史 
ジューディア・パールが1985年に命名した。ジューディア・パールはこの研究の功績によりチューリング賞を受賞した。
人工知能の分野では、ベイジアンネットワークを確率推論アルゴリズムとして1980年頃から研究が進められ、既に長い研究と実用化の歴史がある。

関連書籍

脚注

関連項目
 グラフィカルモデル
ベイジアンネットワーク: 確率的グラフィカルモデルのうち有向非巡回グラフを用いたもの
: 確率的グラフィカルモデルのうち無向グラフを用いたもの
確率伝搬法
 ベイズ確率
 ベイズ推定

確率論

因果推論
トーマス・ベイズ
エポニム