確率伝搬法
sum-productアルゴリズムは熱力学における自由エネルギーと関連がある。Zを分配関数とすると、因子グラフで表現された確率分布
P ( X ) = 1 Z ∏ f j f j ( x j ) {\displaystyle P(\mathbf {X} )={\frac {1}{Z}}\prod _{f_{j}}f_{j}(x_{j})}
は、ある系における内部エネルギーの測度として見ることができる。すなわち
E ( X ) = log  ∏ f j f j ( x j ) . {\displaystyle E(\mathbf {X} )=\log \prod _{f_{j}}f_{j}(x_{j}).}
である。対象の系における自由エネルギーは以下の通りである:
F = U − H = ∑ X P ( X ) E ( X ) + ∑ X P ( X ) log  P ( X ) . {\displaystyle F=U-H=\sum _{\mathbf {X} }P(\mathbf {X} )E(\mathbf {X} )+\sum _{\mathbf {X} }P(\mathbf {X} )\log P(\mathbf {X} ).}
つまり、sum-productアルゴリズムの収束点は、対象の系の自由エネルギーを最小化する点としても表せることを意味している。同様に、ループを含む反復的な確率伝搬法アルゴリズムの固定点は、近似された自由エネルギーの定留点とも見なせる。