一般化線形モデル
下記のように尤度関数を定める。
L ≡ log  f ( y ; θ , φ ) = y θ − a ( θ ) φ + c ( y , φ ) {\displaystyle L\equiv \log {f(y;\theta ,\phi )}={\frac {y\,\theta -a(\theta )}{\phi }}+c(y,\phi )}
このとき、下記等式が成立する。
E ( ∂ L ∂ θ ) = 0 , E ( ∂ 2 L ∂ θ 2 ) = − E ( ∂ L ∂ θ ) 2 {\displaystyle E\left({\frac {\partial L}{\partial \theta }}\right)=0,\;E\left({\frac {\partial ^{2}L}{\partial \theta ^{2}}}\right)=-E\left({\frac {\partial L}{\partial \theta }}\right)^{2}}
この等式を用いて計算すると、確率変数 Y {\displaystyle Y} の平均は a ′ ( θ ) {\displaystyle a'(\theta )} 、分散は φ a ′′ ( θ ) {\displaystyle \phi \,a''(\theta )} であることが分かる。
下記の他、多くの確率分布が指数分布族に分類される。
正規分布
ベルヌーイ分布
ポアソン分布
二項分布
ガウス分布