ベータ分布のモーメント母関数

# 概要
例えばコイン投げで考えます。表が出る確率 $x$ が不明で、実際投げてみたところ、表が $\alpha$ 回、裏が $\beta$ 回出た場合、$x$ の確率分布を表すのがベータ分布となります。

ベータ分布の導出などについては @kilometer さんの[β分布](https://qiita.com/kilometer/items/3780f172bd314e934281)がわかりやすいので、こちらを参考にしてもらうとよいでしょう。

ここではベータ分布のモーメント母関数の導出にフォーカスします。そして、それを用いて期待値と分散を導出します。

# モーメント母関数
ベータ分布の確率密度関数を $B(x; \alpha, \beta)$ とすると、モーメント母関数 $M_B(\theta)$ は以下のように求められます。

```math
\begin{array}{rcl}
  M_B(\theta) & = &
  \displaystyle{
    \int^1_0 B(x; \alpha, \beta) e^{\theta x} dx
  } \\
  & = &
  \displaystyle{
    \frac{\Gamma(\alpha+\beta)}{\Gamma(\alpha)\Gamma(\beta)}
    \int^1_0 x^{\alpha-1}(1-x)^{\beta-1}e^{\theta x} dx
  } \\
  & = &
  \displaystyle{
    \frac{\Gamma(\alpha+\beta)}{\Gamma(\alpha)\Gamma(\beta)}
    \int^1_0 x^{\alpha-1}(1-x)^{\beta-1}
    \sum^\infty_{k=0}\frac{(\theta x)^k}{k!} dx
  } \\
  & = &
  \displaystyle{
    \frac{\Gamma(\alpha+\beta)}{\Gamma(\alpha)\Gamma(\beta)}
    \sum^\infty_{k=0}\frac{\theta^k}{k!}
    \int^1_0 x^{\alpha+k-1}(1-x)^{\beta-1} dx
  }
\end{array}
```

3行目では指数関数のテーラー展開を利用しています。最終行の定積分は、ベータ分布の正規化の時に行ったことと同じ要領で部分積分を繰り返すことによって得られます(後述の補足にて説明します)。すなわち、

$$
  \int^1_0 x^{\alpha+k-1}(1-x)^{\beta-1} dx =
  \frac{(\beta-1)!}{(\alpha+\beta+k-1)(\alpha+\beta+k-2)\cdots(\alpha+k)}
$$

以上を代入すると、

```math
\begin{array}{rcl}
  M_B(\theta) & = &
    \displaystyle{
    \frac{\Gamma(\alpha+\beta)}{\Gamma(\alpha)\Gamma(\beta)}
    \sum^\infty_{k=0}\frac{\theta^k}{k!}
  \frac{(\beta-1)!}{(\alpha+\beta+k-1)(\alpha+\beta+k-2)\cdots(\alpha+k)}
    } \\
  & = &
    1 + 
    \displaystyle{
      \sum^\infty_{k=1}\frac{\theta^k}{k!}
      \prod^{k-1}_{m=0}\frac{\alpha+m}{\alpha+\beta+m}
    } 
\end{array}
```

これがベータ分布のモーメント母関数となります[^1]。

[^1]: @genkuroki さんから [コメント](https://twitter.com/genkuroki/status/1487027483912605697) をいただき、Kummer の第1種合流型超幾何函数 ${}_1F_1$ の基本解の積分表示を知っていると、その解が合流型超幾何級数として書けることからモーメント母関数が得られることがわかります。合流型超幾何函数については、たとえば [特殊関数 グラフィックスライブラリー](http://math-functions-1.watson.jp/sub1_spec_240.html) が参考になります。$a=\alpha$, $b=\alpha+\beta$ とパラメタを置き換えることで上述と同じ級数が得られます。

# 期待値
期待値 $E[x]$ はモーメント母関数の一回微分に対して $\theta=0$ を代入したものになるので、

```math
\begin{array}{rcl}
  E[x] & = &
  \displaystyle{
    \frac{d M_B}{d\theta}\Bigg|_{\theta=0}
  } \\
  & = &
  \displaystyle{
    \sum^\infty_{k=1}\frac{\theta^{k-1}}{(k-1)!}
    \prod^{k-1}_{m=0}\frac{\alpha+m}{\alpha+\beta+m}\Bigg|_{\theta=0}
  } \\
  & = &
  \displaystyle{
    \frac{\alpha}{\alpha+\beta}
  }
\end{array}
```

# 分散
分散 $V[x]$ はモーメント母関数を使って以下のように求められる。

```math
\begin{array}{rcl}
  V[x] & = &
  \displaystyle{
    \frac{d^2 M_B}{d\theta^2}\Bigg|_{\theta=0}
  } - E[x]^2 \\
  & = &
  \displaystyle{
    \sum^\infty_{k=2}\frac{\theta^{k-2}}{(k-2)!}
    \prod^{k-1}_{m=0}\frac{\alpha+m}{\alpha+\beta+m}\Bigg|_{\theta=0}
    - \left(\frac{\alpha}{\alpha+\beta}\right)^2
  } \\
  & = &
  \displaystyle{
    \prod^{1}_{m=0}\frac{\alpha+m}{\alpha+\beta+m}
    - \left(\frac{\alpha}{\alpha+\beta}\right)^2
  } \\
  & = &
  \displaystyle{
    \frac{\alpha\beta}{(\alpha+\beta)^2(\alpha+\beta+1)}
  }
\end{array}
```

# 補足
部分積分のところを改めて丁寧に計算しておきます。被積分関数が $x$ の冪関数と $(1-x)$ の冪関数の積であるので、作戦としては、部分積分によって $x$ の冪関数を積分、$(1-x)$ の冪関数を微分することを繰り返し、$(1-x)$ の冪関数をなくすことを考えます。

```math
\begin{array}{cl}
  & \displaystyle{
    \int^1_0 x^{\alpha+k-1}(1-x)^{\beta-1} dx
  } \\
  = &
  \displaystyle{
    \left[
      \frac{1}{\alpha+k}x^{\alpha+k}(1-x)^{\beta-1}
    \right]^1_0
    + \int^1_0 \frac{\beta-1}{\alpha+k}x^{\alpha+k}(1-x)^{\beta-2} dx
  } \\
  = &
  \displaystyle{
    \int^1_0 \frac{\beta-1}{\alpha+k}x^{\alpha+k}(1-x)^{\beta-2} dx
  } \\
  = &
  \displaystyle{
    \left[
      \frac{\beta-1}{(\alpha+k)(\alpha+k+1)}x^{\alpha+k+1}(1-x)^{\beta-2}
    \right]^1_0
    + \int^1_0 \frac{(\beta-1)(\beta-2)}{(\alpha+k)(\alpha+k+1)}x^{\alpha+k+1}(1-x)^{\beta-3} dx
  } \\
  = &
  \displaystyle{
    \int^1_0 \frac{(\beta-1)(\beta-2)}{(\alpha+k)(\alpha+k+1)}x^{\alpha+k+1}(1-x)^{\beta-3} dx
  } \\
  = & \cdots (部分積分を繰り返す) \cdots \\
  = &
  \displaystyle{
    \left[
      \frac{(\beta-1)\cdots 2}{(\alpha+k)\cdots(\alpha+k+\beta-2)}x^{\alpha+k+\beta-2}(1-x)dx
    \right]^1_0
  } \\
   & \displaystyle{
    + \int^1_0 \frac{(\beta-1)\cdots 1}{(\alpha+k)\cdots(\alpha+k+\beta-2)}x^{\alpha+k+\beta-2} dx
  } \\
  = &
  \displaystyle{
    \int^1_0 \frac{(\beta-1)\cdots 1}{(\alpha+k)\cdots(\alpha+k+\beta-2)}x^{\alpha+k+\beta-2} dx
  } \\
  = &
  \displaystyle{
    \left[\frac{(\beta-1)\cdots 1}{(\alpha+k)\cdots(\alpha+k+\beta-1)}x^{\alpha+k+\beta-1}\right]^1_0
  } \\
  = &
  \displaystyle{
    \frac{(\beta-1)\cdots 1}{(\alpha+k)\cdots(\alpha+k+\beta-1)}
  }
\end{array}
```

なお部分積分で現れる区間 $[0, 1]$ における定積分の値は最後を除いて全て 0 になります。