経済数学（法政用）：第１４章
細矢祐誉
テーマ：期待値と分散、共分散・期待値ある確率分布があって、その累積分布関数 F が与えられているとき、その期待値とは、∫ ∞E(x) =xdF−∞で与えられる。
もちろん、関数 x は有界ではないので、期待値はすべての確率に対して定義できるものではない。例として、経済学で有名な「サンクトペテルブルグの逆説」と呼ばれる賭けを紹介しよう。この賭けは、以下のステップで行われる。

1. 参加者は X 円の参加費を払う。
2. 参加者はコインを投げて、表か裏かを見る。裏が出たらそこで終わり、表が出たら続けて投げることができる。

3. 投げた回数を n としたとき、賭けの報酬は 10 × 2n−1 円である。
この賭けの分布関数は離散型であり、10 × 2n−1 に 2−n の確率を割り振る形になっている。期待値を取ると、

1
11+ 20 × + 40 × + ... = 5 + 5 + 5 + ... = +∞248となって、この賭けの期待値は +∞ に発散している。
10 ×

では、この賭けはいくら払っても期待値的には得なのだから参加するか？と言えば、X がたとえば 10 万円だったら参加する人間はほぼいないだろう。この例は「人はリスクのある出来事に対して、期待値だけを見て参加することはない」ということを表しているが、同時に「我々は簡単に期待値が存在しない分布を作れてしまう」ということも意味している。
しかし、そうはいっても実用的な多くの分布は有限の期待値を持っている。そして、それらを用いて分析する手法も議論されている。さしあたり、前回紹介した幾何分布について期待値を計算すると、

E(x) = p × 1 + p(1 − p) × 2 + p(1 − p)2 × 3 + ...
= p[1 + 2(1 − p) + 3(1 − p)2 + ...]

という値になる。ダランベールの収束判定定理を用いれば、この括弧の中身が収束することが示せるので、この値は有限である。一方で、(1 − p)E(x) = p[(1 − p) + 2(1 − p)2 + 3(1 − p)3 + ...]を上から引き算すると、

pE(x) = p[1 + (1 − p) + (1 − p)2 + (1 − p)3 + ...]となる。括弧内に出てくるのは等比級数なので、等比級数の和の公式

1 + a + a2 + ... =11−aを a = 1 − p に適用すれば、

pE(x) = p ×

1=11−1+pとなり、よってE(x) =1pが得られる。
ポワソン分布の場合はどうであろうか？

やってみると、

λe−λλ2 e−λλ3 e−λ+2×+3×+ ...
1!
2!
3!
λλ21+ ...]= λe−λ [ + +0! 1!
2!

E(x) = 0 × e−λ + 1 ×を得る。括弧内は有名な ex のマクローリン展開

ex =1111+ x + x2 + x3 + ...
0! 1!
2!
3!の x に λ を代入した値なので、結局

E(x) = λe−λ eλ = λとなる。
このように、多くの分布は期待値を持つ。この期待値が持つ意味については、後ほど解説する。

・正規分布

正規分布と呼ばれる確率分布の累積分布関数は、

1F (x) = √2πσ 2∫ x(y−µ)2e− 2σ2 dy−∞で与えられる。
これが正しく分布関数であることを示すためには、

lim F (x) = 1x→∞でなければならない。つまり、∫ ∞(x−µ)2e− 2σ2 dx =√2πσ 2−∞である必要がある。これを示すのには、数学で有名な次の公式（証明はしない）∫ ∞2ex dx =√π−∞x−µを利用する。上の積分の式を変数変換 y = √で計算すると、dy = √ 1 2 dx だから、22σ∫ ∞2σ(x−µ)2e− 2σ2 dx−∞

∫ ∞√√22σ 2 e−y dy = 2πσ 2=−∞となって、確かに正しいことが確かめられる。
正規分布については、E(x) = µ, E(x2 ) = σ 2 + µ2 となることが知られているが、これの証明は省略する。

・大数の法則と中心極限定理
いま、X1 , ..., XN が同じ分布に従う確率変数だとする。このとき、

1[X1 + ... + XN ]N
は、統計学で標本平均と呼ばれるものである。
我々は Xi が従う確率自体を知ることができないので、その性質を知る方法が欲しい。
特に、たとえば Xi の分布の期待値などは、上の標本平均の値と似た値であってくれないと、困る。これは、たとえばポワソン分布などを考えれば、λ は元々上の標本平均から類推された値だったのだから、期待値 λ と標本平均が無関係であってくれると困るのである。しかし、標本平均と期待値は、少なくとも数学的には、違う概念である。これらに関係はあるのか？
ここで、用語をいくつか付け足しておこう。ある確率変数 YN が Y に確率収束するとは、どんな小さな数 ε > 0 を取って来ても、

lim P (|YN − Y | > ε) = 0

N →∞が成り立つことを言う。一方、YN が Y に概収束するとは、P ( lim YN = Y ) = 1
N →∞であることを言う。このふたつは違う概念であるが、一般に概収束の方が、確率収束よりも強い。
なんらかの条件下で標本平均 YN が Xi の期待値 E(x) に確率収束する、という定理を、弱い大数の法則 (weak law of large numbers) と呼ぶ。一方で、やはりなんらかの条件下で標本平均 YN が E(x) に概収束する、という定理を、強い大数の法則 (strong law oflarge numbers) と呼ぶ。
一般に、弱い大数の法則を示すのには、E(Xi Xj ) = E(Xi )E(Xj ) が常に成り立っていればよい。この条件が成り立つことを、Xi と Xj は無相関であると言う。一方、
強い大数の法則を示すためにはこれだけではダメで、どんな関数 f, g に対しても、E(f (Xi )g(Xj )) = E(f (Xi ))E(g(Xj )) が成り立たなければならない。この条件が成り立つことを、Xi と Xj は独立であると言う。
ともかく、大数の法則は確率論の基礎のひとつである。これは、標本の数が十分に多ければ、標本平均は真の期待値の推定値として使ってよいことを意味する。
一方、標本平均と真の期待値の差、いわゆる推定誤差はどう評価されるだろうか。これについては、X1 , ..., XN が独立であるとして、

1[X1 + ... + XN ] − E(x)Nを計算すると、N → ∞ とすれば、これは強い大数の法則から 0 に概収束する。より興味深い結果は、これに√N を掛けた値、つまりZN =[X1 + ... + XN ] − N E(x)√Nである。十分に N が大きいとき、ZN の分布関数は、µ = 0, σ = 1 の正規分布の分布関数に近づいていくことがわかっている。この結果を中心極限定理 (central limitationtheorem) と呼ぶ。

中心極限定理のよいところは、Xi の分布関数がなんであろうと成り立つことである。
これによって、統計学者は本来の分布が知らなくてもだいたいの計算ができることになる。すべての状態を調査することが難しい社会科学において、分布の特性がわからなくても分析できるこれらの定理は極めて重要な意味を持つ。

・分散と共分散期 待 値 E(x) が 実 数 で 与 え ら れ る よ う な 、分 布 関 数 F で 表 さ れ る 確 率 の 分 散(variance)V (x) とは、E(x2 ) − (E(x))2 のことである。積分で書くと、∫ ∞x dF −2−∞)2(∫ ∞xdF−∞である。
期待値が存在しない分布があるように、分散が定義できない分布も存在する。
分散の定義で注意するべきことは、これはE((x − E(x))2 )と書いても同値だということである。実際、スティルチェス積分の定義から∫ bcdF = c(F (b) − F (a))aとなるので、limx→−∞ F (x) = 0 と limx→∞ F (x) = 1 からただちに∫ ∞cdF = c−∞であることがわかる。したがって c = (E(x))2 に適用して整理してみると、E((x − E(x))2 ) = E(x2 − 2E(x)x + (E(x))2 )= E(x2 ) − E(2E(x)x) + E((E(x))2 )= E(x2 ) − 2E(x)E(x) + (E(x))2= E(x2 ) − (E(x))2 = V (x)となって、たしかに正しいことがわかる。
分散に続いて共分散 (covariance)Cov(x, y) の説明をしたいのだが、これについては多少補足を要する。いま、F (x, y) という二変数関数を考え、これが以下の条件を満たすとしよう。

1) F は単調非減少。
2) limx→−∞,y→−∞ F (x, y) = 0 で、limx→∞,y→∞ F (x, y) = 1 である。
確率論的には、F は X と Y というふたつの確率変数の分布を表している。つまり、

F (x, y) は X が x 以下で、Y が y 以下である確率を表している。当然ながら、たとえばここから X だけの分布を得るためには、

FX (x) = lim F (x, y)y→∞を分布関数と見ればよい。同様に、

FY (y) = lim F (y)x→∞を分布関数として見れば、これが Y の分布関数である。
さて、F についてスティルチェス重積分をする。この定義は、重積分の定義自体をやっていないのでわかりにくいが、必要あれば Fubini の定理という定理を自習して欲しい。
さしあたり、ふんわりと∫ ∞∫ ∞
E(f (x, y)) = EF (f (x, y)) =f (x, y)dF−∞−∞という概念が定義できると考えよう（もちろん、リーマン和を正方形で議論して、厳密な議論をすることはそれほど難しくないので、チャレンジ精神のある学生はやってみて欲しい）。このとき、Cov(x, y) = E(xy) − E(x)E(y)として定義される。
分散の時と同様に、

Cov(x, y) = E((x − E(x))(y − E(y)))という公式が成り立つ。証明は学生各自で行うこと。と こ ろ で 、先 ほ ど の 重 積 分 に つ い て 興 味 深 い 結 果 が あ る 。い ま 、L2c を 連 続 で 、E((f (x, y))2 ) が実数になるような関数 f (x, y) をすべて集めてできた集合としよう。この集合上で、∥f ∥ =√E((f (x, y))2 )としてノルム (norm) を定義し、また

f · g = E(f (x, y)g(x, y))として内積 (inner product) を定義する。ノルムは定義できるが内積は定義できるかどうかわからないじゃないか、と思われるかもしれないが、実は定義できる。実際、

0 ≤ |f (x, y)g(x, y)|1≤ (f (x, y) + g(x, y))22であるが、0 ≤ (f (x, y) + g(x, y))2 ≤ 4 max{(f (x, y))2 , (g(x, y))2 } ≤ 4[(f (x, y))2 + (g(x, y))2 ]なので、0 ≤ E((f (x, y) + g(x, y))2 ) ≤ 4E((f (x, y))2 ) + E((g(x, y))2 ) < ∞となる。したがって

0 ≤ E(|f (x, y)g(x, y)|) < ∞であるが、一方で

h+ (x, y) = max{f (x, y)g(x, y), 0}, h− (x, y) = min{0, f (x, y)g(x, y)}とすると、

f (x, y)g(x, y) = h+ (x, y) + h− (x, y)であり、|h± (x, y)| ≤ |f (x, y)g(x, y)|なので、E(h± (x, y)) は実数値である。よって E(f (x, y)g(x, y)) も実数値であることがわかった。特に、f (x, y) = x − E(x) とし、g(x, y) = y − E(y) とすれば、これは V (x)と V (y) が共に実数値であれば Cov(x, y) も実数値であるという意味を有することに注意が必要である。
上の論証の途中で、実は興味深い結果が得られている。いま、集合 L2c に(f + g)(x, y) = f (x, y) + g(x, y), (cf )(x, y) = cf (x, y)と定義することで、足し算と定数倍が定義できる。f ∈ L2c のとき cf ∈ L2c は当たり前だ
が、f, g ∈ L2c であっても f + g ∈ L2c ではないのでは？と思うかもしれないが、上ですでに示したように f, g ∈ L2c ならば f + g ∈ L2c である。そこで、第８章で議論したように、L2c はベクトル空間の性質 1.〜8. をすべて満たし、また内積は第８章の性質 (i)-(iv)をすべて満たす。さらに、∥f ∥2 = f · fが得られている。そこでh(t) = ∥f + tg∥2と定義してみると、すべての t について h(t) ≥ 0 である。一方、

h(t) = (f + tg) · (f + tg) = ∥f ∥2 + 2(f · g)t + ∥g∥2 t2とできる。g ≡ 0 でないとすれば ∥g∥2 > 0 なので、二次方程式の判別式条件から(f · g)2 ≤ ∥f ∥2 ∥g∥2が得られ、平方根を取って|f · g| ≤ ∥f ∥∥g∥が得られる。もちろん g ≡ 0 ならば上の不等式は当たり前である。こうして我々はCauchy-Schwarz の不等式に到達した。
第８章の Cauchy-Schwarz の不等式と、出し方がまったく同じであることに注意して欲しい。この当たり前の帰結として、f (x, y) = x − E(x), g(x, y) = y − E(y) に上の不等式を適用するとCov(x, y) = E((x − E(x))(y − E(y)))√≤ E((x − E(x))2 )E((y − E(y))2 )√= V (x)V (y)が得られる。つまり、分散の積は共分散の二乗を常に上回る。この結果は重要なので、覚えておくとよい。
なお、X と Y が無相関であることは、Cov(x, y) = 0 と同値である。これは定義から当たり前である。