数理情報学９ (数理統計学)

3. 信頼区間・仮説検定

解説

1

信頼区間と仮説検定について解説する．

1.1

信頼区間

推定の問題では，期待値 µ の値を標本平均 X̄n で不偏に推定することができる．しかし，推定値として１つの値 X̄n が得られるよりも，どのあたりに本当の期待値 µ がありそうかという範囲を提示するほうが便利な場合もある．このための方法が信頼区間である．

1.2

仮説検定

仮説検定とは「仮説がデータから支持されるかどうかを判断するための統計的手法」である．仮説検定は科学的な推論を必要とするときによく使われる．とくに，因果関係が複雑で原理的な法則から結果を予測することが困難な状況 (医学・薬学分野または心理実験などの人文科学の領域) では，データから仮説の正否を判断をする上で仮説検定は必須の方法である．仮説検定の方法は，信頼区間を構成する方法と類似点がある．

2

パーセント点
信頼区間や仮説検定のために必要になる「パーセント点」を解説する．

標準正規分布のパーセント点： X ∼ N (0, 1) のとき

P (X ≤ zα ) = 1 − α を満たす点 zα −→ 標準正規分布の 上側 α 点 (100α% 点)

P (|X| ≤ zα∗ ) = 1 − α を満たす点 zα∗ −→ 標準正規分布の 両側 α 点 (100α% 点)
正規分布以外に t-分布のパーセント点も必要にあることがある．

t-分布： 確率変数 X, Y1 , . . . , Yn はすべて独立に標準正規分布 N (0, 1) にしたがうとする．このとき確率変数 Tn を
√XXTn = n · ! 2="2Y1 + · · · + Yn2
Y1 + · · · + Yn2nと定める．Tn がしがたう分布のことを 自由度 n の t-分布 とよぶ．確率変数 T が自由度 n の t-分布にしたがうときT ∼ tnと書く1 ．

t-分布のパーセント点： X ∼ tn (自由度 n の t-分布) のとき
P (X ≤ tn,α ) = 1 − α を満たす点 tn,α −→ 自由度 n の t-分布の 上側 α 点 (100α% 点)

P (|X| ≤ t∗n,α ) = 1 − α を満たす点 t∗n,α −→ 自由度 n の t-分布の 両側 α 点 (100α% 点).
1 t-分布の確率密度関数 f (x; n) は f (x; n)関数 (Γ(k) =R∞0=

Γ((n+1)/2)√nπΓ(n/2)“”
2 −(n+1)/2
1 + xn,x ∈ R で与えられる．ここで Γ(k) はガンマxk−1 e−x dx) である．n → ∞ のとき f (x; n) は標準正規分布の密度関数に収束する．

1!!!!"#
0.35

0.351−α0.31−α0.3

0.25

0.25

0.2

0.2
0.15

0.15

α/2

α/2

0.1

0.1

0.05

0.05

0-4!!! 5 ! t-!"0.40.4-3-2-101230-44-3zα∗ = zα/2−zα∗-2-101234t∗n,α = tn,α/2−t∗n,α図 1: 標準正規分布と t-分布のパーセント点．t-分布の自由度が大きいとき，ほとんど標準正規分布と同じ．

標準正規分布，t-分布の密度関数は原点に関して対称なので

zα∗ = zα/2 ,t∗n,α = tn,α/2が成り立つ (図 2 参照)．正規分布と t-分布のパーセント点を以下に示す．自由度 n が大きいときには zα∗と t∗n,α はほぼ同じ値をとる．

表 1: 正規分布と t-分布のパーセント点．

αt∗10,αt∗20,αt∗100,αzα∗

0.01

3.169

2.845

2.626

2.576

0.05

2.228

2.086

1.984

1.960

0.1

1.812

1.725

1.660

1.645

信頼区間

3

データが独立に同一の分布にしたがうとする：

X1 , . . . , Xn ∼i.i.d. f (x; θ)
このとき，パラメータ θ を次のように区間で推定する：「1 − α 以上の確率で θ ∈ [T1 , T2 ] が成り立つ」
ここで [T1 , T2 ] は閉区間である．また α は通常 0.01 や 0.05 などの小さい値であり，データを解析する人が，どの程度の信頼性を確保したいかを考慮して決める．上のような区間 [T1 , T2 ] を，信頼水準 100(1 − α)%の信頼区間という．以下ではとくにデータが正規分布にしたがう場合に，期待値の信頼区間を構成する方法について説明する．

3.1

正規分布のもとでの信頼区間の構成法 –分散が既知のとき–正規分布 N (µ, σ 2 ) から独立な n 個のデータが得られているとする：

X1 , . . . , Xn ∼i.i.d. N (µ, σ 2 )2

ここで分散 σ 2 は既知であると仮定する (つまり信頼区間を作るときに σ 2 の値を用いてよい)．このとき期n1#
待値 µ の信頼区間を構成する．標本平均を X̄n =Xi とすると X̄n ∼ N (µ, σ 2 /n) なのでni=1√nX̄n − µ∼ N (0, 1)σが成り立つ．したがって，標準正規分布の両側パーセント点 zα∗ を用いると&$%√ X̄n − µ %% ≤ zα∗ = 1 − αP % nσ"" &$σ2σ2∗∗⇐⇒ P X̄n − zα≤ µ ≤ X̄n + zα=1−αnnが成り立つ．分散 σ 2 が既知のとき，期待値 µ の信頼水準 100(1 − α)% の信頼区間は'"" (σ2σ2∗∗X̄n − zα, X̄n + zαnnとなる．
例 1 (データ数と信頼区間の幅の関係). X1 , . . . , Xn ∼i.i.d. N (µ, 1) のとき，µ について信頼水準 95% の信頼区間を構成する．図 2 のグラフは観測数がそれぞれ 10 個のときと 30 個のときのプロットである．デー
タ数が多いほうが信頼区間の幅は狭くなっていることが見てとれる．

!

図 2: 観測値と 95% 信頼区間のプロット

3.2

正規分布のもとでの信頼区間の構成法 –分散が未知のとき–

前節と同様にX1 , . . . , Xn ∼i.i.d. N (µ, σ 2 )とする．期待値 µ と分散 σ 2 がともに未知のときに µ の信頼区間を構成する．期待値の分散の不偏推定量
として標本平均 : X̄n =を考える．このとき

n1#
Xi ,n i=1

標本分散 : Sn2 =n
1 #(Xi − X̄n )2
n − 1 i=1

√ X̄n − µn !
∼ tn−1 (自由度 n − 1 の t-分布)Sn23が成り立つ (詳細は省略．統計の教科書などを参照のこと)．したがって µ の 100(1 − α)% 信頼区間は次のように構成できる：$&%√ X̄n − µ %% ≤ t∗n−1,α = 1 − α
P % n √
S2"" &$Sn2Sn2∗∗⇐⇒ P X̄n − tn−1,α≤ µ ≤ X̄n + tn−1,α= 1 − α.
nn以上より，分散 σ 2 が未知のとき，µ の信頼水準 100(1 − α)% の信頼区間は'"" (2SSn2nX̄n − t∗n−1,α, X̄n + t∗n−1,αnnで与えられる．
!
正規分布のもとでの期待値の信頼区間の構成 (まとめ)X1 , . . . , Xn ∼i.i.d. N (µ, σ 2 ) とする．σ 2 が既知か未知かに応じて，期待値 µ の信頼区間はそれぞれ以"下のようになる．

σ が既知のとき=⇒σ 2 が未知のとき=⇒2#3.3"")*+,
σ2σ2∗∗P µ ∈ X̄n − zα, X̄n + zα=1−αnn"")*+,
S2S2P µ ∈ X̄n − t∗n−1,α, X̄n + t∗n−1,α=1−αnn

区間推定のその他の例

区間 [0, θ] 上の一様分布から n 個データ X1 , X2 , . . . , Xn が独立に得られている．このとき θ の信頼区間を構成する．θ の不偏推定量は

T =n+1max Xi
n 1≤i≤nなので，これを利用する．T の分布関数 P (T ≤ t) を計算すると，

P (T ≤ t) =となる．ここで u ∈ R を)nθ(n + 1)P (u ≤ T ≤,ntn ,0≤t≤n+1θnn+1θ) = 1 − αnとなるように定めると

u = (1 − α)1/nθ(n + 1)nとなる．したがって),n+11/n θ(n + 1)
P ( 1 − α)≤T ≤θ =1−αnn),nnT ≤ θ ≤ (1 − α)−1/n
T =1−α⇐⇒ Pn+1n+1となるので，閉区間*nnT, (1 − α)−1/n
Tn+1n+1は θ の 100(1 − α)% 信頼区間になっている．

4+$

仮説検定

4仮説検定とは，ある仮説が正しいかどうかをデータから検証するための統計的方法である．

• 応用例– 実験結果から理論が正しいかどうかの検証：メンデルの実験など– 薬の認可：薬が効くか効かないか，副作用が重いか軽いか• 用語の準備– 帰無仮説： 検証したい仮説 （H0 と書く）
– 対立仮説： H0 が棄却されたときに採択される仮説（H1 と書く）
例：コイン投げ．確率 p で表が出る．仮説をH0 : p = 1/2,H1 : p )= 1/2とすれば，コインが公平かどうかの検定をすることになる．また仮説をH0 : p = 1/2,

H1 : p > 1/2と設定すると，p ≥ 1/2 という事前知識がある場合に，表が出やすいかどうかの検定をすることになる．

4.1

仮説検定の考え方

帰無仮説 H0 のもとで観測データ X1 , . . . , Xn が得られる確率が非常に小さいなら，H0 は正しくないと判断して H1 を採択する．

有意水準： データが出現しやすいかどうかを判断する基準として，有意水準 α を設定する．この α は通常，0.05 や 0.01 などの小さな値にしておく．

以上の考え方にしたがって，仮説検定の手順を以下に示す．
!

1. 帰無仮説 H0 と対立仮説 H1 を定める．

"

2. 有意水準 α を定める．
3. データ X1 , . . . , Xn を観測する．
4. 帰無仮説 H0 が正しいと仮定したとき，観測データが得られる確率を計算する．
(a) 確率が有意水準 α 以下 =⇒ H0 は間違いと判断して H1 を採択．
(b) 確率が有意水準 α より大きい =⇒ H0 は正しいと判断．
#帰無仮説 H0 が正しくないと判断するような観測データの集合を 棄却域 という．つまりH0 を棄却 ⇐⇒ 観測データ (X1 , . . . , Xn ) が棄却域に属する．
以下に例を示す．
例 2. X1 , . . . , Xn ∼i.i.d. N (µ, σ 2 ) とする．分散は既知として，期待値 µ に関する以下の検定を行う：

H0 : µ = 1,H1 : µ )= 15$

有意水準を α = 0.05 とする．期待値の推定量 X̄n に対して X̄n ∼ N (µ, σ 2 /n) となるので√X̄n − µ∼ N (0, 1)σとなる．したがって，もし µ = 1 が正しいと仮定すると" .
%,)%2%√ X̄n − 1 %∗∗% ≥ z0.05 = 0.05 ⇐⇒ P |X̄n − 1| ≥ z0.05 σ
P %% n ·= 0.05%
σnとなる．棄却域 W をW =n·0"%2%σ∗(X1 , . . . , Xn ) %% |X̄n − 1| ≥ z0.05n/と定めて，観測データが W に入れば帰無仮説 H0 を棄却することにする．つまり |X̄n − 1| が大きな値をなら仮説 H0 : µ = 1 は正しくないと判断する．

もし σ 2 が未知なら，σ 2 を標本分散 Sn2 で推定して t-分布のパーセント点を用いれば，棄却域を作ることができる．

4.2

仮説検定の誤り確率

いくつかの検定方式があるときに，それらをどのように比較したらよいだろうか ? たまたま偏ったデータが観測されたときには，検定による判断は誤ってしまうこともある．誤って判断してしまう確率が小さいほど優れた検定方式と考えることができる．検定の棄却域を W とすると検定における誤りは以下の表のようにまとめることができる．
データに基づく判断

True(H0 を棄却しない)

データ )∈ W

データ ∈ W

H0○× (第 I 種の誤り)

H1× (第 II 種の誤り)○(H0 を棄却)

・帰無仮説 H0 が正しいとき： もしデータが棄却域に入ると，本来は H0 が正しいにもかかわらず H0 を棄却してしまうことになり，誤った判断をすることになる．その確率は
12
第 I 種の誤り = P H0 が正しいときに H0 を棄却となる．検定の棄却域はとなるように構成されている．

第 I 種の誤り ≤ α(有意水準)

・対立仮説 H1 が正しいとき： もしデータが棄却域に入らないと，帰無仮説 H0 が誤りであるにもかかわらず H0 を棄却しないという誤った判断をしてしまう．その確率は12
第 II 種の誤り = P H1 が正しいとき H0 を棄却しないとなる．

検定には以上の 2 通りの誤りが存在する．仮説検定では，有意水準 α を定めることで第 I 種の誤りを α以下に抑えているが，第 II 種の誤りにはとくに制約を置いていない．いくつかの検定方式を比較するときには次のように考える．
有意水準 α の検定方法が複数あるとき：
第 II 種の誤り確率が小さい検定方式 のほうが優れている

6

4.3

最適な検定

第 II 種の誤り確率を最も小さくするような，最適な検定方法はどのようなものか？ 仮説が簡単な場合には，答えは次の補題で与えられる．
補題 1 (ネイマン・ピアソンの補題). データ X が得られたときに，データの確率密度関数が p0 (x) か p1 (x)かを検定する：

H : X ∼ p (x)00H : X ∼ p (x)1(帰無仮説)(対立仮説)

1

有意水準 α の棄却域のうち，第 II 種の誤り確率を最も小さくする棄却域は$&% p1 (x)%W = x≥cp0 (x)で与えられる．ここで c は6

第 I 種の誤り確率 =p0 (x)dx = αWを満たす値とする．

!

p1 (x)
上で定義した λ(x) =を尤度比という．直感的には
p0 (x)
p0 (x) : 仮説 H0 のもとでのデータ x の出現しやすさ
p1 (x)：仮説 H1 のもとでのデータ x の出現しやすさを表す．尤度比 λ(x) の値が大きいときには分布 p1 からデータが出現したと判断するのが妥当であり，H0を棄却することになる (図 3)．

0.4

p0(x)
0.3

0.2

p1(x)

0.1

0.0-4-20x24

図 3: 確率密度関数 p0 (x), p1 (x)．尤度比は λ(x) = p1 (x)/p0 (x) で定義される．
例 3 (正規分布の期待値の検定). データ X1 , . . . , Xn が正規分布 N (µ, 1) から独立に得られているとする．

分散の値は既知として期待値に関する次の検定を行う．

H0 : µ = µ0 ,H1 : µ = µ1 .

ここで µ0 < µ1 とする．ネイマン・ピアソンの補題から定まる棄却域を構成する．確率密度関数で考えると上の仮説はH0 : p0 (x1 , . . . , xn ) =H1 : p1 (x1 , . . . , xn ) =7n721√ e−(xi −µ0 ) /22πi=1n721√ e−(xi −µ1 ) /22πi=1となる．尤度比を計算すると，- n.
#p1 (x1 . . . , xn )n(µ20 − µ21 )λ== exp
xi (µ1 − µ0 ) +p0 (x1 , . . . , xn )2i=1となる．棄却域はW = {(X1 , . . . , Xn ) | λ(X1 , . . . , Xn ) > c}
89= X̄n | X̄n · (µ1 − µ0 ) > c$
89= X̄n | X̄n > c$$(µ1 > µ0 を使って式変形)と書ける．ここで c$ , c$$ は適当な定数である．式変形していくと c$ や c$$ は µ0 , µ1 に依存した複雑な式になるが，そのような繁雑なことは考える必要はない．棄却域を表現する式を簡略化した後，有意水準が α に√なるように c$$ を決めればよい．帰無仮説 H0 のもとでは X̄n ∼ N (µ0 , 1/n) より n(X̄n − µ0 ) ∼ N (0, 1)となるので

12
121√
2
√
P X̄n ∈ W = P X̄n ≥ c$$ = Pn(X̄n − µ0 ) ≥ n(c$$ − µ0 ) = α√となるように c$$ を定めればよいので， n(c$$ − µ0 ) = zα (標準正規分布の上側パーセント点) とおけばよい．したがって棄却域を$&%zα%√
W = X̄n X̄n ≥ µ0 +nとすれば，有意水準 α のもとで第 II 種の誤り確率が最も小さくなる．

!

演習問題
1. 正規分布から以下のような 6 個のデータが得られた．
−0.4, 1.1, 1.9, 3.4, 2.1, 0.7.
このとき正規分布の期待値の 99% 信頼区間を計算せよ．必要となるパーセント点の値は，統計の本などで調べること．

2. 確率変数 X, Y はともに以下のような正規分布に独立にしたがうとする：
X ∼ N (µ, σ12 ),Y ∼ N (µ, σ22 ).

X +Yとする．区間 [Z − c, Z + c] によって µ の2100(1 − α)% 信頼区間を構成するとき c の値を求めよ．

このとき分散 σ12 , σ22 は既知とする．また Z =3. 区間 [0, θ] 上の一様分布から n 個データ X1 , X2 , . . . , Xn が独立に得られている．このとき θ の信頼区間を構成する．Y = max Xi とする．θ の 100(1 − α)% 信頼区間として Y ≤ θ ≤ Y (1 + c) を考え
1≤i≤nる．c の値を求めよ．

4. X1 , . . . , Xn ∼i.i.d. N (µ, 1) として，期待値 µ について以下の検定を行う：
帰無仮説 H0 : µ = 0,

対立仮説 H1 : µ = 1

このとき分散が 1 に等しいことは既知とする．

(a) 有意水準が α の棄却域で，第 II 種の誤り確率が最小となるものを構成せよ．
(b) 標準正規分布の分布関数を F (x) として，(a) で求めた棄却域の第 II 種の誤り確率を F を用いて表せ．

8

5. n 個の確率変数 X1 , X2 , . . . , Xn ∼i.i.d. N (0, σ 2 ) とする．このとき分散について以下の検定をおこ
なう．

H0 : σ 2 = σ02 ,H1 : σ 2 = σ12 .

ただし σ02 < σ12 とする．第 II 種の誤り確率を最小にするような棄却域 W は，適当な定数 c を用いてW = {(X1 , . . . , Xn ) |n#i=1

Xi2 ≥ c}と表されることを示せ．

6. n 個の確率変数 X1 , X2 , . . . , Xn が独立に正規分布 N (µ, 1) にしたがうとする．分散は既知とする．期待値 µ について以下の検定
εH0 : µ = µ0 H1 : µ = µ0 + √nをおこなう．ここで ε > 0 とする．

(a) ネイマン・ピアソンの補題にしたがって，有意水準 α の棄却域を構成せよ．
(b) 第 II 種の誤り確率が γ 以下になるために，ε はどのような条件を満たす必要があるか考察せよ．
7. n 次元確率変数 X = (X1 , . . . , Xn ) が n 次元正規分布 N (µ, A) にしたがっているとする．ここで平均ベクトル µ はµ = (c, c, . . . , c)t ∈ Rnであり c は未知である．また分散共分散行列 A の ij 要素を aij (i, j = 1, . . . , n) とする．また分散共分散行列 A は既知であるとする．このとき n 次元正規分布にしたがう 1 つの観測値 X = (X1 , . . . , Xn )を用いて c の信頼区間を構成する．

(a) パラメータ c を推定するために

nX̄ =

1#
Xi
n i=1を用いる．X̄ が c の不偏推定量になっていることを確かめよ．また X̄ がしたがう分布を求めよ．

(b) パラメータ c を推定量 X̄ で推定したとき，100(1 − α)% 信頼区間を構成せよ．
8. 以下の問において標準正規分布のパーセント点が必要になるが，これはコンピュータで計算するか，統計の本で調べよ．

(a) 正規分布 N (µ, 80) にしたがうデータを 20 個観測したとき，データの平均値は 81.2 であった．
このとき 95% 信頼区間を求めよ．
(b) 正規分布 N (µ, 9) にしたがうデータを n 個観測したとき，データの平均を X̄n とおく．ほぼP (X̄n − 1 ≤ µ ≤ X̄n + 1) = 0.90 となるような n を求めよ．

9. データ X1 , X2 , . . . , Xn が独立に同一のポアソン分布 P o(λ) にしたがっているとする (ポアソン分布についてはテキストなどを参照) ポアソン分布の期待値は E[Xi ] = λ, 分散は V [Xi ] = λ である．パラ:nメータ λ を X̄n = n1 i=1 Xi で推定する．このとき√ X̄n − λn √λが n → ∞ で標準正規分布にしたがうことを利用して，λ の 100(1 − α)% 信頼区間を近似的に構成せよ．

9