成蹊大学理工学研究報告
J. Fac. Sci. Tech., Seikei Univ.
Vol.44 No.２ (2007) pp.79-82（特別研究費に係る論文）

正の二項分布に関する統計的推測
岩崎学*1，吉田清隆*2

Statistical Inference for the Positive Binomial Distribution
Manabu IWASAKI*1 and Kiyotaka YOSHIDA*2
ABSTRACT : The binomial distribution formed by omission of zero class is called the positive binomialdistribution. We discuss estimation problems for this distribution. The ordinary maximum likelihood(ML) procedure requires some numerical algorithm to calculate the estimate. A simple iterative procedure
for the ML estimate is given in this paper. When observed number is one out of n independent trials, themaximum likelihood estimate tends to zero, which causes negative bias of the ML estimator. A modified
new estimator that requires no iteration is proposed here. It is pointed out that the new estimator has lessbias than the ML estimator for a wide range of parameter values. It is also pointed out that the standard
error of our new estimator is less than that of the ML estimator for almost all parameter values, and hence
the new estimator is more efficient and useful than the ML estimator.
Keywords : zero-truncated distribution, maximum likelihood, bias, functional iteration(Received September 1, 2007)
本論では，第 2 節で PB(n, θ) の基本的な性質を概観し１．はじめにた後，パラメータ θ の最尤推定法を与える。最尤推定
ある事象の生起確率が θ である試行を独立に n 回繰値の計算には反復計算が必要となり，さらには生起回数り返すときの事象の生起回数を表わす確率変数を X とが 1 のとき推定値が 0 になってしまうという不都合がしたとき，X はパラメータ n， θ の二項分布 (binomial生じることを注意する。このことから最尤推定量は負のdistribution) に従い，このことを X ∼ Β(n, θ) と書く。二項偏りを持つことが示される。その不都合をある程度回避

分布は最も基本的な離散型分布であり，初等的な教科書するため，第 3 節では反復計算を用いない簡便な推定法を始め，多くの書物でその性質が論じられている（詳細を提案し，その推定量はパラメータの多くの範囲で最尤

は Johnson, Kemp and Kotz (2005)，竹内・藤野 (1981) な推定量よりも偏りが小さく，さらには標準誤差も小さい

どを参照されたい）。ところが実際のデータ解析では，Xという統計的によい性質を持つことを示す。そして最後のすべての値が必ずしも得られるとは限らない場合があの第 4 節で簡単な議論を行なう。

る。特に，X が 0 のときは報告がなく，X が 1 以上のときのみ事象の生起回数のデータが得られることがある。

２．正の二項分布の性質と最尤推定

このときの確率分布を正の二項分布 (positive binomialdistribution) もしくはゼロトランケートされた二項分布

パラメータ n，θ の正の二項分布 PB(n, θ) に従う確率(zero-truncated binomial distribution) といい（Johnson, et al.

変数を Y とする（以降，X を通常の二項分布 B(n, θ) に(2005), Section 3.11），ここではそれを PB(n, θ) と書く。

従う確率変数とする）。B(n, θ) は取り得る値が 1 以上の条件付き二項分布でもあるので，その確率関数 p(y) は，Pr(X = 0) = (1 – θ)n より*1: 情報科学科教授 (iwasaki@st.seikei.ac.jp)*2: 情報科学科助手－79－

p( y ) = Pr(Y = y )=n C yθy(1 − θ ) n − y

1 − (1 − θ ) n

y = 1, 2, K , n,

 n C y θ y (1 − θ ) n − y l (θ ) = log L(θ ) = log n 1 − (1 − θ )(1)= − log{1 − (1 − θ ) n } + log n C y + y log θ + (n − y ) log(1 − θ )となる。このとき，相続く y に関する確率の比はp ( y + 1) n − y θ=⋅p( y)
y +1 1−θ

(2)であるので，これを θ で微分して 0 と置き，尤度方程式

l ' (θ ) = −となる。この形は二項分布のときの確率の比と同じである（(1) における分母が比によりキャンセルアウトする=ためである）。これより，PB(n, θ) の最頻値（モード）は，n(1 − θ ) n −1
1 − (1 − θ ) n+yθ

−n− y1−θ

y{1 − (1 − θ ) n } − nθθ (1 − θ ){1 − (1 − θ ) n }=0

二項分布のときと同様，(n + 1)θ を超えない最大の整数を得る。尤度方程式の分母は 0 < θ < 1 で正であるので，で与えられ，(n + 1)θ が整数となる場合には，y = (n + 1)θ

分子を 0 と置くことにより，関係式– 1 と y = (n + 1)θ で確率は同じ最大値を取ることが示nθ = y{1 – (1 – θ)n}される（竹内・藤野 (1981) 参照）。特に (2) で y = 1 とが導かれ，これを満足する θ が求める最尤推定値となした不等式る。(4) を変形すると
p (2) n − 1 θ=
⋅
≤1
p (1)
2 1−θy=nθ
1 − (1 − θ ) n(4)(5)

より関係式 θ ≤ 2/(n + 1) を得る。このときすべての y でとなる。(5) は Y の期待値の式 (3) の左辺の期待値を観p(y) ≥ p(y + 1) となることから，θ ≤ 2/(n + 1) が，確率測値 y で置き換えたものになっている。すなわち，このp(y) が y に関し単調減少となるための条件となる（二場合の最尤推定値はモーメント法による推定値でもある。

項分布 B(n, θ) のときの確率が単調減少であるための条関係式 (4) より

件は θ ≤ 1/(n + 1) である）。

θ=

PB(n, θ) に従う確率変数 Y の期待値と分散はそれぞれ
E[Y ] =nθ1 − (1 − θ ) n(3)V [Y ] =1 − (1 − θ ) n−とした反復計算

θ (t +1) =n 2θ 2 (1 − θ ) n{1 − (1 − θ ) n }2(6)となるので，最尤推定値の具体的な値は，θ (0) を初期値およびnθ (1 − θ )y{1 − (1 − θ ) n }ny{1 − (1 − θ (t ) ) n }n(7)の収束により求められる。初期値 θ(0) としては y/n をで与えられる（Johnson, et al. (2005), Section 3.1 参照）。Y取ればよいであろう。計算は EXCEL で簡単に実行できは値 0 を取らないので，E[X] ≤ E[Y] である（等号は θ =る（例 2.1 参照）。経験的に (7) の反復は y ≥ 2 で素早く1 のときのみ）。これは，(1) で分母が 1 – (1 – θ) ≤ 1 で

収 束 す る 。 (7) の 反 復 法 は 単 純 関 数 反 復 法 と 呼 ば れあることからも示される。また，E[Y] は θ の単調増加（Lange (1999)，岩崎 (2004) などを参照），その収束条関数であり，θ → 0 の極限は，ロピタルの定理より件は岩崎 (2001) で与えられている。y = 1 では (4) を満nlimnθ

θ → 0 1 − (1 − θ ) n= lim(nθ )'θ → 0 {1 − (1 − θ ) n }'= limnθ → 0 n(1 − θ ) n −1=1足する θ は 0 であることが示されるが，θ = 0 では事象が生起しないのであるから推定値にはなり得ず，このとなる。よって，0 < θ ≤ 1 に対し 1 < E[Y] であること

場合，最尤推定値は存在しないことになる（限りなく 0が分かる。分散については，Y は値 0 を取らないことに近い値ともいえる）。このため，最尤推定量（観測値 yから V[Y] ≤ V[X] となる。θ が 1 に近いときには B(n,の代わりに確率変数 Y を用いたもの）は負の偏りを持θ) で X = 0 となる確率は小さく，B(n, θ) と PB(n, θ) とつ（具体的な数値は次節参照）。の違いがほとんどなくなるので，θ が 1 に近づくにつれ PB(n, θ) の期待値も分散も B(n, θ) との差は小さく

例 2.1

n = 10 とし，y = 3 が観測されたとすると，初期値 θ(0)なる。
次に，n 回の独立な試行で事象の生起が y 回得られた= 3/10 = 0.3 から出発し，表 1 のような推移により，最尤ときの θ の最尤推定値 θˆ を求める。Y = y が与えられ推定値 θˆ = 0.290272 に収束する。その他の数値設定でたときの θ の対数尤度関数は (1) よりも概ね 10 回以内の反復で十分な精度での収束が得られる。

－80－

表 1 n = 10，y = 3 のときの最尤推定法の反復の推移
ITE0123456Theta
0.300000
0.291526
0.290442
0.290295
0.290275
0.290272
0.290272~θ =y(1 − e − y )n(8)が得られる。(8) がここで提案する推定値であり，以下その性質を調べる。y = 1 のときは 1 – e–1 ≈ 0.632 であるので，~
θ = 0.632 / n と推定される。なお，(8) で観測値 y の代わ~りに確率変数 Y を代入した推定量も同じ記号 θ で表わす。
例 3.1

より一般に，PB(n, θ) に従う独立な観測値が y1, .. . , yN とN 個得られた場合には，それらの標本平均を y =N1∑ yiN i =1とし，(5) 同様

n = 10 のときの各観測値 y = 1, . . . , 10 に対する最尤推定~値 θˆ と (8) の推定値 θ の実際の値は表 2 のようである。θ がある（便宜上 y = 1 のときの最尤推定値を 0 とした）程度大きいときにはほぼ同じ推定値となることが分る。

y=nθ
1 − (1 − θ ) n

表 2 n = 10 のときの最尤推定値と新推定値の値を満たす θ として最尤推定値が得られる。実際の計算

y12345678910は (7) 同様，

θ (t +1) =y{1 − (1 − θ (t ) ) n }nの反復を実行すればよい。Mantel (1951) は反復法を用いない方法として f1 を y = 1 となった度数として

θ* =y − f1 / N
n − f1 / N

MLE
0.000000
0.168343
0.290272
0.397478
0.499507
0.599937
0.699996
0.800000
0.900000
1.000000

NEW
0.063212
0.172933
0.285064
0.392674
0.496631
0.598513
0.699362
0.799732
0.899889
0.999955

なる推定値を提案した。Thomas and Gart (1971) は，最尤最尤推定量と (8) の推定量の期待値と標準誤差は，数推定値 θˆ と Mantel の推定値 θ* を比較し，θ* のほう学的に簡潔には表現できないが，数値的には容易に求めが比較的正確で偏りが少ないことを示している。Mantelることができる。それらを n = 10，20，30，40，50 おの時代（1950 年代）には計算環境が貧弱で，現在では簡単によび θ = 0.05 (0.05) 0.5 の範囲で計算した結果が表 3 お実行できる反復計算による推定値も容易には得られなかっよび表 4 である。表 3 より，最尤推定量 θˆ は常に負の~偏りを持つことが分かる。それに対し，(8) の推定量 θは，θ が小さいときを除いて偏りは概ね θˆ よりも小さたことから簡便な推定法が提案されたのであろうが，簡便法のほうがよりよい推定値を与えるという例でもある。

い。また，表 4 より，ほぼすべてのパラメータ値に対し~θ のほうが θˆ よりも標準誤差が小さい。すなわち，
ここで提案した推定量 θˆ は，反復計算が不要なこと，y３．新しい推定法
前節で述べた最尤推定法は，EXCEL による反復法で容= 1 であっても推定値が得られることの利点の他，その易に推定値は得られるが y = 1 のときには推定値が 0統計的性質も最尤推定量よりも優れているといえよう。に収束してしまうという欠点があり，その結果推定量は負の偏りを持つ。ここでは，反復法によらない簡便な推４．おわりに定法を提案し，その特性を吟味する。
尤度方程式から導かれる関係式 (4) における右辺の事象の生起回数が 1 以上のみデータが観測される正の二θ は，特に θ があまり小さくない場合には二項分布に項分布（ゼロトランケートされた二項分布）におけるパラメおける推定値 y/n により推定される。これよりータの推定法を議論した。正の二項分布は，一般に生起回数がある範囲でのみ観測されるトランケートされた二項分布n y  nθ = y 1 − 1 −  n   (truncated binomial distribution) の特別な場合であるが，一般のトランケートされた二項分布は，Johnson, et al. (2005)
nとなるが，n が十分大きいときは (1 – y/n) ≈ e
ので，結局，推定値–yである

Section 3.11 でも触れられているように，ゼロトランケートの場合を除き，あまり実際の場面では遭遇しない。

－81－

表３ 最尤推定量と提案する推定量の期待値
Thetan = 10
E[MLE]
E[NEW]
n = 20E[MLE]
E[NEW]
n = 30E[MLE]
E[NEW]
n = 40E[MLE]
E[NEW]
n = 50E[MLE]
E[NEW]

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.4

0.45

0.5

0.03990.09030.08370.12220.13090.15870.18080.19960.2326
0.24420.28540.2916

0.3386
0.34100.39170.39170.44430.44300.49630.49450.04250.06240.09080.10170.14230.14740.19480.19660.24690.24730.29840.29820.34920.34900.39970.39940.44990.44970.49990.49990.04420.05440.09480.09860.14710.1481

0.1987
0.19880.24950.24940.29980.29980.34990.34990.40000.40000.45000.45000.50000.50000.04550.05130.0972
0.09860.14890.14910.19970.1996

0.24990.24990.30000.30000.35000.35000.40000.40000.45000.45000.50000.50000.04660.05000.09850.09900.14960.1496

0.19990.19990.25000.25000.30000.30000.35000.35000.40000.40000.45000.45000.50000.5000

表４ 最尤推定量と提案する推定量の標準誤差
Thetan = 10SE[MLE]SE[NEW]n = 20SE[MLE]SE[NEW]n = 30SE[MLE]SE[NEW]n = 40SE[MLE]SE[NEW]n = 50SE[MLE]SE[NEW]

0.05

0.1

0.15

0.2

0.25

0.3

0.35

0.4

0.45

0.5

0.07940.05550.11050.08250.13180.10430.14690.12250.15710.13710.16330.14830.16650.15620.16740.16110.1666
0.16340.16460.1635

0.0561
0.04300.0766
0.06500.08890.08100.09640.09210.10150.09950.10520.1046

0.10810.10810.11020.11040.11150.11170.11190.11200.04550.03710.06070.05540.06920.06700.07510.07450.08000.07990.08400.08410.08720.08720.08950.08950.09080.09090.09130.09130.03910.03340.05100.0486

0.05810.05750.06380.06380.0686
0.06870.07250.07250.07540.07540.07750.07750.07870.0787

0.07910.07910.03450.03060.04450.04340.05120.05100.0567
0.0567

0.06130.06130.06480.06480.06750.06750.06930.06930.07040.07040.07070.0707

参考文献

本論では，正の二項分布において，一般に用いられる最尤法による推定は，反復計算を必要とし，かつ y = 1 の場合に

岩崎 学 (2001) 非線型方程式の単純反復解法とその統計的推定値が得られず，しかも負の偏りを持つという欠点がある

応用．応用統計学，30，107-118．

ことから，最尤推定法に代わる新たな推定法を提案し，その岩崎 学 (2004) 統計的データ解析のための数値計算法入門。

統計的な性質を議論した。新しい推定法は，簡便であるが，朝倉書店。

上述の最尤推定法の持つ欠点を回避し，偏りおよび標準誤差

岩崎 学・廉 民善 (2007) ゼロトランケーションのあるカの観点から最尤法よりも優れていることが示された。

ウントデータの解析．行動計量学，34，91-100．

ゼロトランケーションは，二項分布以外にも多くの実際問
題で重要な役割を果たし，特にポアソン分布に関しては多く

Johnson, N. L., Kemp, A. W. and Kotz, S. (2005) Discreteの理論的な研究成果がある（Johnson, et al. (2005) Section 4.10

Univariate Distributions, Third Edition. John Wiley & Sons,を参照）。また，岩崎・廉 (2007) ではゼロトランケートされNew York.
Lange, K. (1999) Numerical Analysis for Statisticians. Springer,

たポアソン分布およびガンマポアソン分布に関するいくつか

New York.の興味深い実際例が示されている。

Mantel, N. (1951) Evaluation of a class of diagnostic tests.

謝 辞Biometrics, 3, 240-246.
竹内 啓・藤野和健 (1981) ２項分布とポアソン分布。東京

本論で扱った問題は，著者の一人（岩崎）が成蹊大学大学大学出版会。

院工学研究科および東京大学大学院教育学研究科における授Thomas, H. A. and Gart, J. J. (1971) Small sample performance of

業で取り上げたものでもある。有益なコメントを頂戴した受some estimators of the truncated binomial distribution. Journal of

講生諸君，特に阿部大輔，楠田貴至の両氏に感謝する。本論

the American Statistical Association, 66, 169-177.の内容は両氏のコメントに触発されたものである。

－82－