数理解析研究所講究録1101 巻 1999 年 110-113

110

The Amount of Partial Informationand Sufficiency
筑波大・数学 大谷内奈穂 (Nao Ohyauchi)
筑波大・数学 赤平 昌文 (Masafumi Akahira)

1

はじめにFisher([F25]) は母数に対して統計量の補助性の概念を導入し, 補助統計量の値が与えられたときに条件付原理を用いた. また, 局外母数が存在するときに,は十分性と補助平について論じた. そしてそのようなときに,
Godambe$([\mathrm{G}80])$

Bhapkax([Bh89], [Bh91]) は補助統計量による条件付操作について論じ, さらに関心のある母数に対する統計量の部分的十分性 (partial sufficiency) のいくつかの定義について考察した. なお部分的十分性については, Basu([Ba78]) の論説がある.
本論では, 局所母数が存在するとき, 部分的情報量と十分性について論じ, 部分的(情報) 十分性の定義を与え, その特徴付けを行う.

2

部分的情報量と十分性

確率ベクトル X $:=(X_{1}, \cdots, X_{n})$ の ( -有限測度\mu に関する) 同時確率密度関数(joint probability density function 略して j .p.d.f.) をん,\eta (x) とする. ただし,$\mathrm{x}:=(x_{1}, \cdots, x_{n})$ ,\theta は関心のある実母数とし, \eta は実ベクトル値局外母数とする.
適当な正則条件の下で, Fisher 情報行列を
このとき,$\sigma$.

$I^{\mathrm{X}}:=(I_{\eta}^{\mathrm{X}}I_{\theta\theta}^{\mathrm{x}}\theta$$I_{\eta\eta}^{\ovalbox{\tt\small REJECT}}I_{\theta}^{\mathrm{X}})$$:=(E_{\theta}[ \mathrm{t}^{\frac{\partial}{\partial\theta}10}E_{\theta\{\begin{array}{l}\{\frac{\partial}{\partial\theta}\mathrm{l}\mathrm{o}\mathrm{g}f_{\theta,\eta}(\mathrm{x})\}2\}\{\end{array}\}}\mathrm{g}f\theta,\eta(\mathrm{X})\frac{\partial}{\partial\eta}\log f\theta,\eta(\mathrm{X})\}]$

によって定義する. ただし,また, に対する X の部分的情報量を$\frac{\partial}{\partial\eta},\log f_{\theta,\eta}(\mathrm{x})$$E_{\theta}[ \{\frac{\frac\partial\theta\partial\partial}{\partial\eta}\log f_{\theta,\eta}(\mathrm{X})\}E_{\theta}[\{\log f_{\theta,\eta}(\mathrm{X})\}\{\frac,\log f\{\frac{\partial\eta’\partial\partial}{\partial\eta}\log f_{\theta,\eta}(\mathrm{x})\}^{]}\theta,\eta(\mathrm{X})\}])$

は湯 logf\theta ,y\eta (X) の転置ベクトルとする.

$\theta$(2.1)$I_{\theta|\eta}^{\mathrm{X}}:=\dot{I}_{\theta\theta}^{\mathrm{x}}-I_{\theta\eta}^{\mathrm{X}}(I\mathrm{X})^{-}\eta\eta 1I^{\mathrm{x}}\eta\theta$で定義する. そして同様にして,$\theta$に対する統計量 T$I^{T}:=(I_{\eta}^{T}I_{\theta\theta}^{T}\theta$$\beta_{\mathfrak{m}}^{I^{T}})$$=t(\mathrm{X})$の FisherE 報行列を

111

によって定義し,$\theta$に対する T の部分的情報量を(2.2)$I_{\theta|\theta^{-I_{\theta}}}^{\tau T\tau}\eta\eta:=I_{\theta}(I_{\eta\eta}T)^{-1}F_{\eta\theta}$で定義する. さらに, すべての\theta とすべての\eta に対して
$I_{\theta|\eta\theta|\eta}^{\tau \mathrm{x}}=I$が成り立つとき, T は部分的に (情報) 十分であるという.

3

部分的 (情報) 十分性の特徴付け

この節では, T が部分的に (情報) 十分であるための必要十分条件を求める. まず, 母数\theta と’ すなわち, すべての\theta とすべての\etaが成り立つと仮定する. 一般には,, 適当な関数\mbox{\boldmath $\phi$}を用いて局外母数によって再定義すれば,を変換\eta \tildeになることも多い. このとき次の定理が成り立つ.
$\eta \text{の直交性の条件}I_{\theta}^{\mathrm{x}}\equiv 0\eta$$\text{に対して}I\mathrm{x}=0\theta\eta$$I_{\theta\eta}^{\mathrm{X}}\not\equiv 0\text{であるが}$$:=\phi(\theta, \eta)$

定理 1$I_{\theta\eta}^{\mathrm{X}}\equiv 0$は,証明の概略$I_{\theta\overline{\eta}}^{\mathrm{X}}\equiv 0$と仮定する. このとき$\grave{I}_{\theta\theta}^{T}\equiv I^{\mathrm{x}_{\theta^{\text{であ_{る}}}}}\theta$$I_{\theta\eta}^{\mathrm{X}}\equiv 0$$I_{\theta|\eta}^{\mathrm{X}}\equiv I_{\theta|\eta}^{T}$.

であるための必要十分条件

行列 Ix-F は非負定符号になる. そこで,という条件を用いて, (2.1) と (2.2) からまず,$I_{\theta|\eta}^{\mathrm{x}T}\equiv I_{\theta \mathfrak{l}\eta}$とすれば,$I_{\theta\theta}^{\mathrm{x}}\equiv I_{\theta}^{\tau T}\theta^{-I(}\theta\eta I_{\eta}.T\grave{\eta})^{-1}I^{\tau}\eta\theta$になる. また,となる.

$I_{\theta\theta}^{X}\geq I_{\theta\theta}^{\tau}\text{で}(I^{T}\eta\eta)-1\emptyset\backslash ’ \text{正定値である}\ovalbox{\tt\small REJECT}\searrow$

逆については, まず,$I_{\theta\eta}^{X}\equiv \mathit{0}\text{であ^{るから}}$,

ら,$I_{\theta\theta\theta}^{\mathrm{x}_{\equiv F_{\theta}}}$になり,$I_{\theta\eta}^{T}\equiv 0$(2.1) と (2.2) から行列$I^{\mathrm{X}\tau}-I\equiv(I_{\theta\theta}^{\mathrm{x}}-I-I^{\tau_{\theta}}\eta\theta\theta TI_{\eta\eta}\mathrm{x}-T-I_{\theta\eta}^{\tau_{I_{\eta}}}\eta)$

は非負定符号となる. そして,
次に,

$I_{\theta\theta}^{\mathrm{x}_{\equiv}}\Gamma_{\theta\theta}$とすれば,$I_{\theta\eta}^{T}\equiv \mathit{0}$となる.

口が与えられたときの $X$ の条件付確率密度関数 (conditional
して c .p.d.f) を, T の p .d.f. をとすると$T$$h_{\theta,\eta}(\mathrm{X}|\tau)$$\mathrm{p}.\mathrm{d}$.f. 略$g_{\theta,\eta}(T)$$f_{\theta,\eta}(\mathrm{x})=h_{\theta,\eta}(\mathrm{x}|t)g\theta,\eta(t)$$a.e$.となる. また,

$I_{\theta\theta\theta\theta}^{\mathrm{x}_{-I=}}TE[E[ \{\frac{\partial}{\partial\theta}\log h_{\theta,\eta}(\mathrm{X}|\tau)\}^{2}|T]]$(31)

112になる$(\mathrm{F}\mathrm{i}\mathrm{s}\mathrm{h}\mathrm{e}\mathrm{r}[\mathrm{F}25], \mathrm{R}\mathrm{a}\mathrm{o}[\mathrm{R}61])$. よって,$\frac{\partial}{\partial\theta}\log h_{\theta,\eta}(\mathrm{x}|t)=\mathit{0}$となるから,

ならは$I_{\theta\theta\theta}^{x_{\equiv F_{\theta}}}$

$a.e$

.

h\theta ,\eta (xl のは\theta に無関係になる. 従って, (3.1) から$a.e$$f_{\theta,\eta}(\mathrm{x})=h_{\eta}(\mathrm{x}|t)g\theta,\eta(t)$になる. 逆に,(3.2) が成り立つとすれば,$I^{T}\equiv I^{\mathrm{x}}\theta\theta\theta\theta$.

(3.2)になる.

よって, 次の定理を得る.

定理 2$I_{\theta\eta}^{\mathrm{X}}\equiv 0$と仮定する. このとき, 統計量 T $=t(\mathrm{X})$ が\theta に対して部分的(情報) 十分であるための必要十分条件は,X の j .

$\mathrm{p}.\mathrm{d}.\mathrm{f}$.が$a.e$$f_{\theta,\eta}(\mathrm{X})=h_{\eta}(\mathrm{x}|t)g\theta,\eta(t)$.となることである.
上の定理 2 は, Neyman 型因子分解定理であり, 非常に有用である.

をたがいに独立に, いずれも正規分布
例1
このとき, $\mathrm{X}:=(X_{1}, \cdots, X_{n})$ の i .p.d.f. は変数とする.
$X_{1},$$\cdots,$$X_{n}$$N(\mu, \sigma^{2})$に従う確率$f_{\theta,\eta}( \mathrm{x})=\frac{1}{(\sqrt{2\pi}\eta)^{n}}\exp\{-\frac{1}{2\eta}\sum_{i=1}^{n}(xi-\overline{x})^{2}\}\exp\{-\frac{n}{2\eta^{2}}(\overline{x}-\theta)^{2}\}$になる. ただし,$\overline{X}$$\mathrm{x}:=(x_{1}, \cdots, x_{n}),\overline{x}=\sum.inx1i/=n$とする. よって, 定理 2 より,は\theta に対して部分的 (情報)+分である.

’.

$\cdot$を確率変数とし, $z_{ji}(j=1, \cdots, k;i=1, \cdots, n)$ を定数の値をとる独立変数とする. そして, 線形回帰モデル

例2$X_{1},$$\cdots,$$X_{n}$$(i=1, \cdots, n)$$X_{i}=\beta_{0}+\beta 1Z1i+\cdots+\beta kZ_{ki}+\epsilon_{i}$.

を考える. ただし, \epsilon l, . , \epsilon n はたがいに独立に, いずれも N(O, \mbox{\boldmath $\sigma$}2) に従う確率変数は既知とする. このとき, $\mathrm{X}:=(X_{1}, \cdots, X_{n})$ の i .p.d.f. はとし,$\cdot$$\sigma^{2}$$f( \mathrm{x})=\frac{1}{(\sqrt{2\pi}\sigma)^{n}}\exp\{-\frac{1}{2\sigma^{2}}\sum_{i=1}^{n}(x_{i^{-}}\beta_{0}-\beta_{1}Z_{1i^{-}}.になる. ただし,とする. ここで,すべての母数を局外母数とする. 通常, \beta 1 と (\beta 0, \beta 2,$\mathrm{x}:=(x_{1}, \cdots, x_{n})$,$\sum_{i=1}^{n}\omega iZ_{ji}=0$-\beta_{k}Z_{ki})2\}$

を関心のある母数とし, 他の$\sqrt$

そこで$\sum_{i=1}^{n}\omega i=\mathit{0}$.

.., p) は (情報) 直交しない.

$\beta_{1}$$\cdot$.

$(j=2, \cdots, k)$113となるように$(i=1, \cdots, n)$$\omega_{i}:=z_{1}i-c_{1}-c_{2}z_{2i^{-}}\cdots-CkZki$

をとり,$\gamma_{0:=}\beta_{0+}C1\beta_{1}$,$\gamma_{2}:=\beta_{2}+C_{2}\beta 1$,$\cdot$..,$\gamma_{k}:=\beta_{k}+ck\beta 1$と変換する. このとき
$f( \mathrm{x})=\frac{1}{(\sqrt{2\pi}\sigma)^{n}}\exp\{-\frac{1}{2\sigma^{2}}\sum_{i=1}(xi-\gamma_{0^{-}}\beta 1\omega ni-\gamma 2Z2i^{-} .

..-\gamma_{k^{Z_{ki}}})^{2}\}$$= \frac{1}{(\sqrt{2\pi}\sigma)^{n}}\exp\{-\frac{1}{2\sigma^{2}}(\sum_{i=1}^{n}x_{i^{22}}-2\beta 1\sum_{i=1}\omega_{ii}X+\beta 1\sum\omega i^{2})ni=1n\}$.

$\exp\{-\frac{1}{2\sigma^{2}}\sum_{i=1}^{n}$$(\gamma 0+\gamma 2Z2i+ \cdot.$.

$+\gamma_{k}z_{ki})^{2}\}$になる. よって,, 物に直交していることが分かり,は他のすべての母数 70,また, 定理 2 より, $\tau:=\sum_{i}^{n}=1ii\text{ま}\omega x$ たはそれと同等な最小 2 乗推定量$\beta_{1}$$\gamma_{2},$$\cdots$$\hat{\beta}_{1}:=\sum_{i=1}^{n}\omega iXi/\sum_{i=1}^{n}\omega i^{2}$.

が\beta 1 に対する部分的 (情報) 十分になる.

参考文献[Ba78] Basu,. On partial sufficiency: A review. J. Statist.
Plann. Inference 2, 1-13.
$\mathrm{D}.(1978)$[Bh89] Bhapkar,. Conditioning on ancillary statistics and lossof information in the presence of nuisance parameters. J. Statist.
Plann. Inference 21, 139-160.
$\mathrm{V}.\mathrm{P}.(1989)$[Bh91] Bhapkar,. Loss of information in the presence of nuisanseparameters and partial sufficiency. J. Statist. Plann. Inference 28,$\mathrm{V}.\mathrm{P}.(1991)$185-203.

[F25] Fisher,. Theory of statistical estimation. Proc. Camb.
Phil. Soc., 22, 700-725.
$\mathrm{R}.\mathrm{A}.(1925)$[G80] Godambe,. On sufficiency and ancillarity in the presenceof a nuisance parameter. Biometrika 67, 155-162.
$\mathrm{v}.\mathrm{P}.(1980)$