修士論文 要旨

修正経験尤度比統計量に関する研究
数理情報学専攻 48096230
指導教員

向田裕人
駒木文保 教授

であり，l(ψ, λ) の下付き添え字は，その添え字で偏微1 はじめに分することを表す．また，ĵ = j(ψ̂, λ̂) である．

パラメトリックな統計的モデル p(x; ψ, λ) (ψ ：1 次，

よって，統計量 R を用いた検定の精度は O(n−1 ) で，λ：d 次) からのサンプル x = (x1 , . . . , xn ) を用いて，R∗ と修正すると精度が O(n−3/2 ) となることが分かる．

検定問題 H0 : ψ = ψ0 v.s H1 : ψ ̸= ψ0 を考える際，検定統計量として対数尤度比統計量 L(ψ) = 2{l(ψ̂, λ̂) −2.2

Observed Geometry

情報幾何学とは，統計的モデルを多様体とみなし，幾l(ψ, λ̂ψ )} を用いた方法が広く用いられる．ここで，何学的な構造を乗せて解析する方法であり，これを用いl(ψ, λ) は対数尤度関数，ψ̂, λ̂ は最尤推定量，λ̂ψ は ψ がれば，統計量や統計量の従う分布を展開して得られた値

既知の下の λ の最尤推定量である．この統計量は，H0について，各項の持つ意味や性質を直感的に理解できる．

dが真ならば L(ψ) → χ2(1) となるので受容域の近似的な設定がしやすいことや，H0 , H1 がともに単純仮説の場合には最強力検定になるという利点がある．また，この統計量の収束の精度を上げるための，統計量の修正方法についても様々な研究がなされている．

情報幾何学の一つである observed geometry[2] では，統計的モデル p(x; θ) について，(θ̂, a) (θ̂：θの最尤推定量)が最小十分統計量となる（近似的な）補助統計量 a の存在を仮定し，Riemann 計量として observed information2

本論文では，[3] に基づいた符号付き根号対数尤度比統計量の修正方法について，observed geometry による

jrs (θ) = − ∂θ∂r ∂θs l(θ) を導入する．
2.3

修正項の展開修正項について次の性質が成り立つ．

修正項の持つ情報幾何学的な意味を与えた．さらに，経験尤度に対する拡張方法と，exponential-tilt モデルの補題 2.1. uP , uI は，パラメータについての非線形変数場合における検定の有用性を数値実験によって示した．

変換 ψ ′ = g(ψ), λ′ = h(ψ, λ) について不変である．
この性質から，ψ と λ が直交していると考えてよく，2 修正項の情報幾何学的考察

すると各修正項の展開式は，本節では，λ も 1 次元，つまり d = 1 であるとする．

2.1

uP = 1 +符号付き根号対数尤度比統計量の修正

ψ が真のパラメータ値のとき，符号付き根号対数尤度√比統計量 R = sgn(ψ̂ − ψ) L(ψ) は次の性質を持つ．
定理 2.1. Pr(−r ≤ R ≤ r) = Pr(−r ≤ T ≤ r) +1 −1H/(ψ̂ − ψ) +Op (n−1 ),2⧸jλλ λλψ|{z}(i)

1 −1/2 −11/2uI = ⧸jψψ (ψ̂ − ψ) + ⧸jψψ Γ/ψψψ (ψ̂ − ψ)22|{z}O(n−1 ) (T ∼ N(0, 1)) が成立する．

(ii)

定理 2.2. x の従う分布 f (x; ψ, λ) について，ある（近似的な）補助統計量 a が存在し，(ψ̂, λ̂, a) が最小十分統計量となる時，R∗= R + R1 log( uI uP )∗は，Pr(−r ≤R−3/2R ≤ r) = Pr(−r ≤ T ≤ r) + O(n) が成立する

uP :=†(iii)となる．ここで，⧸
g という表記は，関数 g(ψ, λ; ψ̂, λ̂, a)に つ い て ，最 尤 推 定 量 (ψ̂, λ̂) に 真 の パ ラ メ ー タ 値(ψ, λ) を代入したものを表し， /Γ は α-接続，⧸
H は†lψ̂(ψ) − lλψ̂ (ψ, λ̂ψ )T lλλ̂ (ψ, λ̂ψ )−1 lλ̂† (ψ)−1|ĵψψ − ĵψλ ĵλλĵλψ |1/2|lλλ̂ (ψ, λ̂ψ )||jλλ (ψ, λ̂ψ/ψψλ (ψ̂ − ψ)(λ̂ − λ) +Op (n−1 )+⧸jψψ H|{z}−α[3]．ここで，

uI :=−1/20)|1/2 |ĵ

λλ|1/2Euler–Schouten 曲率テンソルである．このことから，,,l (ψ) := l(ψ̂, λ̂) − l(ψ, λ̂ψ ),()(jψψ (ψ, λ) jψλ (ψ, λ)l (ψ, λ)j(ψ, λ) :== − ψψjλψ (ψ, λ) jλλ (ψ, λ)lλψ (ψ, λ)(i),(ii),(iii) の項について次のような解釈ができる．
(i) ：−1-接続を導入したとき，λ = (const.) という部
分多様体が真のパラメータ (ψ, λ) 上でどのくらい曲がっているかを考慮する項．

)
lψλ (ψ, λ) (ii) ：expected geometry[1] に お け る α-divergencelλλ (ψ, λ)Dα (θ, θ′ ) について，g を Fisher 計量としたとき，

修正経験尤度比統計量に関する研究 (向田裕人)√sgn(ψ̂ − ψ) 2D3 ((ψ, λ), (ψ̂, λ))1 −1/2 −11/2= gψψ (ψ̂ − ψ) + gψψ Γψψψ (ψ̂ − ψ)2 + Op (n−1 )2となることから，最尤推定量 ψ̂ と真のパラメータψ の距離を考慮する項．
(iii) ：0-接続を導入したとき，ψ = (const.) という部分多様体が，真のパラメータ (ψ, λ) 上でどのくらい

図 1. 包含確率の比較（左：β0 = 0，右：β0 = 2）．

曲がっているかを考慮する項．

3 経験尤度への応用
3.1

経験尤度

経験尤度とは，x1 , . . . , xn ∼ F0 , xi ∈ Rd について，F0 を確率 wi で xi を取る多項分布 F で離散近似して∏n考える方法で，L(F ) = i=1 wi で定義される．
これを用いた検定を考えると，たとえば，E[X] = θを検定する際は，プロファイル経験尤度比統計量は，

∏n
∑n
∑n
R(θ) = max { i=1 nwi | i=1 wi Xi = θ, wi ≥ 0, i=1 wi = 1 }

図 2. 検出力の比較（n = 60）．

dとなる．これは E[X] = θ が真ならば −2 log R(θ) →χ2(d) が成立する．このように，パラメトリックモデルにおける尤度関数で成り立つ性質は，経験尤度でも成立

検定統計量として R∗ を用いたほうが，包含確率の結果が有意水準の設定と整合のとれた結果となっている．
また，検出力に差は見られなかった．

することが多いことが知られている [4]．

3.2Exponential-tilt モデルにおける修正確率変数 X, Y ∈ R について X ∼ g(x), Y ∼ h(x) =exp(α + βx)g(x) で表されるモデルを exponential-tilt
モ デ ル と い う ．こ の モ デ ル か ら x1 , . . . , xn ∼ g(x),y1 , . . . , ym ∼ h(x) とサンプルが得られた時，g(x) を多項分布で離散近似して経験尤度を計算すると，

l(x, y; β, θ) = β

mn+m−1∑∑(yi − zn+m ) +θi + Φ(β, θ) (1)
i=1

i=1

pi, zi = xi (i = 1, . . . , n),となる．ここで，θi = log pn+mzi = yi−n (i = n+1, . . . , n+m), Φ(β, θ) = −n log(1+∑n+m−1 θi∑n+m−1 θi +β(zi −zn+m )e ) − m log(1 + i=1e)でi=1ある．これは (n + m, n + m)-指数型分布族の対数尤度関数の形であるので，容易に修正項の計算ができる．

3.3

数値実験

(1) 式を用いた R, R∗ による検定の比較実験の，包含確率の結果を図 1 に，検出力の結果を図 2 に記す．この実験では，g(x) = 0.3N(0, 1) + 0.7N(1, 1)，n = m，β の真の値を β0 とし，R, R∗ を用いて帰無仮説を有意水準 5% で検定した．帰無仮説は，包含確率の比較の場
合は β = β0 ，検出力の比較の場合は β = 0 とした．

4 まとめと今後の課題
本論文では，符号付き根号対数尤度比統計量について，修正項の情報幾何学的意味を与えた．また，経験尤度への拡張について，exponential-tilt モデルの際の修正方法と，数値実験による有用性の考察を行った．
今後の課題としては，分布収束の精度の改善についての情報幾何学的考察や，exponential-tilt モデル以外のモデルへの応用と検証，収束の改善についての理論的な証明などが挙げられる．

参考文献[1] S. Amari: Diﬀerential-Geometry Methods in Statistics, Springer Lecture Notes in Statistics, California,
1985.
[2] S. Amari, O. E. Barndorﬀ-Nielsen, R. E. Kass, S. L.
Lauritzen and C. R. Rao: Diﬀerential Geometry in
Statistical Inference, Institute of Mathematical Statistics, California, 1987.
[3] O. E. Barndorﬀ-Nielsen: Inference on full or partial
parameters based on the standardized signed log likelihood ratio, Biometrika, Vol. 73 (1986), pp. 307–322.
[4] A. B. Owen: Empirical Likelihood, Chapman andHall/CRC, New York, 2001.