無限次元マルチンゲール中心極限定理の使用法
西山陽一

統計数理研究所
November 5, 2010
IBIS 2010 （東京大学生産技術研究所にて）1

1. 序：I.i.d. の経験過程の復習といくつかの準備
X1, X2, ..., Xn: 1 次元で i.i.d. ∼ F .
経験分布関数をn∑11(−∞,x](Xi)Fn(x) =ni=1と置くと，中心極限定理により√Gn(x) = n(Fn(x) − F (x)) →d N (0, F (x)(1 − F (x)))
が成り立つ．より一般に，多次元の中心極限定理より(Gn(x1), ..., Gn(xd)) →d N (0, Σ)が成り立つ．ただし Σkl = F (xk ∧ xl ) − F (xk )F (xl ).
ここで，x を選ぶのを有限個の点 x1, ..., xd だけでなく，R 全体を動かして関数と考えよう．つまり x ; Gn(x) を確率過程とみる.
2

関数というからにはどのような関数空間に値を取っているかということを考えなければならないが，ここでは二通り考えよう．
(I) 一つは，supx |Gn(x)| < ∞ であることに着目して，空間ℓ∞([−∞, ∞])に値を取るというみなし方をする方法である．ただし，ℓ∞(T ) とは集合 T 上で定義された有界関数全体から成る空間であり，これに一様距離 ||ξ − ζ||∞ = supx∈T |ξ(x) − ζ(x)| を入れる．
∫(II) もう一つは，R 上の任意の有限測度 ν に対し R |Gn(x)|2ν(dx) <∞ であることに着目して，空間L2(ν(dx))に値をとるみなし方をする方法である．

3

すると，よく知られている事実として，弱収束Gn(·) →d B ◦(F (·))
が ℓ∞([−∞, ∞]) の中でも L2(ν(dx)) の中でも成立する．
ただし，{B ◦(u)}u∈[0,1] は平均ゼロの連続ガウス過程であって，共分散がE[B ◦(u)B ◦(v)] = (u ∧ v) − uvであるものである．
（これを標準ブラウン橋と呼ぶ．
）
また，一般に，距離空間 (D, d) に値を取る確率変数 Xn が X に弱収束するとは，任意の有界連続関数 f : D → R に対しE[f (Xn)] → E[f (X)]が成り立つことを意味する．これを Xn →d X in D と書くことにする．
4

この弱収束理論の利点は，連続写像定理が使える点である．すなわ
ち，距離空間 (D, d) から距離空間 (E, e) への連続写像 f に対し，

Xn →d X in D ならば f (Xn) →d f (X) in Eである．
ここで，f : ℓ∞(T ) → R を f (ξ) = supx∈T |ξ(x)| とすると，これは一様距離∫ || · ||∞2 に関して連続である．また，f : L2(ν(dx)) → R を
f (ξ) = R |ξ(x)| ν(dx) とすると，これは L2(ν(dx))-距離に関して連続である．よって連続写像定理により

sup|Gn(x)| →dsupx∈[−∞,∞]x∈[−∞,∞]∫

R|B ◦(F (x))|,∫|Gn(x)|2F (dx) →dが成り立つ．
5R|B ◦(F (x))|2F (dx)

特に x 7→ F (x) が連続であるときには，極限の分布はそれぞれ∫ 1
sup |B ◦(u)|,|B ◦(u)|2du0u∈[0,1]に等しく，F に依存しない分布となる．このような状況を漸近的分布不変であるという．帰無仮説 H0 : F = F0 の検定統計量として，ここで見た√sup n|Fn(x) − F0(x)| （コルモゴロフ-スミルノフ統計量）,∫Rx∈Rn|Fn(x) − F0(x)|2F0(dx) （クラメール-フォン・ミセス統計量）

は漸近的分布不変である．

6

前者の極限分布は陽に(Psup |B ◦(u)| ≤ x)∞
∑2 x2k−2k=1+2(−1) eu∈[0,1]k=1と記述される．後者の分布はそれほど容易には表現できないが，数表が Anderson and Darling (1952) で与えられている．詳しくは Darling(1957) によるレビューを見よ．
以上でわかるように，関数空間における弱収束理論は，基本的な関数値確率変数の弱収束を示しておけば，その連続汎関数の形で書ける統計量の漸近分布が導出できるという理由で非常に強力な道具である．その一方で，有限次元の中心極限定理そのものは i.i.d. よりも一般的な状況で，さまざまな形で証明されている．その最も有用なもののひとつはマルチンゲール中心極限定理である．本研究の目的は，それを ℓ∞(T ) 空間およびヒルベルト空間に拡張することである．
7ここで有限次元のマルチンゲール中心極限定理を復習しておこう．
一般に，確率空間 (Ωn, F n, P n) と F n の部分 σ-集合族の増加列

F0n ⊂ F1n ⊂ · · ·が与えられたときに，マルチンゲール差分列 {ξin}i=1,2,... とはn [ξ n] = 0 a.s.
ξin が Fin-可測 かつ Ei−1in は F n に関する条件付き期待値をであるときにいう．ただし Ei−1i−1表す．マルチンゲール中心極点定理とは，マルチンゲール差分列のベクトルの部分和n∑n,kξi , k = 1, ..., di=1の漸近分布を与えるものである．
8n,k定理 1 各 n ∈ N に対し，{ξi }i=1,...,n, k = 1, ..., d, は Bn 上のマルチンゲール差分列であるとし，次の (i) および (ii) を満たすことを仮定する．
∑nn [|ξ n,k |2+δ ] →p 0, k = 1, ..., d.
(i) ある δ > 0 が存在して i=1 Ei−1i∑nn [ξ n,k ξ n,l ] →p C(k, l), k, l = 1, ..., d. ただし極限は(ii) i=1 Ei−1ii
定数．
このとき
nn
∑
∑
n,1n,dξi , ...,
ξi  →d N (0, Σ)
i=1i=1が成り立つ．ただし Σk,l = C(k, l).

9これを無限次元に一般化すれば，依存データにおけるさまざまな問題に対して適用できることが期待できる．本稿ではそのひとつの例として，• 第 2 節においてマルコフ連鎖の推移密度の適合度検定問題を提起する．
• 第 3 節において，ℓ∞(T ) 空間のマルチンゲール中心極限定理の理論を紹介し，その応用としてコルモゴロフ-スミルノフ型の検定統計量の漸近分布を導出する．
• 第 4 節において，ヒルベルト空間の理論を紹介し，その応用としてクラメール-フォン・ミセス型の検定統計量の漸近分布を導出する．
これらの節で議論するマルコフ連鎖の推移密度の適合度検定は，本稿で新たに得られた結果であり，それ自身興味深い．
102. 例題：マルコフ連鎖の推移密度の適合度検定
X0, X1, X2, ... は実数値マルコフ連鎖であるとし，その推移密度をp(x, y) とする．すなわち，∫P (Xi ∈ A|Xi−1) =p(Xi−1, y)dy, ∀A ∈ B(R), i = 1, 2, ....
A

この例題を通じて，マルコフ連鎖がエルゴード的あることを仮定し，その不変分布を π(dx) とする．次の確率場を導入する：}∫ xn {∑1
Gn(x; p) = √1(−∞,x](Xi) −p(Xi−1, y)dy ,
n−∞
i=1
}√
∫ xn {∑1Hn(x; p) = √1(−∞,x](Xi) −p(Xi−1, y)dyp(Xi−1, x).
n−∞
i=1

11

後に我々は，弱収束Gn(·; p) →d B ◦(F (Z, ·)) in ℓ∞([−∞, ∞]),√d◦Hn(·; p) → B (F (Z, ·)) p(Z, ·) in L2(R)が成立するための十分条件を与える．ただし(1)(2)• u ; B ◦(u) は標準ブラウン橋,∫x• F (z, x) = −∞ p(z, y)dy ，• Z は B ◦ とは独立な確率変数であって分布 π(dz) をもつようなもの.
ひとたびこれが示されたら，次のようにして推移密度の適合度検定問題を考えることができる．各 z ∈ R に対し x 7→ F (z, x) は連続分布関数であるから，連続写像定理を用いることにより，
12

帰無仮説 p = p0 のもとで，sup |Gn(x; p0)| →d sup |B ◦(F0(Z, x))|x∈Rx∈Rsup |B ◦(u)|,=du∈[0,1]∫ ∞−∞|Hn(x; p0)|2dx →d∫ ∞|B ◦(F0(Z, x))|2p0(Z, x)dx∫−∞1=d|B ◦(u)|2du0∫xが成り立つ．ただし F0(z, x) = −∞ p0(z, y)dy である．これらの検定は漸近的に分布不変であることに注意せよ．

13

一方，これらの検定が次のような対立仮説 H1 のもとで一致性をもつことが容易に示される：∫ ∞(F (z, x) − F0(z, x))π(dz) ̸= 0 for some x (KS),∫ ∞ ∫ ∞−∞√√|F (z, x) p(z, x)−F0(z, x) p0(z, x)|2dxπ(dz) > 0 (CvM).
−∞ −∞注意：マルコフ連鎖の状態空間が多次元の場合にも類似した弱収束をしめすことはできるが，検定は漸近的分布不変にはならない．

14

3. ℓ∞-空間におけるマルチンゲール中心極限定理とその応用
3.1. 定理
次の定理は Nishiyama (2000) による．
定理 2 各 n ∈ N および各 x ∈ T に対し，{ξin(x)}i=1,2,...,n は確率基
Bn 上のマルチンゲール差分列であるとする．次の (i) – (iv) を仮定
する．
(i) 各 n, i に対し，x ; ξin(x) は有界である．
∑nn [[supn(x)|]2+δ ] →p(ii) ある定数 δ > 0 が存在して i=1 Ei−1|ξt∈T iFin0.
∑nn [ξ n(x)ξ n(y)] →p C(x, y). ただ(iii) 各 x, y ∈ T に対し i=1 Ei−1ii
し極限は定数．

15

(iv) 任意の ε ∈ (0, 1] に対し N (ε)-個の集合による T の分割 T =∑N (ε)
k=1 Tε,k が存在してvu
2 u nu∑ n nnu
Ei−1 sup |ξi (x) − ξi (y)|tx,y∈Tε,ki=1

supmaxεε∈(0,1] 1≤k≤N (ε)

かつ∫ 1√log N (ε)dε < ∞.
016Fin= OP (1)このとき，n∑ξin →d G in ℓ∞(T )i=1が成り立つ．ただし x ; G(x) は平均ゼロのガウス過程であってE[G(x)G(y)] = C(x, y) であるものである．
この定理を適用するためのポイントとなるのは，緊密性条件 (iv) である．これを保障するためのひとつの方法は，x ; ξin(x) に滑らかさを仮定することである．すなわち，x ; ξin(x) が T 上のある擬距
離 ρ に対してリプシッツ連続|ξin(x) − ξin(y)| ≤ Kinρ(x, y)（ただし Kin は Fin-可測）である場合には，(iv) が成立するための十17分条件はn∑n [|K n|2] = O (1),Ei−1Pi∫ 1√0i=1log N (ε, T, ρ)dε < ∞が成り立つことである．ただし N (ε, T, ρ) は空間 T を ρ に関する ε球で覆うために必要な最小個数を表す．ただし例題の場合は滑らかではないので，この方法は使えない．

18

そういった場合に対処するためのひとつの方法は，多少不正確な表現になるが，ξin(x) の条件付き期待値が多くの場合には f (Xi−1, x) の形で与えられることに注意し，f (z, x) を g(z)h(x) の形をしたもので押さえることである．例題の場合にはこの方法が有用である．

19

3.2. 例題への適用
第 2 節で述べた例題における弱収束 (1) が成立することを示すた
めに定理 2 を{}∫ x1nξi (x) = √1(−∞,x](Xi) −p(Xi−1, y)dyn−∞に対して適用しよう．そのための付加的仮定として次を置く．
仮定 3 ある R 上の π-可積分関数 g ≥ 0 とルベーグ可積分関数 h ≥ 0が存在してp(x, y) ≤ g(x)h(y), ∀x, y ∈ R.

20

では定理 2 の条件をチェックしていこう．{ξin(x)}i=1,2,... がマルチンゲール差分列であることは明らか．(i) – (iii) は容易．
最も肝心な (iv) をチェックするために，任意の ε > 0 に対し，点−∞ = xε,0 < xε,1 < · · · < xε,N (ε) = ∞ を∫ xε,kh(z)dz ≤ ε2, k = 1, ..., N (ε)
xε,k−1を満たすようにとる．これは N (ε) ≤ constant · ε−2 であるようにして実現できるので，エントロピー条件∫ 1√
log N (ε)dε < ∞021は満たされている．一方v
uu nu∑ n u
Ei−1 
tx,y∈(xε,k−1,xε,k ]

i=1supmax

ε∈(0,1] 1≤k≤N (ε)≤≤≤sup√ ∑n1
supmaxε∈(0,1] 1≤k≤N (ε)

supmaxε∈(0,1] 1≤k≤N (ε)

n∫ xε,ki=1 4 xε,k−1 p(Xi−1, y)dyε∫ xε,ki=1 4 xε,k−1 g(Xi−1)h(y)dyv
u nu4 ∑tg(Xi−1) = OP (1).
n22i=1Finε√ ∑n1n2 |ξin(x) − ξin(y)| ε4. ヒルベルト空間におけるマルチンゲール中心極限定理とその応用
3.1. 定理
H は実ヒルベルト空間であるとし，その内積を ⟨, ⟩, ノルムを || · ||と記す．完全正規直交系 {ej : j ∈ J} が存在することを仮定する．
各 n ∈ N に対し, {ξin}i=1,2,...,n は離散時間確率基
Bn = (Ωn, F n, {Fin}i=0,1,2,..., P n)の上で定義された H に値をとる確率変数の列であるとする．この時点では ξin の可測性は仮定しない；それは Ωn から H への単なる写像であるとする．
∑n n
我々は i=1 ξi が n → ∞ とするとき H のガウス確率変数に弱収束するための十分条件を提示する．証明は Prohorov (1956) の緊密性判定条件をチェックすることによる．詳しくは Nishiyama (2010) を見よ．
23定理 4 上述の設定において，次の (i) – (iv) が満たされることを仮定する．
(i) 各 n ∈ N および h ∈ H に対し，{⟨ξin, h⟩}i=1,2,...,n は Bn上のマルチンゲール差分列である．すなわち，⟨ξin, h⟩ は Fin-可測でn [⟨ξ n, h⟩] = 0 a.s. である．
Ei−1i∑nn [[||ξ n||]2+δ ] →p 0.
(ii) ある定数 δ > 0 が存在して i=1 Ei−1i Fin∑nn [⟨ξ n, h⟩2] →p C(h). ただし極限(iii) 各 h ∈ H に対し, i=1 Ei−1iは定数．
(iv) ある H に値をとる確率変数 ζ であって E||ζ||2 < ∞ および各 n ∈ N と j ∈ J に対しn∑E n⟨ξin, ej ⟩2 ≤ E⟨ζ, ej ⟩2i=1を満たすものが存在する．
24

このとき，n∑ξin →d G in Hi=1が成り立つ．ただし G は H に値を取る緊密なボレル可測確率変数であって ⟨G, h⟩ ∼ N (0, C(h)) によって特徴づけられるものである．
注意．仮定 (iv) は ξin が √1n ζi の形をしていて ζi が定常で E||ζ1||2 <∞ であるならば成り立つ．従って，この定理によると，定常性をもつ場合には緊密性はほぼ自動的に成立する．

25

4.2. 例題への適用
第 2 節で述べた例題における弱収束 (2) が成立することをいうた
めに，定理 4 においてヒルベルト空間 H を L2(R) として{}√∫ x1n1(−∞,x](Xi) −p(Xi−1, y)dyξi (x) = √p(Xi−1, x)n−∞に対して適用しよう．そのための付加的な仮定として，次を置く．
仮定 5 マルコフ連鎖 X0, X1, X2, ... は定常である．

26

さて，まず (i) については[∫ ∞]ξin(x)h(x)dxn [⟨ξ n, h⟩] = E n
Ei−1ii−1∫ ∞ −∞n [ξ n(x)]h(x)dx,=Ei−1i∫−∞∞0h(x)dx, a.s.
=−∞

= 0,a.s.

27a.s.

(ii) は明らか．(iii) についてはn∑n [⟨ξ n, h⟩2]Ei−1ii=1=∫ ∞∫ ∞n {∫ x∧y∑1−∞ −∞ n i=1∫ x−∞−p(Xi−1, u)du∫ y}p(Xi−1, u)dup(Xi−1, u)du−∞√√ −∞· p(Xi−1, x) p(Xi−1, y)h(x)h(y)dxdy∫ ∞∫ ∞∫ ∞→p{F (z, x ∧ y) − F (z, x)F (z, y)}−∞ −∞ √−∞√· p(z,x) p(z, y)h(x)h(y)dxdyπ(dz)√= E[⟨B ◦(F (Z, ·)) p(Z, ·), h⟩2].
28

最も肝心な (iv) は，定常性の仮定から明らかに満たされている．したがって，定理 4 の条件は全て満たされている．
謝辞．この研究は日本学術振興会からの科学研究費補助金・基盤研
究 (C)（課題番号 21540157）の援助を受けてなされた．

29

References[1] Anderson, T.W. and Darling, D.A. (1952). Asymptotic theory of certain ‘goodnessof ﬁt’ criteria based on stochastic processes. Ann. Math. Statist. 23, 193-212.
[2] Darling, D.A. (1957). The Kolmogorov-Smirnov, Cramer-von Mises tests. Ann.
Math. Statist. 28, 823-838.
[3] Negri, I. and Nishiyama, Y. (2009). Goodness of ﬁt test for ergodic diﬀusion processes. Ann. Inst. Statist. Math. 61, 919-928.
[4] Nishiyama, Y. (2000). Weak convergence of some classes of martingales with jumps.
Ann. Probab. 28 685-712.
[5] Nishiyama, Y. (2010). A martingale central limit theorem in Hilbert space and its
applications. Research Memorandum 1116, Inst. Statist. Math., Tokyo.
[6] Prohorov, Yu. V. (1956). Convergence of random processes and limit theorems inprobability. Theory Probab. Appl. 1, 157-214.

30

[7] van der Vaart, A.W. and Wellner, J.A. (1996). Weak Convergence and Empirical
Processes: With Applications to Statistics. Springer-Verlag, New York.

31