統計数理（2010）
第 58 巻 第 1 号 127–130
c 2010 統計数理研究所
［研究ノート］

射影推定量についての一注意
西山 陽一

†

（受付 2010 年 3 月 31 日；改訂 4 月 15 日；採択 4 月 15 日）

要旨[−π, π] 上の密度に対する射影推定量の L2 リスクの漸近限界の主要定数（leading constant）
が真の密度に依存せず 1/π と陽に与えられるという注意を与える．この意味において，射影推定量にはカーネル推定量にないメリットがある．

キーワード： 密度推定，L2 リスク，正規直交系．
1.

序f は [−π, π] 上の確率密度であるとする．それが p 回微分可能であると仮定し，その導関数を f (m) , m = 0, 1, . . . , p と記し，さらに ||f (p) || < ∞ および f (m) (−π) = f (m) (π), m = 0, 1, . . . , p − 1であることを仮定する．ただし || · || はルベーグ測度に関する L2 ノルムを表す．
そのような密度をもつ分布からの i.i.d. サンプル {X1 , . . . , Xn } が与えられたとする．我々の目的は，f に対する射影推定量（projection estimator）fn が次のような厳密限界および漸近限界をもつという注意を与えることである．

定理 1. fn は以下の（1.1）
によって与えられるような f に対する推定量であるとする．ただし（1.1）における正規直交系 {ej } は三角関数系（3.1）であるとする．
（i）全ての n に対し，

1
E||fn − f ||2 ≤ n−2p/(2p+1)  + 22p ||f (p) ||2  .
π（ii）n → ∞ とするとき，
1
E||fn − f ||2 ≤ n−2p/(2p+1)  + o(1) .
π

我々の結果は Parzen（1962）によって導入されたカーネル推定量 fn と比較されるべきである．カーネル関数を K とする．よく知られた結果は次のような形をしている：（i）全ての n に対し，E||fn − f ||2 ≤ n−2p/(2p+1) C1 (f, K);（ii）n → ∞ とするとき，E||fn − f ||2 ≤ n−2p/(2p+1) |C2 (f, K) + o(1)|.

†

統計数理研究所：〒190–8562 東京都立川市緑町 10–3

統計数理

128

第 58 巻

第 1 号 2010

ここで C1 (f, K) および C2 (f, K) は ||f (p) || および K に依存するような定数である（もちろん C1 (f, K) ≥ C2 (f, K) である）．収束率 n−2p/(2p+1) は最適であると知られている．詳しくは
例えば Tsybakov（2009）
や van der Vaart（1998）を見よ．我々の結果は特に漸近的問題（ii）に対して利点をもつ．カーネル密度推定量に対する主要定数（leading constant）C2 (f, K) は未知の||f (p) || に依存しているのに対し，我々の結果におけるそれは 1/π であって f に依存しない．
統計家は真の f を事前には知らないのであるから，このような明示的な主要定数 1/π を得ることは大きなメリットをもつ．以下の議論からわかるように，もし密度 f のサポートがある定数 M > 0 に対し [−M π, M π] であるときには，主要定数は 1/M π となる．よって我々の方法
は f がコンパクトな台をもつような場合を完全にカバーしている（f の台が [−M π, M π] に含まれるような大きな M ≥ 1 を選べばよい）．
上で述べた我々の理論的結果は 1 次元の場合のみに対するものであるが，推定量の定義自体は（多次元の場合も含め）一般の状態空間 X に対するもので与えておく． {Xi } は測度空間(X , A, µ) 上で定義された（µ に関する）密度 f をもつような分布からの i.i.d. サンプルであるとする．空間 L2 (X , µ) を考え，内積を ,  と表し，ノルムを || · || と表し，正規直交系 {ej } をとる．関係f (x) =
f, ej ej (x), fn (x) :=f, ej ej (x),jj≤dnに基づいて，我々は推定量n1
fn (x) =ej (Xi )ej (x)n i=1(1.1)

j≤dnを提案する．ここで dn は有限定数であって n → ∞ とするとき発散するようなものとする．主結果においては dn = n1/(2p+1) ととる．以下，2 節において主要項 E||fn − fn ||2 を分析し，3節においては状態空間を X = [−π, π] と特殊化した上でバイアス項 ||f − fn || を考察する．次元 dn はカーネル密度推定量におけるバンド幅の役割を果たす．射影推定量の構成のアイデアそのものは古くから知られているが（少なくとも Cencov, 1962 に遡る．最近の教科書としてはTsybakov, 2009 を見よ）
，我々の与えた注意は現在まで指摘されていなかったものである．なお射影推定量とカーネル推定量の誤差上界のオーダーは同一となるが，この事実自体およびそれが最適率であることはよく知られていたことである．
2.

主要項

主要項については，問題を一般の状態空間 X のまま議論することができる．
2  n 1 µ(dx)E||fn − fn ||2 = E(e(X)−Ee(X))e(x)jijijnX 
i=1 j≤dn 
1=Var(ej (X1 ))ej (x)2 µ(dx)n Xj≤dn
1 =Var(ej (X1 ))nj≤dndn≤
sup Var(ej (X1 )).
n j射影推定量についての一注意

3.

129

バイアス項

この節では X = [−π, π] とする．正規直交系 {ej } を
11√ cos kx, √ sin kx,ππ

1√ ,2π(3.1)(k = 1, 2, . . . )ととる．j と k の関係は，コサインについては j = 1 + (2kjc − 1) であり，サインについては
j = 1 + 2kjs である．よって一般に (j − 1)/2 ≤ kj である．
部分積分の公式により，例えば
 π
 π
11
√f (x) cos kxdx = − √f (1) (x) sin kxdx
π −ππk −π π
1f (2) (x) cos kxdx
= −√ 2πk −π= ...
が成り立つ．よって容易に
2 
2 π
  1  π

 1

cs

√
√
||f − fn ||2 =f(x)coskxdx+f(x)sinkxdx
jj
 π
 π
−π−πj>dn2 2 π  1  π (p)
1(p) +  √1√≤f(x)sinkxdxf(x)coskxdxjj
2p|dn /2|
ππ−π−πj>dn−2p=: dnDn (f, p)が得られる．ただし 2 行目の式における kj および kj はそれぞれ kjc および kjs のいずれかを表す（いずれを表すかは p が偶数か奇数かによる）．定数 Dn (f, p) は n → ∞ とするときゼロに収束し，また常に 22p ||f (p) ||2 より小さいものであることに注意しよう．
4.

主定理の証明

主結果を得るためには dn /n = dn−2p とおけばよい．このとき dn = n1/(2p+1) である．主要定数は supj Var(ej (X1 )) ≤ 1/π によって押さえられる．
謝辞，21540157 によって支援
この研究は日本学術振興会からの科学研究費補助金・基盤研究（C）されたものである．

参 考 文 献Cencov, N. N.（1962）. Estimation of unknown probability density based on observations, Doklady
Akademii Nauk SSSR, 147, 45–48.
. On estimation of a probability density function and mode, Annals of Mathematical
Parzen, E.（1962）
Statistics, 33, 520–531.
. Introduction to Nonparametric Estimation, Springer, New York.
Tsybakov, A. B.（2009）van der Vaart, A. W.（1998）. Asymptotic Statistics, Cambridge University Press, Cambridge.

130Proceedings of the Institute of Statistical Mathematics Vol. 58, No. 1, 127–130(2010)A Remark on Projection Estimator
Yoichi Nishiyama
The Institute of Statistical Mathematics

We remark that the leading constant of the asymptotic bound for the L2 risk of theprojection estimator for a density on [−π, π] is 1/π, which does not depend on the truedensity. In this sense, the projection estimator has a merit that the kernel estimators donot have.

Key words: Density estimation, L2 risk, orthonormal system.