確 率 数 理 要 論 8•

Gauss過程

凹11で値確率変数M.....×m）が多変量正規分布に従うとは、 「ti....、tm E R に 対 し てが

t . X . t t K t - _ - t t m Xm
R上の正規分布に従うことと定義する。

ただし、分散Oでも正規分布であると言う

平均：

µ =

共分散： E=（ E M I . . . . . E Nmi）「ERM（EN:Xj］-EN：1END)ij E R " "LTG V M X DT E

を用いて.

※

N(ME）と書く.

4

この定義ならEがランク落ちしてい2も良い.
（通常の密度関数を用いた定義では扱えない）

実際、 2 と 0のときに、密度関数を用いた定義と同値であることをチェックする。

M=0としても一般性を失わない.
t x t - t t m Xmの平均は0、分散はまともである、これが正規分布に従うので、その 特性関数は中。（s）= E1ではメけーたが1］=exp（_がかなか） - a ）である。 S=1とすると. た（1）は N、.....Xm）「の特性関数に他ならない、実際、 4（ま）=E［ピが］=E[eのはメけけがい］=exp（ーえがい）に*）

これは 平均0、分散共分散との多変量正規分布の特性関数.

特性関数の一意性より、両者の定義が同値であることがわかる.

確率数理要論8

1 / 11

I I(Gauss過程，Gaussian process)
T：インテックスの集合 （たRとは限らない、一般の集合）

右 雀 率 過 程 に （ X x ) t E T が任意のt.....the T に 対 し .
（Xn，....Xn）が多変量正規分布に従う時.

Gaudinと言う.

/！！：・ぶ・.int

mは 1=E[ Xn］ ：平均関本久たHt'にEl(Xt-mm）（Xn-ma'））J： 共 分 散 関 数
GP(m.た） と書く.

確率数理要論82 / 11再生核ヒルベルト空間

・共分散関数たは以下の性質を持つ：

一一対称、： has）=を（St）
正定値： は、...，のm E R , T . . . . . t m E。

T.IE?jEmdidjた（たまに。

.

この2つの性質を持った関数ただ1→Rを正定何興と言う.

I I（再生核ヒルベルト空間， Reproducing kernel

Hilbert space.RKHS）

集合T上のRKHSHは.なの（実数値）関数からなるヒルベルト空間で. H E Tに対してたEHが存在して（再生成）〈 f た か =f（か （YEH）が成り立つものとする。

たには）= くあいたDm を H に 付 随 し た
再生核（Reproducing kernel） と 呼 ぶ .

特に.

※yた（1.8）は 正定値カーネルになっている。
つまり、RKHSが1つよえられれば、1）正定値カーネルが定まる。

実は、以下のようにその逆が成り立つ.

I(Moore-Anons zayn)
h : T X T → R を正定値カーネルとする.

たを再生核とするRKHSが一意に存在する。

確率数理要論8

y3 / 11（略証）

H。= I f い = 岸のたいな）I なER，なET,m E IN｝とし、H . の元 f=約うた（ti），g=ぶるた（なi）〈fight。 二に対し、

書房のpjた（な，tj）と"内積" を定める。

この 内積から定まるノルムでHoを完備化したものをHとする、つまり、HはH。内のコーシー列の集合で、

f = （ fn)n, G=18n)n に対して、〈fight：= y < f n は 7 H .

H . 内のコーシー列〈f-g.ttたにo である2つのコーシー列は同一視する.
f EHに対して、 fに対応する コーシー列（fn )n を 用 い て .とし、f H）=fy〈fn，た（t.PH。とすれば、 f EHはT上の実数値関数とみなせる、

実はこのHは 〈inを内積として持つヒルベルト空間になっていることが示せる、

さらに、 H。内のコーシー列 （たができ たEHと書くと、H は htを再生核とする RKHSになっている.

た一対が対応H（正定値カーネル）をy（RKHS）ある実なる値関数のヒルベルト空間Hを考える.

METにおい2f H f H）がHのノルムについて連糸売
H は R KHS.
確率数理要論8/（証明は胳、Rieszの表現定理より従う）

4 / 11❤

型（Mercerの定理 （一般形））
T ： ハウスドルフ位相空間"Borel測度"のT 上 の 非 負 B o r e l 測 度 で supp(v）=T とする.

V :定義に含まれることもf多い.

ただし、全てのコンパクトなA E BCT）において VCA）くか とする.

連糸売ーーな正定値カーネルでた：TxT → R はfた（t.tl dnt）

くとする、

このとき.たによって決まるRKHSH は 51分で、｛・MEたと - _ - z 。

（en)i: L2（v）内の O N S （正規直交系）が存在し、 U t E T において.
.

た（at'）Imaた（かたけり=（Mercer展開）

が H E T で 絶対収束する。

さらに、任意のコンパクト集合ACTに対し、AXA上でkik'に関して 一様収束する.
a

元 々 は . Mercer（1909） による. たl a b ］ で示された。

上記の一般化については.
Steinwart&Sobel:Mercer's theorem o n general domains:
On t h e interaction between measures,kernels and R KHSs .
Constructive Approximation，35：363-417，2012.

Mercer展開を用いると、

f EHはで与えられる、

言がく

f二であるがんを用いて年のFie：

f=さんはei,g=In毗の に対して、
H . また、

確率数理要論8である.

=E d i Pi

5 / 11

直（Karhune n - L o i re 展 開 ）・正定値カーネルなTXT-RがMercerの定理の条件を満たしているとする。この時、確率過分主Xn=Fたたたけ）

た〜NG、1）←RMSの元の展開と比較せよ.

（i.id.）

はGP（0，た） になる.
.

（Xx）たが9Heた）であるとき.

逆に.

た（w）ニとすると、

忘 f Xt（いた（t)dUH）（ろぅには独立での〜N（0，1）がEになにSnj で .

任意の有限なI と任意のt E T に 対 し .

El(Xx-産別でe..（か）2］=k(t.tl-舙ME a ）であり、特に/E1（は一郎法ではりりde=者でaokに展開はGauss過程の具体的な構成法を与えている.
.

2つめの主張より Xt=EのはたA）なる展開はL2（Pxv）内の収束という意味で成り立つ.

確退下、［Xt X t ' ］ = E [ I F ふ る ぼ Te a m ej（刊］☆☆ の譽にはeinem==

確率数理要論8

I

Miele：（や）=たけもり

y6 / 11

T I(Driscollの定理）
Hが無限次元H が有限次元

確率1でX.4H（かあるバージョンがが存在して）確率1で女.EHx（確認）kに展開を用いて11XIII=Iが1（Mito）と書ける。

無限次元： なでたキ0 なので.

←

無限Iだ=
←

有限

有限次元： ヨNで.な>NでMioなので. I だ

確率数理要論8<a（as.）cat.）

7 / 11"!

以 下 . た R t の状況を考える。 伊藤積分に話を向けてゆく.

D I (Brown運動， Brownian motion, Wiener process）

右雀 率過分主

B=（Bt）た。 が次をみたすとき、（標準）Brown運動 （standard Brownian motion） と言う.に）B は Gauss過程
E[ Br］ =0，もt.SEで（う）

as. w e r（I)E L B t Bs］=tn S、に対して、 t にBe(w） は連糸売（連続なパスを持つと言う）/B を Brown運動とする.
'（1）に）'（ろ）'

B。=0

9.S.

Btは 加法過程

年20，な>0，B a s - B t ~ N 1 0. S ）特に.Brown運動はLely過系主になる.
い）た（3）'と（3） をにBrown運動の定義とにも良い.

E I BE］ = 0 より. O.K.
に対し、
O f a < bE C 〈 d（1）'（2）'==El(Bd-Be）（Br Ba）］
dnb - c r i b_d n a t e n ab-b- aより.

Bd-Beat=0と Bb-Baは独立.

（共分散0の正規分布ペアは独立）'（3）

一般のnについても同様
B a s B t が平均0の正規分布に従うことは明らか.

El(Bas-Btf］=Hts)n H t s ） - 2 （ た D n t t た キ=確率数理要論8

A s - 2 # + t=

S/ /8 / 11

"❤

❤

!"

Btの直感的な構成-は い .d.でP（かい）=P(Xn=-1）=主とする。

Bが：=市（EXたt （キーし咢）-Xenon） に な り

u t i i（2）'はn→でXm」+.項が無視できて成り立つことがわかる。
<〜ほぼhs個

BE-13に=市（EPYXa t OG））

'は（3）vsに中心極限定理）

N(as）から示される.

（厳密に扱うには13がが確率過程としてBaすることを示す（連続関数空間上の分布収束）に収束）
・（Bt)te］のKに展開

た （ tS）= N S( t . S E Ei］）

より、

f'たGS)eads=MEH）

を解けば良い、
左辺=ドも ef'1にもedsより、両辺tについ24数分すると

ds=Me'（、がさらに言に'EH）=Me"（か確率数理要論89 / 11これを解くと、｛M E，，2点だeE=には一-）sin（に姿川が固有値固有関数になる。

kに展開より.

fr各周波数成分がどう足（合わさっているFはたけ）ふF .器，sin（學大夫）とBy==（ただし、ふ〜NO.1）がわかる.

（i.i.cl.））なる表現を持つ.

Brown運動の性質.

'as. w e rに対して、/ほとんど全2のtで供給不可能（o<E<E）

児器品、，た。 嵓は SKS

re=|S（に主，" 'Baは大体圧の大きさで広がる.

（Karatea s and Shreve

T hm2.2.8.，Thin29.25）※
確率数理要論810 / 11血（BtHzoをBrown運動とする.

すると、以下は全2Brown運動になるi( I ) Xt=一Bt（2）
Y = B a e - Be（ろXt二 に B t c）

（証明は略）(c>o）/←チェックせよ.

T h (Lely-T.toの分解）

Levy過程 （Xx）た。 に対し、
連続関老久 m H ) s.t.me。）=0-連続単調非減少関数では s t|""""""""-set=oは平均測度rがM ( I t ) x ( I R lol））=0，

I sEthan。（Uhl)t(ds du） く かをみたす-

Nとは独立なBrown運動 （ B A eが存在し.

X t = m a t By，

j+と書ける.

←ガウス過程の部分du）du）一点Nds/𡵅斝（N d s）
ut

Poisson過程の部分/

Levy過程は大体. Brown運動と Poisson random process で書ける どう
確率数理要論8（伊藤清、確率論、定理5.29）

こと.
11 / 11