確率数理工学（1）

情報学工学物理学など様々な場面で現れる「確率」との数学的な基礎を学ぶ.

統計機械学習・量子力学・粒子の運動
な ど な ど. . .

"確率は必須項目

講義オ避

確率空間
2 . 確 率 変 数
叮測関数
3 . 期待値と母関数
I .

ルベーグ積分・モーメント母関数特性関数

4確率不等式

データの平均が期待値のまわりにどれくらい集中するか

5.

確率変数の収束
法則収束確率収束概収束

6 . 大数の法則と中心極限定理

確率数理工学1 (2022)

1 / 17

7. 確 率 過 程>ガウス過程・加法過程・マルコフ過程-

8. マルコフ過分主到達可能性・同値類再帰は定常分布

評価： レポートによる.（予定）［neverははじめての確率論、測度から確率。

共立出版。舟木直久・確率論。朝倉書店の伊藤清 「確率論。岩波書店（新た基礎数学選書）

e n d a n yCambridge university press.

もオンラインでpdf入手J？

当面の目標：「確率」を定義する.

［6- 加法族""確率測度"

確率数理工学1 (2022)

確率空間"2 / 17

「サイコロをふる」といった1つ1つの試行の結果、観測される事象の確率を定める。試行o（trial）

試行の結果全体の集合

i 標 本 空 間 （sample space)r

標本点 （Sample ）o w a r iが試行の結果

値（サイコロ投げ）

試行： サイコロをふる.
r
W11.2.3.4.5.6）

=

En：

（事象）

咀・oA c r ："2" 等、サイコロの目事象（event）
も標本空間の部分集合

A C ：= r - A： 余 事 象=（サイコロの目の全体）

1WE I IW E At①がに確率数理工学1 (2022)

3 / 17ooA、u A

i l WE sI WEA 、また、一はWE A」｝

和事象

A n Az：=1wes

南

I WEA.̲が W E A2｝

積事象

製に｛偶数の目）=｛2/4，6｝/A NA rA . =13の倍数の町=｛3/6｝

A i n Az=｛63 ，A nA r

A t UAE｛2，3/4.6｝

事象に「確率」を定めた
4.ee

標本空間Rが有限集合なら難しくない。

e連続"、無限"も扱いたい。

（サイコロ）

下手にやると"矛盾"が起きることが知られている。
（事象をバラバラに分割して、それらを合体しても元の"大きさ"にならない）と1Banach.Tarski
ルベーグを所測集合.
確率数理工学1 (2022)

4 / 17確率を定義しても矛盾が生じない体系を用意する。
この範囲の集合なら気算）無限個の事象の和や積を取っても大丈夫という" 範囲"を定めた4「6- 加法族」 「町測空間」

で「確率測度」（6- 加法族）に重よま咀⇐rの部分集合族F が6 - 加法族f（1）R E Fに壒無限個）|
YA，=｛w E s p nでW E An｝
B)A.An...GFも下に含まれるに） A G F

ACE F（IA n e F ）86- 加法性（宗全加法性）と言う.

非可算無限和は許さない
確率数理工学1 (2022)

x
5 / 17い）：に）：（ろ ：）標本空間全体には確率を定めた
u.
Aの確率が定まっていれば、パの確率（Aが起きない確率）も定まってほしい.

確率の定まっている事象を蟬無限個寄せ集めたものにも確率は定まってい
2
ほしい.

ニ）

これのおかげで極限操作ができる。
離散と連糸売をつなげられる.

ﬂints）
面積の和で積分を定義できる.

（細かく区切って足し合わせることが矛盾なくできる）

上の性質をみたす
Fは全26加法族を名乗る資格がある、注： A E F が B C A（13はAの部分集合）であっても.

B E Fとは限らない.

確率数理工学1 (2022)

6 / 17

Iとその上の6- 加法族Fの糸且 （r , F ） を叮測空間と言う「この叮測空間に'確率"を定める.

値

n=｛1，2/3｝

A、ニ ｛l｝，A、=12｝，As=13），

A a = ｛1/2｝， As=｛1，33 ，AG= ｛2/3｝，

A7=｛1，2/3｝

集合族：集合の集合であったことを思い出す.

'
た

F=！A..Az,As.Aa As.AG,An0｝とすれば、.

Tは6- 加法族になっている
.

As

「空集合.

1At.Ab.A7.03 も 6- 加法族になっている（と加法族"は一意的に定まるものではない.）

確率数理工学1 (2022)

7 / 17

（確率測度）D IP：下 Rが（IF）上の確率測度-̲-if も言えそうげいてRの値を返す関数であるという意味

つまり、AGF に対し、PCA ）=0.4 とかの値が決まっでる、⇐|P G ）= 1（0 Aいた、...EFが互いにま型も噬無限個3） PGI）=EPCAn）
HE F で（I)O EPCA)E|

（2）

（（3）

/互いに押阪やAinA j = 0 （なな））の性質を6- 加法性（完全加法性）と呼ぶ.

！！
が：心確率数理工学1 (2022)

それぞれの確率の町算和が全体の確率に一致する.

8 / 17

バラバラにしてそれぞれの確率を測り、それを足し合わせたものが、元の全体の確率となる.に.たP）として変なものを持って来ると、これが成り立たない（非可算無限和もゆるうと.
"変なもの"が出てしまう）

6- 加法性が成り立つに.扣）に"選後のBorel集合族はその一例である.

型線分

r=［0，1］， Pr上の一様分布

F=1Bn［0/1］I B E BCR ）｝とする。

An=［ト言ト主）か（An EFは籍）を考える.

H t t An）=p（岾）uは、年）u-）I
確率数理工学1 (2022)=p（1917） = I
Ehはじの確率=0なのでPCAn）=自主= 1

j

PにいたNo、冂に1た詩

9 / 17

可測空間（IF）とその上の確率測度Pの組（R F P ） を 確 率 空 間 と言う̲-̲-tree-

̲-

̲̲

-.

̲mein

記法の補足：

I An=［wE r Iある日でWEAn}
IA n = ｛WE rl全てなんてWE An}

A C B や Kw EAがWEBをみなす

確率数理工学1 (2022)

10 / 17

6- 加法族の中でも13.

咀（Borel集合族）

R上のBorel集合族BCR ）は任意の開集合 を含む最小のEI2̲E̲yz.EE#TEhhThn-Borel
集合族の元をBorel集合と言う.
IR のy

一般の位相空間S に対しても|参 同様に.Borel
Sの任意の開集合を含S）考］ む最小の6- 加法族）
はとして定義される.

Borel集合族のモチベーション：

で"か。って>

こんな開区間 Cab）の面積（確率）は定まってUてほしい、定義より 「a<bに対し、 Cab)EBR ）である.

実は、lab)lab ER,a<b）を含む最小の6- 加法族がB(R ）である.

確率数理工学1 (2022)

11 / 17

を含む最小の6- 加法族とは？
F . た： a 加 法 族が、ともに任意の開集合を含むとする.

（つまり、ACR が開集合なら、AEF.AE 石である）

このとき、F i n た ニ ｛A C R I AEF かつA E た ｝

息ていた=1AnBIAEF.BE た｝

ではないことに注意
sも任意の開集合を含むことはF，たが開集合を全て含むことからわかる。

さらに、 Fnたは6- 加法族にもなっている-̲-い）

F , RE たより R E F nた（z) A E F . n た な らA ' E F i , A と 石 で あ る

（1）

s

Eの で.

（ろ）

ACE F i n た で あ る.

Ai,An...E F n た

なら.

l f A nEF 、かつ Y A nEたでもあるので.
An E F , n た でもある。

確率数理工学1 (2022)

y12 / 17

F.たよりF i n た は F，たの部分集合なので、"小さい"と言える.
なので、 開集合を全て含む6- 加法族を全て集めてき2、それらの共通部分をとれば、"最小の6- 加法族" を構成できる.

盃（TheE

6- 加法族のインデックス

6 - 加 法 族 の 族 （非可算濃度もゆるす）
f hた= F は6- 加法族、a

証明は前ページと同様なので省略チェックせよ.

BUR）= AEF'1では任意の開集合を木毒成のしかたから、含む6- 加法族｝

ない上のThmより、

BUN は6- 加法族に） BCR ）は任意の開集合を含む（l)さらに、BCR ）より小さくてそのような条件をみたす

G- 加法族は存在しない.
な例は

TこれもRR ）の構成からわかる

任意の開集合を含む
6- 加法族

確率数理工学1 (2022)

13 / 17

［確率測度の基本公式］
い）

（2）
（3）

（4）

P(AC ）= 1 - PCA）
Pした？An）= 1-p(IAT）

を（Anらはないに排限らないをとりBi,Bz，...が 互いに排なかったB i nなら.
（ち）

（空集合の確率は0）

P（0） = o

H E 下 で PCA ）= IP(AnBn）（には、-.- ）： 互いにな非友とは限型

AnE F

p ( I An)E&PHn）（劣加法性）（6） 和の公式：

NANA2）=PCA）+PCA）-PLAN As）

（ク）

その一般化

確率数理工学1 (2022)

Sm=

E . a m PCAm n - ̲ - n Arm)
14 / 17（ク）その一般化にE.am咖品な鉛島とすると、P(Y,An）=&いが'Sm⑧（包除原理）

1 8 ） 確 率 の 連 続 性I : -̲A ,C A 」C As C-̲- ：事象の列 （AnEF とする）

A=W A n とすると.
⑧（AEFに注意）

P 1がb m學（9）確率の連続性玉AD A D A p -作
はMbtaにlimp(An)A npしたAn）=感Pan) P t ？ ！
この2つは超重要！

確率数理工学1 (2022)

A

PLANたRAI
15 / 17

（証明）
い）
.

た Pに）= P h u t u t u du-̲-）

排 反 ーに-よって.

EPH) E l

た t . c h 中=0）

H r ) t H t t p（い んrニ）

Iu= >

ser

t-̲-.

6でなく2はいけないでもあるので. R 0）=0である.

duALtu..-）(AuPに）=Pに（2）(う）on=eset=PCA)+1が）+ P G ) + . . .

互いに抖を反（水）PCA)+PにP ( I An)= 1-Nt e p e e
Oによりプ）=1-RIAi)(Morganの法則（自分で示してみよ）.

確率数理工学(1)(2022)
確率数理工学1169 // 1317

(8）.

B TA . .

B E ATA , ，Bn=An-Amとすると.

一四〇-がいるかを..な蠶、EPC
〇"？
If"=
him!
（R)に？

は 互 い に な 非 反.

i===

確率数理工学(1)(2022)
確率数理工学1me

ﬁg

P(Bn)

As

A T--I（たP ， Bn)

ftp.P(Am)̲？

Bn)

PCA)=tBiy1017 // 1317