確率数理工学（1）

情報学工学物理学など様々な場面で現れる「確率」との数学的な基礎を学ぶ.
→
統計機械学習・量子力学・粒子の運動などなど...

"確率は必須項目

講義オ避

確率空間
2 . 確 率 変 数→
叮測関数
3. 期 待 値 と 母 関 数I .

→ルベーグ積分・モーメント母関数特性関数

4 確率不等式→

データの平均が期待値のまわりにどれくらい集中するか？

5. 確 率 変 数 の 収 束→

法則収束確率収束概収束

6 . 大数の法則と中心極限定理

確率数理工学1 (2023)

1 / 19

7. 確 率 過 程>ガウス過程・加法過程・マルコフ過程-

8. マルコフ過分主到達可能性・同値類再帰は定常分布→

評価：

中間レポ ++ 期末試験（予定）鋙真佐藤挺［neverははじめての確率論、測度から確率。

共立出版。舟木直久・確率論。朝倉書店の伊藤清 「確率論。岩波書店（新た基礎数学選書）

e n d a n yCambridge university press.

当面の目標：「確率」を定義する.
→

確率数理工学1 (2023)

もオンラインで pdf 入手 J

1 ''6-加法族"
確率測度 で確率空間"2 / 19

「サイコロをふる」といった 1 つ 1 つの試行の結果、観測される事象の確率を定める。試行o（trial）

i 標本空間r

標本点o w a r i← 試行の結果全体の集合（sample space)（Sample）

が試行の結果値（サイコロ投げ）

試 行 ： サイコロをふる.
11.2.3.4.5.6）
r（サイコロの目の全体）

=

W

En：

（事象）

咀・o

A c r ："2"等、サイコロの目

事象（event）
も標本空間の部分集合

AC：=r-A：余事象=

1WE I IW E At①がに確率数理工学1 (2023)

3 / 19ooi l W E s I WEA、また、一は WEA」｝
和事象
A n Az：=1we s I WEA._が W E A2｝

A、u A

積事象製に｛偶数の目）=｛2/4，6｝

南/A NA r

A nA r

A . =13 の倍数の町=｛3/6｝A i n Az=｛63，A t UAE｛2，3/4.6｝

事象に「確率」を定めた 4.ee

標本空間 R が有限集合なら難しくない。
（サイコロ）

e

連続"、無限"も扱いたい。

下手にやると"矛盾"が起きることが知られている。

（事象をバラバラに分割して、それらを合体しても元の"大きさ"にならない）と 1Banach.Tarski
ルベーグを所測集合.
確率数理工学1 (2023)

4 / 19"→

確率を定義しても矛盾が生じない体系を用意する。

この範囲の集合なら 算）無限個の事象和や積を取っても大丈夫という"範囲"を定めた 4ので「6-加法族」 「町測空間」「確率測度」
おきて欲しくないこと：が（13=AC)

MA）と PCB）足しても阿PCA）=え

き○、和が確率数理工学1 (2023)

I にならない.

1 をこえる.

。
鑷...
./ 和集合の確の確率の和
5 / 19.

❤
（6-加法族）に重よま咀

r の部分集合族 F が 6-加法族⇐f！！！！..
..が䵷側に） A G F

A C E F

YA，=｛w Espn で WE An｝も下に含まれる.

（Ine F ）86 加法性（宗全加法性）と言う.

※ 非可算無限和は許さない

確率数理工学1 (2023)

x

6 / 19い）：に） ：標本空間全体には確率を定めた u.
A の確率が定まっていれば、パの確率（A が起きない確率）も定まってほしい.

（ろ）：

確率の定まっている事象を蟬無限個寄せ集めたものにも確率は定まってい 2
ほしい.

ニ ）

これのおかげで極限操作ができる。
→→離散と連糸売をつなげられる.

面積の和で積分を定義できる.

flints）（細かく区切って足し合わせることが矛盾なくできる）

上の性質をみたす F は全 26 加法族を名乗る資格がある、
注：

AE F が B C A（13は Aの部分集合）であっても.

B E F とは限らない.
確率数理工学1 (2023)

7 / 19"I とその上の 6-加法族 F の糸且 （ r , F ） を叮測空間と言う「

この叮測空間に'確率"を定める.
値

n=｛1，2/3｝
A、ニ ｛l｝，A、=12｝，As=13），

A a = ｛1/2｝， As=｛1，33，AG= ｛2/3｝，

A7=｛1，2/3｝←

集合族：集合の集合であったことを思い出す.

F=！A..Az,As.Aa As.AG,An0｝とすれば、'☆ た

T は 6-加法族になっている.

As.

「空集合餌.

1At.Ab.A7.03 も 6-加法族になっている（と加法族"は一意的に定まるものではない.）

確率数理工学1 (2023)

8 / 19$!
（確率測度）D I

P：下 →R が（IF）上の確率測度-_-if も言えそうげいてR の値を返す関数であるという意味
つまり、AGFに対し、PCA）=0.4とかの値が決まっでる、⇐（1）

は EF で貉門
O E PCA)E||PG）=1（0 A いた、...EF が互いにま型も噬無限個3）
An）
PGI）=EPC（2）/（☆互いに押阪や AinA j = 0 （なな））（3）の性質を 6-加法性（完全加法性）と呼ぶ.

！！
が※確率数理工学1 (2023)

それぞれの確率の町算和が全体の確率に：心一致する.

9 / 19※ バラバラにしてそれぞれの確率を測り、それを足し合わせたものが、元の全体の確率となる.に.た P）として変なものを持って来ると、これが成り立たない（非可算無限和もゆるうと.
"変なもの"が出てしまう）

6-加法性が成り立つに.扣）に"選後の Borel 集合族はその一例である.
型線 分

r=［0，1］， Pr 上の一様分布
F=1Bn［0/1］I B E BCR）｝とする。

An=［ト言ト主）か（An EF は籍）を考える.

H t t An）=p（岾）u は、年）u-）=p（1917） = I
Eh はじの確率=0 なのでI= 1
確率数理工学1 (2023)

P にいた No、冂に 1PCAn）=自主j

た詩

10 / 19

可測空間（IF）とその上の確率測度 P の組（ R F P ） を 確 率 空 間 と言う_-_-tree-_-__-.

_mien

記法の補足

：：：：：：：：｛WErl 全てなんて WE
I：：：：：：：...
An｝

An ニ.

.

ユークリッド空間 Rd 上の開集合：
A c Rd が開集合

⇐ > K K EA に対し.を 70 で.

Bat）=1）に Rd III）に川に E}CA

(A が閉集合を A が開集合）
開集合

開でも閉でもない

閉集合

fi：𨏍-.-Cje

はみ出る.

確率数理工学1 (2023)

鱮11 / 19

o 連続関数f : R d → R が連続⇐

「ACR：開集合に対し.

f'（A）=HeRdIf（川 EA｝
が開集合.，、；道八t.ie

しも開集合じゃない4 開集合
連 続

不連続

集合 × に開集合系 0 が付与された空間は 0-）を位相空間と言う. 0 の元を開集合と呼ぶ。

なお、0 が以下の性質をみたすとき、0 を位相（開集合系）と呼ぶ：

1.01，XE0｛2.0、 G O

On02GO，Oz
3 . 任意の TO に対し.

AYA←

確率数理工学1 (2023)

EO

非 が 靹 等

12 / 19

6-加法族の中でも 13 蚍集𦥯は重要である.

咀（Borel 集合族）

R 上の Borel 集合族 BCR）は
IR の 任意の開集合 を含む最小のEI2_E_yz.EE#TEhhThn-Borel
集合族の元を Borel 集合と言う.

y一般の位相空間 S に対しても| 参 同様に.Borel集合族𠬝（S）
S の任意の開集合を含考］ む最小の 6-加法族）
はとして定義される.

Borel 集合族のモチベーション：

で"か。って>
こんな開区間 Cab）の面積（確率）は定まってU てほしい、

定義より 「a<b に対し、 Cab)EBR）である.
実は、lab)lab ER,a<b）を含む最小の 6-加法族が B(R）である.

確率数理工学1 (2023)

13 / 19

○○を含む最小の 6-加法族とは？
F . た：

a 加法族

が、ともに任意の開集合を含むとする.

（つまり、ACR が開集合なら、AEF.AE 石である）

このとき、

F i n た ニ ｛ A C R I AEF かつ A E た ｝

息ていた=1An BIAEF.BE た｝
ではないことに注意 sも任意の開集合を含むことは F，たが開集合を全て含むことからわかる。

さ ら に 、 Fn たは 6-加法族にもなっている-_-い）

F , RE たより R E F n た（z) A E F . n た な ら A ' E Fi,A と石である

（1）

sE

ので.
（ろ）

ACE F i n た で あ る .

Ai,An...E F n た

なら.

l f A nEF、かつ Y A nE たでもあるので.

※ An E F , n た でもある。
確率数理工学1 (2023)

y14 / 19

F i n た は F，たの部分集合なので、F.たより"小さい"と言える.
なので、 開集合を全て含む 6-加法族を全て集めてき 2、それらの共通部分をとれば、"最小の 6-加法族" を構成できる.

盃（TheE

6-加法族のインデックス

6 - 加 法 族 の 族 （非可算濃度もゆるす）
fh た= F は 6-加法族、a

証明は前ページと同様なので省略 ← チェックせよ.

BUR）= AEF'1 では任意の開集合を木毒成のしかたから、含む 6-加法族｝ない上の Thm より、

BUN は 6-加法族に） BCR）は任意の開集合を含む（l)

さらに、BCR）より小さくてそのような条件をみたすG-加法族は存在しない.

T これも RR）の構成からわかる

な例は任意の開集合を含む 6-加法族
確率数理工学1 (2023)

15 / 19

［確率測度の基本公式］（空集合の確率は 0）い）

P（0） = o（2）P(AC）= 1 - PCA）

（3）

P した？An）=

1-p(IAT）

を（An らはないに排をとり限らない

Bi,Bz，...が 互いに排なかっ（4）

たB i nなら.
（ち）

H E 下 で PCA）= IP(An Bn）（には、-.-）： 互いにな非友とは限型

AnE F

p ( I An)E&PH n）（劣加法性）（6） 和の公式：
NANA2）=PCA）+PCA）-PLAN As）
（ク）

その一般化
Sm

確率数理工学1 (2023)=E . a m PCAm n - _ - n Arm)
16 / 19（ク）その一般化に E.am 咖品な鉛島とすると、P(Y,An）=&いが'Sm⑧（包除原理）18）確率の連続性 I:
A ,C A 」 C As C-_-：事象の列

A=W A n とすると.

（AnEF とする）

（AEF に注意）

P1 が bm 學⑧（9）確率の連続性玉AD A D A p -作
はMbta に limp(An)A np した An）=感 Pan) P t ？ ！
※ この 2 つは超重要！
確率数理工学1 (2023)

A

PLAN た RAI
17 / 19

（証明）
い）
.

た Pに）= P h u t u t u du-_-）排 反 ーに-（2）よって.

oEPH) E lH r ) t Http（い んた t . c h 中=0）

ニ）

Iu= >

st-_-e.

r6でなく2はいけないでもあるので. R 0）=0である.

duALtu..-）(AuPに）=
Pにr(う）

n=ese=PCA)+1が）+ P G ) + . . .

t

互いに抖を反（水）PCA)+
Pにt e p e e
OによりP ( I An)= 1-N※プ）=1-RI A i )(Morgan の法則（自分で示してみよ）.

確率数理工学(1)(2023)
確率数理工学1189 / 1913

(8）.

B T A . . B E ATA , ，Bn=An-Amとすると.

一四〇-がいるかを..な蠶、EPC〇"？
If"=him!
（R)に？

は互いにな非反.

i=m==

確率数理工学(1)(2023)
確率数理工学1e

fig

P(Bn)

（たP，_As

A T？

Bn)

PCA)=tI

BiBn)

ftp.P (Am)--y19
10 / 1913