貝葉斯統計學

**貝葉斯統計學**（參見）係統計學其中一個學派，特徵係建基於貝葉斯概率。簡單講，呢套諗法將機會率理解為**相信事件會發生嘅程度**。之所以相信某件事件會發生，可以係基於先前知識，譬如係之前做過嘅實驗，甚至可以係純粹基於個人信念。

貝葉斯統計學嘅一個重點，在於更新自身嘅信念：用日常用語講，貝葉斯統計學嘅重心係思考點樣按照觀察到嘅數據，係噉更新自己對**邊啲事件較大機會發生**嘅信念，並且深入探討呢種更新過程之中要計嘅數。技術化啲講，貝葉斯統計學會將未知嘅參數當成隨機變數，俾返個先驗分佈，反映自身對參數嘅初步假設。收集到新數據後，研究者就會運用貝葉斯定理，更新先驗分佈計出後驗分佈，從而改變對參數嘅判斷。

响廿一世紀初，貝葉斯統計學有一定影響力，可以用嚟預測足球等體育競賽嘅賽果同埋協助決策，或者做醫療診斷同評估風險。呢套統計學喺數據科學、人工智能、經濟學同心理學等咁多唔同領域嗰度都有應用價值。

## 背景概念
### 頻率學派

喺廿一世紀初，統計學家討論親貝葉斯統計學，通常都會攞佢嚟同頻率學派推論對比。頻率學派推論嘅基礎係頻率學派概率。根據呢套諗法，某件事件發生嘅概率係指緊件事嘅**長期相對頻率**，精確啲定義即係講緊假如將某場實驗重複無限咁多次，件事嘅概率係指緊佢發生嘅次數嘅比例嘅極限，用式表達就係
:P(A) = \lim_{n \to \infty} \frac{f_n(A)}{n}
當中：
*P(A) 表示事件 A 嘅概率；
*f_n(A) 表示喺頭 n 次實驗中，事件 A 發生咗幾多次（**頻率**）；
*\lim_{n \to \infty} 係話隨住實驗次數 n 趨近無限大，睇個相對頻率會唔會迫近某個值。
譬如依家掟銀仔，假設個銀仔冇出千，出公出字機率一樣咁大都係 50%，而噉講意思係話假想個銀仔掟無限次，即係 n 趨近無限大，而**出公**嘅次數會佔咗一半咁多。頻率學派受到唔少學者批評，例如詬病佢處理唔到極罕有事件而且由頻率派思維衍生出嚟嘅假說檢定法，亦引起咗 p-hack 等嘅問題。

### 貝葉斯派

相比之下，貝葉斯概率嘅睇法就好唔同。貝葉斯概率以貝葉斯定理為基礎，貝葉斯定理本身好簡單，公式係：
:P(A|B) = \frac{P(B|A) \cdot P(A)}{P(B)}
呢條式意思係，P(A|B)（條件概率：已知 B 發生咗，A 發生嘅概率）呢個後驗概率，等如 P(B|A) 乘以 P(A)，再將乘出嘅數除以 P(B)。貝葉斯定理喺概率論上受到廣泛嘅使用，但係貝葉斯概率學派就對呢條定理有特定嘅詮釋：根據貝葉斯概率嘅睇法，
*A 代表嘅係命題（譬如係研究者想檢驗嘅假說），B 代表手上嘅證據，或者啱啱攞到、可以用嚟驗證句命題嘅數據；
*P(A) 係先驗概率，反映觀察者得到新證據 B 之前有幾相信 A 係真；
*P(B|A) 係概似函數，即係假如 A 係真，見到 B 嘅概率有幾高；呢個概念第啲統計模型都會用到，反映手上嘅統計模型有幾能夠解釋觀察到嘅數據－假如個模型正確，有幾大機會見到噉嘅數據？
用日常用語講，貝葉斯概率就係教人點樣係噉**更新自己嘅信念**：做研究嘅人，會持有某啲背景知識（先驗概率）然後不斷去搵新證據嚟去更改自己對唔同事件發生嘅概率有幾高（後驗概率）嘅認知同信念，跟住一路重複。舉具體例子：假想依家出咗隻新藥，研究者原本估計隻藥五成機會有效，即係話先驗概率 P(A) 係
:P(\text{  隻  藥  有  效  } \text{ }) = 0.5
為咗測試佢哋個諗法，佢哋就郁手做一輪臨床試驗，發現病人食咗藥之後康復嘅比率高過預期（新證據 B），於是佢哋就用貝葉斯定理嚟思考呢啲數值：
:P(\text{  觀  察  結  果  } \mid \text{  隻  藥  有  效  } \text{ })（概似函數）
:P(\text{  觀  察  結  果  } \text{ })，從而計出
:P(\text{  藥  有  效  } \mid \text{  觀  察  結  果  } \text{ })
即係話佢哋可以睇住搵到嘅證據，得知自己想檢驗嗰個假說係真嘅機率有幾高。

## 用嘅方法
### 統計推論

用貝葉斯嗰套做法嚟做統計推論，起始點係先驗概率。研究緊嘅現象可以想像成數學模型，而一個噉嘅數學模型會有若干個參數，表達變數與變數之間嘅關係。參數嘅具體數值不確定，不過研究者事先會對「參數數值大致係幾多」有某啲假設或者知識（先驗概率）。喺古典（頻率派）嗰套推論之中，研究者認為模型嘅「真實」參數係固定不變嘅，問題只在於統計師能夠以幾高準確度去估計呢啲參數嘅值。

統計模型係一啲用嚟描述數據點樣產生出嚟嘅數學模型。呢啲模型通常會包含若干個參數，而呢啲參數可以根據實際情況作調整。舉個例子，想像依家研究擲銀仔，擲銀仔有兩個可能情況，**公**或者**字**，而呢個過程可以用伯努利分佈嚟表示，其概率質量函數 f 係：
:f(k;p) = \begin{cases}
   p & \text{if }k=1, \\
   q = 1-p & \text {if } k = 0.
 \end{cases}
呢個模型模擬緊手上嘅現象，將現象用數學方式表達出嚟。呢個模型中只有一個參數 p，代表**公**（或者**字**）出現嘅概率。喺現實世界，絕大部分嘅模型，都只能夠做到近似產生數據嘅過程，亦未必可以包含晒所有會影響結果嘅因素。貝葉斯推論嘅一個特點，就係可以為模型嘅參數賦予概率，將呢啲參數當成隨機變數，遇到新數據就用返貝葉斯定理嚟更新對「啲參數嘅值係乜」嘅信念。
 
### 統計模型

有研究者噉講：

用貝葉斯式嘅方法建立統計模型，流程可以分為以下幾個主要步驟：
#定義模型：首先，統計師要決定用邊一種統計模型去描述數據。要設定模型有邊啲變數同參數。
#設定先驗：要為每個模型參數指定一個先驗分佈，反映睇到數據之前對參數嘅信念。例如，如果統計師覺得某個效應應該接近 0 就可以用一個以 0 為中心嘅常態分佈。
#嘗試將模型  落數據：呢個步驟通常要用到電腦演算法。可以睇睇蒙地卡羅方法。
#睇吓個模型係咪**收斂**到，結果穩定冇再亂跳。
#檢查個模型嘅適合度，係咪能夠充分解釋數據嘅規律。
用貝葉斯派嘅方式建立統計模型，分析師要事先指定佢哋心目中嘅先驗概率，而呢點係貝葉斯派建模同頻率派建模最重要嘅分別。先驗分佈可以按「資訊性」嘅強弱嚟分類：統計師可以將先驗分佈設做均勻分佈，代表每個可能性都一樣咁有可能，呢種先驗做到「等數據自己講嘢」；同時統計師又可能對個參數本身有知識或者預期，例如根據過往實驗或者理論推斷，用一個較集中嘅先驗分佈去表達，例如過去嘅研究已知某藥物嘅成功率係 70% 左右，就可以用集中喺 0.7 附近嘅分佈，提升分析嘅穩定性。





### 假說檢定

頻率派嘅統計學會用假說檢定方法，評估手上嘅假說係咪應該接受。貝葉斯統計學都有相似嘅做法，會講到貝葉斯因素（英文簡稱 BF），用呢個數值代替 p 值嚟決定手上個假說係唔係應該接受。貝葉斯因素比較兩個假說（叫 H0, H1 －可以睇睇虛無假說同備擇假說）睇吓數據支持邊一個多啲。貝葉斯因素定義如下：
: \mathrm{BF}_{1,0} = \frac{P(\text{data} \mid H_1)}{P(\text{data} \mid H_0)} 
即係比較邊個假說比較大機會出到手上嘅數據。如果 \mathrm{BF}_{1,0} > 1，代表數據比較支持 H_1 而假如 \mathrm{BF}_{1,0} ，數據就比較支持 H_0。亦有啲統計學家主張，可以根據貝葉斯因素嘅大細嚟衡量證據強度，譬如以下嘅方案：
:
呢種方法被指係比較靈活，能夠反映數據支持假說嘅程度。不過，唔係個個統計學家都接受所謂嘅「貝葉斯假說檢定」，例如有部份統計學家就覺得呢種分法夾硬嚟，係勉強將強弱嘅標籤加諸於數值之上。

## 應用例子

### 體育競賽
貝葉斯統計學可以用嚟預測體育競賽嘅賽果。想像預咗嚟緊某兩隊將會打比賽：分析者用先前嘅數據，揀一個先驗分佈，估計 λ（每隊入波數嘅平均）嘅數值；分析者用最近嗰幾場比賽嘅得分數據，估計每隊嘅 λ 嘅後驗分佈；用呢個後驗分佈，估計每隊會入到幾多次波，並且計估計嘅分數差距，從而計出每隊贏嘅機會率。諸如足球同籃球等球類運動嘅比賽結果，都可以用呢種方法預測。

### 網上遊戲
貝葉斯統計學仲可以用嚟幫手製作網上遊戲。例如微軟開發嘅 TrueSkill 演算法就用咗貝葉斯統計學概念。廿一世紀初嘅網上遊戲，往往有必要評估玩家嘅技術有幾高，例如搵對局配對嗰陣搵實力相近嘅對手、建立排行榜、甚至用嚟訓練電腦對手嘅人工智能，而 TrueSkill 演算法正正係用嚟做呢樣工作嘅，喺呢個系統之下，每位玩家嘅**技術水平**或者**實力**會想像成一個常態分佈，包括平均值 *μ* 同埋標準差 σ 兩個參數，當中後者反映電腦心目中對手上嗰位玩家嘅實力水平有幾多嘅不確定性，每場對局可以有若干位玩家，會明確噉分輸贏，每打完一場，TrueSkill 都會
*攞住原先嘅實力分佈做先驗；
*輸贏會模擬成係取決於（例如）每一隊嘅成員嘅個別實力嘅總和；
*觀察到嘅賽果就係證據；
*用貝葉斯推論，同每位玩家估計佢嘅後驗實力分佈；
如是者，個系統就會係噉更新佢心目中每位玩家嘅實力水平，最後計出每位「真正」嘅實力。

### 認知科學
認知科學上有所謂嘅貝葉斯腦學說，將人腦嘅學習能力想像成貝葉斯統計學噉嘅思考方式。假想有兩件事件，A 同 B，P(A) 係 A 發生嘅機會率，P(B) 係 B 發生嘅機會率，根據貝葉斯定理 P(A|B)（已知 B 發生咗，A 發生嘅條件概率）可以用以下條式計：
:P(A|B) = \frac{P(B|A)\, P(A)}{P(B)}
例如想像一個實驗：隻動物經歷 10 次受痛楚嘅事件（P(A)），而喺某幾次事件當中佢有嘗試避開個痛楚（B），喺某幾次入面佢冇（B'）但次次都一樣遭受痛楚；佢個腦計咗之後會發現，自己行動咗跟住受痛楚嘅機率（A given B）同自己唔行動而受痛楚嘅機率（A given B'）相約，
:P(A|B) = P(A|B')
－即係「我作唔作出行動結果都係會受痛楚」嘅知識，令佢進入失助嘅狀態。

## 睇埋
*算術下溢：貝葉斯統計相關嘅運算，成日要計概率密度，而呢種運算好多時會涉及極細數值，電腦可能會出現下溢。
*逼近理論：喺實際應用上，計後驗概率運算上好複雜，所以行貝葉斯統計嘅演算法只可以用「逼近」方法計結果。
*受限理性：人無法事先睇晒所有資訊，可能要靠貝葉斯式嘅做法，逐步更新自己嘅先驗。
*知識論：尤其係知識論提到嘅先驗同後驗。
*電腦模擬
*知識
*信念
*史實

## 文獻

*Downey, A. (2021). Think Bayes (PDF). " O'Reilly Media, Inc."，網上嘅開源教科書講貝葉斯概率，講解嗰陣用咗好多 Python 程式碼。
*Fornacon-Wood, I., Mistry, H., Johnson-Hart, C., Faivre-Finn, C., O'Connor, J. P., & Price, G. J. (2022). Understanding the differences between Bayesian and frequentist statistics. *International journal of radiation oncology, biology, physics*, 112(5), 1076-1082.
*Ribeiro, G. G., Da Costa, L. C., Ferreira, P. H., & do Nascimento, D. C. (2025). A Bayesian approach to predict performance in football: a case study. *Frontiers in Sports and Active Living*, 7, 1486928
*Zhao, Z.P., Nie, C., Jiang, C.T., Cao, S.H., Tian, K.X., Yu, S. and Gu, J.W., 2023. Modulating brain activity with invasive brain–computer interface: a narrative review. Brain sciences, 13(1), p.134，佢哋呢度第二 part 講到點樣用貝葉斯統計學噉嘅方法，思考刺激同相應嘅神經訊號之間嘅關係。

## 註釋

## 引述

## 外拎
* 貝葉斯推論，香港大學統計系有班學者專門研究貝葉斯推論。
* 貝葉斯統計學同概率嘅力量，GeeksForGeeks
* 用貝葉斯定理解決蒙地賀問題，康奈爾大學出咗篇短文，講解點樣用貝葉斯定理嚟分析蒙地賀問題。