Twierdzenie Bayesa

Twierdzenie Bayesa – twierdzenie teorii prawdopodobieństwa, wiążące prawdopodobieństwa warunkowe dwóch zdarzeń warunkujących się nawzajem, sformułowane przez Thomasa Bayesa. Twierdzenie stanowi podstawę teoretyczną wnioskowania bayesowskiego, oraz sieci bayesowskich stosowanych w eksploracji danych.

Wzór Bayesa 
Twierdzenie (wzór) Bayesa w swej podstawowej formie mówi, że
 

gdzie  i  są zdarzeniami oraz  przy czym
  oznacza prawdopodobieństwo warunkowe, tj. prawdopodobieństwo zajścia zdarzenia  o ile zajdzie zdarzenie 
  oznacza prawdopodobieństwo zajścia zdarzenia  o ile zajdzie zdarzenie

Dowód 
Z definicji prawdopodobieństwa warunkowego
 

W przypadku, gdy  twierdzenie zachodzi, ponieważ wtedy  Załóżmy zatem, że  Wtedy
 

Stąd
 

Dzieląc stronami powyższą równość przez  otrzymujemy tezę.

Wersja twierdzenia dla wielu zdarzeń 
Niech  będą takimi zdarzeniami, że
     i    

Wtedy
 

W szczególności, gdy  jest dowolnym zdarzeniem oraz  to

Dowód 
Ze wzoru Bayesa  wynika, że
 

Jednocześnie

Zastosowania

Przykład 1 
Niech  będzie zdarzeniem „u pacjenta występuje wysoka gorączka”, a  będzie zdarzeniem „pacjent ma grypę”. Jeśli znane są odsetek gorączkujących  i odsetek chorych na grypę  w całej populacji, oraz odsetek gorączkujących wśród chorych na grypę, tj.  to twierdzenie Bayesa pozwala wyznaczyć odsetek chorych na grypę wśród gorączkujących 

Na przykład jeżeli wiadomo, że  oraz  to na mocy wzoru :

Przykład 2 
Twierdzenia Bayesa można użyć do interpretacji rezultatów badania przy użyciu testów wykrywających narkotyki. Załóżmy, że przy badaniu narkomana test wypada pozytywnie w 99% przypadków, zaś przy badaniu osoby nie zażywającej narkotyków wypada negatywnie w 99% przypadków. Pewna firma postanowiła przebadać swoich pracowników takim testem, wiedząc, że 0,5% z nich to narkomani. Chcemy obliczyć prawdopodobieństwo, że osoba, u której test wypadł pozytywnie, rzeczywiście zażywa narkotyki. Oznaczmy następujące zdarzenia:
  – dana osoba jest narkomanem,
  – dana osoba nie jest narkomanem,
  – u danej osoby test dał wynik pozytywny,
  – u danej osoby test dał wynik negatywny.

Wiemy, że:
  gdyż 0,5% pracowników to narkomani,
 
  gdyż taką skuteczność ma test przy badaniu narkomana,
  gdyż taką skuteczność ma test przy badaniu osoby niebędącej narkomanem,
 

Mając te dane, chcemy obliczyć prawdopodobieństwo, że osoba, u której test wypadł pozytywnie, rzeczywiście jest narkomanem. Ze wzoru  wynika, że
 

Mimo potencjalnie wysokiej skuteczności testu, prawdopodobieństwo, że narkomanem jest badany pracownik, u którego test dał wynik pozytywny, jest równe około 33%, więc jest nawet bardziej prawdopodobnym, że taka osoba nie zażywa narkotyków. Ten przykład pokazuje, dlaczego ważne jest, aby nie polegać na wynikach tylko pojedynczego testu.

Innymi słowy, pozorny paradoks polegający na dużej dokładności testu (99% wykrywalności narkomanów wśród narkomanów i nieuzależnionych wśród nieuzależnionych) i niskiej dokładności badania bierze się stąd, że w badanej próbie tylko niewielka część osób to narkomani.

Przykładowo jeśli badamy 1000 osób, 0,5% z nich, czyli 5 to narkomani, a 995 nie. Natomiast test wskaże jako narkomanów 1% nieuzależnionych (995 · 1% ≈ 10), oraz 99% uzależnionych (5 · 99% ≈ 5). Ostatecznie test wypadł pozytywnie dla 15 osób, jednak tylko 5 z nich to narkomani.

Interpretacje

Prawdopodobieństwo subiektywistyczne 
W interpretacji subiektywistycznej jest twierdzeniem wręcz podstawowym. Otóż niech  będzie pewnym zdarzeniem,  zaś pewną teorią.

 jest obserwowanym prawdopodobieństwem zdarzenia  zaś  to prawdopodobieństwo, że zdarzenie  nastąpi według teorii  Z kolei  to prawdopodobieństwo, że teoria  jest prawdziwa,  to prawdopodobieństwo, że teoria  jest prawdziwa, jeśli zaobserwowano 

Zdania typu „prawdopodobieństwo, że teoria  jest prawdziwa” są z punktu widzenia interpretacji obiektywistycznej nie do przyjęcia – teoria jest prawdziwa (prawdopodobieństwo równe jedności) lub też nie (prawdopodobieństwo równe zeru), czyli prawdziwość teorii nie jest zdarzeniem losowym.

Przypisy

Linki zewnętrzne 
  (Opracowanie Bayesa w zapisie oryginalnym)
 
 Grant Sanderson, Bayes theorem, 3blue1brown, YouTube, 22 grudnia 2019 [dostęp 2021-03-14].

Statystyka bayesowska
Bayesa