Beiesa teorēma

Beijesa formula

,
kur
- apriorā hipotēzes A varbūtība
- hipotēzes A varbūtība, ja izpildās B
- varbūtība B notikuma notikšanai, ja ir patiesa hipotēze A
- pilnīgā varbūtība notikuma B izpildīšanai.

Aprēķini 
  
    
      
        P
        (
        B
        )
      
    
    {\displaystyle P(B)}

Uzdevumos un statistikas lietojumos P(B) parasti aprēķina pēc pilnīgās notikumu varbūtības formulas, kas ir atkarīga no vairākām nesaderīgām hipotēzēm, kuru kopējā varbūtība ir 1.
,
kur ir zināmas varbūtības zem summas zīmes vai pieļauj to eksperimentāli novērtēt.
Tādā gadījumā, formulu Beijesa raksta:

"Fiziskā nozīme" un terminoloģija

Beijesa formula ļauj "pārkārtot cēloņus un sekas": no zināmā notikuma fakta aprēķināt varbūtību, ka to izraisījis kāds cēlonis.
Šajā gadījumā notikumus, kas atspoguļo "cēloņu" darbību, sauc par hipotēzēm, jo tie ir iespējamie notikumi, kas to izraisīja. Par pilnīgāko varbūtības hipotēzes taisnīgumu sauc apriori (cik vispār ir iespējams šis notikums), bet nosacīto, ņemot vērā notikušo notikumu, sauc par a posteriori (cik liela varbūtība izrādījās, ņemot vērā notikuma datus).

1.piemērs

Kā piemēram, notikums B būs — automašīnu nevar iedarbināt, un hipotēze A — tvertnē nav degvielas. Acīmredzams, varbūtība , ka mašīnu nevarēs iedarbināt, ja tvertnē nav degvielas, ir vienāda ar viens. Līdz ar to a posteriori varbūtība, ka tvertnē nav degvielas, ja automašīnu nevar iedarbināt, kas ir  ir vienāda ar , kas nozīmē, ka apriori varbūtība, ka tvertnē nav degvielas, attiecība pret varbūtību, ka mašīnu nevar iedarbināt. Piemēram, ja iepriekšēja varbūtība, ka tvertnē nav degvielas, ir 1%, un varbūtība, ka automašīna nedarbosies, ir 2%, un nejauši izvēlēta automašīna neiedarbināsies, tad varbūtība, ka tvertnē nav degvielas, ir 50%.

3.piemērs

Entomologs domā, ka iespējams vabole var piederēt pie retām vaboļu sugām, jo tā ķermeņa korpusā ir īpaši raksti . Retās pasugās 98% vabolēm ir raksti vai P (Raksti | Rets) = 0,98 (P (Pattern | Rare) = 0,98). Starp parastajām vabolēm tikai 5%, kurām ir raksti. Retas kukaiņu sugas ir tikai 0,1% no visas populācijas. Kāda ir varbūtība, ka vabole ar rakstu pieder pie reta apakštipa vai P (Rets | Raksti) (P (Rare| Pattern))?
No paplašinātās Beijesa teorēmas iegūstam (jebkurš kukainis var piederēt vai nu pie reta vai parasta (Common) sugas) :

Varbūtību interpretācijas varianti Beijesa teorēmā

Matemātiski Beijesa teorēma parāda attiecību starp notikuma A varbūtību un notikuma B, P (A) un P (B) varbūtību, notikuma A nosacīto varbūtību iestāšanās eksistējot notikumam B un notikuma B iestāšanās, ja notiek A, P (A | B) un P (B) | A).
Kopējā formā Beijesa formulā izskatās šādi:
Izteiksmes nozīme atkarīga no tā, kā interpretējas varbūtība dotajā formulā.

Frekvenču interpretācija

Frekvenču interpretācijā Beijesa teorēma fiksē notikušo notikumu skaitu (iespējas) un nosaka to varbūtību. Piemēram, pieņemsim, ka eksperiments tika veikts vairākas reizes. P (A) ir notikumu A reižu skaits, kas noticis (mērīts daļās). P (B) ir notikumu B reižu skaits, kas noticis (mērīts daļās). P (B | A) ir notikuma “B” rašanās biežums (daļās) nenotiekot notikumam A. P (A | B) ir notikuma A rašanās nenotiekot notikumam B.
Beijesa teorēmas nozīmi vislabāk var saprast no diagrammas labajā pusē. Abas diagrammas parāda notikumus A un B ar pozitīviem un negatīviem rezultātiem, lai parādītu visus varbūtību iznākumus. Beijesa teorēmu izmanto kā saikni starp šīm dažādajām daļām.

Parasta forma

Prieks notikuma A un B, ar nosacījumu, ka P(B) ≠ 0,
Daudzi Beijesa teorēmas papildinājumi norāda, ka notikums B ir zināms un nepieciešams saprast, kā zināšanas par notikumu B ietekmē pārliecību, ka notikums A notiks.Tādā gadījumā pēdējā gadījumā saucējs ir — notikuma B iespējamība — zināms; mēs vēlamies mainīt A. Beijesa teorēmu parāda, ka a posteriori varbūtības ir proporcionālas skaitītājam:
(proporcionalitāte A priekš dotā B).
Ja notikumi A1, A2, … ir savstarpēji izslēdzoši un izsmeļoši, tas ir, tikai viens no notikumiem ir iespējams,vienā un tajā pašā laikā divi notikumi nevar notikt kopā, mēs varam noteikt proporcionalitātes koeficientu, orientējoties uz to, ka to kopējā varbūtības summa ir viens. Piemēram, konkrētam notikumam A — notikums A un tā pretējais notikums ¬A, ir savstarpēji izslēdzoši un izsmeļoši. Norādot proporcionalitātes koeficientu kā C, mums ir:
 un 
Apvienojot abas formulas, mēs iegūstam:

Paplašinātā forma

Bieži vien notikumu telpa (tādu kā {Aⱼ}) noteikti terminos P(Aⱼ) и P(B | Aⱼ). Tieši šajā gadījumā ir labi noteikt P(B), pielietojot pilnīgo varbūtības teorēmu:
Jo īpaši:

Nepārtrauktie nejaušie mainīgie

Izskatīsim elementāro notikumu telpu Ω, ko veido divi daudzumi X un Y. Principā Beijesa teorēma pielietojas notikumiem A = {X = x} un B = {Y = y}. Tomēr izteiksmes kļūst vienādas ar 0 vietās, kur mainīgajam ir ierobežots varbūtības blīvums. Lai turpinātu lietderīgi izmantot Beijesa teorēmu, to var formulēt piemērotu blīvuma izteiksmē.

Parastā forma

Ja X nepārtraukta un Y diskrēta, tad
Ja X diskrēts un Y nepārtraukta,
Ja gan X, gan Y nepārtraukti,

Paplašinātā forma

Nepārtraukta notikumu telpa bieži tiek definēta kā nosacījumu A skaitītājs. Nepārtraukta notikuma telpa bieži tiek attēlota kā skaitītājs. Tālāk ir lietderīgi atbrīvoties no saucēja, izmantojot vispārējo varbūtības formulu. Priekš“fY (y), tas kļūst par integrāli:

Beijesa likums

Beijesa likums — pārveidota Beijesa teorēma:
,
kur
To sauc par Beijesa likumu vai pareizuma attiecību. Divu notikumu rašanās varbūtības atšķirība ir tikai šo divu notikumu varbūtību attiecība. Tādējādi,
,

Priekš notikumiem

Beijesa teorēma var būt iegūta no noteiktas varbūtības:

Priekš nejaušiem mainīgajiem

Attiecībā starp diviem nepārtrauktiem nejaušiem mainīgajiem lielumiem X un Y, Beijesa teorēmu var līdzīgi atvasināt no nosacītā sadalījuma definīcijas: