הסתברות פוסטריורית

הסתברות פוסטריורית היא סוג של הסתברות מותנית, הנובעת מעדכון ההסתברות הפריורית עם מידע המסוכם בנראות באמצעות הפעלת כלל בייס.<ref></ref> ההסתברות הפוסטריורית מכילה את כל המידע על הסבירות של טענה לא ודאית (כגון השערה מדעית, או ערך של פרמטר), בהינתן ידע מוקדם ומודל מתמטי המתאר את התצפיות הזמינות בזמן נתון. לאחר הגעת מידע חדש, ההסתברות הפוסטריורית עשויה לשמש כהסתברות פריורית במהלך נוסף של עדכון בייסיאני.<ref></ref>

בהקשר של סטטיסטיקה בייסיאנית, התפלגות ההסתברות הפוסטריורית מתארת בדרך כלל את אי הוודאות לגבי הערכים של פרמטרים סטטיסטיים המותנים בנתונים שנצפו.<ref></ref>

== הגדרה בהקשר של התפלגות ==
בגישות בייסיאניות, ההסתברות הפוסטריורית היא ההסתברות של הפרמטרים של המודל, <math>\theta</math> , בהינתן התצפיות <math>X</math>, ומסומנת <math>p(\theta |X)</math> .

לעומת זאת, פונקציית הנראות היא ההסתברות של התצפיות בהינתן הפרמטרים של המודל, כלומר <math>p(X|\theta)</math> .

בהינתן אמונה פריורית שפונקציית התפלגות הסתברות היא <math>p(\theta)</math> וכי ההסתברות לתצפית <math>x</math> היא <math>p(x|\theta)</math>, אז ההסתברות הפוסטריורית מוגדרת כ<ref></ref>

: <math>p(\theta|x) = \frac{p(x|\theta)}{p(x)}p(\theta)</math> .

כלומר, ההסתברות הפוסטריורית פרופורציונית לפונקצית הנראות המוכפלת בהסתברות הפריורית.<ref></ref><math>p(x)</math> הוא קבוע הנירמול המחושב על ידי 

: <math> p(x) = \int p(x|\theta)p(\theta)d\theta</math>

אם <math>\theta</math> היא פרמטר רציף, או על ידי סיכום של <math>p(x|\theta)p(\theta)</math> על כל הערכים האפשריים של <math>\theta</math> , אם <math>\theta</math> הוא פרמטר בדיד.<ref name="BDA"></ref>

== דוגמה ==
נניח אקווריום שבו שני סוגי דגים: 60% מהדגים הם מסוג א' ו40% הם מסוג ב'. לכל הדגים מסוג א' זנב ירוק. ל50% מהדגים מסוג ב' יש זנב ירוק, ולשאר זנב אדום. מה הסיכוי שדג עם זנב ירוק שנבחר באקראי, הוא מסוג ב'? ניתן לחשב את הההסתברות באמצעות כלל בייס:

נסמן ב <math>B</math> את המאורע שהדג הנבחר הוא מסוג ב', וב <math>G</math> את המאורע שהדג הנבחר הוא בעל זנב ירוק. כדי לחשב את ההסתברות הפוסטריורית <math>P(B|G)</math>:

* <math>P(B)</math>, ההסתברות ההסתברות הפריורית שהדג הוא מסוג ב' (ללא קשר לכל מידע אחר), היא 0.4.
* <math>P(A)</math>, ההסתברות שדג הוא מסוג א' (ללא קשר לכל מידע אחר) היא 0.6.
* <math>P(G|B)</math>, ההסתברות שלדג יש זנב ירוק בהינתן שהוא מסוג ב' היא 0.5.
* <math>P(G|A)</math>, ההסתברות שלדג יש זנב ירוק בהינתן שהוא מסוג א' היא 1.
* <math>P(G)</math>, ההסתברות שדג שנבחר באקראי יהיה בעל זנב ירוק, ללא קשר לכל מידע אחר, מתקבלת באמצעות נוסחת ההסתברות השלמה<math>P(G) = P(G|B)P(B) + P( G|A)P(A)</math> , כלומר <math>P(G)= 0.5\cdot 0.4 + 1\cdot0.6 = 0.8</math> .

לסיכום, ההסתברות האחורית שהדג הנבחר יהיה מוסג ב' בהינתן שהסנפיר שלו ירוק תהיה:

: <math>P(B|G) = \frac{P(G|B) P(B)}{P(G)} = \frac{0.5 \times 0.4}{0.8} = 0.25.</math>

== חישוב ==
ניתן לחשב את התפלגות ההסתברות הפוסטריורית של משתנה מקרי אחד בהינתן ערכו של אחר באמצעות משפט בייס על ידי הכפלת התפלגות ההסתברות הפריורית בפונקציית הנראות, ולאחר מכן חלוקה בקבוע הנירמול, באופן הבא:

: <math>f_{X\mid Y=y}(x)={f_X(x) \mathcal L_{X\mid Y=y}(x) \over {\int_{-\infty}^\infty f_X(u) \mathcal L_{X\mid Y=y}(u)\,du}}</math>

נותן את פונקציית צפיפות ההסתברות הפוסטריורית עבור משתנה מקרי <math>X</math>, בהינתן שהמשתנה המקרי <math>Y</math> מקבל ערך ספציפי <math>Y=y</math>, כאשר

* <math>f_X(x)</math> היא הצפיפות הפריורית של <math>X</math> ,
* <math>\mathcal L_{X\mid Y=y}(x) = f_{Y\mid X=x}(y)</math> היא פונקציית הנראות של <math>Y</math> כפונקציה של <math>x</math> ,
* <math>\int_{-\infty}^\infty f_X(u) \mathcal L_{X\mid Y=y}(u)\,du</math> הוא קבוע הנירמול, ו
* <math>f_{X\mid Y=y}(x)</math> היא הצפיפות הפוסטריורית של <math>X</math> בהינתן <math>Y=y</math>.<ref></ref>

== סיווג (קלסיפיקציה) ==
בסיווג, הסתברות פוסטריורית משקפת את חוסר הוודאות של הערכת תצפית למחלקה מסוימת. בעוד שהפלט של שיטות סיווג סטטיסטיות הוא בהגדרה הסתברות פוסטריורית, שיטות של למידת מכונה לעיתים קרובות אינן מספקת הערכות הסתברותיות אמינות.<ref></ref>

==הערות שוליים==

קטגוריה:סטטיסטיקה בייסיאנית