מקדם בייס

בסטטיסטיקה, מְקַדֵם בֵּייס (באנגלית: Bayes Factor) משמש אלטרנטיבה בייסיאנית לבדיקת השערות קלאסית. השוואת מודלים בייסיאניים היא שיטה של הכרעה בין מודלים שונים בהתבסס על חישוב מקדם בייס. מקדם בייס משמש לכימות היחס בין העדויות התומכות בעד מודל אחד על פני מודל אחר. 

== הגדרה ==
הנראות (likelihood) מייצגת את ההסתברות כי סט נתונים D הגיע מתוך מודל M, ונכתב באופן רשמי בתור <math>Pr(D|M)</math>. מקדם בייס הוא יחס בין הנראות (likelihood) של השערות מתחרות, בדרך כלל השערת אפס והשערת החוקר, או מספר מודלים אלטרנטיביים.

לדוגמה: בהטלת מטבע נצפה סט נתונים (D) של 5 תוצאות "עץ". במודל סטטיסטי של מטבע הוגן (סיכוי q=0.5 לקבלת עץ) הסבירות, או הסיכוי לנתונים בהינתן המודל, היא <math>Pr(D|M)=0.5^5=0.03125</math>. לעומת זאת במודל של מטבע מוטה (עם סיכוי q=0.9 לקבלת עץ) הסבירות, או הסיכוי לנתונים בהינתן המודל, היא <math>Pr(D|M)=0.9^5=0.5905</math>. 

הערכת הנראות מהווה את הבסיס להשוואה בייסיאנית בין מודלים. בהשוואת מודלים, אנחנו צריכים לבחור בין שני מודלים על בסיס נתונים (D). הנראות של שני מודלים M1, ו-M2, מבוטאת על ידי שני וקטורים <math> \theta_1 </math> וגם <math> \theta_2 </math>, שבאמצעותם מחושב מקדם בייס, K. 

הווקטורים <math> \theta_1 </math> ו-<math> \theta_2 </math> מכילים את אוסף כל האפשרויות של פרמטרי המודלים M1, ו-M2 בהתאמה. עבור כל אפשרות כזו מחושבת ההסתברות לקבל את הפרמטרים בהינתן המודל <math>Pr(\theta_i|M_i)</math>, וגם מחושבת ההסתברות לקבל את הדאטא שנאסף בהינתן שהמודל הוא מבוסס פרמטרים אלו <math>Pr(D|\theta_i,M_i)</math>. הסתברויות אלו מוכפלות זו בזו, ומתבצעת עבור כל מודל סכימה מעבר לכל האפשרויות של פרמטרי המודלים. חלוקת הסכומים שחושבו בין שני המודלים מוגדרת כמקדם בייס. בכתיב מתמטי ניתן לייצג הסבר זה בנוסחה הבאה:

:<math> K = \frac{\Pr(D|M_1)}{\Pr(D|M_2)}
= \frac{\int \Pr(\theta_1|M_1)\Pr(D|\theta_1,M_1)\,d\theta_1}
{\int \Pr(\theta_2|M_2)\Pr(D|\theta_2,M_2)\,d\theta_2} .
</math>

יתרונה של שיטת השוואת מודלים באמצעות מקדם בייס על פני מבחן סטטיסטיים כגון מבחן יחס-נראות נעוצה בעובדה שסבירותם של מודלים פשוטים יותר עם פחות פרמטרים, באופן טבעי יותר מקבלת יתרון בהשוואת מודלים ביסייאניים ובכך ניתן להימנע מתופעת התאמת יתר (overfitting). 

== פרשנות ==
ערך K גדול מ-1 מציין כי המודל הראשון יותר נתמך על ידי הנתונים בחשבון בהשוואה למודל השני. בדיקת השערות קלאסית, בוחנת רק מודל אחד (השערת האפס) ומכמתת את הסבירות לנתונים בהינתן המודל, כאשר בתהליך ההסקה הסטטיסטית, סבירות נמוכה מאוד של הנתונים (לרוב p<0.05) תוביל לדחיית השערת האפס. הרולד ג'פרי יצר את הטבלה הבאה לפרשנות ערכי K שונים:
:{| class="wikitable"
|+
! K 
! dHart 
! ביטים 
!פרשנות
|-
!קטן מ-1
| <center> קטן מ-0 </center>
|
|שלילי (תומך M<sub>2</sub>)
|-
!10<sup>0</sup>עד 10<sup>1/2</sup>
|<center>0 עד 5</center>
| <center>0 עד 1.6</center>
| בקושי שווה להזכיר
|-
!10<sup>1/2</sup> עד 10<sup>1</sup>
| <center>5 עד 10</center>
| <center>1.6 עד 3.3</center>
| משמעותי
|-
!10<sup>1</sup> עד 10<sup>3/2</sup>
| <center>10 עד 15</center>
| <center> 3.3 עד 5.0&#x20;&#x20;&#x20;&#x20;</center>
| חזק
|-
!10<sup>3/2 עד</sup> 10<sup>2</sup>
| <center>15 עד-20.</center>
| <center>5.0 עד 6.6</center>
| חזק מאוד
|-
!גדול מ 10<sup>2</sup>
| <center> גדול מ 20 </center>
| <center> גדול מ 6.6 </center>
| החלטי
|}
פרשנות מקובלת אלטרנטיבית הוצעה על ידי Kass ו Raftery (1995):
: {| class="wikitable"
|+
!<math>2 ln(K)</math>
!K 
!פרשנות
|-
!0 עד 2
| <center> 1 עד 3 </center>
|בקושי שווה להזכיר
|-
!2 עד 6
| <center>3 עד 20</center>
| חיובי
|-
! 6 עד 10 
| <center>20 עד 150</center>
| חזק
|-
! מעל 10
| <center>מעל 150</center>
| חזק מאוד
|}
מקדם בייס מכמת עבורנו איזו מההשערות היא הסבירה ביותר, בהינתן סט הנתונים שבידנו.

== דוגמה ==
נסתכל על דוגמה עם משתנה תלוי דיכוטומי (בינומי). נניח ובידנו משתנה מקרי שמייצר בכל צעד הצלחה או כישלון. אנו מעוניינים להשוות בין מודל M<sub>1</sub> שבו ההסתברות להצלחה היא q=0.5, אל מודל M<sub>2</sub> בו q אינו ידוע, ונלקח מהתפלגות אחידה בטווח [0,1]. בידנו סט נתונים (D) של 200 ניסיונות, אשר מתוכם 115 הצלחות אל מול 85 כישלונות. את הסבירות לקבלת סט נתונים זה בהינתן כל אחד מהמודלים ניתן לחשב באמצעות ההתפלגות הבינומית:
:<math>.</math>

לפיכך, נקבל עבור המודל הראשון
:<math>P(X=115 \mid M_1)={200 \choose 115}\left({1 \over 2}\right)^{200}=0.005956...,\,</math>
ועבור המודל השני
:<math>P(X=115 \mid M_2)=\int_{0}^1{200 \choose 115}q^{115}(1-q)^{85}dq = {1 \over 201} = 0.004975....</math>
בחישוב מקדם בייס כיחס בין שתי הסבירויות נגלה כי K=1.197. כלומר, העדויות מעט נוטות לטובת המודל הראשון, אם כי באופן זניח.

בדיקת השערות קלאסית של מודל M<sub>1</sub> (שבהקשר זה הוא השערת האפס) יספק תוצאה שונה בתכלית. במבחן הבינום הסבירות לקבלת 115 הצלחות או יותר מתוך 200 היא p=0.02. מכאן שבבדיקת השערות ברמת ביטחון של 95% (דו-צדדית) היינו מגיעים למסקנה כי עלינו לדחות את השערת האפס, וכי לא סביר שהתוצאה שהתקבלה נדגמה מתוך השערת האפס.

מודל M<sub>2</sub>מורכב יותר לבחינה מהמודל הראשון, מאחר שהוא מכיל פרמטר חופשי המאפשר לו התאמה מוצלחת יותר לנתונים. היכולת של כלי הסקה ביסיאנית להתמודד עם מודלים מורכבים כגון זה משמעותית במיוחד ביכולה להפחית טעות מסוג I

== לקריאה נוספת ==

* Morey, R. D., Romeijn, J. W., & Rouder, J. N. (2016). The philosophy of Bayes factors and the quantification of statistical evidence. Journal of Mathematical Psychology, 72, 6-18.

== קישורים חיצוניים ==
* [http://bayesfactorpcl.r-forge.r-project.org/ BayesFactor] חבילת R לחישוב מקדם בייס
* [http://pcl.missouri.edu/bayesfactor Bayes Factor Calulator] - גרסה מבוססת דפדפן של חבילת BayesFactor

== הערות שוליים ==

קטגוריה:סטטיסטיקה