חוק בייס

חוק בייס (או: נוסחת בייס; באנגלית: Bayes' theorem) הוא תוצאה בתורת ההסתברות המאפשרת לחשב הסתברות מותנית של מאורע כאשר יודעים את ההסתברויות המותנות ההפוכות. הוא נוסח על ידי המתמטיקאי האנגלי תומאס בייס, במאמרו "מאמר על פתרון בעיה בתורת הסיכויים" (Essay Towards Solving a Problem in the Doctrine of Chances), אשר פורסם ב-1764, לאחר מותו של בייס. "ההסתברות המותנית של מאורע A בהינתן מאורע B" היא הסיכוי להתרחשותו של A, בהנחה ש- B אכן התרחש. קיום ההנחה מצמצם את מרחב המדגם. מרעיון זה נובעת הנוסחה להסתברות המותנית:   P ( A | B ) = P ( A ∩ B ) P ( B ) {\displaystyle \ P(A|B)={\frac {P(A\cap B)}{P(B)}}} . חוק בייס מאפשר לחשב את ההסתברות המותנית ההפוכה: ההסתברות המותנית של B בהינתן A: P ( B | A ) = P ( A | B ) ⋅ P ( B ) P ( A ) {\displaystyle P(B|A)={\frac {P(A|B)\cdot P(B)}{P(A)}}} . ניסוח אחר למשפט: אם { B i } i ∈ K {\displaystyle \left\{B_{i}\right\}_{i\in K}} חלוקה של מרחב המדגם, שבה לכל אחד מהחלקים הסתברות חיובית, אז לכל מאורע A בעל הסתברות חיובית ולכל k, מתקיים: P ( B k | A ) = P ( A | B k ) P ( B k ) ∑ i P ( A | B i ) P ( B i ) {\displaystyle P(B_{k}|A)={\frac {P(A|B_{k})P(B_{k})}{\sum _{i}P(A|B_{i})P(B_{i})}}} . ניסוח זה נובע ישירות מהניסוח הראשון בשילוב עם נוסחת ההסתברות השלמה. במדינה מסוימת יש שתי קופות חולים; 75% מהתושבים חברים בגדולה מבין השתיים, והשאר בקטנה. סקרי שביעות רצון העלו ש-90% מן החברים בקופת החולים הקטנה מרוצים מן הקופה, בעוד רק 80% מהחברים בקופת החולים הגדולה מרוצים ממנה. על-כן מפרסמת החברה הקטנה מודעות ענק שלפיהן "אם אתם מרוצים, כנראה שאתם חברים שלנו". חוק בייס מאפשר לבחון את נכונות הטענה: לצורך הדוגמה, קבוצת האנשים בעלי התכונה "האדם חבר בקופה הקטנה" תסומן ב-S, והקבוצה המשלימה ("האדם חבר בקופה הגדולה") תסומן ב-   S ∁ {\displaystyle \ S^{\complement }} אם כן:   P ( S ) = 0.25 {\displaystyle \ P(S)=0.25}   P ( S ∁ ) = 0.75 {\displaystyle \ P(S^{\complement })=0.75} . כמו כן, התכונה "האדם מרוצה" תסומן ב-H. לפי הסקר:   P ( H | S ) = 0.9 {\displaystyle \ P(H|S)=0.9}   P ( H | S ∁ ) = 0.8 {\displaystyle \ P(H|S^{\complement })=0.8} . לפי נוסחת ההסתברות השלמה:   P ( H ) = P ( H | S ) ⋅ P ( S ) + P ( H | S ∁ ) ⋅ P ( S ∁ ) = 0.9 ⋅ 0.25 + 0.8 ⋅ 0.75 = 0.825 {\displaystyle \ P(H)=P(H|S)\cdot P(S)+P(H|S^{\complement })\cdot P(S^{\complement })=0.9\cdot 0.25+0.8\cdot 0.75=0.825} . לכן, הסיכוי של אדם מרוצה להשתייך לקופה הקטנה שווה ל:   P ( S | H ) = P ( S ∩ H ) P ( H ) = P ( H | S ) P ( S ) P ( H ) = 0.9 ⋅ 0.25 0.825 ≈ 0.273 {\displaystyle \ P(S|H)={\frac {P(S\cap H)}{P(H)}}={\frac {P(H|S)P(S)}{P(H)}}={\frac {0.9\cdot 0.25}{0.825}}\approx 0.273} . אם כן, טענת הפרסומת שקרית: אם אדם מרוצה הוא כנראה חבר בקופת החולים הגדולה. באופן דומה, ניתן להראות שגם אם הוא לא מרוצה הוא כנראה חבר בקופת החולים הגדולה. ההסבר האינטואיטיבי לכך הוא שמלכתחילה רוב הסיכויים שאדם, מרוצה או לא, הוא חבר בקופה הגדולה. הסתברות הסתברות מותנית רשת בייסיאנית "An essay towards solving a Problem in the Doctrine of Chances": המאמר המקורי כפי שפורסם לאחר מותו של תומאס בייס בכתב העת Philosophical Transactions of the Royal Society of London. יוסי לוי, הכוכב, הסמים והכומר - סקירה של משפט בייס, באתר "נסיכת המדעים" חוק בייס, באתר MathWorld (באנגלית) שרון מקגריין, The Theory That Would Not Die: How Bayes' Rule Cracked the Enigma Code, Hunted Down Russian Submarines, and Emerged Triumphant from Two Centuries of Controversy. Yale University Press, Hardcover Spring 2011. הסבר ויזואלי של החוק באתר 3Blue1Brown חוק בייס, הגיאומטריה של שינוי אמונות, סרטון בערוץ "3Blue1Brown", באתר יוטיוב (אורך: 15:11) ההוכחה המהירה לחוק בייס, סרטון בערוץ "3Blue1Brown", באתר יוטיוב (אורך: 03:48) חוק בייס, באתר אנציקלופדיה בריטניקה (באנגלית)