תוחלת מותנית

בתורת ההסתברות ובאופן כללי יותר בתורת המידה ואנליזה מתמטית, תוחלת מותנית הוא מושג המכליל באופן מרחיק לכת את מושג ההסתברות המותנית ואת מושג התוחלת. לידתו של מושג זה נבעה מהרעיון האינטואיטיבי שההסתברות למאורע מסוים יכולה להשתנות אם מסיבה כלשהי יש בידינו מידע נוסף. רעיון זה היה ידוע עוד בראשית ימי תורת ההסתברות, אך מושג התוחלת המותנית מרחיב אותו הרבה יותר, בכך שהוא מאפשר ל"מידע הנוסף" כלפיו מחושבת התוחלת להיות עשיר ומדויק. המושג הוגדר באופן מדויק לראשונה תוך שימוש במשפט רדון-ניקודים, על ידי המתמטיקאי הרוסי אנדריי קולמוגורוב בשנת 1933 בספרו "יסודות תורת ההסתברות". קולמוגורוב הגדיר מושג זה של תוחלת מותנית ביחס למאורע או ביחס למשתנה מקרי אחר. רק מאוחר יותר, בשנת 1953, המתמטיקאים האמריקאים פול הלמוש וג'וזף דוב הכלילו את המושג של תוחלת מותנית ביחס לתת-סיגמא-אלגברה. בשלביה המוקדמים של תורת ההסתברות, לפני התגבשות המושג הפורמלי של מרחב הסתברות, תוחלת מותנית הוגדרה עבור משתנה מקרי בדיד, עבור שני מקרים שונים: תוחלת מותנית במאורע, שהיא מספר ממשי, ותוחלת מותנית במשתנה מקרי, שהיא משתנה מקרי אחר. תוחלת מותנית במאורע יהי X {\displaystyle X} משתנה מקרי בדיד. לכל מאורע E {\displaystyle E} , התוחלת המותנית של X {\displaystyle X} ביחס ל- E {\displaystyle E} מוגדרת על ידי, E [ X ∣ E ] = 1 | E | ∑ ω ∈ E X ( ω ) {\displaystyle \mathbf {E} \left[X\mid E\right]={\frac {1}{\left|E\right|}}\sum _{\omega \in E}X\left(\omega \right)} תוחלת מותנית במשתנה מקרי יהיו X , Y {\displaystyle X,Y} משתנים מקריים. התוחלת המותנית של X {\displaystyle X} בהינתן Y {\displaystyle Y} , היא המשתנה המקרי ω ↦ E [ X ∣ Y − 1 ( { Y ( ω ) } ) ] {\displaystyle \omega \mapsto \mathbf {E} \left[X\mid Y^{-1}\left(\left\{Y\left(\omega \right)\right\}\right)\right]} . בשלבים מאוחרים יותר, כשהתגבש המושג של מרחב הסתברות, ההגדרה הוכללה הן ביחס למאורע הן ביחס למשתנה מקרי, והוגדרה ביחס לתת-סיגמא-אלגברה כלשהי של המרחב. יהי ( Ω , F , P ) {\displaystyle \left(\Omega ,{\mathcal {F}},\mathbb {P} \right)} מרחב הסתברות, ויהי X {\displaystyle X} משתנה מקרי במרחב זה. תוחלת מותנית במאורע לכל מאורע E ∈ F {\displaystyle E\in {\mathcal {F}}} המקיים P ( E ) > 0 {\displaystyle \mathbb {P} \left(E\right)>0} , התוחלת המותנית של X {\displaystyle X} ביחס ל- E {\displaystyle E} , מוגדרת על ידי, E [ X ∣ E ] = E [ X ⋅ 1 E ] P ( E ) = ∫ ω ∈ Ω X ( ω ) P ( d X ( ω ) ∣ E ) {\displaystyle \mathbf {E} \left[X\mid E\right]={\frac {\mathbf {E} \left[X\cdot 1_{E}\right]}{\mathbb {P} \left(E\right)}}=\int _{\omega \in \Omega }X\left(\omega \right)\mathbb {P} \left(dX\left(\omega \right)\mid E\right)} כאשר P ( A ∣ E ) = P ( A ∩ E ) P ( E ) {\displaystyle \mathbb {P} \left(A\mid E\right)={\frac {\mathbb {P} \left(A\cap E\right)}{\mathbb {P} \left(E\right)}}} . תוחלת מותנית בסיגמא-אלגברה תהי G {\displaystyle {\mathcal {G}}} תת-סיגמא-אלגברה של F {\displaystyle {\mathcal {F}}} . לכל משתנה מקרי X {\displaystyle X} , התוחלת המותנית של X {\displaystyle X} בהינתן G {\displaystyle {\mathcal {G}}} , היא משתנה מקרי אחר שנסמן E [ X ∣ G ] {\displaystyle \mathbf {E} \left[X\mid {\mathcal {G}}\right]} שהוא מדיד ביחס לסיגמא-אלגברה G {\displaystyle {\mathcal {G}}} , ומקיים את התכונה שלכל G ∈ G {\displaystyle G\in {\mathcal {G}}} , ∫ G E [ X ∣ G ] d P = ∫ G X d P {\displaystyle \int _{G}\mathbf {E} \left[X\mid {\mathcal {G}}\right]d\mathbb {P} =\int _{G}Xd\mathbb {P} } זו הכללה, שכן אם רוצים להתנות במאורע E {\displaystyle E} או במשתנה מקרי Y {\displaystyle Y} , ניתן לקחת את תת-הסיגמא-אלגברה להיות זו שנוצרת על ידי E {\displaystyle E} (כלומר σ ( E ) = { ∅ , E , E c , Ω } {\displaystyle \sigma \left(E\right)=\left\{\emptyset ,E,E^{c},\Omega \right\}} ) או זו שנוצרת על ידי Y {\displaystyle Y} (כלומר σ ( Y ) = { Y − 1 ( A ) ∣ A ∈ F } {\displaystyle \sigma \left(Y\right)=\left\{Y^{-1}\left(A\right)\mid A\in {\mathcal {F}}\right\}} ), ולהשתמש בלמה של דוב-דינקין. באופן מפורש יותר, התוחלת המותנית במשתנה מקרי היא משתנה מקרי E [ X ∣ Y ] {\displaystyle \mathbf {E} \left[X\mid Y\right]} , שמקיים את התכונה הבאה: לכל משתנה מקרי Z {\displaystyle Z} , מתקיים, ∫ ( E [ X ∣ Y ] ∘ Y ) ⋅ ( Z ∘ Y ) d P = ∫ X ⋅ ( Z ∘ Y ) d P {\displaystyle \int \left(\mathbf {E} \left[X\mid Y\right]\circ Y\right)\cdot \left(Z\circ Y\right)d\mathbb {P} =\int X\cdot \left(Z\circ Y\right)d\mathbb {P} } העובדה שמשתנה מקרי כזה אכן קיים כלל אינה מובנת מאליה, ו"משפט התוחלת המותנית" שקובע את הקיום של מושג זה עושה שימוש במשפט רדון-ניקודים. יהי ( Ω , F , P ) {\displaystyle \left(\Omega ,{\mathcal {F}},\mathbb {P} \right)} מרחב הסתברות, ותהי G {\displaystyle {\mathcal {G}}} תת-סיגמא-אלגברה של F {\displaystyle {\mathcal {F}}} . נסמן באופן כללי ב- L 1 ( F ) {\displaystyle L^{1}\left({\mathcal {F}}\right)} את מרחב המשתנים המקריים המדידים ביחס ל- F {\displaystyle {\mathcal {F}}} ושהם בעלי תוחלת סופית. אזי קיים אופרטור תוחלת מותנית מהצורה E [ ⋅ ∣ G ] : L 1 ( F ) → L 1 ( F ) {\displaystyle \mathbf {E} \left[\cdot \mid {\mathcal {G}}\right]:L^{1}\left({\mathcal {F}}\right)\to L^{1}\left({\mathcal {F}}\right)} המוגדר ביחידות כמעט תמיד, המקיים את התכונות הבאות: לכל X ∈ L 1 ( F ) {\displaystyle X\in L^{1}\left({\mathcal {F}}\right)} מתקיים E [ X ∣ G ] ∈ L 1 ( G ) {\displaystyle \mathbf {E} \left[X\mid {\mathcal {G}}\right]\in L^{1}\left({\mathcal {G}}\right)} לכל X ∈ L 1 ( F ) {\displaystyle X\in L^{1}\left({\mathcal {F}}\right)} ולכל G ∈ G {\displaystyle G\in {\mathcal {G}}} מתקיים, ∫ G E [ X ∣ G ] d P = ∫ G X d P {\displaystyle \int _{G}\mathbf {E} \left[X\mid {\mathcal {G}}\right]d\mathbb {P} =\int _{G}Xd\mathbb {P} } ניתן למעשה להראות עוד, כי אופרטור התוחלת המותנית הוא אופרטור ליניארי. אחת הדרכים להראות את קיום ויחידות אופרטור התוחלת המותנית היא על ידי משפט רדון-ניקודים, באופן הבא: כל X ∈ L 1 ( F ) {\displaystyle X\in L^{1}\left({\mathcal {F}}\right)} שהוא אי-שלילי, משרה מידת הסתברות חדשה המוגדרת לכל G ∈ G {\displaystyle G\in {\mathcal {G}}} על ידי P X ( G ) = ∫ G X d P {\displaystyle \mathbb {P} _{X}\left(G\right)=\int _{G}Xd\mathbb {P} } . מידת ההסתברות P X {\displaystyle \mathbb {P} _{X}} רציפה בהחלט ביחס למידת ההסתברות P {\displaystyle \mathbb {P} } על קבוצות G {\displaystyle {\mathcal {G}}} , ולכן ממשפט רדון-ניקודים קיימת נגזרת רדון-ניקודים d P X d P ∈ L 1 ( G ) {\displaystyle {\frac {d\mathbb {P} _{X}}{d\mathbb {P} }}\in L^{1}\left({\mathcal {G}}\right)} יחידה כמעט תמיד. נגזרת רדון-ניקודים זו היא התוחלת המותנית של X {\displaystyle X} בהינתן G {\displaystyle {\mathcal {G}}} . עבור משתנה מקרי X {\displaystyle X} שהוא לאו-דווקא אי-שלילי, נתבונן במשתנה המקרי השלילי X − = min { 0 , X } {\displaystyle X_{-}=\min \left\{0,X\right\}} ובמשתנה המקרי החיובי X + = max { 0 , X } {\displaystyle X_{+}=\max \left\{0,X\right\}} . נפעיל את הטיעון הקודם על X + {\displaystyle X_{+}} ועל − X − {\displaystyle -X_{-}} , ונסכום את נגזרות רדון-ניקודים המתקבלות. דרך נוספת להראות קיום ויחידות של אופרטור התוחלת המותנית היא באמצעות התורה של מרחבי הילברט, דרך מושג ההטלה לתת מרחב. כך, רואים את מרחב הפונקציות המדידות ביחס ל- B {\displaystyle {\mathcal {B}}} כתת-מרחב סגור של מרחב הפונקציות המדידות ביחס ל- A {\displaystyle {\mathcal {A}}} . יהי ( Ω , F , P ) {\displaystyle \left(\Omega ,{\mathcal {F}},\mathbb {P} \right)} מרחב הסתברות, ותהי G {\displaystyle {\mathcal {G}}} תת-סיגמא-אלגברה של F {\displaystyle {\mathcal {F}}} . לכל X ∈ L 1 ( F ) {\displaystyle X\in L^{1}\left({\mathcal {F}}\right)} ולכל משתנה מקרי Y ∈ L 1 ( G ) {\displaystyle Y\in L^{1}\left({\mathcal {G}}\right)} שהוא חסום, מתקיים E [ Y X ∣ G ] = Y E [ X ∣ G ] {\displaystyle \mathbf {E} \left[YX\mid {\mathcal {G}}\right]=Y\mathbf {E} \left[X\mid {\mathcal {G}}\right]} . לכל X ∈ L 1 ( G ) {\displaystyle X\in L^{1}\left({\mathcal {G}}\right)} מתקיים E [ X ∣ G ] = X {\displaystyle \mathbf {E} \left[X\mid {\mathcal {G}}\right]=X} . לכל X ∈ L 1 ( F ) {\displaystyle X\in L^{1}\left({\mathcal {F}}\right)} מתקיים E [ X ∣ G ] ≤ E [ | X | ∣ G ] {\displaystyle \mathbf {E} \left[X\mid {\mathcal {G}}\right]\leq \mathbf {E} \left[\left|X\right|\mid {\mathcal {G}}\right]} . לכל X ∈ L 1 ( F ) {\displaystyle X\in L^{1}\left({\mathcal {F}}\right)} , אם X {\displaystyle X} בלתי תלוי ב- G {\displaystyle {\mathcal {G}}} , אז E [ X ∣ G ] = E [ X ] {\displaystyle \mathbf {E} \left[X\mid {\mathcal {G}}\right]=\mathbf {E} \left[X\right]} . משפט התוחלת השלמה: E [ E [ ⋅ ∣ G ] ] = E [ ⋅ ] {\displaystyle \mathbf {E} \left[\mathbf {E} \left[\cdot \mid {\mathcal {G}}\right]\right]=\mathbf {E} \left[\cdot \right]} . לכל H {\displaystyle {\mathcal {H}}} תת-סיגמא-אלגברה של G {\displaystyle {\mathcal {G}}} , מתקיים E [ E [ ⋅ ∣ G ] ∣ H ] = E [ ⋅ ∣ H ] {\displaystyle \mathbf {E} \left[\mathbf {E} \left[\cdot \mid {\mathcal {G}}\right]\mid {\mathcal {H}}\right]=\mathbf {E} \left[\cdot \mid {\mathcal {H}}\right]} . מרחב הסתברות בדוגמה זו הוא קטע היחידה [ 0 , 1 ] {\displaystyle \left[0,1\right]} עם מידת לבג. הסיגמא-אלגברה A {\displaystyle {\mathcal {A}}} היא סיגמא-אלגברת לבג הסטנדרטית. הסיגמא-אלגברה B {\displaystyle {\mathcal {B}}} היא זו הנוצרת על ידי קטעים שקצוותיהם מתוך 0, ¼, ½, ¾, 1. הסיגמא-אלגברה C {\displaystyle {\mathcal {C}}} היא זו הנוצרת על ידי קטעים שקצוותיהם מתוך 0, ½, 1. התוחלת המותנית בהינתן A {\displaystyle {\mathcal {A}}} היא הקו הצבוע אדום (כלומר פשוט המשתנה המקרי עצמו). התוחלת המותנית בהינתן B {\displaystyle {\mathcal {B}}} היא הקו הצבוע ירוק. התוחלת המותנית בהינתן C {\displaystyle {\mathcal {C}}} היא הקו הצבוע תכלת.