אי-תלות (הסתברות)

בתורת ההסתברות, מאורעות הם בלתי תלויים אם הידיעה על התרחשותו (או אי-התרחשותו) של אחד מהם, אינה משפיעה על ההסתברות להתרחשות המאורע האחר. אחרת, נאמר שהמאורעות תלויים.

באופן דומה, שני משתנים מקריים ייקראו בלתי תלויים, אם הידיעה על ערכו של אחד מהם אינה משפיעה על ההסתברויות לקבלת ערכים במשתנה המקרי השני.

== הגדרה ==
שני מאורעות הם בלתי תלויים אם ההסתברות ששניהם יקרו שווה למכפלת ההסתברויות של כל מאורע בנפרד. באופן פורמלי, המאורעות <math>A</math> ו-<math>B</math> בלתי תלויים אם ורק אם <math>\ \mathbb{P}\{A\cap B\} = \mathbb{P}\{A\} \cdot \mathbb{P}\{B\}</math>.

לפיכך, אם <math>{P}\{B\} \neq 0</math> אז <math>\mathbb{P}\{A\} = \mathbb{P}\{A|B\}</math>, כפי שמתקבל מחוק בייס.
דוגמה: <blockquote>שני ומיכל רוכשות כרטיסי לוטו וממלאות ניחושים שונים. המאורע 'מיכל זכתה בפרס הראשון' והמאורע 'שני זכתה בפרס הראשון' תלויים, מכיוון שהניחושים שונים, והידיעה על זכייתה של שני הופכת את ההסתברות לזכייתה של מיכל ל-0, כאשר לפני כן ההסתברות הייתה אמנם קטנה אך גדולה ממש מאפס. לעומת זאת, המאורע 'מיכל לא זכתה בפרס הראשון בכל ההגרלות הקודמות' והמאורע 'מיכל תזכה בפרס הראשון בהגרלה הבאה' הם בלתי תלויים, שכן הידיעה על זכייתה של מיכל בהגרלה כלשהי איננה משנה את ההסתברות לזכייה מחודשת.</blockquote>
הערה: כל שני מאורעות זרים הם תלויים (למעט המקרה המנוון שבו <math>\mathbb{P}\{A\} =0</math> או <math>\mathbb{P}\{B\} =0</math>) שכן ידיעת קיומו של האחד מבטיחה את אי־קיומו של האחר.

=== תלות ואי־תלות של משתנים מקריים ===
ההגדרה לעיל מתייחסת למאורעות, אך הגדרת התלות מוצגת באופן דומה גם עבור משתנים מקריים. שני משתנים מקריים <math>X</math> ו-<math>Y</math> הם בלתי תלויים אם ורק אם פונקציית ההסתברות המצטברת שלהם מקיימת: <math>F_{X,Y}(x,y) = F_X(x)\cdot F_Y(y)</math>. נשים לב כי הגדרה זו כוללת הן משתנים מקריים בדידים והן משתנים מקריים רציפים. במקרה שבו קיימת למשתנים המקריים הנתונים גם פונקציית צפיפות הסתברות, הם בלתי תלויים אם ורק אם <math>f_{X,Y}(x,y) = f_X(x)\cdot f_Y(y)</math>.

משמעות הביטויים לעיל בעלת חשיבות רבה בהסתברות וסטטיסטיקה. כאשר המשתנים תלויים, יש לטפל בפונקציית ההסתברות המשותפת, פונקציה דו-ממדית (או רב-ממדית במקרה הכללי), ואילו כאשר המשתנים בלתי תלויים, ניתן לטפל במקום זאת באוסף פונקציות חד-ממדיות, אותן לרוב קל יותר לשערך.

== משתנים מקריים בלתי מתואמים ==
שני משתנים מקריים <math>X,Y</math> נקראים בלתי מתואמים (או חסרי קורלציה) אם התוחלות שלהם מקיימות <math>\ \mathbb{E}\{XY\} =\mathbb{E}\{X\}\mathbb{E}\{Y\}</math> . במקרים רבים קשה מאוד להוכיח או לבדוק אי־תלות סטטיסטית, שכן נדרשת ידיעה של פונקציית ההסתברות המצטברת במלואה, דבר שאינו בהכרח זמין בהינתן אוסף מדידות מסוים. בנוסף, במקרים רבים המשתנים עשויים להיות תלויים סטטיסטית לפי ההגדרה, אך ייתכן שקיימת במערכת אי־תלות חלשה יותר. במקרים כאלו, ניתן לעיתים לבדוק האם המשתנים בלתי מתואמים ובכך לקבל מושג כלשהו על אופי הקשר בין המשתנים.

דוגמה: <blockquote>במקרים רבים מתעניינים בשונות של סכום שני משתנים מקריים: <math>\ \mbox{Var}(X+Y)=\mbox{Var}(X)+\mbox{Var}(Y)+2\mbox{Cov}(X,Y)</math>, כאשר <math>\mbox{Cov}(X,Y)</math> היא השונות המשותפת של שני המשתנים המקריים. מכיוון שהגדרת השונות המשותפת היא <math>\mbox{Cov}(X,Y)= \mathbb{E}\{XY\} -\mathbb{E}\{X\}\mathbb{E}\{Y\}</math>, הרי שעבור שני משתנים מקריים בלתי מתואמים נקבל כי שונות הסכום היא סכום השונויות. באופן זה קיבלנו מושג על הקשר בין שני המשתנים, אף על פי שלא הוכחנו אי-תלות סטטיסטית.</blockquote>

ניתן להראות כי אוסף משתנים מקריים בלתי תלויים הם גם בלתי מתואמים, באמצעות אחת ההגדרות לעיל בשילוב עם הגדרת התוחלת והשונות המשותפת. ההפך אינו נכון, כלומר, חוסר קורלציה איננו מעיד על אי-תלות סטטיסטית.

=== אי־תלות סטטיסטית וחוסר קורלציה עבור משתנים מקריים גאוסיים ===
שני משתנים מקריים <math>X,Y</math> נקראים משתנים מקריים גאוסיים במשולב (או: במשותף) אם פונקציית הצפיפות המשותפת שלהם גאוסית רב-ממדית. במקרה זה גם כל אחד מהמשתנים יהיה משתנה מקרי גאוסי, וחוסר קורלציה בין המשתנים יעיד על אי-תלות סטטיסטית. כלומר, עבור משתנים אקראיים גאוסיים במשולב, יש שקילות בין אי-תלות סטטיסטית לחוסר קורלציה. ניתן להראות זאת על ידי כתיבת פונקציית הצפיפות באופן ישיר והצבת שונות משותפת מתאימה.

עם זאת, במקרה זה נדרשים המשתנים להיות גאוסיים במשולב, ולא די בכך שנתבונן בשני משתנים אקראיים גאוסיים כלליים, שלהם אין בהכרח צפיפות משותפת גאוסית רב-ממדית.

הערה: ייתכנו מקרים בהם פונקציית הצפיפות אינה קיימת, ובמקרה זה יש להתבונן בפונקציה האפיינית.

דוגמה: <blockquote>יהי <math>X</math> משתנה מקרי נורמלי סטנדרטי (כלומר, בעל תוחלת אפס ושונות יחידה), ויהי <math>B</math> משתנה מקרי בלתי תלוי ב-<math>X</math> המקבל את הערכים <math>\pm 1</math> בהסתברות שווה. ניתן להראות על ידי בחינת פונקציית ההתפלגות המתאימה כי המשתנה המקרי <math>Y=BX</math> גאוסי ובעל פילוג זהה למשתנה המקרי <math>X</math>. כמו כן ניתן לראות כי שני המשתנים הגאוסיים <math>X,Y</math> חסרי קורלציה:

<math>\mathbb{E}\{XY\}=\mathbb{E}\{X\cdot BX\}=\mathbb{E}\{B\}\mathbb{E}\{X^2\}=0=\mathbb{E}\{X\}\mathbb{E}\{Y\}</math>.</blockquote>

כלומר, בידינו שני משתנים גאוסיים וחסרי קורלציה, אך ניתן להראות שהם גם תלויים סטטיסטית, למשל על ידי ההבחנה כי מתקיים <math>Y^2=B^2X^2=X^2\Rightarrow X=\pm Y</math>, כלומר, בידיעת ערכו של <math>Y</math>, המשתנה <math>X</math> מקבל אחד משני הערכים <math>\pm Y</math>, בעוד שללא ההתניה מדובר במשתנה מקרי רציף. הדבר אינו מהווה סתירה, שכן אין הם גאוסיים במשולב.

== תלות משותפת ==
ניתן להכליל את מושגי האי-תלות וחוסר הקורלציה עבור משתנים מרובים על ידי הרחבת ההגדרה: אוסף סופי של משתנים מקריים <math>X_1,X_2,...,X_k</math> יהיה בלתי תלוי אם ורק אם פונקציית ההסתברות המצטברת שלהם מקיימת <math>F_{X_1,X_2,...,X_k}(x_1,x_2,...,x_k) = F_{X_1}(x_1)\cdot F_{X_2}(x_2)\cdot ... \cdot F_{X_k}(x_k)</math>, וידיעת כל אוסף מבין המשתנים איננה משנה את ההסתברות של אוסף אחר מתוך אותה קבוצה, כל עוד שני האוספים זרים.

במקרה של אוסף משתנים מקריים בלתי תלויים, כל תת-אוסף של משתנים יהיה גם הוא בלתי תלוי, אך ההפך אינו נכון: אי-תלות של תתי קבוצות מתוך אוסף משתנים מקריים אינו מעיד, באופן כללי, על אי-תלות של אוסף כל המשתנים המקריים.

דוגמה: <blockquote>יהיו <math>X,Y</math> זוג משתנים מקריים בלתי תלויים ושווי פילוג, המקבלים את הערכים <math>\pm 1</math> בהסתברות שווה. נסמן <math>Z=X\cdot Y</math>. חישוב ישיר יראה כי פילוגו של המשתנה המקרי <math>Z</math> זהה לפילוג של כל אחד משני המשתנים שכן הוא מקבל את הערכים <math>\pm 1</math> בהסתברות שווה, והפילוג נותר בעינו גם כאשר מתנים באחד המשתנים <math>X</math> או <math>Y</math>. כלומר, כל זוג באוסף המשתנים <math>X,Y,Z</math> הוא בלתי תלוי. לעומת זאת, השלשה איננה בלתי תלויה, שכן ידיעת ערכיהם של <math>X</math> ו-<math>Y</math> יחד מכתיבה באופן חד משמעי את ערכו של <math>Z</math>.</blockquote>

==קישורים חיצוניים==

*Papoulis, A., & Pillai, S. U. (2002). [http://ce.sharif.edu/courses/97-98/1/ce181-1/resources/root/Text_Books_References/Papoulis_Pillai_Probability_RandomVariables_and_Stochastic_Processes-4th_Edition_2002.pdf Probability, random variables, and stochastic processes]. Tata McGraw-Hill Education.
*

קטגוריה:ערכים שבהם תבנית בריטניקה אינה מתאימה
קטגוריה:תורת ההסתברות