שונות משותפת

בתורת ההסתברות ובסטטיסטיקה, השונות המשותפת (באנגלית: Covariance) היא מדד לקשר בין שני משתנים מקריים. השונות המשותפת חיובית כאשר המשתנים נוטים לסטות מהממוצע באותו כיוון (שניהם מעליו או ששניהם מתחתיו כאשר מתרחש מאורע כלשהו), ושלילית כאשר שני המשתנים סוטים בכיוונים מנוגדים זה לזה כשמאורע כלשהו קורה. אם מנרמלים את השונות המשותפת באמצעות חלוקתה במכפלת סטיות התקן של המשתנים המעורבים, מתקבל מדד הנקרא "מקדם המתאם", שערכו בין 1 ל-1-. אם המקדם קרוב לערכים הקיצוניים, זהו אות לכך שהמשתנים קשורים זה בזה (קשר שעשוי להיות סיבתי, אך אינו בהכרח כזה). אפשר לראות במושג זה הכללה של השונות, משום שהשונות המשותפת של משתנה מקרי עם עצמו, שווה לשונות שלו. השונות המשותפת של משתנים בלתי תלויים שווה לאפס, אך אם השונות המשותפת שווה לאפס, המשתנים אינם בהכרח בלתי תלויים, אלא רק בלתי מתואמים. נסמן את התוחלות של המשתנים המקריים X {\displaystyle X} ו- Y {\displaystyle Y} על ידי E [ X ] {\displaystyle E[X]} ו- E [ Y ] {\displaystyle E[Y]} . השונות המשותפת של השניים מוגדרת להיות: cov ⁡ ( X , Y ) = E ⁡ [ ( X − E ⁡ [ X ] ) ( Y − E ⁡ [ Y ] ) ] = E ⁡ [ X Y − X E ⁡ [ Y ] − E ⁡ [ X ] Y + E ⁡ [ X ] E ⁡ [ Y ] ] = E ⁡ [ X Y ] − E ⁡ [ X ] E ⁡ [ Y ] − E ⁡ [ X ] E ⁡ [ Y ] + E ⁡ [ X ] E ⁡ [ Y ] = E ⁡ [ X Y ] − E ⁡ [ X ] E ⁡ [ Y ] {\displaystyle {\begin{aligned}\operatorname {cov} (X,Y)&=\operatorname {E} \left[\left(X-\operatorname {E} \left[X\right]\right)\left(Y-\operatorname {E} \left[Y\right]\right)\right]\\&=\operatorname {E} \left[XY-X\operatorname {E} \left[Y\right]-\operatorname {E} \left[X\right]Y+\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right]\right]\\&=\operatorname {E} \left[XY\right]-\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right]-\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right]+\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right]\\&=\operatorname {E} \left[XY\right]-\operatorname {E} \left[X\right]\operatorname {E} \left[Y\right]\end{aligned}}} או בקצרה: cov ⁡ ( X , Y ) = E ⁡ [ X Y ] − E ⁡ [ X ] E [ Y ] {\displaystyle \operatorname {cov} (X,Y)=\operatorname {E} \left[XY\right]-\operatorname {E} \left[X\right]E[Y]} מאי-שוויון קושי-שוורץ נובע שתמיד | cov ⁡ ( X , Y ) | 2 ≤ V ( X ) V ( Y ) {\displaystyle |\operatorname {cov} (X,Y)|^{2}\leq V(X)V(Y)} , כאשר V ( X ) {\displaystyle V(X)} היא השונות של המשתנה המקרי X {\displaystyle X} (וכן ל- Y {\displaystyle Y} ). בפרט, השונות המשותפת קיימת (וסופית) כל אימת שלמשתנים X {\displaystyle X} ו- Y {\displaystyle Y} יש שונות סופית. מאותה סיבה, הערך המוחלט של מקדם המתאם   ρ ( X , Y ) = cov ⁡ ( X , Y ) V ( X ) V ( Y ) {\displaystyle \ \rho (X,Y)={\frac {\operatorname {cov} (X,Y)}{\sqrt {V(X)V(Y)}}}} אינו עולה על 1. השונות המשותפת היא תבנית ביליניארית, כלומר, cov ⁡ ( a X + b Y , Z ) = a ⋅ cov ⁡ ( X , Z ) + b ⋅ cov ⁡ ( Y , Z ) {\displaystyle \operatorname {cov} (aX+bY,Z)=a\cdot \operatorname {cov} (X,Z)+b\cdot \operatorname {cov} (Y,Z)} , וכן ברכיב הימני. זוהי תבנית סימטרית, שהיא חיובית לחלוטין על מרחב המשתנים המקריים (כאשר מזהים משתנים שההפרש ביניהם קבוע בהסתברות 1), מכיוון שלמשתנה שאינו קבוע בהסתברות 1, יש שונות חיובית. מכאן שהשונות המשותפת מגדירה מכפלה פנימית על מרחב המשתנים המקריים עד-כדי הזיהוי הנזכר לעיל. כיוון – השונות המשותפת יכולה להיות חיובית או שלילית, בהתאם לקשר בין שני המשתנים וכך להצביע אם קיים קשר חיובי או שלילי ביניהם. גודל – שיתוף פעולה הוא מדד לחוזק הקשר בין שני משתנים. גודל גדול יותר מצביע על קשר חזק יותר, בעוד שגודל קטן מצביע על קשר חלש יותר. יחידות – השונות מתבטאת בדרך כלל במונחים של היחידות של שני המשתנים הנמדדים. לדוגמה, אם משתנה אחד נמדד בדולרים והשני נמדד בפאונד, השונות תבוא לידי ביטוי בדולרים לפאונד. נורמליזציה – ניתן לנרמל את השונות על ידי חלוקתה בסטיית התקן של שני המשתנים, וכתוצאה מכך לקבל את מקדם המתאם. זה מאפשר השוואה קלה יותר של עוצמת הקשר בין זוגות משתנים שונים. אי תלות – אם שני משתנים בלתי תלויים, השונות המשותפת שלהם תהיה אפס, מה שמצביע על כך שאין קשר ביניהם. למשתנים ששונותם המשותפת אפס, קוראים משתנים בלתי מתואמים. כל שני משתנים בלתי תלויים הם בלתי מתואמים, אבל ההפך אינו נכון. התפלגות דו-משתנית – השונות המשותפת היא מדד לקשר בין שני משתנים, וככזו היא תכונה של התפלגות דו-משתנית. זה לא מוגדר עבור התפלגויות חד-משתניות. מגבלות – השונות המשותפת רגישה לקנה המידה של המשתנים הנמדדים, ואינה מביאה בחשבון קשרים שאינם קשרים ליניאריים. הוא גם אינו מספק מידע על כיוון הקשר (האם משתנה אחד גורם לשינוי השני, או להפך). אם X הוא וקטור של משתנים מקריים, מסמנים ב- cov ⁡ ( X ) {\displaystyle \operatorname {cov} (X)} את מטריצת השונויות המשותפות, שהרכיב ה- ( i , j ) {\displaystyle (i,j)} שלה הוא השונות המשותפת cov ⁡ ( X i , X j ) {\displaystyle \operatorname {cov} (X_{i},X_{j})} . העתקה ליניארית של המשתנים מביאה לחפיפה של מטריצת השונויות: אם A {\displaystyle A} מטריצה קבועה, אז cov ⁡ ( A X ) = A cov ⁡ ( X ) A T {\displaystyle \operatorname {cov} (AX)=A\operatorname {cov} (X)A^{T}} . מדדי פיזור שונות משתנה מקרי שונות משותפת, באתר MathWorld (באנגלית)