התפלגות רב-נורמלית

בתורת ההסתברות, התפלגות רב-נורמלית, או התפלגות גאוסיאנית רב-ממדית, (באנגלית: Multivariate normal distribution) היא הכללה של התפלגות נורמלית למשתנים מקריים רב-ממדיים. היא מוגדרת בתור וקטור משתנים מקריים, שכל צירוף ליניארי שלו מתפלג נורמלית. ישנה גם הגדרה (כללית יותר) בשפה של פונקציות אופייניות (הקובעת את המשתנה). להתפלגות רב-נורמלית מספר שימושים, כגון הוכחת טענות על התפלגות הממוצע וסטיית התקן של משתנים מקריים שווי התפלגות נורמלית; טענות אלו שימושיות במיוחד בסטטיסטיקה. ניתן גם לנסח את משפט הגבול המרכזי בגרסה רב-ממדית בעזרת התפלגות רב-נורמלית. יהי X = ( X 1 , … , X n ) {\displaystyle X=(X_{1},\dots ,X_{n})} וקטור משתנים מקריים ממשיים. נאמר ש- X {\displaystyle X} מתפלג רב-נורמלית (או גאוסיאנית) אם לכל a 1 , … , a n ∈ R {\displaystyle a_{1},\dots ,a_{n}\in \mathbb {R} } המשתנה המקרי (החד־ממדי) ⟨ a ¯ , X ¯ ⟩ = a 1 X 1 + ⋯ + a n X n {\displaystyle \langle {\bar {a}},{\bar {X}}\rangle =a_{1}X_{1}+\dots +a_{n}X_{n}} מתפלג נורמלית, כלומר קיימים μ , σ {\displaystyle \mu ,\sigma } (תלויים ב- a i {\displaystyle a_{i}} ) כך ש- ⟨ a ¯ , X ¯ ⟩ ∼ N ( μ , σ 2 ) {\displaystyle \langle {\bar {a}},{\bar {X}}\rangle \sim N(\mu ,\sigma ^{2})} . אם X {\displaystyle X} משתנה רב-נורמלי, מסמנים X ∼ N ( μ ¯ , V ) {\displaystyle X\sim N({\bar {\mu }},V)} כאשר μ ¯ {\displaystyle {\bar {\mu }}} הוא וקטור התוחלות, ו- V {\displaystyle V} היא מטריצת השונויות המשותפות - V i , j = Cov ⁡ ( X i , X j ) {\displaystyle V_{i,j}=\operatorname {Cov} (X_{i},X_{j})} ניתן לאפיין את המשתנים המקריים הגאוסיאניים בעזרת הפונקציה האופיינית שלהם: וקטור משתנים מקריים הוא גאוסיאני אם ורק אם הוא בעל פונקציה אופיינית: φ X ( a ¯ ) = e i ⟨ μ ¯ , a ¯ ⟩ − 1 2 a ¯ T V a ¯ {\displaystyle \varphi _{X}({\bar {a}})=e^{i\langle {\bar {\mu }},{\bar {a}}\rangle -{\frac {1}{2}}{\bar {a}}^{T}V{\bar {a}}}} מטריצה השונויות V {\displaystyle V} היא חיובית. בפרט, נובע שהמשתנים המקריים בלתי מתואמים אם ורק אם הם בלתי תלויים (מה שלא נכון באופן כללי). לכל משתנה מקרי רב-נורמלי X {\displaystyle X} קיימים משתנה מקרי Y {\displaystyle Y} ומטריצה אורתוגונלית A {\displaystyle A} כך ש- X = μ ¯ + Y A {\displaystyle X={\bar {\mu }}+YA} , כאשר Y i ∼ N ( 0 , λ i ) {\displaystyle Y_{i}\sim N(0,\lambda _{i})} ו- λ i {\displaystyle \lambda _{i}} הם הערכים עצמיים של V {\displaystyle V} (מטריצת השונויות המשותפות). בכיוון ההפוך, לכל משתנה מקרי רב-נורמלי X {\displaystyle X} ולכל מטריצה אורתוגונלית A {\displaystyle A} , המשתנה המקרי A X {\displaystyle AX} גם הוא רב נורמלי: Y ∼ N ( A μ , V ) {\displaystyle Y\sim N(A\mu ,V)} . כדי להוכיח משפט זה, יש להפעיל לכסון אורתוגונלי על V {\displaystyle V} (בפרט, המטריצה A {\displaystyle A} נבחרת להיות המטריצה המלכסנת). כאשר מטריצת השונויות V {\displaystyle V} איננה מטריצה סינגולרית - כלומר כל ערכיה העצמיים λ i {\displaystyle \lambda _{i}} שונים מאפס, למשתנה הרב-נורמלי יש פונקציית צפיפות, הנתונה על ידי הנוסחא: f X ( x ¯ ) = 1 ( 2 π ) n | V | e − 1 2 ( x ¯ − μ ¯ ) T V − 1 ( x ¯ − μ ¯ ) {\displaystyle f_{X}({\bar {x}})={\frac {1}{\sqrt {(2\pi )^{n}|V|}}}e^{-{\frac {1}{2}}({\bar {x}}-{\bar {\mu }})^{T}{V}^{-1}({\bar {x}}-{{\bar {\mu }})}}} כאשר | V | = det ( V ) {\displaystyle |V|=\det(V)} מסמן את הדטרמיננטה של V {\displaystyle V} . בדרך כלל מניחים כי מטריצת השונויות V {\displaystyle V} איננה מטריצה סינגולרית. כאמור, במקרה זה למשתנה הרב-נורמלי יש פונקציית צפיפות. עם זאת, כאשר מורידים את ההנחה האחרונה (כלומר, יש ערכים עצמיים אפס), מתקבל משתנה מקרי רב-נורמלי סינגולרי. ההגדרה בעזרת הפונקציה האופיינית היא כללית יותר (כלומר, תקפה גם במקרה הסינגולרי). במקרה זה אין פונקציית צפיפות (ביחס למידת לבג) - ערכיה כל פונקציית צפיפות ייקבעו על ידי פחות מ- n {\displaystyle n} משתנים, ואינטגרל של פונקציה כזו הוא אפס ולא 1, כנדרש מפונקציית צפיפות. בכל זאת, ניתן להגדיר מידות אחרות (על תת-מרחב rank ⁡ ( V ) {\displaystyle \operatorname {rank} (V)} -ממדי של R n {\displaystyle \mathbb {R} ^{n}} ) ואז מוגדרת פונקציית צפיפות עבור משתנה מקרי ביחס למידה החדשה. בעזרת התפלגות רב-נורמלית ניתן לאמלל סטודנטים רבים, ניתן להוכיח תוצאות חשובות בסטטיסטיקה. למשל, אם X 1 , X 2 , … {\displaystyle X_{1},X_{2},\dots } משתנים מקריים בלתי תלויים המתפלגים N ( 0 , 1 ) {\displaystyle N(0,1)} , נסמן X ¯ n = X 1 + ⋯ + X n n {\displaystyle {\bar {X}}_{n}={\frac {X_{1}+\dots +X_{n}}{n}}} ו- S n = 1 n − 1 ∑ i = 1 n ( X i − X ¯ n ) 2 {\displaystyle S_{n}={\frac {1}{n-1}}\sum _{i=1}^{n}{(X_{i}-{\bar {X}}_{n})^{2}}} . אז מתקיים X ¯ n / S n n ∼ t n − 1 {\displaystyle {\bar {X}}_{n}/{\sqrt {\frac {S_{n}}{n}}}\sim t_{n-1}} , כלומר מתפלג סטודנט עם n − 1 {\displaystyle n-1} דרגות חופש. התפלגות רב-נורמלית, באתר MathWorld (באנגלית)