התפלגות וישארט

בתורת תורת ההסתברות וסטטיסטיקה, **התפלגות וישארט** היא הכללה של התפלגות גמא למספר ממדים.

ההתפלגות נקראת על שמו של המתטיקאי ג'ון וישארט (John Wishart), שהשתמש בה לראשונה ב־1928

זוהיא משפחה של התפלגויות המוגדרת על מטריצות אקראיות, סימטריות וחיוביות למחצה עם שימושים רבים בהסקה בייסיאנית. וסטטיסטיקה במשתנים מרובים.

התפלגות וישארט התגלתה במחקר אנתרופומטרי, אשר מטריצות שונות משותפת בממדים גבוהים, בעלת חשיבות משמעותית.

## רקע
התפלגות וישארט היא התפלגות הסתברות בסיסית בסטטיסטיקה רב-ממדית. זוהי הכללה רב-ממדית של התפלגות כי-בריבוע, והיא מופיעה באופן טבעי כהתפלגות של מטריצות שונות משותפות (covariance matrices) של דגימות מהתפלגות נורמלית רב-ממדית. ההתפלגות הוצגה לראשונה בשנת 1928 על ידי המתמטיקאי הבריטי **ג'ון וישארט** במסגרת מחקריו על מטריצות רב ממידיותת והכללת התפלגות כי.

להתפלגות וישארט תפקיד תאורטי מרכזי ב**תורת המטריצות המקריות, הסקה בייסיאניתת וניתוח סטטיסטי מרובה משתנים.** בנוסף התפלגות וישארט היא בעלת שימושים פרקטיים רבים בתחומי של למידת מכונה וכן במכניקת הקוונטים.

## הגדרה
יהיו X_1....Xn משתנים p\times1 בעלי התפלגות רב-נורמלית בת"ל עם תוחלת 0 ומטריצת שונויות H כאשר p\leq n נגדיר:

W = \sum_{i=1}^n X_i X_i^T

ונאמר כי ל W התפלגות וישארט עם פרטרים p,n, H כאשר n ייקרא דרגות חופש ב- W

פונקציית צפיפות ההתפלגות:

f(W) = \frac{1}{2^{np/2} \Gamma_p\left(\frac{n}{2}\right) |H|^{n/2}}
|W|^{(n - p - 1)/2} \exp\left[-\frac{1}{2} \operatorname{tr}\left(H^{-1} W\right)\right], כאשר |\mathbf{*}| אופרטור הדטרמיננטה וכמו כן \Gamma_p היא פונקציית גמא הרב ממדית כאשר המטריצה W, סימטרית וחיובית למחצה, וכמו כן פונקציית גמא הרב-ממדית מכלילה את פונקציית גמא החד-ממדית ובעלת אינטגרל מנורמל ל-1.

מההגדרה השנייה נובע כי לכל מטריצה חיובית למחצה W דרגת חופש n\geq p ניתן ליצור התפלגות וישארט, וזאת ללא שימוש במשתנים רב נורמליים, וניתן להכליל ולבחור n שאינו שלם, ובתנאי שn\geq p (ובתנאי שאינה קטנה מדרגת המטריצה).

## תומך
התפלגות וישארט נתמכת ומוגדרת על כל המטריצות W בגודל p \times p סימטריות וחיובית למחצה.
ניתן לכתוב W=XX^T כאשר X בגודל p \times n עבור n דרגת החופש. כאשר n\geq p המטריצה W הפיכות כמעט תמיד, וכאשר דרגת החופש n המטריצה W כמעט תמיד סינגולרית (קרי אינה הפיכה) ובמקרה זה נאמר כי המטריצה "**מתפלגת וישארט סינגולרית**".

## תכונות
תוחלת:

\mathbb{E}[W] = nH

\begin{aligned}
\mathbb{E}[W] &= \mathbb{E} \left[ \sum_{i=1}^n X_i X_i^T \right]
 = \sum_{i=1}^n \mathbb{E}[X_i X_i^T] \\
 &= \sum_{i=1}^n \left( \operatorname{Var}[X_i] + \mathbb{E}[X_i] \mathbb{E}[X_i]^T \right) \\
 &= \sum_{i=1}^n \operatorname{Var}[X_i] \quad \quad \text{(Since } \mathbb{E}[X_i] = 0 \text{)} \\
 &= \sum_{i=1}^n \ H = n \cdot H
\end{aligned}

התפלגות שולית:

עבור מטריצה W מסדר p\times p, תת-המטריצה W' מסדר k\leq p המורכבת מבלוק של k השורות והעמודות הראשונות של W, יוצרת מטריצה בעלת התפלגות וישארט, תכונה חשובה זאת עוזרת לנתח התנהות וקירוב בממדים גבוהים.

שונות משותפת:

\mathrm{Cov}(W_{ij}, W_{kl}) = n (H_{ik} H_{jl} + H_{il} H_{jk}):

הוכחה חלקית:

W_{ij} = \sum_{r=1}^{n} x_{ri} x_{rj}  ולכן \mathrm{Cov}(W_{ij}, W_{kl}) = \mathrm{Cov}\left( \sum_{r=1}^{n} x_{ri} x_{rj}, \sum_{s=1}^{n} x_{sk} x_{sl} \right), ואם כך עבור r\neq s,נקבל 0. על ידי שימוש בנוסחת איזרלה (לחישוב מומנטים של התפלגות רב נורמלית) מקבלים את הנוסחה (משתמשים בכך שהמשתנים בעלי תוחלת 0)

מסקנה: שונות:

**<math>\text{Var}(W_{ij}) = n \left( H_{ij}^2 + H_{ii} H_{jj} \right)</math>**

פונקציה אופיינית (כפונקציה של 
\mathbb{R}^{p \times p}
):


\mathbb{E} \left[ \exp\left( i\, \operatorname{tr}(\mathbf{W} V) \right) \right]
= \left| I - 2i\, V \mathbf{H} \right|^{-n/2}
, כאשר המטריצה 
V
 מסדר 
p \times p


אנטרופיה: האנטרופיה של משתנה W : \operatorname{H}[\mathbf{W}] =
-\ln \left(B(\mathbf{H}, n)\right)
- \frac{n - p - 1}{2} \operatorname{E}\left[\ln |\mathbf{W}|\right]
+ \frac{n p}{2}

## ערכים עצמיים
ערכים עצמיים של מטריצה בעלת התפלגות וישארט מהווים חלק מרכזי בהבנת ההתהנגות של מטריצת שונויות נדגמת , במיוחד בממדים גבוהים ובמקרה בו מספר המשתנים עולה על מספר הדגימות (n\geq p), דבר אשר מתרחש בתחומים רבים כמו פיננסים, ניתוח גנטי ולמידת מכונה.

עבור מטריצה X מסדר m\times n עם כניסות בת"ל ושווי התפלגות עם תוחלת 0 ושנות \sigma^2 נגדיר את מטריצת השונויות הנדגמת בתור: Y_n = \frac{1}{n} X X^T, אזי אם m/n \longrightarrow a, קבוע חיובית אזי ההתפלגות הספקטרלית האמפירית מתכנסת כמעט תמיד להתפלגות מרצ'נקו-פסטור, אשר נתמכת על הקטע ברדיוס a סביב 0.

## שימושים
שוק ההון ומסחר:

נניח כי לחברה 500 מניות (p=500), בשנה עם n ימי מסחר. נכניס נתונים אלו למטריצת המסחר X מסדר n\times p, כאשר אנו מניחים אי תלות בין הכניסות והתפלגות נורמלית (כלומר אנו מניחים התפלגות נורמלית רב - ממדית), כאשר כל שורה מייצגת יום מסחר בשנת המסחר וכל עמודה מייצגת את אחד מנכסי החברה (מנייה). היות שההתפלגות עצמה אינה יודעה, התוחלת \mu, השונות \sigma, ומטריצת השונות המשותפת \Sigma אינן ידועות.

נשתמש במטריצת השונויות הנדגמת (קירוב מדיד של מטריצת השונויות האמיתית) Y, אשר תחת ההנחות שלנו (התפלגות רב נורמלית) מתפלגת התפלגות וישארט W_p(n,S), אם כך הערכים העצמיים של המטריצה Y משקפים כמה שונות קיימת ברכיבים העיקריים של החזר הערך מהנכסים.

במקרה זה הערכים העצמיים אינם דטרמינסטיים אלא מתפלגים אקראית (לפי התפלגות מנצנסקו-פסטור) ותלויים בערכים האמיתיים (p, n, \Sigma), מחוק המספרים הגדולים כאשר n>>p, הקירוב טוב דיו לשימוש פרקטי, לעומת זאת במקרה בו n \backsimeq p, המדידות רועשות למדי ויש להשתמש בכלים הסתברותיים של ניתוח רב-ממדי.

חוק MP מתאר את התפלגות הערכים העצמיים כאשר היחס בין כמות המשתנים למספר הדגימות מתכנס לקבוע, בתהליך הפיננסי שתואר, משתמשים בעובדה זאת כדי לסנן מידע מרעשים, באופן ספציפי הערכיים העצמיים הקרובים או שייכים לתומך המתקבל מחוק MP ייחשבו כרעשים ואלו שמחוצה לו ייחשבו בעלי חשיבות והשפעה סטטיסטית.

הסקה בייסיאנית:

התפלגות וישארט והתפלגות וישארט הפוכה, חשובים בהסקה בייסיאנית עקב קשריהן להתפלגות הרב נורמלית (אותה אנו מניחים שיש לדגימות), שכן לאחר הוספת המידע (הסקה בייסאנית), ההתפלגות נשארת וישארט/וישארט הפוכה בהתאמה ועל כן מקלה על חישובים חדשים, וכן ניתן להשתמש בידע ותכונות ידועות מוקדמות של התפלגויות אלו.

פורמלית: עבור מטריצה W_p(n, H), עם התפלגות וישארט/וישארט הפוכה ומידע מ-k דגימות D ומטריצת שוניות נדגמת S, אזי \mathbf{W} \mid \mathcal{D} \thicksim W_p(H + kS, n+k)
## קשרים להתפלגויות נוספות
התפלגות וישארט מהווה הכללה של מספר משתנים מקריים למספר ממדים גבוה, ובעלת קשר הדוק למשתנים מקריים חשובים נוספים כמו:

1.התפלגות כי בריבוע (כאשר p=1), כמו כן העקבה של מטריצה המתפלגת וישארט היא סכום של משתנים מקריים בעלי התפלגות כי בריבוע.

2. התפלגות נורמלית מטריציונית  (בעזרת כפלה וסכום ניתן לייצר את תפלגות וישארט)

3. תפלגות וישארט ההפוכה (ההתפלגות ההופכית כמעט תמיד כאשר אנו לוקחים את המטריצה ההופכית)

התפלגות וישארט הפוכה: מטריצה R מסדר p\times p, עם דרגת חופש n ומטריצה K, אם R^\mathbf{-1} \sim \mathcal{W}_p(n, K^\mathbf{-1}) תיקרא בעלת התפלגות וישארט הפוכה

4.התפלגות מרצ'נקו-פסטור (כמתארת תכונות ספקטרליות ואת הערכים העצמיים אם קיימים בממדים גדולים)

## משפטים מרכזיים
תהי A מסדר r \times p אזי AWA^t בעלת התלפגות וישארט עם פרמטרים r,n,AHA^t

מסקנה: ניתן לייצר כל מטריצה עם התפלגות ויישהארט בעזרת הפרמטרים p,n,I ומטריצות מסדר p \times p (שכן לכל מטריצה חיובית קיים שורש חיובי)

טענה: יהיו W_i  עם פרמטרים n_i, H. p בת"ל, אזי \sum_{i=1}^{k} W_i = W  עם פרמטרים \sum_{i=1}^{k} n_i =n ,H, p (מיידי מההגדרה של התפלגות ויישראט כסכום של משתנים רב-נורמליים ובלתי תלויים)

טענה: יהיו V_i \quad \text{for } 1 \leq i \leq d בת"ל כאשר V_i בעלי התפלגות כי בריבוע עם n-i+1 דרגות חופש, נניח בנוסף כי N_{ij} בת"ל ובעלי התפלגות נורמלית סטנדרטית ובלתי תלויים במשתני הכי בריבוע.: b_{ii} = V_i + \sum_{r=1}^{i-1} N_{ri}^2,\quad 1 \leq i \leq d

 וכמו כן: b_{ij} = N_{ij} \sqrt{V_i} + \sum_{r=1}^{i-1} N_{ri} N_{rj},\quad i 

אזי: המשתנה B = \{ b_{ij} \} מתפלג וישארט W(I_d, d, n)

מסקנה: הדטרמיינטה של מטריצת בעלת תפלגות וישארט: |W| \approx |H| \prod_{i=0}^{d-1} V_i

הוכחה:

B = TT' עבור T_{ij} = N_{ji},\quad 1 \leq j , T_{ii} = \sqrt{V_i},\quad T_{ij} = 0,\quad i 

ABA' בעלת התפלגות וישארט עם AA'=H, ומהטענה האחרונה מקבלים כי B מתפלג וישארט W(I_d, d, n) בנוסף ממהטענה על הצמדות של מטריצות וישארט, ABA' מתפלגת וישארט עם מטריצה H בפרמטר, ומחוקי דטרמיננטה:

|W|=|ABA'|=|B||AA'|=|B||H|

מההגדרה: |B|= \prod_{i=0}^{d-1} V_i.

## ראו גם
* התפלגות מרצ'נקו-פסטור
* התפלגות רב-נורמלית
* התפלגות חצי המעגל של ויגנר
* התפלגות כי בריבוע

## קישורים חיצוניים
* 

## הערות שוליים

וישארט