אי-שוויון הנסון-רייט

אי-שוויון הנסון–רייט (באנגלית: Hanson–Wright inequality) הוא אי שוויון הסתברותי בתחום ריכוז המידה.
אי השוויון נותן חסם לסיכוי שתצפית ריבועית מהצורה
 תחרוג מהתוחלת שלה עבור וקטור אקראי 
אשר מורכב ממשתנים תת גאוסיים בלתי תלויים  בעלי תוחלת אפס.
גרסה ראשונה של המשפט הוכחה על ידי הנסון ורייט בשנת 1971.

המשפט נחשב לאבן דרך בהבנה של התנהגות של ביטויים מהצורה , כאשר  הוא וקטור מקרי ו־ היא מטריצה קבועה.

 ניסוח המשפט 
עבור  מספר חיובי ו- משתנים בלתי תלויים שמקיימים .
נגדיר את הווקטור האקראי . עבור כל מטריצה A מגודל  נקבל:

כש הוא המקסימום של הנורמה התת-גאוסית של המשתנים המקריים ו-  היא נורמת פורביניוס ו היא הנורמה של אופרטור של המטריצה, עבור קבוע c.M. Rudelson, R. Vershynin, Hanson-Wright inequality and sub-gaussian concentration,
Electronic Communications in Probability 18 (2013), 1–9.

 עיקרי ההוכחה 
ההוכחה לגרסה המלאה של המשפט שהוצגה על ידי מארק רודלסון ורומן ורשינין

תחילה נניח כי K=1.
מספיק להראות עבור החלק החיובי בערך המוחלט ובאופן דומה לכיוון השני:

בעזרת חישוב ההגדרות נוכל להגיע לשוויון הבא:

וכך נוכל לחסום את ההסתברות p כך:

מכאן נוכל לחסום כל מחובר בנפרד ולהגיע לחסם
מחובר ראשון:
המשתנים  הם בלתי תלויים, בעלי תוחלת אפס ותת-אקספוננציאליים. בנוסף, מתקיים:

מכאן אפשר להשתמש באי שוויון ברנשטיין ולקבל את החסם:

בחלק השני נוכל להשתמש באי-שוויון מרקוב עבור 

מכאן נשתמש ב3 למות נוספות:

למה 1-(טכניקת הפרדה (decoupling))

עבור כל מטריצה ריבועית , מתקיים:

כאשר  ו- הם וקטורים של משתנים מקריים בלתי תלויים, ו־ הוא עותק בלתי תלוי של .

למה 2- 
נניח כי  הם וקטורים מקריים בלתי תלויים בעלי תוחלת אפס ב , כך שלכל אחד מהם יש תכונת תת-גאוסיות עם חסם :

נניח גם כי  הם וקטורים מקריים בלתי תלויים שמתפלגים נורמלית:

לכל מטריצה  ולכל  מתקיים:

למה 3 - פונקציה יוצרת מומנטים של כאוס גאוסי

יהיו  וקטורים מקריים בלתי תלויים המתפלגים נורמלית: . יהי  מטריצה ממשית בגודל .

אז, עבור כל  המקיים , מתקיים:

בעזרת שימוש בלמות לפי הסדר המוצג כאן נוכל ליצור את החסם הבא:

נבחר את  שתקיים את התנאי ללמה 3. 
ונוכל לקבל 

היסטוריה
האי-שוויון נקרא על שם ד.הנסון (D. L. Hanson) ופארול רייט (Farroll T. Wright), שפרסמו בשנת 1971 את המאמר:
E. T. Wright, A bound on tail probabilities for quadratic forms in independent random
variables whose distributions are not necessarily symmetric, Ann. Probability 1 (1973),
1068–1070
D. L. Hanson, E. T. Wright, A bound on tail probabilities for quadratic forms in independent
random variables, Ann. Math. Statist. 42 (1971), 1079–1083.

A bound on tail probabilities for quadratic forms in independent random variables
Annals of Mathematical Statistics, Vol. 42, No. 3 (1971), pp. 1079–1083.

במאמר זה, הם פיתחו לראשונה חסם אקספוננציאלי לזנב של צירוף ריבועי של משתנים בלתי תלויים עם תכונות ריכוז (כמו תוחלת אפס ושונוּת סופית).

במהלך העשורים הבאים, פותחו גרסאות מודרניות של אי-השוויון. אחת הגרסאות החשובות הוצגה בעבודות של מרק רודלסון (Mark Rudelson) ורומן ורשינין (Roman Vershynin), אשר פרסמו בשנת 2013 גרסה מעודכנת עבור משתנים תת-גאוסיים וגרסאות נוספות למשל עבור וקטורים אקראיים רב ממדים.

אי-שוויון הנסון–רייט הפך מאז לכלי בסיסי בניתוח סטטיסטי של התנהגות משתנים מקריים, ובמיוחד של פונקציות ריבועיות של משתנים תת-גאוסיים.

 גרסאות נוספות והרחבות 
אי שוויון הנסן-רייט בממדים גבוהים
אי-שוויון הנסון–רייט ניתן להרחבה גם למקרה של וקטורים אקראיים תת-גאוסיים במרחב ממימד גבוה.  
יהי  סדרה של וקטורים מקריים בלתי תלויים ב־, עם תוחלת אפס, כך שמתקיים:

נסמן  מטריצה ממשית בגודל . אזי, לכל  מתקיים:

כאשר  היא נורמת פרוביניוס ו  היא הנורמה של האופרטור

מקרה פרטי של אי-שוויון הנסון–רייט עבור נורמה ריבועית

יהי  מטריצה קבועה, ויהי  וקטור מקרי שמרכיביו הם משתנים מקריים בלתי תלויים, כך שלכל  מתקיים:   
, , 

אזי לכל  מתקיים:

כאשר:
  היא נורמת 
  היא נורמת הילברט–שמידט

משפט זה הוא מקרה פרטי של אי-שוויון הנסון–רייט, והוא שימושי במיוחד כאשר מעוניינים להעריך את החריגה של נורמה ריבועית של תמונת וקטור אקראי דרך טרנספורמציה ליניארית.

 דוגמאות לשימושים 
ריכוז מידה עבור וקטורים מקריים אנאיזוטרופיים

 היא מטריצה בגודל , ויהי  וקטור אקראי שערכיו בלתי תלויים, בעלי תוחלת אפס, שונות אחידה, ותת-גאוסיות עם קבוע , כלומר  לכל .
מתקיים:

מקרה פרטי חשוב של משפט זה מתקבל עבור מטריצת היחידה  במקרה זה, מתקבל:

.

חישוב נורמה של מטריצות אקראיות

 היא מטריצה קבועה בגודל , ו־ היא מטריצה מקרית בגודל  שאיבריה בלתי תלויים ומקיימים:

אזי, עבור כל , מתקיים:

כאשר .

חישוב מרחב בין וקטורים אקראיים לתת מרחב
יהי  תת-מרחב של  ממימד . נניח כי  הוא וקטור אקראי, שבו  הם משתנים מקריים בלתי תלויים, המקיימים את התנאים הבאים:

,   
ו- 

אז לכל , מתקיים:

כאשר  הוא המרחק האוקלידי של  מהמרחב 
ו  הוא קבוע.

אי-שוויון זה מראה כי המרחק של וקטור אקראי ממרחב ליניארי מרוכז סביב השורש של מימד תת-המרחב המשלים, ונותן גבול הסתברותי לסטייה ממנו.

רעיון: בעזרת מקרה פרטי של אי-שוויון הנסון–רייט עבור נורמה ריבועית 
עבור  ההטלה האורתוגונלית על 
ולקבל 
,  
, 

 ניתוח טרנספורמציות ליניאריות של רעש 
במקרים רבים אנו עוסקים במקרים שמשתנה תת גאוסי (או גאוסי) עבור העתקה ליניארית. כמו במקרה של רעש
. A tail inequality for quadratic forms of subgaussian random vectors Daniel Hsu, Sham M. Kakade, and Tong Zhang

כאשר  הוא וקטור אקראי תת-גאוסי ומייצג את הרעש ו־ מטריצה ליניארית קבועה ו הוא האות הנצפה.

במקרים בהם  ו- מתאימים לתנאי האי-שוויון, אפשר בעזרתו לחסום את ההסתברות שגודל הווקטור המתקבל מטרנספורמציה ליניארית של רעש  יסטה באופן משמעותי מהתוחלת שלו.  ניתן להראות כי:

שיטה זו נותנת יציבות חישובית בסביבות רעש, לאמוד שגיאות מדידה ולהעריך את התנהגותם של מערכות מורכבות בממדים גבוה.

ראו גם
 אי-שוויונות ברנשטיין
 אי-שוויונות ריכוז 
 התפלגות תת-גאוסית

הערות שוליים

הנסון-רייט