משפט הגבול המרכזי

משפט הגבול המרכזי (באנגלית: Central Limit Theorem או בקיצור CLT) הוא משפט יסודי בתורת ההסתברות, העוסק בהתפלגות הגבולית של הממוצע המצטבר של סדרת משתנים מקריים. המשפט קובע שתחת תנאים מסוימים, התפלגות הממוצע של סדרת משתנים מקריים בלתי תלויים מתקרבת להתפלגות נורמלית לאחר תִקנוּן מסוים, גם כאשר המשתנים עצמם אינם מתפלגים נורמלית. הוא הוכח לראשונה על ידי המתמטיקאי הצרפתי אברהם דה מואבר בשנת 1733. עם זאת, המשפט שוכלל מאוחר יותר על ידי מתמטיקאים אחרים, ביניהם קרל פרידריך גאוס ופייר-סימון לפלס, אשר תרמו תרומה משמעותית לפיתוח המשפט. בעזרת המשפט, ניתן להסביר את השכיחות הגבוהה של ההתפלגות הנורמלית בתחומים רבים: מאחר שרבים מהערכים הנמדדים בטבע מורכבים למעשה מסכום מספר רב של אירועים אקראיים, וממשפט הגבול המרכזי נובע שהם יתפלגו נורמלית (לפחות בקירוב). כמו כן, המשפט מאפשר שימוש בטכניקות שפותחו תחת הנחת נורמליות על התפלגות של משתנה מקרי, גם כאשר הוא אינו מתפלג נורמלית. את המשפט הכללי הוכיח אלכסנדר ליאפונוב. תוצאת המשפט יכולה להיות מוסברת דרך העובדה שההתפלגות הנורמלית היא בעלת אנטרופיה מקסימלית מבין כל ההתפלגויות בעלות שונות נתונה. אם כך, כשבמערכת מצטברת אנטרופיה והממוצע מנורמל כך שהשונות נותרת קבועה, סביר לצפות שההתפלגות תשאף דווקא להתפלגות הנורמלית. תהי X 1 , X 2 , … {\displaystyle X_{1},X_{2},\dots } סדרה של משתנים מקריים בלתי תלויים בעלי אותה התפלגות, שיש לה תוחלת μ {\displaystyle \mu } ושונות σ 2 {\displaystyle \sigma ^{2}} . נסמן ב- X ¯ n = ( X 1 + ⋯ + X n ) / n {\displaystyle {\bar {X}}_{n}=(X_{1}+\dots +X_{n})/n} את הממוצע. לפי החוק החזק של המספרים הגדולים, הגבול של הסדרה X ¯ n − μ σ {\displaystyle {\frac {{\bar {X}}_{n}-\mu }{\sigma }}} הוא אפס (בהסתברות 1). משפט הגבול המרכזי מספק מידע מפורט בהרבה: סדרת המשתנים המקריים X ¯ n − μ σ / n {\displaystyle {\frac {{\bar {X}}_{n}-\mu }{\sigma /{\sqrt {n}}}}} מתכנסת בהתפלגות אל ההתפלגות הנורמלית הסטנדרטית: lim n → ∞ P ( X ¯ n − μ σ / n < z ) = Φ ( z ) {\displaystyle \lim _{n\to \infty }P\left({\frac {{\bar {X}}_{n}-\mu }{\sigma /{\sqrt {n}}}}<z\right)=\Phi (z)} , כאשר Φ ( z ) = ∫ − ∞ z 1 2 π e − t 2 2 d t {\displaystyle \Phi (z)=\int _{-\infty }^{z}{\frac {1}{\sqrt {2\pi }}}e^{-{\frac {t^{2}}{2}}}dt} . תהי X 1 , X 2 , … {\displaystyle X_{1},X_{2},\dots } סדרה של משתנים מקריים בלתי תלויים, המקיימת:   ∀ k :   E ( X k ) = 0 {\displaystyle \ \forall k:\ E(X_{k})=0} (אין כאן פגיעה בכלליות, כי מכל משתנה מקרי ניתן להחסיר את התוחלת שלו).   ∀ k :   E ( X k 2 ) = σ k 2 < ∞ {\displaystyle \ \forall k:\ E(X_{k}^{2})=\sigma _{k}^{2}<\infty } (שונות סופית).   ∀ k :   E ( | X k | 3 ) < ∞ {\displaystyle \ \forall k:\ E(|X_{k}|^{3})<\infty } נסמן   S n = ∑ k = 1 n σ k 2 {\displaystyle \ S_{n}={\sqrt {\sum _{k=1}^{n}{\sigma _{k}^{2}}}}} . אם     lim 1 S n 3 ∑ k = 1 n E ( | X k | 3 ) = 0     {\displaystyle \ \ {\mbox{lim}}{{\frac {1}{S_{n}^{3}}}\sum _{k=1}^{n}{E(|X_{k}|^{3})}}=0\ \ } , אז סדרת המשתנים המקריים X 1 + ⋯ + X n S n {\displaystyle {\frac {X_{1}+\cdots +X_{n}}{S_{n}}}} מתכנסת בהתפלגות אל ההתפלגות הנורמלית הסטנדרטית. תהי X 1 , X 2 , … {\displaystyle X_{1},X_{2},\dots } סדרה של וקטורים מקריים ב- R k {\textstyle \mathbb {R} ^{k}} , בלתי תלויים ושווי התפלגות, עם תוחלת E ⁡ [ X i ] = μ {\displaystyle \operatorname {E} [X_{i}]=\mu } ושונות Var ⁡ ( X i ) = Σ {\displaystyle \operatorname {Var} (X_{i})=\Sigma } . נסמן ב- X ¯ n = ( X 1 + ⋯ + X n ) / n {\displaystyle {\bar {X}}_{n}=(X_{1}+\dots +X_{n})/n} את הממוצע. סדרת הווקטורים המקריים n ( X ¯ n − μ ) {\displaystyle {\sqrt {n}}\left({\overline {\mathbf {X} }}_{n}-{\boldsymbol {\mu }}\right)} מתכנסת בהתפלגות להתפלגות רב נורמלית: n ( X ¯ n − μ ) → d   N ( 0 , Σ ) {\displaystyle {\sqrt {n}}\left({\overline {\mathbf {X} }}_{n}-{\boldsymbol {\mu }}\right){\overset {d}{\rightarrow }}\ {\mathcal {N}}(0,{\boldsymbol {\Sigma }})} . נראה כיצד ממשפט הגבול המרכזי נובע כי אם X ∼ B i n ( n , p ) {\displaystyle X\sim Bin(n,p)} – במילים: המשתנה X {\displaystyle X} מתפלג בינומית – אז כאשר n {\displaystyle n} גדול מתקיים X ∼ ˙ N ( n p , n p q ) {\displaystyle X{\dot {\sim }}N(np,npq)} , כלומר X {\displaystyle X} מתפלג בקירוב כמו משתנה נורמלי עם תוחלת n p {\displaystyle np} ושונות n p q {\displaystyle npq} , כאשר p + q = 1 {\displaystyle p+q=1} ו- 0 < p , q < 1 {\displaystyle 0<p,q<1} . ניתן לראות משתנה בינומי X {\displaystyle X} כסכום סדרת משתנים מקריים Y {\displaystyle Y} שכל אחד מהם מקבל 1 בהסתברות p {\displaystyle p} ואחרת מקבל 0 (ניסויי ברנולי). התוחלת של משתנה כזה היא μ = p {\displaystyle \mu =p} והשונות שלו היא p q {\displaystyle pq} . לכן, כאשר n {\displaystyle n} גדול, נובע ממשפט הגבול המרכזי: F X ( x ) = P ( X ≤ x ) = P ( X − n μ n σ 2 ≤ x − n μ n σ 2 ) ≈ Φ ( x − n p n p q ) = F Z ( x − n p n p q ) {\displaystyle F_{X}(x)=P\left(X\leq x\right)=P\left({\frac {X-n\mu }{\sqrt {n\sigma ^{2}}}}\leq {\frac {x-n\mu }{\sqrt {n\sigma ^{2}}}}\right)\approx \Phi \left({\frac {x-np}{\sqrt {npq}}}\right)=F_{Z}\left({\frac {x-np}{\sqrt {npq}}}\right)} כאשר Z ∼ N ( 0 , 1 ) {\displaystyle Z\sim N(0,1)} . בספרות יש מספר דוגמאות מעניינות ושימושיות ויישומים הקשורים למשפט הגבול המרכזי. מקור אחד מציין את הדוגמאות הבאות: התפלגות המרחק הכולל שעוברים בהילוך מקרי (מוטה או חסר הטיה) ייטה להתפלג נורמלי. הטלת מטבע מספר רב של פעמים יניב את ההתפלגות הנורמלית עבור המספר הכולל של "עץ" (או "פלי" באופן שקול). מנקודת מבט אחרת, משפט הגבול המרכזי מסביר את ההופעה התדירה של "עקומת הפעמון" בהערכות צפיפות המופעלות על מידע מהעולם האמיתי. במקרים כמו רעש אלקטרוני, ציוני מבחן וכו', נוכל בדרך כלל להתייחס לתצפית בודדת כממוצע ממושקל של מספר רב של גורמים קטנים. אם נשתמש בהכללות של משפט הגבול המרכזי נוכל לראות שזה לרוב יניב (אך לא תמיד) התפלגות סופית שהיא בערך נורמלית. באופן כללי, ככל שתצפית היא יותר כמו סכום של משתנים מקריים בלתי תלויים עם השפעה זהה על התוצאה, היא מתאפיינת ביותר "נורמליות". זה מצדיק את השימוש הנפוץ בהתפלגות זו כדי להשלים את ההשפעה של משתנים מקריים שלא נצפו במודלים כמו במודל הליניארי. בטכניקות של בדיקת השערות, מבחן סטטיסטי מנסה להפריד בין שתי התפלגויות: בין ההתפלגות תחת השערת האפס, קרי ההשערה הקודמת למבחן, לבין התפלגות אחרת. לשם כך דוגם החוקר מספר תצפיות מהאוכלוסייה שהוא בוחן, ומחשב את סטטיסטי ערך ה-p (באנגלית: p-value) של התוצאה. אם לא סביר כי הסטטיסטי יצא מההתפלגות של השערת האפס (ברמת המובהקות שנקבעה מראש), החוקר דוחה את השערה זו. לרוב, התכונה באוכלוסייה אותה מבצע המבחן בוחן אינה מתפלגת נורמלית, אך באמצעות שימוש במשפט הגבול המרכזי הוא יודע שאם הסטטיסטי הוא ממוצע של אותה התכונה, ומתקיימות שאר ההנחות הנדרשות לשם הפעלת המשפט על אותה התכונה, אזי הוא יכול להניח כי עם מספיק תצפיות הסטטיסטי יתפלג נורמלית. בכך הוא יכול להשוות אנליטית את הממוצע אותו דגם להסתברות שאותו ממוצע ייצא תחת התפלגות נורמלית. למבחן סטטיסטי שכזה, שיודע את השונות לאותה תכונה באוכלוסייה קוראים מבחן Z. למשפטי גבול בתורת ההסתברות יש יישומים גם מחוץ לתורת ההסתברות. למשל, בעזרת משפט הגבול המרכזי ניתן לחשב את הגבול L = lim n → ∞ ∫ − 1 1 … ∫ − 1 1 cos ⁡ ( x 1 + ⋯ + x n n ) d x 1 … d x n {\displaystyle L=\lim _{n\to \infty }\int _{-1}^{1}\dots \int _{-1}^{1}\cos \left({\frac {x_{1}+\dots +x_{n}}{\sqrt {n}}}\right)dx_{1}\dots dx_{n}} . כדי לעשות זאת, לוקחים משתנים מקריים בלתי תלויים X 1 , … , X n {\displaystyle X_{1},\dots ,X_{n}} המתפלגים אחיד בקטע [ − 1 , 1 ] {\displaystyle [-1,1]} (עם מידת לבג). כל משתנה כזה הוא בעל תוחלת אפס ושונות σ 2 = 1 3 {\displaystyle \sigma ^{2}={\frac {1}{3}}} . משתנים אלו "מייצגים" את המשתנים x 1 , … , x n {\displaystyle x_{1},\dots ,x_{n}} במרחב האוקלידי ולכן הם בלתי תלויים. אם כן האינטגרל שווה לתוחלת של המ"מ cos ⁡ ( X 1 + ⋯ + X n n ) {\displaystyle \cos \left({\frac {X_{1}+\dots +X_{n}}{\sqrt {n}}}\right)} . לפי משפט הגבול המרכזי, מתקיים Z = X 1 + ⋯ + X n n ⟶ Z ∼ N ( 0 , σ 2 ) {\displaystyle {\mathcal {Z}}={\frac {X_{1}+\dots +X_{n}}{\sqrt {n}}}\longrightarrow Z\sim N\left(0,\sigma ^{2}\right)} . כעת, ניתן להסיק מהמשפט גם התכנסות חלשה (ולמעשה התנאי שקול להתכנסות בהתפלגות) - כלומר, לכל פונקציה רציפה וחסומה f {\displaystyle f} מתקיים E [ f ( Z ) ] → E [ f ( Z ) ] {\displaystyle E[f({\mathcal {Z}})]\to E[f(Z)]} ; במקרה שלנו, cos {\displaystyle \cos } היא רציפה וחסומה, ולכן הגבול שווה ל- L = E [ cos ⁡ ( Z ) ] = E [ e i Z + e − i Z 2 ] = 1 2 ( φ Z ( 1 ) + φ Z ( − 1 ) ) = e − 1 6 {\displaystyle L=E\left[\cos \left(Z\right)\right]=E\left[{\frac {e^{iZ}+e^{-iZ}}{2}}\right]={\frac {1}{2}}\left(\varphi _{Z}(1)+\varphi _{Z}(-1)\right)=e^{-{\frac {1}{6}}}} ( φ Z ( t ) {\displaystyle \varphi _{Z}(t)} היא הפונקציה האופיינית של Z {\displaystyle Z} ). התפלגות נורמלית חוק המספרים הגדולים תיבת גלטון משפט ברי-אסן מדיה וקבצים בנושא משפט הגבול המרכזי בוויקישיתוף יוסי לוי, למי צלצל הפעמון?, באתר "נסיכת המדעים" משפט הגבול המרכזי, באתר MathWorld (באנגלית) משפט הגבול המרכזי, באתר אנציקלופדיה בריטניקה (באנגלית) Raul Rojas, Why the Normal Distribution?