התכנסות (הסתברות)

בתורת ההסתברות יש כמה משמעויות שונות למושג ההתכנסות של סדרת משתנים מקריים, שכולן מכלילות את המושג המתמטי הפשוט יותר, גבול של סדרה. כמו בענפים אחרים באנליזה, ההתכנסות של סדרה לגבול היא רעיון מרכזי בתורת ההסתברות, ויש לו השלכות חשובות בסטטיסטיקה ובתהליכים סטוכסטיים. לדוגמה, נניח ש-   X n {\displaystyle \ X_{n}} סדרה של משתנים מקריים בלתי תלויים בעלי תוחלת   μ {\displaystyle \ \mu } ושונות   σ 2 {\displaystyle \ \sigma ^{2}} , ותהי   Y n = X 1 + ⋯ + X n n {\displaystyle \ Y_{n}={\frac {X_{1}+\dots +X_{n}}{n}}} סדרת הממוצעים. לפי החוק החלש של המספרים הגדולים, הסדרה   Y n {\displaystyle \ Y_{n}} מתכנסת בהסתברות אל התוחלת; לפי החוק החזק של המספרים הגדולים, אותה סדרה מתכנסת כמעט בוודאות; ואילו לפי משפט הגבול המרכזי, הסדרה המתוקננת   Y n − μ σ / n {\displaystyle \ {\frac {Y_{n}-\mu }{\sigma /{\sqrt {n}}}}} מתכנסת בהתפלגות אל ההתפלגות הנורמלית הסטנדרטית. להלן,   X {\displaystyle \ X} הוא משתנה מקרי ו-   X 1 , X 2 , … , X n , … {\displaystyle \ X_{1},X_{2},\dots ,X_{n},\dots } היא סדרה של משתנים מקריים, המוגדרים כולם על אותו מרחב הסתברות (למעט התכנסות בהתפלגות המוגדרת גם ללא הדרישה למרחב משותף). נניח ש-   F n {\displaystyle \ F_{n}} הן פונקציות ההסתברות המצטברת של המשתנים המקריים   X n {\displaystyle \ X_{n}} , וש-   F {\displaystyle \ F} היא פונקציית ההסתברות המצטברת של   X {\displaystyle \ X} . הסדרה   X n {\displaystyle \ X_{n}} מתכנסת בהתפלגות ל- X, אם לכל x שבו F רציפה,   F n ( x ) → F ( x ) {\displaystyle \ F_{n}(x)\rightarrow F(x)} , כלומר, סדרת הפונקציות   F n {\displaystyle \ F_{n}} מתכנסת נקודתית לפונקציה F לכל נקודת רציפות של F. מכיוון ש-   F ( x ) = P ( X ≤ x ) {\displaystyle \ F(x)=P(X\leq x)} , משמעותה של התכנסות כזו היא שהסיכוי של   X n {\displaystyle \ X_{n}} ליפול בקטע מסוים, כאשר n גדול מספיק, קרוב לסיכוי של X ליפול באותו קטע. מקובל לסמן התכנסות בהתפלגות ב-   X n → D X {\displaystyle \ X_{n}{\xrightarrow {\mathcal {D}}}X} . התכנסות בהתפלגות היא הצורה החלשה ביותר של התכנסות, והיא נקראת לפעמים התכנסות חלשה, בדומה להתכנסות חלשה של מידות. התכנסות בהתפלגות שקולה להתכנסות נקודתית של סדרת הפונקציות המציינות אל הפונקציה המציינת של המשתנה בגבול. סוג זה של התכנסות נובע מכל אחד מן הסוגים האחרים שיוצגו להלן, ומכאן שהוא השכיח ביותר. אם המשתנה המקרי X הוא קבוע, אז התכנסות בהתפלגות שקולה להתכנסות בהסתברות, החזקה ממנה בדרך כלל. התכנסות בהתפלגות נשמרת תחת פונקציות רציפות: אם   X n → D X {\displaystyle \ X_{n}{\xrightarrow {\mathcal {D}}}X} אז   f ( X n ) → D f ( X ) {\displaystyle \ f(X_{n}){\xrightarrow {\mathcal {D}}}f(X)} לכל פונקציה רציפה   f : R → R {\displaystyle \ f:\mathbb {R} \rightarrow \mathbb {R} } . התכונה "   F n ( x ) → F ( x ) {\displaystyle \ F_{n}(x)\rightarrow F(x)} לכל x" (ללא המגבלה על הרציפות של F) חזקה ממש מהתכנסות בהתפלגות. הסדרה   X 1 , … , X n , … {\displaystyle \ X_{1},\dots ,X_{n},\dots } מתכנסת בהסתברות אל המשתנה המקרי X, אם לכל   0 < δ {\displaystyle \ 0<\delta } , סדרת ההסתברויות   P ( | X n − X | < δ ) {\displaystyle \ P(|X_{n}-X|<\delta )} מתכנסת ל-1. במילים אחרות, הסיכוי לכך שאברי הסדרה יהיו רחוקים מ- X, שואף לאפס. מקובל לסמן התכנסות בהסתברות ב-   X n → P X {\displaystyle \ X_{n}{\xrightarrow {P}}X} . כל סדרה המתכנסת בהסתברות, מתכנסת גם בהתפלגות. הסדרה   X 1 , … , X n , … {\displaystyle \ X_{1},\dots ,X_{n},\dots } מתכנסת כמעט בוודאות (Almost surely) אל המשתנה המקרי X, אם הסיכוי לכך ש-   lim n → ∞ X n = X {\displaystyle \ \lim _{n\rightarrow \infty }X_{n}=X} שווה ל-1. במקרה כזה מסמנים   X n → a . s . X {\displaystyle \ X_{n}{\xrightarrow {a.s.}}X} . התכנסות כמעט בוודאות נקראת לפעמים התכנסות בהסתברות 1, התכנסות כמעט בכל מקום, או התכנסות במובן החזק. מונח זה הוא מקרה פרטי של התכנסות כמעט בכל מקום של סדרת פונקציות מדידות. במקרה ההוא המידה לא בהכרח סופית, ולכן ההגדרה הכללית היא שקבוצת הנקודות עליהן אין התכנסות היא ממידה אפס. כל סדרה המתכנסת כמעט בוודאות מתכנסת גם בהסתברות, ולכן גם בהתפלגות. מאידך, התכנסות כמעט בוודאות אינה שכיחה במיוחד. למשל, אם המשתנים   X n {\displaystyle \ X_{n}} בלתי תלויים, אז הסדרה אינה יכולה להתכנס כמעט בוודאות, אלא אם המשתנה X שאליו היא מתכנסת הוא קבוע. אם למשתנים תוחלת אפס והטור   ∑ V ( X n ) {\displaystyle \ \sum V(X_{n})} מתכנס, אז הסדרה מתכנסת לאפס כמעט בוודאות. הסדרה   X 1 , … , X n , … {\displaystyle \ X_{1},\dots ,X_{n},\dots } מתכנסת כמעט תמיד אל X, אם לכל   δ > 0 {\displaystyle \ \delta >0} , ההסתברויות   p n = P ( ∀ k > n : | X k − X | < δ ) {\displaystyle \ p_{n}=P(\forall k>n:|X_{k}-X|<\delta )} שואפות ל-1. תופעה זו שקולה להתכנסות כמעט בוודאות. אם הגבול   lim n → ∞ X n {\displaystyle \ \lim _{n\rightarrow \infty }X_{n}} קיים ושווה ל- X בוודאות (ולא רק בהסתברות 1), אז הסדרה מתכנסת בוודאות ל-X. זוהי התכנסות חזקה יותר מהתכנסות כמעט בוודאות, אך מבחינת תורת ההסתברות ההבדל בין השתיים זניח, ולכן ההתכנסות בוודאות אינה שימושית במיוחד. הסדרה   X 1 , … , X n , … {\displaystyle \ X_{1},\dots ,X_{n},\dots } מתכנסת בתוחלת אל X, אם לכל המשתנים המקריים   | X n | {\displaystyle \ |X_{n}|} יש תוחלת סופית, והסדרה   E ( | X n − X | ) {\displaystyle \ E(|X_{n}-X|)} שואפת לאפס. באופן כללי יותר, הסדרה מתכנסת במומנט ה-p-י אם לכל המשתנים כנ"ל יש מומנט p-י סופי, והסדרה הסדרה   E ( | X n − X | p ) {\displaystyle \ E(|X_{n}-X|^{p})} שואפת לאפס. (התכנסות בתוחלת היא התכנסות במומנט הראשון). זוהי למעשה התכנסות במרחב Lp. התכנסות במומנט ה-p-י חזקה יותר ככל ש-p גדול יותר (בתנאי ש-   p ≥ 1 {\displaystyle \ p\geq 1} ), ותמיד (לכל 0 < p) נובעת ממנה התכנסות בהסתברות (לפי אי-שוויון צ'ביצ'ב). מאידך, אם המשתנים   X n {\displaystyle \ X_{n}} חסומים, אז התכנסות בהסתברות גוררת גם התכנסות במומנט ה-p-י לכל   p ≥ 1 {\displaystyle \ p\geq 1} . סוג נוסף של התכנסות הוא התכנסות חלשה - נאמר כי X n → w X {\displaystyle X_{n}{\overset {w}{\to }}X} (מהמילה weakly) אם לכל פונקציה רציפה וחסומה g {\displaystyle g} מתקיים E [ g ( X n ) ] → E [ g ( X ) ] {\displaystyle E[g(X_{n})]\to E[g(X)]} . התכנסות חלשה למעשה שקולה להתכנסות בהתפלגות. למעשה, אפשר להחליף בשקילות את התנאי על הפונקציה שתהיה פונקציה חסומה וגזירה כל מספר סופי של פעמים. הסדרה   X 1 , … , X n , … {\displaystyle \ X_{1},\dots ,X_{n},\dots } מתכנסת בהסתברות ל-   X {\displaystyle \ X} אם   ∀ ϵ > 0 : ∀ δ > 0 : ∃ N : ∀ n > N : P ( | X n − X | < δ ) > 1 − ϵ {\displaystyle \ \forall \epsilon >0:\forall \delta >0:\exists N\!:\forall n>N\!:P(|X_{n}-X|<\delta )>1-\epsilon } ; מתכנסת כמעט תמיד אם   ∀ ϵ > 0 : ∀ δ > 0 : ∃ N : P ( ∀ n > N : | X n − X | < δ ) > 1 − ϵ {\displaystyle \ \forall \epsilon >0:\forall \delta >0:\exists N\!:P(\forall n>N\!:|X_{n}-X|<\delta )>1-\epsilon } ; ומתכנסת כמעט בוודאות אם   P ( ∀ δ > 0 : ∃ N : ∀ n > N : | X n − X | < δ ) = 1 {\displaystyle \ P(\forall \delta >0:\exists N\!:\forall n>N\!:|X_{n}-X|<\delta )=1} . התכנסות של סדרת פונקציות עלי מרצבך ואברהם שמרון, תורת ההסתברות, אקדמון, 1994.