מודל (סטטיסטיקה)

בסטטיסטיקה, מודל הוא תיאור מתמטי של תהליך הסתברותי שממנו התקבל מדגם, המגלם בתוכו אוסף של הנחות לגבי התהליך. במקרים רבים, המודל הסטטיסטי מייצג את התהליך שייצר את הנתונים במידה ניכרת של הפשטה. המודל הסטטיסטי מורכב ממשפחה של התפלגויות הסתברות התואמות להנחות המגולמות בו, מתוך הנחה שלפחות חלק מההתפלגויות דומות מספיק להתפלגות שממנה נדגמו הנתונים. התפלגויות ההסתברות הכרוכות במודלים סטטיסטיים הן מה שמבדיל בין מודלים סטטיסטיים לבין מודלים מתמטיים אחרים, שאינם סטטיסטיים. המודל הסטטיסטי מוגדר בדרך כלל על ידי משוואות מתמטיות שמעורב בהם משתנה מקרי אחד או יותר ואולי גם משתנים שאינם מקריים. מתוך כך אומרים לפעמים כי המודל הסטטיסטי הוא "ייצוג פורמלי של תאוריה" מודל סטטיסטי עומד בבסיסה של כל בדיקת השערות וכל אמידה סטטיסטית. באופן כללי יותר, מודלים סטטיסטיים הם אחד מיסודותיה של ההסקה הסטטיסטית. באופן פורמלי, מקובל להגדיר מודל כזוג הסדור  ( S , P ) {\displaystyle (S,{\mathcal {P}})} , כאשר S {\displaystyle S} הוא מרחב כל התצפיות האפשריות (או: מרחב הנתונים), ו- P {\displaystyle {\mathcal {P}}} הוא אוסף התפלגויות הסתברות על  S {\displaystyle S} . בהקשרים מסוימים, עשויים לוותר על הציון המפורש של S {\displaystyle S} , וקוראים מודל סטטיסטי לאוסף P {\displaystyle {\mathcal {P}}} . ניתן להבין הגדרה זו, תחת ההנחה שיש התפלגות הסתברות "אמיתית" המשויכת לתהליך שיצר את הנתונים שהתקבלו. במקרה זה, מסמנים ב- P {\displaystyle {\mathcal {P}}}  קבוצה (של התפלגויות) אשר מכילה התפלגות שהיא קירוב מספיק טוב של ההתפלגות האמיתית.  P {\displaystyle {\mathcal {P}}}  לא חייבת בהכרח להכיל את ההתפלגות האמיתית, ובפועל היא מכילה אותה רק לעיתים נדירות. אכן, כפי שטענו ברנהם ואנדרסון, "מודל הוא הפשטה או קירוב של המציאות, ולכן איננו משקף את כלל המציאות" – ומכאן מגיעה גם האמרה: "כל המודלים שגויים". לקבוצה  P {\displaystyle {\mathcal {P}}} כמעט תמיד יש פרמטר סטטיסטי שמשמש לה כאינדקס: P = { P θ : θ ∈ Θ } {\displaystyle {\mathcal {P}}=\{P_{\theta }:\theta \in \Theta \}} . הקבוצה  Θ {\displaystyle \Theta }  מגדירה את הפרמטרים האפשריים של המודל. בדרך כלל, דורשים מהפרמטריזציה של P {\displaystyle {\mathcal {P}}} שתהיה חד-חד-ערכית: כל זוג פרמטרים השונים זה מזה מהווים אינדקס להתפלגויות שונות. כלומר, בהכרח  P θ 1 = P θ 2 ⇒ θ 1 = θ 2 {\displaystyle P_{\theta _{1}}=P_{\theta _{2}}\Rightarrow \theta _{1}=\theta _{2}} . במקרה כזה אומרים שהמודל ניתן לזיהוי. נניח אוכלוסייה של תלמידי בית ספר, כך שגילם של הילדים באוכלוסייה מתפלג באופן אחיד. גובהו של כל ילד קשור באופן סטוכסטי לגילו: למשל, אם ילד הוא בן 7, זה משפיע על הסיכוי של הגובה שלו להיות מטר וחצי. ניתן להציג את מערכת היחסים הזו בצורת מודל רגרסיה ליניארית, למשל: h i = b 0 + b 1 ⋅ a i + ϵ i , {\displaystyle h_{i}=b_{0}+b_{1}\cdot a_{i}+\epsilon _{i},} כאשר h i {\displaystyle h_{i}} הוא גובהו של התלמיד ה- i {\displaystyle i} ,‏ a i {\displaystyle a_{i}} הוא גילו,  b 0 {\displaystyle b_{0}} הוא החיתוך של קו הרגרסיה עם הציר האנכי (הקו a = 0 {\displaystyle a=0} )‏, b 1 {\displaystyle b_{1}} הוא פרמטר שיש להכפיל בו את הגיל כדי לקבל תחזית לגובה, ו- ϵ i {\displaystyle \epsilon _{i}} הוא איבר שגיאה. המודל מניח שניתן לנבא את גובהו של תלמיד על ידי גילו, עד כדי שגיאה כלשהי. מודל קביל חייב להיות עקבי עם כל הנתונים. לפיכך, הקו ישר ( h i = b 0 + b 1 ⋅ a i {\displaystyle h_{i}=b_{0}+b_{1}\cdot a_{i}} ) לא יכול להיות המשוואה עבור מודל הנתונים, כי הוא אינו מתאים בדיוק לכל הנתונים – התאמה תתקיים רק אם כל הנתונים נמצאים בדיוק על הקו. לכן, כדי שהמודל יהיה תואם לכל הנתונים, משוואת המודל כוללת גם איבר שגיאה  ϵ i {\displaystyle \epsilon _{i}} . כדי לבצע הסקה סטטיסטית, יש קודם כל להניח לאיזו משפחה של התפלגויות הסתברות שייך איבר השגיאה ϵ i {\displaystyle \epsilon _{i}} . למשל, ניתן (ולפעמים מקובל) להניח כי ϵ i {\displaystyle \epsilon _{i}}  הם משתנים מקריים נורמליים שווי-התפלגות בלתי-תלויים (לשם הקיצור: ש"ה ב"ת), בעלי תוחלת 0. במקרה זה, למודל יש 3 פרמטרים: b 0 {\displaystyle b_{0}} , b 1 {\displaystyle b_{1}} , והשונות של ההתפלגות הנורמלית ( σ 2 {\displaystyle \sigma ^{2}} ). ניתן להגדיר את המודל באופן רשמי בצורה S {\displaystyle S} כדלקמן: מרחב הנתונים של המודל,  ( S , P ) {\displaystyle (S,{\mathcal {P}})} , הוא קבוצת כל הזוגות (גיל, גובה) האפשריים. כל ערך אפשרי של  θ = ( b 0 , b 1 , σ 2 ) {\displaystyle \theta =\left(b_{0},b_{1},\sigma ^{2}\right)} קובע התפלגות על S {\displaystyle S} ; נסמן את התפלגות זו ב- P {\displaystyle {\mathcal {P}}} . אם Θ {\displaystyle \Theta } היא קבוצת כל הערכים האפשריים של  θ {\displaystyle \theta } , אז P = { P θ : θ ∈ Θ } {\displaystyle {\mathcal {P}}=\{P_{\theta }:\theta \in \Theta \}} . קל לבדוק שפרמטריזציה כזו היא ניתנת לזיהוי. המודל נקבע על ידי: (א) קביעה של  S {\displaystyle S} , (ב) קביעת כמה הנחות רלוונטיות עבור  P {\displaystyle {\mathcal {P}}} . בדוגמה לעיל, מניחים כי ניתן לקרב את הגובה כפונקציה ליניארית של הגיל וכי השגיאות של הקירוב מתפלגות נורמלית והן בלתי-תלויות. הנחות אלו מספיקות כדי לקבוע את  P {\displaystyle {\mathcal {P}}} , כנדרש. נניח מודל סטטיסטי ( S , P ) {\displaystyle (S,{\mathcal {P}})} ונסמן  P = { P θ : θ ∈ Θ } {\displaystyle {\mathcal {P}}=\{P_{\theta }:\theta \in \Theta \}} . נאמר כי המודל הוא פרמטרי אם הממד של  Θ {\displaystyle \Theta }  סופי. באופן פורמלי, מסמנים  Θ ⊆ R k {\displaystyle \Theta \subseteq \mathbb {R} ^{k}} , כאשר k הוא מספר חיובי ( R {\displaystyle \mathbb {R} } מציין את שדה המספרים הממשיים; באופן עקרוני, ניתן להשתמש גם בקבוצות אחרות במקומו). כאן, k נקרא הממד של המודל. למשל, אם נניח כי הנתונים מגיעים מהתפלגות גאוסית חד־ממדית, אז אנו מניחים כי P = { P μ , σ ( x ) ≡ 1 2 π σ exp ⁡ ( − ( x − μ ) 2 2 σ 2 ) : μ ∈ R , σ > 0 } {\displaystyle {\mathcal {P}}=\left\{P_{\mu ,\sigma }(x)\equiv {\frac {1}{{\sqrt {2\pi }}\sigma }}\exp \left(-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}\right):\mu \in \mathbb {R} ,\sigma >0\right\}} . בדוגמה זו, הממד k שווה ל-2. כדוגמה נוספת, נניח כי הנתונים הם אוסף של נקודות (x, y), אנחנו מניחים שההתפלגות שלהם מתוארת על ידי קו ישר עם סטיות נורמליות שוות-התפלגות בלתי-תלויות (עם תוחלת אפס). במקרה כזה, הממד של המודל הסטטיסטי הוא 3: נקודת החיתוך של הקו, השיפוע של הקו, והשונות של הסטיות. אם הממד של Θ {\displaystyle \Theta } אינו סופי, אומרים שהמודל הוא לא-פרמטרי או א-פרמטרי. למשל, במודל שמניח שלנתונים יש צפיפות הסתברות רציפה על קטע I {\displaystyle {\mathcal {I}}} , אז Θ {\displaystyle \Theta } היא קבוצת כל הפונקציות הרציפות על הקטע ( C 0 ( I ) {\displaystyle C^{0}\left({\mathcal {I}}\right)} ), שהיא בעלת ממד אינסופי. ערך מורחב – סטטיסטי מספיק כל פונקציה של המדגם שאינה תלויה בפרמטר נקראת סטטיסטי. אומרים שסטטיסטי T {\displaystyle T} הוא מספיק, אם ההתפלגות המותנית של הנתונים בסטטיסטי היא קבועה ביחס לפרמטרים של המודל. אינטואיטיבית, סטטיסטי הוא מספיק עבור מודל, אם הערך של הסטטיסטי מכיל את כל המידע לגבי ההתפלגות שממנה נלקח המדגם. ערך מורחב – משפחה מעריכית מודלים רבים ניתן לכתוב בצורה f X ( x ∣ θ ) = exp ⁡ ( η ( θ ) ⋅ T ( x ) − A ( θ ) + B ( x ) ) {\displaystyle f_{X}(x\mid \theta )=\exp \left(\eta (\theta )\cdot T(x)-A(\theta )+B(x)\right)} ובכלל זה, מודלים שמבוססים על הרבה התפלגויות "מפורסמות", כמו ההתפלגות הנורמלית והתפלגות פואסון. מודל שמטרתו לזהות יחס בין קבוצת משתנים ("מסבירים") למשתנה אחר ("מוסבר") נקרא מודל רגרסיה. לרגרסיה צורות רבות, אבל הנפוצה והמפורסמת מביניהן היא רגרסיה ליניארית (ראו דוגמה לעיל), שמניחה שהמשתנה המוסבר הוא פונקציה ליניארית של המשתנים המסבירים. Adèr, H.J. (2008), "Modelling", in Adèr, H.J.; Mellenbergh, G.J. (eds.), Advising on Research Methods: a consultant's companion, Huizen, The Netherlands: Johannes van Kessel Publishing, pp. 271–304 Burnham, K. P.; Anderson, D. R. (2002), Model Selection and Multimodel Inference (2nd ed.), Springer-Verlag, ISBN 0-387-95364-7 McCullagh, P. (2002), "What is a statistical model?" (PDF), Annals of Statistics, 30: 1225–1310, doi:10.1214/aos/1035844977 Davison A.C. (2008), Statistical Models, Cambridge University Press. Freedman D.A. (2009), Statistical Models, Cambridge University Press. Helland I.S. (2010), Steps Towards a Unified Basis for Scientific Models and Methods, World Scientific. Kroese D.P., Chan J.C.C. (2014), Statistical Modeling and Computation, Springer. Stapleton J.H. (2007), Models for Probability and Statistical Inference, Wiley-Interscience. מדיה וקבצים בנושא מודל בוויקישיתוף קנת בולן (Kenneth A. Bollen), לפי ציטוט של הרמן אדר [Herman J. Adèr]).‏(Adèr 2008, p. 280) McCullagh 2002. Burnham & Anderson 2002, §1.2.5