אומד עקיב

בסטטיסטיקה, אומד הוא כלל לחישוב אומדנים מתוך תצפיות, עבור הערך של פרמטר θ {\displaystyle \theta } המאפיין את התפלגות התצפיות. אומד עקיב הוא בעל תכונה שכאשר כמות הנתונים המשמשת לחישוב האומד גדלה ושואפת לאינסוף, האומד מייצר סדרת משתנים מקריים המתכנסת בהסתברות לערך של הפרמטר θ {\displaystyle \theta } המאפיין את התפלגות התצפיות. המשמעות היא שהתפלגויות המשתנים המקריים המתקבלים מתרכזות יותר ויותר ליד הערך הרצוי של הפרמטר הנאמד. כלומר, לכל ϵ > 0 {\displaystyle \epsilon >0} נתון, שההסתברות לכך שהמרחק בין המשתנים המקריים בסדרה לבין הערך הנכון של θ {\displaystyle \theta } יהיה גדול מ- ϵ {\displaystyle \epsilon } , שואפת ל-0. נניח שנתונה משפחה של התפלגויות עם פרמטר θ {\displaystyle \theta } , כך שלכל התפלגות במשפחה מתאים ערך מסוים של θ {\displaystyle \theta } . נניח שנתון מדגם מקרי מתוך אחת ההתפלגויות השייכות למשפחה ועבור התפלגות של המדגם מתקיים θ = θ 0 {\displaystyle \theta =\theta _{0}} . אומד של θ {\displaystyle \theta } הוא פונקציה של המדגם מקרי, המוגדרת למדגמים בכל גודל n ותפקידו לאמוד את θ 0 {\displaystyle \theta _{0}} . עקיבות של אומד היא תכונה שמאפיינת את האומד כאשר גודל המדגם n {\displaystyle n} שואף לאינסוף. אם ניתן להראות מתמטית שלכל התפלגות מהמשפחה, בהינתן מדגם מקרי מההתפלגות, סדרת המשתנים המקריים שהאומד מגדיר מתכנסת בהסתברות לערך של θ המתאים להתפלגות שממנה לקוח המדגם, אז האומד נקרא אומד עקיב ל-θ; אחרת, אם ניתן להראות שעבור התפלגות מסוימת במשפחה הסדרה איננה מתכנסת כלל או מתכנסת לערך לא נכון, אז האומד אינו אומד עקיב ל-θ. עקיבות כפי שהוגדרה כאן מכונה לפעמים עקיבות חלשה. כאשר אנו מחליפים התכנסות בהסתברות בהתכנסות כמעט בוודאות, אומרים שלאומד יש עקיבות חזקה. באופן פורמלי בהינתן משפחת התפלגויות F ( θ ) {\displaystyle {\mathcal {F}}(\theta )} , אם לכל ערך θ 0 {\displaystyle \theta _{0}} אפשרי של θ {\displaystyle \theta } וסדרה של משתנים מקריים בלתי תלויים ושווי התפלגות X 1 , X 2 , . . . ∈ F ( θ 0 ) {\displaystyle X_{1},X_{2},...\in {\mathcal {F}}(\theta _{0})} , האומד T n ( X 1 , X 2 , . . . , X n ) {\displaystyle T_{n}(X_{1},X_{2},...,X_{n})} מתכנס בהסתברות ל- θ 0 {\displaystyle \theta _{0}} : כלומר , plim n → ∞ T n = θ 0 {\displaystyle ,{\underset {n\to \infty }{\operatorname {plim} }}\;T_{n}=\theta _{0}} או באופן שקול, אם לכל ε > 0, , lim n → ∞ Pr ( | T n − θ 0 | > ε ) = 0 {\displaystyle ,\lim _{n\to \infty }\Pr {\big (}|T_{n}-\theta _{0}|>\varepsilon {\big )}=0} אז T n {\displaystyle T_{n}} הוא אומד של θ {\displaystyle \theta } בעל עקיבות חלשה. לאומד T n {\displaystyle T_{n}} של פרמטר θ {\displaystyle \theta } יש עקיבות חזקה, אם לכל ערך θ 0 {\displaystyle \theta _{0}} אפשרי של θ {\displaystyle \theta } וסדרה של משתנים מקריים בלתי תלויים ושווי התפלגות X 1 , X 2 , . . . ∈ F ( θ 0 ) {\displaystyle X_{1},X_{2},...\in {\mathcal {F}}(\theta _{0})} , T n {\displaystyle T_{n}} מתכנס בהסתברות 1 ל- θ 0 {\displaystyle \theta _{0}} . כלומר, . Pr ( lim n → ∞ T n = θ 0 ) = 1 {\displaystyle .\Pr \left(\lim _{n\to \infty }T_{n}=\theta _{0}\right)=1} נניח שנתון מדגם מקרי של משתנים מקריים בלתי תלויים ושווי התפלגות מהתפלגות נורמלית X 1 , X 2 , . . . ∼ N ( μ , σ 2 ) {\displaystyle X_{1},X_{2},...\sim N(\mu ,\sigma ^{2})} . כדי לאמוד את μ {\displaystyle \mu } על סמך n {\displaystyle n} המשתנים המקריים הראשונים ניתן להשתמש כאומד בממוצע המדגם: T n = X 1 + X 2 + . . . + X n n {\displaystyle T_{n}={\frac {X_{1}+X_{2}+...+X_{n}}{n}}} . אומד זה מגדיר סדרה של משתנים מקריים, משתנה לכל n {\displaystyle n} . מתכונות ההתפלגות הנורמלית, נובע כי T n {\displaystyle T_{n}} מתפלג התפלגות נורמלית, עם תוחלת μ {\displaystyle \mu } ושונות σ 2 n {\displaystyle {\frac {\sigma ^{2}}{n}}} . בנוסף לכך, מתכונות ההתפלגות הנורמלית נובע כי ל- n ( T n − μ ) σ {\displaystyle {\frac {{\sqrt {n}}(T_{n}-\mu )}{\sigma }}} יש התפלגות נורמלית סטנדרטית. לכן, לכל ϵ > 0 {\displaystyle \epsilon >0} כאשר n {\displaystyle n} שואף לאינסוף, . Pr [ | T n − μ | ≥ ε ] = Pr [ n | T n − μ | σ ≥ n ε σ ] = 2 ( 1 − Φ ( n ε σ ) ) → 0 {\displaystyle .\Pr \!\left[\,|T_{n}-\mu |\geq \varepsilon \,\right]=\Pr \!\left[{\frac {{\sqrt {n}}\,{\big |}T_{n}-\mu {\big |}}{\sigma }}\geq {\frac {{\sqrt {n}}\varepsilon }{\sigma }}\right]=2\left(1-\Phi \left({\frac {{\sqrt {n}}\,\varepsilon }{\sigma }}\right)\right)\to 0} לכן, הסדרה T n {\displaystyle T_{n}} של ממוצעי המדגם מהווה אומד עקיב לתוחלת μ {\displaystyle \mu } ( Φ {\displaystyle \Phi } היא ההתפלגות המצטברת של ההתפלגות הנורמלית סטנדרטית). Amemiya 1985, Definition 3.4.2.