שיטת הדלתה

שיטת הדלתה בסטטיסטיקה היא תוצאה המאפשרת את אמידת השונות של פונקציה של אמד לפרמטר, כאשר התפלגותו האסימפטוטית של האמד היא נורמלית וסטיית התקן של האמד ידועה או ניתנת לאמידה. סקירה של ההיסטוריה של שיטת הדלתה ניתנה על ידי והר הוף ומכתב תשובה מאת פורטנוי. הרעיון שליו מבוססת שיטת הדלתה היה ידוע כבר במאה התשע עשרה. ב-1838 הוצג הרעיון הבסיס על ידי בסל, וב-1838 הוא הוצג בספרו של איירי. השימוש הסטטיסטי הראשון בשיטה נעשה ככל הנראה ב-1928 על ידי קלי. הניסוח הפורמלי הוצג ב-1935 על ידי דוב. משפט תהי X n {\displaystyle X_{n}} סדרה של משתנים מקריים בעלת התפלגות אסימפטוטית נורמלית, ובאופן פורמלי n [ X n − θ ] → D N ( 0 , σ 2 ) , {\displaystyle {{\sqrt {n}}[X_{n}-\theta ]\,{\xrightarrow {D}}\,{\mathcal {N}}(0,\sigma ^{2})},} , כאשר θ {\displaystyle \theta } ו- σ 2 {\displaystyle \sigma ^{2}} קבועים ממשיים, ו- → D {\displaystyle {\xrightarrow {D}}} מציין התכנסות בהתפלגות. כן תהא g {\displaystyle g} פונקציה הגזירה בנקודה θ {\displaystyle \theta } כך ש- g ′ ( θ ) {\displaystyle g'(\theta )} רציפה ו- g ′ ( θ ) ≠ 0 {\displaystyle g'(\theta )\neq 0} . אזי: n [ g ( X n ) − g ( θ ) ] → D N ( 0 , σ 2 ⋅ [ g ′ ( θ ) ] 2 ) {\displaystyle {{\sqrt {n}}[g(X_{n})-g(\theta )]\,{\xrightarrow {D}}\,{\mathcal {N}}(0,\sigma ^{2}\cdot [g'(\theta )]^{2})}} . הוכחה: על פי משפט הערך הממוצע של לגראנז' (משפט ערך הביניים) קיים θ ~ {\displaystyle {\tilde {\theta }}} כך ש- g ( X n ) = g ( θ ) + g ′ ( θ ~ ) ( X n − θ ) {\displaystyle g(X_{n})=g(\theta )+g'({\tilde {\theta }})(X_{n}-\theta )} , כך ש- θ ~ {\displaystyle {\tilde {\theta }}} נמצא בין X n {\displaystyle X_{n}} ובין θ {\displaystyle \theta } . (זהו למעשה פיתוח טיילור של g {\displaystyle g} סביב θ {\displaystyle \theta } .) נסדר מחדש את האיברים ונכפיל ב- n {\displaystyle {\sqrt {n}}} , ונקבל כי n [ g ( X n ) − g ( θ ) ] = g ′ ( θ ~ ) n [ X n − θ ] {\displaystyle {\sqrt {n}}[g(X_{n})-g(\theta )]=g'\left({\tilde {\theta }}\right){\sqrt {n}}[X_{n}-\theta ]} . מכיוון ש- X n → P θ {\displaystyle X_{n}\,{\xrightarrow {P}}\,\theta } (כאשר → P {\displaystyle {\xrightarrow {P}}} מציין התכנסות בהסתברות) מקבלים כי θ ~ → P θ {\displaystyle {\tilde {\theta }}{\xrightarrow {P}}\,\theta } , ומכיוון ש- g ′ ( θ ) {\displaystyle g'(\theta )} רציפה אנו מקבלים כי גם g ′ ( θ ~ ) → p g ′ ( θ ) {\displaystyle g'({\tilde {\theta }}){\xrightarrow {p}}g'(\theta )} . כזכור, על פי תנאי המשפט n [ X n − θ ] → D N ( 0 , σ 2 ) , {\displaystyle {{\sqrt {n}}[X_{n}-\theta ]\,{\xrightarrow {D}}\,{\mathcal {N}}(0,\sigma ^{2})},} , ולכן על פי משפט סלוצקי מקבלים באופן מיידי כי n [ g ( X n ) − g ( θ ) ] → D N ( 0 , σ 2 ⋅ [ g ′ ( θ ) ] 2 ) {\displaystyle {{\sqrt {n}}[g(X_{n})-g(\theta )]\,{\xrightarrow {D}}\,{\mathcal {N}}(0,\sigma ^{2}\cdot [g'(\theta )]^{2})}} . הערה: ניתן להוכיח כי השגיאה בקירוב שואפת בהסתברות לאפס. כן קיימת גרסה רב ממדית. על פי משפט הגבול המרכזי, הממוצע של n {\displaystyle n} משתנים מקריים בלתי תלויים ושווי התפלגות בעלי תוחלת μ {\displaystyle \mu } ושונות סופית וחיובית σ 2 {\displaystyle \sigma ^{2}} מתפלג אסימפטוטית נורמלית, כלומר n [ X ¯ n − μ ] → D N ( 0 , σ 2 ) {\displaystyle {\sqrt {n}}[{\bar {X}}_{n}-\mu ]{\xrightarrow {D}}N(0,\sigma ^{2})} . תהי g ( x ) = x 2 {\displaystyle g(x)=x^{2}} , ולכן g ′ ( x ) = 2 x {\displaystyle g'(x)=2x} . מכאן נקבל כי ל- X ¯ n 2 {\displaystyle {\bar {X}}_{n}^{2}} יש התפלגות אסימפטוטית נורמלית עם תוחלת μ 2 {\displaystyle \mu ^{2}} ושונות 4 μ 2 σ 2 n {\displaystyle {\frac {4\mu ^{2}\sigma ^{2}}{n}}} . נתבונן במודל log ⁡ π ( x ) 1 − π ( x ) = α + β   x {\displaystyle \log {\frac {\pi (x)}{1-\pi (x)}}=\alpha +\beta \ x} , ונסמן ב- β ^ n {\displaystyle {\hat {\beta }}_{n}} את אמדן הנראות המקסימלית ל- β {\displaystyle \beta } . מכיוון שזהו אמד נראות מקסימלית ידוע כי התפלגותו היא אסימפטוטית נורמלית עם תוחלת β {\displaystyle \beta } ושגיאת תקן s > 0 {\displaystyle s>0} , כאשר s {\displaystyle s} נאמדת על ידי שימוש באינפורמציה של פישר. חוקרים מתעניינים בדרך כלל בערך O R = e β {\displaystyle OR=e^{\beta }} שמפורש כיחס הסיכויים של Y {\displaystyle Y} בהינתן X {\displaystyle X} . מכיוון ש- g ( x ) = e x {\displaystyle g(x)=e^{x}} היא פונקציה רציפה שנגזרתה רציפה, נקבל כי לאמדן יחס הסיכויים e β ^ {\displaystyle e^{\hat {\beta }}} יש התפלגות אסימפטוטית נורמלית עם תוחלת e β {\displaystyle e^{\beta }} , ולאמוד את שגיאת תקן שלו על ידי s e β ^ {\displaystyle se^{\hat {\beta }}} . מכאן נוכל לקבל כי רווח סמך ברמת סמך 100 ( 1 − α ) % {\displaystyle 100(1-\alpha )\%} ליחס הסיכויים הוא e β ^   ±   Z α 2 s e β ^ {\displaystyle e^{\hat {\beta }}\ \pm \ Z_{\frac {\alpha }{2}}se^{\hat {\beta }}} . כן נוכל לבדוק את ההשערה כי יחס הסיכויים שווה ל-1 על ידי הסטטיסטי Z = e β ^ − 1 s e β ^ {\displaystyle Z={\frac {e^{\hat {\beta }}-1}{se^{\hat {\beta }}}}} . רגרסיה לוגיסטית משפט הגבול המרכזי התכנסות בהתפלגות התכנסות בהסתברות משפט סלוצקי Lehmann, E. L.; Casella, G. (2006). Theory of point estimation, 2nd edition. Springer Science & Business Media. ISBN 0-387-98502-6. Standard error of a nonlinear function of estimated regression coefficients - R alr package How can I estimate the standard error of transformed regression parameters in R using the delta method? - UCLA: Statistical Consulting Group. Ver Hoef, J. M., Who invented the delta method?, The American Statistician, 2 66, 2012, עמ' 124-127 Portnoy, S., Who invented the delta method? - Comment by S. Portnoy and Reply, The American Statistician, 3 67, 2013, עמ' 190 Bessel, R., Untersuchungen über die Wahrscheinlichkeit der Beobachtungsfehler, Astronomische Nachrichten, 3 6, 1838, עמ' 369-404 Airy, G. B., On the algebraical and numerical theory of errors of observations and the combination of observations., Macmillan & Company, 1861 Kelley, T. L., Crossroads in the mind of man: A study of differentiable mental abilities, Stanford University Pres, 1928, עמ' 41 Doob, J. L., The limiting distributions of certain statistics, The Annals of Mathematical Statistics, 3 6, 1935, עמ' 160-169