חסם ברנקין

חסם ברנקין (באנגלית: Barankin Bound), חסם תחתון על השונות של אומדים חסרי-הטיה של פרמטרים דטרמיניסטיים. זוהי הכללה של חסמי קרמר-ראו וצ'פמן-רובינס, ובהשוואה אליהם - הוא הדוק יותר. למעשה, זהו החסם התחתון ההדוק ביותר שקיים על השונות האמורה (Greatest lower bound), וחסרונו בכך שלפעמים קשה לחשב אותו. החסם נגזר לראשונה על ידי אדוארד ברנקין (Edward William Barankin) ב-1949. נניח שהתפלגות המשתנה המקרי   X {\displaystyle \ X} תלויה בפרמטר הדטרמיניסטי   θ {\displaystyle \ \theta } , ומתוארת על ידי פונקציית הצפיפות   p ( x ; θ ) {\displaystyle \ p(x;\theta )} . תחת תנאים רחבים, אם   T ( X ) {\displaystyle \ T(X)} הוא אומד חסר-הטיה של   θ {\displaystyle \ \theta } , כלומר   E [ T ( X ) ] = θ {\displaystyle \ \mathrm {E} \left[T(X)\right]=\theta } (ולכן V a r [ T ( X ) ] = E [ ( T ( x ) − θ ) 2 ] {\displaystyle Var\left[T(X)\right]=\mathrm {E} \left[(T(x)-\theta )^{2}\right]} ), אז לכל   a 1 , . . . , a n , h 1 , . . . , h n {\displaystyle \ a_{1},...,a_{n},h_{1},...,h_{n}} מתקיים:   V a r [ T ( X ) ] ≥ [ ∑ k = 1 n a k ⋅ h k ] 2 E { [ ∑ k = 1 n a k ⋅ p ( x ; θ + h k ) − p ( x ; θ ) p ( x ; θ ) ] 2 } {\displaystyle \ Var\left[T(X)\right]\geq {\frac {\left[\sum _{k=1}^{n}a_{k}\cdot h_{k}\right]^{2}}{\mathrm {E} \left\{\left[\sum _{k=1}^{n}a_{k}\cdot {\frac {p(x;\theta +h_{k})-p(x;\theta )}{p(x;\theta )}}\right]^{2}\right\}}}} . במעבר לגבול שבו המרחק המקסימלי בין ערכי h שואף לאפס, מתקבלת צורה רציפה של החסם, שנגזרה על ידי ג'ק קיפר (Jack Kiefer):   V a r [ T ( X ) ] ≥ [ e 1 − e 2 ] 2 E { [ ∫ p ( x ; θ + H ) p ( x ; θ ) ⋅ ( p h 1 ( H ) − p h 2 ( H ) ) d H ] 2 } {\displaystyle \ Var\left[T(X)\right]\geq {\frac {\left[e_{1}-e_{2}\right]^{2}}{\mathrm {E} \left\{\left[\int {\frac {p(x;\theta +H)}{p(x;\theta )}}\cdot (p_{h1}(H)-p_{h2}(H))\,dH\right]^{2}\right\}}}} . כאשר   p h 1 , p h 2 {\displaystyle \ p_{h1},p_{h2}} הן פונקציות התפלגות שרירותיות, ו-   e 1 , e 2 {\displaystyle \ e_{1},e_{2}} הן התוחלות של   h {\displaystyle \ h} לפי   p h 1 , p h 2 {\displaystyle \ p_{h1},p_{h2}} בהתאמה. מכיוון שהחסם מתקיים לכל בחירה של a,h (במקרה הראשון) ושל   p h 1 , p h 2 {\displaystyle \ p_{h1},p_{h2}} (בשני), הוא נשאר נכון גם כשמחליפים את אגף ימין בסופרימום על כל האפשרויות. נוכיח את הצורה השנייה של החסם. נסמן:   A = T ( X ) − θ {\displaystyle \ A=T(X)-\theta }   B = ∫ p ( x ; θ + H ) p ( x ; θ ) ⋅ ( p h 1 ( H ) − p h 2 ( H ) ) d H {\displaystyle \ B=\int {\frac {p(x;\theta +H)}{p(x;\theta )}}\cdot (p_{h1}(H)-p_{h2}(H))\,dH} מתוך חוסר הטיה, לכל H מתקיים:   ∫ [ T ( x ) − ( θ + H ) ] ⋅ p ( x ; θ + H ) d x = 0 {\displaystyle \ \int \left[T(x)-(\theta +H)\right]\cdot p(x;\theta +H)\,dx=0} לכן, מתוך העברת אגפים ושימוש בתכונות של פונקציות פילוג:   ∫ [ T ( x ) − θ ] ⋅ p ( x ; θ + H ) d x = H {\displaystyle \ \int \left[T(x)-\theta \right]\cdot p(x;\theta +H)\,dx=H} נבחן את תוחלת המכפלה של A,B. מצד אחד (תחת תנאים רגולריים המאפשרים החלפת סדר אינטגרציה):   E ( A ⋅ B ) = ∫ E [ ( T ( X ) − θ ) ⋅ p ( X ; θ + H ) p ( X ; θ ) ] ⋅ ( p h 1 ( H ) − p h 2 ( H ) ) d H {\displaystyle \ \mathrm {E} (A\cdot B)=\int \mathrm {E} \left[(T(X)-\theta )\cdot {\frac {p(X;\theta +H)}{p(X;\theta )}}\right]\cdot (p_{h1}(H)-p_{h2}(H))\,dH} התוחלת הפנימית היא בדיוק H, כפי שהראינו לעיל מתוך חוסר ההטיה. לכן, נקבל:   E ( A ⋅ B ) = ∫ H ⋅ ( p h 1 ( H ) − p h 2 ( H ) ) d H = e 1 − e 2 {\displaystyle \ \mathrm {E} (A\cdot B)=\int H\cdot (p_{h1}(H)-p_{h2}(H))\,dH=e_{1}-e_{2}} . מצד שני, לפי אי-שוויון קושי-שוורץ:   E ( A ⋅ B ) 2 ≤ E ( A 2 ) ⋅ E ( B 2 ) {\displaystyle \ \mathrm {E} (A\cdot B)^{2}\leq \mathrm {E} (A^{2})\cdot \mathrm {E} (B^{2})} לאחר הצבת כל הגדלים באי-שוויון זה מקבלים בדיוק את החסם. על-מנת לקבל את הגרסה של ברנקין, יש להציב:   p h 2 ( H ) = δ ( H ) {\displaystyle \ p_{h2}(H)=\delta (H)}   p h 1 ( H ) = ∑ k = 1 n a k ⋅ δ ( H − h k ) {\displaystyle \ p_{h1}(H)=\sum _{k=1}^{n}a_{k}\cdot \delta (H-h_{k})} כאשר   δ {\displaystyle \ \delta } היא הדלתא של דיראק. Barankin E. W. (1949), "Locally Best Unbiased Estimates", Annals of Mathematical Statistics 20 (4): 477-501. Kiefer J. (1952), "On Minimum Variance Estimators", Annals of Mathematical Statistics 23 (4): 627-629.