חסם צ'פמן-רובינס

בתורת האמידה ובסטטיסטיקה, חסם צ'פמן-רובינס (Chapman-Robbins Bound; לעיתים חסם המרסלי-צ'פמן-רובינס) הוא חסם תחתון על השונות של אומדים של פרמטרים דטרמיניסטיים. חסם זה הוא הכללה של חסם קרמר-ראו, ובהשוואה אליו - הוא הדוק יותר ומתאים למגוון רחב יותר של בעיות. עם זאת, חישובו לרוב מסובך יותר. החסם נגזר לראשונה ובאופן בלתי-תלוי על ידי ג'ון המרסלי ב-1950 ועל ידי דאגלס צ'פמן והרברט רובינס ב-1951. זהו מקרה פרטי של חסם ברנקין (Barankin) המורכב יותר. יהי   θ {\displaystyle \ \theta } פרמטר דטרמיניסטי לא-ידוע, ויהיה   T ( X ) {\displaystyle \ T(X)} אומד של פונקציה כלשהי של הפרמטר,   ψ ( θ ) {\displaystyle \ \psi (\theta )} . יהי   p ( x ; θ ) {\displaystyle \ p(x;\theta )} . הפילוג של   X {\displaystyle \ X} (שתלוי ב-   θ {\displaystyle \ \theta } ), ונניח כי הוא מוגדר היטב וחיובי לכל   x {\displaystyle \ x} ולכל   θ {\displaystyle \ \theta } . אם   T ( X ) {\displaystyle \ T(X)} הוא אומד חסר-הטיה של   ψ ( θ ) {\displaystyle \ \psi (\theta )} , כלומר:   E [ T ( X ) ] = ψ ( θ ) ∀ θ {\displaystyle \ \mathrm {E} \left[T(X)\right]=\psi (\theta )\,\,\forall \theta } אז לפי חסם צ'פמן-רובינס:   V a r ( T ( X ) ) ≥ sup h [ ψ ( θ + h ) − ψ ( θ ) ] 2 E [ p ( x ; θ + h ) p ( x ; θ ) − 1 ] 2 {\displaystyle \ Var(T(X))\geq \sup _{h}{\frac {\left[\psi (\theta +h)-\psi (\theta )\right]^{2}}{E\left[{\tfrac {p(x;\theta +h)}{p(x;\theta )}}-1\right]^{2}}}} . למעשה, אי השוויון (ללא הוצאת הסופרמום) מתקיים לכל   h {\displaystyle \ h} , ולכן החסם ההדוק ביותר הוא כאשר הביטוי מקבל את הסופרמום שלו לפי   h {\displaystyle \ h} . התנאי לקיומו של החסם הוא שהתומך של   p ( x ; θ + h ) {\displaystyle \ p(x;\theta +h)} יהיה מוכל בתומך של   p ( x ; θ ) {\displaystyle \ p(x;\theta )} . חסם צ'פמן-רובינס (הביטוי ללא הסופרמום) מתכנס לחסם קרמר-ראו כאשר   h → 0 {\displaystyle \ h\to 0} , בהנחה שהתנאים הרגולריים הדרושים מתקיימים (ראו בערך). מתוך כך, חסם צ'פמן-רובינס הוא תמיד הדוק לכל הפחות כמו קרמר-ראו. יתר על-כן, חסם צ'פמן-רובינס קיים תחת תנאים רגולריים חלשים משמעותית מאלו של חסם קרמר-ראו. כך למשל, להוכחת החסם לא נדרש כי הפילוג   p ( x ; θ ) {\displaystyle \ p(x;\theta )} יהיה גזיר. במקרים כאלו, האינפורמציה של פישר לא מוגדרת, ולכן חסם קרמר-ראו לא קיים.   T ( X ) {\displaystyle \ T(X)} הוא משערך חסר-הטיה, ולכן מתקיים:   ∫ T ( x ) ⋅ p ( x ; θ ) d x = ψ ( θ ) {\displaystyle \ \int T(x)\cdot p(x;\theta )\,dx=\psi (\theta )}   ∫ T ( x ) ⋅ p ( x ; θ + h ) d x = ψ ( θ + h ) {\displaystyle \ \int T(x)\cdot p(x;\theta +h)\,dx=\psi (\theta +h)} חיסור המשוואות:   ∫ T ( x ) ⋅ ( p ( x ; θ + h ) − p ( x ; θ ) ) d x = ψ ( θ + h ) − ψ ( θ ) {\displaystyle \ \int T(x)\cdot (p(x;\theta +h)-p(x;\theta ))\,dx=\psi (\theta +h)-\psi (\theta )} בנוסף מתקיים:   ∫ ψ ( θ ) ⋅ ( p ( x ; θ + h ) − p ( x ; θ ) ) d x = ψ ( θ ) ⋅ ∫ ( p ( x ; θ + h ) − p ( x ; θ ) ) d x = ψ ( θ ) ⋅ ( 1 − 1 ) = 0 {\displaystyle \ \int \psi (\theta )\cdot (p(x;\theta +h)-p(x;\theta ))\,dx=\psi (\theta )\cdot \int (p(x;\theta +h)-p(x;\theta ))\,dx=\psi (\theta )\cdot (1-1)=0} נחסיר בין שתי המשוואות האחרונות, לקבלת:   ∫ ( T ( x ) − ψ ( θ ) ) ⋅ p ( x ; θ + h ) − p ( x ; θ ) p ( x ; θ ) ⋅ p ( x ; θ ) d x = ψ ( θ + h ) − ψ ( θ ) {\displaystyle \ \int (T(x)-\psi (\theta ))\cdot {\frac {p(x;\theta +h)-p(x;\theta )}{p(x;\theta )}}\cdot p(x;\theta )\,dx=\psi (\theta +h)-\psi (\theta )} כלומר:   E [ ( T ( X ) − ψ ( θ ) ) ⋅ ( p ( x ; θ + h ) p ( x ; θ ) − 1 ) ] = ψ ( θ + h ) − ψ ( θ ) {\displaystyle \ \mathrm {E} \left[(T(X)-\psi (\theta ))\cdot ({\frac {p(x;\theta +h)}{p(x;\theta )}}-1)\right]=\psi (\theta +h)-\psi (\theta )} העלאת המשוואה בריבוע ואי-שוויון קושי-שוורץ יניבו:   ( ψ ( θ + h ) − ψ ( θ ) ) 2 = E [ ( T ( X ) − ψ ( θ ) ) ⋅ ( p ( x ; θ + h ) p ( x ; θ ) − 1 ) ] 2 ≤ E [ ( T ( X ) − ψ ( θ ) ) 2 ] ⋅ E [ ( p ( x ; θ + h ) p ( x ; θ ) − 1 ) 2 ] {\displaystyle \ (\psi (\theta +h)-\psi (\theta ))^{2}=\mathrm {E} \left[(T(X)-\psi (\theta ))\cdot ({\frac {p(x;\theta +h)}{p(x;\theta )}}-1)\right]^{2}\leq \mathrm {E} \left[(T(X)-\psi (\theta ))^{2}\right]\cdot \mathrm {E} \left[({\frac {p(x;\theta +h)}{p(x;\theta )}}-1)^{2}\right]} ומכאן:   V a r ( T ( X ) ) ≥ [ ψ ( θ + h ) − ψ ( θ ) ] 2 ( p ( x ; θ + h ) p ( x ; θ ) − 1 ) 2 {\displaystyle \ Var(T(X))\geq {\frac {\left[\psi (\theta +h)-\psi (\theta )\right]^{2}}{({\tfrac {p(x;\theta +h)}{p(x;\theta )}}-1)^{2}}}} שזהו החסם המבוקש. חסם קרמר-ראו תורת האמידה Hammersley, J. M. (1950), "On estimating restricted parameters", Journal of the Royal Statistical Society, Series B 12 (2): 192–240. Chapman, D. G.; Robbins, H. (1951), "Minimum variance estimation without regularity assumptions", Annals of Mathematical Statistics 22 (4): 581–586. Lehmann, E. L.; Casella, G. (1998), Theory of Point Estimation (2nd ed.), Springer.