חסם צ'פמן-רובינס

בתורת האמידה ובסטטיסטיקה, חסם צ'פמן-רובינס (Chapman-Robbins Bound; לעיתים חסם המרסלי-צ'פמן-רובינס) הוא חסם תחתון על השונות של אומדים של פרמטרים דטרמיניסטיים. חסם זה הוא הכללה של חסם קרמר-ראו, ובהשוואה אליו - הוא הדוק יותר ומתאים למגוון רחב יותר של בעיות. עם זאת, חישובו לרוב מסובך יותר.

החסם נגזר לראשונה ובאופן בלתי-תלוי על ידי ג'ון המרסלי ב-1950 ועל ידי דאגלס צ'פמן והרברט רובינס ב-1951. זהו מקרה פרטי של חסם ברנקין (Barankin) המורכב יותר.

== החסם ==
יהי <math>\ \theta</math> פרמטר דטרמיניסטי לא-ידוע, ויהיה <math>\ T(X)</math> אומד של פונקציה כלשהי של הפרמטר, <math>\ \psi(\theta)</math>. יהי <math>\ p(x;\theta)</math>. הפילוג של <math>\ X</math> (שתלוי ב-<math>\ \theta</math>), ונניח כי הוא מוגדר היטב וחיובי לכל <math>\ x</math> ולכל <math>\ \theta</math>.

אם <math>\ T(X)</math> הוא אומד חסר-הטיה של <math>\ \psi(\theta)</math>, כלומר:
:<math>\ \mathrm{E}\left[T(X)\right]=\psi(\theta) \, \, \forall \theta</math>

אז לפי חסם צ'פמן-רובינס:
:<math>\ Var(T(X)) \ge \sup_h \frac{\left[ \psi(\theta+h) - \psi(\theta) \right]^2}{E \left[ \tfrac{p(x;\theta+h)}{p(x;\theta)} - 1 \right]^2}</math>.

למעשה, אי השוויון (ללא הוצאת הסופרמום) מתקיים לכל <math>\ h</math>, ולכן החסם ההדוק ביותר הוא כאשר הביטוי מקבל את הסופרמום שלו לפי <math>\ h</math>. התנאי לקיומו של החסם הוא שהתומך של <math>\ p(x;\theta+h)</math> יהיה מוכל בתומך של <math>\ p(x;\theta)</math>.

== הקשר לחסם קרמר-ראו ==
חסם צ'פמן-רובינס (הביטוי ללא הסופרמום) מתכנס לחסם קרמר-ראו כאשר <math>\ h \to 0</math>, בהנחה שהתנאים הרגולריים הדרושים מתקיימים (ראו בערך). מתוך כך, חסם צ'פמן-רובינס הוא תמיד הדוק לכל הפחות כמו קרמר-ראו. יתר על-כן, חסם צ'פמן-רובינס קיים תחת תנאים רגולריים חלשים משמעותית מאלו של חסם קרמר-ראו. כך למשל, להוכחת החסם לא נדרש כי הפילוג <math>\ p(x;\theta)</math> יהיה גזיר. במקרים כאלו, האינפורמציה של פישר לא מוגדרת, ולכן חסם קרמר-ראו לא קיים.

== הוכחת החסם ==
<math>\ T(X)</math> הוא משערך חסר-הטיה, ולכן מתקיים:
:<math>\ \int T(x)\cdot p(x;\theta) \, dx = \psi(\theta)</math>
:<math>\ \int T(x)\cdot p(x;\theta+h) \, dx = \psi(\theta+h)</math>
חיסור המשוואות:
:<math>\ \int T(x) \cdot (p(x;\theta+h)-p(x;\theta)) \, dx=\psi(\theta+h)-\psi(\theta)</math>
בנוסף מתקיים:
:<math> \ \int \psi(\theta) \cdot (p(x;\theta+h)-p(x;\theta)) \, dx=\psi(\theta) \cdot \int (p(x;\theta+h)-p(x;\theta)) \, dx=\psi(\theta) \cdot (1-1)=0</math>
נחסיר בין שתי המשוואות האחרונות, לקבלת:
:<math>\ \int (T(x)-\psi(\theta)) \cdot \frac{p(x;\theta+h)-p(x;\theta)}{p(x;\theta)} \cdot p(x;\theta) \, dx=\psi(\theta+h)-\psi(\theta)</math>
כלומר:
:<math>\ \mathrm{E} \left[(T(X)-\psi(\theta)) \cdot (\frac{p(x;\theta+h)}{p(x;\theta)}-1) \right]=\psi(\theta+h)-\psi(\theta)</math>
העלאת המשוואה בריבוע ואי-שוויון קושי-שוורץ יניבו:
:<math>\ (\psi(\theta+h)-\psi(\theta))^2 = \mathrm{E} \left[(T(X)-\psi(\theta)) \cdot (\frac{p(x;\theta+h)}{p(x;\theta)}-1) \right] ^2 \le \mathrm{E} \left[(T(X)-\psi(\theta))^2 \right] \cdot \mathrm{E} \left[(\frac{p(x;\theta+h)}{p(x;\theta)}-1)^2\right]</math>
ומכאן:
:<math>\ Var(T(X)) \ge \frac{\left[\psi(\theta+h)-\psi(\theta)\right]^2}{(\tfrac{p(x;\theta+h)}{p(x;\theta)} - 1)^2}</math>
שזהו החסם המבוקש.

== ראו גם ==
* חסם קרמר-ראו
* תורת האמידה

== לקריאה נוספת ==

צ'פמן-רובינס