חסם קרמר-ראו

בתורת האמידה ובסטטיסטיקה, חסם קרמר-ראו (Cramér–Rao lower bound, CRLB) הוא חסם תחתון על השונות של אומדים של פרמטרים דטרמיניסטיים. לעיתים הוא ידוע בשמות "אי-שוויון קרמר-ראו" או "אי-שוויון האינפורמציה". הוא נקרא על שם הראלד קרמר וק. ר. ראו, שהיו בין הראשונים לקבל אותו. לפי צורתו הפשוטה ביותר של החסם, השונות המינימלית של כל אומד חסר הטיה היא ההופכי של האינפורמציה של פישר. אומד חסר הטיה שמשיג את החסם הזה נקרא אומד יעיל. אומד כזה משיג את השגיאה הריבועית הממוצעת הנמוכה ביותר מבין כל האומדים חסרי ההטיה, ולכן הוא נקרא גם UMVUE (אומד חסר הטיה בעל שונות מינימלית במידה שווה). עם זאת, לעיתים לא קיים אומד חסר-הטיה שמשיג את החסם, גם כאשר קיים אומד UMVUE. וריאציה של חסם קרמר-ראו חוסמת את השונות של אומדים בעלי-הטיה ידועה. במקרים מסוימים, אומד מוטה עשוי להניב שגיאה ריבועית ממוצעת ושונות נמוכות יותר מאלו שמשיג חסם קרמר-ראו חסר ההטייה. החסם תקף תחת שני תנאים רגולריים חלשים יחסית על פונקציית צפיפות ההסתברות   f ( x ; θ ) {\displaystyle \ f(x;\theta )} : האינפורמציה של פישר מוגדרת היטב, כלומר לכל   x {\displaystyle \ x} שבו   f ( x ; θ ) > 0 {\displaystyle \ f(x;\theta )>0} , הנגזרת ∂ ∂ θ ln ⁡ f ( x ; θ ) {\displaystyle {\frac {\partial }{\partial \theta }}\ln f(x;\theta )} קיימת והיא סופית. ניתן להחליף את הסדר של גזירה לפי   θ {\displaystyle \ \theta } ואינטגרציה לפי   x {\displaystyle \ x} . התנאי הזה מתקיים כאשר אחד מהבאים מתקיים: הפונקציה   f ( x ; θ ) {\displaystyle \ f(x;\theta )} היא בעלת תומך סופי ב-   x {\displaystyle \ x} , שגבולותיו אינם תלויים ב-   θ {\displaystyle \ \theta } . הפונקציה   f ( x ; θ ) {\displaystyle \ f(x;\theta )} היא בעלת תומך אינסופי, גזירה ברציפות, והאינטגרל מתכנס במידה שווה לכל   θ {\displaystyle \ \theta } . יהי θ {\displaystyle \theta } פרמטר דטרמיניסטי לא-ידוע המשוערך בעזרת וקטור מדידות x {\displaystyle x} . הפילוג של המדידות, שתלוי בפרמטר, הוא f ( x ; θ ) {\displaystyle f(x;\theta )} . השונות של כל אומד חסר-הטיה θ ^ {\displaystyle {\hat {\theta }}} של הפרמטר   θ {\displaystyle \ \theta } חסום על ידי ההופכי של האינפורמציה של פישר: V a r ( θ ^ ) ≥ 1 I ( θ ) {\displaystyle \mathrm {Var} ({\hat {\theta }})\geq {\frac {1}{I(\theta )}}} האינפורמציה של פישר במקרה הסקלרי I ( θ ) {\displaystyle I(\theta )} , מוגדרת לפי: I ( θ ) = E [ ( ∂ ln ⁡ f ( x ; θ ) ∂ θ ) 2 ] = − E [ ∂ 2 ln ⁡ f ( x ; θ ) ∂ θ 2 ] {\displaystyle I(\theta )=\mathrm {E} \left[\left({\frac {\partial \ln f(x;\theta )}{\partial \theta }}\right)^{2}\right]=-\mathrm {E} \left[{\frac {\partial ^{2}\ln f(x;\theta )}{\partial \theta ^{2}}}\right]} צורה כללית יותר של החסם מתקבלת עבור מקרה של אומד חסר הטיה,   T ( X ) {\displaystyle \ T(X)} , שנועד לאמוד את   ψ ( θ ) {\displaystyle \ \psi (\theta )} , פונקציה ידועה של פרמטר סקלרי דטרמיניסטי לא-ידוע   θ {\displaystyle \ \theta } . כאן, חוסר ההטיה פירושו   E [ T ( X ) ] = ψ ( θ ) {\displaystyle \ E\left[T(X)\right]=\psi (\theta )} . במקרה זה, החסם נתון על ידי: V a r ( T ) ≥ [ ψ ′ ( θ ) ] 2 I ( θ ) {\displaystyle \mathrm {Var} (T)\geq {\frac {[\psi '(\theta )]^{2}}{I(\theta )}}} גישה זו שימושית גם לצורך מציאת החסם עבור אומד בעל הטיה ידועה, אותה נסמן   b ( θ ) {\displaystyle \ b(\theta )} . במצב זה, נבחן את הפונקציה   ψ ( θ ) = θ + b ( θ ) {\displaystyle \ \psi (\theta )=\theta +b(\theta )} . כל אומד חסר הטיה שהתוחלת שלו היא   ψ ( θ ) {\displaystyle \ \psi (\theta )} , שונותו חסומה על ידי הביטוי שלעיל; במילים אחרות, השונות של כל אומד θ ^ {\displaystyle {\hat {\theta }}} שהטייתו ידועה ושווה ל-   b ( θ ) {\displaystyle \ b(\theta )} , חסומה על ידי: V a r ( θ ^ ) ≥ [ 1 + b ′ ( θ ) ] 2 I ( θ ) {\displaystyle \mathrm {Var} \left({\hat {\theta }}\right)\geq {\frac {[1+b'(\theta )]^{2}}{I(\theta )}}} . ואכן, ניתן לראות כי תוצאה זו מתכנסת לתוצאה במקרה חסר-ההטיה עבור המקרה   b ( θ ) = 0 {\displaystyle \ b(\theta )=0} . אם כן, השגיאה הריבועית הממוצעת של כל אומד מוטה חסומה על ידי: E ( ( θ ^ − θ ) 2 ) ≥ [ 1 + b ′ ( θ ) ] 2 I ( θ ) + b ( θ ) 2 {\displaystyle \mathrm {E} \left(({\hat {\theta }}-\theta )^{2}\right)\geq {\frac {[1+b'(\theta )]^{2}}{I(\theta )}}+b(\theta )^{2}} . במקרה של וקטור פרמטרים לא-ידועים, החסם דומה מאוד, אלא שכעת צורתו וקטורית: האינפורמציה של פישר היא מטריצה, ולא סקלר, ואת שונות האומד מחליפה מטריצת השונויות המשותפות (Covariance Matrix). בנוסף, מדובר בווקטור של אומדים T ( X ) {\displaystyle {\boldsymbol {T}}(X)} המקיים E [ T ( X ) ] = ψ ( θ ) {\displaystyle \mathrm {E} [{\boldsymbol {T}}(X)]={\boldsymbol {\psi }}\left({\boldsymbol {\theta }}\right)} . האינפורמציה של פישר תוגדר לפי: I = E [ ∂ T ∂ θ log ⁡ f ( x ; θ ) ∂ ∂ θ log ⁡ f ( x ; θ ) ] {\displaystyle I=\mathrm {E} \left[{\frac {\partial ^{T}}{\partial {\boldsymbol {\theta }}}}\log f\left(x;{\boldsymbol {\theta }}\right){\frac {\partial }{\partial {\boldsymbol {\theta }}}}\log f\left(x;{\boldsymbol {\theta }}\right)\right]} . החסם (זהו אי-שוויון מטריצי): C o v θ ( T ( X ) ) ≥ ∂ ψ ( θ ) ∂ θ [ I ( θ ) ] − 1 ( ∂ ψ ( θ ) ∂ θ ) T {\displaystyle \mathrm {Cov} _{\boldsymbol {\theta }}\left({\boldsymbol {T}}(X)\right)\geq {\frac {\partial {\boldsymbol {\psi }}\left({\boldsymbol {\theta }}\right)}{\partial {\boldsymbol {\theta }}}}[I\left({\boldsymbol {\theta }}\right)]^{-1}\left({\frac {\partial {\boldsymbol {\psi }}\left({\boldsymbol {\theta }}\right)}{\partial {\boldsymbol {\theta }}}}\right)^{T}} במקרה הפשוט שבו אנו אומדים ישירות את θ {\displaystyle {\boldsymbol {\theta }}} , החסם יקבל את הצורה: C o v θ ( T ( X ) ) ≥ I ( θ ) − 1 {\displaystyle \mathrm {Cov} _{\boldsymbol {\theta }}\left({\boldsymbol {T}}(X)\right)\geq I\left({\boldsymbol {\theta }}\right)^{-1}} שמזכירה מאוד את המקרה הסקלרי. זהו אי-שוויון מטריצי: ההפרש בין אגף שמאל לאגף ימין הוא מטריצה חיובית. ההוכחה הבאה היא זו של המקרה הסקלרי הכללי שהוצג לעיל. נניח ש-   X {\displaystyle \ X} הוא משתנה מקרי עם פונקציית צפיפות הסתברות   f ( x ; θ ) {\displaystyle \ f(x;\theta )} , וש-   T = t ( X ) {\displaystyle \ T=t(X)} הוא אומד של   ψ ( θ ) {\displaystyle \ \psi (\theta )} . נגדיר את V להיות הציון של הפילוג: V = ∂ ∂ θ ln ⁡ f ( X ; θ ) {\displaystyle V={\frac {\partial }{\partial \theta }}\ln f(X;\theta )} התוחלת של הציון: E [ V ] = E [ ∂ ∂ θ ln ⁡ f ( X ; θ ) ] = ∫ ∂ ∂ θ ln ⁡ f ( x ; θ ) ⋅ f ( x ; θ ) d x = ∫ ∂ ∂ θ f ( x ; θ ) d x = ∂ ∂ θ ∫ f ( x ; θ ) d x = ∂ ∂ θ ( 1 ) = 0 {\displaystyle {\begin{aligned}\mathrm {E} \left[V\right]&=\mathrm {E} \left[{\frac {\partial }{\partial \theta }}\ln f(X;\theta )\right]\\&=\int {\frac {\partial }{\partial \theta }}\ln f(x;\theta )\cdot f(x;\theta )\,dx\\&=\int {\frac {\partial }{\partial \theta }}f(x;\theta )\,dx\\&={\frac {\partial }{\partial \theta }}\int f(x;\theta )\,dx\\&={\frac {\partial }{\partial \theta }}(1)\\&=0\end{aligned}}} כאשר החלפת סדר הגזירה והאינטגרציה אפשרית בהנחה שהתנאים הרגולריים מתקיימים. השונות המשותפת של V ושל T: C o v ( V , T ) = E [ T ⋅ V ] − E [ T ] ⋅ E [ V ] = E [ T ⋅ ∂ ∂ θ ln ⁡ f ( X ; θ ) ] = ∫ t ( x ) ∂ ∂ θ f ( x ; θ ) d x = ∂ ∂ θ ∫ t ( x ) f ( x ; θ ) d x = ∂ ∂ θ E [ T ( X ) ] {\displaystyle {\begin{aligned}\mathrm {Cov} (V,T)&=\mathrm {E} \left[T\cdot V\right]-\mathrm {E} \left[T\right]\cdot \mathrm {E} \left[V\right]\\&=\mathrm {E} \left[T\cdot {\frac {\partial }{\partial \theta }}\ln f(X;\theta )\right]\\&=\int t(x){\frac {\partial }{\partial \theta }}f(x;\theta )\,dx\\&={\frac {\partial }{\partial \theta }}\int t(x)f(x;\theta )\,dx\\&={\frac {\partial }{\partial \theta }}\mathrm {E} \left[T(X)\right]\end{aligned}}} מאחר ש-   T ( X ) {\displaystyle \ T(X)} הוא אומד חסר הטיה, מתקבל: C o v ( V , T ) = ∂ ∂ θ ψ ( θ ) = ψ ′ ( θ ) {\displaystyle \mathrm {Cov} (V,T)={\frac {\partial }{\partial \theta }}\psi (\theta )=\psi '(\theta )} לפי אי-שוויון קושי-שוורץ, מתקיים:   [ C o v ( T , V ) ] 2 ≤ V a r ( T ) ⋅ V a r ( V ) {\displaystyle \ \left[\mathrm {Cov} (T,V)\right]^{2}\leq \mathrm {Var} (T)\cdot \mathrm {Var} (V)} השונות של V היא גם האינפורמציה של פישר (לפי הגדרה), ולכן נקבל בהצבה לאי-שוויון:   V a r ( T ) ≥ [ ψ ′ ( θ ) ] 2 V a r ( V ) = [ ψ ′ ( θ ) ] 2 I ( θ ) {\displaystyle \ \mathrm {Var} (T)\geq {\frac {\left[\psi '(\theta )\right]^{2}}{\mathrm {Var} (V)}}={\frac {\left[\psi '(\theta )\right]^{2}}{I(\theta )}}} שהוא החסם המבוקש. נחפש את חסם קרמר-ראו עבור מודל שבו Y 1 , . . . Y n ∼ B i n ( 1 , p ) {\displaystyle Y_{1},...Y_{n}\sim Bin(1,p)} . מכאן שפונקציית הנראות היא L ( p , Y 1 , . . . Y n ) = p ∑ ( Y i ) ⋅ ( 1 − p ) n − ∑ ( Y i ) . {\displaystyle L(p,Y_{1},...Y_{n})=p^{\sum (Y_{i})}\cdot (1-p)^{n-\sum (Y_{i})}.} כדי לקבל את האינפורמציה של פישר, צריך לחשב את לוגריתם הנראות l ( p , Y 1 , . . Y n ) = log ⁡ L = ∑ y i ⋅ log ⁡ p + ( n − ∑ Y i ) log ⁡ ( 1 − p ) {\displaystyle l(p,Y_{1},..Y_{n})=\log {L}=\sum y_{i}\cdot \log p+(n-\sum Y_{i})\log(1-p)} מגזירה מתקבל: l ′ = ( ∑ Y i − n p ) / ( p ⋅ ( 1 − p ) ) {\displaystyle l^{\prime }=(\sum Y_{i}-np)/(p\cdot (1-p))} , ולכן האינפורמציה של פישר היא E ( ( l ′ ) 2 ) = E ( ∑ Y i − n p ) 2 p 2 ( 1 − p ) 2 = n p ( 1 − p ) {\displaystyle E((l^{\prime })^{2})={\frac {E(\sum Y_{i}-np)^{2}}{p^{2}(1-p)^{2}}}={\frac {n}{p(1-p)}}} ולפי חסם קרמר-ראו עבור כל אומד חסר הטיה, p ^ {\displaystyle {\hat {p}}} , V a r ( p ^ ) ≥ p ( 1 − p ) n {\displaystyle \mathrm {Var} ({\hat {p}})\geq {\frac {p(1-p)}{n}}} האינפורמציה של פישר חסם צ'פמן-רובינס אי-שוויון קולבק Kay, Steven M. (1993). Fundamentals of Statistical Signal Processing, Volume I: Estimation Theory. Prentice Hall. Shao, Jun (1998). Mathematical Statistics. New York: Springer.