נראות מקסימלית

שיטת הנראות המקסימלית (או הנראות המרבית) היא שיטה נפוצה בסטטיסטיקה להתאמת מודל סטטיסטי לנתונים, כלומר היא משמשת במסגרת אמידה פרמטרית למציאת אומד לפרמטר המאפיין את המודל. למשל, במקרה שבו נתון שמשתנה מקרי הוא בעל התפלגות נורמלית אלא שהתוחלת שלו אינה ידועה, גישה זו מספקת דרך למציאת אומדן לתוחלת. באופן אינטואיטיבי הגישה אומרת שכדי לנבא היטב את הפרמטר האמיתי על-סמך מדגם מקרי מסוים, יש לבדוק איזה פרמטר מתוך כל האפשרויות הוא זה ש"יסביר" בצורה הטובה ביותר את המדגם. כלומר אומד הנראות המרבית הוא הפרמטר שאילו היינו מציבים בפונקציית ההתפלגות מראש, הוא היה נותן את ההסתברות הגבוהה ביותר לקבל את המדגם שאכן התקבל, ובכך ממקסם את פונקציית הנראות. ההנחה כי הדוגמאות במדגם הן בלתי-תלויות ושוות-התפלגות מפשטת מאוד את הניתוח המתמטי ואת האופטימיזציה של פונקציית הנראות. מקובל לסמן את הנראות המקסימלית באותיות MLE, ראשי תיבות של Maximum Likelihood Estimation. ערך מורחב – פונקציית נראות נניח כי X 1 , … , X n {\displaystyle X_{1},\ldots ,X_{n}} מדגם בלתי תלוי המפולג עם פונקציית הצפיפות f x ( x , θ ) {\displaystyle f_{x}(x,\theta )} (כל הדוגמאות שוות התפלגות), וכי הדוגמאות בלתי-תלויות, כלומר הן מייצגות משתנים מקריים בלתי-תלויים ושווי-התפלגות. פונקציית הנראות (likelihood; מסומנת לעיתים כ- L {\displaystyle {\mathcal {L}}} ) של המדגם היא הצפיפות המשותפת: L ( θ ; x 1 , … , x n ) = f ( x 1 , x 2 , … , x n ∣ θ ) = ∏ i = 1 n f ( x i | θ ) = f ( x 1 | θ ) ⋯ f ( x n | θ ) {\displaystyle {\mathcal {L}}(\theta \,;\,x_{1},\ldots ,x_{n})=f(x_{1},x_{2},\ldots ,x_{n}\mid \theta )=\prod _{i=1}^{n}f(x_{i}|\theta )=f(x_{1}|\theta )\cdots f(x_{n}|\theta )} כאשר θ {\displaystyle \theta } הוא פרמטר (או פרמטרים) של המודל או של פונקציית הצפיפות. לעיתים נעשה שימוש בנראות הממוצעת ℓ ^ = 1 n ln ⁡ L {\displaystyle {\hat {\ell }}={\frac {1}{n}}\ln {\mathcal {L}}} המציינת את תוחלת הנראות לדוגמה יחידה. נרצה למצוא את הערך שממקסם את פונקציית הנראות ( { θ ^ M L E } ⊆ { a r g m a x θ ∈ Θ   ℓ ^ ( θ ; x 1 , … , x n ) } {\displaystyle \{{\hat {\theta }}_{\mathrm {MLE} }\}\subseteq \{{\underset {\theta \in \Theta }{\operatorname {arg\,max} }}\ {\hat {\ell }}(\theta \,;\,x_{1},\ldots ,x_{n})\}} ), הנקרא אומד הנראות המרבית. נהוג להשתמש בלוגריתם שאיתו בדרך כלל נוח יותר לעבוד (הודות לגזירה פשוטה יותר וליציבות נומרית), ומאחר שהלוגריתם הוא פונקציה מונוטונית עולה, הערך שימקסם את לוג הנראות (log-likelihood) ימקסם גם את הנראות. למציאת הערך המרבי נשתמש ב- ln {\displaystyle \ln } , נגזור ונשווה לאפס: ∂ ln ⁡ ( ∏ i = 1 n f x i ( x , θ ) ) ∂ θ = ∂ ∑ i = 1 n ln ⁡ ( f x i ( x , θ ) ) ∂ θ = 0 {\displaystyle {\frac {\partial \ln(\prod _{i=1}^{n}f_{x_{i}}(x,\theta ))}{\partial \theta }}={\frac {\partial \sum _{i=1}^{n}\ln(f_{x_{i}}(x,\theta ))}{\partial \theta }}=0} מתוך המשוואה המתקבלת מחלצים את ערך הנעלם θ {\displaystyle \theta } , והוא זה שממקסם את פונקציית הנראות. ערך זה הוא אומד הנראות המרבית לפרמטר הנאמד θ {\displaystyle \theta } . בהנחה שגובהן של ג'ירפות מתפלג נורמלית, ניתן לאמוד את ערך התוחלת והשונות באמצעות נראות מקסימלית על מדגם הג'ירפות שבגן החיות, שכן אין באפשרותנו למדוד את גובהן של כל הג'ירפות בעולם. אם נניח כי הג'ירפות בגן החיות מהוות מדגם מקרי של n ג'ירפות מאוכלוסיית הג'ירפות בעולם, x 1 , x 2 , … , x n {\displaystyle x_{1},x_{2},\ldots ,x_{n}} , נוכל לאמוד את הפרמטרים μ {\displaystyle \mu } ו- σ 2 {\displaystyle {\sigma }^{2}} (התוחלת והשונות) של ההתפלגות באמצעות אומדי נראות מקסימליים כלהלן. עבור התוחלת: μ ^ = x ¯ ≡ 1 n ∑ i = 1 n x i , {\displaystyle {\hat {\mu }}={\overline {x}}\equiv {\frac {1}{n}}\sum _{i=1}^{n}x_{i},\qquad } ועבור השונות: σ ^ 2 = 1 n ∑ i = 1 n ( x i − x ¯ ) 2 . {\displaystyle {\hat {\sigma }}^{2}={\frac {1}{n}}\sum _{i=1}^{n}(x_{i}-{\overline {x}})^{2}.} כאשר x ¯ {\displaystyle {\overline {x}}} הוא ממוצע המדגם. ערך מורחב – בעיית הטנק הגרמני במקרה שבו קלפים ממוספרים 1 עד n מוכנסים לתיבה ואחד נבחר בהתפלגות אחידה; ובהתאם גודל הדגימה הוא 1. אם n אינו ידוע, אומד הנראות המקסימלית שלו n ^ {\displaystyle {\hat {n}}} הוא המספר m הכתוב על הקלף שנבחר (ההסתברות ש-n הוא קטן מ־m היא אפס, עבור n ≥ m {\displaystyle n\geq m} ההסתברות היא 1 n {\displaystyle {\frac {1}{n}}} , והיא הגבוהה ביותר כאשר n = m {\displaystyle n=m} ). התוחלת של הוצאת הקלף m, ובהתאם התוחלת של n ^ {\displaystyle {\hat {n}}} היא n + 1 2 {\displaystyle {\frac {n+1}{2}}} . מסיבה זו עבור דגימה בגודל 1, אומד הנראות המרבית ל-n יעריך (בתוחלת) את n פחות ממה שהוא ב n − 1 2 {\displaystyle {\frac {n-1}{2}}} . עקיבות: תחת תנאי רגולריות מסוימים, כאשר גודל המדגם שואף לאינסוף, האומד מתכנס בהסתברות לערכו האמיתי של הפרמטר. זוהי תכונה חשובה שמאפשרת לנו למעשה לאמוד את הפרמטר בכל רמת דיוק שנרצה. אינווריאנטיות פונקציונלית: אם θ ^ {\displaystyle {\hat {\theta }}} הוא אומד נראות מקסימלית של פרמטר θ {\displaystyle \theta } , ו- g ( x ) {\displaystyle g(x)} היא פונקציה כלשהי אז g ( θ ^ ) {\displaystyle g({\hat {\theta }})} הוא אומד נראות מקסימלית לפרמטר g ( θ ) {\displaystyle g({\theta })} . אומד נראות מקסימלית משמש למגוון רחב של מודלים סטטיסטיים, כולל: מודלים ליניאריים וגם מודלים ליניאריים מוכללים מידול משוואות מבני מצבים רבים בהקשר של בדיקת השערות ורווחי סמך מודלי מבחר בדיד שימושים אלה עולים במגוון רחב של תחומים, כגון: מערכות תקשורת מבחנים פסיכומטריים אקונומטריקה זמני השהייה בגילוי וקבלת אותות אקוסטיים או אלקטרו-מגנטיים. מידול נתונים בפיזיקה גרעינית ופיזיקת חלקיקים. דימות תהודה מגנטית פילוגנטיקה חישובית מידול מוצא/יעד ובחירת מסלול במערכות תחבורה סיווג גאוגרפי של תמונות לוויין. אלגוריתם מיקסום התוחלת מדיה וקבצים בנושא נראות מקסימלית בוויקישיתוף נראות מקסימלית, באתר MathWorld (באנגלית) אם g אינה פונקציה חד-חד-ערכית, אז פונקציית הנראות שלה L ¯ ( α ) {\displaystyle {\bar {L}}(\alpha )} מוגדרת כמקסימום על פני כל ערכי θ {\displaystyle \theta } עבורם g ( θ ) = α {\displaystyle {g}(\theta )=\alpha } , כלומר: L ¯ ( α ) = sup θ : α = g ( θ ) L ( θ ) {\displaystyle {\bar {L}}(\alpha )=\sup _{\theta :\alpha =g(\theta )}L(\theta )\,} , והמשמעות של אומד נראות מרבית במקרה זה היא בהתאם.