در آمار، **برآوردگر بیشینه‌گر احتمال پسین** (به انگلیسی: Maximum a posteriori estimation) یک پارامتر، مد توزیع احتمال پسین آن پارامتر است. به بیان ریاضی، اگر داده X بر اساس توزیع {\displaystyle f(X|\theta )} با پارامتر \theta  توزیع شده‌باشند و {\displaystyle g(\theta )} و {\displaystyle f(X|\theta )} به ترتیب احتمال پیشین پارامتر و درستنمایی داده را نشان دهند، برآوردگر بیشینه‌گر احتمال پسین برابر خواهد بود با:

{\displaystyle {\hat {\theta }}\_{\mathrm {MAP} }(x)={\underset {\theta }{\operatorname {arg\,max} }}\ {\frac {f(x|\theta )\,g(\theta )}{\displaystyle \int \_{\vartheta }f(x|\vartheta )\,g(\vartheta )\,d\vartheta }}={\underset {\theta }{\operatorname {arg\,max} }}\ f(x|\theta )\,g(\theta ).\!}
برآوردگر بیشینه‌گر احتمال پسین ارتباط نزدیکی با برآورد درستنمایی بیشینه دارد، با این تفاوت که برای پارامتر مورد تخمین احتمال پیشین را هم در نظر می‌گیرد. در نتیجه، می‌توان برآوردگر بیشینه‌گر احتمال پسین را همان برآورد درست‌نمایی بیشینه دانست به همراه یک تنظیم‌گر.

توضیحات
-------

فرض کنید میخواهیم پارامتر جمعیت مشاهده نشده‌ی \theta  را بر اساس مشاهدات x تخمین بزنیم. فرض کنید f توزیع نمونه گیری x باشد، پس احتمال x وقتی که پارامتر جمعیت \theta  باشد، {\displaystyle f(x|\theta )} است. تابع زیر به تابع درست‌نمایی معروف است:

{\displaystyle \theta \mapsto f(x|\theta )}

و تخمین زیر، برآورد حداکثر درست نمایی است:

{\displaystyle {\hat {\theta }}\_{\mathrm {MLE} }(x)={\underset {\theta }{\operatorname {arg\,max} }}\ f(x\mid \theta )}

حال فرض کنید توزیع پیشین g روی \theta  وجود داشته باشد. این کار به ما اجازه می دهد تا با \theta  به عنوان یک متغیر تصادفی رفتار کنیم. محاسبه‌ی توزیع پسین \theta  با استفاده از قانون بیز به صورت زیر است:

{\displaystyle \theta \mapsto f(\theta \mid x)={\frac {f(x\mid \theta )\,g(\theta )}{\displaystyle \int \_{\Theta }f(x\mid \vartheta )\,g(\vartheta )\,d\vartheta }}}

g تابع چگالی \theta  و {\displaystyle \Theta } دامنه‌ی g است.

روش برآوردگر بیشینه‌گر احتمال پسین به صورت زیر است:

{\displaystyle {\hat {\theta }}\_{\mathrm {MAP} }(x)={\underset {\theta }{\operatorname {arg\,max} }}\ f(\theta \mid x)={\underset {\theta }{\operatorname {arg\,max} }}\ {\frac {f(x\mid \theta )\,g(\theta )}{\displaystyle \int \_{\Theta }f(x\mid \vartheta )\,g(\vartheta )\,d\vartheta }}={\underset {\theta }{\operatorname {arg\,max} }}\ f(x\mid \theta )\,g(\theta ).}

مخرج کسر بالا همواره مثبت است و نیز وابسته به \theta  نیست، در نتیجه نقشی در بهینه سازی تابع ندارد. وقتی g تابعی ثابت باشد آن گاه برآوردگر بیشینه‌گر احتمال پسین همانند برآوردگر بیشینه درست نمایی عمل میکند.

هر وقت تابع هزینه به شکل زیر باشد:

{\displaystyle L(\theta ,a)={\begin{cases}0,&{\text{if }}|a-\theta |<c,\\1,&{\text{otherwise}},\\\end{cases}}}

و c به عدد 0 نزدیک شود، برآوردگر بیزی به برآوردگر بیشینه‌گر احتمال پسین نزدیکتر میشود(با فرض اینکه توزیع \theta  شبه مقعر باشد). ولی به صورت کلی برآوردگر بیشینه‌گر احتمال پسین یک برآوردگر بیزی نیست مگر آنکه \theta  گسسته باشد.

محاسبه
------

محاسبه:

برآوردگر بیشینه‌گر احتمال پسین به چندین روش می‌تواند محاسبه شود:

1. تحلیلی، زمانی که مد(های) توزیع پسین به شکل عبارت فرم بسته باشد. این مورد زمانی است که توزیع مزدوج پیشین استفاده میشود.
2. به وسیله‌ی بهینه سازی عددی، مانند روش گرادیان مزدوج یا روش نیوتون. این روش معمولا نیازمند مشتقات اول و دوم است.
3. به وسیله تغییر دادن الگوریتم امید ریاضی بیشینه کردن. در این روش نیازی به محاسبه مشتقات چگالی پسین نیست.
4. به روش مونت‌کارلو و با استفاده از الگوریتم تبرید شبیه‌سازی‌شده.

محدودیت‌ها
----------

یک مثال از چگالی یک توزیع دوبعدی که در آن بالاترین مد توصیف‌گر اکثریت توزیع نیست
در حالی که فقط شرایط خفیف برای برآوردگر بیشینه‌گر احتمال پسین نیاز است تا نمونه‌ی حدی یک تخمین‌گر بیزی باشد(تحت تابع هزینه‌ی 1-0)، ولی عموما نمایانگر روش‌های بیزی نیست. آن به این دلیل است که برآوردگرهای بیشینه‌گر احتمال پسین، تخمین‌گر نقطه هستند در حالی که روش‌های بیزی از توزیع‌ها برای خلاصه‌سازی داده و نتیجه‌گیری استفاده می‌کنند. از این رو روش‌های بیزی برای گزارش پسین میانگین یا میانه(در کنار بازه‌های مورد قبول) معتبر هستند، زیرا این تخمین‌گرها به‌ترتیب تحت خطای مربعات و خطای خطی بهینه هستند و همچنین توزیع پسین ممکن است توزیع آنالیزی ساده‌ای نداشته باشد(در چنین شرایطی توزیع با استفاده از زنجیره مارکوف مونت‌کارلو می‌تواند شبیه‌سازی شود در حالی که بهینه‌سازی برای پیدا کردن مدهایش ممکن است سخت یا ناممکن باشد).

  

در بسیاری از انواع مدل‌ها همانند مدل‌های مخلوط، پسین ممکن است چند-مُدال باشد. در این شرایط توصیه آن است که بیشترین مد انتخاب شود که همواره امکان پذیر نیست و گاهی احتمال دارد ناممکن باشد. علاوه‌بر این‌ها بیشترین مد ممکن است بیانگر ویژگی‌های اغلب پسین‌ها نباشد.

  

برخلاف برآوردگرهای درست‌نمایی بیشینه، برآوردگرهای بیشینه‌گر احتمال پسین هنگام دوباره‌سازی پارامترها ثابت نیستند. زیرا تغییر از یکی به دیگری ژاکوبین جدیدی را ایجاد می‌کند که روی مکان بیشینه اثر می‌گذارد.

  

فرض کنید می‌خواهیم ورودی‌های xرا مثبت یا منفی طبقه‌بندی کنیم. سه فرضیه ممکن {\displaystyle h\_{1}}،{\displaystyle h\_{2}}و {\displaystyle h\_{3}} درباره‌ی روش صحیح دسته‌بندی به ترتیب با پسین‌های 0.4، 0.3 و 0.3 وجود دارد. فرض کنید برای نمونه‌ی جدید x، سه دسته‌بندی کننده‌ی ذکر شده به‌ترتیب xرا مثبت، منفی و منفی دسته‌بندی می‌کند. x با استفاده از برآوردگر بیشینه‌گر احتمال پسین برای دسته‌بندی کننده‌ی {\displaystyle h\_{1}} مثبت و با استفاده از تخمین‌گر بیزی روی همه‌ی فرضیه‌ها، منفی دسته‌بندی می‌شود.

مثال
----

فرض کنید {\displaystyle (x\_{1},x\_{2},...x\_{n})} دنباله ای از متغیرهای تصادفی مستقل با توزیع یکسان {\displaystyle N(\mu ,\sigma \_{v}^{2})} و {\displaystyle N(\mu \_{0},\sigma \_{m}^{2})} توزیع پسین \mu  باشد. میخواهیم برآوردگر بیشینه‌گر احتمال پسین \mu  را پیدا کنیم.

تابعی که میخواهیم بیشینه کنیم به صورت زیر است:

{\displaystyle f(\mu )f(x\mid \mu )=\pi (\mu )L(\mu )={\frac {1}{{\sqrt {2\pi }}\sigma \_{m}}}\exp \left(-{\frac {1}{2}}\left({\frac {\mu -\mu \_{0}}{\sigma \_{m}}}\right)^{2}\right)\prod \_{j=1}^{n}{\frac {1}{{\sqrt {2\pi }}\sigma \_{v}}}\exp \left(-{\frac {1}{2}}\left({\frac {x\_{j}-\mu }{\sigma \_{v}}}\right)^{2}\right)}

که هم ارز است با کمینه کردن تابع زیر از \mu :

{\displaystyle \sum \_{j=1}^{n}\left({\frac {x\_{j}-\mu }{\sigma \_{v}}}\right)^{2}+\left({\frac {\mu -\mu \_{0}}{\sigma \_{m}}}\right)^{2}.}

در نهایت برآوردگر بیشینه‌گر احتمال پسین برای \mu  به شکل زیر در می‌آید:

{\displaystyle {\hat {\mu }}\_{\mathrm {MAP} }={\frac {\sigma \_{m}^{2}\,n}{\sigma \_{m}^{2}\,n+\sigma \_{v}^{2}}}\left({\frac {1}{n}}\sum \_{j=1}^{n}x\_{j}\right)+{\frac {\sigma \_{v}^{2}}{\sigma \_{m}^{2}\,n+\sigma \_{v}^{2}}}\,\mu \_{0}={\frac {\sigma \_{m}^{2}\left(\sum \_{j=1}^{n}x\_{j}\right)+\sigma \_{v}^{2}\,\mu \_{0}}{\sigma \_{m}^{2}\,n+\sigma \_{v}^{2}}}}

که یک رابطه‌ی خطی وزن دار بین میانگین پیشین و میانگین نمونه است.

وقتی {\displaystyle \sigma \_{m}} به بینهایت میل کند اصطلاحا به این، پیشین غیر آموزنده گفته میشود. در این حالت {\displaystyle {\hat {\mu }}\_{\mathrm {MAP} }\to {\hat {\mu }}\_{\mathrm {ML} }}.

منابع
-----


Wikipedia contributors, "Maximum a posteriori estimation," Wikipedia, The Free Encyclopedia, (accessed December 21, 2012). 


| * ن
* ب
* و
آمار |
| --- |
| 

| آمار توصیفی |
| --- |
| 

|  |  |  |  |  |  |  |  |
| --- | --- | --- | --- | --- | --- | --- | --- |
| توزیع احتمال | 

|  |  |
| --- | --- |
| پارامتر مکان | 
* میانگین (میانگین حسابی، میانگین هندسی، میانگین همساز)
* میانه
* مد

 |
| سنجش‌های پراکندگی | 
* دامنه
* انحراف معیار
* ضریب تغییرات
* صدک
* دامنه بین چارکی

 |
| شکل توزیع‌ها | 
* واریانس
* چولگی
* کشیدگی
* گشتاور
* ال-گشتاور

 |

 |
| توزیع احتمال | شاخص پراکندگی |
| جدول‌های خلاصه | 
* داده‌های گروه‌بندی‌شده
* توزیع فراوانی
* جدول پیشایندی

 |
| ضریب همبستگی | 
* ضریب همبستگی حاصل‌ضرب-گشتاور پیرسون
* ضریب همبستگی رتبه‌ای (ضریب همبستگی رتبه‌ای اسپیرمن، تای کندال)
* همبستگی جزئی
* نمودار نقطه‌ای

 |
| نمودارهای آماری | 
* نمودار میله‌ای
* دونموداره
* نمودار جعبه‌ای
* نمودار کنترل
* همبستگی‌نگار
* نمودار جنگلی
* بافت‌نگار
* نمودار Q-Q
* نمودار احتمال-احتمال
* نمودار توالی
* نمودار پراکنش
* نمودار ساقه و برگ
* نمودار راداری

 |

 |

 |
| 

| گردآوری داده |
| --- |
| 

|  |  |
| --- | --- |
| طراحی مطالعات | 
* اندازه تأثیر
* خطای استاندارد
* توان آماری
* تعیین اندازه نمونه

 |
| روش‌های آمارگیری | 
* نمونه
* پرسشنامه
* نمونه‌گیری طبقه‌بندی‌شده
* نظرسنجی

 |
| آزمایش | 
* طراحی آزمایش
* آزمایش تصادفی
* انتساب تصادفی
* تکرار آزمایش
* بلوک‌بندی
* آزمایش عاملی
* طراحی بهینه

 |
| مطالعات کنترل‌نشده | 
* آزمایش طبیعی
* شبه‌آزمایش
* مطالعه مشاهده‌ای

 |

 |

 |
| 

| استنباط آماری |
| --- |
| 

|  |  |
| --- | --- |
| نظریه آمار | 
* توزیع نمونه‌گیری
* آماره بسنده
* فراتحلیل
* آماره ترتیبی
* آماره کاوشی
* مقدار رکورد
* کامل بودن
* خانواده نمایی
* آزمون جایگشتی (آزمون تصادفیدن)
* توزیع نمونه‌ای
* بوت‌استرپینگ
* آماره U
* کارایی
* آمار باثبات

 |
| استنباط فراوانی‌گرایانه | 
* برآوردگر بدون بایاس (برآوردگر میانگین‌نااریب حداقل واریانس، برآوردگر میانه‌نااریب)
* برآوردگرهای با بایس (برآورد درست‌نمایی بیشینه، روش گشتاورها، برآورد با کمینه فاصله، برآورد چگالی)
* بازه اطمینان
* آزمون فرض آماری
* توان آماری
* آزمون‌های پارامتری (آزمون نسبت درست‌نمایی، آزمون والد، آزمون نمره)

 |
| استنباط بیزی | 
* احتمال بیزی
* احتمال پیشین
* احتمال پسین
* بازه مورد قبول
* عامل بیز
* برآوردگر بیزی
* برآوردگر بیشینه‌گر احتمال پسین

 |
| آزمون‌های خاص | 
* آزمون Z نرمال بودن
* توزیع تی-استیودنت
* آزمون اف
* آزمون خی‌دوی پیرسون
* آزمون مان-ویتنی
* آزمون شاپیرو-ویلک
* آزمون ویلکاکسون
* آزمون کولموگروف-اسمیرنف

 |

 |

 |
| 

| ضریب همبستگی و تحلیل رگرسیون |
| --- |
| 

|  |  |
| --- | --- |
| ضریب همبستگی | 
* ضریب همبستگی پیرسون
* همبستگی جزئی
* اختلاط
* ضریب تشخیص

 |
| تحلیل رگرسیون | 
* خطاها و مانده‌ها در آمار
* اعتبارسنجی مدل رگرسیون
* مدل آمیخته
* مدل معادلات همزمان

 |
| رگرسیون خطی | 
* رگرسیون ساده خطی
* کمینه مربعات خطی
* رگرسیون چندمتغیره
* رگرسیون خطی بیزی

 |
| پیش‌بینی‌های غیراستاندارد | 
* رگرسیون غیرخطی
* رگرسیون ناپارامتری
* رگرسیون نیمه پارامتری
* رگرسیون همنوا
* رگرسیون باثبات
* ناهم‌واریانسی
* هم‌واریانسی

 |
| مدل خطی تعمیم‌یافته | 
* خانواده نمایی
* رگرسیون لجستیک
* رگرسیون دوجمله‌ای
* پواسون

 |
| تقسیم مجموع مربعات | 
* تحلیل واریانس
* تحلیل کوواریانس
* تحلیل واریانس چندمتغیره
* درجه آزادی

 |

 |

 |
| 

| داده‌های رسته‌ای، آمار چندمتغیره، تحلیل سری زمانی یا تحلیل بقا |
| --- |
| 

|  |  |
| --- | --- |
| داده‌های رسته‌ای | 
* کاپای کوهن
* جدول پیشایندی
* مدل گرافی
* رگرسیون پواسون
* آزمون مک‌نمار

 |
| آمار چندمتغیره | 
* رگرسیون چندمتغیره
* تحلیل مؤلفه‌های اصلی
* تحلیل عاملی
* تحلیل خوشه‌ای
* مفصل

 |
| تحلیل سری زمانی | 

|  |  |
| --- | --- |
| عمومی | 
* تجزیه
* تخمین روند
* فرایند مانا
* تصحیح فصلی‌بودن
* هموارسازی نمایی
* هم‌جمعی

 |
| تست‌های خاص | 
* علیت گرانجر
* آماره Q
* آماره دوربین-واتسون

 |
| دامنه زمان | 
* خودهمبستگی
* تابع خودهمبستگی جزئی
* همبستگی متقابل
* آرما
* مدل آریما
* گارچ
* اتورگرسیو برداری

 |
| دامنه فرکانس | 
* تخمین طیفی
* تحلیل فوریه
* موجک

 |

 |
| تحلیل بقا | 
* تابع احتمال بقا
* برآوردگر کاپلان-مه‌یر
* آزمون لگ‌رتبه‌ای
* نرخ خرابی
* مدل خطرهای متناسب
* مدل زمان خرابی شتابیده

 |

 |

 |
| 

| کاربردهای آمار |
| --- |
| 

|  |  |
| --- | --- |
| آمار زیستی | 
* بیوانفورماتیک
* زیست‌سنجشی
* کارآزمایی بالینی و مطالعات
* همه‌گیرشناسی
* آمار پزشکی

 |
| آمار مهندسی | 
* شیمی آماری
* مهندسی روش‌ها
* طراحی احتمالاتی
* کنترل آماری فرایندها کنترل کیفیت
* مهندسی قابلیت اطمینان
* شناسایی سامانه

 |
| آمار اجتماعی | 
* آکچوئری
* سرشماری
* آمار جرم
* آمار جمعیت‌شناسی
* اقتصادسنجی
* حساب‌های ملی
* آمار رسمی
* جامعه آماری
* روان‌سنجی

 |
| تحلیل داده‌های فضایی | 
* نقشه‌نگاری
* آمار زیست‌محیطی
* سامانه اطلاعات جغرافیایی
* زمین‌آمار
* کریگیدن

 |

 |

 |
| 
* **رده**
* **نشان درگاه درگاه ریاضیات**
* **انبار**
* **ویکی‌پروژه**

 |