توزیع مزدوج پیشین
توزیع مزدوج پیشین (انگلیسی: Conjugate prior)
در تئوری احتمال بیزی، اگر توزیعات احتمال پسین formula_1 با توزیع احتمال پیشین formula_2 خانواده ای یکسان داشته باشد آن گاه به توزیعات پیشین و پسین توزیعات مزدوج گفته شده و توزیع پیشین را توزیع مزدوج پیشین برای تابع درست‌نمایی (likelihood) می‌نامند. به عنوان مثال، خانوادهٔ گاوسی مزدوج خودش (یا خود مزدوج) نسبت به یک تابع درست‌نمایی گاوسی است: اگر تابع درست‌نمایی گوسی باشد، انتخاب توزیع پیشین گاوسی برای میانگین تضمین می‌کند که توزیع پسین نیز گاوسی خواهد بود. این به این معناست که توزیع گاوسی، تابع مزدوج پیشین تابع درست‌نمایی گوسی است. این مفهوم و عبارت «مزدوج پیشین» توسط هاوارد رایفا و رابرت اشلایفر در کارشان روی تئوری انتخاب بیزی معرفی شدند. مفهوم مشابهی نیز به‌طور مستقل توسط جورج آلفرد بارنارد کشف شده بود.
مسئلهٔ کلی یافتن توزیع برای یک پارامتر θ به شرط یک داده یا مجموعه داده‌های "x" را در نظر بگیرید. از قضیه بیز می‌دانیم که توزیع پسین برابر با حاصلضرب تابع درست‌نمایی formula_3 و توزیع پیشین formula_4 نرمالیزه شده با (تقسیم بر) احتمال دادهٔ formula_5 است:
فرض می‌کنیم تابع درست‌نمایی ثابت است. تابع درست‌نمایی معمولاً به خوبی از بیانی از فرایند تولید داده مشخص می‌گردد. واضح است که انتخاب‌های متفاوت برای توزیع پیشین formula_2 محاسبهٔ انتگرال را سخت‌تر یا آسان‌تر می‌کند و حاصل ضرب formula_8 فرم جبری متفاوتی بگیرد. برای انتخاب‌های مشخصی از توزیع پیشین، توزیع پسین فرم جبری مشابه توزیع پیشین خواهد داشت (عموماً با مقادیر پارامترهای متفاوت). چنین انتخابی یک توزیع "مزدوج پیشین" است.
یک توزیع مزدوج پیشین یک آسودگی جبری است که توصیف بسته ای برای توزیع پسین ارائه می‌دهد. در غیر این صورت ممکن است انتگرال عددی لازم باشد. علاوه بر این، توزیعات پیشین مزدوج با بیشتر و شفاف نشان دادن اینکه چگونه یک تابع درست‌نمایی یک توزیع پیشین را به روز می‌کند درکی مستقیم ارائه می‌دهند.
تمام اعضای خانواده نمایی توزیعات پیشین مزدوج دارند.
فرم توزیع پیشین مزدوج عموماً می‌تواند با بررسی تابع چگالی احتمال یا تابع جرم احتمال آن توزیع مشخص گردد. به عنوان مثال، یک متغیر تصادفی را در نظر بگیرید که شامل تعداد موفقیت‌های formula_9 در formula_10 آزمایش برنولی با احتمال موفقیت نامعلوم formula_11 در بازهٔ [۰٬۱] است. این متغیر تصادفی با تابع جرم احتمال زیر از توزیع دوجمله ای تبعیت می‌کند:
formula_12
توزیع مزدوج پیشین معمول توزیع بتا با پارامترهای (formula_13, formula_14):
formula_15
که در آن formula_13 و formula_14 برای نمایش هرگونه باور یا اطلاعات به کار می‌رود (۱ = formula_13 و ۲ = formula_14 توزیع یکنواخت را به دست می‌دهند) و B(α, β) تابع بتا است که به عنوان ثابت نرمالیزه کننده استفاده می‌شود.
در اینجا formula_13 و formula_14 "ابرپارامتر" خوانده می‌شوند (پارامترهای توزیع پیشین) تا از پارامترهای مدل اساسی (در اینجا "q") متمایز گردند. یکی از ویژگی‌های معمول توزیعات پیشین مزدوج این است که ابعاد ابرپارامترها یک واحد بزرگتر از ابعاد پارامترهای توزیع اصلی‌اند. اگر همهٔ پارامترها مقادیر اسکالر باشند آنگاه به این معناست که یک ابرپارامتر بیشتر از پارامتر خواهیم داشت. البته این نکته دربارهٔ پارامترهای با مقادیر برداری و ماتریسی نیز صدق می‌کند. (به مقالهٔ کلی دربارهٔ خانواده نمایی رجوع کنید و توزیع ویشارت را که مزدوج پیشین ماتریس کوواریانس توزیع نرمال چند متغیره است به عنوان مثالی برای ابعاد بزرگ در نظر بگیرید)
آن گاه اگر از این متغیر تصادفی نمونه برداری کنیم و "s" موفقیت و "p" شکست به دست آوریم داریم:
formula_22 | میانگین از formula_40 مشاهدات با میانگین نمونهٔ formula_24 تخمین زده شده‌است؛ واریانس از formula_33 مشاهدات با میانگین نمونهٔ formula_24 و مجموع مجذور انحرافات formula_35 تخمین زده شده‌است. | میانگین از formula_40 مشاهدات با میانگین نمونهٔ formula_24, و دقت از formula_33 مشاهدات با میانگین نمونهٔ formula_24 و مجموع مجذور انحرافات formula_35 تخمین زده شده‌است. | میانگین از مشاهداتی با دقت کل (مجموع تمام دقت‌های منفرد)formula_74 و میانگین نمونهٔ formula_75 تخمین زده شده‌است. | میانگین از مشاهداتی با دقت کل (مجموع تمام دقت‌های منفرد)formula_80 و میانگین نمونهٔ formula_75 تخمین زده شده‌است. | میانگین از formula_93 مشاهدات با میانگین نمونهٔ formula_75 تخمین زده شده‌است؛ ماتریس کوواریانس از formula_95 مشاهدات با میانگین نمونهٔ formula_75 و با مجموع حاصل‌ضرب‌های انحراف دو به دوformula_97 تخمین زده شده‌است. | میانگین از formula_93 مشاهدات با میانگین نمونهٔ formula_75 تخمین زده شده‌است؛ ماتریس کوواریانس از formula_95 مشاهدات با میانگین نمونهٔ formula_75 و با مجموع حاصل‌ضرب‌های انحراف دو به دو formula_86 تخمین زده شده‌است.