استنباط بیزی

تخمین بیزین یا استنباط بیزی یک چهارچوب برای فرمول بندی مشکلات استنباطی آماری است که یک روش«جمع پذیر» است، از تبدیل ریاضی و تخصیص ضرایب مختلف به داده‌ها استفاده می‌کند.
درایتون(Drayton). (1978) در مقدمه‌ای که به منظور معرفی استفاده از روش بیزین در فراتحلیل برای مسائل علوم انسانی نوشته‌است، می‌گوید که دستیابی به روابط علت و معلولی عام، مستلزم تکرار آزمایش‌های مکرر است. از آن جا که چنین فعالیت‌هایی مستلزم طرح ریزی اولیه و هماهنگی بین محققان مختلف هستند و اجرای این هماهنگی تقریبا غیرممکن است، درایتون پیشنهاد می‌کند که برای حصول به هدف بحث شده، از روش‌های ترکیبی استفاده شود.
مرحله‌ها
در روش بیزین سه مرحله به شرح زیر است:
الف) در مرحله اول، محقق باید باور خود را از واقعیت بیان کند و آن را از فیلتر آماری میانگین مورد انتظار، واریانس مورد انتظار و قدرت اعتقادات در باور اولیه، عبور دهد. این سه ملاک می‌توانند براساس تجربه پیشین، تحقیقات گذشته یا ترکیبی از آن‌ها باشند. در صورتی که تجارب گذشته به صورت میانیگین، انحراف استاندارد و حجم نمونه فرضی بیان شوند، چیزی وجود ندارد که مانع مراجعه به تحقیقات گذشته شود.
ب) مرحله دوم، جمع‌آوری نتایج آزمایش‌ها یا مشاهدات است. این مرحله را می‌توان از طریق کسب خلاصه آمارهایی که مشابه آنهایی هستند که از قبل تعیین شده‌اند، انجام داد.
ج) مرحله سوم عبارت است از ترکیب درست نمایی و اعتقاد اولیه و شکل دادن اطلاعات پسین .
اطلاعات پسین می‌توانند جدید و بیشتر از اطلاعات اولیه آگاه‌کننده باشند. ترکیب اطلاعات پسین با تحقیقات دیگر، درست نمایی جدیدی را به وجود می‌آورد. در این روش‌ها به همین ترتیب تکرار می‌شوند، و در نتیجه به مطالعه جدیدی منجر شده و در نهایت به ویژگی‌های خاص خود تبدیل می‌شوند. همان طور که درایتون خاطرنشان ساخته‌است نمونه گیری می‌تواند تا زمانی که تمام جامعه را تحت پوشش قرار دهد یا تا وقتی که آخرین مغایرت‌ها توجیه شوند، ادامه داشته باشد. این روش در استفاده از ضرایب متفاوت و تبدیل‌های ریاضی، انعطاف پذیر است. نظریه بیزین به اندازه نمونه (n) حساس است.
این روش در تخمین یک متغیر تصادفی بر اساس مشاهدات سیگنال ورودی،فلسفه بیزین بر پایه ترکیب کردن مشاهدات سیگنال ورودی با توزیع احتمال فرایند است.
تخمین‌ها
روش بیزین شامل تخمین‌های کلاسیک مثل روش‌های:
ماکسیمم معلول به علت رسیده(MAP)
ماکسیمم احتمال (ML)
مینیمم متوسط مجذور خطا(MMSE)
مینیمم متوسط اندازه خطا (MAVE)به عنوان حالت خاص در نظر گرفت.
مدل مخفی مارکف ،به‌طور وسیع در پردازش آماری سیگنال استفاده شده که یک نمونه‌ای از مدل بیزین است.
استنباط بیزین بر پایه مینیمم کردن تابع ریسک بیزین است، که بااستفاده از مدل‌های گفته شده و با استفاده از مشاهدات و ارزش تابع خطا بدست می‌اید.
تئوری تخمین بیزین
تئوری تخمین مربوط است به تعیین بهترین تخمین از پارامترهای نامشخص با مشاهده سیگنال‌های مربوطه یا بهبودی از یک سیگنال هنگامی که با نویز (noise)ترکیب شده‌است. برای مثال یک سیگنال سینوسی نویزی داده شده‌است و ما علاقه‌مندیم که پارامترهای اساسی ان را (دامنه و فرکانس و فاز و….)بدست آوریم یا اینکه خود سیگنال را به دست اوریم. تخمین زن به عنوان ورودی مجموعه‌ای مشاهدات نویزی خود را در دسترس دارد و با استفاده از مدل‌های پویا یا مدل‌های آماری ،تخمینی از پارامترهای نا مشخص بدست می‌اورد. دقت تخمین به داده‌ها در دسترس و کارامدی تخمین زن بستگی دارد.
مدل بیزی داده‌های از سیگنال مشاهده و تجمعی از احتمالات قبلی از فرایند را به کار می‌گیرد. حال می‌خواهیم تخمینی از متغیر تصادفی  را بر اساس متغیر تصادفی y. طبق قانون بیز تابع چگالی  به شرط y به صورت زیر است:
که برای مشاهده داده شده که در ان y را داریم , یک ثابت است و فقط اثر ضریبی دارد. دو تابع چگالی دیگر در فرمول بیز وجود دارد یکی که احتمال مشاهده y به شرط رخ دادن  است و دیگری تابع چگالی احتمال  است.
اثری که تابع چگالی و روی دارد به شکل تابع وابسته‌است. یعنی هر چه پیک (peak)بیش‌تر داشته باشد تاثیر بیش‌تری خواهد گذاشت و اگر تابع ثابت باشد تاثیری نمی‌گذارد.