موضوع مقاله: دسته‌بندی‌کننده بیز ساده | مخاطب: عمومی | لحن: دانشنامه‌ای | ساختار: عنوان، مقدمه، 3 بخش، جمع‌بندی | مقاله: | # دسته‌بندی‌کننده بیز ساده | مقدمه: دسته‌بندی‌کننده بیز ساده در یادگیری ماشین به گروهی از دسته‌بندی‌کننده‌های ساده بر پایه احتمالات گفته می‌شود که با فرض استقلال متغیرهای تصادفی و براساس قضیه بیز ساخته می‌شوند. | ## بخش 1: دسته‌بندی‌کننده بیز ساده | به‌طور ساده روش بیز روشی برای دسته‌بندی پدیده‌ها، بر پایه احتمال وقوع یا عدم وقوع یک پدیده است. این روش در دهه ۱۹۶۰ در میان دانشمندان بازیابی اطلاعات توسعه یافت و هنوز هم از روش‌های محبوب در دسته‌بندی اسناد به‌شمار می‌آید. بیز ساده فرض را بر استقلال متغیرهای پیش‌بینی می‌گذارد از این رو بیز ساده یا بیز ساده‌لوح خوانده می‌شود. برای نمونه در مسئله پیش‌بینی یک میوه (این میوه مثلاً ممکن است پرتقال باشد) اگر میوه نارنجی و کروی با شعاع حدود ده سانتی‌متر باشد و به شرطی که این احتمالات به درستی از همدیگر مستقل باشند بیز ساده در تشخیص اینکه این میوه پرتقال است یا نه به‌درستی عمل خواهد کرد. برنامه‌های کاربردی بسیاری هستند که پارامترهای نایو بیز را تخمین می‌زنند، بنابراین افراد بدون سروکار داشتن با تئوری بیز می‌توانند از این امکان به منظور حل مسایل مورد نظر بهره ببرند. با وجود مسائل طراحی و پیش فرض‌هایی که در خصوص روش بیز وجود دارد، این روش برای طبقه‌بندی کردن بیشتر مسایل در جهان واقعی، مناسب است. مدل‌سازی احتمالی اگر متغیر ورودی داشته باشیم یعنی و خروجی از یک مجموعه عضوی باشد، هدف از مدل‌سازی پیدا کردن احتمال مشروط هر کدام از این دسته است یعنی . طبق قانون بیز این احتمال برابر است با به عبارت دیگر احتمال مشروط به توزیع توأم و بستگی دارد. طبق قانون زنجیره‌ای این توزیع توأم برابر است با: حال اگر فرض کنیم هر متغیری نسبت به متغیرهای دیگر به شرط دسته مستقل است یعنی به نتیجه پایین می‌رسیم: با نرمال‌سازی عبارت قبلی می‌توان توزیع احتمال مشروط را پیدا کرد، در معادله پایین همان ضریب نرمال‌سازی است: اگر هدف پیدا کردن محتملترین دسته باشد، به ضریب نرمال‌سازی یعنی نیازی نیست: تخمین پارامترها برای مدلسازی دسته‌بندی‌کننده بیز ساده برای تمام ها به تخمین و نیاز داریم. برای بدست آوردن راه‌های مختلفی وجود دارد، تخمین توزیع چند جمله‌ای یا توزیع طبیعی روش‌هایی متداول برای این کار هستند. | ## بخش 2: دسته‌بندی‌کننده بیز ساده | در روش تخمین توزیع طبیعی، را با یک توزیع طبیعی با میانگین و واریانس تخمین می‌زنیم و و را از طریق درست نمایی بیشینه بدست می‌آوریم: اگر گسسته باشد، توزیع را می‌توان با یک توزیع چند جمله‌ای تخمین زد. مثال‌ها بازی گلف در این مثال داده‌هایی از شخصی داریم که به ما می‌گوید که در شرایط مختلف آب و هوایی این شخص گلف بازی می‌کند یا خیر. آب و هوادمارطوبتطوفانیبازی می‌کند؟بارانیگرمزیادخیرخیربارانیگرمزیادبلهخیرابریگرمزیادخیربلهآفتابیمعتدلزیادخیربلهآفتابیسردمتوسطخیربلهآفتابیسردمتوسطبلهخیرابریسردمتوسطبلهبلهبارانیمعتدلزیادخیرخیربارانیسردمتوسطخیربلهآفتابیمعتدلمتوسطخیربلهبارانیمعتدلمتوسطبلهبلهابریمعتدلزیادبلهبلهابریگرممتوسطخیربلهآفتابیمعتدلزیادبلهخیر دسته‌بندی‌کننده با استفاده از این داده‌ها به جداول زیر می‌رسد. در هر جدول احتمال شرایط مختلف آب و هوایی به شرط این که شخص گلف بازی کند یا نکند آمده است. بازی می‌کند؟بلهخیرآب و هواآفتابیابریبارانیبازی می‌کند؟بلهخیردماگرممعتدلسردبازی می‌کند؟بلهخیررطوبتزیادمتوسطبازی می‌کند؟بلهخیرطوفانیخیربله فرض کنید هوا بارانی، طوفانی، سرد و مرطوب باشد. فرض کنید معادل بارانی بودن، معادل طوفانی بودن، معادل سرد بودن و معادل مرطوب بودن باشد. از مزایای این روش می‌توان به موارد زیر اشاره کرد: دسته‌بندی کردن داده‌های آزمایشی آسان و سریع است. همچنین زمانی که تعداد دسته‌ها از دو بیشتر باشد نیز عملکرد خوبی از خودش نشان می‌دهد. تا زمانی که شرط مستقل بودن برقرار باشد، یک دسته‌بندی‌کننده بیز ساده عملکرد بهتری نسبت به مدل‌های دیگر مانند رگرسیون لجستیک دارد و به حجم آموزش کمی نیاز دارد. در حالتی که ورودی‌هایمان دسته‌بندی شده باشند این روش عملکرد بهتری نسبت به حالی دارد که ورودی‌هایمان عدد باشند. | ## بخش 3: دسته‌بندی‌کننده بیز ساده | برای حالتی که ورودی عدد باشد معمولاً فرض می‌شود که از توزیع نرمال پیروی می‌کنند. (که فرض قوی‌ای است) علاوه بر مزایایی که این دسته‌بندی‌کننده دارد معایبی نیز دارد، از جمله: در صورتی که ورودی‌مان دسته‌بندی شده باشد و در مرحلهٔ یادگیری دسته‌ای وجود داشته باشد که دسته‌بندی‌کننده هیچ داده‌ای از آن دسته مشاهده نکرده باشد، دسته‌بندی‌کننده احتمالی برابر صفر برای آن دسته در نظر می‌گیرد و قادر به دسته‌بندی کردن نخواهد بود. برای حل این مشکل می‌توان از تکنیک‌های هموارسازی مانند تخمین‌گر لاپلاس استفاده کرد. یکی دیگر از معایب این دسته‌بندی‌کننده این است که دستیابی به شرط مستقل بودن در دنیای واقعی تقریباً غیرممکن است. کاربردها برخی از کاربردهای این دسته‌بندی‌کننده به شرح زیر است: دسته‌بندی‌کننده متن: دسته‌بندی‌کننده‌های بیز ساده عموماً در دسته‌بندی متن کاربرد دارند و نسبت به روش‌های دیگر درصد موفقیت بیشتری در این زمینه دارند. فیلترینگ اسپم: یکی از معروف‌ترین کاربردهای این دسته‌بندی‌کننده فیلترینگ اسپم است. در این روش فیلترینگ از دسته‌بندی‌کننده بیز ساده برای شناسایی ایمیل‌های اسپم استفاده می‌شود. امروزه بسیاری از سرویس‌دهندگان پست‌های الکترونیک از فیلترینگ اسپم بیزی استفاده می‌کنند. سامانه توصیه‌گر: دسته‌بندی‌کننده بیز ساده به همراه پالایش گروهی سامانهٔ توصیه‌گری را تشکیل می‌دهد که از تکنیک‌های یادگیری ماشین و داده‌کاوی برای فیلتر کردن اطلاعات دیده نشده و پیش‌بینی نظر یک کاربر در مورد اقلام مختلف استفاده می‌کند. | ## جمع‌بندی | تحلیل احساسات: از این دسته‌بندی‌کننده در تحلیل احساسات متون و نظرات مختلف (برای مثال در شبکه‌های اجتماعی) استفاده می‌شود.