| یادگیری ماشین وداده‌کاوی |
| --- |
|  |
| موضوع‌ها
* طبقه‌بندی آماری
* خوشه‌بندی
* تحلیل رگرسیون
* روش تشخیص ناهنجاری
* یادگیری قانون وابستگی
* یادگیری تقویتی
* پیش بینی ساختاریافته
* مهندسی ویژگی
* یادگیری ویژگی
* یادگیری ماشین برخط
* یادگیری نیمه‌نظارتی
* یادگیری بی‌نظارت
* Learning to rank
* Grammar induction

 |
| یادگیری با نظارت(**طبقه‌بندی آماری** •  **تحلیل رگرسیون**)
* یادگیری درخت تصمیم
* Ensembles (Bagging, بوستینگ، جنگل تصادفی)
* *k*-NN
* رگرسیون خطی
* دسته‌بندی کننده بیز ساده
* شبکه‌های عصبی مصنوعی
* رگرسیون لجستیک
* پرسپترون
* Relevance vector machine (RVM)
* ماشین بردار پشتیبانی

 |
| خوشه‌بندی
* کاهش و خوشه‌بندی ترازمند و بازکردی با بهره‌گیری از رده‌بندی
* خوشه‌بندی سلسله‌مراتبی
* خوشه‌بندی کی-میانگین
* الگوریتم امید ریاضی–بیشینه کردن
* DBSCAN
* OPTICS
* انتقال میانگین

 |
| کاهش ابعاد
* تحلیل عاملی
* CCA
* تحلیل مؤلفه‌های مستقل
* آنالیز افتراقی خطی
* فاکتورگیری نامنفی ماتریس
* تحلیل مؤلفه‌های اصلی
* t-SNE

 |
| پیش‌بینی ساختاریافته
* مدل‌های گرافیکی (شبکه‌های بیزی، میدان تصادفی شرطی، مدل پنهان مارکف)

 |
| روش تشخیص ناهنجاری
* الگوریتم کی-نزدیکترین همسایه
* فاکتور پرتی محلی

 |
| شبکه عصبی مصنوعی
* خودرمزگذار
* یادگیری عمیق
* پرسپترون چندلایه
* RNN
* ماشین بولتزمن محدود شده
* ترانسفورمر بینایی
* SOM
* شبکه عصبی پیچشی

 |
| یادگیری تقویتی
* کیو-یادگیری
* SARSA
* یادگیری تفاوت زمانی

 |
| نظریه
* Bias-variance dilemma
* نظریه یادگیری محاسباتی
* Empirical risk minimization
* Occam learning
* یادگیری احتمالا تقریبا صحیح
* Statistical learning
* VC theory

 |
| حوزه‌های یادگیری ماشین
* NIPS
* ICML
* ML
* JMLR
* ArXiv:cs.LG

 |
| * ن
* ب
* و
 |

**یادگیری نیمه‌نظارتی** دسته‌ای از روش‌های یادگیری ماشین است که در آن از داده‌های بدون برچسب و داده‌های برچسب‌دار به صورت هم‌زمان برای بهبود دقت یادگیری استفاده می‌شود.

انواع اصلی
----------

روش‌های یادگیری نیمه‌نظارتی را در یک دسته‌بندی کلی به دسته‌های زیر می‌توان تقسیم کرد.

### روش‌های مولد

در روش‌های مولد ابتدا یک مدل پارامتری برای تابع توزیع نقاط (مثلاً توزیع گاوسی) انتخاب می‌شود که آن را با {\displaystyle P(\mathbf {x} |y,\theta )} نشان می‌دهیم که در آن \theta  مدل است. سپس {\displaystyle P(y)} از روی داده‌های برچسب‌دار تخمین زده می‌شود. احتمال وقوع نقاط با توجه به تابع توزیع هر دسته، بر حسب پارامترهای مدل، به صورت تحلیلی محاسبه می‌شود. سپس با اعمال قانون بیز می‌توان تابع توزیع برچسب در هر نقطه را محاسبه کرد. در روش‌های مولد معمولاً هدف بیشینه کردن این احتمال وقوع یا به‌طور معادل بیشینه کردن راست‌نمایی آن‌ها نسبت به پارامترهای مدل است. از روش‌های مختلفی می‌توان برای بهینه‌کردن پارامترهای مدل نسبت به میزان راست‌نمایی استفاده کرد.

در مقابل روش‌های مولد، روش‌هایی که به‌طور مستقیم به یادگیری {\displaystyle P(y|x)} می‌پردازند یا روش‌های تمایزی هستند. توجیهات نظری وجود دارد که نشان می‌دهد که روش‌های مولد نیاز به داده‌های بیشتری نسبت به روش‌های تمایزی جهت یادگیری دارند. همچنین در عمل روش‌های تمایزی موفق‌تر نشان داده‌اند؛ بنابراین تحقیقات روی روش‌های مولد کم‌رنگ بوده‌است.

### روش‌های مبتنی بر فرض جداسازی کم‌چگالی

همان‌طور که گفته شد، فرض خوشه با فرض جداسازی کم چگالی معادل است. با توجه به این نکته می‌توان عبارت‌های منظم‌سازی تعریف کرد که وجود مرز طبقه‌بندی در نقاط پرچگالی را جریمه می‌کنند. به این ترتیب الگوریتم‌های زیادی برای یادگیری نیمه‌نظارتی مطرح می‌شوند. معروف‌ترین الگوریتم در این دسته از روش‌ها، الگوریتم TSVM است، که در سال ۱۹۹۸ توسط وپنیک ارائه شد. وپنیک از مفهوم ابعاد VC و قاعدهٔ SRM، برای طراحی یک مسئله بهینه‌سازی مشابه مسئلهٔ بهینه‌سازی SVM بهره گرفته‌است. مسئلهٔ بهینه‌سازی TSVM، مسئله‌ای پیچیده‌است و تاکنون الگوریتمی کارا برای یافتن جواب بهینهٔ عمومی آن ارائه نشده‌است. روش‌های دیگری هم در حوزهٔ استفاده صرف از فرض خوشه استفاده شده‌اند که شامل می‌شوند. همهٔ این روش‌ها در دو خاصیت مشترکند، یکی اینکه برای طبقه‌بندی طراحی شده‌اند و اینکه طراحی آن‌ها حول مفهوم مرز جداساز و اندازه مرز بوده‌است.

### روش‌های مبتنی بر گراف

این روش‌ها در صورتی مؤثر هستند که فرض همواری نیمه‌نظارتی و فرض خمینه در حالت ضعیف، هم‌زمان برقرار باشد. برای استفاده از فرض خمینه به‌طور صریح، باید ساختار خمینه به نحوی بیان شود. یکی از راه‌های بیان کردن ساختار خمینه در فضای با بعد بالا، استفاده از گراف‌های همسایگی است. در گراف همسایگی، رئوس همان نقاط هستند و میان نقاط نزدیک به هم روی خمینه یال با وزن متناسب قرار داده می‌شود.

در روش‌های نیمه‌نظارتی مبتنی بر گراف، ابتدا گراف همسایگی روی نقاط ساخته می‌شود، سپس از روشی برای تعیین برچسب نقاط بدون برچسب استفاده می‌شود. به عبارت دیگر، هر الگوریتم نیمه‌نظارتی مبتنی بر گراف شامل گام‌های کلی زیر است:

1. پیش‌پردازش داده‌ها، که شامل استخراج ویژگی‌ها، کاهش بعد، حذف نویز و موارد دیگر می‌باشد.
2. ایجاد گراف همسایگی مناسب روی نقاط که معمولاً لازمهٔ آن محاسبهٔ فاصلهٔ بین نقاط است.
3. استنتاج برچسب نقاط بدون برچسب با یکی از روش‌های استنتاج برچسب.

پانوشت‌ها
---------

1. ↑  Chapelle, Olivier; Schölkopf, Bernhard; Zien, Alexander (2006). *Semi-supervised learning*. Cambridge, Mass.: MIT Press. ISBN 978-0-262-03358-9.
2. ↑  Generative Methods
3. ↑  Likelihood
4. ↑  Discriminative
5. ↑  Structural Risk Minimization
6. ↑  Graph Based Semi-Supervised Learning Methods