یادگیری بی‌نظارت
یادگیری بدون نظارت نوعی یادگیری ماشینی است که به دنبال الگوهای قبلاً کشف نشده در یک مجموعه داده بدون برچسب قبلی و با حداقل نظارت بر انسان است. بر خلاف یادگیری تحت نظارت که معمولاً از داده‌های دارای برچسب انسانی استفاده می‌شود، یادگیری بدون نظارت، همچنین به عنوان خودسازمانی شناخته می‌شود ، امکان مدل‌سازی تراکم احتمال را نسبت به ورودی‌ها فراهم می‌کند. این یکی از سه دسته اصلی یادگیری ماشین است، که همراه با یادگیری تحت نظارت و تقویت یادگیری است. یادگیری نیمه نظارت شده، یک نوع مرتبط، از تکنیک‌های نظارت شده و بدون نظارت استفاده می‌کند.
دو روش اصلی که در یادگیری بدون نظارت استفاده می‌شود، تحلیل مولفه‌های اصلی و تحلیل مولفه‌های خوشه ای است. تجزیه و تحلیل خوشه ای در یادگیری بدون نظارت برای گروه‌بندی یا تقسیم‌بندی مجموعه داده‌ها با ویژگی‌های مشترک به منظور برون یابی روابط الگوریتمی استفاده می‌شود. تجزیه و تحلیل خوشه ای شاخه ای از یادگیری ماشین است که داده‌هایی را که برچسب گذاری یا طبقه‌بندی نشده‌اند را گروه‌بندی می‌کند. تجزیه و تحلیل خوشه ای به جای پاسخ دادن به بازخورد، نقاط مشترک داده‌ها را شناسایی می‌کند و بر اساس وجود یا عدم وجود چنین اشتراکاتی در هر قطعه جدید از داده‌ها واکنش نشان می‌دهد. این روش کمک می‌کند تا نقاط داده‌های غیرعادی که در هر دو گروه نمی‌گنجد، شناسایی شود.
تنها لازمه ای که می‌توان آن را استراتژی یادگیری بدون نظارت نامید، یادگیری فضای جدیدی است که با به حداکثر رساندن برخی از عملکردهای هدف یا با به حداقل رساندن برخی از عملکردهای از دست رفته، ویژگی‌های فضای اصلی را به تصویر می‌کشد؛ بنابراین، تولید یک ماتریس کوواریانس یادگیری بدون نظارت نیست، اما در نظر گرفتن بردارهای ویژه ماتریس کوواریانس به این دلیل است که عملیات ترکیب جبر خطی، واریانس را به حداکثر می‌رساند. این به عنوان تجزیه و تحلیل مولفه‌های اصلی شناخته می‌شود. به همین ترتیب، ورود به سیستم یک مجموعه داده یادگیری بدون نظارت نیست، اما انتقال داده‌های ورودی از طریق چندین توابع سیگموئید در حالی که برخی از عملکردهای فاصله را بین داده‌های تولید شده و حاصل از آن به حداقل می‌رساند، شناخته می‌شود و به عنوان خودرمزگذار شناخته می‌شود.
یک کاربرد اصلی یادگیری بدون نظارت در زمینه در آمار است، اگرچه یادگیری بدون نظارت بسیاری از حوزه‌های دیگر را شامل می‌شود که شامل جمع‌بندی و توضیح ویژگی‌های داده می‌باشد. این می‌تواند با یادگیری نظارت شده در تقابل باشد با گفتن اینکه یادگیری تحت نظارت قصد دارد یک توزیع احتمال مشروط را استنباط کند formula_1 که مشروط به برچسب formula_2 از داده‌های ورودی می‌باشد. یادگیری بدون نظارت قصد دارد یک توزیع احتمالات پیشینی را استنتاج کند formula_3 .
شبکه‌های خصمانه تولیدی را نیز می‌توان با یادگیری نظارت شده استفاده کرد، اگرچه می‌توان آنها را برای تکنیک‌های بدون نظارت و تقویت نیز به کار برد.
برخی از متداول‌ترین الگوریتم‌های مورد استفاده در یادگیری بدون نظارت عبارتند از: (۱) خوشه بندی، (۲) تشخیص ناهنجاری، (۳) شبکه‌های عصبی، و (۴) رویکردهایی برای یادگیری مدل‌های متغیر پنهان. هر رویکرد از چندین روش به شرح زیر استفاده می‌کند:
مثال کلاسیک برای یادگیری بی نظارت در مطالعه شبکه‌های عصبی، اصل است، یعنی نورونهایی که بهم متصل می‌شوند و با هم شلیک می‌شوند. در یادگیری Hebbian، صرف نظر از خطا، اتصال تقویت می‌شود، اما منحصراً تابعی از همزمانی بین پتانسیل‌های عمل بین دو نورون است. نسخه مشابهی که وزن‌های سیناپسی را اصلاح می‌کند، زمان بین پتانسیل‌های عمل (پلاستیک وابسته به زمان سنبله یا STDP) را در نظر می‌گیرد. فرضیه یادگیری Hebbian این است که زیربنای طیف وسیعی از عملکردهای شناختی مانند شناخت الگو و یادگیری تجربی است.
در میان مدلهای شبکه عصبی، از نقشه خودسازمانده (SOM) و تئوری تشدید تطبیقی (ART) معمولاً در الگوریتمهای یادگیری بی نظارت استفاده می‌شود. SOM سازمانی توپوگرافی است که در آن مکانهای نزدیک به نقشه ورودیهای دارای خصوصیات مشابه را نشان می‌دهد. مدل ART به تعداد خوشه‌ها اجازه می‌دهد تا با اندازه مسئله متفاوت باشند و به کاربر اجازه می‌دهد با یک ثابت تعریف شده توسط کاربر به نام پارامتر هوشیاری، میزان شباهت بین اعضای همان خوشه‌ها را کنترل کند. شبکه‌های ART برای بسیاری از وظایف تشخیص الگو مانند شناسایی خودکار هدف و پردازش سیگنال لرزه ای استفاده می‌شود.
یکی از رویکردهای آماری برای یادگیری بدون نظارت، روش لحظه‌ها است. در روش لحظه‌ها، پارامترهای ناشناخته (مورد نظر) در مدل مربوط به لحظه‌های یک یا چند متغیر تصادفی است و بنابراین این پارامترهای ناشناخته را می‌توان با توجه به لحظه‌ها تخمین زد. لحظه‌ها معمولاً به صورت تجربی از نمونه‌ها برآورد می‌شود. لحظات اساسی لحظه‌های مرتبه اول و دوم هستند. برای یک بردار تصادفی، لحظه مرتبه اول بردار میانگین است و لحظه مرتبه دوم ماتریس کوواریانس است (وقتی میانگین صفر است). لحظه‌های مرتبه بالاتر معمولاً با استفاده از تنسورهایی است که تعمیم ماتریس‌ها به مرتبه‌های بالاتر به عنوان آرایه‌های چند بعدی هستند، نمایش داده می‌شوند.
به‌طور خاص، روش لحظه‌ها در یادگیری پارامترهای مدل‌های متغیر پنهان مؤثر نشان داده شده‌است. مدلهای متغیر پنهان مدلهای آماری هستند که در آن‌ها علاوه بر متغیرهای مشاهده شده، یک مجموعه از متغیرهای پنهان نیز وجود دارد که مشاهده نمی‌شود. یک نمونه کاملاً کاربردی از مدل‌های متغیر پنهان در یادگیری ماشین ، است که یک مدل آماری برای تولید کلمات (متغیرهای مشاهده شده) در سند بر اساس موضوع (متغیر پنهان) سند است. در مدل‌سازی موضوع، کلمات موجود در سند با توجه به پارامترهای آماری متفاوت هنگامی که موضوع سند تغییر می‌کند تولید می‌شوند. نشان داده شده‌است که روش لحظه ها (تکنیک‌های تجزیه تنسور) به‌طور مداوم پارامترهای یک طبقه بزرگ از مدل‌های متغیر پنهان را تحت برخی فرضیات بازیابی می‌کند.
الگوریتم امید ریاضی - حداکثر سازی (EM) نیز یکی از کاربردی‌ترین روش‌ها برای یادگیری مدل‌های متغیر پنهان است. با این حال، می‌تواند در اپتیمای محلی گیر کند و تضمین نمی‌شود که این الگوریتم به پارامترهای ناشناخته واقعی در مدل همگرا شود. در متقابلاً، برای روش لحظه‌ها، همگرایی جهانی تحت برخی شرایط تضمین می‌شود. نام کاربری:CSF828