T-sne کاهش ابعاد داده کیست؟ توضیح بده.
t-SNE یک الگوریتم تجزیه و تحلیل داده‌های چند بعدی است که برای تصویرسازی داده‌ها در فضایی با بعد کمتر(عموما دو بعدی یا سه‌ بعدی) استفاده می‌شود و اولین‌بار، توسط لورنس ون در ماتن و جفری هینتون در سال ۲۰۰۸ معرفی شده است.با استفاده از t-SNE، می‌توان داده‌های پیچیده و چند بعدی را به صورت یکنواخت و منظم در فضای کاهش‌یافته نشان داد. این الگوریتم باعث ایجاد فضای جدیدی می‌شود که در آن داده‌های مشابه به هم نزدیک و داده‌های متفاوت از هم دور قرار می‌گیرند. به عبارت دیگر، داده‌هایی که در فضای اصلی به هم نزدیک بودند، در فضای کاهش‌یافته نیز به هم نزدیک باقی می‌مانند و داده‌هایی که در فضای اصلی دور از هم بودند، در فضای کاهش‌یافته نیز دور از هم قرار می‌گیرند.t-SNE برای تصویرسازی داده‌هایی که به صورت غیرخطی در فضای چند بعدی نشان داده می‌شوند، بسیار مناسب است. این الگوریتم برای کاهش ابعاد داده‌های پیچیده، مانند تصاویر و داده‌های صوتی، نیز کارآمد است.در کل، t-SNE یک الگوریتم کارآمد و مفید برای تصویرسازی داده‌هاست که به صورت گسترده در حوزه‌های مختلف مانند علم داده، بینایی ماشین، آمار، ژنومیک، امنیت سایبری، پردازش زبان طبیعی، تحلیل موسیقی، تحقیقات سرطان، بیوانفورماتیک، تفسیر ژئولوژی، و پردازش سیگنال های پزشکی و ... استفاده می‌شود.مقدمه.این الگوریتم با محاسبه ماتریس شباهت بین داده‌های مختلف(به صورت پیش‌فرض بر اساس فاصله اقلیدسی)، شروع به کاهش ابعاد داده‌ها می‌کند و با استفاده از توزیع احتمال برای جفت داده‌ها در فضای بالا بعد و فضای پایین بعد، کاهش بعد را انجام می‌دهد.سپس با کمینه کردن فاصله بین این دو توزیع احتمال با استفاده از الگوریتم گرادیان کاهشی، سعی در حفظ ساختار محلی فضای بالا بعد اصلی دارد.نتیجه‌ی این الگوریتم، نمایشی بهتر و کاهش بعد داده‌ها در فضای پایین بعد است. داده‌هایی که در فضای بالا بعد به هم نزدیک بوده‌اند، در فضای پایین بعد نیز به هم نزدیک باقی خواهند ماند و داده‌هایی که در فضای بالا بعد دور از هم بوده‌اند، در فضای پایین بعد نیز دور از هم خواهند بود.یکی از مزایای t-SNE، توانایی آن در درک روابط غیرخطی بین داده‌ها است که این الگوریتم را برای تصویرسازی داده‌های پیچیده مانند تصاویر و فایل‌های صوتی مناسب می‌سازد. با این حال، این الگوریتم پردازشی هزینه‌بر است و نیاز به تنظیم دقیق پارامترهای آن دارد تا نتایج بهتری حاصل شود.جزئیات الگوریتم.t-SNE، با استفاده از یک روش دو مرحله‌ای، نقاط با ویژگی‌های مشابه را در نزدیکی یکدیگر و نقاط با ویژگی‌های متفاوت را در فاصله‌ای دور از یکدیگر قرار می‌دهد. در این روش، توزیع احتمالاتی ابتدا بر اساس فاصله‌های اقلیدسی بین نقاط در فضای بالابعد ساخته می‌شود. سپس، با ساخت یک توزیع احتمالاتی مشابه در فضای پایین‌بعد و کاهش اختلاف کولبک-لایبلر ، نموداری از داده‌های پایین‌بعد ایجاد می‌کند.با داشتن مجموعه‌ای از formula_1 شیء با بعد بالا به عنوان ورودی، t-SNE ابتدا احتمالات formula_2 را محاسبه می‌کند که نسبت مستقیم با شباهت شیء formula_3 و formula_4 دارند.برای formula_5، این احتمالات با استفاده از فرمول زیر محاسبه می‌شوند:توجه داشته باشید که formula_6 و برای هر formula_7، مجموع formula_8 است.همانطور که ون در ماتن و هینتون توضیح داده‌اند: "شباهت نقطه‌ی formula_4 نسبت به نقطه‌ی formula_3، احتمال شرطی formula_11 است، که در آن formula_3 نقطه formula_4 را به عنوان همسایه‌اش انتخاب می‌کند اگر همسایه‌ها بر اساس چگالی احتمال خود تحت یک گوسی با مرکز formula_3، انتخاب شوند."حالا می‌توانیم formula_2 را به صورت زیر تعریف کنیم:این ایده به این دلیل مطرح شده است که formula_16 و formula_17 در formula_1 نمونه،‌ با formula_19 تخمین زده می‌شوند؛ بنابراین احتمال شرطی می‌تواند به صورت formula_20 و formula_21 نوشته شود؛ و از آنجا که formula_22، فرمول قبلی بدست می‌آید.همچنین توجه داشته باشید که formula_23 و formula_24.پهنای توابع گاوسی، formula_25 به گونه‌ای تعیین می‌شود که آنتروپی توزیع شرطی برابر با یک آنتروپی از پیش تعریف شده با استفاده از روش دوبخشی باشد. در نتیجه، formula_25 با چگالی داده‌ها متناسب است: مقادیر کوچکتری از formula_25 در قسمت‌های چگال‌تر فضای داده‌ها استفاده می‌شود.هدف t-SNE این است که نقشه‌ی -بعدی formula_28 (که در آن formula_29 و معمولاً به عنوان یا انتخاب می‌شود) را یاد بگیرد که شباهت‌های formula_2 را به بهترین شکل ممکن بازتاب می‌دهد. برای این منظور، این الگوریتم شباهت‌های formula_31 بین دو نقطه در نقشه formula_32 و formula_33 را با استفاده از روشی بسیار مشابه اندازه‌گیری می‌کند. به طور خاص، برای formula_34، formula_31 را به صورت زیر تعریف می‌کنیم:و formula_36 را صفر قرار می‌دهیم. در اینجا از یک توزیع تی-استیودنت(با درجه آزادی برابر یک، مشابه توزیع کوشی) برای اندازه‌گیری شباهت‌ها بین نقاط با بعد کم استفاده می‌شود تا امکان قرار گرفتن اشیاء نامشابه در فاصله‌های دور در نقشه فراهم شود.مکان نقاط formula_37 در نقشه با کمینه کردن اختلاف کولبک-لایبلر غیرمتقارن توزیع P از توزیع Q به دست می‌آید، یعنی:کمینه‌سازی اختلاف کولبک-لایبلر با توجه به نقاط formula_37، با استفاده از روش گرادیان کاهشی انجام می‌شود. نتیجه‌ی این بهینه‌سازی، نقشه‌ای است که شباهت‌ها بین ورودی‌های با بعد بالا را بازتاب می‌دهد.