موضوع مقاله: مدل مبتنی بر انرژی | مخاطب: عمومی | لحن: دانشنامه‌ای | ساختار: عنوان، مقدمه، 3 بخش، جمع‌بندی | مقاله: | # مدل مبتنی بر انرژی | مقدمه: مدل مبتنی بر انرژی شکلی از مدل مولد (GM) است که مستقیماً از فیزیک آماری وارد مباحث یادگیری شده‌است. | ## بخش 1: مدل مبتنی بر انرژی | مدل مولد با تجزیه و تحلیل مجموعهٔ دادههای نمونه، نحوهٔ توزیع داده‌ها را فرا می‌گیرد. پس از آموزش، مدل مولد می‌تواند مجموعه داده‌های دیگری را تولید کند که با توزیع داده‌ها نیز مطابقت داشته باشد. مدل‌های مبتنی بر انرژی یک چارچوب یکپارچه ارائه می‌کند که برای بسیاری از رویکردهای احتمالی و غیر احتمالی برای چنین نوع یادگیری، به ویژه برای آموزش مدل‌های گرافیکی و سایر مدل‌های ساختار یافته مؤثر هستند. یک مدل مبتنی بر انرژی ویژگی‌های یک مجموعهٔ داده‌ را می‌آموزد و یک مجموعهٔ دادهٔ مشابه اما بزرگتر تولید می‌کند. این‌گونه مدل‌ها، متغیرهای پنهان یک مجموعهٔ داده را شناسایی کرده و مجموعه داده‌های جدیدی با توزیع مشابه تولید می‌کنند. تاریخچه تحقیقات اولیه بر روی مدل‌های مبتنی بر انرژی، مدل‌هایی را پیشنهاد داد که انرژی را به عنوان ترکیبی از متغیرهای پنهان و قابل مشاهده نشان می‌داد. رویکرد مدل‌های مبتنی بر انرژی با اختصاص دادن یک اسکالر احتمالی نرمال‌نشده (انرژی) به هر پیکربندی ترکیبی از متغیرهای مشاهده‌شده، وابستگی‌ها را پنهان پیدا می‌کنند. این عمل شامل یافتن (مقادیر) متغیرهای پنهانی می‌باشد که انرژی را با توجه به مجموعه ای از (مقادیر) متغیرهای مشاهده شده به حداقل می‌رساند. | ## بخش 2: مدل مبتنی بر انرژی | به‌طور مشابه، مدل، تابعی را می‌آموزد که انرژی‌های کم را به مقادیر متغیرهای پنهان اصلاح و انرژی‌های بالاتر را به مقادیر نادرست، مرتبط می‌کند. مدل‌های مبتنی بر انرژی قدیمی به روش‌های بهینه‌سازی گرادیان-نزولی تصادفی (SGD) تکیه می‌کنند که معمولاً به سختی می‌توان آن‌ها را بر مجموعه داده‌هایی با ابعاد بالا اعمال کرد. دینامیک لانگوین یک الگوریتم بهینه‌سازی تکراری است که نویز را به عنوان بخشی از یادگیری یک تابع هدف به تخمین‌گر می‌دهد که می‌توان از آن برای سناریوهای یادگیری بیزی با تولید نمونه‌هایی از توزیع پسین استفاده کرد. از آنجایی که نیازی به تخمین ثابت نرمال سازی مانند مدل‌های احتمالی نداریم، حالتهای خاصی از استنباط و یادگیری با مدل‌های مبتنی بر انرژی قابل اجرا و انعطاف پذیرتر هستند. یک بافر پخش مجدد تصاویر گذشته، برای مقداردهی اولیه ماژول بهینه‌سازی با استفاده از با روش دینامیک لانگوین استفاده می‌شود. مشخصات از مزایای این مدل موارد زیر را می‌شود نام برد: سادگی و پایداری – مدل مبتنی بر انرژی، تنها مدلی است که نیاز به طراحی و آموزش دارد. زمان محاسبات تطبیقی – یک مدل مبتنی بر انرژی می‌تواند نمونه‌های دقیق، متنوع یا (سریع‌تر) درشت و نمونه‌های کم‌تنوع تولید کند. انعطاف‌پذیری – در رمزگذارهای خودکار متغیر (VAE) و مدل‌های مبتنی بر جریان، مولد یک نقشه‌ای را از یک فضای پیوسته به یک فضای ناپیوسته (احتمالاً) حاوی حالت‌های مختلف داده می‌آموزد. | ## بخش 3: مدل مبتنی بر انرژی | مدل‌های مبتنی بر انرژی می‌توانند یاد بگیرند که انرژی‌های کم را به مناطق مجزا اختصاص دهند (حالت‌های چندگانه). تولید تطبیقی – مولدهای مدل مبتنی به انرژی به‌طور ضمنی با توزیع احتمال تعریف می‌شوند و به‌طور خودکار با تغییر توزیع (بدون هیچ آموزشی) سازگار می‌شوند، این کار به مدلهای مبتنی بر انرژی اجازه می‌دهد تا حوزه‌هایی را که آموزش مولد در آن‌ها غیرعملی است شناسایی کنند، حالت فروپاشی را به حداقل برسانند و از حالت‌های جعلی خارج از نمونه‌های توزیع جلوگیری کنند. ترکیب‌پذیری- هرکدام از مدل‌های مجزا، توزیع‌های احتمال غیرنرمالی هستند که به مدل‌ها اجازه می‌دهند از طریق محصول متخصصان یا سایر تکنیک‌های سلسله مراتبی ترکیب شوند. این مدل از ترکیب ویژگی‌های یادگرفته شده از یک تصویر مشخص، برای تولید انواع دیگر تصاویر پشتیبانی می‌کند. این مدل قادر است عملکردی بهتر از مدل‌های مبتنی بر جریان و اتورگرسیو با تعمیم مجموعهٔ داده‌های خارج از توزیع داشته باشد. مدل مبتنی بر انرژی نسبتاً در برابر آشفتگی‌های متخاصم، مقاوم بوده و نسبت به مدل‌هایی که به صراحت در برابر آموزش مبتنی، عملکرد بهتری دارد. | ## جمع‌بندی | جایگزین مدل‌های مبتنی بر انرژی با تکنیک‌هایی مانند رمزگذارهای خودکار متغیر (VAE) یا شبکه‌های عصبی متخاصم مولد (GAN) رقابت می‌کنند.