تنظیم دقیق (یادگیری ماشینی)

در یادگیری ماشینی ، تنظیم دقیق رویکردی برای انتقال یادگیری است که در آن وزن‌های یک مدل از پیش آموزش‌دیده بر روی داده‌های جدید آموزش داده می‌شود.  تنظیم دقیق را می توان در کل شبکه عصبی یا فقط روی زیرمجموعه ای از لایه های آن انجام داد، در این صورت لایه هایی که تنظیم دقیق نمی شوند "یخ زده" می شوند (در مرحله پس انتشار به روز نمی شوند). 

برای برخی از معماری‌ها، مانند شبکه‌های عصبی کانولوشن ، معمول است که لایه‌های قبلی (آنهایی که نزدیک به لایه ورودی هستند) ثابت نگه داشته شوند، زیرا آنها ویژگی‌های سطح پایین‌تر را جذب می‌کنند، در حالی که لایه‌های بعدی اغلب ویژگی‌های سطح بالا را تشخیص می‌دهند که می‌تواند بیشتر به لایه ورودی مرتبط باشد. وظیفه ای که مدل بر روی آن آموزش دیده است.  

تنظیم دقیق در پردازش زبان طبیعی (NLP) به ویژه در حوزه مدل سازی زبان رایج است. مدل های زبان بزرگ مانند GPT-2 OpenAI را می توان در پایین دست تنظیم کرد  تولید نتایج بهتر از مدل از پیش آموزش دیده به طور معمول.  مدل‌هایی که از قبل روی پیکره‌های بزرگ و عمومی آموزش داده شده‌اند، معمولاً با استفاده مجدد از پارامترهای مدل به عنوان نقطه شروع و افزودن یک لایه ویژه کار که از ابتدا آموزش داده شده است، به‌خوبی تنظیم می‌شوند.  تنظیم دقیق مدل کامل نیز رایج است و اغلب نتایج بهتری به همراه دارد، اما از نظر محاسباتی گران‌تر است.  تنظیم دقیق کامل نیز مستعد بیش از حد برازش است و ممکن است باعث شود که مدل در داده‌های خارج از توزیع داده‌های آموزشی مورد استفاده در هنگام تنظیم دقیق عملکرد بدتری داشته باشد. 

تنظیم دقیق معمولاً با یادگیری نظارت شده انجام می شود، اما تکنیک هایی نیز برای تنظیم دقیق مدل با استفاده از نظارت ضعیف وجود دارد.  یادگیری تقویتی همچنین برای تنظیم دقیق مدل های زبانی مانند ChatGPT (نسخه تنظیم شده GPT-3 ) و Sparrow با استفاده از یادگیری تقویتی از بازخورد انسانی استفاده می شود.

همچنین ببینید 

 انتقال یادگیری
 مدل های زبان بزرگ

منابع 

یادگیری ماشین
هوش مصنوعی