כוונון עדין (למידה עמוקה)

בלמידה עמוקה, כוונון עדין (fine tuning) הוא גישה ללמידה באמצעות העברה, כלומר שימוש במודל שאומן על משימה מסוימת כדי לבצע משימה אחרת.

בכוונון עדין מתבצע אימון קצר נוסף של רשת נוירונים, אשר כבר אומנה אימון מלא על משימה אחרת. האימון הקצר נועד להתאים את הפרמטרים של הרשת למשימה החדשה. כוונון עדין יכול להתבצע על כל הרשת, או רק על תת-קבוצה של השכבות שלה. במקרה השני, השכבות שאינן עוברות כוונון עדין "מוקפאות", כלומר, לא משתנות במהלך ה-backpropagation.

עבור ארכיטקטורות מסוימות, כגון רשתות קונבולציה, מקובל לשמור את השכבות המוקדמות יותר (הקרובות לשכבת הקלט) קפואות, מכיוון שהן מזהות תכונות ברמה נמוכה יותר, ולאמן רק את השכבות האחרונות. לדוגמה, רשת שאומנה על זיהוי בעלי-חיים, ניתן לאמן מחדש את השכבות האחרונות שלה על זיהוי חפצים, מתוך הנחה שהשכבות המוקדמות מזהות תכונות ויזואליות כלליות, כגון כיווני קווים, שינויי צבעים וצורות גאומטריות, ורק השכבות האחרונות מזהות אובייקטים מורכבים.

מודלים שאומנו מראש על קורפוסים גדולים וכלליים עוברים בדרך כלל כוונון עדין על ידי שימוש חוזר בפרמטרים שלהם כנקודת התחלה והוספת שכבה ספציפית למשימה שאומנה מאפס. למשל, מודל שאומן על זיהוי בעלי חיים באופן כללי, יכול כך לעבור כוונון עדין כדי לזהות באופן מפורט גזעים שונים של כלבים. כוונון עדין של המודל המלא הוא גם נפוץ ולעיתים קרובות מניב תוצאות טובות יותר, אך הוא יקר יותר מבחינה חישובית.

על אף שכוונון עדין מתבצע בדרך כלל באמצעות למידה מונחית, כלומר באמצעות דוגמאות מוכנות מראש של קלט יחד עם הפלט הרצוי, ישנן גם טכניקות לכוונון עדין שמשלבות למידה מונחית עם למידה בלתי מונחית. ניתן גם לשלב כוונון עדין עם למידת חיזוק המבוססת על משוב אנושי כדי לייצר מודלי שפה כגון ChatGPT (גרסה של מודלי GPT לאחר כוונון עדין) ו-Sparrow. במקרים כאלו בני אדם מעניקים משוב לפלט של המודל, עם התייחסות להיבטים כמו תקינות תחבירית, ידידותיות או תקינות פוליטית.

קישורים חיצוניים

הערות שוליים

קטגוריה:למידה עמוקה
קטגוריה:למידת מכונה