חיזוק גרדיאנט

Gradient boosting (מילולית: הגברת גרדיאנט) היא טכניקת למידת מכונה המשמשת בין היתר במשימות רגרסיה וסיווג. היא נותנת מודל חיזוי בצורה של תמהיל (ensemble) של מודלי חיזוי חלשים, שהם בדרך כלל עצי החלטה. כאשר עץ החלטות הוא הלומד החלש (weak learner), האלגוריתם המתקבל נקרא עצים מחוזקי שיפוע, והוא בדרך כלל מתעלה ביעילותו על יער אקראי (random forest). מודל עצי-מחוזק שיפוע בנוי בצורה שלבית כמו שיטות boosting אחרות, אבל זה מכליל שיטות אחרות בכך שהוא מאפשר אופטימיזציה של פונקציית הפסד גזירה שרירותיות.

הקדמה לא רשמית 
(קטע זה תואם חשיפה של חיזוק שיפוע על ידי Li)

בדומה לשיטות חיזוק אחרות, חיזוק שיפוע משלבת "לומדים" חלשים ללומד חזק יחיד בצורה איטרטיבית. המקרה הפשוט ביותר הוא בהגדרת הרגרסיה על ידי קריטריון של ריבועים מינימליים, שבה המטרה היא "ללמד" מודל  לחזות את ערכי הצורה  על ידי מזעור השגיאה הממוצעת בריבוע , כאשר  אינדקסים מעל סט אימונים כלשהו בגודל  של ערכים בפועל של משתנה הפלט  :
  = הערך החזוי 
  = הערך הנצפה
  = מספר הדגימות ב 

כעת, הבה נבחן אלגוריתם להגברת שיפוע עם  שלבים. בכל שלב  (  ) של הגברת שיפוע, נניח מודל לא מושלם  (עבור  נמוך, ייתכן שהדגם הזה פשוט יחזור , שבו ה- RHS הוא הממוצע של ). כדי לשפר את , האלגוריתם שלנו צריך להוסיף איזשהו אומדן חדש, . לכן,

 

או, באופן שווה,

  .

לכן, הגברת שיפוע תתאים את  לשארית  . כמו בגרסאות חיזוק אחרות, כל  מנסה לתקן את השגיאות של קודמו . הכללה של רעיון זה לפונקציות הפסד שאינן שגיאה בריבוע, ולבעיות סיווג ודירוג, נובעת מהתצפית ששאריות  עבור מודל נתון שוות ערך (פרופורציונלית) לשיפועים השליליים של פונקציית ההפסד הממוצעת בריבוע (MSE) (ביחס ל ):

 

  .

אז אפשר לכוון בהגברת השיפוע לאלגוריתם של ירידה בשיפוע, והכללה שלו כרוכה ב"חיבור" של הפסד שונה ושל הגרדיאנט שלו.

ראו גם 
 יער אקראי
 XGBoost
 למידת עץ החלטות

לקריאה נוספת

הערות שוליים 

למידת מכונה
כריית מידע
רגרסיה
סיווג (סטטיסטיקה)