פונקציית הפסד

פונקציית הפסד (באנגלית: Loss function) או פונקציית עלות (באנגלית: Cost function) היא פונקציה הממפה מאורע או ערכים של משתנה אחד או יותר למספר ממשי המייצג "עלות" של מאורע. בבעיות אופטימיזציה מנסים למזער את פונקציית ההפסד. פונקציות הפסד או עלות נמצאות בשימוש נרחב במגוון תחומים בהם אופטימיזציה מתמטית, סטטיסטיקה, אקונומטריקה, תורת ההחלטות ולמידת מכונה. בתחומים מסוימים מתייחסים לפונקציית מטרה שעשויה להיות פונקציית הפסד או הפונקציה הנגדית שלה שאותה רוצים למקסם (למשל פונקציית תועלת ופונקציית כשירות).

בסטטיסטיקה נעשה שימוש בפונקציית הפסד באמידת פרמטרים, כשפונקציית ההפסד אומדת את הסתברות המאורע של תצפיות הנתונים על פי הפרמטרים הנאמדים.

דוגמאות

חרטה

פונקציה ריבועית

שימוש בפונקציית הפסד ריבועית נפוץ בין היתר בבעיות רגרסיה ליניארית למשל בשיטת הריבועים הפחותים. אחד היתרונות של פונקציה ריבועית ביחס לפונקציות הפסד אחרות הוא הסימטריות שלה - שגיאה של הערכה מעל המטרה או מתחת למטרה יתנו הפסד דומה. 

כאשר ערך המטרה הוא t ניתן להציג פונקציית הפסד ריבועית כך:

כאשר C הוא קבוע (שאותו אפשר גם להגדיר כאחד).

פונקציית הפסד 0-1
בסטטיסטיקה ובתורת ההחלטות אחת מפונקציות ההפסד המוכרות היא פונקציית הפסד 0-1:
 
כאשר  הוא פונקציה מציינת.

Hinge
אחת מפונקציות ההפסד הנפוצות בלמידת מכונה היא פונקציית הפסד Hinge המוגדרת: 

כאשר  מייצג את המטרה, ו  הוא הפרדיקציה. 

למידת מכונה