הנדסת מאפיינים

בניתוח נתוני עתק ובלמידת מכונה, מאפיין הוא תכונה משותפת ליחידות עצמאיות שעליהן יש לבצע ניתוח או חיזוי. הנדסת מאפיינים היא התהליך של שימוש בידע תחומי לחילוץ מאפיינים מנתונים גולמיים.

מאפיינים משמשים במודלים חזויים ומשפיעות על התוצאות.

 תהליך 
תהליך איטרטיבי של הנדסת המאפיינים הוא:
 סיעור מוחות או בדיקת מאפיינים
 החלטה אילו מאפיינים ליצור
 יצירת המאפיינים
 בדיקת ההשפעה של המאפיינים שזוהו על המשימה או היעד
 שיפור המאפיינים במידת הצורך
 חזרה לשלב הראשון

 מאפיינים מהונדסים אופייניים 
הרשימה הבאה מספקת כמה דרכים טיפוסיות להנדסת מאפיינים שימושיים:
 טרנספורמציות נומריות (כמו לקיחת שברים או שינוי קנה מידה)
 מקודד קטגוריות כמו מקודד חם או יעד (למשתנים איכותיים)
 מקבוץ (Clustering)
 קיבוץ ערכים מצטברים
 ניתוח רכיבים עיקריים (Principal component) לנתונים נומריים

 חשיבות 
למאפיינים פרמטר חשיבות משתנה. אפילו מאפיינים לא משמעותיים יחסית עשויים לתרום ליעילות המידול. בחירת מאפיין טובה יכולה להפחית את מספר המאפיינים כדי למנוע מדגם להפוך ספציפי מדי למערך נתוני האימון (התאמת יתר - overfitting).

 התפוצצות מאפיינים 
"התפוצצות מאפיינים" מתרחשת כאשר מספר המאפיינים המזוהים גדל באופן לא הולם. הסיבות השכיחות כוללות:
 תבניות מאפיינים - הטמעת תבניות מאפיינים במקום קידוד מאפיינים חדשים
 שילובי מאפיינים - צירופים שלא ניתן לייצגם על ידי מערכת ליניארית

ניתן להגביל את פיצוץ המאפיינים באמצעות טכניקות כגון: רגולריזציה, שיטת ליבה ובחירת מאפיינים.

 אוטומציה 
אוטומציה של הנדסת מאפיינים היא נושא מחקר שראשיתו בשנות ה-90. תוכנת למידת מכונה המשלבת הנדסת מאפיינים אוטומטית זמינה מסחרית מאז 2016. ניתן להפריד באופן גס את הספרות האקדמית הקשורה לשני סוגים:
 למידת עץ החלטות רב-יחסית (MRDTL) משתמשת באלגוריתם מפוקח הדומה לעץ החלטות.
 Deep Feature Synthesis משתמש בשיטות פשוטות יותר.

 למידת עץ החלטות רב-יחסיות (MRDTL) 
MRDTL מייצר מאפיינים בצורה של שאילתות SQL על ידי הוספת סעיפים ברציפות לשאילתות. לדוגמה, האלגוריתם עשוי להתחיל עם:
SELECT COUNT(*) FROM ATOM t1 LEFT JOIN MOLECULE t2 ON t1.mol_id = t2.mol_id GROUP BY t1.mol_id

לאחר מכן ניתן לחדד את השאילתה ברציפות על ידי הוספת תנאים, כגון "WHERE t1.charge <= -0.392".

עם זאת, רוב מחקרי MRDTL מבססים יישומים על מסדי נתונים יחסיים, מה שמביא לפעולות מיותרות רבות. ניתן לצמצם את היתירות הללו על ידי שימוש ב"טריקים" כגון הפצת tuple id. ניתן להגביר את היעילות באמצעות עדכונים מצטברים, אשר מבטל יתירות.

 סינתזת מאפיינים עמוקה 
אלגוריתם Deep Feature Synthesis ניצח 615 מתוך 906 צוותים אנושיים בתחרות.

ספריות:
 Featuretools
 OneBM
 ExploreKit

 לקריאה נוספת 




 הערות שוליים 

קטגוריה:למידת מכונה