רגרסיה אורדינלית

**רגרסיה אורדינלית** היא מודל רגרסיה סטטיסטי בו המשתנה המוסבר נמדד בסולם מדידה סודר. מודלים כאלה שימושיים במיוחד במדעי החברה, שם נעשה שימוש נרחב במשתנים הנמדדים בסולם לייקרט, מדידה המשתמשת באמרות שליליות או חיוביות  עם מידה משתנה של עוצמה המתייחסות לאובייקט מסוים (לדוגמה: סולם הנע מ-1 עד 5, כאשר 5 מייצג 'מסכים במידה רבה', ו-1 מייצג 'מסכים במידה מועטה').

## הגדרה פורמלית
יהיה Y משתנה הנמדד בסולם מדידה סודר, שיכול לקבל C ערכים שונים. נסמן את הערכים ש-Y מקבל ב-y_1 עד y_C, כאשר y_1 \le y_2 \le...\le y_C. ללא הגבלת הכלליות נניח כי y_1=1, y_2=2,...,y_C=C.

כן יהיו X_1,...X_p משתנים מסבירים, \beta_1,...,\beta_p פרמטרים ממשיים, ו-\alpha_1,...,\alpha_{C-1} פרמטרים ממשיים המקיימים \alpha_1 \le \alpha_2 \le...\le \alpha_{C-1}.

נסמן X\beta=\beta_1 X_1 + ... + \beta_p X_p. כן נסמן ב-x את הערך הנצפה של המשתנה X.

הערכים \alpha_1,...,\alpha_{C-1} מגדירים מעין "מדרגות" שמפרידות בין הערכים השונים של Y, ויוצרים באופן מסוים הכללה למודל הרגרסיה הלוגיסטית, שם יש מדרגה אחת המפרידה בין שני הערכים האפשריים של המשתנה המוסבר, וגובהה נקבע שרירותית להיות שווה לאפס, וזאת באינטרפרטציה שבה ערכו של Y נקבע על ידי ערכו של משתנה נסתר Y^*.

## מודלים ליניאריים

### המקרה הכללי
מודל ליניארי עבור Y הוא P (Y \le j | X_1,...,X_p) = g^{-1} (\alpha_j + X\beta),
כאשר g היא פונקציית קישור. ניתן להסתכל על המודל, כסט משוואות ליניאריות:

P (Y \le 1  | X_1,...,X_p) = g^{-1} (\alpha_1 + X\beta)

P (Y \le 2  | X_1,...,X_p) = g^{-1} (\alpha_2 + X\beta)

 \vdots

P (Y \le j | X_1,...,X_p) = g^{-1} (\alpha_j + X\beta)

המודל הנאמד פותר עבור כל המשוואות, כאשר הבטאות הנאמדות זהות עבור כל משוואה ומשוואה, ומקדם החיתוך, α, משתנה בין המשוואות. בחירות שונות של g מובילות למודלים שונים ממשפחת מודלים זו. במובן מסוים ניתן לראות מודל זה כמודל ליניארי מוכלל. יש להניח את כל ההנחות הסטנדרטיות שמודל רגרסיה אמור לקיים.

יש לשים לב כי בניסוח זה, ערך חיובי של \beta משמעותו אפקט שלילי, במובן שאם \beta גבוה יותר, ההסתברות כי Y יקבל ערך נמוך תגדל. מסיבה זו, יש הנוהגים להגדיר את המודל כפונקציה של  \alpha_j - X\beta. מבחינה מעשית ההבדל היחיד הוא שאומדני הפרמטרים של המודל יהיו בסימנים הפוכים. לכן, כאשר משתמשים בתוכנה, יש לשים לב איך המודל מוגדר על ידי התוכנה, וזאת כדי לפרשן נכונה את האומדנים.

### מודל לוגיסטי מצטבר
אם g היא פונקציית הלוגיט: g(s)=\log ( \frac {s} {1-s} ), המודל המתקבל נקרא מודל לוגיסטי מצטבר. כפי שצוין מעלה, ניתן לגזור מודל זה מהנחת קיום משתנה נסתר, בדומה לגזירת מודל הרגרסיה הלוגיסטית.

על פי מודל זה
P(Y\le j|x_1,...,x_j)=\frac{ e^{\alpha_j + x\beta} }{1+e^{\alpha_j + x\beta}}

בדומה למודל רגרסיה הלוגיסטית, גם במודל זה יש לפרמטרים \beta פירוש של לוג יחס סיכויים:
\log {\frac{P(Y \le j | x_1) / P(Y > j | x_1)} {P(Y \le j | x_2) / P(Y > j | x_2)}} =\beta(x_1-x_2)

יש לשים כי כאן הלוגריתם של יחס הסיכויים אינו קבוע לכל ערכי X אלא פרופורציונלי להפרש בין שני ערכים ספציפיים של X.

### מודל פרוביט מצטבר
נסמן ב-\Phi(s) את פונקציית ההתפלגות המצטברת של משתנה מקרי נורמלי סטנדרטי, ונגדיר את פונקציית הקישור להיות g(s)=\Phi^{-1}(s). המודל המתקבל הוא נקרא מודל פרוביט מצטבר. ניתן לגזור מודל זה מהנחת קיום משתנה נסתר שהתפלגותו נורמלית. 

כאשר משתמשים במודל פרוביט, אם המנבאים מתוקננים, והמודל מניח כי המשתנה הנסתר מתפלג התפלגות נורמלית סטנדרטית (התפלגות נורמלית עם ממוצע 0 וסטיית תקן 1) אזי ניתן להתייחס לבטאות כאל גודל אפקט, מאחר שבסולם בו הם נאמדות הן מייצגות את היחס בין עלייה בסטיית תקן אחת של המשתנה החבוי על כל עלייה בסטיית תקן אחת של במשתנה המנבא.

בדרך כלל מודל הלוגיט ומודל הפרוביט מניבים תוצאות דומות.

### מודל לא סימטרי
פונקציות הקישור לוגיט ופרוביט סימטריות במובן ש-P(Y \le j) מתקרב ל-0 באותו הקצב שבו הוא מתקרב ל-1. באינטרפרטציה על פיה ערכו של Y נקבע על ידי משתנה נסתר Y^*, השימוש בפונקציות קישור אלה ודומותיהן מניח כי Y^* הוא בעל התפלגות סימטרית.

עם זאת, על אף ומודל מבוסס פונקציית קישור פרוביט חסין יחסית לסטיות של המשתנה החבוי, לעיתים עולה הצורך להשתמש בהתפלגות משתנה חבוי שאינה סימטרית אלא מצודדת (skewed). בהתפלגות מצודדת ימנית (right skewed), כלומר התפלגות עם "זנב" של ערכים גבוהים, P(Y \le j) מתקרב ל-1 בקצב יותר מהיר מאשר ל-0, ובאופן דומה, בהתפלגות מצודדת שמאלית (left skewed), כלומר התפלגות עם "זנב" של ערכים נמוכים, P(Y \le j) מתקרב ל-0 בקצב יותר מהיר מאשר ל-1.

תחת הנחות אלה, מתאים יותר לבחור פונקציית קישור לא סימטרית. למקרה של משתנה נסתר בעל התפלגות מצודדת ימנית מומלץ לבחור כפונקציית הקישור את פונקציית הלוג-לוג המשלימה (complementary log-log): g^{-1}(s)= \log [- \log (1-s)]. באופן דומה, כאשר מניחים שלמשתנה הנסתר הוא התפלגות מצודדת שמאלית, מתאימה יותר פונקציית הקישור לוג-לוג: g^{-1}(s)= \log [-\log (s)].

## שימוש במודלים לניבוי משתנה רציף
שימוש במודלים כמו רגרסיה ליניארית פשוטה לניבוי משתנים הנמדדים בסולם מדידה סודר נפוץ בספרות האקדמית. עם זאת, שימוש במודלים כאלו נתקפו הן מזוויות תאורטיות והן באמצעות מחקרים סימולטיביים. 

מזווית תאורטית נטען כי התייחסות למשתנה התלוי כרציף מועדת להשפעות של אפקט תקרה ואפקט רצפה, ובכך עלולה ליצור הטיות בהסקת המסקנות. זאת מאחר שהסטטיסט הנאמד - ממוצע המשתנה בפועל, תחום אפריורית בין האינדקס של הקטגוריה הגבוהה ביותר לאינדקס של הקטגוריה הנמוכה ביותר. אפקט רצפה או תקרה עלול ליצור מצג של אינטראקציה בין מנבאים גם כשהיא אינה קיימת. בסדרת סימולציות מבוססות משתנה חבוי y^* אשר קוטלג ל-k קטגוריות (1,2,...,k) בעלות יחס של סדר זו לזו, החוקרים ג'ון קרושקה  וטורין לידל הציגו הטיות רבות שיכולות לנבוע מטיפול בקטגוריות כבמשתנה רציף. בפרט הראו חוקרים אלו כי יכול להיווצר היפוך של כיוון ההפרש בין שתי קטגוריות. כלומר אם ממוצע y^* בקבוצה א' גדול מממוצע y^* בקבוצה ב', אין הדבר מבטיח כי יחס זה ישמר גם בין ממוצע האינדקסים (ה-k) בין הקבוצות. השימוש בסטטיסטיקה על y^* מטפלת גם באפקט התקרה והרצפה מאחר ש-y^* בהגדרה אינו תחום, אלא משתרע בין -\infty ל-+\infty.

## מודלים אחרים
קיים מגוון רחב של מודלים אחרים לרגרסיה אורדינלית. שלבי הברמן הציע ליישם את המודל הלוג ליניארי לניתוח משתנה סודר בהינתן משתנים מסבירים. ליאו גודמן הציע מודלים מכפלתיים, וכן משפחת מודלים המהווה הרחבה של המודל הלוג ליניארי שכוללת בתוכה איבר לא ליניארי (אחד המודלים הנפוצים ממשפחת מודלים זו ידוע בשם מודל RC). מודלים לא ליניאריים המתקבלים על ידי השמטת הנחות לגבי השונות של המשתנה הנסתר הוצגו על ידי פיטר מק-קאלאך.

כן יש מגוון רב של מודלים בייסיאניים ומודלים של למידת מכונה.

## לקריאה נוספת
* Bürkner, P. C., & Vuorre, M. (2019). Ordinal regression models in psychology: A tutorial. ''Advances in Methods and Practices in Psychological Science'', ''2''(1), 77-101.
* Liddell, T. M., & Kruschke, J. K. (2018). Analyzing ordinal data with metric models: What could possibly go wrong?. ''Journal of Experimental Social Psychology'', ''79'', 328-348.
* Models for Ordinal Response Data - Coure notes by Germán Rodríguez, Princeton University
*Modeling Ordinal Categorical Data - Tutorial by Alan Agresti, University of Florida

## הערות שוליים

אורדינלית
קטגוריה:ניתוח נתונים איכותיים