דוגמה לרגרסיה לוגיסטית, שמטרתה להבין כיצד מספר השעות שתלמיד משקיע בלמידה תורמת לסיכוייו לעבור את המבחן. במקרה זה נדגמו 20 תלמידים (הנקודות השחורות), והתוצאה היא העקומה הכחולה (שמייצגת את הסיכוי כפונקציה של השעות)
**רגרסיה לוגיסטית** היא מודל סטטיסטי המתאר קשר אפשרי בין משתנה איכותי/קטגורי (כלומר, לא כזה שניתן למדוד באופן כמותי), המכונה "המשתנה המוסבר", ובין משתנים אחרים המכונים "משתנים מסבירים". המשתנים המסבירים יכולים להיות איכותיים או כמותיים. 

שימוש נפוץ במודל הוא כאשר המשתנה המוסבר הוא בינארי ("0" או "1", למשל - "ירד גשם" או "לא ירד גשם") והמשתנים המסבירים הם בעלי ערך ספיר כלשהוא (למשל - הטמפרטורה). במקרים אלו הגרף שנוצר מתאר את ההסתברות להתרחשות של מאורע כלשהוא, כתלות במשתנים הספירים.

המודל מאפשר לאמוד את מידת ההשפעה של שינוי בערכו של כל אחד מהמשתנים המסבירים על ערכו של המשתנה המוסבר. במילים אחרות, המודל מאפשר לאמוד מתאמים בין המשתנים המסבירים למשתנה המוסבר. המודל לבדו אינו מספיק כדי לקבוע קשר סיבתי בין המשתנים המסבירים והמשתנה המוסבר.

מודל הרגרסיה הלוגיסטית הוא מקרה פרטי של המודל הליניארי המוכלל.

היסטוריה
--------

מקורותיה של ההתפלגות הלוגיסטית, המהווה את הבסיס למודל הרגרסיה הלוגיסטית הם במאה ה-19. מקורה במשוואה דיפרנציאלית שתיארה מודל לגידול באוכלוסייה, וגם מודלים של ריאקציות כימיות. הסטטיסטיקאי הבלגי אדולף קטלה הבחין כי הפתרון שנמצא למשוואה הנ"ל מוביל לערכים בלתי אפשריים והציע משוואה מתוקנת שכללה פונקציית התפלגות. פונקציית ההתפלגות שהתגלתה בפתרון המשוואה המתוקנת נקראה בשם ההתפלגות הלוגיסטית.

הרעיון הבסיסי של מודל הרגרסיה הלוגיסטית היא כי בהינתן משתנה איכותי (הנמדד בסולם מדידה שמי) המקבל שני ערכים, הערך של משתנה זה נקבע על ידי משתנה נסתר שהתפלגותו היא התפלגות לוגיסטית. מקורו של רעיון זה הוא בניסיונות של קרל פירסון לפתח מקדם מתאם למשתנים איכותיים, כאשר הנחתו הייתה כי ערכם של המשתנים האיכותיים נקבע על ידי משתנה נסתר בעל התפלגות נורמלית. סיר דויד קוקס אימץ את הרעיון הזה ופיתח על פיו את מודל הרגרסיה הלוגיסטית שהציג ב-1958.

מוטיבציה
--------

יהי {\displaystyle Y} משתנה איכותי המקבל ללא הגבלת הכלליות שני ערכים: 1 ו-0, ויהי {\displaystyle X} משתנה מסביר כלשהו.

כדי לבנות מודל לקשר אפשרי בין {\displaystyle Y} ובין {\displaystyle X} נניח מספר הנחות:

1. קיים משתנה רציף {\displaystyle Y^{\*}}, כך שערכו של {\displaystyle Y} שווה ל-0 אם ערכו של {\displaystyle Y^{\*}} קטן מסף כלשהו, וערכו של {\displaystyle Y} שווה ל-1 אם ערכו של {\displaystyle Y^{\*}} גדול מסף זה. יש לשים לב כי {\displaystyle Y^{\*}} אינו חלק מהנתונים אלא חלק מהמודל. ללא הגבלת הכלליות נניח כי ערך הסף שווה ל-0, כלומר {\displaystyle Y=1} אם ורק אם {\displaystyle Y^{\*}>0}.
2. קיים קשר ליניארי בין {\displaystyle Y^{\*}} ובין {\displaystyle X} המבוטא על ידי המודל {\displaystyle Y^{\*}=\beta \_{0}+\beta \_{1}\cdot X+\epsilon }
3. התפלגותו של {\displaystyle \epsilon } היא התפלגות לוגיסטית: {\displaystyle F(t)={\frac {e^{t}}{1+e^{t}}}} לכל {\displaystyle t} ממשי.

כן נניח למען הפשטות כי {\displaystyle X} הוא משתנה בדיד.

נסמן{\displaystyle p=P(Y=1|X=x)} ולכן {\displaystyle P(Y=0|X=x)=1-p}.

על פי ההנחה הראשונה אודות הקשר בין {\displaystyle Y} ובין {\displaystyle Y^{\*}} נקבל כי



p
=
P
(
Y
=
1

|

X
=
x
)
=
P
(

Y

∗

>
0

|

X
=
x
)

{\displaystyle p=P(Y=1|X=x)=P(Y^{\*}>0|X=x)}

{\displaystyle p=P(Y=1|X=x)=P(Y^{*}>0|X=x)}
על פי ההנחה השנייה אודות הקשר בין {\displaystyle X} ובין {\displaystyle Y^{\*}} נקבל כי



p
=
P
(

Y

∗

>
0

|

X
=
x
)
=
P
(

β

0

+

β

1

⋅
x
+
ϵ
>
0
)
=
P
(
ϵ
<

β

0

+

β

1

⋅
x
)

{\displaystyle p=P(Y^{\*}>0|X=x)=P(\beta \_{0}+\beta \_{1}\cdot x+\epsilon >0)=P(\epsilon <\beta \_{0}+\beta \_{1}\cdot x)}

{\displaystyle p=P(Y^{*}>0|X=x)=P(\beta _{0}+\beta _{1}\cdot x+\epsilon >0)=P(\epsilon <\beta _{0}+\beta _{1}\cdot x)}
על פי ההנחה השלישית אודות ההתפלגות של {\displaystyle \epsilon } נקבל כי



p
=
P
(
ϵ
<

β

0

+

β

1

⋅
x
)
=

e

β

0

+

β

1

⋅
x

1
+

e

β

0

+

β

1

⋅
x


{\displaystyle p=P(\epsilon <\beta \_{0}+\beta \_{1}\cdot x)={\frac {e^{\beta \_{0}+\beta \_{1}\cdot x}}{1+e^{\beta \_{0}+\beta \_{1}\cdot x}}}}

{\displaystyle p=P(\epsilon <\beta _{0}+\beta _{1}\cdot x)={\frac {e^{\beta _{0}+\beta _{1}\cdot x}}{1+e^{\beta _{0}+\beta _{1}\cdot x}}}}
ולכן



log
⁡
(

p

1
−
p

)
=

β

0

+

β

1

⋅
x

{\displaystyle \log({\frac {p}{1-p}})=\beta \_{0}+\beta \_{1}\cdot x}

{\displaystyle \log({\frac {p}{1-p}})=\beta _{0}+\beta _{1}\cdot x}

תאוריה
------

### הגדרה פורמלית

יהי Y משתנה מקרי בינארי המקבל ללא הגבלת הכלליות את הערכים 0 ו-1, ויהי {\displaystyle X} משתנה מקרי רב ממדי {\displaystyle X=(X\_{1},...X\_{I})}. נסמן: {\displaystyle \pi (x)=P(Y=1|X\_{1}=x\_{1},...X\_{I}=x\_{I})} ו- {\displaystyle \mathbf {x} =(x\_{1},...x\_{I})}.

מודל הרגרסיה הלוגיסטית הוא



log
⁡

π
(

x

)

1
−
π
(

x

)

=

β

0

+

β

1

⋅
 

x

1

+
.
.
.
+

β

I

⋅
 

x

I

{\displaystyle \log {\frac {\pi (\mathbf {x} )}{1-\pi (\mathbf {x} )}}=\beta \_{0}+\beta \_{1}\cdot \ x\_{1}+...+\beta \_{I}\cdot \ x\_{I}}

{\displaystyle \log {\frac {\pi (\mathbf {x} )}{1-\pi (\mathbf {x} )}}=\beta _{0}+\beta _{1}\cdot \ x_{1}+...+\beta _{I}\cdot \ x_{I}}
הטרנספורמציה {\displaystyle \log({\frac {m}{1-m}})} מכונה טרנספורמציית לוגיט.

### אמידה

בהינתן מדגם בגודל {\displaystyle N}, יהיו {\displaystyle y\_{j}} ו-{\displaystyle \mathbf {x\_{j}} =(x\_{1j},...x\_{Ij})} הערכים הנצפים של התצפית ה-{\displaystyle j}.

נסמן את הפרמטרים של המודל ב-{\displaystyle \mathbf {\beta } =(\beta \_{0},\beta \_{1},...\beta \_{I})}. מאחר שההתפלגות של {\displaystyle y\_{j}} היא התפלגות ברנולי עם הסתברות להצלחה {\displaystyle \pi (\mathbf {x\_{j}} )}, נקבל כי הנראות (likelihood) של התצפית ה-{\displaystyle j} היא {\displaystyle L\_{j}(\beta |y\_{j},\mathbf {x\_{j}} )=\pi (\mathbf {x\_{j}} )^{y\_{j}}\cdot (1-\pi (\mathbf {x\_{j}} ))^{1-y\_{j}}},

ולכן {\displaystyle \log(L\_{j}(\beta |y\_{j},\mathbf {x\_{j}} ))={y\_{j}}\cdot \log(\pi (\mathbf {x\_{j}} ))+({1-y\_{j}})\log(\cdot (1-\pi (\mathbf {x\_{j}} )))}.

מכאן נקבל כי לוג פונקציית הנראות הוא {\displaystyle log(L(\mathbf {\beta } |y,\mathbf {x} ))=\sum \_{j}{y\_{j}}\cdot \log(\pi (\mathbf {x\_{j}} ))+\sum \_{j}({1-y\_{j}})\log(\cdot (1-\pi (\mathbf {x\_{j}} )))},

ולכן אומד הנראות המקסימלית ל-{\displaystyle \mathbf {\beta } } הוא {\displaystyle {\hat {\mathbf {\beta } }}=\arg \max \log L(\mathbf {\beta } |\mathbf {y} ,\mathbf {x} )}.

בדרך כלל לא ניתן למצוא את המקסימום של לוג פונקציית הנראות באופן אנליטי ויש להשתמש בשיטות נומריות כדי לחשב את ערכו של {\displaystyle {\hat {\mathbf {\beta } }}}.

### פרשנות

למען הנוחות, נתייחס למודל עם משתנה מסביר אחד:

{\displaystyle logit(\pi (x))=\log({\frac {\pi (x)}{1-\pi (x)}})=\beta \_{0}+\beta \_{1}\cdot x}.

1. אם {\displaystyle \beta \_{1}>0} אז גידול בערכו של {\displaystyle x} יביא לגידול בערכו של {\displaystyle \pi (x)}. באופן דומה, אם {\displaystyle \beta \_{1}<0} אז גידול בערכו של {\displaystyle x} יביא להקטנת ערכו של {\displaystyle \pi (x)}.
2. {\displaystyle e^{\beta \_{1}}} הוא יחס הסיכויים (odds ratio) של {\displaystyle Y} בהינתן {\displaystyle X}.

יישומים
-------

לרגרסיה לוגיסטית יש מספר יישומים אפשריים.

1. זיהוי קשר בין משתנים: יחס הסיכויים הוא למעשה מקדם קשר בין משתנים. בעזרת רגרסיה לוגיסטית אפשר לזהות משתנים מסבירים שלהם יש קשר חזק עם המשתנה המוסבר. לדוגמה, חוקר המעוניין לזהות גורמי סיכון למחלה מסוימת, יכול לאסוף נתונים אודות גורמי סיכון פוטנציאליים למחלה כגון משקל, לחץ דם גיל, חשיפה למפגע סביבתי וכדומה ונתונים אלה יהיו המשתנים המסבירים. משתנה התגובה יציין לכל אדם במדגם האם הוא חולה במחלה או בריא. משתנים מסבירים עבורם יחס הסיכויים {\displaystyle e^{\beta }} הוא גבוה וגדול מ-1 באופן משמעותי הם גורמי סיכון פוטנציאליים למחלה. משתנים מסבירים עבור יחס הסיכויים נמוך וקטן מ-1 באופן משמעותי הם גורמים המפחיתים את הסיכון לחלות במחלה.
2. סיווג וחיזוי: לאחר שאומדים את הפרמטרים {\displaystyle \mathbf {\beta } } של מודל הרגרסיה, ניתן לחשב בעזרתו את ההסתברות כי עבור פרט מסוים עבורו נתונים רק ערכי המשתנים המסבירים, ערך המשתנה המוסבר יהיה שווה ל-1. בהתאם לנסיבות ניתן לסווג את הערך של המשתנה המוסבר ל-1 או 0, או לחזות כי הוא יהיה שווה ל-1 או 0 על פי ההסתברות הזו. לדוגמה, חברה יכולה להשתמש בנתונים אודות הלקוחות כדי לחזות האם הלקוח ינטוש את החברה, על ידי כך שתאסוף נתונים אודות מדגם של לקוחות בנקודת זמן מסוימת, והמשתנה המוסבר יהיה האם הלקוח עזב את החברה במהלך השנה שלאחר מכן. בעזרת הפרמטרים שנאמדו החברה תוכל לחשב לכל לקוח את ההסתברות שינטוש את החברה בשנה הקרובה. החברה יכולה להחליט למשל כי אם עבור לקוח מסוים ההסתברות שלו לנטוש את החברה גדולה מ-70%, למשל, אזי יש לנקוט בפעולות לשימור הלקוח, כגון הצעת תנאים יותר טובים.

דוגמה
-----

לצורך פיתוח שיטה לזיהוי של גידולים בשד כשפירים או סרטניים נדגמו 569 גידולים שסווגו כשפירים או סרטניים, ונאספו נתונים על התאים שבכל גידול.

לצורך הדוגמה נשתמש בארבעה נתונים מתוך כל הנתונים שנאספו. כל הנתונים הם ממוצעים של מדידות ממדגם של תאים מתוך כל גידול:

1. רדיוס התא - radius
2. מרקם התא - texture
3. היקף התא - perimeter
4. שטח הפנים של התא - area

הנתונים נותחו בעזרת הפונקציה glm של תוכנת R.
אמדני הפרמטרים {\displaystyle \mathbf {\beta } } נתונים בטבלה הבאה:

|  |  |  |  |  |
| --- | --- | --- | --- | --- |
| P-value | z value | Std. Error | Estimate |  |
| <0.0001 | -8.346 | 4.132106 | -34.4869 | (Intercept) |
| <0.0001 | 5.748 | 0.041969 | 0.241225 | texture |
| <0.0001 | -4.603 | 0.004719 | -0.02173 | area |
| <0.0001 | 6.404 | 0.072482 | 0.464194 | perimeter |

ניתן לראות כי כל האמדנים של ערכי {\displaystyle \mathbf {\beta } } הם מובהקים סטטיסטית (כל ערכי ה-p קטנים מ-0.001), כלומר שונים באופן מובהק מאפס. אמדני הפרמטרים (הנמצאים בעמודת Estimate) המתאימים למרקם (texture) ולהיקף (perimeter) חיוביים, ומכאן שככל שערכיהם גבוהים יותר כך ההסתברות כי התא הנבדק סרטני גדולה יותר. לעומת זאת המקדם המתאים לשטח הפנים של התא שלילי, ומכאן שככל ששטח הפנים גדול יותר ההסתברות כי הגידול סרטני נמוכה יותר.
פרשנות האמדנים ליחסי הסיכויים (OR) ורווחי הסמך שלהם נתונים בטבלה הבאה:

|  |  |  |  |
| --- | --- | --- | --- |
| high | low | OR |  |
| 0.000 | 0.000 | 0.000 | (Intercept) |
| 1.378 | 1.168 | 1.273 | texture |
| 0.988 | 0.969 | 0.979 | area |
| 1.817 | 1.365 | 1.591 | perimeter |

(הערה: רווחי הסמך חושבו בעזרת שיטת הדלתה שאינה זמינה בפונקציית glm של R).

יחס הסיכויים הגבוה ביותר התקבל עבור משתנה ההיקף (OR=1.591), ומכאן שמבין שלושת הפרמטרים שנבדקו הקשר בינו ובין היות הגידול סרטני או שפיר הוא החזק ביותר. יש גם קשר חזק יחסית (OR=1.279) בין משתנה המרקם ובין סוג הגידול. יחס הסיכויים שבין שטח הפנים וסוג הגידול קרוב למדי לערך 1, ולא ברור אם יש לו משמעות רפואית.

הערות שוליים
------------

1. ↑  Cox, David R, The regression analysis of binary sequences (with discussion), **Journal of the Royal Statistical Society, Seires B**, 2 20, 1958, עמ' 215–242
2. ↑  Breast Cancer Wisconsin (Diagnostic) Data Set, UCI Machune Learnng Depository

|  |  |
| --- | --- |
| בקרת זהויות עריכת הנתון בוויקינתונים | 
* NLI: 987007536257205171
* BnF: cb13737339z (data)
* GND: 4230396-5
* LCCN: sh85078131

 |