רגרסיה ליניארית

רגרסיה ליניארית היא שיטה מתמטית למציאת הפרמטרים של הקשר בין משתנה בלתי תלוי X למשתנה תלוי Y, בהנחה שהקשר ביניהם ליניארי, כלומר מהצורה <math>\ Y = aX+b</math>.

השיטה משמשת לניתוח מדגמים סטטיסטיים. נוסחת הרגרסיה הליניארית מחשבת את הקו הישר שעובר דרך הנקודות שבמדגם. במצב של קשר ישיר מדויק כל הנקודות במדגם יימצאו על הקו עצמו. במציאות גורמים נוספים משפיעים על המדגם והנקודות לרוב מפוזרות מסביב לקו. הקו מחושב בצורה כזאת שסכום ריבועי המרחקים של הנקודות מהקו הוא הקטן ביותר. רגרסיה ליניארית מרובה מחשבת קשר בין מספר משתנים בלתי תלויים יחד, למשתנה תלוי אחד.

== רגרסיה ליניארית עם משתנה מסביר יחיד ==
המקרה הפשוט ביותר הוא זה שבו קיימים שני משתנים: משתנה בלתי תלוי X שהוא המשתנה המסביר, ומשתנה תלוי Y שהוא המשתנה המוסבר. לדוגמה, אפשר לנסות להסביר ולנבא באמצעות המודל את גובהו של עץ תפוחים (Y, במטרים), על פי משקלו של הזרע שממנו הוא צומח (X, בגרמים).

בבסיס השיטה עומדת ההנחה כי המודל המסביר את הקשר בין המשתנים הוא מודל ליניארי, כלומר, שמשוואה מסוג <math>\ Y = aX+b+error</math> תתאר נכונה את הקשר. ליתר דיוק, מניחים שבמדגם הכולל n דגימות <math>\ (X_1,Y_1),\dots,(X_n,Y_n)</math>, מתקיים הקשר <math>\ Y_i = a X_i + b + \epsilon_i</math>, כאשר a ו-b הם פרמטרים קבועים (שאינם ידועים), ואילו גורמי השגיאה <math>\ \epsilon_1,\dots,\epsilon_n</math> הם משתנים בלתי תלויים שווי התפלגות, שהתוחלת שלה 0, והשונות שלה, <math>\sigma^2</math>, קבועה (אבל אולי בלתי ידועה). לעיתים רבות מניחים גם כי ההתפלגות של גורמי השגיאה היא נורמלית.

המטרה הראשונה של הרגרסיה הליניארית היא לסייע באמידת Y, כאשר X ידוע. לדוגמה, אם ידוע שגובהם הממוצע של עצי תפוח הוא 6 מטרים, אז ההערכה הטובה ביותר שאפשר לתת לגובהו העתידי של עץ שטרם צמח, היא (מן הסתם) 6 מטרים. לעומת זאת, אם אכן קיים קשר ליניארי בין משקל הזרע לבין גובה העץ, אפשר לנסות להעריך את מקדמי הקשר באמצעות מדגם גדול מספיק. אם שיטת הרגרסיה מנבאת את הקשר <math>\ Y=2X+4</math>, פירושו של דבר שהשתיל שנבט מזרע במשקל 1.5 גרם יצמח לגובה 7 מטרים - ההערכה משתפרת, באמצעות ניצול המידע הנוסף שבמשתנה המסביר X.
הקו <math>\ y=\hat{a}x+\hat{b}</math> תמיד עובר דרך נקודת הממוצעים
את ערכי הפרמטרים a ו-b אומדים, מתוך המדגם, באמצעות שיטת הריבועים הפחותים: מחפשים את המספרים <math>\ \hat{a},\hat{b}</math> שעבורם סכום הריבועים <math>\ \sum_{i=1}^n (Y_i - (\hat{a}X_i+\hat{b}))^2</math> הוא הקטן ביותר. (מן ההנחה שהשגיאה מתפלגת נורמלית, נובע שמספרים אלה מהווים אומד נראות מקסימלית של <math>a</math> ו-<math>b</math>). לקו המתקבל מן האומדים יש תכונה שימושית - הוא תמיד עובר דרך נקודת הממוצעים <math>\ (\bar{X},\bar{Y})</math>, כלומר, <math>\hat{a}\bar{X}+\hat{b}=\bar{Y}</math>.

חישוב הפרמטרים היסודיים של המדגם (לרבות סטיות התקן של X ושל Y) מאפשר גם לבדוק השערות סטטיסטיות על a ו-b. לדוגמה, אפשר לבדוק את ההשערה <math>\ a=0</math>, שממנה נובע כי Y אינו תלוי (ליניארית) ב-X. אמנם בכל מדגם מעשי יופיע קשר מסוים בין X ל-Y, אך התורה של בדיקת השערות מאפשרת לזהות מתי קשר זה הוא מקרי בלבד, ומתי הוא מובהק ואינו מקרי.

== רגרסיה מרובה ==
במקרים רבים מבקשים להסביר משתנה יחיד, Y, באמצעות מספר משתנים מסבירים, <math>\ X(1),\dots,X(m)</math>. לדוגמה, ייתכן שכדי להסביר את גובהו של עץ תפוח, יש להתחשב לא רק במשקל הזרע, אלא גם בכמות המשקעים השנתית במקום שבו הוא גדל, בגובהו של העץ שממנו הגיע הזרע, ובמליחות הקרקע. אם ההשפעה של משתנים אלה על Y היא ליניארית, מודל הרגרסיה יוכל למצוא (כמקודם), את הפרמטרים המגדירים את הקשר הליניארי, ובכך יסייע לשפר את ההערכה של Y עוד יותר.

המודל הבסיסי של הרגרסיה הליניארית גמיש מספיק כדי לאפשר תלות בין המשתנים המסבירים, וניתן לכלול בו גם גורמים שאינם ליניאריים (כמו במודל <math>\ Y = aX(1)+bX(1)^2+cX(2)+dX(1)X(2)+error</math>). אחד השימושים העיקריים של המודל הוא במדידת הרלוונטיות של משתנה מסביר, באמצעות השוואת המודל הכולל אותו, למודל המסביר את אותה תופעה בלעדיו. הוספת משתנים משפרת את יכולת ההערכה כמעט ללא יוצא מן הכלל, אבל במקרים רבים השיפור הוא אקראי, ואינו נובע מקשר אמיתי בין המשתנים. גורם עיקרי במענה על שאלות מסוג זה מהווה מקדם המתאם המרובה, המסומן <math>\ R^2</math>, ומתפלג (לאחר תיקון) התפלגות F.

== הגדרה פורמלית ==
תהי <math>Y:=\{y_i\}^{n}_{i=1}</math> סדרה בת <math>n</math> איברים של ערכי משתנה <math>Y</math>, ו <math>\bigcup_{j=1}^k\{X_j\}</math> משפחה של קבוצות שאיבריהן הסדרות: <math>X_j:=\{x_{j_i}\}^{n}_{i=1}, \forall{j=1,2,...,k}</math>. לכל אינדקס <math>i</math> נגדיר את הווקטור: <math>(y_i,x_{1_i},x_{2_i},...,x_{k_i})</math>.

תחת הנחת הליניאריות נאמר כי רכיבי הווקטור מקיימים את הקשר הליניארי הבא:

<math>y_i=\beta_1x_{1_i} + \beta_2x_{2_i} + \cdots + \beta_kx_{k_i} + \varepsilon_i, i=1, 2, \cdots, n</math>

כאשר:
* <math>\varepsilon_i</math> הוא משתנה מקרי שערכו הנקודתי נגזר מהפער בין הקשר הליניארי בין ערכי הסדרות <math>X_j</math> באינדקס ה-<math>i</math>י, ובין ערך הסדרה <math>Y</math> בנקודה זו. משתנה זה נקרא "ההפרעה המקרית", או "השונות המקרית" של המודל ומבטא את השינוי בערכי <math>Y</math>, שאינם מוסברים על ידי שינוי בערכי <math>\mathbf{X}_1,\dots,\mathbf{X}_k</math>.
* <math>\beta_j</math> הוא המקדם של <math>x_{j_i}</math> במשוואה.
המודל הליניארי המלא הוא מערכת של <math>n</math> משוואות ב-<math>k</math> נעלמים, המסומן:

<math>\mathbf{y=X}\mathbf{\beta+\varepsilon}</math>

כאשר:
* <math>\mathbf{y}\in F^n</math> וקטור <math>n</math>-ממדי של ערכי הסדרה <math>Y</math>
* <math>X\in F^{n\times{k}}</math> מטריצה מסדר <math>n\times k</math> המבטאת את ההרכבה הבאה:
<math>\mathbf{X}=\begin{pmatrix} \mathbf{x_1^{T}} \\ \mathbf{x_2^{T}} \\.\\.\\.\\ \mathbf{x_k^{T}}\\ \end{pmatrix}=\begin{pmatrix} x_{11} & ... & x_{1k}\\ x_{21} & ... & x_{2k}\\ \vdots & \ddots & \vdots\\ x_{n1} & ... & x_{nk}\\ \end{pmatrix}</math>
* <math>\mathbf{\beta,\varepsilon}\in F^n</math> וקטורים <math>n</math>-ממדיים.

== משוואת המודל הליניארי ==
בהינתן מערכת המשוואות הליניארית: <math>\mathbf{y=X}\mathbf{\beta+\varepsilon}</math>, וקטור פתרונות המערכת, <math>\mathbf \beta
</math>, נגדיר העתקה: <math>P:\mathbb{F}^k\rightarrow \mathbb{F}</math> באופן הבא:

<math>P(\mathbf{x})=a+\mathbf{\beta}\cdot\mathbf{x}</math>.

ברדוקציה על הגדרה זו, אנו למעשה מייצרים פולינום <math>k</math>- משתני ממעלה 1, שמקדמיו הם פתרונות המערכת, בתוספת גורם קבוע:

<math>P(x_1,...,x_n)=a+\beta_1x_1+\cdots+\beta_kx_k</math>

פולינום זה מאפשר לנו לקבל אומדן לכל ערך של משתנה <math>y</math> בטווח הדגימה, דהיינו: <math>\underset{i\in[n]}{\operatorname{min}}\{y_i\}\leq y\leq \underset{i\in [n]}{\operatorname{max}}\{y_i\}</math>, בהינתן כל <math>k</math> ערכים שנבחר למשתנים: <math>x_1,\dots,x_k</math>.

==== משוואת הניבוי של המודל הליניארי ====
המודל המוצג לעיל הוא תאורטי בלבד, ומניח למעשה כי דגמנו מאוכלוסייה בת <math>n</math> פרטים, את כלל הפרטים. במציאות, דגימה של כלל האוכלוסייה לרוב אינה אפשרית, ועל כן נהוג לבנות את משוואת הניבוי באמצעות אומדים למודל הליניארי של האוכלוסייה. במקרה זה, נחפש וקטור פתרונות <math>\mathbf{b}</math>, עבור המשוואה: <math>\mathbf{y=X}\mathbf{b+\varepsilon}</math>.

===== אומדים חסרי הטיה =====

מכיוון שהווקטור <math>\mathbf{b}</math> מקיים את השוויון: <math>\mathbf{y=X}\mathbf{b+\varepsilon}</math> ולא את השוויון: <math>\mathbf{y=X}\mathbf{b}</math>, בכל מקרה בו <math>\varepsilon_i\neq0</math> נקבל: <math>P(x_{1_i},\dots,x_{k_i})=y\neq y_i</math>, ועל כן נשאף למצוא וקטור <math>\mathbf{b}</math> כך ש: <math>\underset{\mathbf{b}}{\operatorname{argmin}} P(|y_i-y|)</math>.

מכיוון שדגמנו <math>n</math> ערכים של המשתנה <math>Y</math>, נדרוש את הדרישה השקולה: <math>\underset{\mathbf{b}}{\operatorname{argmin}} \sum_{i=1}^N[y_i-P(x_{1_i},\dots,x_{k_i})]^2</math>

וקטור שעומד בדרישה זו נקרא אומד ל- <math>\mathbf{\beta}</math> בשיטת הריבועים הפחותים, יקיים את התכונות הבאות:
* אומד ליניארי – וקטור זה הוא פתרון של מערכת משוואות ליניארית
* שונות נגזרת משונות האוכלוסייה – השונות של <math>\mathbf{b}</math> מקיימת: <math>V(\mathbf{b})=}</math>
* הנחת נורמליות – אנו מניחים כי <math>\mathbf{b} \thicksim N(\beta,})</math>
* אומד חסר הטיה – עבור <math>\beta</math>, וקטור מקדמי המערכת הליניארית התאורטית של האוכלוסייה, תוחלת הווקטור <math>\mathbf{b}</math> תקיים: <math>E(\mathbf{b})=\beta</math>
* הנחת השונות המינימלית – לכל אומד <math>\mathbf{\widehat{b}} \neq \mathbf{b}</math> מתקיים: <math>V(\mathbf{\widehat{b}})>V(\mathbf{b})</math>
שתי התכונות האחרונות ניתנות להרחבה במודל בו מניחים <math>n \rightarrow \infty</math> ושקולות, בהתאמה, לשתי התכונות הבאות:
* אומד חסר הטיה באופן אסימפטוטי – יקיים: <math>\lim_{n \to \infty} ({E(\mathbf{b}})-\beta)=0</math>
* עקיבות – אומד חסר הטיה באופן אסימפטוטי המקיים גם: <math>\lim_{n\rightarrow \infty}V(\mathbf{b})=0</math>
תכונות אלו יחדיו, מבטיחות כי הגדלת גודל המדגם עליו מבוססת משוואת האמידה, תקרב אותנו לפרמטרים האמיתיים של האוכלוסייה, דהיינו, אל <math>\beta</math>.

===== ההנחות הקלאסיות =====
קיומו של אומד חסר הטיה אינו מובטח עבור כל סדרת תצפיות שנבחר, ועל כן עלינו לוודא כי מתקיימות בנוסף ההנחות הבאות:
* תוחלת 0 של ההפרעה המקרית – לכל <math>\varepsilon_i</math>, נדרוש שיתקיים: <math>E(\varepsilon_i)=0</math>.
* הומוסקדסטיות (הנחת השונות הקבועה) – לכל <math>\varepsilon_i</math>, נדרוש שיתקיים: <math>V(\varepsilon_i)=\sigma^2</math>, הווה אומר- עבור זוג וקטורים: <math>(x_1,\dots,x_k)\neq (x'_1,\dots,x'_k)</math>, שונות ההפרעה המקרית קבועה, וזהה.
* ההפרעה המקרית מתפלגת נורמלית – לכל <math>\varepsilon_i</math> מתקיים: <math>\varepsilon_i\sim N(0,\sigma^2)</math> הנחה זו נובעת ישירות משתי ההנחות הקודמות, אך בגלל חשיבותה הקדשנו לה סעיף נפרד.
* חוסר מתאם סדרתי – אין תלות בין ההפרעות המקריות, דהיינו: <math>\forall{i\neq j}, Cov(\varepsilon_i,\varepsilon_j)=0</math>.
* <math>\mathbf{X_j}</math> אינו משתנה מקרי – מהנחה זו משתמע כי אין מתאם בין השונות המקרית למשתנה המסביר, כלומר: <math>Cov(x_{j_i},\varepsilon_i)=0</math>.
* איסור מולטיקולינאריות מושלמת – לכל משתנה מסביר <math>\mathbf{X_j}</math>, נניח כי: <math>V(\mathbf{X_j})\neq 0</math>.

=== אמידה במקרים בהם לא מתקיימות ההנחות הקלאסיות===
לא בכל מדגם שנאסוף יתקיימו כלל ההנחות שמנינו לעיל, לרוב בעקבות תכונות של האוכלוסייה ממנה נלקחו התצפיות, או מגבלות באיסוף התצפיות עצמן. במקרים כאלו, לא ניתן להשתמש בשיטת הריבועים הפחותים לאמידת המודל, ונדרש להשתמש בשיטות אמידה אחרות, שמניבות אומדים חסרי הטיה, תחת הנחות מקלות יותר.
במציאות, סדרות נתונים לרוב לא יקיימו את כלל ההנחות הקלאסיות, ועל כן לאורך השנים התפתחו שיטות אמידה רבות. את השיטות השונות ניתן לחלק למספר קטגוריות, בהתאם להנחות שהן מתירות להפר:
* אמידה של סדרות עתיות – שיטות המטפלות בסדרות בהן קיים מתאם סדרתי. השיטה הנפוצה, והפשוטה ביותר, לטפל בסדרות נתונים מסוג זה היא באמצעות החלקה מעריכית- התמרה (החלפה) של ערכי הסדרות בהן קיים מתאם סדרתי לערכי הלוגריתם הטבעי של הפרש התצפיות.
* אמידה של סדרות בהן המשתנה המוסבר מקבל ערכים בדידים – במקרים אלו המשתנה המוסבר שלנו איכותני, ולא כמותי, ועל כן התפלגותו תהיה בינומית, ברנולי, או פואסונית. השיטה הנפוצה ביותר להתמודד עם משתנים מסוג זה היא שימוש ברגרסיה ממשפחת LOGIT, בה פתרונות המערכת הליניארית תמיד יקבלו ערכים המתיישבים עם ההסתברות לקבל את ערכי המשתנה המוסבר, בהתפלגויות בדידות.
* אמידה בייזיאנית – נועדה להתמודד עם משתנים מסבירים מקריים. במקרים אלו, האומדים שנקבל לא ינבעו מווקטור פתרונות יחיד, אלא משפחה של התפלגויות פוסטריוריות, המחילות את אי-הוודאות סביב קבלת ערכי המסבירים האפשריים.
==שימושים של רגרסיה ליניארית==
לרגרסיה ליניארית שימוש נרחב במדעי החיים, מדעי החברה ומדעי ההתנהגות לתיאור קשרים אפשריים בין משתנים. היא נחשבת כאחד מהכלים החשובים שנעשה בהם שימוש בדיסציפלינות הללו.

==== קו מגמה ====
קו זה מייצג מגמה, תנועה לטווח ארוך של נתונים על ציר הזמן לאחר התחשבות בגורמים אחרים. הוא אומר האם אוסף נתונים מסוים (לדוגמה תמ"ג, מחירי נפט או מחירי מניה) עלה או ירד לאורך תקופת זמן מסוימת. ניתן לצייר קו מגמה בצורה פשוטה יחסית על ידי מבט בתצפיות, אך ליתר דיוק יש לחשב את מיקום הנקודה והשיפוע על ידי כלים סטטיסטיים כמו רגרסיה ליניארית. בדרך כלל קווי מגמה הם קווים ישרים אולם יש וריאציות המשתמשות בפולינומים מדרגה גבוהה התלויים ברמת הקעירות הרצויה.

לעיתים משמשים קווי מגמה בניתוחים עסקיים כדי להראות שינויים במידע לאורך זמן. יש לכך יתרון של פשטות. קווי מגמה משמשים לרוב כדי לטעון שפעולה או אירוע (כמו אימון או מסע פרסום) גרמו לשינויים שניתנים להבחנה בנקודת זמן. זו טכניקה פשוטה שאינה דורשת קבוצת בקרה, תכנון ניסוי או אנליזה מתוחכמת. למרות זאת, הם סובלים מחוסר אמינות מדעית במקרה ששינויים אחרים יכולים להשפיע על הנתונים.

==== אפידמיולוגיה ====

ראיות מוקדמות המקשרות עישון טבק למוות ולתחלואה הגיעו מניסויים שהופעלו בהם ניתוחים רגרסיביים. במטרה להקטין השפעה של קורלציות עם משתנים אחרים, חוקרים בדרך כלל כוללים מספר משתנים במודל הרגרסיה שלהם, בנוסף למשתנה העיקרי שנחקר.
לדוגמה, נניח שיש מודל רגרסיה שבו שיעור העישון של סיגריות הוא משתנה המחקר הבלתי תלוי, והמשתנה התלוי הוא תוחלת חיים, הנמדדת בשנים. חוקרים עלולים לכלול מעמד סוציו-אקונומי כמשתנה בלתי תלוי נוסף, כדי להבטיח שכל שינוי בתוחלת החיים אינו מושפע מגורמים אחרים, כמו: החינוך או ההכנסה. למרות זאת, לעולם אין זה אפשרי לכלול את כל המשתנים המשתלבים בניתוח אמפירי.
לדוגמה, גן כלשהו עלול להגדיל תמותה, ובנוסף לגרום לאנשים לעשן יותר. מסיבה זו, ניסויים מבוקרים אקראיים מסוגלים לרוב לספק ראיה משכנעת יותר של קשרי סיבתיות, שניתן להשיג על ידי שימוש באנליזה רגרסיבית של אוסף נתונים.
כשניסויים מבוקרים לא אפשריים, ניתן להשתמש בדרכים שונות של אנליזה רגרסיבית, כגון רגרסיית משתני עזר, כדי לנסות להעריך קשרי סיבתיות מתוך אוסף נתונים.

==== פיננסים ====
מודל לתמחור נכסי הון (CAPM) משתמש ברגרסיה ליניארית, כמו גם במושג בטא, לניתוח וכימות שיטתיים של הסיכון בהשקעה. הקשר נובע ישירות ממקדם בטא של מודל הרגרסיה הליניארית, שמקשר את תשואת ההשקעה לתשואה מכל הנכסים עם אופי סיכון גבוה.

==== כלכלה ====

רגרסיה ליניארית היא הכלי האמפירי המרכזי בכלכלה. לדוגמה, הוא משמש לחיזוי הוצאות צריכה, הוצאות השקעה קבועות, השקעה באגירת מלאי, רכישות של יצוא של מדינה, הוצאות על יבוא, הדרישה להחזיק בנכנסים נזילים, ביקוש והיצע לעבודה.

==== מדעי הסביבה ====
ברגרסיה ליניארית נעשה שימוש במגוון רחב של יישומים במדעי הסביבה. בקנדה, "תוכנית הבקרה על ההשפעות הסביבתיות" משתמשת בניתוח סטטיסטי של מחקרים של דגים ושל קרקעית הים למדידת ההשפעות של שפכי עיסה טחונה או מתכות על המערכת הימית האקולוגית.

==ראו גם==
* אקונומטריקה
* רגרסיה מקומית
* שיטת הריבועים הפחותים
* משפט גאוס-מרקוב
* רגרסיה ליניארית פשוטה

==קישורים חיצוניים==

* 
* [http://www.geocities.ws/diylf/DIYLF.html DIY Linear Fit] – אתר המחשב רגרסיה ליניארית
* 

ליניארית, רגרסיה