מודל לוג-ליניארי

מודל לוג ליניארי משמש בסטטיסטיקה לבחינת מבנה הקשר בין מספר משתנים איכותיים. המודל הוצג לראשונה בשנות ה-60 של המאה העשרים על ידי איבון בישופ. יהיו X {\displaystyle X} ו- Y {\displaystyle Y} שני משתנים מקריים איכותיים כאשר ללא הגבלת הכלליות המשתנה X {\displaystyle X} יכול לקבל את הערכים 1 , 2 , . . . , I {\displaystyle 1,2,...,I} והמשתנה Y {\displaystyle Y} יכול לקבל את הערכים 1 , 2 , . . . , J {\displaystyle 1,2,...,J} . נתבונן במדגם בגודל n {\displaystyle n} מתוך אוכלוסייה כלשהי, ונסמן ב- n i j {\displaystyle n_{ij}} את מספר הפרטים במדגם עבורם X = i {\displaystyle X=i} ו- Y = j {\displaystyle Y=j} . נאמר כי n i j {\displaystyle n_{ij}} היא השכיחות של התצפיות במדגם עבורן X = i {\displaystyle X=i} ו- Y = j {\displaystyle Y=j} . הטבלה שבה יש I {\displaystyle I} שורות ו- J {\displaystyle J} עמודות, ובהצטלבות השורה ה- i {\displaystyle i} והעמודה ה- j {\displaystyle j} נמצא המספר n i j {\displaystyle n_{ij}} נקראת לוח השכיחות של המשתנים X {\displaystyle X} ו- Y {\displaystyle Y} . מכיוון שלטבלה יש שני ממדים (אורך ורוחב) לוח השכיחות הוא דו-ממדי. לוח השכיחות הוא למעשה הנתונים שיש לנתח. כן נסמן ב- n i . {\displaystyle n_{i.}} את מספר הפרטים במדגם עבורם X = i {\displaystyle X=i} , וב- n . j {\displaystyle n_{.j}} נסמן את מספר הפרטים במדגם עבורם Y = j {\displaystyle Y=j} . אם אין לנו שום ידיעה על ההתפלגות המשותפת של X {\displaystyle X} ושל - Y {\displaystyle Y} , אז m i j {\displaystyle m_{ij}} , תוחלת מספר הפרטים במדגם שעבורם X = 1 {\displaystyle X=1} ו- Y = 2 {\displaystyle Y=2} היא m i j = n ⋅ P ( x = i , Y = j ) {\displaystyle m_{ij}=n\cdot P(x=i,Y=j)} . אם לעומת זאת נניח כי X {\displaystyle X} ו- Y {\displaystyle Y} הם משתנים מקריים בלתי תלויים, אז P ( X = i , Y = j ) = P ( X = i ) ⋅ P ( Y = j ) {\displaystyle P(X=i,Y=j)=P(X=i)\cdot P(Y=j)} לכל i {\displaystyle i} ולכל j {\displaystyle j} , ולכן m i j = n ⋅ P ( X = i ) ⋅ P ( Y = j ) {\displaystyle m_{ij}=n\cdot P(X=i)\cdot P(Y=j)} . אמדים להסתברויות אלה הם P ^ ( X = i ) = n i . n {\displaystyle {\hat {P}}(X=i)={\frac {n_{i.}}{n}}} ו- P ^ ( Y = j ) = n . j n {\displaystyle {\hat {P}}(Y=j)={\frac {n_{.j}}{n}}} , ולכן, תחת הנחת אי התלות: m ^ i j = n ⋅ P ^ ( X = i ) ⋅ P ^ ( Y = j ) = n ⋅ n i . n ⋅ n . j n = n i . ⋅ n . j n {\displaystyle {\hat {m}}_{ij}=n\cdot {\hat {P}}(X=i)\cdot {\hat {P}}(Y=j)=n\cdot {\frac {n_{i.}}{n}}\cdot {\frac {n_{.j}}{n}}={\frac {n_{i.}\cdot n_{.j}}{n}}} על ידי הפעלת פונקציית הלוגריתם נקבל כי log ⁡ m ^ i j = log ⁡ n i . + log ⁡ n . j − log ⁡ n {\displaystyle \log {\hat {m}}_{ij}=\log n_{i.}+\log n_{.j}-\log n} . באגף ימין יש שלושה מחוברים, אחד מהם תלוי ב- X {\displaystyle X} וב- i {\displaystyle i} , השני תלוי ב- Y {\displaystyle Y} וב- j {\displaystyle j} , והשלישי אינו תלוי במשתנים או בערכים אלא רק בגודל המדגם. לכן, מודל מתקבל על הדעת עבור אי התלות בין X {\displaystyle X} ו- Y {\displaystyle Y} (בהנחה כי היא מתקיימת) הוא: log ⁡ m i j = λ + λ i X + λ j Y {\displaystyle \log m_{ij}=\lambda +\lambda _{i}^{X}+\lambda _{j}^{Y}} לכל i {\displaystyle i} ולכל j {\displaystyle j} . אם לעומת זאת המשתנים אינם בלתי תלויים אז השוויון האחרון אינו נכון, והמודל המתאים הוא log ⁡ m i j = λ + λ i X + λ j Y + λ i j X Y {\displaystyle \log m_{ij}=\lambda +\lambda _{i}^{X}+\lambda _{j}^{Y}+\lambda _{ij}^{XY}} כאשר λ i j X Y ≠ 0 {\displaystyle \lambda _{ij}^{XY}\neq 0} לפחות עבור זוג i j {\displaystyle ij} אחד. מודל זה מכונה "המודל הרווי", מכיוון שהוא תמיד מתאים לנתונים התאמה מלאה. הביטוי λ i j X Y {\displaystyle \lambda _{ij}^{XY}} מבטא את האינטראקציה (יחסי הגומלין) בין X {\displaystyle X} ו- Y {\displaystyle Y} . מכאן ש- X {\displaystyle X} ו- Y {\displaystyle Y} הם בלתי תלויים אם ורק אם λ i j X Y = 0 {\displaystyle \lambda _{ij}^{XY}=0} לכל i {\displaystyle i} ולכל j {\displaystyle j} . קל לראות כי כפי שהמודל הרווי הוגדר עבור לוח השכיחות הדו־ממדי, מספר הפרמטרים λ {\displaystyle \lambda } גדול באופן משמעותי ממספר הנתונים. יתרה מזו, הערכים הנאמדים של λ {\displaystyle \lambda } אינם יכולים לקבל כל ערך אפשרי מכיוון שניתן לבטא בעזרתם את ההסתברויות P ( X = i , Y = j ) {\displaystyle P(X=i,Y=j)} והסתברויות אלה חייבות להסתכם ל-1. גם ההסתברויות P ( X = i ) {\displaystyle P(X=i)} חייבות להסתכם ל-1 וכן ההסתברויות P ( Y = j ) {\displaystyle P(Y=j)} . לכן יש להשית אילוצים מתאימים על הערכים של ה- λ {\displaystyle \lambda } -ות. מערכת אילוצים אפשרית עבור מודל אי תלות ללוח שכיחות דו־ממדי היא: ∑ i λ i X = 0 {\displaystyle \sum _{i}\lambda _{i}^{X}=0} ו- ∑ j λ j Y = 0 {\displaystyle \sum _{j}\lambda _{j}^{Y}=0} . אילוצים אלה הם אנלוגיים לאילוצים ∑ i P ( X = i ) = 1 {\displaystyle \sum _{i}P(X=i)=1} ו- ∑ j P ( Y = j ) = 1 {\displaystyle \sum _{j}P(Y=j)=1} . בהינתן אילוצים אלו, למודל יש ( I − 1 ) ( J − 1 ) {\displaystyle (I-1)(J-1)} דרגות חופש. כדי לאמוד את הפרמטרים של המודל הרווי יש צורף באילוצים נוספים: ∑ i λ i j X Y = 0 {\displaystyle \sum _{i}\lambda _{ij}^{XY}=0} לכל j {\displaystyle j} ו- ∑ j λ i j X Y = 0 {\displaystyle \sum _{j}\lambda _{ij}^{XY}=0} לכל i {\displaystyle i} . בהינתן אילוצים אלה, למודל הרווי יש 0 דרגות חופש. מאילוצים אלה נובע כי השערת אי התלות בין המשתנים ניתנת לניסוח כ- H 0 : λ 11 X Y = 0 {\displaystyle H_{0}\!:\;\;\lambda _{11}^{XY}=0} . אמידת הפרמטרים נעשית בשיטת הנראות המרבית. לאחר מכן ניתן לבחון את טיב ההתאמה של המודל לנתונים בעזרת מבחן חי בריבוע. בתוכנת R ניתן לאמוד את הפרמטרים של המודלים הלוג ליניאריים בעזרת הפונקציה loglin הזמינה בחבילת הבסיס של התוכנה. באופן דומה להגדרת לוח השכיחות הדו־ממדי, נוכל להגדיר את לוח השכיחות התלת־ממדי על ידי האוסף n i j k {\displaystyle n_{ijk}} , כאשר זהו מספר התצפיות במדגם עבורן Z = k {\displaystyle Z=k} Y = j {\displaystyle Y=j} , X = i {\displaystyle X=i} , וכאשר X , Y , Z {\displaystyle X,Y,Z} הם משתנים מקריים המקבלים I , J , K {\displaystyle I,J,K} ערכים בהתאמה. המודל הרווי ללוח שכיחות תלת־ממדי הוא: log ⁡ m i j k = λ + λ i X + λ j Y + λ k Z + λ i j X Y + λ i k X Z + λ j k Y Z + λ i j k X Y Z {\displaystyle {\begin{aligned}\log m_{ijk}&=\lambda \;+\\&\;\;\;\;\;\lambda _{i}^{X}+\lambda _{j}^{Y}+\lambda _{k}^{Z}+\\&\;\;\;\;\;\lambda _{ij}^{XY}+\lambda _{ik}^{XZ}+\lambda _{jk}^{YZ}+\\&\;\;\;\;\;\lambda _{ijk}^{XYZ}\end{aligned}}} ניתן לגזור מודלים שונים עבור ההתפלגות המשותפת של Y {\displaystyle Y} , X {\displaystyle X} ו- Z {\displaystyle Z} על ידי איפוס גורמי אינטראקציה. מודל אי תלות מתקבל על ידי איפוס כל האינטראקציות: log ⁡ m i j k = λ + λ i X + λ j Y + λ k Z {\displaystyle \log m_{ijk}=\lambda +\lambda _{i}^{X}+\lambda _{j}^{Y}+\lambda _{k}^{Z}} מודל זה מתקבל על ידי איפוס האינטראקציה מסדר 3 λ i j k X Y Z {\displaystyle \lambda _{ijk}^{XYZ}} , וכן על ידי איפוס λ j k Y Z {\displaystyle \lambda _{jk}^{YZ}} , האינטראקציה בין Y {\displaystyle Y} ו- Z {\displaystyle Z} . המודל הוא log ⁡ m i j k = λ + λ i X + λ j Y + λ k Z + λ i j X Y + λ i k X Z {\displaystyle {\begin{aligned}\log m_{ijk}&=\lambda \;+\\&\;\;\;\;\;\lambda _{i}^{X}+\lambda _{j}^{Y}+\lambda _{k}^{Z}+\\&\;\;\;\;\;\lambda _{ij}^{XY}+\lambda _{ik}^{XZ}\end{aligned}}} מודל זה מתקבל על ידי איפוס האינטראקציה מסדר 3 λ i j k X Y Z {\displaystyle \lambda _{ijk}^{XYZ}} , וכן על ידי איפוס האינטראקציה בין X {\displaystyle X} ל- Y {\displaystyle Y} - λ i j X Y {\displaystyle \lambda _{ij}^{XY}} והאינטראקציה בין X {\displaystyle X} ל- Z {\displaystyle Z} - λ i k X Z {\displaystyle \lambda _{ik}^{XZ}} . המודל הוא log ⁡ m i j k = λ + λ i X + λ j Y + λ k Z +   λ j k Y Z {\displaystyle {\begin{aligned}\log m_{ijk}&=\lambda \;+\\&\;\;\;\;\;\lambda _{i}^{X}+\lambda _{j}^{Y}+\lambda _{k}^{Z}+\\&\;\;\;\;\;\ \lambda _{jk}^{YZ}\end{aligned}}} על פי מודל זה X {\displaystyle X} ו- Y {\displaystyle Y} בלתי תלויים, X {\displaystyle X} ו- Z {\displaystyle Z} בלתי תלויים, וגם Y {\displaystyle Y} ו- Z {\displaystyle Z} בלתי תלויים, אבל Y {\displaystyle Y} , X {\displaystyle X} ו- Z {\displaystyle Z} יחדיו אינם בלתי תלויים. מודל זה מתקבל על ידי איפוס האינטראקציות מסדר 2 אך מותיר את האינטראקציה מסדר 3. המודל הוא log ⁡ m i j k = λ + λ i X + λ j Y + λ k Z + λ i j k X Y Z {\displaystyle {\begin{aligned}\log m_{ijk}&=\lambda \;+\\&\;\;\;\;\;\lambda _{i}^{X}+\lambda _{j}^{Y}+\lambda _{k}^{Z}+\\&\;\\&\;\;\;\;\;\lambda _{ijk}^{XYZ}\end{aligned}}} מודל זה מתקבל על ידי איפוס האינטראקציה מסדר 3. למודל אין אינטרפרטציה הסתברותית ברורה. המודל הוא log ⁡ m i j k = λ + λ i X + λ j Y + λ k Z + λ i j X Y + λ i k X Z + λ j k Y Z {\displaystyle {\begin{aligned}\log m_{ijk}&=\lambda \;+\\&\;\;\;\;\;\lambda _{i}^{X}+\lambda _{j}^{Y}+\lambda _{k}^{Z}+\\&\;\;\;\;\;\lambda _{ij}^{XY}+\lambda _{ik}^{XZ}+\lambda _{jk}^{YZ}\end{aligned}}} קיימת חפיפה בין המודל הלוג ליניארי ומודל הרגרסיה הלוגיסטית במובן שבמקרים מסוימים שני המודלים שקולים. נדגים זאת בעזרת לוח שכיחות דו־ממדי מסדר 2 × J {\displaystyle 2\times J} , כלומר המשתנה X {\displaystyle X} מקבל שני ערכים והמשתנה Y {\displaystyle Y} מקבל J {\displaystyle J} ערכים. בהנחה כי X {\displaystyle X} ו- Y {\displaystyle Y} בלתי תלויים, מתקיים כי P ( X = i | Y = j ) = P ( X = i ) {\displaystyle P(X=i|Y=j)=P(X=i)} לכל i {\displaystyle i} ולכל j {\displaystyle j} , ובפרט יחס הסיכויים של X {\displaystyle X} בהינתן Y {\displaystyle Y} הוא קבוע, כלומר log ⁡ P ( X = 2 | Y = j ) P ( X = 1 | Y = j ) = β 0 {\displaystyle \log {\frac {P(X=2|Y=j)}{P(X=1|Y=j)}}=\beta _{0}} . על פי המודל הלוג ליניארי לאי תלות: log ⁡ P ( X = 2 | Y = j ) P ( X = 1 | Y = j ) = log ⁡ P ( X = 2 , Y = j ) P ( X = 1 , Y = j ) = log ⁡ p 2 j p 1 j = log ⁡ m 2 j m 1 j = log ⁡ m 2 j − log ⁡ m 1 j = ( λ + λ 2 X + λ j Y ) − ( λ + λ 1 X + λ j Y ) = λ 2 X − λ 1 X {\displaystyle {\begin{aligned}\log {\frac {P(X=2|Y=j)}{P(X=1|Y=j)}}&=\log {\frac {P(X=2,Y=j)}{P(X=1,Y=j)}}\\&=\log {\frac {p_{2j}}{p_{1j}}}\\&=\log {\frac {m_{2j}}{m_{1j}}}\\&=\log m_{2j}-\log m_{1j}\\&=(\lambda +\lambda _{2}^{X}+\lambda _{j}^{Y})-(\lambda +\lambda _{1}^{X}+\lambda _{j}^{Y})\\&=\lambda _{2}^{X}-\lambda _{1}^{X}\end{aligned}}} ואכן, קיבלנו כי לוג יחס הסיכויים אינו תלוי ב- Y {\displaystyle Y} . יתרה מזאת, מצאנו כי ניתן לבטא את פרמטר הרגרסיה הלוגיסטית β 0 {\displaystyle \beta _{0}} בעזרת הפרמטרים של המודל הלוג ליניארי: β 0 = λ 2 X − λ 1 X {\displaystyle \beta _{0}=\lambda _{2}^{X}-\lambda _{1}^{X}} . כאשר X {\displaystyle X} ו- Y {\displaystyle Y} אינם בלתי תלויים, מודל הרגרסיה הלוגיסטית הוא l o g P ( X = 2 | Y ) P ( X = 1 | Y ) = β 0 + β 1 Y {\displaystyle log{\frac {P(X=2|Y)}{P(X=1|Y)}}=\beta _{0}+\beta _{1}Y} כלומר לוג יחס הסיכויים תלוי ב- Y {\displaystyle Y} . באופן דומה לפיתוח שנעשה עבור מודל אי התלות, נוכל למצוא כי עבור המודל הרווי: log ⁡ P ( X = 2 | Y = j ) P ( X = 1 | Y = j ) = ( λ 2 X − λ 1 X ) + ( λ 2 j X Y − λ 1 j X Y ) {\displaystyle \log {\frac {P(X=2|Y=j)}{P(X=1|Y=j)}}=(\lambda _{2}^{X}-\lambda _{1}^{X})+(\lambda _{2j}^{XY}-\lambda _{1j}^{XY})} כלומר לוג יחס הסיכויים הוא סכום של שני מחוברים, אחד מהם אינו תלוי ב- Y {\displaystyle Y} והשני תלוי ב- Y {\displaystyle Y} . Bishop, Y. M. M.; Fienberg, S. E.; Holland, P. W. (1975). Discrete Multivariate Analysis: Theory and Practice. MIT Press. ISBN 978-0-262-02113-5. MR 0381130. Agresti, Alan (2007). An introduction to categorical data analysis, 2nd Edition. John Wiley & Sons. ISBN 978-0-471-22618-5. Agresti, Alan (2002). Categorical data analysis, 2nd Edition. John Wiley & Sons. ISBN 0-471-36093-7. Stephen E. Fienberg and Alessandro Rinaldo, Maximum likelihood estimation in log-linear models, Annals of Statistics, 2 40, Institute of Mathematical Statistics, 2012, עמ' 996-1023 doi: 10.1214/12-AOS986