النموذج الخطي المعمم

في الإحصاء، النموذج الخطي المعمم هو تعميم مرن من الانحدار الخطي العادي الذي يسمح للمتغيرات التي لديهاأخطاء في نماذج توزيع أخرى من التوزيع الطبيعي. ويعمم الانحدار الخطي من خلال السماح النموذج الخطي يجب أن تكون متصلة متغير الاستجابة عن طريق دالة الإتصال وذلك بالسماح بمقدار التباين في كل قياس لتكون دالة من قيمته المتوقعة.
صيغت النماذج الخطية المعممة من قبل جون نيلدور وروبرت ويديربون كوسيلة لتوحيد نماذج إحصائية أخرى مختلفة، بما في ذلك الانحدار الخطي، والانحدار اللوجستي وانحدار بواسون.
واقترحوا طريقة المربعات الصغرى المتكرره للحصول على أقصى تقدير احتمال للنموذج . يبقى تقدير الحد الأقصى الأكثر شيوعاً،والأسلوب الافتراضي على العديد من حزم الحوسبة الإحصائية. المناهج الأخرى، بما في ذلك النهج النظرية الافتراضية والمربعات يناسب لتباين الردود ، تم وضعها.

نبذة بديهية

ويتنبأ الانحدار الخطي العادي القيمة المتوقعة لكمية غير معروفه معطاه(متغير الاستجابة، متغير عشوائي) كتركيبة خطية من مجموعة من القيم الملاحظة (منبئات). وهذا يعني أن تغيير مستمر في مؤشرا يؤدي إلى تغير مستمر في متغير الاستجابة (أي نموذج خطي الاستجابة). يكون هذا مناسباً عندما يكون متغير الاستجابة له توزيع عادي (بديهيا ، عندما متغير الاستجابة يمكن أن يختلف أساسا إلى أجل غير مسمى في الاتجاه مع عدم وجود ثابت 'قيمة صفر'، أو أكثر عموما لأي كمية إلا أن يختلف حسب كمية صغيرة نسبيا، مثل مرتفعات البشرية).
ومع ذلك، هذه الافتراضات غير ملائمة لبعض أنواع متغيرات الاستجابة. على سبيل المثال، في الحالات حيث من المتوقع أن متغير الاستجابة يكون دائماً إيجابي ومتفاوت على نطاق واسع، تغييرات الإدخال المستمر يؤدي إلى اختلافا هندسيا، بدلاً من استمرار متفاوت لتغيرات الإخراج . على سبيل مثال، نموذج التنبؤ قد توقع أن يؤدي انخفاض درجة الحرارة 10درجات إلى 000 1 عدد أقل من الناس يزورون الشاطئ من غير المحتمل أن التعميم أكثر من الشواطئ الصغيرة على حد سواء (مثل تلك حيث كان الحضور المتوقع 50 في درجة حرارة معينة) والشواطئ الكبيرة (مثل تلك حيث كان الحضور المتوقع 10,000 عند درجة حرارة منخفضة). يعني المشكلة مع هذا النوع من نموذج للتنبؤ بانخفاض درجة الحرارة 10 درجات سوف تؤدي إلى 1000 شخص أقل زيارة للشاطئ، شاطئ وكان حضورهم المتوقع 50 في درجة حرارة أعلى حيث الآن يمكن التنبؤ بقيمة الحضور المستحيلة -950. منطقياً، النموذج الأكثر واقعية بدلاً من ذلك : التنبؤ بمعدل ثابت لزيادة الحضور في الشاطئ (مثل زيادة 10 درجات يؤدي إلى مضاعفة في حضور الشاطئ، وانخفاض في 10 درجات يؤدي إلى تخفيض إلى النصف في الحضور). يسمى هذا نموذج نموذج الاستجابة الأسية (أو نموذج سجل الخطية، حيث ان لوغاريتم الاستجابة من المتوقع أن يختلف خطيا) .
وبالمثل، النموذج الذي يتنبأ احتمال اتخاذ قرار نعم/لا (متغير Bernoulli) هو أقل ملاءمة كنموذج خطي الاستجابة، نظراً للاحتمالات التي يحدها على طرفيه (التي يجب أن تكون بين 0 و 1). تخيل، على سبيل المثال، نموذج يتنبأ باحتمال شخص معين الذهاب إلى الشاطئ كدالة لدرجة الحرارة. يمكن التنبؤ نموذجا معقولاً، على سبيل المثال، أن إجراء تغيير في درجة الحرارة 10 درحات يجعل شخص أكثر أو أقل احتمالاً للذهاب إلى الشاطئ مرتين. ولكن ماذا يعني من حيث احتمال 'مرتين كاحتمال' ؟ لا يمكن أن تعني حرفيا لمضاعفة قيمة الاحتمال (مثلاً يصبح 50 100، 75 يصبح 150، إلخ.). بدلاً من ذلك، هو أن احتمالات أن يتم مضاعفة: من 2:1 الصعاب، بخلاف 4:1، بخلاف 8:1، وما إلى ذلك. هذا النموذج هو نموذج سجل-الصعاب.
نماذج خطية معممة تشمل جميع هذه الحالات عن طريق السماح لاستجابة المتغيرات التي لها توزيعات عشوائيه(بدلاً من مجرد التوزيعات الاعتيادية)، و دالة عشوائيه حيث ان متغير الاستجابة (وظيفة الارتباط) تتفاوت خطيا مع القيم المتوقعة
(بدلاً من افتراض أن الاستجابة نفسها يجب أن تختلف خطيا). على سبيل المثال، القضية أعلاه لتوقع عدد الحضور للشاطئ أن عادة أن تكون على غرار مع توزيع بواسون وارتباط سجل، في حين أن عادة أن تكون على غرار حالة توقع احتمال الحضور للشاطئ مع توزيع برنولي (أو التوزيع ذي الحدين، اعتماداً على كيف كانت صيغته المشكلة بالضبط)، وخلاف سجل (أو اللوغاريتمية) ربط الدالة.

طريقة بييز

بشكل عام، التوزيع الخلفي لا يمكن العثور عليها في شكل مغلق ولذا يجب تقتريبه، وعادة ما تستخدم تقريبية لابلاس أو أي نوع من سلسلة ماركوف مونت كارلو مثل جيبس أخذ العينات.

النماذج الخطية العامة

وهناك نقطة ممكنة من الارتباك لديها ما تفعله مع التمييز بين النماذج الخطية المعمم والنموذج الخطي العام، واثنين من نماذج إحصائية واسعة النطاق.ويمكن الاطلاع على النموذج الخطي العام كحالة خاصة من طراز خطي المعمم مع وصلة بالهوية والردود موزعة بشكل عادي. كما يتم الحصول على معظم النتائج الدقيقة المرغوبة فقط عن النموذج الخطي العام، والنموذج الخطي العام شهدت تطورا إلى حد ما يعد للتطور التاريخي.نتائج النموذج الخطي المعمم مع وصلة غير الهوية مقاربة (تميل للعمل بشكل جيد مع عينات كبيرة).

الإنحدار الخطي

مثال بسيط و مهم جدا من النموذج الخطي المعمم (أيضا مثالا للنموذج الخطي العام) هو الانحدار الخطي. في الانحدار الخطي، استخدام مقدر المربعات الصغرى التي كتبها نظرية جاوس-ماركوف له ما يبرره، والتي لا نفترض أن التوزيع طبيعي.
من وجهة نظر النماذج الخطية المعممة، ومع ذلك، فإنه من المفيد أن نفترض أن دالة التوزيع هو توزيع العادي مع التباين الثابت وربط الوظيفة معرفة، التي هي الرابط الأساسي إذا كان من التباين معروف.
بالنسبة للتوزيع الطبيعي، النموذج الخطي المعمم لديه شكل صيغة مغلقة لتقديرات الحد الأقصى-الاحتمالات، هي مناسبة. معظم GLMs الاخري ينقصها تقديرات النموذج المغلقة.

الإنحدار متعدد الحدود

حالة ذات الحدين يجوز تمديدها بسهولة للسماح لتوزيع متعدد الحدود كاستجابة (أيضا، وهو نموذج الخطي المعمم للتعدد، مع مجموعه مقيدة). هناك نوعان من الطرق التي تتم عادة:

الملحقات

النموذج الخطى المعمم القياسى يفترض ان الملاحظات غير مترابطة . وقد وضعت ملحقات للسماح لوجود علاقة بين الملاحظات، كما يحدث على سبيل المثال في الدراسات الطولية والتصاميم العنقودية:

البيانات المترابطة أو عنقودية

•معادلات التقدير المعمم :
وهذه المعادلات تسمح بوجود علاقة بين الملاحظات بدون استخدام نموذج احتمال واضح لأصل الارتباط ولذلك فانه يس هناك احتمال واضح وصريح.
وتعتبر مثل هذه المعادلات مناسبة عندما تكون التأثيرات العشوائية والفروق ليست ذات الفائدة الكامنة، كما أنها تسمح للارتباط ووجود علاقة بين الملاحظات دون أن يوضح مصدره. وينصب التركيز على تقدير امتوسط بالنسبة للعينة كلها (أثار متوسط العينة) بدلا من بارامترات الانحدار التي من شأنها أن تمكن من التنبؤ بتأثير تغيير واحد أو أكثر من عناصر X على شخص معين.وتستخدم معادلات التقدير المعمم بالتزامن مع 
أخطاء هوبر وايت القياسية  .
•نماذج مختلطة خطية معممة :
وهى تعتبرامتداد للنماذج الخطية المعممة التي تتضمن التأثيرات العشوائية في التنبؤ الخطي، عن طريق إعطاء نموذج احتمال واضح يفسر أصل الارتباط. وتعتبر نواتج تقديرات المعامل للمواضيع المحددة مناسبة عندما يكون التركيز على تقدير تأثير تغيير واحد أو أكثر من عناصر X على شخص معين. وتسمى هذه النماذج ايضا بالنماذج متعددة المستويات  او النموذج المختلط  .وبشكل عام يعتبر التلائم باستخدام النماذج المختلطة أكثر حسابيا وتعقيدا من معادلات التقدير المعمم .

نماذج مضافة العامة

وتعتبر النماذج المضافة العامة  امتداد اخر للنموذج الخطى المعمم والتى لا تقتصر على التنبؤ الخطي η أن يكون خطيا في المتغيرات X ولكن هو مجموع وظائف التجاننس  مطبقة على المتغيرات xis : 
η=β_0+ f_1 (X_1 )+ f_2 (X_2 )+..…
ويتم تقدير وظائف التجانس f_i من البيانات . وبشكل عام هذا يتطلب وجود عدد كبير من نقاط البيانات وغير مكثفة حسابيا.