انحدار خطي بسيط

في الإحصاء ،
الانحدار الخطي البسيط هو حساب المربعات الصغري من نموذج الانحدار الخطي مع متغير تفسيري واحد .
وبعبارة أخرى، الانحدار الخطي البسيط  هو خط مستقيم يمر بمجموعة من النقاط بطريقة تجعل مجموع مربع النقط المتبقية من النموذج (أي، المسافات الرأسية بين النقطة المتبقية و الخط ) أقل ما يمكن.
هذا يشير الي حقيقة أن الانحدار هو واحد من أبسط الأساليب المستخدمة في مجال الإحصاء حيث أن ميل الخط يساوي العلاقة بين  y و x مصححة بنسبة الانحرافات المعيارية لهذه المتغيرات. نقطة تقاطع الخط مع محور الصادات هي مركز كتلة نقاط البيانات (x, y).
توجد طرق انحدار أخرى بجانب المربعات الصغري البسيطة (انظر الانحدار الخطي). علي وجه الخصوص ، عندما يريد شخص أن يقوم بفعل الانحدار عن طريق العين فانه يميل عادة الي رسم خط حاد قليلا و يكون قريبا من ذلك الذي ينتج من طريقة أقل مربعات كليه.
يحدث هذا لأنه طبيعي أكثر لعقل الانسان  ملاحظة المسافات المتعامدة علي خط الانحدار بدلا من تلك الراسية كما يحدث في طريقة المربعات الصغري .

عمل خط الانحدار

افترض ان لديك عدد n من النقاط {(Xᵢ,Yᵢ),i=1,2,.....n}  فان الدالة التي تصف Y و X هي :
yᵢ = α + β xᵢ + εᵢ  والهدف هو ايجاد معادلة الخط المستقيم y = α + β x التي تعطي أفضل تمثيل للنقاط. 
هنا الأفضل يعرف بأنه طريقة المربعات الصغيرة : الخط الذي يقلل مجموع مربعات المتبقيات لنموذج الانحدار الخطي .  و بعبارة أخرى، α (نقطة التقاطع مع محور y) و β (الميل) يشاركوا في حل مشكلة التقليل التالية :
باستخدام الحساب هندسة المساحات الداخلية للشكل أو التوسع البسيط للحصول علي معادلة من الدرجة الثانية في α و β ، فإنه من الممكن ايجاد قيم α و β التي تقلل الدالة كالتالي :
حيث rxy هو معامل الارتباط بين x و y
sₓ  هو الانحراف المعياري ل x
sy  هو الانحراف المعياري ل y
الخط الأفقي علي فوق الكمية يعبر عن المتوسط . فعلي سبيل المثال : 
بالتعويض بالمعادلة السابقة في  يؤدي ذلك الي :
و هذا يدل علي الدور الذي يقوم به rxy في خط الانحدار لنقط البيانات . و في بعض الأحيان يكون من المفيد حساب rxy من البيانات بشكل مستقل باستخدام المعادلة التالية :
معامل التحديد (R تربيع) يساوي  عندما يكون النموذج خطي و به متغير مستقل واحد. انظر نموذج معامل الارتباط لتفاصيل أكثر

انحدار خطي بدون جزء التقاطع

في بعض الأحيان، يعتبر الناس نموذج الانحدار الخطي البسيط دون جزء التقاطع y = βx في مثل هذه الحالة، تقدير OLS لايجاد β يبسط ل   
ويصبح معامل ارتباط العينة :

خصائص ايجاد نموذج

وصف الخصائص الإحصائية للمقدرات من الانحدار الخطي البسيط يتطلب استخدام نموذج احصائي. التالي يعتمد علي افتراض صحة النموذج في حالة أن التقديرات مثالية. و من الممكن أيضا لحساب الخصائص تحت قيود افتراضات أخرى، مثل عدم التجانس ، و لكن يتم مناقشة ذلك في أماكن أخرى.

عدم التحيز

حساب   و  هي منحازة و هذا يتطلب أن نفسر المقدرات كمتغيرات عشوائية و علينا أن نفترض أن لكل قيمة ل x القيمة المقابلة لها في y تنتج كنتيجة متوسطة α + βx بالإضافة الي قيمة متغير عشوائي اضافي ε يسمي الخطأ. هذا الخطأ يجب أن يساوي صفر عند حساب المتوسط لكل قيمة ل x و تحت هذا التفسير ، تقدير المربعات الصغيرة  و  سوف يكونوا متغيرات عشوائية و سوف تحسب القيم الحقيقية ل α و β بدون تحيز.

افتراض الوضع الطبيعي

في ظل الافتراض الأول أعلاه، الذي من طبيعته وجود خطأ، تقدير معامل الميل سوف يوزع بشكل طبيعي بمتوسط β و تباين  حيث σ² هو الفرق في الخطأ (انظر البراهين التي تنطوي علي المربعات الصغري). في نفس الوقت، مجموع مربع المتبقيات Q يوزع بالتناسب مع χ² بعدد درجات حرية n-2 و بشكل مستقل عن  و هذا يسمح لنا بعمل احصائية t.
حيث
هو الخطأ المعياري للمقدر
احصائية t لديها توزيع t للطلاب بعدد n-2 درجة حرية و باستخدامها نستطيع تكوين فترة تأكيد ل β :
في مستوي التأكيد (1−γ) حيث  هي (1−)-th من توزيع tₙ−2 علي سبيل المثال، اذا γ = 0.05 ثم مستوي التأكيد 95% و بالمثل، فترة التأكيد لمعامل الاعتراض α يعطي ب
في مستوي التأكيد (1−γ)  حيث
فترة التأكيد ل α وβ تعطينا الفكرة الرئيسية حيث معاملات الانحدار من الأرجح أن تكون. علي سبيل المثال، في قانون Okun الانحدار ظاهر في بداية المقال النقط المقدرة هي 
و فترة التأكيد لهذه المقدرات 95% :
من أجل تمثيل هذه المعلومات بيانيا في شكل فترات تأكيد ول خط الانحدار فعلي الشخص أن يمضي بحذر و حساب التوزيع المشترك للمقدرات. و يمكن أن تظهر أنه في فترة التأكيد (1−γ) رابطة التأكيد تأخذ شكل قطع زائد يعطي بالمعادلة :

الافتراضات التقريبية

الافتراض الثاني البديل ينص علي أنه عندما يكون عد النقاط كبير بشكل كاف ، و قانون الأعداد الكبيرة و نظرية حدود المركز قابلين للتطبيق، و من ثم توزيع المقدرات أمر طبيعي تقريبا. تحت هذا الافتراض جميع الصيغ المشتقة في القسم السابق لا تزال سارية المفعول ، مع استثناء وحيد و هو أن t*ₙ−2 لتوزيع t من الطلاب يتم استبداله ب q* من التوزيع الطبيعي القياسي . أحيانا الكسر  يتم استبداله ب  في حالة n تكون كبيرة و مثل هذا التغير لا يغير النتائج بشكل ملحوظ.