|  |
| --- |
| بخشی از مجموعه مباحث دربارهٔ آمار |
| تحلیل رگرسیون |
| 
مدل‌ها |
| * رگرسیون خطی
* رگرسیون ساده خطی
* رگرسیون چندجمله‌ای
* رگرسیون چندمتغیره
 |
| * مدل خطی تعمیم‌یافته
* انتخاب گسسته
* رگرسیون لجستیک
* لوجیت چندجمله‌ای
* لوجیت آمیخته
* مدل پروبیت
* پروبیت چندجمله‌ای
* لوجیت مرتب
* پروبیت مرتب
* رگرسیون پواسون
 |
| * مدل سلسله‌مراتبی
* مدل اثرات ثابت
* مدل اثرهای تصادفی
* مدل آمیخته
 |
| * رگرسیون غیرخطی
* رگرسیون غیرپارامتریک
* رگرسیون نیمه‌پارامتریک
* رگرسیون باثبات
* رگرسیون چندک
* رگرسیون ایزوتونیک
* رگرسیون مولفه اصلی
* رگرسیون کمترین زاویه
* رگرسیون موضعی
* رگرسیون مقطع
 |
| * مدل خطا در متغیرها
 |
| 
تخمین |
| * کمترین مربعات
* کمترین مربعات خطی
* کمترین مربعات غیرخطی
 |
| * حداقل مربعات معمولی
* حداقل مربعات وزن‌دار
* روش تعمیم‌یافته کمترین مربعات
 |
| * رگرسیون پاره‌ای کمتری مربعات
* مجموع کمترین مربعات
* کمترین مربعات نامنفی
* تنظیم تیخونوف
* کمترین مربعات منظم
 |
| * کمترین انحرافات مطلق
* کمترین مربعات بازوزن‌داده مکرر
* رگرسیون خطی بیزی
* رگرسیون چندمتغیره خطی بیزی
 |
| 
پیش‌زمینه |
| * اعتبارسنجی مدل رگرسیون
* پاسخ میانگین و پیش‌بینی‌شده
* خطاها و باقی‌مانده‌ها در آمار
* نیکویی برازش
* باقی‌مانده استودنت‌شده
* قضیه گوس-مارکف
 |
| * نشان درگاه درگاه آمار
 |
| * ن
* ب
* و
 |

**نیکویی برازش** (به انگلیسی: Goodness of fit) یا **خوش سازگاری** برای یک مدل آماری بیان کننده آن است که آن «مدل آماری» به چه اندازه با یک مجموعه از «مشاهدات» متناسب است. اندازه نیکویی برازش معمولاً تفاوت بین مقادیر مشاهده شده و مقادیر مورد انتظار در مدل بررسی شونده را خلاصه سازی می‌کند. از این اندازه می‌توان در آزمون فرض آماری استفاده کرد، مثلاً برای آزمون بهنجاری باقیمانده، یا برای آزمون آنکه بررسی شود که آیا دو نمونه از یک توزیع یکسان گرفته شده‌اند یا نه، (آزمون کولموگروف–اسمیرنف را ببینید)، یا اینکه آیا فرکانس‌های حاصل شده از توزیع تعیین شده پیروی می‌کنند (آزمون کای مربع پیرسون را ببینید). در تحلیل واریانس، یکی از مولفه‌هایی که واریانس به آن بخش‌بندی می‌شود، می‌تواند فقدان تناسب مجموع مربعات باشد.

پس از تخمین یک مدل خطی خاص، سؤالی که مطرح می‌شود این است که: خط وایازش تخمین زده شده چه میزان با مشاهدات واقعی تطابق دارد؟
یک معیار سنجش مناسب برای نیکویی برازش (یا برازندگی)، نسبت واریانس نمونه ای y است که بوسیلهٔ مدل توضیح داده می‌شود. این متغیر \mathbb{R} ^{2}\, نامیده شده و به صورت زیر تعریف می‌شود:
رابطه (۱–۱)\mathbb{R} ^{2}\,={\dfrac {{\hat V}({\hat y}\_{i})}{{\hat V}(y\_{i})}}={\dfrac {1/(N-1)\sum \_{{i=1}}^{N}({\hat y}\_{i}-{\bar y})^{2}}{1/(N-1)\sum \_{{i=1}}^{N}(y\_{i}-{\bar y})^{2}}},
که در این رابطه {\hat y}\_{i}=x\_{i}\ b است و {\bar y}=(1/N)\sum y\_{i} بیانگر میانگین نمونه ای y\_i می‌باشد. توجه داشته باشید که {\bar {y}} مساوی میانگین نمونه ای {\hat y}\_{i}\, است. از شرط مرتبه اول داریم:\sum \_{{i=1}}^{N}e\_{i}\ x\_{{ik}}=0,k=1,...Kدر نتیجه می‌توانیم y\_i را به صورت زیر تعریف نماییم : y\_{i}={\hat y}\_{i}\ +e\_{i}, که در آن \sum e\_{i}{\hat y}\_{i}=0 است. در بسیاری از مدل‌های مشابه که شامل عرض از مبدأ هستند رابطه زیر برقرار است:
رابطه (2-1){\hat V}(y\_{i})={\hat V}({\hat y}\_{i})+{\hat V}(e\_{i}), که
{\hat V}(e\_{i})=s^{2}, است. با استفاده از این رابطه می‌توان R^2 را به صورت زیر بازنویسی کرد:
رابطه(۳–۱)\mathbb{R} ^{2}\,=1-{\dfrac {{\hat V}(e\_{i})}{{\hat V}(y\_{i})}}=1-{\dfrac {1/(N-1)\sum \_{{i=1}}^{N}e\_{i}^{2}}{1/(N-1)\sum \_{{i=1}}^{N}(y\_{i}-{\bar y})^{2}}}
فوق نشان می‌دهد که واریانس نمونه ای y\_i را می‌توان به صورت حاصل جمع واریانس‌های نمونه ای دو جزء متعامد تجزیه نمود: تخمین زن {\hat y}\_{i}و e\_i)residual).
بنابراین \mathbb{R} ^{2}\, بیان می‌کند که چه نسبتی از تغییرات نمونه در y\_i توسط مدل توضیح داده می‌شود.
اگر مدل مورد مطالعه شامل عرض از مبدأ باشد دو عبارت فوق برای تعیین \mathbb{R} ^{2}\, معادلند. علاوه بر این در این مورد می‌توان نشان داد که مقدار\mathbb{R} ^{2}\, همواره بین صفر و یک قرار دارد. تن‌ها اگر تمام e\_{i}=0 باشند\mathbb{R} ^{2}\, مساوی یک خواهد بود و مقدار صفر \mathbb{R} ^{2}\, نشان می‌دهد که مدل به جزمیانگین نمونه ای y\_i هیچ چیز دیگری را توضیح نمی‌دهد.
در یک مورد استثنایی که مدل شامل عرض از مبدأ نیست دو عبارت مطرح شده برای \mathbb{R} ^{2}\, معادل نیستند و این بدین دلیل است که رابطهٔ (۲–۱)نقض می‌شود زیرا \sum \_{{i=1}}^{N}e\_{i}دیگر معادل صفر نمی‌باشد.
در این وضعیت ممکن است مقدار \mathbb{R} ^{2}\, محاسبه شده از رابطه ی(۳–۱) منفی گردد. یک روش اندازه‌گیری جایگزین که به‌طور معمول به وسیلهٔ نرم‌افزارها مورد استفاده قرار می‌گیرد اگر عرض از مبدأ وجود نداشته باشد uncentred\mathbb{R} ^{2}است که طبق رابطهٔ زیر تعریف می‌گردد و مقدار آن بزرگتر از \mathbb{R} ^{2}, استاندارد است:
رابطه (۴–۱)
uncentred\mathbb{R} ^{2}={\dfrac {\sum \_{{i=1}}^{N}{\hat y}\_{i}^{2}}{\sum \_{{i=1}}^{N}\ y\_{i}^{2}}}=1-{\dfrac {\sum \_{{i=1}}^{N}\ e\_{i}^{2}}{\sum \_{{i=1}}^{N}\ y\_{i}^{2}}}
از آنجا که\mathbb{R} ^{2}\, تغییرات توضیح داده شده درy\_i را توضیح می‌دهد نسبت به تغییر این متغیر حساس است؛ بنابراین در مدلهایی که مصرف را توضیح می‌دهند، تغییرات در مصرف یا رشد مصرف الزاماً توسط مقادیر \mathbb{R} ^{2}\, شان قابل مقایسه با هم نمی‌باشند. به عنوان مثال تغییر در مصرف کل برای یک کشور مورد نظر معمولاً آسان‌تر از توضیح تغییرات cross-sectional مصرف در سطح خانوار هاست. در نتیجه معیار قطعی برای اینکه یک مقدار \mathbb{R} ^{2}\, کم یا زیاد تلقی شود وجود نداردمثلا مقدار ۰٫۲ ممکن است در کارکرد خاص بزرگ و در سایر موارد کم تلقی شود و حتی مقدار ۰٫۹۵ ممکن است در یک مورد خاص کم به‌شمار آید
گاهی اوقات \mathbb{R} ^{2}\, به عنوان معیاری برای کیفیت مدل آماری تفسیر می‌شود که در این حالت چیزی به جز کیفیت تقریب خطی را اندازه‌گیری نمی‌نماید هنگامی که رویکردOLS برای بدست آوردن بهترین تقریب خطی توسعه داده شود، صرف نظر از درستی مدل و اعتبار فرضیاتش، تخمین مدل خطی به وسیلهٔ OLS بهترین \mathbb{R} ^{2}\, ممکن را بدست می‌دهد. هر روش تخمین دیگر اگرچه دارای تخمین زن با مشخصات آماری بهتر تحت فرضیاتش باشد، منجر به \mathbb{R} ^{2}\, کمتر ی خواهد شد. هنگامی که مدل توسط OLS تخمین زده نشود دو رابطهٔ (۱–۱) و (۲–۱)معادل نیستند و روشن نیست\mathbb{R} ^{2}\, چگونه باید تعریف شود. برای استفاده‌های بعدی ما تعریف جایگزینی برای \mathbb{R} ^{2}\, ارائه می‌نماییم که برای OLS معادل روابط(۱–۱) و (۲–۱)و برای هر تخمین زن دیگری بین صفر و یک خواهد بود.
رابطه(۵–۱)
\mathbb{R} ^{2}=corr^{2}(y\_{i},{\hat y}\_{i})={\dfrac {(\sum (y\_{i}-{\bar y})({\hat y}\_{i}-{\bar y}))^{2}}{(\sum (y\_{i}-{\bar y})^{2})(\sum ({\hat y}\_{i}-{\bar y})^{2})}}
که بیانگر مجذور ضریب همبستگی بین مقدار واقعی و fitted value هاست. در نتیجه\mathbb{R} ^{2}\, مهم‌ترین جنبه از نتایج تخمین ما به‌شمار نمی‌آید. مشکل دیگر \mathbb{R} ^{2}\, این است که مقدار ان با افزایش تعداد متغیرهای توضیح دهنده کاهش نمی‌یابد. یک راه معمول برای حل این مشکل تصحیح واریانس تخمین زده شده برای درجات آزادی است. این امر adjusted\mathbb{R} ^{2}\, یا
{\bar {R^{2}}}
را نتیجه می‌دهد که طبق رابطهٔ زیر تعریف می‌شود:
رابطه(۶–۱)
{\bar {R^{2}}}=1-{\dfrac {1/(N-K)\sum \_{{i=1}}^{N}e\_{i}^{2}}{1/(N-1)\sum \_{{i=1}}^{N}(y\_{i}-{\bar y})^{2}}}
این روش محاسبهٔ نیکویی برازش مقداری جریمه برای افزایش تعداد متغیرهای توضیح دهنده در مدل در نظر می‌گیرد و بنابراین هنگامی که متغیرهای توضیح دهنده به مدل اضافه می‌شوند افزایش نخواهند یافت. در حقیقت آن ممکن است با اضافه شدن یک متغیر به جمع متغیرهای توضیح دهنده کاهش یابد. توجه کنید که در بسیاری از موارد {\bar {R^{2}}} ممکن است مقداری منفی باشد و همچنین مقدار آن کوچکتر از \mathbb{R} ^{2}\, خواهد بود مگر اینکه مدل تنها شامل جزء ثابت بوده و هر دو مقدار مساوی صفر گردند.

پانویس
------

منابع
-----

مشارکت‌کنندگان ویکی‌پدیا. «Goodness of fit». در *دانشنامهٔ ویکی‌پدیای انگلیسی*، بازبینی‌شده در ۳۰ سپتامبر ۲۰۲۰.

۲۰۰۴(A GUIDE TO ECONOMETRICS(VERBEEK