روش تعمیم‌یافته کمترین مربعات

در صورتی که پارامترهای یک مدل رگرسیونی با استفاده از روش کمترین مربعات به صورت کارا تخمین زده شده باشند، جملات خطا به هم وابسته نخواهند بود و واریانس یکسانی خواهند داشت. این فروض برای اثبات قضیه گوس-مارکف و همچنین در مدل‌های رگرسیون غیر خطی برای اثبات کارایی مجانبی آنها الزامی است. علاوه بر این در چنین حالتی ماتریس واریانس کوواریانس تخمین زده شده توسط روش کمترین مربعات معمولی دیگر معتبر نخواهد بود. بنا بر این ما نیاز به روشی داریم که بتواند در شرایط وجود واریانس ناهمسانی یا وابستگی پیا پی جملات خطا، مدل رگرسیونی را تخمین بزند.
مقدمه
مدل رگرسیونی زیر را در نظر بگیرید.
با این شرط که امگا یا همان ماتریس کوواریانس جملات خطا یک ماتریس مثبت معین است. همان طور که می‌دانیم در
صورتی که باشد. معادله (۱) یک مدل رگرسیون خطی ساده با جملات خطای دارای واریانس یکسان و هم چنین غیر وابسته‌است. در صورتی که  قطری با مقادیر متفاوت روی قطر اصلی باشد، جملات خطا به هم وابسته نیستند اما شرط واریانس هم سانی بر قرار نخواهد بود. و در صورتی که ماتریسقطری نباشد. عناصر خطا به هم وابسته خواهند بود. در اقتصاد سنجی قطری نبودن ماتریس عناصر خطا غالبا در هنگام کار بر روی داده‌های سری زمانی به وجود می‌آید. در چنین حالتی عناصر خطا در داده‌هایی که به لحاظ زمانی به هم نزدیک ترند وابستگی بالاتری دارند.
در ادامه با معرفی مدل تعمیم یافته کمترین مربعات نشان می‌دهیم که چگونه می‌توان یک برآورد گر کارا برای تخمین بردار  در معادله (۱) به دست آورد که شرایط قضیه گاووس_مارکوف را ارضا نماید.
برآوردگر تعمیم یافته کمترین مربعات
برای به دست آوردن برآوردگر کارا برای بردار پارامترهای در یک مدل رگرسیون خطی، از مدل تبدیل یافته‌ای استفاده می‌شود که شرایط گاووس _مارکوف را ارضا می‌نماید.
روش معادله تبدیل یافته
تخمین پارامترهای مدل تبدیل یافته با استفاده از روش کمترین مربعات معمولی منجر به، به دست آوردن کاراترین تخمین زن خواهد شد. این تبدیل با استفاده از ماتریس  که غالبا یک ماتریس بالا مثلثی است و در نامساوی زیر صدق می‌کند، انجام می‌شود.
می‌توان اثبات کرد با استفاده از همواره چنین ماتریسی پیدا خواهد شد. بنا بر این داریم:
(۲)
از آن جایی که ماتریس واریانس کوواریانس  وارون پذیر است. ماتریس  نیز وارون پذیر خواهد بود و بنا براین معادله رگرسیون تبدیل شده با معادله رگرسیون اصلی معادل خواهد بود. تخمین زن روش کمترین مربعات عادی برای بردار پارامترهای  در معادله (۲) چنین خواهد بود.
(۳)
این تخمین زن بر آورد گر کمترین مربعات عمومی نام دارد و به سادگی می‌توان نشان داد ماتریس کوواریانس خطاهای تبدیل یافته ^T u یک ماتریس همانی است.
از آنجا که  ̂ به دست آمده همان برآورد با استفاده از روش کمترین مربعات عادی برای معادله تبدیل یافته‌است. ماتریس کوواریانس آن به راحتی با جایگزین نمودن ^T X به جای X به صورت استاندارد به دست می‌آید.
(۴)
برای آنکه معادله (۳) بر قرار باشد. ارضای شرایط قضیه گاوس _مارکوف بر الزامی است. به عبارتی  باید ماتریس کوواریانس شرطی خطا نسبت به متغیر توضیح دهنده باشد. بنا بر این  می‌تواند به X یا هر متغیر برون زا ی دیگری وابسته باشد.
تابع معیار حداقل مربعات تعمیم یافته
راه دیگر به دست آوردن برآوردگر تعمیم یافته کمترین مربعات مینیمم کردن تابع معیار کمترین مربعات عمومی است.
(۵)
که در حقیقت چیزی نیست جز جمع مربعات باقی‌مانده‌های مدل رگرسیونی تبدیل یافته. می‌توان این تابع معیار را تعمیم یافته تابع مجموع مربعات باقی‌مانده هادر نظر گرفت که درآن مربعات و ضرب‌های دو به دو باقی‌مانده‌ها، با توجه به معکوس ماتریس  وزن دهی شده‌اند. اثر این وزن دهی زمانی روشن می‌شود که ماتریس  یک ماتریس قطری باشد. در چنین حالتی هر مشاهده بر واریانس خطای خود تقسیم خواهد شد.
کارایی تخمین زن عمومی کمترین مربعات
علاوه بر خصوصیات ذکر شده، بر آوردگر به دست آمده از معادله (۳) حلی برای مجموعه گشتاورهای شرطی زیر نیز می‌باشد.
(۶)
این مجموعه شرطی گشتاورها معادل شرایط مرتبه اول برای مینیمم کردن تابع معیار تعمیم یافته کمترین مربعات می‌باشد.
از آنجا که براوردگر عمومی کمترین مربعات یک روش برای برآورد گشتاورهاست. به مقایسه آن با سایر برآورد گرهای گشتاورها می‌پردازیم. یک بر آوردگر تعمیم یافته گشتاوری برای یک مدل رگرسیون خطی با استفاده از یک ماتریس n*kاز متغیرهای برون زای W که بعد. ست.  به صورت زیر به دست می‌آید.
(۷)
از آنجا که در معادله اخیر k معادله و k مجهول وجود دارد، برای به دست آوردن برآورد گشتاوری می‌توان آن را حل نمود.
(۸)
با مقایسه معادلات (۳)و (۸) و جایگذاری W با ^(-۱) X، می‌توان مشاهده نمود، برآورد گر تعمیم یافته کمترین مربعات یک حالت خاص از برآورد گر روش گشتاورهاست.
تحت فرضیات قطعیت، تخمین زن روش گشتاورها یک تخمین زن نا اریب برای مدل خواهد بود. در صورتی که فرض کنیم فرایند تولید داده یک حالت خاص از مدل با بردار پارامترهای _۰و ماتریس کوواریانس معلوم است. برون زا بودن متغیرهای X و W ایجاب می‌کند کهE(u_t│w_ X)=0 باشد. با این فرض نسبتا قوی که منجر به نا اریبی  ̂_W می‌شود از تحلیل‌های مجانبی و بررسی سازگاری اجتناب می‌کنیم. گرچه برای سازگار بودن برآوردگر  ̂_Wتنها فرض مورد نیاز، فرض ضعیف E(u_t│w_t)=0 با جایگزاری X_۰در معادله (۸) می‌بینیم:
(۹)
همان طور که انتظار داشتیم، معادله (۹) اصطلاحا ساندویچ شده ماتریس کوواریانس است. ه نگامی که X=W باشد ما برآوردگر روش کمترین مربعات تعمیم یافته را خواهیم داشت و واریانس  ̂_W به صورت معادله استاندارد در می‌آید. می‌توان کارایی بر آوردگر تعمیم یافته روش کمترین مربعات را با نشان دادن این که تفاضل Var( ̂_W)در معادله (۹)و Var( ̂)در معادله (۴)یک ماتریس مثبت نیمه معین است اثبات نمود.
محاسبه تخمین عمومی کمترین مربعات
در نگاه اول، رابطه (۳) برای برآورد گر عمومی کمترین مربعات بسیار ساده به نظر می‌آید. ظاهرا برای به دست آوردن  ̂، در صورت معلوم بودن  تنها کافی است ^(-۱) را محاسبه نموده و ماتریس X^T ^(-1) X و معکوس آن را تشکیل دهیم از ضرب آن‌ها در بردار X^T ^(-1) y،  ̂ به دست خواهد آمد. با این وجود استفاده ار روش عمومی کمترین مربعات به همین سادگی که به نظر می‌رسد نیست. فرایند بیان شده تنها در زمانی که تعداد مشاهداتمان کم و ناچیز است، قابل استفاده خواهد بود و در نمونه‌های بزرگ عملا ناممکن است. به عنوان مثال در صورتی که حجم نمونه ما در ۱۰۰۰۰ باشد تنها برای ذخیره و^(-۱) به حدود ۱۶۰۰ مگابایت حافظه نیاز داریم. حتا با داشتن حافظه کافی، محاسبه برآوردگر  ̂ با استفاده از این روش مقدماتی به لحاظ حجم محاسبات و زمان به شدت هزینه بر خواهد بود.
فرایند عملی تخمین کمترین مربعات نیازمند این است که اطلاعات نسبتا زیادی در مورد ساختار ماتریس  و معکوس آن داشته باشیم. در صورتی که ماتریس  به ما اجازه دهد تا برای هر بردار X، ^T X را بدون نیاز به ذخیره خود  در حافظه حاسبه نماییم، می‌تون به سادگی مدل تبدیل یافته را فرموله نمود و ازیک تخمین عادی کمترین مربعات بری محاسبه پارمترهای آن استفاده کرد.