|  |
| --- |
| بخشی از مجموعه مباحث دربارهٔ آمار |
| تحلیل رگرسیون |
| 
مدل‌ها |
| * رگرسیون خطی
* رگرسیون ساده خطی
* رگرسیون چندجمله‌ای
* رگرسیون چندمتغیره
 |
| * مدل خطی تعمیم‌یافته
* انتخاب گسسته
* رگرسیون لجستیک
* لوجیت چندجمله‌ای
* لوجیت آمیخته
* مدل پروبیت
* پروبیت چندجمله‌ای
* لوجیت مرتب
* پروبیت مرتب
* رگرسیون پواسون
 |
| * مدل سلسله‌مراتبی
* مدل اثرات ثابت
* مدل اثرهای تصادفی
* مدل آمیخته
 |
| * رگرسیون غیرخطی
* رگرسیون غیرپارامتریک
* رگرسیون نیمه‌پارامتریک
* رگرسیون باثبات
* رگرسیون چندک
* رگرسیون ایزوتونیک
* رگرسیون مولفه اصلی
* رگرسیون کمترین زاویه
* رگرسیون موضعی
* رگرسیون مقطع
 |
| * مدل خطا در متغیرها
 |
| 
تخمین |
| * کمترین مربعات
* کمترین مربعات خطی
* کمترین مربعات غیرخطی
 |
| * حداقل مربعات معمولی
* حداقل مربعات وزن‌دار
* روش تعمیم‌یافته کمترین مربعات
 |
| * رگرسیون پاره‌ای کمتری مربعات
* مجموع کمترین مربعات
* کمترین مربعات نامنفی
* تنظیم تیخونوف
* کمترین مربعات منظم
 |
| * کمترین انحرافات مطلق
* کمترین مربعات بازوزن‌داده مکرر
* رگرسیون خطی بیزی
* رگرسیون چندمتغیره خطی بیزی
 |
| 
پیش‌زمینه |
| * اعتبارسنجی مدل رگرسیون
* پاسخ میانگین و پیش‌بینی‌شده
* خطاها و باقی‌مانده‌ها در آمار
* نیکویی برازش
* باقی‌مانده استودنت‌شده
* قضیه گوس-مارکف
 |
| * نشان درگاه درگاه آمار
 |
| * ن
* ب
* و
 |

حداقل مربعات منظم (RLS) خانواده ای از روش ها برای حل مسئله حداقل مربعات طوری که از منظم سازی برای محدود کردن بیشتر راه حل استفاده می شود.

RLS به دو دلیل اصلی استفاده می شود. اولین مورد زمانی مطرح می شود که تعداد متغیرها در سیستم خطی از تعداد مشاهدات بیشتر شود. در چنین تنظیماتی، مسئله حداقل مربعات معمولی نامناسب است و در نتیجه برازش آن غیرممکن است زیرا مسئله بهینه سازی مرتبط دارای راه حل های بی نهایت زیادی است. RLS اجازه می دهد تا محدودیت های بیشتری را معرفی کند که به طور منحصر به فرد راه حل را تعیین می کند.

دلیل دوم استفاده از RLS زمانی به وجود می آید که مدل آموخته شده از تعمیم ضعیف رنج می برد. RLS می تواند در چنین مواردی برای بهبود تعمیم پذیری مدل با محدود کردن آن در زمان آموزش استفاده شود. این محدودیت می‌تواند راه‌حل را به نحوی «پراکنده» کند یا دانش قبلی را در مورد مشکل منعکس کند، مانند اطلاعات مربوط به همبستگی بین ویژگی‌ها. با نشان دادن این که روش‌های RLS غالباً معادل راه‌حل‌های حداقل مربعات هستند، می‌توان به درک بیزی از این موضوع دست یافت.

فرمولاسیون عمومی
----------------

یک نوع یادگیری ارائه شده توسط یک فضای احتمالاتی را در نظر بگیرید {\displaystyle (X\times Y,\rho (X,Y))} ، {\displaystyle Y\in R}. فرض کنید {\displaystyle S=\{x\_{i},y\_{i}\}\_{i=1}^{n}} مجموعه آموزشی از n جفت متغیر دوبه‌دو مستقل هم‌توزیع نسبت به \rho  را نشان می دهد. فرض کنید {\displaystyle V:Y\times R\rightarrow [0;\infty )} تابع ضرر باشد، F را به عنوان فضای توابع به گونه ای که ریسک مورد انتظار به صورت زیر باشد تعریف می کنیم:

{\displaystyle \varepsilon (f)=\int V(y,f(x))\,d\rho (x,y)}
هدف اصلی به حداقل رساندن ریسک مورد انتظار است:

{\displaystyle \inf \_{f\in F}\varepsilon (f)}
از آنجایی که مشکل به‌طور کاملا دقیق قابل حل نیست، نیاز داریم تا چگونگی اندازه‌گیری کیفیت یک راه‌حل را بررسی کنیم. یک الگوریتم یادگیری خوب باید یک برآوردگر با ریسک کمی ارائه دهد.

به عنوان توزیع توام، توزیع \rho  به طور معمول ناشناخته است، ریسک تجربی درنظر گرفته شده است. برای حداقل مربعات منظم، مربع تابع ضرر به صورت زیر معرفی شده است:

{\displaystyle \varepsilon (f)={\frac {1}{n}}\sum \_{i=1}^{n}V(y\_{i},f(x\_{i}))={\frac {1}{n}}\sum \_{i=1}^{n}(y\_{i}-f(x\_{i}))^{2}}
با این حال، اگر توابع از یک فضای نسبتاً نامحدود باشند، مانند مجموعه ای از توابع مربعی انتگرال‌پذیر در X ، این رویکرد ممکن است باعث بیش‌برازش مدل شود و منجر به تعمیم ضعیف شود. بنابراین، باید به نوعی پیچیدگی تابع {\displaystyle f} را محدود یا جریمه کند. در کمترین مربعات منظم‌شده، این کار با انتخاب توابع از فضای بازتولید هسته هیلبرت{\displaystyle {\mathcal {H}}} (RKHS) و همچنین با افزودن یک عبارت منظم‌سازی متناسب با نرم تابع در {\displaystyle {\mathcal {H}}} به تابع هدف انجام می شود:

{\displaystyle \inf \_{f\in F}\varepsilon (f)+\lambda R(f),\lambda >0}


  

.

  

### رگرسیون ریج (یا منظم سازی تیخونوف)

یکی از گزینه های رایج برای تابع پناتی R، نرم درجه 2 می باشد.

{\displaystyle R(w)=\sum \_{j=1}^{d}w\_{j}^{2}}
{\displaystyle {\frac {1}{n}}\|Y-\operatorname {X} w\|\_{2}^{2}+\lambda \sum \_{j=1}^{d}|w\_{j}|^{2}\rightarrow \min \_{w\in \mathbb {R} ^{d}}}
متداول ترین نام ها برای این امر منظم سازی تیخونوف و رگرسیون ریدج نامیده می شود. این یک فرم برای w به شکل زیر معرفی می کند:

{\displaystyle w=(X^{T}X+\lambda I)^{-1}X^{T}Y}
نام رگرسیون ریج به این واقعیت اشاره دارد که عبارت {\displaystyle \lambda I} مقدار های مثبتی در راستای قطر "ridge" ماتریس کووارینانس ماتریس {\displaystyle X^{T}X} اضافه می کند.

زمانی که {\displaystyle \lambda =0} یعنی در مورد حداقل مربعات معمولی، شرط {\displaystyle d>n} باعث میشود که ماتریس کوواریانس نمونه رتبه کامل نداشته باشد و بنابراین نمی توان آن را معکوس کرد تا یک راه حل منحصر به فرد به دست آید. به همین دلیل است که در صورتی که {\displaystyle d>n} می تواند بی نهایت راه حل برای مسئله حداقل مربعات معمولی وجود داشته باشد. با این حال، زمانی که {\displaystyle \lambda >0}، یعنی زمانی که از رگرسیون ریدج استفاده می شود، اضافه شدن {\displaystyle \lambda I} به ماتریس کوواریانس نمونه تضمین می‌کند که همه مقادیر ویژه آن بزرگتر مساوی 0 خواهند بود، به بیان دیگر وارون پذیر خواهد شد و جواب یکتا خواهد شد.

در مقایسه با حداقل مربعات معمولی، رگرسیون ریج بدون تورش نیست. برای کاهش واریانس و میانگین مربعات خطا، مقداری تورش می پذیرد.

### رگرسیون لسو

حداقل انتخاب مطلق و تابع لسو یک انتخاب دیگر می باشد. در رگرسیون لسو، تابع پنالتی لسو به صورت نرم درجه 1 انتخاب می شود.

{\displaystyle R(w)=\sum \_{j=1}^{d}\left|w\_{j}\right|}
{\displaystyle {\frac {1}{n}}\|Y-\operatorname {X} w\|\_{2}^{2}+\lambda \sum \_{j=1}^{d}|w\_{j}|\rightarrow \min \_{w\in \mathbb {R} ^{d}}}
توجه داشته باشید که تابع پنالتی لسو محدب است اما کاملا محدب نیست. برخلاف منظم‌سازی تیخونوف، این طرح راه‌حلی با فرم بسته مناسب ندارد، در عوض راه‌حل معمولاً با استفاده از برنامه‌نویسی درجه دوم یا روش‌های بهینه‌سازی محدب عمومی‌تر و همچنین با الگوریتم‌های خاص مانند الگوریتم رگرسیون حداقل زاویه، پیدا می‌شود.

تفاوت مهم بین رگرسیون لسو و منظم سازی تیخونوف این است که رگرسیون لسو در مقابل حالت دیگر مقادیر بیشتری از w را مجبور می‌کند تا برابر 0 باشد. در مقابل در حالی که منظم سازی تیخونوف مقادیر w را مجبور می‌کند تا مقادیر کوچکی داشته باشند و درنتیجه مقادیر کمی از آن‌ها را مجبور به صفر بودن می‌کند. بنابراین منظم‌سازی LASSO در مواردی است که ما انتظار داریم تعداد ورودی های غیر صفر از w، کم باشد مناسب تر از منظم‌سازی تیخونوف می‌باشد. زمانی که ما انتظار داریم که ورودی‌های w به صورت کلی کوچک باشند و نه لزوما صفر، منظم‌سازی تیخونوف مناسب‌تر است. اینکه کدام یک از این سازوکارها مناسب‌تر است به مجموعه داده های خاص موجود بستگی دارد.

علاوه بر نحوه‌ی انتخاب ویژگی که در بالا توضیح داده شد، لسو دارای محدودیت هایی است. رگرسیون ریج دقت بهتری در صورتی که {\displaystyle n>d} ارائه می دهد(برای متغیرهای بسیار همبسته ). در حالت دیگر {\displaystyle n<d} ، لسو حداکثر {\displaystyle n} متغیر انتخاب می کند. علاوه بر این لسو تمایل دارد برخی از متغیرهای دلخواه را از گروه نمونه‌های بسیار همبسته انتخاب کند، بنابراین هیچ اثر گروه‌بندی‌ای وجود ندارد.

### جریمه *ℓ* 0

{\displaystyle {\frac {1}{n}}\|Y-\operatorname {X} w\|\_{2}^{2}+\lambda \|w\_{j}\|\_{0}\rightarrow \min \_{w\in \mathbb {R} ^{d}}}
افراطی ترین راه برای اعمال پراکندگی این است که بگوییم قدرمطلق ضرایب w مهم نیست؛ بلکه تنها چیزی که پیچیدگی را تعیین می کند تعداد ورودی های غیر صفر است. این مربوط به تنظیم است. این متناظر این می‌باشد که {\displaystyle R(w)} را برابر نرم {\displaystyle \ell \_{0}} norm، w قرار دهیم. این تابع منظم‌سازی در حالی که برای پراکندگی که تضمین می کند جذاب است، اما حل آن بسیار دشوار است زیرا انجام این کار مستلزم بهینه سازی تابعی است که حتی محدب ضعیف هم نیست. رگرسیون لسو حداقل ساده‌سازی جریمه {\displaystyle \ell \_{0}} می‌باشد که منجر به یک مسئله بهینه سازی محدب ضعیف می شود.

### الستیک‌نت

برای هر {\displaystyle \lambda \_{1}} و {\displaystyle \lambda \_{2}} غیر منفی، هدف به صورت زیر می‌باشد:

{\displaystyle {\frac {1}{n}}\|Y-\operatorname {X} w\|\_{2}^{2}+\lambda \_{1}\sum \_{j=1}^{d}|w\_{j}|+\lambda \_{2}\sum \_{j=1}^{d}|w\_{j}|^{2}\rightarrow \min \_{w\in \mathbb {R} ^{d}}}
فرض کنید {\displaystyle \alpha ={\frac {\lambda \_{1}}{\lambda \_{1}+\lambda \_{2}}}} ، سپس راه حل مساله کمینه‌سازی به صورت زیر است:

{\displaystyle {\frac {1}{n}}\|Y-\operatorname {X} w\|\_{2}^{2}\rightarrow \min \_{w\in \mathbb {R} ^{d}}{\text{ s.t. }}(1-\alpha )\|w\|\_{1}+\alpha \|w\|\_{2}\leq t} برای برخی t .
عبارت {\displaystyle (1-\alpha )\|w\|\_{1}+\alpha \|w\|\_{2}\leq t} را به عنوان یک تابع جریمه الاستیک‌نت درنظر بگیرید.

زمانی که α=1 باشد الستیک نت همان ریدج رگرسیون می شود و زمانی که{\displaystyle \alpha =0} باشد همان لسو رگرسیون می شود. {\displaystyle \forall \alpha \in (0,1]} تابع جریمه الاستیک‌نت در نقطه صفر مشتق اول ندارد و به‌طور اکید محدب می‌شود. ,برای {\displaystyle \forall \alpha >0} ویژگی‌های هر دو رگرسیون لسو و ریدج را دارد.

یکی از ویژگی های اصلی الستیک‌نت توانایی انتخاب گروه‌هایی از متغیر‌های همبسته می باشد. تفاوت بین بردارهای وزنی برای دو نمونه‌ی x\_i و x\_{j} از رابطه زیر بدست می آید:

{\displaystyle |w\_{i}^{\*}(\lambda \_{1},\lambda \_{2})-w\_{j}^{\*}(\lambda \_{1},\lambda \_{2})|\leq {\frac {\sum \_{i=1}^{n}|y\_{i}|}{\lambda \_{2}}}{\sqrt {2(1-\rho \_{ij})}}} ، طوری‌که {\displaystyle \rho \_{ij}=x\_{i}^{T}x\_{j}}. 
اگر x\_i و x\_{j} همبستگی بالایی داشته‌باشند یعنی ( {\displaystyle \rho \_{ij}\rightarrow 1} )، فاصله بین بردارهای وزنی بسیار کم است. در مورد نمونه های همبستگی منفی ( {\displaystyle \rho \_{ij}\rightarrow -1} ) نمونه های {\displaystyle -x\_{j}} را می‌توان درنظر گرفت.

فهرست جزئی از روش های RLS
-------------------------

لیستی از انتخاب های ممکن تابع منظم سازی{\displaystyle R(\cdot )} در ادامه آمده است.

| Name | Regularization function | Corresponding prior | Methods for solving |
| --- | --- | --- | --- |
| Tikhonov regularization | {\displaystyle \|w\|\_{2}^{2}} | Normal | Closed form |
| Lasso regression | {\displaystyle \|w\|\_{1}} | Laplace | Proximal gradient descent, least angle regression |
| {\displaystyle \ell \_{0}} penalization | {\displaystyle \|w\|\_{0}} | – | Forward selection, Backward elimination, use of priors such as spike and slab |
| Elastic nets | {\displaystyle \beta \|w\|\_{1}+(1-\beta )\|w\|\_{2}^{2}} | Normal and Laplace mixture | Proximal gradient descent |
| Total variation regularization | {\displaystyle \sum \_{j=1}^{d-1}|w\_{j+1}-w\_{j}|} | – | Split–Bregman method, among others |

همچنین ببینید
-------------

* Least squares
* Regularization in mathematics.
* Generalization error, one of the reasons regularization is used.
* Tikhonov regularization
* Lasso regression
* Elastic net regularization
* Least-angle regression

منابع
-----

1. ↑  Tibshirani Robert (1996). "Regression shrinkage and selection via the lasso" (PDF). *Journal of the Royal Statistical Society, Series B*. **58**: *pp.* 266–288.
2. ↑  Hui, Zou; Hastie, Trevor (2003). "Regularization and Variable Selection via the Elastic Net" (PDF). *Journal of the Royal Statistical Society, Series B*. **67** (2): *pp.* 301–320.

لینک های خارجی
--------------

* http://www.stanford.edu/~hastie/TALKS/enet\_talk.pdf منظم سازی و انتخاب متغیر از طریق شبکه الاستیک (ارائه)
* حداقل مربعات منظم و ماشین‌های بردار پشتیبان (ارائه)
* حداقل مربعات منظم (ارائه)