|  |
| --- |
| بخشی از مجموعه مباحث دربارهٔ آمار |
| تحلیل رگرسیون |
| 
مدل‌ها |
| * رگرسیون خطی
* رگرسیون ساده خطی
* رگرسیون چندجمله‌ای
* رگرسیون چندمتغیره
 |
| * مدل خطی تعمیم‌یافته
* انتخاب گسسته
* رگرسیون لجستیک
* لوجیت چندجمله‌ای
* لوجیت آمیخته
* مدل پروبیت
* پروبیت چندجمله‌ای
* لوجیت مرتب
* پروبیت مرتب
* رگرسیون پواسون
 |
| * مدل سلسله‌مراتبی
* مدل اثرات ثابت
* مدل اثرهای تصادفی
* مدل آمیخته
 |
| * رگرسیون غیرخطی
* رگرسیون غیرپارامتریک
* رگرسیون نیمه‌پارامتریک
* رگرسیون باثبات
* رگرسیون چندک
* رگرسیون ایزوتونیک
* رگرسیون مولفه اصلی
* رگرسیون کمترین زاویه
* رگرسیون موضعی
* رگرسیون مقطع
 |
| * مدل خطا در متغیرها
 |
| 
تخمین |
| * کمترین مربعات
* کمترین مربعات خطی
* کمترین مربعات غیرخطی
 |
| * حداقل مربعات معمولی
* حداقل مربعات وزن‌دار
* روش تعمیم‌یافته کمترین مربعات
 |
| * رگرسیون پاره‌ای کمتری مربعات
* مجموع کمترین مربعات
* کمترین مربعات نامنفی
* تنظیم تیخونوف
* کمترین مربعات منظم
 |
| * کمترین انحرافات مطلق
* کمترین مربعات بازوزن‌داده مکرر
* رگرسیون خطی بیزی
* رگرسیون چندمتغیره خطی بیزی
 |
| 
پیش‌زمینه |
| * اعتبارسنجی مدل رگرسیون
* پاسخ میانگین و پیش‌بینی‌شده
* خطاها و باقی‌مانده‌ها در آمار
* نیکویی برازش
* باقی‌مانده استودنت‌شده
* قضیه گوس-مارکف
 |
| * نشان درگاه درگاه آمار
 |
| * ن
* ب
* و
 |

**مدل خطی عمومی** یک مدل خطی آماری است. به شکل زیر می‌توان نوشت

{\displaystyle \mathbf {Y} =\mathbf {X} \mathbf {B} +\mathbf {U} ,}
که در آن Y یک ماتریس با ردیف‌های اندازه‌گیری‌های چند متغیره است، X یک ماتریس است که می‌تواند یک ماتریس طراحی باشد، B یک ماتریس شامل متغیرهایی است که معمولاً تخمین زده می‌شوند و U ماتریسی است که شامل خطاها و نویز است. خطاها معمولاً نسبت به اندازه‌گیری‌ها و طبق یک توزیع معمولی چندمتغیره ناهمبسته فرض می‌شوند. اگر که خطاها مطابق با یک توزیع معمولی چند متغیره نباشند، مدل خطی تعمیم‌یافته برای منطقی تر کردن فرض‌ها در مورد Y و U مورد استفاده قرار می‌گیرد.

مدل خطی عمومی تعدادی از مدل‌های آماری مختلف را با هم مرتبط می‌کند: آنالیز واریانس، آنالیز کوواریانس، آنالیز چندمتغیره واریانس، آنالیز چندمتغیره کوواریانس، رگرسیون خطی معمولی، آزمون تی استیودنت و آزمون اف. مدل خطی عمومی تعمیم یافته‌ای از چند مدل رگرسیون خطی در مورد بیش از یک متغیر وابسته است. اگر Y، B و U بردارهای ستون باشند، معادله ماتریس بالا بیانگر چند رگرسیون خطی خواهد بود.

آزمون‌های فرضی با مدل خطی عمومی را می‌توان به دو روش انجام داد: چندمتغیره یا به شکل آزمون‌های متعدد تک متغیره مستقل. در آزمون‌های چندمتغیره ستون‌های Y با هم مورد بررسی قرار می‌گیرند درحالیکه در آزمون‌های تک متغیره ستون‌های Y مستقلاً بررسی می‌شوند. به‌طور مثال به عنوان آزمون‌های تک متغیره با ماتریس طراحی یکسان.

رگرسیون چند خطی
---------------

### ساختار ریاضی مسئله

رگرسیون چند خطی تعمیمی از رگرسیون خطی است با در نظر گرفتن بیش از یک متغیر مستقل و یک مورد خاص مدل‌های خطی عمومی تشکیل شده با محدود کردن تعداد متغیرهای وابسته به یک. به عنوان مثال اگر فرض کنیم متغیر ما m بُعد دارد یعنی {\displaystyle {\vec {x}}=[x\_{1},x\_{2},\dots ,x\_{m}]} مسئله رگرسیون به یک مسئله بهینه‌سازی برای پیدا کردن {\displaystyle m+1} پارامتر تبدیل می‌شود. به این معنی که ما یک پارامتر چند متغیره به اسم {\displaystyle {\vec {\beta }}=[\beta \_{0},\beta \_{1},\cdots ,\beta \_{m}]} داریم و سعی می‌کنیم که متغیر وابسته که همان y است را با ترکیبی خطی از **{\displaystyle {\vec {x}}}** بردارد ورودی، تخمین بزنیم یعنی {\displaystyle y\approx \beta \_{0}+\sum \_{i=1}^{m}\beta \_{i}\times x\_{i}}. حال اگر یک بعد دیگر به متغیر **{\displaystyle {\vec {x}}}** اضافه کنیم و مقدارش را همیشه عدد ثابت {\displaystyle 1} در نظر بگیریم ({\displaystyle x\_{0}=1}) و **{\displaystyle {\vec {x}}}** را به صورتِ {\displaystyle {\vec {x}}=[1,x\_{1},x\_{2},\dots ,x\_{m}]} تغییر دهیم، تخمینی که از **y** داریم در واقع ضرب نقطه ای بردار ورودی و بردار پارامترهای ماست یعنی {\displaystyle y\approx \sum \_{i=0}^{m}\beta \_{i}\times x\_{i}={\vec {\beta }}\,\,.\,{\vec {x}}}. حال فرض کنیم که تعداد مثال‌هایی که قرار است برای تخمین پارامترها استفاده کنیم {\displaystyle n} است و این مثال‌ها را به این شکل نمایش دهیم {\displaystyle D=({\vec {x\_{1}}},y\_{1}),\cdots ({\vec {x\_{n}}},y\_{n})}. پارامتر بهینه پارامتری است که یک تابع هزینه را به حداقل برساند و تخمینهایی ما را به متغیر وابسته بسیار نزدیک کند. تابع هزینه را با جمع مربع تفاضل تخمین‌ها با متغیر وابسته تعریف می‌کنیم، به این شکل که {\displaystyle L(D,{\vec {\beta }})=\sum \_{i=1}^{n}({\vec {\beta }}\,.\,{\vec {x\_{i}}}-y\_{i})^{2}}، با این حساب پارامتر بهینه می‌شود:

{\displaystyle {\vec {\hat {\beta }}}={\mbox{argmin}}\_{\vec {\beta }}L(D,{\vec {\beta }})={\mbox{argmin}}\_{\vec {\beta }}\sum \_{i=1}^{n}({\vec {\beta }}\,.\,{\vec {x\_{i}}}-y\_{i})^{2}}

### تخمین پارامتر بهینه از روش کمترین مربعات

در این روش برای بدست آوردن {\displaystyle {\vec {\hat {\beta }}}} یا همان پارامتر بهینه، از تابع {\displaystyle L(D,{\vec {\beta }})}نسبت به {\displaystyle {\vec {\beta }}} گرادیان می‌گیریم و گرادیان را برابر صفر قرار می‌دهیم و پارامتر نمونه را بدست می‌آوریم. از آنجا که تابع {\displaystyle L(D,{\vec {\beta }})} نسبت به {\displaystyle {\vec {\beta }}} تابعی کاملاً محدب است، در نقطه مینیمم گرادیان ما صفر خواهد بود و این روش پارامتر بهینه را بدست می‌دهد. برای تسهیل کار شکل تابع را با بکارگیری چند ماتریس ساده می‌کنیم. دو ماتریس برای این کار نیاز داردیم ماتریس X و ماتریس Y. ماتریس X ماتریس ورودهای چندمتغیره ماست. هر سطر معادل یک نمونه از داده ماست، سطر iام برابر است با iامین نمونه ورودی ما یعنی بردار {\displaystyle {\vec {x\_{i}}}}، از اینرو X یک ماتریس {\displaystyle n\times (m+1)} خواهد بود. ماتریس Y از طرف دیگر برابر است با مجموعه متغیرهای وابسته داده ما. سطر iام این ماتریس برابر است با متغیر وابسته برای iامین نمونه داده ما یا همان y\_i. ماتریس Y یک ماتریس {\displaystyle n\times 1} است. با کمک این دو ماتریس می‌توان تابع هزینه را به شکل ذیل تعریف کرد:

{\displaystyle L(D,{\vec {\beta }})=||X{\vec {\beta }}-Y||^{2}=(X{\vec {\beta }}-Y)^{T}(X{\vec {\beta }}-Y)=Y^{T}Y-Y^{T}X{\vec {\beta }}-{\vec {\beta }}^{T}X^{T}Y+{\vec {\beta }}^{T}X^{T}X{\vec {\beta }}}

حال گرادیان این تابع را نسبت به {\displaystyle {\vec {\beta }}} پیدا می‌کنیم که می‌شود:

{\displaystyle {\frac {\partial L(D,{\vec {\beta }})}{\partial {\vec {\beta }}}}={\frac {\partial \left(Y^{T}Y-Y^{T}X{\vec {\beta }}-{\vec {\beta }}^{T}X^{T}Y+{\vec {\beta }}^{T}X^{T}X{\vec {\beta }}\right)}{\partial {\vec {\beta }}}}=-2X^{T}Y+2X^{T}X{\vec {\beta }}}

با برابر قرار دادن گرادیان با صفر پارامتر بهینه بدست می‌آید:

{\displaystyle -2X^{T}Y+2X^{T}X{\vec {\beta }}=0\Rightarrow X^{T}Y=X^{T}X{\vec {\beta }}\Rightarrow {\vec {\hat {\beta }}}=(X^{T}X)^{-1}X^{T}Y}

پس پارامتر بهینه ما برابر است با:

{\displaystyle {\bf {{\vec {\hat {\beta }}}=(X^{T}X)^{-1}X^{T}Y}}}

### تخمین پارامتر بهینه از روش گرادیان کاهشی تصادفی (Stochastic Gradient Descent)

روش پارامتر تخمین پارامتر بهینه از طریق کمترین مربعات ممکن است چند اشکال اساسی داشته باشد. یکی آنکه محاسبه{\displaystyle (X^{T}X)^{-1}} ممکن است زمانبر باشد. بُعدِ ماتریس مربعی {\displaystyle X^{T}X} برابر است با {\displaystyle (m+1)\times (m+1)} و اگر بعد m بالا باشد زمان محاسبه معکوس این ماتریس می‌تواند مسئله ساز شود. مضاف بر این، ماتریس ممکن است معکوس پذیر نباشد. از این رو روش‌های کاراتر و سریعتری برای تخمین پارامتر بهینه مورد استفاده قرار می‌گیرد. یکی از این روش‌ها روش گرادیان کاهشی تصادفی است. در این روش هر بار یک مثال را به صورت اتفاقی از نمونه‌های داده انتخاب کرده، گرادیان تابع هزینه را حساب می‌کنیم و کمی در جهت خلاف گرادیان پارامتر را حرکت می‌دهیم تا به یک پارامتر جدید برسیم. گرادیان جهت موضعی بیشترین افزایش را در تابع به ما نشان می‌دهد، برای بیشترین کاهش موضعی در خلاف جهت گرادیان باید حرکت کرد. اینکار را آنقدر ادامه می‌دهیم که گرادیان به اندازه کافی به صفر نزدیک شود. بجای اینکه داده‌ها را به صورت تصادفی انتخاب کنیم می‌توانیم به ترتیب داده شماره 1تا داده شماره n را انتخاب کنیم و بعد دوباره به داده اولی برگردیم و این کار را به صورت چندین انجام دهیم تا گرادیان تابع به اندازه کافی به صفر نزدیک شود. از لحاظ ریاضی این کار را می‌توان به شکل پایین انجام داد، پارامتر {\displaystyle {\vec {\beta }}} را در ابتدا به صورت تصادفی مقدار دهی می‌کنیم و بعد برای داده i ام و تمامی jها، یعنی از {\displaystyle j=1} تا {\displaystyle j=m+1} تغییر پایین را اعمال می‌کنیم، دراینجا \alpha  همان مقداریست که در جهت گرادیان هربار حرکت می‌کنیم و {\displaystyle \left(y\_{i}-{\vec {x\_{i}}}.{\vec {\beta }}\right){\vec {x\_{i,j}}}} مشتق جزئی داده i ام در بُعد j ام است:

{\displaystyle {\begin{cases}{\mbox{Initialize}}\,\,{\vec {\beta ^{\,old}}}\,\,{\mbox{randomly}}\\{\mbox{loop until convergence :}}\\\,\,{\mbox{for}}\,\,\,\,i=0\,\,\,\,{\mbox{to}}\,\,\,\,n:\\\,\,\,\,\,\,{\mbox{for}}\,\,\,\,j=0\,\,\,\,{\mbox{to}}\,\,\,\,m:\\\,\,\,\,\,\,\,\,\,\,\,\,{\vec {\beta \_{j}^{\,new}}}={\vec {\beta \_{j}^{\,old}}}+\alpha \left(y\_{i}-{\vec {\beta ^{\,old}}}\,.\,{\vec {x\_{i}}}\right){\vec {x\_{i,j}}}\\\,\,\,\,\,\,\beta ^{\,old}=\beta ^{\,new}\end{cases}}}

### تفسیر احتمالی از طریق درست نمایی بیشینه

برای بدست آوردن پارامتر بهینه {\displaystyle {\vec {\hat {\beta }}}} تابع هزینه یعنی {\displaystyle L(D,{\vec {\beta }})} را به حداقل می‌رسانیم. می‌توان به همین پارامتر بهینه از روش درست نمایی بیشینه هم رسید. فرض می‌کنیم که متغیر وابسته یعنی y یک متغیر تصادفی است که مقدارش از یک توزیع طبیعی (توزیع گاوسی) پیروی می‌کند. این توزیع احتمال، واریانس ثابتی به اسم \sigma  دارد ولی میانگین آن ترکیبی خطی از متغیرهای مستقل یعنی {\displaystyle {\vec {x}}=[1,x\_{1},x\_{2},\dots ,x\_{m}]} است. به عبارت دیگر میانگین ما برابر است با {\displaystyle {\vec {\beta }}\,.\,{\vec {x}}}. با احتساب میانگین و واریانس توزیع متغیر وابسته ما می‌شود {\displaystyle y\sim N({\vec {\beta }}\,.\,{\vec {x}},\sigma )}. حال اگر فرض کنیم داده‌های ما نسبت به هم مستقل هستند تابع درست نمایی برای تمام داده‌ها می‌شود:

{\displaystyle H(D,{\vec {\beta }})=\prod \_{i=1}^{n}Pr(y\_{i}|{\vec {x\_{i}}}\,\,;{\vec {\beta }},\sigma )=\prod \_{i=1}^{n}{\frac {1}{{\sqrt {2\pi }}\sigma }}exp\left(-{\frac {\left(y\_{i}-{\vec {\beta }}\,.\,{\vec {x\_{i}}}\right)^{2}}{2\sigma ^{2}}}\right)}

حال باید به دنبال پارامتری باشیم که این تابع بزرگنمایی را بیشینه کند. از آنجا که تابع لگاریتم مطلقاً صعودیست، بجای بیشینه کردن این تابع لگاریتمش را هم می‌شود بیشنه کرد و پارامتر بهینه را از آن طریق پیدا کرد:

{\displaystyle I(D,{\vec {\beta }})=\log \prod \_{i=1}^{n}Pr(y\_{i}|{\vec {x\_{i}}}\,\,;{\vec {\beta }},\sigma )=\log \prod \_{i=1}^{n}{\frac {1}{{\sqrt {2\pi }}\sigma }}exp\left(-{\frac {\left(y\_{i}-{\vec {\beta }}\,.\,{\vec {x\_{i}}}\right)^{2}}{2\sigma ^{2}}}\right)=n\log {\frac {1}{{\sqrt {2\pi }}\sigma }}-{\frac {1}{2\sigma ^{2}}}\sum \_{i=1}^{n}\left(y\_{i}-{\vec {\beta }}\,.\,{\vec {x\_{i}}}\right)^{2}}

پارامتر بهینه از این طریق برابر است با:

{\displaystyle c\_{\vec {\beta }}I(D,{\vec {\beta }})={\mbox{argmax}}\_{\vec {\beta }}\left(n\log {\frac {1}{{\sqrt {2\pi }}\sigma }}-{\frac {1}{2\sigma ^{2}}}\sum \_{i=1}^{n}\left(y\_{i}-{\vec {\beta }}\,.\,{\vec {x\_{i}}}\right)^{2}\right)={\mbox{argmin}}\_{\vec {\beta }}\sum \_{i=1}^{n}\left(y\_{i}-{\vec {\beta }}\,.\,{\vec {x\_{i}}}\right)^{2}={\mbox{argmin}}\_{\vec {\beta }}L(D,{\vec {\beta }})={\vec {\hat {\beta }}}}

همان‌طور که دیدم پارامتری که {\displaystyle I(D,{\vec {\beta }})} را بیشینه می‌کند همان پارامتری است که {\displaystyle L(D,{\vec {\beta }})} را به حداقل می‌رساند. این به معنی معادل بودن روش کمترین مربعات با روش درست نمایی بیشنه در رگرسیون خطی است.

تنظیم مدل (Regularization)
--------------------------

پیچیدگی مدل‌های پارامتری با تعداد پارامترهای مدل و مقادیر آن‌ها سنجیده می‌شود. هرچه این پیچیدگی بیشتر باشد خطر بیش‌برازش (Overfitting) برای مدل بیشتر است. پدیده بیش‌برازش زمانی رخ می‌دهد که مدل بجای یادگیری الگوهای داده، داده را را حفظ می‌کند و در عمل یادگیری به خوبی انجام نمی‌شود. برای جلوگیری از بیش‌برازش در مدل‌های خطی مانند رگرسیون خطی یا رگرسیون لجستیک جریمه‌ای به تابع هزینه اضافه می‌شود تا از افزایش زیاد پارامترها جلوگیری شود. به این کار تنظیم مدل یا Regularization گفته می‌شود. دو راه متداول تنظیم مدل‌های خطی روش‌های {\displaystyle L\_{1}} و {\displaystyle L\_{2}} هستند. در روش {\displaystyle L\_{1}} ضریبی از نُرمِ {\displaystyle L\_{1}}به تابع هزینه اضافه می‌شود و در روش {\displaystyle L\_{2}} ضریبی از نُرمِ {\displaystyle L\_{2}} که همان نُرمِ اقلیدسی است به تابع هزینه اضافه می‌شود.

در تنظیم مدل به روش {\displaystyle L\_{1}} تابع هزینه را به این شکل تغییر می‌دهیم:

{\displaystyle L\_{r}(D,{\vec {\beta }})=L(D,{\vec {\beta }})+\lambda ||{\vec {\beta }}||\_{1}=\sum \_{i=1}^{n}({\vec {\beta }}\,.\,{\vec {x\_{i}}}-y\_{i})^{2}+\lambda \sum \_{k=0}^{m}|\beta \_{k}|}

این روش تنظیم مدل که به روش لاسو (Lasso) نیز شهرت دارد باعث می‌شود که بسیاری از پارامترهای مدل نهائی صفر شوند و مدل به اصلاح خلوت (Sparse) شود.

در تنظیم مدل به روش {\displaystyle L\_{2}} تابع هزینه را به این شکل تغییر می‌دهیم:

{\displaystyle L\_{r}(D,{\vec {\beta }})=L(D,{\vec {\beta }})+\lambda ||{\vec {\beta }}||\_{2}^{2}=\sum \_{i=1}^{n}({\vec {\beta }}\,.\,{\vec {x\_{i}}}-y\_{i})^{2}+\lambda \sum \_{k=0}^{m}\beta \_{k}^{2}}

در روش تنظیم از طریق {\displaystyle L\_{2}} سعی می‌شود طول اقلیدسی بردار {\displaystyle {\vec {\beta }}} کوتاه نگه داشته شود. \lambda در روش {\displaystyle L\_{1}} و {\displaystyle L\_{2}} یک عدد مثبت است که میزان تنظیم مدل را معین می‌کند. هرچقدر \lambdaکوچکتر باشد جریمه کمتری برا بزرگی نرم بردار پارامترها یعنی {\displaystyle {\vec {\beta }}} پرداخت می‌کنیم. مقدار ایدئال \lambda از طریق آزمایش بر روی داده اعتبار (Validation Data) پیدا می‌شود.

کاربردها
--------

یک کاربرد مدل خطی عمومی در تحلیل پویش‌های مغزی متعدد در آزمایش‌های علمی است که Y شامل اطلاعات رسیده از پوینده‌های مغز است، X شامل متغیرهای تجربی طراحی و اختلال‌ها است. به‌طور معمول به روش تک متغیره آزموده می‌گردد (معمولاً در این پیکربندی به یک تک متغیر جرم ارجاع داده می‌شود) و معمولاً به نقشه‌برداری متغیری آماری معروف است.

جستارهای وابسته
---------------

* رگرسیون خطی
* رگرسیون لجستیک
* رگرسیون پواسون

منابع
-----

* ترجمه از ویکی‌پدیا انگلیسی

1. ↑  K. V. Mardia, J. T. Kent and J. M. Bibby (1979). *Multivariate Analysis*. Academic Press. ISBN 0-12-471252-5.
2. ↑  Rencher, Alvin C.; Christensen, William F. (2012-08-15). *Methods of Multivariate Analysis* (به انگلیسی). John Wiley & Sons. p. 19.
3. ↑  Yan, Xin (2009). *Linear Regression Analysis: Theory and Computing* (به انگلیسی). World Scientific.
4. ↑  Rencher, Alvin C.; Christensen, William F. (2012-08-15). *Methods of Multivariate Analysis* (به انگلیسی). John Wiley & Sons. p. 155.
5. ↑  Bühlmann, Peter; van de Geer, Sara (2011). "Statistics for High-Dimensional Data". *Springer Series in Statistics* (به انگلیسی). doi:10.1007/978-3-642-20192-9. ISSN 0172-7397.
6. ↑  Bühlmann, Peter; van de Geer, Sara (2011). *Theory for ℓ1/ℓ2-penalty procedures* (به انگلیسی). Berlin, Heidelberg: Springer Berlin Heidelberg. pp. 249–291. doi:10.1007/978-3-642-20192-9\_8.
7. ↑  Natarajan, B. K. (1995). "Sparse Approximate Solutions to Linear Systems". *SIAM Journal on Computing* (به انگلیسی). **24** (2): 227–234. doi:10.1137/s0097539792240406. ISSN 0097-5397.
8. ↑  K.J. Friston, A.P. Holmes, K.J. Worsley, J. -B. Poline, C.D. Frith and R.S.J. Frackowiak (1995). "Statistical Parametric Maps in functional imaging: A general linear approach". *Human Brain Mapping*. **2** (4): 189–210. doi:10.1002/hbm.460020402.`{{cite journal}}`: نگهداری یادکرد:نام‌های متعدد:فهرست نویسندگان (link)

| * ن
* ب
* و
آمار |
| --- |
| 

| آمار توصیفی |
| --- |
| 

|  |  |  |  |  |  |  |  |
| --- | --- | --- | --- | --- | --- | --- | --- |
| توزیع احتمال | 

|  |  |
| --- | --- |
| پارامتر مکان | 
* میانگین (میانگین حسابی، میانگین هندسی، میانگین همساز)
* میانه
* مد

 |
| سنجش‌های پراکندگی | 
* دامنه
* انحراف معیار
* ضریب تغییرات
* صدک
* دامنه بین چارکی

 |
| شکل توزیع‌ها | 
* واریانس
* چولگی
* کشیدگی
* گشتاور
* ال-گشتاور

 |

 |
| توزیع احتمال | شاخص پراکندگی |
| جدول‌های خلاصه | 
* داده‌های گروه‌بندی‌شده
* توزیع فراوانی
* جدول پیشایندی

 |
| ضریب همبستگی | 
* ضریب همبستگی حاصل‌ضرب-گشتاور پیرسون
* ضریب همبستگی رتبه‌ای (ضریب همبستگی رتبه‌ای اسپیرمن، تای کندال)
* همبستگی جزئی
* نمودار نقطه‌ای

 |
| نمودارهای آماری | 
* نمودار میله‌ای
* دونموداره
* نمودار جعبه‌ای
* نمودار کنترل
* همبستگی‌نگار
* نمودار جنگلی
* بافت‌نگار
* نمودار Q-Q
* نمودار احتمال-احتمال
* نمودار توالی
* نمودار پراکنش
* نمودار ساقه و برگ
* نمودار راداری

 |

 |

 |
| 

| گردآوری داده |
| --- |
| 

|  |  |
| --- | --- |
| طراحی مطالعات | 
* اندازه تأثیر
* خطای استاندارد
* توان آماری
* تعیین اندازه نمونه

 |
| روش‌های آمارگیری | 
* نمونه
* پرسشنامه
* نمونه‌گیری طبقه‌بندی‌شده
* نظرسنجی

 |
| آزمایش | 
* طراحی آزمایش
* آزمایش تصادفی
* انتساب تصادفی
* تکرار آزمایش
* بلوک‌بندی
* آزمایش عاملی
* طراحی بهینه

 |
| مطالعات کنترل‌نشده | 
* آزمایش طبیعی
* شبه‌آزمایش
* مطالعه مشاهده‌ای

 |

 |

 |
| 

| استنباط آماری |
| --- |
| 

|  |  |
| --- | --- |
| نظریه آمار | 
* توزیع نمونه‌گیری
* آماره بسنده
* فراتحلیل
* آماره ترتیبی
* آماره کاوشی
* مقدار رکورد
* کامل بودن
* خانواده نمایی
* آزمون جایگشتی (آزمون تصادفیدن)
* توزیع نمونه‌ای
* بوت‌استرپینگ
* آماره U
* کارایی
* آمار باثبات

 |
| استنباط فراوانی‌گرایانه | 
* برآوردگر بدون بایاس (برآوردگر میانگین‌نااریب حداقل واریانس، برآوردگر میانه‌نااریب)
* برآوردگرهای با بایس (برآورد درست‌نمایی بیشینه، روش گشتاورها، برآورد با کمینه فاصله، برآورد چگالی)
* بازه اطمینان
* آزمون فرض آماری
* توان آماری
* آزمون‌های پارامتری (آزمون نسبت درست‌نمایی، آزمون والد، آزمون نمره)

 |
| استنباط بیزی | 
* احتمال بیزی
* احتمال پیشین
* احتمال پسین
* بازه مورد قبول
* عامل بیز
* برآوردگر بیزی
* برآوردگر بیشینه‌گر احتمال پسین

 |
| آزمون‌های خاص | 
* آزمون Z نرمال بودن
* توزیع تی-استیودنت
* آزمون اف
* آزمون خی‌دوی پیرسون
* آزمون مان-ویتنی
* آزمون شاپیرو-ویلک
* آزمون ویلکاکسون
* آزمون کولموگروف-اسمیرنف

 |

 |

 |
| 

| ضریب همبستگی و تحلیل رگرسیون |
| --- |
| 

|  |  |
| --- | --- |
| ضریب همبستگی | 
* ضریب همبستگی پیرسون
* همبستگی جزئی
* اختلاط
* ضریب تشخیص

 |
| تحلیل رگرسیون | 
* خطاها و مانده‌ها در آمار
* اعتبارسنجی مدل رگرسیون
* مدل آمیخته
* مدل معادلات همزمان

 |
| رگرسیون خطی | 
* رگرسیون ساده خطی
* کمینه مربعات خطی
* رگرسیون چندمتغیره
* رگرسیون خطی بیزی

 |
| پیش‌بینی‌های غیراستاندارد | 
* رگرسیون غیرخطی
* رگرسیون ناپارامتری
* رگرسیون نیمه پارامتری
* رگرسیون همنوا
* رگرسیون باثبات
* ناهم‌واریانسی
* هم‌واریانسی

 |
| مدل خطی تعمیم‌یافته | 
* خانواده نمایی
* رگرسیون لجستیک
* رگرسیون دوجمله‌ای
* پواسون

 |
| تقسیم مجموع مربعات | 
* تحلیل واریانس
* تحلیل کوواریانس
* تحلیل واریانس چندمتغیره
* درجه آزادی

 |

 |

 |
| 

| داده‌های رسته‌ای، آمار چندمتغیره، تحلیل سری زمانی یا تحلیل بقا |
| --- |
| 

|  |  |
| --- | --- |
| داده‌های رسته‌ای | 
* کاپای کوهن
* جدول پیشایندی
* مدل گرافی
* رگرسیون پواسون
* آزمون مک‌نمار

 |
| آمار چندمتغیره | 
* رگرسیون چندمتغیره
* تحلیل مؤلفه‌های اصلی
* تحلیل عاملی
* تحلیل خوشه‌ای
* مفصل

 |
| تحلیل سری زمانی | 

|  |  |
| --- | --- |
| عمومی | 
* تجزیه
* تخمین روند
* فرایند مانا
* تصحیح فصلی‌بودن
* هموارسازی نمایی
* هم‌جمعی

 |
| تست‌های خاص | 
* علیت گرانجر
* آماره Q
* آماره دوربین-واتسون

 |
| دامنه زمان | 
* خودهمبستگی
* تابع خودهمبستگی جزئی
* همبستگی متقابل
* آرما
* مدل آریما
* گارچ
* اتورگرسیو برداری

 |
| دامنه فرکانس | 
* تخمین طیفی
* تحلیل فوریه
* موجک

 |

 |
| تحلیل بقا | 
* تابع احتمال بقا
* برآوردگر کاپلان-مه‌یر
* آزمون لگ‌رتبه‌ای
* نرخ خرابی
* مدل خطرهای متناسب
* مدل زمان خرابی شتابیده

 |

 |

 |
| 

| کاربردهای آمار |
| --- |
| 

|  |  |
| --- | --- |
| آمار زیستی | 
* بیوانفورماتیک
* زیست‌سنجشی
* کارآزمایی بالینی و مطالعات
* همه‌گیرشناسی
* آمار پزشکی

 |
| آمار مهندسی | 
* شیمی آماری
* مهندسی روش‌ها
* طراحی احتمالاتی
* کنترل آماری فرایندها کنترل کیفیت
* مهندسی قابلیت اطمینان
* شناسایی سامانه

 |
| آمار اجتماعی | 
* آکچوئری
* سرشماری
* آمار جرم
* آمار جمعیت‌شناسی
* اقتصادسنجی
* حساب‌های ملی
* آمار رسمی
* جامعه آماری
* روان‌سنجی

 |
| تحلیل داده‌های فضایی | 
* نقشه‌نگاری
* آمار زیست‌محیطی
* سامانه اطلاعات جغرافیایی
* زمین‌آمار
* کریگیدن

 |

 |

 |
| 
* **رده**
* **نشان درگاه درگاه ریاضیات**
* **انبار**
* **ویکی‌پروژه**

 |