در نظریه احتمال و آمار یک **فرایند گاوسی** یک مدل آماری است که در آن مشاهدات در دامنه پیوسته رخ می‌دهد، به عنوان مثال زمان یا فضا. در یک فرایند گاوسی هر نقطه از فضای ورودی یک متغیر تصادفی با توزیع نرمال است. علاوه بر این هر مجموعه متناهی از این متغیرهای تصادفی دارای توزیع گاوسی چند متغیره است. توزیع فرایند گاوسی توزیع مشترک از تمام این متغیرهای تصادفی (شمارا و نامحدود) است.

از دید یک الگوریتم یادگیری ماشین، یک فرایند گاوسی از lazy learning و اندازه‌گیری شباهت بین نقاط (همان تابع کرنل) برای پیش‌بینی نقاط جدید از داده‌های آموزشی است.

فرایند گاوسی به افتخار کارل فریدریش گاوس به نام وی نام‌گذاری شده‌است زیرا از او نماد گذاری توزیع گاوسی (توزیع نرمال) را پایه‌گذاری کرد. فرایندهای گاوسی را می‌توان به عنوان یک توزیع بی‌نهایت بعدی از گاوسی چند متغیره دید.

فرایند گاوسی برای مدل کردن‌های اماری مفید است، زیرا این فرایند از مزایای ذاتی توزیع نرمال استفاده می‌کند.

تعریف
-----

یک **فرایند گاوسی** توزیع آماری *X**t* با *t* ∈ *T است* که برای هر تعداد متناهی ترکیب خطی از نمونه‌ها دارای یک توزیع مشترک گاوسی است. به‌طور دقیق تر، هر تابع خطی اعمال شده بر روی *X**t* یک توزیع شده گاوسی نتیجه می‌دهد. می‌توانیم بنویسیم (*X* ~ GP(*m,K* به معنی اینکه تابع تصادفی *X* دارای توزیع فرایند گاوسی با تابع میانگین *m* و تابع کوواریانس *K است*.

برخی از نویسندگان فرض می‌کنند که متغیرهای تصادفی *X**t* میانگین صفر را دارد؛ این کار باعث ساده‌سازی محاسبات بدون از دست دادن کلیت می‌شود.

تعاریف دیگر
-----------

به عنوان تعریفی دیگر یک فرایند پیوسته در زمان گاوسی است اگر و تنها اگر برای هر مجموعه متناهی از شاخص‌های {\displaystyle t\_{1},\ldots ,t\_{k}} در مجموعهٔ شاخص T
{\displaystyle X\_{t\_{1},\ldots ,t\_{k}}=(\mathbf {X} \_{t\_{1}},\ldots ,\mathbf {X} \_{t\_{k}})}
یک متغیر تصادفی گاوسی چند متغیره است. با استفاده از تابع مشخصه ی متغیرهای تصادفی ویژگی گاوسی می‌تواند به شرح زیر بیان شود: {\displaystyle \left\{X\_{t};t\in T\right\}} گاوسی است اگر و تنها اگر برای هر مجموعه متناهی از شاخص‌های مقادیر حقیقی {\displaystyle t\_{1},\ldots ,t\_{k}} که {\displaystyle \sigma \_{\ell j},\mu \_{\ell }} ({\displaystyle \sigma \_{jj}>0}) وجود داشته باشد به طوری که معادله زیر برای همهٔ {\displaystyle s\_{1},s\_{2},...s\_{k}\in \mathbb {R} }برقرار باشد:

{\displaystyle \operatorname {E} \left(\exp \left(i\ \sum \_{\ell =1}^{k}s\_{\ell }\ \mathbf {X} \_{t\_{\ell }}\right)\right)=\exp \left(-{\frac {1}{2}}\,\sum \_{\ell ,j}\sigma \_{\ell j}s\_{\ell }s\_{j}+i\sum \_{\ell }\mu \_{\ell }s\_{\ell }\right).}
که i عدد موهومی {\displaystyle {\sqrt {-1}}} را نشان می‌دهد
{\displaystyle \sigma \_{\ell j}} و {\displaystyle \mu \_{\ell }} به ترتیب بیانگر کوواریانس و میانگین متغیرهای تصادفی در فرایند است.

توابع کوواریانس
---------------

یک ویژگی کلیدی در فرایندهای گاوسی این است که آن‌ها را می‌توان به صورت کامل با ممان مرتبه دومشان تعریف کرد. بنابراین اگر فرض شود میانگین صفر است، با تعریف تابع کوواریانس به صورت کامل رفتار فرایند مشخص می‌شود.

اگر فرایند ایستا باشد آن فقط به اختلاف، *x'* − *x بستگی دارد ،*در حالی که اگر غیر ایستا باشد آن بستگی به موقعیت واقعی نقاط *x* و '*x دارد*. برای مثال حالت خاص فرایند Ornstein–Uhlenbeck، یعنی حرکت براونی ایستا است.

اگر فرایند تنها به |*x'* − *x*| بستگی داشته باشد، یعنی فاصله اقلیدسی بین *x* و '*x (بدون اهمیت جهت)* ، فرایند همسانگرد محسوب می‌شود. یک فرایند است که هم ایستا و هم همسانگرد است همگن نامیده می‌شود؛

**توابع معمول که به عنوان کوواریانس استفاده می‌شود:**

* ثابت:

{\displaystyle K\_{\text{C}}(x,x')=C}

* خطی:

{\displaystyle K\_{\text{L}}(x,x')=x^{T}x'}

* نویز گاوسی:

{\displaystyle K\_{\text{GN}}(x,x')=\sigma ^{2}\delta \_{x,x'}}

رگرسیون فرایند گاوسی
--------------------

یکی از کاربردهای فرایندهای گاوسی در یادگیری ماشین مدل فرایند گاوسی است. فرایند گاوسی یک چارچوب یادگیری نظارت‌شده است که از آن برای رگرسیون و طبقه‌بندی استفاده می‌شود. این مدل به‌طور خلاصه با استفاده از دانش اولیه‌ی خود راجع مسئله که در یک تابع کوواریانس یا کرنل خلاصه می‌شود، پیش‌بینی‌اش را انجام می‌دهد و نهایتا علاوه بر پیش‌بینی انجام شده معیاری از عدم قطعیت پیش‌بینی را نیز ارائه می‌دهد. قابل اندازه‌گیری بودن عدم قطعیت پیش‌بینی‌های این مدل، آن را از بسیاری از مدل‌های دیگر یادگیری نظارت‌شده متمایز می‌کند.

در یک مسئله‌ی عام رگرسیون سعی بر این است تا با کمک تعدادی نقطه‌ی از قبل مشاهده شده، تابعی را پیدا کنیم که به بهترین شکل این نقاط را توصیف می‌کند سپس از این تابع جهت پیش‌بینی نقطه‌های دیده نشده استفاده شود. هرچند برای مجموعه‌ای متناهی از نقاط داده شده در یک فضای پیوسته، بیشمار تابع وجود دارد که از این نقاط می‌گذرد. رگرسیون فرایند گاوسی سعی دارد تا توزیع احتمالی روی این بی‌نهایت تابع ممکن بدست آورده و با کمک این توزیع به پیش‌بینی مقادیر نقاط دیده نشده بپردازد. توزیع احتمال ذکر شده روی توابع در واقع یک فرایند گاوسی است که با یک تابع میانگین و کوواریانس اولیه آغاز شده و در هر مرحله با اضافه شدن یک نقطه‌ی مشاهده‌شده‌ی جدید بروزرسانی می‌شوند. از آنجایی که خروجی این مدل توزیعی روی تمام توابع ممکن است می‌توان میانگین این توابع را به عنوان پیش‌بینی مدل و واریانس آن‌ها را به عنوان معیاری از اطمینان پیش‌بینی انجام شده در نظر گرفت. اغلب در کار با داده‌های نرمالیزه‌شده یا داده‌هایی که اطلاعات اولیه‌ای راجع آن‌ نداریم میانگین صفر در نظر گرفته می‌شود و تابع کوواریانس با یک تابع کرنل مقداردهی اولیه می‌شود. 

رگرسیون فرایند گاوسی یک مدل غیرپارامتریک است به این معنا که مدل صورت از پیش تعیین‌شده‌ای ندارد بلکه فرم آن از روی تمام داده‌های مشاهده‌شده تعیین می‌شود (یا به عبارت دیگر سایز پارامترهای مدل با سایز داده‌های مشاهده‌شده رشد می‌کند).

### صورت‌بندی ریاضی

فرض کنید تعدادی نمونه‌ی نویزی {\displaystyle \mathbf {y} \_{T}=[y\_{1}\cdots y\_{T}]^{T}} در نقاط {\displaystyle A\_{T}=[\mathbf {x\_{1}} \cdots \mathbf {x\_{T}} ]} وجود دارد به طوری که برای هر t،



y

t

=
f
(

x

t

)
+

ϵ

t

ϵ

t

∼
N
(
0
,

σ

2

)

{\displaystyle y\_{t}=f(\mathbf {x} \_{t})+\epsilon \_{t}\qquad \epsilon \_{t}\sim N(0,\sigma ^{2})}

{\displaystyle y_{t}=f(\mathbf {x} _{t})+\epsilon _{t}\qquad \epsilon _{t}\sim N(0,\sigma ^{2})}با شروع از یک مقدار اولیه {\displaystyle {\mathcal {GP}}(0,k(x,x'))} توزیع احتمال پسین بدست آمده از روی این داده‌ها (یعنی میانگین جدید {\displaystyle \mu \_{T}(x)} و کوواریانس جدید {\displaystyle k\_{T}(\mathbf {x} ,\mathbf {x'} )}) و همچنین واریانس توزیع جدید {\displaystyle \sigma \_{T}^{2}(\mathbf {x} )} به صورت زیر می‌باشند:

{\displaystyle \mu \_{T}(\mathbf {x} )=\mathbf {k} \_{T}(\mathbf {x} )^{T}(\mathbf {K} \_{T}+\sigma ^{2}\mathbf {I} )^{-1}\mathbf {y} \_{T}}
{\displaystyle k\_{T}(\mathbf {x} ,\mathbf {x'} )=k(\mathbf {x} ,\mathbf {x'} )-\mathbf {k} \_{T}(\mathbf {x} )^{T}(\mathbf {K} \_{T}+\sigma ^{2}\mathbf {I} )^{-1}\mathbf {k} \_{T}(\mathbf {x'} )}
{\displaystyle \sigma \_{T}^{2}(\mathbf {x} )=k\_{T}(\mathbf {x} ,\mathbf {x} )}
که در آن {\displaystyle I} ماتریس همانی، {\displaystyle \mathbf {k} \_{T}(\mathbf {x} )=[k(\mathbf {x\_{1}} ,\mathbf {x} )\cdots k(\mathbf {x\_{T}} ,\mathbf {x} )]^{T}} و {\displaystyle \mathbf {K} \_{T}} ماتریس کرنل مثبت معین است یعنی {\displaystyle [k(\mathbf {x} ,\mathbf {x'} )]\_{\mathbf {x} ,\mathbf {x'} \in A\_{T}}}. نهایتا می‌توان پیش‌بینی‌های جدید را با کمک تابع {\displaystyle \mu \_{T}(x)} و واریانس در این نقاط را با کمک تابع {\displaystyle \sigma \_{T}^{2}(\mathbf {x} )} بدست آورد.

یادداشت
-------

1. ↑  Rasmussen, C. E. (2004). "Gaussian Processes in Machine Learning". *Advanced Lectures on Machine Learning*. Lecture Notes in Computer Science. Vol. 3176. pp. 63–71. doi:10.1007/978-3-540-28650-9\_4. ISBN 978-3-540-23122-6.
2. ↑  Simon, Barry (1979). *Functional Integration and Quantum Physics*. Academic Press.
3. ↑  Seeger, Matthias (2004). "Gaussian Processes for Machine Learning". *International Journal of Neural Systems*. **14** (2): 69–104. doi:10.1142/s0129065704001899.
4. ↑  MacKay, David, J.C. (2003). *Information Theory, Inference, and Learning Algorithms* (PDF). Cambridge University Press. p. 540. ISBN 978-0-521-64298-9. The probability distribution of a function {\displaystyle y(\mathbf {x} )} is a Gaussian processes if for any finite selection of points {\displaystyle \mathbf {x} ^{(1)},\mathbf {x} ^{(2)},\ldots ,\mathbf {x} ^{(N)}}, the density {\displaystyle P(y(\mathbf {x} ^{(1)}),y(\mathbf {x} ^{(2)}),\ldots ,y(\mathbf {x} ^{(N)}))}is a Gaussian
5. ↑  Dudley, R.M. (1989). *Real Analysis and Probability*. Wadsworth and Brooks/Cole.
6. ↑  Bishop, C.M. (2006). *Pattern Recognition and Machine Learning*. Springer. ISBN 0-387-31073-8.
7. ↑  Barber, David (2012). *Bayesian Reasoning and Machine Learning*. Cambridge University Press. ISBN 978-0-521-51814-7.
8. ↑  Rasmussen, C.E.; Williams, C.K.I (2006). *Gaussian Processes for Machine Learning*. MIT Press. ISBN 0-262-18253-X.
9. ↑  Grimmett, Geoffrey; David Stirzaker (2001). *Probability and Random Processes*. Oxford University Press. ISBN 0-19-857222-0.
10. ↑  Wang, Jie (2022-04-18). "An Intuitive Tutorial to Gaussian Processes Regression". *arXiv:2009.10862 [cs, stat]*.
11. ↑  Srinivas, Niranjan; Krause, Andreas; Kakade, Sham M.; Seeger, Matthias (2012-05). "Gaussian Process Optimization in the Bandit Setting: No Regret and Experimental Design". *IEEE Transactions on Information Theory*. **58** (5): 3250–3265. doi:10.1109/TIT.2011.2182033. ISSN 0018-9448. `{{cite journal}}`: Check date values in: `|date=` (help)

| * ن
* ب
* و
فرایندهای تصادفی |
| --- |
| فرایند تصادفی | 
* فرایند برنولی
* فرایند شاخه‌ای
* فرایند رستوران چینی
* فرایند گالتون-واتسون
* متغیرهای تصادفی مستقل با توزیع یکسان
* زنجیره مارکوف
* فرایند مورن
* ولگشت
	+ Loop-erased
	+ ولگشت خودپرهیز (قدم زدن بدون قطع کردن خود)

 |
| Continuous time | 
* Bessel process
* Birth–death process
* فرایند وینر
	+ Bridge
	+ Excursion
	+ Fractional
	+ Geometric
	+ Meander
* فرایند کوشی
* Contact process
* گام-تصادفی زمان-پیوسته
* Cox process
* Diffusion process
* Empirical process
* فرایند فلر
* فرایند فلمینگ-ویوت
* Gamma process
* Hunt process
* Interacting particle systems
* Itô diffusion
* فرایند ایتو
* Jump diffusion
* Jump process
* فرایند لوی
* Local time
* Markov additive process
* McKean–Vlasov process
* فرایند اورنستین-یولنبک
* فرایند پواسون
	+ Compound
	+ فرایند پواسون
	+ فرایند پواسون
* تحول شرام و لونر
* Semimartingale
* Sigma-martingale
* Stable process
* Superprocess
* Telegraph process
* Variance gamma process
* فرایند وینر
* Wiener sausage

 |
| Both | 
* فرایند شاخه‌ای
* Galves–Löcherbach model
* فرایند گاوسی
* مدل پنهان مارکف
* زنجیره مارکوف
* مارتینگیل
	+ Differences
	+ Local
	+ مارتینگیل
	+ مارتینگیل
* Random dynamical system
* Regenerative process
* نظریه تجدید
* Stochastic chains with memory of variable length
* نویز سفید

 |
| Fields and other | 
* فرایند دیریکله
* Gaussian random field
* Gibbs measure
* شبکه هاپفیلد
* مدل آیزینگ
	+ Potts model
	+ شبکه بولی
* میدان تصادفی مارکفی
* نظریه تراوش
* فرایند پیتمن-یور
* فرایند نقطه ای
	+ Cox
	+ فرایند پواسون
* میدان تصادفی
* گراف تصادفی

 |
| سری زمانی | 
* واریانس ناهمسانی شرطی اتورگرسیو
* میانگین متحرک خودهمبسته یکپارچه
* مدل خودهمبسته
* مدل خودهمبسته میانگین متحرک
* واریانس ناهمسانی شرطی اتورگرسیو
* مدل میانگین متحرک

 |
| Financial models | 
* مدل بلک-درمن-توی
* Black–Karasinski
* مدل بلک-شولز
* مدل چن
* Constant elasticity of variance (CEV)
* مدل کاکس-اینگرسول-راس
* Garman–Kohlhagen
* Heath–Jarrow–Morton (HJM)
* Heston
* Ho–Lee
* Hull–White
* LIBOR market
* Rendleman–Bartter
* SABR volatility
* مدل واسیچک
* Wilkie

 |
| بیمسنجی | 
* Bühlmann
* Cramér–Lundberg
* Risk process
* Sparre–Anderson

 |
| نظریه صفs | 
* Bulk
* Fluid
* Generalized queueing network
* M/G/1
* صف M/M/1
* M/M/c

 |
| Properties | 
* تابع Càdlàg
* Continuous
* Continuous paths
* ارگادیسیتی
* متغیرهای تصادفی تعویض پذیر
* Feller-continuous
* فرآیندهای تصادفی گاوسی-مارکوف
* خاصیت مارکف
* Mixing
* Piecewise deterministic
* Predictable
* Progressively measurable
* Self-similar
* فرایند مانا
* Time-reversible

 |
| Limit theorems | 
* قضیه حد مرکزی
* Donsker's theorem
* Doob's martingale convergence theorems
* نظریه ارگودیک
* Fisher–Tippett–Gnedenko theorem
* Large deviation principle
* قانون اعداد بزرگ
* قانون لگاریتم‌های تکراری
* Maximal ergodic theorem
* Sanov's theorem

 |
| Inequalities | 
* Burkholder–Davis–Gundy
* Doob's martingale
* Kunita–Watanabe

 |
| Tools | 
* Cameron–Martin formula
* همگرایی متغیرهای تصادفی
* Doléans-Dade exponential
* Doob decomposition theorem
* Doob–Meyer decomposition theorem
* Doob's optional stopping theorem
* Dynkin's formula
* Feynman–Kac formula
* Filtration
* Girsanov theorem
* Infinitesimal generator
* Itô integral
* Itô's lemma
* Kolmogorov continuity theorem
* Kolmogorov extension theorem
* Lévy–Prokhorov metric
* Malliavin calculus
* Martingale representation theorem
* Optional stopping theorem
* Prokhorov's theorem
* Quadratic variation
* Reflection principle
* Skorokhod integral
* Skorokhod's representation theorem
* تابع Càdlàg
* Snell envelope
* معادله دیفرانسیل تصادفی
	+ Tanaka
* زمان توقف
* Stratonovich integral
* Uniform integrability
* Usual hypotheses
* Wiener space
	+ Classical
	+ Abstract

 |
| Disciplines | 
* بیمسنجی
* اقتصادسنجی
* نظریه ارگودیک
* نظریه مقدار حدی
* قضیه انحرافات بزرگ
* مالیه ریاضیاتی
* آمار ریاضی
* نظریه احتمالات
* نظریه صف
* نظریه تجدید
* Ruin theory
* آمار
* حسابان تصادفی
* سری زمانی
* یادگیری ماشین

 |
| 
* List of topics
* 

 |