فرایند گاوسی کیست؟ توضیح بده.
در نظریه احتمال و آمار یک فرایند گاوسی یک مدل آماری است که در آن مشاهدات در دامنه پیوسته رخ می‌دهد، به عنوان مثال زمان یا فضا. در یک فرایند گاوسی هر نقطه از فضای ورودی یک متغیر تصادفی با توزیع نرمال است. علاوه بر این هر مجموعه متناهی از این متغیرهای تصادفی دارای توزیع گاوسی چند متغیره است. توزیع فرایند گاوسی توزیع مشترک از تمام این متغیرهای تصادفی (شمارا و نامحدود) است.از دید یک الگوریتم یادگیری ماشین، یک فرایند گاوسی از lazy learning و اندازه‌گیری شباهت بین نقاط (همان تابع کرنل) برای پیش‌بینی نقاط جدید از داده‌های آموزشی است.فرایند گاوسی به افتخار کارل فریدریش گاوس به نام وی نام‌گذاری شده‌است زیرا از او نماد گذاری توزیع گاوسی (توزیع نرمال) را پایه‌گذاری کرد. فرایندهای گاوسی را می‌توان به عنوان یک توزیع بی‌نهایت بعدی از گاوسی چند متغیره دید.فرایند گاوسی برای مدل کردن‌های اماری مفید است، زیرا این فرایند از مزایای ذاتی توزیع نرمال استفاده می‌کند.تعریف.یک فرایند گاوسی توزیع آماری "X""t" با "t" ∈ "T است "که برای هر تعداد متناهی ترکیب خطی از نمونه‌ها دارای یک توزیع مشترک گاوسی است. به‌طور دقیق تر، هر تابع خطی اعمال شده بر روی "X""t" یک توزیع شده گاوسی نتیجه می‌دهد. می‌توانیم بنویسیم ("X" ~ GP("m,K" به معنی اینکه تابع تصادفی "X" دارای توزیع فرایند گاوسی با تابع میانگین "m" و تابع کوواریانس "K است".برخی از نویسندگان فرض می‌کنند که متغیرهای تصادفی "X""t" میانگین صفر را دارد؛ این کار باعث ساده‌سازی محاسبات بدون از دست دادن کلیت می‌شود.تعاریف دیگر.به عنوان تعریفی دیگر یک فرایند پیوسته در زمان گاوسی است اگر و تنها اگر برای هر مجموعه متناهی از شاخص‌های formula_1 در مجموعهٔ شاخص formula_2formula_3یک متغیر تصادفی گاوسی چند متغیره است. با استفاده از تابع مشخصه ی متغیرهای تصادفی ویژگی گاوسی می‌تواند به شرح زیر بیان شود: formula_4 گاوسی است اگر و تنها اگر برای هر مجموعه متناهی از شاخص‌های مقادیر حقیقی formula_1 که formula_6 (formula_7) وجود داشته باشد به طوری که معادله زیر برای همهٔ formula_8برقرار باشد:که formula_10 عدد موهومی formula_11 را نشان می‌دهدformula_12 و formula_13 به ترتیب بیانگر کوواریانس و میانگین متغیرهای تصادفی در فرایند است.توابع کوواریانس.یک ویژگی کلیدی در فرایندهای گاوسی این است که آن‌ها را می‌توان به صورت کامل با ممان مرتبه دومشان تعریف کرد. بنابراین اگر فرض شود میانگین صفر است، با تعریف تابع کوواریانس به صورت کامل رفتار فرایند مشخص می‌شود.اگر فرایند ایستا باشد آن فقط به اختلاف، "x'" −" x بستگی دارد ،"در حالی که اگر غیر ایستا باشد آن بستگی به موقعیت واقعی نقاط "x" و "'x دارد". برای مثال حالت خاص فرایند Ornstein–Uhlenbeck، یعنی حرکت براونی ایستا است.اگر فرایند تنها به |"x'" − "x"| بستگی داشته باشد، یعنی فاصله اقلیدسی بین "x" و "'x (بدون اهمیت جهت) "، فرایند همسانگرد محسوب می‌شود. یک فرایند است که هم ایستا و هم همسانگرد است همگن نامیده می‌شود؛توابع معمول که به عنوان کوواریانس استفاده می‌شود:formula_14formula_15formula_16رگرسیون فرایند گاوسی.یکی از کاربردهای فرایندهای گاوسی در یادگیری ماشین مدل فرایند گاوسی است. فرایند گاوسی یک چارچوب یادگیری نظارت‌شده است که از آن برای رگرسیون و طبقه‌بندی استفاده می‌شود. این مدل به‌طور خلاصه با استفاده از دانش اولیه‌ی خود راجع مسئله که در یک تابع کوواریانس یا خلاصه می‌شود، پیش‌بینی‌اش را انجام می‌دهد و نهایتا علاوه بر پیش‌بینی انجام شده معیاری از عدم قطعیت پیش‌بینی را نیز ارائه می‌دهد. قابل اندازه‌گیری بودن عدم قطعیت پیش‌بینی‌های این مدل، آن را از بسیاری از مدل‌های دیگر یادگیری نظارت‌شده متمایز می‌کند.در یک مسئله‌ی عام رگرسیون سعی بر این است تا با کمک تعدادی نقطه‌ی از قبل مشاهده شده، تابعی را پیدا کنیم که به بهترین شکل این نقاط را توصیف می‌کند سپس از این تابع جهت پیش‌بینی نقطه‌های دیده نشده استفاده شود. هرچند برای مجموعه‌ای متناهی از نقاط داده شده در یک فضای پیوسته، بیشمار تابع وجود دارد که از این نقاط می‌گذرد. رگرسیون فرایند گاوسی سعی دارد تا توزیع احتمالی روی این بی‌نهایت تابع ممکن بدست آورده و با کمک این توزیع به پیش‌بینی مقادیر نقاط دیده نشده بپردازد. توزیع احتمال ذکر شده روی توابع در واقع یک فرایند گاوسی است که با یک تابع میانگین و کوواریانس اولیه آغاز شده و در هر مرحله با اضافه شدن یک نقطه‌ی مشاهده‌شده‌ی جدید بروزرسانی می‌شوند. از آنجایی که خروجی این مدل توزیعی روی تمام توابع ممکن است می‌توان میانگین این توابع را به عنوان پیش‌بینی مدل و واریانس آن‌ها را به عنوان معیاری از اطمینان پیش‌بینی انجام شده در نظر گرفت. اغلب در کار با داده‌های نرمالیزه‌شده یا داده‌هایی که اطلاعات اولیه‌ای راجع آن‌ نداریم میانگین صفر در نظر گرفته می‌شود و تابع کوواریانس با یک مقداردهی اولیه می‌شود. رگرسیون فرایند گاوسی یک مدل است به این معنا که مدل صورت از پیش تعیین‌شده‌ای ندارد بلکه فرم آن از روی تمام داده‌های مشاهده‌شده تعیین می‌شود (یا به عبارت دیگر سایز پارامترهای مدل با سایز داده‌های مشاهده‌شده رشد می‌کند).صورت‌بندی ریاضی.فرض کنید تعدادی نمونه‌ی نویزی formula_17 در نقاط formula_18 وجود دارد به طوری که برای هر formula_19،formula_20با شروع از یک مقدار اولیه formula_21 توزیع احتمال پسین بدست آمده از روی این داده‌ها (یعنی میانگین جدید formula_22 و کوواریانس جدید formula_23) و همچنین واریانس توزیع جدید formula_24 به صورت زیر می‌باشند:formula_25formula_26formula_27که در آن formula_28 ماتریس همانی، formula_29 و formula_30 ماتریس کرنل مثبت معین است یعنی formula_31. نهایتا می‌توان پیش‌بینی‌های جدید را با کمک تابع formula_22 و واریانس در این نقاط را با کمک تابع formula_24 بدست آورد.