payamvha/North_RAG huggingface dataset:
تعریف ریاضی. فرض کنید در مسئله رگرسیون، مجموعه داده‌ها شامل formula_2 جفت متغیر پیشگو و متغیر پاسخ به صورت formula_3 باشد. هدف بدست آوردن formula_4 به عنوان ترکیبی خطی از formula_5 است یعنی formula_6. رگرسیون خطی معمولی به شکل زیر در پی یافتن و بهینه است به طوری که مجموع مربعات خطا را کمینه کند: formula_7 در رگرسیون ریج ضریبی از نُرمِ formula_1 به تابع هزینه اضافه می‌شود: formula_9 پارامتر formula_10 میزان جریمه روی نُرمِ formula_1 را مشخص می‌کند. اضافه کردن ضریبی از نُرمِ formula_1 به تابع هزینه معادلِ
ضریبی از نُرمِ formula_1 به تابع هزینه معادلِ ایجاد محدودیتی بر روی نُرمِ formula_13 است: formula_14 که منظور از formula_15 در واقع، نُرمِ formula_16 است که به صورت زیر محاسبه می‌شود: formula_17بنابراین، رگرسیون ریج محدودیت‌های بیشتری را روی ضرایب مدل اعمال می‌کند. چراکه در این روش افزون بر تلاش برای کمینه کردن میانگین خطای مربعات خطاها، جریمه‌ای روی ضرایب هم در نظر گرفته می‌شود. در نتیجه ترجیح بر انتخاب ضرایبی با اندازهٔ کوچک یا نزدیک به صفر است تا جملهٔ جدید افزوده شده به تابع هزینه نیز کوچک شود فرم
جدید افزوده شده به تابع هزینه نیز کوچک شود فرم بستهٔ جواب. برای به دست آوردن فرم بستهٔ جواب به فرم ماتریسی تابع هزینه را توجه کنید: formula_18 کافیست نسبت به formula_19 مشتق بگیریم: formula_20 در نتیجه: formula_21 مصورسازی. برای مصورسازی روش رگرسیون ریح توجه کنید که جمع خطای مربعات، به شکل خطوط تراز بیضوی نمایش داده می‌شود. به علاوه در مسألهٔ رگرسیون ریج، ناحیه‌ای که ضرایب مدل را مشخص می‌کند از رابطه زیر به دست می‌آید: formula_22 که در صفحهٔ مختصات دو بعدی، دایره‌ای به شعاع را نمایش می‌دهد. تصویر برخورد
دایره‌ای به شعاع را نمایش می‌دهد. تصویر برخورد خطوط تراز با محدوده ضرایب در رگرسیون ریج در تصویر زیر نمایش داده شده‌است: در شکل نشان داده شده بیضی‌های مربوط به خطوط تراز داخلی جمع خطای مربعات کمتری دارند. و در نقطهٔ میانی مشخص‌شده، خطای میانگین مربعات کمینه می‌شود. در مدل ریج، تلاش می‌شود اندازهٔ دایره و بیضی همزمان کوچک شوند. در واقع یک بده‌بستان میان دو جملهٔ تابع هزینه وجود دارد. پاسخ مسألهٔ رگرسیون ریج در نقطه‌ای است که خطوط تراز بیضوی با محدودهٔ دایره‌ای شکل ضرایب برخورد می‌کند. پیاده‌سازی (پایتون).
شکل ضرایب برخورد می‌کند. پیاده‌سازی (پایتون). با استفاده از کتابخانهٔ Sickit-Learn زبان برنامه‌نویسی پایتون می‌توان رگرسیون ریج را به سادگی، به صورت زیر پیاده‌سازی کرد: from sklearn.linear_model import Ridge ridge = Ridge(alpha=0.1) ridge.fit(X_train, y_train) prediction= lasso.predict(X_test) پارامتر تنظیم مدل در این مثال ساده برابر با formula_23 در نظر گرفته شده و پس از آموزش، از مدل برای پیش‌بینی روی دادهٔ جدید استفاده شده‌است.
مجید عدل (١٢٩٠-١٣۴۶) سیاست‌مدار ایرانی بود، که در دوره بیست و یکم بعنوان نماینده گرمی و مغان در مجلس شورای ملی حضور داشت. زندگی‌نامه. مجید عدل در سال ١٢٩٠ در تبریز متولد شد. تحصیلات ابتدائى و متوسطه را در تبریز و تحصیلات دانشگاهی را در رشته كشاورز در اروپا دریافت كرد. پس از بازگشت به ایران استخدام وزارت كشاورزى شد وی چندى مدیرعامل سازمان جنگلبانى كل كشور بود. در دوره‏ى بیست‏ و یكم مجلس شوراى ملى از منطقه‏ گرمى و مغان به وكالت انتخاب گردید. در اواخر دوره‏ مزبور (١٣۴۶) بر اثر سكته درگذشت.
شاندور پینتر (؛ زادهٔ ) بازیکن فوتبال اهل مجارستان بود. از باشگاه‌هایی که در آن بازی کرده‌است می‌توان به باشگاه فوتبال بوداپست هونود و باشگاه فوتبال رویال آنتورپ اشاره کرد. وی همچنین در تیم ملی فوتبال مجارستان بازی کرده‌است.
اندازه مغز موضوع پرتکرار مطالعه در زمینه‌های کالبدشناسی، انسان‌شناسی زیستی، علوم جانوری و تکامل است. اندازه مغز گاهی با وزن و گاهی با حجم (از طریق اسکن MRI یا حجم جمجمه) اندازه‌گیری می‌شود. از آزمایش هوش تصویربرداری عصبی می‌توان برای مطالعه اندازه‌گیری‌های حجمی مغز استفاده کرد. در مورد «آزمایش هوش»، پرسشی که به کرات مورد بررسی قرار گرفته‌است، رابطه اندازه مغز با هوش است. این پرسش کاملاً بحث‌برانگیز است. اندازه‌گیری اندازه مغز و ظرفیت جمجمه نه تنها برای انسان، بلکه برای همه پستانداران مهم است. در سال‌های
بلکه برای همه پستانداران مهم است. در سال‌های اخیر، آزمایش‌هایی برای نتیجه‌گیری دربارهٔ اندازه مغز در ارتباط با جهش ژنی که باعث میکروسفالی، یک ناهنجاری رشد عصبی که بر حجم قشر مغز تأثیر می‌گذارد، انجام شده‌است. نمونه‌هایی از ظرفیت جمجمه
ایشتوان هالاس (; – ) بازیکن فوتبال اهل مجارستان بود. از باشگاه‌هایی که در آن بازی کرده‌است می‌توان به باشگاه ورزشی واشاش اشاره کرد. وی همچنین در تیم ملی فوتبال مجارستان بازی کرده‌است.
لاسلو پوستایی (; – ) بازیکن فوتبال اهل مجارستان بود. از باشگاه‌هایی که در آن بازی کرده‌است می‌توان به باشگاه فوتبال فرنتس‌واروش و باشگاه فوتبال بوداپست هونود اشاره کرد. وی همچنین در تیم ملی فوتبال مجارستان بازی کرده‌است.
لاسلو کواچ (; – ) بازیکن فوتبال اهل مجارستان بود. از باشگاه‌هایی که در آن بازی کرده‌است می‌توان به باشگاه فوتبال دیوری ای‌تی‌او، باشگاه فوتبال بوداپست هونود، و باشگاه فوتبال ویدتون اشاره کرد. وی همچنین در تیم ملی فوتبال مجارستان بازی کرده‌است.
فرنتس فولوپ (؛ زادهٔ ) بازیکن فوتبال اهل مجارستان بود. از فیلم‌ها یا برنامه‌های تلویزیونی که وی در آن نقش داشته‌است می‌توان به "فرار به سوی پیروزی" اشاره کرد. از باشگاه‌هایی که در آن بازی کرده‌است می‌توان به باشگاه فوتبال ام‌تی‌کی بوداپست اشاره کرد.
آندراش توت (؛ زادهٔ ) بازیکن فوتبال اهل مجارستان بود. از باشگاه‌هایی که در آن بازی کرده‌است می‌توان به باشگاه فوتبال اویپشت، باشگاه فوتبال لیرسه، و باشگاه فوتبال ام‌تی‌کی بوداپست اشاره کرد. وی همچنین در تیم ملی فوتبال مجارستان بازی کرده‌است.
فرهنگ در کوبا () ترکیب پیچیده‌ای از عوامل و تأثیرات، که اغلب متناقض هستند، می‌باشد. مردم کوبا و آداب و رسوم آنها مبتنی بر تأثیرات اروپایی، آفریقایی و سرخ‌پوست هستند. موسیقی. موسیقی کوبا، رقص‌ها و ادوات موسیقی، که به‌طور عمده ریشهٔ اروپایی و آفریقایی دارند، را در بر می‌گیرد. عمده فرم‌های امروزی، در هم آمیزی و اختلاطی از این دو منبع بزرگ هستند. به‌طور تقریبی چیزی از سنت‌های اصیل بومی باقی نمانده‌است.
آنتن جهت‌دار یا آنتن‌های سویی یا آنتن باریکه‌ای آنتنی است که توان بیشتری را در جهت‌های خاص تابش یا دریافت می‌کند که امکان افزایش عملکرد و کاهش تداخل منابع ناخواسته را فراهم می‌کند. آنتن‌های جهت‌دار عملکرد بیشتری را نسبت به آنتن‌های دوقطبی - یا به‌طور کلی آنتن‌های همه‌جهته - هنگامی که هم‌مرکزش بیشتری از تابش در جهت خاصی مورد نظر است، ارائه می‌دهند. آنتن با بهره-بالا (HGA) یک آنتن سویی با قُطر باریکه امواج رادیویی متمرکز و باریک است که امکان هدف‌گیری دقیق تر سیگنال‌های رادیویی را فراهم می‌کند. معمولاً در طول
رادیویی را فراهم می‌کند. معمولاً در طول مأموریت‌های فضایی به آن‌ها اشاره می‌شود، این آنتن‌ها همچنین در سرتاسر زمین مورد استفاده قرارمی‌گیرند، با موفقیت در مناطق مسطح و باز که در آن هیچ کوهی وجود ندارد که امواج رادیویی را مختل کند. در مقابل، یک آنتن کم‌بهره (LGA) یک آنتن همه‌جهته با قطر باریکه امواج رادیویی فراخ است که به سیگنال اجازه می‌دهد حتی در مناطق کوهستانی به خوبی منتشرشود و بنابراین بدون توجه به زمینگان اتکاپذیرتر است. آنتن‌های کم‌بهره اغلب در فضاپیماها به‌عنوان پشتیبان برای "آنتن‌های با بهره-بالا"
به‌عنوان پشتیبان برای "آنتن‌های با بهره-بالا" استفاده می‌شوند، که پرتوی بسیار باریک‌تری را ارسال می‌کند و بنابراین آماده‌پزیرش اتلاف سیگنال است. همه آنتن‌های کاربردی حداقل تا حدودی جهت‌دار هستند، اگرچه معمولاً فقط جهت در صفحه موازی با زمین در نظر گرفته می‌شود و آنتن‌های کاربردی به راحتی می‌توانند در یک صفحه همه‌جهته باشند. رایج‌ترین انواع: که اغلب با هم ترکیب می‌شوند و به صورت تجاری به عنوان آنتن تلویزیونی مسکونی فروخته می‌شوند. تکرارکننده‌های سلولی اغلب از آنتن‌های جهت‌دار خارجی استفاده می‌کنند تا سیگنالی
آنتن‌های جهت‌دار خارجی استفاده می‌کنند تا سیگنالی به مراتب بیشتر از آنچه در یک تلفن همراه استاندارد به دست می‌آید ارائه دهند. گیرنده‌های تلویزیون ماهواره ای معمولاً از آنتن‌های سهموی استفاده می‌کنند. برای فرکانس‌های با طول‌موج بلند و متوسط، آرایه‌های برجی در بیشتر موارد به عنوان آنتن جهت‌دار استفاده می‌شوند.
آنتن قوطی یا کانتن، یک آنتن موجبر جهت‌دار خانگی است که از یک قوطی فلزی با انتهای باز ساخته شده‌است. آنتن قوطی‌‌ها معمولاً برای افزایش برد (یا کشف) شبکه‌های وای‌فای استفاده می‌شوند. ساختمان. اگرچه برخی از طرح‌ها بر اساس قوطی چیپس سیب زمینی پرینگلز هستند، این لوله برای افزایش ۲٫۴ سیگنال گیگاهرتز با مقدار مفید بسیار باریک است. اگرچه در ۵ گیگاهرتز است تقریباً اندازه مناسبی خواهد داشت. با این حال، یک آنتن قوطی‌ می‌تواند از قوطی‌ها یا لوله‌های مختلف با قطر مناسب ساخته شود. برخی از طرح‌ها شامل پایه برای بالا بردن
شود. برخی از طرح‌ها شامل پایه برای بالا بردن آنتن قوطی‌ هستند. آنتن قوطی‌‌ها را می‌توان با سایر دستگاه‌های آراِف مانند دوربین‌های امنیتی بی‌سیم استفاده کرد.
چارلز مسئول (به )یک مجموعه تلویزیونی کمدی آمریکایی است که برای نخستین بار در تاریخ ۳ اکتبر ۱۹۸۴ از شبکه سی‌بی‌اس به نمایش درآمد. این سریال محصول آل برتون پروداکشنز همچنین اسکولاستیک پروداکشنز با همکاری یونیورسال تی وی بود ؛ اسکات بایو که درگذشته در سریال "روزهای شاد" بازی کرده بود، در نقش اصلی به ایفای نقش پرداخت؛ ویلی آمز، الن تراولتا،جوزی دیویس،نیکول اگرت و جیمز تی کالاها از دیگر بازیگران این مجموعه بودند. تاریخچه. "چارلز مسئول" در ساعت ۲۰:۰۰ هر چهارشنبه شب به شبکه سی‌بی‌اس اینتراکتیو ملحق شد و آن را در
شب به شبکه سی‌بی‌اس اینتراکتیو ملحق شد و آن را در مقابل سریال‌های اکشن پرطرفدار "بلاگردان" درشبکه آی بی سی و "بزرگراه بهشت" به کارگردانی مایکل لندون در شبکه تلویزیونی ان‌بی‌سی قرار داد. در آن زمان، به استثنای کمدی‌های دوشنبه‌شب که پخش سریال‌های ("کیت و آلی" و "نیوهارت)" درآن شب به نمایش درمی‌آمد، این مجموعه کمدی تا حدودی نتوانست نظر مخاطبان را جلب کند. با این حال، شبکه اجازه داد تا سریال در مرحله تولید باقی بماند تا ۲۲ قسمتی که برای فصل سفارش داده بود تکمیل شود. پس از این اپیزود در ۲۷ فوریه ۱۹۸۵، شبکه
شود. پس از این اپیزود در ۲۷ فوریه ۱۹۸۵، شبکه سی‌بی‌اس اینتراکتیو سریال "چارلز را در" حالت وقفه قرار داد و تولید آن را متوقف کرد. شبکه سی‌بی‌اس اینتراکتیو ۲ قسمت از مجموعه را با وقفه ای طولانی در ۱۳ مارس و ۳آوریل ۱۹۸۵ پخش کرد. سپس شبکه "سریال" را از مجموعه چهارشنبه خود کنار گذاشت و به نفع سریال درام معمایی ("Double Dare)" نمایش به شنبه منتقل شد، جایی که چندین هفته به صورت تکرار پخش شد تا اینکه با درام ("Cover Up)" جایگزین شد. هیچ‌کدام از این سریال‌ها برای فصل دوم تمدید نشدند، و همچنین هیچ‌یک از دو کمدی که
دوم تمدید نشدند، و همچنین هیچ‌یک از دو کمدی که یک ساعت را با سریال چارلز مسئول مانند سریال "رویاها" تقسیم کردند، تمدید نشدند. یک سال بعد، پس از مشاهده موفقیت‌آمیز برخی از سریال‌های شبکه‌ای لغو شده پس از احیای آن‌ها، برای اولین پخش (که در آن زمان روند قابل توجهی بود)، شرکت یونیورسال تصمیم گرفت دوباره سریال "چارلز مسئول" را در سندیکا عرضه کند. این سریال برای اولین بار در شبکه‌های محلی در اواسط فصل ۱۹۸۶–۸۷ پخش شد و اولین قسمت سری جدید آن در ۳ ژانویه ۱۹۸۷ پخش شد. پس از مشاهده موفقیت‌آمیز سریال چهار فصل دیگر
شد. پس از مشاهده موفقیت‌آمیز سریال چهار فصل دیگر برای پخش تولید شد که آخرین قسمت آن در ۱۰ نوامبر ۱۹۹۰ پخش شد. در مجموع ۱۲۶قسمت تولید شد که ۲۲ قسمت در فصل اول خلاصه شده و ۲۶ قسمت در هر یک از فصل‌های سندیکایی تولید شد. داستان. داستان سریال درشهر نیوبرانزویک، نیوجرسی روایت می‌شود. چارلز، که نام خانوادگی او هرگز برملا نمی‌شود، دانشجوی کالج کوپلند تخیلی که شاید همان دانشگاه راتگرز است که هم‌اکنون پردیس اصلی آن در شهر نیوبرانزویک واقع شده‌است) و در آغاز سریال ۱۹ ساله است. فصل اول. چارلز که در هنگام حضور در کالج
ساله است. فصل اول. چارلز که در هنگام حضور در کالج به محلی برای زندگی نیازمند است، از استن و جیل پمبروک، زوجی مرفه که در جستجوی یک خانه‌دار و و نظافت کار هستند، درخواست کمک می‌کند. این زوج و چارلز توافق کردند که چارلز در زمانی که در کالج حضور دارد و خدمت کار پمبروک‌ها است، به‌جای دستمزد، اتاق و تخته ای را برای تحصیل و زندگی به بدهند و او وظیفه دارد پرستار فرزندان آنها جیسون، داگلاس و لیلا، باشد که خیلی هم از او جوانتر نیستند. چارلز به یکی از دانش‌آموزان کوپلند، یعنی گوندولین پیرس علاقه‌مند است و وقت زیادی
یعنی گوندولین پیرس علاقه‌مند است و وقت زیادی از اوقات فراغت خود را صرف تلاش برای خواستگاری و رسیدن به او می‌کند، که به نظر می‌رسد هیچ‌وقت انجام نمی‌شود فصل دوم. هنگامی که این سریال در سال ۱۹۸۷ بازگشت، تنها دو بازیگر سری گذشته یعنی اسکات بایو و ویلی آمز بودند که به ایفای نقش پرداختند، زیرا تهیه‌کنندگان سریال داستان را برای تطبیق با تغییرات بازیگران بازسازی و نوشته بودند. اپیزود اول فصل دوم نشان داد که چارلز از تعطیلات تابستانی خود به شهر نیوبرانزویک بازمی‌گردد، اما خانواده‌ای ناآشنا را ناگهان می‌بیند که در
اما خانواده‌ای ناآشنا را ناگهان می‌بیند که در خانه پمبروک‌ها زندگی می‌کنند. او متوجه می‌شود که پمبروک‌ها نیوجرسی را در حالی که او نبود ترک کردند و به سیاتل نقل مکان کرده‌اند. خانواده جدید پاول موافقت کردند که این خانه را درصورتی از خانواده پمبروک‌ها بگیرند، که شامل حفظ خدمات چارلز به عنوان پرستار کودک و نظافتچی منزل باشد. طایفه پاول متشکل از مادر آلن و پدربزرگ والتر بود که پدر بیوه شوهر آلن بود و برای ایفای نقش پسرش در خارج از کشور در نیروی دریایی ایلات متحده آمریکا با آنها زندگی می‌کرد. همانند خانواده
متحده آمریکا با آنها زندگی می‌کرد. همانند خانواده پمبروک‌ها، پاول‌ها نیز سه فرزند داشتند، دختران آنها جیمی و سارا و برادر کوچکتر آدام نام داشت. لیلیان، مادر بیوه چارلز که قبلاً در سریال دیده نشده بود، به شخصیت اصلی سریال احیا مبدل شد. الن تراولتا نقش مادر چارلز را بازی کرد. این دومین بار بود که او نقش مادری را برای شخصیتی که بایو به تصویر کشیده بود، بازی کرد. آلن همین کار را چندین سال قبل در سریال Joanie Loves Chachi انجام داده بود (اگرچه او اولین بار در یک قسمت از «قایق عشق» در سال ۱۹۷۸ نقش مادر عموی جیمی
قسمت از «قایق عشق» در سال ۱۹۷۸ نقش مادر عموی جیمی بایو را نیز بازی کرد و مورد تحسین منتقدان قرار گرفت. موسیقی پس زمینه. آهنگ پس زمینه توسط دیوید کورتز، مایکل جیکوبز و آل برتون ساخته شده و توسط شاندی سینام اجرا شده‌است. موسیقی پس زمینه در فصل اول دلپذیرتر بود و برای اجرای سندیکایی دوباره میکس شد. این آهنگ توسط گروه a cappella The Blanks در کمدی پزشکی، Scrubs اجرا شد و در آلبوم سال ۲۰۰۴ آنها، Riding the Wave، به نمایش درآمد. اپیزودها. &lt;onlyinclude&gt;&lt;/onlyinclude&gt; انتشار خانگی. دی وی دی‌ها.
انتشار خانگی. دی وی دی‌ها. یونیورسال پیکچرز در ۱۴ فوریه ۲۰۰۶ مجموعه سه دیسکی از فصل اول سریال را بر روی دی وی دی در آمریکای شمالی منتشر کرد. به دلیل عدم استقبال و فروش ضعیف، هیچ فصل دیگری منتشر نشد. در سپتامبر ۲۰۷سازمان اتحاد هنر آمریکا اعلام کرد که حقوق سریال را به دست آورده‌است. آنها متعاقباً فصل‌های ۲_۵ را بر روی دی وی دی منتشر کردند. فصل‌های ۴ و ۵ نسخه‌های تولید بر حسب تقاضا منحصراً از طریق آمازون در دسترس بودند. هم‌اکنون. تمام پنج فصل سریال برای پخش از طریق آمازون ویدیو در دسترس قرار گرفته‌است.
مدل‌های انتشاری در یادگیری ماشینی، دسته‌ای از مدل‌های متغیر پنهان هستند. این مدل‌ها نوعی زنجیره مارکوف هستند که با استفاده از استنباط بیزی تغییراتی آموزش داده می‌شوند. هدف مدل‌های انتشاری، یادگیری ساختار پنهان یک مجموعه داده با مدل‌سازی روشی است که در آن نقاط داده در فضای پنهان منتشر می‌شوند. در بینایی ماشین، این یعنی یک شبکه عصبی آموزش داده می‌شود تا با یادگیری معکوس فرایند انتشاری، با شروع از نویز گاوسی به تصاویر اصلی برسد. تاریخچه. مدل‌های انتشاری در سال ۲۰۱۵ با ایده‌گرفتن از ترمودینامیک غیرتعادلی معرفی
۲۰۱۵ با ایده‌گرفتن از ترمودینامیک غیرتعادلی معرفی شدند. ایده. مدل‌های انتشاری خانواده‌ای از مدل‌های مولد احتمالی هستند که به تدریج داده‌ها را با اضافه‌کردن نویز تخریب می‌کنند، سپس یادمی‌گیرند که این فرایند را برای تولید نمونه معکوس کنند. یک مدل انتشاری از دو زنجیره مارکوف استفاده می‌کند: یک زنجیره مستقیم که داده‌ها را به‌تدریج به نویز تبدیل می‌کند و یک زنجیره معکوس که نویز را به داده تبدیل می‌کند. اولی معمولاً با هدف تبدیل هر توزیع داده‌ای به یک توزیع پیشین ساده (مثلاً گاوسی استاندارد) به صورت دستی طراحی
ساده (مثلاً گاوسی استاندارد) به صورت دستی طراحی می‌شود، در حالی که زنجیره مارکوف دوم با یادگیری هسته‌های انتقال توسط شبکه‌های عصبی عمیق، اولی را معکوس می‌کند. جزئیات. فرایند انتشار مستقیم. با داشتن یک نقطه داده نمونه‌برداری‌شده از یک توزیع داده واقعی formula_1، فرایند انتشار مستقیم را این‌گونه تعریف می‌کنیم که در آن مقدار کمی نویز گاوسی را در formula_2 گام به نمونه ورودی اضافه می‌کنیم تا نمونه‌های نویزدار formula_3 تولید شود. اندازه گام‌ها توسط یک برنامه واریانس formula_4 کنترل می‌شود. formula_5 نمونه داده
formula_4 کنترل می‌شود. formula_5 نمونه داده به تدریج ویژگی‌های قابل مشاهده خود را با بزرگتر شدن گام formula_6 از دست می‌دهد. درنهایت وقتی formula_7، formula_8 معادل یک توزیع گاوسی همسان‌گرد خواهد شد. یک ویژگی خوب فرایند فوق این است که می‌توانیم formula_9 را در هر گام دلخواه formula_6 به صورت فرم بسته زیر با فرض formula_11 و formula_12 محاسبه کنیم: formula_13 توجه کنید که وقتی دو توزیع نرمال با واریانس‌های مختلف، formula_14 و formula_15 ادغام می‌کنیم، توزیع جدید formula_16 خواهد بود. در رابطه بالا انحراف
جدید formula_16 خواهد بود. در رابطه بالا انحراف معیار برابر خواهد بود با: formula_17 فرایند انتشار معکوس. اگر بتوانیم فرایند بالا را معکوس کنیم و از formula_18 نمونه‌برداری کنیم، می‌توانیم نمونه واقعی را از ورودی نویز گاوسی formula_19 دوباره ایجاد کنیم. توجه کنید که اگر formula_20 به اندازه کافی کوچک باشد، formula_18 نیز گوسی خواهد بود. متأسفانه، ما نمی‌توانیم formula_18 را به راحتی تخمین بزنیم زیرا برای این کار باید از کل مجموعه‌داده استفاده کنیم، بنابراین باید مدلِ formula_23 را برای تقریب این احتمالات
باید مدلِ formula_23 را برای تقریب این احتمالات شرطی به منظور اجرای فرایند انتشار معکوس یاد بگیریم. formula_24 احتمال شرطی معکوس زمانی قابل حل است که روی formula_25 شرط شود: formula_26 با اعمال قاعده بیز داریم: formula_27 با توجه به تابع چگالی توزیع گاوسی، میانگین و واریانس را می‌توان به صورت زیر به‌دست‌آورد: formula_28 می‌دانیم که formula_29 و با جایگذاری در عبارات بالا خواهیم داشت: formula_30 تابع هزینه برای آموزش فرایند انتشاری. برای تقریب توزیع احتمال شرطی در فرایند انتشار معکوس formula_31 نیاز به
شرطی در فرایند انتشار معکوس formula_31 نیاز به یادگیری یک شبکه عصبی داریم. درواقع می‌خواهیم formula_32 را آموزش دهیم که formula_33 را پیش‌بینی کند. از آن‌جایی که formula_9 به‌عنوان ورودی مدل هنگام آموزش داده می‌شود، می‌توانیم با تغییر عبارت نویز گاوسی formula_35 را از ورودی در گام formula_6 پیش‌بینی کنیم: formula_37 پس تابع هزینه برای کمینه کردن اختلاف از formula_38 به صورت زیر خواهد بود: formula_39 در مقاله نشان داده شده‌است که آموزش مدل انتشاری با تابع هزینه زیر بهتر انجام می‌شود: formula_40 و تابع هزینه
زیر بهتر انجام می‌شود: formula_40 و تابع هزینه نهایی به صورت formula_41 خواهد بود (formula_42 یک مقدار ثابت مستقل از formula_43 است). محدودیت‌ها. فرایند نمونه‌گیری از DDPM با دنبال‌کردن زنجیره مارکوف فرایند انتشار معکوس بسیار کند است، زیرا تعداد گام‌ها formula_2 می‌تواند تا یک یا چند هزار مرحله باشد. در گفته شده «به عنوان مثال، نمونه‌گیری ۵۰ هزار عکس با اندازه ۳۲ × ۳۲ از یک DDPM حدود ۲۰ ساعت طول می‌کشد، اما انجام این کار با یک GAN روی یک پردازنده گرافیکی Nvidia 2080 Ti کمتر از یک دقیقه زمان می‌برد.»
Nvidia 2080 Ti کمتر از یک دقیقه زمان می‌برد.» کاربرد. بینایی ماشین. مدل‌هایی انتشاری برای تولید، بخش‌بندی، فراتفکیک‌پذیری، تغییر و تعمیر تصاویر به کار می‌روند. همچنین در تولید ویدئو، تشخیص ناهنجاری، تحلیل تصاویر پزشکی و بینایی سه‌بعدی کاربرد دارد. پردازش زبان‌های طبیعی. مدل‌های انتشاری همچنین برای تولید و ترجمه متن استفاده می‌شوند.
در کاربردهای یادگیری نظارت شده در یادگیری ماشینی، خطای تعمیم معیاری برای ارزیابی میزان دقت یک الگوریتم در پیش‌بینی داده‌های از پیش دیده نشده‌ است. به دلیل این که الگوریتم‌های یادگیری توسط نمونه‌های محدودی ارزیابی می‌شوند، ارزیابی این الگوریتم‌ها به خطای نمونه‌گیری حساس است. در نتیجه، معیارهای پیش‌بینی با توجه به داده‌های کنونی ممکن است اطلاعات جدیدی در مورد توانایی پیش‌بینی در داده‌های جدید ارائه نکند. با اجتناب از بیش‌برازش می‌توان خطای تعمیم را کاهش داد. عملکرد یک الگوریتم یادگیری ماشین با تجسم نمودارهایی
یک الگوریتم یادگیری ماشین با تجسم نمودارهایی به نام منحنی فراگیری انجام می‌پذیرد که خطای تعمیم را در فرایند یادگیری تخمین می‌زنند. تعریف. هدف در یک مسئلهٔ یادگیری، یافتن تابع formula_1 است که با توجه به دادهٔ ورودی formula_2، خروجی formula_3 را پیش‌بینی می‌کند. زیرنویس formula_4 نشان می‌دهد که تابع formula_5 براساس مجموعه‌ای شامل formula_4 داده ساخته شده‌است. خطای تعمیم، formula_7 برای تابع formula_8، روی تمام مقادیر formula_2 و formula_3 برابر است با: formula_11 که در آن formula_12، تابع هزینه و
با: formula_11 که در آن formula_12، تابع هزینه و formula_13، توزیع احتمال توأم برای formula_2 و formula_3 است. بدون دانستن توزیع احتمال توأم، formula_16 محاسبهٔ مقدار formula_7 غیرممکن است. در عوض، می‌توانیم خطا را روی داده‌های نمونه محاسبه کنیم که به آن خطای تجربی می‌گویند. خطای تجربی با دانستن formula_4 داده برابر است با: formula_19 و یک الگوریتم تعمیم‌پذیر خواهد بود اگر: formula_20 خطای تعمیم formula_21، برای یک تابع وابسته به دادهٔ formula_5 که توسط یک الگوریتم یادگیری بر اساس نمونه محاسبه شده‌است، از
الگوریتم یادگیری بر اساس نمونه محاسبه شده‌است، از اهمیت زیادی برخوردار است. با توجه به این که محاسبهٔ مستقیم formula_21 نیازمند دانستن توزیع احتمال است که ناشناخته است، هدف بسیاری از مسائل در نظریه یادگیری آماری محدود کردن یا مشخص کردن تفاوت خطای تعمیم و خطای تجربی است: formula_24 در نتیجه، هدف مشخص کردن احتمال formula_25 است که بتوانیم خطای تعمیم را، با جمع خطای تجربی و یک کران خطا formula_26 (در حالت کلی وابسته به formula_27 و formula_4) محدود کنیم. در بسیاری از الگوریتم‌ها، نشان داده شده‌است که یک
در بسیاری از الگوریتم‌ها، نشان داده شده‌است که یک الگوریتم، در صورتی که معیارهای ثبات خاصی را برآورده کند، دارای مرزهای تعمیم است. به‌طور خاص، اگر الگوریتمی متقارن باشد (ترتیب ورودی‌ها بر نتیجه تأثیری نگذارد)، تابع هزینهٔ محدودی داشته باشد و دو شرط پایداری را برآورده کند، تعمیم می‌یابد. این شرایط را می‌توان به صورت زیر بیان کرد: پایداری اعتبارسنجی متقابل یک‌طرفه. الگوریتم formula_29 این ثبات را خواهد داشت اگر به ازای هر formula_4، وجود داشته باشد formula_31 و formula_32 که: formula_33 و formula_31 و
و formula_32 که: formula_33 و formula_31 و formula_32 زمانی که formula_36 به صفر میل کنند. پایداری امیدریاضی اعتبارسنجی یک‌طرفه. الگوریتم formula_29 این ثبات را خواهد داشت اگر به ازای هر formula_4، وجود داشته باشد formula_39 و formula_40 که: formula_41 و formula_42 و formula_43 زمانی که formula_36 به صفر میل کنند. الگوریتم‌های پایدار اثبات‌شده. ثابت شده‌است که تعدادی از الگوریتم‌ها پایدار هستند، و در نتیجه خطای تعمیم آن‌ها محدود است. فهرستی از این الگوریتم‌ها و مقالاتی که پایداری آن‌ها را ثابت کرده‌اند،
و مقالاتی که پایداری آن‌ها را ثابت کرده‌اند، اینجا موجود است. ارتباط با بیش‌برازش. مفاهیم خطای تعمیم و بیش‌برازش به هم مرتبط هستند. بیش‌برازش زمانی اتفاق می‌افتد که تابع formula_45 به نویز داخل نمونه‌ها حساس شود. در نتیجه، این تابع روی مجموعهٔ آموزشی به خوبی عمل می‌کند، اما روی داده‌های دیگر که از توزیع احتمال مشترک formula_46 و formula_3 هستند، به خوبی عمل نمی‌کند؛ بنابراین، هرچه بیش‌برازش بیشتر باشد، خطای تعمیم هم بزرگتر خواهد بود. میزان بیش‌برازش را می‌توان با استفاده از روش اعتبارسنجی متقابل محاسبه
با استفاده از روش اعتبارسنجی متقابل محاسبه کرد، که نمونه‌ها را به نمونه‌های آموزشی و نمونه‌های آزمایشی تقسیم می‌کند. سپس مدل بر روی نمونه‌های آموزشی، آموزش داده می‌شود و بر روی نمونه‌های آزمایشی، ارزیابی می‌شود. نمونه‌های آزمایشی قبلاً توسط الگوریتم دیده نشده‌اند، بنابراین یک مجموعه نمونهٔ تصادفی از توزیع احتمال مشترک formula_46 و formula_3 خواهد بود. این مجموعه از نمونه‌های آزمایشی، به ما اجازه می‌دهد تا خطای مورد انتظار را تقریب بزنیم و تخمین خوبی از خطای تعمیم داشته باشیم. الگوریتم‌های زیادی برای
خطای تعمیم داشته باشیم. الگوریتم‌های زیادی برای جلوگیری از بیش‌برازش وجود دارد. الگوریتم‌های کمینه‌سازی می‌توانند توابع پیچیده‌تری را جریمه کنند (معروف به منظم‌سازی تیخونوف) یا فضای فرضیه را می‌توان به صورت صریح، در قالب توابع یا با افزودن محدودیت‌هایی به تابع کمینه‌سازی (منظم‌سازی ایوانوف) محدود کرد. یافتن تابعی که بیش‌برازش نداشته باشد، در تضاد با هدف یافتن تابعی است که به اندازه کافی پیچیده باشد تا ویژگی‌های داده‌ها را به تصویر بکشد. این به عنوان مبادله بایاس و واریانس معروف است. ساده نگه داشتن یک تابع
بایاس و واریانس معروف است. ساده نگه داشتن یک تابع برای جلوگیری از بیش‌برازش ممکن است باعث ایجاد بایاس در پیش‌بینی‌های به‌دست‌آمده شود، در حالی که پیچیده‌تر بودن آن منجر به بیش‌برازش و واریانس بیشتر خواهد شد و به حداقل رساندن هر دو به‌طور همزمان، غیرممکن است.
در هوش مصنوعی، تابع فعالسازی یک گره، خروجی آن گره را با یک ورودی یا مجموعه ای از ورودی‌ها تعریف می‌کند. یک مدار مجتمع استاندارد می‌تواند به عنوان یک الکترونیک دیجیتال از توابع فعال سازی دیده شود که بسته به ورودی می‌تواند «روشن» (۱) یا «خاموش» (۰) باشد. این مشابه پرسپترون خطی در شبکه‌های عصبی است. با این حال، تنها توابع فعال‌سازی غیرخطی به چنین شبکه‌هایی اجازه می‌دهند تا مسائل غیر ضروری را تنها با استفاده از تعداد کمی از گره‌ها محاسبه کنند و چنین توابع فعال‌سازی غیرخطی نامیده می‌شوند. طبقه‌بندی توابع
فعال‌سازی غیرخطی نامیده می‌شوند. طبقه‌بندی توابع فعالسازی در شبکه‌های عصبی. رایج‌ترین توابع فعالسازی را در شبکه عصبی می‌توان می‌توان به سه دسته تقسیم کرد: توابع فعالسازی پله‌ای، توابع فعالسازی خطی، توابع فعالسازی غیر خطی. توابع فعالسازی پله دودویی. در این نوع توابع، ابتدا یک آستانه‌ای در نظر گرفته می‌شود و با توجه به آن تعیین می‌شود که آیا گره فعال می‌شود یا خیر. این نوع توابع در دامنه‌ای که مشتق پذیر هستند، مشتقی برابر صفر دارند و به همین دلیل استفاده از روند پس‌انتشار برای آن‌ها با مشکل همراه است. توابع
پس‌انتشار برای آن‌ها با مشکل همراه است. توابع فعالسازی خطی. این نوع توابع، جمع ورودی‌های هر گره را در خروجی قرار می‌دهد. این توابع مقادیر ورودی را در بازه خاصی قرار نمی‌دهند. در این نوع توابع نیز به این دلیل که مشتق برابر یک عدد ثابت است نمی‌توان از روند پس‌انتشار استفاده کرد. در زمان‌هایی که پارامترها و داده‌های مسئله زیاد و پیچیده می‌شوند استفاده از این نوع توابع فعالسازی توصیه نمی‌شود. توابع فعالسازی غیر خطی. این نوع توابع بیشتر از سایر توابع فعالسازی در شبکه‌های عصبی مورد استفاده قرار می‌گیرند و وفق