moaminsharifi/fa-wiki-spell-checker huggingface dataset:
درد در دوزیستان پیامدهای اجتماعی از جمله قرار گرفتن آنها در معرض آلاینده‌ها، (آماده‌سازی برای) آشپزی (مثلاً پاهای قورباغه) و دوزیستان مورد استفاده در تحقیقات علمی دارد.
در سده ۲۰ و ۲۱، تحقیقات علمی زیادی دربارهٔ درد در جانوران غیرانسانی انجام شد.
مقالات دام‌پزشکی منتشر شده‌است که نشان می‌دهد خزندگان درد را به روشی مشابه با پستانداران تجربه می‌کنند، و اینکه مسکن‌ها در این رده از مهره‌داران مؤثر هستند.
مطالعات الکتروفیزیولوژیک اولیه در قورباغه‌ها گزارش می‌دهد که محرک‌های زیان‌بار مکانیکی، گرمایی و شیمیایی الیاف آوران اولیه را با آکسون‌های آهسته رسانا تحریک می‌کنند.
پوست قورباغه شامل الیاف گروه C و الیاف A-delta است.>Hamamoto, D. T. & Simone, D.A. (2003). "Characterization of cutaneous primary afferent fibers excited by acetic acid in a model of nociception in frogs". "Journal of Neurophysiology". 90 (2): 566–577. doi:. PMID 12750420. S2CID 15575676.
فرایادگیری یا دگریادگیری یک اصطلاح علوم اعصاب است که توسط کنجی دویا معرفی شده‌است، به عنوان نظریه‌ای که نشان می‌دهد چگونه انتقال دهنده‌های عصبی سازوکارهای یادگیری توزیع‌شده را در غده‌های قاعده‌ای تسهیل می‌کنند. این نظریه در درجه اول شامل نقش انتقال دهنده‌های عصبی در تنظیم دینامیکی نحوه تعامل الگوریتم‌های یادگیری محاسباتی برای تولید انواع رفتار یادگیری قوی است که در حال حاضر منحصر به اشکال زندگی بیولوژیکی است. با اینکه اصطلاح فرایادگیری قبلاً در زمینه‌های روان‌شناسی اجتماعی و علوم رایانه به کار رفته‌است، اما در اینجا مفهومی کاملاً جدید را مطرح می‌کند که برای پر کردن شکاف‌ها بین شبکه‌های عصبی، علوم کامپیوتر و یادگیری ماشین نیاز بکار می‌رود.
گفته می‌شود که نظریه فرایادگیری بر پایه کارهای قبلی دویا در الگوریتم‌های یادگیری یادگیری تحت نظارت، یادگیری تقویتی و یادگیری بدون نظارت به ترتیب در مخچه، گانگلیون پایه و قشر مطرح شده‌است و از جمله تلاش‌هایی است که برای یکسان کردن فرایند انتخاب پویا برای این سه الگوریتم یادگیری به یک سازوکار تنظیمی قابل تقلیل به انتقال‌دهنده‌های عصبی منفرد انجام شده‌است.
ایده اصلی فرایادگیری این است که یادگیری سراسری را می‌توان به عنوان تابعی از انتخاب کارآمد چهار پی‌ترازه که در ادامه معرفی می‌شوند مدل‌سازی کرد. در حالی که هیچ مدل سازوکاررانه برای جایی که فرایادگیری درنهایت در سلسله مراتب نمایندگی وجود دارد ارائه نشده‌است، این مدل تاکنون پویایی لازم برای استنتاج وجود چنین عاملی را در یادگیری بیولوژیکی به عنوان یک کل نشان داده‌است. در حالی که مدل‌های محاسباتی و سیستم‌های اطلاعاتی هنوز با پیچیدگی یادگیری انسان فاصله دارند. فرایادگیری مسیر امیدوارکننده‌ای را برای تکامل آینده چنین سیستم‌هایی فراهم می‌کند زیرا آنها به‌طور فزاینده‌ای به پیچیدگی دنیای بیولوژیکی نزدیک می‌شوند.
دوپامین که به عنوان یک سیگنال «یادگیری سراسری» عمل کند و برای پیش‌بینی پاداش‌ها و تقویت عمل حیاتی است. به این ترتیب، دوپامین در یک الگوریتم یادگیری نقش دارد که در آن بازیگر، محیط و منتقد به یک تعامل پویا محدود می‌شوند که درنهایت به دنبال به حداکثر رساندن مجموع پاداش‌های آینده با تولید یک سیاست انتخاب کنش بهینه است. در این زمینه، منتقد و بازیگر به عنوان لبه‌های شبکه مستقلی شناخته می‌شوند که یک عامل پیچیده را نیز تشکیل می‌دهند. این عامل به‌طور جمعی بر وضعیت اطلاعات محیط تأثیر می‌گذارد، که برای محاسبات آینده به عامل بازخورد داده می‌شود. از طریق یک مسیر جداگانه، محیط نیز به شکل پاداش به دست آمده از طریق عمل داده شده به منتقد بازخورد داده می‌شود، به این معنی که می‌توان به تعادلی بین پاداش پیش‌بینی شده سیاست معین برای یک وضعیت معین و چشم‌انداز در حال تکامل پاداش‌های آینده دست یافت.
سروتونین برای کنترل تعادل بین پیش‌بینی پاداش کوتاه‌مدت و بلندمدت، اساساً با «تخفیف» متغیر مبالغ پاداش آینده مورد انتظار که ممکن است برای دستیابی به هزینه‌های بیش از حد نیاز داشته باشد، پیشنهاد می‌شود. به این ترتیب، سروتونین ممکن است انتظار پاداش را در سطح شبه عاطفی تسهیل کند، و بنابراین، بسته به تقاضای کار، و طول مدت تداوم مورد نیاز، اصرار در رفتار پاداش جویانه را تشویق یا منع می‌کند. از آنجایی که پیش‌بینی پاداش جهانی از نظر تئوری ناشی از محاسبات مدوله‌شده سروتونین است که با محاسباتی که به‌طور مشابه توسط دوپامین مدوله شده‌اند، به حالت ثابتی می‌رسند. سیگنال دهی بالای سروتونرژیک ممکن است محاسبات دوپامین را نادیده بگیرد و الگوی متفاوتی از پاداش ایجاد کند که از نظر ریاضی به تنهایی از طریق محاسبات مدوله شده با دوپامین قابل دوام نیست.
نوراپی‌نفرین برای تسهیل «کاوش گسترده» با انتخاب عمل تصادفی پیشنهاد شده‌است. انتخاب بین تمرکز بر استراتژی‌های شناخته شده و مؤثر یا انتخاب راهبردهای آزمایشی جدید درنظریه احتمال به عنوان مسئله اکتشاف- بهره‌برداری شناخته می‌شود. بنابراین، تأثیر متقابل بین فوریت‌های موقعیتی، و اثربخشی استراتژی‌های شناخته شده، بر معضل بین انتخاب قابل اعتماد برای بزرگ‌ترین پاداش پیش‌بینی شده و انتخاب اکتشافی خارج از پارامترهای شناخته شده تأثیر می‌گذارد. از آنجایی که آبشارهای شلیک عصبی (مانند آنهایی که برای چرخاندن کامل چوب گلف لازم است) بنا به تعریف ناپایدار و مستعد تغییر هستند؛ بنابراین نوراپی نفرین قابل اعتمادترین الگوی اجرایی شناخته شده را در سطوح بالاتر انتخاب می‌کند و امکان انتخاب تصادفی و غیرقابل اعتماد بیشتری را در سطوح پایین با هدف کشف استراتژی‌های بالقوه کارآمدتر در فرایند فراهم می‌کند.
استیل کولین برای تسهیل تعادل بین ذخیره‌سازی حافظه و تجدید حافظه، برای یافتن تعادل بهینه بین ثبات و اثربخشی الگوریتم‌های یادگیری برای کار محیطی خاص، پیشنهاد شده‌است؛ بنابراین استیل کولین انعطاف‌پذیری را در هیپوکامپ، قشر مغز و مخطط تعدیل می‌کند تا شرایط یادگیری ایده‌آل در مغز را تسهیل کند؛ بنابراین سطوح بالای استیل کولین امکان یادگیری بسیار سریع و بازسازی اتصالات سیناپسی را فراهم می‌کند و درنتیجه یادگیری موجود ممکن است لغو شود. به همین ترتیب، یادگیری حالت‌هایی که در یک وضوح زمانی طولانی اتفاق می‌افتد ممکن است قبل از رسیدن به یک سطح عملکردی نادیده گرفته شود، و بنابراین یادگیری ممکن است خیلی سریع اتفاق بیفتد که واقعاً به‌طور مؤثر انجام شود. در سطوح پایین‌تر نوراپی‌نفرین، تغییرات پلاستیکی بسیار آهسته‌تر اتفاق می‌افتد، به‌طور بالقوه در برابر شرایط یادگیری غیرمفید محافظت می‌کند یا اجازه می‌دهد تغییرات اطلاعاتی تفکیک زمانی بسیار وسیع‌تری را در بر بگیرد.
محققان گروه روان‌شناسی تجربی، مرکز ولکام و گروه علوم اعصاب بالینی Nuffield، از اسکنر MRI، در حالی که داوطلبان وظیفه‌هایی را همراه با یک پاداش انجام می‌دادند، برای مشاهده تغییرات در بخش‌هایی از مغز در ارتباط با یادگیری و تجربیات آموخته شده استفاده کردند. آنها دریافتند که تغییراتی که در مسیرهای عصبی شرکت کنندگان در ارتباط با یادگیری مشاهده می‌شود، بسته به نحوه یادگیری مهارت جدید هر فرد متفاوت است. میریام کلین فلگ، از گروه روان‌شناسی تجربی، اذعان داشت: «ما می‌دانیم که انسانها می‌توانند به روش‌های مختلف یاد بگیرند. بعضی اوقات ما فقط با مشاهده روابط در جهان، مانند یادگیری چیدمان یک شهر جدید یا روابط بین مردم، یادمی‌گیریم.» اما راه دیگر برای یادگیری تعیین اهداف خاص است، مانند کودکانی که یادمی‌گیرند اسباب بازی‌ها را از طریق آزمایش و خطا بشناسند و نحوه بازی با آن‌ها را فرا بگیرند. آنها دریافتند تغییراتی که در مسیرهای عصبی شرکت کنندگان در ارتباط با یادگیری مشاهده می‌شود، بسته به نحوه یادگیری مهارت جدید هر فرد متفاوت است. این تحقیق نشان می‌دهد که ما چندین سازوکار و پتانسیل در مغز داریم که به ما کمک می‌کنند دانش یا تجربه‌های آموخته شده را ذخیره کنیم، به این معنی که آسیب به یک قسمت از مغز هنوز سازوکارهای جایگزین برای یادگیری باقی می‌گذارد.
ما همچنین آموخته‌ایم که یادگیری برخی از این دانش‌ها بسیار پایدار است، و مغز آن را فراموش نمی‌کند، در حالی که دانش به دست آمده از طریق سازوکارهای یادگیری جایگزین، می‌تواند به راحتی به دانش جدید تغییر یابد. علاوه بر این نشان می‌دهد که مغز می‌تواند به روش‌های مختلف یاد بگیرد و این سازوکارهای متعدد برای یادگیری، به تلاش هماهنگ شبکه‌های مختلف مغزی متکی هستند. به خوبی شناخته شده‌است که بهتر است مغز ما در طول زندگی به یادگیری چیزهای جدید ادامه دهد، به همین دلیل درک روشهای مختلف یادگیری و ذخیره دانش می‌تواند مفید باشد و به هریک از ما کمک کند. دریابید که کدام روش یادگیری برای ما مناسب است.
مصری‌های باستان تصور می‌کردند که جایگاه هوش در قلب است. به دلیل این اعتقاد، درپی فرایند مومیایی‌کردن، آن‌ها مغز را از بدن خارج و قلب را در جای خود باقی می‌گذاشتند. یونانی‌های باستان اولین افرادی بودند که به مطالعه مغز پرداختند. آن‌ها سعی کردند نقش مغز و چگونگی کارکرد آن را فهمیده و اختلالات عصبی را توضیح دهند. بر اساس مقاله‌ای در "ساینس امریکن"، ارسطو، فیلسوف یونانی، نظریه‌ای داشت مبنی بر این که مغز یک سازوکار خنک کنندهٔ خون بوده‌است.
دانشمندان در طول زمان نظریات مختلفی دربارهٔ مغز انسان و عملکرد آن ارائه کرده‌اند که برخی از آنها در ادامه ذکر شده‌اند.
پیشرفت‌های علمی، دانشمندان علوم اعصاب را به مطالعهٔ ساختار، عملکردها، رشد و نمو، ناهنجاری‌های سیستم عصبی و راه‌هایی که می‌توانند منجر به تغییر آن بشوند، قادر ساخته‌است.
فرایادگیری در یادگیری ماشینی معمولاً به الگوریتم‌های یادگیری ماشینی اشاره دارد که از خروجی سایر الگوریتم‌های یادگیری ماشین یادمی‌گیرند. درهر پروژه یادگیری ماشینی که در آن تلاش می‌کنیم بفهمیم (یادگیری) الگوریتمی که روی داده‌های ما بهترین عملکرد را دارد، می‌توانیم به الگوریتم یادگیری ماشینی فکر کنیم که حداقل تا حدودی جای ما را بگیرد. الگوریتم‌های یادگیری ماشینی از مجموعه داده‌های گردآوری شده یادمی‌گیرند.
به عنوان مثال، الگوریتم‌های یادگیری نظارت شده یادمی‌گیرند که چگونه نمونه‌هایی از الگوهای ورودی را به نمونه‌هایی از الگوهای خروجی برای رسیدگی به مشکلات مدل‌سازی پیش‌بینی طبقه‌بندی و رگرسیون نگاشت کنند. الگوریتم‌ها بر روی داده‌های تاریخی به‌طور مستقیم برای تولید یک مدل آموزش داده می‌شوند. سپس این مدل می‌تواند بعداً برای پیش‌بینی مقادیر خروجی، مانند یک عدد یا یک برچسب کلاس، برای نمونه‌های جدید ورودی استفاده شود.
الگوریتم‌های فرایادگیری از خروجی سایر الگوریتم‌های یادگیری ماشینی که از داده‌ها یادمی‌گیرند، یادمی‌گیرند. این بدان معناست که فرایادگیری مستلزم حضور سایر الگوریتم‌های یادگیری است که قبلاً روی داده‌ها آموزش دیده‌اند. برای مثال، الگوریتم‌های فرایادگیری تحت نظارت یادمی‌گیرند که چگونه نمونه‌هایی از خروجی را از الگوریتم‌های یادگیری دیگر (مانند اعداد پیش‌بینی‌شده یا برچسب‌های کلاس) روی نمونه‌هایی از مقادیر هدف برای مسائل طبقه‌بندی و رگرسیون ترسیم کنند. به‌طور مشابه، الگوریتم‌های فرایادگیری با گرفتن خروجی از الگوریتم‌های یادگیری ماشینی موجود به عنوان ورودی و پیش‌بینی یک عدد یا برچسب کلاس، پیش‌بینی می‌کنند.
به این ترتیب فرایادگیری یک سطح بالاتر از یادگیری ماشین رخ می‌دهد. اگر یادگیری ماشین یاد بگیرد که چگونه از اطلاعات در داده‌ها برای پیش‌بینی به بهترین شکل استفاده کند، فرایادگیری یا فرا ماشین یادمی‌گیرد که چگونه از پیش‌بینی‌های الگوریتم‌های یادگیری ماشین به بهترین شکل برای پیش‌بینی استفاده کند.
علوم اعصاب و هوش مصنوعی (AI) سابقه طولانی همکاری مشترک دارند. پیشرفت‌های علوم اعصاب، در کنار جهش‌های عظیم در قدرت پردازش رایانه‌ای در چند دهه گذشته، باعث ایجاد نسل جدیدی از شبکه‌های عصبی سیلیکو با الهام از معماری مغز شده‌است. این سیستم‌های هوش مصنوعی اکنون قادر به انجام بسیاری از توانایی‌های ادراکی و شناختی پیشرفته سیستم‌های بیولوژیکی از جمله تشخیص اشیا و تصمیم‌گیری هستند، که همان‌طور که اشاره شد تا حدی با تقلید از نحوه انجام محاسبات خاص توسط مغز بدست آمده‌اند. در واقع هوش مصنوعی با استفاده از شبکه‌های عصبی که مشابه شبکه‌های نورون‌هایی هستند که مغز را تشکیل می‌دهند، به رایانه‌ها این توانایی را داده‌اند که تصویر یک گربه را از تصویر نارگیل و عابران پیاده را با دقت کافی برای هدایت خودروی خودران تشخیص دهند.
علاوه بر این، هوش مصنوعی اکنون به‌طور فزاینده‌ای به عنوان ابزاری برای تحقیقات علوم اعصاب استفاده می‌شود و درک ما از عملکردهای مغز را تغییر می‌دهد. به‌طور خاص، یادگیری عمیق برای مدل‌سازی چگونگی کنترل لایه‌های کانولوشن و اتصالات مکرر در قشر مغز مغز، عملکردهای مهمی از جمله پردازش بینایی، حافظه و کنترل حرکتی را کنترل می‌کند. همچنین، استفاده از هوش مصنوعی الهام گرفته از علوم اعصاب نیز برای درک اینکه چگونه تغییرات در شبکه‌های مغز منجر به آسیب‌شناسی‌های روانی می‌شود و حتی می‌تواند در رژیم‌های درمانی مورد استفاده قرار گیرد، نوید زیادی دارد.
منیش ساهانی، عصب‌شناس نظری و محقق یادگیری ماشینی در واحد علوم اعصاب محاسباتی گتسبی در دانشگاه کالج لندن، دربارهٔ ارتباط میان این دو رشته می‌گوید: «طبیعی است که این دو رشته با هم تطابق داشته باشند. ما به‌طور مؤثر در حال مطالعه همین موضوع هستیم. در یک مورد، ما می‌پرسیم که چگونه این مسئله یادگیری را به صورت ریاضی حل کنیم تا بتوان آن را به‌طور مؤثر در ماشین پیاده‌سازی کرد. در مورد دیگر، ما به تنها مدرک موجود برای حل شدن آن نگاه می‌کنیم - که مغز است.»
بررسی فرایادگیری به عنوان یک مفهوم عصب‌شناسی دارای مزایای بالقوه برای درک و درمان بیماری‌های روان‌پزشکی و همچنین پر کردن شکاف‌ها بین شبکه‌های عصبی، علوم کامپیوتر و یادگیری ماشین است.
درد در سخت‌پوستان یک بحث علمی است که این پرسش را مطرح می‌کند که آیا آنها درد را تجربه می‌کنند یا نه. درد یک حالت روانی پیچیده‌است، با کیفیت ادراکی مشخص اما همراه با رنج، که یک حالت عاطفی است. به دلیل این پیچیدگی، وجود درد در یک جانور یا انسان دیگر را نمی‌توان با استفاده از روش‌های دیداری بدون ابهام تعیین کرد، اما این نتیجه که جانوران درد را تجربه می‌کنند اغلب بر اساس حضور احتمالی هوشیاری پدیده‌ای از فیزیولوژی مقایسه‌ای مغز و همچنین واکنش‌های فیزیکی و رفتاری استنباط می‌شود.
در خرچنگ "Procambarus clarkii"، داروهای ضداضطراب (کاهش استرس) ساخته‌شده برای انسان نیز سبب کاهش اضطراب می‌شود.
قانونگذاری از برخی از بی‌مهرگان هنگامی که در تحقیقات استفاده می‌شود محافظت می‌کند. گونه‌های محافظت‌شده بین کشورها و مناطق متفاوت است.
درد در بی‌مهرگان یک موضوع بحث‌برانگیز است. اگرچه تعاریف متعددی از درد وجود دارد، اما تقریباً همه شامل دو جزء کلیدی هستند. اول، درد مورد نیاز است. این توانایی تشخیص محرک‌های زیان‌بار است که واکنشی غیرارادی را برمی‌انگیزد که کل جانور یا بخش آسیب‌دیده بدنش را از منبع محرک دور می‌کند. مفهوم درد لزوماً دلالت بر هیچ احساس منفی و ذهنی ندارد. این یک عمل بازتابی است. مؤلفه دوم، تجربه خود «درد» یا رنج است – یعنی تفسیر درونی و احساسی تجربه درد؛ بنابراین درد یک تجربه خصوصی و احساسی است. درد را نمی‌توان به‌طور مستقیم در جانوران دیگر، از جمله انسان‌های دیگر اندازه‌گیری کرد. پاسخ به محرک‌های ظاهراً دردناک را می‌توان اندازه‌گیری کرد، اما خود تجربه را نمی‌توان اندازه‌گیری کرد. برای پرداختن به این مشکل هنگام ارزیابی ظرفیت گونه‌های دیگر برای تجربه درد، از برهان قیاس استفاده می‌شود. این بر این اصل استوار است که اگر پاسخ یک جانور غیرانسانی به محرک‌ها مشابه پاسخ‌های انسان باشد، احتمالاً تجربه مشابهی داشته‌است. استدلال شده‌است که اگر یک سنجاق در انگشت شامپانزه گیر کرده باشد و آنها به سرعت دست خود را بیرون بکشند، آنگاه استدلال به قیاس نشان می‌دهد که آنها مانند انسان‌ها احساس درد کرده‌اند. این پرسش مطرح شده‌است که چرا این استنباط به این نتیجه نمی‌رسد که یک سوسک پس از گیرکردن با یک سنجاق، هنگامی که می‌پیچد، درد را تجربه می‌کند.Sherwin, C.M. , (2001). Can invertebrates suffer? Or, how robust is argument-by-analogy? Animal Welfare, 10 (supplement): S103-S118 این رویکرد استدلال به قیاس به مفهوم درد در بی‌مهرگان توسط دیگران دنبال شده‌است.
جام بین قاره‌ای ۱۹۹۵ سی و چهارمین دوره از جام بین قاره‌ای فوتبال بود که بین باشگاه آژاکس، قهرمان لیگ قهرمانان اروپا ۹۵–۱۹۹۴، و باشگاه گرمیو، قهرمان جام لیبرتادورس ۱۹۹۵ برگزار شد.
اجماع نمونه تصادفی یک روش تکرار شونده () است برای تخمین پارامترهای یک مدل ریاضی روی یک مجموعه داده که شامل داده‌های پرت است، به طوری که داده‌های پرت تأثیری روی تخمینی که زده می‌شود نداشته باشند. با این تعریف، از این روش می‌توان به عنوان یک روش برای تشخیص داده پرت نیز یاد کرد.Data Fitting and Uncertainty, T. Strutz, Springer Vieweg (2nd edition, 2016) RANSAC در حقیقت یک الگوریتم غیرقطعی است، بدین معنا که تنها به یک احتمال مشخصی جواب مطلوب می‌دهد که این احتمال با افزایش تعداد دفعات اجرای الگوریتم بیشتر می‌شود. این الگوریتم در ابتدا توسط Fischler و Bolles در اس‌آرآی اینترنشنال در سال ۱۹۸۱ منتشر شد. آنها از RANSAC برای حل مسئله تعیین موقعیت (به انگلیسی: Location Determination Problem) استفاده کردند. در این مسئله هدف تعیین نقاطی در فضا است که نگاشت آنها روی یک تصویر بر روی مجموعه مشخصی از نقاط می‌افتد.
RANSAC از Cantzler, H. "Random sample consensus (ransac)." "Institute for Perception, Action and Behaviour, Division of Informatics, University of Edinburgh" (1981). http://citeseerx.ist.psu.edu/viewdoc/download?doi=10.1.1.106.3035&rep=rep1&type=pdf استفاده می‌کند. یکی از فرض‌های پایه‌ای الگوریتم این است که داده‌ها شامل داده درونی و داده‌های پرت هستند. منظور از داده‌های درونی، داده‌هایی هستند که توزیع آن‌ها قابل بیان توسط مجموعه‌ای از پارامترهای یک مدل است و البته می‌توانند شامل مقداری نویز باشند. داده‌های پرت هم داده‌هایی هستند که با مدل مدنظر سازگار نیستند. منشأ داده‌های پرت می‌تواند مقادیر خیلی زیاد نویز، یا اندازه‌گیری‌های خطادار (هنگام جمع‌آوری داده) یا فرض اشتباه در مورد داده‌ها باشد. RANSAC همچنین این فرض را دارد که با داشتن مجموعه‌ای (معمولا کوچک) از داده‌های درونی، فرایندی وجود دارد که با استفاده از آن می‌تواند پارامترهای مدلی که به صورت بهینه توزیع داده‌ها را بیان می‌کند و با داده‌ها سازگار است، برآورد کرد.
یک مثال ساده، برازش یک خط در دو بعد به یک مجموعه از مشاهدات است. با فرض اینکه این مجموعه هم شامل داده‌های درونی است، یعنی داده‌هایی که به‌طور تقریبی می‌توانند به یک خط برازش شوند، و هم داده‌های پرت، داده‌هایی که به این خط نمی‌توانند برازش شوند، استفاده از روش کمترین مربعات معمولی باعث می‌شود خطی بدست آید که به خوبی به این مجموعه داده برازش نشود. چرا که سعی شده‌است که این خط به همه نقاط برازش شود، که شامل داده‌های پرت نیز هستند. RANSAC اما سعی می‌کند داده‌های پرت را جزو داده‌های مورد استفاده هنگام برازش در نظر نگیرد و مدلی خطیای بیابد که هنگام برازش شدن تنها از داده‌های درونی استفاده می‌کند. این کار با برازش کردن مدل خطی به چندین زیرمجموعه از داده‌ها که تصادفی انتخاب شده‌اند و انتخاب مدلی که بهترین برازش را به زیرمجموعه ای از داده‌ها داشته‌است، انجام می‌شود. از آنجا که داده‌های درونی نسبت به مخلوطی تصادفی از داده‌های درونی و داده‌های پرت، بیشتر به صورت خطی به هم مرتبط هستند، زیرمجموعه تصادفی ای که به صورت کامل از داده‌های درونی تشکیل شده باشد، بهترین برازش مدل خطی را حاصل می‌شود. در عمل، هیچ تضمینی وجود ندارد که زیرمجموعه‌ای انتخاب شود که تنها شامل داده‌های درونی باشد و احتمال موفقیت الگوریتم به نسبت داده‌های درونی به کل داده‌ها و انتخاب پارامترهای الگوریتم بستگی دارد.
الگوریتم RANSAC یک الگوریتم یادگیری برای تخمین پارامترهای یک مدل با نمونه‌گیری تصادفی از داده‌های مشاهده شده‌است. RANSAC با یک روش رای‌گیری، سعی می‌کند تا برازش بهینه را بر روی مجموعه داده‌ای که هم شامل داده‌های درونی و هم داده‌های پرت است، بیابد. هر یک از نمونه‌های موجود در مجموعه داده برای رای‌گیری برای یک یا چند مدل استفاده می‌شوند. پیاده‌سازی این رای‌گیری بر ۲ فرض استوار است: اینکه داده‌های پرت زیاد نیستند تا همواره تأثیر منفی روی رای‌گیری بگذارند و اینکه داده‌های درونی به قدری کافی هستند که بتوان مدل خوبی یافت تا توزیع داده‌های درونی را به خوبی بیان کند یا به به عبارتی دیگر، داده‌های از دست رفته زیاد نیستند. الگوریتم RANSAC شامل دو مرحله است که مکرراً اجرا می‌شوند:
مجموعه داده‌های درونی بدست آمده برای مدل برازش شونده مجموعه اجماع نام می‌گیرد. الگوریتم RANSAC این دو مرحله را آنقدر تکرار می‌کند تا مجموعه اجماع به دست آمده اندازه مطلوب را داشته باشد.
ورودی الگوریتم شامل یک مجموعه داده، روشی برای برازش کردن یک مدل به مشاهدات و تعدادی پارامترهای اطمینان است. روند الگوریتم به صورت دقیق تر در زیر آورده شده‌است:
این روند تعداد مشخصی بار اجرا می‌شود و هر بار یا مدل به دلیل سازگاری با تعداد کمی از اعضای مجموعه داده رد می‌شود، یا یک مدل بهبود یافته بهمراه مجموعه اجماع متناظر با آن بدست می‌آید. در حالت دوم، مدل را به عنوان مدل بهینه تا اینجای کار در نظر می‌گیریم اگر اندازه مجموعه اجماع آن از اندازه مجموعه اجماع متناظر مدل بهینه قبلی بزرگتر باشد.
شبه کد الگوریتم RANSAC در زیر آورده شده‌است:<syntaxhighlight>
Given:
Return:
iterations = 0
bestFit = null
bestErr = something really large
while iterations < k do
return bestFit
در این قطعه علاوه بر پیاده‌سازی شبه کد، کد یک codice_1 بر پایه کمترین مربعات تعریف شده‌است. همچنین الگوریتم codice_2 بر روی یک مسئله رگرسیون دوبعدی اعمال می‌شود و نتایج به تصویر کشیده شده‌اند:
from copy import copy
from numpy.random import default_rng
rng = default_rng()
class RANSAC:
def square_error_loss(y_true, y_pred):
def mean_square_error(y_true, y_pred):
class LinearRegressor:
آلفردو تنا (؛ زادهٔ ) بازیکن سابق و مربی فوتبال اهل مکزیک است.
مانوئل ناخرا (؛ زادهٔ ) بازیکن فوتبال اهل مکزیک بود.
خوسه پیلار ریس (؛ زادهٔ ) بازیکن فوتبال اهل مکزیک بود.
از باشگاه‌هایی که در آن بازی کرده‌است می‌توان به باشگاه فوتبال مونتری و باشگاه فوتبال تیگرس اونال اشاره کرد.
گیرمو مندیسابال (؛ زادهٔ ) بازیکن فوتبال اهل مکزیک بود.
از باشگاه‌هایی که در آن بازی کرده‌است می‌توان به باشگاه فوتبال گوادالاخارا، باشگاه فوتبال رایو وایکانو، و باشگاه فوتبال کروز آزول اشاره کرد.
آرتورو واسکس آیالا (؛ زادهٔ ) بازیکن فوتبال اهل مکزیک بود.
از باشگاه‌هایی که در آن بازی کرده‌است می‌توان به باشگاه فوتبال گوادالاخارا و باشگاه فوتبال اونیورسیداد ناسیونال اشاره کرد.
ادواردو راموس (؛ زادهٔ ) بازیکن فوتبال اهل مکزیک بود.
مدل سازنده مبتنی بر جریان نوعی مدل سازنده است که در یادگیری ماشین استفاده می‌شود که یک توزیع احتمال را با اعمال جریان نرمال‌سازی مدل می‌کند. این یک روش آماری با استفاده از قانون تغییر متغیر احتمالات برای تبدیل یک توزیع ساده به یک توزیع پیچیده‌است. مدل‌سازی مستقیم احتمال مزایای بسیاری دارد و نمونه‌های جدید را می‌توان با نمونه برداری از توزیع اولیه و اعمال تبدیل جریان تولید کرد. در مقابل مدل سازنده مبتنی بر جریان، بسیاری از روش‌های مدل‌سازی سازنده جایگزین مانند خودرمزگذار متغیر (VAE) و شبکه‌های سازنده تخاصمی تابع احتمال را نشان نمی‌دهند.
این روش شبیه به خودرمزگذار متغیر است با این تفاوت که به جای استفاده از رمزگذار و رمزگشا از یک جریان معکوس پذیر استفاده می‌شود. به این صورت که به جای رمزگذاری، جریان، ورودی را به فضای داده انتقال می‌دهد و سپس معکوس جریان، خروجی را تولید می‌کند. هدف این است که خروجی و ورودی کمترین تفاوت را با یکدیگر داشته باشند. پس از یادگیری به این روش، مدل باید قادر باشد تا با گرفتن یک بردار ویژگی از فضا و استفاده از معکوس جریان، خروجی معقولی تولید کند.
انواع مختلفی از این مدل‌ها وجود دارد. در اینجا به توضیح دو مورد از مهم‌ترین نمونه‌ها می‌پردازیم.
این مدل کلی‌شده نوع دیگری از مدل‌های مبتنی بر جریان به نام NICE است. روابط آن به صورت زیر می‌باشد:
معکوس آن formula_2 و ژاکوبین آن formula_3 است. که formula_4 در آن خروجی جریان و formula_5 هر شبکه عصبی با وزن‌های formula_6 است.
نقشه Real NVP نیمه اول و دوم بردار formula_7 را جدا نگه می‌دارد، معمولاً باید بعد از هر لایه Real NVP یک جایگشت به صورت formula_8 اضافه شود.
در این مدل، هر لایه ۳ قسمت دارد.
و ژاکوبینformula_10
formula_11با ژاکوبین formula_12 است که formula_13 هر ماتریس دلخواه معکوس پذیر است.
علت استفاده از لایه کانولوشن معکوس پذیر 1x1 استفاده از جایگشت همه لایه‌هاست. (برخلاف Real NVP که تنها از جایگشت نیمه‌های اول و دوم استفاده می‌کند)
علی‌رغم اینکه نرمال سازی جریان‌ها در تخمین چگالی‌های ابعاد بالا موفق بوده‌است، برخی از جنبه‌های منفی هنوز در آنها وجود دارد. اول از همه، فضای پنهان آنها که در آن داده‌های ورودی بر روی آن پیش‌بینی می‌شود، فضایی با ابعاد پایین‌تر نیست و بنابراین، مدل‌های مبتنی بر جریان به‌طور پیش فرض اجازه فشرده سازی داده‌ها را نمی‌دهند و به محاسبات زیادی نیاز دارند. با این حال، هنوز امکان فشرده سازی تصویر با آنها وجود دارد. همچنین این مدل‌ها در تخمین احتمال نمونه‌های خارج از توزیع (نمونه‌هایی که از توزیع مشابه داده‌های یادگیری استخراج نشده‌اند) ناموفق هستند. برخی فرضیه‌ها به توضیح این پدیده می‌پردازند که از جمله آنها فرضیه مجموعه معمولی است.
یکی از جالب‌ترین ویژگی‌های نرمال‌سازی جریان‌ها، معکوس‌پذیری جریان آنهاست. این ویژگی توسط محدودیت‌هایی در طراحی مدل‌ها داده می‌شود که وارونگی نظری را تضمین می‌کنند. یکپارچگی معکوس به منظور اطمینان از کاربردی بودن قضیه تغییر متغیر، محاسبه ژاکوبین جریان و همچنین نمونه برداری با مدل مهم است. با این حال، در عمل این برگشت‌پذیری نقض می‌شود.
مدل‌های مولد مبتنی بر جریان در کاربردهای مختلفی استفاده شده‌اند، از جمله:
کمربند چین‌خوردگی و راندگی ، مجموعه‌ای از کوهپایه‌های کوهستانی در مجاورت یک کمربند کوه‌زایی است که به دلیل تکتونیک انقباضی شکل می‌گیرد. کمربندهای چین و رانش معمولاً در مناطق پیشین مجاور کوه‌زایی‌های اصلی تشکیل می‌شوند، زیرا تغییر شکل به سوی بیرون منتشر می‌شود. کمربند چین و رانش معمولاً شامل هر دو پدیده چین‌خوردگی و گسل‌های راندگی هستند که معمولاً به هم مرتبط هستند. آنها معمولاً به عنوان کمربندهای چین‌خوردگی و راندگی یا به سادگی کمربندهای چین-رانش نیز شناخته می‌شوند.
یادگیری چندوجهی (به انگلیسی: Multimodal Learning) یک زمینه تحقیقاتی چند رشته‌ای پر جنب و جوش است که هدف آن طراحی عوامل کامپیوتری (به انگلیسی: Computer Agents) با قابلیت‌های هوشمندانه مانند درک، استدلال و یادگیری از طریق یکپارچه‌سازی روش‌های ارتباطی متعدد، از جمله پیام‌های زبانی، صوتی، بصری، لمسی و فیزیولوژیکی است.
یادگیری چندوجهی سعی بر مدل‌سازی ترکیبی از روش‌های مختلف داده دارد. این مسئله‌ها اغلب در برنامه‌های کاربردی دنیای واقعی به وجود می‌آیند. نمونه‌ای از داده‌های چندوجهی، داده‌هایی است که متن (معمولاً به صورت بردارهای شمارش کلمات گسسته نشان داده می‌شوند) را با داده‌های تصویربرداری که شامل شدت و برچسب‌های حاشیه‌نویسی پیکسل هستند ترکیب می‌کند. از آنجایی که این روش‌ها ویژگی‌های آماری متفاوتی دارند، ترکیب آن‌ها در نگاه اول بی‌اهمیت است، به همین دلیل است که استراتژی‌ها و الگوریتم‌های مدل‌سازی تخصصی مورد نیاز است.
تجربه ما از جهان چندوجهی است - ما اشیاء را می بینیم، صداها را می شنویم، بافت را احساس می کنیم، بوها را استشمام می کنیم و طعم ها را می چشیم. برای اینکه هوش مصنوعی در درک دنیای اطراف ما پیشرفت کند، باید بتواند چنین سیگنال های چندوجهی را با هم تفسیر کند. به عنوان مثال، تصاویر معمولاً با برچسب ها و توضیحات متن همراه هستند. متون حاوی تصاویری برای بیان واضح تر ایده اصلی مقاله هستند. روش های مختلف با ویژگی های آماری بسیار متفاوت مشخص می شوند.
همه مدل‌های سنتی هوش مصنوعی تک‌وجهی هستند، زیرا برای انجام یک کار واحد توسعه یافته و مورد نیاز هستند. به عنوان مثال، یک سیستم تشخیص چهره با یک ورودی ارائه می شود، مانند تصویری از یک شخص که آن را تجزیه و تحلیل می کند و با سایر تصاویر مقایسه می کند تا مطابقت پیدا کند.
یک پزشک تا زمانی که تمام داده های موجود را تجزیه و تحلیل نکند، تشخیص کامل نمی دهد، مانند گزارش های پزشکی، علائم بیمار، سابقه بیمار، و غیره.
مدل‌ها و الگوریتم‌های زیادی برای بازیابی و طبقه‌بندی نوع خاصی از داده‌ها پیاده‌سازی شده‌اند، به عنوان مثال، تصویر یا متن (جایی که انسان‌هایی که با ماشین‌ها تعامل دارند می‌توانند تصاویر را به شکلی از عکس و متن استخراج کنند که می‌تواند هر پیامی باشد و غیره). با این حال، داده‌ها معمولاً با روش‌های مختلفی ارائه می‌شوند (درجهی است که اجزای یک سیستم ممکن است جدا یا ترکیب شوند) که اطلاعات متفاوتی را حمل می‌کنند. برای مثال، نوشتن شرح تصویر برای انتقال اطلاعاتی که در خود تصویر ارائه نشده است، بسیار رایج است. به طور مشابه، گاهی اوقات استفاده از یک تصویر برای توصیف اطلاعاتی که ممکن است از متون واضح نباشد، ساده‌تر است. در نتیجه، اگر کلمات متفاوتی در تصاویر مشابه ظاهر شوند، احتمالاً این کلمات یک چیز را توصیف می کنند. برعکس، اگر از کلمه ای برای توصیف تصاویر به ظاهر متفاوت استفاده شود، آنگاه این تصاویر ممکن است همان شی را نشان دهند. بنابراین، در مواردی که با داده‌های چندوجهی سروکار دارند، استفاده از مدلی که قادر به نمایش مشترک اطلاعات باشد، مهم است که مدل بتواند ساختار همبستگی بین روش‌های مختلف را به تصویر بکشد. علاوه بر این، همچنین باید بتواند مدالیته‌های از دست رفته را با توجه به موارد مشاهده شده بازیابی کند (به عنوان مثال پیش بینی اشیا در تصویر بر اساس توضیحات متن).
توانایی پردازش همزمان داده های چندوجهی برای پیشرفت در هوش مصنوعی حیاتی است. به عنوان مثال، ما را قادر می سازد به یک شی با چندین زبان مانند بصری، متن یا گفتار اشاره کنیم. با این حال، این مستلزم درک جامع از روش‌ها و روابط مختلف بین آنها است. ناهمگونی داده ها، چالش های منحصر به فردی را برای محققان محاسباتی به همراه دارد. برای رسیدن به این هدف، باید به چند چالش کلیدی بپردازیم:
یک کمربند کوه‌زایی ، کوه‌زایی، یا کمربند جابجایی، ناحیه‌ای از پوسته زمین است که تحت تأثیر کوه‌زایی قرار گرفته‌است. زمانی که صفحه قاره‌ای مچاله می‌شود و برای تشکیل یک یا چند رشته‌کوه بالا می‌رود، یک کمربند کوه‌زایی ایجاد می‌شود. این شامل یک سری فرآیندهای زمین‌شناسی است که در مجموع به نام "کوه‌زایی" نامیده می‌شود.
آنتونیو ده لا توره ویالپاندو (; – ) بازیکن فوتبال اهل مکزیک بود.
از باشگاه‌هایی که در آن بازی کرده‌است می‌توان به باشگاه فوتبال آمریکا، باشگاه فوتبال اطلس، و باشگاه فوتبال اونیورسیداد ناسیونال اشاره کرد.
ویکتور رانخل (؛ زادهٔ ) بازیکن فوتبال اهل مکزیک بود.
از باشگاه‌هایی که در آن بازی کرده‌است می‌توان به باشگاه فوتبال گوادالاخارا و باشگاه فوتبال لئون اشاره کرد.
انریکه لوپس سارسا (؛ زادهٔ ) بازیکن سابق و مربی فوتبال اهل مکزیک است.
از باشگاه‌هایی که در آن بازی کرده‌است می‌توان به باشگاه فوتبال لئون و باشگاه فوتبال اونیورسیداد ناسیونال اشاره کرد.
روش‌های کرنل یک کلاس قدرتمند از الگوریتم‌ها هستند که در یادگیری ماشین برای تحلیل الگو استفاده می‌شوند. آن‌ها به طور ویژه در حل مسائل غیرخطی با استفاده از طبقه‌بندی کننده‌های خطی موثر هستند. معروف ترین و پرکاربردترین الگوریتم در این کلاس، ماشین بردار پشتیبان است.
هدف اصلی تجزیه و تحلیل الگو، کشف و درک انواع مختلف روابط در مجموعه داده‌ها است. این روابط می‌توانند اشکال مختلفی داشته باشند، مانند خوشه‌ها، همبستگی‌ها و طبقه‌بندی‌ها. با استفاده از روش‌های کرنل، می‌توانیم این روابط را حتی در مجموعه داده‌های پیچیده و غیرخطی به طور موثر شناسایی و مطالعه کنیم.
همان‌طور که گفته شد، یکی از مزایای کلیدی روش‌های کرنل، به‌ویژه در ماشین بردار پشتیبان، توانایی آن‌ها در رسیدگی به مسائل غیرخطی با استفاده از طبقه‌بندی‌کننده‌های خطی است. طبقه‌بندی‌کننده‌های خطی سنتی تنها می‌توانند نقاط داده را با استفاده از مرزهای تصمیم خطی جدا کنند، که ممکن است برای مجموعه‌های داده با روابط غیرخطی کافی نباشد. روش‌های کرنل با نگاشت ضمنی داده‌ها در یک فضای ویژگی با ابعاد بالاتر، جایی که جداسازی خطی ممکن می‌شود، بر این محدودیت غلبه می‌کنند. این با استفاده از یک تابع کرنل که شباهت بین جفت نقاط داده را اندازه گیری می‌کند به دست می‌آید.
در الگوریتم‌های یادگیری ماشین سنتی، داده‌های خام باید قبل از استفاده برای تجزیه و تحلیل به شکل بردارهای ویژگی نمایش داده شوند. این فرآیند می‌تواند پیچیده و زمان‌بر باشد. با این حال، روش‌های کرنل رویکرد متفاوتی را ارائه می‌دهند و به جای تبدیل صریح داده‌ها، به یک تابع کرنل مشخص شده نیاز دارند.
تابع کرنل میزان شباهت بین جفت نقاط داده را با استفاده از ضرب داخلی محاسبه می‌کند. این مقدار، رابطه بین نقاط داده در یک فضای ویژگی با ابعاد بالاتر را نشان می‌دهد. مزیت کلیدی روش‌های کرنل این است که به ما اجازه می‌دهند بدون محاسبه صریح مختصات نقاط داده در فضای ویژگی بالاتر، میزان شباهت دو نقطه را اندازه‌گیری کنیم.
با وجود این مزایا، روش‌های کرنل می‌توانند برای مجموعه داده‌های بزرگ، از نظر محاسباتی کند باشند. با این حال، تکنیک‌های پردازش موازی می‌توانند با توزیع محاسبات در چندین پردازنده یا ماشین به کاهش این مشکل کمک کنند.
الگوریتم‌هایی که می‌توانند از تکنیک کرنل استفاده کنند معمولا در روابط آن‌ها داشتن ضرب داخلی بین داده‌های ورودی برای محاسبات کافی است. به عنوان نمونه الگوریتم پرسپترون (perceptron) ٬ ماشین بردار پشتیبان (svm) و تحلیل مولفه‌های اصلی (PCA) می‌توانند از تکنیک کرنل برای انجام الگوریتم در بعد فضای کرنل استفاده کنند.
ترفند کرنل یک مفهوم اساسی در روش‌های کرنل است و از محاسبات بردن داده به بعد بالاتر جلوگیری می‌کند. این تکنیک، الگوریتم‌های یادگیری خطی را قادر می‌سازد تا توابع غیرخطی یا مرزهای تصمیم را مدیریت کنند. در این تکنیک، به ازای هر
در فضای ورودی
را می‌توان به عنوان یک ضرب داخلی در فضای
formula_5 بیان کرد.به تابع formula_6
یک تابع کرنل می‌گویند.
به طور ساده‌تر اگر تابع
یک تابع در نظر بگیرید که هر
را به یک فضای دیگر می‌برد. تابع کرنل را می‌توان به صورت زیر بیان کرد:
هر تابعی به عنوان یک تابع کرنل قابل‌ قبول نیست و قانون مرسر تابع‌های موردقبول
را تعیین می‌کند. این قانون بیان می‌کند یک تابع در صورتی یک کرنل معتبر است که ماتریس گِرم دیتا‌های ما یک ماتریس نیمه مثبت معین باشد. به این معنا که به ازای داده‌های
ماتریس گرم را به صورت
تعریف می‌کنیم. در صورتی که این ماتریس نیمه‌ مثبت معین باشد کرنل تعریف شده معتبر است.
در یک روش کرنل معمولی، داده‌های آموزشی شامل جفت ورودی و برچسب‌های مربوطه هستند که به صورت
نشان داده می‌شوند. در اینجا
نمایانگر ویژگی‌های ورودی است (مثلاً مقادیر پیکسل در یک تصویر)، و
نشان‌دهنده برچسب مربوطه (مثلاً برچسب کلاس تصویر) است. روش‌های هسته به جای یادگیری مجموعه‌ای از پارامترهای ثابت برای ویژگی‌ها، وزن
را برای هر مثال آموزشی
یاد می‌گیرند.
همانطور که می‌دانید برای پیش‌بینی ورودی‌های بدون برچسب، روش‌های کرنل از یک تابع شباهت استفاده می‌کنند که به عنوان کرنل نیز شناخته می‌شود که با
نشان داده می‌شود. این تابع شباهت بین ورودی بدون برچسب
و هر یک از ورودی‌های آموزشی
را اندازه‌گیری می‌کند. تابع شباهت یک امتیاز شباهت بین دو ورودی را محاسبه می‌کند و یک نتیجه با ارزش واقعی را برمی‌گرداند.
طبقه‌بندی‌کننده دوتایی با استفاده از روش کرنل، برچسب
را برای ورودی جدیدی که برچسب ندارد
را با توجه به مثبت یا منفی بودن علامت حاصل از جمع وزن‌دار شباهت‌ها پیش‌بینی می‌کند. وزن‌های
، توسط الگوریتم یادگیری بر اساس مثال‌های آموزشی تعیین می‌شوند. برچسب پیش بینی شده به صورت زیر محاسبه می‌شود:
در این معادله،
نشان‌دهنده برچسب پیش‌بینی‌شده برای ورودی بدون برچسب
. تابع کرنل،
، مسئول اندازه‌گیری شباهت بین هر جفت ورودی
است. محدوده‌ی مجموع‌ها روی
مثال‌ برچسب‌گذاری شده
در مجموعه داده آموزشی، با
بردارهای ویژگی ورودی را نشان می‌دهند. هسته خطی اساساً شباهت بین دو بردار را با حاصل ضرب نقطه‌ای آنها اندازه گیری می‌کند. به ویژه زمانی مفید است که داده‌ها را بتوان به خوبی با یک مرز تصمیم گیری خطی از هم جدا کرد.
کرنل چند جمله‌ای، یک کرنل غیرخطی است که می‌تواند روابط پیچیده‌تری را بین نقاط داده ثبت کند. در اینجا، یکتابع چند جمله ای را بر حاصل ضرب نقطه ای بردارهای ویژگی اعمال می‌کند، که اجازه می‌دهد تا مرزهای تصمیم غیرخطی را تعیین کند.
فرمول کرنل چند جمله‌ای:
در این فرمول
ابرپارامترهای کرنل چند جمله ای هستند. formula_35
تأثیر حاصلضرب نقطه‌ای را کنترل می‌کند،
یک جمله ثابت اختیاری است، و
نشان‌دهنده درجه چند جمله‌ای است. با تنظیم این ابرپارامترها، کرنل چند جمله‌ای می‌تواند درجات مختلفی از غیرخطی بودن را در داده‌ها ثبت کند.
کرنل گاوسی که به عنوان کرنل تابع پایه شعاعی نیز شناخته می‌شود، یک کرنل پرکاربرد است که روابط پیچیده را بدون تعریف صریح درجه یا چند جمله‌ای ثبت می‌کند. شباهت بین نقاط داده را بر اساس فاصله اقلیدسی آن‌ها اندازه‌گیری می‌کند.
فرمول کرنل گاوسی به صورت زیر است:
در این فرمول،
بردارهای ویژگی هستند و
یک ابرپارامتر است که عرض کرنل را کنترل می‌کند. هسته گاوسی شباهت بیشتری (یعنی مقدار کرنل بزرگتر) به نقاط داده‌ای که به یکدیگر نزدیکتر هستند و شباهت کمتری را به نقاطی که از هم دورتر هستند اختصاص می‌دهد. این می‌تواند روابط پیچیده و غیرخطی بین نقاط داده را ثبت کند و معمولاً در برنامه‌هایی مانند تشخیص تصویر و خوشه‌بندی استفاده می‌شود.
فوران ۱۸۸۳ آتشفشان کراکاتوآ () در تنگه سوندا از ۲۰ تا ۲۱ اکتبر روی داد و در ساعت‌های پایانی صبح ۲۷ اوت به اوج خود رسید که در آن زمان بیش از ۷۰٪ از جزیره کراکاتوآ و مجمع‌الجزایرهای پیرامونی آن با فروریختن در کاسه آتشفشانی از بین رفتند.
این فوران یکی از مرگ‌بارترین و مخرب‌ترین رویدادهای آتشفشانی در تاریخ مکتوب بود. صدای انفجار این فوران تا فاصله ۳٬۱۱۰ کیلومتری در پرث در استرالیای غربی و جزیره رودریگز در نزدیکی موریس و در فاصله ۴٬۸۰۰ کیلومتری نیز شنیده شد. فشار موج صوتی این انفجار بیش از سه بار به دور کره زمین چرخید. حداقل ۳۶٬۴۱۷ مورد مرگ به این فوران و سونامی ناشی از آن نسبت داده شده‌است.
تأثیرات قابل توجه دیگری نیز در سراسر جهان در روزها و هفته‌های پس از فوران آتشفشان احساس شد. فعالیت‌های لرزه‌ای بیشتری نیز تا فوریه ۱۸۸۴ گزارش شد ولی گزارش‌های پس از اکتبر ۱۸۸۳ در تحقیقات بعدی توسط راجر وربیک در مورد فوران رد شدند.
خسوس مارتینس (؛ زادهٔ ) بازیکن فوتبال اهل مکزیک بود.
ریگوبرتو سیسنروس (؛ زادهٔ ) بازیکن فوتبال اهل مکزیک بود.
از باشگاه‌هایی که در آن بازی کرده‌است می‌توان به باشگاه فوتبال گوادالاخارا و باشگاه فوتبال مونتری اشاره کرد.
مجمع‌الجزایر کراکاتوآ () مجمع‌الجزایر غیرمسکونی کوچکی است که شامل چند جزیره آتشفشانی پدیدآمده توسط آتشفشان چینه‌ای کراکاتوآ است و در تنگه سوندا بین جزیره‌های بسیار بزرگ‌تر جاوه و سوماترا قرار دارد. این جزایر در مجموع بخشی از سامانه کمان جزیره‌ای اندونزی به‌شمار می‌روند که بر اثر فرورانش رو به شمال‌شرقی صفحه هند-استرالیا پدید آمده‌اند. این مجمع‌الجزایر به‌عنوان بخشی از سامانه فعال آتشفشانی، به صورت پیوسته در تاریخ مکتوب تغییر شکل یافته‌اند که مهم‌ترین مورد آن طی فوران ۱۸۸۳ آتشفشان کراکاتوآ بوده‌است.
مجمع‌الجزایر کراکاتوآ از نظر تقسیمات سیاسی به‌طور کامل در استان لامپونگ اندونزی قرار دارند و بخشی از پارک ملی اوجونگ کولون را شکل داده‌اند.
زنان کوچک یک مینی‌سریال در ژانر درام تاریخیِ بریتانیایی محصول ۲۰۱۷ از تلویزیون بی‌بی‌سی است که از رمان مشهور دوبخشهٔ لوییزا می الکات به همین نام مورد اقتباس قرار گرفته‌است. فیلم‌نامه و اقتباس این مینی‌سریال توسط انجام شد و به کارگردانی آن پرداخت. این سه قسمت یک ساعته نخستین‌بار در روز باکسینگ ۲۰۱۷ و در دو روز پیش‌روی آن، از بی‌بی‌سی وان به روی آنتن تلویزیون رفت. بازیگرانی همچون امیلی واتسون، مایا هاک، مایکل گمبون و آنجلا لنسبوری در آن به ایفای نقش پرداختند. تولید سریال به پشتیبانی از رسانه پی‌بی‌اس به اتمام رسید و به‌عنوان بخشی از مجموعه آنتولوژی مسترپیس به نمایش گذاشته شد.
شخصیت‌ها
مایا هاک در نقش جو مارچ
امیلی واتسون در نقش مارمی
کاترین نیوتون در نقش بث مارچ
قانون شکنان (انگلیسی: The Out-Laws) یک فیلم کمدی-جنایی آمریکایی به کارگردانی تایلر اسپندل با بازی آدام دیواین، پیرس برازنان، الن بارکین، نینا دوبرو، مایکل روکر، پورنا جاگاناتان، جولی هاگرتی، ریچارد کایند، لیل رل هاوری و بلیک اندرسون است.
این فیلم توسط نتفلیکس در سال ۲۰۲۳ منتشر شد.
این فیلم دربارهٔ یک مدیر بانک به نام اوون است که بانک او توسط گروهی بدنام از تبهکاران معروف به راهزنان ارواح نگهداری می‌شود. این سرقت در هفته عروسی او اتفاق می‌افتد و برخی شاخص‌ها او را به این باور می‌رساند که گروه سارقان بانک در واقع ممکن است والدین همسر آینده او باشند که به تازگی وارد شهر شده‌اند.
فیلمبرداری در ۲۲ اکتبر ۲۰۲۱ در آتلانتا، جورجیا آغاز شد و تا ۱۸ دسامبر ادامه داشت.
مارکیو رزنده ده فریتاس (زاده ۲۲ دسامبر ۱۹۶۰ در تیموتئو) یک داور سابق فوتبال برزیلی است. او بیش از ۱،۱۰۰ بازی را قضاوت کرده است که ۲۶۹ مورد آن در مسابقات قهرمانی کشور بین سال‌های ۱۹۸۹ تا ۲۰۰۵ قضاوت کرده است. وی در مسابقات جهانی و بازی‌های المپیک حضور داشت. او در سال ۲۰۰۴ به عنوان یکی از ۱۰ داور برتر جهان در نظر گرفته شد.
تنظیم دقیق (Fine-Tuning) فرایندی است که در آن پارامترهای یک مدل باید به‌صورت خیلی دقیقی تنظیم شوند تا مدل با مشاهدات مشخصی تناسب پیدا کند. این فرایند در یادگیری ماشین یک فرایند بسیار متداول است که در آن با اضافه کردن لایه های جدید مدل از پیش آموزش داده شده‌ای، سعی می‌شود که پارامتر های آن مدل حاصل به گونه ای تنظیم شود که دقت مدل روی یک مجموعه داده ی جدید نیز بالا رود.
در مدل های شبکه عصبی پردازش تصویر که کار آن ها دسته‌بندی(Classification)است، ابتدا لایه آخر را که فرضاً یک لایه n نورونی به m نورون(که در اینجا m نشان دهنده ی تعداد کلاس های دیتاست اصلی مدل است) را حذف می‌کنیم. سپس لایه آخر را یک لایه ی n به k(که در اینجا k نشان دهنده ی تعداد کلاس های دیتاستی میباشد که میخواهیم مدل را روی آن تنظیم دقیق کنیم) می‌گذاریم. حال وزن های همه لایه ها به جز لایه آخر که خودمان اضافه کردیم را ثابت میکنیم و حال دوباره مدل را آموزش می‌دهیم تا روی این دیتاست به دقت بالایی برسد.
واضح است که یادگیری انتقالی یک روش کارامد است و درک مناسبی از اینکه چرا کارامد می‌باشد داریم. مدل، ویژگی(Feature)های بسیاری را از تصاویری که قبلاً روی آنها آموزش داده شده است یادگرفته تا یک تصویر کلی مناسبی از اینکه دسته‌بندی تصاویر چگونه است داشته باشد.
در مسائل Ensemble هدف این است که به مدلی دستیابی پیدا کنیم که بتواند به بهترین شکل ممکن، خروجی را پیش‌بینی کند. در نتیجه به جای ساختن یک مدل و امید داشتن به آن که این مدل بهترین پیش‌بینی را از خروجی میکند، روش‌های مجموعه‌ای مدل‌های بی‌شماری را در نظر می‌گیرند و آن مدل‌ها را برای تولید یک مدل نهایی میانگین می‌گیرند. توجه به این نکته مهم است که Ensemble learning تنها شکل متدهای گروهی نیستند، بلکه امروزه محبوب‌ترین و مرتبط‌ترین روش‌ها در Data Science هستند.
BAGGing یا Bootstrap AGGregating. BAGGing نام خود را به این دلیل گرفت که Bootstrapping و Aggregation را برای تشکیل یک مدل گروه ترکیب می کند. با توجه به نمونه ای از داده ها، چندین نمونه فرعی بوت استرپ کشیده می شوند. یک درخت تصمیم بر روی هر یک از نمونه های فرعی بوت استرپ تشکیل می شود. پس از تشکیل هر زیرنمونه درخت تصمیم، از الگوریتمی برای تجمیع درختان تصمیم برای تشکیل کارآمدترین پیش‌بینی کننده استفاده می شود. که در این مرحله معمولاً از Major voting استفاده می‌شود.
مرحله 1 - تصمیم‌گیری در مورد توپولوژی شبکه (در واقع بهینه‌سازی در نظر گرفته نمی شود، اما واضح است که بسیار مهم است)
مرحله 2 - تنظیم کردن نرخ یادگیری(Learning Rate)
یکی از رایج ترین الگوریتم های بهینه‌سازی، استوکستیک گرادیان دیسنت (SGD) است. ابرپارامترهایی که می توانند در SGD بهینه شوند عبارتند از نرخ یادگیری، تکانه، Decay و nesterov.
مرحله 3 - انتخاب یک Optimizer و یک تابع هزینه
مرحله 4 - تعیین کردن Batch size و تعداد Epoch وسپس استفاده از متدهای Cross Validation برای تنظیم ابرپارامترها
تخصیص مقادیر تصادفی به وزن ها بهتر از تخصیص 0 است. اما نکته ای وجود دارد که باید به خاطر داشته باشم این است که چه اتفاقی می افتد اگر وزن ها با مقادیر بالا یا مقادیر بسیار پایین مقداردهی اولیه شوند و یک مقدار اولیه اولیه منطقی برای مقادیر وزن چیست.
الف) اگر وزن ها با مقادیر بسیار بالا مقداردهی اولیه شوند، عبارت np.dot(W,X)+b به طور قابل توجهی بالاتر می شود و اگر یک تابع فعال سازی مانند sigmoid() اعمال شود، تابع مقدار خود را نزدیک به 1 در جایی که شیب گرادیان دارد ترسیم می کند. به آرامی تغییر می کند و یادگیری زمان زیادی می برد.
ب) اگر وزن ها با مقادیر کم مقدار دهی اولیه شوند، به 0 نگاشت می شود، جایی که حالت مانند بالا است.
اولین ابرپارامتری که ما سعی خواهیم کرد از طریق Cross Validation بهینه‌سازی کنیم، مقدار اولیه وزن های مختلف است. مقدار دهی اولیه وزن روشی برای تنظیم وزن شبکه عصبی به مقادیر تصادفی کوچک است که نقطه شروع بهینه سازی (یادگیری یا آموزش) مدل شبکه عصبی را مشخص می کند.
سید امرالله شاه‌ابراهیمی (۱۳۰۲ در صحنه - ۱۳۸۲ در صحنه) موسیقی‌دان، کلام‌خوان، مقام‌دان و نوازندۀ تنبور کُرد اهل ایران و یکی از شخصیت‌های دینی یارسان بود. امرالله شاه‌ابراهیمی در دهۀ ۱۳۵۰ که تنبورسازی فقط منحصر به منطقۀ کرمانشاه و مراسم مذهبی و آیینی یارسان بود، فعالیت‌های مفید و مؤثری انجام داد تا این ساز را به دیگران معرفی کند. از وی به عنوان یکی از برجسته‌ترین تنبورنوازان و مقام‌دان‌های معاصر و نیز «اسطورۀ تنبور کُرد» یاد شده‌است.
سید امرالله شاه‌ابراهیمی در ۱۳۰۲ در صحنه در استان کرمانشاه در خانواده‌ای از خاندان شاه‌ابراهیمی که از مسندنشینان یارسان بودند به دنیا آمد. پدرش سید لطف‌الله شاه‌ابراهیمی از رهبران یارسان و استادان برجستۀ تنبور بود که به اولین استاد او تبدیل شد. امرالله شاه‌ابراهیمی علاوه بر پدرش نزد تنبورنوازانی مانند درویش سعدی، سید هادی اجاق، سیدآقاعزیز ذوالنوری و حسین روحتافی به شاگردی پرداخت و دانش خود را در زمینۀ موسیقی و نوازندگی تنبور تکمیل کرد.
امرالله شاه‌ابراهیمی علاوه بر تنبور، سازهای تار و سه‌تار را نیز نزد سیداحمد اعتضادی که از شاگردان درویش‌خان بود آموخت. شاه‌ابراهیمی در دهۀ پنجاه با تشویق «وزارت فرهنگ و هنر» اولین کلاس رسمی آموزش تنبور را در شهر صحنه در استان کرمانشاه برپا کرد.
از امرالله شاه‌ابراهیمی به عنوان تاثیرگذارترین تنبورنواز معاصر یاد شده‌است. تا قبل از او، تنبور بیشتر به صورت تکنوازی و فقط در کرمانشاه و در مراسم جم یارسان نواخته می‌شد، اما شاه‌ابراهیمی در سال ۱۳۵۲ با تشکیل "«گروه تنبورنوازان»" که همگی از شاگردان خودش بودند، توانست تنبور را به مجامع هنری در سایر نقاط ایران و جهان معرفی کند.
امرالله شاه‌ابراهیمی به همراهی «گروه تنبورنوازان» در جشنواره‌های موسیقی کُردی در تالار رودکی، جشن فرهنگ و مردم در اصفهان و برنامۀ موسیقی عرفانی در تالار چهل‌ستون کنسرت‌هایی را برگزار کرد. این کنسرت‌ها اولین اجراهای موسیقی تنبور به صورت گروه‌نوازی بود که باعث شناساندن این ساز و موسیقی همراه با آن به مردم دیگر نقاط ایران شد.
در سال ۱۳۵۹ «گروه تنبور شمس» به سرپرستی کیخسرو پورناظری و «گروه باباطاهر» به سرپرستی سید خلیل عالی‌نژاد تشکیل شد. این گروه‌ها از «گروه تنبورنوازان» منشعب شدند و هر دو از شاگردان امرالله شاه‌ابراهیمی بودند.
بسیاری از تنبورنوازان برجستۀ معاصر از شاگردان سیدامرالله محسوب می‌شوند که از میان آن‌ها می‌توان به سید خلیل عالی‌نژاد، کیخسرو پورناظری، سید قاسم حقیقت‌نژاد، سید یحیی رعنایی، سید فرامرز رعنایی، معصوم شربتی، سید آرش شهریاری و ادیب شاه‌ابراهیمی اشاره کرد.
از امرالله شاه‌ابراهیمی یک آلبوم موسیقی با عنوان «سماع» منتشر شده که ۱۳ قطعه از تکنوازی‌های او از مقام‌های تنبور را شامل می‌شود.
امرالله شاه‌ابراهیمی در سال ۱۳۸۲ در سن ۸۰ سالگی در شهر صحنه درگذشت.
واسط عضوی از یک مجموعه داده یا خوشه (به انگلیسی: Cluster) بوده که مجموع تفاوت‌هایش از دیگر اعضای آن مجموعه کمینه است. واسط‌ از نظر عملکرد شبیه به میانگین (به انگلیسی: Mean) و مرکزوار (به انگلیسی: Centroid) است. البته، یک تفاوت اساسی میان آن‌ها وجود دارد. باید به این نکته توجه کرد که واسط‌ حتما عضوی از مجموعه مدنظر است؛ این در حالی است که میانگین و مرکزوار می‌توانند مقداری خارج از مجموعه داشته باشند.
گاهی اوقات در ساختارهایی مانند گراف‌ها نمی‌توان از میانگین و مرکزوار استفاده کرد؛ زیرا، ممکن است این شاخص‌های مرکزی خارج از ساختار گراف تعریف شوند. به همین دلیل است که استفاده از واسط در این حوزه کاربرد بیش‌تری دارد؛ چرا که واسط مجموعه رئوس یک گراف، یک راس از میان آن‌ها است. هم‌چنین، در حوزه بیان ژن نیز نمی‌توان از میانگین و مرکزوار به عنوان نماینده مجموعه داده استفاده کرد.
اساس تعریف واسط‌ها به استفاده‌ی آن‌ها در الگوریتم خوشه‌بندی کی‌-واسط (به انگلیسی: K-Medoids) بر می‌گردد. از نظر عملکردی، الگوریتم کی‌-واسط شبیه به الگوریتم کی-میانگین (به انگلیسی: K-Means) است. نقطه‌ی تفاوت این دو الگوریتم را می‌توان در امکان تعریف‌پذیر نبودن میانگین دانست. در این صورت، استفاده از الگوریتم کی‌-واسط پیشنهاد می‌شود.
فرض کنید formula_1 مجموعه‌ نقاطی از یک فضای متری (به انگلیسی: Metric space) با تابع فاصله‌ formula_2 باشد. واسط این مجموعه، یا همان formula_3، به صورت زیر تعریف می‌شود:
فرض کنید formula_5 یک مجموعه داده دلخواه در فضای دو بعدی باشد. فاصله‌ی اقلیدسی دو به دوی نقاط به صورت زیر است:
formula_6formula_7formula_8formula_9formula_10formula_11formula_12formula_13formula_14formula_15
با توجه به محاسبات بالا formula_16 خواهد بود و مجموع تفاوت‌های این عضو از دیگر اعضای مجموعه formula_17 کمینه است.
فرض کنید مجموعه formula_1 داده شده است.
ساده‌ترین الگوریتمی که می‌توان برای محاسبه واسط ارائه کرد، محاسبه‌ی دو به دوی فاصله‌‌ی داده‌ها از یک‌دیگر است. این کار از formula_19 زمان خواهد برد. با این حال، الگوریتم‌های دیگری وجود دارند که در حالات خاصی می‌توانند واسط مجموعه را به صورت دقیق و یا تقریبی محاسبه کنند. تعدادی از این الگوریتم‌ها در زیر لیست شده‌اند:
این الگوریتم میانگین فاصله هر نقطه تا بقیه نقاط را با نمونه‌برداری (به انگلیسی: Sampling) از زیرمجموعه‌ای تصادفی از نقاط دیگر تخمین می‌زند. این کار از formula_20 زمان خواهد برد.
این الگوریتم با فرض داشتن یک آگاهی اولیه از توزیع فواصل متوسط می‌تواند واسط را به صورت دقیق و با احتمال زیاد محاسبه کند. این کار از formula_21 زمان خواهد برد.
این الگوریتم با استفاده از نابرابری مثلثی و با داشتن یک آگاهی اولیه از توزیع نقاط می‌تواند واسط را به صورت دقیق محاسبه کند. این کار از formula_22 زمان خواهد برد.
در صورتی که تمام نقاط مجموعه بر روی یک خط قرار بگیرند، کافی است میانه‌ این نقاط را محاسبه کنیم. این کار از formula_23 زمان خواهد برد.
پر () یا فارا نوعی مدل مو است که در دهۀ ۱۹۷۰ میلادی تا اوایل دهۀ ۸۰ رایج بود. این مدل مو برای موهای لخت طراحی شده بود و به شکل لایه‌لایه کوتاه می‌شد. این مدل مو به طرفین یا بالا شانه می‌شد و حالتی شبیه پر پرندگان به خود می‌گرفت.
این مدل مو در اوایل دهۀ ۱۹۷۰ به اوج محبوبیت خود رسید و افراد سرشناس بسیاری، از جمله دوروتی همیل، راب لو و جان تراوالتا از آن استفاده می‌کرد، اما این مدل مو بیشتر با نام فارا فاست معروف شده است.
نظریه یادگیری آماری چارچوبی برای یادگیری ماشینی است که از زمینه های آمار و آنالیز تابعی گرفته می شود. (1995) "The Nature of Statistical Learning Theory | Vladimir Vapnik | Springer (به انگلیسی). Trevor Hastie, Robert Tibshirani, Jerome Friedman (2009) The Elements of Statistical Learning, Springer-Verlag(به انگلیسی).Mohri, Mehryar; Rostamizadeh, Afshin; Talwalkar, Ameet (2012). Foundations of Machine Learning. USA, Massachusetts: MIT Press(به انگلیسی) نظریه یادگیری آماری با مسئله استنباط آماری یافتن یک تابع پیش بینی بر اساس داده ها سر و کار دارد. تئوری یادگیری آماری منجر به کاربردهای موفقی در زمینه هایی مانند بینایی کامپیوتر، بازشناسی گفتار و بیوانفورماتیک شده است.
اهداف یادگیری درک و پیش بینی است. یادگیری به دسته های زیادی تقسیم می شود، از جمله یادگیری نظارت‌شده، یادگیری خودران، یادگیری ماشین برخط و یادگیری تقویتی. از دیدگاه تئوری یادگیری آماری، یادگیری تحت نظارت به بهترین وجه قابل درک است.Tomaso Poggio, Lorenzo Rosasco, et al. "Statistical Learning Theory and Applications", 2012,(به انگلیسی) Class 1 یادگیری تحت نظارت شامل یادگیری از مجموعه داده‌های آموزشی است. هر نقطه در آموزش یک جفت ورودی-خروجی است، جایی که ورودی به یک خروجی نگاشت می شود. مسئله یادگیری شامل استنباط تابعی است که بین ورودی و خروجی نگاشت می شود، به طوری که تابع آموخته شده بتواند برای پیش بینی خروجی از ورودی های آینده استفاده شود.
بسته به نوع خروجی، مسائل یادگیری تحت نظارت یا مسائل رگریسون یا مسائل طبقه‌بندی هستند. اگر خروجی یک محدوده پیوسته از مقادیر را بگیرد، مسئله رگرسیون است. مسائل طبقه بندی آنهایی هستند که خروجی آنها عنصری از مجموعه ای مجزا از برچسب ها خواهد بود. طبقه بندی برای کاربردهای یادگیری ماشین بسیار رایج است. به عنوان مثال، در تشخیص چهره، تصویری از چهره یک فرد ورودی است و برچسب خروجی نام آن شخص خواهد بود. ورودی با یک بردار چند بعدی بزرگ نشان داده می شود که عناصر آن پیکسل ها را در تصویر نشان می دهند.
پس از یادگیری یک تابع بر اساس داده های مجموعه آموزشی، آن تابع بر روی یک مجموعه آزمایشی از داده ها، داده هایی که در مجموعه آموزشی ظاهر نشده اند، اعتبارسنجی می شود.
formula_1 را فضای برداری همه ورودی‌های ممکن و formula_2 را فضای برداری همه خروجی‌های ممکن در نظر بگیرید. تئوری یادگیری آماری این دیدگاه را ارائه می‌دهد که توزیع احتمال ناشناخته‌ای در فضای formula_3 وجود دارد، یعنی یک formula_4 ناشناخته‌ای وجود دارد. مجموعه آموزشی از formula_5 نمونه از این توزیع احتمال تشکیل شده است و علامت گذاری شده است.
هر formula_7 یک بردار ورودی از داده های آموزشی است و formula_8 خروجی مربوط به آن است.
طبق این تعریف، مسئله استنتاج عبارت است از یافتن تابع formula_9 به طوری که formula_10. بگذارید formula_11 فضایی از توابع formula_9 باشد که فضای فرضیه نامیده می‌شود. فضای فرضیه فضای توابعی است که الگوریتم در آن جستجو می کند. بگذارید formula_13 تابع هزینه باشد، معیاری برای تفاوت بین مقدار پیش‌بینی‌شده formula_14 و مقدار واقعی formula_15. ریسک مورد انتظار تعریف شده است:
تابع هدف،آن تابع formula_17است که برآورده میکند:
از آنجایی که توزیع احتمال formula_19 ناشناخته است، باید یک معیار تقریبی برای ریسک مورد انتظار استفاده شود. این مقدار بر اساس مجموعه آموزشی، نمونه ای از این توزیع احتمال ناشناخته است. به آن ریسک تجربی می گویند:
الگوریتم یادگیری که تابع formula_21 را انتخاب می‌کند که ریسک تجربی را به حداقل می‌رساند، حداقل‌سازی ریسک تجربی نامیده می‌شود.
انتخاب تابع هزینه یک عامل تعیین کننده بر روی تابع formula_21 است که توسط الگوریتم یادگیری انتخاب خواهد شد. تابع هزینه همچنین بر نرخ همگرایی یک الگوریتم تأثیر می گذارد. مهم است که تابع هزینه, محدب باشد.
بسته به اینکه مشکل مربوط به رگرسیون یا طبقه بندی باشد، از توابع هزینه متفاوتی استفاده می شود.
متداول ترین تابع هزینه برای رگرسیون، تابع هزینه مربعات است (همچنین به عنوان نرم درجه دو شناخته می شود). این تابع هزینه آشنا در کمترین مربعات معمولی استفاده می شود. به این صورت:
هزینه قدر مطلق (همچنین به عنوان نرم درجه یک نیز شناخته می شود) گاهی اوقات استفاده می شود:
به نوعی، تابع مشخصه0-1 طبیعی ترین تابع هزینه برای طبقه بندی است. اگر خروجی پیش بینی شده با خروجی واقعی یکسان باشد، مقدار 0 را می گیرد و اگر خروجی پیش بینی شده با خروجی واقعی متفاوت باشد، مقدار 1 را می گیرد. برای طبقه بندی دودویی با formula_25، این تابع برابر است با:
که در آن formula_27 تابع پله‌ای یکه است.