قضیه انحرافات بزرگ
در نظریهٔ احتمال، تئوری انحرافات بزرگ مربوط است به بررسی رفتار حدی دنباله‌ای از توزیع‌های آماری، در طی مشاهدهٔ داده‌های جدید. برخی از ایده‌های اساسی تئوری را می‌توان به لاپلاس یا کرامر نسبت داد. اگرچه این تئوری به شیوه‌ای که امروزه می‌شناسیم توسط وارادهان در سال ۱۹۶۶ معرفی شد. این تئوری، مقهوم همگرایی اندازهٔ توزیع‌های احتمالی را پایه‌ریزی می‌کند. اگر بخواهیم این تئوری را کمی غیررسمی تر توصیف کنیم، این قضیه درگیر است با بررسی رفتار حدی توزیع‌های آماری، بخصوص رفتار دنباله‌ای ، در شرایطی که داده‌های جدید مشاهده می‌شود.
مثالی را در نظر بگیرید که در آن یک سکه متقارن(احتمال رو و پشت برابر) را به دفعات پرتاب می‌کنیم. اجازه دهید که نتیجهٔ پرتاب i-امین سکه را با formula_1 نشان دهیم. در شرایط که ما رخداد سر را با ۱ و رخداد پشت را با ۰ نشان می‌دهیم. حال فرض کنیم formula_2 میانگین بعد از پرتاپ formula_3 امین سکه را نشان دهد.
می دانیم که مقدار formula_2 بین ۰ و ۱ قرار دارد. از قضیهٔ اعداد بزرگ (و همچنین از روی تجربه) می دانیم که هر چقدر که مقدار formula_3 بزرگتر شود، توزیع formula_2 به formula_8 (یا مقدار انتظاری در پرتاپ یک سکه) نزدیک تر خواهد شد. همچنین بر اساس قضیهٔ حد مرکزی می دانیم که formula_2 دارای توزیع نرمال حول formula_10 به ازای مقادیر بزرگ formula_3 است. قضیهٔ حد مرکزی نسبت به قضیهٔ اعداد بزرگ اطلاعات بسیاری را می‌تواند در مورد رفتار formula_2 ارائه دهد. مثلاً به آسانی می‌توانیم توزیع دنباله‌ای formula_2 یا formula_14 (احتمال اینکه متغیر تصادفی formula_2 بزرگنر از مقدار ثابت formula_16 باشد، به ازای مقدار ثابتی از formula_3.) هرچند که که این تقریب قضیه حد مرکزی به ازای مقدار formula_16 خیلی دور از formula_19 چندان دقیق نیست. در واقع قضیهٔ حد مرکزی هرچند که در مورد نحوهٔ همگرایی توزیع دنباله‌ای وقتی formula_20 چیزی بیان نمی‌کند، اما اطلاعاتی در مورد نحوهٔ توزیع داده‌ها در نزدیکی نقطهٔ حدی در اختیار می گدارد. بگذارید کمی دقیق تر در این مورد صحبت کنیم. به ازای مقدار داده شدهٔ formula_21 بگذارید احتمال دنباله‌ای formula_14 را محاسبه کنیم. تعریف می‌کنیم: توجه کنید که تابع formula_24، یک تابع محدب است که شبیه به آنترپی برنولی است. سپس با استفاده از نابرابری چرنوف داریم formula_25. این کران یک کران تنگ است؛ به این مفهوم که formula_24 را نمی توان چیزی بزرگتر جایگزین کرد که به ازای تمام مقادیر مثبت formula_3 نامساوی مذکور برقرار باشد. (هر چند که کران نمایی را می‌توان با اضافه کردن یک ضریب از مرتبهٔ formula_28 همچنان کاهش داد. این نتیجه از اعمال تقریب استرلینگ به ضرایب دو جمله‌ای که در توزیع برنولی بدست آورد.) بنابرین نتایج زیر را بدست می‌آوریم:
احتمال formula_14 به صورت احتمالی کاهش می‌یابد، هرچه formula_3 به سمت بی‌نهایت میل می‌کند، با نرخی که تابع formula_16 است. این فرمول احتمال دنباله‌ای میانگین نمونه‌ای داده‌های i.i.d. را تقریب می‌زند و همگرایی آن‌ها را هرچه تعداد آن‌ها افزایش می‌یابد را بدست می‌دهد.
در مثال فوق فرض کردیم که انداختن سکه در دفعات پی در پی مستقل از همدیگر هستند. در واقع احتمال پشت/رو آمدن در هر دفعه مستقل از نتیجهٔ آزمایش قبل است. فرض کنید formula_33 متغیرهای تصادفی مستقل با توزیع یکسان (i.i.d.) باشند. حد زیر برقرار است: تابع formula_35 تابع نرخ، تابع کرامر یا تابع تابع آنترپی نامیده می‌شود. حد نوشته شده در قسمت فوق به این معنی است که به ازای مقادیر بزرگ formula_36: که نتیجهٔ قضیهٔ انحرافات بزرگ است.
اگر توزیع formula_38 را بدانیم، عبارتی صریح می‌توان برای تابع نرخ بدست آورد. این عبارت صریح توسط تبدیل لژاندر-فنشل به دست می‌آید:  که در آن  تابع cumulant generating یا GCF نامیده می‌شود و formula_41 امید ریاضی اماری است.  اگر formula_38 دارای توزیع نرمال باشد، تابع نرخ یک سهمی با مقدار حداکثر در میانگین توزیع نرمال خواهد بود. اگر formula_43 یک زنجیرهٔ ماکوف باشد، نسخه‌ای از قضیهٔ انحرافات بزرگ برای آن برقرار است.