تابع چگالی احتمال
در آمار و احتمال، به بیان ساده، تابعِ چگالیِ احتمالِ یک متغیر تصادفی پیوسته به تابعی گفته می‌شود که انتگرال آن در هر بازهٔ معین، برابر با احتمال قرار داشتن متغیر تصادفی در آن بازه است.
بنابراین، احتمال این‌که یک متغیر تصادفی پیوسته، یک مقدار معیّن اختیار کند، صفر است.
مقدار تابع چگالی احتمال همواره غیرمنفی است.
احتمال آنکه متغیر تصادفی X در بازه [a,b] واقع شود از رابطهٔ زیر بدست می‌آید:
همچنین کل مساحت زیر نمودار برابر است با ۱؛ یعنی:
در نتیجه تابع توزیع تجمعی را می‌توان به صورت زیر نوشت:
و اگر "f" تابعی پیوسته باشد:
متغیر تصادفی X را در نظر بگیرید که مقدار آن در فضای اندازه formula_5 تعریف شده و توزیع احتمال آن اندازه "X""P" در formula_5 است، آنگاه چگالی X نسبت به اندازه مرجع "μ" در formula_5 بواسطه مشتق رادون−نیکودیم به شکل زیر تعریف می‌شود:
به عبارت دیگر، به ازای هر مجموعه اندازه‌پذیر formula_9، "f" می‌تواند هر تابع قابل اندازه‌گیری با ویژگی زیر باشد:
برخلاف احتمالی که به یک متغیر تصادفی گسسته نسبت داده می‌شود، تابع چگالی احتمال می‌تواند مقادیر بیشتر از یک را نیز اختیار کند. به‌طور مثال توزیع یکنواخت در بازه [۱/۲ ،۰] چگالی احتمالی "f"("x") = ۲ برای ۰ ≤ "x" ≤ ½ دارد و "f"("x") = ۰ برای خارج این بازه دارد با داشتن تابع چگالی احتمالی متغیر تصادفی "X" می‌توان مقدار امید ریاضی آن را به شکل زیر محاسبه کرد:
از روش‌های بدست آوردن تابع چگالی احتمالی متغیر تصادفی "X" مشتق‌گیری از تابع توزیع تجمعی ("F"("x" آن است و که به صورت زیر تعریف می‌شود
formula_12
یک روش دیگر برای بدست آوردن تابع چگالی احتمالی متغیر تصادفی "X" تخمین مقدار آن در یک بازه کوچک مانند formula_14: است.
یا به عبارت دیگر
formula_16: می‌توان بعضی از متغیرهای تصادفی گسسته را نیز با استفاده از تابع چگالی احتمالی توصیف کرد. به‌طور مثال برای متغیر تصادفی که دو مقدار ۱ و -۱ را هر کدام با احتمال ۱/۲ می‌گیرد، می‌توان چگالی احتمال زیر را نسبت داد
به‌طور کلی اگر متغیر تصادفی "n" مقدار حقیقی را اختیار کند می‌توان تابع چگالی احتمال آن را به این شکل نوشت
که مقادیر "x", …, "x" مقادیری هستند که متغیر تصادفی "X" با احتمال "p", …, "p" اختیار می‌کند..
برای متغیرهای تصادفی formula_19 همچنین می‌توان یک تابع چگالی چندمتغیره تعریف کرد که به تمامی "formula_20"ها بستگی داشته باشد که به آن تابع چگالی احتمال مشترک (توأم) گویند. این تابع چگالی تابع چگالی formula_21 متغیره نام دارد به‌طوری‌که به ازای هر فضای احتمال "formula_21" بعدی "formula_23" از متغیرهای تصادفی formula_19 احتمال اینکه این دسته متغیرها در "formula_23" قرار بگیرند، به صورت زیر است:
اگر("F"("x", …, "x") = Pr("X" ≤ "x", …, "X" ≤ "x" باشد، به آن توزیع تجمعی احتمال بردار ("X", …, "X") گوییم که در آن صورت توزیع چگالی احتمال توأم از طریق مشتق‌گیری از آن بدست می‌آید:
"(f"("x" به ازای "i"=۱، ۲، …,"n" چگالی توزیع حاشیه‌ای می‌گوییم که فقط تابع "X" است. می‌توان آن را از طریق انتگرال‌گیری از توزیع تجمعی نسبت به n-1 متغیر دیگر بدست آورد.
تابع توزیع مشترک n متغیره "X", …, "X" مستقل از تک تک آن‌ها مستقل است اگر و تنها اگر:
اگر بتوان تابع توزیع مشترک یک بردار n تایی را به صورت حاصلضرب n تابع تک متغیره نوشت
(لزومی ندارد که هر "f" یک چگالی احتمال باشد) در آن صورت n متغیر از یکدیگر مستقل هستند و چگالی توزیع احتمال هریک به صورت زیر محاسبه می‌شود:
این مثال ابتدایی حالت ساده دو متغیره از تعریف تابع چکالی احتمال چند متغیره است. فرض کنید فضای formula_32 یک فضای دو متغیره با بردار مختصات ("X", "Y") است. احتمال اینکه formula_32 در کنج مثبت باشد، اینگونه است:
تابع چگالی احتمال دو متغیر مستقل U و V، که هر یک دارای یک تابع چگالی احتمالند، کانولوشن تابع چگالی تک تک آن هاست:
می‌توان رابطه بالا را به N متغیر مستقل، با چگالی‌های "U", …, "U" تعمیم داد:
اگر تابع چگالی احتمال متغیر تصادفی X به صورت "(f"("x" داده شده باشد، می‌توان (ولی معمولاً غیرضروری است، زیر را مشاهده کنید) تابع چگالی احتمال متغیری مانند ( را محاسبه کرد. به این کار «تغییر متغیر» می‌گویند و در عمل برای تولید متغیر تصادفی با شکل دلخواه با استفاده از مولد عدد تصادفی شناخته شده (برای مثال یکنواخت)، مورد استفاده قرار می‌گیرد.
اگر تابع g یکنواخت باشد، در آن صورت تابع چگالی حاصل به صورت زیر است:
در اینجا منظور از "g"، تابع معکوس و منظور از "'g"، تابع مشتق است.
این به دنبال این حقیقت ناشی می‌شود که احتمال در ناحیه مشتق‌گیری تحت تأثیر تغییر متغیر، باید ثابت بماند. یعنی:
یا
برای توابعی که یکنواخت نیستند، تابع چگالی احتمال "y" به صورت زیر است:
که در آن ("n"("y" تعداد جواب‌های "x" برای رابطه و ("g"("y"ها همان جواب‌ها هستند.
حال وسوسه انگیز است که در مورد امید ریاضی(("E"("g"("X" نیز بیندیشیم. به این منظور ابتدا باید چگالی احتمال("f" را برای متغیر تصادفی جدید ( بیابیم. به جای محاسبه
بهتر است.
را محاسبه کرد.
دو انتگرال در تمامی شرایط در حالی که "X" و ("g"("X" دارای تابع توزیع چگالی باشند، جواب یکسانی دارند. هیچ الزامی وجود ندارد که تابع "g" یک تابع یک به یک باشد. برخی مواقع انتگرال دوم، بسیار راحت تر از اولی قابل محاسبه است.
فرمول بالا را می‌توان به متغیرهایی (که آن‌ها را دوباره "y" می‌نامیم) وابسته به چند متغیر تصادفی تعمیم داد. ("f"("x", "x", …, "x" را می‌توان به عنوان تابع چگالی احتمال "y" در نظر گرفت که به آن‌ها وابسته است که این وابستگی به صورت است. در نتیجه تابع چگالی به صورت زیر بدست می‌آید:
که در آن انتگرال روی "m-1" بعد است و باید "dV" را متناسب با این انتگرال جایگزین کرد. متغیرهای تصادفی "x", "x", …, "x" بالطبع توابعی از این پارامتریزه کردن‌ها هستند.
شاید بصری به نظر برسد، ولی این ناشی از مطلب زیر است: فرض کنید 'x' یک متغیر تصادفی n-بعدی با تابع چگالی احتمال f است. اگر و "H" تابعی دوسویه و تشخیص پذیر باشد، "y" دارای چگالی احتمال "g" است:
که مشتق در نظر گرفته شده، ماتریس ژاکوبی معکوس تابع "H" نسبت به "y" است.
با استفاده از تابع دلتا، (و فرض بر استقلال) جواب یکسانی به صورت زیر بدست می‌آید.
اگر تابع چگالی احتمال متغیرهای تصادفی مستقل "X", به صورت ("f"("x" داده شده باشند، می‌توان تابع چگالی احتمال متغیرهایی مانند ( را حساب کرد. فرمول زیر ارتباطی بین تابع چگالی احتمال "y" که با ("f"("y" نشان می‌دهیم و ("f"("x" با استفاده از تابع دلتای دیراک برقرار می‌کند: