Центральная Предельная Теорема и её приложения. Решение Определенного интеграла методом Монте-Карло

Центральная Предельная Теорема и её приложения. Решение Определенного интеграла методом Монте-Карло

Введение. 

Центральная предельная теорема (ЦПТ) имеет огромное значение для применений теории вероятностей в естествознании и технике. Ее действие проявляется там, где наблюдаемый процесс подвержен влиянию большого числа независимых случайных факторов, каждый из которых лишь ничтожно мало изменяет течение процесса. Наблюдатель, следящий за состоянием процесса в целом, наблюдает лишь суммарное действие этих факторов. Эта схема поясняет также исключительное место, которое нормальное распределение занимает среди других вероятностных распределений. 

Случайные величины

Случайной одномерной величиной, или просто случайной величиной, называют любую числовую функцию, определенную на пространстве элементарных событий .

Пример. Рассмотрим пространство элементарных событий, которое получается в результате независимых бросаний двух монет. В этом примере пространство элементарных событий состоит из четырех элементарных событий, которым сопоставляется вероятность 1/4. Определим теперь на этом пространстве случайную величину, равную числу гербов, появившихся при бросании двух монет. Очевидно, что значения случайной величины есть 0, 1, 2, и случайная величина принимает эти значения с вероятностями 0, 25, 0, 5, 0, 25, соответственно.

Так как случайная одномерная величина  представляет собой числовую функцию на пространстве элементарных событии, то любая числовая функция  от случайной величины в соответствии с определением также является случайной величиной.

Функция распределения вероятностей случайной величины

Определение. Функцией распределения вероятностей, или просто функцией распределения (иногда применяют термин кумулятивная функция распределения) случайной величины , называется функция F(х), равная для любого значения x вероятности события:

P(ξ<x)=F(x);

Из определения легко вывести свойства функции распределения:



На рис. 1 приведен график функции распределения вероятностей случайной величины из примера. 



Рис. 1. Функция распределения F(x) случайной величины из первого примера.

Случайные дискретные величины

Различаются два типа случайных величин: дискретные, принимающие конечное или счетное число значений, и непрерывные, принимающие все значения на некотором непрерывном промежутке числовой оси.

Определение. Случайной дискретной величиной  называется случайная величина, принимающая конечное или счетное множество значений х0, х1, x2, ... .

Обозначим множество всех возможных значений, которые принимает дискретная случайная величина , через x0, х1, х2, ..., а вероятности, с которыми  принимает эти значения, - через р0, р1, р2, ... . Тогда Σpi = 1. 

Распределение случайной дискретной величины будет полностью описано, если указать для любого i вероятность рi того, что случайная величина принимает значение xi, т.е. Функция распределения F(x) дискретной случайной величины  при этом оказывается равной 



Таким образом, F(x) - ступенчатая функция, равная постоянной на любом интервале, не содержащем точек xi, и имеющая в каждой точке xi скачок вверх на величину pi.

Таким образом, чтобы задать дискретную случайную величину , достаточно описать множество всех возможных значений случайной величины x0, х1, х2, ..., а также указать числа рi такие, что



Наиболее распространенными формами представления дискретных случайных величин являются табличная



и графическая (рис. 2-5), отображающие зависимость pi(xi)=p(ξ=xi) вероятности рi от возможного значения случайной величины xi. Функция pi(xi), выражающая эту зависимость, называется распределением вероятностей дискретной случайной величины.

Наиболее известными примерами дискретных случайных величин являются: случайная величина, распределенная по дискретному равномерному закону, биномиального распределенная случайная величина, случайная величина, распределенная по закону Бернулли, случайная величина, распределенная по закону Пуассона.



Рис.2. Распределение вероятностей дискретной

случайной величины.

Случайная величина, принимающая n (n>1) значений х1, х2, ..., xn с вероятностями рi=1/n, называется случайной величиной, распределенной по дискретному равномерному закону. На рис.3 рассматриваемая случайная величина (для n=6) представлена в графической форме. Случайная величина, распределенная по дискретному равномерному закону, является моделью событий с равновероятными исходами (см. пример с бросанием игральной кости).



Рис.3. Распределение вероятностей дискретного равномерного распределения (n=6).

Случайная величина, принимающая два значения: 0 и 1 с вероятностями q=1-р и р, соответственно (0<р<1), называется случайной величиной, распределенной по закону Бернулли с параметром p. Случайная величина, распределенная по закону Бернулли - это удачная модель для описания многих конкретных испытаний, имеющих два исхода (наиболее известный пример - бросание правильной монеты; здесь p=q=1/2), в том числе и в биологии: присутствие или отсутствие некоторого признака: пол родившегося цыпленка, цвет цветка и т. д.

Случайная величина , принимающая n+1 значение 0, 1, 2, ..., n, с вероятностями



где i=0, 1, 2, ..., n, q=1-р, 0<p<1, называется биноминально распределенной случайной величиной, а n и р - параметрами распределения. На рис.4 случайная биномиальная величина представлена в графической форме.



Рис.4. Распределение вероятностей биномиально

распределенной случайной величины для n=10 и p=0.2.

Заметим также, что случайная величина, распределенная по закону Бернулли, является частным случаем биномиальной случайной величины для n=1.

Случайная величина, принимающая счетное множество значений 0, 1, 2, ..., с вероятностями



где i=0, 1, …, λ>0 называется случайной величиной, распределенной по закону Пуассона. Величина λ  называется параметром распределения Пуассона.

На рис. 5 случайная величина, распределенная по закону Пуассона, представлена в графической форме. Случайная величина, распределенная по закону Пуассона, служит моделью эксперимента, связанного с определением численности бактерий в единице объема, или численности животных на единицу площади, и других подобных экспериментов.



Рис. 5. Распределение вероятностей Пуассоновской случайной величины с λ=5.

Распределение Пуассона иногда называют "распределением вероятностей редких событий" поскольку оно хорошо описывает ситуацию случайно и независимо друг от друга появляющихся событий в течение заданного периода времени (регистрации радиоактивных частиц в счетчике Гейгера, телефонные звонки, появление посетителей в малопосещаемом магазине и т.п.). Существенна именно независимость событий, а их "редкость" требуется лишь для того, чтобы можно было пренебречь вероятностью одновременного появления двух событий. Если параметр  относится к единице времени, то периоду времени длительностью t будет соответствовать пуассоновское распределение с параметром . Соответственно, вероятность того, что в течение периода t не произойдет ни одного события равна



Если, например, появление события влечет гибель организма, то можноинтерпретировать как вероятность того, что организм доживет до возраста t. Параметр λ  в этом случае называют интенсивностью смертности, или просто смертностью. Из приведенной формулы видно, что чем больше λ , тем меньше вероятность дожить до заданного возраста t и, конечно, чем больше этот заданный возраст, тем меньше вероятность до него дожить (типичный пример - время жизни стакана в столовой).

Непрерывные случайные величины.

Определение 1. Случайная величина называется непрерывной, если её функция распределения F(x) непрерывна.

 

т.е функция распределения есть некоторый интеграл.

Определение2. Функция f(x) называется плотностью распределения непрерывной случайной величины. 

f(x) обладает свойствами:

f(x)≥0;





Определение3.Если функция распределения имеет производную, то производная называется плотностью распределения.

Определение3.Случайная величина называется непрерывной, если для неё определена функция f(x) , обладающая свойствами 1-3 и связанная с функцией распределения формулой 



(1)

Основные непрерывные распределения 

Определение. Случайная величина ξ называется равномерно распределено в интервале (a, b), если её плотность распределения постоянная, т.е. f(x) = с.

Из 3 – го свойства плотности имеем: 



Итак, 



Изобразим график плотности распределении.



(Рис.1.)График функции плотности распределения

Функция распределения согласно (1) и учитывая свойства будет: 



Изобразим график функции распределения.



Нормальное распределение 

Нормальное распределение – это наиболее важное распределение, которое встречается в почти и везде.

Любая случайная величина, которая формируется, как результат суммарного воздействия многих других случайных величин каждое из которых вносит вклад распределена нормально.

Определение. Говорят, что ξ имеет нормальное распределение с параметрами а и σ , где а  R, σ > 0, и пишут ξ  N(а, σ) если ξ имеет следующую плотность распределения:

для любого x  R. 

Функцию распределения этого закона можно записать лишь в таком виде: 



ЗАКОН БОЛЬШИХ ЧИСЕЛ

Закон больших чисел Чебышева. Имеет место, следующее утверждение. Пусть последовательность попарно независимых случайных величин, имеющих ограниченные в совокупности дисперсии, т.е. для любого i. Тогда, каково бы нибыло, ε>0 справедливо соотношение



Доказательство: 

Обозначим через величину , т.е. среднюю арифметическую n случайных величин. Случайная величина имеет математическое ожидание 



и дисперсию 



(здесь мы воспользовались свойствами математического ожидания и дисперсии). Применяя к случайной величине вторую лемму Чебышева, найдем, что 



т.е. 



так как при любом i, и следовательно, 



Учитывая, что вероятность любого события не превосходит единицы, получим 



Переходя к пределу при , имеем 



Смысл закона больших чисел Чебышева состоит в следующем. В то время как отдельная случайная величина может принимать значения, очень далекие от своего математического ожидания, средняя арифметическая большого числа случайных величин с вероятностью, близкой к единице, принимает значение, мало отличающееся от среднего арифметического их математических ожиданий. 

Неравенство Чебышева.

Пусть ξ случайная величина с Mξ и Дξ. Тогда для этой случайной величины выполняется неравенство 

 - Неравенство Чебышева.

Другим видом неравенства Чебышева является 



В качестве ε берем 3σ = 3. Получаем:  - правило “Трех Сигм”. 

Центральная предельная теорема 

Центральная Предельная Теорема: Пусть последовательность независимых, одинаково распределенных с.в. с конечной дисперсией. Обозначим и  . Тогда 



где -- функция распределения стандартного нормального закона.

Замечание 1. Обозначим . Тогда , . Следовательно, утверждение ЦПТ может быть записано в виде 



ЦПТ имеет огромное значение для применений теории вероятностей в естествознании и технике. Ее действие проявляется там, где наблюдаемый процесс подвержен влиянию большого числа независимых случайных факторов, каждый из которых лишь ничтожно мало изменяет течение процесса. Наблюдатель, следящий за состоянием процесса в целом, наблюдает лишь суммарное действие этих факторов. Эта схема поясняет также исключительное место, которое нормальное распределение занимает среди других вероятностных распределений. 

Моделирование случайных величин

Определение. Получение значений случайной величины заданными законами распределения называется моделированием случайной величины. 

Стандартный метод моделирования дискретной случайной величины.

Допустим имеется дискретная случайная величина заданная таблицей :

ξ

X1

X2

...

Xm

…

 

P1

P2

…

Pm

…

 Σpi = 1;

Стандартный метод моделирования такой случайной дискретной величины основан на следующем соотношении:

 

(*)

где α равномерная на [0, 1] случайная величина. Pm соответствует хm.На этом и основывается стандартный метод. Из соотношения (*) вытекает следующий простой алгоритм моделирования дискретной случайной величины, который называется стандартным алгоритмом.

Берем случайную величину α, равномерную в [0, 1] , например, с помощью стандартной процедуры Random.

Надо определить промежуток или интервал в который попадает случайная величина α.Пусть номер этого промежутка или интервала равно m. Если этот номер равно m, то ξ пнимет значение хm 

m=0, s=0;

α=random;

m=m+1; s=s+pm

Если α<s то переходим на (f)

Иначе на (с)

x=xm 

Метод Монте-Карло для вычисления определенных интегралов

Метод Монте-Карло занимает особое положение среди методов вычисления определенных интегралов по двум причинам. Во-первых, это единственный метод, позволяющий вычислять интегралы высокой кратности. И во-вторых, это метод, который дает лишь вероятностные гарантии степени точности вычисления интегралов. 

Метод Монте-Карло - это статистический метод, его используют при вычислении сложных интегралов, решении систем алгебраических уравнений высокого порядка, моделировании поведения элементарных частиц, в теориях передачи информации и массового обслуживания, при исследовании сложных систем (экономических, биологических и т. д.). 

Сущность метода состоит в том, что в решаемую задачу вводят случайную величину ξ, изменяющуюся по какому-то закону p(ξ). Как правило, случайную величину выбирают таким образом, чтобы искомая в задаче величина стала математическим ожиданием от случайной величины.



Таким образом мы определяем искомую величину лишь теоретически. А вот чтобы найти ее численно, пользуются статистическими методами: берут выборку случайной величины ξ объемом элементов. В результате получают вариант случайной величины ξi, для которых вычисляют их среднее арифметическое (выборочное среднее) 



которое и принимают в качестве приближенного значения (оценки) искомой величины : 



Для получения результата приемлемой точности по методу Монте-Карло требуется большое число статистических испытаний. Именно поэтому этот метод иногда так и называют: метод статистических испытаний. 

Теория метода Монте-Карло изучает способы выбора случайных величин ξ для решения различных задач, а также способы уменьшения дисперсии используемых случайных величин. Уменьшение дисперсии играет большую роль, поскольку при равных объемах выборок, выборка с меньшей дисперсией имеет меньшую погрешность. 

Итак, для вычисления однократного интеграла методом Монте-Карло может быть применена формула 

 (а)

где xi равномерно распределенное на интервале [a, b] случайное число. Справедлива следующая оценка точности вычисления интеграла по формуле (а) с вероятностью p=1-η выполняется неравенство



Например, если положить p=99%, тогда η = 0.01 и можно утверждать, что с вероятностью 99% справедливо неравенство



где 



Все, что нужно для вычисления интегральной суммы по формуле (1) - это научиться получать случайные числа, равномерно распределенные на интервале [a, b]. Для этой цели можно использовать генератор случайных чисел, входящий в состав стандартных библиотек, поставляемых с компилятором. С помощью функции random легко получить случайное вещественное число, равномерно распределенное на интервале [0, 1] - например, результатом выполнения оператора x=random является случайное вещественное число из интервала [0, 1]. Имея случайное вещественное число из интервала [0, 1] легко получить случайное число из любого интервала. Например, если z - случайное число из интервала [0, 1] , тогда x=a+(b-a)*z - случайное число из интервала [a, b]. 

Как видно из приведенных выше оценок погрешности формулы (а) точность вычисления интеграла и в методе Монте-Карло определяется числом слагаемых N в интегральной сумме - чем больше слагаемых, тем точнее результат. Ниже приведен пример и программа, вычисляющая определенный интеграл методом Монте-Карло. 

Метод Монте-Карло легко обобщается на интегралы произвольной кратности. Например, двукратный интеграл может быть вычислен по формуле



где xi, yi - случайные числа, равномерно распределенные на интервалах [a, b] и [c, d] соответственно. Оценка точности вычисления интеграла по формуле (b) совершенно аналогично приведенной выше для случая однократного интеграла и поэтому здесь не приводится. 

Пример №1: Вычислить определенный интеграл I = 

Решение.



 = .

Точное значение интеграла I=, ниже приведены результаты программы.



Листинг программы приведен в приложении №1. Программа называется MonteKarlo.

Пример №2: Вычислить определенный интеграл I = 

Решение.



Точное значение интеграла I=, ниже приведены результаты программы.



Листинг программы приведен в приложении №2. Программа называется MonteKarlo1.

Приложение №1. 

Программа вычисления одномерного определенного интеграла методом Монте-Карло.

program MonteKarlo;

uses crt;

Label l1, l2;

var

j1, j, a, b, c, n1, k, n:integer;

I, Y, x:real;

Begin

randomize;

clrscr;

writeln('Vvod znachenii');

write('a = ');

Read(a);

write('b = ');

Read(b);

write('n = ');

Read(n);

writeln('--------------------------------');

writeln('| k | integral | vsego ispitani|');

for j:=1 to 9 do

begin

I:=0;

for j1:=1 to n do

begin

x:=a+(b-a)*random;

I:=I+x*x+5*x;

end;

I:=I*(b-a)/n;

writeln('--------------------------------');

writeln('| ', j, ' | ', i:2:6, ' | ', n, ' |');

{writeln(' Integral = ', i:6:7, ' vsego ispitani = ', n, ' popalo pod function = ', n1);}

end;

writeln('--------------------------------');

readkey;

end.

Приложение №2. 

Программа вычисления многомерного определенного интеграла методом Монте-Карло.

program MonteKarlo2;

uses crt;

Label l1, l2;

var

j1, j, d, a, b, c, n1, k, n:integer;

I, Y, x:real;

Begin

randomize;

clrscr;

writeln('Vvod znachenii');

write('a = ');Read(a);

write('b = ');Read(b);

write('c = ');Read(c);

write('d = ');Read(d);

write('n = ');Read(n);

writeln('--------------------------------');

writeln('| k | integral | vsego ispitani|');

for j:=1 to 9 do

begin

I:=0;

for j1:=1 to n do

begin

x:=a+(b-a)*random;

y:=c+(d-c)*random;

I:=I+sqr(x)+sqr(y)*y;

end;

I:=I*(b-a)*(d-c)/n;

writeln('--------------------------------');

writeln('| ', j, ' | ', i:2:6, ' | ', n, ' |');

{writeln(' Integral = ', i:6:7, ' vsego ispitani = ', n, ' popalo pod function = ', n1);}

end;

writeln('--------------------------------');

readkey;

end.