Курс лекций по теории вероятностей

Раздел 1. Классическая вероятностная схема

1.1 Основные формулы комбинаторики

В данном разделе мы займемся подсчетом числа «шансов». О числе шансов говорят, когда возможно несколько различных результатов какого-либо действия (извлечение карты из колоды, подбрасывание кубика или монетки, двух кубиков и т.д.). Число шансов — это число таких возможных результатов, или, иначе говоря, число способов проделать это действие.

Теорема о перемножении шансов

Теорема 1. Пусть имеется, k групп элементов, причем i-я группа содержит ni элементов, 1<=i<=k. Выберем из каждой группы по одному элементу. Тогда общее число N способов, которыми можно произвести такой выбор, равняется



Замечание 1. В теореме 1 считается, что даже если все элементы в i-й группе неразличимы, выбрать один из них можно ni способами. 

Замечание 2. Результат выбора, описанного в теореме 1, представим в виде набора (а1, а 2,…, а k) в котором аi — выбранный из i-й группы элемент. Тогда общее число различных наборов (а1, а 2,…, а k) также равняется



Доказательство теоремы 1.



Занумеруем элементы i -ой группы числами от 1 до ni. Элемент из первой группы можно выбрать n1 способами. Если мы выбрали элемент j, 1<=i<= n1, то выбрать элемент из второй группы мы можем n2 способами. Получаем, что с первым элементом j возможно составить n2 пар (j, l), где 1<=l<= n2.

Но столько же пар можно составить и с любым другим элементом первой группы. Тогда всего пар, в которых первый элемент выбран из первой группы, а второй — из второй, существует ровно 

Иначе говоря, есть  способов выбрать по одному элементу из первых двух групп. Возьмем одну такую пару (j, l). Заметим, что элемент из третьей группы можно выбрать n3 способами, то есть возможно составить ровно n3 троек (j, l, m), добавляя к данной паре (j, l) любой из n3 элементов третьей группы.

Но столько же троек можно составить и с любой другой парой (j, l). Тогда всего троек, в которых первый элемент выбран из первой группы, второй — из второй, а третий — из третьей, существует ровно .

Продолжая рассуждения, методом математической индукции заключаем справедливость утверждения теоремы.

Урны и шарики

Есть урна, (то есть ящик), содержащая n занумерованных объектов, которые мы без ограничения общности будем считать шариками. Мы выбираем из этой урны k шариков. Нас интересует, сколькими способами можно выбрать k шариков из n, или сколько различных результатов (то есть наборов, состоящих из k шариков) получится.

На этот вопрос нельзя дать однозначный ответ, пока мы не определимся

		с тем, как организован выбор (скажем, можно ли шарики возвращать в урну), и

		с тем, что понимается под различными результатами выбора.

Рассмотрим следующие возможные схемы выбора:

1. Выбор с возвращением: каждый выбранный шарик возвращается в урну, то есть каждый из k шариков выбирается из полной урны. В полученном наборе, состоящем из k номеров шариков, могут встречаться одни и те же номера (выборка с повторениями).

2. Выбор без возвращения: выбранные шарики в урну не возвращаются, и в полученном наборе не могут встречаться одни и те же номера (выборка без повторений).

И в том, и в другом случае результатом выбора является набор из k номеров шариков. Удобно считать, что шарики всегда выбираются последовательно, по одному (с возвращением или без).

Условимся, какие результаты мы будем считать различными.

Есть ровно две возможности.

1. Выбор с учетом порядка: два набора номеров шариков считаются различными, если они отличаются составом или порядком номеров. Так, при выборе трех шариков из урны, содержащей 5 шариков, наборы (1,2,5), (2,5,1) (4,4,5) различны, если производится выбор с учетом порядка.

2. Выбор без учета порядка: два набора номеров шариков считаются различными, если они отличаются составом. Наборы, отличающиеся лишь порядком следования номеров, считаются одинаковыми. Так, в примере выше первые два набора (1,2,5), (2,5,1) есть один и тот же результат выбора, а набор (4,4,5) — другой результат выбора.

Подсчитаем теперь, сколько же возможно различных результатов при каждой из четырех схем (выбор с возвращением и без, и в каждом из этих случаев учитываем ли мы порядок или нет).

Урновая схема: выбор без возвращения, с учетом порядка

Теорема 2. Общее количество выборок в схеме выбора k элементов из n без возвращения и с учетом порядка определяется формулой

и называется числом размещений из n элементов по k элементов.

Доказательство. Первый шарик можно выбрать n способами. При каждом из этих способов второй шарик можно выбрать n-1 способом, и т.д. Последний k-й шарик можно выбрать (n-k+1) способом. По теореме 1, общее число способов выбора равно



что и требовалось доказать.

Следствие 1. Число возможных перестановок множества из n элементов есть n!

Доказательство очевидно, если заметить, что перестановка есть не что иное, как результат выбора без возвращения и с учетом порядка всех n элементов из n. Так что общее число перестановок равно

Урновая схема: выбор без возвращения и без учета порядка

Теорема 3. Общее количество выборок в схеме выбора k элементов из n без возвращения и без учета порядка определяется формулой

и называется числом сочетаний из n элементов по k элементов.

Доказательство. Заметим, что, согласно следствию 1, из каждой выборки данного состава (состоящей из k элементов) можно образовать k! выборок, отличающихся друг от друга только порядком элементов.

То есть число выборок, различающихся еще и порядком, в k!  раз больше, чем число выборок, различающихся только составом. Поделив на k!, получим утверждение теоремы.

Урновая схема: выбор с возвращением и с учетом порядка

Теорема 4. Общее количество выборок в схеме выбора k элементов из n с возвращением и с учетом порядка определяется формулой

Доказательство. Первый шарик можно выбрать n способами. При каждом из этих способов второй шарик можно выбрать также n способами, и так k раз.

Урновая схема: выбор с возвращением и без учета порядка

Рассмотрим урну с двумя шариками и перечислим результаты выбора двух шариков из этой урны при выборе с возвращением:

С учетом порядка

Без учета порядка

(1, 1)

(2, 2)

(1, 2)

(2, 1)

(1, 1)

(2, 2)



(1, 2)

Заметим, что в схеме «без учета порядка» получилось 3 различных результата в отличие от четырех в схеме «с учетом порядка». (число 4 возникает и согласно теореме 4); и что никаким делением на «число каких-нибудь перестановок» число 3 из 4 получить не удастся.

Теорема 5. Общее количество выборок в схеме выбора k элементов из n с возвращением и без учета порядка определяется формулой

Доказательство. Рассмотрим подробно, чем отличаются друг от друга два разных результата такой схемы выбора. Нам не важен порядок номеров, то есть мы учитываем только, сколько раз в нашем наборе из k номеров шариков появился шарик номер 1, шарик номер 2, … , шарик номер n. То есть результат выбора можно представить набором чисел k1, k2, …kn, в котором ki — число появлений шарика номер i в выборке, и k1+ k2+ …+kn.= k. При этом два результата эксперимента различны, если соответствующие им наборы k1, k2, …,kn не совпадают.

Представим себе другой эксперимент, имеющий точно такие же результаты (и, следовательно, их столько же). Есть n ящиков, в которых размещается k шариков. Нас интересует только количество шариков в каждом ящике. То есть, результатом эксперимента снова является набор чисел k1, k2, …kn , в котором ki — число шариков в ящике с номером i, и k1+ k2+ … +kn.= k. Числа ki по-прежнему принимают натуральные значения или равны 0.

А теперь изобразим результат такого размещения в виде схемы, в которой вертикальные линии обозначают перегородки между ящиками, а кружки — находящиеся в ящиках шарики:

Мы видим результат размещения 9 шариков по 7 ящикам. Здесь 1-й ящик содержит 3 шарика, 2-й и 6-й ящики пусты, 3-й ящик содержит 1 шарик, и в 4-м и 5-м ящиках есть по 2 шарика. Переложим один шарик из первого ящика во второй и изобразим таким же образом еще один результат размещения:





И еще один:

Видим, что все размещения можно получить, меняя между собой шарики и перегородки, или расставляя k шариков на n-1+k месте. Число n-1+k получается так: у n ящиков есть ровно n+1 перегородка, считая крайние, или n-1 перегородка, если не считать крайние, которые двигать нельзя. И есть k шариков. Перебрав все возможные способы расставить k шариков на этих n-1+k местах (и ставя на оставшиеся места перегородки), переберем все нужные размещения.

Но способов расставить k шариков на n-1+k местах ровно — это в точности число способов выбрать из n-1+k номеров мест k номеров мест (без учета порядка и без возвращения), на которые нужно поместить шарики. Заметим, что равенство  верно как по определению биномиальных коэффициентов или свойствам треугольника Паскаля, так и в силу того, что можно вместо выбора k мест для шариков выбирать n-1 место для перегородок ящиков, заполняя шариками оставшиеся места.

1.2 Основные понятия элементарной теории вероятностей

Предмет теории вероятностей. Статистическая устойчивость.

Теория вероятностей изучает закономерности, возникающие в случайных экспериментах (явлениях). Случайным называют эксперимент, результат которого нельзя предсказать заранее. Невозможность предсказать заранее — основное, что отличает случайное явление от детерминированного.

Не все случайные явления (эксперименты) можно изучать методами теории вероятностей, а лишь те, которые могут быть воспроизведены в одних и тех же условиях и обладают (непонятно как проверяемым заранее) свойством «статистической устойчивости : «если А — некоторое событие, могущее произойти или не произойти в результате эксперимента, то доля n(A)/n числа экспериментов, в которых данное событие произошло, имеет тенденцию стабилизироваться с ростом общего числа экспериментов n, приближаясь к некоторому числу P(A). Это число служит объективной характеристикой «степени возможности» событию А произойти.

В дальнейшем мы будем говорить лишь о случайных экспериментах, обладающих данными свойствами, а свойство статистической устойчивости докажем в утверждении, известном как закон больших чисел Я.Бернулли.

Пространство элементарных исходов. Операции над событиями

Определение 1. Пространством элементарных исходов Ω («омега») называется множество, содержащее все возможные результаты данного случайного эксперимента, из которых в эксперименте происходит ровно один. Элементы этого множества называют элементарными исходами и обозначают буквой ω («омега») с индексами или без.

Определение 2. Событиями мы будем называть подмножества множества Ω. Говорят, что в результате эксперимента произошло событие А  Ω, если в эксперименте произошел один из элементарных исходов, входящих в множество А.

Замечание 3. Вообще говоря, можно назвать событиями не обязательно все подмножества множества Ω, а лишь множества из некоторого набора подмножеств. О смысле такого ограничения мы поговорим позднее.

Пример 1. Один раз подбрасывается одна игральная кость (кубик). Самый разумный способ задать пространство элементарных исходов таков: Ω = {1,2,3,4,5,6}, элементарные исходы здесь соответствуют числу выпавших очков.

Примеры событий: A = {1,2} — выпало одно или два очка; A = {1,3,5} — выпало нечетное число очков.

Пример 2. Два раза подбрасывается одна игральная кость (кубик). Или, что, то же самое, один раз подбрасываются две игральные кости. Как мы увидим в дальнейшем, здесь самый разумный способ задать пространство элементарных исходов — считать результатом эксперимента упорядоченную пару чисел (i, j), в которой 1 i, j  6и i - число очков выпавших первый раз, j – число очков, выпавших второй раз. Ω = {(i, j), где 1 i, j  6}

Примеры событий:

A = {(1,1), (1,2), (1,3), (1,4), (1,5), (1,6)} — при первом подбрасывании выпало одно очко;

A = {(1,1),(2,2), (3,3), (4,4), (5,5), (6,6)} — при двух подбрасываниях выпало одинаковое число очков.

Пример 3. На поверхность стола бросается монета. Результатом эксперимента можно считать координату центра монеты (а если нам не безразличен угол поворота монеты, то можно добавить и величину этого угла). Пространство элементарных исходов — множество точек стола (во втором случае — множество пар {x, φ} , где x — координата точки стола и φ [0, 2π]— угол поворота). Число элементарных исходов такого эксперимента несчетно.

Пример 4. Монета подбрасывается до тех пор, пока не выпадет вверх гербом. Пространство элементарных исходов состоит из бесконечного, но счетного числа исходов:

Ω = {г, рг, ррг, рррг, ррррг, рррррг, …} , где р и г обозначают выпадение решки и герба при одном подбрасывании, соответственно.

Пример 5. Приведем пример неправильно выбранного пространства элементарных событий. Пусть при бросания игральной кости Ч = {четное число очков}, Т = {число очков, кратное трем}. Тогда Ω = {Ч, Т, 1, 5} составляет все исходы эксперимента, однако исходы Ч и Т могут наступать одновременно.

Определение 3.

1. Достоверным называется событие, которое обязательно происходит в результате эксперимента, то есть единственное событие, включающее все без исключения элементарные исходы — событие Ω.

2. Невозможным называется событие которое не может произойти в результате эксперимента, то есть событие, не содержащее ни одного элементарного исхода («пустое множество» ). Заметим, что всегда   Ω.

Определение 4. Пусть А и В — события.

1. Объединением А U В событий А и В называется событие, состоящее в том, что произошло либо А , либо В, либо оба события одновременно. На языке теории множеств А U В есть множество, содержащее как элементарные исходы, входящие в А, так и элементарные исходы, входящие в В.

2. Пересечением А ∩ В событий А и В называется событие, состоящее в том, что произошли оба события А и В одновременно. То есть А ∩ В есть множество, содержащее элементарные исходы, входящие одновременно в А и в В.

3. Дополнением А \ В события А до В называется событие, состоящее в том, что произошло событие А , но не произошло В. То есть А \ В есть множество, содержащее элементарные исходы, входящие в А, но не входящие в В.

4. Противоположным (или дополнительным) к событию А называется событие , состоящее в том, что событие А в результате эксперимента не произошло. Иначе говоря,  есть множество, содержащее элементарные исходы, не входящие в А.

Определение 5.

1. События А и В называются несовместными, если А ∩ В = .

2. События А1, А2 , … Аn называются попарно несовместными, если для любых i ≠ j, 1  i,j  n, события Аiи Аj несовместны.

3. Говорят, что событие А влечет событие В, и пишут А  В, если всегда, как только происходит событие А, происходит и событие В. На языке теории множеств это означает, что любой элементарный исход, входящий в А, одновременно входит и в событие В.

Вероятность на дискретном пространстве элементарных исходов

Предположим, что мы имеем дело с дискретным пространством элементарных исходов, то есть пространством, состоящим из конечного или счетного числа элементов:

Ω = {ω1, ω2 , … ωn , … }.

Определение 6. Поставим каждому элементарному исходу ωi  Ω в соответствие число p(ωi )  [0,1] так, что

Назовем число p(ωi) вероятностью элементарного исхода ωi . Вероятностью события А  Ω называется число

равное сумме вероятностей элементарных исходов, входящих в множество А.

Замечание 4. Позднее, познакомившись с аксиоматикой теории вероятностей, мы зададим вероятности событий непосредственно, а не через вероятности элементарных исходов. Тем более, что сложением вероятностей элементарных исходов можно получить лишь вероятность события, состоящего не более чем из счетного числа элементарных исходов (иначе само понятие суммирования не определено). Но на дискретном пространстве элементарных исходов определить вероятности событий так, как это сделано в определении 6, всегда возможно.

Перечислим очевидные в случае дискретного пространства элементарных исходов свойства вероятности, которые мы скоро докажем сразу в общем случае.

0  Р(А)  1;

Р(Ω) = 1;

Р() = 0;

Р(Ō) = 1 - Р(О);

5. если А и В несовместны, то Р(А U В) = Р(А) + Р(В);

6. в общем же случае Р(А U В) = Р(А) + Р(В) - Р(А ∩ В);

7. если А  В, то Р(А)  Р(В).

Классическое определение вероятности

Предположим, что мы имеем дело с пространством элементарных исходов, состоящим из конечного числа N элементов: Ω = {ω1, ω2, … ωN}. Более того, предположим, что из каких-либо соображений мы можем считать элементарные исходы равновозможными. Тогда вероятность любого из них принимается равной 1/ N.

Эти соображения чаще всего не имеют отношения к математической модели и основаны на какой-либо симметрии в эксперименте (симметричная монета, хорошо перемешанная колода карт, правильная кость). Либо мы можем заранее считать исходы эксперимента равновозможными, но тогда рано или поздно все равно возникнет вопрос о соответствии такой математической модели реальному эксперименту.

Если событие А = {} состоит из k элементарных исходов, то вероятность этого события равняется



отношению k / N:

где символом │А│ обозначено число элементов конечного множества А.

Определение 7.

Говорят, что эксперимент удовлетворяет классическому определению вероятности (или классической вероятностной схеме), если пространство элементарных исходов состоит из конечного числа │А│ = N равновозможных исходов.

В этом случае вероятность любого события А вычисляется по формуле

называемой классическим определением вероятности. Эта формула читается так: «вероятность события А равна отношению числа исходов, благоприятствующих событию А, к общему числу исходов».

Замечание 5. Полезно помнить классическую формулировку Якоба Бернулли: «Вероятность есть степень достоверности и отличается от нее как часть от целого». (Ars Conjectandi, 1713 г.)

Замечание 6. Мы видим теперь, что подсчет вероятности в классической схеме сводится к подсчету числа «шансов» (элементарных исходов), благоприятствующих какому-либо событию, и общего числа шансов. Как правило, это делается с помощью формул комбинаторики.

Рассмотрим описанные в параграфе 1.1 урновые схемы. Напомним, что речь идет об извлечении k шариков из урны, содержащей n шариков. При этом три схемы: с возвращением и с учетом порядка, без возвращения и с учетом порядка, а также без возвращения и без учета порядка удовлетворяют классическому определению вероятности.

Общее число элементарных исходов в этих схемах подсчитано в теоремах 4, 2, 3 и равно, соответственно,

Четвертая же схема — схема выбора с возвращением и без учета порядка — имеет заведомо неравновозможные исходы.

Пример 6. Рассмотрим, скажем, выбор двух шариков из двух или, что то же самое, дважды подбросим монету. Если учитывать порядок, то исходов получится 4, и все они равновозможны, то есть имеют вероятность по 1/4:

(герб, герб), (решка, решка), (решка, герб), (герб, решка).

Если порядок не учитывать, то следует объявить два последних исхода одним и тем же результатом эксперимента, и получить три исхода вместо четырех: выпало два герба, либо две решки, либо один герб и одна решка.

При этом первые два исхода имеют вероятность 1/4, а последний — вероятность 1/4+1/4=1/2.

Гипергеометрическое распределение

Пример 7.

Из урны, в которой n1 белых и n -n1 чёрных шаров, наудачу, без возвращения вынимают k шаров, k<n. Термин «наудачу» означает, что появление любого набора из k шаров равно возможно. Найти вероятность того, что будет выбрано ровно k1 белых и k - k1 чёрных шаров.

Заметим, что при k1 > n1 или k - k1 > n - n1 искомая вероятность равна 0, так как соответствующее событие невозможно. Пусть k1 < n1 и k - k1 < n - n1. Результатом эксперимента является набор из k шаров. При этом можно не учитывать или учитывать порядок следования шаров.

1. Выбор без учета порядка. Общее число элементарных исходов есть число k –элементных подмножеств множества, состоящего из n элементов, то есть  (по теореме 3).

Обозначим через A событие, вероятность которого требуется найти. Событию A благоприятствует появление любого набора, содержащего k1 белых шаров и k - k1 черных.

Число благоприятных исходов равно произведению (по теореме 1) числа способов выбрать k1 белых шаров из n1 и числа способов выбрать k - k1 черных шаров из n - n1:



Вероятность события A равна:

2. Выбор с учетом порядка. Общее число элементарных исходов есть число способов разместить n элементов на k местах (по теореме 2).

При подсчете числа благоприятных исходов нужно учесть, как число способов выбрать нужное число шаров, так и число способов расположить эти шары среди k. Можно, скажем, посчитать число способов выбрать k1 мест среди k (равное ), затем число способов разместить на этих k1 местах n1 белых шаров (равное  — не забывайте про учет порядка!), и затем число способов разместить на оставшихся k - k1 местах n - n1 черных шаров (равное ). Перемножив эти числа, получим:

В рассмотренной задаче мы сопоставили каждому набору из k1 белых и k-k1черных шаров вероятность получить этот набор при выборе k шаров из урны, содержащей n1белых и n-n1черных шаров:

Определение 8. Соответствие или следующий набор вероятностей

Называется гипергеометрическим распределением.

Раздел 2. Геометрическая вероятность

2.1 Что это такое

Рассмотрим какую-нибудь область Ω в Rm ,(на прямой, на плоскости, в пространстве). Предположим, что «мера» Ω (длина, площадь, объем, соответственно) конечна. Пусть случайный эксперимент состоит в том, что мы наудачу бросаем в эту область точку а. Термин «наудачу» здесь означает, что вероятность попадания точки в любую часть А  Ω не зависит от формы или расположения А внутри Ω, а зависит лишь от «меры» области.

Определение 9. Эксперимент удовлетворяет условиям «геометрического определения вероятности», если его исходы можно изобразить точками некоторой области Ω в Rm так, что вероятность попадания точки в любую А  Ω не зависит от формы или расположения А внутри Ω, а зависит лишь от меры области А (и, следовательно, пропорциональна этой мере):

«Мерой» мы пока будем называть длину, площадь, объем и т.д.

Если для точки, брошенной в область Ω, выполнены условия геометрического определения вероятности, то говорят, что точка равномерно распределена в области Ω.

Пример 8. Точка наудачу бросается на отрезок [0,1]. Вероятность точке попасть в точку {0,5} равна нулю, так как мера множества, состоящего из одной точки («длина точки»), есть 0. Вместе с тем попадание в точку {0,5} не является невозможным событием — это один из элементарных исходов эксперимента.

2.2 Задача о встрече

Пример 9. Два лица Х и У условились встретиться в определенном месте между двумя и тремя часами дня. Пришедший первым ждет другого в течении 10 минут, после чего уходит. Чему равна вероятность встречи этих лиц, если каждый из них может прийти в любое время в течение указанного часа независимо от другого?

Будем считать интервал с 14 до 15 часов дня отрезком [0,1] длиной 1 час. Пусть ξ («кси») и η («эта») — моменты прихода Х и У (точки отрезка [0,1]).Все возможные результаты эксперимента — множество точек квадрата со стороной 1:

Ω = {( ξ , η): 0  ξ 1 0  η 1 }=[0,1]x[0,1]

Можно считать, что эксперимент сводится к бросанию точки наудачу в квадрат. При этом благоприятными исходами являются точки множества A = {( ξ , η): │ξ - η│  1/6 } (10 минут = 1/6 часа). То есть попадание в множество A наудачу брошенной в квадрат точки означает, что Х и У встретятся.

Тогда вероятность встреч и равна

2.3 Задача Бюффона

Пример 10. На плоскости начерчены параллельные прямые, находящиеся друг от друга на расстоянии 2a. На плоскость наудачу брошена игла длины 2l < 2a. Какова вероятность того, что игла пересечет одну из прямых?

Поймем, что означает здесь «наудачу брошена игла». Возможные положения иглы (отрезка) на плоскости полностью определяются положением середины иглы и углом поворота иглы относительно какого-либо направления. Причем две эти переменные (положение центра и угол поворота) меняются независимо друг от друга. Обозначим через х[0, a] расстояние от середины иглы до ближайшей прямой, а φ  [0, π] —

угол между каким-то направлением прямых и иглой. Множество возможных положений иглы целиком определяется выбором наудачу точки из прямоугольника Ω = [0,π] x [0,a]. Игла пересекает ближайшую прямую, если координаты выбранной наудачу точки удовлетворяют неравенству: х . l sin φ

Площадь области А  Ω, точки которой удовлетворяют такому неравенству, равна

И так как μ(Ω) = aπ, то искомая вероятность равна

2.4 Парадокс Бертрана

Пример 11 ( Josef Bertrand, “Calcul des Probabilites", 1888).

В круге единичного радиуса наудачу выбирается хорда. Какова вероятность того, что ее длина будет больше, чем длина стороны вписанного в круг правильного треугольника?



Есть по крайней мере три способа «выбрать наудачу хорду в круге». 1. Зафиксируем одну точку (конец хорды) на окружности и выберем наудачу на окружности другую точку (второй конец хорды). Здесь Ω = [0, 2π], а благоприятными являются положения второй точки на интервале [2π/3, 4π/3] (хорды, помеченные на рисунке красным цветом). Вероятность получить «длинную» хорду равна 1/3.





2. Существует ровно одна хорда, для которой данная точка в круге является серединой (кроме того случая, когда брошенная наудачу точка попадет в центр круга. Но поскольку вероятность этого события равна нулю, то учет или неучет такого события не влияет на итоговую вероятность). Можно поэтому выбирать наудачу хорду, бросая наудачу точку (середину хорды) в круг. Здесь Ω — круг радиуса 1, μ(Ω) = π, а благоприятными являются положения середины хорды внутри вписанного в треугольник круга (радиусом 1/2).Вероятность получить «длинную» хорду равна отношению площадей кругов, то есть 1/4.





3. Наконец, можно ограничиться рассмотрением только хорд, перпендикулярных какому-либо диаметру (остальные могут быть получены поворотом). То есть эксперимент может состоять в выборе середины хорды наудачу на диаметре круга — отрезке длиной 2. Благоприятными являются положения середины хорды на отрезке длиной 1. Искомая вероятность для такого эксперимента равна 1/2.





В чем причина разницы в ответах на, казалось бы, один и тот же вопрос? На самом деле формулировка задач и не корректна с математической точки зрения. «Выбор наудачу хорды в круге» может быть по-разному описан с помощью геометрического определения вероятности (что мы и сделали). То есть этот «эксперимент» можно по-разному описать с помощью выбора наудачу точки в некоторой области.

Слово «эксперимент» взято в кавычки не напрасно: сказав «в круге наудачу выбирается хорда», мы еще не описали физического эксперимента. Действительно, каждому из трех предложенных способов выбора хорд можно сопоставить конкретный физический эксперимент (всякий раз другой).

Так что парадокс исчезает сразу, как только получен ответ на вопрос: что значит «в круге наудачу выбирается хорда»?

Заканчивая обсуждение понятия геометрической вероятности, сделаем очень важное для дальнейшего замечание.

Замечание 7. Если даже эксперимент удовлетворяет геометрическому определению вероятности, далеко не для всех множеств А  Ω вероятность может быть вычислена как отношение меры А к мере Ω. Причиной этого является существование так называемых «неизмеримых» множеств, то есть множеств, мера которых не существует.

А если не для всех подмножеств Ω мы можем определить их вероятности, следует сузить класс множеств, называемых «событиями», оставив в этом классе только те множества, для которых мы можем определить вероятность.

В следующей главе мы займемся построением (вслед за Андреем Николаевичем Колмогоровым) аксиоматики теории вероятностей: познакомимся с понятиями σ-алгебры (или поля) событий, вероятностной меры, вероятностного пространства.

Раздел 3. Аксиоматика теории вероятностей

3.1 σ -алгебра событий

Пусть Ω — пространство элементарных исходов некоторого случайного эксперимента (то есть, вообще говоря, множество произвольной природы). Мы собираемся определить набор подмножеств Ω, которые будут называться событиями, и затем задать вероятность как функцию, определенную только на множестве событий.

То есть событиями мы будем называть не любые подмножества Ω, а лишь подмножества из некоторого «множества подмножеств» Ψ. При этом необходимо позаботиться, чтобы это множество Ψ подмножеств Ω было «замкнуто» относительно введенных в параграфе 1.2 операций над событиями, то есть чтобы объединение, пересечение, дополнение событий (то есть элементов Ψ) снова давало событие (то есть элемент Ψ ).

Определение 10. Множество Ψ, состоящее из подмножеств множества Ω, (не обязательно всех!) называется σ - алгеброй событий, или σ – алгеброй подмножеств Ω, если выполнены следующие условия:

(A1) Ω  Ψ (σ -алгебра событий содержит достоверное событие);

(A2) если , то  (вместе с любым событием σ -алгебра содержит противоположное событие);

(A3) если А1, А2…  Ψ, то



(вместе с любым конечным или счетным набором событий σ -алгебра содержит их объединение).

Условия (A1)–(A3) часто называют «аксиомами σ - алгебры».

Проверим, что этого набора аксиом достаточно для замкнутости множества Ψ относительно других операций над событиями.

Вместо первой аксиомы достаточно предположить, что Ψ не пусто, т.е. содержит хоть один элемент.

Свойство 1.   Ψ (σ -алгебра событий содержит невозможное событие).

Доказательство. По (A1), Ω  Ψ, но  = Ω/ Ω = ¬ Ω  Ψ в силу (A2).

Свойство 2. При выполнении (A1),(A2) свойство (A3) эквивалентно свойству (A4)

(A4) если А1, А2…  Ψ, то



(вместе с любым конечным или счетным набором событий σ -алгебра содержит их пересечение).

Доказательство. Докажем, что при выполнении (A1),(A2) из (A3) следует (A4).

Если А1, А2…  Ψ, то при всех i = 1, 2,… по свойству (A2) выполнено 

Тогда из (A3) следует, что



и, по (A2), дополнение к этому множеству также принадлежит Ψ, то есть





Но, в силу формул двойственности,



Доказательство в обратную сторону выглядит совершенно аналогично.

Свойство 3. Если А, В Ψ , то А\ В Ψ

Пример 12. Пусть Ω = {1, 2, 3, 4, 5, 6}— пространство элементарных исходов (например, при бросании игрального кубика). Следующие наборы подмножеств Ω являются σ -алгебрами (доказать!):

1. Ψ = { Ω , } ={ {1, 2, 3, 4, 5, 6}, }— тривиальная σ -алгебра.

2. Ψ = { Ω , ,{1},¬{1}} ={ {1, 2, 3, 4, 5, 6},,{1},{2, 3, 4, 5, 6} }.

3. Ψ = { Ω , A,¬A} ={ {1, 2, 3, 4, 5, 6},, A,¬A }., где A — произвольное подмножество Ω (в предыдущем примере A ={1} ).

Итак, мы определили специальный класс Ψ подмножеств пространства элементарных исходов Ω, названный σ -алгеброй событий, причем применение счетного числа любых операций (таких, как объединение, пересечение, дополнение) к множествам из Ψ снова дает множество из Ψ (не выводит за рамки этого класса). Множества А Ψ мы и назвали «событиями».

Определим теперь понятие «вероятности» как функции, определенной на множестве событий (то есть функции, которая каждому событию ставит в соответствие число). А чтобы читателю сразу стало понятно, о чем пойдет речь, добавим: вероятность мы определим как неотрицательную нормированную меру, заданную на σ -алгебре Ψ подмножеств Ω.

3.2 Вероятность как нормированная мера

Определение 11.

Пусть Ω — некоторое множество и Ψ — σ -алгебра его подмножеств. Функция μ: Ψ → R U {∞} называется мерой на (Ω, Ψ), если она удовлетворяет условиям:

(M1) Для любого множества А  Ψ его мера неотрицательна: μ(А)≥ 0.

(M2) Для любого счетного набора попарно непересекающихся множеств А1, А2…  Ψ мера их объединения равна сумме их мер:

 («счетная аддитивность» или «σ -аддитивность»). Иначе говоря, мера есть неотрицательная, счетно-аддитивная функция множеств.

Определение 12.

Пусть Ω — некоторое множество и Ψ — σ -алгебра его подмножеств. Мера μ: Ψ → R называется нормированной, если μ(Ω) = 1. Другое название нормированной меры — «вероятность» или «вероятностная мера».

То же самое еще раз и подробно:

Определение 13.

Пусть Ω — пространство элементарных исходов и Ψ — σ -алгебра его подмножеств (событий). Вероятностью или вероятностной мерой на (Ω, Ψ), называется функция P Ψ → R, обладающая свойствами:

(P1) Для любого события А  Ψ выполняется неравенство P(А)≥ 0;

(P2) Для любого счетного набора попарно несовместных событий А1, А2…  Ψ имеет место равенство



(P3) Вероятность достоверного события равна единице: P(Ω) = 1.

Свойства (P1)–(P3) часто называют «аксиомами вероятности».

Определение 14.

Тройка (Ω, Ψ,Р), в которой Ω — пространство элементарных исходов, Ψ — σ -алгебра его подмножеств и P — вероятностная мера на Ψ, называется вероятностным пространством.

Выпишем свойства вероятности:



Для любого конечного набора попарно несовместимых событий А1, А2…  Ψ имеет место равенство





Если , то 

Если , то 









(2)



Раздел 4. Условная вероятность, независимость

4.1 Условная вероятность

Пример 13. Кубик подбрасывается один раз. Известно, что выпало более трех очков. Какова при этом вероятность того, что выпало четное число очков?

В данном случае пространство элементарных исходов состоит из трех равновозможных элементарных исходов: Ω = {4, 5, 6}, и событию A = {выпало четное число очков} благоприятствуют 2 из них: A = {4, 6}. Поэтому P(A) = 2/3.

Посмотрим на этот вопрос с точки зрения первоначального эксперимента. Пространство элементарных исходов при одном подбрасывании кубика состоит из шести точек: Ω = {1, 2, 3, 4, 5, 6} . Слова «известно, что выпало более трех очков» означают, что в эксперименте произошло событие B = {4, 5, 6},. Слова «какова при этом вероятность того, что выпало четное число очков?» означают, что нас интересует, в какой доле случаев при осуществлении B происходит и А. Вероятность события А, вычисленную в предположении, что нечто о результате эксперимента уже известно (событие B произошло), мы будем обозначать через P(A/B)

Мы хотим вычислить отношение числа исходов, благоприятствующих А внутри B (то есть благоприятствующих одновременно A и B), к числу исходов, благоприятствующих B.

Определение 15. Условной вероятностью события А, при условии, что произошло событие В, называется число

Будем считать, что условная вероятность определена только в случае, когда P(В) > 0.

Следующее свойство называется "теоремой умножения":

Теорема 6. P(A∩B) = P(B)P(A\B) = P(A)P(B\A), если соответствующие условные вероятности определены (то есть если P(В) > 0, P(A) > 0).

Теорема умножения для большего числа событий:

Теорема 7. P(A1 ∩ A2 ∩…∩ An) = P(A1) P(A2\A1) P(A3 \A1 ∩A2)… P(An \A1∩…∩An-1)если соответствующие условные вероятности определены.

4.2 Независимость

Определение 16. События A и B называются независимыми, если P(A∩B) = P(A)P(B)

Пример 14.

1. Точка с координатами ξ, η бросается наудачу в квадрат со стороной 1. Доказать, что для любых х, у R события A = { ξ <x} и B= { η <y} независимы.

2. Точка с координатами ξ, η бросается наудачу в треугольник с вершинами (1,0), (0,0) и (0,1). Доказать, что события A = { ξ <1/2} и B= { η <1/2} зависимы.



1. Рассмотрим х, у  [0,1]). Видим, что P(A) = x, P(B) = y, P(A∩B) = x y, так что A = { ξ <1/2} и B= { η <1/2} независимы.

2. На рисунке видим, что P(A) = 3/4, P(B) = 3/4 P(A∩B) = 1/2ч≠  (3/4)2, так что события A = { ξ <1/2} и B= { η <1/2}  зависимы.

Замечание 8. Если события A и B несовместны, то они независимы, если и только если P(A) = 0 или P(B) = 0 

Следствие 2. Если P(B) > 0, то события А и В независимы P(А\В) =Р(А)

Если P(А) > 0, то события А и В независимы P(В\А) =Р(В)

Лемма 1. Если события А и В независимы, то независимы и события .

Определение 17. События А1, А2…Аn называются независимыми в совокупности, если для любого набора 

1 ≤ i1, i2…ik ≤ n 

) 						(3)

Замечание 9. Если события А1, А2…Аn независимы в совокупности, то они попарно независимы, то есть любые два события Аi, Аj независимы. Достаточно в равенстве (3) взять k =2. Обратное, как показывает следующий пример, неверно.

Пример 15 (Пример С. Н. Бернштейна).

Рассмотрим правильный тетраэдр, 3 грани которого окрашены, соответственно, в красный, синий, зеленый цвета, а четвертая грань содержит все три цвета. Событие A, (B, C) означает, что выпала грань, содержащая красный (синий, зеленый) цвета.

Вероятность каждого из этих событий равна 1/2, так как каждый цвет есть на двух гранях из четырех. Вероятность пересечения любых двух из них равна 1/4, так как только одна грань содержит два цвета. А так как 1/4 = 1/2 1/2, то все события попарно независимы.

Но вероятность пересечения всех трех тоже равна 1/4, а не 1/8, то есть события не являются независимыми в совокупности.

Заметьте, что равенство (6) выполнено для k = 2, но не выполнено для k = 3.

4.3 Формула полной вероятности

Пример 16. Есть 3 завода, производящих одну и ту же продукцию. При этом 1-й завод производит 25%, 2-й завод — 35% и 3-й завод — 40% всей производимой продукции. Брак составляет 5% от продукции 1-го завода, 3% от продукции 2-го и 4% от продукции 3-го завода. Вся продукция смешивается и поступает в продажу. Найти а) вероятность купить бракованное изделие; б) условную вероятность того, что купленное изделие изготовлено 1-м заводом, если это изделие бракованное.

Первая вероятность равна доле бракованных изделий в объеме всей продукции, то есть 

0,05*0,25 + 0,03*0,35 + 0,04*0,4. 

Вторая вероятность равна доле брака 1-го завода среди всего брака, то есть

Определение 18. Набор попарно несовместных событий Н1, Н2… таких, что P(Аi) > 0 для всех i и



называется полной группой событий или разбиение пространства Ω

События Н1, Н2 …, образующие полную группу событий, часто называют гипотезами. При подходящем выборе гипотез для произвольного события А могут быть сравнительно просто вычислены P(А/ Нi) (вероятность событию А произойти при выполнении «гипотезы» Нi) и собственно P(Нi)(вероятность выполнения «гипотезы» Нi). 

Теорема 8 (Формула полной вероятности).

Пусть Н1, Н2 — полная группа событий. Тогда вероятность любого события A может быть вычислена по формуле:

4.4 Формула Байеса

Теорема 9 (Формула Байеса).

Пусть Н1, Н2 …— полная группа событий и A — некоторое событие положительной вероятности. Тогда условная вероятность того, что имело место событие Нk, если в результате эксперимента наблюдалось событие A, может быть вычислена по формуле:





Пример 17. Вернемся к примеру 15. Изделие выбирается наудачу из всей произведенной продукции. Рассмотрим три гипотезы: Нi = {изделие изготовлено i-м заводом }, i = 1, 2, 3. Вероятности этих событий даны: P(Н1) = 0,25, P(Н2) = 0,35, P(Н3) = 0,4 . Пусть A = {изделие оказалось бракованным }. Даны также условные вероятности P(A\Н1) = 0,05, P(A\Н2) = 0,03, P(A\Н3) = 0,04

Пример 18. Два стрелка подбрасывают монетку и выбирают, кто из них стреляет по мишени (одной пулей). Первый стрелок попадает по мишени с вероятностью 1, второй стрелок — с вероятностью 0,00001. Можно сделать два предположения об эксперименте: 

Н1 = {стреляет 1-й стрелок}

Н2 = { стреляет 2-й стрелок } . 

Априорные (a’priori —«до опыта») вероятности этих гипотез одинаковы: P(Н1) = P(Н1) = 1/2.

Рассмотрим событие A = {пуля попала в мишень}. Известно, что

P(A\Н1) = 1, P(A\Н2) = 0,00001

Поэтому вероятность пуле попасть в мишень P(A) =  1/2*1 + 1/2*0,00001. . Предположим, что событие A  произошло. Какова теперь апостериорная (a’posteriori — «после опыта») вероятность каждой из гипотез Нi? Очевидно, что первая из этих гипотез много вероятнее второй (а именно, в 100000 раз). Действительно,

Раздел 5. Схема Бернулли

5.1 Распределение числа успехов в n испытаниях

Определение 19. Схемой Бернулли называется последовательность независимых испытаний, в каждом из которых возможны лишь два исхода — «успех» и «неудача», при этом «успех» в одном испытании происходит с вероятность р  [0,1], «неудача» — с вероятностью q = 1 - p.

Теорема 10 (Формула Бернулли).

Обозначим через vn число успехов в n испытаниях схемы Бернулли. Тогда для любого k = 0, 1, …n



Доказательство. Событие A ={ vn = k} означает, что в n испытаниях схемы Бернулли произошло ровно k успехов. Рассмотрим один из благоприятствующих событию A  элементарных исходов: 



Здесь буквами «у» и «н» обозначены, соответственно, успешный и неудачный результаты испытаний. Поскольку испытания независимы, вероятность такого элементарного исхода (первые k испытаний завершились успехом, остальные неудачей) равна pk(1 - p)n-k.

Другие благоприятствующие событию A элементарные исходы отличаются от рассмотренного выше лишь расположением k успехов на n местах. Есть ровно способов расположить k успехов на n местах. Поэтому событие A состоит из  элементарных исходов, вероятность каждого из которых равна pk(1 - p)n-k.

Определение 20. Набор чисел 

называется биноминальным распределением вероятностей  и обозначается Вnp или B(n,p).

Теорема 11 Пусть m1, m2 целые числа, 0  m1  m   m2  n Обозначим через Рn(m1,m2) вероятность того, что событие А наступило не менее m1 и не более m2 раз в n испытаниях. Тогда



5.2 Наиболее вероятное число успехов

По формуле Бернулли, событие «произошло 0 успехов в n испытаниях» имеет вероятность qn , 1 успех — вероятность n p qn и т.д. Какое же число успехов наиболее вероятно? Иначе говоря, при каком k достигается максимум P(vn=k)?

Чтобы выяснить это, сравним отношение P(vn=k)и P(vn=k-1)с единицей.



Видим, что

(a) Р(vn = k) > Р(vn = k-1) при np + p – k > 0, то есть при k < np + p;

(b) Р(vn = k) < Р(vn = k-1 )при np + p – k < 0, то есть при k > np + p;

(c) Р(vn = k) = Р(vn = k-1 при np + p – k = 0, что возможно лишь если np + p — целое число.

Рассмотрим два случая: np + p –целое число и  np + p – дробное число. В первом случае пусть k0 = np + p. Из полученных выше неравенств, сразу следует, что



Во втором случае пусть k0 = [np + p] (целая часть числа np + p, то есть наибольшее целое число, не превосходящее np + p). Из неравенств (a), (b) следует, что



Действительно, неравенство Р(vn = k0) > Р(vn = k0+1), например, следует из (b), примененного для 

k = k0+1 > np + p.

Видим, что в зависимости от того, является число 1 > np + p целым или нет, имеется либо два равновероятных «наиболее вероятных» числа успехов k0 = np + p и k0 –1 > np + p - 1,либо одно «наиболее вероятное» число успехов k0 = [np + p].

Сформулируем уже доказанное утверждение в виде теоремы.

Теорема 12. В n испытаниях схемы Бернулли с вероятностью успеха p наиболее вероятным числом успехов является

a) единственное число k0 = [np + p], если число np + p не целое;

б) два числа k0 = np + p и k0 -1= np + p -1, если число np + p целое.

Пример 19. Если p = q = 1/2, то при четном числе испытаний n число np + p = n/2 + 1 /2— не целое, так что наиболее вероятным является единственное число успехов [n/2 + 1 /2] = n/2. Что совершенно понятно, так как есть нечетное число возможностей — получить 0, 1, …n успехов, причем вероятности получить k и n-k успехов одинаковы.

При нечетном же числе испытаний n число np + p = n/2 + 1 /2  — целое, так что наиболее вероятными (и одинаково вероятными) являются два числа успехов n/2 + 1 /2 и n/2 - 1 /2.

5.3 Номер первого успешного испытания

Рассмотрим схему Бернулли с вероятностью успеха p в одном испытании. Испытания проводятся до появления первого успеха. Введем величину τ ,  равную номеру первого успешного испытания.

Теорема 13. Вероятность того, что первый успех произойдет в испытании с номером k, равна 

P(τ = k) = p qk-1.

Доказательство. Действительно,



Определение 21. Набор чисел {p qk-1 } называется геометрическим распределением вероятностей и обозначается Gp или G(p).

Геометрическое распределение вероятностей обладает интересным свойством, которое можно назвать свойством «нестарения». Пусть величина τ обозначает, скажем, время безотказной работы (измеряемое целым числом часов) некоторого устройства. Предположим, что для величины τ вероятность принять любое свое значение k в точности равна pqk-1. Справедливо следующее утверждение.

Теорема 14. Пусть P(τ  = k) = p qk-1. Тогда для произвольных n, k  0

P(τ  > n+k\ τ  > n) = P(τ  > k)

Данному равенству можно придать следующее звучание: если известно, что устройство проработало без отказов n часов, то вероятность ему работать еще не менее k часов точно такая же, как вероятность проработать не менее k часов для нового устройства.

Можно прочесть эту формулу и так: вероятность работающему устройству проработать еще сколько-то часов не зависит от того момента, когда мы начали отсчет времени, или от того, сколько уже работает устройство.

Доказательство. По определению условной вероятности,

					(4)





Последнее равенство следует из того, что событие {τ  > n+k} влечет событие {τ  > n}, так что пересечение этих событий есть {τ  > n+k}. Найдем для произвольного m  0 вероятность P(τ  > m).



Можно также заметить, что событие {τ  > m} означает, что в схеме Бернулли первые m испытаний завершились «неудачами», а это событие имеет вероятность как раз qm.

Возвращаясь к (4), получим



5.4 Приближение гипергеометрического распределения биномиальным

Рассмотрим урну, содержащую N шаров, из которых K шаров — белые, а оставшиеся N-K шаров — черные. Из урны наудачу (без возвращения) выбираются n шаров. Вероятность  PN,K(n, k) того, что будет выбрано ровно k белых и n-k черных шаров, находится по формуле (см. определение 8 гипергеометрического распределения вероятностей):

Если число шаров в урне очень велико, то извлечение одного, двух, трех шаров почти не меняет пропорцию белых и черных шаров в урне, так что вероятности PN,K(n, k) не очень отличаются от вероятностей в процедуре выбора с возвращением

P(получить ровно k белых шаров при выборе n шаров с возвращением) = 



Сформулируем нашу первую предельную теорему.

Теорема 15. Если N → ∞ и K → ∞ так, что K/N → p  (0, 1)  то для любых фиксированных n, 0<=k<=n

5.5 Независимые испытания с несколькими исходами

Рассмотрим следующий пример, когда из двух очень похожих вопросов на один можно ответить, пользуясь формулой Бернулли, а для другого этой формулы оказывается недостаточно:

Пример 20. Игральная кость подбрасывается 15 раз. Найти вероятности следующих событий:

а) выпадет ровно 10 шестерок; б) выпадет ровно 10 шестерок и три единицы.

а) есть 15 испытаний схемы Бернулли с вероятностью успеха 1/6 (выпадение шестерки). Вероятность десяти успехов в 15 испытаниях равна

 

б) здесь каждое испытание имеет три, а не два исхода: выпадение шестерки, выпадение единицы, выпадение остальных граней. Воспользоваться формулой для числа успехов в схеме Бернулли не удается — перед нами уже не схема Бернулли.

Осталось изобрести формулу для подсчета вероятности каждому исходу в нескольких независимых испытаниях выпасть нужное число раз, если в одном испытании возможно не два, а более исходов.

Пусть в одном испытании возможны m исходов. Обозначим их цифрами 1, 2, …m. Пусть исход i в одном испытании случается с вероятностью рi, 1 ≤ i ≤ m  и



Обозначим через Р(n1,n2,…,nm) вероятность того, что в n = n1+ n2+ …+nm независимых испытаний исход 1 появился n1, раз, исход 2 – n2 раз,…

Теорема 16. Для любого n и любых целых n1 ≥ 0… nm ≥ 0 таких, что n1+ n2+ …+nm = n, верна формула:



Доказательство. Рассмотрим один элементарный исход, благоприятствующий выпадению n1 единиц, n2 двоек, … , nm  раз m-ок:



Это результат n экспериментов, когда все нужные исходы появились в некотором заранее заданном порядке. Вероятность такого результата n независимых испытаний равна



Все остальные благоприятные исходы отличаются лишь расположением чисел 1, 2, …m на n местах. Число таких исходов равно числу способов расставить на n местах n1 единиц, n2 двоек, , … , nm  раз чисел m, то есть 



Теперь мы можем вернуться к примеру 20(б) и выписать ответ: так как вероятности выпадения шестерки и единицы равны 1/6, а вероятность третьего исхода (выпали любые другие грани) равна 4/6, то вероятность получить 10 шестерок, 3 единицы и еще 2 других очка равна



5.6 Теорема Пуассона для схемы Бернулли

Предположим, нам нужна вероятность получить не менее десяти успехов в 1000 испытаний схемы Бернулли с вероятностью успеха 0.003. Вероятность этого события равна любому из следующих выражений:



и вычисление даже одного слагаемого в каждом из этих выражений весьма проблематично.

Сформулируем теорему о приближенном вычислении вероятности какого-либо числа успехов в большом числе испытаний схемы Бернулли с маленькой вероятностью успеха. Термин «большое число» должен означать n → ∞. Если при этом p = pn→ 0,то, очевидно, вероятность получить любое конечное число успехов при растущем числе испытаний стремится к нулю. Необходимо чтобы вероятность успеха p = pn→ 0 одновременно с ростом числа испытаний. Но от испытания к испытанию вероятность успеха меняться не может (см. определение схемы Бернулли).

Поэтому рассмотрим «схему серий»: есть

одно испытание ○ 	с вероятностью успеха p1

два испытания ○ , ○ 	с вероятностью успеха p2

…

n испытаний ○ , … , ○	с вероятностью успеха pn

…

Вероятность успеха меняется не внутри одной серии испытаний, а от серии к серии, когда меняется общее число испытаний. Обозначим через vn число успехов в n-той серии испытаний.

Теорема 17 (Теорема Пуассона).

Пусть n → ∞ , pn→ 0 так, что n pn→ λ > 0. Тогда для любого k ≥ 0 вероятность получить k успехов в n испытаниях схемы Бернулли с вероятностью успеха pn стремится к величине 

												(5)

для n → ∞ , pn→ 0 так, что n pn→ λ

Определение 22. Пусть λ > 0— некоторая постоянная. Набор чисел  называется распределением Пуассона с параметром λ.

Пользуясь теоремой 17, можно приближенно посчитать вероятность получить не менее десяти успехов в 1000 испытаний схемы Бернулли с вероятностью успеха 0.003, с вычисления которой мы начали. Поскольку n = 1000 «велико», а pn = 0.003 «мало», то, взяв λ = n pn = 3 , можно написать приближенное равенство

(6)

Осталось решить, а достаточно ли n=103 «велико», а pn = 0.003 «мало», чтобы заменить точную вероятность P(vn = k) на приближенное значение 



Для этого нужно уметь оценивать разницу между этими двумя вероятностями.

Теорема 18 (Теорема Пуассона с оценкой погрешности).

Пусть A  {0, 1, …, n}  — произвольное множество целых неотрицательных чисел, vn — число успехов в n испытаниях схемы Бернулли с вероятностью успеха p, λ = n p. Тогда



Таким образом, теорема 18 предоставляет нам возможность самим решать, достаточно ли n «велико», а p «мало», руководствуясь полученной величиной погрешности.

Какова же погрешность в формуле (6)?





Погрешность не более 0,009 (при вероятности около 0,001). Во всяком случае, можно утверждать, что искомая вероятность никак не больше, чем 0,01=0,001+0,009.

Рассмотрим еще одну формулу приближенного вычисления pn (m) когда n велико. В отличии от предыдущего результата число успехов m в этом случае тоже растет с ростом n, а вероятность успеха постоянна.

Локальная теорема Муавра – Лапласа 

Пусть .Предположим, что и величины являются ограниченными. Тогда



В частности, если , то



Доказательство:

В силу ограниченности величин  разность вместе с n и m Воспользуемся формулой Стирлинга





В силу определения 





Раздел 6. Случайные величины и их распределения

6.1 Случайные величины

Мы уже видели, что для очень многих экспериментов нет никаких различий в подсчете вероятностей событий, тогда как элементарные исходы в этих экспериментах очень различаются. Но нас и должны интересовать именно вероятности событий, а не структура пространства элементарных исходов. Поэтому пора во всех таких «похожих» экспериментах вместо самых разных элементарных исходов использовать, например, числа. То есть ввести соответствие (иначе говоря, отображение) между элементарными исходами и вещественными числами (с ними удобно работать).

Пусть имеется случайный эксперимент и задано вероятностное пространство (Ω, Ψ,Р).

Определение 23. Функция ξ: Ω →R называется случайной величиной, если для любого х  R множество { ξ < x} = {ω: ξ(ω) < x} является событием, то есть принадлежит σ-алгебре событий Ψ.

Замечание 10. Можно смело считать, что любое множество элементарных исходов есть событие, и, следовательно, случайная величина есть произвольная функция из Ω в R. Никаких неприятностей на практике это обычно не влечет.

Определение 24. Будем говорить, что функция ξ: Ω →R является Ψ -измеримой, если {ω: ξ(ω) < x} принадлежит Ψ для любого х  R.

Итак, случайная величина есть Ψ - измеримая функция, ставящая в соответствие каждому элементарному исходу ω  Ω число ξ(ω)  R.

Пример 21. Подбрасываем 1 раз кубик. Пусть Ω = {1, 2, 3, 4, 5, 6} , и две функции из Ω в заданы так: ξ(ω)= ω , η(ω)= ω2.

Если Ψ есть множество всех подмножеств Ω, то ξ и η являются случайными величинами, поскольку любое множество элементарных исходов принадлежит Ψ, в том числе и {ω: ξ(ω) < x}  или {ω: η (ω) < x}  . Можно записать соответствие между значениями случайных величин ξ и η  вероятностями принимать эти значения в виде «таблицы распределения вероятностей» или, коротко, «таблицы распределения»:



ξ

1

2

3

4

5

6

Р

1/6

1/6

1/6

1/6

1/6

1/6



η

1

4

9

16

25

36

Р

1/6

1/6

1/6

1/6

1/6

1/6

Здесь 1/6 = Р(ξ=1)=…= Р(ξ=6) = Р(η =1)= …= Р(η =36)

Пусть σ -алгебра событий Ψ состоит всего из четырех множеств:

Ψ = { Ω ,, {1,3,5},{2,4,6} }

то есть событием является, кроме достоверного и невозможного событий, выпадение четного (соответственно, нечетного) числа очков. Убедимся, что при такой «бедной» σ -алгебре ни ξ, ни η не являются случайными величинами, так как эти функции не Ψ - измеримы. Возьмем (например) x = 3,967. Видим, что

{ω  Ω: ξ(ω) < 3,967}= {1, 2, 3} Ψ и {ω  Ω: η (ω) < 3,967}= {1} Ψ

Теперь попробуем понять, зачем нужна Ψ - измеримость и почему требуется, чтобы {ω: ξ(ω) < x} являлось событием.

Если задана случайная величина ξ, нам может потребоваться вычислить вероятности типа 

P(ξ = 5) =  P{ω: ξ(ω) = 5},

P (ξ  [-3,7]), 

P(ξ  3,2),

P(ξ > 0) 

(и вообще самые разные вероятности попадания в различные множества на прямой). Это возможно только если множества, стоящие под знаком вероятности, являются событиями (напомню, что вероятность есть функция из σ - алгебры событий в [0,1]).

Но если потребовать, чтобы Ax = {ω: ξ(ω) < x} было событием при любом x, то мы из свойств σ - алгебры сразу получим, что

и — событие, и — событие,

и — событие,

и {ω: ξ(ω) = x}= Bx \ Ax — событие, 								(7)

и т.д., и т.п. (операции пересечения, объединения, дополнения событий не выводят из класса событий).

Можно потребовать в определении 23 чего-нибудь другого. Например, чтобы событием было попадание в любой интервал: (ω: ξ(ω)  [a, b]) для любых a < b.

Или чтобы {ω: ξ(ω)  x} было событием для любого x. Любое такое определение эквивалентно исходному.

Опишем различные типы распределений случайных величин. Под распределением случайной величины мы будем понимать соответствие 

«значение случайной величины ↔ вероятность принимать это значение»,

либо (чаще)

«множество на прямой ↔ вероятность случайной величине попасть в это множество».

6.2 Дискретные распределения

Определение 25. Говорят, что случайная величина ξ имеет дискретное распределение, если существует конечный или счетный набор чисел {a1, a2, …} такой, что:

а) pi = P{ ξ = ai} > 0 для всех i; 

б).

То есть случайная величина ξ имеет дискретное распределение, если она принимает не более чем счетное число значений.

Определение 26. Если случайная величина ξ имеет дискретное распределение, назовем таблицей распределения соответствие ai ↔ pi, которое чаще всего рисуют так:



ξ

а1

а2

а3

…

Р

р1

р2

р3

…

6.3 Примеры дискретных распределений

Вырожденное распределение.

Говорят, что случайная величина ξ имеет вырожденное распределение с параметром а, и пишут ξ  Ia если ξ принимает единственное значение а с вероятностью 1, то есть P(ξ = a) = 1. Таблица распределения ξ имеет вид

ξ

а

Р

1



Распределение Бернулли.

Говорят, что случайная величина ξ имеет распределение Бернулли с параметром р, и пишут ξ  Вр, если ξ принимает значения 1 и 0 с вероятностями р и 1 - р, соответственно. Случайная величина ξ с таким распределением равна числу успехов в одном испытании схемы Бернулли с вероятностью успеха (0 успехов или 1 успех). Таблица распределения ξ имеет вид 

ξ

0

1

Р

(1-p)

р



Биномиальное распределение.

Говорят, что случайная величина ξ имеет биномиальное распределение с параметрами n и p, где 0  p , n и пишут ξ  Вn,р, если ξ принимает значения 0, 1, …,n с вероятностями P(ξ  = k) = Cnk pk (1-p)n-k . Случайная величина ξ с таким распределением имеет смысл числа успехов в n испытаниях схемы Бернулли с вероятностью успеха р .

Таблица распределения ξ имеет вид



ξ

0

1

…

k

…

n

Р

(1-p)n

n p(1-p)n-1

…

Cnk pk (1-p)n-k

…

Pn



Геометрическое распределение.

Говорят, что случайная величина τ имеет геометрическое распределение с параметром р, где 0  p , n, и пишут τ  Gр, если τ принимает значения 1, 2, 3, …с вероятностями P(τ = k) = p (1-p)k-1. Случайная величина τ с таким распределением имеет смысл номера первого успешного испытания в схеме Бернулли с вероятностью успеха р .

Таблица распределения τ имеет вид



τ

1

2

…

k

…

Р

p

Р (1 – р)

…

p (1-p)k-1

…

Распределение Пуассона.

Говорят, что случайная величина ξ имеет распределение Пуассона с параметром λ, где λ > 0 , и ξ  П λ, если ξ принимает значения 0, 1, 2 … с вероятностями 



Таблица распределения ξ имеет вид



ξ

1

2

…

k

…

Р

е- λ 

λ е- λ

…

(λk /k!)е- λ

…

Гипергеометрическое распределение.

Говорят, что случайная величина ξ имеет гипергеометрическое распределение с параметрами n, N и K, K  N,   n  N если ξ принимает целые значения от max (0, N - K – n ) до min (K ,n ) с вероятностями 



. Случайная величина ξ с таким распределением имеет смысл числа белых шаров среди n шаров выбранных наудачу и без возвращения из урны, содержащей К белых шаров и N-K не белых.

Заметьте, что со всеми этими распределениями мы уже хорошо знакомы.

Но распределения случайных величин далеко не исчерпываются дискретными распределениями. Так, например, если точка бросается наудачу на отрезок [0,1], то можно задать случайную величину, равную координате этой точки. Но число значений этой случайной величины несчетно, так что ее распределение дискретным не является. Да и вероятность этой случайной величине принять каждое из своих возможных значений (попасть в точку) равна нулю. Так что не только таблица распределения не существует, но и соответствие «значение величины  вероятность его принять» ничего не говорит о распределении случайной величины.

Какими же характеристиками еще можно описать распределение?

Раздел 7. Функция распределения

Заметим, что на том же отрезке [0, 1] вероятности попадания в множества положительной меры совсем не нулевые. И термин «наудачу» мы когда-то описывали как раз в терминах вероятностей попадания в множество. Может быть, разумно описать распределение случайной величины, задав для любого множества, вероятность принять значения из этого множества? Это действительно полное описание распределения, но уж очень трудно с ней работать — слишком много множеств на прямой.

Нельзя ли обойтись заданием вероятностей попадания в какой-нибудь меньший набор множеств на прямой? Оказывается, что можно ограничиться только вероятностями попадания в интервалы (-, х) для всех х  R, с помощью которых можно будет определить и вероятность попасть в любое другое множество.

Замечание 11. Можно с таким же успехом ограничиться набором вероятностей попадания в интервалы (-, х], или в (х ,), или в [х ,), или в (х1 ,x2). Впрочем, последних уже слишком много.

Определение 27.Функцией распределения  случайной величины ξ называется функция Fξ(x) : R  [0, 1], при каждом x  R равная Fξ(x) = P(ξ < x) =  P{ω: ξ(ω) < x}

Пример 22. Случайная величина ξ имеет вырожденное распределение Ic. Тогда

 



Пример 23. Случайная величина ξ имеет распределение Бернулли Вр. Тогда





Пример 24. Будем говорить, что случайная величина ξ имеет равномерное распределение на отрезке [a, b] и писать ξ  Ua,b (“ uniform”), если ξ — координата точки, брошенной наудачу на отрезок [a, b]  числовой прямой. Это распределение можно задать и с помощью функции распределения:





7.1 Свойства функции распределения

Теорема 19. 

Функция распределения Fξ(x)  обладает следующими свойствами:

F1) Функция распределения Fξ(x)  не убывает: если х1 < x2 то Fξ(x1)< Fξ(x2);

F2) Существуют пределы 

      и       

F3) Функция распределения Fξ(x)  непрерывна слева: 





Теорема 20. Если функция F: R  [0, 1] удовлетворяет свойствам (F1)–(F3), то F есть функция распределения некоторой случайной величины ξ, то есть найдется вероятностное пространство (Ω, Ψ, Р) и случайная величина ξ на этом пространстве, что F(х) = Fξ(x).

Прочие полезные свойства функций распределения

F4) В любой точке х0 разница Fξ(х0+0) - Fξ(х0) равна P(ξ = х0):

Следствие 3. Если функция распределения Fξ(x) непрерывна в точке х0, то 

P(ξ = х0) = 0

F5) Для любой случайной величины ξ имеет место равенство P(а  ξ < b) = Fξ(a) - Fξ(b).

Если же функция распределения Fξ(x) непрерывна (для любого x, или только в точках a и b), то

P(а  ξ < b) = P(а < ξ < b) = P(а  ξ  b) = P(а < ξ   b) = Fξ(a) - Fξ(b)



Функция распределения дискретного распределения

Мы уже видели, как выглядят функции распределения некоторых дискретных распределений. Из свойств (F4), (F5) следует

Свойство 4. Случайная величина ξ имеет дискретное распределение тогда и только тогда, когда функция распределения Fξ — ступенчатая функция. При этом возможные значения ξ — точки ai скачков Fξ, и 

pi = P(ξ = ai ) = Fξ (ai + 0) - Fξ (ai )— величины скачков.

В следующей главе мы рассмотрим случайные величины, функции распределения которых не удовлетворяют свойству 4 хотя бы потому, что они вовсе не имеют разрывов. Более того, мы выделим класс функций распределения, которые «восстанавливаются по своей производной» с помощью интегрирования (так называемые абсолютно непрерывные функции).

Раздел 8. Абсолютно непрерывные распределения

Определение 28.Случайная величина ξ имеет называемые абсолютно непрерывное распределение, если существует неотрицательная функция fξ(x) такая, что для любого х  R функция распределения Fξ(x) представима в виде



При этом функция fξ(x) называется плотностью распределения случайной величины ξ.

Теорема 21.Плотность распределения обладает свойствами:

(f1) fξ(x) 0  для любого x; 

(f2) 

Эти два свойства полностью характеризуют класс плотностей:

Лемма 2. Если функция f обладает свойствами (f1) и (f2), то существует вероятностное пространство и случайная величина ξ на нем, для которой  f является плотностью распределения.

Доказательство. Пусть Ω есть область, заключенная между осью абсцисс и графиком функции f (« подграфик» функции  f). Площадь области Ω равна 1 по свойству (f2). И пусть случайная величина ξ есть абсцисса точки, наудачу брошенной в эту область.

Тогда (вспомнить геометрическую вероятность) для любого х  R



то есть f является плотностью распределения случайной величины ξ

Свойства плотностей

(f3) Если случайная величина ξ имеет абсолютно непрерывное распределение, то ее функция распределения всюду непрерывна.

Следствие 4. Если случайная величина ξ имеет абсолютно непрерывное распределение, то P(ξ = х) = 0 для любого х  R.

(f4) Если случайная величина ξ имеет абсолютно непрерывное распределение, то ее функция распределения дифференцируема почти всюду, и



для почти всех х.

Замечание 12. Термин для «почти всех» означает «для всех, кроме (возможно) х из некоторого множества нулевой меры (длины)». Заметьте, что стоящую под интегралом функцию можно изменить в одной точке (или на множестве нулевой длины), и интеграл (« площадь подграфика») от этого не изменится.

(f5) Если случайная величина ξ имеет абсолютно непрерывное распределение, то



Доказательство. Действительно,



Остальные равенства вытекают из следствия 5.

8.1 Примеры абсолютно непрерывных распределений

Равномерное. 

Это распределение нам уже знакомо. Говорят, что ξ имеет равномерное распределение на отрезке [a, b], и пишут ξ  Ua,b если



Заметьте, что в точках a и b функция распределения недифференцируема, и плотность можно задать как угодно.

Показательное.

 Говорят, что ξ имеет показательное распределение с параметром α, α > 0  и ξ  Еα, если



Показательное распределение является единственным абсолютно непрерывным распределением, для которого выполнено свойство «не старения» (и в этом смысле оно является непрерывным аналогом дискретного геометрического распределения).

Теорема 21. Свойство «Не старения». Пусть ξ  Еα. Тогда для любых х, у > 0



Нормальное. 

Говорят, что ξ имеет нормальное распределение с параметрами а и σ2 , где а  R, σ > 0, и пишут ξ   если ξ имеет следующую плотность распределения:

для любого x  R

Убедимся, что fξ(x)действительно является плотностью распределения. Так как fξ(x) > 0 для всех x  R, то свойство (f1) выполнено. Проверим выполнение (f2). Используем табличный интеграл (интеграл Пуассона)



Нормальное (иначе называемое гауссовским по имени Карла Гаусса распределение играет исключительно важную роль в теории вероятностей, поэтому мы очень подробно изучим все свойства этого распределения.

8.2 Свойства нормального распределения

Нормальное распределение задается, как мы видим, с помощью плотности распределения. Связано это с тем, что нельзя выписать первообразную от функции иначе как в виде интеграла, поэтому функцию распределения этого закона можно записать лишь в таком виде:



Мы часто будем использовать обозначение для функции распределения нормального распределения с параметрами а и σ2.



Стандартное нормальное распределение

Нормальное распределение при  а = 0 и σ= 1 называется стандартным нормальным распределением. Плотность стандартного нормального распределения имеет вид

для любого x  R

 а функция распределения 



табулирована (то есть ее значения вычислены при многих х) почти во всех математических справочниках. Установим связь между 



Свойство 5. Для любого x  R справедливо соотношение 



То же самое на языке случайных величин можно сформулировать так:

Следствие 5. Если  то 

Следствие 6. Если  то



Как мы видим, вычисление любых вероятностей для нормально распределенной случайной величины сводится к вычислению функции распределения Ф0,1. Ее свойства 

Свойство 6. Ф0,1(0) = 0,5

Свойство 7. Ф0,1(-х) = 1 - Ф0,1(х)

Свойство 8. Если ξ  N0,1, то



Свойство 9 (« Правило трех сигм»). 

Если то

Смысла в запоминании числа 0.0027 нет никакого, а вот помнить, что почти вся масса нормального распределения сосредоточена в границах [a - 3σ, a - 3σ] всегда полезно.

Смысла в запоминании числа 0.0027 нет никакого, а вот помнить, что почти вся масса нормального распределения сосредоточена в границах [a-3σ, a+3σ], всегда полезно.

Раздел 9. Случайные вектора и их распределения

Определение 29. Если случайные величины  заданы на одном вероятностном пространстве, то вектор () мы будем называть случайным вектором.

Определение 30. Функция  называется функцией распределения случайного вектора () или функцией совместного распределения случайных величин .

9.1 Свойства функции совместного распределения

Для простоты обозначений все дальнейшие рассуждения и формулировки приводятся в случае n = 2 для случайного вектора ()

F0) 

F1)  не убывает по каждой координате вектора (x1 x2).

F2) Для любого i = 1, 2, существуют 





При этом 



F3) Функция   по каждой координате вектора (x1 x2) непрерывна слева.

Только теперь этих свойств оказывается недостаточно для описания класса функций совместного распределения. Иначе говоря, выполнение этих свойств для некоторой функции F: R2  R вовсе не гарантирует, что эта функция является функцией распределения некоторого случайного вектора.

Пример 25. Функция



a) удовлетворяет всем свойствам (F0)-(F3);

б) не является функцией распределения никакого вектора (ξ1, ξ2.) хотя бы потому, что, найдись такой вектор, найдется и прямоугольник [a1 b1] x [a2 b2], вероятность попасть в который (вычисленная с помощью этой «функции распределения») отрицательна:

P(a1  ξ1< b1 , a2  ξ2<b2 ) < 0!

Как же связана вероятность вектору попасть в прямоугольник с функцией распределения этого вектора?

Упражнение. Доказать, что

P(a1  ξ1< b1 , a2  ξ2<b2 )= F ξ1 ξ2 (b1, b2) - F ξ1 ξ2 (a1, b2) - F ξ1 ξ2 (b1, a2) + F ξ1 ξ2 (a1, a2)  	(8)

Оказывается, если потребовать дополнительно от функции F, чтобы для всякого [a1 b1] x [a2 b2] вероятность P(a1  ξ1< b1] , [a2  ξ2<b2], связанная с функцией F равенством (8), была неотрицательна, то любая функция, обладающая этим свойством и свойствами (F0)-(F3), уже будет функцией распределения некоторого случайного вектора.



9.2 Типы многомерных распределений

Ограничимся рассмотрением только двух случаев, когда совместное распределение координат случайного вектора (ξ1, ξ2.) либо дискретно, либо абсолютно непрерывно.

Дискретное совместное распределение

Определение 31. Говорят, что случайные величины ξ1, ξ2. имеют дискретное,  совместное распределение, если существует конечный или счетный набор { ai, bi } такой, что



Таблицу, на пересечении i-й строки и j-го столбца которой (или наоборот) стоит число 

P(ξ1= ai ,ξ2= bj) называют таблицей совместного распределения случайных величин ξ1,. ξ2

Замечание 13. Напомню, что таблицы распределения каждой из случайных величин ξ1, ξ2 в отдельности (таблицы частных, или маргинальных распределений) восстанавливаются по таблице совместного распределения с помощью очевидных формул:



Если эти формулы вам не представляются очевидными, необходимо вернуться к разделу 4 и перечитать определение 18 полной группы событий, обратив также внимание на доказательство теоремы 8 (формулы полной вероятности).

Абсолютно непрерывное совместное распределение

Определение 32. Говорят, что с.в. ξ1, ξ2 (заданные на одном вероятностном пространстве) имеют абсолютно непрерывное совместное распределение, если существует функция  такая, что для любой точки (x1, x2)  R2



Если такая функция  существует, она называется плотностью совместного распределения случайных величин ξ1, ξ2.

Замечание 14. Для всего дальнейшего более чем достаточно считать, что



равняется объему под графиком функции f над областью интегрирования — прямоугольником [a1,b1] x [a2,b2].

Плотность совместного распределения обладает свойствами, аналогичными свойствам плотности распределения одной случайной величины:

(f1) для любых x1, x2  R;

(f2) .

Более того, любая функция, обладающая этими свойствами, является плотностью некоторого совместного распределения.

Если совместное распределение абсолютно непрерывно, то по функции совместного распределения его плотность находится как смешанная частная производная:

(f3) .

Из свойства (F2) функции совместного распределения вытекает следующее утверждение. Для n > 2 это утверждение, как и свойство (F2), выглядит существенно иначе!

Теорема 22. Если случайные величины ξ1, ξ2   имеют абсолютно непрерывное совместное распределение с плотностью f (x1, x2), то ξ1, и ξ2 в отдельности также имеют абсолютно непрерывное распределение с плотностями:



9.3 Независимость случайных величин

Определение 33. Случайные величины ξ1, ξ2, … , ξn независимы, если для любого набора множеств В1  R, … Вn  R  имеет место равенство:



Это определение можно сформулировать в терминах функций распределения:

Определение 34. Случайные величины ξ1, ξ2, … , ξn независимы, если для любых х1, х2, … , хn имеет место равенство:



Определение 35. Случайные величины ξ1, ξ2, … , ξn с дискретным распределением независимы, если для любых а1, а2, … , аn имеет место равенство:



Для случайных величин с абсолютно непрерывным совместным распределением определение независимости можно сформулировать так:

Определение 36. Случайные величины ξ1, ξ2, … , ξn с абсолютно непрерывным совместным распределением независимы, если плотность совместного распределения равна произведению плотностей случайных ξ1, ξ2, … , ξn, то есть для любых х1, х2, … , хn имеет место равенство:



Раздел 10. Преобразования случайных величин

10.1 Преобразование одной случайной величины

Мы будем рассматривать только преобразования случайных величин с абсолютно непрерывными распределениями. Пусть с. в. ξ имеет функцию распределения Fξ(x) и плотность распределения fξ(x). Построим с помощью функции g: R  R случайную величину η= g(ξ). Требуется найти функцию распределения и, если существует, плотность распределения η.

Замечание 15. Плотность распределения случайной величины η= g(ξ) существует далеко не при любых функциях g. Так, если функция g кусочно-постоянна, то с. в. η имеет дискретное распределение, и плотность ее распределения не существует.

Плотность распределения g(ξ) заведомо существует, если, например, функция g(ξ) монотонна («строго монотонна»). Вспомним, что означает «найти плотность распределения η, если она существует».

По определению, если мы представим (для любого х) функцию распределения η в виде  где подинтегральная функция h(y) неотрицательна, то плотность распределения с.в. η  существует и в точности равна подинтегральной функции fξ(x) = h(x) .   

Так что доказывать существование плотности распределения и находить ее мы будем одновременно, находя нужное интегральное представление для функции распределения.

Теорема 23. Пусть ξ имеет функцию распределения Fξ(x) и плотность распределения fξ(x) , и постоянная a отлична от нуля. Тогда случайная величина η = a ξ  + b имеет плотность распределения 



Для произвольной монотонной функции g (то есть либо монотонно возрастающей функции, либо монотонно убывающей функции справедливо аналогичное теореме 23 утверждение).

Теорема 24. Пусть ξ имеет функцию распределения Fξ(x) и плотность распределения fξ(x), и функция g: R  R монотонна. Тогда случайная величина η= g(ξ) имеет плотность распределения



Здесь g -1— функция, обратная к g, и 

— производная функции g -1. 

Следствие 7. Если ξ  N0,1, то η = σξ+а   

Следствие 8. Если η  , то ξ = (η –а)/ σ  N0,1.

Следствие 9. Если ξ  Еα, то η = αξ Е1

10.2 Функции от двух случайных величин

Пусть ξ1 ξ2 — случайные величины с плотностью совместного распределения , и задана функция g : R2  R. Требуется найти функцию (а если существует, то и плотность) распределения случайной величины η = g(ξ1 , ξ2).



Пользуясь тем, что вероятность случайному вектору попасть в область можно вычислить как объем под графиком плотности распределения вектора над этой областью, сформулируем утверждение.

Теорема 25. Пусть х R, и область Dx  R2  состоит из точек (x1 x2 ) таких, что g (x1 x2 ) < x. Тогда случайная величина η = g(ξ1 , ξ2). имеет функцию распределения



Всюду далее в этой главе предполагается, что случайные величины ξ1 и ξ2 независимы, то есть 

Следствие 10 (Формула свертки). Если с. в. ξ1 и ξ2 независимы и имеют абсолютно непрерывное распределение с плотностями  f ξ1 (x1) и f ξ2 (x2)., то плотность распределения суммы ξ1 + ξ2 равна «свертке» плотностей f ξ1 (x1) и f ξ2 (x2)

						 (9)

Следствие 10 не только предлагает формулу для вычисления плотности распределения суммы, но и утверждает (заметьте!), что сумма двух независимых случайных величин с абсолютно непрерывными распределениями также имеет абсолютно непрерывное распределение.

Если даже одна из двух независимых случайных величин имеет дискретное, а вторая – абсолютно непрерывное распределение, то их сумма тоже имеет абсолютно непрерывное распределение, как показывает следующее упражнение.

Упражнение. Пусть с. в. ξ имеет таблицу распределения P(ξ  = аi) = pi, с. в. η имеет плотность распределения fη(x), и эти величины независимы. Доказать, что ξ +η имеет плотность распределения 



10.3 Примеры использования формулы свертки

Пример 26. Пусть независимые случайные величины ξ и η имеют стандартное нормальное распределение. Докажем, что их сумма имеет нормальное распределение с параметрами 0 и 2.

Доказательство. По формуле свертки, плотность суммы равна



Выделим полный квадрат по u в показателе экспоненты: 



Тогда



Последнее равенство верно поскольку под интегралом стоит плотность нормального распределения с параметрами 0 и , так что интеграл по всей прямой равен 1. Итак, мы получили, что плотность суммы есть плотность нормального распределения с параметрами 0 и 2.

Если сумма двух независимых случайных величин из одного и того же распределения (возможно, с разными параметрами) имеет такое же распределение, говорят, что это распределение устойчиво относительно суммирования.

В следующих утверждениях, перечислены практически все устойчивые распределения. 

Лемма 3. Пусть случайные величины ξ  Пλ и η Пμ независимы. Тогда ξ+ η  Пλ+μ

Лемма 4. Пусть случайные величины ξ  Bn,p и ξ  Bm,p независимы. Тогда ξ+ η  Bm+n,p

Лемма 5. Пусть случайные величины  и  независимы. Тогда 



Показательное распределение не устойчиво по суммированию, однако его можно считать частным случаем гамма-распределения, которое уже в некотором смысле устойчиво относительно суммирования.

Определение 37. Случайная величина ξ имеет гамма-распределение Гα,λ с параметрами α > 0, λ > 0, если она имеет плотность распределения



где постоянная c вычисляется из условия 





Заметим, что показательное распределение Еα есть гамма-распределение Гα,1.

Лемма 6. Пусть независимые случайные величины ξ1, … , ξn имеют показательное распределение Еα = Гα,1 Тогда ξ1 +…+ξn  Гα,n

«Случайных величин без мат. ожидания не бывает, так как, если у нас есть случайная величина мы всегда в праве от нее что-нибудь ожидать.»

Из студенческой контрольной работы.

Раздел 11. Числовые характеристики случайных величин

11.1 Математическое ожидание случайной величины

Определение 38. Математическим ожиданием Eξ (средним значением, первым моментом) случайной величины ξ с дискретным распределением, задаваемым таблицей P(ξ  = аi) = pi, называется число

 если указанный ряд абсолютно сходится.

Если же

, то говорят, что математическое ожидание не существует.

Определение 39. Математическим ожиданием Eξ  случайной величины ξ с абсолютно непрерывным распределением с плотностью распределения fξ(x), называется число

 если указанный интеграл абсолютно сходится.

Если же 

, то говорят, что математическое ожидание не существует.

Математическое ожидание имеет простой физический смысл: если на прямой разместить единичную массу, поместив в точку аi массу pi (для дискретного распределения), или «размазав» ее с плотностью fξ(x) (для абсолютно непрерывного распределения), то точка Eξ есть координата «центра тяжести» прямой.

Пример 26. Пусть случайная величина ξ равна числу очков, выпадающих при одном подбрасывании кубика. Тогда 







в среднем при подбрасывании кубика выпадает 3.5 очка

Пример 27. Пусть случайная величина ξ — координата точки, брошенной наудачу на отрезок [a,b]. Тогда 



центр тяжести равномерного распределения на отрезке есть середина отрезка.

11.2 Свойства математического ожидания

Во всех свойствах предполагается, что рассматриваемые математические ожидания существуют.

E0. Математическое ожидание случайной величины есть ЧИСЛО!

E1. Для произвольной функции функция g : R  R





Доказательство. Мы докажем это свойство (как и почти все дальнейшие) только для дискретного распределения. Пусть g(ξ) принимает значения с1 с2 … с вероятностями



Тогда



E2 Математическое ожидание const равно этой const Eс = с.

E3. const можно вынести за знак математического ожидания: E(с ξ) = с Eξ.

Доказательство. Следует из свойства E1 при g(ξ) = с ξ .

E4. Математическое ожидание суммы любых случайных величин ξ и η равно сумме их математических ожиданий.

E (ξ + η ) = E (ξ )+ E (η)

Доказательство. Для величин с дискретным распределением: пусть xk и yn — значения ξ и η, соответственно. 



E5.Если ξ  0 п.н. (« почти наверное», т.е. с вероятностью 1: P(ξ  0 ) = 1), то E ξ  0;

Если ξ  0  п.н., и при этом Eξ = 0, то ξ = 0  п.н., то есть P(ξ = 0) = 1.

Следствие 11.

Если ξ  η п.н., то E ξ  Eη .

Если ξ  η п.н., и при этом Eξ =  Eη, то ξ = η п.н.

E6. Математическое ожидание произведения независимых случайных величин равно произведению их математических ожиданий.: если ξ и η независимы, то

E(ξη) = Eξ  Eη.

Доказательство.



Замечание 16. Обратное утверждение к свойству E6 неверно: из равенства E(ξη) = Eξ  Eη. Не следует независимость величин ξ и η.

Пример 28. Пусть φ  U0,2π, ξ = cos φ, η = sin φ— заведомо зависимые случайные величины. Но математическое ожидание их произведения равно произведению их математических ожиданий: по свойству E1



11.3 Моменты старших порядков. Дисперсия

Определение 40. Если , то число 

 называется моментом порядка k (k -м моментом) случайной величины ξ;

 называется абсолютным моментом порядка k (абсолютным k -м моментом) случайной величины ξ;

 называется центральным моментом порядка k (центральным k -м моментом) случайной величины ξ;

 называется абсолютным центральным моментом порядка k (абсолютным центральным k -м моментом) случайной величины ξ.

Число Dξ = E(ξ – Eξ)2 (центральный момент порядка 2) называется дисперсией случайной величины ξ

Пример 29. Пусть, скажем, случайная величина ξ принимает значение 0 с вероятностью 1-10-5 , и значение 100 с вероятностью 10-5. Посмотрим, как моменты разных порядков реагируют на большие, но маловероятные значения случайной величины.



Пример 30. Дисперсия Dξ = E(ξ – Eξ)2 есть «среднее значение квадрата отклонения случайной величины ξ от своего среднего». Посмотрим, за что эта величина отвечает.

Пусть случайная величина ξ принимает значения +-1 с вероятностью 1/2, а случайная величина η — значения ю +-10 с вероятностью 1/2. Тогда Eξ = Eη = 0 поэтому D ξ =  E ξ2 = 1, Dη = Eη2 = 100. Говорят, что дисперсия характеризует степень разброса значений случайной величины вокруг ее математического ожидания.

Если говорить о распределении случайной величины, как о распределении единичной массы по невесомому стержню, то дисперсия есть в точности момент инерции этого стержня, закрепленного в центре тяжести.

Определение 40. Если дисперсия величины ξ конечна, то число называют среднеквадратичным отклонением случайной величины ξ.

Следует хорошо понимать, что из существования моментов больших порядков следует существование моментов меньших порядков. В частности, конечность второго момента (или дисперсии) влечет существование математического ожидания.

11.4 Свойства дисперсии

Все свойства дисперсии следуют из соответствующих свойств математического ожидания.

D1. 

Действительно,



D2. 

D3.

если и только если ξ= const.п.н.

Доказательство. Дисперсия есть всего-навсего математическое ожидание п.н. неотрицательной с.в.: 

Dξ = E(ξ – Eξ)2, и неотрицательность дисперсии следует из свойства E5. По тому же свойству, Dξ = 0 если и только если E(ξ – Eξ)2 = 0 п.н., то есть ξ = ξ п.н.

D4. Дисперсия не меняется от сдвига с.в. на постоянную:



D5. Если ξ и η независимы, то



Действительно,



так как математическое ожидание произведения независимых с.в. равно произведению их математических ожиданий.

D6. Минимум среднеквадратического отклонения случайной величины ξ от точек вещественной прямой есть среднеквадратическое отклонение ξ от своего математического ожидания:



Наименьший момент инерции стержня с распределенной на нем единичной массой получится, если точка вращения – центр тяжести стержня, а не любая другая точка.

Доказательство.

причем равенство достигается только для а = Eξ.

11.5 Математические ожидания и дисперсии стандартных распределений

Пример 31. Распределение Бернулли Вр,



Пример 32. Биномиальное распределение Вn,p

Воспользуемся свойством устойчивости биномиального распределения относительно суммирования — леммой 5. Возьмем n независимых случайных величин ξ1 ξ2 … ξn, имеющих распределение Бернулли В,p = В1,p.

Тогда их сумма Sn = ξ1 + ξ2 +… + ξn имеет распределение Вn,p



так как все ξi одинаково распределены и их математическое ожидание равно pi;



поскольку ξi независимы и дисперсия каждой равна pq.

Пример 33. Геометрическое распределение Gp

При p  (0,1)



Равенство (*) появилось из-за нежелания дифференцировать сумму геометрической прогрессии, которая начинается не с 0 а с q. Заметьте, что производная у добавленных слагаемых равна 0, так что производные от этих двух сумм равны



Поэтому

Пример 34. Распределение Пуассона Пλ 



Показать, что 

, следовательно 

Пример 35. Равномерное распределение Ua,b 





Пример 36. Стандартное нормальное распределение N0,1 



поскольку под интегралом стоит нечетная функция, и сам интеграл абсолютно сходится (за счет быстро убывающей 





Последнее равенство следует из того, что 

а интеграл по всей прямой от плотности любого распределения равен 1. Поэтому 



Пример 37. Нормальное распределение 

Мы знаем, что если



Поэтому



Пример 38. Показательное (экспоненциальное) распределение Еα

Найдем для произвольного k  N момент порядка k.



В последнем равенстве мы воспользовались гамма-функцией Эйлера:

 Соответственно,



Пример 39. Стандартное распределение Коши С0,1 

Распределение Коши. Говорят, что ξ имеет распределение Коши с параметрами α, σ2, где α  R, σ > 0, если

 для всех х  R

Распределение Коши имеет, например, абсцисса точки пересечения луча, посланного из точки (α, σ) под наудачу выбранным углом,

 с осью ОХ. 

Математическое ожидание для распределения Коши не существует, поскольку



расходится (подинтегральная функция ведет себя на бесконечности как 1/х).

Пример 40. Распределение Парето 

Распределение Парето. Говорят, что ξ имеет распределение Парето с параметрами х0, s, где х0 > 0,  s > 0, если



У распределения Парето существуют только моменты порядка u < s, поскольку



сходится при u < s, то есть когда подинтегральная функция на бесконечности бесконечно мала по сравнению с 1/х.

«Случайных величин без мат. ожидания не бывает, так как, если у нас есть случайная величина мы всегда в праве от нее что-нибудь ожидать.»

Из студенческой контрольной работы.

Раздел 11. Числовые характеристики случайных величин

11.1 Математическое ожидание случайной величины

Определение 38. Математическим ожиданием Eξ (средним значением, первым моментом) случайной величины ξ с дискретным распределением, задаваемым таблицей P(ξ  = аi) = pi, называется число

 если указанный ряд абсолютно сходится.

Если же

, то говорят, что математическое ожидание не существует.

Определение 39. Математическим ожиданием Eξ  случайной величины ξ с абсолютно непрерывным распределением с плотностью распределения fξ(x), называется число

 если указанный интеграл абсолютно сходится.

Если же 

, то говорят, что математическое ожидание не существует.

Математическое ожидание имеет простой физический смысл: если на прямой разместить единичную массу, поместив в точку аi массу pi (для дискретного распределения), или «размазав» ее с плотностью fξ(x) (для абсолютно непрерывного распределения), то точка Eξ есть координата «центра тяжести» прямой.

Пример 26. Пусть случайная величина ξ равна числу очков, выпадающих при одном подбрасывании кубика. Тогда 







в среднем при подбрасывании кубика выпадает 3.5 очка

Пример 27. Пусть случайная величина ξ — координата точки, брошенной наудачу на отрезок [a,b]. Тогда 



центр тяжести равномерного распределения на отрезке есть середина отрезка.

11.2 Свойства математического ожидания

Во всех свойствах предполагается, что рассматриваемые математические ожидания существуют.

E0. Математическое ожидание случайной величины есть ЧИСЛО!

E1. Для произвольной функции функция g : R  R





Доказательство. Мы докажем это свойство (как и почти все дальнейшие) только для дискретного распределения. Пусть g(ξ) принимает значения с1 с2 … с вероятностями



Тогда



E2 Математическое ожидание const равно этой const Eс = с.

E3. const можно вынести за знак математического ожидания: E(с ξ) = с Eξ.

Доказательство. Следует из свойства E1 при g(ξ) = с ξ .

E4. Математическое ожидание суммы любых случайных величин ξ и η равно сумме их математических ожиданий.

E (ξ + η ) = E (ξ )+ E (η)

Доказательство. Для величин с дискретным распределением: пусть xk и yn — значения ξ и η, соответственно. 



E5.Если ξ  0 п.н. (« почти наверное», т.е. с вероятностью 1: P(ξ  0 ) = 1), то E ξ  0;

Если ξ  0  п.н., и при этом Eξ = 0, то ξ = 0  п.н., то есть P(ξ = 0) = 1.

Следствие 11.

Если ξ  η п.н., то E ξ  Eη .

Если ξ  η п.н., и при этом Eξ =  Eη, то ξ = η п.н.

E6. Математическое ожидание произведения независимых случайных величин равно произведению их математических ожиданий.: если ξ и η независимы, то

E(ξη) = Eξ  Eη.

Доказательство.



Замечание 16. Обратное утверждение к свойству E6 неверно: из равенства E(ξη) = Eξ  Eη. Не следует независимость величин ξ и η.

Пример 28. Пусть φ  U0,2π, ξ = cos φ, η = sin φ— заведомо зависимые случайные величины. Но математическое ожидание их произведения равно произведению их математических ожиданий: по свойству E1



11.3 Моменты старших порядков. Дисперсия

Определение 40. Если , то число 

 называется моментом порядка k (k -м моментом) случайной величины ξ;

 называется абсолютным моментом порядка k (абсолютным k -м моментом) случайной величины ξ;

 называется центральным моментом порядка k (центральным k -м моментом) случайной величины ξ;

 называется абсолютным центральным моментом порядка k (абсолютным центральным k -м моментом) случайной величины ξ.

Число Dξ = E(ξ – Eξ)2 (центральный момент порядка 2) называется дисперсией случайной величины ξ

Пример 29. Пусть, скажем, случайная величина ξ принимает значение 0 с вероятностью 1-10-5 , и значение 100 с вероятностью 10-5. Посмотрим, как моменты разных порядков реагируют на большие, но маловероятные значения случайной величины.



Пример 30. Дисперсия Dξ = E(ξ – Eξ)2 есть «среднее значение квадрата отклонения случайной величины ξ от своего среднего». Посмотрим, за что эта величина отвечает.

Пусть случайная величина ξ принимает значения +-1 с вероятностью 1/2, а случайная величина η — значения ю +-10 с вероятностью 1/2. Тогда Eξ = Eη = 0 поэтому D ξ =  E ξ2 = 1, Dη = Eη2 = 100. Говорят, что дисперсия характеризует степень разброса значений случайной величины вокруг ее математического ожидания.

Если говорить о распределении случайной величины, как о распределении единичной массы по невесомому стержню, то дисперсия есть в точности момент инерции этого стержня, закрепленного в центре тяжести.

Определение 40. Если дисперсия величины ξ конечна, то число называют среднеквадратичным отклонением случайной величины ξ.

Следует хорошо понимать, что из существования моментов больших порядков следует существование моментов меньших порядков. В частности, конечность второго момента (или дисперсии) влечет существование математического ожидания.

11.4 Свойства дисперсии

Все свойства дисперсии следуют из соответствующих свойств математического ожидания.

D1. 

Действительно,



D2. 

D3.

если и только если ξ= const.п.н.

Доказательство. Дисперсия есть всего-навсего математическое ожидание п.н. неотрицательной с.в.: 

Dξ = E(ξ – Eξ)2, и неотрицательность дисперсии следует из свойства E5. По тому же свойству, Dξ = 0 если и только если E(ξ – Eξ)2 = 0 п.н., то есть ξ = ξ п.н.

D4. Дисперсия не меняется от сдвига с.в. на постоянную:



D5. Если ξ и η независимы, то



Действительно,



так как математическое ожидание произведения независимых с.в. равно произведению их математических ожиданий.

D6. Минимум среднеквадратического отклонения случайной величины ξ от точек вещественной прямой есть среднеквадратическое отклонение ξ от своего математического ожидания:



Наименьший момент инерции стержня с распределенной на нем единичной массой получится, если точка вращения – центр тяжести стержня, а не любая другая точка.

Доказательство.

причем равенство достигается только для а = Eξ.

11.5 Математические ожидания и дисперсии стандартных распределений

Пример 31. Распределение Бернулли Вр,



Пример 32. Биномиальное распределение Вn,p

Воспользуемся свойством устойчивости биномиального распределения относительно суммирования — леммой 5. Возьмем n независимых случайных величин ξ1 ξ2 … ξn, имеющих распределение Бернулли В,p = В1,p.

Тогда их сумма Sn = ξ1 + ξ2 +… + ξn имеет распределение Вn,p



так как все ξi одинаково распределены и их математическое ожидание равно pi;



поскольку ξi независимы и дисперсия каждой равна pq.

Пример 33. Геометрическое распределение Gp

При p  (0,1)



Равенство (*) появилось из-за нежелания дифференцировать сумму геометрической прогрессии, которая начинается не с 0 а с q. Заметьте, что производная у добавленных слагаемых равна 0, так что производные от этих двух сумм равны



Поэтому

Пример 34. Распределение Пуассона Пλ 



Показать, что 

, следовательно 

Пример 35. Равномерное распределение Ua,b 





Пример 36. Стандартное нормальное распределение N0,1 



поскольку под интегралом стоит нечетная функция, и сам интеграл абсолютно сходится (за счет быстро убывающей 





Последнее равенство следует из того, что 

а интеграл по всей прямой от плотности любого распределения равен 1. Поэтому 



Пример 37. Нормальное распределение 

Мы знаем, что если



Поэтому



Пример 38. Показательное (экспоненциальное) распределение Еα

Найдем для произвольного k  N момент порядка k.



В последнем равенстве мы воспользовались гамма-функцией Эйлера:

 Соответственно,



Пример 39. Стандартное распределение Коши С0,1 

Распределение Коши. Говорят, что ξ имеет распределение Коши с параметрами α, σ2, где α  R, σ > 0, если

 для всех х  R

Распределение Коши имеет, например, абсцисса точки пересечения луча, посланного из точки (α, σ) под наудачу выбранным углом,

 с осью ОХ. 

Математическое ожидание для распределения Коши не существует, поскольку



расходится (подинтегральная функция ведет себя на бесконечности как 1/х).

Пример 40. Распределение Парето 

Распределение Парето. Говорят, что ξ имеет распределение Парето с параметрами х0, s, где х0 > 0,  s > 0, если



У распределения Парето существуют только моменты порядка u < s, поскольку



сходится при u < s, то есть когда подинтегральная функция на бесконечности бесконечно мала по сравнению с 1/х.

Раздел 12. Числовые характеристики зависимости случайных величин

12.1 Чем отличается дисперсия суммы от суммы дисперсий?

Мы знаем, что для независимых с. в. с конечными вторыми моментами дисперсия их суммы равна сумме их дисперсий. Чему равна дисперсия суммы в общем случае?

(10)

Величина E(ξη) - Eξ Eη равняется нулю, если случайные величины  ξ и η независимы (свойство E6 математического ожидания). С другой стороны, из равенства ее нулю вовсе не следует независимость, как показывает пример 30. Оказывается, что эту величину часто используют как «индикатор наличия зависимости» пары с. в.

Определение 41. Ковариацией cov(ξ, η) случайных величин ξ и η называется число



Свойство 10. 



Свойство 11. 

; 

.

Свойство 12. Дисперсия суммы нескольких случайных величин вычисляется по любой из следующих формул:



Обсудим достоинства и недостатки ковариации, как величины, характеризующей зависимость двух с. в.

1. Если ковариация cov(ξ, η) отлична от нуля, то величины ξ и η зависимы!

2. С гарантией о наличии зависимости мы можем судить, если знаем совместное распределение пары ξ и η, и можем проверить, равна ли (например) плотность совместного распределения произведению плотностей.

Но найти совместное распределение часто бывает сложнее, чем посчитать математическое ожидание произведения ξ и η. Если нам повезет, и математическое ожидание произведения ξ и η не будет равняться произведению их мат. ожиданий, мы скажем, что ξ и η зависимы не находя их совместного распределения!

Пример 41. Покажем, что с помощью ковариации можно судить о зависимости даже когда для вычисления совместного распределения недостаточно данных.

Пусть ξ и η — независимые случайные величины, и дисперсия ξ отлична от нуля. Докажем, что ξ и ξ+ η зависимы.

 			(11)

Поэтому



Следовательно, ξ и ξ+ η зависимы.

3. Жаль, что величина cov(ξ, η)  не является «безразмерной»: если ξ – объем газа в сосуде, а η  – давление этого газа, то ковариация измеряется в кубометрах х Паскали :).

Иначе говоря, при умножении одной из величин ξ, η на какое-нибудь число ковариация тоже умножается на это число. Но умножение на число не сказывается на «степени зависимости» величин (они от этого «более зависимыми» не становятся), так что большое значение ковариации не означает более сильной зависимости.

Нужно как-то нормировать ковариацию, получив из нее «безразмерную» величину, абсолютное значение которой

а) не менялось бы при умножении или сдвиге случайных величин на число;

б) свидетельствовало бы о «силе зависимости» с. в.

Говря о «силе» зависимости между с.в., мы имеем в виду следующее. Самая сильная зависимость – функциональная, а из функциональных – линейная зависимость, когда ξ= аη + b п.н. Бывают гораздо более слабые зависимости. Так, если по последовательности независимых случайных величин ξ1 ξ2 … построить ξ = ξ1 +…ξ24 + ξ25 η = ξ25 +ξ26 + …+ξ90 , то эти величины зависимы, но очень “слабо зависимы”: через одно-единственное общее слагаемое ξ25 .

Итак, следующая величина есть всего лишь ковариация, нормированная нужным образом.

12.2 Коэффициент корреляции

Определение 43. Коэффициентом корреляции ρ(ξ, η)  случайных величин ξ, η, дисперсии которых существуют и отличны от нуля, называется число



Пример 42. Рассмотрим продолжение примера 41, но пусть ξ и η будут не только независимыми, но и одинаково распределенными случайными величинами, и их дисперсия отлична от нуля. Найдем коэффициент корреляции величин ξ и ξ + η. Согласно формуле (10),



Поэтому



Определение 44. Случайные величины ξ и η называют некоррелированными, если cov(ξ, η) = 0  (или если ρ(ξ, η) = 0, — в том случае, когда коэффициент корреляции существует).

Замечание 17. Если одна из величин ξ и η — постоянная, то эти величины независимы, и cov (ξ, η) = 0. Естественно в этом случае тоже полагать, что ξ и η «некоррелированы», хотя коэффициент корреляции не определен (дисперсия постоянной равна 0).

12.3 Свойства коэффициента корреляции

Всюду далее специально не оговаривается, но предполагается, что коэффициент корреляции существует.

Теорема 26.

Коэффициент корреляции обладает следующими свойствами.

1. Если с. в. ξ и η независимы, то ρ(ξ, η) = cov(ξ, η) =  0.

2. ρ(ξ, η). 1

3. ρ(ξ, η)= 1, если и только если с. в. ξ и η с вероятностью 1 линейно связаны, т.е. существуют числа а  0 и b такие, что P(η = aξ+ b) = 1.

Определение 45. Пусть D конечна и отлична от нуля. Определим случайную величину 



Преобразование  называется стандартизацией случайной величины ξ, а сама с. в.  называется стандартизованной , или (слэнг!) центрированной и нормированной  версией с. в. ξ.

Свойство 13. Стандартизованная с. в. имеет нулевое математическое ожидание и единичную дисперсию.

Доказательство. Воспользуемся свойствами математического ожидания и дисперсии:



Полезно знать следующие часто употребляемые термины.

Определение 46. Говорят, что величины ξ и η отрицательно коррелированы, если ρ(ξ, η) < 0; говорят, что величины ξ и η положительно коррелированы, если ρ(ξ, η) > 0.

Смысл знака коэффициента корреляции особенно ясен в случае ρ(ξ, η) = 1. Тогда знак ρ равен знаку a в равенстве η = aξ+ b п.н. То есть ρ(ξ, η) = 1 означает, что чем больше ξ, тем больше и η. Напротив, ρ(ξ, η) = -1 означает, что чем больше ξ, тем меньше η. Похожим образом можно трактовать знак коэффициента корреляции и в случае, когда ρ(ξ, η) < 1, помня при этом, что зависимость величин ξ и η теперь уже не линейная и, возможно, даже не функциональная.

Так, величины ξ и ξ + η в примерах 41 и 42 положительно коррелированы, но их зависимость не функциональная.

Пример 43.



Если с. в. ξ и η есть координаты точки, брошенной наудачу в треугольник с вершинами (2,0), (0,0) и (0,1), то коэффициент корреляции ρ(ξ, η) отрицателен. Это можно объяснить «на пальцах» так: Чем больше ξ, тем меньше у  η возможностей быть большой) Предлагаю убедиться в этом, проверив справедливость следующих высказываний. 

Во-первых,





Во-вторых,

Совместное распределение координат точки, брошенной наудачу в произвольную (измеримую) область D на плоскости имеет постоянную плотность во всех точках области D. Это связано с понятием «наудачу»: вероятность попасть в любую область A D, с одной стороны зависит только от площади А и не зависит от формы и положения А внутри D, равняясь с другой стороны, интегралу по области А от плотности совместного распределения координат точки. Эти два качества возможно совместить, только если плотность совместного распределения постоянна внутри D. Более того, эта постоянная, как легко видеть, есть просто  (хотя бы потому, что интеграл от нее по всей области D должен ровняться вероятности попасть в D, или единице).

Распределение точки, брошенной наудачу в область (все равно где), называют равномерным распределением.

Итак, плотность равномерного распределения в произвольной области на плоскости — постоянная, равная (1/ площадь области) для точек внутри области и нулю — вне. Поэтому (а также потому, что площадь этого треугольника равна 1)



То есть ковариация (а с ней и коэффициент корреляции) отрицательна (посчитать cov(ξ, η)).

Пример 44.

Найти коэффициент корреляции между числом выпадений единицы и числом выпадений шестерки при n подбрасываниях симметричного кубика.

Решение. Обозначим для i = 1, 2, 3, 4, 5, 6  через ξi случайную величину, равную числу выпадений грани с i очками при n подбрасываниях кубика. Посчитаем cov(ξ1, ξ6).

Каждая из случайных величин ξi имеет биномиальное распределение с параметрами n и 1/6, поэтому 

.

Заметим, что сумма ξ1 + … + ξn этих величин равна n. В силу симметрии кубика, все математические ожидания одинаковы, но, скорее всего, отличаются от 



Посчитаем 



 С одной стороны, это равно





с другой стороны,





Отсюда 





Следовательно, искомый коэффициент корреляции равен





Интересно, что полученный коэффициент корреляции не зависит от n.

... Откуда, наконец, вытекает то удивительное, по-видимому, следствие, что, если бы наблюдения над всеми событиями продолжать всю вечность, причем вероятность, наконец, перешла бы в полную достоверность, то было бы замечено, что в мире все управляется точными отношениями и постоянным законом изменений, так что даже в вещах, в высшей степени случайных, мы принуждены были бы признать как бы некоторую необходимость и, скажу я, рок.

Я к о б Б е р н у л л и, Ars conjectandi (1713)

Раздел 13. Куда и как сходятся последовательности случайных величин

13.1 Сходимость «почти наверное» и «по вероятности»

Напомню, что случайная величина есть (измеримая) функция из некоторого абстрактного множества Ω в множество действительных чисел. Последовательность случайных величин есть, тем самым, последовательность функций (определенных на одном и том же пространстве элементарных исходов Ω). И если мы хотим говорить о сходимости последовательности случайных величин {ξn }n=1 , не будем забывать, что мы имеем дело не с последовательностью чисел, а с последовательностью функций. Существуют разные виды сходимости последовательности функций. Всякий раз давать определение какой-либо сходимости мы будем, опираясь на сходимость числовых последовательностей, как на уже известное основное понятие.

В частности, при каждом новом ω  Ω мы имеем новую числовую  последовательность {ξn (ω )}n=1 . Поэтому, во-первых, можно говорить о знакомой из математического анализа (почти) поточечной сходимости последовательностей функций: о сходимости «почти всюду», которую в теории вероятностей называют сходимостью «почти наверное».

Определение 46. Говорят, что последовательность с. в. {ξn } сходится почти наверное к с. в. ξ при n   , и пишут: ξn  ξ п. н., если P{ ω: ξn (ω )  ξ при n  } = 1.

Иначе говоря, если ξn (ω )  ξ при n   для всех ω  Ω, кроме, возможно, ω  A, где множество (событие) A имеет нулевую вероятность.

Заметим сразу: чтобы говорить о сходимости «почти наверное», требуется (по крайней мере, по определению) знать, как устроены отображения ω  ξn (ω ). В задачах же теории вероятностей, как правило, известны не сами случайные величины, а лишь их распределения. Известно, то есть, какова вероятность тех элементарных исходов ω, для которых ξn (ω ) принимает значения в заданном множестве. Можем ли мы, обладая только информацией о распределениях, говорить о какой-либо сходимости последовательности случайных величин {ξn } к с. в. ξ?

Можно, например, потребовать, чтобы вероятность («доля») тех элементарных исходов ω, для которых ξn (ω ) не попадает в «ε-окрестность» числа ξ (ω ), уменьшалась до нуля с ростом n. Такая сходимость в функциональном анализе называется сходимостью «по мере», а в теории вероятностей — сходимостью «по вероятности».

Определение 47. Говорят, что последовательность с. в. { ξn } сходятся по вероятности к с. в.  ξ при n  , и пишут: 



если для любого ε > 0  



Пример 45. Рассмотрим последовательность с. в. ξ1 , ξ2, …, в которой все величины имеют разные распределения: с. в. ξn, n > 0, принимает значения и 0 и n7 с вероятностями . Докажем, что эта последовательность сходится по вероятности к случайной величине, равной нулю п. н. (к нулю, проще говоря).

Действительно, зафиксируем произвольное ε > 0. Для всех n начиная с некоторого n0 такого, что n07 > ε верно равенство (*) ниже



Итак, случайные величины ξn с ростом n могут принимать все большие и большие значения, но со все меньшей и меньшей вероятностью.

Замечание 18. Сходимость по вероятности не обязательно сопровождается сходимостью математических ожиданий или моментов других порядков: из не следует, что 

Действительно, в примере 45 имеет место сходимость , но неверно, что 

Если вместо значения n7 взять, скажем, n (с той же вероятностью 1/ n), получим



А если ξn принимает значения 0 и  с теми же вероятностями, что и в примере 45, то , но уже вторые моменты сходиться ко второму моменту ξ не будут:



Сходимость по вероятности обладает обычными для сходимостей свойствами. Например, такими.

Свойство 13. Если , то

1. ;

2. .

Свойство 14. 

Если , и g – непрерывная функция, то 

Если , и g – непрерывна в точке с, то 

Чтобы доказывать сходимость по вероятности, можно просто уметь вычислять  при больших n. Но для этого нужно знать распределение ξn, что не всегда возможно. Скажем, ξn может быть суммой  нескольких других с. в., распределения которых не устойчивы по суммированию, и вычислить распределение их суммы по формуле свертки или как-то еще бывает слишком сложно.

Если бы мы имели неравенства, позволяющие оценить  сверху чем-либо, что мы умеем устремлять к нулю и что проще вычисляется, то сходимость по вероятности мы получили бы по лемме о двух милиционерах: . Итак, неравенства П. Л. Чебышёва.

13.2 Неравенства Чебышёва

Все неравенства в этом параграфе принято относить к одному классу, называемому «неравенствами Чебышёва». Следующее неравенство часто называют собственно неравенством Чебышёва, хотя в такой форме оно появилось впервые, видимо, в работах А. А. Маркова (например, Исчисление вероятностей, 1913 г.).

Теорема 27 (Неравенство Маркова).

Если , то для любого положительного x



Доказательство. Введем новую случайную величину ξx, называемую «срезкой» с. в. ξ на уровне x:



Для неё и, 

1.

2. 

Нам потребуется следующее понятие.

Определение 48. Пусть A — некоторое событие. Назовем индикатором события A случайную величину I(A), равную единице, если событие A произошло, и нулю, если A не произошло.

По определению, I(A) имеет распределение Бернулли  с параметром p =  P(I(A) = 1) = P(A), и ее математическое ожидание равно вероятности успеха p = P(A).

Случайную величину ξх можно представить в виде 



Тогда

 		 (11)

Вспомним, что , и оценим снизу согласно (11):



Итак, , что и требовалось доказать.

Следующее неравенство мы будем называть «обобщенным неравенством Чебышёва».

Следствие 12. Пусть функция g монотонно возрастает и неотрицательна на [0,]. Если , то для любого положительного х



В 1853 г. И. Бьенеме (I. Bienayme) и в 1866 г., независимо от него, П. Л. Чебышёв прямыми методами доказали следующее неравенство

Следствие 13 (Неравенство Чебышёва-Бьенеме). Если , то



В качестве следствия получим так называемое «правило трех сигм», которое формулируют, например, так: вероятность случайной величине отличаться от своего математического ожидания более, чем на три корня из дисперсии, мала. Разумеется, для каждого распределения величина этой вероятности своя: для нормального распределения, например, эта вероятность равна 0,0027 — см. свойство 9. Мы получим верную для всех распределений с конечной дисперсией оценку сверху для «вероятности с. в. отличаться от своего математического ожидания более, чем на три корня из дисперсии».

Следствие 14. Если , то 

13.3 Законы больших чисел

Определение 49. Говорят, что последовательность с. в. с конечными первыми моментами удовлетворяет закону больших чисел (ЗБЧ), если

 						(12)

Законами больших чисел принято называть утверждения об условиях, при которых последовательность с. в. «удовлетворяет закону больших чисел».

Выясним сначала, что означает и когда выполнен ЗБЧ для независимых и одинаково распределенных с.в.

Заметим, что если с. в. одинакого распределены, то математические ожидания у них одинаковы (и равны, например,), поэтому (12) можно записать в виде



Итак, законы больших чисел.

Теорема 28 (ЗБЧ в форме Чебышёва).

Для любой последовательности независимых и одинаково распределенных случайных величин с конечным вторым моментом  имеет место сходимость:



ЗБЧ утверждает, что среднее арифметическое большого числа случайных слагаемых «стабилизируется» с ростом этого числа. Как бы сильно каждая с. в. не отклонялась от своего среднего значения, при суммировании эти отклонения «взаимно гасятся», так что среднее арифметическое приближается к постоянной величине.

В дальнейшем мы увидим, что требование конечности второго момента (или дисперсии) связано исключительно со способом доказательства, и что утверждение остается верным если требовать существования только первого момента.

Доказательство. Обозначим через  сумму первых n с. в., а их среднее арифметическое через  . Тогда



Пусть ε > 0. Воспользуемся неравенством Чебышёва (следствие 13):

	(13)

при , поскольку , по условию, конечна.

Следствие 15. Последовательность с. в.  с конечными вторыми моментами удовлетворяет ЗБЧ, то есть



при выполнении любого из следующих условий:

а) если , то есть  при ;

б) если независимы и , то есть



в) если  независимы, одинаково распределены и имеют конечную дисперсию (ЗБЧ Чебышёва).

Теорема 29 (ЗБЧ в форме Хинчина).

Для любой последовательности независимых и одинаково распределенных случайных величин с конечным первым моментом  имеет место сходимость:



Более того, в условиях теоремы 29 имеет место сходимость «почти наверное». Получим в качестве следствия из ЗБЧ Чебышёва закон больших чисел Я. Бернулли (1713). В отличие от доказанного через полтора столетия ЗБЧ Чебышёва, описывающего предельное поведение среднего арифметического с. в. с произвольными распределениями, ЗБЧ Бернулли — утверждение только для схемы Бернулли.

Теорема 30 (ЗБЧ Бернулли).

Пусть А — событие, которое может произойти в любом из n независимых испытаний с одной и той же вероятностью P(А). Пусть vn(А) — число осуществлений события А в n испытаниях. Тогда 

 

При этом для любого ε > 0



13.4 Примеры использования ЗБЧ и неравенства Чебышёва

Пример 46.

Монета подбрасывается 10 000 раз. Оценить вероятность того, что частота выпадения герба отличается от вероятности более чем на одну сотую.

Требуется оценить , где —число выпадений герба, а  — независимые с. в., имеющие распределение Бернулли с параметром 1/2, равные «числу гербов, выпавших при i-м подбрасывании» (то есть единице, если выпал герб и нулю иначе, или индикатору того, что выпал герб). Поскольку , искомая оценка сверху выглядит так:



Иначе говоря, неравенство Чебышёва позволяет заключить, что, в среднем, не более чем в четверти случаев при 10 000 подбрасываниях монеты частота выпадения герба будет отличаться от 1/2 более чем на одну сотую. Мы увидим, насколько это грубая оценка, когда познакомимся с центральной предельной теоремой.

Пример 47.

Пусть  — последовательность случайных величин, дисперсии которых ограничены одной и той же постоянной С, а ковариации любых с. в.  и  (), не являющихся соседними в последовательности, равны нулю. Удовлетворяет ли эта последовательность ЗБЧ?

Воспользуемся неравенством (13) и свойством 12:



Но  для i < j, по условию, , если . Следовательно, в сумме  равны нулю все слагаемые кроме, может быть,  (их ровно n -1 штука).

Оценим каждое из них, используя одно из свойств коэффициента корреляции 

(по условию задачи)



при , т.е. последовательность  удовлетворяет ЗБЧ.

... Из этой первой лекции по теории вероятностей я запомнил только полузнакомый термин «математическое ожидание». Незнакомец употреблял этот термин неоднократно, и каждый раз я представлял себе большое помещение, вроде зала ожидания, с кафельным полом, где сидят люди с портфелями и бюварами и, подбрасывая время от времени к потолку монетки и бутерброды, сосредоточенно чего-то ожидают. До сих пор я часто вижу это во сне. Но тут незнакомец оглушил меня звонким термином «предельная теорема Муавра — Лапласа» и сказал, что все это к делу не относится.

Аркадий и Борис Стругацкие, Стажеры

Раздел 14. ЦПТ (центральная предельная теорема)

14.1 Как быстро  сходится к ?

Пусть, как в законе больших чисел в форме Чебышёва,  — сумма n независимых и одинаково распределенных величин с конечной дисперсией. Тогда, в силу ЗБЧ,  с ростом n. Или, после приведения к общему знаменателю,



Если при делении на n мы получили в пределе нуль (в смысле некоторой, все равно какой, сходимости), резонно задать себе вопрос: а не слишком ли на «много» мы поделили? Нельзя ли поделить на что-нибудь, растущее к бесконечности медленнее, чем n, чтобы получить в пределе не нуль (и не бесконечность, само собой)?

Можно поставить этот вопрос по-другому. Вот последовательность, стремящаяся (как-то) к нулю. Можно ли ее домножить на что-либо растущее, чтобы «погасить» это стремление к нулю? Получив, тем самым, что-нибудь конечное и отличное от нуля в пределе?

Оказывается, что уже , или, что, то же самое, , не сходится к нулю. Распределение этой, зависящей от n, случайной величины становится все более похоже на нормальное распределение! Можно считать, что такая последовательность сходится к случайной величине, имеющей нормальное распределение, но сходится не по вероятности, а только в смысле сходимости распределений, или «слабой сходимости».

14.2 Слабая сходимость

Пусть задана последовательность с. в., задано некоторое распределение с функцией распределения  и — произвольная с. в., имеющая распределение .

Определение 50. Говорят, что последовательность с. в.  при сходится слабо или по распределению к с. в. , или говорят, что последовательность с. в. слабо сходится к распределению , или говорят, что распределения с.в.  слабо сходится к распределению , и пишут:,  или , или , если для любого х такого, что функция распределения  непрерывна в точке х, имеет место сходимость при .

Иначе говоря, слабая сходимость — это поточечная сходимость функций распределения во всех точках непрерывности предельной функции распределения.

Свойство 15. Если , и функция распределения  непрерывна в точках a и b, то  Наоборот, если во всех точках a и b непрерывности функции распределения  имеет место, например, сходимость , то .

Следующее важное свойство уточняет отношения между сходимостями.

Свойство 16.

1. Если , то . 

2. Если  = const, то .

Доказательство.Докажем, что слабая сходимость к постоянной влечет сходимость по вероятности.

Пусть



при любом x, являющемся точкой непрерывности предельной функции , то есть при всех .

Возьмем произвольное  и докажем, что. Раскроем модуль:



(сужаем событие под знаком вероятности)

поскольку в точках  функция  непрерывна, и, следовательно, имеет место сходимость последовательности к

Осталось заметить, что  не бывает больше 1, так что по лемме о двух милиционерах .

Следующее свойство приводит пример операций, которые можно применять к слабо сходящимся последовательностям — скажем, домножать их на последовательности, сходящиеся по вероятности к постоянным величинам.

Свойство 17.

1. Если  const и , то .

2. Если  const и , то .

Несколько содержательных примеров слабой сходимости мы рассмотрим в следующей главе. Но основной источник слабо сходящихся последовательностей и необычайно мощное и универсальное средство для асимптотического анализа распределения сумм независимых и одинаково распределенных случайных величин предоставляет нам ЦЕНТРАЛЬНАЯ ПРЕДЕЛЬНАЯ ТЕОРЕМА

14.3 Центральная предельная теорема

Мы будем называть следующее утверждение «ЦПТ А. М. Ляпунова» (1901), но сформулируем теорему Ляпунова только в частном случае — для последовательности независимых и одинаково распределенных случайных величин.

Теорема 31 (ЦПТ).

Пусть  — независимые и одинаково распределенные случайные величины с конечной и ненулевой дисперсией: . Обозначим через сумму первых n случайных величин. Тогда последовательность с. в.  слабо сходится к стандартному нормальному распределению.

Пользуясь определением и свойствами слабой сходимости, и заметив, что функция распределения любого нормального закона непрерывна всюду на R, утверждение ЦПТ можно сформулировать любым из следующих способов:

Следствие 18. Пусть  — независимые и одинаково распределенные случайные величины с конечной и ненулевой дисперсией. Следующие утверждения эквивалентны друг другу и равносильны утверждению ЦПТ.

Для любых вещественных x < y при  имеет место сходимость



Для любых вещественных x < y при  имеет место сходимость



 Для любых вещественных x < y при   имеет место сходимость



Если  — произвольная с. в. со стандартным нормальным распределением, то



Замечание 19. Еще раз напомним, что функция распределения стандартного нормального закона ищется либо по соответствующей таблице в справочнике, либо с помощью какого-либо программного обеспечения, но никак не путем нахождения первообразной.

14.4 Предельная теорема Муавра — Лапласа

Получим в качестве следствия из ЦПТ предельную теорему Муавра — Лапласа (P. S. Laplace, 1812; A. de Moivre, 1730). Подобно ЗБЧ Бернулли, предельная теорема Муавра – Лапласа — утверждение только схемы Бернулли.

Теорема 32 (Предельная теорема Муавра — Лапласа).

Пусть А — событие, которое может произойти в любом из n независимых испытаний с одной и той же вероятностью p = P(A). Пусть  — число осуществлений события А в n испытаниях. Тогда . Иначе говоря, для любых вещественных x < y при  имеет место сходимость



14.5 Примеры использования ЦПТ

Пример 48.

Монета подбрасывается 10 000 раз. Оценить вероятность того, что частота выпадения герба отличается от вероятности более чем на одну сотую.

Требуется найти 

, где —число выпадений герба, а  — независимые с. в., имеющие одно и то же распределение Бернулли с параметром 1/2. Домножим обе части неравенства под знаком вероятности на  и поделим на корень из дисперсии одного слагаемого.





Согласно ЦПТ или предельной теореме Муавра — Лапласа, последовательность



слабо сходится к стандартному нормальному распределению. Рассмотрим произвольную с. в. , имеющую распределение .



Равенство  следует из свойства 10.

Замечание 20. Центральной предельной теоремой пользуются для приближенного вычисления вероятностей, связанных с суммами большого числа независимых и одинаково распределенных величин. При этом распределение центрированной и нормированной суммы заменяют на стандартное нормальное распределение. 

Следующий результат позволяет оценить погрешность приближения в ЦПТ.

Теорема 33 (Неравенство Берри – Эссеена).

В условиях ЦПТ для любого х  R (то есть равномерно по х)



Замечание 21. Про постоянную С известно, что:

а) в общем случае С не превышает 0,7655 (И. С. Шиганов),

б) погрешность приближения наиболее велика, если слагаемые  имеют распределение Бернулли, и С в этом случае не меньше, чем (C. G. Esseen, Б. А. Рогозин),

в) как показывают расчеты, можно смело брать в качестве С число 0,4 — даже для слагаемых с распределением Бернулли, особенно при малых n, когда и это значение постоянной оказывается слишком грубой оценкой.

Подробный обзор можно найти в монографии В.М.Золотарева «Современная теория суммирования независимых случайных величин», стр. 264– 291.

Продолжение примера 48. Проверьте, что для с. в.  с распределением Бернулли



Поэтому разница между левой и правой частями приближенного равенства  в примере 48 при и  не превышает величины



так что искомая вероятность не больше, чем 0,0456+0,004. Уместно сравнить этот ответ с оценкой, полученной с помощью ЗБЧ в примере 48.

Пример 49.

Пусть  — независимые и одинаково распределенные случайные величины с конечной и ненулевой дисперсией, сумму первых n случайных величин. При каких с имеет или не имеет место сходимость



Согласно ЗБЧ, последовательность  сходится по вероятности (а, следовательно, и слабо) к . Слабая сходимость означает, что последовательность функций распределения сходится к функции распределения , если  непрерывна в точке с (и ничего не означает, если  разрывна в точке с). Но



есть функция распределения вырожденного закона и непрерывна в любой точке с, кроме . Итак, первый вывод: сходимость  имеет место для любого с, кроме, возможно, . Убедимся, что для  такой сходимости быть не может. Пусть . Согласно ЦПТ,



Аналогично, кстати, ведет себя и вероятность . Она тоже стремится к 1/2, а не к