Формула полной вероятности и формула Бейеса Байеса и их применение

Сибирский государственный университет телекоммуникаций и информатики

Кафедра высшей математики

















РЕФЕРАТ

по дисциплине : «Теория вероятностей и математическая статистика»

на тему:

«Формула полной вероятности и формула Бейеса(Байеса) и их применение»











Выполнил: 

Руководитель: профессор Б.П.Зеленцов











Новосибирск, 2010


Содержание



Введение                                                                                     3

Формула полной вероятности                                            4-5

Формула Байеса(Бейеса)                                                     5-6

Задачи с решениями                                                           7-11

Основные сферы применения формулы Байеса(Бейеса)    11

Заключение                                                                                12

Литература                                                                                13

    


 Введение

Теория вероятностей является одним из классических разделов математики. Она имеет длительную историю. Основы этого раздела науки были заложены великими математиками. Назову, например, Ферма, Бернулли, Паскаля.
Позднее развитие теории вероятностей определились в работах многих ученых.
Большой вклад в теорию вероятностей внесли ученые нашей страны:
П.Л.Чебышев, А.М.Ляпунов, А.А.Марков, А.Н.Колмогоров. Вероятностные и статистические методы в настоящее время глубоко проникли в приложения. Они используются в физике, технике, экономке, биологии и медицине. Особенно возросла их роль в связи с развитием вычислительной техники.

Например, для изучения физических явлений производят наблюдения или опыты. Их результаты обычно регистрируют в виде значений некоторых наблюдаемых величин. При повторении опытов мы обнаруживаем разброс их результатов. Например, повторяя измерения одной и той же величины одним и тем же прибором при сохранении определенных условий (температура, влажность и т.п.), мы получаем результаты, которые хоть немного, но все же отличаются друг от друга. Даже многократные измерения не дают возможности точно предсказать результат следующего измерения. В этом смысле говорят, что результат измерения есть величина случайная. Еще более наглядным примером случайной величины может служить номер выигрышного билета в лотерее. Можно привести много других примеров случайных величин. Все же и в мире случайностей обнаруживаются определенные закономерности. Математический аппарат для изучения таких закономерностей и дает теория вероятностей.
Таким образом, теория вероятностей занимается математическим анализом случайных событий и связанных с ними случайных величин.



1. Формула полной вероятности.

Пусть имеется группа событий H1, H2,..., Hn, обладающая следующими свойствами:

1) все события попарно несовместны: Hi  Hj =;  i, j=1,2,...,n; ij;

2) их объединение образует пространство элементарных исходов :



 = .

Рис.8

		 В этом случае будем говорить, что H1, H2,...,Hn  образуют полную группу событий. Такие события  иногда называют гипотезами.

		Пусть А – некоторое событие: А   (диаграмма Венна представлена на рисунке 8). Тогда имеет место формула полной вероятности:

P(A) = P(A/ H1)P(H1) + P(A/ H2)P(H2) + ...+ P(A/ Hn)P(Hn) = 

Доказательство. Очевидно: A = , причем все события  (i = 1,2,...,n) попарно несовместны. Отсюда по теореме сложения вероятностей получаем

	P(A) = P() + P() +...+ P(

Если учесть, что по теореме умножения P() = P(A/Hi)P(Hi) (i = 1,2,...,n),  то из последней формулы легко получить приведенную выше  формулу полной вероятности.

Пример. В магазине продаются электролампы производства трех заводов, причем доля первого завода - 30, второго - 50, третьего - 20. Брак в их продукции составляет соответственно 5, 3 и 2. Какова вероятность того, что случайно выбранная в магазине лампа оказалась бракованной.

Пусть событие H1 состоит в том, что выбранная лампа произведена на первом заводе, H2 на втором, H3 - на третьем заводе. Очевидно:

	P(H1) = 3/10,  P(H2) = 5/10,  P(H3) = 2/10.

Пусть событие А состоит в том, что выбранная лампа оказалась бракованной; A/Hi означает событие, состоящее в том, что выбрана бракованная лампа из ламп, произведенных на i-ом заводе. Из условия задачи следует:

	P (A/H1) = 5/10; P(A/H2) = 3/10; P(A/H3) = 2/10

По формуле полной вероятности получаем

	

2. Формула Байеса( Бейеса)

Пусть H1,H2,...,Hn -  полная группа событий и А   – некоторое событие. Тогда по формуле для условной вероятности

		(1)

Здесь P(Hk /A) – условная вероятность события (гипотезы) Hk или вероятность того, что Hk реализуется при условии, что событие А произошло.

По теореме умножения вероятностей числитель формулы (1) можно представить в виде

	P = P= P(A /Hk) P(Hk)

Для представления знаменателя формулы (1) можно использовать формулу полной вероятности

	P(A)

Теперь из (1) можно получить формулу, называемую формулой Байеса:

	

По формуле Байеса исчисляется вероятность реализации гипотезы Hk при условии, что событие А произошло. Формулу Байеса еще называют формулой вероятности гипотез. Вероятность P(Hk) называют априорной вероятностью гипотезы Hk, а вероятность P(Hk /A) – апостериорной вероятностью.

Теорема. Вероятность гипотезы после испытания равна произведению вероятности гипотезы до испытания на соответствующую ей условную вероятность события, которое произошло при испытании, деленному на полную вероятность этого события.

Пример. Рассмотрим приведенную выше задачу об электролампах, только изменим вопрос задачи. Пусть покупатель купил электролампу в этом магазине, и она оказалась бракованной. Найти вероятность того, что эта лампа изготовлена на втором заводе. Величина P(H2) = 0,5 в данном случае это априорная вероятность события, состоящего в том, что купленная лампа изготовлена на втором заводе. Получив информацию о том, что купленная лампа бракованная, мы можем поправить нашу оценку возможности изготовления этой лампы на втором заводе, вычислив апостериорную вероятность этого события.

Выпишем формулу Байеса для этого случая

	

Из этой формулы получаем: P(H2 /A) = 15/34. Как видно, полученная информация привела к тому, что вероятность интересующего нас события оказывается ниже априорной вероятности.









3. Задачи с решениями.



Задача 1. В магазин поступила новая продукция с трех предприятий. Процентный состав этой продукции следующий: 20% - продукция первого предприятия, 30% - продукция второго предприятия, 50% - продукция третьего предприятия; далее, 10% продукции первого предприятия высшего сорта, на втором предприятии - 5% и на третьем - 20% продукции высшего сорта. Найти вероятность того, что случайно купленная новая продукция окажется высшего сорта.

Решение. Обозначим через В событие, заключающееся в том, что будет куплена продукция высшего сорта, через обозначим события, заключающиеся в покупке продукции, принадлежащей соответственно первому, второму и третьему предприятиям.

Можно применить формулу полной вероятности, причем в наших обозначениях:



Подставляя эти значения в формулу полной вероятности, получим искомую вероятность:





Задача 2. Один из трех стрелков вызывается на линию огня и производит два выстрела. Вероятность попадания в мишень при одном выстреле для первого стрелка равна 0,3, для второго - 0,5; для третьего - 0,8. Мишень не поражена. Найти вероятность того, что выстрелы произведены первым стрелком.

Решение. Возможны три гипотезы:

- на линию огня вызван первый стрелок,

- на линию огня вызван второй стрелок,

- на линию огня вызван третий стрелок.

Так как вызов на линию огня любого стрелка равновозможен, то 

В результате опыта наблюдалось событие В - после произведенных выстрелов мишень не поражена. Условные вероятности этого события при сделанных гипотезах равны:



по формуле Байеса находим вероятность гипотезы после опыта:





Задача 3. На трех станках-автоматах обрабатываются однотипные детали, поступающие после обработки на общий конвейер. Первый станок дает 2% брака, второй – 7%, третий – 10%. Производительность первого станка в 3 раза больше производительности второго, а третьего – в 2 раза меньше, чем второго.

а) Каков процент брака на конвейере?

б) Каковы доли деталей каждого станка среди бракованных деталей на конвейере?

Решение. Возьмем с конвейера наудачу одну деталь и рассмотрим событие А – деталь бракованная. Оно связано с гипотезами относительно того, где была обработана эта деталь: – взятая наудачу деталь обработана на -ом станке, .

Условные вероятности (в условии задачи они даны в форме процентов):



Зависимости между производительностями станков означают следующее:

.

А так как гипотезы образуют полную группу, то .

Решив полученную систему уравнений, найдем: .

а) Полная вероятность того, что взятая наудачу с конвейера деталь – бракованная:

.

Другими словами, в массе деталей, сходящих с конвейера, брак составляет 4%.

б) Пусть известно, что взятая наудачу деталь – бракованная. Пользуясь формулой Байеса, найдем условные вероятности гипотез:

,

,

.

Таким образом, в общей массе бракованных деталей на конвейере доля первого станка составляет 33%, второго – 39%, третьего – 28%.



Задача 4. 

В первой урне 2 белых и 6 черных шаров, во второй – 4 белых и 2 черных. Из первой урны наудачу переложили 2 шара во вторую, после чего из второй урны наудачу достали один шар. 

а) Какова вероятность того, что этот шар белый? 

б) Шар, взятый из второй урны, оказался белым. Какова вероятность того, что из первой урны во вторую были переложены 2 белых шара? 

Решение. 

Введем обозначения: 

А – шар, извлеченный из второй урны, белый; 

гипотезы – из первой урны во вторую переложены 2 белых шара, 

– переложены 2 разноцветных шара, 

– переложены 2 черных шара. 

Тогда 



Вероятности гипотез и условие вероятности вычисляем по классической схеме: 





Полученные результаты подставим в формулу полной вероятности: 



б) Вероятность находим по формуле Байеса:





4. Основные сферы применения формулы Байеса(Бейеса)

1)Математический инструмент в теории вероятностей.

2)В статистике – как обобщение предшествующего опыта. Предполагается, что нами накоплен опыт, позволяющий экспериментально оценить априорное распределение вероятностей. Далее мы верим в то, что рассматриваемый нами новый объект относится к той же группе. Это позволяет строить классификаторы, основанные на байесовской формуле.

3)В статистике - для сравнения разных моделей в случае, когда априорные распределения настолько нечетки, что вообще несущественны. Очень часто используется BIC (байесовский информационный критерий).

4)Описание умонастроения. Сторонники интерпретации вероятности события как меры субъективной уверенности в его возможности могут пересчитывать эти величины в процессе появления новых данных. Очевидно, что математика здесь может быть подобной мельнице перемалывающей труху: произвол в определении априорных вероятностей может быть опасным.

Заключение

Формула полной вероятности  широко использовалась математиками при конкретных расчётах ещё в начале XVIII века, но впервые была сформулирована как одно из основных утверждений теории вероятностей Пьером-Симоном Лапласом лишь в конце того века. Она применяется, в частности, при нахождении среднего выходного уровня дефектности в задачах статистического обеспечения качества продукции.

Формула Байеса позволяет «переставить причину и следствие»: по известному факту события вычислить вероятность того, что оно было вызвано данной причиной.

События, отражающие действие «причин», в данном случае обычно называют гипотезами, так как они — предполагаемые события, повлекшие данное. Безусловную вероятность справедливости гипотезы называют априорной (насколько вероятна причина вообще), а условную — с учетом факта произошедшего события — апостериорной (насколько вероятна причина оказалась с учетом данных о событии).

Можно также уточнять вероятность гипотезы, учитывая другие имеющиеся данные (другие произошедшие события). Для учета каждого следующего события нужно в качестве априорной вероятности гипотезы подставлять ее апостериорную вероятность с предыдущего шага.













Литература



		Вентцель Е.С. Теория вероятностей. - М, «Высшая школа» 2002 

		Гмурман В.Е. Руководство к решению задач по теории вероятностей и математической статистике. - М, «Высшая школа» 2004

		Письменный Д.Т. Конспект лекций по теории вероятностей и математической статистике. – М, «Айрис-пресс»  2004 г.

		Сайт: Численные методы и теория вероятностей. http://www.uchites.ru/

		Гмурман В. Е. Теория вероятностей и математическая статистика, — М.: Высшее образование.2005.



		1