Условное математическое ожидание

Условное математическое ожидание в теории вероятностей — это среднее значение случайной величины при выполнении некоторого условия (реализации каких-то событий). Часто в качестве условия выступает фиксированное на некотором уровне значение другой случайной величины, которая может быть связана с данной (если эти случайные величины независимы, то условное математическое ожидание совпадает с (безусловным) математическим ожиданием). В этом случае условное математическое ожидание случайной величины  при условии, что случайная величина  приняла значение  обозначается как , соответственно, ее можно рассматривать как функцию от . Эта функция называется функцией регрессии случайной величины  на случайную величину  и поэтому условное математическое ожидание обозначают как , то есть без указания фиксированного значения .

Условное  математическое ожидание - это характеристика условного распределения.

Определения 

Будем считать, что дано вероятностное пространство . Пусть  — интегрируемая случайная величина, то есть . Пусть также  — σ-подалгебра σ-алгебры .

УМО относительно σ-алгебры 

Случайная величина  называется условным математическим ожиданием  относительно σ-алгебры , если
  измерима относительно .
 ,
где  — индикатор события  (иными словами, это характеристическая функция множества-события, аргументом которой является случайная величина или элементарный исход). 
Условное математическое ожидание обозначается .

Пример. Пусть  Положим . Тогда  — σ-алгебра, и . Пусть случайная величина  имеет вид
 .
Тогда

УМО относительно семейства событий 

Пусть  — произвольное семейство событий. Тогда условным математическим ожиданием  относительно  называется
 ,
где  — минимальная сигма-алгебра, содержащая .

Пример. Пусть  Пусть также . Тогда . Пусть случайная величина  имеет вид
 .
Тогда

УМО относительно случайной величины 

Пусть  другая случайная величина. Тогда условным математическим ожиданием  относительно  называется
 ,
где  — σ-алгебра, порождённая случайной величиной .

Другое определение УМО  относительно  :

Такое определение конструктивно описывает алгоритм нахождения УМО:
 найти математическое ожидание случайной величины , принимая  за константу ;
 Затем в полученном выражении  обратно заменить на случайную величину .

Пример:

Условная вероятность 

Пусть  — произвольное событие, и  — его индикатор. Тогда условной вероятностью  относительно  называется
 .

Замечания 

 Условное математическое ожидание — это случайная величина, а не число.
 Условное математическое ожидание определено с точностью до событий вероятности нуль. Таким образом, если  и  -почти всюду, то . Отождествив случайные величины, различающиеся лишь на событиях вероятности нуль, получаем единственность условного математического ожидания.
 Взяв , получаем по определению:
 ,
и в частности справедлива формула полной вероятности:
 .

 Пусть σ-алгебра  порождена разбиением . Тогда
 .
В частности формула полной вероятности принимает классический вид:
 ,
а следовательно
 .

Основные свойства 

 Если , то существует борелевская функция , такая что
 .
Условное математическое ожидание  относительно события  по определению равно
 .

 Если  п.н., то  п.н.
 Если  независима от , то
  п.н.
В частности, если  независимые случайные величины, то
  п.н.
 Если  — две σ-алгебры, такие что , то
 .

 Если  — -измерима, и  — случайная величина, такая что , то
 .

 «Математическое ожидание убирает условие». Это правило верно для УМО относительно случайной величины (УМО в таком случае будет случайной величиной) и для условной вероятности относительно случайной величины
 .

Дополнительные свойства 

 Теорема Леви о монотонной сходимости;
 Теорема Лебега о мажорируемой сходимости;
 Лемма Фату;
 Неравенство Йенсена.

УМО для дискретных величин 

Пусть  — дискретная случайная величина, чьё распределение задаётся функцией вероятности . Тогда система событий  является разбиением , и
 ,
а
 ,
где  означает математическое ожидание, взятое относительно условной вероятности .

Если случайная величина  также дискретна, то
 ,
где  — условная функция вероятности случайной величины  относительно .

УМО для абсолютно непрерывных случайных величин 

Пусть  — случайные величины, такие что вектор  абсолютно непрерывен, и его распределение задаётся плотностью вероятности . Введём условную плотность , положив по определению
 ,
где  — плотность вероятности случайной величины . Тогда
 ,
где функция  имеет вид
 .
В частности,
 .

УМО в L2 

Рассмотрим пространство случайных величин с конечным вторым моментом . В нём определены скалярное произведение
 ,
и порождённая им норма
 .

Множество всех случайных величин  с конечным вторым моментом и измеримых относительно , где , является подпространством . Тогда оператор , задаваемый равенством
 ,
является оператором ортогонального проектирования на . В частности:
 Условное математическое ожидание  — это наилучшее средне-квадратичное приближение  -измеримыми случайными величинами:
 .
 Условное математическое ожидание сохраняет скалярное произведение:
 .
 Условное математическое ожидание идемпотентно:
 .

См. также 
 Условное распределение

Теория вероятностей
Средние величины