Случайные процессы

СЛУЧАЙНЫЕ ПРОЦЕССЫ

 


Оглавление



	Случайная функция, случайный процесс, случайное поле	2

	Функция распределения вероятностей случайного процесса	3

	Плотность распределения вероятностей случайного процесса	4

	Моментные функции случайного процесса	5

	Условные распределения вероятностей	6

	Примеры математических моделей случайных процессов	7

	Стационарные процессы	8

	Литература	10

	

Случайная функция, случайный процесс, случайное поле 

 

69.1. Случайной функцией  называется случайная величина , зависимая от параметра . Случайные величины  могут быть вещественными, либо комплексными, либо векторными; аргумент  может быть вещественным или векторным. Самый простой пример случайной функции получаем для вещественного параметра  и вещественной случайной величины . При этом  называется случайной функцией одной переменной или случайным процессом. Отметим, что аргумент  случайного процесса не обязательно имеет размерность времени. 

Более сложные примеры случайных функций встречаются в задачах физики, океанологии, метеорологии и других областях приложения теории вероятностей. Так, температура воздуха  в точке пространства  и в момент времени  часто рассматривается как случайная величина. Таким образом, температура воздуха  является случайной функцией, зависимой от трех декартовых координат  времени . Случайную функцию, зависимую от нескольких переменных принято называть случайным полем.

 

69.2. Случайный процесс  как функция аргумента  имеет свою область определения , которая может быть отрезком на вещественной оси, положительной полуосью, всей вещественной осью и т. д. Рассмотрим случайный процесс  при фиксированном , тогда   - случайная величина, которая называется сечением случайного процесса в точке . 

Пусть выполняется  опытов, в каждом из которых измеряется значение ,   , случайной величины . Тогда результаты измерений – это  чисел

                       	  .					(69.1)

 

 В отличие от случайной величины  измерение случайного процесса  выполняется в течение некоторого интервала  -интервала наблюдения. Последний либо содержится в области определения , либо совпадает с ней. Пусть детерминированная функция ,  , - результат измерения случайного процесса в первом опыте, функция ,  , - результат измерения случайного процесса во втором опыте, и т.д. Тогда результаты всех  опытов, аналогично (69.1), представляются совокупностью  детерминированных функций времени:

	 				(69.2)

Каждая функция  ,  , называется реализацией (траекторией, выборочной функцией, выборкой) случайного процесса . Совокупность (69.2) называется ансамблем реализаций случайного процесса . Ансамбль реализаций содержит информацию о статистических свойствах случайного процесса  аналогично как и совокупность измерений (69.1) содержит информацию о статистических свойствах случайной величины .

 

69.3. В зависимости от того, дискретны или непрерывны время  и реализации ,  различают четыре типа случайных процессов.

1). Случайный процесс общего типа: время  - непрерывно и реализации - непрерывны.

2). Дискретный случайный процесс: время  - непрерывно и - дискретны.

3). Случайная последовательность:  - дискретно и - непрерывны. В литературе случайные процессы этого типа принято называть временными рядами.

4). Дискретная случайная последовательность:  - дискретно и - дискретны.

 

Функция распределения вероятностей случайного процесса 

 

70.1. При фиксированном  распределение вероятностей сечения  случайного процесса (как распределение вероятностей случайной величины) задается функцией распределения вероятностей

	  .				(70.1)

Соотношение (70.1) можно рассматривать при любом . Функция  , как функция двух переменных  и , называется одномерной функцией распределения вероятностей случайного процесса . Аргументы  и  принято называть соответственно фазовой и временной переменными. Однако,  не дает исчерпывающую вероятностную характеристику случайного процесса , поскольку она не учитывает зависимости случайных величин  при разных  (т.е. зависимости разных сечений случайного процесса). Более полно вероятностные свойства случайного процесса  описывает -мерная функция распределения  - функция распределения случайного вектора :

	  .		(70.2)

Однако, практическое применение находят лишь функции распределения первого и второго порядков . Функции более высоких порядков  используются только в теории.

 

70.2. Основные свойства -мерной функции распределения вероятностей случайного процесса аналогичны свойствам функции распределения вероятностей -мерного вектора.

1) Функция  - неубывающая по каждому аргументу  ,  .

2) Функция  - непрерывна справа по каждому аргументу  ,  .

3) Функция распределения симметрична относительно перестановок двух любых пар  и  :

 .

4) Для любого целого  ,  

.

5) Для любого целого  ,  

   .

6)  .

 

Плотность распределения вероятностей случайного процесса 

 

Если  имеет производную

	  ,		(71.1)

тогда эта производная называется -мерной плотностью распределения вероятностей случайного процесса. Основные свойства плотности (71.1) аналогичны свойствам плотности распределения вероятностей -мерного вектора. Рассмотрим основные из них.

1) Функция распределения  определяется через плотность:

	  .	(70.2)

2) Плотность  - неотрицательная функция:

	  .                             	(70.3)

3) Плотность удовлетворяет условию нормировки:

	  .                	(70.4)

4) Выполняется равенство 

, (71.5)

называемое  свойством согласованности.

5) Плотность – симметричная функция относительно перестановок двух любых пар  и  :

 .                     (71.6)             

6) Плотность определяет вероятность попасть значениям случайного

процесса в заданные интервалы: 

.                	(71.7)

 


Моментные функции случайного процесса 

 

72.1. Пусть  - случайный процесс, имеющий плотность  и  функция  переменных. Вместо аргумента  ,   , функции  подставим . Тогда  - случайная величина, математическое ожидание которой определяется соотношением:

.

 (72.1)

 

Рассмотрим простейшие примеры функции . 1) Пусть  - функция одной переменной, тогда  и  (72.1) принимает вид:

.                                (72.2)

Функция  называется математическим ожиданием (средним, статистическим средним) случайного процесса . 2) Аналогично выбор   приводит к равенству

.       (72.3)

Функция  называется корреляционной функцией случайного процесса . 3) Аналогично вводятся дисперсия

                  (72.4)

и ковариационная функцией случайного процесса 

 



.     (72.5)

Получим соотношение, связывающее функции . Из  (72.5) следует



 .           (72.6)

Здесь использовалось равенство , поскольку  - детерминированная функция и ее можно вынести за оператор математического ожидания. Таким образом, (72.6) принимает вид

  .                            (72.7)

 

72.2. Функции вида

 ,                                (72.8)

где целые числа , называются начальными моментами порядка  случайного процесса .  Аналогично центральные моменты определяются соотношениями:

 .                        (72.9)

Для функций (72.8), (72.9) используется общее название - моментные функции. Наиболее простые моментные функции (до второго порядка) - это рассмотренные выше математическое ожидание , дисперсия  корреляционная и ковариационная функции , , - находят широкое практическое применение в экспериментальных исследованиях в отличие от моментов более высоких порядков, которые используютя только в теоретических расчетах.

 

Условные распределения вероятностей 

 

Если задана - мерная плотность распределения вероятности случайного процесса , тогда условная плотность  порядка  при условии, что случайный процесс в моменты времени  принимает значения  определяется по формуле:



  .                (73.1)

Соответствующая условная функция распределения вероятностей  порядка  при условии, что случайный процесс в моменты времени  принимает значения  определяется соотношением:

 

  .            (73.2)

Соотношения между условной плотностью  и условной функцией распределения вероятностей  аналогичны соотношениям для соответствующих безусловных функций, например, справедливо равенство:



.          (72.3)

В простейшем варианте при  формула (73.1) для условных плотностей принимает вид:

  .                                    (73.4)

Отсюда

  .                           (73.5)

Поскольку плотность второго порядка симметрична относительно перестановок пар  и  , то из (73.5) следует 

  .                           (73.6)

Соотношения (73.5), (73.6) - это формулы умножения для плотностей. Очевидна аналогия этих формул с формулой умножения вероятностей. Используя свойство согласованности, из (73.6) получим

  .         (73.7)

Это соотношения аналогично формуле полной вероятности. Далее, выражения (73.6), (73.7) подставим в (73.4), тогда 

  .                          (73.8)

Данное соотношение представляет собой аналог формулы Байеса.

 

Примеры математических моделей случайных процессов 

 

Из соотношения (73.1) следует



  .                               (74.1)

Отметим, что здесь произведение первых двух сомножителей, согласно (73.1), равно

  .                      (74.2)

Аналогично, произведение первых трех сомножителей в (74.1) равно

 .   (74.3)

 

74.1. Случайный процесс  называется процессом с независимыми значениями, если случайные величины  независимы в совокупности для любого  и всех различных . При этом соотношение (74.1) принимает вид:

 .                             (74.4)

Таким образом, - мерная плотность распределения вероятности  случайного процесса с независимыми значениями полностью определяется через его одномерную плотность вероятности . Столь простая структура - мерной плотности позволяет во многих случаях легко находить решения задач. Однако, столь простая математическая модель (74.4) может оказаться неадэкватной исследуемому процессу. Тогда результаты теоретических расчетов, основанные на формуле (74.4), не соответствуют результатам опыта, и возникает необходимость построения более сложной математической модели исследуемого процесса с учетом статистических связей между его различными сечениями , , что позволит получить более точное описание свойств исследуемого процесса.

 

74.2. Случайный процесс  называется процессом с ортогональными значениями, если 

                                              (74.5)

для любых моментов времени .

 

74.3. Случайный процесс  называется процессом с независимыми приращениями, если случайные величины  и  независимы для любых неперекрывающихся отрезков , .

74.4. Пусть моменты времени  - упорядочены по индексу. Случайный процесс  называется марковским, если его условная плотность вероятности удовлетворяет равенству:

 .        (74.6)

Таким образом, для марковского процесса случайная величина  зависит только от   и не зависит от всех ,  . Принято говорить, что марковский процесс помнит свою историю только на один шаг. 

Соотношение (74.1) для марковского процесса принимает вид:

.

(74.7)

Отсюда следует, что, - мерная плотность распределения вероятности  случайного марковского процесса полностью определяется его двумерной плотностью , поскольку одномерная плотность  и условная  определяются через  по формулам (73.7) и (73.4). 

Марковский процесс можно рассматривать как обобщение процесса с независимыми значениями, в том смысле, что последний не помнит свою историю, а марковский процесс помнит свою историю на один шаг. Но и марковский процесс можно усложнить, удлиняя его память на два шага, на три шага и т.д. В результате получаются более точные математические модели исследуемого процесса, что, однако, достигается  их усложнением. Такие модели также принято называть марковскими процессами, но самая простая из них, с памятью в один шаг (74.7), в этом ряду называется простейшим марковским процессом.

 


Стационарные процессы 

 

75.1. Случайный процесс  называется строго стационарным, если  его  - мерная плотность вероятности удовлетворяет условию:

            (75.1)

для любого . Отсюда при  и  получим

 .                                            (75.2)

Это равенство означает, что плотность первого порядка не зависит от времени . При этом математическое ожидание случайного процесса 

                             (75.3)

- величина постоянная, не зависимая от времени. Аналогично, постоянными для этого процесса являются среднее квадрата  и дисперсия  . Пусть  и  , тогда из (75.1) следует равенство

  .                    (75.4)

Таким образом, плотность второго порядка  зависит от временных аргументов  через их разность . Поэтому корреляционная функция  и ковариационная функция  также являются функциями разности  своих аргументов.

В общем случае в соотношении (75.1) можно положить, например, , тогда плотность  зависит от  временных аргументов  Следовательно, моментные функции, которые в общем случае зависят от  временных аргументов , для строго стационарных случайных процессов также зависят от  временных аргументов  

 

75.1. Раздел теории случайных процессов, в котором излагаются основные свойства функций  и , принято называть корреляционной теорией случайных процессов. Таким образом, в рамках корреляционной теории рассматриваются моментные функции не более, чем второго порядка. В связи с этим вводится специальное определение стационарности. 

Случайный процесс  называется стационарным в широком смысле (по Хинчину), если  его математическое ожидание  и дисперсия   - величины постоянные, не зависимые от времени , а  корреляционная функция  зависит от аргументов  через их разность . 

 

Литература

 

1. Вентцель Е.С. Теория вероятностей: Учебник для вузов. М.: Высшая школа, 1999. - 575с.

2. Коваленко И.Н., Филиппова А.А. Теория вероятностей и математическая статистика. М.: Высшая школа, 1973. - 368с.

3. Вентцель Е.С., Овчаров Л.А. Теория вероятностей и ее инженерные приложения М.: Высшая школа, 2000. - 480с.

4. Гмурман В.Е. Теория вероятностей и математическая статистика. М.: Высшая школа, 1999. - 479с.

5. Пытьев Ю.П., Шишмарев И.А. Курс теории вероятностей и математической статистики для физиков. М.: Изд-во Моск. ун-та, 1983. - 256с.

6. Пугачев В.С. Теория вероятностей и математическая статистика. М.: Наука, 1979. - 496с.

7. Колемаев В.А., Староверов О.В., Турундаевский В.Б. Теория вероятностей и математическая статистика. М.: Высшая школа, 1991. - 400с.

8. Фигурин В.А., Оболонкин В.В. Теория вероятностей и математическая статистика. М.: Новое знание, 2000. - 206с.

9. Чистяков В.П. Курс теории вероятностей. М.: Наука, 1982. - 256с.

10. Боровков А.А. Теория вероятностей. М.: Наука, 1976. - 352с.

11. Кремер Н.Ш.  Теория вероятностей и математическая статистика. М.: ЮНИТИ, 2000. - 543с.