Поликорреляция: определения и направления исследований

УДК 519.233.5

DOI: 10.21285/1814-3520-2016-4-110-117

ПОЛИКОРРЕЛЯЦИЯ: ОПРЕДЕЛЕНИЯ И НАПРАВЛЕНИЯ ИССЛЕДОВАНИЙ © А.В. Петров1

Иркутский национальный исследовательский технический университет, 664074, Россия, г. Иркутск, ул. Лермонтова, 83.

Рассмотрены пути решения одной из проблем описания вероятностного мира - обоснование моментной функции как отражение вероятностной взаимозависимости полиномиально связанных случайных переменных. На основе ранее полученных результатов введены новые определения смешанных моментов высших порядков, описывающие взаимосвязи между переменными полинома степени n - поликорреляционные моменты, поликорреляционные коэффициенты и поликорреляционные функции. Приведены результаты теоретических расчетов и численных экспериментов, показавшие практическое их совпадение. Рассматриваются направления дальнейших исследований.

Ключевые слова: регрессионный анализ; полином; моментные функции; программные средства; численный эксперимент.

POLYCORRELATION: DEFINITIONS AND RESEARCH DIRECTIONS A.V. Petrov

Irkutsk National Research Technical University, 83, Lermontov St., Irkutsk, 664074, Russia.

The article discusses the ways to solve one of the problems in probabilistic description of the world - rationale for a moment function as a reflection of probabilistic interdependence of polynomially associated random variables. New definitions of mixed higher order moments describing the relationship between the variables of the polynomial of degree n -polycorrelational moments, polycorrelational coefficients and polycorrelational functions - are introduced on the basis of the previously obtained results. The results of theoretical calculations and numerical experiments having shown their practical coincidence are given. Directions for further research are considered. Key words: regression analysis; polynomial; moment functions; software; numerical experiment

Описание проблем изучения вероятностного мира посредством формализованных, сугубо математических методов и практически осязаемых инженерных подходов представлено в [2]. Там же сформулирован ряд новых задач. Причины постановки этих задач состоят в очевидной «нестыковке» теории и практики. Большинство формализовано определенных характеристик не подкреплены описанием вероятностных свойств, которые они должны отражать. Это, конечно, не позволяет применить их для получения знаний о вероятностном мире. Кроме того, теория зачастую прямо входит в противоречие с практикой. Теория просто не допускает многих выражений, допустимость которых подтверждается статистическими экспериментами.

Одной из названных задач является исследование моментов (начальных и центральных) при нецелочисленных и необязательно положительных степенях.

Другой задачей является всестороннее изучение моментных функций высших порядков. Решая эту задачу, удалось обосновать [5, 8], что моментные функции вида

являются характеристикой, описывающей вероятностные свойства полиномиально зависимых величин.

1

Петров Александр Васильевич, доктор технических наук, профессор кафедры автоматизированных систем, e-mail: petrov@istu.edu

Petrov Alexander, Doctor of technical sciences, Professor of the Department of Automated Systems, e-mail: petrov@istu.edu

Введение

к,

Использование такой трактовки предназначения моментов (1) позволило ввести принципиально новый вид характеристик вероятностной взаимосвязи, названный индикатора -ми [6]. Индикаторы позволяют не только вычислять коэффициенты полиномиального регрессионного уравнения, но и автоматически определять порядок регрессионного полинома. Последнее крайне важно с практической точки зрения, так как позволило отказаться от крайне трудоемкой и нетехнологичной методики Т. Андерсона [1, стр. 48-52].

Определения

Пусть переменные У, X1, Х2, ..., Хпявляются полиномиально зависимыми

YKY

= 1 bj

j=0

где X] - независимая переменная; К] - показатель степени независимой переменной X/, У -зависимая переменна; КУ - показатель степени зависимой переменной У; Ь- регрессионный коэффициент; п - порядок полинома;/ = 0,1,.,п.

В частном случае при X] = X КУ = 1 и К/ = / мы имеем дело с классическим регрессионным полиномом

Y =Е bj-XJ. j=0

Назовем поликорреляционным начальным моментом характеристику вида

а

KY,K0,K1,...,Kn (Y,X0,X1,...,Xn) = M

YKy XK0 -...-XK

а поликорреляционным центральным моментом характеристику

^КГ,К0,К1,... ,Кп {^>Х0'Х1'Х2'--'Хн ) =

\т - М

Y K0'K1'...'Kn

= M

Моменты (5) могут быть подвергнуты нормировке соответствующими среднеквадратичными отклонениями так, как это описано в [3, 4], в результате чего образуются поликорреляционные коэффициенты

rKY,K0,K1,...,Kn (Y,X0, X1, X2,...,Xn ) =

MKY,K0 ,K1 ,... ,Kn

v(YKy)- v(XK )... а(Х^) '

Для отражения влияния на моменты (5) и коэффициенты (6) предшествующих или последующих значений переменных У и X/ введем понятие поликорреляционной функции:

rp(t,t1,t2,...,tj =

M

Kn

a

В статье [7] представлена формула для нахождения моментов (5) и коэффициентов (6) поликорреляции через начальные моменты независимых переменных X/.

(1,1,2,3,...,п) _ у

]=1

Ъ

(

\а¥+}-1 ~а81-1' а¥ + ]-8,

\'1 =2

X ' {а¥+]^-1'а¥+]-8и-8,+1

и

X %-Г %-1 {а¥+]-8ч -8^ +1 - <а81 -1' а¥+-8Ч -82 +2)

Ь =2 \'2 =2

21*22

С

и-1

21 =2 ¡2=2 \'з =2

^-1 -Г%-Г {а¥+¡-8Ч-82-83 +2-1' а¥ + -8Ч-82-83 +3

21 *22 * 23

^слагаемых

слагаемых +

{-1Т1 X

а8,-1'...'а8 .-1' \а¥ +1-8,-...-8 ,+и-2 ~а8,-1' а¥+]-8,-8,-...-8 +П-1

1 и 1 \ Ч 41-1 1 1 Ч 1и-1

21 =2

-I' аи

2и-1=2

21 *...*2и-1

пи-1

Си-1 слагаемых

Ш,2,...,п) {.¡,К2,К3,..,Кп+1)

(1,1,2,..,п) ^{1,К2,К3,...,Кп-

((

\ (

1=1

\\К1

ХЬ2-°[Х] + 2' ХЬ]'Ьк \а]+к-а]-ак) ) 0*к ))

'В^^Хт),.,ПКп+1 {Хтп+1)

Используем методику получения этой обобщенной формулы. Пусть имеется полином второго порядка

У = Ъ0 + Ъ1-Х1 + Ъ2'Х2.

В обозначениях [7] смешанный центральный момент имеет вид

{У -М{У))'{X' -М{

х1)) 2 '{х2 - М {х2)) 3

Для того чтобы выражения (5) и (11) привести к единообразию, необходимо в (5) поло-

+

+

и

о

жить п = 2, КУ = 1, Ко = 0, К1 = К'2, К2 = К'з, Xo = 1, X1 = X и X2 = X2. (При этом полагаем, что В соответствии с (8) и [7] имеем:

00 = 1).

M

b1 а1 + b2 -а2, если K2 = 0 и K3 = 0,

Ь1 '(а2 - и2) + Ь2 -(а3 -а1 -а2 ), если К2 = 1 и К3 = 0, Ь1 -(а3 -а1 -а2 ) + Ь2 -(а4 - а2), если К2 = 0 и К3 = 1, Ь1 (а4 -а1 -а3 )-а2 -(а2 -а1 +

+Ь2 - [(а5 -а1 -а4 )-а2 - (а3 -а1 -а2 )], если К2 = 1 и К3 = 1,

где ^ - начальный момент /-го порядка переменной X. В этом случае

ГкК )

M

Численные эксперименты

Рассчитаем значения поликорреляционного коэффициента (13) для различных законов распределения переменной Х с варьированием коэффициентов Ь1 и Ь2. Результаты сравним с изложенными в [5] результатами численных экспериментов.

Из теории вероятностей известны способы вычисления начальных моментов для законов распределения вероятностей переменной Х, которые исследовались в [5]:

- равномерный в интервале [a, b] ак =

bk+1 - ак+1 . (к + 1)-(b -a) '

- нормальный с параметрами а) ак = к!- ^

i=0

b

к - 2-i

(к - 2-i)! i!

где

- наибольшее целое число, не превосходящее ^;

-к.

- экспоненциальный с параметром А ак = к!-X к;

арксинуса в интервале а = а3 = а5 = 0, а2 = т А , а4

2 / о 4

m / а = 3-m !

- Рэлея с параметром а ак =

к ^к + 2Ч

^ г

, где Г(*) - гамма-функция.

На рис. 1 представлены результаты теоретических расчетов и численных экспериментов. Коэффициенты Ь1 и Ь2 варьировались в интервале [-1, +1], закон распределения вероятностей переменной Х для расчетов - равномерный в интервале [-5, +5]. В численном эксперименте помеха имела такой же закон распределения вероятностей. Объем генерируемой при этом выборке составлял 1000 значений, и результаты усреднялись по 50 -ти экспериментам.

Эксперимент

Рис. 1. Коэффициенты поликорреляции при равномерно распределенной переменной X

Очевидна визуальная схожесть поверхностей коэффициентов поликорреляции. Для коэффициентов г^'щ , описывающих взаимосвязи У и X1, характерны ярко выраженные «гребни» в областях, близких к нулевым значениям коэффициентов Ь1 и Ь2 регрессионного полинома. Для поликорреляционных коэффициентов , отражающих взаимосвязи У и X2,

наблюдается противоположная картина.

На рис. 2 представлены разности между экспериментальными и теоретическими поликорреляционными коэффициентами r(-'-Q2j и г^о'^ . Ошибки невелики, что говорит о достаточно точном совпадении теоретических и экспериментальных результатов.

Ошибки

Рис. 2. Разности теоретических и экспериментальных коэффициентов поликорреляции при равномерно распределенной переменной Х

Аналогичные выводы можно сделать и для других законов распределения вероятностей помехи. Например, для нормального (рис. 3) или экспоненциального (рис. 4).

Эксперимент

Ä'V =1 K'j=0 1! 1

1.0 0,8 0,6 1.0 0,8 0.6

0,4 0,2 \ \ 0,2

" «ОНО' [ 53- 1 1 г So ¡7 й Ч с О * П ),0909 4 к ш / ш\ U .г," £ ¡8 ^л / &Ч*1 J^ 0,454«.2 L/ 0,0909 .0,4 ШГ-0Л127 _0,6 ^^-0,6364 _0>8 N /i.imo j 0  й - = 3 0,4545 - Г-ГЧ <4 О фу W ° 1 о е в С к s - К 7. -г V Г4 Ш ГоМ82 В 0.45+в.2 Ji 0,0909 -0,4 Г \ -0,2727 _о,6 -0,6364 _о,8 -1,0000 г _1-0

*...........^ угТ * I ы г 3 О ОС в /

Ь2

Теория

К'3=1 К'4=0 у 1,0 0,8 0,6 K'3=0 K'j=l 1.0 0.8 0.6

| 0,4 1 i 0,4

0,2 Ш _ 0,2

i"? 2 * -3 J м = N* Г- * 3 0.0909 11,0909 1 2 / ? ffl - W (№2 1 / 0,454^,2 Иг 0,0909 .0,4 -0J727 »0,6364 _08 pr.0000 _10 g ~ ' . 0 2 3 «л ! » 3 J 0 = 3 r-r 3 — ^ S 0 * в с p * 1 „ \ 0Üis2 В 0,454#,2 К 0,0909 -0,4 -0,2727 -0.6 JVo^M 08 -1,0000 » | 0

Ь2 vo oo e о — / Ы Ь2 ' ? 11 1 1 Jr

Рис. 3. Коэффициенты поликорреляции при нормально распределенной переменной Х

Эксперимент

Рис. 4. Коэффициенты поликорреляции при экспоненциально распределенной переменной Х

Эксперимент

Рис. 5. Коэффициенты поликорреляции при равномерно распределенной переменной Х при несовпадающих изменениях регрессионных коэффициентов Ъ е [0,2], Ъ2 е [-2,0]

Представленные результаты обусловливают возможности исследования поликор-релционных коэффициентов с различных позиций. Например, необходимо оценить влияние коэффициентов регрессионного полинома bj на поведение коэффициентов поликорреляции. На рис. 5 приведены результаты расчетов при разнонаправленных изменениях коэффициентов bj (bj е [0,2], b2 е [-2,0]). Другим направлением исследований является изучение влияния вероятностных свойств помехи (математического ожидания, дисперсии, величины и формы автокорреляции и т.п.). И этим не исчерпывается перечень возможных исследований поликорреляций. Выводы

Таким образом, на основе ранее полученных результатов введены новые определения смешанных моментов высших порядков, описывающие взаимосвязи между переменными полинома степени n - поликорреляционные моменты, поликорреляционные коэффициенты поликорреляционные функции. Приведены результаты теоретических расчетов и численных экспериментов, показавшие практическое их совпадение. Рассматриваются направления дальнейших исследований.

Статья поступила 29.01.2016 г.

Библиографический список

1. Андерсон Т. Статистический анализ временных рядов. М.: Мир, 1976. 757 с.

2. Петров А.В. «Иная и забытая» теория вероятностей // Вестник ИрГТУ. 2013. № 11. С. 36-38.

3. Петров А.В. Исчисление смешанных моментов высших порядков при полиномиальной зависимости случайных величин // Вестник ИрГТУ. 2015. № 11. С. 16-22.

4. Петров А.В. К вопросу нормирования вероятностных характеристик // Вестник ИрГТУ. 2016. № 1. С. 56-64.

5. Петров А.В. Моментные функции как отражение полиномиальной вероятностной зависимости // Вестник ИрГТУ. 2015. № 10. С. 37-44.

6. Петров А.В. О полиномиальной зависимости. Препринт // Иркутск, Изд-во ИрГТУ, 2005, 74 с.

7. Петров А.В. Обобщенная моментная функция // Вестник ИрГТУ. 2015. № 12. С. 153-158.

8. Петров А.В. Смешанные моменты высших порядков как инструмент оценивания формы вероятностной зависимости // Вестник ИрГТУ. 2016. № 3. С. 50-57.

References

1. Anderson T. Statisticheskij analiz vremennyh ryadov [Statistical analysis of time series]. Moscow: Mir Publ., 1976. 757 p.

2. Petrov A.V. "Inaya i zabytaya" teoria veroiatnostej ["Other and forgotten" theory of probability] Vestnik IrGTU - Proceedings of Irkutsk State Technical University, 2013, по. 11(107), рр. 36-38.

3. Petrov A.V. Ischislenie smeshannykh momentov vysshikh poryadkov pri polinomial'noi zavisimosti sluchainykh veli-chin [Calculation of mixed higher-order moments under polynomial dependence of random variables] Vestnik IrGTU -Proceedings of Irkutsk State Technical University, 2015, по. 11(106), рр. 16-22.

4. Petrov A.V. K voprosy normirovania veroyatnostnyh harakteristik [To probability characteristic normalization]. Vestnik IrGTU - Proceedings of Irkutsk State Technical University, 2016, по. 1 (108), рр. 56-64.

5. Petrov A.V. Momentnye funktsii kak otrazhenie polinomial'noi veroyatnostnoi zavisimosti [Moment functions as polynomial probabilistic dependence reflection]. Vestnik IrGTU - Proceedings of Irkutsk State Technical University, 2015, по. 10(105), рр. 37-44.

6. Petrov A.V. O polinomialnoy zavisimosti [On polynomial dependence]. Irkutsk, Izd-vo IrGTU, 2005, 74 p.

7. Petrov A.V. Obobshennya momentnaya funcciya [Generalized momentary function]. Vestnik IrGTU - Proceedings of Irkutsk State Technical University, 2015, по. 12 (107), рр. 153-158.

8. Petrov A.V. Smeshannye momenty vysshih poryadkov kak instrument ocenivaniya formy veroyatnostnoj zavisimosti [Mixed higher order moments as a tool to estimate the form of probabilistic dependence]. Vestnik IrGTU - Proceedings of Irkutsk State Technical University, 2016, по. 3 (109), рр. 50-57.