Конечные разности как инструмент анализа поликорреляции

УДК 519.233.5

DOI: 10.21285/1814-3520-2016-5-87-94

КОНЕЧНЫЕ РАЗНОСТИ КАК ИНСТРУМЕНТ АНАЛИЗА ПОЛИКОРРЕЛЯЦИИ © А.В. Петров1

Иркутский национальный исследовательский технический университет, 664074, Россия, г. Иркутск, ул. Лермонтова, 83.

Представлены результаты использования аппарата теории конечных разностей для проведения анализа изменений поликорреляционных моментов в зависимости от показателей степени слагаемых регрессионного полинома. Получены соотношения, которые позволяют с использованием разностей k-го порядка анализировать изменения поликорреляционных моментов с учетом поведения начальных моментов независимой переменной регрессионного полинома порядка n. Приведены результаты теоретических расчетов и численных экспериментов. Рассмотрены направления дальнейших исследований.

Ключевые слова: регрессионный анализ, полином, моментные функции, конечные разности, программные средства, численный эксперимент.

FINITE DIFFERENCES AS A TOOL OF POLYCORELLATION ANALYSIS A.V. Petrov

Irkutsk National Research Technical University, 83, Lermontov St., Irkutsk, 664074, Russia.

The article presents the results of using the finite differences theory apparatus for the analysis of changes of polycorella-tional moments depending on the exponents of regressive polynomial summands. Using k-order differences, obtained correlations allow to analyze the changes in polycorellational moments considering the behaviour of initial moments of the independent variable of n order regressive polynomial. The paper provides the results of theoretical calculations and numerical experiments. Further research directions are outlined.

Keywords: regression analysis, polynomial, moment functions, finite difference, software, numerical experiment

Представленные в статье [3] подходы к решению задачи полиномиальной регрессии обеспечивают не только разрешение ключевой проблемы - автоматическое и объективное нахождение порядка регрессионного полинома с параллельным нахождением его коэффициентов. Наиболее значимым является радикальное расширение понятия вероятностной зависимости.

Понятие корреляции и ее трактовка как меры линейной вероятностной взаимосвязи известно еще со времен К.Ф. Гаусса. Предпринимались также попытки ввести различного рода характеристики для отражения более сложных вероятностных зависимостей. К их числу можно отнести так называемые моментные функции [2]. К сожалению, написание формул еще не означает их практическую применимость - остаются неясными те свойства исследуемых объектов, которые эти моментные функции отражают. Понятно с традиционным коэффициентом корреляции - показателем величины линейной вероятностной зависимости, а какого вида нелинейные стохастические зависимости описывают моментные функции, пока остается неизвестным.

В работах [2, 3, 5] удалось обосновать, теоретически и экспериментально доказать, что моментная функция вида

является функцией, описывающей именно полиномиальные вероятностные взаимосвязи

1

Петров Александр Васильевич, доктор технических наук, профессор кафедры автоматизированных систем, e-mail: petrov@istu.edu

Petrov Alexander, Doctor of Engineering sciences, Professor of the Department of Automated Systems, e-mail: petrov@istu.edu

Введение

между независимой переменной Х в различных степенях и зависимой переменной У. Это обусловило возможность введения в работах [2-5] понятия поликорреляции.

Нельзя исключать возможность использования выражений, аналогичных (1), для описания других нелинейных зависимостей. При этом приходится вступать в противоречия с определенными канонами классической теории вероятностей, как это описано, например, в работе [5, с. 123-130].

Помимо крупномасштабных задач, одна из которых описана выше, можно сформулировать и такие направления исследований, которые позволяют более тонко изучать поликорреляцию. К числу последних можно отнести, например, изучение влияния вероятностных свойств шума на поликорреляционные моменты и коэффициенты. Но, как показали экспериментальные исследования, частично отраженные в [2], здесь необходимо искать некий чувствительный аппарат, так как зависимости проявляются в значениях, которые в инженерной практике зачастую признаются на уровне погрешностей вычислений.

Объект исследования

В настоящей статье исследуются зависимости приращений поликорреляционных моментов от изменений показателя степени независимой переменной регрессионного полинома.

В публикациях [2, 3, 5] приведены примеры расчетов поликорреляционных коэффициентов при варьировании различных параметров. В качестве одного из примеров в табл. 1 приведены рассчитанные по экспериментальным результатам значения поликорреляционных коэффициентов r(X  X])для полинома 2-го порядка. Условия проведения экспериментов: на независимую переменную накладывается помеха и предполагается, что зависимая переменная У связана с Х полиномом степени n. Здесь помеха имеет равномерное в интервале [-1, +1] распределение. На рис. 1 представлена также поверхность, графически отображающая соответствующие данные табл. 1.

В табл. 2 и 3 представлены результаты теоретических расчетов коэффициентов поликорреляции r(Y  X1) и r(Y  X2) при наложении гауссовского шума с параметрами (0, 5) на полином 2-го порядка c коэффициентами b1 и b2. На рис. 2 и 3 - соответствующие поверхности.

Таблица 1

Оценки коэффициентов поликорреляции r(X'  XJ) для полинома 2-го порядка

Table 1

Estimates of polycorrelation coefficients of r(X'  XJ) for the 2nd order polynomial

i/j 1 2 3 4 5 6 7 8

1 -0,140 -0,170 -0,217 -0,297 -0,460 -0,841 -0,841 -0,460

2 -0,115 -0,140 -0,179 -0,247 -0,391 -0,786 -0,786 -0,391

3 -0,090 -0,109 -0,140 -0,194 -0,313 -0,704 -0,704 -0,313

4 -0,064 -0,078 -0,101 -0,140 -0,229 -0,577 -0,577 -0,229

5 -0,039 -0,047 -0,060 -0,085 -0,140 -0,391 -0,391 -0,140

6 -0,013 -0,016 -0,020 -0,028 -0,047 -0,140 -0,140 -0,047

7 0,013 0,016 0,020 0,028 0,047 0,140 0,140 0,047

8 0,039 0,047 0,060 0,085 0,140 0,391 0,391 0,140

Рис. 1. Оценки коэффициентов поликорреляции r(X1  X3 ) для полинома 2-го порядка Fig. 1. Estimates of polycorrelation coefficients of r(X1  X3 ) for the 2nd order polynomial

Таблица 2

Коэффициенты поликорреляции r

Table 2

Polycorrelation coefficients r

bl /b2 -1,000 -0,818 -0,636 -0,455 -0,273 -0,091 0,091 0,273 0,455 0,636 0,818 1,000

-1,000 -0,140 -0,170 -0,217 -0,297 -0,460 -0,841 -0,841 -0,460 -0,297 -0,217 -0,170 -0,140

-0,818 -0,115 -0,140 -0,179 -0,247 -0,391 -0,786 -0,786 -0,391 -0,247 -0,179 -0,140 -0,115

-0,636 -0,090 -0,109 -0,140 -0,194 -0,313 -0,704 -0,704 -0,313 -0,194 -0,140 -0,109 -0,090

-0,455 -0,064 -0,078 -0,101 -0,140 -0,229 -0,577 -0,577 -0,229 -0,140 -0,101 -0,078 -0,064

-0,273 -0,039 -0,047 -0,060 -0,085 -0,140 -0,391 -0,391 -0,140 -0,085 -0,060 -0,047 -0,039

-0,091 -0,013 -0,016 -0,020 -0,028 -0,047 -0,140 -0,140 -0,047 -0,028 -0,020 -0,016 -0,013

0,091 0,013 0,016 0,020 0,028 0,047 0,140 0,140 0,047 0,028 0,020 0,016 0,013

0,273 0,039 0,047 0,060 0,085 0,140 0,391 0,391 0,140 0,085 0,060 0,047 0,039

0,455 0,064 0,078 0,101 0,140 0,229 0,577 0,577 0,229 0,140 0,101 0,078 0,064

0,636 0,090 0,109 0,140 0,194 0,313 0,704 0,704 0,313 0,194 0,140 0,109 0,090

0,818 0,115 0,140 0,179 0,247 0,391 0,786 0,786 0,391 0,247 0,179 0,140 0,115

1,000 0,140 0,170 0,217 0,297 0,460 0,841 0,841 0,460 0,297 0,217 0,170 0,140

Ь2

Рис. 2. Коэффициенты поликорреляции r

Таблица 3

Коэффициенты поликорреляции r

Table 3

Polycorrelation coefficients r

bl /b2 -1,000 -0,818 -0,636 -0,455 -0,273 -0,091 0,091 0,273 0,455 0,636 0,818 1,000

-1,000 -0,990 -0,985 -0,976 -0,955 -0,888 -0,541 0,541 0,888 0,955 0,976 0,985 0,990

-0,818 -0,993 -0,990 -0,984 -0,969 -0,921 -0,618 0,618 0,921 0,969 0,984 0,990 0,993

-0,636 -0,996 -0,994 -0,990 -0,981 -0,950 -0,711 0,711 0,950 0,981 0,990 0,994 0,996

-0,455 -0,998 -0,997 -0,995 -0,990 -0,973 -0,816 0,816 0,973 0,990 0,995 0,997 0,998

-0,273 -0,999 -0,999 -0,998 -0,996 -0,990 -0,921 0,921 0,990 0,996 0,998 0,999 0,999

-0,091 -1,000 -1,000 -1,000 -1,000 -0,999 -0,990 0,990 0,999 1,000 1,000 1,000 1,000

0,091 -1,000 -1,000 -1,000 -1,000 -0,999 -0,990 0,990 0,999 1,000 1,000 1,000 1,000

0,273 -0,999 -0,999 -0,998 -0,996 -0,990 -0,921 0,921 0,990 0,996 0,998 0,999 0,999

0,455 -0,998 -0,997 -0,995 -0,990 -0,973 -0,816 0,816 0,973 0,990 0,995 0,997 0,998

0,636 -0,996 -0,994 -0,990 -0,981 -0,950 -0,711 0,711 0,950 0,981 0,990 0,994 0,996

0,818 -0,993 -0,990 -0,984 -0,969 -0,921 -0,618 0,618 0,921 0,969 0,984 0,990 0,993

1,000 -0,990 -0,985 -0,976 -0,955 -0,888 -0,541 0,541 0,888 0,955 0,976 0,985 0,990

ко 0.8 0.6 0.4 0.2

ОМ«!

0.454^.2

О

Рис. 3. Коэффициенты поликорреляции r

у

Fig. 3. Polycorrelation coefficients r

Обратим внимание на достаточно плавное изменение коэффициентов поликорреляции при изменении степеней независимой переменной.

В дальнейшем мы будем вести речь не о поликорреляционных коэффициентах, а о поликорреляционных моментах, что связано с трудностями нормировки. Конечные разности

Для оценивания «скорости» изменения поликорреляции воспользуемся аппаратом теории конечных разностей [1]. На рис. 4 представлена схема расчета разностей «соседних»

поликорреляционных моментов М^  X3) для полинома порядка п. Здесь

Рис. 4. Схема расчета конечных разностей Fig. 4. Computation scheme of finite differences

Используем обобщающую формулу (3.4.10) из [5, с. 115]:

J =п

^Ц = Е Ь] •

У =1

где Ь - коэффициенты регрессионного полинома; п - порядок регрессионного полинома; ак - начальный момент порядка к независимой переменной Х. Пусть п=2. Тогда

(2 -1)2 = ^1,2 -^1,1 = Ь1 "(аз-а1 ' а2-а2 +а1 ) + Ь2 ' (а4-а2-а3 +а1 "а2) = = Ь1 '[(а3-а2)-а1 ' (а2-а1)] + Ь2 '[(а4-а3)-а2 ' (а2-а1)]•

Для п=2 имеем:

(2 -1)3 = Ь1  [(аз-а2)-а1 ' (а2-а1)] + Ь2 ' [(а4-а3)-а2 ' (а2-а1)] + + Ь3 '[(а5 - а4 )-а3 ' (а2 -а1)] •

(3-2)3 = Ь}-[(а4 -<х3)-а-(а3-а2)] + b2-[(а5-а4)-а2-(а)] +

+ Ъ3 '[(аб-а5)-аз-(аз-а2)]•

(3 -1)3 = bj ' [(а4-а2 )-а1 '(а3-а1)] + b2-[(а5-а3 )-а2 '(а3-а1)] + Ъ3 '[(аб-а4)-а3-(а3-а1)]•

(3 - 2)3 - (2 -1)3 = Ь1 - (а4 - а1 - а^ ) - 2 - (аз - а1 - а2 ) + (а2 - а2 )] +

+ ¿2 ' ^

+ ьз {(аб-а!)-2'(а5-а2 'аз) + (а4-а1 'аз) •

Продолжая аналогичные действия и для других п и обобщая формулы (3)-(6) и (9) получим

у =п

к)п = Е Ь) • [[+у - ак+у ) - ау •

У =1

На рис. 5 приведены результаты прямых (по разностям (Б-к)) и косвенных (по формуле

(10)) расчетов разностей для равномерного в интервале [-2, +2] законом распределения вероятностей помехи, накладываемой на независимую переменную Х. Регрессионные моменты рассчитывались для разных порядков полинома (от 1 до 10) и затем двумя вариантами определялись разности. Расчеты подтвердили правильность полученных выражений для вычисления разностей.

ЗРВ помехи - равномерный Полиномиаль Начальные моменты (теория) ные моменты

a = -2,0000 Порядок Значение S.0E+0 2,0E'0 10E+0 :

b = 2,0000 1 11

Порядок полинома N (li=l.....N) 3 - 13 315,08 ;

4 - 14 3,20 1092,27 tij

5 - 15

6 - 16 9,14 3855,06

7 - 17 S 6 7

8 - 18 28,44 13797,05 " 11 '2 13

9 - 19

10 - 20 93,09 49932,19

Теория

Полиномиальны е моменты Y^ Xj ^ Степень полинома 1 1 7 10 1 ш 1 Е

1 1,333

2 1,333 1,422

3 4,533 1,422 12,343

4 4,533 6,298 12,343 23 ,081

5 13,676 6,298 40,787 2 ,081 130,678

6 13,676 22,552 40,787 8 ,914 130,678 311,573 3 2 1

7 42,121 22,552 133,878 86 ,914 445,755 311,573 1528,879

8 42,121 77,717 133,878 31 0,969 445,755 1143,776 1528,879 4157,395

9 135,212 77,717 448,955 31 0,969 1538,022 1143,776 5383,938 4157,395 19152,546

10 135,212 268,673 448,955 1105,345 1538,022 4147,718 5383,938 15306,529 19152,546 56404,680

Первые 4,001*04 3001*04 2, 001+04 1001*04 0,001*00 -1001*04

Вычитаемое ф 1 7 10

1

2 0,089

3 -3,111 10,921

4 1,765 6,044 10,738

5 -7,378 34,489 ,707 107,598

6 8,876 18,235 ,127 43,764 180,895

7 -19,568 111,326 ,964 358,841 -134,182 1217,306

8 35,597 56,161 7,091 134,786 698,021 385,103 2628,516

9 -57,494 371,238 7,986 1227,053 -394,246 4240,162 -1226,543 14995,151

10 133,462 180,282 656,390 432,677 2609,696 1236,220 9922,591 3846,017 37252,134

Расчет первых разностей

Порядок полинома J • • 7 5 4,001*04 3001*04 2001*04 1001*04 0 001*00 -1 001*04

1 7 10

1

2 0,089

3 -3,111 10,921

4 1,765 6,044 10,738

5 -7,378 34,489 ,707 107,598

6 8,876 18,235 ,127 43,764 180,895

7 -19,568 111,326 ,964 358,841 -134,182 1217,306

9 -57,494 371,238 7,986 1227,053 -394,246 4240,162 -1226,543 14995,151

10 133,462 180,282 656,390 432,677 2609,696 1236,220 9922,591 3846,017 37252,134

Рис. 5. Разности для равномерного в интервале [-2, +2] закона распределения вероятностей помехи Fig. 5. Differences for the interference probability distribution law uniform in the interval [-2, +2]

Выражения вида (3)-(6), (9) и (10) позволяют оценивать приращения поликорреляционных моментов для соседних значений показателей степени независимой переменной. Используя (10), получаем:

} =п

Д™ = ( s- (s - l))n = 2 bj • [(as+j - aS_1+J ) - ar (

as -as-1)

J=1

A(2) = (s- (s -1)) - ((s-1) - (s - 2))n =

J =n

I bj •[(

j =1

2 • (a s-1+J - a j • a s

"s+j s+j

1)+(

as-2+j -a j 'as-2

)}

В соответствии с выражением (5) из [1, с. 115]

д^ = £(-1 f- • Ck

i=0

можно найти общее выражение для разности порядка к:

]=п „ ;'=и _ ==

} =1

i=k

A(k) = I (-1)k-i • a • i=0

lai+y-aya

i)

i=k k I(-1)-i • ck ^(ai+-a-ai) i=0

.}=1

Формула (13) обеспечивает возможность оценивания приращения поликорреляционных моментов для различной глубины их взаимовлияния.

у

Общее количество разностей 1-го порядка определяется как С2 при допущении, что значения разностей (s-k)n и (k-s)n отличаются только знаками. Здесь важно понимать, что это сугубо формальное допущение. Но главным остается то, что выражение (13) позволяет количественно оценить изменение поликорреляционного момента для разных показателей степени независимой переменной Х.

Количество возможных разностей порядка k обозначим как Несложно увидеть, что

N(k) = С^(к-1), где k = 1, 2, ..., n-1 и N(0) =n. И, если предназначение разностей для смежных

значений s в (10) понятно, то для не соседствующих степеней вопрос требует изучения, лежащего в попытке получения обобщающих выражений типа формулы (10). Возможность получения результатов демонстрируют соотношения (7) и (8). Способ нахождения разностей через приращения поликорреляционных моментов, представленный выражениями (11) и (13), распространяется «по горизонтали» (см. рис. 4), что позволяет описать взаимосвязи между смежными по горизонтали разностями. Соотношения (7) и (8) отражают взаимодействия разностей «по диагоналям» (см. рис. 4). Приращение поликорреляционной зависимости между

приращениями -^1m) и -^j ) определяется приращением -^1m).

Таким образом, использование аппарата теории конечных разностей позволяет провести анализ изменения поликорреляционных моментов в зависимости от показателей степени слагаемых регрессионного полинома. Соотношения (10) и (13) позволяют с использованием разностей k-го порядка анализировать изменения поликорреляционных моментов в зависимости от поведения начальных моментов переменной Х регрессионного полинома порядка n.

Статья поступила 21.03.2016 г.

Библиографический список

1. Березин И.С., Жидков Н.П. Методы вычислений: учеб. пособие для вузов; в 2 т. Т. 1. М.: ГИФМЛ, 1962, 464 с.

2. Петров А.В. Моментные функции как отражение полиномиальной вероятностной зависимости // Вестник ИрГТУ. 2015. № 10 (105). С. 37-44.

3. Петров А.В. Смешанные моменты высших порядков как инструмент оценивания формы вероятностной зависимости // Вестник ИрГТУ. 2016. № 3 (110). С. 50-57.

4. Петров А.В. Поликорреляция: определения и направления исследований // Вестник ИрГТУ. 2016. № 4 (111). С. 118-125.

5. Петров А.В. Основы теории полиномиальных стохастических взаимосвязей. Иркутск: Изд -во ИРНИТУ, 2016. 170 с.

References

1. Berezin I.S., Zhidkov N.P. Metody vychislenii [The methods of calculations]. Moscow, GIFML Publ., 1962. 464 p.

2. Petrov A.V. Momentnye funktsii kak otrazhenie polinomial'noi veroiatnostnoi zavisi-mosti [Moment functions as polynomial probabilistic dependence reflection]. Vestnik IrGTU - Proceedings of Irkutsk State Technical University, 2015, no. 10 (105), pp. 37-44.

3. Petrov A.V. Smeshannye momenty vysshikh poriadkov kak instrument otsenivaniia formy veroiatnostnoi zavisimosti [On approaches to the probabilistic analysis of permutable procedures of random process generation]. Vestnik IrGTU -Proceedings of Irkutsk State Technical University, 2016, no. 3 (110), pp. 50-57.

4. Petrov A.V. Polikorreliatsiia: opredeleniia i napravleniia issledovanii [Polycorrelation: definitions and research directions]. Vestnik IrGTU - Proceedings of Irkutsk State Technical University. 2016, no. 4 (111), pp. 118-125.

5. Petrov A.V. Osnovy teorii polinomial'nykh stokhasticheskikh vzaimosviazei [The fundamentals of the theory of polynomial stochastic interdependence]. Irkutsk, IRNITU Publ., 2016. 170 p.