Рекуррентное оценивание параметров многомерных по входу и выходу разного порядка линейных динамических систем при наличии автокоррелированных помех во входных и выходных сигналах

УДК 519.254

DOI 10.21685/2072-3040-2016-4-2

И. Л. Сандлер

РЕКУРРЕНТНОЕ ОЦЕНИВАНИЕ ПАРАМЕТРОВ МНОГОМЕРНЫХ ПО ВХОДУ И ВЫХОДУ РАЗНОГО ПОРЯДКА ЛИНЕЙНЫХ ДИНАМИЧЕСКИХ СИСТЕМ ПРИ НАЛИЧИИ АВТОКОРРЕЛИРОВАННЫХ ПОМЕХ ВО ВХОДНЫХ И ВЫХОДНЫХ СИГНАЛАХ

Аннотация.

Актуальность и цели. Использование методов идентификации параметров (как линейных объектов, так и нелинейных) очень распространено в различных областях науки и техники, их применение позволило повысить работоспособность существующих автоматических систем управления, однако не все методы позволяют определять параметры указанных моделей с надлежащими свойствами (состоятельность и др.). Одной из часто применяемых моделей является многомерная по входу и выходу разного порядка дискретная линейная динамическая модель (прогнозирование удельного расхода топлива, электромагнитных параметров двигателей и др.). Целью исследования является разработка нового математического метода оценивания параметров многомерной по входу и выходу разного порядка дискретной линейной динамической системы в условиях априорной неопределенности (отсутствие знания о законе распределения помех наблюдения) на основе метода стохастической аппроксимации, а также создание и тестирование программного обеспечения, реализующего указанный алгоритм.

Материалы и методы. Предложен рекуррентный алгоритм оценивания параметров многомерной по входу и выходу разного порядка дискретной линейной динамической системы с нестационарными автокоррелированными помехами наблюдений во входных и выходных сигналах при отсутствии знания о законах распределения.

Результаты и выводы. Результатом работы является разработанный рекуррентный алгоритм оценивания параметров многомерной по входу в выходу разного порядка линейной динамической системы при наличии нестационарных автокоррелированных помех наблюдений во входных и выходных сигналах, доказана сильная состоятельность полученных оценок, а также разработано на основе полученного алгоритма программное обеспечение, реализация которого позволит повысить эффективность систем управления технологическими процессами в различных технических областях.

Ключевые слова: рекуррентный алгоритм, линейная динамическая система, многомерная система, разный порядок, стохастическая аппроксимация, автокорреляция, априорная неопределенность.

I. L. Sandler

RECURRENT ESTIMATION OF PARAMETERS BEING MULTIDIMENSIONAL IN TERMS OF INPUT AND OUTPUT OF VARIOUS ORDERS OF LINEAR DYNAMIC SYSTEMS IN THE PRESENCE OF AUTOCORRELATED NOISES IN INPUT AND OUTPUT SIGNALS

Abstract.

Background. The use of methods to identify parameters of both linear and nonlinear objects is very widespread in various areas of science and technology. Such methods enable to increase operability of the existing automatic control systems, however not all methods allow to determine parameters of the specified models with appropriate properties (solvency and others). One of frequently applied models is a discrete linear dynamic model, multidimensional in terms of input and output of various orderz (forecasting of specific fuel consumption, electromagnetic parameters of engines and others). The purpose of the work is to develop a new mathematical method of estimation of parameters being multidimensional in terms of input and output of various orders of a discrete linear dynamic system in conditions of apri-oristic uncertainty (absence of knowledge of the law of distribution of supervision hindrances) on the basis of the method of stochastic approximation, and also to create and test the software realizing the specified algorithm.

Materials and methods. The article offers a recurrent estimation algorithm for parameters that are multidimensional in terms of input and output of various orders of a discrete linear dynamic system with the non-stationary autocorrelated noises of supervision in input and output signals in the absence of knowledge of laws of distribution.

Results and conclusions. The work resulted in the development of the recurrent algorithm of estimation of parameters that are multidimensional in terms of input and output of various orders of a linear dynamic system in the presence of non-stationary autocorrelated interferences of supervision in input and output signals. The author proved strong solvency of the received estimates, as well as developed the software which will allow to increase efficiency of control systems of technological processes in various technical areas on the basis of the received algorithm.

Key words: recurrent algorithm, linear dynamic system, multidimensional system, different order, stochastic approximation, autocorrelation, aprioristic uncertainty.

Введение

При решении задач параметрической идентификации стохастических линейных динамических систем (ЛДС) во многих случаях помехи наблюдения присутствуют не только в выходных сигналах, но и во входных, их наличие делает неприменимыми обычные методы регрессионного анализа. В работах [1, 2] рассмотрены частные случаи модели многомерной ЛДС, имеющей разный порядок модели при наличии зашумленного выходного сигнала, а также авторегрессионная модель ЛДС, после чего производится обобщение алгоритма на случай помех во входных и выходных сигналах [3]. Рекуррентные алгоритмы [1-3] разработаны на случай стационарных белошумных помех наблюдений. В данной статье рассматривается разработка рекуррентного алгоритма, который позволяет определить неизвестный параметр многомерной ЛДС, имеющей разный порядок модели на случай нестационарных автокоррелированных помех наблюдений, действующих как на входные сигналы, так и на выходные.

Постановка задачи

Рассмотрим устойчивую многомерную ЛДС, имеющую разный порядок модели с дискретным временем (i = ... -1,0,1...) и помехами наблюдений

во входных и выходных сигналах, которая описывается следующим разностным уравнением:

k rni

d rnj

z(n) _ £ b0mn)(n)= £ £ b0ml)(n)+ £ £ a0mj)(n)xg

m=1

l=1 m=1 k Фп

j=1 m = 0

£) = ¿1) + ^)(/), ^J) = х(1) + #^О, п = 1,к ,

где ), ^) - наблюдаемые и ненаблюдаемые последовательности выходных сигналов многомерной ЛДС, I = 1, к ; к - число выходов (переменных) многомерной ЛДС; т1) (п), а^) (п) - искомые параметры многомерной

(I) х(1 - наблюдаемые и ненаблюдаемые после-

динамической системы; w

xi

довательности входных сигналов многомерной ЛДС, I = 1, й ; й - число входов (переменных) многомерной ЛДС; 1)(/) - случайные последовательности (помеха) в 1-м выходном сигнале многомерной ЛДС; ^/^(О - случайные

последовательности (помеха) ву-м входном сигнале многомерной ЛДС. Для упрощения обозначим вектор следующим образом:

rnk ,rnd

п) ();а^Пп ((_1): si (_ 1):..

: еТ (- 1)ЕТ : : ЕТ

гпкУ /' п..... ^

Пусть матрица

N

N _1£ s - s -

I rnk , rnd -nk

G ^ k d .

£ ^ + £ rnj +d+1 l =1 j=1

i=1

nd N —

Hn))

2 !

In) ^1,2

^O)T j ^-0)

1,2

1,2

где элементы побочной диагонали состоят из матриц И{п) = Йп) ! О

причем

k

Z

l=1

d

порядок матрицы :1х ^ гпп , 0:1х ^ гпу + ^ п + й ; и второй элемент

j=1 l=1 l Фп

главной диагонали состоит из матрицы

И^ =

Ь1,2

f rn; )! 0 ^ ___

0 I Hn)

V ! ^ ,

коэффициенты которой расписываются следующим образом:

п.н

f h (n 1 1 ! 0 ¡i i 1 A •! 0 i

H(n) -H Ъ - _ 0 TH w" г ! Ъ ! —\-----1-- i ... i • i i i . . i • i • i i •  i

0 V "Г г 1 1 1 — 1 - • 1 1 1 1 i H И ! Ъ J

f

H(n) -H Ъ2 -

H(1) -- 0 ____

' ' i : i__•__

! H

0

\

••• i H

i

^2

причем

H) -H Ъ -

' *Ъ'»(0) - . А<; ) (r -1)A Hi j - ' hj (0) - h<f (rj) ^

. hH (r - О -  (0) Ъ J h( j (j - hij) (0) Ъ2 J

имеющие порядок

к к

H g°: Z Тш x Z Тш , H Z (

l-1

l-l

(n):

2

ш + d) X

j-1

Z ( rnj +«

j-1

', 0: Z n x Z (Т

nj

l-1

j-1

Допустим, что для многомерной линейно разностной модели (1) выполняются следующие условия:

10 . Множество В, которому априорно принадлежат истинные значения параметров устойчивой линейной динамической системы, является компактом.

2° . Последовательности помех во входных и выходных сигналах ЛДС

статистически независимые друг от друга и стационарные в совокупности в узком смысле с

Е(§(') ( + 1) / ^)) = 0, Е(§2/") ( + 1) / ^")) = 0,

E

{)

< w()(i), E

{) (i+1) }2

/ F

< W2( j )(i ),

где ), •/) - а -алгебры, индуцированные семействами случайных величин {§(/)(о) ,...,§(°(()}, ^(о) ,•••,§2У)(')}; ^(О, 02а)(О - случайные

величины Е (ж{1)(/)) <я§(г), Е Ы"\г)) < я§( / с I = , / = М, где Е -\ / § \ / §2 оператор математического ожидания.

. Допустим выполнение следующего условия:

*-1£^ (i)^ (i + Н -

—h

i-1

* -

N-1£ # )

i=1

N—

>h(j) (m)< ^ п.н.

40 . Входные последовательности {х(1),...,х(й)} статистически не зави-

наблюдений {^^о},^/ )('')}.

сят от последовательности помех :

50 . Входные последовательности {х( )} стационарные в совокупности

в узком смысле с дробно-рациональной плотностью - случайные величины с

\2"

Е | ( х( 1 ) [> > 0 и для некоторого к(/) > 0:

г0

Л ')

<K(J) п.н.

6 . Допустим, что выполняется условие несократимости полиномов:

Г г

В(п) (д-1) = 1 - £ ь(тп) • д-т , А( (д-1) = £ а0т1 ) • д-т ,

m=1

m =0

в(1 ) (q-1 )= £><ml >., _m

т=1

-1 -1 где д - оператор сдвига назад, д х' = х'-1.

Требуется по наблюдаемым входным и выходным последовательностям {у'1)}, 1)} рекуррентно определить оценки неизвестных параметров многомерной ЛДС разного порядка, описываемой разностным уравнением (1).

Рекуррентный алгоритм идентификации параметров многомерной ЛДС разного порядка

Используя полученные результаты [3], неизвестные параметры многомерной ЛДС можно определить, применив следующий критерий, при котором получаемые оценки будут сильно состоятельные:

lim E

i—ж

У]

'b

in)

a

v v v

W-nd

min

Г ^GB

I a

H(n) H(n) h (n) :

{n)fn 1 + b

где

b

2

b

^ ' V

Yn (i - 1)-(yin)T • ... • yi.k)T f , Wr (i )-(w^T • ... •w^d)T f ,

rnk^ ' Yrnn Jrnk ) ' rnd^ ' \ rn1 rnd ) '

,.<'>

íЪ (п

Таким образом, оценки неизвестного вектора параметров ----

[а,

многомерной ЛДС разного порядка можно получить с помощью стохастически градиентного алгоритма минимизации функционала (2), который будет иметь вид

bi+1

ai+1

b( ) A

bM

a

f

У+1

bi

ai

T

Ъ

Wd

Y

ю

где

H

ю(( (n),at (n))-1 + b(n)-i^2(n)b(n)T +

J1

H

+a (n) i2

J1

T h (n) 2(n)a(n) -b(n),

а,- - последовательность, для которой должны выполняться следующие условия:

70 . ^ а, = ^ а, ^ а,+1, и 2 < пРи ' > 1.

1=0 1=0

80. ^§('Ч') <~, 2а,§2/)(') <~, п.н.

I=1 ,=1

Теорема. Пусть многомерная ЛДС разного порядка описывается раз-

ностным уравнением (1) и выполняются условия 10-80, тогда оценки, опреде-

ляемые стохастически градиентным алгоритмом (3) с вероятностью 1 при

' ^ тс либо сходятся в единственной точке

b

ai

либо рас-

ходятся

b_i_

i—тс

—^тс .

Доказательство теоремы. Доказательство состоятельности получаемых с помощью стохастически градиентного алгоритма (3) оценок базируется на методе непрерывных моделей [2].

Построим асимптотическую непрерывную детерминируемую модель алгоритма (3). Тогда функционал (2) представим в виде

J

Г \ lim E

b(n) i—TC

i

У

,

Г b Wf I

l

ю

= a

_b_ (_n)_

a

b0

\T Г

H

_b_ И

a

b0

ro

при

_b_

a

e R_ _

rnn + rn1 +  •+rnk + rn1 +  •+rnd + d ''

где матрица Н имеет вид

z

rn1

H = Jim E

i —тс

z (k) _r„k_

x

rn1

(d) Г '

rnd

z

rn1

z (k) -rk_

rn1

(d) Г '

rnd

> 0, H =

H * ! H * ^

zz j z: ------1—

/ * v i *

(H*x ) I H x

> 0

где

Z« (i ) =

rnl

i _

X( j) ( i ) =

x(j) Х0 i 5 • • • 5 Л .

T

- вектор-строка размерностью п х 1, вектор-строка размерностью (гпу + 1) х 1,

порядка

(пп + Гп1 + - + гпк + Гп1 + - + гпй + й)х( гпп + Гп1 + -Тпк + Гп1 + - + гпй + й) , - 10 /|0 А0

что следует из условий 1,4,6 .

В данном случае асимптотическая непрерывная детерминированная модель стохастически градиентного алгоритма имеет вид

Г b(n р

a

V v ' J

= _V b

a

V J

Г _b_(n)_ Л

a

Допустим, что функция Ляпунова будет иметь следующий вид:

V

Так как

Г

V

b_

= vT

Ь

a

_b_(_n_)_

a

V

^ Г W 4 > b

=J

Г b(n) '

i

l

V b

a

f

V J

Г b(n) '

a

то множество

В =

a

e R,

VT*(n*V

a ( n

V 4 'J

Гb

V v 'J V v 'J

: V

a

= 0

состоит из стационарных точек функционала J

a

[2].

Чтобы перейти к непрерывной модели от алгоритма (3), необходимо показать, что для случайных последовательностей {§(1)(,)},{§2"')(')} и {а,} выполняется равенство [4]:

Нш Нш 8ир—

T—0

T

m

Z aiei i-t

b

VV v ' J

{ )(i)},{i2j Ц

- 0,

m

где для T > 0, m(t,T) - max < m : Z ai < T > ||*|| - евклидова норма;

Ka(i b

i-t

\

{(l Ц, {Ц ^(o-SI/^W-HT/V)-...

...-=! »<k)(n)-3Tr a(1)(n)-...-S^ a(d)(n).

rnk ^ ' rn1 ^ ' rnd v '

Чтобы выполнилось равенство (6), необходима ограниченность после-

довательности

( ^ A

a

V v ' J

что соответственно предполагает ограниченность

возрастания функции V( b A J

(b A

a

V J

при

тогда

lim V b J

I a

( b A

a

V J

- 0.

Из ограниченности алгебраических сумм в условии 8 и последова-

тельности оценок параметров

( Р A

a

V J

следует ограниченность суммы

Z

i-1

((иглA b(0

VV v ' J

,{{ )

< ^,

откуда следует выполнение равенства (6).

В работе [5, с. 12, 292] приведены теоремы, из которых следует, что

при выполнении условий 10-80 и (5) (6) последовательность оценок пара-

метров

( Р A

a

V J

ограничена и при ,

тогда последовательность оценок

параметров

( МО A

v a(i) J

стремится к точкам множества В .

Исследуя асимптотическую непрерывную детерминированную модель (4), покажем, что множество В* состоит из одной единственной точки

B* —

Ъ

( и \ ^ (

К n)_

a

b0

Дальнейший ход доказательства функции (7) теоремы аналогичен доказательству теоремы, приведенному в [3]:

J'(u) —

t *

u Hi u

uTH' , ,.u

где

u —

ub_, u.

-„„++d+1

е Rm ++d+1,

H* — lim E

-yi

rnk V '

W

-nd V '

-y

1 I -nk I -ndy '

H

(-n,

+d+1)

f 1 J ( )Г ]

K° )2

€ H

[()2 K° )2 J

Результаты моделирования рекуррентного алгоритма идентификации параметров многомерной ЛДС разного порядка

На основе разработанного алгоритма (3) с использованием предыдущих программных продуктов для рекуррентного оценивания со стационарными белошумными помехами [5, 6] разработан программный продукт на случай нестационарных автокоррелированных помех [7], который создан посредством пакета моделирования Ма1;ЬаЬ 7.0.

Для подтверждения эффективности оценивания разработанного стохастически градиентного алгоритма (3) реализован рекуррентный МНК. В модельном примере многомерная ЛДС разного порядка имеет вид

^ = 1,2^ -0,7-0,3г(-> +1,2^ + 7 + +0,6х(-1 - 0,3х(-2 - 0,4х(-3 + х(2) + 0,4Х—1, г(2) = 0,5г(-1 - 0,7г(-2 - 0,7+ х(1) + 0,6х(-{ + 0,2 х-3 + х(2) + 0,4 х(-1,

$) = ) + % ^О,

М7(}) = х(}) + =С/)(/) На у -й вход многомерной ЛДС разного порядка подавался сигнал вида

х( 1) - 0,5х(-у'3 = с(у) - 0,5С (--2 + 0,3С (--3 + 0,2С(:-4,

где у) - стационарный белый шум.

Помехи наблюдений во входных сигналах ЛДС описываются следующими уравнениями:

^}(/) = -0,5-1)-0,3-2) + .

с дисперсией вида

a2(z) = 0,02 + 0,7-о?(7 -1) + 0,2-^О' -1).

Помехи в выходных сигналах многомерной ЛДС:

--(к =2

с дисперсией вида

^ )(7) = -0,5 - ^2(7' -1) - 0,3 - ^2(7' - 2) + е

ст2(7) = 0,08 + 0,7 • СТ2(7 -1) + 0,2 • =2(7 -1).

Начальные значения параметров линейной динамической системы полагались равными нулю. Отношение полезного сигнала к помехе на выходе и выходе многомерной ЛДС составляло 0,5. На рис. 1, 2 представлены графики относительных погрешностей оценок параметров для первого и второго выходов линейной динамической системы, определяемые по соотношению

807 (n) = ,

i b(n) ^ [ b)(n) 1 2/ b>(n) 1

[ ai (n) у Ia0(n)J / a0(n) J

-100%.

Заключение

Анализируя полученные графические характеристики (рис. 1, 2), доказали, что предложенный алгоритм (3) моделирования многомерных по входу и выходу ЛДС разного порядка при наличии автокоррелированных помех наблюдений во входных и выходных сигналах эффективен и дает возмож-

ность получения наиболее точных оценок параметров системы в сравнении с классическим методом наименьших квадратов рекуррентной формы.

Рис. 1. Графики относительных погрешностей определения параметров для первого выхода линейной динамической системы: 1 - рекуррентный МНК; 2 - градиентный алгоритм (3) определения оценок параметров

Рис. 2. Графики относительных погрешностей определения параметров для второго выхода линейной динамической системы: 1 - рекуррентный МНК;

2 - градиентный алгоритм (3) определения оценок параметров

Список литературы

1. Сандлер И. Л. Рекуррентное оценивание параметров авторегрессии многомерных по входу и выходу разного порядка линейных динамических систем с помехой в выходных сигналах методом стохастической аппроксимации / И. Л. Сандлер // Системы управления и информационные технологии. - 2012. -№ 1 (47). - С. 31-35.

2. Сандлер, И. Л. Рекуррентная идентификация параметров многомерных по входу и выходу разного порядка линейных динамических систем с помехами

в выходных сигналах / И. Л. Сандлер // Вестник транспорта Поволжья. - 2012. -№ 2 (32). - С. 68-74.

3. Кацюба, О. А. Рекуррентное оценивание параметров многомерных по входу и выходу разного порядка линейных динамических систем с помехами во входных и выходных сигналах методом стохастической аппроксимации / О. А. Кацюба, И. Л. Сандлер // Системы управления и информационные технологии. - 2012. -№ 1 (47). - . С. 31-34.

4. Chen, H. F. Stochastic Approximation and Its Applications / H. F. Chen. - Dordrecht : Kluwer, 2002. - 357 p.

5. Свидетельство о государственной регистрации программы для ЭВМ № 2012615960. Рекуррентное оценивание параметров многомерных по входу и выходу разного порядка линейных динамических систем с помехами во входных и выходных сигналах / Сандлер И. Л. - 29.06.2012.

6. Свидетельство о государственной регистрации программы для ЭВМ № 2013619621. Рекуррентный алгоритм оценивания параметров многомерных линейных динамических систем разного порядка со стационарными белошумны-ми помехами / Сандлер И. Л. - 11.10.2013.

7. Свидетельство о государственной регистрации программы для ЭВМ № 2013611203. Рекуррентное оценивание параметров многомерных по входу и выходу разного порядка линейных динамических систем с автокоррелированными помехами во входных и выходных сигналах / Сандлер И. Л. - 09.01.2013.

References

1. Sandler I. L. S7stemy upravlemya 7 7nformats7onnye tekhnologu [Control systems and information technologies]. 2012, no. 1 (47), pp. 31-35.

2. Sandler I. L. Vestmk transporta Povolzh'ya [Bulletin of Volga region transport]. 2012, no. 2 (32), pp. 68-74.

3. Katsyuba O. A., Sandler I. L. Slstemy upravlen7ya 7 7nformats7onnye tekhnologu [Control systems and information tehcnologies]. 2012, no. 1 (47), pp. 31-34.

4. Chen H. F. Stochastic Approxmation and Its AppUcations. Dordrecht: Kluwer, 2002, 357 p.

5. Computer software state registration certificate № 2012615960. Recurrent estimation of parameters being multidimensional in terms of input and output of various orders of a linear dyamic system with noises in input and output signals. Sandler I. L. 29.06.2012.

6. Computer software state registration certificate № 2013619621. A recurrent estimation algorithm for parameters of multidimensional linear dynamic systems of various orders with stationary white noises. Sandler I. L. 11.10.2013.

7. Computer software state registration certificate № 203611203. Recurrent estimation of parameters being multidimensional in terms of input and output of various orders of a linear dyamic system with autocorrelated interferences in input and output signals. Sandler I. L. 09.01.2013.

Сандлер Илья Львович

аспирант, Самарский государственный университет путей сообщения

E-mail: viruskvam@bk.ru

Sandler Il'ya L'vovich Postgraduate student, Samara State Transport University

УДК 519.254 Сандлер, И. Л.

Рекуррентное оценивание параметров многомерных по входу и выходу разного порядка линейных динамических систем при наличии автокоррелированных помех во входных и выходных сигналах /

И. Л. Сандлер // Известия высших учебных заведений. Поволжский регион. Физико-математические науки. - 2016. - № 4 (40). - С. 14-27. Б01 10.21685/2072-3040-2016-4-2