Оценивание параметров линейных ARX-систем дробного порядка с помехой наблюдения во входном сигнале

ВЕСТНИК ТОМСКОГО ГОСУДАРСТВЕННОГО УНИВЕРСИТЕТА

2014

Управление, вычислительная техника и информатика № 2

УДК 519.254.1

Д.В. Иванов

ОЦЕНИВАНИЕ ПАРАМЕТРОВ ЛИНЕЙНЫХ ЛЯХ-СИСТЕМ ДРОБНОГО ПОРЯДКА С ПОМЕХОЙ НАБЛЮДЕНИЯ ВО ВХОДНОМ СИГНАЛЕ

Предложен критерий для оценивания параметров линейных АКХ-систем с помехой наблюдения во входном сигнале. Доказана сильная состоятельность получаемых оценок параметров при помехах класса мартингал-разность. Для получения сильно состоятельных оценок не требуется знания законов распределения помех.

Ключевые слова: помеха наблюдения; разность дробного порядка; метод наименьших квадратов.

В последнее время модели на основе дифференциальных и разностных уравнений дробного порядка находят применение во многих приложениях: теория вязкоупругости, теория хаоса, фракталы, для описания диэлектрических материалов, электрохимических процессов, траффика в компьютерных сетях.

Модели ошибки уравнения (АИХ-модели) [1] - наиболее распространенный вид моделей параметризации шума. Идентификация моделей ошибки уравнения сводится к классической задаче регрессионного анализа и может быть решена методом наименьших квадратов. Однако во многих практических задачах помеха содержится также и во входном сигнале, в этом случае классический метод наименьших квадратов не позволяет получать состоятельные оценки.

В настоящее время активно развиваются методы нелинейного оценивания параметров динамических систем [2, 3]. Для динамических систем дробного порядка с различными моделями шума разработаны методы для оценивания параметров [4-8].

В статье [9] предложен рекуррентный алгоритм оценивания параметров билинейных АИХ систем с помехой во входном сигнале на основе стохастической аппроксимации.

В данной статье разработан критерий для оценивания параметров линейных АИХ дробного порядка с помехой во входном сигнале и доказана сильная состоятельность получаемых оценок.

Рассмотрим линейную АИХ-систему дробного порядка, описываемую следующими стохастическими уравнениями с дискретным временем 1 =... —1,0,1,... :

2 — наблюдаемая выходная переменная; х1 , — ненаблюдаемая и наблюдаемая переменная вход-

ные переменные; й, 1 - помеха наблюдения во входных сигналах; £,г- - ошибка в уравнении. Предположим, что выполняются следующие условия:

1. Постановка задачи

т=1

т=1

где

1. Множество В, которому априорно принадлежат истинные значения параметров устойчивой динамической системы, является компактом.

2. Случайные процессы { 1}, { 1 | являются мартингал-разностями и удовлетворяют следующим

условиям: Е(е, 1+1 /Е^)) = 0, Е(( 1+1 /7((г)) = 0 п.н., Е(е,2+1 /Е^)< да, Е((2+1 /е())< да п.н. Е4)< да,

7(

С

С п.п., +^ .£ ^ +1 / ^ (

Е2)< да , Е((4)< да, Е((2 )< да, где Е(г), 7((г) — с — алгебры, индуцированные семействами непрерывных случайных величин {(?), ^(^), t е Тг }, } = (1; 1 < 1,1 ё2 с — множество целых чисел}.

3. Входной сигнал хг является случайным процессом с Е (хг) = 0 , Е(х2) = с2х <да, и истинные значения параметров Ъ0), а 0 удовлетворяют условию

^ N Е ^(ф2°)Т |(фХг) )Т ] ((ф2г) )Т |(фХг) )Т ) =н п.н.,

где

ф 2г) =

( г ^

Е (—1)7

7=0

Р1

7

г—7—1 ’

.Е (—1)7

7=0

'г—7—1

ф Хг) =

Е (—1)7

7=0

—, Е (—1)7

7=0

(Р ^ Г1 7

причем Н существует, ограничена и положительно определена.

4. (хг } статистически не зависит от г }, {г }.

Требуется определять оценки неизвестных коэффициентов динамической системы, описываемой уравнением (1), по наблюдаемым последовательностям 2, при известных порядках г, гь ат, Р т .

2. Критерий для оценивания параметров

Система может быть записана как линейная регрессия

у, = фГ 0 0 +В г ,

где

ф, =

ф * = т*

Е (—1)7

7=0

ч 7 )

*г—у , -, Е

7=0

г1 7

*

1—7

V- ч - х - V ^ / )

Ъ0 =(Ъ01), -, Ъ0Г))Т , а0 =аф),~., а0Г‘))Т , В = ? —"Е аТ ф(,) ( .

ф (г) =

Е (—1)7

7 =0

Сг —7 , —, Е (—1)"

7=0

(Р V ^

Г] с • •

1 Ъ г—7 V 7 ) )

Т

0 0 =ф0Т \аТ )Т,

Вг = £г — Еа0 фC), к=1

Лемма 1. Пусть выполняются условия 1-3, тогда математическое ожидание вг равно нулю Е (В г ) = 0.

Доказательство. Из предположения, что г}, {г } - мартингал-разности, следует, что Е (^ г) = 0, Е((г ) = 0 , тогда, используя предположение 3, можно показать

т) '

)

т=1 7=0

Е(в,) = Ефг — аТф(г))= Е&) — Еа0т) Е(—1)7|^Рт 1Е((—}.)= 0.

Т

Т

Т

Т

Лемма 2. Пусть выполняются условия 1-3, тогда средняя дисперсия обобщенной ошибки равна

—2 —2 , Т ]

сЕ = с^ + а0И ; а0 =ю(а0),

где

2 1 Ы 2 1

с2 = Ііт — І2 2, И; = Ііт — Е

N™да N і=0

І <

і=1

н;

н;

И'

( ) 1 N-1

н;(тп) = Ііт — Е І ^ N “0

і=0

і-і

V у =0

V /у

1 N-1N-1 Гр ^Го Л

= 1ІШ — І І

N™да N і=0 і=

т

і

с2 (і - і), т = 1, г , п = 1, г .

Доказательство. По определению средней дисперсии

1 N

СВ2 = N1™ N ЕЕ (в г — Е (в г ))2,

N1да N г=1

так как согласно Лемме 1 Е(в г) = 0, то

1 N 1 N 2

с = Ц™ 77 Е Е

1 ’ 1=1 -* ’ і=1

= N1^NЕЕ (^2 + а°ф(') (ф(') )Т а0 — 2^ а1 ф(')).

Используя лемму 1.1 [10] для случайного процесса ^ г, а также условия 3, 4 получаем, что

Ышда N Е Е (^2+а° фСг) (фСг) )Та°):

Применяя лемму 2 [11] для случайных процессов, получаем

11ш -1 ЕЕ (— 2^га0 ф(г) )= 0.

= с2 + аІИ'а0.

N™да N г=1

Гр ^ г т оо в(к) гт

Так как ряд из коэффициентов сходится абсолютно [12. С. 279]: І < да

V  У і=0 і

< да, применяя

теорему Мертенса [13. С. 328], можно показать, что ряд сходится:

1 N-1 і Гр ^Гп Л

Ііт — І І

N ™да N і=0 і=0

р п

V і У

С2 (і - і) < да.

Тогда определим оценку 0(Ы) неизвестных параметров 0 из условия минимума суммы взвешенных квадратов обобщённых ошибок (вг (а, г))2 с весом ю(а), т.е.

\2

• иы

• = Ш1п——---------------------------------------------,

9єВ

і=1 с| + а1 И; а га

где

Н % =

И(г1 .. И%

И^ . И(г1 .. И%

1

N-1

N—да N I=о

= Пт — X Е

N-да N 3=0 1=3

1 )

Е (-1)3 % - 3 • Е (-1)3 % 31 - 3

V 3=0 V 3 У 3=0 V 3 У У

'т

3

%2_ 3, т = 1, гь и = 1, г1.

V •>

N

Так как согласно лемме 1.1 [10] Пт — Е%2 = ст?, то, применяя теорему Мертенса [13. С. 328],

N -» N1=го ц

можно показать

И

< да.

Теорема. Пусть некоторый случайный процесс {у,, 1 =... - 1,0,1,...} описывается уравнением (1) с начальными нулевыми условиями и выполняются предположения 1-4. Тогда оценка 0(Ж), определяемая выражением (3) с вероятностью 1 при N — да , существует единственная и является сильно состоятельной, т. е.

0( N)-

N — да 0

>00.

Доказательство. Определим

(1) „( л )\_

(Ь,а( ),...,а

N I гг т \ 2

) = N-1 Е

1=1 ' '

N-1 Е ( + (ф() ) Ь0 + (ф() ) а0 - (ф*1 ))Ь - (фX) + ф%) ) а) =

1=1 ' ’

NЕ

1=1 ' ’

^ = NЕ Г?2 + Е (а “ Т Ф? ’ (ф? ’ )>)),

=1 V к=1

NXеТ ((ф*йГ ! ( 1Г )' ((ф*'1Г ! (ф?Г

V 2 =

V 3 = .

2N 1Е (- ^ 1 (Ф(1) )Т ~ - ^ 1 (ф() )Т ~ - ^ 1 (Ф)Т а + а1 Ф1 (Фг) )Т ~ + ао Ф%) (ф() )Т 1=1 V

где Ь = Ь - Ь0, о = а - а 0,0 = 0-0 0.

Применив лемму [10] для случайных процессов, получаем, что

так как из 3

N Е ((ф(г) )Т ! (фX0 )Т ] ((ф(1) )Т ! (фX1) )Т I = Н п.н.,

то V,,

->0 ТН 0.

2 N -

Первые два слагаемых в сумме v3 в силу условий 2, 3, 4 удовлетворяют условиям леммы 2 [11]

и, следовательно,

п.н

и.н

N'

' I ., ф х))т

І = 1

N —да

->0 п.н., У0 є В.

Заметим, что

N / \Т 1 N

Iатф£} (ф2°) ~ = N N° 0°Н і=1 і=1

N-11 а 0

1 N

а0 Н Сха,

Н Гх = ііш — Е

N—да N

I ф с1

і=1

И

пСх ПСх

и

пСх ПСх

и

V ^ %

И (Г1 1) и (П2) %

И

у

таким образом, (4) можно представить в виде конечного числа слагаемых, каждое из которых в силу предположений 2-3 по лемме 2 [11] сходится к нулю.

Можно доказать, что и все остальные слагаемые в V 3 сходятся к нулю с вероятностью 1 при

N — да.

Таким образом, имеем: v3 —— Окончательно имеем

N~^иN (Ъ, а)-

->0,

N—да

— с2 + 0 тН0 + атНс а = и (Ъ, а).

Покажем, что решение задачи

шт ю_1(а)и (Ь, а), 9е В существует и достигается в единственной точке 9 = 9 0, т.е.

и ао)

шіп ю 1 (а)и (Ъ, а) = -

0єВ

ю

Для этого вместе с критерием (3) рассмотрим функцию

Vф, а, X) = и(Ъ, а) - Аю(а), V (X) = шіп V (Ъ, а, X).

0єВ

Тогда(8)равно

V (Ъ, а, X) = с.2 +

+

а

V у

Ъ0 Л т (Ъ л ( Ъ0 л

Н - Xс. - 2

а0 а0 а0

у V у V у

Н„ 1 1 1 . Нх Л (Ъ Л

\фН, )т ! н і -АН, ^ ц у а V у

Н

а

V у

1 N . / \т

где Иш N 1ф) (ф^) = Н™.

N—да N і=1

Дифференцируя Vф, а, X) по Ъ, а и приравнивая производные к нулю, находим

ъ «!Х Нл_.

= (н „У

V а(^) у

Л-1

Н - XH,

Н

(Ъ Л ^0

V а0

V 0 у

и тогда

п.н

V (А) = с.

Н

— Ас, —

V \ /у

( Н.

Н

гх

Н....— АН ;

V ао

V о J

функция V(а) на интервале (— да, А шіп +1) непрерывна, где А шіп - наименьшее собственное число регулярного пучка квадратичных форм, т.е. наименьший корень уравнения:

detl Ф т Ф — Ф т Ф (Ф1 Ф

: (ф Т Фг)—1 (Ф І Фг)Т —АН )) = о.

Легко показать, что уравнение V(а)= о имеет не более одного корня А1 на (—да, Ашіп + і), так как на этом интервале функция V (а) непрерывна и

V(а) = — (а| + (а(А))Т Н; а(А)) < —1, А є (— да, А тЬ +1).

Непосредственной подстановкой А1 = 1 в уравнение V (а)= о можно убедиться, что А1 = 1 является корнем уравнения, единственным на этом интервале. Тогда из (11) непосредственно следует справедливость (8).

Выражение (3) можно привести к виду

• —1

тіп ю (а)и Н (Ъ, а) = тщ^--------1—51-------1

ЄєВ ~ ~

еєв с, +еТН ; (N )Є

где

г = (г„..., гн)1, ф = ( ІФіТ=

Ц> Г (ф (-111

(ф г Т

(ї1 :,1|):

(о

о ; Н ;

Введём новый вектор переменных (1 ! 9)Г =0 и матрицу Ф = (— У ! ф). Имеем для (3):

(— 2 ! Г\ ^

Є т Фт ФЄ —

тіп-

еєв ет Н(N)Є

-, Н (N) =

і

о

о Н

ФтФ >о.

Аналогично (9) можно получить (для конечной выборки объёма К):

vN (а) = 2т2—Ас, —(ф тг)тН—1ф тг,

(л т^ ! ^

Н =

Фг Фі 1-

Ф І Ф г \Ф І Ф і — АН;

У

VN (а) = о

имеет свойства, аналогичные

V (а) = о.

Однако нахождение корня Ун (А) = 0 можно записать в следующей форме:

М N) = АГ

,(N )[

Ф т ФН

- минимальное характеристическое число пучка квадратичных форм,

определяемых Ф Ф и Н. Однако Н>о, поэтому рассмотрим [Ю]:

А тіп

Ф г Ф —АН

1

А тах

(ф т ф) 1

Н

Известно [14], что 1 1

N

А тах

да

[КФТ Н;\ А тах

(ііт— Ф т Ф)—1Н..

N—да N

ііт— Ф т ФІН 1

N-да N ) N

и

п.н

Так как нахождение X

уравнения V

1 — T—W

lim — ФT Ф |H

N—да N

п. н.

>А1

можно представить как определение корня

N—да Ч

Далее неизвестные параметры можно определить из решения следующих линейных уравнений:

И0 = ФТХ .

Это уравнение получается аналогично уравнению (12), тогда, очевидно, получаем

пн. Г_И?£__|___И^__ ^ х

—да >[(и2№)~Т |и_ -Ш?

Из единственности решений (11), (12) и последнего выражения следует [15], что

П.Н.

0( N) —п----->0 0.

1 - 1 T

—н е Ф^-

N N

— - H u 0 = 0

V a у a0 V у

N—да

Заключение

В работе предложен критерий для оценивания параметров линейной АЯХ-системы с помехой наблюдения во входном сигнале. Доказана сильная состоятельность получаемых оценок. Полученные результаты могут послужить основой для создания новых высокоэффективных автоматизированных систем управления технологическими процессами. Дальнейшие исследования могут быть направлены на построение алгоритмов идентификации при автокоррелированных помехах.

ЛИТЕРАТУРА

1. Льюнг Л. Идентификация систем. Теория для пользователя. М. : Наука, 1991. 432 с.

2. Кацюба О.А. Теория идентификации стохастических динамических систем в условиях неопределенности. Самара : Сам-

ГУПС, 2008. 119 с.

3. Иванов Д.В. Рекуррентное оценивание параметров динамических систем. Модели с ошибками в переменных. Saarbruck-

en : LAP LAMBERT Academic Publishing GmbH, 2011. 136 с.

4. Chetoui M., Malti R., Thomassin M., Aoun M., Najar S., Oustaloup A. and Abdelkrim M.N. EIV methods for system identification

with fractional models. Proc. 16th IFAC Symposium on System Identification (SYSID). Brussels, 2012. P. 1641-1646.

5. Иванов Д.В. Идентификация линейных динамических систем нецелого порядка с помехой в выходном сигнале // Вестник

Тамбовского университета. Сер. Естественные и технические науки. 2013. Т. 18, № 5-2. С. 2534-2536.

6. Ivanov D.V. Identification discrete fractional order linear dynamic systems with output-error // Proceedings International Siberian

Conference on Control and Communications (SIBC0N'2013). Krasnoyarsk: Siberian Federal University. Russia, Krasnoyarsk, September 12-13, 2013. IEEE Catalog Number: CFP13794-CDR.

7. Ivanov D.V. Identification discrete fractional order linear dynamic systems with errors-in-variables // Proceedings of IEEE East-

West Design & Test Symposium (EWDTS'2013). Rostov-on-Don. Russia. September 27-30, 2013. P. 374-377.

8. Иванов Д.В., Кацюба О.А. О состоятельности оценок параметров ARX-систем дробного порядка с помехой в выходном

сигнале // Стохастическая оптимизация в информатике. 2013. Т. 1, № 2. С. 21-32.

9. Иванов Д.В., Усков О.В. Рекуррентное оценивание билинейных ARX-систем с помехой наблюдения в выходном сигнале //

Вестник Томского государственного университета. Управление, вычислительная техника и информатика. 2013. № 4(25). С. 43-50.

10. Кацюба О.А., Жданов А.И. Особенности применения МНК для оценивания линейных разностных операторов в задачах идентификации объектов управления // Автоматика и телемеханика. 1979. № 8. C. 86-90.

11. Кацюба О.А., Жданов А.И. Идентификация методом наименьших квадратов параметров уравнений авторегрессии с аддитивными ошибками измерений // Автоматика и телемеханика. 1982. № 2. С. 29-38.

12. Самко С.Г., Килбас А.А., Маричев О.И. Интегралы и производные дробного порядка и некоторые их приложения. Минск : Наука и техника, 1987. 688 с.

13.Фихтенгольц Г.М. Курс дифференциального и интегрального исчисления. М. : ФИЗМАТЛИТ, 2001. Т. 2. 810 с.

14. Гантмахер Ф.Р. Теория матриц. М. : Наука, 1966. 575 с.

15. StoicaP., Soderstrom T. Bias correction in least-squares identification // Int. J. Control. 1982. V. 35, № 3. P. 449-457.

1

Иванов Дмитрий Владимирович, канд. физ.-мат. наук. E-mail: dvi85@mail.ru Самарский государственный университет путей сообщения

Поступила в редакцию 14 февраля 2014 г.

Ivanov Dmitriy V., (Samara State University of Transport, Samara, Russian Federation). Estimation of parameters of linear fractional order ARX systems with noise in input signal. Keywords: observation noise; fractional order difference; least square method.

The paper deals with the problem of parameter estimation of linear ARX systems with observation noise in the input signals, described by the equations

zi = Zb(m) A“mz!_1 + £ a0m) APmx; i, wt = x +Ci,

m=1

m=1

where xi and wi are unobservable and observable input variables; zi is the observable output variable; £, t is a noise; Q t is the

noise observation of the input signal.

We proposed the criterion for estimating the parameters of linear fractional order ARX systems, which is a generalization of the method of least squares:

• ^ (y 0)2

min -------------T~L-,

6eB i=1 + a Hqa

where

(

Ji) -

S (-1)j

j=0

zi - j-i, , S(-1) j

j=0

fp ] ^

r1 zi - j-1 j

r

Ф() =

T w

S (-1)j

j=0

fp1 ]>

V j У

I- j

• S

j=0

I- i

v J У у

00 = (’J i aJ J, b0 = (b01f •••’ b0( )f , a0 = (a01f’ • , 4^0

N

ct? = lim — 2,

^ N—w N f==n

%

N —w N

S Ф^г) f

h

h

h^1) ... r1)

h(m) = lim — E S

N —w N

i=0

S (-1)j

j=0

~-i -S

j=0

N-1 N-1 Ar Л

= lim— SS

N—w N

J =0 i=j'

Pm

j

P

j

CT?(i - j), m = 1,r , n = 1,r

It is proved that under non-restrictive conditions on the signal and noise, the proposed algorithm provides strongly consistent estimates. Note that there does not require knowledge of the laws of distribution of noise to obtain the strongly consistent estimates. The results can be used to create new highly automated systems of control by technological processes.

REFERENCES

T

1. Ljung L. Identifikatsiya sistem. Teoriya dlyapol'zovatelya [System identification. Theory for the user]. Translated form English by

A.S Mandel', A.V Nazin. Moscow: Nauka Publ., 1991. 432 p.

2. Katsyuba O.A. Teoriya identifikatsii stokhasticheskikh dinamicheskikh sistem v usloviyakh neopredelennosti [Identification theory

of stochastic dynamical systems under uncertainty]. Samara: SSUT Publ., 2008. 119 p.

3. Ivanov D.V. Rekurrentnoe otsenivanie parametrov dinamicheskikh sistem. Modeli s oshibkami v peremennykh [Recursive parame-

ter estimation of dynamic systems. Model with errors in variables]. Saarbrucken: LAP LAMBERT Academic Publishing GmbH, 2011. 136 p.

4. Chetoui M., Malti R., Thomassin M., Aoun M., Najar S., Oustaloup A., Abdelkrim M.N. EIV methods for system identification

with fractional models. 16th IFAC Symposium on System Identification (SYSID). Brussels, 2012, pp. 1641-1646.

5. Ivanov D.V. Identifikatsiya lineynykh dinamicheskikh sistem netselogo poryadka s pomekhoy v vykhodnom signale [Identifica-

tion of linear dynamic systems with non-integer order with noise in the output signal]. Vestnik Tambovskogo universiteta. Ser.

Estestvennye i tekhnicheskie nauki - Tambov University reports. Series: Natural and Technical sciences, 2013, vol. 18, no. 5-2, pp. 2534-2536.

6. Ivanov D.V. Identification discrete fractional order linear dynamic systems with output-error. Proceedings International Siberian

Conference on Control and Communications (SIBCON'2013). Krasnoyarsk: Siberian Federal University Publ. IEEE Catalog Number: CFP13794-CDR.

7. Ivanov D.V. Identification discrete fractional order linear dynamic systems with errors-in-variables. Proceedings of IEEE East-

West Design & Test Symposium (EWDTS'2013), Rostov-on-Don, Russia, September 27-30. P. 374-377. (2013).

8. Ivanov D.V, Katsyuba O.A. On the consistency of the parameter estimates ARX-fractional order systems with noise in the output

signal. Stokhasticheskaya optimizatsiya v informatike - Stochastic Optimization in Informatics, 2013, vol.1, no. 2, pp. 21-32. (In Russian).

9. Ivanov D.V., Uskov O.V. Recursive estimation of bilinear ARX systems with input-error. Vestnik Tomskogo gosudarstvennogo

universiteta. Upravlenie, vychislitel'naya tekhnika i informatika - Tomsk State University Journal of Control and Computer Science, 2013, no. 4(25), pp. 43-50. (In Russian).

10. Katsyuba O.A., Zhdanov A.I. Osobennosti primeneniya MNK dlya otsenivaniya lineynykh raznostnykh operatorov v zadachakh identifikatsii ob"ektov upravleniya [Features of the application for the OLS estimation of linear difference operators in problems of identification of control objects]. Avtomatika i telemekhanika - Automation and Remote Control, 1980, vol. 40, no. 8, pp. 8690.

11. Katsyuba O.A., Zhdanov A.I. Identifikatsiya metodom naimen'shikh kvadratov parametrov uravneniy avtoregressii s additivnymi oshibkami izmereniy [Identification of the parameters of autoregression equations by the method of least squares in the case of additive measurement errors]. Avtomatika i telemekhanika - Automation and Remote Control, 1982, vol. 43, no.2, pp. 158-166.

12. Samko S.G., Kilbas A.A., Marichev O.I. Integraly i proizvodnye drobnogo poryadka i nekotorye ikh prilozheniya [Fractional Integrals and Derivatives. Theory and Applications]. Minsk: Nauka i tekhnika, 1987. 688 p.

13. Fikhtengol'ts G.M. Kurs differentsial'nogo i integral'nogo ischisleniya [Course of Differential and Integral Calculus]. Moscow: FIZMATLIT Publ., 2001. Vol. 2, 810 p.

14. Gantmacher F.R. Teoriya matrits [The Theory of matrices]. Moscow: Nauka Publ., 2000. 575 p.

15. Stoica P., Soderstrom T. Bias correction in least - squares identification. Int. J. Control, 1982, vol. 35, no. 3, pp. 449-457. DOI: 10.1080/00207178208922631