О последовательном оценивании периодического сигнала на фоне авторегрессионного шума

2015 Математика и механика № 2

УДК 519.216.3

Б01 10.17223/19988621/34/2

Т.В. Емельянова, В.В. Конев

О ПОСЛЕДОВАТЕЛЬНОМ ОЦЕНИВАНИИ ПЕРИОДИЧЕСКОГО СИГНАЛА НА ФОНЕ АВТОРЕГРЕССИОННОГО ШУМА

Рассматривается задача оценивания коэффициентов тригонометрического сигнала с дискретным временем по наблюдениям с аддитивным шумом, описываемым стационарным процессом авторегрессии с неизвестными параметрами и распределением. Предлагается одноэтапная последовательная процедура, позволяющая оценить среднеквадратическую точность оценок при любых значениях мешающих параметров шума. Получена асимптотическая формула для средней длительности процедуры.

Ключевые слова: последовательное оценивание, заданная среднеквадрати-ческая точность, тригонометрическая регрессия, момент остановки, авторегрессионный шум.

В последние годы разработаны различные эффективные методы оценивания параметров сигналов с дискретным и непрерывным временем на фоне аддитивных помех при различных уровнях априорной информации относительно типа сигналов и вида помех [1-3].

В случае дискретного времени проблема выделения сигналов наиболее полно изучена для случая помех, являющихся последовательностью независимых случайных величин. Менее изучена проблема оценивания параметров сигналов при шумах с неизвестными спектральными свойствами. Наличие дополнительных неизвестных (мешающих) параметров шума существенно усложняет задачу вычисления точности оценок параметров сигнала (см., например, [4]). В работе [5] построена последовательная процедура оценивания периодического сигнала на фоне авторегрессионных помех с неизвестными параметрами, обладающая хорошими асимптотическими свойствами и гарантирующая оценивание параметров сигнала с любой заданной среднеквадратической точностью. Эта процедура, однако, может оказаться достаточно сложной для практической реализации в случае многих неизвестных параметров, поскольку она требует построения системы из случайного числа оценок методом наименьших квадратов (МНК), путем сглаживания которых находится последовательная оценка.

В данной работе предлагается одноэтапная последовательная процедура оценивания параметров периодического сигнала при авторегрессионном шуме с неизвестными параметрами, которая дает возможность контролировать среднеквад-ратическую точность оценок.

Постановка задачи. Построение последовательной процедуры

Рассмотрим задачу оценивания параметров ц2, ру1, ру2, у = 1,...,г, тригонометрического сигнала

г

= +

У=1

по наблюдениям хп = Бп + 'п,

где 'п - шум, являющийся устойчивым процессом авторегрессии р -го порядка:

^n -^n-1 + ••• + Х p^n- p + Sn •

Здесь {еп} - последовательность независимых одинаково распределенных случайных величин, Еъп = 0, Еъ^ = ст2; Х1,..., X - неизвестные параметры, такие, что все корни характеристического полинома Р(2) = 2Р -... -Xр лежат внутри

единичного круга комплексной плоскости. Относительно известных параметров юУ предположим, что 0 <ю< п, юг Ф при г Ф ].

Известно, [1, с. 113] что тригонометрическим полиномом (1) может быть описан любой периодический сигнал с целочисленным периодом Т, при этом

r -

T -1

2nj

ra j > [а] обозначает целую часть числа a .

С учетом (1) и (3), наблюдаемый процесс (2) удовлетворяет уравнению

г р

Хп = т1 +

У =1 ¿=1

Здесь т1, т2, у ^ и Хк - неизвестные параметры, связанные с параметрами сигнала равенствами

(

ni

Л

1 -Exi

V 1-1 J

(

Ь

1 -I

V 1-1

Л

Г р ) р

Yji -P;i 1 -EXi COSЮjl + Pj2I^i sinЮjj,

V i-1 J i-1

Л

Y j 2 --P л 1 -EXi sin jl V i-1

г p

+ Pj2 1 -IXi COSЮji V i-1

Используя обозначения

Yn -

Ф

n

Г x„ ^

xn -

V Xn - p+1 J

Ф n -

Ф1

4Ф2r +2 (n) J

Ф1(п) - 1, ф2(п) - (-1)n, ф^ (n) - cos rak-2n при 3 < k < r + 2. Фк(n) - sinrak-r-2 при r + 3 <k < 2r + 2, запишем это уравнение в векторной форме:

Xn -а'Yn +en, n > p + 1, где Yn -

Ф

и

X,

n—1

аеА,

где а = (т 1,т2,у11,у12,...,уг1,уг2)' - вектор оцениваемых параметров; Л - множество всех допустимых значений вектора, учитывающее требования на параметры Х1,...,Хр в (3), штрих обозначает транспонирование.

Оценка по МНК вектора параметров а по наблюдениям процесса (7) имеет

вид

a(n) = M-1 £ Ykxk

k=1

где Мп = £ УкУк - выборочная информационная матрица Фишера размера

к=1

I х I, I = 2г + 2 + р . Будем предполагать, что минимальное собственное значение Х1 (Мп) матрицы М удовлетворяет с вероятностью единица условию Х1 (Мп) ^ го при п ^го .

Как следует из (7), обратная матрица М-1 в (8) является случайной. Это создает трудности при анализе среднеквадратической точности оценки вектора параметров а . Чтобы обойти эти трудности, предлагается использовать последовательную оценку МНК со специальным правилом прекращения наблюдений. Выбор такого правила можно осуществить, используя оценку уклонения оценки МНК в модели типа (7), полученную в [6]. Для процесса (7) эта оценка имеет вид

n

||a(n)-a||2 <|Iм-21KlI2 , где mn = £Yk&k .

k=1

I

Поскольку в силу условия на матрицу М множитель 21| = £ X(Мп) в

1=1

правой части (9) монотонно стремится к нулю с ростом объема выборки п, это можно использовать для выбора момента остановки т(к) последовательной процедуры.

Для любого положительного к

x = x(h) = infIn>1:|м-2||2 <h 1.

Последовательную оценку МНК а (к) параметра а определим равенством

т

а* (к) = М-к) £ РА*к ,

к=р+1

где

M-(h) = £) ßkYkYk, ßk =(1,(еС)ЛИ/:<

k=p+i k k lv(h), если k = т

= T(h),

а корректирующий множитель v(k), находится из равенства

л-2

£ YkYk +v

V k=1 /

В силу монотонности последовательности матриц (Mn) имеем 0 < v(h) < 1.

Теоретические свойства последовательной процедуры

При изучении свойств последовательного плана (10), (11) в зависимости от выбора порога h будем предполагать, что вектор неизвестных параметров а в уравнении (7) принадлежит некоторому известному компакту K из параметрического множества Л.

Результаты анализа последовательного плана (10), (11), относящиеся к средней длительности последовательной процедуры и качеству последовательных оценок неизвестных параметров, сформулируем в виде теорем.

Теорема 1. Пусть (еи)п> - последовательность н.о.р. случайных величин,

Een = 0, Ee.2n = а2, Ee8n < да, Л - множество допустимых значений вектора параметров а . Тогда для любого компакта K с Л

lim sup

EaTh)-I f -и a h 11 11

= 0.

где предельная матрица F определена в (15).

Теорема 2. Для любого компактного множества K с Л среднеквадратическая точность последовательной оценки удовлетворяет неравенству

suP Еа

aeK

a*(h)-all2 )< (1 + o(1)), h

где bK = supф

aeK

определена в (43).

Доказательства теорем 1, 2 приводятся в Приложении.

Замечание 1. Теорема 2 позволяет контролировать среднеквадратическую точность последовательной оценки с помощью выбора порога h , с учетом того, что величина bK может быть вычислена априори. При этом средняя длительность

процедуры, согласно теореме 1, растет линейно с ростом h. Замечание 2. В простейшем случае при оценивании сигнала

Sn =9cos n

по наблюдениям xn = Sn + ,

где §n - шум, являющийся устойчивым процессом авторегрессии первого порядка,

^n =^n-1 +Sn ,

предельная матрица F, определенная в (15), будет иметь вид

F =

0 1 0 0

0 0 0 1

0 0

0

2

0 I

0 0-0

1 -X2

Зададим компакт K равенством

K = {(6, X), 0.2 < 0 < 0.7, - 0.6 < X < 0.6}.

1

В этом случае bK = sup Q(a)-ll F ~2||2 = 61.964.

Заключение

В работе построена последовательная процедура оценивания параметров тригонометрического сигнала, наблюдаемого на фоне авторегрессионного шума. Используется специальное правило прекращения наблюдений, определяемое по выборочной информационной матрице Фишера, которое позволяет контролировать заданную среднеквадратическую точность оценок неизвестных параметров.

Результаты работы могут быть использованы в задачах автоматического управления и идентификации.

ПРИЛОЖЕНИЕ

1. Доказательство теоремы 1.

Доказательство теоремы 1 основывается на предельных свойствах выборочной информационной матрицы Фишера MN, построенной по N наблюдениям процесса (7). В работе [5] установлено, что последовательность векторов (Уп}, определенная в (7) при ХеЛ, с вероятностью единица удовлетворяет предельному соотношению

lim

NN

1 N

1 У Y Y = F

ЛГ ¿—1 " » '

n=p+1

где F - положительно определенная матрица, имеющая вид

F=

M0 Ы\

M1

F0 + DM0 D

в которой M0 = diag I 1,1;

1

п =

Г1 0 0 (-1)k

0

Vx(k) V2(k ) -V2(k) Vj(k) ,

причем Vj(k) = diag (cos rajk ,...,cos ark), V2(k) = diag (sin rajk,

,sin rork),

A =

p-1

(

Г =

m1 m2 Y11 Y12 ... Y r1 Y r 2 0 ... ... ... ... ... 0 0 ... ... ... ... ... 0

Л

1N

D = У AkrV(k), Mj = M0V (1)D , F0 = lim- У ZnZn п.н.

k >0

n^w N

n=p+1

С„ = А „-1 +п„, С, = 0, Пп =(Е п ,0,...,0)'.

Заметим, что матрица Мп, удовлетворяющая (14), обладает требуемым свойством

Х шт (Мп при п

K

Кроме свойства (14) нам требуется оценить скорость сходимости матрицы к предельному значению Е.

N

Лемма 1. Пусть (en )и>1 в (3) последовательность н.о.р. случайных величин с

Een = 0, Ee-l = ст2, Ef?n < да . Тогда

sup Ea

aeK

MN

N

— F

N

2 '

Доказательство леммы 1 достаточно громоздко и приводится после доказательства теоремы 1.

Используя лемму 1 и схему доказательства теоремы 3.1 из [6], можно показать,

Г 77 T

что lim sup Ea-< +да .

й^+ш aeK h

Далее имеем оценку

e^-I If-2 Ik

Ea

f Mw Л

T

- F~2\ 2

4

<A + Ea

x(h). h

-x

M.

T

T

- F

> П

1 f +1 \f ~2ii2 p0

m.

T

T

- F

> П

Здесь Д - некоторая положительная постоянная.

Для анализа асимптотического поведения правой части этого неравенства будет использоваться следующий результат из работы [6].

Лемма 2. Пусть выполнены условия леммы 1. Тогда для любого компакта К с Л и произвольного п верно неравенство

lim sup Pe

й^да6еК

M

T

T

- F

> П I = 0.

Используя эту оценку, можно показать, что аналогичное предельное соотношение выполняется и для второго слагаемого в правой части (19). Теорема 1 доказана.

2. Доказательство леммы 1. Учитывая (7), запишем процесс (5) в векторной форме

Хп = ЛХп_х +ГФ„ +п„, п > р +1,

где А , Г и пп определены в (17).

I р-1 - единичная матрица порядка р -1.

Отсюда

хп = An-pXp +Zn + Wn, п > p,

n - p-1

где Zn = AZn-1 + П , Zp = 0, Wn = X ГФ

n - j •

j=o

Тогда выборочная информационная матрица Фишера будет иметь вид

( 1 N

мк

N N

1 N

- У у у =

лг /-Г И И

п=р+1

1 N 1 N л

— уф ф ' — уф х ' 1

N п п N п п-1

^ п=р+1 " п= р+1

1 N ,1 N N У Хп-1Фп N У Хп-1 хп-1

V ^ п=р+1 ^ п= р +1

Отсюда, выделив компакт К из параметрической области Л с помощью элементарного неравенства, получаем

вир Еа

аеК

МА

N

N

--F

< 43 ( ||Аы |Г + вир Еа |\БЫ |Г + 2 вир Еа \\СЫ 114

аеК

аеК

где

п= р+1

1 N 1 N

AN = N У ФпФ'п -Мо, Б^ = - У Хп-1 Хп-1 -(о + ^МоД'),

^ п= р + 1 ^ п= р + 1

1 N

см = — У хп 1ф п - м1.

N дг / / п-1 п 1

N

п= р+1

Покажем, что для Аы , Б^ и Сы выполняются неравенства

1К1Г <

где Ц, I = 1,2,3, - некоторые положительные постоянные.

Неравенство (26) можно легко проверить, учитывая периодичность компонент вектора Ф в (7) и определение М0 в (11).

Подставляя Хы в Сы, с помощью элементарного неравенства получим

А

N 4

Г < ¿2

1 N 2

г < ¿3

1 N 2

вир Еа \\См IГ < 43 вир ((а^ + ЕаНЫ + ЕаЯм ) =

аеК

ае К

где

^ =

1 N-1

1 У а™-рХ Ф' ,

М^ Л р^т+1

N

^ =

1 N -1

— Ус ф' ,

д т / . ^т т+1 т= р

Qм =

1 N -1

N У ^т Ф'т+1 - М1

т=р

м1 = М0К '(1) Д'.

4

4

4

4

ад ад

Учитывая оценку X ||Ат|| < X Сдт, 0 < д < 1, и ограниченность нормы вектора

Ф т+1, имеем

С 4 N-1 4 С N-1 т

аеК N

N 4

N

Меняя порядок суммирования и используя неравенство Бургхольдера для р = 4. для математического ожидания HN получим

вир Еа нN = Еа

аеК

1 N - р-2 N - р-1

Т7 X А X П,+р-; ф

]=0 1=]+1

1+р+1

С(2г + 2)Б44 < С1

(1 - д) N 2 N 2

<^т.

Записав Wn в виде

Wn = БФ п + Д п,

п п п -

где Б = Х Ак ГУ (к), Дп =- X Ак ГУ (к )Фп , и учитывая, что Фт = V (1) -Ф и+1,

к>0 к>п-р

оценим QN:

^N < с

1 N-1 1 N-1

-БУ(1) X Фт+1 Ф'т+1 -М + - X ДтФ.

N

т=р

N

т=р

< С

( 1 N

БУ

1 "

- X Фт Фт - М0

V N т=р+1

4 4 X Ак ГУ (к) 4 1 N-1 — X Ф Ф' N т т т т=р 44

М 0 +

/ к >т /

С1 N 4

Подставляя (30), (31), (33) в (29), приходим к (28). Учитывая (22), для , получим следующее неравенство:

где

вир Еа|Б^Г < сX вир ЕаI (N),

аеК ¿=1 аеК

М N) =

1 N ,

1 X Ап-р-1 ХрХр

N

п=р+1

12 (N) = 2

1 N

Т7 XZnWn

п=р

13( N) = 2

1 N ,

1 XCnXp

N

п=р

14 (N) = 2

1 N

- X Ап - рХШ

N ^ р

п= р

15( N) =

1 ™

- X WnWn - БМ 0 Б

Л п = р+1

1б( N) =

1 N , N XZпСп -

п=р

4

4

4

4

4

4

4

Оценим слагаемые правой части этого неравенства. Первое слагаемое допускает оценку

г о n с E X

с „ IU, l|S ^ 8N ^ p II

sup Ea I,( N) <— Ea\\Xp\\ У q8N <

aeK N n= p+1 N

Записав Z n в виде

n-p-1

Zn = У A nn-m,

m=0

изменив порядок суммирования, с помощью неравенств Коши и Бургхольдера [7] для второго слагаемого получим неравенство

с N-p о с

sup Ea 12 (N) < с Л3 У qmB4 (N - p)2 < Ck-

aeK N4(1 - q)3 m=0 N2

Используя аналогичные рассуждения, для I3 (N) имеем оценку

с? Ea \X p sup Ea I3( N) < 2 a 2 .

aeK N

Поскольку норма вектора Wn ограничена, четвертое слагаемое удовлетворяет неравенству

CEa X Л

sup Ea 14 (N) < "" 4 p"

aeK N

Учитывая (22) и (32), для I5 получаем

I5 (N) < с

Г N

—D

N

ХФ ф' - M„

n n 0

V n= p

D

+ 2

~Am Ф/iD

N m

N

< —j.

N 4

Как показано в [6], скорость сходимости последнего слагаемого 16( N) в (34) допускает оценку

sup Ea16( N) = sup Ea

aeK aeK

1 N ' N XZ nZ n - F0

L

N2

где Ь - некоторая положительная постоянная, F0 определено в (17).

Используя оценки (35), (37) - (41) в (31), получаем утверждение леммы 1. 3. Доказательство теоремы 2. Оценка а* (И), определенная в (12), удовлетворяет для любого И > 0 неравенству

тг II VIA II2 < EatrM*(h) Ea a (h) -a <-

a 11 11 h2

Для проверки этого неравенства достаточно применить оценку (9) для уклонения оценки а* (И) и заменить п на момент остановки т(И), определенный в (10).

8

4

4

Далее нам потребуется следующее утверждение.

Лемма 3. Пусть (еп )п>1 - н.о.р. случайные величины, Ееп = 0, Ег2п = ст2 < +ад . Тогда для любого Н > 0

Еа 1гМт < 0(а)ЕаТ + ^ТЕаГ + и ,

где

0(а) = 1г^ + 2г + 2 + (2г + 2)2 Б\\2 + ,

1-д 1-д

Доказательство. Поскольку

N N

1ГMN = 1Г X (ФпФ'п )+ * X Хп-1 Хп--,

Н=р+1 Н= р+1

то учитывая (22), получим

6

ггMN < (N - р - 1)(2г + 2) + X 1к, где

к=1

N N

11 = 1г X Ап-р-1 ХрХ'р(Ап-р-1)', 12 = 21г X Сп-1 Хр(Ап-р-1)';

п=р+1 п= р+1

N N

13 = 21г X Ап-р-1 XpWn-1, 14 = 1г X Wn--W'n-1,

п= р+1 п= р+1

N N

15 = гг X С п-1С п-1, 1б = 21г X С п-К-1. п=р+1 п=р+1

Оценим математическое ожидание 1к, к = 1,6 . Учитывая, что XI Ак|| < X сдк, где 0 < д < 1, получим

к=1 к=1

сд

2

1 - д2

Учитывая, что

п - р-1

Сп = X А"ПП-"

т=0

имеем

N - р-1

т=0

N - р

X П1 + р-тХр (А'>

1=т+1

1 -1

2 а р

Используя (32), для математического ожидания 13 получим неравенство

1-д

Подставляя (32) в выражение для ¡4 , имеем

2

¡4 < (X - р -1) [(2г + 2)2 • || В\\] + с • 1-г + (2г + 2)£ Гг (Ак ГУ (к)) =

1 - 1 к >1 =

где Дг) - некоторая положительная постоянная.

По лемме 3.1 из [6] математическое ожидание ¡5 при замене X на х(А) удовлетворяет неравенству

¡5 <

]>о

Подставляя (22) в выражение для ¡6 и учитывая (29), получим ¡6 = 2— + 2,/2, где

X-р X-р

- = * У С кф к^ -2 =- * У С кф кА к . Замеча^ что Ф „-к = у (к) Ф „ , и ис-

к=р+1 к=р+1

пользуя (42), имеем

X - 2 p-1

j < У И-Цк-ЧоЦ-и

г=о

где L = J-11-

X - p

У Пт Ф

т=p+1

J2r+2 f X-p ^

У У 8т <Ф->

j=1

1

\ т=p+1 У

1 - q

Так как Дк - остаток сходящегося ряда, то J2 допускает аналогичную оценку. Заменяя X на x(h), переходя к усечённым моментам и используя лемму Фату для математического ожидания I6, получим

EaI6 < L^EaT

Подставляя (46), (48) - (51), (53) в (45), получаем утверждение леммы. Лемма 3 доказана.

Используя лемму 3 в (42) и применяя теорему 1, приходим к утверждению теоремы 2.

ЛИТЕРАТУРА

1. Андерсон Т. Статистический анализ временных рядов. М.: Мир, 1976.

2. Ибрагимов И.А., Хасьминский Р.З. Асимптотическая теория оценивания. М.: Наука, 1979.

3. Липцер Р.Ш., Ширяев А.Н. Статистика случайных процессов. М.: Наука, 1974.

4. Konev V., Pergamenshchikov S. On guaranteed estimation of the mean of an autoregressive process // Ann. Statist. 1997. V. 25. No. 5. P. 2127-2163.

5. Конев В.В., Пергаменщиков С.М. Гарантированное оценивание периодического сигнала на фоне авторегрессионных помех с неизвестными параметрами // Проблемы передачи информации. 1997. Т. 3. Вып. 4.

6. Galtchouk L., Konev V. On Sequential Least Squares Estimates of Autoregressive Parameters // Sequential Analysis. 2005. V. 24. No. 4. P. 335-364.

7. Ширяев А.Н. Вероятность. М.: Наука, 1989.

Статья поступила 11.02.2015 г.

Emelyanova T.V., Konev V.V. ON SEQUENTIAL ESTIMATION OF A PERIODIC SIGNAL ON THE BACKGROUND OF AN AUTOREGRESSIVE NOISE

DOI 10.17223/19988621/34/2

We consider the problem of estimating coefficients of a trigonometric signal in a discrete time from observations with an additive noise described by a stationary autoregressive process with unknown parameters and unknown distribution. A one-step sequential procedure to estimate signal coefficients is proposed, which provides a given root-mean-square accuracy of estimates for any values of the nuisance parameters. An asymptotic formula for the mean duration of the procedure is constructed.

Keywords: sequential estimation, given root-mean-square accuracy, trigonometric regression, stopping time, autoregressive noise.

EMELYANOVA Tatiana Veniaminovna (Tomsk State University, Tomsk, Russian Federation) E-mail: tv_em@mail.ru

KONEV Viktor Vasil'evich (Doctor of Physics and Mathematics, Tomsk State University, Tomsk,

Russian Federation)

E-mail: vvkonev@mail.tsu.ru

REFERENCES

1. Anderson T.W. The statistical analysis of time series. New York, John Wiley & Sons, 2011.

2. Ibragimov I.A., Khasminsky R.Z. Asymptotic estimation theory. New York, Springer-Verlag, 1981.

3. Liptser R., Shiryaev A.N. Statistics of Random Processes. New York, Springer, 2001.

4. Konev V., Pergamenshchikov S. On guaranteed estimation of the mean of an autoregressive process. Ann. Statist., 1997, vol. 25, no. 5, pp. 2127-2163.

5. Konev V.V., Pergamenshchikov S.M. Garantirovannoe otsenivanie periodicheskogo signala na fone avtoregressionnykh pomekh s neizvestnymi parametrami. Problemy peredachi informat-sii, 1997, vol. 3, no. 4.

6. Galtchouk L., Konev V. On Sequential Least Squares Estimates of Autoregressive Parameters. Sequential Analysis, 2005, vol. 24, no. 4, pp. 335-364.

7. Shiryaev A.N. Probability. New York, Springer, 1996.