Гарантированное оценивание параметров порогового авторегрессионного процесса с условной неоднородностью

ВЕСТНИК ТОМСКОГО ГОСУДАРСТВЕННОГО УНИВЕРСИТЕТА

2013 Управление, вычислительная техника и информатика № 2

УДК 519.2

Ю.Б. Буркатовская, С.Э. Воробейчиков

ГАРАНТИРОВАННОЕ ОЦЕНИВАНИЕ ПАРАМЕТРОВ ПОРОГОВОГО АВТОРЕГРЕССИОННОГО ПРОЦЕССА С УСЛОВНОЙ НЕОДНОРОДНОСТЬЮ1

Рассматривается модель пороговой авторегрессии первого порядка с ARCH-шумами. Получены достаточные условия эргодичности процесса. Предложены несмещенные гарантированные оценки авторегрессионных параметров и изучены их асимптотические свойства.

Ключевые слова: TAR/ARCH, метод наименьших квадратов, среднеквадратическое отклонение, гарантированное оценивание.

Модель пороговой авторегрессии (TAR) относится к классу нелинейных авторегрессионных моделей. Основным ее свойством является зависимость параметра авторегрессии от предыдущих значений процесса, в результате чего модель даже первого порядка хорошо описывает процессы с явно асимметричным относительно нуля распределением. В работе [1] рассмотрен процесс TAR(1), в которой значение параметра процесса зависит знака предыдущего наблюдения. Найдена область эргодичности процесса и доказана состоятельность оценок параметров, построенных с использованием метода наименьших квадратов, при условии существования момента выше второго порядка для распределения шумов. При этом дисперсия шума предполагалась постоянной. В [2] предложена последовательная оценка для параметров процесса TAR(1) с неизвестной дисперсией, где в качестве критерия останова используется сочетание двух факторов: качества оценивания и требуемое число наблюдений. Свойства оценок изучаются в асимптотической постановке. В [3] условия эргодичности были найдены для процесса TAR(1) с задержкой, а в [4] аналогичная задача была рассмотрена для процесса с несколькими порогами. Позже были предложены и исследованы пороговые авторегрессионные модели с переменной дисперсией, которые применяются для описания случайных процессов с эффектом кластерности. В частности, в [5] получены условия эргодичности для широкого класса нелинейных моделей, дисперсия шума которых зависит от предыдущих значений шумов.

В данной работе рассмотрена модель пороговой авторегрессии с условной неоднородностью TAR/ARCH. Для нее найдены достаточные условия эргодичности и предложены последовательные оценки параметров, обладающие гарантированным качеством и не требующие наличия у шумов моментов выше второго порядка. Исследованы асимптотические свойства построенных оценок.

1. Модель

Рассматривается случайный процесс пороговой авторегрессии с ARCH-шумами

x»+1 =^1К+ЧхП +ст«е«+1; = V +“if; x+ = max{0,xnЬ = “in{0,xn}.

1 Работа выполнена в рамках государственного задания Минобрнауки РФ на проведение научных исследований в Томском государственном университете на 2012-2014 годы, задание 8.4055.2011.

где {£„} - последовательность независимых одинаково распределенных случайных величин с нулевым средним, единичной дисперсией и известным распределением. Плотность распределения шумов положительна на всей числовой прямой, симметрична относительно нуля не возрастает на промежутке [0, +то).

2. Область эргодичности процесса

В случае, когда дисперсия шума в модели (1) постоянна, т.е. стп = ст, область эргодичности процесса имеет следующий вид [1]:

< 1, ^2 < 1, 2 < 1.

Согласно [6], достаточным условием для эргодичности марковского процесса является существование неотрицательной измеримой функции g (х) и компакта К, таких, что

a) Е [g

b) EІg (хп+1 )хп = х]< к <+”, х еК

Предположим, что параметры процесса (1) удовлетворяют условию (2). Тогда существуют такие положительные константы а и Ь, что

-а <Х1 < 1, -Ь <Х2 < 1.

Ь а

Пусть компакт К = [-М, М ] и функция g (х) имеет вид

g

Если х еК , то

Е[ (хп+! )хп = х] = аЕ(х1 х+ +Х2х~ + л/ю+ах2"бп+1) -

^

< (а + Ь)Е :

-bE+Х2x + Vo+ax2en+j) < XjX+ +Х 2 х~ + л/ю + ах2en+j

<(„ + b )j(l + max ( bb. { )) { + Vro + aM2 E|Sn+11}<”.

Таким образом, условие (3b) выполнено при

R = (a + b){^1 + maxM Wffl + aM2E|sn+11}.

Рассмотрим случай x gK . Пусть x > M , тогда x+ = x, x~ = 0 . Введем обозначение c(x) = -^x/л/ю + ax2 , тогда при en+1 > c(x) имеем X1 x + л1ю + ax2en+1 > 0 . Обозначим плотность распределения шумов {en+1} через f (z). Используя условия (4), получаем

E [g (xn+1)|xn = x] = aE (x1 x Wra+ax2 en+1) - bE (x1 x Wra + ax2 en+1) =

+ад _______ C

= a I (x1x + л/ю + ax2 z) f (z)dz - b | (x1 x + Vra + ax2 z) f (z)dz =

+& / ч C (x) + &

= ax | f (z)dz + b I —j x I f (z)dz + a (Xj - 1)x J f (z)dz -

C

i a\ C

-b I X1 +—I x J f (z )dz + av ю+ax2 J zf (z )dz - bv ю + ax2 J zf (z )dz <

^ b 1 -Ш C(x) -a>

________+W

< ax + (a + b )vo+ax2 J zf (z)dz - min {a (1 - Xi), (bXj + a )}x.

0

Обозначим сумму двух последних слагаемых в этом выражении через А. Для выполнения условия (3) требуется, чтобы величина А была отрицательна. Используя

+W

обозначение |= J zf (z )dz, получаем

0

Д = (a + b)|Wro +ax2 - min{a(1 -X1),(bX1 + a)}x < 0 ,

откуда следует условие эргодичности процесса

min{a(1 -X1 )2,(bX1 +a)2} min{(1 -X1 )2,(tX1 +1)2}

a <---------------------------— =-------------------------—

(a + b)2 |2 (1 +t)2 |2

где t = bfa . Для получения как можно более широкой области эргодичности величину в правой части неравенства следует максимизировать по t. Она убывает с ростом t .

Рассматривая аналогично случай x < -M, когда x+ = 0 , x~ = x, получаем

E[ (x„+1)|xn = x] < -bx + (a + b) Vra+ax2"| + min{b (1 -X2), (aX2 + b)}x.

Условие эргодичности процесса принимает вид

min {t2 (1 -X2 )2, (X2 +t)2 } a <---------------------------- .

(1 +1 )2 |2

Величина в правой части неравенства возрастает с ростом t.

Итак, получаем задачу оптимизации

min

in {min {(1 -X1 )2, (tX1 +1)2} ,min {t2 (1 -X2 )2, (X2 +t )2}}

(1 +1)212

решение которой находится из условия

min{(1 -X1 )2,(tX1 +1)2} = min{t2 (1 -X2)2,(X2 +t)2}.

Поскольку t > 0, учитывая (4), имеем

1 - X1 < tX1 +1 при X1 > 0; tX1 +1 < 1 - X1 при X1 < 0;

t(1 -X2)<X2 +t при X2 >0; X2 +t<t(1 -X2) при X2 <0. Рассмотрим 4 области значений параметров [X1, X2 ].

> max.

t

Область 1. X1 > 0, X2 > 0. Тогда решение задачи () находится из условия 1 -X = t (1 -X2) и условие эргодичности принимает вид

а <(j-X1 )2 (j-X2 )2 (2-Xj-X2)2 ц2 '

Область 2. X1 > 0, X2 < 0. Тогда решение задачи () находится из условия 1 - Xj = X2 +1 и условие эргодичности принимает вид

(1 -Xj )2

а <----------—-----.

(2-Xj-X2)2 ц2

Область 3. Xj < 0, X2 > 0. Тогда решение задачи () находится из условия tXj +1 = t (1 - X 2) и условие эргодичности принимает вид

(1-X2 )2 а <----------—-----.

(2-X1 -X2)2 ц2

Область 4. X1 < 0, X2 < 0. Тогда решение задачи () находится из условия tX1 +1 = X2 +1 и условие эргодичности принимает вид

(1 -^2 )2 а <—---------------.

(2-X1 -X2)2 ц2 Итак, объединяя четыре области, получаем

min {

(2-X1 -X2)2 ц2

Если константа M выбирается из условия ю/M2 < а - а , то условие (3a) выполнено для К = [-M,M].

3. Построение оценок параметров

Рассмотрим задачу оценивания параметров [X1, X2 ]. Предположим сначала, что параметры [ю, а] являются известными. Тогда, используя оценку, предложенную в [7] для авторегрессионных процессов, получаем

1 Т1 1 Т2

X1 =7?Z Vn,1 X+n Xn+{; X2 = 77X V«,2X-Xn+1.

H n=1 H n=1

Моменты [т^, T2 ] - это случайные моменты остановки, определяемые из условий

= min<jt >0:^(co+^n2)(^x+)2 >нj;т2 = min<jt >°:t+'tX-H^

H - положительный параметр процедуры оценивания. Весовые коэффициенты {уп1)п>1, {vn2)n>1 принимают значение единицы на интервалах [1, т1 -1] и

[1, т2 -1] соответственно, а коэффициенты в моменты [т1, т2 ] находятся из условий

Zvn,i(ю+ах2)(х+) =H; Zvn,2(ю+ахп2)(x-) =я-

n=1 n=1

Выбор момента остановки и весовых коэффициентов гарантирует, что оценки () являются несмещенными и их дисперсии ограничены величиной 1/H .

Если параметры [ю, а] неизвестны, то процесс (1) является авторегрессионным процессом с неизвестной и неограниченной дисперсией шума. Чтобы привести его к удобному для исследования виду, введем обозначение mn = max {1,\xn} и поделим уравнение (1) на величину mn . Получим процесс вида

x+ X- Ja+ax2

Уп+1 = Х1 Уп,1 + Уп,2 +YnSn+1; Уп,1 =-, Уп,2 =--, Yn =----------------,

mn mn mn

дисперсия шума которого ограничена сверху, т.е. y2 ¿ю+а . Для устранения влияния неизвестной константы зададимся некоторым начальным объемом выборки N . На этом промежутке модифицируем процесс следующим образом. Введем обозначение пгп = min{1,|хп} и поделим уравнение (1) на величину пгп (чтобы это было возможно, выберем промежуток, где все mп существенно отличны от нуля). Получим процесс вида

- - х+ _ х- Y ^ю+ах2

Уп+1 =Х1 Уп,1 + Х2Уп,2 +Yп8п+1; yп,1 = - , yп,2 = - , Yп = - ,

mn mn mn

и построим специальный компенсирующий множитель rN

N

Tn = CNX.У«2, CN = EI ^

п=1 Vп=1

Плотность распределения f (x) шумов {еп }п> должна быть такова, чтобы величина CN была определена для некоторого значения N. Типы таких плотностей рассмотрены в [8].

Определим оценки параметров [Х1, Х2 ] следующим образом:

1 Т'

Х' =ГН X Уп,гУп,гУп+1, ' = Ъ2,

Г NH п=N+1

где моменты остановки определяются из условий

Т = min\t > N: X У«,' >Гnh I.

I n=N+1 J

Весовые коэффициенты {vni } принимают значение единицы на интервалах

[1, т -1] соответственно, а коэффициенты в моменты [т1, т2 ] находятся из условий

V -J 2

n,iJ

п=N+1

Свойства оценок сформулированы в следующей теореме.

Z VnAi =rNH.

Теорема 1. Для процесса (1), удовлетворяющего условиям (6), моменты остановки (9) конечны почти наверное. Оценки (8) являются несмещенными. Дисперсия каждой оценки ограничена сверху величиной

Е

Доказательство. Для доказательства конечности моментов остановки (9) тре-

í

буется показать, что ряды ^ >”2 i расходятся. Если ряды сходятся, то для лю-

п=N+1

бой положительной константы 5

Р ^ ^ >5}^^ °.

I п=к J

Имеем для случая i = 1

p { >s} = p

fclL J = p { >щ,

IXI1, xn } j : P{X1 x+-i + X2x--i {ю + ах2-1Sn > =

-v/s -(A,j xn-i + X2 xn-i )|

= P<!en >-

ю + ax^n1

Поскольку плотность распределения величин {en} отлична от нуля на всей числовой прямой, и процесс является эргодическим, эта вероятность не стремится к нулю. Случай i = 2 рассматривается аналогично.

Рассмотрим оценку (8). Из уравнения (7), учитывая, что yn 1 yn 2 = 0, получаем

- 1 Т 1 т

Eki =ГНE Z Vn,iyn,i-yn+1 =ГНE Z W* ( Уп,1 + Х2Уп,2 +YnSn+1 ) =

1 n=N+1 1 NH n=N+1

X- Ä 2 1 V-

= rJHE Z Уп,гУп,г +ГНE Z Уп,гУп,гYnW

1 NH n=N+1 1 NH n=N+1

Из определения весовых коэффициентов (10) следует, что первое слагаемое равно Хг-. Рассмотрим второе слагаемое. Введем усеченный момент остановки Т = min (хг-, T} и обозначим через Fn =ct(x0, е^..., en} сигма-алгебру, порожденную случайными величинами {x0,е1,.,en}. Используя свойства условных математических ожиданий, получаем, что

Т t

E Z Wn,i Y nen+1 = E Z E [ Wn,, Y n en+1Xn<xi.|Fn ] =

n=N+1 n=N+1

T

= E Z Wn,.' Y nX n<xi-E K+1I Fn ] = 0.

n=N+1

Поскольку Т ^ Т при T , получаем, что математическое ожидание второго слагаемого равно нулю, и EX i = Хг-.

Найдем теперь дисперсию оценки. Используя свойства условных математических ожиданий, получаем

( 1 Т Л2

N¿3 п=N+1

1 т

= Е"--7 2 Е [уи,гУи,г'Уп%п<Т^+1 Еп ] +

(ГNЯ)2 п=7+1 1 , , i 1 J

1 т п-1

+2Е (-----) 2 2 Е ,< Уг 81+Л,гУп,г УпХпйт, 8п+:| Еп ] =

(ГNH) n=N+2 l=N+1

1т

= Е-----7 2 ^п,гУ1л2пХп<^Е [^ Еп ] +

(ГNЯ)2 п=^+1 , , i [ 1 ]

1 т -1

+2Е ------) 2 2 V.¡УцУ18+1уп,,Уп,,УпХп<х,Е[8п+^ Еп] =

(Г NH ) n=N + 2 l=N+1

1т

т—’ 1 2 2 2

= Е"------"7 2 Уп,гУп,г У»Хп<т

(ГNH)2 п=N+1 i

Учитывая, что уп, < 1, имеем

\2 1 Д, 999 (и+а)Г„Я (ю+а) 1

Е

У 7 (ГN3)2 п=^+1 , , (ГN3)2 Н ГN

N

Введем обозначение SN =2 .У2 . Найдем математическое ожидание этой

п=1

величины

ад ад

Е^л-1 = I Р {т-1 > х^йх = | Р < Vх) =

° °

ад

= IР {^N-1 + (1 уи-1,1 + ^ 2 уп-1,2 + У п-18 п ) < VХ} =

°

ад 1/х

= 1 йх I Р+ + ((д +Х2>^,2 +Уп-18п )2 < VХ} (2)й2

° °

ад 1/х

Х1 уп-1,1 +Х2 уп-1,:

У 2-1

- + 8,

У2п-1 I

Я (2)&.

Поскольку плотность распределения шумов {еп} симметрична относительно нуля, для этих величин справедливо неравенство [9]

Р {( +8п )2 <*}< Р +82 <Ь} .

Отсюда, учитывая, что у 2-1 > ю + а, получаем

Р

Х1 у п-1,1 +Х 2 уп-1,:

. У2-1

- + 8„

1/X - 2 \ „I 2 1X - 2 \ „ (9 V X - 2

----->< Р \ 82 Р2 < ^--------------

п _ „2

У „-1

ю+а

Следовательно,

ад 1/ X / л I ч ад

ESN <| dx | P {б2 < 'Х ZI g (z )dz = | P {SN-1 +(co+a)e;; < 1/ x}dx.

о о ' ° + a' 0

Повторяя проведенные рассуждения для величин {SNч,...,S1}, приходим к неравенству

ад Г N 1 ад Г f N Л-1 1

ESn1 < | P j(co +a)^e2 < 1/ x I dx =| P <! (со +a) 11 2n I > x > dx =

0 I n=1 J 0 [ Vn=1 ) J

f n ^-1 = (со +a)-1 EI £e2

V n=1

Итак, для компенсирующего множителя имеем

E— = — ESN < ——C^ = —^.

Г N CN CN о + а о + a

Отсюда и из (12) следует утверждение (11) теоремы.

4. Асимптотические свойства оценок

Рассмотрим свойства оценок (8) при больших значениях параметра H. Нам потребуется следующий результат.

Теорема [10]. Пусть {Fkn } < - последовательность ст -алгебр, F" с F2n с .,

G с ^ Fn и п2 - G-измеримая случайная величина. Пусть также выполнены

n>1

условия

maxЫ ——0; ——->п2; supEmax%пк|1+5 <ад, 5>0;

1<k<n к=1 п 1<к<п

E [lnk|Fkn-1 ] = 0.

П

Тогда Sn =2^nk------------------>Z, где Z - случайная величина с характеристической

к=1

функцией E exp (-Х2 п2 /2), XeR.

Можно показать, используя (7)-(11), что случайные величины Р 1

^пк =----7= ук-иУк-и У к-18 к Хк <т уд°влетв°ряют данным условиям, причем

Г NVН

П = (ю +а)/ГN , т.е. Еп < 1. Величина 8п ^ Xj -Х, при п ^ад .

Теорема 2. При достаточно больших значениях Н для оценок (7) при 5Н > й , где й > 1, верно

5Н Л Л 2 1

p { - ->- )2 >81<2 }1 -4f D+p Is

e2n <-

d 2C

n=1 и n

где Ф( x) - функция стандартного одномерного нормального распределения.

Доказательство. Согласно изложенному выше,

P {(, -^ )2 >8} я^оо > i E%(x)dx =

x2 >8H

= i

x2 >8H

где фл (•) - плотность нормального распределения с нулевым средним и дисперсией п2 • Принимая во внимание, что для х >Пі >П2 верно фЛі (х) > ф^ (х), получаем, что

х2 >8Я х2 >8Я

Рассмотрим второе слагаемое правой части (14). Используя неравенство (13) и условие у2 > ю + а , имеем

Р+ > й2 }=Р {юг> '2 }=Р {2У" < т+аЬ

2 82 < ю+а \ < о{ 82 < 1

* PР2^ J* P|Ss:+, <

Ln=1 d CN J U=1

Отсюда и из (15) следует утверждение теоремы.

Заключение

В работе рассмотрен процесс пороговой авторегрессии первого порядка с условной неоднородностью. Найдены достаточные условия эргодичности процесса. Получены последовательные оценки авторегрессионных параметров при условии, что все параметры процесса неизвестны. Предложенные оценки являются несмещенными и обладают ограниченной дисперсией, зависящей от выбора параметра процедуры оценивания. Исследованы асимптотические свойства предложенных оценок.

ЛИТЕРАТУРА

1. Joseph D. Petrucelli, Samuel W. Woolford. A threshold AR(1) model // J. Appl. Prob. 1984. V. 21. P. 270-286.

2. Rong Chen, Ruey S. Tsay. On the ergodicity of TAR(1) model // The Annals of Applied Probability. 1991. V. 1. No. 4. P. 613-634.

3. Sangyeol Lee, T.N. Shiram. Sequential point estimation of parameters in a threshold AR (1) model // Stochastic Processes and Their Applications. 1999. V. 84. P. 343-355.

4. Lee O., Shin D.W. A note on the geometric ergodicity of a multiple threshold AR(1) processes on the boundary region with application to integrated m-m processes.// Economic Letters. 2007. V.96. P. 226-231.

5. Mika Meitz, Pentti Saikkonen. A note on the geometric ergodicity of a nonlinear AR-ARCH model // Statistics and Probability Letters. 2010. V. 80. P. 631-638.

6. Sean Mein, Richard Tweedie. Markov Chains and Stochastic Stability. Springer Verlag, 1993. 412 p.

7. Борисов, Конев В.В. О последовательном оценивании параметров дискретных процессов // Автоматика и телемеханика. 1977. № 10. С. 58-64

8. Дмитриенко А.А, Конев В.В. О последовательной классификации процессов авторегрессии с неизвестной дисперсией помех // Проблемы передачи информации. 1995. Т. 31. Вып. 4. С. 51-62.

9. Андерсон Т. Статистический анализ временных рядов. М.: Мир, 1976. 756 с.

10. ЛипцерР.Ш.,ШиряевА.Н. Теория мартингалов. М.: Наука, 1986. 512 с.

Буркатовская Юлия Борисовна

Томский политехнический университет, Томский государственный университет

Воробейчиков Сергей Эрикович Томский государственный университет

E-mail: tracey@tpu.ru; sev@mail.tsu.ru Поступила в редакцию 6 мая 2012 г.

Burkatovskaya Yulia B., Vorobeychikov Sergey E. (Tomsk Polytechnic University, Tomsk State University). Guaranteed estimation of parameters of threshold autoregressive process with conditional heteroskedasticity.

Keywords: TAR/ARCH, least squares method, mean square error, guaranteed estimation.

A nonlinear autoregressive model TAR/ARCH(1,1) was considered. In the model the value of the autoregressive parameter and the noise variation depend on the value of the process in the previous moment. Sufficient conditions of the ergodicity of the process were obtained. Estimators of the autoregressive parameters if all the process parameters are unknown were constructed. The estimators are unbiased and their variations are bounded from above by values depending of the estimation procedure parameter. Asymptotic properties of the estimators were investigated.