Оценка ковариационной матрицы для временных рядов различных частотностей

УДК 519.246.2

ОЦЕНКА КОВАРИАЦИОННОЙ МАТРИЦЫ ДЛЯ ВРЕМЕННЫХ РЯДОВ РАЗЛИЧНЫХ ЧАСТОТНОСТЕЙ

Е.В. Панов

Предложено обобщение оценки Ньюи и Веста асимптотической ковариационной матрицы на случай временных рядов различной частотности и/или с пропусками. Как и оценка Ньюи-Веста, предложенная оценка является одновременно и состоятельной, и положительно полуопределенной при достаточно общих предположениях о свойствах исходных временных рядов.

1. Введение

Для случая, когда временные ряды имеют одинаковую частотность, различные оценки ковариационных матриц изучаются во многих работах (см., например, [5-7; 9-11]).

В данной работе изучается оценка ковариационной матрицы, построенная для рядов различной частотности. Пример такого рода временных рядов изображён на рис. 1.

В разделе 2 даётся описание оценки ковариационной матрицы из работы [11] для случая, когда все временные ряды имеют одинаковую частотность. В разделе 3 приводится обобщение этой оценки для временных рядов различных частотностей. В разделе 4 устанавливается положительная полуопределённость и состоятельность предложенной оценки.

При этом используется результат, относящийся к так называемым последовательностям со свойством перемешивания (с ними можно ознакомиться, например, в [1-2] или приложении к [3]).

Численные примеры применения рассматриваемой оценки приведены в [3; с. 8-9, 14-20] и [12; с. 16-32].

2. Конструкция оценки ковариационной матрицы в случае, когда пропущенных данных нет

Примером многомерного временного ряда, компоненты которого доступны с различной частотностью (символом • обозначены места, где значение недоступно), может быть ряд

т '3' '2' 'Т '-6'

*1 = ,4, , х2 = Л , х3 = ,9, , *4 = , х5 = <6 у , *6 =

Для случая, когда исходные временные ряды имеют одинаковую частотность, задача, аналогичная рассматриваемой в данной работе, ставится следующим образом.

Будем обозначать через N множество натуральных чисел, через Е множество целых чисел,

через Яп «-мерное евклидово пространство. Рассмотрим последовательность х, зависящих от

параметра случайных векторов. Более точно, пусть (С1,Р,Р) - вероятностное пространство, т.е.

для каждого подмножества А, входящего в <т-алгебру Р, АеР, определена вероятность Р(А).

Пусть © с - компактное выпуклое множество. При каждом * е Е рассматривается функция

х,:£2х0-»Я", которая для любого ве0 является измеримой функцией аргумента ©еП, т.е.

является («х 1) случайным вектором. Этот случайный вектор мы будем обозначать иногда как

х, {со, в), иногда как х1 (в), иногда как х,.

процесс 1 процесс 2 с наблюдения 1  наблюдения 2

70

50

100 время 150

200

250

Рис. 1. Наблюдения двух непрерывных случайных процессов в нерегулярные моменты времени

Пусть для некоторого г е 2, г > 0, определена измеримая функция

Ф: Д”(г+1) -> Я“.

Будем использовать обозначение

р, = Ф(х{,х,_х,...,х,_т),

где . Далее для упрощения изложения будем считать, что при любом 0е& (дх1) случайные векторы р, имеют нулевые ожидания:

е[р, )=о, у/ег.

/ т \

1

Определим (q х 1) случайный вектор RT =

\t=i

и рассмотрим его ковариационную

матрицу ST . Т.к. Е^р, ) = 0, матрица ST имеет вид

S Т=Е

t=i

т ^ l

/=i j

> \

Ньюи и Вест в [11] строят оценку

а т Л Л 1^

$т =бо+Хм'ь,(4 +&), где 4 =7 Е р‘Р‘-к

к=1 -* Г=А+1

При некоторых условиях, в частности, на веса (точные формулировки приведены в разделе 5) матрица является положительно полуопределённой и

р

— ST

-»О при Т->оо.

Отметим, что если существует предел1 S = lim ST - некоторая (q х q) матрица2, то этом случае

Т-*00

можно говорить о состоятельности !5Т при Т -» оо. Если этот предел не существует, то под состоятельностью оценки, следуя, например, [11], мы понимаем §т ——>0 при Т -» оо.

3. Конструкция оценки ковариационной матрицы в общем случае

Для последовательности х,, определённой так же, как и ранее, рассмотрим множество точек (/,/) с целыми координатами, / = 1,2,...,«, / е г. Пусть Мх -подмножество этого множества. Обозначим йо компоненту случайного вектора х, как х{1). Будем говорить, что случайная величина х^ доступна, если (/,/) е Мх, и что не доступна, если (/,/) г Мх .

Запишем равенство р( =Ф(хпх(_1,...,х1_т) покомпонентно:

0и)-фЦ)(Л\) лг) Лп) (1) (2) (0 (п)\

и будем говорить, что функция постоянна по (пк + /)-й компоненте, к = 0,1,...,г;/ = 1,2,...,п, если для \/[х1,х(_1,...,х,_т)е Кпт выполнено равенство:

а>и)(ут г(2) „(и) г(1) „(2) (») г(«)\_

^ 1Л/ ?, /-1 > А/-1 ’•••’ /—Л ***’ ¿-Т / —

-фО)/у(1) г(2) _(И) у(1) г(2) о г<"Л

— 'А' 1«Л'/ ? 5 •Л7—1 5 1 ? •••? Ч/5***5 *Л'{—Г / *

’Речь, для определённости, идёт о пределе для (д х д)-матриц, в метрике х)=

i,j=

Му -Ltj,

! Матрица S является в этом случае симметричной и положительно полуопределённой

Назовём случайную величину р\^ =Ф^{х\1) ,х\2^ ,х^\,х^Д,...,х\'}к...,х\"\^ доступной,

если для данных / и / функция Ф^{х^,х\2\.^п),х^\,х^х,...,х\1}к...,х\"1) постоянна по всем недоступным случайным величинам среди её аргументов х\‘}к, к = 0..г, / = 1 ..и . В противном случае назовём случайную величину р\^ недоступной.

Рассмотрим множество точек (у,/), у = 1,2..ц, ¡<=2. Пусть его подмножество Мр определено таким образом, что элемент (у,/) принадлежит Мр тогда и только тогда, когда случайная величина р\^ является доступной.

При построении оценки мы будем использовать лишь доступные случайные величины р(р, для которых t = l...T.

Т.к. каждый случайный вектор х1 в является функцией сое О. и 0с0, а каждый

случайный вектор р( из {р^ является функцией некоторых случайных векторов из , мы

можем писать х, = х, (со, в), р,= р( (со, в) .

Определим Ат как (д х 1) случайный вектор с компонентами

( \

АЛ 1

Ух'г —

О)

I А

0,‘)еМр \<1<Т

, 7 = 1-9

Тогда, если все компоненты всех рассматриваемых векторов р{ доступны, случайный вектор Ат совпадает со случайным вектором Лт. Определим ковариационные матрицы случайных векторов Ат:

ЪТ^Е

(напомним, что Е (Аг ) = 0).

Поскольку случайный вектор Ат является сложной функцией вида Ат^{р((о),в)}^, матрица Ът является функцией в, т.е. Ег = Ът (в).

Задача данной работы состоит в построении по доступным компонентам случайных векторов {р^ последовательности положительно полуопределенных случайных матриц Ът, таких, что

1Г -1г———> О при Т ->оо.

В этой работе построена оценка вида

тп Т 1

±Т = У»+ !>.»,

к=1 •* (=к+1

Здесь diag(cct) это диагональная (q^xq) матрица, по диагонали которой стоят компоненты (<?х 1) вектора а1. Векторы же а, определены для ¡еЫ как последовательность (их 1) векторов, такая что = 1, если (у, 0 е Мр и = 0 в противном случае. Предел суммирования т рассматривается как функция Т: т- т(Т).

Читатель, интересующийся только первым классом задач, может считать, что вт тождественно некоторому значению в*, не зависящему от Т .

В данной работе доказано, что оценка положительно полуопеределена для любого т, при условии, что веса для этого т могут быть представлены в виде:

Ttj2 'iltjtj-k' *e(04i ,еЯ, V/e(0../), X#,2 >0

V./=0 7 ./=* V J=° /

Будем называть данное условие на веса wkl Условием 1.

Далее в работе доказано, что данная оценка является состоятельной оценкой ъ[в*), если

1. веса wu для любых те N,k = \...т удовлетворяют |м^| < С для некоторого конечного С , а также Vk: lim = 1,

W—>00

2. m = m(T) такова, что lim m(T) = + оо и lim m(T)T~U4 = 0.

Т ->00 Т -><я

Будем называть данное условие на веса wы Условием 2.

К примеру, Условию 1 и Условию 2 одновременно будет удовлетворять набор весов

wkm =

= 1-------(т.е. 4 /=1 Для ye(0.../w) и ти = 0,1,2...)и пг(Т)-[4(Т/100)2/9]

m +1 J

4. Теоремы о положительной полуопределённости и состоятельности

В [11] доказаны следующие две теоремы.

Теорема NW1. При выполнении Условия 1 на веса матрица ST является положительно полуопределённой.

Доказательство этой теоремы представлено в [11] и, главным образом, опирается на результат [8]. См. также [4, с. 128-132]

ТЕОРЕМА NW2. Предположим, что выполнены следующие условия:

как сложная функция Г2 х 0 -> R9, измерима на Q при любом в е 0 и с вероятностью 1 непрерывно дифференцируема по в в некоторой окрестности В точки в* - внутренней точки множества ©.

(ii)(а) Существует измеримая функция Е(й>), такая что для любого ве, для любого цело-го t и любого coeQ верно ЧТО SUp|/9( (¿У, <9)| < Е(со) и sup

ве В

веВ

дв

Pt

< Е(со), причём для неко-

торой константы £)н > 0 верно е(е(со)2 )<1>н .

(б) Существуют числа £) > 0, 8 > О и г > 1, такие что для любого целого I и любого / = 1..<?

( ч\ . 4('‘+<?Л

верно что Е р\ {со, в ) I < I).

(Ш) Для любого в е © последовательность х{ (#) обладает свойством ф -перемешивания с коэффициентами перемешивания ф(к) размера хг (в), либо обладает свойством х,(в)-перемешивания с коэффициентами перемешивания х,(в) размера 2г/(г-1) для некоторого г> 1.

(¡V) Случайные величины вТ : й -> 0 таковы, что 4т {§т сходится по распределению к

некоторой случайной величине при Т —> оо .

Тогда при выполнении Условия 2 на веса м>ы

\ т'

I — Sf >0 при Т->00

В настоящей работе сравниваются обобщения теорем 1>Г\У1 и NW2 для случая временных рядов различных частотностей.

Для элементов ковариационной матрицы Ът вектора Ат в соответствии с формулами (2) и (3) имеем

7%J)=E

\/

t \

1

rl/2 Pt 1 {)Ашр

і <1&Г

,(0

1

TU2 X Р‘

1 0’‘)еМр 1 <t<T

U)

Пусть оценка £г построена по формуле (4).

ТЕОРЕМА 1. При выполнении Условия 1 на веса матрица Ег является положительно по-луопределённой.

Доказательство.

Определим (qх 1) случайные векторы gt -diag{at)pt , но тогда

ш(Т) , л A V л 1 3"

Ег = Фо + Ё 4,k=~~ X GtGt-k > т-е- оценка Ег это оценка ST, в которой взят

к=1 Т (=1+А

ряд вместо ряда pt. Из условия E(pt) = 0 следует £($•,) = 0. Положительная полуопределён-

ность матрицы §т следует из теоремы NW1.

Теорема 1 доказана.

ТЕОРЕМА 2. Предположим, что выполнены следующие условия:

(i) При любом (у, 0 е Мр

p\j)

как сложная функция О. х © -> Rq, измерима на Q при любом 9 е © и с вероятностью 1 непрерывно дифференцируема по в в некоторой окрестности В точки в* - внутренней точки 0.

(И) (а) Существует измеримая функция Н(со), такая что для любого 0е0, для любого цело-

го t и любого coed верно что sup|p( ((0,в)\ < Щсо) и sup

веВ

веВ

дв

Pt

< Е(со), причём для некоторой

константы Ds выполнено £^Н(<у)2) < DE.

(б) Существуют числа О>0, 3> 0 и г >\, такие что для любого натурального / и любого

' 4(Г+<У)>

i = \..q таких что

<D.

(¡11) Для любого в е © последовательность х( (в) обладает свойством ф -перемешивания с коэффициентами перемешивания ф(к) размера х, (в), либо обладает свойством х, (в) -перемешивания с коэффициентами перемешивания х1 (в) размера 2/7 (г-1) для некоторого г> 1.

(¡у) Случайная величина вт : О -» © такова, что 4т {вт - 0*) сходится по распределению к

некоторой случайной величине при Т -> оо .

Тогда при выполнении Условия 2 на веса

(( \Т'\

±т [рАвт\\ »0 при Г-»оо

ч ' /

Доказательство теоремы 2.

Как и в доказательстве теоремы 1 определим (#х1) случайные векторы д( -diag(at)p^ . Случайные векторы р, получены из случайных векторов х, посредством измеримого преобразования Р, = ф(х, ,Х,_1,...,Х1_Т ), поэтому по теореме П5 из [3], для р, верно, что либо коэф-

фициенты перемешивания ф(к) имеют размер х, (в), либо коэффициенты перемешивания х, (в) имеют размер 2г/(/* — 1) (т.к. это верно и для х,).

Для последовательности случайных векторов д, =diag(at)pt верно что либо коэффициент перемешивания ф(к) имеет размер 2г/(2г-\), либо коэффициент перемешивания х, (<9) имеет

размер 2л*/(/* — 1) (т.к. это верно для р, , а умножение на вектор, зависящий от - измеримое преобразование).

Заметим, что элемент может быть представлен в виде

(Г

И^Л=Е

\/

Ал /=1

7^1/2 1 М

= Е

1 1 , 1 /

—Ус

1/2 т-1/2

гмг К1 /=1 У

а ¿г в виде

ът =-Х^' + X ^ т 2 ы!~* + т Е

* Ы *=1 V-* <=*+1 1 /=*+1

Последовательность случайных векторов =diag(al)pt удовлетворяет всем условиям теоремы NW2.

Действительно,

(О дt((o,0) = diag(at)pt(<o,0), а р1((о,в) = ф{х1 (ю,0),хм(й^0),...,х(_г(а>,0)), измерима на

А при любом 0 е  и непрерывно дифференцируема по 0 при любом со е О в некоторой окрестности В точки 0* с вероятностью 1

(¡0 т.к. для р((а>,0) верно Уй>еО:8ир|рДй>,0)|<Н(<з;),8ир

веВ

УсоеП:вир)^ (ю,б)\ <3(г»),зир

веВ веВ

80

Я,

<3

веВ

/

30 Р'

< и Е

< Щсо), то и

4(г+6)'

<£> ДЛЯ

некоторых констант £>н и £>.

(¡11) выше доказано, что коэффициенты перемешивания для последовательности случайных векторов д( имеют тот же размер, что и для последовательности х1, то есть либо ф(к) имеет размер 2г/(2г-1), либо а(к) имеет размер 2г/(г-1).

Выполнение условия (¡у) теоремы N>^2 очевидно.

Итак, применяя теорему N>¥2 для последовательности случайных векторов д1 =diag(a¡)pt , р

мы имеем Ег - Ег ->0 при Т->оо .

Теорема 2 доказана.

5. Заключение

В работе предложена оценка ковариационной матрицы для временных рядов различных частотностей и доказаны теоремы о свойствах этой оценки: положительной полуопределённости и состоятельности.

Различные результаты в математической статистике опираются на оценки ковариационной матрицы. Поэтому обладающая хорошими свойствами оценка ковариационной матрицы для рядов различных частотностей может иметь серьёзное практическое значение, расширяя применимость известных результатов на этот случай.

Литература

1. Биллингсли, П. Сходимость вероятностных мер / П. Биллингсли. - М.: Наука, 1977. -352 с.

2. Ибрагимов, А.И. Независимые и стационарно связанные величины / А.И. Ибрагимов, Ю.В. Линник. - М.: Наука, 1965. - 524 с.

3. Панов, Е.В. Состоятельная оценка ковариационной матрицы в случае временных рядов различной частотности / Е.В. Панов // WP2/2005/05. - М.: ГУ-ВШЭ, 2005 (http://new.hse.ru/sites/infospace/ podrazd/uvp/id/preprints/DocLib/WP2_2005_05.pdf).

4. Шведов, A.C. Математические основы и оценка параметров эконометрических моделей состояние-наблюдение / A.C. Шведов. - М.: ГУ-ВШЭ, 2005. - 203 с.

5. Andrews, D.W.K. Heteroskedasticity and Autocorrelation Consistent Covariance Matrix Estimation / D.W.K. Andrews // Econometrica. - 1991. - V. 59. - P. 817-858.

6. Basak, G.K. Assessing Risk in Sample Minimum Risk Portfolios / G.K. Basak, R. Jagannatan, T. Ma // NBER Working Paper 10447, April 2004.

7. Den Haan, W.J. Robust Covariance Matrix Estimation with Data-Dependent VAR Prewhitening Order / W.J. Den Haan, A. Levin // Technical working paper 255, National Bureau of Economic Research, 2000.

8. McLeod, I.A. Nonnegative Definiteness of the Sample Autocovariance Function / I.A. McLeod, C. Jimenez // American Statistician. - 1984. - V. 38. - P. 297-298.

9. Ledoit, O. Honey, I Shrunk the Sample Covariance Matrix / O. Ledoit, M. Wolf // Economics Working Paper. Universität Pompeu Fabra. Department of Economics and Business. June 2003.

10. Litterman, R. Estimating Covariance Matrices / R. Litterman, K. Winkelmann // Goldman Sachs Risk Management Series. January, 1998.

11. Newey, W.K. A Simple, Positive Semi-Definite, Heteroskedasticiy and Autocorrelation Consistent Covariance Matrix / W.K. Newey, K.D. West // Econometrica. - 1987. - V. 55, № 3. - P. 703-708.

12. Panov, E.V. Asymptotic Covariance Matrix Estimators for Time Series of Different Frequencies: Numerical Comparison / E.V. Panov, A.S. Shvedov // The Proceedings from the 27th International Symposium on Forecasting, International Institute of Forecasters, New York, June 24-27, 2007 (http://forecasters.org/submissions/ISF2007PanovEvgeny.pdf).

Поступила в редакцию 19 декабря 2007 г.