Оценивание параметров эконометрической модели с учетом линейных ограничений

УДК 330.43

В. А. Талызин, А. П. Кирпичников

ОЦЕНИВАНИЕ ПАРАМЕТРОВ ЭКОНОМЕТРИЧЕСКОЙ МОДЕЛИ С УЧЕТОМ ЛИНЕЙНЫХ ОГРАНИЧЕНИЙ

Ключевые слова: оценка, параметры, модель, ограничения.

В работе предлагается метод оценки параметров линейных и нелинейных эконометрических моделей с учётом дополнительных линейных ограничений на параметры.

Keywords: evaluation, options, model, restrictions.

Method of parameter estimation of linear & nonlinear models is proposed with some additional restrictions on them.

Введение

В эконометрическом моделировании социально-экономических процессов важную роль играет инструментарий регрессионного анализа. Часто регрессионное моделирование используется при анализе и прогнозировании временных рядов. В ряде прикладных приложений типичную модель временных рядов принимают в виде аддитивной суммы четырёх компонентов [2]: тренд (систематическое изменение), колебания относительно тренда (циклическая составляющая), сезонные колебания, случайная компонента. Отметим также перспективность использования сплайновых моделей при анализе временных рядов [3]. В работе [7] рассматривается вопрос оценки параметров линейной эконометрической модели с учетом линейных ограничений методом множителей Лагранжа. При этом искомый вектор параметров определяется через вектор параметров той же модели, но рассматриваемой без ограничений. В итоге приходится решать две задачи. Отметим, что при таком подходе возрастает вычислительная сложность алгоритмов оценивания

эконометрических моделей. В случае оценивании методом наименьших квадратов полиномиальных трендов временных рядов, приводимых к линейному виду, снижение вычислительной сложности алгоритмов оценивания можно достичь с использованием алгоритмов на основе быстрых дискретных преобразований по дискретным функциям Уолша и их обобщений [1], [4-6]. Рассмотрим другой подход к решению поставленной задачи, когда не требуется решения задачи без ограничений на параметры. Как известно [8], задача на условный экстремум допускает сведение к задаче на безусловный экстремум без использования метода множителей Лагранжа, если часть искомых переменных можно выразить через другие переменные с использованием требуемых ограничений на параметры. Изучим данный подход.

1. Линейная модель

Пусть на основе имеющейся многомерной выборки (табл.1).

Таблица 1

Номер наблюдения У x1 X2 XP

1 У1 x11 X21 XP1

2 У 2 Х12 X22 XP 2

п Уп X1n X2n Xpn

требуется оценить параметры линейной множественной регрессии

~ = b0 + Ъхх + Ь2х2 +... + bpxp,

когда параметры удовлетворяют линейным ограничениям:

«10Ъ0 +«iA + ... +«ipbp = Ci, «20Ъ0 + «21Ъ1 + ... + а2рЪр = C2 ,

аг 0Ъ0 + аЛЪ1 +... + агрЪг = сг. Здесь число уравнений r должно быть строго меньше числа искомых параметров p +1, иначе система уравнений будет замкнутой и проблемы оценки параметров как таковой не существует. Кроме того, предполагается, что уравнения системы (2) являются линейно независимыми.

Для удобства введем в рассмотрение следующие матрицы и векторы:

A =

i р

2 p

аг

а

X =

r1 (1 1

1

а

c =

rp у

x.

( Ci >

V cr У

b =

V

p2

(b Л U0

V Ьр У

(л л

'Y =

У2

\ -щ 2п " рп у \Уп У

Тогда система ограничений (2) в матричной форме примет вид:

ЛЬ = с.

Постановка задачи оценки параметров модели с критерием минимума суммы квадратов остатков с

а

а

10

b

c

2

а

а

20

21

x

учетом ограничений формулируется следующим образом:

найти минимум квадратичной функции

де =

при выполнении ограничений (3).

По предположению ранг матрицы А равен г и система (2) разрешима относительно г неизвестных

коэффициентов модели Ь .. Не нарушая общности

рассуждения, будем считать их первыми по порядку.

Представим матрицы А , Х и вектор Ь в следующем виде:

' Ьг

А = ((, : А2), X = (Х, Х2), Ь -

где

А =

<Л1г+1 а2г а2г+1

2 р

( 1

X,

Хг-11 Хг-12 2Х II (х Х г1 Хг 2

Хг-1п ч Хгп

( Ь0 ] Ьг ]

Ь1 , Ь2 = Ьг+1

V Ьг-1 ) Л)

> 2

Тогда ограничение (3) можно представить в следующем виде:

АЬ = А1Ь1 + А2Ь2 = с,

Откуда

А1Ь1 = с - А2Ь2. Обратная матрица (А1 )-1 по предположению существует, отсюда первые г искомых параметров выражаются через остальные (р +1 - г):

Ь1 = А1-1с - А1-1 А2Ь2.

Преобразуем произведение ХЬ с учетом полученных результатов:

ХЬ = X,Ь' + X2Ь2 = Х1(А1-1с - А,-' А2Ь2) + X2Ь2 = Х1 А,-'с + (х2 - Х1А,-' А2 )ъ 2

Подставим полученное выражение в функцию (4) и преобразуем задачу на условный экстремум (3)-(4) в задачу поиска безусловного минимума

функции р +1 - г переменных (вектор Ь2):

е,

После преобразований функция примет вид:

& (Ь2) = 7 7 - 7 X! А'1 с - с'( АГ1)'Х1(7 - X! А, ) +

+ 2Ь2|(А2'(А1-1 )'Х 1' -X2')(7-X1 А1-1с)] + Ь2'(А2'(А1-1 )'Х 1' -X2']](х, А1-1 А2 -X2)ъ2

Приравнивая производную (Ь ) нулю,

аъ2

получаем систему уравнений для определения вектора Ь 2 :

А

Отсюда, если существует обратная матрица

то получаем формулу для определения вектора 2 :

ь2 =| (А (АГ')'Х 1' -X2 )(х АлА2 - X2)) ((А/(Аг')'Х,' -X2')((А'с -7

Далее по формуле (5) находятся остальные искомые параметры. Пример 1

Требуется оценить параметры множественной линейной регрессии

= Ь0 + Ь1 х, + Ь2 х2 + Ь3 х3, когда они должны удовлетворять следующим ограничениям:

2Ь0 + Ь1 + 2Ь2 + 2Ь3 = 2,

Ь0 + 2Ь1 + Ь3 = 1. Таким образом р = 3 , г = 2 . Для решения задачи получены статистические данные (табл.2).

Таблица 2

Номер наблюдения .У х, Х2 Х3

1 2 2 1 3

2 3 3 2 4

3 4 4 3 1

4 5 2 4 2

5 6 3 1 3

В нашем случае имеем:

X =

7 =

V ( 2 1

3

4

5

V6/

2 1 3 > (1 2 > (1 31

3 2 4 1 3 2 4

4 3 1 , X1 = 1 4 , X 2 = 3 1

2 4 2 1 2 4 2

3 1 3 ) 3 ) ,1 3)

А =

с =

( 2 1 2 21 (2 1

, а. =

V 1 2 0 1) ч 1 2

21, Ь1 (Ь1 , Ь2 = (Ь2 1

1) 1Ь1) чЬ3 )

Л =

2 2] 0 1)

Чтобы воспользоваться формулой (6), найдем необходимые составляющие этой формулы:

Ь2

а,„ а

10 ""11

1 г-1

«„„ а

а

20 21

2г-1

г0 г1

а

гг-1

2

а1Т а

а

Ч' у

X

X,, X

11 21

1 Х12 Х22

1 Х1п Х2п

X

рп у

Ь

2 1 1 2

X' А'"1 =

0,6667 - 0,3333 - 0,3333 0,6667

( 0

1 Л

- 0,3333 1,6667

- 0,6667 2,3333

0

1

X1 А1- с =

- 0,3333 1,6667 У

(" 1 Л

X1 А~с - Г =

V

(1Л 1 1

1 1

' 1 (1,3333 - 0,6667 24 1 ' 1 1 0

1 , ' (0 - 0,6667 -1,3333 0 - 0,6667

-1у- 1 ' ' '

- 2

- 3

- 4 V-5 у

Л(Л )'Х1 =

1

11

1

' 1 ' ' (-1 - 2,6667 - 4,3333 - 4 -1,6667 А2 (А) 'X1- X 2 =1 2 ^ 1 ' 1 2 I- 2 - 3 0 -1 - 2

' 1 ' ' 1 (А2 (АГ1)'X1 - X2 1 АД - Г) =

X1А1-1 А2 =

43,6667 22

1Л

X1А1-1 А2 - X 2 =

( 0 - 0,3333 1 -1,6667 1 01 ч- 0,3333 1

( -1 - 2 Л

- 2,6667 - 3

- 4,3333 0 - 4 -1

-1,6667 - 2

' 1 ' ' 1

(А2 (АГ1) 'X - X2 )(X1 АГ1 А2 - X2) =

45,6667 17,3333

17,3333

18

г ' 1 ' ' 1 т (0,034512 - 0,03323

[ (А2 (А1-1)'X1 - X2 )(X1А1-1 А2 - X2) ]-1 =1 1 2 1 1 2 1 1 2 21 0,03323 0,087558

Отсюда по формуле (6) имеем:

,2 (Ь2Л (0,034512 -0,0332343,66671 (0,7759

Ъ3) V- 0.03323 0,087558

22

0,4751

Далее находим:

А^ =

А1-1 А2Ъ2 =

А1 А2 =

1,3333 1 ,- 0,6667 0,

1,50959 ^ - 0,51725)

По формуле (5) определяем остальные параметры:

(Ъ0 Л (11 ( 1,50959 1 (- 0,509591

Ь1 =

V Ъ1)

V0) V

0,51725

- 0,51725,

V 7 / \ /

Таким образом, найден искомый вектор параметров

(Ь0 ^ (-0,50959"

Ъ1 0,51725

Ь2 0,77588

V Ь3 ) ч 0,47507 ,

Ъ =

Нетрудно убедиться, что найденные параметры удовлетворяют ограничениям (7).

В итоге получено уравнение множественной регрессии:

у = -0,509 + 0,517х1 + 0,776х2 + 0,475х3.

2. Нелинейная модель

Рассмотрим класс нелинейных регрессий, которые линейны относительно оцениваемых параметров:

~ = К + ^/ЮО + Ъ2 /2

Требуется на основе статистических данных, представленных в таблице 1, оценить параметры Ъ0, Ъ1,..., Ър, которые должны удовлетворять

системе линейных ограничений (2).

Выполним линеаризацию уравнения регрессии (8), введя в рассмотрение новые переменные

21 = /l(xl), 2 2 = /2( x2),..., 2р = /р (хр ).

Тогда относительно новых переменных уравнение станет линейным:

У = Ъ0 + Ъ1 21 + Ъ222 + ... + ЪР2Р .

Введем в рассмотрение числовую матрицу

1 211 221 2 1 212 2 22

г =

"р1

"р 2

1

V _ ~ 1п 2п рп )

где 211 = /1( xl1), 2 21 = /2( Х21 2рп = /р (хрп ).

Представим матрицу г в виде двух подматриц: 1

1 212

1 21,

( ,

г 2 =

2.

, 2

V 2,п

* ,—1 п )

2 Л

2р1

2Р 2

2Р

'г+1п " рп )

Тогда по аналогии с предыдущими преобразованиями получим следующую формулу

(К Л ъ.

для получения вектора ^ 2 =

V Ьр )

ь2 = [

Далее по формуле (5) вычисляется вектор

Ь1 =

(Ь Л

К-1

1

2

Ъ

Пример 2

Требуется оценить параметры множественной линейной регрессии

у = Ь0 + Ь'^х, + Ь2 — + Ь31п Xз,

b1 =

когда они должны удовлетворять следующим ограничениям:

2Ь0 + Ь, + 2Ь2 + 2Ь3 = 2, Ь0 + 2Ь, + Ь3 = 1. Для решения задачи получены статистические данные (табл. 3).

Таблица 3

Номер наблюдения y *1 X2 X3

1 2 2 1 3

2 3 3 2 4

3 4 4 3 1

4 5 2 4 2

5 6 3 1 3

Находим матрицу Z: f1 1,41421 1 1,09861 ^ 1 1,73205 0,5 1,38629 Z = 1 2 0,33333 0 1 1,41421 0,25 0,69315 1 1,73205 1 1,09861

и соответствующие подматрицы

Z1 =

f1 1,41421^ 1 1,73205 12 1 1,41421 1 1,73205

(

Z 2 =

1

0,5 0,33333 0,25 1

1,09861 ^ 1,38629 0

0,69315 1,09861

b2 =

По формуле (10) вычисляем вектор b2

f 5,41955 ^ v- 2,55569)

С использованием формулы (5) находим вектор

b1

3,670381 3,61303

В итоге получено искомое уравнение регрессии:

у = -3,67038 + 3,61303/Х1 + 5,41955— - 2,555691п x3.

Х2

Можно убедиться, что найденные параметры удовлетворяют требуемым ограничениям (11).

Если регрессия нелинейная по оцениваемым параметрам, то единого универсального метода оценивания параметров при наличии ограничений на них получить не удаётся. В этом случае для каждого вида нелинейности требуется получить свой метод решения.

Литература

1. Аглиуллин И.Н., Кирпичников А.П., Чони Ю.И. Аппроксимация комплекснозначных функций с использованием приближенных формул для вычисления модуля комплексного числа//Вестник технологического университета. - 1015. - Т.18, №10. -с.142-147.

2. Вучков И. Прикладной линейный регрессионный анализ / И. Вучков, Л. Бояджиева, Е. Солаков. - М.: Финансы и статистика, 1987. -239 с.

3. Исмагилов И.И., Кирпичников А.П., Костромин А.В., Хасанова С.Ф. Применение быстрого дискретного преобразования к фазовому сплайн-анализу макроэкономической динамики // Вестник технологического университета. - 2015. - Т.18, №7. -с. 231-235.

4. Исмагилов И.И. Наклонные функции Радемахера: свойства и применение в задачах цифровой обработки сигналов //Известия вузов. Радиоэлектроника. - 1996. -№12. - с.11-16.

5. Исмагилов И.И. Дискретные преобразования в базисах кусочно-степенных функций и их свойства / И. И. Исмагилов // Известия вузов. Радиоэлектроника. - 2001. - №3. - с. 54-59.

6. Исмагилов И.И. Косоугольные обобщения дискретных базисов Уолша // Известия вузов. Радиоэлектроника. -2010. - №12. - с. 1-16.

7. Тихомиров Н.П., Дорохина Е.Ю. Эконометрика: Учебник. - М.: Издательство «Экзамен», 2003. - 512с.

8. Фихтенгольц Г.М. Курс дифференциального и интегрального исчисления, т.1. - М.: Издательство «Наука», 1970. - 608с.

© В. А. Талызин - кандидат техн. наук, доцент кафедры экономико-математического моделирования ИУЭиФ КФУ, e-mail: tlk08@yandex.ru; А. П. Кирпичников - д-р физ.-мат. наук, зав. кафедрой интеллектуальных систем и управления информационными ресурсами КНИТУ, e-mail: kirpichnikov@kstu.ru.

© V. A. Talyzin PhD of Technical Sciences, docent of the Department of Economical-mathematical modeling in the Institute of Management, Economics and Finance of Kazan Federal University, e-mail: tlk08@yandex.ru; А. P. Kirpichnikov - Doctor of Physical and Mathematical Sciences, Professor, Head of the Department of Intelligent Systems & Information Systems Control in Kazan Scientific Research Technical University, e-mail: kirpichnikov@kstu.ru.

2