Проверка гипотез при регрессии с нечеткими данными

Проверка гипотез при регрессии с нечеткими данными

Вельдяксов В.Н., Шведов А.С.

Регрессионный анализ широко применяется в научных разработках, и нечеткая линейная регрессия является активно развивающейся областью исследований. Это связано с тем, что во многих реальных задачах зависимые или независимые переменные не представляют собой действительные числа. Регрессионные модели с нечеткими данными рассматриваются при различных типах зависимых и независимых переменных.

В настоящей работе изучается модель регрессии у7 = А + Ьх7 + £7, 7 = 1,...,п, где А,хх,...,хп - нечеткие числа; Ь - действительное число; £2,...,£п,у1...,уп - нечетко-случайные величины.

В предыдущей работе авторов [Вельдяксов, Шведов, 2014] с использованием метода наименьших квадратов построены оценки для коэффициентов А, Ь. При построении этих оценок используются методы вариационного исчисления. Указанные оценки являются развитием ранее известных оценок, относящихся к случаю, когда А - действительное число.

Основной акцент в работе [Вельдяксов, Шведов, 2014] делается на построении оценки для коэффициента А. Однако получена и некоторая оценка для коэффициента Ь. В первой части настоящей работы доказывается, что оценка для коэффициента Ь, полученная в статье [Вельдяксов, Шведов, 2014], обладает свойством несмещенности. При доказательстве существенную роль играет новое определение нечетко-случайных величин из работы [Шведов, 2013].

Во второй части настоящей работы на ряде расчетов проводится сравнение доверительных интервалов для коэффициента Ь и бутстреп процентных интервалов для этого коэффициента. Установлено, что совпадение длин этих интервалов улучшается при увеличении размера выборки п.

Данный вывод, а также несмещенность оценки для коэффициента Ь позволяют предложить процедуру проверки гипотезы о конкретном значении для коэффициента Ь в приведенной регрессионной модели.

Ключевые слова: простая регрессия; нечетко-случайные величины; проверка гипотез; доверительные интервалы; бутстреп-процентные интервалы.

Вельдяксов Василий Николаевич - аспирант кафедры математической экономики и эконометрики НИУ ВШЭ. E-mail: veldyaksov@gmail.com

Шведов Алексей Сергеевич - профессор кафедры математической экономики и эконометрики НИУ ВШЭ. E-mail: ashvedov@hse.ru

Статья поступила в Редакцию в сентябре 2014 г.

1. Введение

Математическое описание неопределенности имеет большое практическое значение, в том числе и в экономических задачах. Традиционно для этого используется теория вероятностей, основное понятие в которой - это случайная величина. Другой подход к описанию неопределенности дан в 1965 г. в работе [Zadeh, 1965], где предлагается понятие нечеткого множества. Если теория случайных величин направлена на передачу в математической модели вероятностей различных значений, то теория нечетких множеств применяется для моделирования размытости самих значений. После опубликования работы [Zadeh, 1965] теория нечетких множеств стала интенсивно развиваться и в настоящее время используется в различных прикладных областях. Естественным является объединение обоих подходов, случайного и нечеткого. Понятие нечетко-случайной величины дает один из путей такого объединения. Изучение нечетко-случайных величин начато в работах [Kwakernaak, 1978; Puri, Ralescu, 1986]. Нами используется определение нечетко-случайной величины из работы [Шведов, 2013]. Общая идея этого определения совпадает с идеей, используемой в предшествующих работах. Нечетко-случайная величина - это та же случайная величина, т.е. измеримая функция, только значениями этой функции являются не обычные действительные числа, а нечеткие числа. Однако детали определения в данном случае существенны (подробнее см.: [Шведов, 2013]).

Обычно теория статистического вывода основывается на применении случайных величин. Однако в последние десятилетия получили распространение и нечеткие подходы в статистике (см., например: [Colubi, 2009; Filzmoser, Viertl, 2004; Gil, Montenegro, González-Rodríguez, Colubi, Casals, 2006; Taheri, 2003; Viertl, 2006]). Если говорить о нечетком регрессионном анализе, то, по-видимому, число публикаций, где обсуждаются способы статистического вывода относительно коэффициентов регрессии, значительно уступает числу публикаций, в которых строятся оценки для этих коэффициентов. Некоторый обзор публикаций, основным направлением которых является построение оценок для коэффициентов нечеткой регрессии, дается в статье [Вельдяксов, Шведов, 2014]. Из работ, где обсуждаются способы статистического вывода относительно этих коэффициентов, назовем исследования [Akbari, Mohammadalizadeh, Rezaei, 2012; Arnold, Gerke, 2003; González-Rodríguez, Blanco, Corral, Colubi, 2007; Nather, 2006]. В работе [Lin, Zhuang, Huang, 2012] тест о нулевом значении коэффициента при независимой переменной в уравнении нечеткой регрессии из работы [González-Rodríguez, Blanco, Corral, Colubi, 2007] применяется для анализа экономических данных. Одним из основных подходов к задачам статистического вывода при нечеткой постановке в указанных, а также в других работах является бутстреп.

В разделе 2 настоящей работы доказывается несмещенность оценки из статьи [Вельдяксов, Шведов, 2014] для коэффициента при независимой переменной. В разделе 3 проводится численное сравнение доверительных интервалов с последующим применением результатов этого сравнения для проверки гипотез о конкретном значении коэффициента при независимой переменной в модели нечеткой регрессии.

2. Несмещенность оценки для коэффициента при независимой переменной

Изучается модель регрессии у7 = А + Ьх7 +£,г = 1,...,п, где А,х2,...,хп - нечеткие числа; Ь - действительное число; £2,...,£п,у2...,уп - нечетко-случайные величины.

Определение нечеткого числа К, его левого индекса к1(п) и правого индекса к2(п) даются в работе [Вельдяксов, Шведов, 2014] и здесь повторяться не будут. Также не будут повторяться приводимые в указанной работе определения сложения нечетких чисел и умножения нечеткого числа на действительное число. Результатом каждой из этих операций является нечеткое число.

Ожиданием нечеткого числа К называется действительное число

Е (К) = р

1 к1(П) + к2(П) ап

Такой способ дефазификации является широко употребительным.

В сжатом виде приведем определения нечетко-случайной величины, нечеткого ожидания и ожидания из работы [Шведов, 2013]. Пусть £ - вероятностное пространство. Нечетко-случайная величина - это функция А, определенная на множестве £ такая, что А(ю) является нечетким число при любом юе £. В работе [Шведов, 2013] доказывается, что левый индекс а1(ю,п) и правый индекс а2(ю,п) нечетко-случайной величины А при фиксированном п являются измеримыми функциями и аргумента ю, и накладывается условие ограниченности этих функций. Нечеткое ожидание нечетко-случайной величины А - это нечеткое число с левым и правым индексами

аеДп) = ^ (ю,Ц)^Р, ае2(п) = ^(ю,п)^Р

соответственно. Ожиданием нечетко-случайной величины А называется ожидание ее нечеткого ожидания и обозначается Е (А).

Если А и В - нечетко-случайные величины, X - действительное число, то

Е(А + В) = Е(А) + Е(В), Е(ХА) = ХЕ(А).

Поскольку при умножении нечеткого числа на отрицательное действительное число левый и правый индексы нечеткого числа меняются местами, а при умножении на положительное действительное число не меняются, рассуждения для регрессионной модели с Ь > 0 и для регрессионной модели с Ь < 0 оказываются не совсем одинаковыми.

Индексы нечеткого числа хг обозначим х71(п) и хг2(п). Определим нечеткое чис-

_ 1 п _ _

ло х = — У хг, индексы этого нечеткого числа обозначим х1(п) и х2(п). Индексы не-

п г =1

0

четко-случайных величин уг и ег- обозначим соответственно Уг1(п), Уг2(П) и £г1(п), Zi2(п). Определим нечетко-случайные величины

_ 1 п _ 1 п

у=- X У1, е=1X.

п г =

г =1

г =1

Индексы этих нечетко-случайных величин обозначим у1(п), у2(п), £1(п), е2(П).

Тогда Уг 1 (п), Уг2(п), еп(п), ег2(п), У1(п), У2(п), ^(п), £2(п) пРи фиксиРованном пе [0,1] являются случайными величинами.

В разделе 3 будем считать, что нечетко-случайные величины £1,...,£п независимы (определение независимости нечетко-случайных величин см. в работе [Шведов, 2013]), но в данном разделе независимость этих нечетко-случайных величин не используется, здесь используется лишь условие, что при любом п е [0,1]

Е(е„(п)) =... = Е(£п1 (п)), Е(£12(п)) =... = ЕМп)).

Пусть

п 1 п 1

I = X |v1M)uJM)dп, 12 = X IV]2(п)"у2 (п¥п,

]=1 0 ]=1 0 п 1 п 1

•л=XIV ]1(п)и] 2(п)d п •2 = X ]Ч 2 ( п)М]1(п)<^ п,

]=1 0 ] =1 0 п 1 п 1

К = X |м2(пМп, К2 = X Iи]2 (п¥п,

] =1 0

] =1 0

где

(п) = х]к (п) - (п), V]* (п) = Уд (п) - Ук (п),

] = 1,...,п; к = 1,2.

Оценка (А, Ь) для коэффициентов регрессии (А,Ь) в работе [Вельдяксов, Шведов, 2014] строится следующим образом. При

Ьр = тах

V К1 + К2 У

, Ьт = т1П

V К1 + К 2 У

1 п

М п)=- X ((1(п) - ЬРХ]1 (п)), п ]=1

1 п

ар 2 (п) = - Ё (( 2 ( п) - Ьрх} 2 (п)) , п 1 =1 1п

ат1 (п) = - Ё ( (п) - Ь„х} 2 (n)), п 1 =1 1п

ат2 (п) = - Ё (( 2 (п) - Кхл (n)),

п 1 =1

п 1

НР = Ё К (п) - Ьрхп (п) - ар1 (п))2 <* п

1=1 о

п1

+Ё |(уу2(п) - Ьрх}2(п) - ар2(п))2 ^п

1 =1 о

п1

Нт = Ё К (п) - Ьтх 12 (п) - ат1 (п))2 <*п

1=1 0

п1

+Ё К2 (п) - Ьтх]1 (п) - ат2 (п))2 ^п

1 =1 0

принимается (А,Ь) = (Ар,Ьр), если Нр <Нт, и принимается (А,Ь) = (Ат,Ьт), Н > Нт. (Может оказаться необходимой корректировка какой-то из функций ар1(п), ар2(п), ат1(п), ат2(п), если эта функция не удовлетворяет условиям, которым должен удовлетворять индекс нечеткого числа.) В последних формулах у1...,уп - это нечеткие числа, являющиеся реализациями нечетко-случайных величин у1...,уп. Здесь Ар - нечеткое число с индексами ар1(п), ар2(п); Ат - нечеткое число с индексами ат1(п), ат2( п). _

Несмещенность оценки Ь будем понимать в том смысле, что при Ь > 0

+

если

{ Т т > 1 +12

V К1 + К 2 У

= Ь

и при Ь < 0 Е

( т т >

+ ^ 2

V К1 + К 2 У

= Ь.

Свойство несмещенности оценки Ь является очень важным. Например, если рассмотреть оценку коэффициента Ь для случая, когда А - действительное число (эта

оценка приводится и в работе [Вельдяксов, Шведов, 2014], формулы (9), (10)), то расчеты показывают, что данная оценка является сильно смещенной. И при этом оказывается невозможной замкнутая процедура построения доверительных интервалов и проверки гипотез.

Доказательство несмещенности оценки Ь проведем для случая, когда все нечеткие числа, в том числе и являющиеся значениями нечетко-случайных величин, трапецеидальные (хотя с применением теоремы Фубини результат верен и не только для трапецеидальных нечетких чисел). В случае трапецеидальных нечетких чисел все индексы являются линейными функциями аргумента п, поэтому

I = 3 £ {(0)МЛ (0) +1(1) + 2(0) + (1)^ ,

12 = 3 £ ( ^ 2(0)и; 2(0) + 2 V. 2 (0)иу 2(1) + 2 V. 2 (1)и у 2(0) + V,- 2 (1)иу 2(1) ^,

= | £ ^ У^и. 2(0) + 1 V;l(0)u; 2(1) + 2 У;1(1)и; 2(0) + У;,(1)и;. 2(1) | 32 = 3 £ ^ 2(0)и.1(0) + 2 V. 2 (0)и .1 (1) + 2 у. 2 (1)и.1 (0) + V, 2(1)и.,(1) ^, К1 = 3 £ ( и.1 (0)и ,1 (0) + 2 и.1 (0)и;1 (1) + ^ и.1 (1)и ,1 (0) + и.1 (1)и.1 (1) |

1 п г 1 1 ^

К2 = 3£ ^и. 2 (0)и.2 (0) + -иу 2 (0)иу2 (1) + 2и. 2 (1)иу 2 (0) + и. 2 (1)и. 2 (1) J.

Пусть Ь > 0. Тогда из регрессионной модели следует, что при любом п^ [0,1]

Е (.у,, (п)) = а, (п) + Ьхп (п) + Е (ег1 (п)), Е (у, 2(п)) = а2(п) + Ьх, 2(п) + Е (, 2(n)),

1 = 1,...,п. А также

Е ((п)) = аДп) + ЬхДп) + Е (г?1(п)), Е (У2 (п)) = а2 (п) + Ьх2 (п) + Е ((п)).

С учетом определения Уг1(п),V,-2(п) и условий, наложенных на нечетко-случайные величины £,, получаем

E (Vn (n)) = b (((n) - x (n)) = bun (n),

E (vi 2(n) ) = b (2(n) - x2(n) ) = bU 2(n). Поэтому для трапецеидальных нечетких чисел

E(Ii) = K E(12) = bK2.

И несмещенность оценки b при b > 0 доказана.

Пусть b < 0. Тогда из регрессионной модели следует, что при любом n^ [0,1]

E (y 1 (n)) = «i (П) + bxt 2 (n) + E (£ 1 (п)), E (2 (n)) = «2 (n) + bXi (n) + E 2 (n)),

i = 1,..., и.

E (y 1 (n)) = «1 (n) + b X2 (n) + E (£1 (n)), E ((n)) = «2 (n) + bx1(n) + E ((n)).

Следовательно,

E (Vi1 (n)) = b (xi 2 (n) - X2 (n)) = Ьщ 2 (n), E (Vi 2 (n) ) = b ((n) - X1(n)) = bun(n).

Поэтому для трапецеидальных нечетких чисел E(J1) = bK2, E(J2) = bK1. Несмещенность оценки b доказана и при b < 0.

3. Доверительные интервалы, проверка гипотез

В первое десятилетие, после того как бутстреп был предложен, были предприняты серьезные попытки дать математическое обоснование этого метода, получены глубокие результаты, в том числе и относящиеся к задачам регрессии (см., например: [Singh, 1981; Bickel, Freedman, 1981; Freedman, 1981]). Но, как это часто бывает и с другими серьезными и важными вычислительными методами, область применения метода оказывается шире, строгое математическое обоснование имеется лишь для некоторых частных случаев. Правомерность применения метода в других случаях проверяется расчетами. Разумеется, при этом должна продолжаться и работа по расширению той области, для которой метод строго математически обоснован.

В классической эконометрике (при отсутствии нечеткости) для проверки гипотез, связанных с коэффициентами регрессии, может быть сделано предположение о нормальном распределении ошибок, может использоваться центральная предельная теорема

(при достаточно больших размерах выборки), может и бутстреп. В задачах нечеткой регрессии бутстреп выходит на первый план.

План этого раздела такой. Сначала при известных коэффициентах уравнения регрессии А, Ь и при известном распределении ошибок £г с использованием всей этой ин-

формации методом симулирования определяются квантили порядка аи порядка

1 --

распределения вероятностей случайной величины Ь. Здесь а - некоторое малое положительное число. Проверяется, что истинное значение коэффициента Ь близко к середине интервала, концами которого являются эти квантили (здесь ключевую роль играет

установленный в разделе 2 результат о несмещенности оценки Ь). Затем для этих же значений коэффициентов регрессии и этого же распределения ошибок симулируется не-

ГхЛ (х \

четкая выборка

V у у

у«

, которая объявляется основной выборкой для процедуры

бутстрепа (сделаем уточнение, что симулируются лишь нечеткие числа у1,...,уп; нечеткие числа х1,...,хп остаются фиксированными для всего расчета). С использованием

только этой основной выборки строятся бутстреп-процентные интервалы для Ь при тех

Проверяется совпадение длин доверительных интервалов

а

же значениях — и 2

г а 1 -2

для коэффициента Ь , построенных на первом этапе расчета, и длин бутстреп-процент-ных интервалов, построенных на втором этапе расчета; это совпадение оказывается в ряде случаев удовлетворительным, в ряде случаев хорошим (в зависимости от длины выборки п ). На основании этого вывода длины бутстреп-процентных интервалов оказывается возможным использовать в качестве длин доверительных интервалов при проверке гипотез о конкретном значении коэффициента при независимой переменной в уравнении регрессии.

В этом разделе приводится описание результатов для четырех серий расчетов. В каждой серии расчетов рассматриваются выборки размера п = 125, п = 500, п = 2000. Степень нечеткости и для независимых переменных х1,...,хп, и для ошибок £1,...,£п характеризуется положительным числом С; рассматриваются два значения С = 0,4 и С = 0,8. Рассматриваются три формы распределения вероятностей ошибок £1,...,£п : с легкими хвостами, с тяжелыми хвостами, и с очень тяжелыми хвостами. Кроме того, распределение вероятностей ошибок характеризуется некоторым параметром а, который можно было бы назвать стандартным отклонением, если бы речь шла о случайных величинах, а не о нечетко-случайных величинах. Однако выяснилось, что отношения длин интервалов зависят от этого параметра слабо, поэтому во всех расчетах используется одно значение: а = 0,25. Таким образом, каждая серия содержит 18 расчетов; в каждом расчете определяются одно значение для длины доверительного интервала и одно значение для длины бутстреп-процентного интервала.

Все нечеткие числа, используемые и в качестве независимых переменных х1,...,хп, и в качестве значений нечетко-случайных величин £1,..., £п, являются треугольными.

В каждой из четырех серий расчетов при данном п независимые переменные х1,...,хп остаются фиксированными. Именно набором независимых переменных одна серия расчетов отличается от другой. Для построения нечетких чисел х1,...,хп используются 2п равномерно распределенных на отрезке [0,1] случайных чисел ^1,...,^2п. Нечеткое число хг - это равнобедренный треугольник, вершина которого имеет абсциссу 10^. - 5 и ординату 1, основанием треугольника является отрезок [10^- - 5 - СЪ,п+7,10^г - 5 + С^п+г ], расположенный на оси абсцисс; г = 1,..., п.

Во всех расчетах в качестве нечетко-случайной величины £г берется дискретная

нечетко-случайная величина, принимающая М значений; однако распределение вероятностей этой нечетко-случайной величины имитирует некоторое известное вероятностное распределение; М = 161. Все используемые нечетко-случайные величины независимы. При каждом г = 1,...,п нечетко-случайная величина £г с вероятностью рт принимает значение, равное равнобедренному треугольнику, вершина которого имеет абсциссу |т = -10а + 20а(т-1)/М + 10а/М и ординату 1, основанием треугольника является отрезок [|т - С/2,|т + С/2], расположенный на оси абсцисс; т = 1,...,М.

При использовании распределения с легкими хвостами принимается

При использовании распределения с тяжелыми хвостами принимается

При использовании распределения с очень тяжелыми хвостами принимается

На первом этапе расчета для изучения распределения статистики Ь необходимо использовать конкретные значения коэффициентов А и Ь . Во всех расчетах принято А = 1,2 (четкое число), Ь = 0,75. Также во всех расчетах берется а = 0,05. При N = 1000 следующие действия повторяются N раз:

• симулирование значений нечетко-случайных величин £1;..., £п;

• вычисление нечетких чисел у1,...,уп по формуле У7 = А + Ьх7 + £, 7 = 1,...,п;

• расчет Ь по методу наименьших квадратов, как это описано в разделе 2. Полученные N значений статистики Ь упорядочиваются:

Ь(1) ^ Ь(2) ^ ... ^ Ь(N).

В качестве 100(1 — а) -процентного доверительного интервала для Ь принимается

(Ь( ^^ Ь( N2)), где N1 =

(N+1) а

N2=

(N+1)| 1 -а

. Здесь [г] - ближайшее целое чис-

ло к действительному числу г.

На втором этапе расчета все вычисления производятся лишь исходя из основной

выборки

V

V У1 у

лп

V Уп у

. Данная выборка симулируется при помощи известной регресси-

онной модели тем же способом, что и на первом этапе расчета. При 3 = 1000 следующие действия повторяются 3 раз:

взятие бутстреп-выборки

у *Л Х1

V У1 у

у * \ х„

Уп

из основной выборки. Для этого исполь-

зуются п равномерно распределенных на отрезке [0,1] случайных чисел ^1,...,^п. При ] = 1,...,п в случае попадания ^^ в полуинтервал

• расчет Ь по методу наименьших квадратов, как это описано в разделе 2. Полученные 3 значений статистики Ь упорядочиваются:

( к — 1 к' у *Л х* * Г Хк ]

? принимается =

V п п _ V У1 V У к ,

Ь(1) ^ Ь(2) ^ ... ^ Ь(3).

В качестве 100(1 — а) -процентного доверительного интервала для Ь принимается

(Ь( Л), Ь( 3 2) ) '

Ь( Л), Ь(32)), где 31 =

(3 +1) -2

, 3 2 =

(3 +1)1 1 — -

Результаты расчетов показаны в табл. 1-4. Используется переменная t, показывающая форму распределения нечетко-случайной величины £: t = 1 - распределение с легкими хвостами, t = 2 - распределение с тяжелыми хвостами, t = 3 - распределение с очень тяжелыми хвостами. Через А обозначается 100(1 — а) -процентный доверительный

интервал для Ь; через АЬ обозначается бутстреп 100(1 — а) -процентный интервал.

|Д | , | ДЬ | - длины соответствующих интервалов; Ь - значение статистики Ь для основной выборки.

Результаты оказываются мало зависящими от параметра С . Поэтому приводятся только результаты, относящиеся к случаю С = 0,4.

Таблица 1.

Результаты для первой серии расчетов

1 125 (0,7330;0,7666) 0,0336 0,7522 (0,7360;0,7677) 0,0317 0,9429

1 500 (0,7430;0,7583) 0,0153 0,7529 (0,7444;0,7615) 0,0171 1,1150

1 2000 (0,7462;0,7539) 0,0077 0,7488 (0,7448;0,7527) 0,0080 1,0379

2 125 (0,7242;0,7749) 0,0506 0,7520 (0,7305;0,7739) 0,0434 0,8579

2 500 (0,7394;0,7626) 0,0232 0,7534 (0,7388;0,7677) 0,0289 1,2424

2 2000 (0,7444;0,7561) 0,0117 0,7487 (0,7423;0,7547) 0,0124 1,0630

3 125 (0,6472;0,8458) 0,1986 0,7638 (0,6655;0,8568) 0,1913 0,9633

3 500 (0,7086;0,7982) 0,0897 0,7665 (0,7200;0,8142) 0,0942 1,0500

3 2000 (0,7271;0,7720) 0,0449 0,7408 (0,7176;0,7625) 0,0449 0,9996

Результаты для второй серии расчетов Таблица 2.

1 125 (0,7351;0,7648) 0,0297 0,7660 (0,7492;0,7814) 0,0322 1,0851

1 500 (0,7417;0,7572) 0,0155 0,7528 (0,7454;0,7604) 0,0150 0,9675

1 2000 (0,7463;0,7537) 0,0074 0,7510 (0,7473;0,7550) 0,0078 1,0493

2 125 (0,7272;0,7734) 0,0462 0,7756 (0,7519;0,7985) 0,0466 1,0102

2 500 (0,7372;0,7618) 0,0246 0,7537 (0,7426;0,7647) 0,0221 0,8999

2 2000 (0,7441;0,7559) 0,0118 0,7517 (0,7460;0,7577) 0,0117 0,9951

3 125 (0,6624;0,8367) 0,1742 0,8336 (0,7328;0,9286) 0,1957 1,1236

3 500 (0,7061;0,7927) 0,0866 0,7680 (0,7234;0,8120) 0,0885 1,0222

3 2000 (0,7278;0,7715) 0,0437 0,7547 (0,7330;0,7776) 0,0446 1,0219

Таблица 3.

Результаты для третьей серии расчетов

1 125 (0,7353;0,7661) 0,0309 0,7386 (0,7254;0,7524) 0,0271 0,8766

1 500 (0,7429;0,7575) 0,0146 0,7543 (0,7468;0,7616) 0,0147 1,0096

1 2000 (0,7464;0,7537) 0,0074 0,7481 (0,7442;0,7520) 0,0078 1,0615

2 125 (0,7261;0,7749) 0,0487 0,7342 (0,7164;0,7539) 0,0375 0,7708

2 500 (0,7395;0,7618) 0,0223 0,7549 (0,7436;0,7657) 0,0220 0,9874

2 2000 (0,7444;0,7559) 0,0114 0,7477 (0,7417;0,7536) 0,0119 1,0364

3 125 (0,6658;0,8446) 0,1787 0,6792 (0,5979;0,7636) 0,1657 0,9273

3 500 (0,7084;0,7918) 0,0834 0,7764 (0,7339;0,8181) 0,0842 1,0098

3 2000 (0,7295;0,7726) 0,0431 0,7378 (0,7162;0,7597) 0,0435 1,0091

Таблица 4.

Результаты для четвертой серии расчетов

1 125 (0,7349;0,7654) 0,0305 0,7461 (0,7339;0,7589) 0,0250 0,8203

1 500 (0,7427;0,7575) 0,0148 0,7445 (0,7371;0,7521) 0,0150 1,0140

1 2000 (0,7464;0,7540) 0,0076 0,7502 (0,7466;0,7539) 0,0073 0,9606

2 125 (0,7258;0,7735) 0,0477 0,7444 (0,7268;0,7626) 0,0358 0,7490

2 500 (0,7388;0,7613) 0,0225 0,7411 (0,7304;0,7517) 0,0213 0,9484

2 2000 (0,7443;0,7561) 0,0118 0,7502 (0,7446;0,7559) 0,0113 0,9544

3 125 (0,6607;0,8345) 0,1739 0,7261 (0,6498;0,8110) 0,1611 0,9268

3 500 (0,7092;0,7914) 0,0823 0,7245 (0,6813;0,7697) 0,0884 1,0748

3 2000 (0,7288;0,7730) 0,0442 0,7529 (0,7312;0,7752) 0,0440 0,9958

В небольшом числе расчетов различие в длинах доверительных интервалов и в длинах бутстреп-процентных интервалов составляет около 20%. (Расчет с t = 2, п = 500 из первой серии; расчет с t = 2, п = 125 из третьей серии; расчет с t = 1, п = 125 из чет-

вертой серии; расчет с t = 2, n = 125 из четвертой серии.) В других расчетах различие меньше. И такого большого различия нет ни в одном расчете с n = 2000. Это подтверждает теоретические результаты о сходимости для бутстреп-метода.

Как и для доверительных интервалов, длины бутстреп-процентных интервалов уменьшаются примерно вдвое при увеличении размера выборки в четыре раза.

Отметим также достаточно хорошее соответствие середин построенных доверительных интервалов и теоретического значения b = 0,75 для всех расчетов.

Очень интересным является то, насколько хорошо в бутстреп-методе воспроизводится зависимость длины интервала от распределения вероятностей ошибок. Так, во второй серии расчетов при n = 2000 длины доверительных интервалов и бутстреп-про-центных интервалов составляют соответственно 0,0074 и 0,0078 для распределения с легкими хвостами, 0,0118 и 0,0117 для распределения с тяжелыми хвостами, 0,0437 и 0,0446 для распределения с очень тяжелыми хвостами. При том, что, разумеется, никакой информации о распределении вероятностей при построении бутстреп-процентных интервалов не используется, эти интервалы стороятся только по основной выборке. Закономерно, что длины доверительных интервалов возрастают при увеличении тяжести хвостов.

Для проверки гипотезы о конкретном значении для коэффициента при независимой переменной в уравнении регрессии может быть использована обычная двойственность между проверкой гипотез и построением доверительных интервалов, если за длину доверительного интервала принять длину бутстреп-процентного интервала.

В литературе значительное внимание уделяется ускорению сходимости для бут-стреп-метода, чтобы результаты хорошей точности получались для выборок меньшего размера n. Если говорить о доверительных интервалах для коэффициента при независимой переменной в обычной (не нечеткой) регрессии, хорошие результаты по ускорению сходимости дает стьюдентизация. Исследование этого вопроса в случае нечеткой

регрессии остается предметом для дальнейшей работы.

* *

*

СПИСОК ЛИТЕРА ТУРЫ

Вельдяксов В.Н., Шведов А.С. О методе наименьших квадратов при регрессии с нечеткими данными // Экономический журнал ВШЭ. 2014. Т. 18. № 2.

Шведов А.С. О нечетко-случайных величинах: препринт WP2/2013/02. М.: НИУ ВШЭ, 2013.

Akbari M.G., Mohammadalizadeh R., Rezaei M. Bootstrap Statistical Inference about the Regression Coefficients Based on Fuzzy Data // International Journal of Fuzzy Systems. 2012. 14. P. 549-556.

Arnold B.F., Gerke O. Testing Fuzzy Linear Hypotheses in Linear Regression Models // Metrika. 2003. 57. P. 81-95.

Bickel P.J., Freedman D.A. Some Asymptotic Theory for the Bootstrap // Annals of Statistics. 1981. 9. P. 1196-1217.

Colubi A. Statistical Inference about the Means of Fuzzy Random Variables: Applications to the Analysis of Fuzzy- and Real-valued Data // Fuzzy Sets and Systems. 2009. 160. P. 344-356.

FUzmoser P., Viertl R. Testing of Hypotheses with Fuzzy Data: The Fuzzy P-value // Metrika. 2004. 59. P. 21-29.

Freedman D.A. Bootstrapping Regression Models // Annals of Statistics. 1981. 9. P. 1218-1228. Gil M.A., Montenegro M., González-Rodríguez G., Colubi A., Casals M.R. Bootstrap Approach to the Multi-sample Test of Means with Imprecise Data // Computational Statistics & Data Analysis. 2006. 51. P. 148-162.

González-Rodríguez G., Blanco A., Corral N., Colubi A. Least Squares Estimation of Linear Regression Models for Convex Compact Random Sets // Advanced Data Reporting and Analysis Private Class. 2007. 1. P. 67-81.

Kwakernaak H Fuzzy Random Variables - I. Definitions and Theorems // Information Sciences. 1978. 15. P. 1-29.

Lin J.-G., Zhuang Q.-Y., Huang C. Fuzzy Statistical Analysis of Multiple Regression with Crisp and Fuzzy Covariates and Applications in Analyzing Economic Data of China // Computational Economics. 2012. 39. P. 29-49.

Näther W. Regression with Fuzzy Random Data // Computational Statistics and Data Analysis. 2006. 51. P. 235-252.

Puri M.L., Ralescu D.A Fuzzy Random Variables // Journal of Mathematical Analysis and Applications. 1986. 114. P. 409-422.

Singh K. On the Asymptotic Accuracy of Efron's Bootstrap // Annals of Statistics. 1981. 9. P. 11871196.

TaheriS.M. Trends in Fuzzy Statistics // Austrian Journal of Statistics. 2003. 32. P. 239-257. Viertl R. Univariate Statistical Analysis with Fuzzy Data // Computational Statistics and Data Analysis. 2006. 51. P. 133-147.

Zadeh L.A. Fuzzy Sets // Information and Control. 1965. 8. P. 338-353.

Hypothesis Testing in Regression Models with Fuzzy Data

Veldyaksov Vasily1, Shvedov Alexey2

1 National Research University Higher School of Economics, 20, Myasnitskaya ul., Moscow, 101990, Russian Federation.

E-mail: veldyaksov@gmail.com

2 National Research University Higher School of Economics, 20, Myasnitskaya ul., Moscow, 101990, Russian Federation.

E-mail: ashvedov@hse.ru

Regression analysis is in wide use in scientific investigation. Fuzzy linear regression is an actively developing area of research since in many real-life situations dependent or independent variables are not given as real numbers. The regression problem with fuzzy data is treated in the literature with different kinds of input-output data.

We consider the model yi = A + bxt + £, i = 1,...,n, where A,xj,...,xn - fuzzy numbers; b - real number; £j,...,£n, yj...,yn - fuzzy random variables.

In [Veldyaksov, Shvedov, 2014] A,b estimates were proposed, using ordinary least squares approach. The estimates rely on calculus of variations, and on previous research conducted for the case when A is a crisp (real) number.

Estimate for b is also proposed in [Veldyaksov, Shvedov, 2014]. In first part of this paper, we prove that this estimate is unbiased. We use new fuzzy random variables definition from [Shvedov, 2013].

In second part of this paper we refer to a number of numerical tests to compare confidence intervals for b coefficient, calculated both using traditional approach, and bootstrap approach. We show that the intervals become closer, as number of observations grows. We also propose a procedure for hypothesis testing for b coefficient in regression models with fuzzy data.

Key words: simple regression; fuzzy random variables; hypothesis testing; confidence intervals; bootstrap percentile intervals.

JEL Classification: C14, C32.

* * *

References

Vel'djaksov V.N., Shvedov A.S. (2014) O metode naimen'shih kvadratov pri regressii s nechetkimi dannymi [On Fuzzy Least-squares Regression Analysis]. Ekonomicheskii zhurnal VSE, vol. 18, no 2.

Shvedov A.S. (2013) O nechetko-sluchajnyh velichinah [On Fuzzy Random Variables]. Working Paper WP2/2013/02, Moscow: HSE.

Akbari M.G., Mohammadalizadeh R., Rezaei M. (2012) Bootstrap Statistical Inference about the Regression Coefficients Based on Fuzzy Data. International Journal of Fuzzy Systems, 14, pp. 549-556.

Arnold B.F., Gerke O. (2003) Testing Fuzzy Linear Hypotheses in Linear Regression Models. Met-rika, 57, pp. 81-95.

Bickel P.J., Freedman D.A. (1981) Some Asymptotic Theory for the Bootstrap. Annals of Statistics, 9, pp. 1196-1217.

Colubi A. (2009) Statistical Inference about the Means of Fuzzy Random Variables: Applications to the Analysis of Fuzzy- and Real-valued Data. Fuzzy Sets and Systems, 160, pp. 344-356.

Filzmoser P., Viertl R. (2004) Testing of Hypotheses with Fuzzy Data: The Fuzzy P-value. Metrika, 59, pp. 21-29.

Freedman D.A. (1981) Bootstrapping Regression Models. Annals of Statistics, 9, pp. 1218-1228.

Gil M.A., Montenegro M., González-Rodríguez G., Colubi A., Casals M.R. (2006) Bootstrap Approach to the Multi-sample Test of Means with Imprecise Data. Computational Statistics & Data Analysis, 51, pp. 148-162.

González-Rodríguez G., Blanco A., Corral N., Colubi A. (2007) Least Squares Estimation of Linear Regression Models for Convex Compact Random Sets. Advanced Data Reporting and Analysis Private Class, 1, pp. 67-81.

Kwakernaak H. (1978) Fuzzy Random Variables - I. Definitions and Theorems. Information Sciences, 15, pp. 1-29.

Lin J.-G., Zhuang Q.-Y., Huang C. (2012) Fuzzy Statistical Analysis of Multiple Regression with Crisp and Fuzzy Covariates and Applications in Analyzing Economic Data of China. Computational Economics, 39, pp. 29-49.

Näther W. (2006) Regression with Fuzzy Random Data. Computational Statistics and Data Analysis, 51, pp. 235-252.

Puri M.L., Ralescu D.A. (1986) Fuzzy Random Variables. Journal of Mathematical Analysis and Applications, 114, pp. 409-422.

Singh K. (1981) On the Asymptotic Accuracy of Efron's Bootstrap. Annals of Statistics, 9, pp. 11871196.

Taheri S.M. (2003) Trends in Fuzzy Statistics. Austrian Journal of Statistics, 32, pp. 239-257.

Viertl R. (2006) Univariate Statistical Analysis with Fuzzy Data. Computational Statistics and Data Analysis, 51, pp. 133-147.

Zadeh L.A. (1965) Fuzzy Sets. Information and Control, 8, pp. 338-353.