Решение задач дисперсионного и ковариационного анализа методом центра неопределенности

УДК 519.233.4+519.237.4

С.И. Жилин

Решение задач дисперсионного и ковариационного анализа методом центра неопределенности

S.I. Zhilin

Solving Problems of Dispersion and Covariation Analysis Using Uncertainty Center Method

Предложен способ решения задач дисперсионного и ковариационного анализа в рамках интервального нестатистического подхода к описанию неопределенности в данных. Способ заключается в сведении задач построения и анализа эмпирических зависимостей при необходимости учета влияния качественных факторов к задаче регрессионного анализа и ее последующем решении методом центра неопределенности.

Ключевые слова: нестатистический подход, интервальное оценивание, дисперсионный анализ, ковариационный анализ, метод центра неопределенности.

The paper describes a technique of ANOVA-type problem solving on the base of interval non-statistical approach to data uncertainty handling. The essence of the technique is to reduce a problem of building and analyzing empirical dependencies under the influence of categorical factors to the problem of regression analysis which could be solved using uncertainty center method.

Key words: non-statistical approach, interval estimates, analysis of variance, analysis of covariance, uncertainty center method.

Введение. Интервальный (нестатистический) подход к обработке и анализу экспериментальной информации основывается на описании неопределенностей в данных ограниченными множествами, чаще всего задаваемыми интервалами или их декартовыми произведениями - брусами. При этом на множествах неопределенности не вводится никаких дополнительных мер (вероятностных, нечетких и пр.). Такой взгляд на обрабатываемые данные хорошо согласуется с запросами практиков, зачастую не владеющих информацией о вероятностной структуре этих данных, особенно в случае коротких выборок.

Идейно восходя к пионерской работе Л.В. Канторовича [1] и часто совпадая содержательно, но различаясь терминологически, приемы построения и анализа эмпирических зависимостей на базе интервального подхода развиваются различными группами отечественных и зарубежных исследователей [2-9]. Выработанная техника оценивания параметров и построения прогнозов зависимостей позволяет существенно обогатить сведения, получаемые аналитиком, о восстанавливаемой зависимости и ее свойствах более традиционными статистическими методами. При этом большинство известных результатов в области интервального (нестатистического) подхода касаются постановки задачи, известной как задача регрессионного анализа, которая состоит в поиске и анализе приемлемой модели зависимости между количественными экзо-

генными и количественной же эндогенной переменными. Однако на практике при построении зависимости часто приходится сталкиваться с необходимостью учета некоторых качественных факторов. Ситуацию, когда экзогенные переменные представлены исключительно качественными факторами, обычно именуют задачей дисперсионного анализа [10, 11]. Задачу же изучения зависимости, в которой наряду с качественными имеются и количественные экзогенные факторы, принято называть задачей ковариационного анализа [10, 12]. В настоящей работе предложен способ решения задач этих двух типов в рамках интервального (нестатистического) подхода. В первом разделе работы изложены основные идеи интервального подхода, при этом используется терминология метода центра неопределенности [4, 5]. Во втором разделе показано, каким образом задачи дисперсионного и ковариационного анализа могут быть решены с помощью метода центра неопределенности. Наконец, в третьем разделе приведен простой численный пример.

1. Метод центра неопределенности. Основу метода центра неопределенности составляет техника исследования множества допустимых значений параметров зависимости, конструируемой по таблице наблюдений за экзогенными и эндогенной переменными. При этом полагается, что значения экзогенных переменных известны точно (или с пренебрежимо малыми погрешностями), а суммарная ошибка наблюдения эндогенной переменной огра-

ничена сверху по модулю величиной б . В частности, в случае построения линейно-параметризованной зависимости вида

y=Xßj

множество допустимых значений параметров зависимости представляет собой полиэдральное, а следовательно, и выпуклое множество

B = \ß =

ß. = min ßt,

ß = max ß

ßeB

i = 0,

ß=1 (ß,+ß), Aß

ßi-ß,

i = 0,

, n .

по таблице экспериментальных данных, полученной в N наблюдениях,

у. - б <\ Дх.. < у. + б . . ,

/=0 J

и = 1,..., N.

При этом В ограничено тогда и только тогда, когда ранг матрицы наблюдений X = (хи)(п+1)у^ равен

п + 1. Содержательно неограниченность множества В может интерпретироваться как недостаток эмпирической информации. Пустота множества В говорит о противоречивости собранной информации.

Главным принципом нестатистической обработки наблюдений, определяющим все последующие алгоритмы и получаемые выводы, является отсутствие каких-либо предпочтений для элементов множества В (их равноправие при выборе в качестве оценок параметров).

Ввиду сложности полного описания множества В в ряде случаев ограничиваются некоторыми его аппроксимациями. В частности, в этой роли можно использовать брусы (гиперпараллелепипеды с гранями, параллельными координатным плоскостям), охватывающие множество неопределенности В. Наименьший из таких брусов отыскивается путем решения следующих задач линейного программирования:

Интервалы [Д , Д ], I = 0,..., п, определяющие

этот брус, содержат в себе возможные точечные оценки параметров Д, а их длины могут выступать в качестве меры точности точечных оценок.

В соответствии с главным принципом нестатистической обработки наблюдений точечной оценкой параметров Д зависимости (1) в равной степени

может служить любой из элементов множества В. Известен ряд подходов к выбору представительной точки из множества В, опирающихся на различные соображения [13], но одним из наиболее простых способов построения точечной оценки

Д = |Д0,...,Дп^ является выбор в этом качестве срединной точки охватывающего бруса, отыскиваемого при решении задач (4):

2у—. ' 2

Помимо задачи точечного и интервального оценивания параметров зависимости в отношении множества B может ставиться и задача интервального оценивания выходной переменной у зависимости (1) в точке х:

у

— ßeB ßeB

Интервал [y(x), y(x)] содержит возможные значения выходной переменной y в точке х при различном выборе параметров зависимости. В качестве точечной оценки прогнозного значения зависимости (1) в точке х по аналогии с (5) может использоваться полусумма концов интервала:

у

С использованием гарантированных интервальных оценок параметров и прогнозных значений зависимости довольно просто проводится анализ значимости коэффициентов зависимости [5, 6]. В случае пустоты множества допустимых параметров зависимости B возможно выявление выбросов [14] и/или построение совместных подвыборок наблюдений [15].

Таким образом, базовые приемы метода центра неопределенности позволяют исследователю решать тот же круг вопросов, которые находятся в фокусе классического регрессионного анализа.

2. Задачи ковариационного и дисперсионного анализа. Основной прием, позволяющий при построении зависимости ввести в рассмотрение качественные факторы, состоит в использовании фиктивных переменных. В классическом статистическом анализе хорошо известны [10-12, 16] способы применения этого аппарата для сведения задач дисперсионного анализа (все факторы качественные) и ковариационного анализа (часть факторов - количественные, а часть - качественные) к задаче регрессионного анализа. В настоящем разделе будет показано, что использование того же приема при нестатистическом подходе делает возможным решение задач дисперсионного и ковариационного анализов с помощью метода центра неопределенности.

Для учета влияния на значение выходной переменной каждого из качественных факторов х , принимающих значения на L. уровнях

X = {х,0,..., ха _j}, в зависимость вводятся L. -1

фиктивных переменных, значения которых в совокупности кодируют уровень фактора х , соответствующий каждому из наблюдений. Способ выбора фиктивных переменных не единственен. Одним из наиболее простых для реализации и интерпретации является следующий вариант сопоставления уровней фактора и значений совокупности фиктивных переменных.

i=0

Один из уровней фактора выбирается в качестве эталонного, например, х10, а для остальных определяются фиктивные переменные dл,...,-1}, принимающие значения 0 или 1. Ситуация, когда все переменные da,...,d¡(^_ц равны нулю, соответствует

эталонному уровню фактора х10. Равенство единице переменной dk при нулевых значениях остальных фиктивных переменных соответствует уровню фактора ха .

Коэффициент 8Л при каждой из заданных таким способом фиктивных переменных d ¡к представляет

собой оценку так называемого чистого эффекта, т.е. разницы в значении выходной переменной, обусловленной переходом фактора х с эталонного уровня х0 на уровень хк при фиксированных значениях прочих переменных, входящих в зависимость.

После пополнения фиктивными переменными структура зависимости приобретает вид

т-1 п А_1

У = ХДЛ + ££^а ,

¡=0 ¡=т к=1

где входные переменные Х0,..., хт-1 являются количественными факторами, а качественные факторы хт,...,хп представлены группами фиктивных переменных dn,..., d¡l -1, i = да,..., п .

При т = 0 задача построения и анализа зависимости вида (2) соответствует задаче дисперсионного анализа, а при т > 0 - задаче ковариационного анализа. Для оценивания коэффициентов Д и используются методы, изложенные в предыдущем разделе.

3. Пример. Данные для примера (табл., рис.) взяты из [12, с. 301] и представляют собой вес (у) в фунтах и возраст в неделях для 13 индеек. Четыре из них выращены в штате Джорджия, четыре -в Виргинии и пять - в Висконсине. Попытаемся связать вес и возраст птицы простой линейной зависимостью и выяснить, какое влияние на зависимость оказывает место ее происхождения. Для учета влияния этого качественного фактора, принимающего значение на трех уровнях, введем две фиктивные переменные d\ и d2, определив их значения. Конструируемая зависимость имеет вид:

у = Д0 + Д х + 8^1 +82 d2 + б .

Данные об индейках

Номер опыта Вес, фунтов (У) Воз- раст, недель (х) Место происхождения dl d2

1 13,3 28 Джорджия 1 0

2 8,9 20 Джорджия 1 0

3 15,1 32 Джорджия 1 0

4 10,4 22 Джорджия 1 0

5 13,1 29 Виргиния 0 1

6 12,4 27 Виргиния 0 1

7 13,2 28 Виргиния 0 1

8 11,8 26 Виргиния 0 1

9 11,5 21 Висконсин 0 0

10 14,2 27 Висконсин 0 0

11 15,4 29 Висконсин 0 0

12 13,1 23 Висконсин 0 0

13 13,8 25 Висконсин 0 0

Диаграмма рассеяния для данных об индейках

Отсутствующую в первоисточнике информацию о верхней границе абсолютного значения ошибки ( б ) измерения выходной переменной восполним, положив ее равной 1 фунту. Множество неопределенности в нашей задаче определяется неравенствами вида

Уи-б<Д0 +Дхи +3Аи +^2и < У] +Б, и = 1,...,13, (10) где (У], х], d1 ], d2 ]) - данные из таблицы.

Используя те же процедуры метода центра неопределенности, что и при решении задачи регрессионного анализа, получаем интервальные оценки параметров зависимости:

Л Л

Д0 е [1,750; 5,570], Д е [0,350; 0,450],

ЛЛ

Д е [-3,350; -0,850], Д2 е [-2,600;-0,450].

В качестве точечной оценки примем наиболее просто вычисляемый центр прямоугольника:

Л Л Л Л

Д0 = 3,750, Д = 0,400, Д =-2,100, Д =-1,525.

Однозначно отрицательные интервальные оценки коэффициентов Д , 82 при фиктивных переменных указывают на различия в индейках, первая - из Джорджии и Висконсина, а вторая - из Виргинии и Висконсина соответственно. Подставляя три различных набора значений фиктивных переменных (dl, d2) и используя точечные оценки

параметров, получим зависимости, описывающие характеристики птиц, выращенных на трех разных территориях:

для Джорджии при d1 = 1, d2 = 0 :

У = 1,650 + 0,400х: для Виргинии при d1 = 0 , d2 = 1:

У = 2,225 + 0,400х; для Висконсина при d1 = 0 , d2 = 0 :

У = 3,750 + 0,400х .

Полученные результаты не противоречат результатам обработки этих данных классическими методами регрессионного анализа [12].

Заключение. Таким образом, задачи учета влияния качественных факторов при построении и анализе зависимостей по экспериментальным данным, традиционно решаемые статистическими методами дисперсионного и ковариационного анализа, могут быть с успехом решены и в рамках интервального (нестатистического) подхода. Достоинствами интервального подхода являются существенно более простая система условий применимости его методов и естественная для аналитиков-практиков форма представления информации о неопределенности в данных.

Библиографический список

1. Канторович Л.В. О некоторых новых подходах к вычислительным методам и обработке наблюдений // Сиб. мат. журнал. - 1962. - Т. 3, №5.

2. Спивак С.И. Информативность эксперимента и проблема неединственности решения обратных задач химической кинетики: автореф. дис. ... д-ра физ.-мат. наук. -Черноголовка, 1984.

3. Bounding Approaches to System Identification / Milanese M., Norton J., Walter E., editors. - London, 1996.

4. Белов В.М., Суханов В.А., Унгер Ф.Г. Теоретические и прикладные аспекты метода центра неопределенности. - Новосибирск, 1995.

5. Оскорбин Н.М., Максимов А.В., Жилин С.И. Построение и анализ эмпирических зависимостей методом центра неопределенности // Известия АлтГУ. - 1998. -№1.

6. Вощинин А.П., Бочков А.Ф., Сотиров Г.Р. Метод анализа данных при интервальной нестатистической ошибке // Заводская лаборатория. - 1990. - Т. 56, №7.

7. Померанцев А.Л., Родионова О.Е. Построение многомерной градуировки методом простого интервального оценивания // Жур. аналит. химии. - 2006. - №61.

8. Кумков С.И. Обработка экспериментальных данных ионной проводимости расплавленного электролита мето-

дами интервального анализа // Расплавы. - 2010. -№3.

9. Подружко А.А., Подружко А.С. Интервальное представление полиномиальных регрессий. - М., 2003.

10. Кендалл М.Дж., Стьюарт А. Многомерный статистический анализ и временные ряды. - М., 1976.

11. Шеффе Г. Дисперсионный анализ. - М., 1980.

12. Дрейпер Н., Смит Г. Прикладной регрессионный анализ. - М., 1987.

13. Жилин С.И. Нестатистические модели и методы построения и анализ эмпирических зависимостей: дис. ... канд. физ.-мат. наук. - Барнаул, 2004.

14. Zhilin S.I. Simple Method for Outlier Detection in Fitting Experimental Data Under Interval Error // Chemo-metrics and Intellectual Laboratory Systems. - 2007. -Vol. 88(1).

15. Кумков С.И. Интервальный подход к обработке

зашумленных экспериментальных данных с многократными измерениями в условиях неопределенности // Современные проблемы прикладной математики и механики: теория, эксперимент и практика: докл. Междунар. конф., посвящ. 90-летию со дня рождения акад.

Н.Н. Яненко. - Новосибирск, 2011.

16. Доугерти К. Введение в эконометрику. - М., 1999.