Анализ многомерных данных: Проблемы, состояние, перспективы

2004

Доклады БГУИР

январь- март

№ 1

УДК 512.8

АНАЛИЗ МНОГОМЕРНЫХ ДАННЫХ: ПРОБЛЕМЫ, СОСТОЯНИЕ, ПЕРСПЕКТИВЫ

В С. МУХА

Белорусский государственный университет информатики и радиоэлектроники П. Бровки, 6, Минск, 220013, Беларусь

Поступила в редакцию 20 ноября 2003

Рассмотрены различные математические подходы к анализу многомерных данных: классический, векторно-матричный, тензорный, подход функционального анализа. Выполнен обзор состояния и определены перспективы развития многомерно-матричного подхода к анализу многомерных данных.

Ключевые слова: многомерные данные, многомерная матрица, многомерно-матричная производная, ряд Фурье, ряд Грамма-Шарлье.

Проблема анализа многомерных данных

Объектом рассмотрения в данной статье являются математические данные, т.е. данные, которые в языках программирования принято называть целыми или действительными константами или переменными. Данные будем называть многомерными, если они состоят из одного или более чисел или одной или более переменных. Под анализом данных будем понимать построение и исследование математических моделей данных, т.е. математических зависимостей, которые показывают, как данные преобразуются в различных системах и физических процессах.

В настоящее время можно выделить несколько подходов к анализу многомерных данных: классический (скалярный); подход функционального анализа; векторно-матричный; тензорный; многомерно-матричный.

Классический или скалярный подход характеризуется тем, что имеющийся набор данных рассматривается состоящим из отдельных скалярных чисел или переменных. Математическая модель данных строится как соотношение, связывающее между собой отдельные скалярные переменные. Теоретическую основу классического подхода составляет классический математический анализ [9]. Классический подход к анализу многомерных данных имеет следующие недостатки:

1) громоздкость (необозримость) математических моделей многомерных данных, полученных с его помощью;

2) отсутствие аналогии с одномерным случаем;

3) плохая формализованность, под которой будем понимать использование при определении моделей логических операций или логических представлений. О плохой формализован-ности обычно свидетельствует наличие в выражении многоточий или дополнительных текстовых или графических пояснений. Это затрудняет понимание и компьютерную реализацию модели. Так, плохо формализованными являются лексико-графическое упорядочивание, кронеке-рово произведение матриц, векторизация матриц, ряд Тейлора для функции многих переменных и другие операции;

4) отсутствие теоретической общности, под которой будем понимать справедливость конкретной математической модели для любого числа переменных и их степеней;

5) отсутствие алгоритмической общности, под которой будем понимать работоспособность алгоритма (программы), построенного на основе модели, для любого числа переменных и их степеней без его модификации. Очевидно, что отсутствие теоретической общности влечет за собой отсутствие и алгоритмической общности. Однако теоретическая общность не обеспечивает алгоритмическую хотя бы потому, что модель, обладающая теоретической общностью, может быть плохо формализованной.

Подход функционального анализа характеризуется тем, что многомерные данные рассматриваются как элементы некоторых абстрактных математических пространств. При построении математических моделей данных используется понятие отображений этих пространств. Теоретической основой этого подхода является функциональный анализ [8]. Функциональный анализ — весьма общий (обладающий теоретической общностью) и мощный, но и весьма абстрактный математический аппарат. Он приспособлен для теоретических исследований и совсем не приспособлен для практических расчетов. В итоге этот подход следует считать плохо формализованным и вследствие этого не обладающим алгоритмической общностью.

Векторно-матричный подход базируется на векторных и матричных представлениях. Отдельные скалярные переменные упорядочиваются в наборы, которые называются векторами и матрицами. Теоретическую основу векторно-матричного подхода составляет теория матриц и матричный анализ [4, 31, 33]. Векторно-матричный подход преодолевает большинство недостатков классического подхода. Во-первых, он строго формализован и менее громоздок по сравнению с классическим подходом. Во-вторых, многомерные модели, полученные в рамках этого подхода, во многом аналогичны моделям одномерного случая. Однако он обладает ограниченными возможностями для представления многомерных нелинейных данных, поскольку с его помощью можно получить не более чем квадратичные модели. Имеются случаи получения моделей третьей и даже четвертой степени [34], однако это скорее исключение, чем правило.

Многомерно-матричный подход характеризуется тем, что использует в качестве переменной многомерную матрицу. Многомерной (р-мерной) (п!хп2х... хпр)-матрицей

а = К Н,...,гр)> *а= 1,Па> «= 1,р ,

называется система чисел или переменных а^ ^ 1 , расположенных в точках р-мерного пространства, определяемого координатами /ь 12 ,..., \р [28]. В случае различных чисел п1хп2х...хпр матрица А называется гиперпрямоугольной. Если п1=п2=.=пр=п, то матрица называется гиперквадратной или р-мерной матрицей п-го порядка. Определение многомерной матрицы (1) естественным образом обобщает известные понятия скалярной величины, вектора и двухмерной матрицы: скаляр, вектор и двухмерная матрица являются соответственно нуль-, одно- и двухмерными многомерными матрицами. Многомерно-матричный подход имеет достоинствами векторно-матричного подхода и вместе с тем свободен от его недостатков. Он обладает теоретической общностью, хорошо приспособлен к компьютерной реализации, на его основе можно создавать программы алгоритмической общностью.

Рассматривается также вопрос о привлечении к анализу многомерных данных понятия тензора [3].

Тензором А ранга р=г+5 типа (г, 5) (г раз ковариантным и 5 раз контравариантным) называется геометрический объект, который в каждом базисе е, 1 = 1,п, вещественного п-мерного линейного пространства Ьп определяется пг+ координатами а!'^'"^' (индексы 7ь...,7г, к\,.,к5, независимо принимают значения 1,2,...,п), обладает тем свойством, что его координаты а*1'""*' в базисе 1 = 1,п, связаны с координатами а^1""^' в базисе е1 соотношениями

ак1   ; к£ = Ъ<! тък Ък,£а*'   ; к,

в которых Ъ¡, — элементы матрицы перехода от базиса е{ к базису ег, а Ъ'к — элементы матрицы обратного перехода от ег к е{. Формула (2) — формула преобразования координат тензора при преобразовании базиса [6]. Суть тензорного подхода состоит в использовании тензора в качестве многомерной матрицы. Однако было бы смешением понятий отождествлять матрицу с тензором [10]. Определение тензора существенно отличается от определения многомерной матрицы. Тензор определяется как геометрический объект в п -мерном линейном пространстве

Ь", преобразующийся по формулам (2) при переходе к новому базису пространства, в то время как многомерная матрица представляет собой объект в р -мерном пространстве индексов. Общим в этих двух понятиях является лишь то, что многомерная матрица и тензор представляют собой совокупности многоиндексных величин. Тензорный подход сводится к отбрасыванию всех свойств тензора и использованию лишь этого общего свойства и тензорных обозначений при записи произведений многомерных матриц. Однако даже в этом случае допускается неточность, поскольку, строго говоря, тензор как совокупность многоиндексных величин не является многомерной матрицей, так как не рассматривается в пространстве своих индексов. Мы не получаем также возможности работать с гиперпрямоугольными многомерными матрицами, поскольку все индексы тензора принимают значения от 1 до п. Использование тензорных обозначений также не дает никаких преимуществ, так как операции внешнего и внутреннего произведения тензоров не позволяют реализовать (Л,ц) -свернутое произведение многомерных матриц при Л Ф 0 .

Данная работа посвящена обзору многомерно-матричного подхода к анализу многомерных данных. Этот подход нашел и находит применение при решении самых различных задач [1, 5, 11-13, 30, 32, 36]. Приведенные публикации имеют различную научную значимость, однако их наличие свидетельствует о растущем интересе к многомерно-матричному подходу, о существующем реальном, а порой интуитивном представлении о больших возможностях его использования. Теория многомерных матриц нашла также применение в работах [17, 21, 23].

Развитие теории многомерных матриц

Основы теории многомерных матриц заложены Н.П. Соколовым [28]. Важнейшим понятием этой теории является (Л,ц) -свернутое произведение многомерных матриц. Пусть А — р -мерная матрица:

А =

и В — q -мерная матрица:

В =

Для удобства представления многомерных матриц их индексы разбивают на составляющие мультииндексы / = (¡1 ,/2,...,1 ) = (¡,£,с), ] = (,]2,...,]ч) = (с,я,т) , где

I = (¡1 ,¡2,...,!К); £ = (^^...^л); с = (с1,...,с11); т = (т1,...,тУ1) ; причем к+Л+д= р, Л + ^ + У = q. Тогда матрицы А и В в (3), (4) можно записать в виде:

А = Ак.л.ц) =

В = В

где каждый из индексов мультииндексов ¡, с, т пробегает свой диапазон значений. Матрица В, определяемая выражением:

D=x и(АВ)—Ли (A(к, }В(^,, V) ) — (£ а1ш^ А,m ) = ,, m ) ,

а

называется (Л, и) -свернутым произведением матриц А и В .

Другим важным понятием теории многомерных матриц является операция транспонирования. Определение транспонированной многомерной матрицы дано Н.П. Соколовым: мат-

рица А — (а^ ^ г ), га — 1, па , а = 1, р, элементы которой связаны с элементами матрицы А (3) соотношением а^ — а^ ^ ^ , где га1,га2,...,га — какая-нибудь перестановка из индексов ,/2,..., гр, называется транспонированной относительно матрицы А соответственно

подстановке Т —

С г г ^

''1ар J

. Однако Н.П. Соколовым не получены формальные правила ра-

боты с транспонированными матрицами. В работе [18] подчеркнуто, что все транспонированные относительно А матрицы рассматриваются в том же пространстве, что и исходная матрица А . Это значит, что верхние строки всех подстановок транспонирования имеют вид г1,г2,...,гр .

Введены простые типовые подстановки: "тождественная" на р индексах Ер — (г1,г2,...,гр), "обратная" на р индексах Тр1, определяемая равенствами Т_1 * Т р — Т р * Т р1 — Ер , где Т р1 * Т р означает суперпозицию подстановок, "вперед" на г индексов Врг — (гг+1,гг+2,...,г р,г1,...,гг), р> г , "назад" на г индексов Н рг — (гр_г+1,гр_г+2,...,гр,г1,...,гр_г), р> г , "вперед-назад" на г,5 индексов соответственно ВгН5 — (¡р_5+1,...,1р,1г+1,...,1р_5,11,...,1г), р > г + 5 .

С помощью них можно строить более сложные подстановки, и на эти подстановки можно разбивать сложные подстановки. Доказана теорема о повторном транспонировании многомерной матрицы: если матрица А транспонируется последовательно соответственно подстановкам Т1, Т2, то это равносильно ее однократному транспонированию соответственно подстановке Т3 = Т1 * Т2.

Очень часто приходится транспонировать (Л, и) -свернутое произведение многомерных матриц. В теории обычных матриц при транспонировании произведения множители транспонируются и меняются местами. Для многомерных матриц аналогичное правило имеет место лишь при транспонировании (Л, /и) -свернутого произведения соответственно некоторой подстановке специального вида. Это правило было получено Н.П. Соколовым [28], однако представляется недостаточно формализованным. С использованием рассмотренных типовых подстановок его можно представить в виде строго формализованной теоремы: если

А = (а,_а ) = А(к, Л, и ) , В = (Ьа,т ) = В(и, Л, V ) — матрицы (5) (6) то [22]

Л и

' к,Л, и) (и, л, V) / I и, Л, Vк,Л,и) / •

Многомерно-матричный анализ

Впервые систематические методы расчета матричных производных были рассмотрены в работе [35], где даны определения производных матричной функции У(х) — (уг] (х)),

г — 1 , р, ] — 1, q, по скалярной переменной х

— = —(у ) =

dx аX г']

С —у,

\

—х

, г = 1р, j = 1>q,

и скалярной функции у( X) по матрице X = (хт п), т = 1, £ , п = 1, t,

\ _ _

, т = 1,£, п =

4у_

ах

Г ду >

\дхт,п у

Для производных матрицы У по матрице X вводятся два определения:

с1У

а < x > а < у >

Г л ^

\дхт,п у

при фиксированных значениях индексов т, п есть производная типа (8) и

Г ау

dX

dX

при фиксированных значениях индексов ¡,] есть производная типа (7). На

основе этих определений получены производные некоторых матричных функций. Однако наличие двух видов производных для одной и той же функции и вспомогательных матриц в производных конкретных функций делают этот подход мало привлекательным.

Иной подход изложен в работе [38]. Если У — (р х q) -матрица, X — (£ х t )-матрица, то производная аУ / dX определяется как (р£ х qt )-матрица вида

ау

dX

Г л ^

\дХт,п у

, т = 1, £, п = 1, t.

Здесь в отличие от работы [35] производные типа

ау

а < X >

дУ

\дхт,п у

собираются в од-

ну матрицу больших размеров (9). Однако эта операция является плохо формализованной, что приводит к тому, что правила дифференцирования содержат кронекеровы произведения и вспомогательные матрицы оказываются громоздкими и неудобными к применению.

В работе [2] получены производные некоторых новых функций по сравнению с работой [35] (следа, определителя матрицы и др.). Производная скалярной функции по матрице названа в [2] скалярно-матричной. Введено понятие дифференциала матричной функции матричного аргумента. Однако матрично-матричная производная в указанной работе не определена. Это не позволяет ставить вопрос о нахождении производных высших порядков и представлении матричных функций рядами Тейлора.

Различные определения матрично-матричных производных можно найти в работе [7]. Здесь в определениях производных и правилах дифференцирования используются кронекеровы произведения или векторные упорядочивания матриц. Поскольку указанные операции относятся к плохо формализованным, то эти подходы также следует считать плохо формализованными.

Общей характеристикой изложенных подходов является то, что они не выходят за рамки теории обычных (двухмерных) матриц и тем самым принципиально не позволяют работать с многомерными матрицами.

К многомерным матрицам относится работа [11]. Особенностью этой работы является то, что индексы многомерной матрицы делятся на строчные и столбцовые (задается строчно-столбцовая структура матрицы). р-Мерная матрица обозначается как А(т,з), т + £ = р , где т и £ указывают количество столбцовых и строчных индексов соответственно. Предложены определенные правила отнесения индексов к строчным или столбцовым (правила помечивания индексов). Многомерно-матричная производная определяется как (р + т + q + £) -мерная мат-

рица

2(р + г^ + £') =

аУ

состоящая из частных производных от элементов у{ ^ к 1 матрицы У (р, q) по элементам х^^ф матрицы X(г, £) . Однако предположение о строчно-столбцовой структуре многомерной матрицы нарушает связь рассматриваемой теории с теорией многомерных матриц Н.П. Соколова. Изменение определения многомерной матрицы влечет за собой изменение определения транспонированной матрицы, исчезновение таких понятий, как (Л, /и) -свернутое произведение матриц, (Л, /и) -единичная матрица и т.д. Конечные результаты теории (правила дифференцирования, производные функций) представляются достаточно громоздкими и плохо формализованными, поскольку содержат вспомогательные матрицы и кронекеровы произведения.

В работе [14] дано определение многомерно-матричной производной в рамках теории многомерных матриц Н.П. Соколова, получены правила многомерно-матричного дифференцирования, производные скалярного полинома векторной переменной и ряд Тейлора для скалярной функции векторного аргумента в многомерно-матричной форме. Несколько позже, и, по-видимому, независимо, аналогичные вопросы рассматривались в работе [3] с позиций тензорного подхода, недостатки которого обсуждались выше.

Пусть У = (ут), т = (т1,т2,...,тр), — р -мерная гиперпрямоугольная матрица, зависящая некоторым образом от q -мерной гиперпрямоугольной матрицы X = (хк), к = (к1,к2,...,к ) . Производной матрицы У по матрице X называется (р + q)-мерная матрица Z, определяемая выражением [14]:

X) = ^т) = ЩXг = У'(X) = .

^ \.дхк у

Производные высших порядков определяются последовательным дифференцированием:

У(п)(X) = (У(п-1 )(X))'.

Приведенные определения естественным образом обобщают существующие определения скалярной, векторно-векторной и векторно-матричной производных. Так, скалярную производную получаем при р = 0, q = 0, скалярно-матричную производную

аг 0 р Г аг ау л

dX {аУ dх у

Если Г

dX у у

Л ЛНч Л, и

^ IФ

^у у

I dX

Если функция У (X) задана неявно уравнением F(X, У) = 0,

где Р — г -мерная матрица; У = У(X) — р -мерная матрица; X — д -мерная матрица-аргумент, то dУ / ёХ (производная неявной функции) находится как решение многомерно-матричного уравнения

{дУ dX)+ дХ ~ '

Если У = У

d

dX^ ' {dX

Однородный р -мерно-матричный полином т -й степени д -мерно-матричного аргумента X имеет представление [22]

Ш(X) = 0 mq(AXm),

где А = (а1 С2 с ) — матрица коэффициентов, симметричная относительно мультииндексов с1,с2,...,ст, содержащих по д индексов, мультииндекс I содержит р индексов, Xм = 0 0Xm = 0' 0(X 0 0(X 0' 0(• • •))) . Произвольный р -мерно-матричный полином т -й степени д -мерно-матричного аргумента X имеет вид

т

0(X) =£ °'д(АХ) .

г = 0

Это выражение обобщает известные выражения полиномов: при р = 0, д = 0 — скалярного полинома скалярного аргумента, при р = 0, д = 1 — скалярного полинома векторного аргумента, при р = 1, д = 0 — векторного полинома скалярного аргумента и т.д. Производные однородного полинома т -й степени определяются выражением

d V

X0mq(AXm) = т(т -1 )---(т -v +1 )0,(т-у)q(AXm^) , 1 < V < т. dX

В частности, при V = т имеем

dm

0, тд

dXn

'(AXm ) = т! А .

Ортогональные полиномы векторной переменной

Многомерно-матричный подход позволяет разработать теорию ортогональных полиномов векторного аргумента, имеющую большое значение для аппроксимации многомерных данных рядами. В работе [15] представлена многомерно-матричная теория полиномов Эрмита векторного (одномерно-матричного) аргумента X, построенная на основе обобщенной формулы Родрига. Основная С^) и сопряженная Н(X) последовательности полиномов Эрмита определяются как следующие многомерно-матричные производные:

-ш^) dm

Н т ( X ) = (-1)те2

\ш

-ф(У ) ат -1 ф(У ) &т(X) = (-1 )те2 —в 2 ,

т\ / * / ^ '

где

ф(X) =01 (X0'1(AX)), ф(У) =01 (У °Л(А-1У)), У =01 (AX).

Исследованы свойства этих полиномов и получены для них рекуррентные соотношения, обеспечивающие возможность практических расчетов:

Hm+1(X)=00(Hm(X)01(AX)) - ^ 00(Hm-l(X)A)nт+'(V' ,

v=1

^т+1(X)=0 0(^тX^^^ - 2 0 0(^т-^А"1)"т+> (V' , П„(V) = (^,К^д , £1 ) .

v=1

На основе многомерно-матричного подхода возможно также построение общей теории систем ортогональных полиномов векторной переменной. Такая теория была предложена в работе [24]. Пусть О — некоторая замкнутая область пространства Яп, р( х), х еО, — неотрицательная функция на О (весовая функция), такая, что моменты Уг существуют:

V г =

О

| х' р(х)ск <ю, г = 0,1,2,...,

и Ь2(р,О) — пространство функций с интегрируемым квадратом в О с весом р(х). Последовательность многомерно-матричных полиномов

т т

От

к=0 к=0

называется ортогональной в Ь2(р, О), если выполняются условия

г Г= 0 где к = 0, 1, ..., т -1,

|ат(х)<2к(х)р(х)ах \ ' '

О [Ф 0 где к = т.

Многомерно-матричный полином вида

т-1 т-1

Рт

называется основным ортогональным полиномом степени т в Ь2(р,О), если он ортогонален к

2 т-1 к 0,0 к

однородным полиномам 1,х,х ,...,х , х = (х ):

= 0 где к = 0,1,...,т -1, Ф 0 где к = т.

| Рт(х)хк р(х)ах

т

О

Последовательности многомерно-матричных полиномов Рт (х) и Qm (х) называются вполне биортонормальными в Ь2(р, О) (Вбон-последовательностями), если выполняются соотношения

. Г0, к = 0,1,...,т -1,

| Qm(x)Pk(x)р(x)dx-

[D(m,m), к = m,

где т) — 2т -мерная матрица специальной структуры [24]. Относительно Вбон-

последовательностей в [24] доказана следующая теорема: если последовательности многомерно-матричных полиномов Рт (х) (10) и 0т(х) (11) образуют в Ь2 (р,0) Вбон-последовательности, то коэффициенты С(тк) основной последовательности Рт (х) определяются многомерно-матричной системой линейных алгебраических уравнений

т-1

Vт+р + £ 0 к(С(т,к^к+Р) = 0,т = 0, 1, ..., р = 0, 1,...,т -1,

к=0

сопряженная последовательность Qm (х) может быть получена из основной с помощью соотношения

0т(х) = ' (А(т,т)Рт(х)) = ' (Рт(Х)А(т,т) ) ,

и коэффициенты в этом соотношении определяются выражением

А = т! 0тв-1 л(т,т) ~ (т,т) '

где

т-1 т-1 т-1 т-1

В(тт) =V 2т + £ (С(т,к^к+т) + £ (Vm+kC(km)) + ££ (С(т,к) (Vk+qC(qm)) '

к=0 к=0 к=0 q=0

Эта теорема является, по существу, алгоритмом, с помощью которого можно рассчитывать различные последовательности ортогональных полиномов векторной переменной (Эрмита, Лагерра, Лежандра, Чебышева и др.).

Аппроксимация многомерных данных рядами

Аппроксимация данных рядами является важнейшим приемом решения многих научно-технических задач. В случае многомерных данных задача аппроксимации рядами заметно усложняется и не всегда имеет решение, обладающее теоретической и алгоритмической общностью. Заметные преимущества здесь имеет многомерно-матричный подход.

Простейшей является аппроксимация рядами Тейлора. Многомерно-матричный подход предоставляет для аппроксимации р -мерно-матричной функции Р(X) q -мерно-матричного аргумента X ряд Тейлора [22]

ад 1

¥

к=0

где

Ак = ^-^р) = р{Ч(Х),к = 0, 1, 2, ..

Более совершенной является аппроксимация рядами Фурье и Грамма Шарлье, т.е. рядами по ортогональным полиномам. Ряд Фурье для р -мерно-матричной функции g(х) векторной переменной х еОс Я" по Вбон-полиномам Qm( х), Рт(х) из (10), (11) имеет вид [24]

ад 1

g(x)~ £-7 ''т(ВЛт(х)),

т=0 т!

где

Bm = Jg(x)Pm(x)p(x)dx .

Q

Ряд Грамма-Шарлье для плотности вероятности /п(х) случайного вектора п по Вбон-полиномам Qm (х), Рт (х) определяется выражением [24]

ад 1

/п(х)~ р(х)£ - т(В„ап(х)) ,

т=0 т!

где

Dm =JPm(x)fn(x)dx .

Q

Приведенные ряды находят применение при решении многомерных нелинейных вероятностных задач [16, 25].

Программная реализация

Многомерно-матричный подход к анализу многомерных данных позволяет разрабатывать программные средства, обладающие алгоритмической общностью. В настоящее время разработаны интегрированные в Delphi и Matlab пакеты программ "Анализ многомерных данных" [26, 27], реализующие основные методы многомерно-матричного подхода. Интегрированный в Matlab пакет предназначен для решения преимущественно научно-исследовательских и учебных задач. Интегрированный в Delphi пакет предназначен для разработки промышленных приложений в области обработки многомерных данных. Пакеты включают программы для обработки детерминированных и стохастических, непрерывных и дискретных многомерных данных.

Заключение

Многомерно-матричный подход к анализу многомерных матриц находится в процессе развития. По мере его использования в различных приложениях возникают вопросы, требующие уточнения и разработки. В настоящее время исследуются и разрабатываются вопросы дифференциального исчисления в случае симметричных многомерно-матричных аргументов [20], решения многомерно-матричных линейных алгебраических уравнений с симметричными матрицами коэффициентов, теории Вбон-полиномов векторной переменной с дискретным весом, многомерно-матричного полиномиального регрессионного анализа, теории детерминированных и стохастических многомерно-матричных дифференциальных уравнений [19, 37] и др.

ANALYSIS OF MULTIDIMENSIONAL DATA: PROBLEMS, STATE AND PERSPECTIVES

V.S. MUKHA Abstract

Mathematical approaches to the analysis of multidimensional data are considered: classical, vector-matrix, tensor, and approach on the basis of functional analysis. A review of state and perspectives of development multidimensional-matrix approach to the analysis of multidimensional data are given.

Литература

1. Альперович М. Введение в OLAP и многомерные базы данных. http://www.cfin.ru/itm/olap/intro.shtml7printversion.

2. Амосов А.А., Колпаков В.В. Скалярно-матричное дифференцирование и его приложения к конструктивным задачам теории связи // Проблемы передачи информации. 1972. № 8. Вып. 1. С. 3-15.

3. Васильев К.К., Крашенинников В.Р. Методы фильтрации многомерных случайных полей. Саратов: Изд-во Сарат. ун-та, 1990. 128 с.

4. Гантмахер Ф.Р. Теория матриц. М.: Наука, 1988. 552 с.

5. Гендель Е.Г., Мунерман В.И. Применение алгебраических моделей для синтеза процессов обработки файлов // Управляющие системы и машины. 1984. № 4. С. 69-72.

6. Ильин В.А., Позняк Э.Г. Линейная алгебра. М.: Наука, 1974. 296 с.

7. Калло Д. Матричная производная для статистики. Тарту, 1991. 155 с.

8. Колмогоров А.Н., Фомин С.В. Элементы теории функций и функционального анализа. М.: Наука, 1972. 496 с.

9. КудрявцевЛ.Д. Курс математического анализа. М.: Высш. шк., 1981. Т. 2. 584 с.

10. Лурье А.И. Теория упругости. М.: Наука, 1970. 939 с.

11. Милов Л.Т. Многомерно-матричные производные и анализ чувствительности систем автоматического управления // Автоматика и телемеханика. 1979. № 9. С. 15-25.

12. Милов Л.Т. Многомерные матрицы при обработке массивов данных // Управление. Передача, преобразование и отображение информации / Межвуз. сб. статей. Рязань, 1977. Вып. 4. С. 3-11.

13. Митенков В.Б., Конычев В.И., Емельченко Е.П. и др. Эффективное решение задач обработки результатов летных испытаний на суперкомпьютерах // Тез. докл. Междунар. конф. "Авиационные технологии 2000". Жуковский, 1997. С. 15-16.

14. Муха В.С. Многомерно-матричные производные и разложение функции нескольких переменных в ряд Тейлора // Автоматика и вычислительная техника. 1987. Вып. 16. С. 65-71.

15. Муха В.С. Многомерно-матричные полиномы Эрмита // Весщ АН Беларуси Сер. фiз.-мат. навук. 1990. № 4. С. 42-47.

16. Муха В.С. Оценивание параметров по косвенным измерениям // Проблемы компьютерного анализа данных и моделирования / Сб. науч. ст. Мн.: БГУ, 1991. С. 130-136.

17. Муха В. С. Многомерно-матричный подход к оцениванию реализаций векторных нестационарных процессов // Докл. 12-го науч.-техн. семинара "Статистический синтез и анализ информационных систем". Москва-Черкассы, 23-25 июня 1992 г. С. 137-139.

18. Муха В.С. Формальные правила транспонирования многомерных матриц // Автоматика и вычислительная техника. 1993. Вып. 21. С. 65-72.

19. Муха В.С. О многомерно-матричных дифференциальных уравнениях // Весщ АН Беларуси Сер. фiз.-мат. навук. 1993. № 2. С. 37-44.

20. Муха В.С. Дифференцирование функций симметричных матриц // Весщ АН Беларуси Сер. фiз.-мат. навук. 1997. № 2. С. 46-53.

21. Муха В. С. Многомерно-матричная технология в теории моделирования изображений // Материалы Междунар. науч.-техн. конф. "Новые информационные технологии в науке и производстве". Мн.: БГУИР, 1998. С. 199-202.

22. Муха В.С. Моделирование многомерных систем и процессов. Многомерно-матричный подход // Методическое пособие для аспирантов и научных работников. Мн.: БГУИР,1998. 40 с.

23. Муха В.С. Байесовская фильтрация случайных полей и изображений // Вторая Междунар. конф. "Цифровая обработка информации и управление в чрезвычайных ситуациях": Доклады. Т. 1. Мн., 2000. С. 19 - 24.

24. Муха В.С. Многомерно-матричный подход к теории ортогональных систем полиномов векторной переменной // Весщ НАН Беларуси Сер. фiз.-мат. навук. 2001. № 2. С. 64-68.

25. Муха В.С. Статистическое распознавание многомерных негауссовских образов // Автоматика и телемеханика. 2001. № 4. С. 80-90.

26. Муха В.С. Пакет научных программ "Анализ многомерных данных" // Тр. Всерос. научн. конф. "Проектирование научных и инженерных приложений в среде MATLAB". М.: ИПУ РАН, 2002. С. 276-284.

27. Корчиц К.С., Муха В.С. Интегрированный в DELPHI пакет научных программ "Анализ многомерных данных" // Изв. Белорус. инж. акад. 2002. №1(13)/2. С. 246 - 248.

28. Соколов Н.П. Введение в теорию многомерных матриц. Киев: Наукова думка, 1972. 176 с.

29. Стратонович Р.Л. Принципы адаптивного приема. М.: Сов. радио, 1973. 144 с.

30. Феденя О.А. Многомерные матрицы и некоторые экстремальные комбинаторные задачи: Дис. ... канд. физ.-мат. наук. 1978. 103 с.

31. Хорн Р., Джонсон Ч. Матричный анализ. М.: Мир, 1989. 656 с. 48

32. Яншин В.В. Многосвязные цепи Маркова как пространственные матрицы // Докл. АН СССР. 1991. Т. 318, № 5. С. 1108-1112.

33. BhatiaR. Matrix Analysis. Mew Dehli: Springer, 1997. 347 p.

34. Brookes D.M. The Matrix Reference Manual. Section Matrix Calculus // Imperial College of sci-ence, technology and medicine, London. http://www.cs.uwaterloo.ca/~frey/matrix/calculus.html

35. Dwyer P.S., Macphail M.S. Symbolic matrix derivatives // Annals of mathem. statistics. 1948. Vol. 19, № 4. P. 517-534.

36. Krattenthaler C., Schlosser M. A new multidimensional matrix inverse with applications to multiple q-series // Discrete Mathematics. 1999. Vol.204 . P. 249-279.

37. Mukha V.S. State model for scalar random field // Computer Data Analysis and Modeling. Robust-ness and Computer Intensive Methods / Proceeding of the Sixth International Conference. Minsk, September 10-14, 2001. Vol. 2. P. 137-141.

38. Vetter W.J. Derivative operations on matrices // IEEE Trans. 1970. Vol.AC-15, № 2. P. 241-244.