Ациклические марковские модели в анализе массивов взаимосвязанных данных

Известия Тульского государственного университета Естественные науки. 2010. Вып. 2. С. 173-185

= ИНФОРМАТИКА =

УДК 004.93

Ациклические марковские модели в анализе массивов взаимосвязанных данных *

С.Д. Двоенко, Д.С. Савенков, Д.В. Шанг

Аннотация. Рассматривается задача распознавания массивов взаимосвязанных данных, представленных как двухкомпонентное случайное марковское поле скрытых классов объектов и их наблюдаемых признаков. Древовидная редукция графа соседства существенно искажает характер взаимосвязей элементов массива данных. Предложено скомпенсировать редуцированное множество взаимосвязей между элементами массива в древовидном графе расширением самого множества графов, которые являются ациклическими. Предложены эффективные алгоритмы распознавания, основанные на древовидном представлении графа соседства элементов массива.

На примере задачи сегментации растровых текстурных изображений рассмотрен набор ациклических графов соседства и показаны результаты экспериментов.

Ключевые слова: распознавание образов, машинное обучение, марковские случайные поля.

Введение

В классической теории распознавания образов объекты, подлежащие распознаванию, рассматриваются независимо друг от друга.

В задачах обработки данных часто необходимо принимать скоординированные решения об объектах, связанных друг с другом в единый массив. Объекты могут быть упорядочены вдоль оси времени, частоты, одной или нескольких пространственных координат. Элементы такого массива естественно понимать как «смежные», «соседние», «упорядоченные». Удобным способом для представления взаимосвязей между элементами массива данных является граф соседства с ненаправленными ребрами без петель. В линейно упорядоченных массивах граф соседства является цепью.

Применение скрытых марковских моделей для изучения зависимых наблюдений показало их высокую эффективность при обработке массивов линейно упорядоченных объектов с цепочечным соседством их элементов [1].

* Работа выполнена при поддержке РФФИ (проекты № 08-01-12023, № 10-07-00489).

Тем не менее, для графов соседства общего вида, содержащих, как правило, циклы, задача распознавания марковских случайных полей является весьма трудоемкой [2-4] и обладает свойствами задачи класса ЫР. Поэтому в интеллектуальном анализе данных и машинном обучении в настоящее время интенсивно развивается область, получившая название графических моделей [3-7], которые опираются на графы соседства элементов множества для построения эффективных алгоритмов обработки данных, в том числе и для изображений.

В [8,9] предложен эффективный алгоритм распознавания, который выполняется за три прохода по графу соседства элементов взаимосвязанного массива, когда граф соседства не содержит циклов. Там же показано, что такой алгоритм распознавания может выполняться всего за два прохода.

Как правило, в прикладных задачах графы соседства элементов массива данных содержат циклы. Например, в растровых изображениях естественное отношение соседства пикселей является решеткой, которая не является ациклическим графом. Очевидно, что древовидная редукция такого графа соседства существенно искажает взаимосвязи элементов в массиве данных. Выполнение редукции в общем случае требует разработки специальных алгоритмов, сложность которых сопоставима со сложностью алгоритма распознавания [10].

Для решения проблемы предлагается заменить исходный граф соседства набором ациклических графов соседства так, чтобы каждый граф покрывал все множество вершин, а каждое ребро исходного графа вошло хотя бы в один ациклический граф [11-13]. Тогда редуцированное множество взаимосвязей между элементами массива данных в древовидном графе компенсируется расширением самого множества ациклических графов различного вида.

1. Задача распознавания массивов взаимосвязанных данных

Пусть массив взаимосвязанных данных Т состоит из элементов Ь Є Т и представлен как двухкомпонентное поле (Х,У). Наблюдаемая компонента У состоит из векторов у*, заданных на множестве элементов массива Ь Є Т и принимающих значения из некоторого подходящего множества у* Є 0, определенного природой источника данных. Элементы х*, Ь Є Т скрытой компоненты X принимают значения из некоторого множества х* Є П, специфичного для конкретной задачи анализа данных. Например, для задачи распознавания образов П = {1, 2,, т} — это конечное множество номеров классов объектов.

На множестве элементов Ь Є Т массива данных определим симметричное антирефлексивное бинарное отношение, которое удобно представлять в виде неориентированного графа С без петель, ребра которого (в,Ь) Є С соединяют соседние элементы массива данных в Є Т и Ь Є Т.

Задачу обработки массива (X, У) представим как задачу преобразования исходного массива У = (у*,Ь Є Т) в результирующий массив X = (х*,Ь Є Т).

Пусть \Т\ — число элементов массива данных, тогда декартовы степени

и П|т 1 образуют множества всех комбинаций значений исходных и результирующих (целевых) переменных, представляя множество всех массивов данных и множество результатов их обработки. Алгоритм обработки реализует преобразование 0|т 1 ^ П|т\, ставящее в соответствие каждому исходному массиву У Є 0|т| результат его анализа X(У) Є П|т|.

В задаче распознавания взаимосвязанных объектов требуется по вектору наблюдаемых признаков у* определить принадлежность каждого элемента Ь Є Т массива данных Т к одному из классов П с учетом априорной информации о преимущественных сочетаниях классов смежных объектов, заданных графом С. В вероятностной задаче распознавания взаимосвязанных объектов предполагается, что двухкомпонентное поле (X, У) является случайным.

Задачу такого типа будем называть задачей распознавания массивов взаимосвязанных данных.

Как правило, обработка массива данных сводится к компромиссу между значениями целевых переменных, вытекающими из имеющихся представлений об их связи с элементами исходного массива, и априорными представлениями о предпочтительности тех или иных комбинаций значений целевых переменных.

Пусть на множествах значений 0, 0|т| и П, П|т| переменных массивов X и У определены соответствующие плотности распределения вероятностей. Тогда априорное распределение вероятностей на множестве комбинаций целевых переменных имеет вид априорной плотности ((X), а их вероятностная связь с исходными переменными выражена как условная плотность \У), У Є 0|т|. Задача обработки сводится к численному определению апостериорной плотности распределения вероятностей \У) = С(X)п(УIX)//(У) « с(X)п(УIX).

Для решений о скрытом поле X часто используется байесовское решающее правило, которое может иметь вид X(У) = а^шах^єП|т| \У) или

Ж*

хіЄО.

где рн(хг\У) — апостериорная маргинальная плотность распределения вероятностей скрытых классов в элементе массива Ь Є Т. Мы будем решать задачу (1).

2. Базовый алгоритм распознавания

Пусть граф соседства С не содержит циклов (рис. 1), а скрытое поле классов X является марковским [8, 9]. Тогда для элемента Ь Є Т условное распределение qt(xt\X(t)) на множестве значений ж* относительно остальных элементов X(t') = (х3,в Є Т\Ь) зависит qt(xt\X(t)) = qt(xt\X0t)) только от значений соседних по графу С переменных X= (х8, в Є Т\Ь, (в,Ь) Є С). Будем применять аналогичные обозначения относительно графа С для со-

ответствующих подмножеств элементов наблюдаемого поля У и массива Т в целом.

Рис. 1. Ациклический граф соседства

Древовидный граф С разбивает окрестность (рис. 1,а) нетерминального

элемента хг на две произвольные части X^ = (X“0, . Любая вершина

Ь* £ Т в качестве корня немедленно задает естественный нисходящий порядок просмотра вершин от корня и восходящий порядок к корню, определяя окрестность X“0 = хг из одного элемента, предшествующего хг, и

окрестность Х+0 непосредственных потомков хг (рис. 1,б). В [8, 9] показано, что такое априорное случайное поле является односторонним марковским д*(х*|Х04)) = дг(хг\хг).

Пусть также предполагается, что наблюдаемое поле У = (уг, Ь £ Т) образовано случайными векторами уг, условно независимыми относительно скрытого поля X = (хг, Ь £ Т), где условные вероятностные свойства каждого из них полностью определяются только значением соответствующей скрытой переменной и выражаются условной плотностью распределения фг(уг\Х) = ^*(у*|х*). В [8, 9] показано, что апостериорное скрытое случайное поле относительно того же графа С остается односторонним марковским рг (х^|Х(ф У) = рг (хг\хг, У+), где У+ — поддерево с корнем в yt, включая его.

Тогда обработка массива данных выполняется в два этапа: сначала из каждого элемента массива уг извлекается информация о значении соответствующей скрытой переменной в виде ее апостериорного маргинального распределения р*(х*|у*), Ь £ Т, а затем такие несогласованные решения согласовываются между собой с учетом совместного априорного распределения

С (X).

Для задач распознавания образов в массивах взаимосвязанных объектов естественным способом поиска апостериорных маргинальных распределений рг(х*|у*) является обучение по данным учителя, когда вместе со значениями наблюдаемых переменных уг известны и значения их номеров классов хг.

Базовый алгоритм распознавания в массивах взаимосвязанных данных для ациклического графа соседства состоит из следующих шагов:

1. Фиксируется корень t* как естественное начало обработки и задается априорное распределение qt*(xt*), xt* Е О.

2. Нисходящим просмотром от корня для всех t Е T вычисляются априорные распределения классов

qs(xs) = ^ Qs(xs\xt) qt(xt), xs Е О, s Е T+)0.

xtEÜ

3. Восходящим просмотром от терминальных вершин к корню вычисляются фильтрационные апостериорные маргинальные распределения классов

Pt (xt\Yt+) rc Pt (xtI^ Pt(xt\yt), xt Е О, t Е T,

Pt(xt\Y+)) rc ПЕ Ps(xs\Ys+) ’ s Е T+t)’

s xaen q^ ss

где апостериорные маргинальные распределения pt(xt\yt) получены на этапе независимого обучения. В терминальных вершинах t каждого уровня, начиная с Lm, выполнено pt (xt\Y+ = pt(xt\yt) (рис. 1,б).

4. На последнем восходящем шаге распределение в корне опирается на все наблюдения Pt*(xt*\Yt+) = pt*(xt*\Y), xt* Е О. Это интерполяционное апостериорное маргинальное распределение значений корневой переменной позволяет принять решение о классе xt*(Y) = = argmaxxiten Pt*(xt*\Y).

5. Нисходящим просмотром от корня для остальных объектов t Е T вычисляются интерполяционные апостериорные маргинальные распределения

Ps(xs\Y) rc^ Ps(xs\xt,Y)pt(xt\Y), xs Е О, s Е T(j)°,

xtGÜ

Ps

и принимаются решения о классах xs(Y) = arg maxps(xs\Y).

xs€Q

3. Алгоритмы комбинирования ациклических графов

соседства

Очевидно, что произвольный граф G соседства не может быть заменен древовидным графом без потери фундаментального свойства исходного графа представлять полную информацию о каждом элементе t Е T относительно других элементов. Например, решетка является графом соседства элементов растровых изображений и не является ациклическим графом. В

алгоритме комбинирования неизвестные нам апостериорные маргинальные распределения вероятностей скрытых классов относительно исходного графа соседства заменяются линейной комбинацией распределений относительно некоторого набора ациклических графов соседства.

Зададим некоторый подходящий набор ациклических графов соседства таким образом, чтобы каждый граф покрывал все множество вершин, и каждое ребро исходного графа вошло хотя бы в один ациклический граф.

Для определенности рассмотрим задачу сегментации растровых текстурных изображений, где наблюдаемое поле — это собственно изображение, а скрытое поле — это массив номеров классов текстур, к которым относятся точки наблюдаемого поля. Граф соседства элементов скрытого поля X является решеткой, т.е. содержит циклы. Для растровых текстурных изображений с протяженными областями однородности удобно использовать, например, графы на рис. 2.

Ступенч. дерево Спираль Гориз. змейка Верт. змейка Диаг. змейка

Рис. 2. Ациклические графы соседства элементов взаимосвязанного

массива

Комбинирование ациклических графов. Возьмем некоторый граф Си из данного набора и применим базовый алгоритм распознавания. Для другого графа соседства снова применим базовый алгоритм распознавания и т.д. Такая процедура для каждого ациклического графа из набора сформирует в отдельности распределения ри(х^У), і Є Т, к = 1,..., К, где К — число ациклических графов, и соответствующие решения о классах жк(У), і Є Т.

Чтобы получить окончательные решения о классах ж*(У), і Є Т, вычислим апостериорные распределения р^х^У) в каждом элементе і Є Т как взвешенную сумму апостериорных распределений рк(хі\У), к = 1,..., К, где

к к

Рь(хь\У) МкР^(хь\У), Ык > 0, = 1.

к=1 к=1

Повторим комбинирование. В этом случае примем только что найденные взвешенные апостериорные распределения р^х^У) за исходные вместо распределений р*(х*\у*) для каждого ациклического графа соседства в отдельности и вновь повторим комбинирование. Остановим процедуру, когда результат перестанет изменяться.

Назовем такую процедуру итерационным алгоритмом распознавания с комбинированием графов соседства элементов взаимосвязанного массива.

Очевидно, что каждый ациклический граф отражает лишь некоторое подмножество пространственных связей объектов исходного массива данных. Возникает задача подбора весов графов для конкретного типа изображений, который мы хотим распознавать. В данной работе предложена процедура определения весов при комбинировании ациклических графов соседства на основе известного алгоритма покоординатного спуска Гаусса-Зайделя.

Определение весов графов. Будем считать аналогом покоординатного варьирования изменение веса графа Си в диапазоне от 0 до 1. На начальном шаге распределение весов всех графов изменяется от 1/(К — 1),..., 0,...

..., 1/(К — 1), когда граф Си полностью исключен, до 0,..., 1,..., 0, когда применяется только граф Си. Шаг заканчивается после варьирования весов всех графов и выбора того графа, варьирование веса которого обеспечило минимальное число ошибок распознавания на некотором обучающем множестве изображений.

Пусть на очередном шаге варьируется вес графа Си в диапазоне 0 ^ р ^ 1. Нормированный вес графа Си в линейной комбинации имеет значение Ыи = р. Остальные графы имеют к данному шагу постоянные веса ^, і = 1,..., К, і = к, где их сумма также постоянна Q = ^к=1 ^, і = к. Их нормированные веса Мі = дг(1 — p)Q изменяются в диапазоне от Мі = qi/Q до Мі = 0.

Результат каждого пробного варьирования проверяется однократным комбинированием уже вычисленных маргинальных распределений р^и(хь\У), і Є Т, к = 1,..., К с подсчетом числа ошибок распознавания для решений х*, і Є Т. Шаг заканчивается после варьирования весов всех графов и выбора нового веса того графа, для которого получено минимальное число ошибок.

Комбинирование полного множества графов. Естественным образом возникает идея об одновременном выполнении базового алгоритма для всех ациклических графов. На каждом шаге одновременного движения по всем графам будем сразу же комбинировать распределения в тех точках изображения, в которых обходы по различным графам встречаются.

Проблема заключается в том, что число таких точек, например, для заданного множества графов (рис. 2) оказывается весьма небольшим (рис. 3, а).

а) б) в) г)

Рис. 3. Точки, в которых встречаются обходы по разным графам

Пусть существует гипотетическое покрывающее множество всех остов-ных ациклических графов. Такое множество графов будем называть полным.

Таким образом, на каждом шаге движения по графам из полного множества в каждом элементе массива все его ребра инцидентности обязательно совпадут с ребрами некоторых ациклических графов из этого множества. Например, для решетки соседства растровых изображений разные случаи комбинирования показаны на рис. 3, б-г. Так как явно графы не заданы, то будем считать их веса одинаковыми.

Рассмотрим элемент і Є Т. Его окрестность относительно некоторого ациклического графа соседства С может быть произвольно разбита на две части Т* = Т— и Т+)0 (рис. 1, а). Расширим окрестность Т^1 = Т+)0 потом-

Этот процесс закончится, когда расширенная окрестность потомков будет содержать все терминальные элементы — потомки элемента і Є Т.

Пусть элемент і Є Т является корневой вершиной і = Ь* графа С. Так как для корня Т-*0) = 0, то расширение окрестности потомков Т^*М = Т+*) = Т(**) закончится через М шагов (рис. 1,б), когда все вершины графа С окажутся в максимальной окрестности корня і *. На последнем шаге М распределение в корне опирается на все наблюдения У*М = У*+ = У, где р* * (х* * \У) = р* * (х* * \У+), х* * Є П. Это распределение является интерполяционным апостериорным маргинальным распределением на множестве значений корневой переменной, что позволяет принять решение о классе ж* * (У) = &щт&хХиеП р* * (х* * \У).

Рассмотрим, например, центральную точку решетки как корневую вершину для некоторого ациклического графа соседства (рис. 4). Ее окрестность в данном случае можно максимально расширить за восемь шагов.

шаг 1 шаг 2 шаг 3 шаг 8

Рис. 4. Расширение окрестности центральной точки

Будем считать все элементы £ £ Т корневыми для соответствующих ациклических графов соседства из полного множества.

Графы из полного множества нам неизвестны, но ничто не мешает считать, что при их комбинировании в каждом элементе массива всегда встречаются все их ребра, соответствующие ребрам исходного графа соседства общего вида.

Будем расширять по шагам окрестности потомков одновременно для каждого элемента t £ T.

В итоге, когда для каждого элемента будет получена его максимальная окрестность Y+ = Y, включая и сам элемент, то будет сразу же получена вся совокупность интерполяционных апостериорных маргинальных распределений pt(xt\Y), t £ T уже как результат комбинирования ациклических графов соседства из полного множества.

Например, для решетки растровых изображений алгоритм комбинирования полного множества ациклических графов соседства имеет следующий вид.

Все точки изображения просматриваются в некотором порядке (например, построчно). Каждый элемент t £ T соединен ребрами (рис.3,б-г) с соседними элементами. Считая, что каждый из соседних элементов принадлежит разным графам соседства, перенумеруем эти графы k = 1,... ,n, где n ^ 4.

На первом шаге расширения окрестностей потомков предполагается, что в текущем элементе t £ T массива распределение скрытых классов равномерно, а в остальных элементах s £ T(t) заданы апостериорные маргинальные распределения классов Ps(xs\ys), полученные на этапе независимого обучения.

На шаге i > 1 во всех элементах из T определены апостериорные маргинальные распределения от предыдущего шага i — 1. На шаге i ^ 1 каждое распределение pt (xt\Ytz) = П k=1 Pt (xt\Ytz), t £ T, основано на распределениях в частичных окрестностях kYz относительно ациклических графов Gk:

Pt {xt\Yt(Bi) = pt {xt\kY&) « pt (xt\Y^) pt (xt\Yt(B(i-1)) ,

Pt {xt\Yg) = Pt (xt\kYg) cx £ ps (xsY^) , s £ kT5' = {s},

Pt (xt\Yt(l-1)^ = Pt(xt) = const и Ps (xs\Ys(t-1)) = Ps(xs\ys) при i = 1.

Вычисления продолжаются до тех пор, пока для всех элементов t £ T не будут получены их максимальные окрестности. Затем комбинирование повторяется, как описано выше для предыдущего алгоритма.

4. Экспериментальное сравнение алгоритмов

Для тестирования предложенных алгоритмов решалась задача сегментации модельных текстурных изображений (рис. 5) размером 201x201 пиксе-

лей. Текстуры трех классов представляют собой реализации трех нормально распределенных случайных величин с немного отличающимися средними в пространстве красной и зеленой цветовых компонент (рис. 5, а — пример первого изображения, рис. 5, б — классификации учителя на всех изображениях).

ЮДОй

а) б)

Рис. 5. Текстурные изображения

Сравнивались два предложенных алгоритма комбинирования (combination и full set), алгоритм BP (belief propagation) и алгоритм TRWS (tree-reweighed message passing), который на сегодня является одним из наиболее эффективных алгоритмов [14]. На рис. 6 показаны результаты распознавания первого изображения всеми алгоритмами.

а) Comb б) Full set в) BP г) TRWS

Рис. 6. Результаты распознавания

Алгоритмы достаточно хорошо справились с задачей, а различия проявляются в основном на границах областей с разной текстурой. Распознавание для полного множества ациклических графов дает наиболее гладкие границы областей. На рис. 7 показаны гистограммы процентов ошибок на тестовых изображениях.

В итоге оказывается, что алгоритм распознавания для полного множества графов показывает хорошие результаты и сравним по качеству с алгоритмом TRWS. Эти алгоритмы имеют схожую идею комбинирования решений, полученных для ациклических графов. Но в TRWS [6] используется глобальный подход к минимизации функции энергии, что приводит к необходимости задавать вид и параметры функций потенциалов на кликах графа соседства.

Р1с1 Р\с2 Р1сЗ Р'\сЛ Р1с5 Р!с6 Р1с7 Р1с8

Рис. 7. Гистограмма процента ошибок на тестовых изображениях

В предложенных в данной работе алгоритмах для восстановления апостериорных распределений используется простая схема классического обучения с учителем на подмножестве элементов массива данных.

Список литературы

1. Rabiner L.R. A Tutorial on Hidden Markov Models and Selected Applications in Speech Recognition // Proc. IEEE, 77. 1977. V.2. P.257-286.

2. Geman S., Geman D. Stochastic Relaxation, Gibbs Distributions, and the Bayesian Restoration of Images // IEEE Trans. on PAMI. 1984. V.6. P.721-741.

3. Li S.Z. Markov Random Field Modeling in Image Analysis. L: Springer-Verlag, 2009. 371 p.

4. Schlesinger M.I., Flach B. Some Solvable Subclasses of Structural Recognition Problems // Proc. of Czech Pattern Recognition Workshop. 2000. P.55-62.

5. Bishop C.M. Pattern Recognition and Machine Learning. N.Y.: Springer, 2006. 738 p.

6. Kolmogorov V. Convergent Tree-Reweighed Message Passing for Energy Minimization // IEEE Trans. on PAMI. 2006. V.10. P.1568-1583.

7. Wainwright M.J., Jordan M.I. Graphical Models, Exponential Families, and Variational Inference // Foundations and Trendsin Machine Learning. 2008. V.1. P.1-305.

8. Двоенко С.Д., Копылов А.В., Моттль В.В. Задача распознавания образов в массивах взаимосвязанных объектов. Постановка задачи и основные предположения // Автоматика и телемеханика. 2004. №1. С.143-158.

9. Двоенко С.Д., Копылов А.В., Моттль В.В. Задача распознавания образов в массивах взаимосвязанных объектов. Алгоритм распознавания // Автоматика и телемеханика. 2005. №12. C.162-176.

10. Pattern Recognition in Spatial Data: A New Method of Seismic Explorations for Oil and Gas in Crystalline Basement Rocks / V.V. Mottl [et al.] // Proc. 15th ICPR’2000. Spain, Barcelona, 2000. V.3. P.210-213.

11. Dvoenko S.D., Savenkov D.S. The Effective Recognition Procedure Based on Tree-Like Markov Models // Proc. 9th Int. Conf. on Pattern Recognition and Information Processing, PRIP’2007. Minsk, 2007. V.1. P.98-100.

12. Двоенко С.Д, Савенков Д.С. Эффективное распознавание взаимосвязанных объектов на основе ациклических марковских моделей // Сб. докл. конф. ММРО-13. М.: МАКС Пресс, 2007. С.302-305.

13. Двоенко С.Д, Савенков Д.С, Шанг Д.В. Комбинирование ациклических графов соседства в задаче распознавания марковских случайных полей // Сб. докл. конф. ММРО-14. М.: МАКС Пресс, 2009. С.441-444.

14. A Comparative Study of Energy Minimization Methods for Markov Random Fields with Smoothness-Based Priors / R. Szeliski [et al.] // IEEE Trans. on PAMI. 2007. V.6. P.1068-1080.

Двоенко Сергей Данилович (dsd@tsu.tula.ru, http://lda.tsu.tula.ru/staff. html), д.ф.-м.н., профессор, кафедра автоматики и телемеханики, Тульский государственный университет.

Савенков Денис Сергеевич (denissavenkov@googlemail.com), аспирант, кафедра автоматики и телемеханики, Тульский государственный университет.

Шанг Динь Вьет (dvietsang@gmail.com), магистрант, кафедра автоматики и телемеханики, Тульский государственный университет.

Acyclic Markov models in interrelated data arrays analysis

S.D. Dvoenko, D.S. Savenkov, D.V. Sang

Abstract. The recognition problem of interrelated data arrays, represented as a two-component Markov random field of hidden classes of objects and their observed features is under investigation. Effective recognition procedures are proposed based on a tree-like representation of an array element adjacency graph. The tree-like reduction of an adjacency graph strongly distorts interrelations between data array elements. It is proposed to balance the lack of interrelations within an array by extended set of acyclic adjacency graphs. For the problem of a segmentation of textured raster images, a set of acyclic graphs is specified and results of experiments are shown.

Keywords: pattern recognition, machine learning, Markov random fields, tex-tured images.

Dvoenko Sergey (dsd@tsu.tula.ru, http://lda.tsu.tula.ru/staff.html), doctor of physical and mathematical sciences, professor, department of automation and remote control, Tula State University.

Savenkov Denis (denissavenkov@googlemail.com), postgraduate student, department of automation and remote control, Tula State University.

Sang Dinh Viet (dvietsang@gmail.com), undergraduate student, department of automation and remote control, Tula State University.

Поступила 13.02.2010