Эффективные наборы совместно вычисляемых линейных локальных признаков цифровых сигналов

ОБРАБОТКА ИЗОБРАЖЕНИЙ, РАСПОЗНАВАНИЕ ОБРАЗОВ

ЭФФЕКТИВНЫЕ НАБОРЫ СОВМЕСТНО ВЫЧИСЛЯЕМЫХ ЛИНЕЙНЫХ ЛОКАЛЬНЫХ ПРИЗНАКОВ ЦИФРОВЫХ СИГНАЛОВ

Мясников В. В.

Учреждение Российской академии наук Институт систем обработки изображений РАН

Аннотация

В работе рассматривается проблема построения эффективных в вычислительном и качественном плане линейных локальных признаков (ЛЛП) цифровых сигналов и изображений. Под набором совместно вычисляемых ЛЛП понимается пара, состоящая из набора конечных импульсных характеристик (КИХ) и одного алгоритма, который производит одновременное/совместное вычисление нескольких линейных свёрток входного сигнала/изображения с набором этих КИХ. Эффективные наборы совместно вычисляемых ЛЛП обнаруживают оптимальное поведение: алгоритм вычисления признаков имеет заранее заданную вычислительную сложность, а набор КИХ наилучшим образом согласован с критерием качества конкретной прикладной задачи. Предлагается способ построения эффективных наборов совместно вычисляемых ЛЛП, основанный на конструировании набора последовательностей отсчётов КИХ специального вида. Приводятся примеры таких наборов последовательностей, рассматривается пример решения задачи построения эффективного набора ЛЛП для типовой задачи цифровой обработки сигналов.

Ключевые слова: цифровые сигналы, линейные локальные признаки.

Введение

Построение признаков и алгоритмов их вычисления - один из ключевых этапов разработки большинства систем, связанных с обработкой и анализом цифровых сигналов и изображений. При реализации этого этапа в конкретной системе требуется удовлетворить многим требованиям, которые не только противоречивы, но и не всегда допускают чёткую математическую постановку [1-3]. Учитывая также многообразие практических постановок задач обработки и анализа, следует признать проблему построения признаков чрезвычайно сложной. Дополнительным подтверждением этому является отсутствие в настоящее время развитой конструктивной теории построения признаков сигналов и изображений для решения задач обработки и анализа. Как следствие, качество принимаемого решения - выбранной системы признаков и алгоритмов их вычисления - целиком и полностью зависит от человека, разрабатывающего конкретную прикладную систему обработки и анализа сигналов и изображений, от его квалификации, опыта, кругозора и затраченных усилий.

Настоящая работа, продолжающая цикл работ [46] автора, направлена на формализацию и решение проблемы построения признаков и алгоритмов их вычисления для вполне определённого класса задач обработки и анализа цифровых сигналов и изображений. Ограничение класса задач определяется моделью используемых признаков - допускается, что для решения задачи обработки и анализа достаточным является использование линейных локальных признаков. Значение ЛЛП вычисляется как линейная свёртка значений отсчётов сигнала/изображения, попавших в область анализа, с некоторым наперёд заданным набором «весов», которые в совокупности составляют

КИХ. Способ выбора набора весов в КИХ характеризует способ построения ЛЛП, а способ вычисления линейной свёртки - алгоритм вычисления признака. Учитывая, что многие известные признаки (коэффициенты разложения Фурье в окне, коэффициенты вейвлет-разложения, локальные степенные и полиномиальные моменты и т.п.) [1,2,8] соответствуют выбранной модели, принятое ограничение не представляется чрезмерно жёстким.

Естественным, но обычно плохо формализуемым требованием к признакам является их «эффективность» [1,4]. В рамках предложенного в работах

[5,6] автора подхода под «эффективностью» признака понимается удовлетворение двум требованиям:

• алгоритм вычисления признака должен обладать заранее заданной (и минимальной в некотором класса) вычислительной сложностью;

• КИХ признака должна быть наилучшим образом согласована с наперёд заданным критерием качества.

При выполнении указанных требований эффективные ЛЛП позволяют установить рациональный баланс между двумя противоположными группами признаков:

• признаками, оптимальными в смысле некоторого критерия качества, но не имеющими подходящего или быстрого алгоритма вычисления (например, признаки, полученные с использованием преобразования Карунена-Лоэва);

• признаками, полученными с использованием быстрых алгоритмов, но не имеющими отношения к содержательной постановке задачи и соответствующим критериям качества (например, признаки, полученные с использованием алгоритма быстрого преобразования Фурье).

В работах [5,6] автора предложен подход к построению отдельных эффективных ЛЛП. Настоящая работа развивает указанный подход на случай построения эффективных наборов совместно вычисляемых ЛЛП. В отличие от предложенных в работах

[5,6] признаков, набор совместно вычисляемых ЛЛП имеет один алгоритм, который производит одновременное/совместное вычисление сразу нескольких линейных свёрток одного входного сигнала/изображения с набором различных КИХ.

Работа организована следующим образом. В первом разделе даётся определение набора совместно вычисляемых ЛЛП как пары, состоящей из набора КИХ (набора последовательностей предопределённой длины) и одного алгоритма, который производит одновременное/совместное вычисление нескольких линейных свёрток входного сигнала/изображения с набором обозначенных КИХ. Указывается алгоритм для совместного вычисления ЛЛП, приводится выражение для его вычислительной сложности как функции ключевых параметров набора последовательностей (число последовательностей/КИХ в наборе, длина последова-тельности/КИХ и т.д.). Во втором разделе вводятся наборы последовательностей специфического вида, названные НМС-наборами последовательностей. Для каждого НМС-набора последовательностей с конкретными параметрами вычислительная сложность соответствующего алгоритма вычисления признаков оказывается минимальной среди наборов последовательностей с теми же параметрами. В третьем разделе рассмотрены вопросы существования и единственности НМС-наборов последовательностей, а в четвёртом приводится вычислительная процедура построения конкретного НМС-набора последовательностей. В пятом разделе множество НМС-наборов последовательностей разбивается на подмножества - семейства, каждое из которых характеризуется частью параметров набора последовательностей; указывается мощность соответствующих семейств. В шестом разделе формализуется понятие «задачи построения эффективных наборов ЛЛП», указываются математические свойства таких задач и способы их аналитического и/или численного решения. Последующие два раздела направлены на демонстрацию примеров НМС-наборов последовательностей. В заключительном, девятом, разделе представлен пример решения задачи построения эффективного набора ЛЛП для локального анализа дискретного случайного стационарного процесса. В заключении работы приведены благодарности и список использованной литературы.

1. Набор линейных локальных признаков и алгоритм их вычисления

Пусть Я, Я+, Ъ, Ъ+, N - множества, соответственно, вещественных, вещественных неотрицательных, целых, целых неотрицательных и натуральных чисел; К - коммутативное кольцо с единицей, Р -коммутативное поле.

Определение 1. Набором из Я совместно вычисляемых ЛЛП длины М над К называется пара

( \

К (т)}т =0М-.,А , где К (т)}т =0М-1, - набор

I т = г=0,Л-1

т = г=0, Л-1

из Я КИХ-ик, каждая из которых задаётся в виде конечной последовательности над К и удовлетворяет ограничениям

К (0)* 0,

"г є 0, Л -1 Зт є 0, М-1 Нг (т) * 0,

З г є 0, Л-1 Иг (М -1)* 0;

а А - алгоритм вычисления набора линейных свёрток произвольного входного сигнала

{х (п)} над К с набором КИХ

{Кг (т)}т =0^-, (М < N):

т= г =0,Л-1

уг (п) = Нг (п) * х(п) = X Нг (т) х(п - т),

т=0

п = М-1, N-1, г = 0, Я -1.

Для сокращения изложения вместо понятия «набор совместно вычисляемых ЛЛП» далее в тексте будем использовать словосочетание «набор ЛЛП».

Следующие два определения являются обобщениями определений известных понятий линейной рекуррентной последовательности (ЛРП), линейного рекуррентного соотношения (ЛРС) [9-11] и понятия расширенного ЛРС (РЛРС), введённого и использованного в работах [5,6].

Определение 2. Пусть К,Т,Я е N (Я > Т), а

К }к=1К и [агй

I- -I -2-------- -*?=1,Ш11

г=0, Л-1

,шш( г,Т-1), г=0,Л -1

заданные элементы

из К. Набор из Л последовательностей

К (0),К (1),...;Кл-1 (0),Кк-Х (1)над К, удовлетворяющих соотношению

Ьг (т) =

Ъ„

г = 0,Т-1, т = 0, К -1,

шт

X амК (т - к)+

к=1

шіп

п

X X а>кКг-, (т - к )+Фг (m),

г > Т V т > К,

называется набором линейных взаимно-

рекуррентных последовательностей (ЛВРП) (Т, К)-го порядка над К. Первые члены г=0,Т-I однозначно определяют набор ЛВРП

к=0,К-1

и называются его начальными значениями. Выражение (3) называется линейным взаимнорекуррентным соотношением (ЛВРС) (Т, К)-го порядка, а коэффициенты агл - коэффициентами

[Ъгк }

/

+

к=0

і=1

ЛВРС. Если все последовательности конечны и

определены на области т = 0, М -1 ( К < М ) , то пару (Л, М) назовём параметрами области определения набора ЛВРП. Величины фг (т) -свободные члены ЛВРП. При этом, если на всей области определения ЛВРП фг (т) = 0, то соответствующее ЛВРС называется однородным, в противном случае - неоднородным.

По аналогии с коэффициентами ЛРС всё упорядоченное множество [а0к}к =ТК_и [аік }к=р,( Т 1) ко-

г=°-Л-1 ;=бйг’

эффициентов ЛВРС целиком обозначим в виде вектора а .

Для конечных ЛВРП за пределами области определения положим

Нг (т)° 0 т ї 0, М - 1у г ї 0, Л-1 и рассмотрим последовательности: фг (т) = К (т )-

( К \

X а0А (т - к)+

к=1

шіп(Т-1,г) к

+ X X а>кКг-,

V і=1 к= 0

т є X, г = 0, Л -1 Определение 3. Пусть [кг (т)}т =^М=1,

набор

ЛВРП порядка (Т, К) над К с параметрами области определения ( Я, М ) . Представление набора ЛВРП в виде:

Кг (т) =

т < 0,

X аокК (т - к)+

шіп(Т-1,г) К

+ X X а>кКг-і ( т - к )+Ф г (m),

г = 0, Я-1, т = 0,М + К -1,

где отсчёты ф г (т) задаются соотношениями (4), называется расширенным ЛВРС (РЛВРС) порядка (Т,К), а вектор (Я,М,Т,К,а) - вектором параметров РЛВРС.

В дополнение к данному определению введём следующие множества:

5°{( г, т): г = 0, Я -1, т = 0, М + К-1},

]0[ = |(г,т): фг(т) ф 0, 1

г = 0, Л -1, т = 0, М + К-1 И определим множество 0 следующим образом (Х'сХ):

0 = ]0[ и 5'.

Введённое множество 0 (включающее множество ]0[ как подмножество) назовём множеством отсчётов неоднородности РЛВРС, отсчёты множества 0 - отсчётами неоднородности РЛВРС, величины фг (т) - значениями неоднородности в соответствующем отсчёте. Очевидно, что во множество ]0[ попадают только те отсчёты неоднородности,

которые содержат ненулевые значения и в которых действительно нарушается однородность РЛВРС.

Заметим, что для набора КИХ, для которых справедливо ограничение (1), множество 0 отсчётов неоднородности РЛВРС удовлетворяет условию:

Для удобства определим также подмножества множества 0 отсчётов неоднородности РЛВРС, задав их для каждой последовательности в наборе:

0г ={(5,т)е 0: 5 = г}, г = 0,Я-1.

Очевидно, справедливы следующие соотношения:

Я -1

"г ф 5 0г п 05 = 0; 0 = и 0г.

г=0

Л-1

]0[с0, ]0г[с0г, ]0[ = и]0г[.

г = 0

Тогда в^ічисление свёрток (2) входного сигнала с набором из Л ЛВРП порядка (Т, К) над К с параметрами области определения ( Л, М ) и множеством

отсчётов неоднородности 0 может быть выполнено с использованием следующего алгоритма.

Алгоритм А3

Вход: [х(п)}п =0^^; Выход: [Уг (п)}

п=М-1^-1 • г=0,К-1

1) Предварительная обработка:

Уг (п)= X х(п -т)фг (т),

п = 0, N -1, г = 0, Л-1. 2) Окончательная обработка:

К

Уг ( п) = X аыУг (п - к ) +

к=1

шіп(Т-1,г) К

+ X X а*Уг-! (п - к ) + уг (п) ,

п = 0, N-1, г = 0, Л-1.

В представленном алгоритме приняты следующие соглашения:

- значения отсчётов х (п) для случая п < 0 полагаются равными нулю;

- значения отсчётов Уг ( п) для случая п < 0 или г < 0 полагаются равными нулю.

г =0,Л-1

0

к=1

і=1 к= 0

і=1

к=0

Вычислительную сложность этого алгоритма, по аналогии с работами [1,4,5,6, 8,12], будем оценивать числом арифметических операций сложения и умножения, необходимых для получения результата, а

именно: пусть ПасИ (А3) и Пти1 (А3) - число арифметических операций, соответственно, сложения и умножения, требуемых для получения всех выходных отсчётов сигнала в алгоритме А3 . Общую вычислительную сложность алгоритма А определим в виде:

и(А3)^^ (А3) + Хти1ити1 (А3),

где ХаЛ + Хти1 = 1 (ХасШ , Хти1 е Я + ) . Для анализа вы-

числительной сложности алгоритма далее будем использовать приведённую вычислительную сложность, задаваемую в виде:

и(А3) =-----1----и(А3).

у > N - М +1 у >

Приведённая вычислительная сложность, как очевидно, равна среднему числу арифметических операций, требуемых алгоритмом А 3 для получения одного «выходного» набора значений свёрток в (1). В случае набора, состоящего из одной КИХ, приведённая вычислительная сложность равна среднему числу операций, требуемых для получения одного выходного значения.

Прямым подсчётом числа арифметических операций в алгоритме А 3 можно убедиться в справедливости следующего предложения.

Предложение 1. Вычислительная сложность алгоритма А3 для ЛВРП порядка (Т,К) с параметрами области определения ( Я, М ) и

множеством отсчётов неоднородности 0 имеет вид:

„ (И-ЯХа ' '

,(А3)=-

N

N - M + 1

+ (K + 1) TI R - 1 | - R

2

.

В приведённом выражении

мощность соот-

ветствующего множества, в данном случае - число отсчётов неоднородности. Заметим, что выражение (9) не учитывает возможные тривиальные значения множителей и слагаемых в (7)-(8), давая выражение в общем виде.

Для случая одной КИХ, когда Я=Т=1, выражение (9) принимает вид

N

N - М +

и в точности совпадает с приведённым в работах

[5,6] выражением для вычислительной сложности алгоритма расчёта отдельного ЛЛП.

2. НМС-набор последовательностей Введём ограничения на возможные ЛВРП.

Определение 4. Набор ЛВРП [кг (т)}г =0^. над

т =0,1,.

К, представимых в виде РЛВРС с вектором параметров (Л, М ,Т, К, а) и множеством отсчётов

неоднородности 0, называется набором взаимнорекуррентных МС-последовательностей1 с аналогичным вектором параметров, если последовательности набора удовлетворяют ограничениям

(1) и для множества 0 отсчётов неоднородности РЛВРС выполняется условие:

Для случая одной последовательности (Л=1) последнее определение также приводит ко введённому

в работах [5,6,12] ограничению в виде: |]0[| < 1 + К .

Введём дополнительно следующие множества:

х°[( г, т): г = 0, Л -1, т = 0, М -1},

0* ° [(г, т)є 0 : т = М + К -1}.

Определение 5. Набор взаимно-рекуррентных МС-последовательностей над К с вектором параметров (Л,М,Т,К,а) называется нормализованным, или НМС-набором последовательностей типа (Ъ, с, й) (Ъ, с є К \ [0}, й є К) для множества отсчётов неоднородности 0, если

г ( т )г и

Л(г, т)є0

для значений неоднородности {фГ (т)} последовательностей {h* (т)}г =or- набора

т =0,M-1

полняются условия: h* (0) = b и

вы-

К* (т )}г=orl’ {¡к (т)}

т =0, M -1

л

(г,т)є0

= arg max

Ф (т)}(г .т.0-1

I {hr(т)},=0^ |

^ m=0M-1 J

(R2 (M + K)+1) X I (Фг (т) = 0) +

(г,т)є 0\{(О,О)}

+R(M + K) X I (Фг (т) = с) +

(г,т)є0

+ X 1 (hr (т )= d ) +

(г ,т)єх \{(0,0)}

( ( (

gr (M +K )+т

(г ,т)є0

4I

+ X 8г

(г, т)є x

В приведённом выражении величина I ( ) - индикатор соответствующего события/условия, кото-

1 Аббревиатура MC введена в работе [8] и расшифровы-

вается как Minimal Complexity (минимальной сложности).

л

л

и

рый принимает значение «1», если условие выполняется, и «0» - в противоположном случае.

Определение 5 и условие (11) требуют некоторых комментариев. Для заданного множества отсчётов неоднородности 0 могут быть построены различные наборы взаимно-рекуррентных МС-

последовательностей с указанным вектором параметров (Л, М, Т, К, а), но различными итоговыми

множествами ]0[ и [фг (т)} [ и отсчётами по-

следовательностей в наборе. Среди всех этих наборов выбирается такой, который даёт максимум показателя в (11). Значение показателя формируется четырьмя слагаемыми, в каждом из которых есть «весовая» составляющая и «индикатор». Из соотношения «весовых» составляющих следует, что величина

X У(Ф ( т ) = 0 ) должна быть увеличена в

(г ,т)є 0 \[( 0,0)}

первую очередь, второй следует увеличивать величину X I (Фг (т) = с), третьей - величину

(г, т)є0*

X Ф. (т ) = й) и, наконец, последним сле-

(г ,т)єЗ \[( 0,°)}

дует увеличивать последнее слагаемое (значение экспоненты, которое по абсолютной величине не превосходит «0,5»). Проанализируем теперь каждую из этих величин.

Для «индикатора» в первом слагаемом справедливо соотношение:

(г, т)є0 \[(0,0)}

Поэтому рост величины в левой части приводит к уменьшению величины |]0[|. Это эквивалентно построению набора последовательностей с минимально возможной мощностью множества ]0[, то

есть с минимальным количеством нарушений однородности у РЛВРС. Рост «индикатора» второго слагаемого приводит к росту значений отсчётов неоднородности из множества 0 с величиной «с». Рост последнего, третьего слагаемого приводит к росту числа отсчётов в наборе последовательностей со значениями «й».

Для увеличения показателя в (11) рост первых трёх слагаемых происходит именно в этой (указанной) последовательности. При этом если максимум суммы первых трёх слагаемых достигается всего для одного набора последовательностей, то значение четвёртого слагаемого (экспоненты) не влияет на выбор набора последовательностей (оператор максимума), поскольку дополнительная коррекция этого слагаемого не превосходит «0,5». С другой стороны, если максимум суммы первых трёх слагаемых достигается на нескольких наборах, то последнее (экспоненциальное) слагаемое вводит строгое упорядочивание решений путём идентификации с каждым из них последовательности длины Л(М+К), каждый элемент которой

имеет значения из множества {0,..., 7} . Вводимое упорядочивание - лексикографическое, порождаемое выражением:

X 8г(М +К)+т (4/(фг (т) = 0) + 21 (фг (т) = с)) +

(г ,т)е 0

+ X 8г(М +К)+ т/ (ИГ (т) = й).

(г ,т)е 5

Справедлива следующая лемма.

Лемма 1. Для НМС-набора последовательностей типа (Ь,с,й) (Ь, с е К \ {0}, й е К) с

вектором параметров (Я,М,Т,К,а) вычислительная сложность алгоритма А3 вычисления соответствующих ЛЛП удовлетворяет условию:

,(А3) <

N

N - М + 1

Л ( К - 1)-( Л - 1)Хайй +

+ (К + 1) ТI Л -

Т-1 2

.

Доказательство:

Соотношение (12) напрямую следует из выражения (9) и условий определений 4-5.

В частном случае, когда Л=Т=1, соотношение (12) преобразуется к виду:

,(А3) <

N

2К

N - М + 1

что в точности совпадает с приведённым в работах [5,6] соотношением для вычислительной сложности расчёта ЛЛП для отдельной НМС-последовательности.

Другим важным частным случаем, который будет рассматриваться и далее, является НМС-набор последовательностей порядка (Т,К)=(2,1). Выражение (12) для вычислительной сложности алгоритма А 3 расчёта набора ЛЛП преобразуется к виду:

и

' ' N-М + ^^ '

3. Существование и единственность НМС-набора последовательностей.

Построение НМС-набора последовательностей

В настоящем и следующих двух разделах предполагается, что отсчёты набора последовательностей (набора КИХ) и компоненты вектора коэффициентов РЛВРС а являются элементами некоторого коммутативного поля Р.

Теорема 1 (о существовании и единственности

НМС-набора последовательностей).

Пусть (Я, М ,Т, К, а) - вектор параметров

РЛВРС и множество 0 отсчётов неоднородности

удовлетворяет соотношению (6) и ограничению:

10 = 1 + ЯК,

НМС-набор последовательностей типа (Ъ, с, й) (Ъ, с є Р \ [0}, й є Р) над Р с вектором

параметров (Л,М,Т,К,а) для множества отсчётов неоднородности 0 либо не существует, либо существует и единственен.

Доказательство:

В соответствии с определением РЛВРС набор взаимно-рекуррентных МС-последовательностей

должен удовлетворять (5) на всей области определения. Записывая по одному уравнению для каждого отсчета из множества х

х=[(г, т): г = 0, Л -1, т = 0, М + К-1},

|х|= Л (М + К) кроме (0,0), а также учитывая ограничение К0 (0) = Ъ (= ф0 (0)) для НМС-набора последовательностей, получим следующую систему линейных алгебраических уравнений (СЛАУ) с Л(М+К) уравнениями:

К0 (0) = 1, г = 0, Л-1:

К

К (т)-XаокК (т-к)-

(т)-Xа^К (т-

к=1

тіп(Т-1,г) к

- X X аГккг-< (т - к ) = 0

т є

[1,...,М -1} \ 00, г = 0, [0,...,М-1}\ 0г, г > 0,

К тіп(Т-1,г) К

XаокК(т-к)+ X XакК-,(т-к)=0,

к=1 ,=1 к=0

т є [М,...,М + К-1} \ 0г,

К

К (т)-XаоЛ (т -к)-

к=1

тіп(Т-1,г) К

- X Xа*К-,(т-к)-фг(т)=0,

тє [0,.,М-1}П0г

X а0>кК (т - к) +

тіп(Т-1,г) К

+ X X аГ<кКг-, (т - к) + Фг(т) = 0,

т е {М,..., М + К - 2} П 0г.

В этой СЛАУ переменными являются значения искомых последовательностей {кг (т)}т =рм- (ко-

г =0,Я-1 ’

личество значений - ЯМ ) и значения неоднородно-

сти

[фг (т )}(г,тЬв \ !ф0 (0)} (I \ [(0,0)}= ЛК) •

Та-

ким образом, в приведённой СЛАУ всего Л

переменных. Она может быть совместна или несовместна.

Если ранги расширенной и главной матриц СЛАУ не совпадают, то СЛАУ (15) оказывается несовместной. Следовательно, искомый НМС-набор последовательностей не существует.

Если ранги расширенной и главной матриц СЛАУ совпадают, то СЛАУ совместна. Тогда возможны две различные ситуации.

В первой ситуации равные ранги главной и расширенной матриц СЛАУ имеют значение Я(М+К). Тогда решение СЛАУ существует и единственно [13]. В этой ситуации возможны два случая.

- Условие (1) для решения СЛАУ выполняется. Тогда решением СЛАУ является НМС-набор последовательностей с заданным вектором параметров (Я,М,Т,К,а) и множеством отсчётов неоднородности ]Э[с0 (множества могут

не совпадать, поскольку некоторые из значений неоднородности могут оказаться нулевыми). В силу единственности решения СЛАУ условие

(11) выполняется автоматически и НМС-набор последовательностей единственен.

- Условие (1) для решения СЛАУ не выполняется. Тогда получаемый в результате решения СЛАУ набор последовательностей не удовлетворяет условию определения 4 и, как следствие, не является НМС-набором последовательностей. То есть искомый НМС-набор последовательностей не существует.

Во второй ситуации равные ранги главной и расширенной матриц СЛАУ имеют значение меньшее Я(М+К) (но не меньше единицы в силу равенства И0 (0) = 1). Следовательно, существует множество решений СЛАУ (15). Причиной этому является то, что число (линейно-независимых) уравнений оказалось меньше, чем число переменных. Выходом из этой ситуации является пополнение СЛАУ (15) некоторым количеством дополнительных уравнений. Первой группой таких уравнений являются следующие ЯК уравнений-равенств, которые «продуцируются» первым слагаемым в критерии (11):

фг

Вторая группа из |0*| (1 <|0*| < Я) уравнений-равенств «продуцируется» вторым слагаемым в (11):

фг

Третья группа содержит ЯМ -1 уравнений-равенств и «продуцируется» третьим слагаемым в (11):

Иг

Общее количество дополнительных уравнений, задающих посредством операции присвоения значения неизвестных, удовлетворяет соотношению:

ЯК + |0*| +(ЯМ -1) =

= Я (М + К ) + |0*| -1 > Я (М + К),

к=0

і =1

к=0

і =1

к=1

і =1

к=0

что достаточно для пополнения СЛАУ до Краме-ровской. Причём если в СЛАУ использовать сразу все уравнения (16)-(18), то СЛАУ оказывается переопределённой и неразрешимой. Следовательно, разрешимая непротиворечивая СЛАУ находится среди

Я(М +К )+|е*|-1

всех возможных 2 1 1 пополненных СЛАУ.

Как и для первоначальной СЛАУ, каждая из этих

Я(М +К )+|е*|-1

2 пополненных СЛАУ может быть несо-

вместной или совместной. Совместные СЛАУ могут быть Крамеровскими (однозначно разрешимыми) или нет. Для любой СЛАУ, не являющейся Краме-ровской (переменных больше, чем уравнений), можно указать Крамеровскую СЛАУ (пополнив уравнениями из списка (16)-(18)) с большим значением показателя (11). Поэтому далее рассматриваем только Крамеровские СЛАУ.

Из всего множества Крамеровских СЛАУ выделим те, решение которых удовлетворяет условию (1). Это множество может быть пустым или не пустым. Если это множество пусто, то НМС-набор последовательностей не существует. Если множество однозначных решений, для которых условие (1) выполняется, не является пустым, то все решения - потенциальные претенденты на НМС-набор последовательностей. Для однозначного указания одной из последовательностей достаточно ввести строгое упорядочивание на множестве найденных решений. Именно такое упорядочивание вводит показатель (11), строго упорядочивая все пополненные СЛАУ (включая несовместные и неопределенные). Поскольку отобранные СЛАУ с решениями -их подмножество, то среди них существует единственная СЛАУ, соответствующая максимальному значению показателя в (11). Следовательно, получаемое решение - единственное.

Замечание 1. Как видно из приведённого доказательства, СЛАУ (15) первоначально имеет достаточное число уравнений, так как количества уравнений и неизвестных совпадают. Необходимость пополнения СЛАУ возникает только в случае существования линейной зависимости уравнений в СЛАУ, что на практике происходит крайне редко. Автор работы на практике ни разу не сталкивался с ситуацией необходимости пополнения СЛАУ (15). В то же время несовместные СЛАУ (15) встречаются достаточно часто.

Замечание 2. В том случае, если СЛАУ (15) оказывается неопределённой, существуют различные способы её пополнения. Эти способы зависят от трёх ключевых составляющих:

- алгебраических свойств данных (обрабатываемых сигналов и изображений);

- функциональных свойств данных;

- параметров, характеризующих специфику задачи.

Как следствие, данное выше определение 5 - это не единственно возможный способ определения

НМС-набора последовательностей2. В то же время, для рассматриваемого и наиболее общего случая (рассматриваются последовательности над произвольным коммутативным кольцом К, функциональные свойства данных не используются) данное определение является достаточно простым и универсальным, то есть работоспособным для любого типа данных.

4. Процедура построения НМС-набора последовательностей

Способ построения НМС-набора последовательностей очевидным образом следует из доказательства теоремы 1. Входными параметрами при построении являются:

• тип конструируемого набора

(Ъ, с, й) (Ъ, с є Р \ [0}, й є Р),

• вектор параметров РЛВРС (Л, М, Т, К, а),

Для наиболее распространённого на практике случая, когда используются последовательности над полем вещественных чисел Я, альтернативное определение НМС-набора последовательностей для множества отсчётов неоднородности 0 может содержать следующие условия:

«... если для значении неоднородности

[ф*(т)}

т) и

г ,т)є 0

последовательностей [кг (т)}г =0лг; набора выполняют

0,Л-т=0,М-1

ся условия:

К (0 ) = 1,

ф** (М + К -1) = 1

* (г : г є [0,..., Л -1} &

г = тіп <!

(г, М + К -1) є 0І

К(т)}г=м^,[Ф** (т )}(г

(г,т)є 0

= аге тіп

(г,т)є 0 ’

[К (т)} г=0 В-1

XX К

(г, т)є 0

В результате также получается НМС-набор, для которого справедливо утверждение Теоремы 1. Эскиз соответствующего доказательства следующий: множество решений неопределённой СЛАУ (15) образует в пространстве

т,Я(М+К )-2 ,,,

К ' ' выпуклое непустое множество. Т огда искомое

решение, то есть вектор с Я (М + К)- 2 компонентами

[Ф*г ( т )}

К(т)}

(г ,т)є= \[(0,0)}

находит-

(г ,т)е 0 \{(г*,М+К-1)}

ся среди точек этого выпуклого непустого множества, ближайших к началу координат (нулевому вектору). Как известно, множество таких точек состоит из одной точки в силу выпуклости множества [18]. Это гарантирует единственность решения при его существовании, то есть совместности исходной СЛАУ (15).

Недостатком такого альтернативного определения является то, что в общем случае (то есть для последовательностей над некоторым конкретным коммутативным кольцом) оно оказывается математически некорректным.

Л

Л

»

г=0 т= 0

• множество отсчётов неоднородности 0, удовлетворяющее ограничениям (6) и (14). Результатом построения является пара множеств:

значений

неоднородности [ф* (т)}

и

значений отсчётов

(г,т)є0

последовательностей

[К* (т)}г=0л1 в наборе. т =0,М-1

Если построение невозможно, эти множества полагаются пустыми, а ситуация интерпретируется как «ошибка построения». Численная процедура построения НМС-набора последовательностей может быть представлена следующим образом (ниже С_ - биномиальный коэффициент).

Процедура построения НМС-набора последовательностей Шаг 1. Формирование СЛАУ (15). Вычисление рангов расширенной и главной матриц СЛАУ. Если ранги не равны - «ошибка построения». Если ранги равны (и равны некоторой величине Я1) - переход к шагу 2.

Шаг 2. Если Я'=Я(М+К), то выполняется решение полученной Крамеровской СЛАУ и вычисление результата (конец процедуры построения). Если Я < Я (М + К), то переходим к шагу 3.

Шаг 3. Пополнение СЛАУ (15) уравнениями-равенствами из наборов (16)-(18). Общее количество

вариантов пополнения составляет

СЛ(М+К)-Л' Д

СЛ(М +К)+|0*|-1 . Для

каждого варианта производится вычисление рангов расширенной и главной матриц соответствующей пополненной СЛАУ. Тогда:

- если ранги не равны, то выполняется переход к другому варианту пополнения;

- если ранги равны и меньше Я (М + К), то выполняется переход к другому варианту пополнения (причина - существует вариант пополнения с большим значением показателя (11));

- если ранги равны Я (М + К), то выполняется решение получившейся Крамеровской СЛАУ. Если в результате решения СЛАУ для получившегося набора последовательностей множество ]0[ отсчётов неоднородности удовлетворяет условию (6), то получившийся набор последовательностей - потенциальный претендент на НМС-набор последовательностей. Для него производится расчёт показателя (11).

Когда все варианты пополнений оказываются исчерпанными, происходит переход к шагу 4.

Шаг 4. Если список претендентов на НМС-набор последовательностей пуст, то «ошибка построения», в противном случае - среди всех найденных претендентов выбирается тот, для которого показатель (11) имеет максимальное значение. Это и есть результат.

Как уже было отмечено в Замечании 1, автору настоящей работы на практике ни разу не попадалась неопределённая СЛАУ (15). Поэтому сложная в вычислительном плане часть приведённой процедуры (шаги 3 и 4), связанная с выполнением цикла пополнения СЛАУ и решениями пополненных СЛАУ, на практике обычно не выполняется ни разу.

Замечание 3. Приведённое описание процедуры отражает лишь принцип построения НМС-набора последовательностей. Наиболее сложную часть, связанную с полным перебором вариантов пополнения СЛАУ на шагах 3 и 4, можно существенно ускорить, применив динамическое программирование [14]. Для этого следует использовать различия «весовых» составляющих у слагаемых в показателе (11).

5. Семейство НМС-наборов последовательностей Пусть далее пара параметров (Ь, с, й) удовлетворяет условию Ь,с е Р \{0}, й е Р .

Определение 6. (Я, М ,Т, К, а) - семейством

НМС-наборов последовательностей типа (Ь,с,й), обозначаемым ^^Ьсй) (Я,М,Т,К,а), называется множество НМС-наборов последовательностей типа (Ь, с, й) с вектором параметров

(Я,М,Т,К,а).

Из приведённого определения видно, что НМС-наборы последовательностей одного семейства отличаются множествами отсчётов неоднородностей.

Предложение 2 (о количестве НМС-наборов в семействе).

"М > К > 1 Я > Т > 1

р

< СЛК - СЛК

< СЛ(М +К)-1 СЛ(М+К-1)-Г

Доказательство:

Поскольку для множества отсчётов неоднородности НМС-набора последовательностей справедливо соотношение 10 < КЯ +1 и (0,0) е 0, то число

последовательностей в семействе - это размещение оставшихся ЯК отсчётов неоднородности среди Я (М + К) -1 отсчётов множества

{(г, т): г = 0,Я-1, т = 0,М + К -1}, при выполне-

[ условия: $г є 0, Л -1: (г, М + К -1)є 0г с0 .

Замечание 4. Предложение 2 не гарантирует, что конкретное семейство НМС-наборов последовательностей не является пустым.

Иллюстрация к предложению 2 приведена на рис. 1.

1Е+14

1Е+12

1Е+10

1Е+08

1Е+06

10000

100

1

А

л У <<

і 1'

У" У

/ У

У V

к

Л У : СГ

Рис. 1. Иллюстрация к предложению 2.

Верхняя граница количества НМС-наборов в семействе

&{Ь сЛ){ Я,33,2,1, а) для Я = 18

6. Задачи построения эффективного набора линейных локальных признаков

Для формулировки задачи построения эффективных наборов ЛЛП введём в рассмотрение целевую функцию ¥ : РМЯ  Я, конкретизирующую для прикладной задачи требования к качеству признаков (то есть требования к набору КИХ признаков). Данная функция для набора {Нг (т)}т =0М—, пог =0,Я-1 ’

следовательностей отсчётов КИХ указывает числовую величину - степень «пригодности»: набор считается тем лучше, чем меньше значение целевой функции.

Определение 7. Частной задачей построения эффективного набора ЛЛП называется следующая задача:

для заданных параметров

(Ъ,с, й) (Ъ, с е Р \ {0}, й е Р) и

N, Я,М,Т,Ке N +, для которых выполняются соотношения

М < N, Т < Я. ( N - М +1

Я (М-^)+(Я - 1)^ + Т -1

N

+ Я - Т| Я -

к <-

2

Я + Т| Я -

т-1 2

заданного вектора коэффициентов а ЛВРС и

целевой функции ¥ : РМЯ  Я определить набор

/ \

{кг ( т)}т =0М-., А

1 т =

г=0, Я-1

из Я ЛЛП, в котором:

- Я последовательностей {кг (т)}т =0м— являют-

г =0,Я-1 ’

ся НМС-набором последовательностей семейст-

ва р(рсй)( Я,М, Т, К, а) с минимальным значением целевой функции:

¥

тіп ;

- алгоритм А3 построен для НМС-набора последовательностей {кг (т)}т ,.

J т = г =0,Я-1

Для введённой частной задачи построения эффективного набора ЛЛП справедливо следующее предложение.

Предложение 3. Пусть вектор (Я,М, Т, К, а) параметров семейства НМС-набора последовательностей над Р типа

(Ъ, с,й) (Ъ, с е Р \ {0}, й е Р) и величина

N е N + удовлетворяют ограничениям из определения 7 и целевая функция ¥ :  К удовле-

творяет условию:

'К ( т )}т=0М-, е Р{ c.d)( Я, M, Т, K, « ) ,

\ т=0,М г=0,Я-1

" { Яг ( т)}т =0М-, е c,d) ( Я М ,Т, K, a ) г=0, Я-1

{кг (т)}т=0М—, * {Яг (т)}т =Щ{, ^

г=0,Я-1 г=0, Я-1

¥(к0 (0),к (1),...,кк-! (М-1))*

* ¥( Я0 (0 ), Я0 (1),•••, Яя-1 (М-1)).

Если решение частной задачи построения эффективного набора ЛЛП существует, то оно единственно.

Доказательство.

Утверждение о единственности решения является следствием свойства (19) целевой функции, которое превращает семейство НМС-наборов последовательностей в строго упорядоченное конечное (в силу предложения 2) множество. Факт возможного отсутствия решения частной задачи есть следствие возможной пустоты соответствующего семейства, что не опровергается теоремой 1.

Следует отметить, что требование (19) к целевой функции на практике легко удовлетворяется, а именно: если для некоторых НМС-наборов последовательностей из конкретного семейства значения целевой функции оказались одинаковыми, всегда можно эти значения скорректировать (сохранив общую упорядоченность остальных наборов по существующим значениям целевой функции), например, в соответствии с лексикографическим упорядочением НМС-наборов последовательностей (см. комментарии к Определению 5).

Следует также отметить, что приведённое предложение характеризует только свойства аналитической корректности задачи построения, то есть свойства существования и единственности её решения. Свойство вычислительной корректности, то есть свойство вычислительной устойчивости решения этой задачи будет определяться функциональными свойствами соответствующих сигналов. Функциональные свойства, в свою очередь, определяются постановкой конкретной прикладной задачи. Учитывая, что решение конкретных прикладных задач не является целью настоящей работы, рассмотрение вопросов численной устойчивости решения частной задачи также выходит за её рамки. Несмотря на это, специфика постановки частной задачи позволяет указать общий подход к её решению, который не зависит ни от прикладной задачи, ни от функциональных свойств сигналов, а именно: общий подход к решению частной задачи построения эффективного ЛЛП основан на прямом переборе всех возможных НМС-наборов последовательностей семейства Р(Ьса)(Я,М,Т,К,а). Этот перебор конечен, в силу

ограниченности мощности семейства, что следует из Предложения 2, и легко может быть реализован путём последовательного формирования множества

0с{(г,т): г = 0,Я-1, т = 0,М + К-1}, удовлетворяющего соотношениям (6) и (14). В силу Теоремы 1 для конкретного сформированного множества 0 НМС-набор последовательностей (над Ж) семейства #?(Ьсй)(Я,М,Т,К,а) либо не существует,

либо существует и единственен. Если он существует, то он может быть построен с помощью вычислительной процедуры, описанной в четвёртом разделе настоящей работы.

Из приведённого описания общего подхода к решению частной задачи видно, что функциональные свойства сигналов, влияющие на вычислительную корректность задачи, окажут влияние только на этапе построения конкретного НМС-набора заданного семейства и множества О. То есть, по сути, на качество решения СЛАУ (15), возможно пополненной уравнениями (16)-(18).

Определённым недостатком эффективных наборов ЛЛП, полученных как решение частной задачи, и соответствующего способа их построения является то, что ограничение класса рассматриваемых НМС-наборов последовательностей отдельным семейством оказывается слишком «жёстким». Для практического использования более естественной является постановка, в которой наряду с длиной обрабатываемого сигнала N фиксируются только четыре ключевых параметра Я, М, Т, К семейства, ограничивающие сложность алгоритма вычисления признака (12), а «подтип» семейства, характеризуемый вектором коэффициентов а РЛВРС, оказывается неизвестным. Следующее определение даёт формулировку такой

задачи. Сразу отметим, что в математическом плане такая задача оказывается «хуже», чем предыдущая, поскольку не позволяет гарантировать единственность получаемого решения.

Определение 8. Расширенной частной задачей построения эффективного набора ЛЛП называется следующая задача:

для заданных параметров

(Ъ, с, й) (Ъ, с є Р \ {0}, й є Р) и

N, Я, М ,Т, К є N +, для которых выполняются соотношения

М < N, Т < Я, ( N - М +1

N

К < ^--------

Я (М-Хайй ) + ( Я - 1)Хайй +

+ Я -Т Я -

Т -1

Я +Т Я -

Т-1

2

и целевой функции ¥: РМЯ  Я определить на-

бор

( \ {кг ( т)}т , А

J т = г=0,Я-1

из Я ЛЛП, в котором:

- Я последовательностей {кг (т)}т =0м-, является

г=0,Я-1 ’

НМС-набором из множества

и ^(ьсй)(Я,М,Т,К,а) с минимальным значе-

аєРК

нием целевой функции:

¥

тіп

{кг

г=0,Я-1 _єГК ' ‘

- алгоритм А3 построен для НМС-набора последовательностей {кг (т)}т =0М-1,.

г =0,Я-1

Очевидно, что в общем случае мощность множества ^ Р(Ьса)( Я, М, Т, К, а) может быть не огра-

аеРК

ничена. Вследствие этого, способ решения расширенной частной задачи в виде прямого перебора всех НМС-наборов, использованный для решения частной задачи, здесь невозможен. Более того, в общем случае не удаётся гарантировать и единственность решения.

Учитывая практическую важность случая вещественных признаков, можно предложить следующий общий подход к получению квазиоптимального численного решения расширенной частной задачи построения эффективного набора ЛЛП. Он может быть получен исходя из следующих соображений.

2

V

У

Расширенная частная задача построения набора НМС-последовательности над Я является оптимизационной задачей, в процессе решения которой необходимо определить:

• коэффициенты РЛВРС а для НМС-набора последовательностей, которые фиксируют «подтип» семейства ^Ь с ^ (Я,М,Т,К,а);

• собственно НМС-набор последовательностей {кг (т)}т =0м-1 , семейства

г =0,Я-1 ’

&(ь с а)(Я,М,Т,К,а), минимизирующий

значение целевой функции.

Вторая подзадача в этом списке - это частная задача построения эффективного набора ЛЛП, решение которой может быть найдено с использованием общего подхода, представленного в тексте выше. Для решения первой подзадачи (учитывая, что оно может быть не единственным) могут быть использованы алгоритмы численной глобальной оптимизации (в частности, алгоритм имитации отжига или генетический алгоритм). Использование указанного подхода к построению отдельных эффективных ЛЛП над Я, являющихся частным случаем эффективного набора ЛЛП при Я=1, рассматривалось, например, в работе [12].

7. Примеры НМС-наборов однородных последовательностей

НМС-наборы факториальных полиномов

НМС-набор последовательностей конструируется при следующих параметрах РЛВРС:

Я > 1, М = 21, Т = 2, К = 1,

arn = 0, r = 0, R -1;

b = c = 1, d = 0.

Из теории конечных разностей известно [9,11,15], что набор последовательностей, для которого выполняется взаимно-рекуррентное соотношение вида:

к0 (т) = к0 (т -1),

кг (т) = кг (т -1) + кг-1 (т), г = 1, Я -1 является набором полиномов специального вида, называемых «обобщёнными степенями», или «факториальными полиномами». Вид этих полиномов приведён на рис. 2.

Вычислительная сложность алгоритма расчёта набора ЛЛП для всего НМС-набора из Я последовательностей в общем виде приведена в выражении (13). Заметим, что при аналитическом построении НМС-набора последовательностей и соответствующего алгоритма А3 вычисления ЛЛП можно учитывать нулевые и тривиальные значения коэффициентов (20) и основную часть выражения для сложности уменьшить на величину (Я - 1)(1 + )+Х,ти1 . То-

гда выражение для сложности расчёта набора ЛЛП с

3

использованием алгоритма А примет окончательный вид:

N

( A3)< R (1 + Xadd )•

v ' N-M + 1

л т 1 f л \ ^ add >

N-M + 1

Следует заметить, что указанный набор полиномов был впервые использован для параллельнорекурсивного вычисления степенных моментов в работах [7] и [8], в этих же работах указаны и алгоритмы вычисления набора соответствующих свёрток. Однако явный вид полиномов в этих работах указан не был. В явном виде указание на факториальные полиномы впервые появилось в авторской работе [16] и последующей монографии [1]. В настоящем случае полученный результат - это частный случай общего

0 2 4 б 8 10 12 14 16 18 тп

Рис. 2. Пример НМС-набора факториальных полиномов

НМС-набор квазиэкспоненциальных последовательностей

НМС-набор последовательностей построен при следующих параметрах РЛВРС:

Я > 1, М = 21, Т = 2, К = 1,

а01 = 0,85, аг10 = 1,15, а' = 0, г = 0,Я -1;

ъ = с = 1, а = 0.

Для случая г=0 последовательность НМС-набора представляет собой отсчёты экспоненциальной функции:

h0 ( n) = ( < )" = ( 0,85)и

которая удовлетворяет рекуррентному соотношению:

к0 (п) = 0,85 • к0 (п -1).

Вид последовательностей этого НМС-набора приведён на рис. 3.

Вычислительная сложность расчёта значений ЛЛП для всего НМС-набора из Я последовательностей приведена в выражении (13). При аналитическом учёте нулевых и тривиальных коэффициентов выражение для вычислительной сложности примет вид:

и

' ' N-М+Г '

и тО-г КЧ‘| I?3 и'" t

г=4. if ' .•л гп,. -=3

V .¡Г* 1 г с =7" Ьа., 1"П-С

¿И

И/т) тах пТ

0,75

0,50

0,25

О

О 2 4 6 8 10 12 14 16 18 т

Рис. 3. Пример НМС-набора квазиэкспоненциалъных последовательностей

НМС-набор последовательностей «прогрессивных косинусных функций»

НМС-набор последовательностей конструируется при следующих параметрах РЛВРС:

R = 5, M = 21, K = 2, T = 2,

arm = 2cos | —

<2 =-1,

<0 = 1,

ап = аЦ2 = 0,

г = 0, R-1;

Ь = с = 1, ё = 0.

Для случая г=0 последовательность НМС-набора представляет собой отсчёты косинуса:

h0 (n) = cosnj

4

который удовлетворяет известному рекуррентному соотношению:

А0 (п) = 2со8А (п-1)-А0 (п-2).

Вид последовательностей этого НМС-набора приведён на рис. 4. Вычислительная сложность (12) расчёта значений ЛЛП для всего НМС-набора из R последовательностей удовлетворяет соотношению

и

' ' N - М + Г '

При аналитическом учёте нулевых и тривиальных коэффициентов выражение для вычислительной сложности примет вид:

N - М +

8. Примеры НМС-наборов неоднородных последовательностей

НМС-наборы последовательностей «неоднородные многочлены»

НМС-набор последовательностей конструируется при векторе параметров РЛВРС со значениями, указанными в (20). Примеры НМС-наборов последовательностей семейства р(Ьсё)(R,М,Т,К,а),

построенных при различных множествах 0 отсчётов неоднородностей, приведены на рис. 5. Вычислительная сложность расчёта набора ЛЛП для указанных НМС-наборов последовательностей совпадает с вычислительной сложностью расчёта ЛЛП на основе НМС-набора последовательностей с однородным РЛВРС (то есть, факториальных полиномов) и задаётся выражением (13) или, в случае

аналитического учёта тривиальных операции, выражением (21).

hr

0,75

0,50

0,25

0

KV =о

m

Рис. 4. Пример НМС-набора «прогрессивных косинусных функций»

1,0

0,8

0,6

0,4

0,2

0

-0,2

-0,4

-0,6

-0,8

-1,0

/ ******

г=0' /

г=1 / -V / \

.Л V^21 \

1 \ ч

/ Г 1 ^ У

\ 1 г=5—-/ / у

\ \ / / \ у^г=4

\ ✓ i ж

1 1-^

0 5 10 15 20

Рис. 5. НМС-набор последовательностей «неоднородные многочлены»

НМС-наборы неоднородных квазиэкспоненциальных последовательностей

НМС-набор последовательностей конструируются при векторе параметров РЛВРС со значениями, указанными в (22). Примеры НМС-наборов приведены на рис. 6. Вычислительная сложность расчёта набора ЛЛП для указанных НМС-наборов последовательностей задаётся выражением (13) или, в случае аналитического учёта тривиальных операций, выражением (23).

1,0 0,8 0,6 0,4 0,2 0 -0,2 -0,4 -0,6 -0,8 -1.0

Г\

1 \ г-3

ч.

^i3l

Л\\ t  \ \ 1 / г~

\\\ \ ¡-7 /

5 \ \V / / г=2

г=1Л \ \J/ /^г=4

: / >

О 5 10 15 20

Рис. 6. НМС-набор неоднородных квази-экспоненциальных последовательностей

и

НМС-наборы неоднородных «прогрессивных косинусных функций»

НМС-набор последовательностей конструруется при векторе параметров РЛВРС со значениями, указанными в (24). Примеры НМС-наборов приведены на рис. 7. Вычислительная сложность расчёта набора ЛЛП задаётся выражением (25) или, в случае аналитического учёта тривиальных операций, выражением (26).

1,0 0,8 0,6 0,4 0,2

0 -0,2 -0,4 -0,6 -0,8 -1,0

У /

/і * л \\

т CNl II 5ч. \\

-* II г—1 [1 / Г

V/ > S 1J / f ft ' t ' Р

\ V /у jr j \/-'1 і

Ws /7Х / \д / /

Vi К/ /4 / II д\ і

т /

W

0 5 10 15 20

Рис. 7. НМС-набор неоднородных «прогрессивных косинусных функций»

9. Пример решения задачи локального анализа дискретного стационарного случайного процесса с использованием эффективных ЛЛП

В завершение работы рассмотрим упрощённый пример, предназначенный для демонстрации преимуществ предлагаемого в работе подхода к решению определённого класса задач обработки и анализа цифровых сигналов и изображений. Несмотря на демонстративный характер этого примера, в нём чётко прослеживается связь со многими реальными практическими задачами. «Рафинированность» же использованной постановки оказалась необходима для обеспечения возможности указания «идеального» решения.

Пусть необходимо разработать алгоритм или устройство, предназначенное для выполнения локального анализа дискретного стационарного случайного процесса (ССП) в режиме ограниченного времени. Пусть, для определённости, длина ССП полагается неограниченной, он имеет нулевое среднее и биэкспоненциальную автокорреляционную функцию вида:

К

где, для определённости, Цх = 1, р = 0,95, а для проведения локального анализа требуется М=33 текущих отсчётов ССП («окно» анализа). Пусть из каких-либо внешних соображений (например, заранее принятого технического решения) локальный анализ выполняется в два шага: вначале по отсчётам «окна» анализа рассчитываются признаки, а затем некоторая (заданная извне и настроенная) процедура на

основе рассчитанных признаков производит высокоуровневый анализ (обнаружение, распознавание и т.п.). Подобная схема анализа на практике используется достаточно часто [1]. И пусть для описания ССП в «окне» анализа принято решение использовать признаки, рассчитываемые как линейное преобразование/разложение отсчётов ССП, попадающих в «окно» анализа. Пусть, наконец, из общих ограничений на время обработки (то есть время на расчёт признаков в «окне» анализа и выполнение процедуры анализа) общее число арифметических операций, доступное для расчёта указанных признаков в «окне», не может превышать величину:

«max = 40,

а качество анализа напрямую зависит от среднеквадратической ошибки описания отсчётов ССП в «окне» с использованием признаков. Собственно задачей является нахождение такого решения (набора признаков и алгоритма их вычисления), которое даёт наилучшее качество анализа при указанном ограничении (28) на сложность обработки.

Ниже рассмотрены три варианта решения этой задачи. Первые два (типовые способы решения) используют оптимальное по качеству разложение фрагмента ССП и отличаются только используемыми алгоритмами вычисления свёртки. В первом случае используется прямой алгоритм вычисления свёртки, во втором - быстрый алгоритм (БА) дискретного преобразования Фурье (ДПФ) с оптимальным секционированием входного сигнала. Заметим, что второе решение де-факто является стандартом для решений задач подобного типа. Третий вариант решения основан на подходе, предложенном в настоящей работе.

Вариант 1. Разложение Карунена-Лоэва

и прямой алгоритм вычисления свёртки

Задача оптимального по качеству представления фрагмента дискретного ССП имеет известное решение в виде дискретного разложения Карунена-Лоэва [3,17]. Базис разложения, представленный в виде

набора из R КИХ {hr (m)}m =рмл , конструируется из

r =0,R-1 ’

собственных векторов автокорреляционной матри-

цы ССП BX °

АР1

, соответствующих её

Г

максимальным собственным значениям. Вид этих R КИХ {hr (m)}m

, являющихся фрагментами гар-

r =0,R-1 ’

монических функций различной частоты [17], приведён на рис. 8. Соответствующие им собственные

значения

l (r = 0, R -1):

«20,402», «6,057»,

«2,302», «1,146», «0,676» и т.д. Причём сумма всех собственных значений равна в данном случае «33».

В соответствии с постановкой задачи, критерий качества определяется среднеквадратической ошибкой представления фрагмента ССП X (случайного вектора с нулевым средним и указанной выше автокорреляционной матрицей) с использованием К соб-

ственных векторов hr °(hr (0),..., hr (М-1)) и в данном случае определяется выражением:

е2 ( R ) = Е

= XКБХК = X 1 .

г=R

0,3

0,2

0,1

0

-0,1

-0,2

-0,3

V. \\\ г—0 У г=2, '\ , У /

/ / X У / (

\\ \ \ \ / / 1 / V

\ \ \ \\ 1 1 у У' / 1 \ / \/ х

Г=1 XV \/ / Л \ / \ / \

_/ч >=5 II

0 5 10 15 20 25 30 35

Рис. 8. Собственные векторы для пяти максимальных собственных значений матрицы ВХ

Численные значения ошибок представления ССП указаны в таблице 2 ниже.

При использовании набора из R КИХ построение дискретного разложения Карунена-Лоэва потребует вычисления R скалярных произведений отсчётов входного сигнала, попавших в «окно» анализа, с соответствующими КИХ. Фактически это означает вычисление R свёрток входного сигнала с этими КИХ. Удельная вычислительная сложность подобного преобразования, очевидно, составляет

(Хти1 = = V2) :

и (.) = R (М - 1+Хти ) = 32,5 • R .

Из приведённого выражения и ограничения (28) непосредственно следует, что в разложении можно использовать всего одну КИХ из набора, представленного на рис. 8. Следовательно, качество решения, определяемое соотношением (29), равно:

е2 = 12,598.

Вариант 2. Разложение Карунена-Лоэва и быстрый алгоритм вычисления свёртки с секционированием входного сигнала

Традиционным решением проблемы вычислительной сложности в задаче вычисления свёртки является использование БА ДПФ и секционирования входного сигнала [1,18]. Заметим, что собственно

набор из R КИХ {Кг (т)}т

=о7М—1 такой подход не ме-

1 т =

г =0^-1

няет, но меняет вычислительную сложность алгоритма расчёта признаков, а именно: известно, что выражение для полной вычислительной сложности БА ДПФ длины N представимо в виде:

и«« (БПФ(N)) = ^ 1СЕ2 N + N7^ + у0««, итии (БПФ (N)) = ттЛ 1СЕ2 N + N7^ + у°ти1.

Для частного случая БА ДПФ с редукцией Кули-Тьюки по основанию «2» при учёте всех тривиальных операций параметры сложности (30) имеют следующие значения ([18] стр. 86; в вещественных операциях комплексное умножение реализуется в виде четырёх вещественных умножений и двух вещественных сложений):

У« = 3,5 У« =-5, 7°«« = 8,

У1* = 1,5 У'™, =-5, у1, = 8.

Другие БА ДПФ могут иметь лучшие или худшие оценки по сравнению с указанными, но приведённое общее выражение для сложности (30) остаётся корректным.

С учётом относительной сложности операций сложения и умножения (Хти/ =Х«и = 12) выражение для общей сложности БА ДПФ запишется:

и (БАДПФ (N )) = 2 N 1оя2 N - 5N + 8.

Для вычисления свёртки число операций с учётом возможного совмещения двух КИХ и предварительного выполнения ДПФ для КИХ составит

(Хти1Сотр1ех - сложность оперЭции к°мплексн°г° умножения в вещественных операциях):

и (CONV (N)) = 2и (БАДПФ (N)) + X,

N =

>ти!Сотр1ех

4 + 2

= 2 (2 N 1о§2 N - 5N + 8)+—— N =

= 4N 1оя2 N - 7N +16.

Оптимальное секционирование входного сигнала минимизирует удельную сложность вычисления свёртки [1]. Учитывая, что при размере секции N и длине КИХ М число «полезных» (выходных) отсчётов составляет ^М+1, удельная вычислительная сложность определяется выражением:

4N 1оя2 N - 7 N + 16

и.^ (N, М) = -

N - М +1

В таблице 1 приведены значения размера секции N и значения удельной вычислительной сложности для случая размера КИХ М=33.

Оптимальный размер секции как функция размера КИХ М определяется по формуле:

N (М) = а^

Ш1П

«=64,128,256,

иВес, («, М) .

Очевидно, оптимальный размер секции составит N(33^128 при удельной сложности вычисления свёртки в 27,592 на пару КИХ. Для простоты будем считать, что использование БА ДПФ позволяет получить отдельный признак с удельной сложностью не более 13,8 операций на отсчёт обработанного изображения. То есть приблизительно в два раза вычислительно эффективнее, чем при использовании прямого алгоритма свёртки:

и (.) = 13,8 • R .

2

г = 0

г=R

Таблица 1. Удельная вычислительная сложность реализации секционированной свёртки

N

64 32,471

128 27,592

256 28,389

512 30,838

1024 34,012

2048 37,579

4096 41,328

8192 45,189

Из приведённого выражения и ограничения (28) непосредственно следует, что в разложении фрагмента ССП для его анализа при использовании БА ДПФ можно использовать всего две КИХ из набора, представленных на рис. 8. Следовательно, качество решения, определяемое соотношением (29), равно: е2 = 6,541.

Вариант 3. Использование эффективного набора ЛЛП

Рассмотрим решение частной задачи построения эффективных ЛЛП. Для этого зафиксируем семейство р(6с«)(R,М, Т,К,а), определив параметры

НМС-наборов последовательностей «неоднородные многочлены»:

R > 1, М = 33, Т = 2, К = 1,

= 1,

= 1,

= 0, г = 0, К -1;

01 10 11

Ь = с = 1, « = 0.

Число последовательностей в наборе легко может быть получено из ограничения (28) и соотношения для сложности (21), которое, с учётом неограниченной длины входного сигнала, запишется:

и (А3) < 1,5R. Отсюда следует ограничение на число последовательностей в наборе и, соответственно, число рассчитываемых признаков R < 26 ! При использовании «пессимистической» оценки вычислительной сложности в виде (13), в которой учитываются все операции, включая и тривиальные, имеем следующее ограничение на число рассчитываемых

признаков R < 11 (и(А3)<3,5R-1,5). Эту «пессимистичную» оценку, справедливую для любого набора коэффициентов а , мы и используем ниже.

Целевая функция ¥(•) частной задачи построения эффективных ЛЛП естественным образом определяется через значения среднеквадратической ошибки представления фрагмента ССП. Последняя запишется в виде (последовательности набора не являются ортогональными):

е2 (К ) = Е<

Здесь матрица Н и случайный вектор Y определены следующим образом:

HR ° [К0,К1,.,~НК-Х], У =(Yо,Y1,..., YR-1 )т .

Используя известное оптимальное решение для вектора У

У = (hR.Hr )-1 н\Х ,

имеем следующее выражение для ошибки представления:

е2 (К) = Е

х - X

= Е{хт (I -Нк (НТКНК )-1 Нтк )X}.

Обозначая

Вн (Я)° I - Нк (Н1НК )-1 Н1, Вх = Е {ХтХ},

имеем окончательно следующее выражение для среднеквадратической ошибки представления фрагмента ССП X:

е

(К )= жт (Вн (К) о Вх).

= Е {ХТХ - 2ХТНУ + УТНТХ}.

Здесь « О » - оператор поэлементного произведения матриц, ^'ит(-) - сумма всех элементов матрицы-аргумента. Численные результаты для ошибки е2 (Я.) представлены в таблице 2. Из этой таблицы видно, что при одинаковом количестве признаков точность представления с использованием эффективных признаков немного хуже, чем при использовании разложения Ка-рунена-Лоэва. Однако, учитывая возможность использования гораздо большего количества эффективных признаков (одиннадцать вместо двух), точность итогового представления оказывается существенно выше и составляет:

е2 = 1,147 .

Таким образом, качество решения исходной задачи оказалось почти в шесть раз выше, чем при использовании теоретически оптимального разложения! Заметим, что при использовании 26 признаков, соответствующих менее «пессимистичному» соотношению для вычислительной сложности (21), ошибка представления оказывается практически нулевой!

Изображения кривых (ошибка представления, сложность вычисления ЛЛП) для всех трёх рассмотренных вариантов решений представлены на рис. 9. На рис. 10 представлены первые четыре последовательности НМС-набора, соответствующего построенному эффективному набору ЛЛП.

Заключение

В работе предложена формализация задачи построения эффективных наборов совместно вычисляемых ЛЛП цифровых сигналов. Под набором совместно вычисляемых ЛЛП понимается пара, состоящая из набора КИХ и единого алгоритма, предна-

2

г = 0

г

г

2

г = 0

значенного для вычисления набора линейных свёрток обрабатываемого сигнала с КИХ.

14 12 10 8 6

4

2 О

1 10 100 1000

Рис. 9. Зависимость ошибки представления фрагмента ССП от вычислительной сложности расчёта набора ЛЛП

1,0 0,8 0,6

0,4 0,2 О -0,2 -0,4 -0,6 -0,8

~1,00 5 10 15 20 25 30 35

Рис. 10. Первые 4 последовательности НМС-набора последовательностей для эффективного набора ЛЛП

Решение ищется среди наборов последовательностей специального вида, обеспечивающих минимум вычислительной сложности соответствующих алгоритмов вычисления ЛЛП. В качестве искомого набора выступает тот, который наилучшим образом согласован с критерием качества прикладной задачи. На примере решения модельной задачи продемонстрировано убедительное преимущество предложенного подхода по сравнению с традиционным «оптимальным» способом её решения.

2.

3.

4.

5.

6.

Таблица 2. Среднеквадратическая ошибка представления фрагмента ССП

R Разложение Карунена-Лоэва Эффективные признаки

1 12,598 12,792

2 6,541 6,940

3 4,239 4,633

4 3,093 3,437

5 2,417 2,735

6 1,972 2,254

7 1,657 1,908

8 1,422 1,645

9 1,239 1,437

10 1,092 1,274

11 0,970 1,147

Л — ч \

г= 1 / / \ V'' - i

- i i \ ч

/ у г=2""! \ \ ч

1

1 ' 1 -у—

У /

, ' 1

1 /

4 L ✓

ч • п —о- Вариант 1 - Вариант 2 Вариант 3

\ \ \ \ \

\ \ \ \ сложности

\ —V— ь

\ s' \ » v

1 .* л ч

1

Направления дальнейших исследований: исследование альтернативных способов определения НМС-наборов последовательностей (см. Замечание 2);

определение условий пустоты семейства НМС-наборов последовательностей; сравнение НМС-последовательностей [5,6] и НМС-наборов последовательностей; разработка и анализ численных методов и алгоритмов построения эффективных наборов ЛЛП при различных алгебраических и функциональных свойствах обрабатываемых сигналов (вопросы обусловленности соответствующей СЛАУ, устойчивость алгоритма вычисления ЛЛП и т.п.);

разработка численных методов и алгоритмов «быстрого» решения частной (и расширенной частной) задачи построения эффективного набора ЛЛП. Данное направление включает в себя целый ряд подзадач:

- исследование возможности одновременного или связанного построения НМС-наборов последовательностей конкретного семейства;

- исследование способов пополнения СЛАУ для быстрого нахождения решения;

- исследование возможности использования технических средств для ускорения решения, в том числе распределённых вычислений; исследование эффективности использования предложенного подхода в прикладных задачах обработки и анализа изображений.

Благодарности Работа выполнена при поддержке:

Российского фонда фундаментальных исследований (РФФИ), проект: 09-01-00434-а; Программы фундаментальных исследований Президиума РАН «Фундаментальные проблемы информатики и информационных технологий», проект 2.12.

Литература

Computer Image Processing, Part II: Methods and algorithms / edited by Victor A. Soifer. - VDM Verlag, 2009.

- 584 p.

Forsyth, D.A. Computer Vision: A Modern Approach / D.A. Forsyth, J. Ponce // Upper Saddle River, NJ: Prentice Hall, 2003. - 693 p.

Fukunaga, K. Introduction to Statistical Pattern Recognition / K. Fukunaga. - 2nd ed. - New York: Academic Press, Inc, - 1991.- 591 p.

Мясников, В.В. О синтезе эффективного алгоритма над множеством алгоритмов вычисления свёртки / В.В. Мясников // Компьютерная оптика. - Вып. 29. -2006. - C. 78-117.

Мясников, В.В. Эффективные локальные линейные признаки цифровых сигналов и изображений / В.В. Мясников // Компьютерная оптика. - 2007. - Т. 31, - № 4. - C. 58-76.

Мясников, В.В. Построение эффективных линейных локальных признаков в задачах обработки и анализа

изображений / В.В. Мясников // Автоматика и Телемеханика. - 2010. - № 3. - C. 162-177.

7. Hatamian, M. A real-time two-dimensional moment generating algorithm and its single chip implementation / M. Hatamian // IEEE Trans. Acoustic, Speech, and Signal Proc. - 1999. - V.ASSP-34. - №~3. - P. 546-553.

8. Глумов, Н.И. Применение полиномиальных базисов для обработки изображений в скользящем окне / Н.И. Глумов, В.В. Мясников, В.В. Сергеев // Компьютерная оптика. - 1995. - № 14-15. - Ч.1. - С.55-68.

9. Agarwal, R.P. Difference Equations and Inequality: Theory, Methods, and Applications / R.P. Agarwal. - New York: Marcel Dekker, 2000. - 998 p.

10. Lidl, R. Finite Fields, Second edition / R. Lidl,

H. Niederreiter // Cambridge University Press, 1997. - 755 p.

11. Гельфонд, А.О. Исчисление конечных разностей /

А. О. Гельфонд. - 3-е изд. испр. - М.: Наука, 1967. - 375 с.

12. Мясников, В.В. Анализ методов построения эффективных линейных локальных признаков цифровых сигналов и изображений / В.В. Мясников, А.Ю. Баврина, О.А. Титова // Компьютерная оптика. - 2010. - Т. 34, № 3. - C. 193-201.

13. Мальцев, А.И. Основы линейной алгебры /

А.И. Мальцев. - М.: Наука, 1975. - 400 с.

14. Bellman, R. Dynamic Programming / R. Bellman. - Dover Publications, Inc, 2003. - 366 p.

15. Anderson, J.A Discrete Mathematics with Combinatorics / J.A. Anderson. - Upper Saddle River, New Jersey: Prentice Hall, 2001.

16. Myasnikov, V.V. Construction of Integer-Value Polynomials for Recursive Calculation of the Convolution with FIR-Filter / V.V. Myasnikov // Theses of 7-th International Conference “International Conference on Pattern Recognition and Image Analysis” - PRIA’2004, St.-Petersburg, Russia, October 18-23, 2004, - P. 331-334.

17. Гихман, И. И. Введение в теорию случайных процессов / И.И. Гихман, А.В. Скороход - М.: Наука, 1965.

18. Nussbaumer, H.J. Fast Fourier Transform and Convolution Algorithms / H.J. Nussbaumer. - 2nd ed. - New York: Springer-Verlag, 1982.

19. Minoux, M. Mathematical programming: theory and algorithms / M. Minoux. - New York: Wiley in Chichester, 1986. - 489 p.

References

1. Computer Image Processing, Part II: Methods and algorithms / edited by Victor A. Soifer. - VDM Verlag, 2009.

- 584 p.

2. Forsyth, D.A. Computer Vision: A Modern Approach / D.A. Forsyth, J. Ponce // Upper Saddle River, NJ: Prentice Hall. - 2003. - 693 p.

3. Fukunaga, K. Introduction to Statistical Pattern Recognition / K. Fukunaga. - 2nd ed., New York: Academic Press, Inc. - 1991.- 591 p.

4. Myasnikov, V.V. On the synthesis of the efficient algorithm over the set of the convolution algorithms / V.V. Myasnikov // Computer optics, Issue 29, 2006, P. 78117. -

5. Myasnikov, V.V. Efficient linear local features of signals and images / V.V. Myasnikov // Computer optics. - 2007.

- Vol.31, № 4. - P. 58-76. -

6. Myasnikov, V.V. Construction of efficient linear local features for image processing and analysis / V.V. Myasnikov // Automation and Remote Control. -2010. -№ 3. - P.162-177. -

7. Hatamian, M. A real-time two-dimensional moment generating algorithm and its single chip implementation / M. Hatamian // IEEE Trans. Acoustic, Speech, and Signal Proc. 1999. V.ASSP-34. №~3. P. 546--553.

8. Glumov, N.I. Application of polynomial bases for image

processing in sliding window / N.I. Glumov,

V.V. Myasnikov, V.V. Sergeyev // Computer optics. -

1995. - № 14-15. Part.1. - P.55--68. -

9. Agarwal, R.P. Difference Equations and Inequality: Theory, Methods, and Applications / R.P. Agarwal. - New York: Marcel Dekker, 2000. - 998 p.

10. Lidl, R. Finite Fields, Second edition / R. Lidl,

H. Niederreiter // Cambridge University Press, 1997, 755 pp.

11. Gelfond, A.O. Finite Differences Calculus /

A.O. Gelfond. - 3-d issue. corrected. - Moscow: «Science» Publisher, 1967. - P. 375. -

12. Myasnikov, V.V. Analysis of the methods for construction of linear local features / V. V. Myasnikov, A.U. Bavrina, O.A. Titova // Computer optics. - 2010. -Vol. 34, № 3. - P. 193-201. -

13. Malcev, A.I. Linear algebra basis / A.I. Malcev. -Moskow: «Science» Publisher, 1975. - 400 p. -

14. Bellman, R. Dynamic Programming / R. Bellman. - Dover Publications, Inc. - 2003. - 366 p.

15. Anderson, J.A. Discrete Mathematics with Combinatorics / J.A. Anderson, - Upper Saddle River, New Jersey: Prentice Hall, 2001.

16. Myasnikov, V.V. Construction of Integer-Value Polynomials for Recursive Calculation of the Convolution with FIR-Filter / V.V. Myasnikov // Theses of 7-th International Conference ’’International Conference on Pattern Recognition and Image Analysis” - PRIA’2004, St.-Petersburg, Russia, October 18-23, 2004 r., P. 331-334.

17. Gihman, I. I. Introduction to stochastic process theory /

I.I. Gihman, A.V. Skorohodov // Moscow: “Science” Publisher, 1965. -

18. Nussbaumer, H.J. Fast Fourier Transform and Convolution Algorithms / H.J. Nussbaumer. - 2nd ed. New York: Springer-Verlag, 1982.

19. Minoux, M. Mathematical programming: theory and algorithms / M. Minoux. - New York: Wiley in Chichester, 1986. - 489 p.

EFFICIENT SETS OF MUTUALLY-CALCULATED FEATURES FOR LINEAR LOCAL DESCRIPTION OF DIGITAL SIGNALS

V. V. Myasnikov Image Processing Systems Institute of the RAS Abstract

The paper addresses the problem of constructing efficient computationally and qualitatively linear local features (LLA) of digital signals and images. Under a set of jointly-computed LLP is a pair consisting of a set of finite impulse response (FIR) and an algorithm that produces simultaneous /

joint computation of several linear convolution the input signal / image with a set of FIR. Effective set of jointly-computed LLP should detect the optimal behavior: an algorithm for calculating the signs must have a predetermined computational complexity, and a set of FIR must be well coordinated with the quality criteria specific application. Propose a method for constructing efficient sets of co-LLA calculated based on the design of a set of sequences of samples of a special type of FIR. Examples of such sets of sequences, is considered an example of solving the problem of building an effective recruitment LLP for a typical problem of digital processing signals.

Key words: digital signals, linear local features.

Сведения об авторе

Мясников Владислав Валерьевич, 1971 года рождения. В 1994 году окончил Самарский государственный аэрокосмический университет (СГАУ). В 1995 году поступил в аспирантуру СГАУ, в 1998 году защитил диссертацию на соискание степени кандидата технических наук, а в 2008 - диссертацию на соискание степени доктора физикоматематических наук. В настоящее время работает ведущим научным сотрудником в Учреждении Российской академии наук Институте систем обработки изображений РАН и одновременно доцентом кафедры геоинформатики и информационной безопасности СГАУ. Круг научных интересов включает цифровую обработку сигналов и изображений, геоинформатику, нейронные сети, компьютерное зрение, распознавание образов и искусственный интеллект. Имеет около 100 публикаций, в том числе 40 статей и две монографии (в соавторстве). Член Российской ассоциации распознавания образов и анализа изображений.

Страница в интернете: http ://www.ipsi. smr.ru/ staff/Myas VV. htm E-mail: vniyas@snir.ru

Vladislav Valerievich Myasnikov (1971 b.), graduated (1994) from the S.P. Korolyov Samara State Aerospace University (SSAU). He received his PhD in Technical sciences (2002) and DrSc degree in Physics & Maths (2008). At present he is a leading researcher at the Image Processing Systems Institute of the Russian Academy of Sciences, and ), holding a parttime position of Associate Professor at SSAU5 s Geoinformatics and Information Security sub-department. The area of interests includes digital signals and image processing, geoinformatics, neural networks, computer vision, pattern recognition and artificial intelligence. He’s list of publications contains about 100 scientific papers, including 40 articles and 2 monographs. He is a member of Russian Association of Pattern Recognition and Image Analysis.

Поступила в редакцию 8 февраля 2011 г.