Адаптивные алгоритмы оптимальной фильтрации сигнала

CASCADE SYSTEMS CONTROL WITH INTEGRAL VITUAL SLIDING MODE WITH

TUNED SURFACE

Y.I. Mushlyayev, Nguyen Chi Thanh, A. V. Finoshin

The adaptive control strategy for cascade systems based on integral virtual control, and speed-bigradient method is considered. Proposed control laws provide high control quality due to increasing the astaticism of output subsystem and robustness with respect to parameter variations and matching disturbances.

Key words: integral control, speed-bigradient method, linear cascade systems, adaptive control. Lyapunov function.

Myshlyayev Yury Igorevich, candidate of technical sciences, docent, uimysh@,mail. ru, Russia, Kaluga, Moscow Bauman State Technical University, Kaluga branch,

Nguyen Chi Thanh, postgraduate, nct1101@,gmail. com, Russia, Kaluga, Moscow Bauman State Technical University, Kaluga branch,

Finoshin Alexander Victorovich, candidate of technical sciences, assistant, earlov@gmail. com, Russia, Kaluga, Moscow Bauman State Technical University, Kaluga branch

УДК 621.396

АДАПТИВНЫЕ АЛГОРИТМЫ ОПТИМАЛЬНОЙ ФИЛЬТРАЦИИ

СИГНАЛА

Н.С. Акиншин, А.В. Петешов, В. Л. Румянцев, К. А. Хомяков

Представлен анализ основных методов адаптивной фильтрации помеховых сигналов и сравнительный анализ алгоритмов адаптации. Показано что асимптотическая вычислительная сложность, с помощью которой описывают адаптивные алгоритмы подавления, оценивает порядок роста времени работы алгоритма при увеличении размера входных данных.

Ключевые слова: адаптивная фильтрация, ошибка предсказания, подавление

помехи.

Идея адаптивного подавления заключается в вычитании взвешенной копии прямого сигнала, принятого отдельной антенной, из сигнала канала наблюдения. Ниже рассмотрены различные методы (алгоритмы) подавления прямого сигнала, а также его копий, возникающих из-за многолучевого распространения или из-за отражения от близких к приёмной позиции (ПП) местных предметов и являющихся помехами для сигналов, отраженных от интересуемых целей.

Общая структура адаптивной системы показана на рис. 1 [1 - 3].

Рис. 1. Общая структура адаптивной системы

На рис. 1 используются обозначения: x(k) - входной дискретный сигнал; y(k) - выходной дискретный сигнал; d(k) - образцовый сигнал; e(k) - сигнал ошибки. Алгоритм адаптации подстраивает коэффициенты фильтра, минимизируя сигнал ошибки. Формулы, описывающие алгоритмы, основываются на уравнении оптимальной фильтрации сигнала. Например, статистический подход к решению задачи оптимальной фильтрации в сочетании с методом градиентной оптимизации дает алгоритм LMS (метод наименьших квадратов), детерминированный подход - алгоритм RLS (рекурсивный метод наименьших квадратов) [1 - 3].

Рассмотрим основные соотношения оптимальной фильтрации [1 - 4].

Пусть имеется дискретный фильтр порядка N с коэффициентами {wn}, n = 0, 1, ..., N. Выходной сигнал и сигнал ошибки имеют вид

N

У (k ) = Z WnX ( k

n

);

n=0

N

e(k) = d(k)- y(k) = d(k)- Z wnx(k - n).

n=0

Поскольку сигнал ошибки является случайным процессом, в качестве меры ее (ошибки) величины принимают средний квадрат

J ({wn }) = e2 (k). Задача оптимальной в статистическом смысле фильтрации

ун

заключается в минимизации этой величины.

Сигнал ошибки на к-м шаге в матричном виде

е(к ) = 1 (к)- хТ (к )м>, где w и х(к) - векторы столбцы:

У0 хк

У1 хк-1

У = М , х =

хк - N

Статистическое среднее квадрата сигнала ошибки (диспер-сия)определяется как:

3 М = е 2 (к) = а 2 (к)- 2(а (к )х(к ))Т у + УТ х(к )хТ (к )у =

' +

2 Т Т = аа - 2р V + V Ям,

где а . = а2 (к) - средний квадрат образцового сигнала (на к-м шаге), который не зависит от коэффициентов фильтра и, таким образом, при решении задачи минимизации З(у) может быть отброшен; р = 4(к)х(к) - вектор-столбец взаимных корреляций между к-м отсчетом образцового сигнала и

входным сигналом х(к); Я = х(к )хТ (к) - корреляционная матрица входного сигнала. Вектор-столбец р не зависит от номера шага к, если случайные процессы х(к) и 4(к) являются совместно стационарными [1].

Корреляционная матрица Я содержит отсчеты корреляционной функции Ях (Ак) = х(к )х(к - Ак) входного сигнала и имеет вид матрицы Теплица:

Ях

Я=

Ях

При невырожденной корреляционной матрице Я статистическое среднее квадрата ошибки имеет единственный минимум, который находится при решении уравнения:

У/

где У означает градиент.

Решением является вектор-столбец

у = Я -1 р,

где Я-1 - обратная корреляционная матрица.

Фильтр с коэффициентами (8) называется фильтром Винера. Он имеет минимальную дисперсию сигнала ошибки

(к)шт = а4 - РТя-1 р

2

е

Итак, задачей оптимального в статистическом смысле фильтра (в том числе адаптивного) является обеспечение минимума дисперсии сигнала ошибки путем отыскания решения уравнения (7). В адаптивных фильтрах вектор коэффициентов w меняется на каждом шаге.

В методе наименьших квадратов (LMS) вместо значений корреляционной матрицы входного сигнала и вектора p взаимных корреляций образцового и входного сигналов используются их мгновенные значения (без усреднения):

R

Алгоритм LMS сходится в среднем: математические ожидания коэффициентов фильтра при k  ¥ стремятся к оптимальному решению (8) - значениям коэффициентов фильтра Винера, если размер шага удовлетворяет условию

о<m< 21 ,

/ 1 max

где 1max - максимальное собственное число корреляционной матрицы входного сигнала.

Нормированный метод наименьших квадратов (NLMS) отличает то, что коэффициент m рассчитывается на каждом шаге исходя из энергии сигнала, содержащемся в линии задержки [5]:

m

x x I e

где m0 - число в диапазоне от 0 до 2 (нормируемое значение размера шага); e - положительное число для ограничения максимального значения m,

которое может быть равно m.

В алгоритме RLS на каждом k-м шаге выполняются:

- фильтрация сигнала y(k) = xT (k )w(k -1);

- вычисление ошибки e(k) = d (k)- y(k);

- расчет вектора-столбца коэффициентов усиления K(k);

- обновление оценки обратной корреляционной матрицы P(k);

- обновление коэффициентов фильтра w(k) = w(k -1) + K (k )e(k).

Для обновления коэффициентов фильтра (адаптации) может использоваться любой из описанных алгоритмов.

Структура изображенного на рис. 2 адаптивного фильтра предполагает, что мощные отражения могут присутствовать в первых N+1 элементах дальности (задержки). При вычислении взаимной функции неопределенности (ВФН) вместо сигнала ssurv используется сигнал se. ВФН сигнала sref опорного канала и сигнала ssurv канала наблюдения имеет вид:

72

¥

%(Ч, Ь ) = ! ssurv (t)s*e/ (t - Ч ^-7^.

Сигналы обоих каналов - векторы-столбцы. В канале сигнала наблюдения содержится М комплексных отсчетов:

ssurv = [^игг [°], ssurv [11 ssurv [2], к , ssurv[М -1]] .

В опорном сигнале содержится М + Я - 1 комплексных отсчетов,

Sre/ =^е/ [- Я +1],., Sre/ [0],., Sre/ [М - 1]]Т,

где Я - 1 - количество дополнительных отсчетов, необходимое для вычисления дискретной ВФН:

м-1 * - 7 2 яр/ / М

Х[1,Р]= £ssurv1/']^/[/ -1 ] ,

/=0

где I = 0, ..., Я - 1 - номер элемента дальности (задержки); р - номер до-плеровского канала.

Рис. 2. Структура адаптивного фильтра

—оо

В ЕСА сигнал ошибки (вектор-столбец) записывается аналогично для фильтра, состоящего из линии задержки с отводами [1]:

se = Ssurv - Ху.

В то же время, как уже отмечено выше, здесь не используется матрица, столбцы которой - содержимое линии задержки фильтра на разных тактах. Здесь матрица X является результатом умножения матрицы В, которая оставляет только последние М строк матрицы-сомножителя, на матрицу А, описывающую входной сигнал:

X = ВА,

где B = [bjj}, i = 1,...,M, j = 1,...,M + Л -1, bjj

1, i = j - Л +1; 0, i * j - Л +1.

Последовательный алгоритм подавления (SCA) является версией ECA, используя свойство ECA подавлять сигналы в заданных дальностно-доплеровских ячейках. Подавление мощных сигналов достигается за L этапов [2], на каждом из которых подавляется один мощный сигнал.

В варианте LSL с априорной оценкой ошибок для подавления копий прямого сигнала sref используются сигналы ошибок обратного предсказания, которые некоррелированы (ортогональны друг другу). Это позволяет поочередно подавлять различные (с различной задержкой) копии прямого сигнала [4].

Представляет определенный практический интерес сравнение алгоритмов адаптации для определенных моделей сигнально-помехой обстановки. В зависимости от модели предпочтительным может оказаться тот или иной адаптивный алгоритм. При сравнении учитывают следующие параметры: сходимость; величина подавления; асимптотическая вычислительная сложность.

Очевидно, что с точки зрения сходимости лучшим из описанных будет алгоритм ECA, который, по сути, является алгоритмом блочной обработки данных и не имеет даже переходного процесса, как RLS. Сходимость остальных алгоритмов определяется в том числе их собственными параметрами: в LMS - размером шага m; в NLMS - нормируемым размером шага m о; в RLS и LSL - коэффициентом забывания l. При этом ускорение сходимости при изменении параметра алгоритма приводит к уменьшению величины подавления, т.е. требования ускорения сходимости и увеличения подавления также являются конкурирующими. Выбор значения перечисленных параметров является компромиссным.

Приблизительно одинаковую и наихудшую из перечисленных алгоритмов сходимость имеют LMS и NLMS. Алгоритм RLS, как уже отмечалось, имеет переходный процесс только в начале, когда линия задержки заполняется отсчетами входного сигнала (переходный процесс также связан с рекурсивным расчетом оценки обратной корреляционной матрицы P). В результате алгоритм RLS сходится значительно быстрее, чем LMS и NLMS. У алгоритма LSL сходимость почти такая же, как и RLS [4].

Адаптивные алгоритмы обеспечивают относительно высокую степень подавления. В качестве примера приведем табл. 1, составленную по данным [4,5], полученным для двух примеров сигнально-помеховой обстановки.

Таблица 1

Степень подавления

Алгоритм LMS NLMS RLS ECA LSL

Подавление, дБ 63,53 49-59,46 55,29-66 55,14 66

Вычислительная сложность - это функция объема работы, выполняемой алгоритмом, от размера входных данных. Асимптотическая вычислительная сложность, с помощью которой описывают адаптивные алгоритмы подавления, оценивает порядок роста времени работы алгоритма при увеличении размера входных данных. Обозначается асимптотическая сложность как 0(/(Щ), гдеЛЫ) - функция от размера данных.

В табл. 2 приведены значения вычислительной сложности для рассмотренных алгоритмов.

Таблица 2

Значения вычислительной сложности алгоритмов _

Алгоритм ЬМЗ ЖМ8 ЕСА Ь8Ь

о

О(Ы) О(Ы) 0(Ы2) N - порядок

Вычислительная N - по- N - по- N - по- фильтра; М - N - по-

сложность рядок рядок рядок число отсчетов рядок

фильтра фильтра фильтра сигнала канала фильтра

наблюдения

Алгоритм ЕСА имеет заметно большую вычислительную сложность по сравнению с другими алгоритмами. Его вариант - алгоритм 8СА - призван снизить вычислительную сложность. Действительно, если на каждом из Ь этапов используется фильтр 2-го порядка, вычислительная сложность 0(4 ЬМ + 4 Ь ^4) - число операций уже не зависит квадратично от порядка фильтра.

Ниже приведен пример применения алгоритма Ь8Ь при обработке сигналов в многофункциональной РЛС (МФРЛС). На рис. 3а показана взаимная корреляционная функция (ВКФ) сигналов опорного канала и канала наблюдения. По оси абсцисс отложена бистатическая задержка в микросекундах, по оси ординат - относительный уровень в децибелах.

Рис. 3. ВКФ сигналов опорного канала и канала наблюдения

75

Видно, что на задержках от 0 до ~3 мкс присутствуют интенсивные отражения (их уровень от 120 до 140 дБ). При увеличении задержки уровень отражений постепенно падает, за исключением всплеска до 113 дБ на задержках 14-15,5 мкс.

Рис. 4. Рассчитанная ВФН

Рис. 5. ВФН, вычисленная с помощью алгоритма Ь8Ь

На рис. 3, б показана ВКФ сигналов опорного канала и канала наблюдения, вычисленная после подавления в канале наблюдения сигналов с задержками от 0 до 3 мкс с помощью алгоритма Ь8Ь (длина решетчатого фильтра N + 1 = 47). Величина подавления составила ~49 дБ. Уровень максимального пика теперь 113 дБ (на задержке 15,2 мкс). Теоретический уровень БЛ 113 - 50 = 63 дБ.

Уровень боковых лепестков (БЛ) ВФН определяется максимальным сигналом в канале наблюдения. Ему соответствует пик ВФН величиной ~140 дБ на задержке 0,8 мкс. В этом случае уровень БЛ должен быть 140 -50 = 90 дБ. Рассчитанная ВФН показана на рис. 4. Уровень БЛ соответствует названной величине (90 дБ). Попытка обнаружить цель, имеющую ненулевой доплеровский сдвиг частоты, по ВФН на рис. 4 не дает результата.

Применение алгоритма подавления позволило снизить уровень фона ВФН на 8 дБ. На рис. 5 показана соответствующая ВФН. Видно, что уровень ее фона ~82 дБ - намного больше теоретической оценки уровня БЛ 63 дБ, что говорит о том, что мы наблюдаем шумовой фон, а не боковые лепестки ВФН.

Для большей наглядности показан вид трехмерной ВФН с такого ракурса, чтобы были видны ее доплеровские сечения (рис. 6). Пик ВФН, соответствующий подвижной цели, имеет уровень ~92 дБ и возвышается над фоном приблизительно на 10 дБ. Очевидно, что такой уровень сигнала от подвижной цели (92 дБ) не позволил обнаружить ее в варианте без применения алгоритмов подавления, когда уровень фона был около 90 дБ (отметим, что для сигнала со случайной начальной фазой и релеевской ам-

76

плитудой при вероятности ложной тревоги 10-3 отношению сигнал/помеха 92-90=2 дБ (1,6 раз) соответствует вероятность правильного обнаружения 1

0,001

1 +1,6 • 1,6/2

= 0,05 [6]).

Рис. 6. Вид трехмерной ВФН

В других методах подавления используется вычисление быстрого преобразования Фурье (с предварительным взвешиванием) для узкополосных или вычисление ВФН (также с предварительным взвешиванием) для широкополосных сигналов [6,7].

Строго говоря, прямой сигнал и его мощные копии при этом не подавляются - а выполняется частотная или частотно-временная (в случае согласованной фильтрации) селекция прямого и отраженного сигналов.

С другой стороны, можно говорить, что если в приемнике МФРЛС имеется коррелятор, настраиваемый на параметры отраженного сигнала, то в этом корреляторе прямой и другие мощные сигналы, имеющие отличные от отраженного сигнала параметры, будут подавлены.

Для подавления прямого сигнала и местных помех также используются аналоговые и цифровые схемы формирования диаграммы направленности антенны (ДНА) канала наблюдения и методы пространственной обработки (в том числе адаптивные), которые позволяют сформировать в заданных направлениях (прежде всего - в направлении на источник подсвета) провалы ДНА или повысить селективность при формировании азимутальных и/или угломестных каналов. Таким образом представлены результаты сравнения основных методов адаптивной фильтрации помеховых сигналов и возможностей их применения для МФРЛС.

77

Список литературы

1. Satoh S., Wurman J. Accuracy of Wind Fields Observed by a Bistatic Doppler Radar Network // Journal of Atmospheric And Oceanic Technology. 2003. No 8. P. 1077-1091.

2. Tharmarasa R., Subramaniam M., Nadarajah N., Kirubarajan T., McDonald M. Multitarget Passive Coherent Location with Transmitter-Origin and Target-Altitude Uncertainties // IEEE Transactions on Aerospace and Electronic Systems. 2012. No. 3. P. 2530-2550.

3. Nandakumaran N., Tharmarasa R., McDonald M., Kirubarajan T. Feasibility of Using Transmitters of Opportunity for Precision Multitarget Tracking // Proc. of the SPIE. 2009. Vol. 7445. P. 1-11.

4. Ткачев Г. Н., Готовчиц И. В., Крылов Б. Н. Результаты наблюдения эхосигналов от самолетов в поле подсвета удаленного передатчика КВ-диапазона // Труды XVI Международной научно-технической конф. «Радиолокация, навигация, связь». 2010. С. 2221-2230.

5. Коновалов А. А. Алгоритм завязки траектории цели в асинхронном многопозиционном радиолокационном комплексе // Радиотехника. 2012. № 7. С. 50-54.

6. Poullin D., Flécheux M., Klein M. New Challenges for PCL System: 3D Requirements and "Optimal" Resources Management for PCL Air Traffic Survey // Proc. of the 11th International Radar Symposium (IRS). 2010. P. 1-3.

7. Griffiths H.D., Baker C.J. Measurement and Analysis of Ambiguity Functions of Passive Radar Transmissions // Radar Conference, 2005 IEEE International. 2005. P. 321-325.

Акиншин Николай Степанович, д-р техн. наук, профессор, начальник отдела cdhaeacdhae.ru, Россия, Тула, АО «Центральное конструкторское бюро аппарато-строения»,

Петешов Андрей Викторович, канд. техн. наук, доцент, начальник кафедры, P-john posta,mail. ru, Россия, Череповец, Череповецкое высшее военное инженерное училище радиоэлектроники,

Румянцев Владимир Львович, д-р техн. наук, профессор, заместитель начальника отдела, cdhaeacdhae.ru, Россия, Тула, АО ««Центральное конструкторское бюро аппаратостроения»

Хомяков Кирилл Александрович, нач. сектора, cdhaeacdhae. ru, Россия, Тула, АО ««Центральное конструкторское бюро аппаратостроения»

ADAPTIVE ALGORITHMS FOR OPTIMAL FILTERING OF THE SIGNAL

N.S. Akinshin, A.V. Pleshov, V.L. Rumyantsev, K.A. Khomyakov

78

The analysis of the main methods of adaptive filtering of noise signals and comparative analysis of adaptation algorithms is presented. It is shown that the asymptotic computational complexity, by which adaptive suppression algorithms are described, estimates the order of growth of the algorithm operation time with increasing the size of the input data.

Key words: adaptive filtering, prediction error, noise suppression.

Akinshin Nikolai Stepanovich, doctor of technical sciences, professor, head of department, cdbae@,cdbae. ru, Russia, Tula, JSC «Central Design Bureau of Apparatus Engineering»,

Peteshov Andrey Viktorovich, candidate of technical sciences, professor, head of the department, D-john_post@,mail.ru, Russia, Cherepovets, Cherepovets Higher Military Engineering School of Radio Electronics,

Rumyantsev Vladimir Lvovich, doctor of technical sciences, professor, deputy head of department, cdbaeacdbae. ru, Russia, Tula, JSC «Central Design Bureau of Apparatus Engineering»,

Khomyakov Kirill Alexandrovich, head of sector, cdbae@,cdbae.ru, Russia, Tula, JSC «Central Design Bureau of Apparatus Engineering»

УДК 517.23; 004.032.26

СРАВНЕНИЕ СПОСОБОВ ВЫЧИСЛЕНИЯ ПРОИЗВОДНОЙ АКТИВАЦИИ «ВЫПРЯМИТЕЛЬ» ПРИ ОБУЧЕНИИ НЕЙРОННОЙ

СЕТИ

И.Н. Набродова, А.Д.Иванов

Рассмотрены три подхода к вычислению производной функции линейного выпрямителя. Подходы реализованы на примере решения задачи классификации рукописных цифр из набора данных МЫШТ.

Ключевые слова: нейронные сети, машинное обучение, вычисление производной, ReLU, линейный выпрямитель, функция активации.

Одним из определяющих параметров искусственной нейронной сети (ИНС) является функция активации нейронов. В процессе прямого распространения сигнала по сети выходной сигнал нейронов предыдущего I -1 слоя (или входной сигнал сети для первого слоя) поступает по синапсам в нейроны текущегоьго слоя. Сигналы со всех синапсов умножаются на соответствующие им веса и суммируются. Эта сумма и подается на вход текущему нейрону (рис. 1) [1].