Оценивание меры частотной энтропии сигнала

УДК 004.383.3

ОЦЕНИВАНИЕ МЕРЫ ЧАСТОТНОЙ ЭНТРОПИИ СИГНАЛА

© 2010 г. М.М. Гавриков, Р.М. Синецкий

Южно-Российский государственный South-Russian State

технический университет Technical University

Приводится обоснование качественного понятия - «частотная энтропия сигнала», аналитических выражений для вычисления меры частотной энтропии стационарного процесса и соответствующих численных соотношений, используемых при цифровой обработке сигнала. На примерах речевых и гидроакустических сигналов показано, что содержательная трактовка понятия частотной энтропии хорошо согласуются со значениями экспериментальных оценок ее меры.

Ключевые слова: частотная энтропия сигнала; спектральная плотность мощности; цифровая обработка сигналов.

Proposed a quality conception of «frequency entropy of signal», analytical expressions for calculating the frequency entropy measures of a stationary process and the corresponding numerical ratios used in digital signal processing. Examples of speech and sonar signals shown that meaningful interpretation of the concept of the frequency entropy are in good agreement with the values of the experimental evaluation of its measures.

Keywords: frequency entropy of signal; power spectrum density; digital signal processing.

Введение

Во многих прикладных задачах обработки сигналов имеется потребность в оценке таких параметров сигнала, которые выражаются одним числом и характеризуют наиболее общие его свойства. Например, для стационарных сигналов такими параметрами являются математическое ожидание, дисперсия, полная мощность и т. д. Среди прочих важной информативной характеристикой является энтропия сигнала. Известные из теории информации соотношения определяют энтропию непрерывного (имеющего континуум значений) случайного процесса через его п -мерный закон распределения [1, 2]. Не приводя соответствующих выражений, можно сразу сказать, что в алгоритмах цифровой обработки сигналов их использование затруднительно, как в методологическом плане -ввиду сложности получения состоятельной оценки закона распределения случайного цифрового сигнала по одной лишь его реализации, так и в практическом -в силу необходимости выполнения большого объема вычислений. Известно также, что вероятностные свойства сигнала, от которых зависит значение энтропии, проявляются и в его частотных свойствах, определяемых энергетическим спектром G(f) (спектральной плотностью мощности). Для качественного описания характера этого проявления уместно ввести понятие частотной неопределенности, или, что то же самое, - частотной энтропии сигнала. Например, используя это понятие, можно сказать, что у узкополосного сигнала частотная энтропия (неопределенность) меньше, чем у широкополосного. Для количественной оценки частотной энтропии произвольного сигнала требуется определить соответствующую меру.

Цель настоящей работы состоит в обосновании вводимой меры частотной энтропии сигнала, способа ее численного оценивания и проверки согласованности предлагаемых аналитических выражений с результатами численных экспериментов. Предлагаемый способ оценивания меры частотной энтропии основан на предположении, что сигнал представляет реализацию стационарного эргодического процесса, но результаты экспериментов показывают, что на практике эту меру можно использовать и при анализе квазистационарных сигналов.

Обоснование соотношений для вычисления меры частотной энтропии

Рассмотрим две модели случайных процессов с диаметрально противоположными частотными свойствами: белый шум {ес реализациями е(Г) и «почти гармонический процесс» {¿"ДО} с реализациями 5г (:) = А соб(2^+ ф), имеющими постоянную амплитуду А и частоту f *, но случайную фазу ф, значения которой распределены в достаточно узком диапазоне значений [3]. Значения белого шума в любых разных сечениях {е(^)}, {е(^)} полностью некореллированы. С точки зрения частотных свойств белый шум является предельной моделью широкополосного сигнала с постоянным на оси частот уровнем энергетического спектра Ge (f) = G0. Частотная энтропия такого сигнала больше, чем у любого другого сигнала, имеющего такую же энергию, но не обладающего указанными свойствами белого шума. Действительно, в его энергетическом спектре нельзя ука-

зать ни одного «доминирующего» диапазона частот, который определяет свойства процесса в большей степени, чем любой другой частотный диапазон. Напротив, почти гармонический сигнал со случайной фазой является предельной моделью узкополосного сигнала, имеющего энергетический спектр

А2 *

Gг(f) = — 5(/-/ ),

у которого вся энергия сосредоточена на одной частоте f *, где 5(/ - f *) - дельта-функция Дирака. Частотная энтропия такого сигнала меньше, чем у любого другого сигнала, имеющего такую же энергию, но распределенную по частотам. Энергетические спектры Gs (f) реальных сигналов s(t), t е [0, х] ограниченной длительности х имеют один или несколько спектральных пиков внутри диапазона [0, / ], где /э - эффективная ширина энергетического спектра. Чем контрастнее выражены пики (сосредоточены в узких диапазонах), тем ближе частотные свойства сигнала к свойствам класса узкополосных сигналов, предельной моделью которого является почти гармонический процесс, и тем меньше его частотная энтропия. И наоборот, чем «размытее» пики (шире диапазоны), тем ближе частотные свойства сигнала к свойствам класса широкополосных сигналов, предельной моделью которого является белый шум, и тем больше его частотная энтропия. Таким образом, меру частотной энтропии произвольного сигнала 5(:) можно оценивать по отклонениям между энергетическими спектрами G0 (f), Gг (f), Gs (:) всех трех сигналов в одном и том же диапазоне частот [0, ^ ], ширина которого fm не меньше эффективной ширины / (fm > fэ) спектра анализируемого сигнала s(t). Для корректной оценки отклонений необходимо, чтобы мощности Р этих сигналов были равны (f)] = P[Gг (f)] = Р^, (f)] = Gofm (здесь Go fm -полная мощность энергетического спектра белого шума). Установим зависимость между этими отклонениями в форме отношения

I = -

E

J0> ws

E„

границы принимали значения шТ(|) = 0 и Бир(|а) = 1. С учетом приведенных соображений определим меру частотной энтропии | в следующей форме:

ц = 1-1 = 1 -

E

при условии

P[Ge

Очевидно, что максимальное значение | = 1 может достигаться, когда анализируемый сигнал 5(:) является реализацией белого шума е(:), так как в этом случае числитель отношения I равен нулю, а минимальное значение | = 0 - когда 5(:) является реализацией почти гармонического процесса, так как тогда числитель I равен знаменателю. В других случаях 0 < | < 1.

Получим соотношения для вычисления |. Отклонения определим в следующем виде:

fm

E(Go, Gs(f)) = J (Go - Gs(f )|df

£тах = Е^0, Gг

0

Вычислим значение Етах . Так как Gг(f) определяется через 5 -функцию, то значение Gг (/) на частоте / * равно бесконечности и равно нулю на других значениях частоты. Однако интегрирование Gг (/) на любом конечном интервале частот [/* - А, /* + Д], содержащем / , дает конечное значение, которое с учетом условия (1) должно быть равно G0 /П1. Введем в рассмотрение функцию

где E(G0, Gs (/)) - отклонение между энергетическими спектрами белого шума и равномощного произвольного сигнала соответственно, Етах = Е^0, Gг(f)) -максимально возможное отклонение между энергетическими спектрами двух равномощных сигналов, которое достигается, если один из них является реализацией белого шума, а другой - почти гармонического процесса. Тогда меру частотной энтропии | произвольного сигнала можно определить как величину, зависящую от I, т. е. | = |(1). Кроме того, чтобы эту меру было удобно вычислять и использовать как характеристику сигнала, можно потребовать, чтобы ее

Gn( f) =

и интеграл

0,

0 < f < f -А,

Go fm / (2А), f * - А < f * < f * + А 0, / + А < f < fc

J |Go - Gn (f )| df.

Геометрическая интерпретации этого интеграла приведена на рис. 1. Gn(f) имеет форму прямоугольника с основанием, равным 2А, середина которого расположена на частоте f *. Площадь прямоугольника равна G0 fm, а высота G0 fm / (2А). Очевидно, значение интеграла равно сумме площадей заштрихованных прямоугольников I, II и III, поэтому можно записать равенство

fm

J |Go -Gn(f)| df =

0

Go

G

Go

Рис. 1. Геометрическая интерпретация интеграла

При стремлении Д к нулю функция GП(f) превращается в Gг (f), следовательно, можно записать

fm /т

Етах = | -С/= Дт | С -Gп(/)|# =

о Д^0 о

= Ит^о(/т - 2Д)] = 2Gо/т .

Д^

Подставляя в выражение (1) правую часть выражения (2.а) и найденное значение Етах, получим окончательное выражение для вычисления меры частотной энтропии

ц = 1 -

1

2 fm

1-

Gs

G

df .

fmax = Гт

где I - количество сигналов. Это требование не противоречит качественному понятию частотной энтропии, а напротив, отражает реальную ситуацию, которую иллюстрирует рис. 2. На рисунке показаны энергетические спектры С (/), С (/) двух сигналов,

которые являются сдвинутыми на оси частот копиями

друг друга: Gs (/) = G (/ + F). Пользуясь качественным представлением, можно сказать, что частотные энтропии этих сигналов равны, но при этом /т > /т . Для того чтобы совпадали и количественные оценки мер ц1, ц2, необходимо вычислять их в одном диапазоне [о, /т ].

G

Интеграл, входящий в это выражение, определяет отклонение масштабированного с коэффициентом 1/ G0 спектра сигнала С" (/) = Gs (/)/ G0 от энергетического спектра белого шума с уровнем, равным единице. Из анализа (4) следует, что значение меры нелинейно зависит от параметра /т. При этом увеличение /т приводит к уменьшению ц и наоборот. Поэтому при сравнении частотных энтропий двух и более сигналов значение соответствующих мер должно вычисляться в одном и том же диапазоне частот [0, /тах ], который соответствует сигналу с максимальным значением /т, т. е.

Рис. 2. Сдвинутые вдоль оси спектры

Вычисление и сравнение оценок ^ при цифровой обработке сигналов

При цифровой обработке сигнал длительностью т , квантованный с частотой /кв = 1/ Д (Д - шаг квантования по времени), представляется последовательностью отсчетов ¿(п) = "(пД), п = 0,..., N -1, а весь частотный диапазон сигнала - это [0, /кв]. Частоте /т соответствует значение /кв / 2 . Дискретным аналогом уравнения (4) является выражение 1 N-1, „ ,

А = 1 - - Е 1 - с?" (")/с„ ,

N к=01 1

где С?" (к) - выборочные оценки энергетического спектра сигнала на частотах /,к = кД/ , Д/ = 1/(NД). В экспериментах для вычисления (к) мы использовали дискретный аналог соотношения Винера - Хин-чина [4]:

N-1

С"(к) = Е Д(0со8(2яki/N), к = 0,...,N-1,

1=0

где R(i) - оценка автокорреляционной функ-ции(АКФ) сигнала "(п):

1 N-1

R(i) = — Е "(п)"(п + /), i = 0,..., N -1.

N п=0

Спектральный уровень белого шума вычислялся

как

1 N-1 „

С?о = - Е сс" (к).

м к=0

Требование (5) при цифровой обработке сигналов означает, что частотные энтропии нескольких сигналов можно корректно сравнивать, если они дискрети-

F

зированы с одной и той же частотой /кв. Это требование не является существенным ограничением, так как на практике оно почти всегда выполняется. Например, при цифровом анализе речевых сигналов частота квантования выбирается исходя из максимального значения эффективной ширины спектра «высокочастотных» фрагментов сигнала, которые соответствуют шипящим фонемам «Ш», «Ч», «С» и др., хотя в произвольном речевом сигнале имеются участки, соответствующие гласным и звонким согласным фонемам, которые имеют значительно меньшую ширину спектра [5]. Точно так же информативная часть спектров гидроакустических сигналов, излучаемых различными источниками, может находиться в разных частотных диапазонах, но частота квантования сигнала в цифровой гидроакустической аппаратуре выбирается исходя из значения /тах наиболее широкого диапазона [6, 7]. Если все же частота квантования сигналов может меняться, а значение | требуется запомнить для дальнейшего использования, например, в экспериментальных исследованиях, то символ меры можно помечать значениями соответствующей часто-

например, |ю0Гц , 15кГц и т. д.

Анализ результатов экспериментальных оценок ^

В качестве исходных данных использовались фрагменты речевых сигналов, соответствующих отдельным фонемам, и гидроакустические сигналы, дискретизированные с различными частотами квантования, а также по одной программно синтезируемой реализации белого шума и гармонического процесса. Фрагмент речевого сигнала, соответствующий отдельной фонеме, можно считать реализацией квазистационарного процесса в том смысле, что кратковременная оценка энергетического спектра, приведенная к определенному значению средней мощности, внутри фрагмента изменяется незначительно. Для вычисления оценок частотной энтропии использовались соотношения, приведенные в предшествующем разделе. Графики энергетических спектров гидроакустического и некоторых речевых сигналов приведены на рис. 3, а полученные результаты с оценками - в таблице.

Результаты оценок | для разных типов сигналов

i.DOD

а

юлой

в

1С ООО

Данные Лв ,кГц

Реализация белого шума 10 0,68324

Реализация гармонического процесса 10 0,00446

Речевой сигнал (звук «О») 22 0,07044

Речевой сигнал (звук «С») 22 0,22510

Гидроакустический сигнал 22 0,32672

Речевой сигнал (звук «О») 44 0,04165

Речевой сигнал (звук «С») 44 0,13111

Гидроакустический сигнал 44 0,20175

Речевой сигнал (слово «ОСА») 22 0,21025

Из анализа этих данных можно заключить, что качественное понятие частотной энтропии сигналов хорошо согласуется с ее количественными оценками и со свойствами меры |, установленными выше. Значение меры | для синтезированной реализации гармонического сигнала близко к нулю, а для синтезированной реализации белого шума - к 0,7. При частоте квантования 22 кГц оценка частотной энтропии речевого сигнала, соответствующего гласной «О» приблизительно втрое меньше, чем у сигнала, соответствующего шипящей согласной «С», и в пять раз меньше, чем у гидроакустического сигнала. При увеличении частоты квантования вдвое соответствующие оценки уменьшаются приблизительно в полтора раза, но что важно, отношения между этими оценками(1/3 и 1/5) остаются приблизительно постоянными.

В последней выделенной строке таблицы приведена оценка для сигнала, соответствующего сочетанию фонем «ОСА». Такой сигнал в целом нельзя считать квазистационарным, хотя его фрагменты, соответствующие отдельным фонемам, в указанном выше смысле можно рассматривать как «участки квазистационарности», поэтому приведенную оценку нельзя считать объективной. В связи с подобными ситуациями, интересным для дальнейшего исследования, является вопрос о том, как оценивать частотную энтропию таких сигналов.

5-000

б

1Q0CP

5000

г

>0 ООО

Рис. 3. Графики энергетических спектров сигналов

Литература

1. Коган И.М. Прикладная теория информации. М., 1981. 216 с.

2. Шилейко А.В., Кочнев В.Ф., Химушин Ф.Ф. Введение в информационную теорию систем / под. ред. А.В. Шилейко. М., 1985. 280 с.

3. Бендат Дж., Пирсол А. Прикладной анализ случайных данных : пер. с англ. М., 1989. 540 с.

4. Оппенгейм А., Шафер Р. Цифровая обработка сигналов : пер. с англ. М.,2006. 856 с.

5. Златоустова Л.В., Потапова Р.К., Трунин-Донской В.Н. Общая и прикладная фонетика. М., 1986. 304 с.

6. Урик Р.Д. Основы гидроакустики : пер. с англ. Л., 1978. 448 с.

7. Справочник по гидроакустике / А.П. Евтютов [и др.] : 2-е изд., перераб. и доп. Л., 1988. 552 с.

Поступила в редакцию 20 сентября 2010 г.

Гавриков Михаил Михайлович - канд. техн. наук, доцент, кафедра «Программное обеспечение вычислительной техники», Южно-Российский государственный технический университет (Новочеркасский политехнический институт). Тел. (8635)255295. E-mail: gmm1000@yandex.ru

Синецкий Роман Михайлович - канд. техн. наук, ст. преподаватель, кафедра «Программное обеспечение вычислительной техники», Южно-Российский государственный технический университет (Новочеркасский политехнический институт). Тел. (8635)255295. E-mail: cdg@mail.ru

Gavrikov Mikhail Mikhailovich - Candidate of Technical Sciences, assistant professor, department «Software Engineering», South-Russia State Technical University (Novocherkassk Politechnic Institute), Ph. (8635)255295, E-mail: gmm1000@yandex.ru

Sinetsky Roman Mikhailovich - Candidate of Technical Sciences, senior lector, department «Software Engineering», South-Russia State Technical University (Novocherkassk Politechnic Institute). Ph. (8635)255295. E-mail: cdg@mail.ru