Методы рационального кодирования

Содержание



Введение

Глава 1. Равномерное квантование мгновенных значений сигнала

Глава 2. Неравномерное квантование мгновенных значений

Глава 3. Оптимальное квантование

Глава 4. Адаптивное квантование

 4.1 Вводные замечания

 4.2 Адаптация по входному сигналу

 4.3 Адаптация по выходному сигналу

Глава 5. Теория разностного кодирования

Заключение

Список литературы




Введение



Методы рационального кодирования предназначены для сокращения избыточности сообщений в условиях априорной неопределенности относительно статистических характеристик сигналов [4]. Т.е. в условиях, когда сигнал является нестационарным, что часто встречается на практике, или когда неизвестны статистические характеристики этого сигнала. Под рациональным кодированием понимают такое кодирование, при котором измерительная информация представленная в дискретной форме требует минимальное количество символов при заданной верности, т.е. отношении сигнал – шум квантования. Требование рационального кодирования сообщений обусловлены тем, обстоятельством, что в случае нерационального кодирования на первом этапе избыточность сохраняется и на последнем. В случае применения корректирующих (помехоустойчивых) кодов избыточность сообщений еще более возрастает. Процедуры рационального кодирования источника сообщений классифицируются по их возможности менять параметры или структуру кодирующего устройства для обеспечения сжатия данных. Классификация имеет вид (рисунок  1).





Рисунок  1



Фиксированная процедура имеет заданную структуру, которая остается неизменной при любых входных воздействиях. Это не позволяет оптимизировать процесс обработки данных при разных сообщениях на входах квантователя (можно оптимизировать для класса разных сообщений), но допускает простую аппаратную реализацию алгоритма. Пример фиксированной процедуры - -квантователь.

Параметрическая адаптивная процедура чувствительна к статистике сообщений и изменяется в соответствии с выбранным критерием свои параметры. Примерами такой процедуры являются адаптивная и разностная ИКМ.

Непараметрическая адаптивная процедура сжатия данных с изменением структуры алгоритмов сообщений является наиболее перспективной с точки зрения эффективности кодирования источника нестационарных сообщений с изменяющимися статистическими характеристиками. В этом случае меняются не только параметры, но и структура алгоритма кодирования. К таким процедурам относят алгоритм адаптивно - разностной ИКМ с перестройкой структуры фильтра – предсказателя.




Глава 1. Равномерное квантование мгновенных значений сигнала



Предположим, что в результате дискретизации сигнала получается последовательность непрерывных величин  для передачи по цифровым каналам связи. Каждый отсчет необходимо проквантовать до конечного множества значений. Целесообразно разделять процесс представления последовательности  множеством двоичных символов на два этапа: квантование, результатом которого является последовательность величин = и кодирование, когда последовательности величин  ставится в соответствие кодовое слово , т.е. этот процесс можно представить в виде (рисунок  2).



 

Рисунок  2



Обычно для кодирования квантованных отсчетов используют двоичную последовательность. С помощью B-разрядного кодового слова можно представить  уровней квантования. Скорость передачи информации в этом случае: 



,                                           ( 1)




где  - частота дискретизации, которая выбирается исходя из способа восстановления сигнала в приемнике, - число бит на отсчет сигнала.

Если - const, то единственный путь уменьшения скорости передачи состоит в сокращении числа двоичных единиц на отсчет сигнала. Определим как зависит отношение сигнал – шум квантования от разрядности кодового слова . 

Рассмотрим различные способы квантования  сигнала. Пусть 



                                             ( 2)



и функция плотности вероятности сигнала симметрична. Тогда



.                                           ( 3)



Для речевого сигнала с функцией плотности вероятностей (ФПВ) Лапласа только 0,55%  отсчетов сигнала окажутся вне динамического диапазона:



.                                         ( 4)



В случае равномерного квантования:



 .                                    ( 5)



Рассмотрим характеристики равномерного квантователя в случае восьми уровневого квантования.

Первый случай. Квантователь с усечением (рисунок  3) имеет одинаковое количество положительных и отрицательных уровней, но нет нулевого.



Рисунок  3



Второй случай. Квантователь с округлением (рисунок  4) имеет на один отрицательный уровень больше, но есть нулевой уровень.





Рисунок  4



Для квантователя с усечением при предположении, что первый разряд знаковый, квантованное значение равно:



,                                ( 6)



а для квантователя с округлением:

.                                             ( 7)

.                                    ( 8) 



Представим квантованный  сигнал в виде :



                                            ( 9)



где  - ошибка или шум квантования, .

Для изучения эффектов квантования предполагают, что шум квантования обладает следующими статистическими свойствами:

Является стационарным белым шумом.

Некоррелирован со входным сигналом.

Распределение шума равномерное в пределах .

Для этой статистической модели определим отношение сигнал – шум квантования:



 ,                                  ( 10)



где M – оператор усреднения.

 Для B-разрядного квантователя можно записать соотношения:



 .                                          ( 11)



Тогда дисперсия шумов квантования  при равномерном распределении ошибки  равна:




.                                ( 12)



В случае, если , то получим выражение для отношения сигнал – шум квантования:



.                                     ( 13)



Обычно отношение сигнал – шум задается в дБ:



 .                                        ( 14)



Из выражения ( 14) следует, что добавление одного разряда кодового слова улучшает отношение сигнал – шум квантования на 6 дБ. Выражение для отношения сигнал – шум квантования получено при предположении, что диапазон квантования используется полностью, если энергия сигнала изменится, то отношение сигнал – шум квантования уменьшится. В реальных условиях дисперсия телеметрического сигнала можно меняться на 20-30дБ. По этой причине для поддержания отношения сигнал – шум квантования на заданном уровне в случае равномерного квантования необходимо увеличивать число уровней квантования, при этом увеличивается избыточность сообщения. Желательно иметь устройство квантования, при котором отношение сигнал – шум квантования не зависит от уровня сигнала. Это достигается использованием неравномерного распределения уровней квантования.




Глава 2. Неравномерное квантование мгновенных значений



Для того чтобы относительная ошибка была постоянна при изменении дисперсии входного сигнала уровни квантования должны быть распределены по логарифмическому закону. Вместо квантования исходного сигнала можно равномерно квантовать его логарифм. В этом случае структурная схема квантователя имеет вид (рисунок  5).

Докажем, что в случае  отношение сигнал – шум квантования не зависит от изменения дисперсии входного сигнала.

Выражение для квантованного логарифма входного сигнала имеет вид:



.                                ( 15)



Предполагается, что шумы квантования и   независимы.





Рисунок  5



Тогда применяя обратное преобразование, получим:  

.    ( 16)



Если значение ошибки  мало, то можно аппроксимировать экспоненту первыми членами ряда, т.е.:



                             ( 17)



При условии, что и независимы  и отношение сигнал –  шум равно:

 

 .                                               ( 18)



Следовательно, отношение сигнал - шум квантователя не зависит от мощности сигнала и зависит только от шага квантования. 

Рассмотренный выше квантователь не реализуем, т.к. динамический диапазон сигнала  бесконечен и требует бесконечное число уровней квантования.  Для реальных случаев число уровней квантования конечно, и характеристика компрессора может быть близка к логарифмической. На практике используемые характеристики компрессора называются  и А законами компандирования.  

    - закон компандирования имеет следующий вид:



.                                       ( 19)



При малых   и уровни квантования располагаются равномерно. При больших :

                                                   ( 20)



и эта характеристика близка к логарифмической. 

Можно показать, что чем выше значение параметра , тем ближе характеристика компандирования к логарифмической, но тем больше проигрыш в отношении сигнал/шум. Если дисперсия входного сигнала постоянна и известна, то неравномерный квантователь проигрывает равномерному. Экспериментальные исследования показали, что двенадцатиразрядное равномерное квантование имеет такое же отношение сигнал/шум, как и в случае восьмиразрядного квантования при  - законе компандирования  в случае речевого сигнала (рисунок  6).





Рисунок  6



При   .



Отношение сигнал-шум квантования для - закона компандирования равно 



                  ( 21)



А - закон компандирования имеет вид:

                                    ( 22)




Глава 3. Оптимальное квантование



Как было установлено, квантование по - закону позволяет получить постоянное отношение сигнал-шум квантователя в широком диапазоне дисперсий входного сигнала. Это достигается ценой некоторого уменьшения отношения сигнал-шум квантователя по сравнению со случаем, если диапазон квантования согласован  с дисперсией входного сигнала. Когда дисперсия сигнала известна, можно так выбрать уровени и пороги квантования, чтобы минимизировать мощность шума, т.е. максимизировать отношение сигнал-шум квантователя 



,                                          ( 23)



 - ФПВ сигнала. Выражение ( 23) написано при симметричной функции плотности вероятности сигнала. 

Требуется выбрать множество таких порогов и уровней квантования, чтобы минимизировать дисперсию входного сигнала.  Для решения этой задачи продифференцируем по этим параметрам и приравняем производную к нулю



,                                      ( 24)

                                       ( 25)



При условии, что ,  из выражения ( 24) и ( 25) следует, что 

,                                                         ( 26)



.                                                         ( 27)

Т.е. оптимальные пороги равны полусумме уровней квантования, а уровни квантования есть среднее значение ФПВ сигнала на интервале .

Данное уравнение решается с помощью итерактивных методов для заданной ФПВ сигнала. Решение уравнения приводит к неравномерному распределению уровней квантования. Равномерное распределение уровней квантования будет только для сигналов с равномерной ФПВ. Оптимальные размеры шага квантования определены для нормального распределения, - распределения и распределения Лапласа. 

Оптимальный квантователь дает минимум погрешности, если известна дисперсия и форма ФПВ сигнала.   

Реальные сигналы обычно нестационарны. Поэтому на практике чаще используются - квантователи, несмотря на несколько меньшее отношение сигнал-шум квантователя по сравнению с оптимальными. Обычно потери составляют 3 – 6 дБ, т.е. меньше, чем один разряд квантования при известной дисперсии входного сигнала.




Глава 4. Адаптивное квантование



 4.1 Вводные замечания



Из п.  4 ясно, что шаг квантования  необходимо выбирать большим для согласования диапазона квантования с размахом сигнала. С другой стороны  необходимо выбирать малым для уменьшения шума квантования.  Одним из путей решения этой проблемы  при нестационарном входном сигнале является применение  - компандирования. Другой путь состоит в адаптации  квантования к уровню входного сигнала. Если адаптивное квантование применяется непосредственно к отсчетам входного сигнала, то такой метод обработки называют адаптивной ИКМ (АИКМ). Известны два способа реализации АИКМ. Адаптивное квантование при первом способе состоит в том, что шаг квантования (в общем случае интервалы и уровни квантования) изменяются таким образом, чтобы соответственно изменялась дисперсия входного сигнала.

Другой способ реализации АИКМ соответствует случаю, когда характеристики квантователя не изменяются, а постоянный уровень дисперсии сигнала поддерживается за счет переменного коэффициента усиления. В обоих случаях необходимо оценивать изменяющиеся во времени характеристики сигнала. 

Имеется два класса схем адаптивного квантования:

Квантователь с адаптацией по входу, когда дисперсия входного сигнала оценивается непосредственно по этому сигналу.

 Квантователь с адаптацией по выходу, когда  шаг квантования подстраивают по выходному сигналу или кодовому слову .




 4.2 Адаптация по входному сигналу



Рассмотрим структурную схему квантователя с переменным шагом квантования (рисунок  7).





Рисунок  7



Шаг квантования должен быть известен на приемной стороне, т.е. в этом случае отсчет описывается кодовым словом и шагом квантования.  Если используется квантователь с адаптацией по входу на основе усилителя с переменным коэффициентом усиления, то квантованный сигнал описывается кодовым словом и коэффициентом усиления.

Структурная схема квантователя с переменным коэффициентом квантования приведена на следующем рисунке (рисунок  8).





Рисунок  8

В системах адаптации по шагу и усилению обычно используется оценка дисперсии входного сигнала. В этом случае шаг или уровни квантования устанавливаются пропорционально СКО сигнала

кодирование сигнал адаптация

,                                                         ( 28)



а коэффициент усиления - обратно пропорционально



.                                                      ( 29) 



Общий подход состоит в предположении, что дисперсия входного сигнала пропорциональна кратковременной энергии. При этом дисперсия входного сигнала оценивается по формуле:



                                               ( 30)



- импульсная характеристика фильтра нижних частот.

В интересах практической реализации устройств адаптации импульсная характеристика фильтра выбирается в виде:



                                            ( 31)



Тогда дисперсия входного сигнала равна:



,                                                      ( 32)

                                               ( 33)

Параметр  импульсной характеристики фильтра определяет протяженность интервала времени, на котором сигнал вносит основной вклад в оценку дисперсии.

Обе схемы адаптивных квантователей по входу сигнала идентичны с точки зрения отношения сигнал-шум квантователя. Экспериментальные исследования в случае, если сигнал имеет ФПВ Гаусса или Лапласа показали, что адаптивное квантование дает выигрыш в отношении сигнал-шум квантователя не менее 5 - 6 дБ по сравнению с - квантователем.  Если дисперсия входного сигнала изменяется в широких пределах (30 дБ и более), этот выигрыш будет увеличиваться.





 4.3 Адаптация по выходному сигналу



Схема адаптации по выходу с переменным шагом квантования имеет вид (рисунок  9).





Рисунок  9



Системы адаптации по шагу в этой схеме цифровые. Схема адаптации по выходу с переменным коэффициентом усиления имеет вид (рисунок  10).



Рисунок  10



В обеих схемах дисперсия входного сигнала оценивается по выходному квантованному сигналу или по последовательности кодовых слов. Такие схемы обладают важным преимуществом по сравнению со схемами адаптации по входному сигналу, состоящие в том, что шаг квантования или коэффициент усиления не требуется сохранять или передавать по КС. Кроме того, система адаптации может быть реализована в цифровом виде. 

Недостатком подобных квантователей является высокая чувствительность к ошибкам в кодовых словах, т.к. эти ошибки приводят не только к неправильной установке уровней квантования, но и ошибкам в шаге квантования.  

Дисперсия входного сигнала в этом случае рассчитывается по формуле:



,                                               ( 34)



где  - квантованное значение входного сигнала, а импульсная характеристика равна:



                                                     ( 35)




При оценке дисперсии в схемах адаптации по входу вместо используют .

Исследования схем адаптации по выходному сигналу показали, что по сравнению с - квантователем достигается выигрыш не менее 5 дБ.

Методы адаптивного квантования дают выигрыш в отношении сигнал-шум квантователя по сравнению с квантованием по  - закону при том же динамическом диапазоне сигнала. Этот выигрыш зависит от формы ФПВ входного сигнала и его динамического диапазона. В связи с этим представляет интерес рассмотрение методов разностного кодирования, которые менее чувствительны к форме ФПВ входного сигнала. 




Глава 5. Теория разностного кодирования



Обычно между соседними отсчетами входного сигнала имеется значительная корреляция, которая слабо уменьшается по мере увеличения интервала между отсчетами. В результате разность между соседними отсчетами имеет меньшую дисперсию, чем исходный сигнал. Т.е. динамический диапазон разностного квантованного сигнала уменьшается, что позволяет при том же отношении сигнал – шум квантования уменьшить разрядность кодового слова (рисунок  11).





Рисунок  11



	Рассмотрим два случая:

, т.е. кодовое слово разностного сигнала уменьшится. 

. Т.е. динамический диапазон разностного сигнала расширяется до динамического диапазона исходного сигнала. Тогда длительность кодового слова исходного и разностного сигналов равны, а отношение  сигнал – шум квантования разностного сигнала .

Рассмотрим особенности работы разностного квантователя (рисунок  12).





Рисунок  12



На входе квантователя (КВ) действует сигнал:



.                                             ( 36)



Сигнал  называется погрешностью предсказания или разностный сигнал. Квантованию подвергается не входной, а разностный сигнал. Квантователь может быть адаптивным или неадаптивным, равномерным или неравномерным, но во всех случаях его параметры соответствуют дисперсии погрешности предсказания. Квантованная погрешность предсказания имеет вид:



 ,                                         ( 37)




где  - ошибка квантования разностного сигнала. Из структурной схемы ( 12) следует, что квантованное значение исходного сигнала имеет вид:



.                                              ( 38)



Тогда  используя формулы ( 36 –  38) получаем выражение:



                                ( 39)

.                                                ( 40)



Таким образом квантованный входной сигнал отличается от исходного входного сигнала на величину шума квантования разностного сигнала. Если предсказатель (П) хороший, то дисперсия разностного сигнала будет меньше дисперсии входного сигнала и квантователь с заданным количеством уровней даст меньшую погрешность при квантовании разности, чем при квантовании исходного сигнала. Отношение сигнал – шум  квантования в этом случае имеет вид:



 ,                             ( 41)



где  - отношение сигнал – шум  квантователя,  - коэффициент усиления, обусловленный разностным кодированием. Отношение сигнал – шум  квантователя зависит только от свойств квантователя (равномерный, неравномерный, адаптивный) и разностного сигнала. Величина  определяет выигрыш в отношении сигнал – шум  при  использовании разностного представления. Т.к. величина  фиксированная, то увеличить коэффициент усиления можно только за счет минимизации . Для решения этой задачи определяют тип предсказателя. Рассмотрим возможность использования линейного предсказателя:



,                                              ( 42)



где - порядок фильтра предсказателя,  - коэффициенты. Дисперсия погрешности предсказателя в этом случае имеет вид:



.               ( 43)



Дифференцируя  по  и приравниваем к нулю, получим систему уравнений:



                                          ( 44)



Решением системы уравнений будут коэффициенты , при которых  минимальна. В этом случае коэффициент усиления равен:



 ,                                          ( 45)



где  - нормированная корреляционная функция . Таким образом пока  отношение сигнал – шум  квантования будет увеличиваться за счет предсказания. В случае речевого сигнала при  получаются зависимости коэффициента усиления  от порядка фильтра предсказателя (рисунок  13)



Рисунок  13



Даже при простом предсказателе, когда p=1, можно получить выигрыш в 6 дБ по сравнению с ИКМ, что эквивалентно добавления одного разряда в квантователь. В случае женского голоса (ЖГ) выигрыш разностного квантования выше, чем в случае мужского голоса (МГ). 

Выводы:

Разностное квантование обеспечивает выигрыш по сравнению с неадаптивным квантователем в (6 – 12) дБ.

Величина выигрыша зависит от величины корреляции между отсчетами.

Один и тот же предсказатель не может быть оптимальным для различных сигналов, т.к. значения коэффициентов зависят от вида корреляционной функции сигнала.




Заключение



Радиосвязь - одно из самых простых и надежных средств связи. Рации полезны и удобны, их можно использовать там, где недоступен ни один другой вид связи, системы радиосвязи недороги по цене, легко развертываются и нетребовательны к условиям окружающей.

	Наиболее характерными для современных РСПИ являются три формы представления сообщений, которые формируются на борту и передаются по линиям связи:

			Сообщения о наличии/отсутствии некоторого априорно известного сообщения (включения/выключения двигателей, удары метеорита). 

			Сообщения о величинах характеризуют значения параметров в определенный момент времени. 

			Сообщения о процессах должны с заданной точностью воспроизводить процессы на определенном отрезке времени, т.е. в этом случае также необходимо производить калибровку амплитуды и масштабирование по времени. 




Список литературы



		Радиотехнические методы передачи информации: Учебное пособие для вузов / В.А.Борисов, В.В.Калмыков, Я.М.Ковальчук и др.; Под ред. В.В.Калмыкова. М.: Радио и связь. 1990. 304с.

		Системы радиосвязи: Учебник для вузов / Н.И.Калашников, Э.И.Крупицкий, И.Л.Дороднов, В.И.Носов; Под ред. Н.И.Калашникова. М.: Радио и связь. 1988. 352с.

		Тепляков И.М., Рощин Б.В., Фомин А.И., Вейцель В.А. Радиосистемы передачи информации: Учебное пособие для вузов / М.:  Радио и связь. 1982. 264с.

		Кириллов С.Н., Стукалов Д.Н. Цифровые системы обработки речевых сигналов. Учебное пособие. Рязань. РГРТА, 1995. 80с.

		Кириллов С.Н., Бакке А.В. Оптимизация сигналов в радиотехнических системах. Учебное пособие. Рязань. РГРТА, 199  80с.

		Кириллов С.Н., Шелудяков А.С. Методы спектральной обработки речевых сигналов. Учебное пособие. Рязань. РГРТА, 199  80с.

		Кириллов С.Н., Бодров О.А., Макаров Д.А. Стандарты и сигналы средств подвижной радиосвязи. Учебное пособие. Рязань. РГРТА, 1999. 80с.

		Кириллов С.Н., Малинин Д.Ю. Теоретические основы асинхронного маскирования речевых сигналов. Учебное пособие. Рязань. РГРТА, 2000. 80с.

		Кириллов С.Н., Зорин С.В. Вейвлет – анализ случайных процессов в радиотехнических устройствах. Учебное пособие. Рязань. РГРТА, 2002. 80с.

		Кириллов С.Н., Шустиков О.Е. Обобщенный спектральный анализ случайных процессов в радиотехнических устройствах обработки речевых сигналов. Учебное пособие. Рязань. РГРТА, 2003. 84с.

		Кириллов С.Н., Поспелов А.В. Дискретные сигналы в радиотехнических системах. Учебное пособие. Рязань. РГРТА, 2003. 60с.