Использование вейвлет-анализа для оценки качества рефлектограмм

У

Использование вейвлет-анализа для оценки качества рефлектограмм

Существует ряд качественных и количественных методик анализа рефлектограммы, позволяющих делать выводы о состоянии тестируемого участка линии связи. К качественным критериям можно отнести анализ формы сигнала, при этом возникает задача удаления шума из рефлектограммы для повышения точности такого анализа. Данная задача эффективно решается при помощи вейвлет-разложения и пороговой обработки вейвлет-коэффициентов. Одним из главных преимуществ техники вейвлетов является высокая скорость работы. При этом необходимо оценить риск при удаления шума. К количественным критериям анализа рефлектограммы относится её спектральный анализ. При спектральном анализе рефлектограммы возникает задача отсева паразитных импульсов, не являющихся повреждениями линии. На графике рефлектограммы эти импульсы могут выглядеть как резкие скачки вниз или вверх. Кроме того, для спектрального анализа необходимо преобразование Фурье, адаптированное для случая неравномерных отсчётов. Данная статья посвящена качественным методам анализа рефлектограммы. Основными решаемыми задачами являются: удаление шума из рефлектограммы с помощью пороговой обработки с универсальным порогом коэффициентов дискретного вейвлет-преобразования; вычисление оценки риска пороговой обработки с последующим сравнением с теоретическими значениями. Поставленные задачи решаются с использованием теории вейвлет-анализа и пороговой обработки, а также основ оценки риска пороговой обработки. Помимо задачи удаления шума, пороговая обработка позволяет решить задачу сжатия сигнала.

Ключевые слова: оценка риска, шум, рефлектограмма, вейвлет-преобразование, пороговая обработка.

Манонина И.В.,

МТУСИ, ассистенткаф. МСиИИ, ivm@mtuci.ru

Введение

Вейвлет-анадиз позволяет решать следующие задачи: сжатие сигналов, удаление различных шумов, извлечение из сигнала временной и частотной информации. При этом для удаления шумов и сжатии сигнала применяется пороговая обработка вей влет-коэффициентов (В К). Поэтому вей влет-анализ возможно успешно использовать при измерениях телекоммуникационных систем, например, при обработке результатов измерений линии связи - рефлектограмм. Типичная рефлектограмма может содержать от нескольких сотен тысяч до нескольких миллионов значений, а вычислительный аспект при её обработке является весьма важным. Аппарат вейвлетов предоставляет сверхбыстрые алгоритмы прямого и обратного преобразования и при этом обеспечивает весьма высокое визуальное качество обработки.

С применением пороговой обработки коэффициентов разложения можно эффективно удалять шум из рефлектограммы, упрощая качественный анализ. Возможно построить н вычислить оценку риска. Теоретический выбор порога основывается на свойствах ошибки пороговой обработки. Учитывая, что ошибка неизвестна, то получают асимптотические свойства ошибки, при этом, теоретически результат обработки близок к исходному незашумленному сигналу.

1. Вей влет-анализ и вейвлет-преобразование

Существующая проблема при анализе сигналов, характеризуется высокочастотной компонентой в течение короткого промежутка времени и низкочастотными колебаниями при рассмотрении больших временных интервалов. Оконное преобразование Фурье позволяет анализировать либо высокочастотные, либо низкочастотные компоненты сигнала с использованием одного и того же короткого временного

окна, но не производит анализ обеих составляющих колебания одновременно. Для решения данной проблемы был предложен подход, в котором для различных диапазонов частот используются временные окна различной длительности. Эти оконные функции получаются в результате растя-жения-сжатия и смещения по времени гауссиапа. Базисные функции называются вейвлетами.

Вей влет-анализ является современным и перспективным метод обработки данных. Аппарат вейвлет-анализа был разработан учёными Морле, Гроссманом и другими авторами в начале 1980-х годов [I, 2, 3]. Результаты, полученные в самых различных областях с помощью вейвлет-анализа, усилили интерес к этому направлению и способствуют непрерывно продолжающемуся его развитию |4].

Вей влеты - семейство функций, которые получаются из одной материнской вей влет-функции посредством её сдвигов и растяжений. Вейвлет-преобразования (ВП) рассматривают любую функцию сигнала в виде разложения на колебания, локализованные по времени и частоте. В то время как Фурье-анализ традиционно используется для анализа и обработки стационарных сигналов, вей влет-анализ применяется для анализа и обработки нестационарных сигналов [5].

ВП одномерной функции - это её представление в виде обобщенного ряда или интеграла Фурье по системе базисных функций:

где — материнский (исходный) вей влет, обладающий

определенными свойствами за счёт операций сдвига во времени и изменения временного масштаба; а - временной масштаб; Ь ~ сдвиг во времени. Множитель ] / 4» обеспечивает независимость нормы этих функций от масштабирующего числа а. Для заданных значений параметров а и Ь функция РаЛх) и есть вей влет, порождаемый материнским вейвлетом у/{х).

В дискретном виде вейвлет записывается как:

Л

где а и Ь принимают только дискретные значения: а = а",', Л = пЬаа$ , аш и п принимают значения из множества целых чисел 2, величины аа> 1, ¿о > 0 - фиксированные [6].

2. Пороговая обработка и оценки риска

Реальные сигналы всегда конечны по времени. Пусть функция Лрс) задана на интервале [0, 1], а вне его тождественно равна нулю. На практике функции сигнала всегда заданы в дискретных отсчётах. Будем считать, что функция/ задана и точках ¡/N(1= 1,..., Л', где N = 2'1 дня некоторого У): Д = _Д/ЛУ). Дискретное вейвлет-преобразование (ДВП) представляет собой умножение вектора значений функции/(обо-значим его через Г) на ортогональную матрицу IV, определяемую вейвлет-базисом {ц/,^} (ем. [7]):

^ = IV Г

При этом, если перейти к двойному индексу (/, к), где ) = О,.... У - 1, к = 0,..., 2' - 1 (т.е. на каждом масштабе /' имеется 2' сдвигов по к), то в силу ортогональности матрицы IV дискретные ВК связаны с непрерывными следующим образом: ъ^Щ^^у/.^ш., например, [7])- Множитель \[Й

возникает из-за разных условии орто нормирован поста в дискретном и непрерывном случаях [8].

На практике в сигнале всегда присутствует шум, поэтому примем аддитивную модель некоррелированного гауссов-ского шума в е нулевым средним и дисперсией <Г:

В рассматриваемой модели непараметрической регрессии, требуется построить оценку функции/по наблюдениям У/, Разработаны множества линейных методов для решения этой задачи: методы построения ядерных оценок, онлайновое сглаживание и разложение в ортогональные ряды ([9], [10]). Каждый из методов обладает своими достоинствами и недостатками, но ни один из них не превосходит другие по всем критериям качества [111,

В последнее время разработаны различные нелинейные методы построения оценок в задачах непараметрической регрессии: ядерные оценки с переменной шириной окна, классификационные и ре]реесионные деревья и адаптивные регрессионные сплайны ([12], |13]). Вычислительная сложность некоторых их этих методов может быть слишком большой, хотя они позволяют строить оценки, асимптотически близкие к оптимальным. Преобладающим направлением в области решения задач непараметрической регрессии стали нелинейные методы пороговой обработки ПК. Эти методы относятся к более широкому классу методов разложения в ортогональные ряды. Их достоинство состоит в быстроте алгоритмов построения оценок, а также в возможности лучшей, чем линейные методы, адаптации к функциям, имеющим на разных участках различную степень регулярности [8].

К наблюдаемым данным (I) применим ДВП:

А', = а,+£-,"', 1-1.....N

где гг." также некоррелированный гауссовский шум с нулевым средним и дисперсией <г, а а, равны соответствующим непрерывным ВК, умноженным на

Использование пороговой обработки ВК позволяет получить меньший порядок среднеквадратичной ошибки, чем при оценивании классическими линейными методами.

Смысл пороговой обработки ВК заключается в удалении достаточно маленьких коэффициентов, которые считаются шумом. Характер пороговой обработки определяется пороговой функцией prix) и порогом Т. Вместо аргумента .г в функцию prix) подставляются эмпирические ВК Л". Простейший вид - жёсткая пороговая обработка (рис. ! а): , . Ы дри Ы > Т, ^Нопрн fi*Г.

Такая пороговая обработка чаще всего используется для задач сжатия с потерей информации (например, [7]). Функция жёсткой пороговой обработки имеет разрыв, что приводит к появлению нежелательных последствий в обрабатываемой функции сигнала, особенно, если функция сигнала достаточно гладкая. Обычно на практике используют мягкую пороговую обработку с непрерывной пороговой функцией {рис. 16):

х~Т прил>7\ х + Т при л- < -Т, 0 при Ы < Т.

При такой пороговой обработке ВК, которые по модулю меньше порога Т, обнуляются, а абсолютные величины остальных коэффициентов уменьшаются па величину порога. Существуют также другие виды пороговых функций, которые по своим свойствам похожи на функции жёсткой и мягкой пороговой обработки, но обладают большей степенью гладкости и некоторыми дополнительными параметрами. Такие пороговые функции с более сложной струкзурой в некоторых случаях позволяют незначительно повысить визуальное качество обработки, однако их теоретический анализ заметно усложняется. На практике в подавляющем большинстве случаев используются функции жёсткой и мягкой пороговой обработки.

Ii pi (jr>

-Т

-т

рЦ.\)

а) б)

Рис. 1. Функции пороговой обработки: жёсткой

Средпеквадратическая погрешность {или риск) пороговой обработки а, Т) определяется следующим образом:

1=1

В {2) присутствуют неизвестные величины поэтому вычислить значение риска и, Т) нельзя. Оценить и

уменьшить величину риска можно при различных стратегиях выбора порога Т в различных классах функций, которым

Л

может принадлежать / Значение риска можно оценить по наблюдаемым данным. В каждом слагаемом если \Х\ > Г, то вклад слагаемого в риск составляет с? + Т1, а если \Х\ < Т, то вклад составляет а/ - Поскольку Е Х- = сг + а]< величину ат можно оценить разностью х*-аг-

Таким образом, в качестве оценки риска можно исполь-

зовать следующую величину:

где F [х,<т, Т] =

Оценка риска (3) даёт возможность получить представление о погрешности, с которой оценивается функция сигнала, используя только наблюдаемые данные.

Пороговая обработка используется для построения нелинейных оценок, диагональных в вей влет-баз и ее (т.е. обрабатывается каждый ВК отдельно, независимо от других). Учёные Д. Донохо и И. Джонстон ([14], |15]) предложили использовать порог Ти =с7т/21п N  Этот порог получил название «универсальный», поскольку он зависит только от дисперсии шума. При выборе порога Ту из сигнала убирается почти весь шум. Действительно, если/= 0 и, следовательно, Xt - е"', следует выбрать такой порог Т, чтобы оценка сигнала тоже была близка к нулю. Для этого все \s" должны с

большой вероятностью быть меньше Т. Поскольку ¿1 независимы и нормально распределены с нулевым средним и дисперсией о~.

^ InJV Kísífl 'I VJ

Зачастую дисперсия <г неизвестна, и её также необходимо оценивать, при этом выражение (3) принимает вид:

а вместо универсального порога Гц используется порог % = стл/21п Л'.

В качестве оценки дисперсии <г (или среднсквадратиче-ского отклонения а) рассмотрим выборочную дисперсию:

<тг =

- У х?-х\гпех=- У Х„

к! ' * W "

iv í-iV/2+l /v ¡=N/2+1

Кроме того, при выборе универсального порога, риск оказывается асимптотически близким к минимальному. Обозначим через Тмы неизвестный «идеальный» порог, при котором риск (2) минимален. Если задан порог Тг = <7\121п N , то риск а, Т) при всех N > удовлетворяет следующему неравенству:

Однако при фиксированном N в общем случае порог Тц не является оптимальным, и при выборе более низкого порога риск оказывается меньше (см. [7[), Универсальный порог в некотором смысле является максимальным среди «разумных» порогов, поскольку:

т.е. вероятность того, что максимальная амплитуда шума превзойдет универсальный порог, быстро убывает, при этом если выбрать порог больше универсального, можно удалить важные компоненты полезного сигнала. Мягкую пороговую обработку с универсальным порогом часто называют методом \''1ш5}пчпк.

Теорема 1. Если справедливы предположения о регулярности/ то при мягкой или жёсткой пороговой обработке с порогом т = (ту12 1п N имеет место сходимость по распределению при Л'—* да:

Д.у (/,ег,Т)-ЯК(/,гг,Т) сгЛN

Выборочная дисперсия является самой популярной оценкой величины я2, и в случае отсутствия выбросов она наиболее предпочтительна.

При выборе универсального порога риск оказывается близким к минимальному лишь асимптотически при N —*со. При фиксированном N в общем случае универсальный порог не является оптимальным, и при выборе более низкого порога риск оказывается меньше. Известен метод пороговой обработки под названием SureShrink (Stein Unbiased Risk Estimate - несмещенная оценка риска Стейна). Порог, выбираемый на основе этого метода, зависит от наблюдаемых данных напрямую, а не только через оценку дисперсии ó2, которая строится по выборке сигнала, Если дисперсия а известна, то суть метода SureShrink заключается в минимизации оценки риска (3) на множестве Т [0, Тц\, т.е. порог выбирается следующим образом:

К (/•Tsim) « Д» ,К (/.

Этот порог имитирует теоретический «идеальный» порог TM¡,„ минимизирующий риск:

1Т><7,Тщ)- min Як if,0,T)-

' I1'''- I

В то время как значение порога Тш, найти нельзя, если неизвестны незашумленные значения ß (можно лишь в некоторых случаях выяснить его асимптотическое поведение), алгоритм поиска порога ТХШЕ очень прост, и его описание можно найти в [7]. Порог Т$ищ является адаптивным, поскольку использует только наблюдаемые данные и «автоматически адаптируется» к гладкости сигнала.

Если дисперсия <г неизвестна, но её также необходимо оценивать. При этом порог TSure выбирается но следующему критерию:

'TgljRE

í"G[0,ruJ

Теорема 2. Пусть функция /'задана на [О, I] и равномерно регулярна с показателем регулярности а > А. Пусть дис-

2

Персия шума оценивается по ВК на последнем уровне разложения (j - J — I) с помощью оценки ö2. Пусть выбран порог f = á<j2 In N , применяется мягкая или жёсткая пороговая обработка и N —» со. Если использована оценка ó1 на основе S1, то:

K

u-y¡2Ñ

jV(0,1).

ív

Если использована оценка сг па основе интерквартиль-ного размаха или медианного абсолютного отклонения (МАО), то:

У

Д,У

N

О,

3. Обработка рефлектограм м

Далее производится анализ рефлектограммы с использованием описанного выше математического аппарата и с применением качественных методик анализа. К качественным критериям относится анализ формы сигнала, при этом необходимо удалить шум из рефлектограм мы для упрощения такого анализа. Наибольшая эффективность при удалении шума из рефлектограм мы достигается с применением вейвлет-разложения и пороговой обработки ВК. Вей влет-анализ имеет высокую производительность, за счёт сверхбыстрых алгоритмов прямого и обратного ДВП на основе вейвлетов с компактным носителем, так как требуемое число операций для их выполнения пропорционально числу отсчётов сигнала. При этом можно оценить риск при удаления шума. Таким образом, необходимо решить следующие задачи:

— удалить шум из рефлекторам мы с помощью пороговой обработки с универсальным порогом коэффициентов ДВП, вычислить оценки риска пороговой обработки, провести сравнение с теоретическими значениями.

Модель шуми

На практике помимо исследуемого сигнала в канале связи также присутствует шум. Модель такого взаимодействия приведена в виде формулы (1) и состоит из неслучайной функции/и некоррелированного гауссовского шума с с нулевым средним и дисперсией а', При этом для рассматриваемой модели необходимо построить оценку функции/по наблюдениям У,. При достаточно большом N можно принять следующую модель шума:

1 V (

¿г,

где N0 - спектральная плотность мощности шума.

Удаление шума т рефлектограммы

Для удаления шума из рефлектограммы применим ДВП и мягкую пороговую обработку с универсальным порогом. Предполагается, что рефлектограмма получена с условием модели (]).

На рисунке 2 (а) изображен фрагмент реальной рефлектограммы, шум из которой был предварительно удалён. Число отсчётов равно 2" = 2048. Будем считать этот сигнал чистой рефлектограммы. К чистой рефлектограмме была добавлен смоделированный гауссовский шум с дисперсией (Г — 0.52 — 0,25, результат изображен на рисунке 2 (б). Будем считать этот сигнал зашумленной рефлектограммы. Затем было вычислено ДВП зашумленной рефлектограммы, в качестве вейвлета использовался вейвлет Добеши с 9 нулевыми моментами. К ВК была применена мягкая пороговая обработка с универсальным порогом Т = сту/21п Л' - Дисперсия шума оценивалась по коэффициентам разложения на самом мелком масштабе. Затем по полученным коэффициентам

было вычислено обратное ДВП. Результат приведен на рис. 2 (в), дисперсия шума оценивалась с помощью МАО.

При этом оценка дисперсии шума с помощью дает значение 0,504: = 0,254, а с помощью МАО - значение 0,526: = 0,277. Т. е. оценка на основе в этом конкретном примере даёт более точное значение дисперсии. Однако на практике предпочтение отдается именно оценке па основе МАО из-за её нечувствительность к различным отклонениям и неоднородностям в выборке.

Рис, 2. Исходная рефлектограмма

Произведем оценку риска пороговой обработки. Д]я того, чтобы вычислить теоретический риск, выражение (2) необходимо преобразовать к более удобному виду:

Л, (/,7> =

м

= ¿{Е(Я,21(|*,| < Т))+Е(а,~Х1+Т)ЦХ1 > Т)+

/=1

М (-1

После интегрирования по частям и приведения подобных членов получаем:

ы

В результате, для чистой рефлекгограммы и заданной дисперсии шума риск равен - 3,43  1(г.

Оценка риска при использовании оценки дисперсии шума с помощью МАО даёт значение - 3,46' 103. Это значение отличается от Л,у примерно на 1 %, При этом;

_£_в _2 32

сг:72ДГ

По теореме 2 это отношение асимптотически нормально с нулевым средним и дисперсией ~ 1,36. Полученное значение отклоняется от нуля несколько сильнее, чем это характерно для предельного распределения, в связи с тем, что оценка с помощью МАО заметно недооценивает а. Если использовать в качестве оценки дисперсии шума 5", то = -

3,44 10\и

—щ. -0,62

о-2 72N

По теоремам I и 2 данное отношение асимптотически нормально с нулевым средним и дисперсией, равной 1. Отклонения значений - 0,62 от нуля вполне соответствует свойствам предельного распределения.

Стоит отметить, что доля коэффициентов, превышающих порог, составляет около 10% от общего числа коэффициентов. Таким образом, пороговая обработка позволяет попутно решать задачу сжатия сигнала.

Заключение

Разложение в ряды Фурье стохастического сигнала, его дальнейший анатиз в частотной области, а также последующее точное восстановление после преобразования, имеет ряд следующих недостатков:

- базисные функции преобразования Фурье определены на бесконечности, что позволяет отображать только глобальные сведения о частотах исследуемого сигнала, и не даёт представления о локальных свойствах сигнала при быстрых временных изменениях его спектра;

- сигналы со скачками имеют небольшие изменения частотного образа - растягиваются по всей частотной оси, поэтому их невозможно обнаружить и анализировать по спектрам.

Указанные недостатки возможно устранить, используя для анализа и обработки сигнала теорию вей влет-преобразования.

Совместное применение вейвлет-разложения и теории пороговой обработки сигнала с оценкой риска, позволяет эффективно удалить шум из сигнала, при этом с возможностью сжатия сигнала. Результаты оценки риска пороговой обработки показывают, что восстановленный сигнал соответствует исходному сигналу с точностью до 1 -5%, что является главным критерием при качественном анализе сигналов.

Литература

1. A. Grossmann, J. Morlet. Decompression of Hardy Functions into Square Integrable Wavelets of Constant Shape. - S1AM J. Matli. Anal., vol. 15 (1984), pp. 723-736.

2. J. Morlet. Sampling Theory and Wave Propagation in NATO ASI Series. — Issues in Acoustic signal / Image processing and recognition. Vol. 1. Berlin, 1483, pp. 233-261.

3. J. Morlet et al. Wave Propagation and Sampling Theory // J. Morlet, G. Arens, I. Fourgeau, D. Giard. - Geophysics, vol. 47 (1982). pp. 203-236.

4. Шитов А. Б. Разработка численных методов и программ, связанных с применением вей влет-анализа для моделирования и обработки экспериментальных данных: диссертация на соискание учёной степени кандидата физико-математических наук; 05.13.18. -Иваново, 2001.- 125 с. - РГ Б ОД 61 02-1/465-6.

5. Захарова ТВ.. Шее таков О. В. Вей влет-анализ и его приложения; учебное пособие. - М.: Издательский отдел факультета ВМиК МГУ им. М.В. Ломоносова. 2009, - 152 с.

6. И. Добеиш. Десять лекций по вейвлегам. - Ижевск, НИЦ «Регулярная и хаотическая динамика», 2001. — 464 с.

7. Mallat S. A wavelet tour of signal processing. Second Edition. Academic Press, 1999. -851 p.

8. Шестаков О.В. Вероятностно-статистические методы анализа и обработки сигналов при обращении интегральных преобразований радоиовского типа: диссертация на соискание ученой степени доктора физико-математических паук: 01,01.05. - Москва. 2012. - 234 с.

9. Anioniadis A.. Bigot J.. Sapaiinas Т. Wavelet estimators in шп-parametric regression: A comparative simulation study // J. Slat. Softw,, 2001. Vol. 6. No. 6. pp. 1-83.

10. Hardie W. Applied Nonparametric Regression. - Cambridge: Cambridge University Press, 1992. - 434 p,

11. Breiman L.. Peters S. Comparing automatic smoothers (a public service enterprise)// Int. Statist. Rev., 1992. Vol. 60. pp. 271-290.

12. Friedman J.H. Multivariate Adaptive Regression Splines// Ann. Statist., 1991. Vol. 19. No. I. pp. 1-67.

13. Terrell G.R.. Scott D.W. Variable Kernel Density Estimation // Ann. Statist., 1992. Vol. 20. No. 3. pp. 1236-1265.

14 Donoho D.L. De-noising by soft-thresholding // IEEE transactions on information theory. - 1995, - Vol. 41, no, 3, - pp. 613^627.

15, Donoho D.L. Johnstone l.M. Neo-classical minimax problems, thresholding and adaptive function estimation // Bernoulli. - 1996. -Vol.2, no. l.-pp. 39-62.

Using wavelet analysis to assess the quality of reflectogram Manonina Irina, MTUCI, assistant of the Department MS and MIC, ivm@mtuci.ru

Abstract

There are a number of qualitative and quantitative methods of reflectograms analysis, leading to conclusions about the state of link. Qualitative criteria include waveform analysis, this raises the problem of removing noise waveform to improve the accuracy of this analysis. This problem can be effectively solved using wavelet decomposition and thresholding wavelet coefficients. One of the main advantages of wavelet technology is high speed. It is necessary to assess risk in the noise removal. Quantitative criteria trace analysis relates its spectral analysis. The problem arises dropout spurious pulses are not damaged lines in the spectral analysis of reflectogram. On the chart reflectogram these impulses may look like sharp jumps up or down. Furthermore, spectral analysis of the Fourier transform must be adapted for the case of non-uniform sampling. This article focuses on the qualitative methods of reflectogram analysis. The main tasks are solved: remove noise from the reflectogram using thresholding with the universal threshold coefficients of discrete wavelet transform; calculation of the risk assessment threshold processing and comparing with the theoretical values. Tasks are solved using the theory of wavelet analysis and threshold processing, as well as based on risk assessment thresholding. In addition to the problem of noise removal, thresholding allows to solve the problem of signal compression.

Keywords: risk assessment, noise, reflectogram, wavelet transform, thresholding.

Refereces

4. ChitovA.B. Development of numerical methods and programs related to the use of wavelet analysis for the simulation and experimental data processing: a thesis for the scientific degree of the candidate of physical and mathematical sciences: 05.13.18. Ivanovo, 2001. 125 p. RSL OD, 61 02-1 / 465-6.

5. Zakharova T.V., ShestakovO.VWavelet analysis and its applications: a tutorial. Moscow: Publishing Department of the Faculty of Computational Mathematics and Cybernetics, Moscow State University. MV University, 2009. 152 p.

6. I. Daubechies. Ten lectures on wavelets. Izhevsk, SIC "Regular and Chaotic Dynamics", 2001. 464 p.

7. Mallat S. A wavelet tour of signal processing, Second Edition. Academic Press, 1999. 851 p.

8. ShestakovO.V'. Probabilistic and statistical methods of analysis and signal processing for handling integral transforms of Radon type: dissertation for the degree of doctor of physical and mathematical sciences: 01.01.05. Moscow, 2012. 234 p.

Chromatic dispersion in single-mode optical fiber and its limitations when chirping Portnov E.L., NTS MTUCI department head, Marinosyan E.H., postgraduate MTUCI

Abstract

By increasing the transmission rate and the length of the regeneration or amplifying portion are two important parameters that limit length: signal attenuation and dispersion. Digital transmission systems are also characterized by bit error rate (CCD). Although CCD = 10-9 corresponds to an average of one bit error per billion bits, most systems operate on the CCD 10-12 - 10-15. The product of the bit rate of the signal delay time should be less than unity. The delay time depends on many factors, but it should be less than the bit period, with loss chromatic dispersion must not exceed values at which the bit error ratio must not be greater than 10-9. Proposed solutions broadening bit interval calculation based on the requirements allow for losses on chromatic dispersion to solve the problem by selecting the baud rate and the length of the portion of the regeneration when using chirp.

Keywords: chromatic dispersion, bit error rate, bit rate, loss chromatic dispersion widenng pulse chirped pulse.

References

1. D. Agrawal. Nonlinear fiber optics. Moscow: Mir, 1996, 323 p.

2. J. Gower. Optical communications systems. Moscow: Radio i svyaz, 1989, 502 p.

3. D. Marcuse. RMS Width of Pulses in Nonlinear Dispersive Fibers. Journal of Lightwave Technology. Vol.10. No1. January 1992, pp. 17-22.

4. LisMn A.V., Listvin V.N., ShvyrkovD.V. Optical fiber communication lines. Moscow: VELKO, 2003.

5. Gordienko V.N., KrukhmalevW, MochenovA.D., Sharafutdinov R.M. Optical telecommunication systems. Moscow: "Hot Line Telecom." 2011, 368 p.

6. Portnov E.L. The principles of construction of primary networks and optical cable lines. Moscow: "Hot Line Telecom." 2009, 544 p.