Оптимизация параметров линейного сглаживания хроматографических пиков

ISSN 0868-5886

НАУЧНОЕ ПРИБОРОСТРОЕНИЕ, 2019, том 29, № 3, c. 51-62

МАТЕМАТИЧЕСКИЕ МЕТОДЫ И МОДЕЛИРОВАНИЕ В ПРИБОРОСТРОЕНИИ

УДК 519.222, 543.08, 543.54 © Ю. А. Каламбет, 2019

ОПТИМИЗАЦИЯ ПАРАМЕТРОВ ЛИНЕИНОГО СГЛАЖИВАНИЯ ХРОМАТОГРАФИЧЕСКИХ ПИКОВ

В настоящей работе представлен анализ погрешностей интегрирования хроматографических пиков в случае применения линейных методов сглаживания сигнала с неотрицательными весами в случае аддитивного некоррелированного шума. Показано, что существует оптимальный линейный фильтр, при котором минимизируется относительная погрешность высоты и площади пика. В случае гауссова пика и гауссова фильтра оптимальные результаты сглаживания получаются в случае, когда ширина гауссианы фильтра равна ширине гауссианы исходного пика вне зависимости от величины шума.

Кл. сл.: сглаживание, фильтрация шумов, оптимальный фильтр, линейный фильтр

ВВЕДЕНИЕ

Каждое измерение — это сумма исходного сигнала, случайных шумов и систематических погрешностей измерения. Шумы возникают в электронных системах регистрации при изменении условий окружающей среды и т.д. Основная задача при сглаживании цифрового сигнала — максимально точная оценка исходного сигнала или его параметров на основании массива измеренных данных. В этой работе изучается влияние линейных методов сглаживания на базовые метрологические параметры пика — его площадь и высоту. Эти параметры используются для оценки количества вещества, и минимизация их погрешности способна уменьшить погрешность оценки.

ТЕОРИЯ

О линейном сглаживании

Все методы, основанные на скользящем взвешенном среднем, называются линейными методами сглаживания. Это название происходит от математического термина "линейное преобразование" (в одномерном случае означающего примерно то же, что и "взвешенное среднее"), а не от аппроксимации функции прямолинейной зависимостью. Более строго — линейным является метод, для которого результат операции сглаживания S(a + п) суммы сигнала а и шума п совпадает с суммой результатов сглаживания сигнала и шума по отдельности S(a + п) = S(a) + S(n), а также для любого действительного k выполняется равенство S(k • а) = k • S(a).

Не соответствующие этим условиям методы

называются нелинейными, и в данной работе их поведение исследоваться не будет.

Свертка функций и скользящее среднее

Скользящее взвешенное среднее имеет непосредственное отношение к операции над математическими функциями, называемой сверткой. Именно, сверткой двух функций, Дх) и g(x) называ-

ется

со

функция (/ * £)(х)= | /(у)g(х - у^у.

Дискретный аналог свертки — скользящее взвешенное среднее, в котором интегрирование

п

превращается в суммирование Yk = ^ wiyk _,

i=-n

где прописной буквой Yk обозначено сглаженное значение в точке с индексом к, wi — вес точки с индексом (к - г), ук_ i — несглаженное ("сырое") значение сигнала. Размер окна сглаживания N в таких обозначениях равен N = 2п + 1.

Математические моменты пиков и их изменения при сглаживании

Математические моменты пика определяются выражениями:

M0 =| P(x)dx,

—да

1 f

M1 =-Г xP(x)dx,

мп J v 7

М = -

И 0

|( х - И 1)'Р ( х ) ах,

где Р(х) — функция от аргумента х, описывающая пик, i — порядок момента. Моменты порядка два и более называются центральными, поскольку начало координат оси х для этих моментов сдвинуто в центр масс распределения, равный И1.

МО — площадь. Нулевой момент свертки равен произведению нулевых моментов функций

И0(/' * £) = М0(/) • И0^).

Для того чтобы не изменилась площадь сглаживаемого пика, на веса налагаются ограничения. Именно, площадь не изменяется, если сумма весов взвешенного среднего равна единице.

М1 — время удерживания (центр масс) свертки равен сумме первых моментов функций

И1(/ * g) = И1(/) + И1(£).

Для того чтобы первый момент не изменялся, нужно, чтобы сглаживание производилось таким окном, первый момент которого равен нулю. Проще всего это достигается симметричной формой щели: w_i = wi. Для того чтобы сглаживание не приводило к изменению сетки оцифровки, обычно используют окна с нечетным числом точек, как приведено в наших обозначениях. Симметричное окно с четным числом точек будет соответствовать сдвигу сетки оцифровки на половину отсчета.

В хроматографии удерживание обычно измеряется по положению вершины пика. Еще два метода оценки удерживания — положение "центра масс" М1 и время выхода половины площади — обычно не используются.

М2 — второй центральный момент. Величина о = И212 называется стандартным отклонением. Второй момент свертки равен сумме вторых моментов функций:

И2(/ * ^ = И2(/) + И2^).

Другое название второго центрального момента — дисперсия. Тем не менее мы в данной работе для простоты понимания текста будем стараться называть дисперсией величины, относящиеся к оси ординат (шумы), а величины, относящиеся к протяженности пика по оси абсцисс, будем называть вторым моментом, подразумевая, что он центральный.

Свертка сглаживающей функции с неотрицательными коэффициентами с пиком приводит к увеличению второго момента сглаженного пика, причем он равен сумме вторых моментов исходного пика и сглаживающей функции. Доказательство этого факта можно найти в теории вероятностей:

неотрицательные пик и сглаживающую функцию можно рассматривать как плотность распределения двух независимых случайных величин, а для них вторые моменты (дисперсии) складываются.

Экспоненциально модифицированная гауссиана

Является результатом свертки гауссианы и экспоненты. Форма пика, хорошо описывающая хро-матографические пики, может возникать как из-за применения для фильтрации шумов RC-цепочки или экспоненциального цифрового фильтра, так и по причинам, не имеющим отношения к электронике или сглаживанию. Такая форма, к примеру, получится, если после идеальной хроматографи-ческой колонки, дающей гауссову форму пика, поставить камеру смешения, моделирующую неидеальность колонки. Обычно в литературе формула ЭМГ [1-3] записывается как

- С )=

(

ег&

1

72

+ а

а т

Л

,

где t — время, к — высота гауссианы, о — сигма гауссианы, ¡л — позиция гауссианы, т — время релаксации (параметр экспоненты, используемый для модификации гауссианы),

2 г -2

егРс(г) = 1 - erf(erf(г) = ^=1 в1 dt.

4п О

Момент ЭМГ нулевого порядка равен площади исходной гауссианы, И1 = ¡л + т, М2 = о2 + т2.

Методы сглаживания

Наиболее популярные варианты фильтров, основанных на скользящем взвешенном среднем, — скользящее среднее арифметическое, метод Са-вицкого—Голея, сглаживание гауссианой [4]. Пример распределения весов для этих методов приведен на рис. 1. Немного подробнее о каждом из методов.

Скользящее среднее арифметическое

Это — один из самых быстрых методов сглаживания. Число операций пропорционально числу точек сглаживаемого массива данных. Сглаженное значение — сумма, деленная на число точек.

Метод Савицкого—Голея

Савицкий и Голей (Голай) [4] предложили способ фильтрации шумов, основанный на методе наименьших квадратов (МНК), который, несмотря на сложность модели, имеет очень низкую вычислительную сложность. Согласно этому методу, 2п + 1 последовательных равноотстоящих точек

1

ц— а

——+—

т 2т

Скользящее среднее —>ф— Метод Савицкого—Галея

Сглаживание гауссианой

Рис. 1. Веса точек скользящего взвешенного среднего для нескольких популярных вариантов сглаживания

аппроксимируются МНК полиномом 2к-й степени (к < п), и в качестве сглаженного значения используется значение полинома в (п + 1)-й точке. Оказалось, что математически это значение вычисляется путем скользящего взвешенного среднего с весами точек, положительными в центре окна фильтрации и отрицательными на периферии (рис. 1). Результаты фильтрации по Савицкому—Голею совпадают для полиномов степени 2к и 2к + 1. К примеру, скользящее среднее и аппроксимация прямой (соответствующие аппроксимации Савицкого—Голея 0-й и 1-й степеней) в качестве ответа дадут среднее значение сигнала: прямая всегда проходит через центр масс, равный среднему арифметическому, который и выдается в качестве сглаженного значения аппроксимации прямой.

Экспоненциально взвешенное скользящее среднее

Также чрезвычайно быстрый метод сглаживания. Отфильтрованное значение складывается из взвешенной суммы последнего измеренного значения и предыдущего сглаженного:

Yг = ауг + (1 - а)Тм.

При независящем от времени постоянном коэффициенте 0 < а < 1 этот метод носит также название экспоненциального сглаживания. Применяющие этот метод обычно не осознают, что из-за того что первый момент сглаживающей функции не равен нулю, экспоненциально взвешенное среднее дает оценку для некоторого индекса (момента) j в прошлом: ] = i + 1 - 1/а, а также то, что такое сглаживание приводит к возрастанию асимметрии сглаживаемого сигнала, в частности гаус-сиана превращается в ЭМГ.

Многократное сглаживание и сглаживание гауссианой

В случае многократного сглаживания скользящим взвешенным средним отметим интересный эффект, следующий из центральной предельной теоремы теории вероятностей [5]. Если веса скользящего взвешенного среднего неотрицательны и их распределение имеет второй момент, равный М2, то вне зависимости от метода сглаживания по мере роста числа N повторений результат будет приближаться к однократному сглаживанию скользящим взвешенным средним с весами, распределенными по закону Гаусса, и вторым моментом N•M2.

В любом случае, сочетание нескольких проходов взвешенным средним с разным распределением весов будет эквивалентно одному проходу с весами, которые легко вычисляются по весам использованных фильтров. Достаточно сначала выполнить свертку по фильтрам, получив комбинированный, которым затем и выполнять сглаживание функции. Сочетание разных способов сглаживания может иметь смысл, если принципы их работы различны: например сочетание медианного сглаживания и взвешенного среднего при наличии выбросов в исходных данных.

Безусловно, на практике веса гауссианы ограничиваются по величине для того, чтобы сократить размер окна. К примеру, в программе "Муль-тиХром" [6] используются такие параметры гаус-сианы, что вклад каждой из граничных точек окна составляет 10% от вклада центральной точки и точка находится на расстоянии 2.15с от положения вершины.

Медианное сглаживание

В этом методе рассчитывают медианное среднее по 2п + 1 точкам, и оно считается сглаженным значением в центральной (п + 1) точке. Напомним, что медианное среднее находится в середине окна/интервала на (п+1)-й позиции (начиная с 1-й) в отсортированном массиве данных. Порядок — по возрастанию или убыванию — роли не играет, поскольку средний элемент в обоих случаях будет один и тот же. Этот метод очень эффективно уби-

рает выбросы в данных (или, что то же самое, чрезвычайно устойчив), но меняет (уменьшает) площадь и высоту пика и не является линейным.

Фильтр Калмана

Это on-line фильтр [7], т.е. он ориентирован на фильтрацию значения в последней (по времени) из измеренных точек и использует при формировании нового значения предыдущий результат фильтрации (последнее свойство называется ре-курсивностью). В простейшей реализации — это экспоненциально взвешенное среднее. В общем случае фильтр строит некую самонастраивающуюся модель смены состояний системы и на ее основании производит сглаживание. Фильтр Кал-мана несимметричный, т.е. использует только точки, измеренные ранее анализируемой, игнорируя более поздние. Этот факт можно рассматривать как достоинство (оперативное on-line сглаживание), а можно и как недостаток (используется только половина информации, доступной для оценки сглаженного значения). Фильтр может быть линейным или чаще нелинейным. Свойства фильтра в силу его сложности могут быть переменными на разных участках массива данных.

Коэффициент подавления случайной составляющей погрешности

Коэффициент подавления случайной составляющей погрешности для взвешенного среднего легко вычисляется [8], если учесть тот факт, что сглаженное значение является линейной комбинацией соседних значений, а величина погрешности в суммируемых точках случайна и имеет одинаковую дисперсию. Шумоподавление в точке, вычисленной как взвешенное среднее, равно

Kf = aN2 / D[Y] = 1 / £w,2,

где D[Y] — дисперсия сглаженного значения Yt. Обратим внимание, что этот коэффициент шумоподавления относится к подавлению мощности шума. Амплитуда шума при этом уменьшается в VKf раз.

Нам потребуется зависимость коэффициента подавления погрешности от размера окна сглаживания Nf. Проще всего посчитать эту зависимость для скользящего среднего с одинаковыми весами:

D[Y] = on1 /Nf и Kf= Nf.

Величина второго момента фильтра приблизительно пропорциональна квадрату размера окна, а стандартное отклонение — размеру. К примеру, второй центральный момент прямоугольной щели скользящего среднего равенM2[f = (Nf - 1) / 12.

В случае фильтра Савицкого—Голея [4] часть

весов отрицательна (рис. 1), причем второй момент сглаживающего фильтра для полиномов 2-й и 3-й степеней в точности равен нулю [8]. Второй момент сглаженного фильтром Савицкого—Голея пика не увеличивается, однако платой за это является появление других систематических искажений его формы, которые мы увидим ниже. Выводы настоящей работы к фильтру Савицкого—Голея и любым другим фильтрам, у которых имеются отрицательные коэффициенты, не относятся.

Как и ожидалось, дисперсия случайной составляющей погрешности скользящего среднего уменьшается в N раз, а стандартное отклонение — в VN раз. Такая же зависимость с точностью до коэффициента характерна для других вариантов распределения весов: сглаживание гауссианой, метод Савицкого—Голея. Указанную закономерность при больших N можно описать формулой как , где k — коэффициент пропорцио-

нальности, а И2f — второй момент фильтра.

Оптимальные параметры сглаживания

Прежде чем что-то оптимизировать, нужно понять, что именно и по каким критериям. Часто используемых параметров пика немного, и их можно разделить на две группы: базовые, используемые для идентификации и расчета количества вещества, и валидационные. Базовых параметров три: удерживание, площадь и высота. Из двух параметров — площадь и высота — обычно используется один. Важных валидационных тоже три: ширина, асимметрия и разрешение между пиками. Мы сознательно не приводим формул расчета валидаци-онных параметров, поскольку их обсуждение не входит в нашу задачу. Если не оговорено особо, пользуемся формулами фармакопеи РФ [9].

Обратим внимание на минимально допустимый темп сбора данных, гарантирующий незначимость погрешностей, связанных с темпом оцифровки. Индивидуальные данные по параметрам приведены в таблице.

Замечания по данным, представленным в таблице

• Ширина пика по основанию вычисляется как расстояние по оси абсцисс между точками пересечения базовой линии касательными, проведенными в точках перегиба на переднем и заднем склонах пика. Для пика гауссовой формы эта величина равна 4о.

• Цифры в таблице относятся к пикам ЭМГ с отношением т/о = 3 (фактор асимметрии 2.7), т.е. к "худшему приемлемому по форме" хрома-тографическому пику.

Минимальная ширина пика по основанию в точках, обеспечивающая приемлемую погрешность вычисления в зависимости от способа оценки параметра

Параметр По моментам По аппроксимации

Удерживание 3 7

Площадь 5 9

Высота — 14

Ширина 5 14

Асимметрия 5 14

160000

20000

Рис. 2. Базовая линия проведена по фиксированным граничным точкам пика. Сплошной линией обозначена область трапеции под базовой линией. Пунктир обозначает область эквивалентного по площади прямоугольника. В1 — ордината точки начала пика, В2 — конца пика. N — число точек, приходящихся на пик

• Оценки выполнены для пиков без шума.

• Аппроксимация предполагается полиномиальной, в этом случае площадь вычисляется по методу Симпсона.

• Моменты вычисляются по методу трапеций.

• Высота не может быть вычислена по моментам пика.

• Величины в столбце "По моментам" вычислены по данным работы [10], оценки аппроксимации высоты, ширины и асимметрии — согласно рекомендациям из работы [11], и согласуются с нашими собственными оценками погрешностей параметров [12] при их вычислении с помощью полиномиальной аппроксимации окрестностей целевой точки.

• Погрешности параметров соответствуют потребностям валидационных методик, к примеру для площади это 0.1 %. Обратим особое внимание

на то, что оценка параметров пика на основании моментов имеет преимущество в случае узких пиков [10].

Оценка погрешности площади наиболее актуальна для малых пиков, вблизи пределов обнаружения и определения — для таких случаев сглаживание может дать максимальный эффект. Поскольку сигнал в этом случае небольшой, то погрешность измерения в области пика можно считать близкой к погрешности измерения сигнала в области базовой линии, т.е. модель погрешности можно считать гомоскедастичной (погрешности всех измерений одинаковы). Пусть погрешности измерения некоррелированы, имеют нормальное распределение с дисперсией ам2. Предположим, что алгоритм поиска пиков находит точки начала и конца пика по "идеальной" хроматограмме без шума. Базовая линия моделируется прямой, со-

единяющей точки начала и конца пика. Площадь пика считается по правилу прямоугольников — для пиков такой способ является лучшим [10, 13, 14], поскольку характеризуется аномально низкой погрешностью интегрирования в случае узких пиков. Такая модель (рис. 2) не в полной мере отражает действительность, в реальности алгоритмы проведения базовой линии могут искать минимальную точку в определенной окрестности. Тем не менее для грубых оценок погрешностей интегрирования модель предопределенных границ удобна. Площадь вычисляется как

а = и(ш - (У+К(У, - Уг) / т=

= МХУ) - hN

где h — шаг оцифровки по абсциссе (постоянная времени), У, — отклик детектора в точке с индексом ,, N — общее число измерений, приходящихся на пик. Считаем, что индекс первой точки пика равен единице. Тем самым площадь вычисляется как разница двух величин: уменьшаемое — сумма ординат точек внутри области пика, а вычитаемое — площадь под базовой линией, которая может быть вычислена как произведение полусуммы ординат точек начала и конца базовой линии. Введем обозначения У1 = В1, Ум = В2 и для простоты выражений положим h = 1, тогда

Аь = N^1 + В2) / 2.

Дисперсия погрешности измерения площади равна сумме дисперсий погрешностей уменьшаемого и вычитаемого:

D[A] = D[AN] + D[Ab].

Дисперсия площади, связанная с погрешностями вычисленной суммы откликов, может быть оценена через погрешности отдельных измерений:

D[AN] = ХРМ = о^^.

Большинство методов сглаживания сохраняют величину А^т неизменной. Эту часть погрешности можно оценить, но нельзя уменьшить линейными методами фильтрации шумов. Причиной этого является тот факт, что величина нулевого момента М0 зависит только от исходных данных и остается почти неизменной при применении любого варианта взвешенного среднего.

Дисперсию площади под базовой линией (вычитаемое формулы (6) в отсутствие сглаживания можно оценить как

D[Ab] = Ш2^2 /2.

ной погрешности при N > 20 дисперсией площади D[AN] по сравнению с величиной ^[Аь] можно пренебречь.

При применении линейной процедуры сглаживания одновременно увеличивается число точек N, относящихся к области пика, с N0 до N, т.е. растет ширина пика и уменьшается погрешность оценки начальной и конечной точек базовой линии. Попытаемся найти минимум абсолютной погрешности площади трапеции (формула 7), соответствующей базовой линии. Для гауссового пика и га-уссового фильтра число точек, относящихся к пику, растет пропорционально квадратному корню из суммы вторых моментов исходного пика М2Р и щели сглаживания М2/

N = N0•

а погрешность сомножителя

Введем переменную 5 = М2//2, обозначающую стандартное отклонение сглаживающей функции. Дисперсия площади под базовой линией Аь равна

D[Ab] = N^[(51 + В2) / 2] =

= N02V•(1 + М2/ М2Р) / К=

: No2•ON2•(1 + 52 / М2Р) / (2Ь) -- ^•оы^ + 5 / М2Р) / 2к.

Минимум этой функции по 5 достигается в точке, в которой производная выражения в скобке равна нулю

d (1 / 5 + 5 / М2р) / d5 = 0,

-1/52 + 1 / М2Р = 0, 52 = М2Р

Обратим внимание, что дисперсия суммы точек пропорциональна ширине пика, а дисперсия площади под базовой линией Аь — квадрату ширины, их отношение — N / 2. При оценке суммар-

или, другими словами, в точке минимума второй момент фильтра равен второму моменту сглаживающей функции. Таким образом, поскольку 52 = M2f — это второй момент фильтра, минимальная погрешность площади под базовой линией достигается при равенстве вторых моментов пика и фильтра или, другими словами, при одинаковой их ширине. В случае площади положение минимума абсолютной и относительной погрешностей совпадают в силу неизменности площади пика при сглаживании.

Погрешность высоты пика

При сглаживании пика линейным фильтром с положительными весами его высота получает систематическую ошибку — она уменьшается. Если как сам пик, так и сглаживающая функция имеют форму гауссианы, то в силу неизменности площади гауссианы при сглаживании высота изменяется как h ~ ¿0 (М2Р / М2)112.

Даже при наличии систематического искажения высоты пика ее можно использовать для расчета количества вещества, если алгоритм сглаживания идентичен при градуировке и анализе. Оценка абсолютной погрешности высоты на сглаженной хроматограмме складывается из погрешностей базовой линии и погрешности определения отклика вблизи вершины. Относительная погрешность высоты сглаженного пика оценивается выражением

D(7i / к) ~ D(7г / (ко (М2р/М2)1/2) -

~ 1.5оу2 / (Кг ho2•(M2p / М2)) =

= 1.5 ^2 йо-2

содержащим тот же сомножитель, что и площадь (уравнение 13): (1 + М2р/ М2р) / Кр Положение минимума и аналогично случаю площади оптимальный фильтр оказывается таким, для которого второй момент фильтра равен второму моменту сглаживающей функции.

Рис. 3. Зависимость относительной случайной погрешности площади и высоты при сглаживании гауссианы гауссовым фильтром от сопутствующего сглаживанию уширения пика

МОДЕЛИРОВАНИЕ СИГНАЛА

В качестве объекта моделирования мы выбрали отдельный пик гауссовой формы. Стандартное отклонение гауссианы, описывающей пик, равно ар = 4.0 единиц оси абсцисс, высота пика Н = 105 единиц оси ординат. Ширина пика по основанию составляет для гауссианы 4ар = 16, что, в соответствии с данными вышеприведенной таблицы, допускает использование аппроксимационных методов оценки высоты пика. Для получения статистически значимых результатов смоделирована двух-канальная хроматограмма с одной тысячей таких пиков на каждом канале, расстояние между пиками равно 100.001 единиц оси абсцисс. К одному из каналов добавлен нормальный некоррелированный шум с а^ = 3333 единиц оси ординат, что по формальным критериям [9] соответствует отношению сигнал/шум s/n =10. Обратим внимание на принципиальную разницу между стандартными отклонениями пика ар и шума а^. Стандартное отклонение пика ар = М212 характеризует его протяженность по оси абсцисс, а стандартное отклонение шума относится к оси ординат. Разметка хро-матограммы на пики производилась по каналу без шума, в область пика входили все точки, отклик в которых был отличен от нуля. Индексы точек границы пиков считались одинаковыми для двух каналов, базовая линия индивидуальна для каждого канала и для канала с наложенным шумом проведена, как показано на рис. 2. Расчет площадей и высот производился по каналу с шумом. Обработка данных производилась в программе "Муль-тиХром" [6].

РЕЗУЛЬТАТЫ И обсуждение

На рис. 3 отображена зависимость случайной составляющей относительной погрешности площади и высоты пика, вычисленная по модельной хроматограмме с тысячей пиков, от его уширения. Как и ожидалось, графики имеют форму с характерным минимумом, ширина минимума больше для площади, чем для высоты. Точка "2 - 1.4 в обоих случаях находится в области минимума. Данный график демонстрирует как эффект минимизации погрешности площади и высоты пика, так и побочный эффект такой оптимизации — ушире-ние пика. Из рис. 3 следует, что применение окон фильтра более широких, чем сам пик, не имеет смысла, поскольку погрешность оценок площади и высоты существенно не улучшается, а ширина сглаженного пика растет (и высота соответственно падает). Погрешность высоты пика оказывается ниже ожидаемой по статистическим оценкам, поскольку в программе "МультиХром" при оценке высоты производится аппроксимация вершины параболой с параметрами, зависящими от ширины конкретного пика, что уменьшает суммарную погрешность оценки высоты. На выводы данной работы это влияния не оказывает, поскольку погрешность оценки положения базовой линии остается неизменной.

Появление оптимума параметров фильтра было отмечено в книге [15], правда, в ней не приводилось анализа причин появления этого оптимума и параметров фильтра, при котором оптимум достигается.

Площадь и высота модельного гауссова пика

может быть измерена с низкой относительной погрешностью, но при этом высота оказывается в ^2 раз ниже исходной, ширина растет во столько же раз. Разрешение между пиками падает так же, как растет их ширина — в ^2 раз.

Если форма пика описывается ЭМГ, то после сглаживания гауссовым фильтром пик остается экспоненциально модифицированной гауссианой с неизменным параметром т и изменившейся шириной гауссианы, коэффициент асимметрии при этом падает, т.е. пик становится более симметричным. Несимметричные нецентрированные фильтры, такие как экспоненциально взвешенное скользящее среднее, применять нежелательно, поскольку помимо уширения и сдвига положения первого момента они искажают симметрию пика, преобразуя, к примеру, симметричный гауссов пик в несимметричную экспоненциально модифицированную гауссиану.

Таким образом, в случае фильтрации шума симметричным линейным фильтром с неотрицательными коэффициентами платой за улучшение воспроизводимости базовых параметров пика является изменение всех валидационных параметров. В некоторых случаях такой подход может быть оправдан и весьма полезен, особенно в случаях хорошего разрешения между пиками, например в капиллярном электрофорезе.

Напомним, что в случае линейных фильтров сигнал и шум можно фильтровать независимо друг от друга, результат фильтрации сигнала даст систематическую составляющую погрешности, а шума — случайную. Посмотрим на результат приме-

нения фильтров к сигналу без шума, отражающий систематическую погрешность сигнала. На рис. 4 изображены исходная гауссиана (сплошная кривая), результат применения к ней оптимального фильтра (штриховая линия) и результат применения фильтра Савицкого—Голея с таким же коэффициентом шумоподавления, как у оптимального гауссова фильтра (пунктир). Видно, что фильтр Савицкого—Голея заметно искажает исходный пик. Искажение площади оценить сложно, поскольку непонятно, каким образом ее мерить (где базу делать будем?). Если провести "истинную" базовую линию, расширив область пика за пределы провалов, в силу конструкции метода скользящего среднего площадь пика будет в точности равна площади исходной гауссианы. Высота сглаженного пика составила 65 % от исходной и появились провалы до и после пика глубиной 4.3 % высоты исходного пика. Высота даже меньше, чем у оптимально сглаженной гауссианы, где она составляет 71 % от исходной.

Сглаживание гауссианой позволяет достичь большего коэффициента шумоподавления, чем метод Савицкого—Голея, за счет более предсказуемого характера уширения пиков. Подбор оптимального окна фильтра Савицкого—Голея может быть произведен по нашей методике, разработанной для нелинейных фильтров [16]. Указанная методика позволяет выбрать максимальный размер окна, не приводящий к существенному изменению формы пика, и в этом случае в работе [16] показано, что фильтр Савицкого—Голея обеспечивает лучшее шумоподавление, чем фильтр Гаусса.

Рис. 4. Иллюстрация систематических искажений формы пика при сглаживании. Исходная гауссиана без шума (сплошная линия); гауссиана, к которой применен оптимальный фильтр Гаусса (штриховая линия); фильтр Савицкого—Голея (пунктирная линия), дающий такое же подавление случайной составляющей погрешности, как оптимальный фильтр Гаусса

Из изложенного следует, что причиной эффекта улучшения оценки площади при фильтрации шумов является более точное проведение базовой линии. Поэтому для получения минимальной погрешности площади следует уделять большее внимание фильтрации шумов не в области пика, а в области, где пиков нет, т.е. на базовой линии. В случае высоты погрешность базовой линии не столь значима, но характер зависимости погрешности от параметра фильтра оказывается таким же, как и для площади, и положение минимума относительной погрешности тоже приходится на случай одинаковых ширин пика и фильтра. Для узких пиков оценку высоты произвести затруднительно, но поскольку аппроксимационная оценка параметров проводится после сглаживания, то оказывается допустимой ширина несглаженного пика по основанию десять точек — 14, см. таблицу).

Подходы, связанные с уточнением положения базовой линии, разрабатывались нами в рамках он-лайн фильтрации шума без явного применения фильтров [17], через аппроксимацию точек начала и конца пиков. При такой аппроксимации не достигается минимальная погрешность проведения базовой линии и не уменьшается отношение сигнал/шум в соответствии с формальными критериями. Указанные недостатки преодолены в разрабатываемых нами адаптивных фильтрах, основанных на минимизации доверительного интервала аппроксимации в каждой точке обрабатываемого массива данных [16, 18]. Так, для приведенного в данной работе примера для одного из вариантов адаптивных фильтров случайная погрешность площади составляет 2.5 %, а погрешность высоты 1.9 %, т.е. погрешность площади меньше, а высоты больше, чем в случае оптимального гауссова фильтра, но при этом систематическое изменение высоты не превышает 1 %. Улучшение показателей по площади связано с тем, что коэффициент подавления шума базовой линии K' адаптивного фильтра для данного примера приблизительно в 1.9 раза выше, чем ^ оптимального сглаживания гауссианой. Относительно высокая погрешность высоты связана с тем, что шумоподавление адаптивного фильтра внутри пика ниже, чем на базовой линии, поскольку перед адаптивным фильтром стоит задача сглаживания с сохранением формы пика. Напомним также, что вычислительная сложность и требования к оперативной памяти адаптивного фильтра существенно превышают таковые для сглаживания гауссианой, поэтому возможность его применения в микропроцессорной технике вызывает сомнения.

В данной работе не ставилась задача поиска оптимального алгоритма сглаживания, поставленная задача гораздо скромнее: выяснить оптималь-

ные параметры симметричных линейных фильтров с неотрицательными коэффициентами. Оценки, подобные приведенной в данной работе, не встречались нам в литературе. Скользящее взвешенное среднее весьма популярно, требует малых вычислительных затрат, и выбор правильного размера окна фильтра гарантирует оптимальный результат, если конкретная аналитическая система обеспечивает избыточное разрешение пиков. Кроме того, при сравнении разных методов сглаживания появляется результат, на который можно ориентироваться.

ЗАКЛЮЧЕНИЕ

• Разработана модель формирования относительной погрешности высоты и площади пика.

• Показано, что погрешность оценки площади пика происходит главным образом от погрешности проведения базовой линии.

• Показано, что существуют параметры, при которых линейный фильтр с неотрицательными коэффициентами обеспечивает оптимальную относительную погрешность высоты и площади пика, причем второй момент фильтра близок ко второму моменту пика.

• Теоретические выкладки подтверждены численным моделированием сглаживания гауссова пика гауссовым фильтром.

• Проведено сравнение результатов численного моделирования с результатами альтернативных способов сглаживания.

Благодарн ости

Автор приносит свою благодарность Юрию Петровичу Козьмину и Андрею Сергеевичу Самохину за ценные советы по тексту статьи.

Данная работа не была поддержана никакими грантами

СПИСОК ЛИТЕРАТУРЫ

1. Grushka E. Characterization of Exponentially Modified Gaussian Peaks in Chromatography // Anal. Chem. 1972. Vol. 44, no. 11. P. 1733-1738. DOI: 10.1021/ac60319a011

2. Delley R. Series for the exponentially modified Gaussian peak shape // Anal. Chem.1985. Vol. 57, no. 1. P. 388388. DOI: 10.1021/ac00279a094

3. Kalambet Y.A., Kozmin Y.P., Mikhailova K.V., Na-gaevI.Y., Tikhonov P.N. Reconstruction of chromato-graphic peaks using the exponentially modified Gaussian function // J. Chemom. 2011. Vol. 25, no. 7. P. 352-356. DOI: 10.1002/cem.1343

4. Savitzky A., Golay M.J.E. Smoothing and differentiation of data by simplified least squares procedures // Anal.

Chem. 1964. Vol. 36, no. 8. P. 1627-1639. DOI: 10.1021/ac60214a047

5. Вентцель Е.С. Теория вероятностей. 6-е изд. М.: Высшая Школа, 1999. 576 с.

6. Каламбет Ю.А. Программно-аппаратный комплекс "МультиХром" // Пищевая Промышленность. 2005. № 3. С. 74-75.

7. Kalman R.E. A new approach to linear filtering and prediction problems // J. Basic Eng. 1960. Vol. 82, no. 1. P. 35-45. DOI: 10.1115/1.3662552

8. Sterlinski S. General formulas for calculation of Savitzky and Golay's filter weights and some features of these filters // Nucl. Instruments Methods. 1975. Vol. 124, no. 1. P. 285-287. DOI: 10.1016/0029-554X(75)90412-7

9. Государственная фармакопея Российской Федерации. XIII издание. Федеральная электронная медицинская библиотека, 2015. URL: http://femb.ru/feml

10. Kalambet Y.A., Kozmin Y.P., Samokhin A. Comparison of integration rules in the case of very narrow chromato-graphic peaks // Chemom. Intell. Lab. Syst. 2018. Vol. 179. P. 22-30. DOI: 10.1016/j.chemolab.2018.06.001

11. Kelly P.C., Horlick G. Practical considerations for digitizing analog signals // Anal. Chem. 1973. Vol. 45, no. 3. P. 518-527. DOI: 10.1021/ac60325a012

12. Каламбет Ю.А., Мальцев С.А., Козьмин Ю.П. "МультиХром" и метрология: 25 лет вместе // Аналитика. 2013. T. 9, № 2. C. 48-55.

13. Goodwin E.T. On the evaluation of integrals of the form J™-«, exp(-x2)f (x)dx // Math. Proc. Cambridge Philos. Soc. 1949. Vol. 45, no. 2. P. 241-245. DOI: 10.1017/S0305004100024786

14. Weideman J.A.C. Numerical integration of periodic functions: A few examples // Am. Math. Mon. 2002. Vol. 109, no. 1. P. 21-36. DOI: 10.2307/2695765

15. O'Haver T. A pragmatic introduction to signal processing

with applications in scientific measurement. 2019. URL: https://terpconnect.umd.edu/~toh/spectrum/

16. Каламбет Ю.А., Козьмин Ю.П., Самохин А.С. Фильтрация шумов. Сравнительный анализ методов // Аналитика. 2017. № 5. С. 88-101. DOI: 10.22184/2227-572X.2017.36.5.88.101

17. Каламбет Ю.А., Михайлова К.В. Оценка величины шума и ее использование при обработке хроматогра-фического сигнала. URL: http://multichrom.ru/Docs/ots-vel-shuma.pdf

18. Каламбет Ю.А., Мальцев С.А., Козьмин Ю.П. Фильтрация шумов: окончательное решение проблемы // Аналитика. 2011. № 1. С. 50-55. URL: http://www.j-analytics. ru/j ournal/article/3067

ООО "Амперсенд ", Москва

Контакты: Каламбет Юрий Анатольевич, kalambet@ampersand.ru

Материал поступил в редакцию 8.05.2019

ISSN 0868-5886

NAUCHNOE PRIBOROSTROENIE, 2019, Vol. 29, No. 3, pp. 51-62

OPTIMIZATION OF PARAMETERS OF LINEAR SMOOTHING APPLIED TO CHROMATOGRAPHIC PEAKS

Yu. A. Kalambet

Ampersand Ltd., Moscow, Russia

This paper presents an analysis of the errors in integrating chromatographic peaks in the case of using linear methods of smoothing a signal with non-negative weights and additive uncorrelated noise. Smoothing methods based on a moving weighted average are analyzed: arithmetic moving average, Savitsky—Golay method, exponentially weighted moving average, multiple smoothing, Gaussian smoothing, median smoothing.

Criteria for optimizing the chromatographic peak smoothing procedure are considered. It is stated that the parameters of the peak can be divided into two groups: basic and validation. There are three basic parameters: retention, area and height.

It is shown that there is an optimal linear filter that minimizes the relative error in calculating the height and peak area. In the case of a Gaussian peak and a Gaussian filter, the optimal smoothing results are obtained when the width of the Gaussian filter is equal to the width of the Gaussian of the original peak, regardless of the noise level.

Keywords: smoothing, noise filtering, optimal filter, linear filter

Fig 1. Weights of moving weighted average points for several popular smoothing options

Fig 2. The baseline is going through the fixed boundary points of a peak. A solid line indicates the trapezoid area below the baseline. The dotted line represents the rectangle area, equal in size. B1 is the ordinate of the start point of the peak, B2 — of the end of the peak. N — number of points per peak

Fig 3. Dependence of the relative random error of the area and height on the peak broadening, concurrent to smoothing, when smoothing a Gaussian by a Gaussian filter

Fig 4. An illustration of systemic distortion of the shape of the peak during smoothing.

The original Gaussian without noise (solid line); Gaussian, to which the optimal Gaussian filter is applied (dashed line); the Savitsky—Golay filter (dotted line), which gives the same suppression of the random error component as the optimal Gauss filter

Table. The minimum width of the peak at the base (in points), which provides an acceptable error of calculation depending on the method of parameter estimation

REFERENСES

1. Grushka E. Characterization of Exponentially Modified Gaussian Peaks in Chromatography. Anal. Chem., 1972, vol. 44, no. 11, pp. 1733-1738. DOI: 10.1021/ac60319a011

2. Delley R. Series for the exponentially modified Gaussian peak shape. Anal. Chem., 1985, vol. 57, no. 1, pp. 388-388. DOI: 10.1021/ac00279a094

3. Kalambet Yu.A., Kozmin Yu.P., Mikhailova K.V., Na-gaev I.Y., Tikhonov P.N. Reconstruction of chromato-graphic peaks using the exponentially modified Gaussian function. J. Chemom., 2011, vol. 25, no. 7, pp. 352-356. DOI: 10.1002/cem.1343

4. Savitzky A., Golay M.J.E. Smoothing and differentiation of data by simplified least squares procedures. Anal. Chem, 1964, vol. 36, no. 8, pp. 1627-1639. DOI: 10.1021/ac60214a047

5. Ventcel E.S. Teoriya veroyatnostej [Probability theory]. Sixth edition. Moscow, High School Publ., 1999. 576 p. (In Russ.).

6. Kalambet Yu.A. [Hardware and software system "Multik-hrom"]. Pishchevaya Promyshlennost [Food Industry], 2005, no. 3, pp. 74-75. (In Russ.).

7. Kalman R.E. A new approach to linear filtering and prediction problems. J. Basic Eng., 1960, vol. 82, no. 1, pp. 35-45. DOI: 10.1115/1.3662552

8. Sterlinski S. General formulas for calculation of Savitzky and Golay's filter weights and some features of these filters. Nucl. Instruments Methods, 1975, vol. 124, no. 1, pp. 285-287. DOI: 10.1016/0029-554X(75)90412-7

9. Gosudarstvennaya farmakopeya Rossijskoj Federacii. XIII izdanie. Federal'naya elektronnaya medicinskaya bibli-oteka [Federal electronic medical library], 2015. URL: http://femb.ru/feml (In Russ.).

10. Kalambet Yu.A., Kozmin Yu.P., Samokhin A. Comparison of integration rules in the case of very narrow chro-matographic peaks. Chemom. Intell. Lab. Syst., 2018, vol. 179, pp. 22-30. DOI: 10.1016/j.chemolab.2018.06.001

11. Kelly P.C., Horlick G. Practical considerations for digitizing analog signals. Anal. Chem., 1973, vol. 45, no. 3,

pp. 518-527. DOI: 10.1021/ac60325a012

12. Kalambet Yu.A., Maltsev S.A., Kozmin Yu.P. [Chrom&Spec and metrology: 25 years together]. Analitika [Analytics], 2013, vol. 9, no. 2, pp. 48-55. (In Russ.).

13. Goodwin E.T. On the evaluation of integrals of the form

exp(-x2)f (x)dx. Math. Proc. Cambridge Philos. Soc, 1949, vol. 45, no. 2, pp. 241-245. DOI: 10.1017/S0305004100024786

14. Weideman J.A.C. Numerical integration of periodic functions: A few examples. Am. Math. Mon., 2002, vol. 109, no. 1, pp. 21-36. DOI: 10.2307/2695765

15. O'Haver T. A pragmatic introduction to signal processing with applications in scientific measurement. 2019. URL: https://terpconnect.umd.edu/~toh/spectrum/

16. Kalambet Yu.A., Kozmin Yu.P., Samokhin A.S. [Noise filtering. Comparative analysis of methods]. Analitika [Analytics], 2017, no. 5, pp. 88-101. DOI:

10.22184/2227-572X.2017.36.5.88.101 (In Russ.).

17. Kalambet Yu.A., Mihaylova K.V. Ocenka velichiny shu-ma i ee ispol'zovanie pri obrabotke hromatograficheskogo signala [Assessment of size of noise and its use when processing a chromatographic signal]. URL: http://multichrom.ru/Docs/ots-vel-shuma.pdf (In Russ.).

18. Kalambet Y.A., Maltsev S.A., Kozmin Y.P. [Filtering noise: the final solution of the problem]. Analitika [Analytics], 2011, no. 1, pp. 50-55. URL: http://www.j-analytics.ru/journal/article/3067 (In Russ.).

Contacts: Kalambet Yuriy Anatol'evich, kalambet@ampersand.ru

Article received by the editorial board on 8.05.2019