Применение корреляционного анализа для обработки результатов биомониторинга мест размещения отходов

УДК 623.459.1

APPLICATION OF CORRELATION ANALYSIS TO HANDLE BIOMONITORING RESULTS OF WASTE DISPOSAL SITES

Yannikov Igor Mikhailovich, candidate of technical sciences, head of the department “Engineering Ecology”, Federal State Educational Institution of Higher Professional Education “Izhevsk State Technical University named after M.T. Kalashnikov”

Kozlovskaya Natalia Viktorovna, candidate of biological sciences , assistant professor of “Engineering Ecology”, Federal State Educational Institution of Higher Professional Education “Izhevsk State Technical University named after M.T. Kalashnikov”

Emshanov Alexander Dmitrievich, student bachelor, Federal State Educational Institution of Higher Professional Education “Izhevsk State Technical University named after M.T. Kalashnikov”

Abstract. Authors verified Pearson correlation in biomonitoring results of waste disposal sites. Authors got the experience of practical usage of Pearson correlation during the research work to justify and choose environmental safety criteria for urbanized areas. Authors tested the environmental safety criteria for choice technology with usage of identified fields for waste disposal sites.

Keywords: Pearson correlation, environmental monitoring, biomonitoring, waste disposal sites

ПРИМЕНЕНИЕ КОРРЕЛЯЦИОННОГО АНАЛИЗА ДЛЯ ОБРАБОТКИ РЕЗУЛЬТАТОВ БИОМОНИТОРИНГА МЕСТ РАЗМЕЩЕНИЯ ОТХОДОВ

Янников Игорь Михайлович, кандидат технических наук, заведующий кафедрой «Инженерная экология», Федеральное государственное бюджетное образовательное учреждение высшего профессионального образования «Ижевский государственный технический университет имени М.Т. Калашникова»

Козловская Наталья Викторовна, кандидат биологических наук, доцент кафедры «Инженерная экология», Федеральное государственное бюджетное образовательное учреждение высшего профессионального образования «Ижевский государственный технический университет имени М.Т. Калашникова»

Емшанов Александр Дмитриевич, студент бакалавриата, Федеральное государственное бюджетное образовательное учреждение высшего профессионального образования «Ижевский государственный технический университет имени М.Т. Калашникова»

Аннотация. Авторами подтверждено существование корреляции Пирсона при обработке данных биомониторинга имеющих линейную зависимость. Получены практические результаты применения корреляции Пирсона в рамках НИР по выбору и

обоснованию критериев экологической безопасности урбанизированных территорий, проведена апробация технологии определения критериев экологической безопасности с применением идентификационных экологических полигонов для полигонов ТБО

Ключевые слова: корреляция Пирсона, экологический мониторинг, биомониторинг, ТБО.

Актуальность. В ходе проведения научной или исследовательской работы зачастую накапливается большое количество различных данных, которые необходимо систематизировать, подготовить к хранению и использованию. Обработка результатов биомо-ниторинговых исследований, представляющих собой большие массивы разнородной информации безусловно является важной задачей.

Методология. В прикладной статистике объектом исследования являются статистические данные, полученные в результате наблюдений или экспериментов. Под статистическими данными понимается совокупность объектов (наблюдений, случаев) и признаков (переменных), их характеризующих. Между переменными могут существовать функциональные связи, проявляющиеся в определении одной, как функция от другой, и стохастические связи, проявляющаяся в реакции одной на изменение другой, изменением своего закона распределения. Корреляционный анализ позволяет установить силу и направление стохастической взаимосвязи между переменными [4].

Для корреляционного анализа данных наблюдений имеющих линейную зависимость наиболее часто используется корреляция Пирсона, называемая также линейной корреляцией, т.к. измеряет степень линейных связей между переменными. Корреляция Пирсона предполагает, что две рассматриваемые переменные измерены, по крайней мере, в интервальной шкале. Коэффициент Пирсона позволяет с высокой точностью устанавливать тесноту связей между признаками [1].

Корреляционный анализ, как метод обработки статистических данных весьма популярен в экономике и социальных науках, хотя сфера применения гораздо шире: контроль качества промышленной продукции, агрохимия, биометрия и прочие, в том числе и статистическаяобработкарезультатовэкологическихисследований[2]

Популярность метода обусловлена тем, что коэффициенты корреляции относительно просты в подсчете, их применение не требует специальной математической подготовки.

В 2013 году авторами в рамках НИР по выбору и обоснованию критериев экологической безопасности урбанизированных

территорий проведена апробация технологии определения критериев экологической безопасности с применением идентификационных экологических полигонов [5] для полигонов ТБО. В качестве ИЭП использовалась площадка полигона ТБО (южный пригород Ижевска, Сарапульский тракт) закрытого с 2000 года. В качестве базовых критериев оценки выбраны показатели асимметрии листьев деревьев (берёза, осина, ива, липа), как тест-объектов оперативно реагирующих на изменение состояния окружающей среды. В контрольных точках с периодичностью в 1 месяц был произведен отбор биоиндикаторов. Работа по сбору и обработке материалов проводилась по широко известной методике А. С. Боголюбова, (2002). Для оценки степени выявленных отклонений листьев от нормы, их места в общем диапазоне возможных измерений показателя, использовалась балльная шкала В.М. Захарова и др. [3]. Также были отобраны пробы свалочного фильтрата с последующим количественным химическим анализом.

Результаты и обсуждение. Полученные в результате обработки листьев и анализов фильтрата данные приведены в таблице 1.

Таблица 1.

Данные после обработки листьев и анализов фильтрата

1 Показатель ассиметрии. Ива 2 Показатель ассиметрии. Осина 3 Показатель асстметрии. Лила 4 Показатель ассиметрии. Береза 5 Содержание Меди 8 фильтрате 6 Содержание Свинца в фильтрате 7 Содержание Марганца в фильтрате 8 Содержание Мышяка в фильтрате 9 Содержание Железа(Общего) в фильтрате

1 0,043? 0,06 0,0497 0,0525 0,059 0,0503 0,0552 0,053 0,054 0,056 0,72 0,057 0,275 0,057 0,104 0,0035 0,0147 0,00117 0 0,049 0 0,119 0 5,68 0,049 0 0,99

2

3

Примечание: В первой графе указаны номера поездок на полигон (дата первой поездки - 19.06.2013, второй - 26.07.2013, третьей - 31.08.2013), в последующих столбцах - результаты подсчетов ассиметрии листьев и содержание веществ в фильтрате.

По имеющимся данным можно говорить об умеренном воздействии полигонов ТБО на прилегающую территорию.

Корреляционный анализ данных полученных на Сарапуль-ском полигоне ТБО производился с помощью программы Statistica.

Таблица 2.

Результаты расчетов корреляции показателей асимметрии листьев

с содержанием тяжёлых металлов в свалочном фильтрате

По приведённым в таблице 1 данным методом Пирсона проведены расчеты корреляционной взаимосвязи полученных результатов (таблица № 2, рисунок 1) из которых видно, что показатели асимметрии листьев даже по результатам малой выборки в течение одного сезона вегетации (три выезда с отбором материала) коррелируют с содержанием свинца, меди, железа и марганца в свалочном фильтрате.

2,0

1,5

1,0

0,5

0,0

-0,5

-1,0

-1,5

-2,0

Normal Probability Plot of Means Spreadsheet! 7 11v*9c

/о >/1  ;

ш> Мл .  /тятю.

*

nh п

ш/и ////шА-рк о //7/Т А

Means ^ Std.Dev.

'Ж. Показатель ассиметрии.Ива Показатель ассиметрии.Осина Показатель асстметрии.Липа Показатель ассиметрии.Береза 'Ж Содержание Меди в фильтрате

-1,5 -0,5 0,5 1,5 2,5 3,5

-1,0 0,0 1,0 2,0 3,0

Observed Value

Рис. 1. График корреляции показателей асимметрии листьев.

Из полученных данных можно отметить следующее:

1. На показатель асимметрии листовой пластинки Ивы выявлена обратная зависимость от содержания мышьяка и меди в фильтрате и прямая зависимость от содержания железа и марганца.

2. Между показателем асимметрии листовой пластинки осины и содержанием марганца в фильтрате отмечена обратная зависимость и прямая между содержанием в фильтрате меди, свинца и мышьяка.

3.Выявлена обратная зависимость содержания меди, свинца, мышьяка в фильтрате на показатель листовой пластинки Липы.

4. Между показателем асимметрии листовой пластинки березы и содержанием свинца в фильтрате отмечена обратная зависимость, а с содержанием содержанием марганца и железа - прямая.

Также выявлена обратная зависимость между показателем асимметрии листовой пластинки березы и содержанием мышьяка в фильтрате, а поскольку это крайнее значение коэффициента корреляции, следовательно, переменные имеют строгую отрицательную корреляцию.

Выводы: Таким образом, по результатам проведенной работы можно констатировать, что применение корреляции Пирсона при обработке данных биомониторинга имеющих линейную зависимость является простым и достаточно достоверным способом, не требующим больших временных и денежных затрат. С её помощью были найдены прямые и обратные зависимости между асимметрией листьев и химическим составом фильтрата, что свидетельствует о качестве найденного критерия оценки экологической безопасности территории.

Библиографический указатель:

1. Гмурман В. Е. Теория вероятностей и математическая статистика: Учебное пособие для вузов. -10-е издание, стереотипное. М: Высшая школа, 2004.

2. Горшков М. В. Экологический мониторинг : Учебное пособие, Владивосток: ТГЭУ, 2010.

3. Захаров В. М., Баранов А. С., Борисов В. И., Валецкий А. В., Кряжева Н. Г., Чистякова Е. К., Чубинишвили А. Т. Здоровье среды: методика оценки. М.: Изд. Центра экол. политики России, 2000. 66 с.

4. Обзор методов статистического анализа данных. Лаборатория статистических исследований Кубанского государственного

университета [Электронный ресурс] 2014. Режим доступа:

http://www.statlab.kubsu.rU/node/4.

5. Янников И. М., Козловская Н. В., Медведева А. В. Биомониторинг объектов по уничтожению и хранению химического оружия на примере Удмуртской Республики // Вестник Московского государственного университета леса, 2008. № 6(63). С. 45-48.

Статья поступила в редакцию 03.02.14