Нейросетевой подход к прогнозированию потребления энергоресурсов в городской среде

Нейросетевой подход к прогнозированию потребления энергоресурсов в

городской среде

Е.Б. Горбунова, Е.С. Синютин, С.А. Синютин НТЦ «Техноцентр», Южный федеральный университет, г. Таганрог

Аннотация: В настоящее время можно наблюдать общемировую тенденцию к внедрению так называемой цифровой энергетики в целях оптимизации распределения и использования энергоресурсов с помощью современных технологий сбора и обработки информации. При этом особую актуальность приобретает задача прогнозирования потребления электричества для обеспечения его бесперебойной подачи в условиях постоянного роста числа потребителей. Целью данной работы было сравнение методов классического регрессионного анализа с нейросетевыми алгоритмами при решении задачи прогнозирования энергопотребления домохозяйствами. Для исследования использовались данные, полученные с приборов учета 47 домохозяйств, расположенных в Ростовской области, за период 730 дней. Были рассмотрены прогнозирующие модели на основе регрессии, порядок модели варьировался от 1 до 3, а также модель на основе рекуррентной нейронной сети. Горизонт прогнозирования выбирался как 20% от имеющейся выборки данных (80% оставалось на обучение модели), что в среднем соответствовало трем месяцам. Из рассмотренных моделей наилучший результат продемонстрировала нейронная сеть, для которой относительная погрешность прогноза не превышала 5%.

Ключевые слова: энергоресурсы, прибор учета, жилищно-коммунальное хозяйство, прогнозирование энергопотребления, анализ данных, регрессия, временной ряд, рекуррентная нейронная сеть, машинное обучение, «умный город».

Рациональное распределение энергоресурсов является одним из ключевых факторов создания экосистемы умных городов. В этой среде электричество является одним из важнейших ресурсов, при этом данная индустрия характеризуется рядом особенностей, связанных, прежде всего, с тем, что хранение электрической энергии затруднительно и сопряжено с потерями, его производство и потребление происходит практически в реальном времени. Чтобы обеспечить бесперебойную подачу энергоресурсов с учетом постоянного роста потребления, а также сформировать рекомендации по его оптимизации, существует острая необходимость в создании прогнозирующих моделей.

Наиболее часто используемыми методами прогнозирования энергопотребления считаются интегрированная модель авторегрессии

(модель Бокса-Дженкинса [1]) и регрессионный подход [2]. Модель Бокса-Дженкинса предполагает предварительную оценку стационарности временного ряда, что успешно применяется при прогнозировании на больших временных интервалах, где временной ряд значений потребления становится близким к линейной зависимости. Регрессионный подход также ориентирован на использование одного-двух методов аппроксимации, с учетом линейной (или квадратичной) формы временного ряда на длительных интервалах. Однако данные методы крайне плохо справляются с нелинейностью во временном ряде, которая вполне возможна для энергопотребления (особенно в современных условиях). Так, например, при подключении функций «умного дома» в домохозяйстве резко изменяется вид графика энергопотребления, особенно в краткосрочном периоде. Влияние температуры окружающей среды так же необходимо учитывать при разработке метода прогнозирования.

Одним из новых подходов является применение искусственных нейронных сетей [3-6]. Применяются long short-term memory networks (LSTM-network), отличающиеся способностью к обучению долговременным зависимостям. Это свойство очень важно при прогнозировании энергопотребления, основанном на разности потребления в зависимости от дня недели или месяца [4]. Однако, существуют ограничения на применение LSTM-сетей, например, как показано в [7] обучающая выборка для LSTM-сети в 20 раз превышает выборку для обычной рекуррентной сети, что ужесточает требования к набору данных. Несомненным преимуществом при этом, как показано в [7], является отсутствие роста ошибки прогнозирования при увеличении горизонта прогноза, классическая рекуррентная сеть имеет ограничение на длительность прогноза и нуждается в постоянном обновлении обучающих данных.

При обучении классических рекуррентных нейронных сетей обращают внимание на проблему локальных минимумов, которые приводят к уменьшению приращений в алгоритме обратного распространения ошибки. Одно из решений данной проблемы предложено в [3], используется так называемый алгоритм оконного момента, т.е. вводится функция, аргументами которой являются предыдущие обновления, а число этих аргументов зависит от размера окна.

Таким образом, когда данные об энергопотреблении домохозяйств фиксируются 1-2 раза в сутки, применение ЬБТМ-сетей оправдано только в случае наличия крупной обучающей выборки (не менее 5-6 лет), однако при этом возможен эффект «ложного обучения», так как за 3-4 года домохозяйства могут перейти на энергосберегающую технику и предыдущие данные окажутся невалидными. В нашем исследовании для снижения вычислительной сложности результирующего алгоритма воспользуемся классической рекуррентной сетью, для сравнения используем классические регрессионные методы.

Данная работа проводилась в рамках разработки инновационной системы комплекса учета, регистрации и анализа энергоресурсов [8] и имела целью сравнение методов классического регрессионного анализа с нейросетевыми алгоритмами при решении задачи прогнозирования энергопотребления домохозяйствами. Для исследования использовались данные, полученные с приборов учета 47 домохозяйств, расположенных в Ростовской области (Россия).

Обновление показаний в используемом массиве данных производилось не менее 1-го раза в сутки, валидность данных была подтверждена начиная с 66-го дня (для всех счетчиков). В ходе разведывательного анализа были проведены попытки поиска закономерностей энергопотребления в зависимости от дней недели и месяцев.

и

В качестве алгоритма программы прогноза использовались классические методы регрессионного анализа с полиномиальными законами регрессии 1-го, 2-го и 3-го порядка [9]. Данные методы сравнивались с нейросетевыми алгоритмами с предварительным обучением [10]. Обучение проводилось на 80% данных, 20% данных использовались для оценки качества прогноза. В качестве оценки качества прогнозирования использовался показатель относительной погрешности прогноза к реальным данным.

Разведывательный анализ не показал наличия выраженных зависимостей энергопотребления от дня недели и месяца (рис. 1 - 4).

Рис.1 - Пример распределения энергопотребления в зависимости от дня недели для одного из рассмотренных домохозяйств Для ряда потребителей имеют место циклические закономерности в изменении энергопотребления (рис.2), но в масштабе всех рассмотренных домохозяйств этот эффект сглажен и практически не наблюдается (рис.3-4).

Рис.2 - Пример распределения энергопотребления в зависимости от месяца года для одного из рассмотренных домохозяйств

Среднее потребление

60

40

20

0

Пн

к * 1 * , £ * 3 £ щ 1 1 К «

1 1 1 1 ! : |

30

Вт. Ср. Чт. Пт. Сб.

Среднеквадратичное отклонение

Вс.

20 10*

0* Пн.

Вт.

Ср.

Чт.

Пт.

Сб.

Вс.

Рис.3 - Усредненное распределение потребления энергоресурсов в зависимости от дня недели для всех рассмотренных домохозяйств

ООО СО СО ^г 1 1 * 1 1 1 * *

* * £ * 1 ч $

20 0 - ^ 1. * * 1 ши и \ « * ш Ш 1 1 1 1 1 1 и

Янв. Февр. Март Апр. Май Июнь Июль Авг. Сент. Окт. Нояб. Дек.

Рис.4 - Усредненное распределение потребления энергоресурсов в зависимости от месяца года для всех рассмотренных домохозяйств Каждый потребитель вносит свою индивидуальную компоненту в характер потребления, так для некоторых хозяйств характерно повышение энергопотребления в выходные дни, а для других характерно стабильное потребление без резких перепадов. Поскольку не было выявлено статистически значимых результатов, позволяющих основывать прогноз энергопотребления на недельной и годовой цикличности, в дальнейшем исследовании энергопотребление каждого домохозяйства рассматривалось как отдельный временной ряд.

Как уже упоминалось выше, для обучения моделей в каждом случае данные были разбиты на обучающую (80%) и тестовую (20%) выборки. Пример работы регрессионной модели приведен на рис. 5. Варьировался порядок модели - от 1 до 3. На нижних графиках (рис. 5) приведены соответствующие относительные погрешности для одного из анализируемых домохозяйств.

На рисунке 6 приведен аналогичный пример работы нейросетевой модели. Наилучший результат из опробованных продемонстрировала рекуррентная нейронная сеть с 1 скрытым слоем из 10 нейронов.

Регрессионная модель

• Данные -модель 1-го порядка I I I ¡1 ^^

-модель 2-го порядка -модель 3-го порядка

Обучение "1....... Прогноз I .

-

400 Дни

Рис.5 - Регрессионная прогнозирующая модель

Нейросетевая модель

100 200 300 400 500 600 700 800

Рис.6 - Нейросетевая прогнозирующая модель

На рис. 7 приведены гистограммы относительных погрешностей прогноза для рассмотренных моделей по всем участвовавшим в анализе домохозяйствам.

Нейронная сеть

Рис.7 - Распределение относительной погрешности прогноза для всех

рассмотренных домохозяйств Регрессионные модели показали сопоставимые результаты. Наименьшую среднюю ошибку прогноза имеет модель третьего порядка, однако она же имеет наибольшую дисперсию. Интересно, что линейная модель показала хороший результат для большинства домохозяйств, однако наличие у распределения ошибок «тяжелых хвостов» говорит о том, что в

ряде случаев энергопотребление домохозяйства подчиняется более сложному закону.

Наиболее точный прогноз обеспечивает модель на основе рекуррентной нейронной сети. Это вполне ожидаемый результат, поскольку известно, что такие модели хорошо подходят для обнаружения скрытых зависимостей в данных.

Заключение

Линейная регрессия представляется наиболее простым подходом к прогнозированию энергопотребления домохозяйств, при этом результат исследования показывает, что нельзя применять одну и ту же модель к разным домохозяйствам в связи с существенными различиями в паттернах потребления. Это приводит к тому, что прогнозирующая система должны иметь возможность одновременно обучать несколько моделей и выбирать лучшую или осуществлять предварительную классификацию домохозяйств.

Отметим, что исследованные модели основывались исключительно на самих данных об энергопотреблении. В перспективе точность прогноза возможно повысить путем внесения в модель дополнительных предикторов: размер и структура домохозяйства, прогноз температуры окружающей среды и пр.

В результате данной работы можно сделать однозначный вывод о том, что из рассмотренных моделей наилучший результат показала рекуррентная нейронная сеть. Более сложные нейросетевые модели (в частности, ЬБТМ) потенциально могут еще лучше обнаруживать скрытые закономерности в данных и, соответственно, давать более точный прогноз, но при этом они требуют значительно большего объема данных для обучения модели, когда измерения фиксироваться раз в сутки, а для детального прогноза - каждый час.

Результаты исследований, изложенные в данной статье, получены при финансовой поддержке Минобрнауки РФ в рамках реализации проекта «Разработка и создание высокотехнологичного производства инновационной системы комплексного учета, регистрации и анализа потребления энергоресурсов и воды промышленными предприятиями и объектами ЖКХ» по постановлению правительства №218 от 09.04.2010г. Исследования проводились в ФГАОУ ВО ЮФУ.

Литература

1. Box, G.E.P., Jenkins, G.M., and Reinsel, G.C. Time series analysis: forecasting and control. 1976, 575 p.

2. S.Saab, E. Badr, and G. Nasr (2001). Univariate modeling and forecasting of energy consumption: The case of electricity in Lebanon," Energy, vol.26, pp. 1-14.

3. Sukumar Mishra, Vivek Kumar Singh (2015). Monthly Energy Consumption Forecasting Based On Windowed Momentum Neural Network, IFAC-PapersOnline, 48-30, pp.433-438.

4. Yao Cheng, Chang Xu, Daisuke Mashima, Vrizlynn L.L. Thing, and Yongdong Wu (2017). PowerLSTM: Power Demand Forecasting Using Long Short-Term Memory Neural Network, Advanced Data Mining and Applications: 13th International Conference, ADMA 2017, Singapore, November 5-6, pp. 727 -740.

5. Rodrigo F. Berriel, Andre Teixeira Lopes, Alexandre Rodrigues, Flavio Miguel Varejao, Thiago Oliveira-Santos (2017), Monthly energy consumption forecast: A deep learning approach, International Joint Conference on Neural Networks (IJCNN), pp. 4283-4290.

6. Соснина Е.Н., Шалухо А.В., Бедретдинов Р.Ш., Липужин И.А. Нормирование энергопотребления образовательных учреждений на основе нейросетевого подхода // Инженерный вестник Дона, 2013, №3 URL: ivdon.ru/ru/magazine/archive/n3y2013/1841.

7. Ricardo Bonetto, Michele Rossi (2017). Machine Learning Approaches to Energy Consumption Forecasting in Households. Cornell University Library, Neural and Evolutionary Computing, arXiv:1706.09648.

8. Горбунова Е.Б., Синютин Е.С. Разработка имитационной модели радиоканала для передачи данных от приборов учета к GSM-концентраторам в инновационной системе комплексного учета, регистрации и анализа потребления энергоресурсов и воды промышленными предприятиями и объектами ЖКХ // Инженерный вестник Дона, 2016, №4 URL: ivdon.ru/ru/magazine/archive/n4y2016/3836.

9. Кобзарь А.И. Прикладная математическая статистика. Для инженеров и научных работников. - М.: ФИЗМАТЛИТ, 2006. - 816 с.

10. Хайкин С. Нейронные сети: полный курс, 2-е изд., испр.: Пер. с англ. - М.: ООО «И.Д. Вильямс», 2006.- 1104 с. : ил.

References

1. Box, G.E.P., Jenkins, G.M., and Reinsel, G.C. Time series analysis: forecasting and control. 1976, 575 p.

2. S.Saab, E. Badr, and G. Nasr (2001). Univariate modeling and forecasting of energy consumption: The case of electricity in Lebanon," Energy, vol.26, pp. 1-14.

3. Sukumar Mishra, Vivek Kumar Singh (2015). Monthly Energy Consumption Forecasting Based on Windowed Momentum Neural Network, IFAC-PapersOnline, 48-30, pp.433-438.

4. Yao Cheng, Chang Xu, Daisuke Mashima, Vrizlynn L.L. Thing, and Yongdong Wu (2017). PowerLSTM: Power Demand Forecasting Using Long Short-Term Memory Neural Network, Advanced Data Mining and Applications: 13th International Conference, ADMA 2017, Singapore, November 5-6, pp. 727 -740.

5. Rodrigo F. Berriel, Andre Teixeira Lopes, Alexandre Rodrigues, Flavio Miguel Varejao, Thiago Oliveira-Santos (2017), Monthly energy consumption

forecast: A deep learning approach, International Joint Conference on Neural Networks (IJCNN), pp. 4283-4290.

6. Sosnina E.N., Shaluho A.V., Bedretdinov R.Sh., Lipuzhin I.A. Inzhenernyj vestnik Dona (Rus), 2013, №3. URL: ivdon.ru/ru/magazine/archive/n3y2013/1841.

7. Ricardo Bonetto, Michele Rossi (2017). Machine Learning Approaches to Energy Consumption Forecasting in Households. Cornell University Library, Neural and Evolutionary Computing, arXiv: 1706.09648.

8. Gorbunova E.B., Sinjutin E.S. Inzhenernyj vestnik Dona (Rus), 2016, №4 URL: ivdon.ru/ru/magazine/archive/n4y2016/3836

9. Kobzar' A.I. Prikladnaja matematicheskaja statistika. Dlja inzhenerov i nauchnyh rabotnikov [Applied mathematical statistics. For engineers and scientists]. M.: FIZMATLIT, 2006. 816 p.

10. Hajkin S. Nejronnye seti: polnyj kurs [Neural networks. A comprehensive foundation], 2 izd., ispr.: Per. s angl. M.: OOO «I.D. Vil'jams», 2006. 1104 p.