Time series forecasting for energy demand
Creators: name: Πιέρρος, Ιωάννης Σπυρίδωνα
Publisher: name: Aristotle University of Thessaloniki
Year: 2022
Subjects: Μηχανική μάθηση
Νευρωνικά δίκτυα
Πρόβλεψη χρονοσειρών
Machine learning
Neural networks
Timeseries forecasting

description: Time series forecasting is necessary for the short-term operations planning and the planning of a company's long-term strategy. Achieving high accuracy is, without a doubt, the biggest challenge, though training speed is also crucial since a model can go through thousands of iterations. The goal of this thesis was to improve the established machine learning methodologies for training forecasting models, specifically neural networks, and to develop forecasting models that can make accurate predictions. The thesis focues on short term energy demand forecasting for the next day, which is imperative for the smooth operation of the energy grid and for every energy supplier to participate in the energy markets. This task is challenging, owing to the close correlation to the weather and other exogenous variables. Furthermore, the increasing penetration of renewable energy in the energy mix introduces additional uncertainty. Time-Step Boosting was developed to improve performance of forecasting models, by optimizing the model's weights to focus on the time steps that accumulate the largest errors. Fully connected neural networks, as well as long short term memory and convolutional neural networks were trained on energy demand data of multiple European countries and states in USA to evaluate the proposed technique. The experimental evaluation showcased the ability of Time-Step Boosting to speed up the model's convergence and improve the forecasting accuracy by helping it escape for local minima in the loss landscape. Additionally, models were trained across multiple countries, learning to generalize better and leading up to 40% better performance and a total of 5-10% mean average percentage error.
description: Η πρόβλεψη χρονοσειρών είναι απαραίτητη για τον βραχυπρόθεσμο επιχειρησιακό σχεδιασμό και το σχεδιασμό της μακροπρόθεσμης στρατηγικής μιας εταιρείας. Σαφώς η μεγαλύτερη δυσκολία είναι η επίτευξη υψηλής απόδοσης στα πλαίσια ενός δυναμικού και ενθόρυβου συστήματος, αλλά και η ταχύτητα εκπαίδευσης διότι ένα μοντέλο μπορεί να εκπαιδευτεί ακόμα και χιλιάδες φορές. Στόχος της διπλωματικής εργασίας είναι η βελτίωση των εγκαθιδρυμένων μεθοδολογιών εκπαίδευσης μοντέλων μηχανικής μάθησης και συγκεκριμένα των νευρωνικών δικτύων, και η ανάπτυξη μοντέλων πρόβλεψης χρονοσειρών υψηλής ακρίβειας. Επικεντρώνεται στη βραχυπρόθεσμη πρόβλεψη κατανάλωσης ενέργειας για την επόμενη μέρα που είναι απαραίτητη για την ομαλή λειτουργία του ηλεκτρικού δικτύου και για κάθε εταιρεία παροχής ενέργειας για τη συμμετοχή της στις αγορές ενέργειας. Ή έντονη εξάρτηση από τις καιρικές συνθήκες και άλλους εξωγενείς παράγοντες καθιστά την πρόβλεψη δύσκολη, ενώ η ταχεία επέκταση της παραγωγής ενέργειας από ανανεώσιμες πηγές στα πλαίσια της Πράσινης Συμφωνίας θα εισάγει επιπλέον αβεβαιότητα στο ενεργειακό ισοζύγιο. Για τη βελτίωση της απόδοσης των μοντέλων πρόβλεψης αναπτύχθηκε η τεχνική Time-Step Boosting, που βελτιστοποιεί τα βάρη του μοντέλου ώστε να επικεντρώνεται στις ώρες αιχμής όπου παρουσιάζονται τα μεγαλύτερα σφάλματα πρόβλεψης. Χρησιμοποιήθηκαν δεδομένα κατανάλωσης ηλεκτρικής ενέργειας για χώρες της Ευρωπαϊκής Ένωσης και πολιτείες της Αμερικής σε αρχιτεκτονικές πλήρως διασυνδεδεμένων νευρωνικών δικτύων, μακράς-βραχύχρονης μνήμης, συνελικτικών νευρωνικών δικτύων και δίκτυα τελευταίας τεχνολογίας για την αξιολόγηση της προτεινόμενης τεχνικής. Η πειραματική ανάλυση ανέδειξε την ικανότητα της να επισπεύδει τη σύγκλιση του μοντέλου και να βελτιώνει τη συνολική του απόδοση απεγκλωβίζοντας το από τοπικά ελάχιστα. Επιπρόσθετα, μελετήθηκε η δυνατότητα εκπαίδευσης με συνδυασμό πηγών δεδομένων, που βελτίωσε τη δυνατότητα γενίκευσης των μοντέλων οδηγώντας σε έως και 40% μεγαλύτερη ακρίβεια πρόβλεψης με συνολική 5-10% μέση ποσοστιαία ακρίβεια.