Solar Generation Forecasting with Transfer Learning
Creators: name: Μυλωνάς, Δημήτριος Μιχαήλ
Publisher: name: Aristotle University of Thessaloniki
Year: 2023
Subjects: Μεταφορά γνώσης
Πρόβλεψη χρονοσειρών
Βαθιά μάθηση
Transfer learning
Timeseries Forecasting
Deep Learning

description: Η παρούσα διπλωματική, μελετάει την δημιουργία προεκπαιδευμένων μοντέλων μηχανικής μάθησης και πιο συγκεκριμένα νευρωνικών δικτύων και την ικανότητα αυτών να κάνουν πιο ακριβείς προβλέψεις της παραγόμενης ηλιακής ενέργειας, συγκριτικά με μοντέλα που έχουν εκπαιδευτεί σε λιγότερα δεδομένα. Κατά την εκπόνηση της διατριβής, αναπτύχθηκαν τρεις βαθιές αρχιτεκτονικές νευρωνικών δικτύων (CNNs) οι οποίες εκπαιδεύτηκαν σε ιστορικά δεδομένα πολλαπλών χωρών και φάνηκε να είναι αποτελεσματικές, σύμφωνα με τις μετρικές RMSE και ΜΑΕ. Τα προεκπαιδευμένα μοντέλα, όταν κλήθηκαν να κάνουν προβλέψεις για τις χώρες οι οποίες ανήκουν στο σύνολο εκπαίδευσή τους, ήταν πιο αποτελεσματικά από τα baselines (Exponential Smoothing και απλό CNN), καθώς και από νευρωνικά με τις ίδιες ακριβώς αρχιτεκτονικές, αλλά εκπαιδευμένα ατομικά σε κάθε χώρα. Όσον αφορά τις προβλέψεις σε άγνωστες χώρες, ο μέσος όρος σφαλμάτων κάθε προ εκπαιδευμένου μοντέλου ήταν καλύτερος των baselines με βάση την MAE και χειρότερος από τους μέσους όρους του Exponential Smoothing με βάση την RMSE. Με άλλα λόγια, τα προ εκπαιδευμένα μοντέλα ξεπέρασαν σε μέσο όρο το simple CNN στις άγνωστες χώρες, ενώ υπήρξε ισορροπία στη σύγκριση τους με τον Exponential Smoothing. Συμπερασματικά, φάνηκε να επιτυγχάνεται μεταφορά γνώσης στα άγνωστα δεδομένα, με τις προβλέψεις ωστόσο να είναι ισορροπημένες και άρρηκτα συνδεδεμένες με τα δεδομένα κάθε χώρας. Τέλος, με την εφαρμογή τεχνικών fine tuning των νευρωνικών πάνω στα δεδομένα κάθε άγνωστης χώρας, η απόδοση τους παρουσίασε εξαιρετική βελτίωση, ξεπερνώντας έτσι τα baselines σχεδόν σε όλες τις περιπτώσεις.
description: The present thesis examines the creation of pre-trained machine learning models, specifically neural networks, and their ability to make more accurate predictions of generated solar energy compared to models trained on less data. During the course of the study, three deep neural network architectures (CNNs) were developed and trained on historical data from multiple countries, proving to be effective according to the RMSE and MAE metrics. When the pre-trained models were called upon to make predictions for the countries belonging to their training set, they outperformed the baselines (Exponential Smoothing and simple CNN), as well as individually trained neural networks with the exact same architectures for each country. As for predictions in unknown countries, the average errors of each pre-trained model were better than the baselines based on MAE but worse than the average errors of Exponential Smoothing based on RMSE. In other words, the pre-trained models outperformed the simple CNN on average for unknown countries, while there was a balance in comparison with Exponential Smoothing. In conclusion, transfer learning was achieved in unknown data, with predictions being balanced and closely related to the data of each country. Finally, by applying fine-tuning techniques to the neural networks on the data of each unknown country, their performance showed remarkable improvement, surpassing the baselines in almost all cases.