title: Development of a competitive autonomous agent for smart grid energy markets

title: Ανάπτυξη ανταγωνιστικού αυτόνομου πράκτορα για συμμετοχή σε αγορές ενέργειας του έξυπνου δικτύου ηλεκτροδότησης

Creators: name: Μαστορακης Αντωνιος
Publisher: name: Technical University of Crete
Year: 2022

description: Modern electricity markets require real-time sales and purchases, for which many factors must be taken into account to keep pace with market growth rates. In this context, the international Power Trading Agent (PowerTAC) competition simulates a realistic platform for electricity deals and sales, equivalent to real stock exchanges energy such as Nord Pool and EEX. On this platform, various intelligent software agents – brokers (developed by research teams around the globe) compete with each other, with the main purpose of obtaining the maximum possible profit. Each team creates its agent and through various strategies in both retail and wholesale markets is trying to achieve a better combination of buying and selling. Another important part of the competition is that agents aim to obtain a disproportionately high share of the market, resulting in financial losses due to the obligation payment of huge fees to the regulatory authorities. Against this background, this thesis focused on the improvement of an already existing agent, TUC TAC. This particular agent was created by a research team at the Technical University of Crete in 2020, and managed to finish first in PowerTAC that year. Two main changes were carried out to achieve the objective of improving TUC TAC. The first is the addition of a Predictor (forecast factor) for the competition’s wholesale market. By predicting future wholesale market prices, TUC TAC will be able increase its overall profits. We tackled this problem via classical machine learning methods, including Neural Networks. The second major change is the optimization of a Monte Carlo Tree Search algorithm that was already used by TUC TAC for bidding in the wholesale market’s double auctions, via (a) adding the new predictor but also (b) via regulating better the parameters of the algorithm so that selling the same energy amount in the retail market will lead to smaller fines due to the fewer losses in the broker’s energy balance sheet. We conducted extensive simulation experiments to test our modifications and evaluate various versions of our agent in environments of fluctuating difficulty. Our experiments verify the effectiveness of the TUC TAC agent enhancements provided in this thesis.
 
description: Οι σύγχρονες αγορές ηλεκτρικής ενέργειας απαιτούν αγοραπωλησίες σε πραγματικό χρόνο, για τις οποίες πρέπει να ληφθούν υπόψη πολλοί παράγοντες ώστε οι στρατηγικές των συμμετεχόντων να συνάδουν με τους ρυθμούς μεταβολής της αγοράς. Σε αυτό το πλαίσιο, ο διεθνής διαγωνισμός Power Trading Agent (PowerTAC) προσομοιώνει μια ρεαλιστική πλατφόρμα για αγοραπωλησίες ηλεκτρικής ενέργειας, αντίστοιχη με τα πραγματικά χρηματιστήρια ενέργειας όπως το Nord Pool και το ΕΕΧ. Σε αυτή την πλατφόρμα διάφοροι ευφυείς πράκτορες λογισμικού – μεσίτες (τους οποίους αναπτύσσουν ερευνητικές ομάδες ανά την υφήλιο) ανταγωνίζονται μεταξύ τους, με κύριο σκοπό την αποκόμιση του μέγιστου δυνατού κέρδους. Κάθε ομάδα δημιουργεί τον δικό της πράκτορα και μέσα από διάφορες στρατηγικές τόσο στο λιανικό, όσο και στο χονδρικό εμπόριο προσπαθεί να πετύχει τον καλύτερο συνδυασμό στρατηγικών αγοραπωλησιών. Ένα ακόμα σημαντικό κομμάτι του διαγωνισμού είναι ότι οι πράκτορες που στοχεύουν να αποκτήσουν ένα δυσανάλογα υψηλό μερίδιο της αγοράς, ενδέχεται να υποφέρουν οικονομικές απώλειες λόγω της υποχρέωσης καταβολής τεράστιων τελών στις ρυθμιστικές αρχές. Τούτων δοθέντων, η παρούσα διπλωματική εργασία αποσκοπεί στην βελτιώση ενός ήδη υπάρχοντος πράκτορα, του TUC TAC. Ο συγκεκριμένος πράκτορας δημιουργήθηκε απο μια ερευνητική ομάδα στο Πολυτεχνείου Κρήτης το 2020, οπότε και κατάφερε να τερματίσει πρώτος στον διαγωνισμό PowerTAC εκείνης τη χρονιάς. Δύο βασικές αλλαγές υλοποιήθηκαν σε αυτή τη διπλωματική με σκοπό την βελτίωση του υφιστάμενου πράκτορα TUC TAC. Η πρώτη είναι η προσθήκη ενός Predictor (λογισμικού πρόβλεψης) στην αγορά χονδρικής, ώστε να μπορεί ο πράκτορας να εκτιμάει με ακρίβεια τις μελλοντικές τιμές της κιλοβατώρας. Η αξιοποίηση του Predictor θα επιτρέπει στον TUC TAC να πουλάει ή να αγοράζει ποσά ενέργειας πετυχαίνοντας μεγαλύτερο κέρδος. Το πρόβλημα αυτό προσεγγίστηκε κυρίως με κλασσικές μεθόδους Μηχανικής Μάθησης, συμπεριλαμβανομένων και Νευρωνικών Δικτύων. Η δεύτερη σημαντική αλλαγή είναι η βελτιστοποίηση ενός Monte Carlo Tree Search αλγορίθμου για χρήση σε δημοπρασίες διπλής κατεύθυνσης στην αγορά χονδρικής, ήδη υλοποιημένου στον υφιστάμενο ως τώρα TUC TAC πράκτορα, με δύο τρόπους: προσθέτοντας τον νέο predictor αλλά και ρυθμίζοντας καλύτερα τις παραμέτρους του αλγορίθμου, έτσι ώστε πωλώντας το ίδιο ποσό σε κιλοβατώρες στην αγορά λιανικής να έχουμε μικρότερα πρόστιμα λόγω μείωσης των απωλειών στο ισοζύγιο ενέργειας του πράκτορα. Πραγματοποιήσαμε εκτεταμένα πειράματα προσομοίωσης για να δοκιμάσουμε τις τροποποιήσεις μας, και να αξιολογήσουμε διάφορες εκδόσεις του πράκτορά μας σε περιβάλλοντα κυμαινόμενης δυσκολίας. Τα πειράματά μας επαληθεύουν την αποτελεσματικότητα των παρεχόμενων μέσω της παρούσας διπλωματικής εργασίας βελτιώσεων του πράκτορα TUC TAC.