Online self knowledge distillation for financial trading agents using deep learning
Creators: name: Φλωράτος, Παύλος Αγγελου
Publisher: name: Aristotle University of Thessaloniki
Year: 2021
Subjects: Απόσταξη γνώσης
Βαθιά μάθηση
Χρηματοοικονομικές συναλλαγές
Κnowledge distillation
Deep learning
Financial trading

description: Τα Βαθιά Νευρωνικά Δίκτυα (ΒΝΔ) και συγκεκριμένα κάποιες Βαθιές αρχιτεκτονικές όπως τα Υπολειπόμενα Συνελικτικά Νευρωνικά Δίκτυα (Residual Convolutional Neural Networks) έχουν σημειώσει τρομερή πρόοδο στον κλάδο της Υπολογιστικής Όρασης τα τελευταία χρόνια ενώ σημειώνουν κορυφαίες επιδόσεις και σε προβλήματα ταξινόμησης χρονοσειράς. Ωστόσο, η πρόβλεψη της τιμής της επόμενης ημέρα σε χρηματοοικονομικά δεδομένα παραμένει ένα πολύ δύσκολο και ασταθές πρόβλημα. Οι χειροποίητες ετικέτες (handcrafted labels) επιδεινώνουν το πρόβλημα της αστάθειας με την μικρότερη αλλαγή στις υπέρ-παραμέτρους των νευρωνικών δικτύων να οδηγούν σε εντελώς διαφορετικές συμπεριφορές στις συναλλαγές τους. Επομένως, η εκπαίδευση ΒΝΔ σε χρηματοοικονομικά δεδομένα γίνεται τρομερά δύσκολη και οι πράκτορες αναξιόπιστοι. Σε αυτήν την διπλωματική εργασία παρουσιάζουμε πρωτοπόρες μεθόδους απόσταξης γνώσης (knowledge distillation) που βελτιώνουν την επίδοση των δικτύων σε θορυβώδη περιβάλλοντα και αντιμετωπίζουν το πρόβλημα της αστάθειας που προκαλείται από τις χειροποίητες ετικέτες (handcrafted labels). Στην παρούσα διπλωματική εργασία, ένα σύνολο από δίκτυα ‘δασκάλων’ χρησιμοποιούνται για να μετασχηματίσουν τις χειροποίητές ετικέτες (handcrafted labels) σε αναπαραστάσεις μεγαλύτερης σημασία για τα δίκτυα οι οποίες χρησιμοποιούνται για την εκπαίδευση ενός δικτύου ΄μαθητή΄. Στα πειράματά μας δείχνουμε ότι η εκπαίδευση ενός ‘μαθητή’ μόνο με τις αναπαραστάσεις που προέρχονται από τους ‘δασκάλους’ βελτιώνουν την επίδοση του δικτύου. Στην συνέχεια μετασχηματίζουμε την μεθοδολογία μας σε ένα online σχήμα (online knowledge distillation) στην οποία οι ‘δάσκαλοι’ και ο ‘μαθητής’ εκπαιδεύονται ταυτόχρονα χωρίς να εισάγεται στην διαδικασία καμία πρόσθετη υπέρ-παράμετρος. Τέλος, δείχνουμε ότι με την προσθήκη self knowledge distillation επιτυγχάνεται περεταίρω βελτίωση στις προβλέψεις των δικτύων σε άγνωστα δεδομένα και προτείνουμε μεθόδους για να συνδυαστούν οι τεχνικές online knowledge distillation και self knowledge distillation επιτυγχάνοντας σημαντικές βελτιώσεις στην επίδοση των δικτύων
description: Deep Neural Networks (DNNs), and particularly Deep architectures such as Residual Convolutional Neural Networks have made a tremendous progress in Computer Vision the past years while also achieve state-of-the-art performance in time-series classification (TSC) tasks. However, predicting the next day’s return of an asset in financial markets remains a notoriously difficult and unstable problem. Handcrafted labels deteriorate the instability issue and the smallest change in the hyper-parameters of the neural network results in considerable different agent behaviours. Thus, the training of DNN financial time series classifiers becomes a tedious task and the automated trading agents unreliable. In this work, we present a novel knowledge distillation method that boosts the performance of DNNs in noisy environments and moderates the instability caused by handcrafted labels. In the proposed approach, a teachers ensemble is used to transform the hard handcrafted labels into soft meaningful representations while the latter ones are used for the student’s training. In our experiments, we show that training a student agent solely with soft labels extracted by knowledge distillation boosts the performance. Building upon that, we transpose our methodology to a one-step online distillation process that prevents the need of any extra hyper-parameters. Finally, we demonstrate that self knowledge distillation can further increase the accuracy and Profit and Loss (PnL) of the agent in unknown data and we introduce novel ways to combine online distillation and self distillation in an end-to-end process with significant performance improvements