Optimization-based models for explainable deep learning architectures in multidimensional signal processing applications
Authors: Γκίλλας Αλέξανδρος 
Published: October 2024

Τα πολυδιάστατα σήματα δύναται να εντοπιστούν σε πολλούς σημαντικούς κλάδους, συμπεριλαμβανομένων της τηλεπισκόπησης (remote-sensing), της ακριβούς γεωργίας (precision agriculture), των αυτόνομων ρομποτικών συστημάτων (autonomous robotics systems) και των σύνθετων συστημάτων συστάσεων (complex recommendation systems). Λόγω της υψηλής τους διάστασης, τα σήματα αυτά χαρακτηρίζονται από εγγενείς και δομημένες συσχετίσεις, οι οποίες σχετίζονται με τα φυσικά φαινόμενα που περιγράφουν, τις περιβαλλοντικές συνθήκες και τις συμπεριφορές των χρηστών. Για να αντιμετωπίσουμε τις προκλήσεις στην επεξεργασία και ανάλυση αυτών των σημάτων, εισάγουμε ένα πλαίσιο βασισμένο σε τρία στάδια εξαρτήσεων. Το πρώτο στάδιο εξετάζει τις εξαρτήσεις σε επίπεδο δεδομένων εντός των ίδιων των πολυδιάστατων σημάτων (data-level). Το δεύτερο στάδιο εξετάζει τις εξαρτήσεις μεταξύ διαφορετικών πεδίων (domains) από όπου αυτά τα σήματα προέρχονται ή και εφαρμόζονται (domain-level). Το τρίτο στάδιο εστιάζει στις εξαρτήσεις σε επίπεδο χρηστών (user-level), λαμβάνοντας υπόψη ότι σε πολλές εφαρμογές υπάρχουν διασυνδεδεμένοι χρήστες που επεξεργάζονται αυτά τα σήματα και μοιράζονται έναν κοινό στόχο. Η μοντελοποίηση αυτών των τριών ειδών αλληλοσυνδεόμενων εξαρτήσεων μπορεί να παρέχει κρίσιμες πληροφορίες και να βελτιώσει την απόδοση σε προβλήματα όπως η αύξηση της φασματικής ανάλυσης (spectral super-resolution), η αύξηση της ανάλυσης ενός φθηνού αισθητήρα LiDAR (LiDAR super-resolution) και οι συστάσεις μεταξύ διαφορετικών domains (cross-domain recommendation). Τα τελευταία χρόνια, λύσεις που βασίζονται στη βαθιά μάθηση (deep learning) καθίστανται ιδιαίτερα δημοφιλείς για την επεξεργασία πολυδιάστατων σημάτων. Ωστόσο, αυτές οι προσεγγίσεις φαίνεται να έχουν φτάσει σε ένα όριο όσον αφορά την απόδοση, με βαθύτερες αρχιτεκτονικές να προτείνονται χωρίς σαφή μαθηματική αιτιολόγηση και απαιτώντας όλο και μεγαλύτερα σύνολα δεδομένων για εκπαίδευση. Στην εν λόγω διατριβή υποστηρίζεται ότι με τη χρήση της θεωρίας βελτιστοποίησης, δύναται να αξιοποιηθεί πιο αποτελεσματικά το προτεινόμενο επίπεδο τριών εξαρτήσεων, οδηγώντας σε λύσεις που είναι τόσο ερμηνεύσιμες όσο και αποδοτικές. Πιο συγκεκριμένα, για τις εξαρτήσεις σε επίπεδο δεδομένων (data-level dependencies), αναπτύξαμε νέα προβλήματα βελτιστοποίησης χρησιμοποιώντας κατάλληλους όρους κανονικοποίησης που είτε μαθαίνονται από τα δεδομένα είτε επιλέγονται από κάποιον ειδικό (learnable- handcrafted regularizers), βασιζόμενα στη θεωρία βελτιστοποίησης, και σε εργαλεία όπως η αραιή αναπαράσταση (sparse representation). Με την αξιοποίηση αυτών των αρχών, αναπτύξαμε λύσεις που βασίζονται στις εξαρτήσεις των δεδομένων, οδηγώντας σε αποδοτικούς επαναληπτικούς αλγορίθμους. Επιπλέον, αξιοποιώντας μεθόδους όπως το deep unrolling και το deep equilibrium, οι προηγούμενες λύσεις μπορούν να βελτιωθούν περεταίρω, μετασχηματίζοντάς τες σε καινοτόμες και ερμηνεύσιμες αρχιτεκτονικές βαθιάς μάθησης. Τα εν λόγω ερμηνεύσιμα δίκτυα μπορούν να εφαρμοστούν σε μια ευρεία γκάμα εφαρμογών επεξεργασίας εικόνας, όπως η αποθορυβοποίηση και η αποσυνέλιξη υπερφασματικών εικόνων. Σε σενάρια όπου τα πολυδιάστατα σήματα προέρχονται από διαφορετικούς τομείς (domains), μπορούν να ληφθούν υπόψη πρόσθετες εξαρτήσεις, αυξάνοντας την αποτελεσματικότητα των προηγουμένως αναφερθέντων προσεγγίσεων. Για να αξιοποιήσουμε αυτές τις εξαρτήσεις, αναπτύξαμε μεθοδολογίες προσαρμογής τομέων (domain-adaptation) που στηρίζονται σε καινοτόμες τεχνικές όπως η μάθηση συζευγμένων λεξικών (coupled dictionary learning), η μάθηση συζευγμένων αυτόματων κωδικοποιητών (coupled autoencoders learning) και του deep unrolling. Οι εν λόγω μεθοδολογίες οδηγούν σε ερμηνεύσιμες λύσεις για προβλήματα όπως η αύξηση ανάλυσης φάσματος στην γεωργία ακριβείας, η αύξηση ανάλυσης φθηνών αισθητήρων LiDAR σε προβλήματα αυτόνομης οδήγησης και οι συστάσεις μεταξύ διαφορετικών πεδίων (cross-domain recommendation). Επιπλέον, σε αυτή τη διατριβή, επεκτείνουμε τις δυνατότητες των προτεινόμενων μεθοδολογιών, υποστηρίζοντας ότι σε πολλά σενάρια πραγματικού κόσμου, όπως η αυτόνομη οδήγηση, δίκτυα διασυνδεδεμένων χρηστών συνεργάζονται για την επεξεργασία και μάθηση από πολυδιάστατα δεδομένα. Για τις εξαρτήσεις σε επίπεδο χρηστών (user-level), εξετάσαμε την ομοσπονδιακή μάθηση (federated learning) για να επιτρέψουμε τη συνεργατική επεξεργασία λαμβάνοντας υπόψη την ιδιωτικότητα των δεδομένων και την υπολογιστική αποδοτικότητα. Τα προτεινόμενα μοντέλα συνεργατικής και βαθιάς μάθησης χαρακτηρίζονται κατάλληλα για σενάρια και προβλήματα με ετερογενείς συσκευές υπολογιστικής ισχύος και εφαρμόζονται σε προβλήματα όπως η αύξηση της ανάλυσης ενός αισθητήρα LiDAR και η ιατρική απεικόνιση και κατηγοριοποίηση. Συνολικά, αυτή η μελέτη παρέχει μια καινοτόμα σύνδεση μεταξύ μαθηματικά θεμελιωμένων τεχνικών βελτιστοποίησης, όπως η μοντελοποίηση αραιής αναπαράστασης, και σύγχρονων μεθόδων βαθιάς μάθησης. Ενσωματώνοντας αυτές τις προσεγγίσεις, αυτή η εργασία προσφέρει ερμηνεύσιμες και αποδοτικές λύσεις για σύνθετα προβλήματα επεξεργασίας πολυδιάστατων σημάτων. Οι συνεισφορές αυτής της εργασίας βελτιώνουν τις υπάρχουσες τεχνικές (state-of-the-art) σε ένα ευρύ φάσμα εφαρμογών όπως η τηλεπισκόπηση, η ακριβής γεωργία, τα αυτόνομα συστήματα και τα σύνθετα συστήματα συστάσεων, θέτοντας τα θεμέλια για μελλοντικές καινοτομίες στην επεξεργασία πολυδιάστατων σημάτων.