Federated machine learning in network environments for connected and automated mobility applications
Authors: Δραϊνάκης Γεώργιος 
Published: February 2025

Τα δίκτυα Πέμπτης και επόμενης Γενιάς (Beyond 5G - B5G) αναμένεται να μεταμορφώσουν τις κινητές επικοινωνίες, επιτρέποντας την ενσωμάτωση ανθρώπων, συσκευών (Internet of Things - IoT) και αισθητήρων σε ψηφιακά-φυσικά περιβάλλοντα, πραγματοποιώντας τελικά την έννοια του Υπερδικτύου των Πραγμάτων (Internet of Everything - IoE). Ένας βασικός παράγοντας που διευκολύνει αυτή τη μετάβαση είναι η σύγκλιση της Υπολογιστικής Νέφους (cloud computing) προς το πεδίο των κινητών συσκευών, που αναφέρεται ως Υπολογιστικό Συνεχές (compute continuum). Αυτό διευκολύνει την ανταλλαγή δεδομένων, την επεξεργασία και τη λήψη αποφάσεων σε όλους τους τομείς του δικτύου, από το νέφος και την άκρη του δικτύου (Edge), φτάνοντας έως και τις συσκευές σε επίπεδο χρήστη (Extreme-Edge).Η Τεχνητή Νοημοσύνη και η Μηχανική Μάθηση (Artificial Intelligence/Machine Learning - AI/ML) παίζουν κεντρικό ρόλο σε αυτή την εξέλιξη. Από τους τομείς της Βιομηχανίας 5.0 και της αυτοκίνησης μέχρι τη διασκέδαση, την εκπαίδευση και την υγειονομική περίθαλψη, οι τεχνολογίες αυτές έχουν εισαγάγει καινοτόμες λύσεις που επιτρέπουν σε υπολογιστικά συστήματα να μαθαίνουν από τα περιβαλλοντικά δεδομένα, καθιστώντας τα δυνατά σε πλήρη αυτονομία με ικανότητα λήψης αποφάσεων χωρίς την ανθρώπινη παρέμβαση. Παραδοσιακά, η Τεχνητή Νοημοσύνη σε περιβάλλοντα δικτύου υλοποιείται με κεντρικοποιημένο τρόπο, με τη συλλογή και επεξεργασία δεδομένων να πραγματοποιούνται σε κεντρικά υπολογιστικά νέφη. Ωστόσο, οι τελευταίες έρευνες έχουν στρέψει την προσοχή τους προς τις κατανεμημένες λύσεις, ώστε να αξιοποιηθούν τα δεδομένα που παράγονται από τις κινητές συσκευές. Σε αντίθεση με την Κεντρικοποιημένη Μάθηση (Centralized Learning - CL), οι μέθοδοι Κατανεμημένης Μάθησης, όπως η Συνεργατική Μάθηση (Federated Learning - FL), μεταφέρουν τον υπολογιστικό φόρτο στις συσκευές, προσφέροντας οφέλη όπως η επεκτασιμότητα, η μείωση κόστους και η προστασία της ιδιωτικότητας των δεδομένων των χρηστών. Η υπάρχουσα έρευνα για την Κατανεμημένη Μάθηση επικεντρώνεται κυρίως στην απόδοση (ακρίβεια) των εκπαιδευμένων μοντέλων, αγνοώντας συχνά τις πρακτικές πτυχές, όπως η επίδραση στην κατανάλωση πόρων του δικτύου. Η παρούσα διατριβή επιδιώκει να καλύψει αυτά τα κενά ερευνώντας την εφαρμογή των σχημάτων Κατανεμημένης Μάθησης από την πλευρά του συστήματος. Συγκεκριμένα, εξετάζει τις εφαρμογές Αυτόνομης και Διασυνδεδεμένης Κινητικότητας στον τομέα της αυτοκινητοβιομηχανίας, οι οποίες έχουν αυστηρές απαιτήσεις τόσο ως προς την απόδοση του δικτύου (π.χ. καθυστερήσεις) όσο και ως προς την απόδοση των εφαρμογών (π.χ. ασφάλεια). Ξεκινώντας, πραγματοποιούμε μια συγκριτική αξιολόγηση της απόδοσης μεταξύ Κεντρικοποιημένης και Συνεργατικής Μάθησης, αναλύοντας την αποδοτικότητα της εκπαίδευσης και την κατανάλωση πόρων σε όλο το φάσμα ενός δικτύου: τους χρήστες, το δίκτυο και τις υποδομές στο υπολογιστικό νέφος και την άκρη του δικτύου. Εξετάζουμε το πολύπλοκο πρόβλημα της επιλογής του σχήματος Μηχανικής Μάθησης, λαμβάνοντας υπόψη διάφορες παραμέτρους και περιορισμούς του συστήματος, συμπεριλαμβανομένων και των παραμέτρων δικτύου και κινητικότητας, καθώς και μετρικών Μηχανικής Μάθησης (π.χ. σύγκλιση). Στη συνέχεια, βασιζόμενοι στις νέες τεχνικές της Συνεχούς Μηχανικής Μάθησης, εξετάζουμε το φαινόμενο της Μετατόπισης Εννοιών, δηλαδή το πώς οι αλλαγές στις κατανομές δεδομένων των χρηστών με την πάροδο του χρόνου, επηρεάζουν την απόδοση των κατανεμημένων μοντέλων μάθησης, ιδίως σε κινητά και δίκτυα οχημάτων. Αυτά τα δίκτυα είναι εκ φύσεως δυναμικά και ταχέως μεταβαλλόμενα, άρα και επιρρεπή στο φαινόμενο της Μετατόπισης Εννοιών. Στη συνέχεια της διερεύνησης, προτείνουμε καινοτόμες τεχνικές για τη διαχείριση της Μετατόπισης Εννοιών με τρόπο αποδοτικό ως προς τους πόρους του δικτύου. Τέλος, επικυρώνουμε τα θεωρητικά ευρήματά μας μέσω πραγματικών δοκιμών. Αρχικά, διεξάγουμε μια εκστρατεία μετρήσεων μεγάλης κλίμακας για τη συλλογή δεδομένων ποιότητας υπηρεσίας και κινητικότητας χρηστών στο δικτύου, τα οποία στη συνέχεια χρησιμοποιούνται για την υλοποίηση μιας πρακτικής εφαρμογής Συνεργατικής Μάθησης: την κατανεμημένη πρόβλεψη παραμέτρων του δικτύου. Το πλαίσιο μας επεκτείνεται για τη διαχείριση και ενορχήστρωση πολλαπλών υπηρεσιών Συνεργατικής Μάθησης, εισάγοντας έναν ενορχηστρωτή για συσκευές χρηστών που εκτελούν υπηρεσίες Μηχανικής και Συνεργατικής Μάθησης. Ο ενορχηστρωτής αναπτύσσεται σε ένα πραγματικό δίκτυο Πέμπτης Γενιάς και αξιολογείται με κινητές (εντός οχημάτων) και στατικές (εργαστηριακές) συσκευές. Τα αποτελέσματα επιδεικνύουν τη δυνατότητα διαχείρισης του κύκλου ζωής σε πολλαπλές υπηρεσίες, επισημαίνοντας τη δυνατότητα εφαρμογής της Συνεργατικής Μάθησης σε μεγάλης κλίμακας περιβάλλοντα και εφαρμογές Αυτόνομης και Διασυνδεδεμένης Κινητικότητας.