Physics-informed numerical analysis and machine learning for modelling and analysis of large scale complex systems with applications in computational neuroscience
Authors: Γαλάρης Ευάγγελος 
Published: February 2024

Αυτή η διατριβή ασχολείται με την ανάπτυξη και εφαρμογή μεθόδων αριθμητικής ανάλυσης και μηχανικής μάθησης βασισμένες στους νόμους της φυσικής για την επίλυση τόσο του αντιστρόφου όσο και του ευθέως προβλήματος στη μοντελοποίηση περίπλοκων συστημάτων και της αριθμητικής ανάλυσης διακλάδωσης της αναδυόμενης δυναμικής από δεδομένα μεγάλης κλίμακας. Η μοντελοποίηση και ανάλυση της αναδυόμενης συμπεριφοράς περίπλοκων συστημάτων μεγάλης κλίμακας από πειραματικά δεδομένα ή/και δεδομένα που παράγονται από μικροσκοπικούς προσομοιωτές απαιτεί κατάλληλες μεθόδους βασισμένες στην αριθμητική ανάλυση και την ανάλυση δεδομένων για την εξαγωγή μοντέλων μακροσκοπικής κλίμακας που μπορούν να χρησιμοποιηθούν για περαιτέρω αριθμητική ανάλυση της αναδυόμενης δυναμικής. Τα αποτελέσματα αυτής της διατριβής είναι διεπιστημονικά, γεφυρώνουν μεθοδολογίες αιχμής από την αριθμητική ανάλυση, την μηχανική μάθηση, τις μικροσκοπικές προσομοιώσεις, την θεωρία διακλάδωσης και την νευροαπεικόνιση. Οι ερευνητικές προσπάθειες και τα αποτελέσματα επικεντρώθηκαν σε τρεις βασικές κατευθύνσεις. Αρχικά ερευνήθηκε η λύση του αντίστροφου προβλήματος του εντοπισμού των πηγών στη νευροαπεικόνιση, η αξιοποίηση και σύγκριση των επιδόσεων μεθόδων προηγμένης τεχνολογίας, συγκεκριμένα της Ηλεκτρομαγνητικής Τομογραφίας Χαμηλής Ευκρίνειας (LORETA), της σταθμισμένης Εκτίμησης Ελάχιστης Νόρμας (wMNE) και της Δυναμικής Στατιστικής Παραμετρικής Χαρτογράφησης (dSPM) καθώς και οι πληροφορίες που προκύπτουν από την ηλεκτροφυσιολογία του εγκεφάλου. Ειδικότερα, οι ερευνητικές προσπάθειες επικεντρώθηκαν στον εντοπισμό των πηγών εγκεφαλικής δραστηριότητας των παιδιών με επιληψία με βάση καταγραφές ηλεκτροεγκεφαλογραφίας που αποκτήθηκαν κατά τη διάρκεια ενός οπτικού ερεθίσματος μνήμης. Η μελέτη και τα ευρήματά μας αποκαλύπτουν επίσης τη σημασία και τις δυνατότητες που πηγάζουν από τη χρήση πληροφοριών που βασίζονται στη φυσική καθώς και διαθέσιμων στο κοινό επιστημονικών πόρων όπως η βάση δεδομένων «Neurodevelopmental MRI», η οποία επιτρέπει στους ερευνητές να αναλύσουν αριθμητικά τα διαθέσιμα δεδομένα νευροαπεικόνισης και να διερευνήσουν ερωτήσεις πέρα από αυτό το εύρος των αρχικών μελετών. Στη συνέχεια, η διατριβή ασχολήθηκε με την επίλυση του αντίστροφου προβλήματος της μοντελοποίησης πολύπλοκων συστημάτων, δηλαδή την κατασκευή μερικών διαφορικών εξισώσεων από χωροχρονικά δεδομένα. Για αυτόν τον σκοπό, (α) πρώτα ενσωματώθηκαν τα υψηλών διαστάσεων χωροχρονικά δεδομένα που παράγονται από μικροσκοπικούς προσομοιωτές σε μια πολλαπλότητα χαμηλής διάστασης με τη βοήθεια αλγορίθμων μάθησης πολλαπλοτήτων (Manifold Learning) και ειδικότερα Χάρτες Διάχυσης (Diffusion Maps), προσδιορίζοντας ένα κατάλληλο σύνολο παρατηρήσιμων μεταβλητών, (β) με βάση τα εξαγόμενα παρατηρήσιμα στοιχεία, χρησιμοποιήθηκε μηχανική μάθηση για να αναγνωρισθεί ένα σύστημα μερικών διαφορικών εξισώσεων και, (γ) με βάση το σύστημα, προσομοιώθηκε το ευθύ πρόβλημα, άρα η επίλυση του συστήματος αριθμητικά και κατασκευάσθηκε το αντίστοιχο διάγραμμα διακλάδωσης για να μελετηθεί συστηματικά η αναδυόμενη δυναμική. Για την εφαρμογή της μεθόδου, χρησιμοποιήθηκε το μοντέλο FitzHugh-Nagumo που μοντελοποιεί την νευρωνική δυναμική ενεργοποίησης και αναστολής των νευρώνων από δεδομένα που δημιουργήθηκαν από προσομοιώσεις Lattice Boltzmann. Τέλος, κατασκευάσθηκε μια αριθμητική μέθοδος που βασίζεται σε νευρωνικά δίκτυα τυχαίας προβολής για την επίλυση του προβλήματος αρχικών τιμών συστημάτων συνήθων διαφορικών εξισώσεων (που μπορεί επίσης να προκύψουν από τη χωρική διακριτοποίηση μερικών διαφορικών εξισώσεων). Η αριθμητική λύση των προβλημάτων αρχικών τιμών προκύπτει με την κατασκευή ενός συστήματος από μη γραμμικές αλγεβρικές εξισώσεις, το οποίο λύνεται ως προς τα βάρη εξόδου μέσω επαναλήψεις της μεθόδου του Newton. Αξιολογήθηκε η απόδοση της προτεινόμενης μεθόδου μέσω τριών συστημάτων stiff διαφορικών εξισώσεων, του Prothero-Robinson, του van der Pol και του προβλήμας ROBER. Επιπλέον, η προτεινόμενη μέθοδος συγκρίθηκε με την μέθοδο Runge-Kutta και της μεθόδου μεταβλητού βήματος πολλαπλών βημάτων που βασίζεται σε τύπους αριθμητικής διαφοροποίησης, όπως υλοποιείται από τις εντολές ode45 και ode15s στο Μatlab. Δείχνουμε ότι το προτεινόμενο σχήμα αποδίδει καλή ακρίβεια προσέγγισης, υπερτερώντας σε ορισμένες περιπτώσεις των εντολών ode45 και ode15s, ειδικά στις περιπτώσεις που προκύπτουν απότομες κλίσεις στις καμπύλες λύσεων. Επιπλέον, οι υπολογιστικοί χρόνοι της προσέγγισής μας είναι συγκρίσιμοι με εκείνους των δύο επιλυτών του Μatlab για όλους τους πρακτικούς σκοπούς.