Intrinsic interpretable machine learning frameworks for image classification
Authors: Πιντέλας Εμμανουήλ 
Published: August 2023

Γενικά, ο στόχος του πεδίου της ερμηνευσιμότητας και εξηγησιμότητας στη μάθηση μηχανής στοχεύει στην παροχή εξήγησης για τις προβλέψεις που πραγματοποιούνται από έξυπνα μοντέλα μηχανής που χρησιμοποιούνται σε πρακτικά πεδία εφαρμογών. Η ερμηνευσιμότητα/εξηγησιμότητα στο πεδίο της μηχανικής μάθησης έχει γίνει πρόσφατα σημαντικό πρόβλημα, διότι πολλές εφαρμογές του πραγματικού κόσμου χρειάζονται δικαιολογία και εξήγηση για τις αποφάσεις που παίρνουν τα μοντέλα τους ΜΜ, παρότι είναι απαραίτητο να είναι δυνατή η κατανόηση του μηχανισμού λήψης αποφάσεων/προβλέψεων τους για να τους εμπιστευτούν, ιδιαίτερα σε κρίσιμες καταστάσεις. Ένα πεδίο όπου η εξηγησιμότητα είναι ιδιαίτερα σημαντική είναι στις ιατρικές εφαρμογές όπως η πρόγνωση καρκίνου, η οποία είναι μια κρίσιμη δίλημμα απόφασης για "ζωή ή θάνατο". Σε αυτές τις καταστάσεις, η απόδοση ενός συστήματος λήψης αποφάσεων μηχανικής μάθησης πρέπει να λαμβάνει υπόψη την ακρίβεια και την ερμηνευσιμότητα κατά την αξιολόγηση της αποτελεσματικότητάς του.Επιπλέον, ο Κανονισμός Προστασίας Δεδομένων της Ευρωπαϊκής Ένωσης (GDPR) δηλώνει ότι η δημιουργία εξηγήσιμων μοντέλων έχει γίνει ανάγκη σε εφαρμογές του πραγματικού κόσμου. Η υποχρέωση "δικαίωμα σε εξήγηση" καθιερώθηκε από το GDPR το 2018 για κάθε αυτοματοποιημένη κρίση που γίνεται από μοντέλα που χρησιμοποιούν τεχνητή νοημοσύνη. Αυτή η νέα νομοθεσία προωθεί την ανάπτυξη αλγοριθμικών πλαισίων που πρέπει να εγγυώνται μια εξήγηση για κάθε πρόβλεψη που κάνει ένα πλαίσιο μηχανικής μάθησης. Το GDPR έχει νομικά απαιτήσει αυτήν τη ζήτηση. Τα λευκά ή ερμηνεύσιμα μοντέλα είναι εκείνα τα μοντέλα πρόβλεψης οι αποφάσεις τους είναι κατανοητές, ενώ τα εξηγήσιμα μοντέλα μπορούν να παρέχουν ανθρωποκεντρική δικαιολόγηση για τις αποφάσεις τους. Αυτά τα χαρακτηριστικά είναι κρίσιμα για τη δημιουργία εμπιστοσύνης στις προβλέψεις ενός μοντέλου, ιδιαίτερα όταν αυτές οι προβλέψεις ασχολούνται με ζητήματα ζωής, δικαιωμάτων, ασφάλειας και εκπαιδευτικών ζητημάτων. Οι Συνελικτικοί Νευρωνικοί Δίκτυα (CNNs) έχουν ανθήσει στα πεδία της μηχανικής μάθησης και της όρασης υπολογιστών για την κατηγοριοποίηση εικόνων χάρη στην επιτυχία τους ως υψηλά αποτελεσματικοί εξόρυκτες χαρακτηριστικών εικόνων. Ένα μοντέλο CNN θεωρείται μοντέλο "μαύρου κουτιού" διότι τα χαρακτηριστικά που δημιουργεί δεν μπορούν να κατανοηθούν, καθώς υπολογίζονται χρησιμοποιώντας μια εξαιρετικά περίπλοκη λειτουργία εξόρυξης χαρακτηριστικών και δεν έχουν κανένα πρακτικό ανθρώπινο νόημα. Κάθε μοντέλο πρόβλεψης του οποίου η συνάρτηση λήψης αποφάσεων είναι μη διαφανής, δυσκολεύει να εξηγηθεί, ή δεν μπορεί να κατανοηθεί αλλιώς, θεωρείται μοντέλο μαύρου κουτιού.Το κύριο επίκεντρο αυτής της διδακτορικής διατριβής είναι η ανάπτυξη νέων πλαισίων μηχανικής μάθησης για εργασίες κατηγοριοποίησης εικόνων που είναι αξιόπιστα, κατανοητά και εξηγήσιμα. Συγκεκριμένα, παρουσιάζουμε και αναπτύσσουμε νέες καινοτόμες τεχνικές Εξόρυξης Δεδομένων και Εξόρυξης Χαρακτηριστικών για την κατασκευή εσωτερικά ερμηνεύσιμων/εξηγήσιμων μοντέλων Μηχανικής Μάθησης για Εφαρμογές Αναγνώρισης Εικόνων. Τα πειραματικά μας αποτελέσματα αποκάλυψαν την αποτελεσματικότητα των προτεινόμενων μεθόδων.