LionLearn: Τεχνικές τοπικής επεξήγησης μη ερμηνεύσιμων μοντέλων μηχανικής μάθησης
Creators: name: Μολλάς, Ιωάννης Αντωνίου
Publisher: name: Aristotle University of Thessaloniki
Year: 2020
Subjects: Ερμηνεύσιμη μηχανική μάθηση
Επεξηγήσιμη τεχνητή νοημοσύνη
Βιβλιοθήκη
Interpretable machine learning
Explainable artificial intelligence
Library

description: Τα συστήματα μηχανικής μάθησης έχουν αναπτυχθεί τόσο που τείνουν να ενσωματωθούν στη ζωή μας, οπότε είναι σημαντικό να μελετήσουμε τεχνικές για να εξηγήσουμε τέτοια συστήματα. Αυτή η φάση ενσωμάτωσης θα επιταχυνθεί με την ενίσχυση της εμπιστοσύνης μεταξύ αυτών των συστημάτων και των ανθρώπων. Η συγκεκριμένη εργασία παρουσιάζει μια βιβλιοθήκη που περιέχει δύο τοπικές τεχνικές ερμηνείας νευρωνικών δικτύων και τυχαίων δασών, αντίστοιχα. Η πρώτη είναι μια μεθοδολογία για την επεξήγηση των αποφάσεων ενός νευρωνικού δικτύου, σε τοπικό πεδίο, μέσω μιας διαδικασίας που λαμβάνει ενεργά υπόψη την αρχιτεκτονική του νευρωνικού δικτύου για τη δημιουργία της γειτονιάς ενός παραδείγματος, η οποία εξασφαλίζει τη γειτνίαση μεταξύ των παραγόμενων γειτόνων και του δείγματος. Τα ευρήματα των διεξαγόμενων πειραμάτων χρησιμοποιώντας αυτές τις τεχνικές δείχνουν ότι υπάρχει μια σημαντική ικανότητα να συλλάβουν ευαίσθητες αλλαγές στη επιρροή των χαρακτηριστικών. Τα σύνολα δέντρων, όπως τα τυχαία δάση, είναι ευρέως αποδεκτές προσεγγίσεις για μια ποικιλία εργασιών μηχανικής μάθησης, ενώ ταυτόχρονα αποφεύγονται εξαιτίας της μη ερμηνεύσιμης φύσης τους, δημιουργώντας ένα παράλογο παράδοξο. Η δεύτερη μέθοδος, λοιπόν, είναι μια ακολουθία ενεργειών που ρίχνουν φως στις προβλέψεις της οικογένειας αλγορίθμων συνόλου δένδρων που έχουν υποτιμηθεί εσφαλμένα. Η ικανότητα ερμήνευσης των συνόλων δέντρων προκύπτει από τη χρήση κλασικών τεχνικών μάθησης χωρίς επίβλεψη και από μια μετρική ομοιότητας. Η προτεινόμενη βιβλιοθήκη, που περιέχει τις δύο μεθοδολογίες ονομάζεται LionLearn.
description: Machine learning systems are integrating into our lives, so it's important to study techniques to explain them. This integration phase will be accelerated by fostering trust between these systems and people. This thesis presents a library containing two local-based, model-specific interpretation techniques for neural networks and random forests models, respectively. The first is a methodology for explaining the decisions of a neural network, in a local scope, through a process that actively takes into account the architecture of the neural network in creating the neighbourhood of an instance, which ensures adjacency between the neighbours generated and the instance. The findings of the conducted experiments using these techniques show that there is a significant ability to capture sensitive changes in the coefficients of features. Tree ensembles, like random forests, are widely acceptable approaches on a variety of tasks while, at the same time, are being avoided due to their uninterpretable black-box nature, creating an unreasonable paradox. Thus, the second method is a sequence of acts to shed light on the predictions of the misjudged tree ensemble algorithms-family. The interpretable essence of tree ensembles arises from the use of classic unsupervised learning techniques and an enhanced similarity metric, to wander among transparent trees in a forest following breadcrumbs. The proposed library is called LionLearn.