Explainable Time Series Anomaly Detection
Creators: name: Παπαγεωργίου, Παρασκευή Ελευθερίου
Publisher: name: Aristotle University of Thessaloniki
Year: 2024
Subjects: Επεξηγήσιμη Τεχνητή Νοημοσύνη
Εύρεση ανωμαλιών
Χρονοσειρές
Explainable Artificial Intelligence
Anomaly Detection
Time Series

description: The increasing reliance on time series data across various domains such as finance, health- care, and manufacturing necessitates robust anomaly detection techniques to identify critical deviations that may indicate faults, fraud, or other significant events. This thesis explores explainable time series anomaly detection, emphasizing the importance of not only identify- ing anomalies but also providing transparent and interpretable explanations of the detection process. The research integrates state-of-the-art anomaly detection methodologies with ex- plainability techniques to enhance model transparency and user trust. A comprehensive framework is proposed, leveraging both semi-supervised and unsupervised approaches, including Convolutional Neural Networks (CNNs), Isolation Forest, Local Outlier Factor, and Matrix Profile, among others. Explainability is addressed using techniques such as SHapley Additive exPlanations (SHAP), Local Interpretable Model-Agnostic Explanations (LIME), Integrated Gradients, and Layer-wise Relevance Propagation (LRP), which provide insights into the decision-making process of these models. The effectiveness of these techniques is evaluated on benchmark datasets, highlighting the balance between anomaly detection performance and the quality of explanations. This research contributes to the field by developing a principled approach to evaluating and extending explainable anomaly detection methods, providing actionable insights and fostering trust in AI systems. The results demonstrate the feasibility of integrating explainability into time series anomaly detection, paving the way for more interpretable and effective solutions in real-world applications.
description: Η αυξανόμενη εξάρτηση από δεδομένα χρονοσειρών σε διάφορους τομείς, όπως η χρηματοοικονομική, η υγειονομική περίθαλψη και η βιομηχανία, καθιστά απαραίτητες τις ανθεκτικές τεχνικές ανίχνευσης ανωμαλιών για τον εντοπισμό κρίσιμων αποκλίσεων που μπορεί να υποδεικνύουν σφάλματα, απάτη ή άλλα σημαντικά γεγονότα. Αυτή η διατριβή εξετάζει την ανιχνευσιμότητα των ανωμαλιών στις χρονοσειρές, δίνοντας έμφαση όχι μόνο στην ανίχνευση των ανωμαλιών αλλά και στην παροχή διαφανών και ερμηνεύσιμων εξηγήσεων της διαδικασίας ανίχνευσης. Η έρευνα ενσωματώνει τις πιο σύγχρονες μεθοδολογίες ανίχνευσης ανωμαλιών με τεχνικές εξηγησιμότητας για την ενίσχυση της διαφάνειας των μοντέλων και της εμπιστοσύνης των χρηστών. Προτείνεται ένα ολοκληρωμένο πλαίσιο που αξιοποιεί τόσο ημι-επιβλεπόμενες όσο και μη επιβλεπόμενες προσεγγίσεις, συμπεριλαμβανομένων των Συνελικτικών Νευρωνικών Δικτύων (CNNs), Isolation Forest, Local Outlier Factor και Matrix Profile, μεταξύ άλλων. Η εξηγησιμότητα επιτυγχάνεται μέσω τεχνικών όπως οι SHapley Additive exPlanations (SHAP), Local Interpretable Model-Agnostic Explanations (LIME), Ολοκληρωμένες Κλίσεις (Integrated Gradients) και Ανάδραση Σχετικότητας ανά Στρώμα (Layer-wise Relevance Propagation - LRP), οι οποίες παρέχουν πληροφορίες για τη διαδικασία λήψης αποφάσεων αυτών των μοντέλων. Η αποτελεσματικότητα αυτών των τεχνικών αξιολογείται σε σύνολα δεδομένων αναφοράς, υπογραμμίζοντας την ισορροπία μεταξύ της απόδοσης ανίχνευσης ανωμαλιών και της ποιότητας των εξηγήσεων. Αυτή η έρευνα συμβάλλει στον τομέα με την ανάπτυξη μιας τεκμηριωμένης προσέγγισης για την αξιολόγηση και επέκταση των μεθόδων ανίχνευσης ανωμαλιών με εξηγησιμότητα, παρέχοντας εφαρμόσιμες γνώσεις και ενισχύοντας την εμπιστοσύνη στα συστήματα τεχνητής νοημοσύνης. Τα αποτελέσματα δείχνουν τη δυνατότητα ενσωμάτωσης της εξηγησιμότητας στην ανίχνευση ανωμαλιών σε χρονοσειρές, ανοίγοντας τον δρόμο για πιο ερμηνεύσιμες και αποτελεσματικές λύσεις σε εφαρμογές του πραγματικού κόσμου.