Supervising deep learning models with autoencoder based approaches
Creators: name: Kühne, Joana
Publisher: name: Technische Universität Berlin
Year: 2024
Subjects: subject: 600 Technik, Medizin, angewandte Wissenschaften::620 Ingenieurwissenschaften::620 Ingenieurwissenschaften und zugeordnete Tätigkeiten
subject: artificial neural network
subject: adversarial attack
subject: autoencoder
subject: deep learning

description: With the ongoing integration of Artificial Intelligence (AI) in more areas of industrial processes as well as in the daily lives of people, the need for securing the predictions conducted by the respective neural networks increases. Since artificial neural networks are data based models, and thus not grounded on any universal physical or chemical principles, they often lack extrapolation capabilities. This means that for inputs differing significantly from the training data distribution, the accuracy of the prediction cannot be guaranteed. Modified inputs can for example occur due to aging of the system collecting the input data, e.g. sensor drifts and noise, or due to intentional corruptions. The latter so-called adversarial attacks have gained a lot of attention recently. Depending on the knowledge of the underlying neural network and data, adversarial attacks can effectively fool neural networks by applying only small perturbations on the input data. The present thesis aims at analyzing the effect of different input data perturbations and developing methods to lessen their influence on neural network predictions. In the course of that, four different areas of application are evaluated, namely time-series prediction, classification, point regression and similarity estimation. The developed supervision approaches are based on autoencoders, which have been proven effective for anomaly detection in the past and are thus believed to be useful for neural network supervision regarding input perturbations. For time-series prediction, a Hybrid Model was developed which takes advantage of the availability of a more reliable physicochemical model, which can dynamically replace the neural network prediction for unknown input data. This selection of the prediction model is conducted by monitoring the reconstruction loss of an autoencoder. Moreover, in case of the absence of a substitute model, the Joint Model was introduced, which estimates the error of the neural network prediction. It is a combination of the prediction network and an autoencoder. The main idea is conducting two predictions, one based on the original input and one on the reconstructed input generated by the autoencoder. The prediction error can be estimated based on the difference between the two predictions. The two models, Hybrid and Joint, were successfully applied to a Selective Catalytic Reduction (SCR) catalyst dataset. For the tasks of classification, point regression and similarity estimation a different approach is pursued based on selective prediction. Three VAE based selection approaches are developed, (Joint Model, Joint Softmax / Sigmoid and Latent distance) and compared to three state-of-the- art methods (Softmax Response, VAE Reconstruction Loss, Selective Net). For testing the effectiveness of the selection algorithms, Gaussian noise and gradient based adversarial attacks (FGSM, PGD, BIM) were applied. It could be successfully shown that the prediction risk can be reduced by rejecting samples which subsequently reduces the coverage of the neural network prediction. Especially the Joint Model, which was slightly adapted from the time-series prediction application, performed well for classification and similarity estimation tasks for strong attacks. Moreover, the selection approaches were successfully combined with PGD training as state-of-the-art defense against adversarial attacks.
description: Mit der fortschreitenden Integration Künstlicher Intelligenz (KI) in immer mehr Bereiche der industriellen Prozesse sowie des täglichen Lebens der Menschen steigt die Notwendigkeit, die von den jeweiligen neuronalen Netzen durchgeführten Vorhersagen zu überwachen. Da künstliche neuronale Netze datenbasierte Modelle sind, und somit nicht auf universellen physikalischen oder chemischen Prinzipien beruhen, fehlt es ihnen oft an Extrapolationsfähigkeit. Das bedeutet, dass bei Eingaben, die erheblich von der Verteilung der Trainingsdaten abweichen, die Genauigkeit der Vorhersage nicht garantiert werden kann. Veränderte Eingaben können zum Beispiel durch Alterung des Systems, das die Eingabedaten sammelt, entstehen, z. B. durch Sensordrift und Rauschen, oder durch absichtliche Verfälschungen. Letztere, sogenannte Adversarial Attacks, haben in letzter Zeit vermehrt Aufmerksamkeit erhalten. Je nach Kenntnis des zugrunde liegenden neuronalen Netzes und der Daten kann die Vorhersage mit nur geringfügigen Veränderungen der Eingabedaten verfälscht werden. Die vorliegende Arbeit zielt darauf ab, die Auswirkungen verschiedener Veränderungen der Eingabedaten zu analysieren und Methoden zu entwickeln, um deren Einfluss auf die Vorhersagen neuronaler Netze zu verringern. Im Zuge dessen, werden vier verschiedene Anwendungsbereiche neuronaler Netze untersucht: Zeitreihenvorhersage, Klassifikation, Punktregression und Ähnlichkeitsschätzung. Die entwickelten Überwachungsansätze basieren auf Autoencodern, die sich in der Vergangenheit bei der Erkennung von Anomalien bewährt haben und daher für die Überwachung neuronaler Netze im Hinblick auf Eingangsdatenmanipulationen anwendbar sind. Für die Vorhersage von Zeitreihen wurde ein Hybrid-Modell entwickelt, das die Verfügbarkeit eines zuverlässigeren physikalisch-chemischen Modells nutzt, welches die Vorhersage des neuronalen Netzes für unbekannte Eingangsdaten dynamisch ersetzen kann. Diese Auswahl erfolgt durch Monitoring des Rekonstruktionsfehlers eines Autoencoders. Außerdem wurde für den Fall, dass kein Ersatzmodell zur Verfügung steht, das Joint Model entwickelt, das den Vorhersagefehler des neuronalen Netzes schätzt. Das Joint Model besteht aus dem Netzwerk für die eigentliche Vorhersage und einem Autoencoder. Das grundlegende Prinzip des Joint Model beinhaltet die Durchführung von zwei Vorhersagen: eine basierend auf der ursprünglichen Eingabe und eine basierend auf der Rekonstruktion des Autoencoders. Der Vorhersagefehler lässt sich anhand der Differenz der Vorhersagen abschätzen. Die beiden Modelle, Hybrid und Joint, wurden erfolgreich auf einen selektive katalytische Reduktion (SCR) Katalysator-Datensatz angewandt. Für die Anwendungsfälle Klassifizierung, Punktregression und Ähnlichkeitsschätzung wird ein anderer Ansatz verfolgt, der auf selektiver Vorhersage beruht. Es wurden drei Selektionsverfahren entwickelt (Joint-Model, Joint-Softmax / Sigmoid und Latent-Distance), die auf Variational Autoencodern (VAEs) basieren und mit drei State of the Art Methoden (Softmax, VAE Reconstructin Loss, Selective Net) verglichen. Um die Wirksamkeit der Selektionsalgorithmen zu evaluieren, wurden Gaußsches Rauschen und gradientenbasierte Angriffe (FGSM, PGD, BIM) auf die Eingabedaten angewendet. Es konnte erfolgreich gezeigt werden, dass das Vorhersagerisiko durch die Selektion von Beispielen reduziert werden kann, womit gleichzeitig die Abdeckung der Vorhersage des neuronalen Netzes verringert wird. Insbesondere das Joint-Model, das für die selektive Vorhersage geringfügig angepasst wurde, zeigte gute Leistungen für Klassifizierungs- und Ähnlichkeitsschätzungsaufgaben bei stärkeren Attacks. Außerdem wurden die Selektionsansätze erfolgreich mit PGD-Training als State of the Art Vorgehen gegen Adversarial Attacks kombiniert.