On reversible non-linear transformation-based on universal adversarial attacks
Creators: name: Αλτίνη, Στεφανία Αθανασίου
Publisher: name: Aristotle University of Thessaloniki
Year: 2023
Subjects: Μη-γραμμικά αντιπαραθετικά παραδείγματα
Ανακατασκευή Εικόνας
Αναστρέψιμα Aναγεννητικά Aνταγωνιστικά Δίκτυα (ΑΑΔ)
Reversible adversarial examples
Image Reconstruction
Reversible Generative Adversarial Networks (GANs)

description: Τα βαθιά νευρωνικά δίκτυα (DNN) έχουν βρεθεί ότι είναι ευάλωτα σε επιθέσεις αντιπάλου, δηλαδή σε ανεπαίσθητες διαταραχές που προστίθενται στις αρχικές εισόδους από έναν αν- τίπαλο. Στη βιβλιογραφία έχουν προταθεί διαφορετικές μέθοδοι επίθεσης για τη δημιουργία παραδειγμάτων αντιπάλου, εστιάζοντας κυρίως στην αποτελεσματικότητα και την οπτική ποιότητα, π.χ. ομοιότητα με τα μη αντιπαραθετικά παραδείγματα, επιτρέποντας έτσι τη χρήση επιθέσεων αντιπάλου για προστασία της ιδιωτικής ζωής έναντι αυτοματοποιημένων συστημάτων ταξινόμησης, διατηρώντας παράλληλα τη χρησιμότητα για τους χρήστες. Σε αυτό το παράδειγμα, όταν αρθούν οι περιορισμοί απορρήτου, θα πρέπει να αποκαταστα- θεί η πρόσβαση στα αρχικά δεδομένα, για όλους τους ενδιαφερόμενους. Εξετάζουμε την περίπτωση όπου οι αντιπαραθετικές επιθέσεις δημιουργούνται από μια αρχιτεκτονική Gen- erative Neural Network (GAN). Σε αυτήν την περίπτωση, οι υπάρχουσες μέθοδοι δεν είναι σε θέση να ανακατασκευάσουν τα αρχικά δεδομένα με βάη τα αντιπαραθετικά, οδηγώντας σε σημαντική επιβάρυνση αποθήκευσης για όλες τις εφαρμογές απορρήτου. Για την επίλυση αυτού του ζητήματος, προτείνουμε μια αρχιτεκτονική νευρωνικών δικτύων βασισμένη στο AdvRevGAN για τη δημιουργία αντίθετων παραδειγμάτων που είναι επίσης αναστρέψιμα. Αξιολογούμε αυτή την προσέγγιση σε σύνολα δεδομένων ταξινόμησης, όπου εξετάζουμε την περίπτωση όπου οι αντιπαραθετικές επιθέσεις κατασκευάζονται από ένα νευρωνικό δίκτυο, ενώ οι αρχικές ανακατασκευάζονται χρησιμοποιώντας έναν αντίστροφο μετασχηματισμό από τα αντιπαρρραθετικά παραδείγματα. ∆είχνουμε ότι οι επιθέσεις αντιπάλου που χρησι- μοποιούν αυτήν την προσέγγιση διατηρούν την αποτελεσματικότητά τους, ενώ η ακρίβεια ταξινόμησης του μοντέλου στα ανακατασκευασμένα δεδομένα μπορεί σχεδόν να αποκατασ- ταθεί πλήρως.
description: Deep Neural Networks (DNNs) have been found to be vulnerable to adversarial attacks, i.e., imperceptible perturbations added to original inputs by an adversary. Different attack methods for generating adversarial examples have been proposed in the literature, mainly focusing on efficiency and visual quality, e.g., similarity with the non-adversarial examples, thus enabling the use of adversarial attacks for privacy protection against automated classification systems, while maintaining utility for human users. In this paradigm, when privacy restrictions are lifted, access to the original data should be restored, for all stakeholders. We consider the case where the adversarial attacks are generated by a Generative Neural Network architecture. In this case, existing methods are unable to reconstruct the original data from the adversarial ones, leading to a significant storage overhead for all privacy applications. To solve this issue, we propose a Neural Network architecture based on AdvRevGAN to generate adversarial ex- amples that are also reversible. We evaluate this approach in classification datasets, where we examine the the case where the adversarial attacks are constructed by a neural network, while the original ones are reconstructed using a reverse transformation from the adversarial exam- ples. We showcase that the adversarial attacks using this approach maintain their efficiency, while the classification accuracy of the model in the reconstructed data can almost totally be restored.