Αντιπαραθετική μηχανική μάθηση

Η **αντιπαραθετική μηχανική μάθηση**, γνωστή και ως **αντιπαλική μηχανική μάθηση**, είναι μια τεχνική στον τομέα της μηχανικής μάθησης κατά την οποία ανιχνεύονται δεδομένα εισαγωγής που μπορούν να ξεγελάσουν ένα μοντέλο.  Η τεχνική αυτή μπορεί να εφαρμοστεί για διάφορους λόγους, συμπεριλαμβανομένων την κακόβουλη επίθεση του εξαπατώμενου μοντέλου, την εξέταση της ευρωστείας του εξαπατώμενου μοντέλου σε επιθέσεις και την εξασφάλιση της ανεξαρτησίας του αποτελέσματος του εξαπατώντος  μοντέλου από την τιμή που αξιολογεί το εξαπατώμενο.   

## Αντιπαραθετικές επιθέσεις
Οι τεχνικές μηχανικής μάθησης σχεδιάστηκαν αρχικά για σταθερά περιβάλλοντα όπου τα δεδομένα εκπαίδευσης και δοκιμής προέρχονται από την ίδια στατιστική κατανομή. Όταν όμως τα μοντέλα αυτά εφαρμόζονται στον πραγματικό κόσμο, η παρουσία ευφυών και προσαρμοστικών αντιπάλων ενδέχεται ανάλογα με τον αντίπαλο να παραβιάσει σε κάποιο βαθμό αυτή τη στατιστική υπόθεση. Η αντιπαραθετική μάθηση δείχνει πως ένας κακόβουλος αντίπαλος μπορεί να παραποιήσει κρυφά τα δεδομένα εισόδου έτσι ώστε να εκμεταλλευτεί συγκεκριμένες ευπάθειες των αλγορίθμων μάθησης και να θέσει σε κίνδυνο την ασφάλεια του συστήματος.  

Οι αντιπαραθετικές επιθέσεις μπορούν να ταξινομηθούν σε επιθέσεις διαφυγής, όπου δημιουργούνται παραγείγματα που, βάσει μικρών τροποποιήσεων, διαφεύγουν την ανίχνευση ενός εκπαιδευμένου μοντέλου, και επιθέσεις δηλητηρίασης, όπου προστίθεται μικρός αριθμός αντιπαραθετικών παραδειγμάτων στα δεδομένα εκπαίδευσης με αποτέλεσμα την δυσλειτουργία του εκπαιδευμένου συστήματος.     

### Επιθέσεις διαφυγής
Παραδείγματα περιλαμβάνουν επιθέσεις κατά συστημάτων φιλτραρίσματος ανεπιθύμητων μηνυμάτων (spam), όπου τα ανεπιθύματα μηνύματα διαφεύγουν την ανίχνευση μέσω της τροποποίησης της ορθογραφίας "κακών" λέξεων ή της προσθήκης "καλών" λέξεων, μηνύματα περιλαμβανόμενων των οποίων το σύστημα έχει μάθει να θεωρέι πάντα επιθυμητά,   και επιθέσεις κατά της βιομετρικής αναγνώρισης, όπου παράγονται ψευδή βιομετρικά χαρακτηριστικά για να μιμηθούν έναν νόμιμο χρήστη.  

Το 2017, οι ερευνητές του Ινστιτούτου Τεχνολογίας της Μασαχουσέτης  εκτύπωσαν τρισδιάστατα μια πλαστική χελώνα με υφή σχεδιασμένη για να κάνει την τεχνιτή νοημοσύνη ανίχνευσης αντικειμένων της Google να το ταξινομήσει ως όπλο ανεξάρτητα από τη γωνία από την οποία φωτογραφίζεται.  Η δημιουργία της χελώνας απαιτούσε μόνο χαμηλού κόστους εμπορικά διαθέσιμη τεχνολογία εκτύπωσης 3-D.  Το 2018, το Google Brain δημοσίευσε μια τροποποιημένη εικόνα ενός σκύλου που έμοιαζε με γάτα τόσο στους υπολογιστές όσο και στους ανθρώπους.  Μια μελέτη του 2019 από το Πανεπιστήμιο Johns Hopkins έδειξε ότι οι άνθρωποι μπορούν να μαντέψουν πώς τα μηχανήματα θα ταξινομήσουν λανθασμένα τις αντιπαραθετικές εικόνες.  Οι ερευνητές ανακάλυψαν επίσης ελαφριές αλλά ακριβείς μεθόδους ελαφρώς να διαταράξουν την εμφάνιση ενός σήματος στοπ έτσι ώστε ένα αυτόνομο όχημα να το ταξινομήσει ως σήμα συγχώνευσης ή ορίου ταχύτητας.   

### Επιθέσεις δηλητηρίασης
Οι αλγόριθμοι μηχανικής μάθησης συχνά επανεκπαιδεύονται σε δεδομένα που συλλέχθηκαν κατά τη διάρκεια της λειτουργίας τους για να προσαρμοστούν στις αλλαγές της υποκείμενης κατανομής δεδομένων. Για παράδειγμα, τα συστήματα ανίχνευσης εισβολών συχνά επανεκπαιδεύονται σε δείγματα που συλλέγονται κατά τη λειτουργία του δικτύου. Σε αυτό το σενάριο, ένας εισβολέας μπορεί να δηλητηριάσει τα δεδομένα εκπαίδευσης με την έγχυση προσεκτικά σχεδιασμένων δειγμάτων για να υπονομεύσει τελικά ολόκληρη τη διαδικασία εκμάθησης. Ως εκ τούτου, η δηλητηρίαση μπορεί να θεωρηθεί ως αντιπαραθετική μόλυνση των δεδομένων εκπαίδευσης. Παραδείγματα επιθέσεων δηλητηρίασης εναντίον αλγορίθμων μηχανικής μάθησης, συμπεριλαμβανομένης της μάθησης με την παρουσία χειρότερων περιπτώσεων αντιπαραθετικών αλλαγών σήμανσης στα δεδομένα εκπαίδευσης, παραθέτονται στους ακόλουθους συνδέσμους.      Τα αντιπαραθετικά σημάδια στάσης (σημάδια στάσης που φαίνονται φυσιολογικά στο ανθρώπινο μάτι αλλά ταξινομούνται ως σημάδια μη σταματήματος από νευρικά δίκτυα) αποτελούν πρωταρχικά παραδείγματα επιθέσεων δηλητηρίασης.  

## Αντιπαραθετική εκπαίδευση

Η αντιπαραθετική μάθηση μπορεί να χρησιμοποιηθεί επίσης κατά την εκπαίδευση του εξαπατώντος μοντέλου, για να εξασφαλιστεί η ανεξαρτησία των δεδομένων εξόδου του από την τιμή που ταξινομεί το εξαπατώμενο μοντέλο. 

Για παράδειγμα, στην εκπάιδευση αυτόματου συστήματος μετάφρασης μεταξύ δύο γλωσσών για τις οποίες δεν υπάρχει ικανό σύνολο παράλληλων κειμένων, εκπαιδεύονται δύο διαφορετικοί αυτοκωδικοποιητές, μία για κάθε γλώσσα, που μετατρέπουν το κείμενο στη γλώσσα αυτή σε μία ενδιάμεση εκπροσώπηση. Παράλληλα, εκπαιδεύεται ένας ταξινομητής που μαθαίνει να διακρίνει την γλώσσα του κειμένου βάσει της ενδιάμεσης αυτής εκπροσώπησής της. Οι δύο αυτοκωδικοποιητές εκπαιδεύονται αντιπαραθετικά με τον ταξινομητή, δηλαδή προσπαθούν να παράγουν εκπροσωπήσεις τις οποίες ο ταξινομητής δεν μπορεί να διαχωρήσει, την ίδια στιγμή που ο ταξινομητής προπαθεί να μάθει να τις διαχωρήζει. Με αυτόν τον τρόπο, οι αυτοκωδικοποιητές μαθαίνουν να παράγουν μια ενδιάμεση εκπροσώπηση που είναι ανεξάρτητη της γλώσσας και άρα κοινή μεταξύ τους. Με την ολοκλήρωση της εκπαίδευσης, η ακρίβεια του ταξινομητή φτάνει το μηδέν και η ενδιάμση εκπροσώπηση είναι εντελώς ανεξάρτητη γλώσσας και άρα τα μοντέλα μετατροπής της κάθε γλώσσας σε αυτήν και τανάπαλιν μπορούν να χρησιμοποιηθούν για μετάφραση μεταξύ των δύο γλωσσών.

### Παραγωγικά αντιπαραθετικά δίκτυα

Η πλέον διαδεδομένη εφαρμογή της αντιπαλικής εκπαίδευσης είναι τα **Παραγωγικά Αντιπαραθετικά  Δίκτυα**, γνωστά επίσης ως **Αντιπαλικά Δίκτυα**, **Παραγωγικά Ανταγωνιστικά Δίκτυα** και **Aναγεννητικά Aνταγωνιστικά Δίκτυα** (στα αγγλικά Generative Adversarial Networks - GAN).

Πρόκειται για μια μέθοδο μη-επιτηρούμενης μάθησης, κατά την οποία ένα παραγωγικό μοντέλο εκπαιδεύεται να παράγει παραδείγματα που εξαπατούν έναν ταξινομητή, ο οποίος εκπαιδεύεται συγχρόνως να διαχωρίζει μεταξύ τα παραδείγματα που παράγει το παραγωγικό μοντέλο και τα πραγματικά παραδείγματα μιας κατανομής. Έτσι, το παραγωγικό μοντέλο μαθαίνει να παράγει ρεαλιστικά παραδείγματα που δεν μπορούν να διαχωριστούν από πραγματικά δεδομένα.

## Λογισμικό αντιπαραθετικών επιθέσεων
Ορισμένες βιβλιοθήκες λογισμικού είναι διαθέσιμες, κυρίως για σκοπούς δοκιμών και έρευνας. 

* AdversariaLib  - περιλαμβάνει την εφαρμογή επιθέσεων διαφυγής 
* Βιβλιοθήκη AdLib - Python με διεπαφή τύπου scikit που περιλαμβάνει υλοποιήσεις πολλών δημοσιευμένων επιθέσεων και αμυνών διαφυγής 
* AlfaSVMLib  - Αντιπαραθετική Επίθεση Αντιστροφής Σημάνσεων κατά Μηχανών Υποστηρικτικών Διανυσμάτων  
* Επιθέσεις δηλητηρίασης κατά των μηχανισμών υποστηρικτικών διανυσμάτων  και επιθέσεις εναντίον αλγορίθμων ομαδοποίησης  
* deep-pwning  Πλαίσιο αντιπαραθετικών επιθέσεων κατά βαθιών νευρωνικών δικτύων σεTensorflow .   
* Cleverhans - Μια βιβλιοθήκη Tensorflow για την δοκιμή γνωστών επιθέσων κατά υπάρχοντων μοντέλων βαθιάς μάθησης 
* foolbox - Βιβλιοθήκη Python για τη δημιουργία αντιπαλικών παραδειγμάτων, υλοποιεί πολλαπλές επιθέσεις 
* SecML - Βιβλιοθήκη Python για ασφαλή και εξηγήσιμη μηχανική μάθηση - περιλαμβάνει την εφαρμογή ενός ευρέος φάσματος αλγορίθμων επίθεσης, υποστήριξη πυκνών και αραιών δεδομένων, πολλαπλών επεξεργασιών, εργαλείων απεικόνισης. 

## Δείτε επίσης

* Μηχανική μάθηση 
* Αναγνώριση προτύπων 

## Αναφορές

Κατηγορία:Ασφάλεια υπολογιστών
Κατηγορία:Μηχανική μάθηση