L 300/14
EL
Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης
21.11.2022
ΠΑΡΑΡΤΗΜΑ
ΕΓΓΡΑΦΟ ΕΡΓΟΥ Προώθηση της υπεύθυνης καινοτομίας στην τεχνητή νοημοσύνη για την ειρήνη και την ασφάλεια 1.
ΙΣΤΟΡΙΚΟ
Η πρόσφατη πρόοδος στην τεχνητή νοημοσύνη (ΤΝ) έχει απελευθερώσει νέες δυνατότητες για τη στήριξη και τη διατήρηση της ειρήνης και της ασφάλειας, για παράδειγμα, μέσω τεχνολογικών βελτιώσεων σε τομείς όπως η έγκαιρη προειδοποίηση για συγκρούσεις και η επαλήθευση του ελέγχου των όπλων και των εξαγωγών.
Από την άλλη πλευρά, η πρόοδος αυτή επέτρεψε τη δημιουργία νέων μέσων για τη πρόκληση ή την επιδείνωση εντάσεων, συγκρούσεων και ανασφάλειας μεταξύ και εντός κρατών.
Οι κίνδυνοι που ενέχουν ορισμένες εφαρμογές της ΤΝ, όπως τα φονικά αυτόνομα οπλικά συστήματα, έχουν αναδειχθεί ως μείζον ζήτημα ανησυχίας για την κοινότητα ελέγχου των όπλων.
Ένας παράγοντας κινδύνου που χρήζει μεγαλύτερης προσοχής, για την αντιμετώπιση του οποίου ο έλεγχος των όπλων και οι διπλωματικές προσπάθειες ενδέχεται να είναι προς το παρόν ανεπαρκείς, είναι η εκτροπή και η κακή χρήση της μη στρατιωτικής έρευνας και καινοτομίας στον τομέα της ΤΝ από ανεύθυνους φορείς, συμπεριλαμβανομένων κακόβουλων μη κρατικών φορέων, όπως η κατάχρηση των παραγωγικών ανταγωνιστικών δικτύων (GAN) για την παραγωγή βαθιά ψευδούς περιεχομένου (deepfakes) για εκστρατείες παραπληροφόρησης.
Η ΤΝ είναι μια βασική τεχνολογία με μεγάλες δυνατότητες γενικής χρήσης.
Η έρευνα και η καινοτομία στον τομέα της ΤΝ που αναπτύσσονται για μη στρατιωτικές εφαρμογές θα μπορούσαν να είναι (σχετικά εύκολα) προσβάσιμες και αναπροσαρμοζόμενες από ορισμένους φορείς για επιβλαβείς ή ανατρεπτικές χρήσεις οι οποίες θα μπορούσαν να έχουν επιπτώσεις στη διεθνή ειρήνη και ασφάλεια.
Η εκτροπή και η κακή χρήση της μη στρατιωτικής τεχνολογίας δεν είναι νέα φαινόμενα ούτε αφορούν μόνο τον τομέα της ΤΝ.
Στον συναφή τομέα της ρομποτικής, χαρακτηριστικό πρόσφατο παράδειγμα αποτελεί η εργαλειοποίηση και η χρήση μη επανδρωμένων αεροσκαφών αναψυχής από το Daesh/ISIS στη Συρία.
Ωστόσο, στην περίπτωση της ΤΝ, το πρόβλημα περιπλέκεται από πολλούς παράγοντες: την άυλη και ταχέως μεταβαλλόμενη φύση των αλγόριθμων και των δεδομένων της ΤΝ, η οποία καθιστά δύσκολο τον έλεγχο της μεταφοράς/διάδοσής τους· τον ηγετικό ρόλο του ιδιωτικού τομέα στο οικοσύστημα της έρευνας, της ανάπτυξης και της καινοτομίας και την επακόλουθη ανάγκη προστασίας των ιδιόκτητων αλγορίθμων· και την παγκόσμια διαθεσιμότητα της ανθρώπινης εμπειρογνωμοσύνης και των υλικών πόρων που μπορούν να αναπροσαρμόσουν τις τεχνολογίες ΤΝ.
Εν τω μεταξύ, όσοι εργάζονται στο πεδίο της ΤΝ στον μη στρατιωτικό τομέα εξακολουθούν πολύ συχνά να αγνοούν τις πιθανές επιπτώσεις που θα μπορούσαν να έχουν η εκτροπή και η κακή χρήση του έργου τους στη διεθνή ειρήνη και ασφάλεια ή διστάζουν να συμμετάσχουν στις υφιστάμενες συζητήσεις σχετικά με τους κινδύνους της ΤΝ όσον αφορά τον έλεγχο των όπλων και τη μη διάδοση.
Είναι αναγκαίο να υποστηριχτεί η μεγαλύτερη συμμετοχή της μη στρατιωτικής κοινότητας ΤΝ στην κατανόηση και τον μετριασμό των κινδύνων για την ειρήνη και την ασφάλεια που συνδέονται με την εκτροπή και την κακή χρήση της μη στρατιωτικής τεχνολογίας ΤΝ από ανεύθυνους φορείς.
Σύμφωνα με το Διεθνές Ινστιτούτο Ερευνών της Στοκχόλμης για την Ειρήνη (SIPRI) και το Γραφείο Αφοπλισμού των Ηνωμένων Εθνών (UNODA), αυτό θα μπορούσε να επιτευχθεί μέσω της μεγαλύτερης προώθησης της υπεύθυνης καινοτομίας στην παγκόσμια μη στρατιωτική κοινότητα ΤΝ.
Οι προηγούμενες εργασίες του SIPRI και του UNODA κατέδειξαν ότι η υπεύθυνη καινοτομία, ως μηχανισμός αυτοδιακυβέρνησης, θα μπορούσε να παράσχει στην παγκόσμια μη στρατιωτική κοινότητα ΤΝ πρακτικά εργαλεία και μεθόδους για τον εντοπισμό καθώς και για την πρόληψη και τον μετριασμό των κινδύνων που θα μπορούσαν να ενέχουν η εκτροπή και η κακή χρήση της μη στρατιωτικής έρευνας και καινοτομίας στον τομέα της ΤΝ για την ειρήνη και την ασφάλεια.
Οι εργασίες του SIPRI και του UNODA προσδιόρισαν επίσης μεθοδολογίες και διάφορες εν εξελίξει μη στρατιωτικές πρωτοβουλίες για υπεύθυνη ΤΝ που θα μπορούσαν να αποτελέσουν τη βάση για την ευαισθητοποίηση της μη στρατιωτικής κοινότητας ΤΝ σε θέματα ελέγχου των όπλων και μη διάδοσης, σε συζητήσεις εμπειρογνωμόνων και κρατικές θέσεις σχετικά με την υπεύθυνη ανάπτυξη, τη διάδοση και τη χρήση της ΤΝ, καθώς και σε διδάγματα που πρέπει να αντληθούν από τις εργασίες σχετικά με την ευθύνη του αμυντικού τομέα.
(1) Σε μεγάλο βαθμό σε αυτές οι προηγούμενες εργασίες αναγνωρίστηκε σαφώς ως κεντρικό στοιχείο κάθε αποτελεσματικής υπεύθυνης προσπάθειας καινοτομίας η συνεργασία με σπουδαστές, που εξακολουθούν να ασχολούνται με την ΤΝ στο πλαίσιο της εκπαίδευσης, στους τομείς των θετικών επιστημών, της τεχνολογίας, της μηχανικής και των μαθηματικών (STEM).
2.
ΣΤΟΧΟΙ
Τα έργα αυτά αποσκοπούν στη στήριξη της μεγαλύτερης συμμετοχής της μη στρατιωτικής κοινότητας ΤΝ στον μετριασμό των κινδύνων που ενδέχεται να ενέχουν για τη διεθνή ειρήνη και ασφάλεια η εκτροπή και η κακή χρήση της μη στρατιωτικής έρευνας και καινοτομίας στον τομέα της ΤΝ από ανεύθυνους φορείς.
Προς τούτο, έχουν ως στόχο, αφενός, να κατανοήσουν καλύτερα τον τρόπο με τον οποίο οι αποφάσεις για την ανάπτυξη και τη διάδοση της έρευνας και της καινοτομίας στον τομέα της ΤΝ μπορούν να επηρεάσουν την έκβαση των κινδύνων εκτροπής και κακής χρήσης και, με τη σειρά τους, να δημιουργήσουν κινδύνους ή ευκαιρίες για την ειρήνη και την ασφάλεια, και, αφετέρου, να προωθήσουν υπεύθυνες διαδικασίες, μεθόδους και εργαλεία καινοτομίας που να μπορούν να συμβάλουν στη διασφάλιση της ειρηνικής εφαρμογής των μη στρατιωτικών καινοτομιών και της υπεύθυνης διάδοσης των γνώσεων για την ΤΝ.
Για τον σκοπό αυτό, στηρίζουν δραστηριότητες ανάπτυξης ικανοτήτων, έρευνας και συμμετοχής οι οποίες i) θα ενισχύσουν την ικανότητα εντός της παγκόσμιας μη στρατιωτικής κοινότητας ΤΝ να λαμβάνει υπόψη και να (1) Στις μεθοδολογίες περιλαμβάνονται, για παράδειγμα, οι συνιστώμενες πρακτικές του Ινστιτούτου Ηλεκτρολόγων και Ηλεκτρονικών Μηχανικών (IEEE) για την εκτίμηση του αντικτύπου των αυτόνομων και ευφυών συστημάτων στην ανθρώπινη ευημερία (IEEE Std 7010-2020), και ο κατάλογος της ομάδας εμπειρογνωμόνων υψηλού επιπέδου για την τεχνητή νοημοσύνη (ALTAI) σχετικά με την εκτίμηση της αξιόπιστης τεχνητής νοημοσύνης (ALTAI).
Στις πρωτοβουλίες περιλαμβάνονται: Η παγκόσμια πρωτοβουλία του IEEE για τη δεοντολογία των αυτόνομων και ευφυών συστημάτων· η εταιρική σχέση για την ΤΝ· η παγκόσμια εταιρική σχέση για την ΤΝ.