C 465/78
EL
Επίσημη Εφημερίδα της Ευρωπαϊκής Ένωσης
6.12.2022
Τρίτη 3 Μαΐου 2022
51. τονίζει ότι οι τεχνολογίες ΤΝ, ιδίως εκείνες που δεν έχουν σχεδιαστεί και αναπτυχθεί με εφαρμογή σαφών διαδικασιών ελέγχου και χρησιμοποιούνται καταχρηστικά και χωρίς εποπτεία σε κέντρα στρατιωτικής διοίκησης ή σε εγκαταστάσεις εκτόξευσης πυραύλων, ενέχουν ιδιαίτερα σημαντικούς κινδύνους και θα μπορούσαν να κλιμακώσουν μια αυτοματοποιημένη αμοιβαία σύγκρουση·
52. σημειώνει ότι η χρήση συστημάτων ΤΝ σε εξελίξεις που άπτονται της άμυνας θεωρείται ότι αλλάζει τα δεδομένα στις στρατιωτικές επιχειρήσεις μέσω της ανάλυσης δεδομένων, της ικανότητας αποτύπωσης μεγαλύτερης πολυπλοκότητας της κατάστασης, της δυνατότητας βελτίωσης της ακρίβειας των στόχων, της βελτιστοποίησης της υλικοτεχνικής υποστήριξης και της εμπλοκής σε ένοπλες συγκρούσεις με μειωμένο κίνδυνο σωματικής βλάβης τόσο για τον άμαχο πληθυσμό όσο και για το οικείο στρατιωτικό προσωπικό, καθώς και με τη χρήση δεδομένων για την ανάπτυξη τρόπων δράσης, όπως η ανάπτυξη πολεμικών σεναρίων· προειδοποιεί, ωστόσο, ότι αυτό θα μπορούσε να οδηγήσει σε μείωση του κατώτατου ορίου για τη χρήση βίας και κατά συνέπεια σε περισσότερες συγκρούσεις· επιβεβαιώνει ότι οι μηχανές δεν μπορούν να λαμβάνουν αποφάσεις με τον τρόπο που το πράττουν οι άνθρωποι και να συνεκτιμούν τις νομικές αρχές της διάκρισης, της αναλογικότητας και της προφύλαξης· επιβεβαιώνει ότι οι άνθρωποι πρέπει να διατηρήσουν τον έλεγχο της λήψης αποφάσεων σχετικά με την ανάπτυξη και τη χρήση όπλων και να παραμείνουν υπόλογοι για τη χρήση φονικής βίας και για αποφάσεις ζωής και θανάτου· είναι της άποψης ότι τα οπλικά συστήματα που βασίζονται στην ΤΝ θα πρέπει να υπόκεινται σε παγκόσμια πρότυπα και σε έναν διεθνή κώδικα δεοντολογίας για τη στήριξη της ανάπτυξης τεχνολογιών ΤΝ σε στρατιωτικές επιχειρήσεις, με πλήρη σεβασμό του διεθνούς ανθρωπιστικού δικαίου και του δικαίου περί ανθρωπίνων δικαιωμάτων, καθώς και σε συμμόρφωση προς το δίκαιο και τις αξίες της Ένωσης·
53.
εκφράζει την ανησυχία του για τη στρατιωτική έρευνα και τις τεχνολογικές εξελίξεις που προσπαθούν να επιτύχουν σε ορισμένες χώρες όσον αφορά τα φονικά αυτόνομα οπλικά συστήματα χωρίς ουσιαστικό ανθρώπινο έλεγχο· παρατηρεί ότι φονικά αυτόνομα οπλικά συστήματα χρησιμοποιούνται ήδη σε στρατιωτικές συγκρούσεις· υπενθυμίζει ότι το Κοινοβούλιο έχει επανειλημμένα ζητήσει τη διεθνή απαγόρευση της ανάπτυξης, παραγωγής και χρήσης φονικών αυτόνομων οπλικών συστημάτων και την έναρξη ουσιαστικών διαπραγματεύσεων για την απαγόρευσή τους· τονίζει ότι δεν μπορεί σε καμία περίπτωση να επιτραπεί στα συστήματα που βασίζονται στην ΤΝ να αντικαταστήσουν την ανθρώπινη λήψη αποφάσεων, η οποία ενέχει τις νομικές αρχές της διάκρισης, της αναλογικότητας και της προφύλαξης·
54. σημειώνει, ειδικότερα, ότι η τεχνολογία ΤΝ μπορεί να ενέχει πιθανούς κινδύνους ως μέσο επιδίωξης διαφόρων μορφών υβριδικού πολέμου και ξένων παρεμβάσεων· διευκρινίζει ότι θα μπορούσε, για παράδειγμα, να χρησιμοποιηθεί για να διαδώσει παραπληροφόρηση, με τη χρήση υπολογιστών ζόμπι ή ψευδών λογαριασμών στα μέσα κοινωνικής δικτύωσης, για να χρησιμοποιήσει την αλληλεξάρτηση ως όπλο, με τη συλλογή πολύτιμων πληροφοριών ή την άρνηση πρόσβασης αντιπάλων στο διαδίκτυο, για να δημιουργήσει διαταραχές στα οικονομικά και χρηματοπιστωτικά συστήματα άλλων χωρών, να μολύνει τον πολιτικό διάλογο και να ευνοήσει εξτρεμιστικές ομάδες, ή για να χειραγωγήσει εκλογές με στόχο την αποσταθεροποίηση δημοκρατιών·
55.
επισημαίνει ότι οι τεχνολογίες ΤΝ θα μπορούσαν επίσης να περιλαμβάνουν κακόβουλο λογισμικό που λειτουργεί με ΤΝ, υποκλοπή ταυτότητας, δηλητηρίαση δεδομένων ή άλλες μορφές αντιπαραθετικής μηχανικής μάθησης που οδηγούν άλλα συστήματα ΤΝ σε παρερμηνεία των δεδομένων εισόδου· επισημαίνει, ειδικότερα, την αύξηση του βαθιά ψευδούς περιεχομένου (deepfake),που δεν αποτελεί απαραίτητα «κυβερνοεπίθεση», αλλά εγείρει αμφιβολίες σχετικά με τη γνησιότητα του συνόλου του ψηφιακού περιεχομένου, συμπεριλαμβανομένων των βίντεο, και κατά συνέπεια απαιτεί ιδιαίτερη προσοχή όσον αφορά τις απαιτήσεις διαφάνειας· προειδοποιεί ότι τα βαθιά ψευδή περιεχόμενα (deepfake) θα μπορούσαν να εντείνουν ευρύ κλίμα δυσπιστίας του κοινού όσον αφορά την ΤΝ και βαθύτερη κοινωνικοπολιτική πόλωση στις κοινωνίες μας·
56.
επεξηγεί ότι η χρήση συστημάτων ΤΝ σε σημαντικό όγκο βασικών υποδομών ζωτικής σημασίας, όπως τα ενεργειακά δίκτυα και τα δίκτυα μεταφορών, ο διαστημικός κλάδος, η αλυσίδα τροφίμων, οι τραπεζικές και χρηματοπιστωτικές υποδομές και οι νοσοκομειακές εγκαταστάσεις, έχει επιφέρει νέα τρωτά σημεία που απαιτούν ισχυρά μέτρα κυβερνοασφάλειας για την πρόληψη απειλών· τονίζει, εν προκειμένω, τη σημασία της συνεργασίας και της ανταλλαγής πληροφοριών και της ανάληψης δράσης τόσο σε επίπεδο ΕΕ όσο και μεταξύ των κρατών μελών· υπογραμμίζει ότι είναι σημαντικό να ενισχυθεί η ανθεκτικότητα των οντοτήτων ζωτικής σημασίας στις υβριδικές απειλές·
57.
προειδοποιεί ότι οι ικανότητες της ΤΝ ενδέχεται επίσης να ενέχουν κινδύνους όσον αφορά την ασφάλεια, καθώς μπορεί να ωθήσει τους ανθρώπους να αισθάνονται τόση εμπιστοσύνη για την ΤΝ που να την εμπιστεύονται περισσότερο από τη δική τους κρίση· σημειώνει ότι η χρήση μιας προσέγγισης ανθρώπινης παρέμβασης ως διορθωτικού μηχανισμού δεν είναι εφικτή σε όλες τις περιπτώσεις· σημειώνει ότι πειράματα καταδεικνύουν ότι αυτό μπορεί να αυξήσει το επίπεδο αυτονομίας της ΤΝ πέρα από τον υποστηρικτικό ρόλο για τον οποίο σχεδιάστηκε αρχικά και συνεπάγεται ότι οι άνθρωποι χάνουν ευκαιρίες για να αποκτήσουν εμπειρία και να βελτιώσουν τις δεξιότητες και τις γνώσεις τους σχετικά με τα συστήματα ΤΝ· ως εκ τούτου, τονίζει ότι απαιτούνται ασφάλεια εκ σχεδιασμού και ουσιαστική ανθρώπινη εποπτεία που θα βασίζεται στην κατάλληλη κατάρτιση, καθώς και κατάλληλες διασφαλίσεις για την ασφάλεια και την ιδιωτικότητα στα συστήματα ΤΝ υψηλού κινδύνου, προκειμένου να αντιμετωπιστεί αυτή η μεροληψία αυτοματισμού·