Γνωμοδότηση της Ευρωπαϊκής Επιτροπής των Περιφερειών με θέμα «Ευρωπαϊκή προσέγγιση της τεχνητής νοημοσύνης — Πράξη για την τεχνητή νοημοσύνη»

(αναθεωρημένη γνωμοδότηση)

(2022/C 97/12)

Εισηγητής: Guido RINK (NL/PES), δημοτικός σύμβουλος Έμεν Έγγραφα αναφοράς: Ανακοίνωση της Επιτροπής προς το Ευρωπαϊκό Κοινοβούλιο, το Συμβούλιο, την Ευρωπαϊκή Οικονομική και Κοινωνική Επιτροπή και την Επιτροπή των Περιφερειών — Προώθηση μιας ευρωπαϊκής προσέγγισης της τεχνητής νοημοσύνης COM(2021) 205 final Πρόταση κανονισμού του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου για τη θέσπιση εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη (πράξη για την τεχνητή νοημοσύνη) και για την τροποποίηση ορισμένων νομοθετικών πράξεων της Ένωσης COM(2021) 206 final

I. ΣΥΝΙΣΤΩΜΕΝΕΣ ΤΡΟΠΟΛΟΓΙΕΣ

Τροπολογία 1

Αιτιολογική σκέψη 1

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Σκοπός του παρόντος κανονισμού είναι η βελτίωση της λειτουργίας της εσωτερικής αγοράς με τη θέσπιση ενιαίου νομικού πλαισίου, ιδίως για την ανάπτυξη, την εμπορία και τη χρήση της τεχνητής νοημοσύνης σύμφωνα με τις αξίες της Ένωσης. Ο παρών κανονισμός επιδιώκει ορισμένους σκοπούς υπέρτερου δημόσιου συμφέροντος, όπως υψηλό επίπεδο προστασίας της υγείας, της ασφάλειας και των θεμελιωδών δικαιωμάτων, και διασφαλίζει την ελεύθερη κυκλοφορία των αγαθών και υπηρεσιών που βασίζονται στην ΤΝ σε διασυνοριακό επίπεδο, εμποδίζοντας, κατ’ αυτόν τον τρόπο, τα κράτη μέλη να επιβάλλουν περιορισμούς στην ανάπτυξη, την εμπορία και τη χρήση συστημάτων ΤΝ, εκτός εάν αυτό επιτρέπεται ρητά από τον παρόντα κανονισμό. Σκοπός του παρόντος κανονισμού είναι η βελτίωση της λειτουργίας της εσωτερικής αγοράς και η κατοχύρωση των θεμελιωδών δικαιωμάτων των πολιτών με τη θέσπιση ενιαίου νομικού πλαισίου, ιδίως για την ανάπτυξη, την εμπορία και τη χρήση της τεχνητής νοημοσύνης σύμφωνα με τις αξίες της Ένωσης. Ο παρών κανονισμός επιδιώκει ορισμένους σκοπούς υπέρτερου δημόσιου συμφέροντος, όπως υψηλό επίπεδο προστασίας της υγείας, της ασφάλειας και των θεμελιωδών δικαιωμάτων, και διασφαλίζει την ελεύθερη κυκλοφορία των αγαθών και υπηρεσιών που βασίζονται στην ΤΝ σε διασυνοριακό επίπεδο, εμποδίζοντας, κατ’ αυτόν τον τρόπο, τα κράτη μέλη να επιβάλλουν περιορισμούς στην ανάπτυξη, την εμπορία και τη χρήση συστημάτων ΤΝ, εκτός εάν αυτό επιτρέπεται ρητά από τον παρόντα κανονισμό.

Αιτιολογία

Με την αναφορά στα θεμελιώδη δικαιώματα, τονίζεται η σχέση με τον Χάρτη των Θεμελιωδών Δικαιωμάτων της Ευρωπαϊκής Ένωσης.

Τροπολογία 2

Νέα αιτιολογική σκέψη μετά την αιτιολογική σκέψη 6

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Ο ορισμός των συστημάτων ΤΝ συνιστά διαρκή διαδικασία, κατά την οποία συνυπολογίζεται το περιβάλλον στο οποίο εντάσσεται η ΤΝ, ακολουθείται ο ρυθμός των κοινωνικών εξελίξεων στον εν λόγω τομέα και λαμβάνεται συνεχώς υπόψη η συνάρτηση μεταξύ οικοσυστήματος αριστείας και οικοσυστήματος εμπιστοσύνης.

Αιτιολογία

Οι εξελίξεις στον τομέα της τεχνητής νοημοσύνης και των τεχνολογιών απαιτούν μια προσαρμοστική και εξελικτική προσέγγιση. Η προτεινόμενη αιτιολογική σκέψη σκοπό έχει να διευκρινίζεται ότι ο ορισμός της τεχνητής νοημοσύνης πρέπει να εξελίσσεται συν τω χρόνω, σε συνάρτηση με τις προόδους των συστημάτων και των εφαρμογών τεχνητής νοημοσύνης.

Τροπολογία 3

Αιτιολογική σκέψη 20

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Προκειμένου να διασφαλιστεί ότι τα συστήματα χρησιμοποιούνται κατά τρόπο υπεύθυνο και αναλογικό, είναι επίσης σημαντικό να καθοριστεί ότι, σε καθεμία από αυτές τις τρεις, εξαντλητικά απαριθμούμενες και αυστηρά καθορισμένες περιπτώσεις, θα πρέπει να λαμβάνονται υπόψη ορισμένα στοιχεία, ιδίως όσον αφορά τη φύση της κατάστασης στο πλαίσιο της οποίας προκύπτει το αίτημα και τις συνέπειες της χρήσης για τα δικαιώματα και τις ελευθερίες όλων των ενδιαφερομένων προσώπων, καθώς και τις εγγυήσεις και τους όρους που προβλέπονται για τη χρήση. Επιπλέον, η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου θα πρέπει να υπόκειται σε κατάλληλους χρονικούς και χωρικούς περιορισμούς, ειδικότερα όσον αφορά τα αποδεικτικά στοιχεία ή ενδείξεις σχετικά με τις απειλές, τα θύματα ή τον δράστη. Η βάση δεδομένων αναφοράς προσώπων θα πρέπει να είναι κατάλληλη για κάθε περίπτωση χρήσης σε καθεμία από τις περιπτώσεις που αναφέρονται ανωτέρω. Προκειμένου να διασφαλιστεί ότι τα συστήματα χρησιμοποιούνται κατά τρόπο υπεύθυνο και αναλογικό, είναι επίσης σημαντικό να καθοριστεί ότι, σε καθεμία από αυτές τις τρεις, εξαντλητικά απαριθμούμενες και αυστηρά καθορισμένες περιπτώσεις, θα πρέπει να λαμβάνονται υπόψη ορισμένα στοιχεία, ιδίως όσον αφορά τη φύση της κατάστασης στο πλαίσιο της οποίας προκύπτει το αίτημα και τις συνέπειες της χρήσης για τα δικαιώματα και τις ελευθερίες όλων των ενδιαφερομένων προσώπων, καθώς και τις εγγυήσεις και τους όρους που προβλέπονται για τη χρήση. Πριν από την κατ’ εξαίρεση χρήση των συστημάτων αυτών, θα πρέπει να ζητείται η γνώμη των ενδιαφερόμενων ΟΤΑ. Επιπλέον, η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου θα πρέπει να υπόκειται σε αυστηρούς χρονικούς και χωρικούς περιορισμούς, ειδικότερα όσον αφορά τα αποδεικτικά στοιχεία ή ενδείξεις σχετικά με τις απειλές, τα θύματα ή τον δράστη. Η βάση δεδομένων αναφοράς προσώπων θα πρέπει να είναι κατάλληλη για κάθε περίπτωση χρήσης σε καθεμία από τις περιπτώσεις που αναφέρονται ανωτέρω.

Αιτιολογία

Τα συστήματα εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» δεν θα πρέπει να χρησιμοποιούνται χωρίς περίσκεψη.

Τροπολογία 4

Αιτιολογική σκέψη 21

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Κάθε χρήση συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου θα πρέπει να υπόκειται σε ρητή και ειδική άδεια που χορηγείται από δικαστική αρχή ή από ανεξάρτητη διοικητική αρχή κράτους μέλους. Η άδεια αυτή θα πρέπει καταρχήν να λαμβάνεται πριν από τη χρήση, εκτός από δεόντως αιτιολογημένες επείγουσες περιπτώσεις, δηλαδή σε περιπτώσεις στις οποίες η ανάγκη χρήσης των εν λόγω συστημάτων είναι τέτοια που η λήψη άδειας πριν από την έναρξη της χρήσης καθίσταται πρακτικά και αντικειμενικά αδύνατη. Σε αυτές τις επείγουσες περιπτώσεις , η χρήση θα πρέπει να περιορίζεται στο απολύτως ελάχιστο αναγκαίο και να υπόκειται στις κατάλληλες εγγυήσεις και προϋποθέσεις, όπως καθορίζονται στο εθνικό δίκαιο και εξειδικεύονται στο πλαίσιο κάθε επιμέρους περίπτωσης επείγουσας χρήσης από την ίδια την αρχή επιβολής του νόμου . Επιπλέον, σε τέτοιες περιπτώσεις, η αρχή επιβολής του νόμου θα πρέπει να επιδιώκει να λάβει άδεια το συντομότερο δυνατόν, δηλώνοντας παράλληλα τους λόγους για τους οποίους δεν ήταν σε θέση να τη ζητήσει νωρίτερα. Κάθε χρήση συστήματος εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου θα πρέπει να υπόκειται σε ρητή και ειδική άδεια που χορηγείται από δικαστική αρχή ή από ανεξάρτητη διοικητική αρχή κράτους μέλους. Η άδεια αυτή θα πρέπει να λαμβάνεται πριν από τη χρήση, εκτός από δεόντως αιτιολογημένες επείγουσες περιπτώσεις, δηλαδή σε περιπτώσεις στις οποίες η ανάγκη χρήσης των εν λόγω συστημάτων είναι τέτοια που η λήψη άδειας πριν από την έναρξη της χρήσης καθίσταται πρακτικά και αντικειμενικά αδύνατη. Σε κάθε περίπτωση , η χρήση θα πρέπει να περιορίζεται στο απολύτως ελάχιστο αναγκαίο και να υπόκειται στις κατάλληλες εγγυήσεις και προϋποθέσεις, όπως καθορίζονται στο εθνικό δίκαιο. Επιπλέον, η αρχή επιβολής του νόμου θα πρέπει να ενημερώνει ανυπερθέτως τους ενδιαφερόμενους οργανισμούς τοπικής αυτοδιοίκησης και να επιδιώκει να λάβει άδεια από τις αρμόδιες αρχές .

Αιτιολογία

Η πολιτική και διοικητική ευθύνη για τη διαχείριση και την επιτήρηση των δημόσιων χώρων υπάγεται στην αρμοδιότητα των οργανισμών τοπικής αυτοδιοίκησης (ΟΤΑ). Συνεπώς, οι οργανισμοί αυτοί θα πρέπει να συμμετέχουν δεόντως στην εφαρμογή τέτοιου είδους συστημάτων σε δημόσιους χώρους. Σε επείγουσες περιπτώσεις κατά τις οποίες δεν είναι εύλογο να αναμένεται η πρότερη διαβούλευση, ο ενδιαφερόμενος οργανισμός τοπικής αυτοδιοίκησης πρέπει να ενημερώνεται ανυπερθέτως για την τοποθέτηση συστημάτων βιομετρικής ταυτοποίησης στον δημόσιο χώρο.

Τροπολογία 5

Αιτιολογική σκέψη 39

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Τα συστήματα ΤΝ που χρησιμοποιούνται στη διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων επηρεάζουν άτομα που βρίσκονται συχνά σε ιδιαίτερα ευάλωτη θέση και εξαρτώνται από την έκβαση των ενεργειών των αρμόδιων δημόσιων αρχών. Ως εκ τούτου, η ακρίβεια, ο αμερόληπτος χαρακτήρας και η διαφάνεια των συστημάτων ΤΝ που χρησιμοποιούνται σε αυτά τα πλαίσια είναι ιδιαίτερα σημαντικά για τη διασφάλιση του σεβασμού των δικαιωμάτων των θιγόμενων προσώπων, ιδίως των δικαιωμάτων τους στην ελεύθερη κυκλοφορία, τη μη διακριτική μεταχείριση, την προστασία της ιδιωτικής ζωής και των δεδομένων προσωπικού χαρακτήρα, σε διεθνή προστασία και χρηστή διοίκηση. Ως εκ τούτου, είναι σκόπιμο να ταξινομηθούν ως υψηλού κινδύνου τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από τις αρμόδιες δημόσιες αρχές που είναι επιφορτισμένες με καθήκοντα στους τομείς της διαχείρισης της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων ως πολύγραφοι και παρεμφερή εργαλεία ή για την ανίχνευση της συναισθηματικής κατάστασης ενός φυσικού προσώπου· για την αξιολόγηση ορισμένων κινδύνων που παρουσιάζουν φυσικά πρόσωπα που εισέρχονται στο έδαφος κράτους μέλους ή υποβάλλουν αίτηση θεώρησης ή ασύλου· για την επαλήθευση της γνησιότητας των σχετικών εγγράφων των φυσικών προσώπων· για την παροχή συνδρομής στις αρμόδιες δημόσιες αρχές για την εξέταση των αιτήσεων ασύλου, θεώρησης και αδειών διαμονής και των συναφών καταγγελιών με στόχο τον καθορισμό της επιλεξιμότητας των φυσικών προσώπων που υποβάλλουν αίτηση χορήγησης καθεστώτος Τα συστήματα ΤΝ στον τομέα της διαχείρισης της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων τα οποία καλύπτονται από τον παρόντα κανονισμό θα πρέπει να πληρούν τις σχετικές διαδικαστικές απαιτήσεις που καθορίζονται στην οδηγία 2013/32/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, στον κανονισμό (ΕΚ) αριθ. 810/2009 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου και σε άλλη σχετική νομοθεσία. Τα συστήματα ΤΝ που χρησιμοποιούνται στη διαχείριση της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων επηρεάζουν άτομα που βρίσκονται συχνά σε ιδιαίτερα ευάλωτη θέση και εξαρτώνται από την έκβαση των ενεργειών των αρμόδιων δημόσιων αρχών. Ως εκ τούτου, η ακρίβεια, ο αμερόληπτος χαρακτήρας και η διαφάνεια των συστημάτων ΤΝ που χρησιμοποιούνται σε αυτά τα πλαίσια είναι ιδιαίτερα σημαντικά για τη διασφάλιση του σεβασμού των δικαιωμάτων των θιγόμενων προσώπων, ιδίως των δικαιωμάτων τους στην ελεύθερη κυκλοφορία, τη μη διακριτική μεταχείριση, την προστασία της ιδιωτικής ζωής και των δεδομένων προσωπικού χαρακτήρα, σε διεθνή προστασία και χρηστή διοίκηση. Ως εκ τούτου, είναι απολύτως αναγκαίο να ταξινομηθούν ως υψηλού κινδύνου τα συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από τις αρμόδιες δημόσιες αρχές που είναι επιφορτισμένες με καθήκοντα στους τομείς της διαχείρισης της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων ως πολύγραφοι και παρεμφερή εργαλεία ή για την ανίχνευση της συναισθηματικής κατάστασης ενός φυσικού προσώπου· για την αξιολόγηση ορισμένων κινδύνων που παρουσιάζουν φυσικά πρόσωπα που εισέρχονται στο έδαφος κράτους μέλους ή υποβάλλουν αίτηση θεώρησης ή ασύλου· για την επαλήθευση της γνησιότητας των σχετικών εγγράφων των φυσικών προσώπων· για την παροχή συνδρομής στις αρμόδιες δημόσιες αρχές για την εξέταση των αιτήσεων ασύλου, θεώρησης και αδειών διαμονής και των συναφών καταγγελιών με στόχο τον καθορισμό της επιλεξιμότητας των φυσικών προσώπων που υποβάλλουν αίτηση χορήγησης καθεστώτος. Τα συστήματα ΤΝ στον τομέα της διαχείρισης της μετανάστευσης, του ασύλου και των συνοριακών ελέγχων τα οποία καλύπτονται από τον παρόντα κανονισμό θα πρέπει να πληρούν τις σχετικές διαδικαστικές απαιτήσεις που καθορίζονται στην οδηγία 2013/32/ΕΕ του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου, στον κανονισμό (ΕΚ) αριθ. 810/2009 του Ευρωπαϊκού Κοινοβουλίου και του Συμβουλίου και σε άλλη σχετική νομοθεσία.

Αιτιολογία

Με την τροποποίηση αυτή τονίζεται η αναγκαιότητα υπαγωγής των εν λόγω συστημάτων τεχνητής νοημοσύνης στο ενισχυμένο καθεστώς που ισχύει για τα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου.

Τροπολογία 6

Αιτιολογική σκέψη 43

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Οι απαιτήσεις θα πρέπει να εφαρμόζονται σε συστήματα ΤΝ υψηλού κινδύνου όσον αφορά την ποιότητα των συνόλων δεδομένων που χρησιμοποιούνται, τον τεχνικό φάκελο και την τήρηση αρχείων, τη διαφάνεια και την πληροφόρηση των χρηστών, την ανθρώπινη εποπτεία και τη στιβαρότητα, την ακρίβεια και την κυβερνοασφάλεια. Οι απαιτήσεις αυτές είναι αναγκαίες για τον αποτελεσματικό μετριασμό των κινδύνων για την υγεία, την ασφάλεια και τα θεμελιώδη δικαιώματα, όπως εφαρμόζονται βάσει του επιδιωκόμενου σκοπού του συστήματος και δεν είναι ευλόγως διαθέσιμα άλλα λιγότερο περιοριστικά για το εμπόριο μέτρα, ώστε να αποφεύγονται αδικαιολόγητοι περιορισμοί στο εμπόριο. Οι απαιτήσεις θα πρέπει να εφαρμόζονται σε συστήματα ΤΝ υψηλού κινδύνου όσον αφορά την ποιότητα των συνόλων δεδομένων που χρησιμοποιούνται, τον τεχνικό φάκελο και την τήρηση αρχείων, τη διαφάνεια και την πληροφόρηση των χρηστών, την ανθρώπινη εποπτεία και τη στιβαρότητα, την ακρίβεια και την κυβερνοασφάλεια. Οι απαιτήσεις αυτές είναι αναγκαίες για τον αποτελεσματικό μετριασμό των κινδύνων για την υγεία, την ασφάλεια , την ασφάλεια δεδομένων, τα δικαιώματα των καταναλωτών και τα θεμελιώδη δικαιώματα, όπως εφαρμόζονται βάσει του σκοπού του συστήματος και δεν είναι ευλόγως διαθέσιμα άλλα λιγότερο περιοριστικά για το εμπόριο μέτρα, ώστε να αποφεύγονται αδικαιολόγητοι περιορισμοί στο εμπόριο. Τα φυσικά πρόσωπα ή οι ομάδες φυσικών προσώπων για τα οποία προορίζονται τα συστήματα ΤΝ υψηλού κινδύνου που διατίθενται στην αγορά της Ένωσης ή τίθενται σε λειτουργία με άλλον τρόπο θα πρέπει να ενημερώνονται κατά τρόπο πρόσφορο, εύκολα προσβάσιμο και κατανοητό και να έχουν πρόσβαση σε σαφείς, εύκολα προσπελάσιμες και δημόσια διαθέσιμες πληροφορίες οι οποίες θα διευκρινίζουν το γεγονός ότι τα πρόσωπα αυτά υπόκεινται στα εν λόγω συστήματα.

Αιτιολογία

Οι απαιτήσεις διαφάνειας και ενημέρωσης που ισχύουν για τους παρόχους και τους χρήστες θα πρέπει να επεκταθούν και στα πρόσωπα ή τις ομάδες προσώπων τις οποίες ενδέχεται να αφορά η χρήση συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου που απαριθμούνται στο παράρτημα ΙΙΙ του κανονισμού. Με τη φράση «κατά τρόπο κατανοητό» νοείται, ειδικότερα, «σε γλώσσα κατανοητή και προσβάσιμη για τον χρήστη, συμπεριλαμβανομένων και των προφορικών ή των νοηματικών γλωσσών».

Τροπολογία 7

Νέα αιτιολογική σκέψη μετά την αιτιολογική σκέψη 44

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Οι πάροχοι συστημάτων ΤΝ δεν πρέπει να περιλαμβάνουν στο σύστημα διαχείρισης της ποιότητας κανένα μέτρο που θα ευνοούσε αδικαιολόγητες διακρίσεις με βάση το φύλο, την καταγωγή, τη θρησκεία ή τις πεποιθήσεις, την αναπηρία, την ηλικία, τον γενετήσιο προσανατολισμό ή οποιονδήποτε άλλο λόγο.

Αιτιολογία

Οι παράνομες διακρίσεις προέρχονται από ανθρώπινη δράση. Οι πάροχοι συστημάτων τεχνητής νοημοσύνης πρέπει να αποφεύγουν να περιλαμβάνουν στο σύστημα διαχείρισης της ποιότητας μέτρα που θα μπορούσαν να ενθαρρύνουν τις διακρίσεις.

Τροπολογία 8

Αιτιολογική σκέψη 47

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Για να αντιμετωπιστεί η αδιαφάνεια που μπορεί να καταστήσει ορισμένα συστήματα ΤΝ δυσνόητα ή υπερβολικά περίπλοκα για τα φυσικά πρόσωπα, θα πρέπει να απαιτείται κάποιος βαθμός διαφάνειας για τα συστήματα ΤΝ υψηλού κινδύνου. Οι χρήστες θα πρέπει να σε θέση να ερμηνεύουν τα στοιχεία εξόδου του συστήματος και να τα χρησιμοποιούν σωστά. Ως εκ τούτου, τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να συνοδεύονται από σχετική τεκμηρίωση και οδηγίες χρήσης και να περιλαμβάνουν συνοπτικές και σαφείς πληροφορίες, μεταξύ άλλων σε σχέση με πιθανούς κινδύνους για τα θεμελιώδη δικαιώματα και κινδύνους διακρίσεων, κατά περίπτωση. Για να αντιμετωπιστεί η αδιαφάνεια που μπορεί να καταστήσει ορισμένα συστήματα ΤΝ δυσνόητα ή υπερβολικά περίπλοκα για τα φυσικά πρόσωπα ή τις δημόσιες αρχές κάθε επιπέδου διακυβέρνησης , θα πρέπει να απαιτείται υψηλός βαθμός διαφάνειας για τα συστήματα ΤΝ υψηλού κινδύνου. Οι χρήστες θα πρέπει να σε θέση να ερμηνεύουν τα στοιχεία εξόδου του συστήματος και να τα χρησιμοποιούν σωστά. Ως εκ τούτου, τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να συνοδεύονται από σχετική τεκμηρίωση και οδηγίες χρήσης και να περιλαμβάνουν συνοπτικές και σαφείς πληροφορίες, μεταξύ άλλων σε σχέση με πιθανούς κινδύνους για τα θεμελιώδη δικαιώματα και κινδύνους διακρίσεων, κατά περίπτωση.

Αιτιολογία

Με τη διατύπωση «κάποιος βαθμός διαφάνειας» υποβαθμίζεται η ευθύνη που υπέχουν οι σχεδιαστές συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου.

Τροπολογία 9

Αιτιολογική σκέψη 48

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να σχεδιάζονται και να αναπτύσσονται κατά τρόπο ώστε τα φυσικά πρόσωπα να μπορούν να επιβλέπουν τη λειτουργία τους. Για τον σκοπό αυτό, ο πάροχος του συστήματος θα πρέπει να προσδιορίζει κατάλληλα μέτρα ανθρώπινης εποπτείας πριν από τη διάθεσή του συστήματος στην αγορά ή τη θέση του σε λειτουργία. Ειδικότερα, τα μέτρα αυτά θα πρέπει, κατά περίπτωση, να διασφαλίζουν ότι το σύστημα υπόκειται σε εγγενείς περιορισμούς λειτουργίας οι οποίοι δεν μπορούν να παρακαμφθούν από το ίδιο το σύστημα και ότι ανταποκρίνεται στον άνθρωπο που το χειρίζεται, και ότι τα φυσικά πρόσωπα στα οποία έχει ανατεθεί η ανθρώπινη εποπτεία διαθέτουν την απαιτούμενη ικανότητα, κατάρτιση και εξουσιοδότηση για την εκτέλεση αυτού του καθήκοντος. Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να σχεδιάζονται και να αναπτύσσονται κατά τρόπο ώστε τα φυσικά πρόσωπα και οι δημόσιες αρχές κάθε επιπέδου διακυβέρνησης να μπορούν να επιβλέπουν τη λειτουργία τους. Για τον σκοπό αυτό, ο πάροχος του συστήματος θα πρέπει να προσδιορίζει κατάλληλα μέτρα ανθρώπινης εποπτείας πριν από τη διάθεσή του συστήματος στην αγορά ή τη θέση του σε λειτουργία. Ειδικότερα, τα μέτρα αυτά θα πρέπει, κατά περίπτωση, να διασφαλίζουν ότι το σύστημα υπόκειται σε εγγενείς περιορισμούς λειτουργίας οι οποίοι δεν μπορούν να παρακαμφθούν από το ίδιο το σύστημα και ότι ανταποκρίνεται στον άνθρωπο που το χειρίζεται, και ότι τα φυσικά πρόσωπα στα οποία έχει ανατεθεί η ανθρώπινη εποπτεία διαθέτουν την απαιτούμενη ικανότητα, κατάρτιση και εξουσιοδότηση για την εκτέλεση αυτού του καθήκοντος.

Αιτιολογία

Αυτονόητη

Τροπολογία 10

Αιτιολογική σκέψη 67

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να φέρουν τη σήμανση CE ώστε να δηλώνεται η συμμόρφωσή τους με τον παρόντα κανονισμό και να μπορούν να κυκλοφορούν ελεύθερα εντός της εσωτερικής αγοράς. Τα κράτη μέλη δεν θα πρέπει να δημιουργούν αδικαιολόγητα εμπόδια στη διάθεση στην αγορά ή στη θέση σε λειτουργία των συστημάτων ΤΝ υψηλού κινδύνου που συμμορφώνονται με τις απαιτήσεις που ορίζονται στον παρόντα κανονισμό και φέρουν τη σήμανση CE. Τα συστήματα ΤΝ υψηλού κινδύνου θα πρέπει να φέρουν τη σήμανση CE ώστε να δηλώνεται η συμμόρφωσή τους με τον παρόντα κανονισμό και να μπορούν να κυκλοφορούν ελεύθερα εντός της εσωτερικής αγοράς. Τα κράτη μέλη δεν θα πρέπει να δημιουργούν εμπόδια στη διάθεση στην αγορά ή στη θέση σε λειτουργία των συστημάτων ΤΝ υψηλού κινδύνου που συμμορφώνονται με τις απαιτήσεις που ορίζονται στον παρόντα κανονισμό και φέρουν τη σήμανση CE. Τα κράτη μέλη έχουν την εξουσία να ρυθμίζουν τις πρακτικές και τα συστήματα ΤΝ υψηλού κινδύνου μόνον για το υπέρτερο και δεόντως δικαιολογημένο δημόσιο συμφέρον και για συμφέροντα εθνικής ασφάλειας.

Αιτιολογία

Μολονότι τα κράτη μέλη δεν θα πρέπει να παρεμποδίζουν την εφαρμογή του κανονισμού, θα πρέπει να διατηρούν το δικαίωμα να ρυθμίζουν τα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου, εάν διακυβεύονται το δημόσιο συμφέρον και τα συμφέροντα εθνικής ασφάλειας.

Τροπολογία 11

Αιτιολογική σκέψη 70

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Ορισμένα συστήματα ΤΝ που προορίζονται να αλληλεπιδρούν με φυσικά πρόσωπα ή να παράγουν περιεχόμενο ενδέχεται να ενέχουν συγκεκριμένους κινδύνους πλαστοπροσωπίας ή παραπλάνησης ανεξάρτητα από το αν χαρακτηρίζονται ως υψηλού κινδύνου ή όχι. Συνεπώς, σε ορισμένες περιπτώσεις, η χρήση των συστημάτων αυτών θα πρέπει να υπόκειται σε ειδικές υποχρεώσεις διαφάνειας, με την επιφύλαξη των απαιτήσεων και των υποχρεώσεων που ισχύουν για τα συστήματα ΤΝ υψηλού κινδύνου. Ειδικότερα, τα φυσικά πρόσωπα θα πρέπει να ενημερώνονται ότι αλληλεπιδρούν με σύστημα ΤΝ , εκτός εάν αυτό είναι προφανές από τις περιστάσεις και το πλαίσιο της χρήσης . Επιπλέον τα φυσικά πρόσωπα θα πρέπει να ενημερώνονται όταν εκτίθενται σε σύστημα αναγνώρισης συναισθημάτων ή βιομετρικής κατηγοριοποίησης. Οι πληροφορίες και κοινοποιήσεις θα πρέπει να παρέχονται σε μορφή προσβάσιμη για τα άτομα με αναπηρία. Επιπλέον, οι χρήστες οι οποίοι χρησιμοποιούν σύστημα ΤΝ για τη δημιουργία ή τον χειρισμό περιεχομένου εικόνας, ήχου ή βίντεο που έχει αισθητές ομοιότητες με υπαρκτά πρόσωπα, τόπους ή γεγονότα και το οποίο θα μπορούσε να εκληφθεί ψευδώς από κάποιο πρόσωπο ως γνήσιο, θα πρέπει να γνωστοποιούν ότι το περιεχόμενο έχει δημιουργηθεί τεχνητά ή έχει υποστεί χειρισμό, μέσω της κατάλληλης επισήμανσης των στοιχείων εξόδου του συστήματος τεχνητής νοημοσύνης και γνωστοποίησης της τεχνητής προέλευσής του. Ορισμένα συστήματα ΤΝ που προορίζονται να αλληλεπιδρούν με φυσικά πρόσωπα ή να παράγουν περιεχόμενο ενδέχεται να ενέχουν συγκεκριμένους κινδύνους πλαστοπροσωπίας ή παραπλάνησης ανεξάρτητα από το αν χαρακτηρίζονται ως υψηλού κινδύνου ή όχι. Συνεπώς, η χρήση των συστημάτων αυτών θα πρέπει να υπόκειται σε ειδικές υποχρεώσεις διαφάνειας, με την επιφύλαξη των απαιτήσεων και των υποχρεώσεων που ισχύουν για τα συστήματα ΤΝ υψηλού κινδύνου. Ειδικότερα, τα φυσικά πρόσωπα θα πρέπει να ενημερώνονται συστηματικά για το γεγονός ότι αλληλεπιδρούν με σύστημα ΤΝ. Επιπλέον τα φυσικά πρόσωπα θα πρέπει να ενημερώνονται όταν εκτίθενται σε σύστημα αναγνώρισης συναισθημάτων ή βιομετρικής κατηγοριοποίησης. Οι πληροφορίες και κοινοποιήσεις θα πρέπει να παρέχονται σε μορφή προσβάσιμη για τα άτομα με αναπηρία. Επιπλέον, οι χρήστες οι οποίοι χρησιμοποιούν σύστημα ΤΝ για τη δημιουργία ή τον χειρισμό περιεχομένου εικόνας, ήχου ή βίντεο που έχει αισθητές ομοιότητες με υπαρκτά πρόσωπα, τόπους ή γεγονότα και το οποίο θα μπορούσε να εκληφθεί ψευδώς από κάποιο πρόσωπο ως γνήσιο, θα πρέπει να γνωστοποιούν ότι το περιεχόμενο έχει δημιουργηθεί τεχνητά ή έχει υποστεί χειρισμό, μέσω της κατάλληλης επισήμανσης των στοιχείων εξόδου του συστήματος τεχνητής νοημοσύνης και γνωστοποίησης της τεχνητής προέλευσής του.

Αιτιολογία

Δεν θα πρέπει να υπάρχει καμία εξαίρεση από την υποχρέωση διαφάνειας και πληροφόρησης όταν φυσικά πρόσωπα αλληλεπιδρούν με συστήματα τεχνητής νοημοσύνης.

Τροπολογία 12

Αιτιολογική σκέψη 76

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Προκειμένου να διευκολυνθεί η ομαλή, αποτελεσματική και εναρμονισμένη εφαρμογή του παρόντος κανονισμού θα πρέπει να συσταθεί Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης. Το Συμβούλιο θα πρέπει να είναι αρμόδιο για την εκτέλεση ορισμένων συμβουλευτικών καθηκόντων, συμπεριλαμβανομένης της έκδοσης γνωμών, συστάσεων, συμβουλών ή κατευθυντήριων οδηγιών σε θέματα που σχετίζονται με την εφαρμογή του παρόντος κανονισμού, μεταξύ άλλων σε σχέση με τεχνικές προδιαγραφές ή υφιστάμενα πρότυπα όσον αφορά τις απαιτήσεις που θεσπίζονται με τον παρόντα κανονισμό, καθώς και της παροχής συμβουλών και συνδρομής στην Επιτροπή για συγκεκριμένα ζητήματα που σχετίζονται με την τεχνητή νοημοσύνη. Προκειμένου να διευκολυνθεί η ομαλή, αποτελεσματική και εναρμονισμένη εφαρμογή του παρόντος κανονισμού θα πρέπει να συσταθεί Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης. Το Συμβούλιο θα πρέπει να είναι αρμόδιο για την εκτέλεση ορισμένων συμβουλευτικών καθηκόντων, συμπεριλαμβανομένης της έκδοσης γνωμών, συστάσεων, συμβουλών ή κατευθυντήριων οδηγιών σε θέματα που σχετίζονται με την εφαρμογή του παρόντος κανονισμού, μεταξύ άλλων σε σχέση με τεχνικές προδιαγραφές ή υφιστάμενα πρότυπα όσον αφορά τις απαιτήσεις που θεσπίζονται με τον παρόντα κανονισμό, καθώς και της παροχής συμβουλών και συνδρομής στην Επιτροπή για συγκεκριμένα ζητήματα που σχετίζονται με την τεχνητή νοημοσύνη. Η σύνθεση του Ευρωπαϊκού Συμβουλίου Τεχνητής Νοημοσύνης θα πρέπει να αντικατοπτρίζει τα συμφέροντα της ευρωπαϊκής κοινωνίας και να τηρεί την ισορροπία ανδρών και γυναικών.

Αιτιολογία

Στο Ευρωπαϊκό Συμβούλιο Τεχνητής Νοημοσύνης θα πρέπει να αποτυπώνονται ορθά τα κύρια συμφέροντα της ευρωπαϊκής κοινωνίας. Πρόκειται κυρίως για τα συμφέροντα στους τομείς των ανθρωπίνων δικαιωμάτων, του κλίματος και της ενεργειακής αποδοτικότητας των συστημάτων τεχνητής νοημοσύνης, της ασφάλειας, της κοινωνικής ένταξης, της υγείας κ.λπ. Η ισορροπία ανδρών και γυναικών είναι απαραίτητη προϋπόθεση για την εξασφάλιση της πολυμορφίας στις δραστηριότητες παροχής συμβουλών, εκπόνησης κατευθυντήριων γραμμών κ.λπ.

Τροπολογία 13

Αιτιολογική σκέψη 77

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Τα κράτη μέλη διαδραματίζουν καίριο ρόλο στην εφαρμογή και την επιβολή του παρόντος κανονισμού. Στο πλαίσιο αυτό, κάθε κράτος μέλος θα πρέπει να ορίσει μία ή περισσότερες εθνικές αρμόδιες αρχές για την εποπτεία της εφαρμογής και της υλοποίησης του παρόντος κανονισμού. Προκειμένου να αυξηθεί η αποτελεσματικότητα της οργάνωσης από την πλευρά των κρατών μελών και να δημιουργηθεί ένα επίσημο σημείο επαφής με το κοινό και άλλους ομολόγους σε επίπεδο κρατών μελών και σε επίπεδο Ένωσης, σε κάθε κράτος μέλος θα πρέπει να οριστεί μία εθνική αρχή ως εθνική εποπτική αρχή. Τα κράτη μέλη διαδραματίζουν καίριο ρόλο στην εφαρμογή και την επιβολή του παρόντος κανονισμού. Στο πλαίσιο αυτό, κάθε κράτος μέλος θα πρέπει να ορίσει μία ή περισσότερες εθνικές αρμόδιες αρχές για την εποπτεία της εφαρμογής και της υλοποίησης του παρόντος κανονισμού. Προκειμένου να αυξηθεί η αποτελεσματικότητα της οργάνωσης από την πλευρά των κρατών μελών και να δημιουργηθεί ένα επίσημο σημείο επαφής με το κοινό και άλλους ομολόγους σε επίπεδο κρατών μελών και σε επίπεδο Ένωσης, σε κάθε κράτος μέλος θα πρέπει να οριστεί μία εθνική αρχή ως εθνική εποπτική αρχή. Όταν ένα κράτος μέλος το κρίνει σκόπιμο, αναθέτει στους ΟΤΑ καθήκοντα επιτήρησης ή υλοποίησης.

Αιτιολογία

Για τους σκοπούς της εφαρμοσιμότητας του κανονισμού και του οικείου μηχανισμού εποπτείας και εφαρμογής, τα κράτη μέλη πρέπει να έχουν τη δυνατότητα να αναθέτουν στους ΟΤΑ καθήκοντα επιτήρησης ή υλοποίησης, εφόσον αυτό κρίνεται αναγκαίο και στο μέτρο του δυνατού.

Τροπολογία 14

Αιτιολογική σκέψη 79

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Προκειμένου να διασφαλιστεί η κατάλληλη και αποτελεσματική επιβολή των απαιτήσεων και των υποχρεώσεων που ορίζονται στον παρόντα κανονισμό, ο οποίος αποτελεί ενωσιακή νομοθεσία εναρμόνισης, θα πρέπει να εφαρμόζεται στο σύνολό του το σύστημα εποπτείας της αγοράς και συμμόρφωσης των προϊόντων που θεσπίστηκε με τον κανονισμό (ΕΕ) 2019/1020. Όταν απαιτείται για την άσκηση της εντολής τους, οι εθνικές αρμόδιες αρχές ή φορείς που έχουν επιφορτιστεί με την εποπτεία της εφαρμογής του δικαίου της Ένωσης για την προστασία των θεμελιωδών δικαιωμάτων, συμπεριλαμβανομένων των φορέων ισότητας, θα πρέπει επίσης να έχουν πρόσβαση σε κάθε φάκελο τεκμηρίωσης που δημιουργείται στο πλαίσιο του παρόντος κανονισμού. Προκειμένου να διασφαλιστεί η κατάλληλη και αποτελεσματική επιβολή των απαιτήσεων και των υποχρεώσεων που ορίζονται στον παρόντα κανονισμό, ο οποίος αποτελεί ενωσιακή νομοθεσία εναρμόνισης, θα πρέπει να εφαρμόζεται στο σύνολό του το σύστημα εποπτείας της αγοράς και συμμόρφωσης των προϊόντων που θεσπίστηκε με τον κανονισμό (ΕΕ) 2019/1020. Όταν απαιτείται για την άσκηση της εντολής τους, οι εθνικές αρμόδιες αρχές , καθώς και, κατά περίπτωση, οι τοπικές ή οι περιφερειακές αρχές, ή φορείς που έχουν επιφορτιστεί με την εποπτεία της εφαρμογής του δικαίου της Ένωσης για την προστασία των θεμελιωδών δικαιωμάτων, συμπεριλαμβανομένων των φορέων ισότητας, θα πρέπει επίσης να έχουν πρόσβαση σε κάθε φάκελο τεκμηρίωσης που δημιουργείται στο πλαίσιο του παρόντος κανονισμού.

Αιτιολογία

Με την προτεινόμενη τροπολογία λαμβάνονται υπόψη οι διάφορες δομές διακυβέρνησης που υφίστανται στα κράτη μέλη της ΕΕ.

Τροπολογία 15

Αιτιολογική σκέψη 83

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Προκειμένου να διασφαλιστεί η αξιόπιστη και εποικοδομητική συνεργασία των αρμόδιων αρχών σε ενωσιακό και σε εθνικό επίπεδο, όλα τα μέρη που συμμετέχουν στην εφαρμογή του παρόντος κανονισμού θα πρέπει να τηρούν την εμπιστευτικότητα των πληροφοριών και των δεδομένων που λαμβάνονται κατά την εκτέλεση των καθηκόντων τους. Προκειμένου να διασφαλιστεί η αξιόπιστη και εποικοδομητική συνεργασία των αρμόδιων αρχών σε ενωσιακό, σε εθνικό , σε περιφερειακό και σε τοπικό επίπεδο, όλα τα μέρη που συμμετέχουν στην εφαρμογή του παρόντος κανονισμού θα πρέπει να τηρούν την εμπιστευτικότητα των πληροφοριών και των δεδομένων που λαμβάνονται κατά την εκτέλεση των καθηκόντων τους.

Αιτιολογία

Με την προτεινόμενη τροπολογία λαμβάνονται υπόψη οι διάφορες δομές διακυβέρνησης που υφίστανται στα κράτη μέλη της ΕΕ.

Τροπολογία 16

Τίτλος Ι άρθρο 3 ψηφίο 1 — Ορισμοί

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ «σύστημα τεχνητής νοημοσύνης» (σύστημα ΤΝ): λογισμικό που αναπτύσσεται με μία ή περισσότερες από τις τεχνικές και προσεγγίσεις που παρατίθενται στο παράρτημα I και μπορεί, για ένα δεδομένο σύνολο στόχων που έχουν καθοριστεί από τον άνθρωπο, να παράγει στοιχεία εξόδου όπως περιεχόμενο, προβλέψεις, συστάσεις ή αποφάσεις που επηρεάζουν τα περιβάλλοντα με τα οποία αλληλεπιδρά· «σύστημα τεχνητής νοημοσύνης» (σύστημα ΤΝ): λογισμικό που αναπτύσσεται με μία ή περισσότερες από τις τεχνικές και προσεγγίσεις που παρατίθενται ενδεικτικά και όχι εξαντλητικά στο παράρτημα I, και το οποίο συνδέεται με κοινωνικές πρακτικές και με στοιχεία ταυτότητας και πολιτισμού, μπορεί δε , για ένα δεδομένο σύνολο στόχων που έχουν καθοριστεί από τον άνθρωπο, και με βάση την αντίληψη του περιβάλλοντός του χάρη στη συλλογή δεδομένων, στην ερμηνεία των συλλεγόμενων δεδομένων, είτε διαρθρωμένων είτε όχι, στη διαχείριση των γνώσεων ή στην επεξεργασία της πληροφορίας που προκύπτει από τα εν λόγω δεδομένα, να παράγει στοιχεία εξόδου όπως περιεχόμενο, προβλέψεις, συστάσεις ή αποφάσεις που επηρεάζουν τα περιβάλλοντα με τα οποία αλληλεπιδρά·

Αιτιολογία

Ένα σύστημα τεχνητής νοημοσύνης συνίσταται σε έναν συνδυασμό τεχνικών στοιχείων τα οποία συνδυάζουν δεδομένα, αλγορίθμους και υπολογιστική ισχύ με κοινωνικές πρακτικές, με την κοινωνία, με την ταυτότητα και με τον πολιτισμό. Ο ορισμός ενός τέτοιου κοινωνικο-τεχνικού συνόλου θα πρέπει, συνεπώς, να αντέχει στον χρόνο και να επικαιροποιείται τακτικά ώστε να αντικατοπτρίζει με ακρίβεια τον συνεχώς αυξανόμενο κοινωνικό αντίκτυπο της τεχνητής νοημοσύνης, παράλληλα δε να εντοπίζει τις ταχέως μεταβαλλόμενες προκλήσεις και ευκαιρίες που σχετίζονται με την τεχνητή νοημοσύνη, συμπεριλαμβανομένης της σύνδεσης μεταξύ της διαχείρισης των γνώσεων και της ΤΝ. Στο πλαίσιο αυτό, ένας αλγόριθμος που αναπτύσσεται από άλλον αλγόριθμο θα πρέπει επίσης να υπόκειται στον κανονισμό.

Τροπολογία 17

Άρθρο 5 παράγραφος 1

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Απαγορεύονται οι ακόλουθες πρακτικές στον τομέα της τεχνητής νοημοσύνης: Απαγορεύονται οι ακόλουθες πρακτικές στον τομέα της τεχνητής νοημοσύνης: α) η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση συστήματος ΤΝ που χρησιμοποιεί τεχνικές οι οποίες απευθύνονται στο υποσυνείδητο ενός προσώπου υπερκεράζοντας το συνειδητό του, προκειμένου να στρεβλώσει ουσιωδώς τη συμπεριφορά ενός προσώπου κατά τρόπο που προκαλεί ή ενδέχεται να προκαλέσει στο εν λόγω πρόσωπο ή σε άλλο πρόσωπο σωματική ή ψυχολογική βλάβη· α) η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση συστήματος ΤΝ που χρησιμοποιεί τεχνικές οι οποίες απευθύνονται στο υποσυνείδητο ενός προσώπου υπερκεράζοντας το συνειδητό του, προκειμένου να στρεβλώσει ουσιωδώς τη συμπεριφορά ενός προσώπου κατά τρόπο που προκαλεί ή ενδέχεται να προκαλέσει στο εν λόγω πρόσωπο ή σε άλλο πρόσωπο σωματική ή ψυχολογική βλάβη , που παραβιάζει ή ενδέχεται να παραβιάσει τα θεμελιώδη δικαιώματα ενός άλλου προσώπου ή μιας ομάδας προσώπων, συμπεριλαμβανομένης της φυσικής ή ψυχικής υγείας και ασφάλειάς τους , προκαλεί ή είναι πιθανόν να προκαλέσει ζημία στους καταναλωτές, συμπεριλαμβανομένων χρηματικής απώλειας ή οικονομικών διακρίσεων, ή που υπονομεύει ή ενδέχεται να υπονομεύσει τη δημοκρατία και το κράτος δικαίου · β) η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση συστήματος ΤΝ που εκμεταλλεύεται οποιοδήποτε από τα τρωτά σημεία συγκεκριμένης ομάδας προσώπων λόγω της ηλικίας, της σωματικής ή διανοητικής αναπηρίας τους, προκειμένου να στρεβλωθεί ουσιωδώς η συμπεριφορά προσώπου που ανήκει στην εν λόγω ομάδα κατά τρόπο που προκαλεί ή ενδέχεται να προκαλέσει στο εν λόγω πρόσωπο ή σε άλλο πρόσωπο σωματική ή ψυχολογική βλάβη· β) η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση συστήματος ΤΝ που εκμεταλλεύεται οποιοδήποτε από τα τρωτά σημεία συγκεκριμένης ομάδας προσώπων λόγω της ηλικίας, της σωματικής ή διανοητικής αναπηρίας τους, προκειμένου να στρεβλωθεί ουσιωδώς η συμπεριφορά προσώπου που ανήκει στην εν λόγω ομάδα κατά τρόπο που προκαλεί ή ενδέχεται να προκαλέσει στο εν λόγω πρόσωπο ή σε άλλο πρόσωπο σωματική ή ψυχολογική βλάβη· γ) η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση συστημάτων ΤΝ από τις δημόσιες αρχές ή εξ ονόματός τους για την αξιολόγηση ή την ταξινόμηση της αξιοπιστίας των φυσικών προσώπων για ορισμένο χρονικό διάστημα με βάση την κοινωνική τους συμπεριφορά ή τα γνωστά ή προβλεπόμενα προσωπικά χαρακτηριστικά τους ή χαρακτηριστικά της προσωπικότητάς τους , με κοινωνική βαθμολογία η οποία οδηγεί σε ένα ή σε αμφότερα από τα ακόλουθα: i) επιζήμια ή δυσμενή μεταχείριση ορισμένων φυσικών προσώπων ή ολόκληρων ομάδων φυσικών προσώπων σε κοινωνικά πλαίσια τα οποία δεν σχετίζονται με το πλαίσιο στο οποίο παρήχθησαν ή συλλέχθηκαν αρχικά τα δεδομένα· ii) επιζήμια ή δυσμενή μεταχείριση ορισμένων φυσικών προσώπων ή ολόκληρων ομάδων φυσικών προσώπων, η οποία είναι αδικαιολόγητη ή δυσανάλογη προς την κοινωνική συμπεριφορά τους ή τη σοβαρότητά της· γ) η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση συστημάτων ΤΝ από τις δημόσιες αρχές ή εξ ονόματός τους για την αξιολόγηση ή την ταξινόμηση της αξιοπιστίας των φυσικών προσώπων ή ομάδων προσώπων για ορισμένο χρονικό διάστημα με βάση την κοινωνική τους συμπεριφορά ή τα γνωστά ή προβλεπόμενα προσωπικά χαρακτηριστικά τους ή χαρακτηριστικά της προσωπικότητάς τους , που οδηγεί σε κοινωνική βαθμολόγηση για γενικούς σκοπούς με βάση την ΤΝ · δ) η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο», σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου, εκτός εάν και στον βαθμό που η χρήση αυτή είναι απολύτως αναγκαία για έναν από τους ακόλουθους στόχους: i) τη στοχευμένη αναζήτηση συγκεκριμένων δυνητικών θυμάτων εγκληματικών πράξεων, συμπεριλαμβανομένων των αγνοούμενων παιδιών· ii) την πρόληψη συγκεκριμένης, ουσιώδους και επικείμενης απειλής κατά της ζωής ή της σωματικής ακεραιότητας φυσικών προσώπων ή απειλές τρομοκρατικής επίθεσης· iii) τον εντοπισμό, την ταυτοποίηση ή τη δίωξη δράστη ή υπόπτου για ποινικό αδίκημα που αναφέρεται στο άρθρο 2 παράγραφος 2 της απόφασης-πλαισίου 2002/584/ΔΕΥ ([62]) του Συμβουλίου και το οποίο τιμωρείται στο οικείο κράτος μέλος με στερητική της ελευθερίας ποινή ή στερητικό της ελευθερίας μέτρο ασφάλειας ανώτατης διάρκειας τουλάχιστον τριών ετών, όπως ορίζεται στο δίκαιο του εν λόγω κράτους μέλους. δ) η διάθεση στην αγορά, η θέση σε λειτουργία ή η χρήση συστημάτων ΤΝ από τις δημόσιες αρχές ή εξ ονόματός τους, η εφαρμογή κοινωνικής βαθμολόγησης με βάση την ΤΝ για συγκεκριμένους σκοπούς χωρίς ανθρώπινη επίβλεψη, δηλαδή σε κοινωνικά πλαίσια που σχετίζονται με πλαίσια στα οποία αρχικά τα δεδομένα δημιουργήθηκαν ή συλλέχθηκαν, με στόχο την αξιολόγηση ή την ταξινόμηση της αξιοπιστίας των φυσικών ατόμων ή ομάδες ατόμων για ορισμένο χρονικό διάστημα με βάση την κοινωνική τους συμπεριφορά ή με βάση τα γνωστά ή προβλεπόμενα προσωπικά χαρακτηριστικά τους ή χαρακτηριστικά της προσωπικότητάς τους, με κοινωνική βαθμολογία η οποία οδηγεί σε επιζήμια ή δυσμενή μεταχείριση ορισμένων φυσικών προσώπων ή ολόκληρων ομάδων φυσικών προσώπων που είναι αδικαιολόγητη ή δυσανάλογη προς την κοινωνική συμπεριφορά τους ή τη σοβαρότητά της· ε) η χρήση συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο», σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου, εκτός εάν και στον βαθμό που η χρήση αυτή είναι απολύτως αναγκαία για έναν από τους ακόλουθους στόχους: i) τη στοχευμένη αναζήτηση συγκεκριμένων δυνητικών θυμάτων εγκληματικών πράξεων, συμπεριλαμβανομένων των αγνοούμενων παιδιών· ii) την πρόληψη συγκεκριμένης, ουσιώδους και επικείμενης απειλής κατά της ζωής ή της σωματικής ακεραιότητας φυσικών προσώπων ή απειλές τρομοκρατικής επίθεσης· iii) τον εντοπισμό, την ταυτοποίηση ή τη δίωξη δράστη ή υπόπτου για ποινικό αδίκημα που αναφέρεται στο άρθρο 2 παράγραφος 2 της απόφασης-πλαισίου 2002/584/ΔΕΥ ([62]) του Συμβουλίου και το οποίο τιμωρείται στο οικείο κράτος μέλος με στερητική της ελευθερίας ποινή ή στερητικό της ελευθερίας μέτρο ασφάλειας ανώτατης διάρκειας τουλάχιστον τριών ετών, όπως ορίζεται στο δίκαιο του εν λόγω κράτους μέλους.

Αιτιολογία

Οι τεχνικές που απευθύνονται στο υποσυνείδητο είναι γενικά δυνατό να παραβιάζουν την ελευθερία, τα ανθρώπινα δικαιώματα και, κατά συνέπεια, τη λειτουργία του δημοκρατικού κράτους δικαίου. Συγχρόνως, η τεχνητή νοημοσύνη ενδέχεται να υπονομεύσει τα δικαιώματα των καταναλωτών. Στόχος των προτεινόμενων προσθηκών είναι να διασαφηνίσουν το σημείο αυτό.

Όσον αφορά την κοινωνική βαθμολόγηση εκ μέρους των δημόσιων αρχών ή εξ ονόματός τους, θα πρέπει να απαγορεύεται εάν πραγματοποιείται για γενικούς σκοπούς, δεδομένων των κινδύνων που απορρέουν από τέτοιες πρακτικές, όπως εξηγείται στην αιτιολογική σκέψη 17. Η δημιουργία ή η συλλογή δεδομένων για συγκεκριμένους σκοπούς θα πρέπει να επιτρέπεται μόνο υπό ανθρώπινη επίβλεψη και υπό την προϋπόθεση ότι δεν παραβιάζει το δικαίωμα στην αξιοπρέπεια και στη μη διακριτική μεταχείριση, καθώς και τις αξίες της ισότητας και της δικαιοσύνης.

Τροπολογία 18

Άρθρο 5 παράγραφος 4

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Ένα κράτος μέλος μπορεί να αποφασίσει να προβλέψει τη δυνατότητα πλήρους ή μερικής έγκρισης της χρήσης συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου εντός των ορίων και υπό τις προϋποθέσεις που απαριθμούνται στην παράγραφο 1 στοιχείο δ) και στις παραγράφους 2 και 3. Το εν λόγω κράτος μέλος καθορίζει στο εθνικό του δίκαιο τους αναγκαίους λεπτομερείς κανόνες για το αίτημα, την έκδοση και την άσκηση, καθώς και την εποπτεία, όσον αφορά τις άδειες που αναφέρονται στην παράγραφο 3. Οι εν λόγω κανόνες προσδιορίζουν επίσης σε σχέση με ποιους από τους στόχους που απαριθμούνται στην παράγραφο 1 στοιχείο δ), μεταξύ άλλων για ποια από τα ποινικά αδικήματα που αναφέρονται στο σημείο iii), μπορεί να επιτραπεί στις αρμόδιες αρχές να χρησιμοποιούν τα εν λόγω συστήματα για σκοπούς επιβολής του νόμου. Ένα κράτος μέλος μπορεί να αποφασίσει να προβλέψει τη δυνατότητα πλήρους ή μερικής έγκρισης της χρήσης συστημάτων εξ αποστάσεως βιομετρικής ταυτοποίησης «σε πραγματικό χρόνο» σε δημόσια προσβάσιμους χώρους για σκοπούς επιβολής του νόμου εντός των ορίων και υπό τις προϋποθέσεις που απαριθμούνται στην παράγραφο 1 στοιχείο δ) και στις παραγράφους 2 και 3. Το εν λόγω κράτος μέλος καθορίζει στο εθνικό του δίκαιο τους αναγκαίους λεπτομερείς κανόνες για το αίτημα, την έκδοση και την άσκηση, καθώς και την εποπτεία, όσον αφορά τις άδειες που αναφέρονται στην παράγραφο 3. Οι εν λόγω κανόνες προσδιορίζουν επίσης σε σχέση με ποιους από τους στόχους που απαριθμούνται στην παράγραφο 1 στοιχείο δ), μεταξύ άλλων για ποια από τα ποινικά αδικήματα που αναφέρονται στο σημείο iii), μπορεί να επιτραπεί στις αρμόδιες αρχές να χρησιμοποιούν τα εν λόγω συστήματα για σκοπούς επιβολής του νόμου. Οι κανόνες αυτοί καθορίζουν επιπλέον τις διαδικασίες ενημέρωσης και διαβούλευσης με τους ενδιαφερόμενους ΟΤΑ. Η διαβούλευση πρέπει να πραγματοποιείται πριν από την έκτακτη χρήση των εν λόγω συστημάτων σε δημόσιους χώρους. Σε επείγουσες περιπτώσεις κατά τις οποίες δεν είναι εύλογο να αναμένεται η πρότερη διαβούλευση, ο ενδιαφερόμενος οργανισμός τοπικής αυτοδιοίκησης πρέπει να ενημερώνεται ανυπερθέτως για τη χρήση της συγκεκριμένης πρακτικής ΤΝ.

Αιτιολογία

Η πολιτική και διοικητική ευθύνη για τη διαχείριση και την επιτήρηση των δημόσιων χώρων υπάγεται στην αρμοδιότητα των οργανισμών τοπικής αυτοδιοίκησης (ΟΤΑ). Επομένως, οι ΟΤΑ πρέπει να έχουν λόγο εκ των προτέρων σχετικά με τη χρήση τέτοιων πρακτικών τεχνητής νοημοσύνης και να ενημερώνονται δεόντως για την έκτακτη χρήση συστημάτων τεχνητής νοημοσύνης για σκοπούς επιβολής του νόμου.

Σε επείγουσες περιπτώσεις κατά τις οποίες δεν είναι εύλογο να αναμένεται η πρότερη διαβούλευση, ο ενδιαφερόμενος ΟΤΑ πρέπει να ενημερώνεται ανυπερθέτως.

Τροπολογία 19

Άρθρο 13

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Άρθρο 13 — Διαφάνεια και πληροφόρηση των χρηστών Άρθρο 13a — Διαφάνεια και πληροφόρηση των χρηστών 1. Τα συστήματα ΤΝ υψηλού κινδύνου σχεδιάζονται και αναπτύσσονται κατά τρόπο που διασφαλίζει ότι η λειτουργία τους είναι επαρκώς διαφανής ώστε οι χρήστες να είναι σε θέση να ερμηνεύουν τα στοιχεία εξόδου του συστήματος και να τα χρησιμοποιούν κατάλληλα. Διασφαλίζεται ο κατάλληλος τύπος και βαθμός διαφάνειας, με στόχο την επίτευξη συμμόρφωσης με τις σχετικές υποχρεώσεις του χρήστη και του παρόχου οι οποίες καθορίζονται στο κεφάλαιο 3 του παρόντος τίτλου. 1. Τα συστήματα ΤΝ υψηλού κινδύνου σχεδιάζονται και αναπτύσσονται κατά τρόπο που διασφαλίζει ότι η λειτουργία τους είναι επαρκώς διαφανής ώστε οι χρήστες να είναι σε θέση να ερμηνεύουν τα στοιχεία εξόδου του συστήματος και να τα χρησιμοποιούν κατάλληλα. Διασφαλίζεται ο κατάλληλος τύπος και βαθμός διαφάνειας και κατανοητές επεξηγήσεις , με στόχο την επίτευξη συμμόρφωσης με τις σχετικές υποχρεώσεις του χρήστη και του παρόχου οι οποίες καθορίζονται στο κεφάλαιο 3 του παρόντος τίτλου. Οι επεξηγήσεις παρέχονται τουλάχιστον στη γλώσσα της χώρας στην οποία εγκαθίσταται το σύστημα ΤΝ. 2. Τα συστήματα ΤΝ υψηλού κινδύνου συνοδεύονται από οδηγίες χρήσης σε κατάλληλο ψηφιακό μορφότυπο ή με άλλο τρόπο, οι οποίες περιλαμβάνουν συνοπτικές, πλήρεις, ορθές και σαφείς πληροφορίες που είναι συναφείς, προσβάσιμες και κατανοητές από τους χρήστες. 2. Τα συστήματα ΤΝ υψηλού κινδύνου συνοδεύονται από δημόσιες, κατανοητές και προσβάσιμες σε όλους οδηγίες χρήσης σε κατάλληλο ψηφιακό μορφότυπο ή με άλλο τρόπο, οι οποίες περιλαμβάνουν συνοπτικές, πλήρεις, ορθές και σαφείς πληροφορίες που είναι συναφείς, προσβάσιμες και κατανοητές από τους χρήστες. 3. Οι πληροφορίες που αναφέρονται στην παράγραφο 2 διευκρινίζουν: 3. Οι πληροφορίες που αναφέρονται στην παράγραφο 2 διευκρινίζουν: α) την ταυτότητα και τα στοιχεία επικοινωνίας του παρόχου και, κατά περίπτωση, του εξουσιοδοτημένου εκπροσώπου του· α) την ταυτότητα και τα στοιχεία επικοινωνίας του παρόχου και, κατά περίπτωση, του εξουσιοδοτημένου εκπροσώπου του· β) τα χαρακτηριστικά, τις ικανότητες και τους περιορισμούς των επιδόσεων του συστήματος ΤΝ υψηλού κινδύνου, μεταξύ άλλων: β) τα χαρακτηριστικά, τις ικανότητες και τους περιορισμούς των επιδόσεων του συστήματος ΤΝ υψηλού κινδύνου, μεταξύ άλλων: i) τον επιδιωκόμενο σκοπό του· i) τον επιδιωκόμενο σκοπό του· ii) το επίπεδο ακρίβειας, στιβαρότητας και κυβερνοασφάλειας που αναφέρεται στο άρθρο 15 με βάση το οποίο έχει δοκιμαστεί και επικυρωθεί το σύστημα ΤΝ υψηλού κινδύνου και το οποίο μπορεί να αναμένεται, καθώς και κάθε γνωστή και προβλέψιμη περίσταση που μπορεί να έχει αντίκτυπο στο εν λόγω αναμενόμενο επίπεδο ακρίβειας, στιβαρότητας και κυβερνοασφάλειας· ii) το επίπεδο ακρίβειας (εκπεφρασμένο σε μετρικό σύστημα κατάλληλο για την αξιολόγηση μοντέλων) , στιβαρότητας και κυβερνοασφάλειας που αναφέρεται στο άρθρο 15 με βάση το οποίο έχει δοκιμαστεί και επικυρωθεί το σύστημα ΤΝ υψηλού κινδύνου και το οποίο μπορεί να αναμένεται, καθώς και κάθε γνωστή και προβλέψιμη περίσταση που μπορεί να έχει αντίκτυπο στο εν λόγω αναμενόμενο επίπεδο ακρίβειας, στιβαρότητας και κυβερνοασφάλειας· iii) κάθε γνωστή ή προβλέψιμη περίσταση που σχετίζεται με τη χρήση του συστήματος ΤΝ υψηλού κινδύνου σύμφωνα με τον επιδιωκόμενο σκοπό του ή υπό συνθήκες ευλόγως προβλέψιμης κακής χρήσης, η οποία μπορεί να οδηγήσει σε κινδύνους για την υγεία και την ασφάλεια ή για τα θεμελιώδη δικαιώματα· iii) κάθε γνωστή ή προβλέψιμη περίσταση που σχετίζεται με τη χρήση του συστήματος ΤΝ υψηλού κινδύνου σύμφωνα με τον επιδιωκόμενο σκοπό του ή υπό συνθήκες ευλόγως προβλέψιμης κακής χρήσης, η οποία μπορεί να οδηγήσει σε κινδύνους για την υγεία και την ασφάλεια ή για τα θεμελιώδη δικαιώματα· iv) τις επιδόσεις του όσον αφορά τα πρόσωπα ή τις ομάδες προσώπων στα οποία προορίζεται να χρησιμοποιηθεί το σύστημα· iv) τις επιδόσεις του όσον αφορά τα πρόσωπα ή τις ομάδες προσώπων στα οποία προορίζεται να χρησιμοποιηθεί το σύστημα· v) κατά περίπτωση, προδιαγραφές για τα δεδομένα εισόδου ή κάθε άλλη σχετική πληροφορία όσον αφορά τα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής που χρησιμοποιούνται, δεδομένου του επιδιωκόμενου σκοπού του συστήματος ΤΝ. v) κατά περίπτωση, προδιαγραφές για τα δεδομένα εισόδου ή κάθε άλλη σχετική πληροφορία όσον αφορά τα σύνολα δεδομένων εκπαίδευσης, επικύρωσης και δοκιμής που χρησιμοποιούνται, δεδομένου του επιδιωκόμενου σκοπού του συστήματος ΤΝ. vi) τις παραμέτρους που χρησιμοποιούνται για τη ρύθμιση του μοντέλου και τα μέτρα που λαμβάνονται για την αποτροπή υπερπροσαρμογής ή υποπροσαρμογής. γ) τις αλλαγές στο σύστημα ΤΝ υψηλού κινδύνου και τις επιδόσεις του, όπως έχουν προκαθοριστεί από τον πάροχο κατά τη στιγμή της αρχικής αξιολόγησης της συμμόρφωσης, εάν υπάρχουν· γ) τις αλλαγές στο σύστημα ΤΝ υψηλού κινδύνου και τις επιδόσεις του, όπως έχουν προκαθοριστεί από τον πάροχο κατά τη στιγμή της αρχικής αξιολόγησης της συμμόρφωσης, εάν υπάρχουν· δ) τα μέτρα ανθρώπινης εποπτείας που αναφέρονται στο άρθρο 14, συμπεριλαμβανομένων των τεχνικών μέτρων που εφαρμόζονται για τη διευκόλυνση της ερμηνείας των στοιχείων εξόδου των συστημάτων ΤΝ από τους χρήστες· δ) τα μέτρα ανθρώπινης εποπτείας που αναφέρονται στο άρθρο 14, συμπεριλαμβανομένων των τεχνικών μέτρων που εφαρμόζονται για τη διευκόλυνση της ερμηνείας των στοιχείων εξόδου των συστημάτων ΤΝ από τους χρήστες· ε) την αναμενόμενη διάρκεια ζωής του συστήματος ΤΝ υψηλού κινδύνου και τυχόν απαραίτητα μέτρα συντήρησης και φροντίδας για τη διασφάλιση της ορθής λειτουργίας του εν λόγω συστήματος ΤΝ, μεταξύ άλλων όσον αφορά τις επικαιροποιήσεις του λογισμικού. ε) την αναμενόμενη διάρκεια ζωής του συστήματος ΤΝ υψηλού κινδύνου και τυχόν απαραίτητα μέτρα συντήρησης και φροντίδας για τη διασφάλιση της ορθής λειτουργίας του εν λόγω συστήματος ΤΝ, μεταξύ άλλων όσον αφορά τις επικαιροποιήσεις του λογισμικού. 13β — Διαφάνεια και πληροφόρηση των ενδιαφερομένων Τα φυσικά πρόσωπα ή οι ομάδες φυσικών προσώπων για τα οποία προορίζεται ένα σύστημα ΤΝ υψηλού κινδύνου ενημερώνονται κατά τρόπο πρόσφορο, εύκολα προσβάσιμο και κατανοητό και λαμβάνουν πρόσβαση σε ρητές, εύκολα προσπελάσιμες και δημόσια διαθέσιμες πληροφορίες αναφορικά με τη χρήση του συστήματος.

Αιτιολογία

Προκειμένου να ενισχυθεί το οικοσύστημα εμπιστοσύνης, θα πρέπει να τίθενται στη διάθεση του κοινού οι οδηγίες χρήσης των συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου. Οι οδηγίες αυτές πρέπει να συντάσσονται με κατανοητό τρόπο για τον αναγνώστη, στη γλώσσα της χώρας στην οποία εγκαθίσταται το συγκεκριμένο σύστημα τεχνητής νοημοσύνης.

Για τη διαφάνεια και το κατανοητό των αλγορίθμων, πρέπει να είναι δυνατό να εξηγηθεί ποιες παράμετροι χρησιμοποιήθηκαν για τη ρύθμιση του μοντέλου και ποια μέτρα λήφθηκαν για την αποτροπή υπερπροσαρμογής ή υποπροσαρμογής.

Το άρθρο 13β διέπει την υποχρέωση διαφάνειας και πληροφόρησης για τα άτομα που αλληλεπιδρούν με συστήματα τεχνητής νοημοσύνης ή τα οποία θα μπορούσε να αφορά ένα σύστημα τεχνητής νοημοσύνης.

Τροπολογία 20

Άρθρο 14 παράγραφος 4

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Τα μέτρα που αναφέρονται στην παράγραφο 3 επιτρέπουν στα άτομα στα οποία έχει ανατεθεί η ανθρώπινη εποπτεία να προβαίνουν στις ακόλουθες ενέργειες, ανάλογα με τις περιστάσεις: Τα μέτρα που αναφέρονται στην παράγραφο 3 επιτρέπουν στα άτομα στα οποία έχει ανατεθεί η ανθρώπινη εποπτεία να προβαίνουν στις ακόλουθες ενέργειες, ανάλογα με τις περιστάσεις: α) να κατανοούν πλήρως τις ικανότητες και τους περιορισμούς του συστήματος ΤΝ υψηλού κινδύνου και να είναι σε θέση να παρακολουθούν δεόντως τη λειτουργία του, έτσι ώστε να εντοπίζονται και να αντιμετωπίζονται το συντομότερο δυνατόν ενδείξεις ανωμαλιών, δυσλειτουργιών και απροσδόκητων επιδόσεων· α) να κατανοούν πλήρως τις ικανότητες και τους περιορισμούς του συστήματος ΤΝ υψηλού κινδύνου και να είναι σε θέση να παρακολουθούν δεόντως τη λειτουργία του, έτσι ώστε να εντοπίζονται και να αντιμετωπίζονται το συντομότερο δυνατόν ενδείξεις ανωμαλιών, δυσλειτουργιών και απροσδόκητων επιδόσεων· β) να παραμένουν ενήμερα για την πιθανή τάση αυτόματης εξάρτησης ή υπέρμετρης εξάρτησης από τα στοιχεία εξόδου που παράγονται από σύστημα ΤΝ υψηλού κινδύνου («μεροληψία αυτοματισμού»), ειδικότερα για τα συστήματα ΤΝ υψηλού κινδύνου που χρησιμοποιούνται για την παροχή πληροφοριών ή συστάσεων για αποφάσεις που πρόκειται να ληφθούν από φυσικά πρόσωπα· β) να παραμένουν ενήμερα για την πιθανή τάση αυτόματης εξάρτησης ή υπέρμετρης εξάρτησης από τα στοιχεία εξόδου που παράγονται από σύστημα ΤΝ υψηλού κινδύνου («μεροληψία αυτοματισμού») ή για όποιου άλλου είδους μεροληψία , ειδικότερα για τα συστήματα ΤΝ υψηλού κινδύνου που χρησιμοποιούνται για την παροχή πληροφοριών ή συστάσεων για αποφάσεις που πρόκειται να ληφθούν από φυσικά πρόσωπα· γ) να είναι σε θέση να ερμηνεύουν ορθά τα στοιχεία εξόδου του συστήματος ΤΝ υψηλού κινδύνου, λαμβάνοντας ιδιαίτερα υπόψη τα χαρακτηριστικά του συστήματος και τα διαθέσιμα εργαλεία και τις μεθόδους ερμηνείας· γ) να είναι σε θέση να ερμηνεύουν ορθά τα στοιχεία εξόδου του συστήματος ΤΝ υψηλού κινδύνου, λαμβάνοντας ιδιαίτερα υπόψη τα χαρακτηριστικά του συστήματος και τα διαθέσιμα εργαλεία και τις μεθόδους ερμηνείας· δ) να είναι σε θέση να αποφασίζουν, σε οποιαδήποτε συγκεκριμένη περίπτωση, να μη χρησιμοποιήσουν το σύστημα ΤΝ υψηλού κινδύνου ή να αγνοούν, να παρακάμπτουν ή να αντιστρέφουν με οποιονδήποτε άλλον τρόπο τα στοιχεία εξόδου του συστήματος ΤΝ υψηλού κινδύνου· δ) να είναι σε θέση να αποφασίζουν, σε οποιαδήποτε συγκεκριμένη περίπτωση, να μη χρησιμοποιήσουν το σύστημα ΤΝ υψηλού κινδύνου ή να αγνοούν, να παρακάμπτουν ή να αντιστρέφουν με οποιονδήποτε άλλον τρόπο τα στοιχεία εξόδου του συστήματος ΤΝ υψηλού κινδύνου· ε) να είναι σε θέση να παρεμβαίνουν στη λειτουργία του συστήματος ΤΝ υψηλού κινδύνου ή να διακόπτουν το σύστημα μέσω πλήκτρου «διακοπής» ή παρόμοιας διαδικασίας. ε) να είναι σε θέση να παρεμβαίνουν στη λειτουργία του συστήματος ΤΝ υψηλού κινδύνου ή να διακόπτουν το σύστημα μέσω πλήκτρου «διακοπής» ή παρόμοιας διαδικασίας.

Αιτιολογία

Υπάρχουν διαφόρων ειδών περιπτώσεις μεροληψίας που ενδέχεται να είναι προβληματικές. Για παράδειγμα, μπορεί να αναφερθεί η μεροληψία του σχεδιαστή ή του ίδιου του χρήστη («κοινωνική μεροληψία»), η μεροληψία σχετικά με το εάν το σύστημα τεχνητής νοημοσύνης που χρησιμοποιείται συνιστά κατάλληλη λύση για το πρόβλημα («τεχνολογική μεροληψία») και η διαφόρων ειδών στατιστικής φύσης μεροληψία.

Τροπολογία 21

Άρθρο 14 — νέα παράγραφος μετά την παράγραφο 5

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Οποιαδήποτε απόφαση λαμβάνεται από τα συστήματα ΤΝ του παραρτήματος ΙΙΙ σημείο 5 στοιχεία α) και β) υπόκειται σε ανθρώπινη παρέμβαση και στηρίζεται σε αυστηρή διαδικασία λήψης αποφάσεων. Πρέπει να κατοχυρώνεται ανθρώπινη συμμετοχή στις αποφάσεις αυτές.

Αιτιολογία

Το άρθρο 14 πραγματεύεται αποκλειστικά τον έλεγχο από ανθρώπους των συστημάτων τεχνητής νοημοσύνη υψηλού κινδύνου. Όσον αφορά τις αποφάσεις των δημοσίων αρχών, είναι σημαντικό να τονιστεί ότι πρέπει να είναι κατοχυρωμένη η ανθρώπινη παρέμβαση και επαφή και η τήρηση των διαδικασιών.

Τροπολογία 22

Άρθρο 17 παράγραφος 1 — Να προστεθούν δύο νέα στοιχεία μετά το στοιχείο (ιγ)

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου εφαρμόζουν σύστημα διαχείρισης ποιότητας το οποίο διασφαλίζει τη συμμόρφωση με τον παρόντα κανονισμό. Το εν λόγω σύστημα τεκμηριώνεται με συστηματικό και τακτικό τρόπο υπό τη μορφή γραπτών πολιτικών, διαδικασιών και οδηγιών, και περιλαμβάνει τουλάχιστον τις ακόλουθες πτυχές: Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου εφαρμόζουν σύστημα διαχείρισης ποιότητας το οποίο διασφαλίζει τη συμμόρφωση με τον παρόντα κανονισμό. Το εν λόγω σύστημα τεκμηριώνεται με συστηματικό και τακτικό τρόπο υπό τη μορφή γραπτών πολιτικών, διαδικασιών και οδηγιών, και περιλαμβάνει τουλάχιστον τις ακόλουθες πτυχές: α) στρατηγική για την κανονιστική συμμόρφωση, που περιλαμβάνει τη συμμόρφωση με τις διαδικασίες αξιολόγησης της συμμόρφωσης και τις διαδικασίες για τη διαχείριση των αλλαγών στο σύστημα ΤΝ υψηλού κινδύνου· α) στρατηγική για την κανονιστική συμμόρφωση, που περιλαμβάνει τη συμμόρφωση με τις διαδικασίες αξιολόγησης της συμμόρφωσης και τις διαδικασίες για τη διαχείριση των αλλαγών στο σύστημα ΤΝ υψηλού κινδύνου· β) τεχνικές, διαδικασίες και συστηματικές ενέργειες που πρέπει να χρησιμοποιούνται για τον σχεδιασμό, τον έλεγχο του σχεδιασμού και την επαλήθευση του σχεδιασμού του συστήματος ΤΝ υψηλού κινδύνου· β) τεχνικές, διαδικασίες και συστηματικές ενέργειες που πρέπει να χρησιμοποιούνται για τον σχεδιασμό, τον έλεγχο του σχεδιασμού και την επαλήθευση του σχεδιασμού του συστήματος ΤΝ υψηλού κινδύνου· γ) τεχνικές, διαδικασίες και συστηματικές ενέργειες που πρέπει να χρησιμοποιούνται για την ανάπτυξη, τον έλεγχο ποιότητας και τη διασφάλιση της ποιότητας του συστήματος ΤΝ υψηλού κινδύνου· γ) τεχνικές, διαδικασίες και συστηματικές ενέργειες που πρέπει να χρησιμοποιούνται για την ανάπτυξη, τον έλεγχο ποιότητας και τη διασφάλιση της ποιότητας του συστήματος ΤΝ υψηλού κινδύνου· δ) διαδικασίες εξέτασης, δοκιμής και επικύρωσης που πρέπει να διενεργούνται πριν, κατά τη διάρκεια και μετά την ανάπτυξη του συστήματος ΤΝ υψηλού κινδύνου, καθώς και τη συχνότητα με την οποία πρέπει να διενεργούνται· δ) διαδικασίες εξέτασης, δοκιμής και επικύρωσης που πρέπει να διενεργούνται πριν, κατά τη διάρκεια και μετά την ανάπτυξη του συστήματος ΤΝ υψηλού κινδύνου, καθώς και τη συχνότητα με την οποία πρέπει να διενεργούνται· ε) τεχνικές προδιαγραφές, συμπεριλαμβανομένων των προτύπων, που πρέπει να εφαρμόζονται και, όταν τα σχετικά εναρμονισμένα πρότυπα δεν εφαρμόζονται πλήρως, τα μέσα που πρέπει να χρησιμοποιούνται για να διασφαλίζεται ότι το σύστημα ΤΝ υψηλού κινδύνου συμμορφώνεται με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου· ε) τεχνικές προδιαγραφές, συμπεριλαμβανομένων των προτύπων, που πρέπει να εφαρμόζονται και, όταν τα σχετικά εναρμονισμένα πρότυπα δεν εφαρμόζονται πλήρως, τα μέσα που πρέπει να χρησιμοποιούνται για να διασφαλίζεται ότι το σύστημα ΤΝ υψηλού κινδύνου συμμορφώνεται με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου· στ) συστήματα και διαδικασίες για τη διαχείριση δεδομένων, συμπεριλαμβανομένης της συλλογής δεδομένων, της ανάλυσης δεδομένων, της επισήμανσης δεδομένων, της αποθήκευσης δεδομένων, του φιλτραρίσματος δεδομένων, της εξόρυξης δεδομένων, της ομαδοποίησης δεδομένων, της διατήρησης δεδομένων και κάθε άλλης ενέργειας σχετικά με τα δεδομένα η οποία εκτελείται πριν και για τους σκοπούς της διάθεσης των συστημάτων ΤΝ υψηλού κινδύνου στην αγορά ή της θέσης τους σε λειτουργία· στ) συστήματα και διαδικασίες για τη διαχείριση δεδομένων, συμπεριλαμβανομένης της συλλογής δεδομένων, της ανάλυσης δεδομένων, της επισήμανσης δεδομένων, της αποθήκευσης δεδομένων, του φιλτραρίσματος δεδομένων, της εξόρυξης δεδομένων, της ομαδοποίησης δεδομένων, της διατήρησης δεδομένων και κάθε άλλης ενέργειας σχετικά με τα δεδομένα η οποία εκτελείται πριν και για τους σκοπούς της διάθεσης των συστημάτων ΤΝ υψηλού κινδύνου στην αγορά ή της θέσης τους σε λειτουργία· ζ) το σύστημα διαχείρισης κινδύνου που αναφέρεται στο άρθρο 9· ζ) το σύστημα διαχείρισης κινδύνου που αναφέρεται στο άρθρο 9· η) την εκπόνηση, εφαρμογή και συντήρηση συστήματος παρακολούθησης μετά τη διάθεση στην αγορά σύμφωνα με το άρθρο 61· η) την εκπόνηση, εφαρμογή και συντήρηση συστήματος παρακολούθησης μετά τη διάθεση στην αγορά σύμφωνα με το άρθρο 61· θ) διαδικασίες σχετικά με την αναφορά σοβαρών περιστατικών και δυσλειτουργιών σύμφωνα με το άρθρο 62· θ) διαδικασίες σχετικά με την αναφορά σοβαρών περιστατικών και δυσλειτουργιών σύμφωνα με το άρθρο 62· ι) τον χειρισμό της επικοινωνίας με τις εθνικές αρμόδιες αρχές, συμπεριλαμβανομένων των τομεακών αρχών, για την παροχή ή υποστήριξη της πρόσβασης σε δεδομένα, κοινοποιημένους οργανισμούς, άλλους φορείς εκμετάλλευσης, πελάτες ή άλλα ενδιαφερόμενα μέρη· ι) τον χειρισμό της επικοινωνίας με τις εθνικές αρμόδιες αρχές, συμπεριλαμβανομένων των τομεακών αρχών, για την παροχή ή υποστήριξη της πρόσβασης σε δεδομένα, κοινοποιημένους οργανισμούς, άλλους φορείς εκμετάλλευσης, πελάτες ή άλλα ενδιαφερόμενα μέρη· ια) συστήματα και διαδικασίες για την τήρηση αρχείων όλων των σχετικών εγγράφων και πληροφοριών· ια) συστήματα και διαδικασίες για την τήρηση αρχείων όλων των σχετικών εγγράφων και πληροφοριών· ιβ) διαχείριση των πόρων, συμπεριλαμβανομένων μέτρων σχετικών με την ασφάλεια του εφοδιασμού· ιβ) διαχείριση των πόρων, συμπεριλαμβανομένων μέτρων σχετικών με την ασφάλεια του εφοδιασμού· ιγ) πλαίσιο λογοδοσίας που καθορίζει τις αρμοδιότητες της διοίκησης και του λοιπού προσωπικού όσον αφορά όλες τις πτυχές που απαριθμούνται στην παρούσα παράγραφο. ιγ) πλαίσιο λογοδοσίας που καθορίζει τις αρμοδιότητες της διοίκησης και του λοιπού προσωπικού όσον αφορά όλες τις πτυχές που απαριθμούνται στην παρούσα· ιδ) μέτρα για την πρόληψη τυχόν αδικαιολόγητων διακρίσεων με βάση το φύλο, την εθνοτική καταγωγή, τη θρησκεία ή τις πεποιθήσεις, την αναπηρία, την ηλικία, τον γενετήσιο προσανατολισμό ή οποιονδήποτε άλλο λόγο· ιε) επεξηγήσεις σχετικά με τον τρόπο κατά τον οποίο λήφθηκαν υπόψη δεοντολογικά ζητήματα κατά τον σχεδιασμό του συστήματος ΤΝ υψηλού κινδύνου.

Αιτιολογία

Η προσθήκη αυτή τονίζει ότι η ένταξη όλων και η καταπολέμηση των αδικαιολόγητων διακρίσεων θα πρέπει να συνιστούν σημαντικά συστατικά στοιχεία του συστήματος διαχείρισης της ποιότητας.

Το σύστημα πρέπει να σέβεται τις δεοντολογικές αξίες που επιθυμεί να εντάξει σ’ αυτό ένας χρήστης ή τις οποίες ο πάροχος μπορεί εύλογα να αναμένει ότι ενδέχεται να ενταχθούν σε ένα σύστημα τεχνητής νοημοσύνης υψηλού κινδύνου. Ο πάροχος θα πρέπει να είναι σε θέση να εξηγήσει πώς το έλαβε αυτό υπόψη του.

Τροπολογία 23

Άρθρο 19 παράγραφος 1

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου διασφαλίζουν ότι τα συστήματά τους υποβάλλονται στη σχετική διαδικασία αξιολόγησης της συμμόρφωσης σύμφωνα με το άρθρο 43, πριν από τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία. Όταν, κατόπιν της εν λόγω αξιολόγησης της συμμόρφωσης, αποδεικνύεται η συμμόρφωση των συστημάτων ΤΝ με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου, οι πάροχοι καταρτίζουν δήλωση συμμόρφωσης ΕΕ σύμφωνα με το άρθρο 48 και τοποθετούν τη σήμανση συμμόρφωσης CE σύμφωνα με το άρθρο 49. Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου διασφαλίζουν ότι τα συστήματά τους υποβάλλονται στη σχετική διαδικασία αξιολόγησης της συμμόρφωσης σύμφωνα με το άρθρο 43, πριν από τη διάθεσή τους στην αγορά ή τη θέση τους σε λειτουργία. Όταν, κατόπιν της εν λόγω αξιολόγησης της συμμόρφωσης, αποδεικνύεται η συμμόρφωση των συστημάτων ΤΝ με τις απαιτήσεις που ορίζονται στο κεφάλαιο 2 του παρόντος τίτλου, οι πάροχοι καταρτίζουν δήλωση συμμόρφωσης ΕΕ σύμφωνα με το άρθρο 48 και τοποθετούν τη σήμανση συμμόρφωσης CE σύμφωνα με το άρθρο 49. Οι πάροχοι συστημάτων ΤΝ υψηλού κινδύνου δημοσιεύουν τη δήλωση συμμόρφωσης ΕΕ και περίληψη της αξιολόγησης της συμμόρφωσης σε σημείο προσιτό στο κοινό.

Αιτιολογία

Προκειμένου να ενισχυθεί το οικοσύστημα εμπιστοσύνης στα συστήματα τεχνητής νοημοσύνης, οι πάροχοι συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου θα πρέπει να επιδείξουν ειλικρίνεια. Επομένως, το κοινό θα πρέπει να είναι σε θέση να εξακριβώσει ότι η αξιολόγηση της συμμόρφωσης έχει καταρτιστεί ορθά, σύμφωνα με τις διατάξεις του κανονισμού.

Τροπολογία 24

Άρθρο 29 — νέα παράγραφος μετά την παράγραφο 6

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Οι χρήστες συστημάτων ΤΝ υψηλού κινδύνου οφείλουν να προβαίνουν σε δεοντολογική αξιολόγηση πριν θέσουν σε λειτουργία το σύστημα. Πρέπει να είναι σε θέση να εξηγήσουν την ενδεχόμενη επίδραση της χρήσης της τεχνολογίας επί των προσώπων και της κοινωνίας. Διευκρινίζουν για ποιους σκοπούς χρησιμοποιείται το σύστημα ΤΝ, ποιες είναι οι θεμελιώδεις αξίες και πώς καθορίστηκαν, καθώς και εάν έχουν ληφθεί υπόψη στο σύστημα ή όχι. Αξιολογούν την πραγματική επίδραση του συστήματος επί του ανθρώπου και της κοινωνίας καθ’ όλη τη διάρκεια του κύκλου ζωής του συστήματος ΤΝ.

Αιτιολογία

Η δεοντολογία είναι πολύ ευρεία έννοια. Υπάρχουν πολλοί τρόποι τήρησης της δεοντολογίας στον τομέα της τεχνολογίας, είτε σε σχέση με τις θεωρητικές αιτιολογήσεις είτε με τις συγκεκριμένες μεθοδολογίες, μέσα και θεωρητικές αξίες. Οι αξίες είναι στοιχεία που ορισμένα πρόσωπα ή ομάδες προσώπων θεωρούν σημαντικά. Μπορεί να είναι πιο απτές ή πιο θεωρητικές. Είναι σημαντικό να διαφυλάσσεται το φάσμα των ηθικών αξιών που μπορούν να ενεργοποιούνται, καθώς και να αξιολογείται διαρκώς ο κύκλος ζωής του συστήματος τεχνητής νοημοσύνης.

Τροπολογία 25

Άρθρο 52 παράγραφος 1

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Οι πάροχοι διασφαλίζουν ότι τα συστήματα ΤΝ που προορίζονται για αλληλεπίδραση με φυσικά πρόσωπα σχεδιάζονται και αναπτύσσονται κατά τρόπο ώστε τα φυσικά πρόσωπα να ενημερώνονται ότι αλληλεπιδρούν με σύστημα ΤΝ , εκτός εάν αυτό είναι προφανές από τις περιστάσεις και το πλαίσιο χρήσης . Η υποχρέωση αυτή δεν ισχύει για συστήματα ΤΝ εξουσιοδοτημένα από τον νόμο για την ανίχνευση, την πρόληψη, τη διερεύνηση και τη δίωξη ποινικών αδικημάτων, εκτός εάν τα συστήματα αυτά είναι διαθέσιμα στο κοινό για την καταγγελία ποινικού αδικήματος. Οι πάροχοι διασφαλίζουν ότι τα συστήματα ΤΝ που προορίζονται για αλληλεπίδραση με φυσικά πρόσωπα σχεδιάζονται και αναπτύσσονται κατά τρόπο ώστε τα φυσικά πρόσωπα να ενημερώνονται ότι αλληλεπιδρούν με σύστημα ΤΝ. Η υποχρέωση αυτή δεν ισχύει για συστήματα ΤΝ εξουσιοδοτημένα από τον νόμο για την ανίχνευση, την πρόληψη, τη διερεύνηση και τη δίωξη ποινικών αδικημάτων, εκτός εάν τα συστήματα αυτά είναι διαθέσιμα στο κοινό για την καταγγελία ποινικού αδικήματος. Το εύρος των επιλογών και το νομικό καθεστώς των φυσικών προσώπων που αλληλεπιδρούν με συστήματα ΤΝ δεν πρέπει να περιορίζονται από την αλληλεπίδραση αυτή.

Αιτιολογία

Όταν τα τεχνολογικά τεχνουργήματα χρησιμοποιούνται ως μέσο αλληλεπίδρασης με φυσικά πρόσωπα, ενδέχεται να υπάρχει ο κίνδυνος οι επιλογές στις οποίες θα προβούν ορισμένα φυσικά πρόσωπα που αλληλεπιδρούν με τα εν λόγω τεχνουργήματα να περιορίζονται. Τα φυσικά πρόσωπα θα πρέπει πάντα να ενημερώνονται δεόντως κάθε φορά που έχουν να κάνουν με συστήματα τεχνητής νοημοσύνης και η απαίτηση αυτή δεν θα πρέπει να υπόκειται σε ερμηνεία μιας συγκεκριμένης κατάστασης. Τα δικαιώματά τους θα πρέπει να διασφαλίζονται ανά πάσα στιγμή στις αλληλεπιδράσεις με τα συστήματα τεχνητής νοημοσύνης.

Τροπολογία 26

Άρθρο 57 παράγραφος 1

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Το συμβούλιο απαρτίζεται από τις εθνικές εποπτικές αρχές, οι οποίες εκπροσωπούνται από τον επικεφαλής ή ισοδύναμο υψηλόβαθμο υπάλληλο της εν λόγω αρχής, και από τον Ευρωπαίο Επόπτη Προστασίας Δεδομένων. Στις συνεδριάσεις μπορούν να προσκαλούνται άλλες εθνικές αρχές, όταν τις αφορούν τα ζητήματα που συζητούνται. Το συμβούλιο απαρτίζεται από τις εθνικές εποπτικές αρχές, οι οποίες εκπροσωπούνται από τον επικεφαλής ή ισοδύναμο υψηλόβαθμο υπάλληλο της εν λόγω αρχής, και από τον Ευρωπαίο Επόπτη Προστασίας Δεδομένων. Στις συνεδριάσεις μπορούν να προσκαλούνται άλλες εθνικές , περιφερειακές και τοπικές αρχές, όταν τις αφορούν τα ζητήματα που συζητούνται.

Αιτιολογία

Οι οργανισμοί τοπικής αυτοδιοίκησης θα πρέπει να μπορούν να συμμετέχουν στην παρακολούθηση των συστημάτων τεχνητής νοημοσύνης και να λογοδοτούν για την εφαρμογή τους στο πεδίο.

Τροπολογία 27

Άρθρο 58

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Κατά την παροχή συμβουλών και συνδρομής στην Επιτροπή στο πλαίσιο του άρθρου 56 παράγραφος 2, το συμβούλιο έχει συγκεκριμένα τα εξής καθήκοντα: Κατά την παροχή συμβουλών και συνδρομής στην Επιτροπή στο πλαίσιο του άρθρου 56 παράγραφος 2, το συμβούλιο έχει συγκεκριμένα τα εξής καθήκοντα: α) συλλέγει και ανταλλάσσει εμπειρογνωσία και βέλτιστες πρακτικές μεταξύ των κρατών μελών· α) συλλέγει και ανταλλάσσει εμπειρογνωσία και βέλτιστες πρακτικές μεταξύ των κρατών μελών και των οργανισμών τοπικής αυτοδιοίκησης · β) συμβάλλει στην καθιέρωση ομοιόμορφων διοικητικών πρακτικών στα κράτη μέλη, μεταξύ άλλων για τη λειτουργία των ρυθμιστικών δοκιμαστηρίων που αναφέρονται στο άρθρο 53· β) συμβάλλει στην καθιέρωση ομοιόμορφων διοικητικών πρακτικών στα κράτη μέλη, μεταξύ άλλων για τη λειτουργία των ρυθμιστικών δοκιμαστηρίων που αναφέρονται στο άρθρο 53· γ) εκδίδει γνώμες, συστάσεις ή γραπτές εισηγήσεις για θέματα που σχετίζονται με την εφαρμογή του παρόντος κανονισμού, ειδικότερα γ) εκδίδει γνώμες, συστάσεις ή γραπτές εισηγήσεις για θέματα που σχετίζονται με την εφαρμογή του παρόντος κανονισμού, ειδικότερα i) για τεχνικές προδιαγραφές ή υφιστάμενα πρότυπα όσον αφορά τις απαιτήσεις που ορίζονται στον τίτλο ΙΙΙ κεφάλαιο 2, ii) για τη χρήση εναρμονισμένων προτύπων ή κοινών προδιαγραφών που αναφέρονται στα άρθρα 40 και 41, iii) για την κατάρτιση εγγράφων καθοδήγησης, συμπεριλαμβανομένων των κατευθυντήριων γραμμών που αφορούν τον καθορισμό των διοικητικών προστίμων που αναφέρονται στο άρθρο 71. i) για τεχνικές προδιαγραφές ή υφιστάμενα πρότυπα όσον αφορά τις απαιτήσεις που ορίζονται στον τίτλο ΙΙΙ κεφάλαιο 2, ii) για τη χρήση εναρμονισμένων προτύπων ή κοινών προδιαγραφών που αναφέρονται στα άρθρα 40 και 41, iii) για την κατάρτιση εγγράφων καθοδήγησης, συμπεριλαμβανομένων των κατευθυντήριων γραμμών που αφορούν τον καθορισμό των διοικητικών προστίμων που αναφέρονται στο άρθρο 71.

Αιτιολογία

Οι οργανισμοί τοπικής αυτοδιοίκησης βρίσκονται πλησιέστερα στον τοπικό πληθυσμό και την τοπική οικονομία. Θα πρέπει να αναφέρονται ρητώς και να τονίζονται ιδιαιτέρως, όσον αφορά την ανταλλαγή των γνώσεών τους.

Τροπολογία 28

Άρθρο 59 παράγραφος 1

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Οι εθνικές αρμόδιες αρχές συστήνονται ή ορίζονται από κάθε κράτος μέλος με σκοπό τη διασφάλιση της εφαρμογής και της υλοποίησης του παρόντος κανονισμού. Οι εθνικές αρμόδιες αρχές οργανώνονται κατά τρόπον ώστε να διασφαλίζεται η αντικειμενικότητα και η αμεροληψία των δραστηριοτήτων και των καθηκόντων τους. Οι εθνικές αρμόδιες αρχές συστήνονται ή ορίζονται από κάθε κράτος μέλος με σκοπό τη διασφάλιση της εφαρμογής και της υλοποίησης του παρόντος κανονισμού. Οι εθνικές αρμόδιες αρχές οργανώνονται κατά τρόπον ώστε να διασφαλίζεται η αντικειμενικότητα και η αμεροληψία των δραστηριοτήτων και των καθηκόντων τους. Όταν ένα κράτος μέλος το κρίνει σκόπιμο, εξουσιοδοτεί τους οργανισμούς τοπικής αυτοδιοίκησης να ασκούν καθήκοντα επιτήρησης ή υλοποίησης.

Αιτιολογία

Για τους σκοπούς της εφαρμοσιμότητας του κανονισμού και του οικείου μηχανισμού εποπτείας και εφαρμογής, τα κράτη μέλη πρέπει να μπορούν να αναθέτουν στους ΟΤΑ καθήκοντα επιτήρησης ή υλοποίησης, εφόσον αυτό κρίνεται αναγκαίο και στο μέτρο του δυνατού. Στο πλαίσιο αυτό, οι ΟΤΑ πρέπει να λαμβάνουν στήριξη και κατάρτιση προκειμένου να είναι πλήρως εξουσιοδοτημένες να ασκούν καθήκοντα επιτήρησης και υλοποίησης.

Τροπολογία 29

Άρθρο 69 παράγραφος 3

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Οι κώδικες δεοντολογίας μπορούν να καταρτίζονται από μεμονωμένους παρόχους συστημάτων ΤΝ ή από οργανώσεις που τους εκπροσωπούν ή και από τους δύο, μεταξύ άλλων με τη συμμετοχή των χρηστών και τυχόν ενδιαφερόμενων μερών και των οργανώσεων που τους εκπροσωπούν. Οι κώδικες δεοντολογίας μπορούν να καλύπτουν ένα ή περισσότερα συστήματα ΤΝ, λαμβανομένης υπόψη της ομοιότητας του επιδιωκόμενου σκοπού των σχετικών συστημάτων. Οι κώδικες δεοντολογίας μπορούν να καταρτίζονται από εθνικές, περιφερειακές ή τοπικές αρχές, από μεμονωμένους παρόχους συστημάτων ΤΝ ή από οργανώσεις που τους εκπροσωπούν ή και από τους δύο, μεταξύ άλλων με τη συμμετοχή των χρηστών και τυχόν ενδιαφερόμενων μερών και των οργανώσεων που τους εκπροσωπούν. Οι κώδικες δεοντολογίας μπορούν να καλύπτουν ένα ή περισσότερα συστήματα ΤΝ, λαμβανομένης υπόψη της ομοιότητας του επιδιωκόμενου σκοπού των σχετικών συστημάτων.

Αιτιολογία

Οι εθνικές, περιφερειακές και τοπικές αρχές θα πρέπει να έχουν δικαιοδοσία για την εκπόνηση κωδίκων δεοντολογίας για τα συστήματα τεχνητής νοημοσύνης που εγκαθιστούν ή χρησιμοποιούν.

Τροπολογία 30

Παράρτημα I — Τεχνικές και προσεγγίσεις στον τομέα της τεχνητής νοημοσύνης που αναφέρονται στο άρθρο 3 ψηφίο 1

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Λαμβανομένης υπόψη της τρέχουσας κατάστασης της επιστήμης, η ΤΝ περιλαμβάνει τις εξής τεχνικές και προσεγγίσεις: α) Προσεγγίσεις μηχανικής μάθησης, συμπεριλαμβανομένων της επιβλεπόμενης, της μη επιβλεπόμενης και της ενισχυτικής μάθησης, με τη χρήση ευρέος φάσματος μεθόδων, συμπεριλαμβανομένης της βαθιάς μάθησης· α) Προσεγγίσεις μηχανικής μάθησης, συμπεριλαμβανομένων της επιβλεπόμενης, της μη επιβλεπόμενης και της ενισχυτικής μάθησης, με τη χρήση ευρέος φάσματος μεθόδων, συμπεριλαμβανομένης της βαθιάς μάθησης· β) Προσεγγίσεις που βασίζονται στη λογική και στις γνώσεις, συμπεριλαμβανομένων της αναπαράστασης γνώσεων, του επαγωγικού (λογικού) προγραμματισμού, των βάσεων γνώσεων, των μηχανών εξαγωγής συμπερασμάτων και παραγωγικών συλλογισμών, των συστημάτων (συμβολικής) συλλογιστικής και των συστημάτων-εμπειρογνωμόνων· β) Προσεγγίσεις που βασίζονται στη λογική και στις γνώσεις, συμπεριλαμβανομένων της αναπαράστασης γνώσεων, του επαγωγικού (λογικού) προγραμματισμού, των βάσεων γνώσεων, των μηχανών εξαγωγής συμπερασμάτων και παραγωγικών συλλογισμών, των συστημάτων (συμβολικής) συλλογιστικής και των συστημάτων-εμπειρογνωμόνων· γ) Στατιστικές προσεγγίσεις, εκτίμηση κατά Bayes, μέθοδοι αναζήτησης και βελτιστοποίησης. γ) Στατιστικές προσεγγίσεις, εκτίμηση κατά Bayes, μέθοδοι αναζήτησης και βελτιστοποίησης.

Αιτιολογία

Ο ορισμός και ο κατάλογος των τεχνικών τεχνητής νοημοσύνης πρέπει να αντέχει στον χρόνο. Ο κατάλογος των ειδικών τεχνικών και προσεγγίσεων που χρησιμοποιούνται για την ανάπτυξη συστημάτων τεχνητής νοημοσύνης δεν πρέπει να είναι εξαντλητικός και πρέπει να είναι σαφές ότι βασίζεται στα τρέχοντα επιστημονικά δεδομένα.

Τροπολογία 31

Παράρτημα IIΙ, σημεία 1 έως 5

Κείμενο που προτείνει η Ευρωπαϊκή Επιτροπή Τροπολογία της ΕτΠ Συστήματα ΤΝ υψηλού κινδύνου σύμφωνα με το άρθρο 6 παράγραφος 2 είναι τα συστήματα ΤΝ που απαριθμούνται σε οποιονδήποτε από τους ακόλουθους τομείς: Συστήματα ΤΝ υψηλού κινδύνου σύμφωνα με το άρθρο 6 παράγραφος 2 είναι τα συστήματα ΤΝ που απαριθμούνται σε οποιονδήποτε από τους ακόλουθους τομείς: 1. Βιομετρική ταυτοποίηση και κατηγοριοποίηση φυσικών προσώπων: 1. Βιομετρική ταυτοποίηση και κατηγοριοποίηση φυσικών προσώπων: α) Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για την εξ αποστάσεως βιομετρική ταυτοποίηση φυσικών προσώπων «σε πραγματικό χρόνο» και «σε ύστερο χρόνο»· α) Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για την εξ αποστάσεως βιομετρική ταυτοποίηση φυσικών προσώπων «σε πραγματικό χρόνο» και «σε ύστερο χρόνο»· 2. Διαχείριση και λειτουργία υποδομών ζωτικής σημασίας: 2. Διαχείριση και λειτουργία υποδομών ζωτικής σημασίας: α) Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν ως κατασκευαστικά στοιχεία ασφάλειας για τη διαχείριση και τη λειτουργία της οδικής κυκλοφορίας και την παροχή νερού, φυσικού αερίου, θέρμανσης και ηλεκτρικής ενέργειας. α) Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν ως κατασκευαστικά στοιχεία ασφάλειας για τη διαχείριση και τη λειτουργία της οδικής κυκλοφορίας και την παροχή νερού, φυσικού αερίου, θέρμανσης και ηλεκτρικής ενέργειας , καθώς και στις υποδομές τηλεπικοινωνιών, υδροδότησης και διαδικτύου . 3. Εκπαίδευση και επαγγελματική κατάρτιση: 3. Εκπαίδευση και επαγγελματική κατάρτιση: α) Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για τον καθορισμό της πρόσβασης ή την τοποθέτηση φυσικών προσώπων σε ιδρύματα εκπαίδευσης και επαγγελματικής κατάρτισης· α) Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για τον καθορισμό της πρόσβασης ή την τοποθέτηση φυσικών προσώπων σε ιδρύματα εκπαίδευσης και επαγγελματικής κατάρτισης· β) Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για την αξιολόγηση σπουδαστών σε ιδρύματα εκπαίδευσης και επαγγελματικής κατάρτισης και για την αξιολόγηση των συμμετεχόντων σε εξετάσεις που απαιτούνται συνήθως για την εισαγωγή σε εκπαιδευτικά ιδρύματα. β) Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για την αξιολόγηση σπουδαστών σε ιδρύματα εκπαίδευσης και επαγγελματικής κατάρτισης και για την αξιολόγηση των συμμετεχόντων σε εξετάσεις που απαιτούνται συνήθως για την εισαγωγή σε εκπαιδευτικά ιδρύματα. 4. Απασχόληση, διαχείριση εργαζομένων και πρόσβαση στην αυτοαπασχόληση: 4. Απασχόληση, διαχείριση εργαζομένων και πρόσβαση στην αυτοαπασχόληση: α) Συστήματα TN που προορίζονται να χρησιμοποιηθούν για την πρόσληψη ή την επιλογή φυσικών προσώπων, ιδίως για τη δημοσίευση κενών θέσεων εργασίας, τον έλεγχο ή το φιλτράρισμα των αιτήσεων, την αξιολόγηση των υποψηφίων κατά τη διάρκεια συνεντεύξεων ή εξετάσεων· α) Συστήματα TN που προορίζονται να χρησιμοποιηθούν για την πρόσληψη ή την επιλογή φυσικών προσώπων, ιδίως για τη δημοσίευση κενών θέσεων εργασίας, τον έλεγχο ή το φιλτράρισμα των αιτήσεων, την αξιολόγηση των υποψηφίων κατά τη διάρκεια συνεντεύξεων ή εξετάσεων· β) Η τεχνητή νοημοσύνη που προορίζεται να χρησιμοποιηθεί για τη λήψη αποφάσεων σχετικά με την προώθηση και την καταγγελία συμβατικών σχέσεων σχετικών με την εργασία, για την κατανομή καθηκόντων και για την παρακολούθηση και αξιολόγηση των επιδόσεων και της συμπεριφοράς των προσώπων που τελούν σε τέτοιες σχέσεις. β) Η τεχνητή νοημοσύνη που προορίζεται να χρησιμοποιηθεί για τη λήψη αποφάσεων σχετικά με την προώθηση και την καταγγελία συμβατικών σχέσεων σχετικών με την εργασία, για την κατανομή καθηκόντων και για την παρακολούθηση και αξιολόγηση των επιδόσεων και της συμπεριφοράς των προσώπων που τελούν σε τέτοιες σχέσεις. 5. Πρόσβαση και απόλαυση βασικών ιδιωτικών υπηρεσιών και δημόσιων υπηρεσιών και παροχών: 5. Πρόσβαση και απόλαυση βασικών ιδιωτικών υπηρεσιών και δημόσιων υπηρεσιών και παροχών: α) Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από τις δημόσιες αρχές ή για λογαριασμό δημόσιων αρχών, για την αξιολόγηση της επιλεξιμότητας φυσικών προσώπων για παροχές και υπηρεσίες δημόσιας αρωγής, καθώς και για τη χορήγηση, μείωση, ανάκληση ή ανάκτηση των εν λόγω παροχών και υπηρεσιών· α) Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν από τις δημόσιες αρχές ή για λογαριασμό δημόσιων αρχών, για την αξιολόγηση και την απόφαση περί της επιλεξιμότητας φυσικών προσώπων για παροχές και υπηρεσίες δημόσιας αρωγής, καθώς και για τη χορήγηση, μείωση, ανάκληση ή ανάκτηση των εν λόγω παροχών και υπηρεσιών· β) Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για την αξιολόγηση ή τη βαθμολόγηση της πιστοληπτικής ικανότητας φυσικών προσώπων, με εξαίρεση τα συστήματα ΤΝ που τίθενται σε λειτουργία από παρόχους μικρής κλίμακας για δική τους χρήση· β) Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για την αξιολόγηση ή τη βαθμολόγηση της πιστοληπτικής ικανότητας φυσικών προσώπων, με εξαίρεση τα συστήματα ΤΝ που τίθενται σε λειτουργία από παρόχους μικρής κλίμακας για δική τους χρήση· γ) Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για την αποστολή ή για τον καθορισμό προτεραιοτήτων κατά την αποστολή υπηρεσιών πρώτης αντίδρασης σε καταστάσεις έκτακτης ανάγκης, μεταξύ άλλων από πυροσβέστες, καθώς και ιατρική βοήθεια. γ) Συστήματα ΤΝ που προορίζονται να χρησιμοποιηθούν για την αποστολή ή για τον καθορισμό προτεραιοτήτων κατά την αποστολή υπηρεσιών πρώτης αντίδρασης σε καταστάσεις έκτακτης ανάγκης, μεταξύ άλλων από πυροσβέστες, καθώς και ιατρική βοήθεια.

Αιτιολογία

Οι υποδομές τηλεπικοινωνιών, υδροδότησης και διαδικτύου συγκαταλέγονται στις κρίσιμες υποδομές.

Ο χαρακτηρισμός ενός συστήματος τεχνητής νοημοσύνης ως συστήματος υψηλού κινδύνου ισοδυναμεί με απόφαση σχετικά με το εάν το σύστημα αυτό μπορεί να αντιπροσωπεύει πραγματικό κίνδυνο για τους πολίτες Η απλή αναλυτική και θεωρητική αξιολόγηση της επιλεξιμότητας των προσώπων για παροχές και υπηρεσίες των δημόσιων αρχών δεν ενέχει αφεαυτής υψηλό κίνδυνο. Με τη συμπλήρωση της λέξης «αξιολόγηση» με τη φράση «απόφαση περί» αποδίδεται έμφαση στο γεγονός ότι ο κίνδυνος αυτός εμφανίζεται πραγματικά κατά τη λήψη απόφασης, ιδίως για τα ενδιαφερόμενα άτομα.

II. ΣΥΣΤΑΣΕΙΣ ΠΟΛΙΤΙΚΗΣ

Η ΕΥΡΩΠΑΪΚΗ ΕΠΙΤΡΟΠΗ ΤΩΝ ΠΕΡΙΦΕΡΕΙΩΝ

Ένα οικοσύστημα αριστείας

1. τονίζει ότι η φιλοδοξία της Ευρωπαϊκής Επιτροπής να αναδείξει την Ευρωπαϊκή Ένωση (ΕΕ) σε ηγετική δύναμη σε παγκόσμιο επίπεδο στον τομέα της υπεύθυνης ανάπτυξης της τεχνητής νοημοσύνης (ΤΝ), με ανθρωποκεντρικό προσανατολισμό, δεν μπορεί να γίνει πραγματικότητα εάν οι πρωτοβάθμιοι και δευτεροβάθμιοι οργανισμοί τοπικής αυτοδιοίκησης (ΟΤΑ) δεν κατέχουν σημαντικό ρόλο στη σχετική διαδικασία. Οι ΟΤΑ είναι οι πλέον κατάλληλοι φορείς για να βοηθήσουν στη δημιουργία περιβάλλοντος που θα ευνοεί την αύξηση των επενδύσεων στην τεχνητή νοημοσύνη κατά τα προσεχή έτη και στην ενίσχυση της εμπιστοσύνης στην τεχνητή νοημοσύνη·

2. τονίζει ότι, εκτός από τη συμμετοχή των ΟΤΑ, είναι σημαντικό να παρέχεται στήριξη και κατάρτιση προκειμένου να ενισχυθούν οι ικανότητές τους στον τομέα αυτόν, ιδίως λόγω του γεγονότος ότι ενδέχεται να αναλάβουν ρόλο εποπτείας και επιβολής·

3. σημειώνει ότι θα υπάρχουν πιστώσεις της Ένωσης για την ανάπτυξη της τεχνητής νοημοσύνης, εφιστά όμως την προσοχή στην κατακερματισμένη προσέγγιση, λόγω ποικιλίας των προγραμμάτων, που αυξάνει τον κίνδυνο διασποράς και επικαλύψεων·

4. συνεπώς, καλεί την Επιτροπή να αναπτύξει και να συνδέσει κοινούς, στέρεους και πολύμορφους χώρους δεδομένων που να επιτρέπουν την επίλυση των κοινωνικών περιπτώσεων χρήσης μέσω δημόσιων και ιδιωτικών δεδομένων. Αυτό απαιτεί, ειδικότερα, εναρμόνιση με τις νομοθετικές πρωτοβουλίες που υπάγονται στην ευρωπαϊκή στρατηγική για τα δεδομένα·

Ένα οικοσύστημα εμπιστοσύνης

5. εκφράζει τη λύπη της για το γεγονός ότι στην πρόταση κανονισμού δεν υπάρχει αναφορά στους ΟΤΑ, παρότι το νομικό πλαίσιο ισχύει και για τους ιδιωτικούς και για τους δημόσιους φορείς·

6. επισημαίνει, στο πλαίσιο αυτό, ότι τα συστήματα ΤΝ μπορούν να συμβάλουν σημαντικά στην αλληλεπίδραση των οργανισμών τοπικής αυτοδιοίκησης (ΟΤΑ) με τους πολίτες και στην παροχή υπηρεσιών. Επιπλέον, τα συστήματα ΤΝ μπορούν, μεταξύ άλλων, να αυξήσουν την αποδοτικότητα του δημόσιου τομέα και να στηρίξουν τους ΟΤΑ στη διενέργεια των αναγκαίων προσαρμογών σε τοπικό και σε περιφερειακό επίπεδο σε ό,τι αφορά την πράσινη και την ψηφιακή μετάβαση. Ως εκ τούτου, είναι σημαντικό να ληφθεί υπόψη η εμπειρία των ΟΤΑ κατά την υπό εξέλιξη αναθεώρηση του κανονισμού·

7. ζητά τον ακριβέστερο ορισμό των όρων «πάροχος» και «χρήστης», ιδίως σε καταστάσεις όπου επιχειρήσεις, ερευνητικά κέντρα, δημόσιες αρχές και πολίτες αναπτύσσουν και δοκιμάζουν από κοινού συστήματα τεχνητής νοημοσύνης σε «ζωντανά εργαστήρια». Θα πρέπει επίσης να δοθεί η δέουσα προσοχή στους πολίτες ή τους καταναλωτές που επηρεάζονται από αποφάσεις συστημάτων που βασίζονται στην ΤΝ και χρησιμοποιούνται από επαγγελματίες χρήστες·

8. τονίζει την ανάγκη εκ των προτέρων διαβούλευσης με τους ενδιαφερόμενους ΟΤΑ σε περίπτωση χρήσης συστημάτων τεχνητής νοημοσύνης για τη βιομετρική ταυτοποίηση φυσικών προσώπων εξ αποστάσεως και σε πραγματικό χρόνο, για σκοπούς επιβολής του νόμου, σε δημόσια προσβάσιμους χώρους·

9. επικροτεί τη δημόσια διαβούλευση της Ευρωπαϊκής Επιτροπής σχετικά με την προσαρμογή των κανόνων περί αστικής ευθύνης στις συγκεκριμένες προκλήσεις της ψηφιακής εποχής και της τεχνητής νοημοσύνης ( 1 ) και αναμένει ότι αυτό θα οδηγήσει σε ένα επικαιροποιημένο πλαίσιο που θα διασφαλίζει την έννομη προστασία των καταναλωτών για ζημίες που προκαλούνται από εφαρμογές τεχνητής νοημοσύνης·

10. διερωτάται γιατί τα συστήματα τεχνητής νοημοσύνης που χρησιμοποιούνται σε δημοκρατικές διαδικασίες όπως οι εκλογές δεν περιλαμβάνονται στον κατάλογο των συστημάτων τεχνητής νοημοσύνης υψηλού κινδύνου·

11. ζητά τα συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου να υπόκεινται για τα φυσικά πρόσωπα στις ίδιες απαιτήσεις διαφάνειας και πληροφόρησης που ισχύουν για τους χρήστες·

12. επισημαίνει τους μεγαλύτερους κινδύνους και τις συνέπειες για τα ανθρώπινα δικαιώματα που συνδέονται με τη χρήση της κοινωνικής ταξινόμησης·

13. επί του προκειμένου, είναι εξαιρετικά επιφυλακτική ως προς τις δύο καταστάσεις που εκτίθενται στον κανονισμό ( 2 ) με στόχο να προσδιοριστεί πότε η κοινωνική βαθμολόγηση οδηγεί σε επιζήμια ή δυσμενή μεταχείριση προσώπων ή ομάδων προσώπων, δεδομένου ότι είναι εξαιρετικά δύσκολο να τεκμηριωθεί η ύπαρξη τέτοιων καταστάσεων. Στο πλαίσιο αυτό, η ΕτΠ ζητεί τη σαφή διατύπωση ισχυρών διασφαλίσεων, προκειμένου να διασφαλιστεί ότι δεν καταστρατηγείται η απαγόρευση των πρακτικών κοινωνικής βαθμολόγησης·

14. σημειώνει ότι στις αιτιολογικές σκέψεις του κανονισμού θίγονται λεπτομερώς οι κίνδυνοι στους οποίους εκτίθενται τα φυσικά πρόσωπα λόγω της αλληλεπίδρασής τους με συστήματα τεχνητής νοημοσύνης υψηλού κινδύνου, ιδίως στο πλαίσιο της εκπαίδευσης, της κατάρτισης, της απασχόλησης, της διαχείρισης του ανθρώπινου δυναμικού, της πρόσβασης στην ανεξάρτητη απασχόληση ή της πρόσβασης και του δικαιώματος σε ορισμένες βασικές υπηρεσίες, δημόσιες και ιδιωτικές·

15. καλεί την Επιτροπή να εξετάσει περισσότερο ενδελεχώς την ταξινόμηση ως υψηλού κινδύνου των συστημάτων τεχνητής νοημοσύνης που προορίζονται για χρήση από τις δημόσιες αρχές ( 3 )

16. επιθυμεί να εκδοθεί εκ των προτέρων, από μια αρχή, μια βαρύνουσα γνώμη σχετικά με την ερμηνεία των διατάξεων του κανονισμού, μεταξύ άλλων και όσον αφορά τον γενικό κανονισμό για την προστασία των δεδομένων (ΓΚΠΔ). Αυτό θα ενισχύσει την ασφάλεια δικαίου και θα επιτρέψει να περιοριστούν οι δαπάνες σχεδιασμού και εφαρμογής των συστημάτων τεχνητής νοημοσύνης·

17. υπογραμμίζει, για τον σκοπό αυτό, τη σημασία της σαφήνειας στη διατύπωση του κανονισμού, η οποία έχει καθοριστική σημασία για την οικοδόμηση ενός οικοσυστήματος εμπιστοσύνης και για την άρση της ανασφάλειας δικαίου που περιβάλλει την ανάπτυξη και τη χρήση των συστημάτων ΤΝ. Με τον τρόπο αυτό θα αποφευχθούν παρερμηνείες των προτεινόμενων απαιτήσεων και θα ελαχιστοποιηθούν οι κίνδυνοι της επακόλουθης κακοδιαχείρισης των εφαρμογών ΤΝ, μεγιστοποιώντας έτσι την αποτελεσματικότητα του κανονισμού και την αξιοπιστία των κυρώσεων. Ταυτόχρονα, και σύμφωνα με το θεματολόγιο της Ευρωπαϊκής Επιτροπής για τη βελτίωση της νομοθεσίας, ο έγκαιρος εντοπισμός και η εξάλειψη πιθανών αλληλεπικαλύψεων και/ή συγκρούσεων με τους υφιστάμενους κανόνες είναι καίριας σημασίας·

18. διαπιστώνει ότι πολλοί ΟΤΑ χρησιμοποιούν τα ίδια συστήματα τεχνητής νοημοσύνης για την εκτέλεση παρόμοιων καθηκόντων. Στην πλειονότητα των περιπτώσεων, τα συστήματα αυτά σχεδιάζονται από ιδιωτικές επιχειρήσεις·

19. επισημαίνει ότι η πρόταση κανονισμού από μόνη της δεν διασφαλίζει τα δικαιώματα των πολιτών, αλλά πρέπει να εξετάζεται στο πλαίσιο της ισχύουσας νομοθεσίας. Ως εκ τούτου, τα κράτη μέλη καλούνται να διασφαλίζουν σε συνεχή βάση τα αναγκαία διοικητικά μέτρα ώστε να λαμβάνονται υπόψη οι ευκαιρίες και οι κίνδυνοι που συνδέονται με τη χρήση της ΤΝ στον δημόσιο τομέα·

20. συμπεραίνει ότι τους ευρωπαϊκούς και εθνικούς κανόνες για την αξιολόγηση της συμμόρφωσης τους ερμηνεύουν οι επιχειρήσεις και οι κοινοποιημένοι οργανισμοί, και ότι η εν λόγω ερμηνεία αντανακλάται συνεπώς στην πρακτική των ΟΤΑ που χρησιμοποιούν τα συγκεκριμένα συστήματα τεχνητής νοημοσύνης. Ως εκ τούτου, είναι δύσκολο να προσδιοριστεί σε ποιον βαθμό η τοπική και περιφερειακή πολιτική μπορεί να ληφθεί υπόψη στα εν λόγω συστήματα τεχνητής νοημοσύνης. Ως εκ τούτου, η ΕτΠ εφιστά την προσοχή στις ειδικές ανάγκες των ΟΤΑ και στο γεγονός ότι μια ενιαία προσέγγιση μπορεί να υπονομεύσει την αποτελεσματικότητα των συστημάτων ΤΝ όσον αφορά την αντιμετώπιση αυτών των αναγκών. Επιπλέον, η ΕτΠ προτείνει να εξουσιοδοτηθούν τα κράτη μέλη να ρυθμίζουν τα συστήματα ΤΝ υψηλού κινδύνου σε περίπτωση επιτακτικών και αιτιολογημένων λόγων δημόσιου συμφέροντος·

21. ζητά, λοιπόν, οι αξιολογήσεις της συμμόρφωσης να είναι διαφανείς και προσβάσιμες στο κοινό. Επιπλέον, οι ΟΤΑ θα πρέπει να μπορούν επίσης να συμμετέχουν στην επιτήρηση των συστημάτων τεχνητής νοημοσύνης, να λογοδοτούν για την εφαρμογή τους στο πεδίο και να συμβάλλουν επίσημα στην αξιολόγηση της εφαρμογής του κανονισμού εκ μέρους της Ευρωπαϊκής Επιτροπής·

22. τονίζει ότι, για τη λειτουργία του ρυθμιστικού δοκιμαστηρίου, πρέπει να δημιουργηθούν οι κατάλληλες συνθήκες από νομική, μεθοδολογική και δεοντολογική άποψη, προκειμένου να είναι δυνατή η ανάπτυξη της τεχνολογίας, καθώς και η χάραξη και η αξιολόγηση της νομοθεσίας. Εξάλλου, πρέπει να θεσπιστούν σαφή κριτήρια για την πρόσβαση των επιχειρήσεων στα ρυθμιστικά δοκιμαστήρια. Προκειμένου να διασφαλιστεί ότι οι οργανώσεις καταναλωτών μπορούν να επιβάλλουν την εφαρμογή των διατάξεων της πράξης για την τεχνητή νοημοσύνη, η τελευταία πρέπει να προστεθεί στο παράρτημα Ι της ευρωπαϊκής οδηγίας σχετικά με τις αντιπροσωπευτικές αγωγές για την προστασία των συλλογικών συμφερόντων των καταναλωτών [(ΕΕ) 2020/1828]·

Εκστρατείες ενημέρωσης

23. τονίζει τη σημασία των εκστρατειών ενημέρωσης του κοινού, όπου ο πληθυσμός ενημερώνεται και εξοικειώνεται με την ύπαρξη των συστημάτων ΤΝ και τη χρησιμότητά τους, καθώς και σχετικά με τους πιθανούς κινδύνους. Επιπλέον, υπογραμμίζει την επείγουσα ανάγκη για ολοκληρωμένη πληροφόρηση των καταναλωτών όσον αφορά τη διαδικασία λήψης αποφάσεων που πραγματοποιείται με τη χρήση της τεχνητής νοημοσύνης ή μηχανών. Ζητεί, εν προκειμένω, από την Επιτροπή να παράσχει χρηματοδότηση για τέτοιου είδους εκστρατείες·

Διοικητικός φόρτος

24. εκφράζει την ανησυχία της όσον αφορά τον διοικητικό φόρτο που ενδέχεται να επισύρει η πρόταση κανονισμού. Ο διοικητικός φόρτος μπορεί να εμποδίσει τις μικρομεσαίες επιχειρήσεις και τους ΟΤΑ να προωθήσουν την καινοτομία και να αναπτύξουν συστήματα τεχνητής νοημοσύνης ( 4 )

Αναλογικότητα και επικουρικότητα

25. εκτιμά ότι η πρόταση κανονισμού είναι συμβατή με τις αρχές της αναλογικότητας και της επικουρικότητας. Η προστιθέμενη αξία της δράσης της ΕΕ στον τομέα αυτόν, καθώς και οι εύστοχες νομικές βάσεις που επέλεξε η Ευρωπαϊκή Επιτροπή, είναι σαφείς και συνεπείς. Η εκτίμηση επιπτώσεων περιλαμβάνει χωριστή ενότητα για την επικουρικότητα. Επιπλέον, κανένα εθνικό κοινοβούλιο δεν εξέδωσε αιτιολογημένη γνώμη σχετικά με τη μη συμμόρφωση με την αρχή της επικουρικότητας εντός της προθεσμίας υποβολής των προτάσεων, η οποία είχε οριστεί για τις 2 Σεπτεμβρίου 2021.

Βρυξέλλες, 2 Δεκεμβρίου 2021. Ο Πρόεδρος της Ευρωπαϊκής Επιτροπής των Περιφερειών Απόστολος ΤΖΙΤΖΙΚΩΣΤΑΣ

([62]) Απόφαση-πλαίσιο 2002/584/ΔΕΥ του Συμβουλίου, της 13ης Ιουνίου 2002, για το ευρωπαϊκό ένταλμα σύλληψης και τις διαδικασίες παράδοσης μεταξύ των κρατών μελών (ΕΕ L 190 της 18.7.2002, σ. 1).

([62]) Απόφαση-πλαίσιο 2002/584/ΔΕΥ του Συμβουλίου, της 13ης Ιουνίου 2002, για το ευρωπαϊκό ένταλμα σύλληψης και τις διαδικασίες παράδοσης μεταξύ των κρατών μελών (ΕΕ L 190 της 18.7.2002, σ. 1).

(1) https://ec.europa.eu/info/law/better-regulation/have-your-say/initiatives/12979-Civil-liability-adapting-liability-rules-to-the-digital-age-and-artificial-intelligence/public-consultation_el

(2) Άρθρο 5 παράγραφος 1 στοιχείο γ).

(3) Παράρτημα IIΙ, σημείο 5 στοιχείο α).

(4) Σε πρόσφατη μελέτη που ανατέθηκε από την Ευρωπαϊκή Επιτροπή [Study to Support an Impact Assessment of Regulatory Requirements for Artificial Intelligence in Europe (Έκθεση που εκπονήθηκε για τους σκοπούς της εκτίμησης του αντικτύπου των ρυθμιστικών απαιτήσεων για την τεχνητή νοημοσύνη στην Ευρώπη), σ. 12], εκτιμάται ότι, σύμφωνα με εύλογες υποθέσεις, το κόστος της πιστοποίησης ενός συστήματος τεχνητής νοημοσύνης θα μπορούσε να κυμαίνεται κατά μέσον όρο μεταξύ 16 800 και 23 000 ευρώ, ήτοι περίπου 10 έως 14 % του κόστους ανάπτυξης του συστήματος.