·Διαφάνεια,

·Πολυμορφία, απαγόρευση των διακρίσεων και δικαιοσύνη,

·Κοινωνική και περιβαλλοντική ευημερία, και

·Λογοδοσία.

Επιπλέον, οι κατευθυντήριες γραμμές περιλαμβάνουν κατάλογο αξιολόγησης προς χρήση από τις επιχειρήσεις. Κατά το δεύτερο εξάμηνο του 2019, περισσότερες από 350 οργανώσεις εξέτασαν τον κατάλογο αξιολόγησης και απέστειλαν σχόλια. Η ομάδα υψηλού επιπέδου βρίσκεται στη διαδικασία αναθεώρησης των κατευθυντήριων γραμμών της υπό το φως αυτών των σχολίων και θα ολοκληρώσει τις εργασίες αυτές έως τα τέλη Ιουνίου του 2020. Βασικό αποτέλεσμα της διαδικασίας υποβολής σχολίων είναι ότι, ενώ ορισμένες απαιτήσεις αποτυπώνονται ήδη στα υφιστάμενα νομικά ή κανονιστικά καθεστώτα, εκείνες που αφορούν τη διαφάνεια, την ιχνηλασιμότητα και την ανθρώπινη εποπτεία δεν καλύπτονται συγκεκριμένα από την ισχύουσα νομοθεσία σε πολλούς τομείς της οικονομίας.

Πέραν αυτής της δέσμης μη δεσμευτικών κατευθυντήριων γραμμών της ομάδας εμπειρογνωμόνων υψηλού επιπέδου, και σύμφωνα με τις πολιτικές κατευθυντήριες γραμμές της Προέδρου, ένα σαφές ευρωπαϊκό κανονιστικό πλαίσιο θα μπορούσε να οικοδομήσει εμπιστοσύνη στην ΤΝ από τους καταναλωτές και τις επιχειρήσεις και, ως εκ τούτου, να επιταχύνει την υιοθέτηση της τεχνολογίας. Το εν λόγω κανονιστικό πλαίσιο θα πρέπει να συνάδει με άλλες δράσεις για την προώθηση της ικανότητας της Ευρώπης για καινοτομία και ανταγωνιστικότητα στον εν λόγω τομέα. Επιπλέον, πρέπει να εξασφαλίζει κοινωνικά, περιβαλλοντικά και οικονομικά βέλτιστα αποτελέσματα και τη συμμόρφωση με τη νομοθεσία, τις αρχές και τις αξίες της ΕΕ. Αυτό έχει ιδιαίτερη σημασία σε τομείς στους οποίους ενδέχεται να θιγούν άμεσα τα δικαιώματα των πολιτών, για παράδειγμα στην περίπτωση εφαρμογών ΤΝ στους τομείς της επιβολής του νόμου και της δικαιοσύνης.

Οι φορείς ανάπτυξης και οι φορείς χρήσης της ΤΝ υπόκεινται ήδη στην ευρωπαϊκή νομοθεσία για τα θεμελιώδη δικαιώματα (π.χ. προστασία των δεδομένων, της ιδιωτικής ζωής, μη διακριτική μεταχείριση), την προστασία των καταναλωτών, καθώς και τους κανόνες για την ασφάλεια των προϊόντων και την ευθύνη. Οι καταναλωτές αναμένουν το ίδιο επίπεδο ασφάλειας και σεβασμού των δικαιωμάτων τους, ανεξάρτητα από το αν ένα προϊόν ή ένα σύστημα βασίζεται στην ΤΝ. Ωστόσο, ορισμένα ιδιαίτερα χαρακτηριστικά της ΤΝ (π.χ. αδιαφάνεια) μπορούν να δυσχεράνουν την εφαρμογή και την επιβολή της νομοθεσίας αυτής. Για τον λόγο αυτόν, πρέπει να εξεταστεί κατά πόσον η ισχύουσα νομοθεσία μπορεί να αντιμετωπίσει τους κινδύνους της ΤΝ και να εφαρμοστεί αποτελεσματικά, κατά πόσον απαιτούνται προσαρμογές της νομοθεσίας, ή κατά πόσον απαιτείται νέα νομοθεσία.

Δεδομένης της ταχύτητας με την οποία εξελίσσεται η ΤΝ, το κανονιστικό πλαίσιο πρέπει να αφήνει περιθώρια για περαιτέρω εξελίξεις. Οι όποιες αλλαγές θα πρέπει να περιορίζονται σε σαφώς προσδιορισμένα προβλήματα για τα οποία υπάρχουν εφικτές λύσεις.

Τα κράτη μέλη επισημαίνουν τη σημερινή απουσία κοινού ευρωπαϊκού πλαισίου. Η γερμανική επιτροπή δεοντολογίας δεδομένων έχει ζητήσει τη θέσπιση ενός συστήματος κανονιστικής ρύθμισης βάσει πέντε επιπέδων κινδύνου, που θα κυμαίνονται από την απουσία ρύθμισης για τα πλέον ακίνδυνα συστήματα ΤΝ μέχρι την πλήρη απαγόρευση για τα πλέον επικίνδυνα. Η Δανία μόλις δρομολόγησε το πρωτότυπο μιας σφραγίδας δεοντολογίας δεδομένων. Η Μάλτα έχει θεσπίσει προαιρετικό σύστημα πιστοποίησης για την ΤΝ. Εάν η ΕΕ δεν παράσχει μια προσέγγιση σε επίπεδο ΕΕ, υπάρχει πραγματικός κίνδυνος κατακερματισμού της εσωτερικής αγοράς, γεγονός που θα υπονόμευε τους στόχους της εμπιστοσύνης, της ασφάλειας δικαίου και της διείσδυσης στην αγορά.

Ένα στέρεο ευρωπαϊκό κανονιστικό πλαίσιο για αξιόπιστη ΤΝ θα προστατεύει όλους τους Ευρωπαίους πολίτες και θα συμβάλλει στη δημιουργία μιας εσωτερικής αγοράς χωρίς τριβές για την περαιτέρω ανάπτυξη και υιοθέτηση της ΤΝ, καθώς και στην ενίσχυση της βιομηχανικής βάσης της Ευρώπης στον τομέα της ΤΝ.

1.Ορισμός του προβλήματος

Ενώ η ΤΝ μπορεί να λειτουργήσει θετικά, μεταξύ άλλων βελτιώνοντας την ασφάλεια των προϊόντων και των διαδικασιών, μπορεί επίσης να προκαλέσει ζημία. Η ζημία αυτή μπορεί να είναι υλική (ασφάλεια και υγεία των προσώπων, συμπεριλαμβανομένης της απώλειας ζωής, ζημία στην περιουσία) και άυλη (απώλεια της ιδιωτικότητας, περιορισμοί του δικαιώματος της ελευθερίας της έκφρασης, της ανθρώπινης αξιοπρέπειας, διακρίσεις, για παράδειγμα, όσον αφορά την πρόσβαση στην απασχόληση), και μπορεί να σχετίζεται με ένα ευρύ φάσμα κινδύνων. Το κανονιστικό πλαίσιο θα πρέπει να επικεντρώνεται στην ελαχιστοποίηση των διαφόρων κινδύνων πιθανής ζημίας, ιδίως των πιο σημαντικών.

Οι κύριοι κίνδυνοι που συνδέονται με τη χρήση της ΤΝ αφορούν την εφαρμογή των κανόνων που αποσκοπούν στην προστασία των θεμελιωδών δικαιωμάτων (συμπεριλαμβανομένων των δεδομένων προσωπικού χαρακτήρα και της προστασίας της ιδιωτικότητας και της μη διακριτικής μεταχείρισης), καθώς και τα ζητήματα που σχετίζονται με την ασφάλεια και την ευθύνη.

Κίνδυνοι για τα θεμελιώδη δικαιώματα, συμπεριλαμβανομένων των δεδομένων προσωπικού χαρακτήρα, της προστασίας της ιδιωτικότητας και της μη διακριτικής μεταχείρισης

Η χρήση της ΤΝ μπορεί να επηρεάσει τις αξίες στις οποίες βασίζεται η ΕΕ και να οδηγήσει σε παραβιάσεις των θεμελιωδών δικαιωμάτων, συμπεριλαμβανομένων των δικαιωμάτων της ελευθερίας της έκφρασης, της ελευθερίας του συνέρχεσθαι, της ανθρώπινης αξιοπρέπειας, της απαγόρευσης των διακρίσεων λόγω φύλου, φυλετικής ή εθνοτικής καταγωγής, θρησκείας ή πεποιθήσεων, αναπηρίας, ηλικίας ή γενετήσιου προσανατολισμού, όπως ισχύει σε ορισμένους τομείς, της προστασίας των δεδομένων προσωπικού χαρακτήρα και της ιδιωτικής ζωής, ή του δικαιώματος πραγματικής δικαστικής προσφυγής και δίκαιης δίκης, καθώς και προστασίας των καταναλωτών. Οι κίνδυνοι αυτοί θα μπορούσαν να προκύψουν από αδυναμίες στον συνολικό σχεδιασμό των συστημάτων ΤΝ (μεταξύ άλλων όσον αφορά την ανθρώπινη εποπτεία) ή από τη χρήση δεδομένων χωρίς διόρθωση της πιθανής μεροληψίας (π.χ. το σύστημα έχει εκπαιδευτεί με τη χρήση μόνο ή κυρίως δεδομένων από άνδρες, γεγονός που οδηγεί σε κατώτερα του επιθυμητού αποτελέσματα για τις γυναίκες).

Ορισμένοι αλγόριθμοι ΤΝ, όταν χρησιμοποιούνται για την πρόβλεψη της υποτροπής στη διάπραξη εγκλημάτων, μπορούν να χαρακτηρίζονται από έμφυλη ή φυλετική μεροληψία, δίνοντας ως αποτέλεσμα διαφορετική πιθανότητα υποτροπής για γυναίκες αντί για άνδρες ή για ημεδαπούς έναντι αλλοδαπών. Πηγή: Tolan S., Miron M., Gomez E. and Castillo C. "Why Machine Learning May Lead to Unfairness: Evidence from Risk Assessment for Juvenile Justice in Catalonia", Best Paper Award, International Conference on AI and Law, 2019

Ορισμένα προγράμματα ΤΝ για την ανάλυση προσώπου χαρακτηρίζονται από έμφυλη ή φυλετική μεροληψία, και εμφανίζουν μικρότερα ποσοστά λάθους στον προσδιορισμό του φύλου ανθρώπων με πιο ανοιχτή απόχρωση δέρματος, αλλά υψηλά ποσοστά λάθους στον προσδιορισμό του φύλου γυναικών με πιο σκούρα απόχρωση δέρματος. Πηγή: Joy Buolamwini, Timnit Gebru; Proceedings of the 1st Conference on Fairness, Accountability and Transparency, PMLR 81:77-91, 2018.