C 392/3

Συνοπτική παρουσίαση της γνωμοδότησης του Ευρωπαίου Επόπτη Προστασίας Δεδομένων σχετικά με τη Λευκή Βίβλο της Ευρωπαϊκής Επιτροπής για την Τεχνητή Νοημοσύνη — Η ευρωπαϊκή προσέγγιση της αριστείας και της εμπιστοσύνης

(Το πλήρες κείμενο της παρούσας γνωμοδότησης είναι διαθέσιμο στην αγγλική, γαλλική και γερμανική γλώσσα στον διαδικτυακό τόπο του ΕΕΠΔ www.edps.europa.eu)

(2020/C 392/03)

Συνοπτική παρουσίαση

Στις 19 Φεβρουαρίου 2020, η Ευρωπαϊκή Επιτροπή εξέδωσε τη Λευκή Βίβλο «Τεχνητή Νοημοσύνη: Η ευρωπαϊκή προσέγγιση της αριστείας και της εμπιστοσύνης». Το εν λόγω έγγραφο αποτελεί μέρος μιας ευρύτερης δέσμης εγγράφων, περιλαμβανομένης της ανακοίνωσης «Ευρωπαϊκή στρατηγική για τα δεδομένα».

Ο στόχος της Λευκής Βίβλου είναι διττός: η καθιέρωση επιλογών πολιτικής για την προώθηση της υιοθέτησης της τεχνητής νοημοσύνης («ΤΝ») και η αντιμετώπιση «των κινδύνων που συνδέονται με ορισμένες χρήσεις της νέας αυτής τεχνολογίας». Προκειμένου να επιτύχει τους στόχους αυτούς, η Λευκή Βίβλος προτείνει μια δέσμη μέτρων για την προώθηση της ανάπτυξης και της υιοθέτησης της ΤΝ, καθώς και ένα νέο κανονιστικό πλαίσιο που θα αντιμετωπίζει τους προβληματισμούς σχετικά με την ΤΝ που το ισχύον πλαίσιο ενδεχομένως δεν αντιμετωπίζει.

Η παρούσα γνωμοδότηση παρουσιάζει τις απόψεις του ΕΕΠΔ σχετικά με τη Λευκή Βίβλο στο σύνολό της, καθώς και σχετικά με ορισμένες επιμέρους πτυχές της, όπως είναι η προτεινόμενη προσέγγιση βάσει κινδύνου, η επιβολή του κανονισμού για την ΤΝ ή οι ειδικές απαιτήσεις για την εξ αποστάσεως βιομετρική ταυτοποίηση (συμπεριλαμβανομένης της αναγνώρισης προσώπου).

Ο ΕΕΠΔ αναγνωρίζει την αυξανόμενη σημασία και τον αντίκτυπο της ΤΝ. Εντούτοις, η ΤΝ ενέχει τους δικούς της κινδύνους και δεν αποτελεί τη μαγική λύση όλων των προβλημάτων. Όποιος υιοθετεί μια τεχνολογία πρέπει να εξετάζει τα οφέλη, το κόστος και τους κινδύνους, πόσο μάλλον όταν πρόκειται για δημόσιες διοικήσεις που επεξεργάζονται τεράστιους όγκους δεδομένων προσωπικού χαρακτήρα.

Ο ΕΕΠΔ εκφράζει την ιδιαίτερη ικανοποίησή του για τις πολυάριθμες αναφορές της Λευκής Βίβλου στην ευρωπαϊκή προσέγγιση για την ΤΝ, η οποία διαπνέεται από τις αξίες της ΕΕ και τα θεμελιώδη δικαιώματα, καθώς και για την έμφαση που αποδίδεται στην ανάγκη συμμόρφωσης προς την ευρωπαϊκή νομοθεσία περί προστασίας των δεδομένων.

Συνεπώς, ο στόχος των συστάσεων της παρούσας γνωμοδότησης είναι η αποσαφήνιση και, όπου χρειάζεται, η περαιτέρω ανάπτυξη των διασφαλίσεων και των ελέγχων για την προστασία των δεδομένων προσωπικού χαρακτήρα, λαμβάνοντας υπόψη το ειδικό πλαίσιο της ΤΝ.

Για τον σκοπό αυτόν, ο ΕΕΠΔ συνιστά ειδικότερα το τυχόν νέο κανονιστικό πλαίσιο για την ΤΝ:

— να εφαρμοστεί ταυτόχρονα στα κράτη μέλη και στα θεσμικά όργανα, τα όργανα και τους οργανισμούς της ΕΕ,

— να σχεδιαστεί ώστε να προστατεύει από οποιονδήποτε αρνητικό αντίκτυπο όχι μόνον τα μεμονωμένα άτομα, αλλά και τις επιμέρους κοινότητες και την κοινωνία στο σύνολό της,

— να προτείνει ένα πιο άρτιο και διαφοροποιημένο σύστημα ταξινόμησης κινδύνων, το οποίο θα διασφαλίζει την εφαρμογή κατάλληλων μέτρων μετριασμού κάθε σημαντικής ενδεχόμενης βλάβης που θα οφείλεται σε εφαρμογές της ΤΝ,

— να περιλαμβάνει εκτίμηση επιπτώσεων η οποία θα καθορίζει σαφώς τα κανονιστικά κενά που επιδιώκει να καλύψει,

— να αποφεύγει τις αλληλεπικαλύψεις αρμοδιοτήτων των διάφορων εποπτικών αρχών και να περιλαμβάνει μηχανισμό προώθησης της συνεργασίας.

Όσον αφορά την εξ αποστάσεως βιομετρική ταυτοποίηση, ο ΕΕΠΔ υποστηρίζει την ιδέα ότι στην ΕΕ πρέπει να ανασταλεί η εφαρμογή της αυτόματης αναγνώρισης ανθρώπινων χαρακτηριστικών σε δημόσιους χώρους –όχι μόνον των χαρακτηριστικών του προσώπου, αλλά και του βηματισμού, των δακτυλικών αποτυπωμάτων, του DNA, της φωνής, του ρυθμού πληκτρολόγησης και άλλων βιομετρικών και συμπεριφορικών σημάτων–, ώστε να καταστεί δυνατή η διεξαγωγή ενός τεκμηριωμένου και δημοκρατικού διαλόγου. Η αναστολή αυτή πρέπει να διαρκέσει έως ότου η ΕΕ και τα κράτη μέλη θεσπίσουν όλες τις πρόσφορες εγγυήσεις, συμπεριλαμβανομένης της θέσπισης ενός ολοκληρωμένου νομικού πλαισίου που θα εγγυάται την αναλογικότητα των αντίστοιχων τεχνολογιών και συστημάτων για την εκάστοτε συγκεκριμένη χρήση.

Ο ΕΕΠΔ παραμένει στη διάθεση της Επιτροπής, του Συμβουλίου και του Ευρωπαϊκού Κοινοβουλίου για να παράσχει πρόσθετες συμβουλές, και αναμένει να κληθεί να γνωμοδοτήσει εντός του ευλόγου χρονικού διαστήματος που προβλέπεται στο άρθρο 42 του κανονισμού (ΕΕ) 2018/1725. Οι παρατηρήσεις που διατυπώνονται στην παρούσα γνωμοδότηση δεν προδικάζουν τυχόν μελλοντικές συμπληρωματικές παρατηρήσεις που θα αφορούν συγκεκριμένα θέματα ή/και πρόσθετες πληροφορίες που θα τεθούν στη διάθεση του ΕΕΠΔ.

1. ΕΙΣΑΓΩΓΗ ΚΑΙ ΠΛΑΙΣΙΟ

1. Η Λευκή Βίβλος της Επιτροπής «Τεχνητή νοημοσύνη – Η ευρωπαϊκή προσέγγιση της αριστείας και της εμπιστοσύνης» ( 1 ) (στο εξής: «Λευκή Βίβλος») αποτελεί μέρος της πρωτοβουλίας αριθ. 10 (στο εξής: «Μια ευρωπαϊκή προσέγγιση στην ΤΝ»), εμπίπτει δε στο κεφάλαιο «Μια Ευρώπη έτοιμη για την ψηφιακή εποχή» του Προγράμματος εργασίας της Επιτροπής για το 2020.

2. Ο ΕΕΠΔ επισημαίνει ότι η Λευκή Βίβλος συνδέεται στενά με την «Ανακοίνωση της Επιτροπής προς το Ευρωπαϊκό Κοινοβούλιο, το Συμβούλιο, την Ευρωπαϊκή Οικονομική και Κοινωνική Επιτροπή και την Επιτροπή των Περιφερειών - Ευρωπαϊκή στρατηγική για τα δεδομένα» ( 2 ) (στο εξής: «στρατηγική για τα δεδομένα»), για την οποία ο ΕΕΠΔ εξέδωσε χωριστή γνωμοδότηση ( 3 )

3. Στις 29 Ιανουαρίου 2020 η Επιτροπή ζήτησε άτυπα τη γνώμη του ΕΕΠΔ για το σχέδιο της Λευκής Βίβλου και την υποβολή προκαταρκτικών παρατηρήσεων. Ο ΕΕΠΔ εκφράζει την ικανοποίησή του για το γεγονός ότι ζητήθηκε η γνώμη του σε πρώιμο στάδιο της διαδικασίας και παροτρύνει την Επιτροπή να συνεχίσει να εφαρμόζει την εν λόγω ορθή πρακτική.

4. Η Λευκή Βίβλος τίθεται σε δημόσια διαβούλευση. Ο στόχος της διαβούλευσης είναι η συγκέντρωση απόψεων τόσο για το σύνολο όσο και για ορισμένες ειδικές πτυχές της Λευκής Βίβλου. Ανάλογη δημόσια διαβούλευση δρομολογήθηκε και για την ανακοίνωση της Ευρωπαϊκής Επιτροπής «Μια ευρωπαϊκή στρατηγική για τα δεδομένα».

5. Η παρούσα γνωμοδότηση αξιοποιεί ορισμένες από τις άτυπες παρατηρήσεις του ΕΕΠΔ και παρέχει μια πιο στοχευμένη συμβολή στην Ευρωπαϊκή Επιτροπή ενόψει της δημόσιας διαβούλευσης. Περαιτέρω, η παρούσα γνωμοδότηση δεν προδικάζει τυχόν συμπληρωματικές παρατηρήσεις που ο ΕΕΠΔ ενδέχεται να διατυπώσει επί τη βάσει πρόσθετων πληροφοριών που ενδέχεται να τεθούν στη διάθεσή του σε μεταγενέστερο στάδιο, όπως, ενδεικτικά, στο πλαίσιο των μελλοντικών νομοθετικών διαβουλεύσεων σχετικά με τις νομικές πράξεις που προβλέπονται στη Λευκή Βίβλο και στο πρόγραμμα εργασίας της Επιτροπής.

6. Καίτοι τα θεσμικά όργανα, τα όργανα και οι οργανισμοί της ΕΕ υπόκεινται στον κανονισμό EUDPR και όχι στον ΓΚΠΔ, αμφότεροι οι κανονισμοί επιδιώκουν τους ίδιους στόχους και βασίζονται στις ίδιες αρχές ( 4 ) . Για την αποτύπωση της συνεκτικότητας των σχετικών ρυθμίσεων, στην παρούσα γνωμοδότηση κάθε παραπομπή σε διάταξη του ΓΚΠΔ αναφέρει επίσης την αντίστοιχη διάταξη του κανονισμού EUDPR εντός παρενθέσεων.

7. Προς όφελος μιας συνεκτικής προσέγγισης για το σύνολο της Ένωσης , ο ΕΕΠΔ συνιστά το όποιο νέο κανονιστικό πλαίσιο για την ΤΝ να εφαρμοστεί ταυτόχρονα τόσο στα κράτη μέλη όσο και στα θεσμικά όργανα, τα όργανα και τους οργανισμούς της ΕΕ. Όταν τα θεσμικά όργανα, τα όργανα και οι οργανισμοί της Ένωσης χρησιμοποιούν την Τεχνητή Νοημοσύνη (στο εξής: «ΤΝ»), πρέπει να υπόκεινται στους ίδιους κανόνες που εφαρμόζονται στα κράτη μέλη της ΕΕ.

3. ΣΥΜΠΕΡΑΣΜΑΤΑ

77. Ο ΕΕΠΔ συμφωνεί πλήρως με την Επιτροπή ως προς την ανάγκη για μια ευρωπαϊκή προσέγγιση στην ΤΝ και εκφράζει σχετικά την ικανοποίησή του για τη δέσμευση της Λευκής Βίβλου στα θεμελιώδη δικαιώματα και τις ευρωπαϊκές αξίες.

78. Ωστόσο, ο ΕΕΠΔ φρονεί ότι οι προτάσεις που περιέχονται στη Λευκή Βίβλο χρήζουν περαιτέρω βελτιώσεων και διευκρινίσεων για ορισμένα συναφή ερωτήματα. Μεταξύ των θεμάτων που χρήζουν διευκρινίσεων στο πλαίσιο οιασδήποτε μελλοντικής νομοθετικής πρότασης συγκαταλέγονται η σχέση μεταξύ των κινδύνων που ενέχει η ΤΝ και των συναφών νομοθετικών κενών, η προσέγγιση βάσει κινδύνου που ακολουθείται στις εφαρμογές της ΤΝ και ο ίδιος ο ορισμός της ΤΝ, ο οποίος θα διευκολύνει τον σαφέστερο καθορισμό του πεδίου εφαρμογής της προτεινόμενης νομοθεσίας.

79. Ο ΕΕΠΔ συνιστά επιπλέον το τυχόν νέο κανονιστικό πλαίσιο για την ΤΝ: — να εφαρμοστεί ταυτόχρονα στα κράτη μέλη και στα θεσμικά όργανα, τα όργανα και τους οργανισμούς της ΕΕ, — να σχεδιαστεί ώστε να προστατεύει από οποιονδήποτε αρνητικό αντίκτυπο όχι μόνον τα μεμονωμένα άτομα, αλλά και τις επιμέρους κοινότητες και την κοινωνία στο σύνολό της, — να προτείνει ένα πιο άρτιο και διαφοροποιημένο σύστημα ταξινόμησης κινδύνων, το οποίο θα διασφαλίζει την εφαρμογή κατάλληλων μέτρων μετριασμού κάθε σημαντικής ενδεχόμενης βλάβης που θα οφείλεται σε εφαρμογές της ΤΝ, — να περιλαμβάνει εκτίμηση επιπτώσεων η οποία θα καθορίζει σαφώς τα κανονιστικά κενά που επιδιώκει να καλύψει, — να αποφεύγει τις αλληλεπικαλύψεις αρμοδιοτήτων των διάφορων εποπτικών αρχών και να περιλαμβάνει μηχανισμό προώθησης της συνεργασίας.

80. Όσον αφορά την εξ αποστάσεως βιομετρική ταυτοποίηση, ο ΕΕΠΔ υποστηρίζει την ιδέα ότι στην ΕΕ πρέπει να ανασταλεί η εφαρμογή της αυτόματης αναγνώρισης ανθρώπινων χαρακτηριστικών σε δημόσιους χώρους –όχι μόνον των χαρακτηριστικών του προσώπου, αλλά και του βηματισμού, των δακτυλικών αποτυπωμάτων, του DNA, της φωνής, του ρυθμού πληκτρολόγησης και άλλων βιομετρικών και συμπεριφορικών σημάτων–, ώστε να καταστεί δυνατή η διεξαγωγή ενός τεκμηριωμένου και δημοκρατικού διαλόγου. Η αναστολή αυτή πρέπει να διαρκέσει έως ότου η ΕΕ και τα κράτη μέλη θεσπίσουν όλες τις πρόσφορες εγγυήσεις, συμπεριλαμβανομένης της θέσπισης ενός ολοκληρωμένου νομικού πλαισίου που θα εγγυάται την αναλογικότητα των αντίστοιχων τεχνολογιών και συστημάτων για την εκάστοτε συγκεκριμένη χρήση.

81. Εφόσον υπάρξει νέο νομοθετικό πλαίσιο βάσει της Λευκής Βίβλου και του προγράμματος εργασίας της Επιτροπής, ο ΕΕΠΔ θα παράσχει πρόσθετες συμβουλές στην Επιτροπή, όπως προβλέπεται στο άρθρο 42 του κανονισμού EUDPR.

Βρυξέλλες, 29 Ιουνίου 2020. Wojciech Rafał WIEWIÓROWSKI

(1) COM(2020) 65 final.

(2) COM (2020) 66 final.

(3) EDPS Opinion 3/2020 on the European strategy for data [Γνωμοδότηση 3/2020 του ΕΕΠΔ σχετικά με την ευρωπαϊκή στρατηγική για τα δεδομένα], https://edps.europa.eu/sites/edp/files/publication/20-06-16_opinion_data_strategy_en.pdf

(4) Οσάκις οι διατάξεις του κανονισμού (ΕΕ) 2018/1725 βασίζονται στις ίδιες αρχές με τις διατάξεις του κανονισμού (ΕΕ) 2016/679, οι διατάξεις των εν λόγω δύο πράξεων θα πρέπει, με βάση τη νομολογία του Δικαστηρίου της Ευρωπαϊκής Ένωσης να ερμηνεύονται ομοιόμορφα, ιδίως καθόσον το σύστημα του κανονισμού EDPR πρέπει να νοείται ως ισοδύναμο με το σύστημα του ΓΚΠΔ. Βλέπε αιτιολογική σκέψη 5 του κανονισμού EDPR που παραπέμπει στην απόφαση του ΔΕΕ της 9ης Μαρτίου 2010, Ευρωπαϊκή Επιτροπή κατά Ομοσπονδιακής Δημοκρατίας της Γερμανίας, υπόθεση C-518/07, ECLI:EU:C:2010:125, σκέψη 28.