Γνωμοδότηση της Ευρωπαϊκής Επιτροπής των Περιφερειών με θέμα «Λευκή βίβλος για την τεχνητή νοημοσύνη — Ευρωπαϊκή προσέγγιση της αριστείας και της εμπιστοσύνης»

(2020/C 440/14)

Εισηγητής: Guido RINK (NL/PES), μέλος του εκτελεστικού συμβουλίου του Έμεν Έγγραφο αναφοράς: Λευκή βίβλος για την τεχνητή νοημοσύνη — Ευρωπαϊκή προσέγγιση της αριστείας και της εμπιστοσύνης COM(2020) 65 final

ΠΟΛΙΤΙΚΕΣ ΣΥΣΤΑΣΕΙΣ

Η ΕΥΡΩΠΑΪΚΗ ΕΠΙΤΡΟΠΗ ΤΩΝ ΠΕΡΙΦΕΡΕΙΩΝ

Γενικές παρατηρήσεις

1. επισημαίνει πως στις 19 Φεβρουαρίου 2020, η Ευρωπαϊκή Επιτροπή (στο εξής: «η Επιτροπή») δημοσίευσε την ψηφιακή της στρατηγική για την περίοδο 2020-2025. Στη Λευκή της βίβλο για την τεχνητή νοημοσύνη (ΤΝ), η Επιτροπή παρουσιάζει το όραμά της για τα κυριότερα μέσα δράσης και τις επενδύσεις που απαιτούνται σε θέματα τεχνητής νοημοσύνης. Κατά την Επιτροπή, η Ευρώπη μπορεί να αναδειχθεί σε παγκόσμιο πρωταγωνιστικό παράγοντα στον τομέα αυτόν·

2. υπενθυμίζει πως η Λευκή βίβλος για την τεχνητή νοημοσύνη συνοδεύεται από τις ανακοινώσεις «Διαμόρφωση του ψηφιακού μέλλοντος της Ευρώπης» ( 1 ) και «Ευρωπαϊκή στρατηγική για τα δεδομένα» ( 2 )

3. υπογραμμίζει ότι η Επιτροπή προτίθεται να υιοθετήσει μια προσέγγιση της ανάπτυξης και χρήσης της τεχνητής νοημοσύνης που να έχει ως επίκεντρο τον ανθρώπινο παράγοντα, να είναι ασφαλής και δεοντολογικά ορθή, χωρίς αποκλεισμούς και να σέβεται τις αξίες με τις οποίες επιθυμεί να συνδέεται η Ευρωπαϊκή Ένωση (ΕΕ)·

4. υπενθυμίζει πως η Λευκή βίβλος για την τεχνητή νοημοσύνη περιλαμβάνει δύο κύριες πτυχές: την προώθηση της ανάπτυξης και της εξάπλωσης της τεχνητής νοημοσύνης και το ρυθμιστικό πλαίσιο με γνώμονα τις δεοντολογικές πτυχές και την εμπιστοσύνη·

5. εκφράζει την ικανοποίησή της για τη Λευκή βίβλο «Τεχνητή νοημοσύνη — Η ευρωπαϊκή προσέγγιση της αριστείας και της εμπιστοσύνης» . Αναγνωρίζει ότι είναι σημαντικό να αναπτυχθεί ένας προβληματισμός σχετικά με την τεχνητή νοημοσύνη, με την προοπτική της χάραξης της σχετικής στρατηγικής της Επιτροπής. Ωστόσο, η ΕτΠ θα εκτιμούσε να τονίζεται επίσης, στη Λευκή βίβλο, ο ρόλος των πρωτοβάθμιων και δευτεροβάθμιων οργανισμών τοπικής αυτοδιοίκησης (ΟΤΑ) ως σημαντικών εταίρων, παραγωγών, χρηστών καθώς και παραγόντων καινοτομίας στην ανάπτυξη της τεχνητής νοημοσύνης·

6. παραπέμπει, επί του προκειμένου, στη γνωμοδότησή της «Τεχνητή νοημοσύνη για την Ευρώπη», της 6ης Φεβρουαρίου 2019 ( 3 )

7. επισημαίνει πως η τεχνητή νοημοσύνη αποτελεί ήδη μέρος της ζωής μας και θα διαδραματίσει ολοένα σημαντικότερο ρόλο στο μετασχηματισμό των κοινωνιών μας. Ενέχει δε σημαντικό δυναμικό για την κοινωνία, τις επιχειρήσεις και τους πολίτες της Ευρώπης. Η καινοτομία σε θέματα τεχνητής νοημοσύνης συμβάλλει όχι μόνο στην οικονομία, αλλά και στην εκτέλεση αποστολών κοινωνικής και περιβαλλοντικής φύσης·

8. φρονεί ότι η εφαρμογή της τεχνητής νοημοσύνης είναι σημαντική και σε εθνικό επίπεδο, αλλά κυρίως σε τοπικό και περιφερειακό επίπεδο. Ειδικότερα, οι οργανισμοί τοπικής αυτοδιοίκησης μπορούν να συντελέσουν στην ανάπτυξη οικοσυστημάτων τεχνητής νοημοσύνης στις περιοχές δικαιοδοσίας τους, αλλά και να ενθαρρύνουν τις σχετικές επενδύσεις ή να πραγματοποιήσουν οι ίδιοι επενδύσεις σε τεχνητή νοημοσύνη·

9. υπογραμμίζει ότι η τεχνητή νοημοσύνη είναι ένας σύνθετος πολιτικός τομέας, που δεν είναι απομονωμένος. Συνδέεται με διάφορους άλλους κλάδους στους οποίους παρεμβαίνει η Επιτροπή·

10. Διαμόρφωση του ψηφιακού μέλλοντος της Ευρώπης » και « Ευρωπαϊκή στρατηγική για τα δεδομένα ». Επιπλέον, η Λευκή βίβλος εντάσσεται στην προοπτική πολλών άλλων πεδίων δράσης της Επιτροπής, όπως το Θεματολόγιο δεξιοτήτων για την Ευρώπη Σύσταση σχετικά με μια κοινή εργαλειοθήκη της Ένωσης για τη χρήση της τεχνολογίας και των δεδομένων με σκοπό την καταπολέμηση της κρίσης COVID-19 και την έξοδο από αυτή, ιδίως όσον αφορά εφαρμογές για φορητές συσκευές και τη χρήση ανωνυμοποιημένων δεδομένων κινητικότητας ( 5 )· σημειώνει ότι η Λευκή βίβλος για την τεχνητή νοημοσύνη και οι σχετικές πολιτικές πρέπει να εξεταστούν σε συνδυασμό με τις δύο ανακοινώσεις που τη συνοδεύουν: «» και «». Επιπλέον, η Λευκή βίβλος εντάσσεται στην προοπτική πολλών άλλων πεδίων δράσης της Επιτροπής, όπως το ( 4 ) και η

11. τονίζει ότι οι συστάσεις της ΕτΠ πρέπει να εξεταστούν, στο μέτρο του δυνατού, σε συνάρτηση με τα έγγραφα που αφορούν τη χάραξη των ευρωπαϊκών πολιτικών·

12. χαιρετίζει την προσέγγιση της Επιτροπής, που συνίσταται, επί της ουσίας, στην ανάπτυξη μιας τεχνητής νοημοσύνης με επίκεντρο τον άνθρωπο και τη φιλοδοξία της να πρωτοστατήσει στη θέσπιση δεοντολογικών προτύπων. Από αυτή την άποψη, η Επιτροπή τονίζει, ορθώς, ότι τα πλεονεκτήματα της τεχνητής νοημοσύνης θα εξαρτηθούν από την εμπιστοσύνη που θα της δείξουν οι πολίτες·

13. επιμένει, ωστόσο, ότι ο προβληματισμός σχετικά με τις μελλοντικές πολιτικές για την ενίσχυση της εμπιστοσύνης στην τεχνητή νοημοσύνη αναμένεται να αφορά πτυχές όπως η κυριότητα των δεδομένων, οι αλγόριθμοι, οι πλατφόρμες και η προστασία των δημόσιων αξιών στις πλατφόρμες, καθώς και το ερώτημα ποιος επωφελείται, εντέλει, από τις εφαρμογές τεχνητής νοημοσύνης και ποιος πληρώνει το σχετικό τίμημα (και εάν αυτό είναι κοινωνικά αποδεκτό)·

14. τονίζει ότι, καθώς τα άλλα πεδία πολιτικής δράσης που σχετίζονται με την τεχνητή νοημοσύνη είναι πολλά, υπάρχει ο κίνδυνος να χαλαρώσει η συνεκτικότητα του συνόλου και να εξελίσσεται το καθένα μεμονωμένα·

15. προτείνει στην Επιτροπή να ορίσει έναν χάρτη πορείας και μια προσέγγιση βάσει των οποίων θα προάγεται η συνοχή μεταξύ των διαφόρων πεδίων δράσης·

Ας αδράξουμε την ευκαιρία

16. τονίζει ότι η ευρωπαϊκή πολιτική θα πρέπει να επικεντρώσει αποφασιστικά τις δυνάμεις της στην ενίσχυση των πολυθεματικών τοπικών και περιφερειακών δικτύων όπου συμμετέχουν πολίτες, δημόσιες υπηρεσίες, ιδρύματα γνώσης και επιχειρήσεις, καθώς και στην επένδυση στα δίκτυα αυτά (και στην οργάνωση και την ενεργοποίησή τους). Η ΕτΠ εκτιμά ότι οι κόμβοι καινοτομίας που προτείνει η Επιτροπή μπορούν να διαδραματίσουν κεντρικό ρόλο επί του θέματος·

17. υπογραμμίζει ότι η τεχνητή νοημοσύνη μπορεί να συντελέσει στην εξεύρεση λύσης για τις προκλήσεις της κοινωνίας, κυρίως σε τομείς όπως η υγεία (το πιο αξιοσημείωτο πρόσφατο παράδειγμα είναι η καταπολέμηση της πανδημίας COVID-19), η ασφάλεια, το κλίμα, η κινητικότητα και οι μεταφορές, η κοινωνική μέριμνα, η βιομηχανία υψηλής τεχνολογίας, το λιανικό εμπόριο, η γεωργία και οι δημόσιες υπηρεσίες·

18. εφιστά την προσοχή στο ότι η τεχνητή νοημοσύνη μπορεί να δημιουργήσει νέες θέσεις εργασίας και να διαμορφώσει μια νέα επιχειρηματικότητα. Η Επιτροπή αναγνωρίζει ως σημαντική προϋπόθεση, και δικαίως, την εμπιστοσύνη των πολιτών στην εν λόγω τεχνολογία. Ένα στρατηγικό πλαίσιο της ΕΕ στηριζόμενο σε θεμελιώδεις αξίες θα μπορούσε να εμπνεύσει αυτή την εμπιστοσύνη και να παροτρύνει τις επιχειρήσεις να αναπτύξουν λύσεις τεχνητής νοημοσύνης·

19. συμφωνεί ως προς το ότι οι ισότιμοι όροι ανταγωνισμού στην ευρωπαϊκή αγορά έχουν μεγάλη σημασία. Ιδιαίτερη προσοχή πρέπει να δοθεί στην πρόσβαση των μικρών και μεσαίων επιχειρήσεων (ΜΜΕ) και των νεοφυών επιχειρήσεων στην τεχνητή νοημοσύνη. Οι ΜΜΕ συνιστούν καίρια κινητήρια δύναμη των τοπικών και περιφερειακών οικονομιών. Οι ευρωπαϊκοί κόμβοι ψηφιακής καινοτομίας και τα μελλοντικά ρυθμιστικά πλαίσια και πολιτικές διαδραματίζουν αποφασιστικό ρόλο στην προώθηση των ίσων ευκαιριών πρόσβασης στην ΤΝ ιδίως όσον αφορά τη στήριξη των πολύ μικρών, μικρών και μεσαίων επιχειρήσεων (ΠΜΜΜΕ) για την πρόσβαση στην ΤΝ·

20. διαπιστώνει ότι η Επιτροπή έχει σκοπό να αξιοποιήσει τα πλεονεκτήματα που υφίστανται (επί του παρόντος) στις βιομηχανικές και επαγγελματικές αγορές ( 6 ) . Υπογραμμίζει ότι η στρατηγική αυτή δεν πρέπει να εφαρμοστεί εις βάρος της παραγωγικότητας, της ικανότητας καινοτομίας και του DNA των τοπικών και περιφερειακών οικοσυστημάτων·

21. τονίζει ότι, μέσα στα οικοσυστήματα αυτά, οι οργανισμοί τοπικής αυτοδιοίκησης καταβάλλουν προσπάθειες για να αντιμετωπίσουν ένα ευρύ φάσμα προκλήσεων για την κοινωνία. Μπορούν να διαδραματίσουν καίριο ρόλο για την επιτάχυνση των καινοτομιών που έχουν πραγματική επίδραση·

22. υπογραμμίζει ότι οι ΟΤΑ είναι οι πλέον κατάλληλοι φορείς για να βοηθήσουν στη δημιουργία περιβάλλοντος που θα ευνοεί την αύξηση των επενδύσεων στην τεχνητή νοημοσύνη κατά τα προσεχή έτη και στην ενίσχυση της εμπιστοσύνης στην τεχνητή νοημοσύνη στα διάφορα στάδια των αλυσίδων αξίας. Και τούτο, επειδή είναι οι πλησιέστεροι επιτόπιοι φορείς και μπορούν να τονώσουν τη δημιουργία τοπικών πολυθεματικών δικτύων·

23. φρονεί ότι θα απαιτηθεί σημαντική στήριξη της ΕΕ για να δοθούν κίνητρα για ιδιωτικές και δημόσιες επενδύσεις, θα χρειαστεί δε να προβλεφθούν πόροι από το πρόγραμμα «Ψηφιακή Ευρώπη», από το πρόγραμμα «Ορίζοντας Ευρώπη» και από τα Ευρωπαϊκά Διαρθρωτικά και Επενδυτικά Ταμεία (ΕΔΕΤ) για να καλυφθούν οι ανάγκες των τοπικών οικοσυστημάτων·

24. εκτιμά ότι οι επιδοτήσεις θα πρέπει να επικεντρωθούν στις συγκεκριμένες εφαρμογές τεχνητής νοημοσύνης που μπορούν να εφαρμοστούν σε μεγαλύτερη κλίμακα. Για να αξιοποιηθούν όσο το δυνατόν περισσότερο οι δυνατότητες που προσφέρει η τεχνητή νοημοσύνη, θα πρέπει να προαχθούν έργα μικρής εμβέλειας και να περιοριστούν οι χρηματοοικονομικές δαπάνες, ώστε να είναι πιο συμφέρον για τους οργανισμούς τοπικής αυτοδιοίκησης να συμμετέχουν σε έργα που χρηματοδοτούνται από την ΕΕ·

25. υποστηρίζει τη λύση της ανάπτυξης της τεχνητής νοημοσύνης εντός των κόμβων ψηφιακής καινοτομίας. Υπό αυτές τις συνθήκες, οι επιδοτήσεις που προορίζονται για τους εν λόγω κόμβους θα πρέπει να δώσουν έμφαση στην προώθηση των τοπικών και περιφερειακών οικοσυστημάτων·

26. χαιρετίζει την πρόθεση της Επιτροπής να ενθαρρύνει την ανάπτυξη προϊόντων με βάση την τεχνητή νοημοσύνη στον δημόσιο τομέα ( 7 )

27. ωστόσο, θεωρεί πως η δέσμευση της Επιτροπής υπέρ της ανάπτυξης της τεχνητής νοημοσύνης δεν πρέπει να περιοριστεί στις τεχνολογίες τεχνητής νοημοσύνης που έχουν ήδη δοκιμαστεί με επιτυχία σε προκαθορισμένους τομείς. Οι οργανισμοί τοπικής αυτοδιοίκησης μπορούν να αναλάβουν σημαντικό ρόλο για την επιτάχυνση (νέων) τεχνολογιών τεχνητής νοημοσύνης, ως «πελάτες πρώτης προώθησης»·

28. καλεί την Επιτροπή να ζητήσει από όλες τις δημόσιες αρχές, συμπεριλαμβανομένων των τοπικών και των περιφερειακών, να διενεργήσουν αυστηρές εκτιμήσεις αντικτύπου στα ανθρώπινα δικαιώματα για τα συστήματα τεχνητής νοημοσύνης που αναπτύσσονται στο δημόσιο τομέα. Οι αρχές πρέπει να αποφεύγουν να προσφεύγουν σε τεχνολογίες επιτήρησης τεχνητής νοημοσύνης, ιδίως σε περιπτώσεις έκτακτης ανάγκης, πριν γνωστοποιηθούν τα αποτελέσματα της εκτίμησης αντικτύπου και βρεθούν οι απαραίτητες λύσεις·

29. τάσσεται υπέρ της εκπόνησης ενός πλαισίου για τις δημόσιες συμβάσεις και ενός νομικού οπλοστασίου, ως τυποποιημένων όρων σύναψης δημοσίων συμβάσεων, που θα παρέχουν στους οργανισμούς τοπικής αυτοδιοίκησης περιθώρια ευελιξίας ώστε να μπορούν να αξιοποιούν με τον βέλτιστο τρόπο τις δυνατότητες που τους προσφέρονται·

30. υπογραμμίζει ότι η αξία των δεδομένων έγκειται στην επαναχρησιμοποίησή τους, μεταξύ άλλων σε εφαρμογές τεχνητής νοημοσύνης. Η διατομεακή κοινοχρησία δεδομένων με κυβερνοασφάλεια ευνοεί την καινοτομία στον χώρο της τεχνητής νοημοσύνης. Η ΕτΠ καλεί την Επιτροπή να χρησιμοποιήσει το γενικό κανονισμό για την προστασία των δεδομένων (EE) 2016/679, και να αξιολογήσει τη σκοπιμότητα ενός πρόσθετου ειδικού ρυθμιστικού πλαισίου για την ΤΝ για την εύκολη και αξιόπιστη κοινοχρησία και την επαναχρησιμοποίηση των δεδομένων μεταξύ επιχειρήσεων και δημόσιων αρχών (B2G), ιδίως όταν τίθεται θέμα κοινής ωφέλειας, όπως στην περίπτωση της πανδημίας της COVID-19· Αυτό έχει επίσης καταδείξει τη σημασία της χρήσης των δεδομένων των επιχειρήσεων από τις δημόσιες αρχές. Το δυναμικό θα πρέπει να αξιοποιηθεί διότι μπορεί να μειώσει τον διοικητικό φόρτο για τις επιχειρήσεις και σε πολλές περιπτώσεις, για παράδειγμα στο πλαίσιο της οικονομίας των πλατφορμών, μόνο με αυτόν τον τρόπο μπορούν οι δημόσιες αρχές να εκπληρώσουν τις νομικές τους υποχρεώσεις·

31. κρίνει αναγκαίο να πραγματοποιηθούν επενδύσεις, σε ευρωπαϊκό επίπεδο, σε μια βασική υποδομή και μια αρχιτεκτονική δεδομένων κοινές και ασφαλείς, καθώς και σε πρότυπα ποιότητας σχετικά με την ασφάλεια, τις σειρές δεδομένων και τις στατιστικές. Η προσέγγιση αυτή θα βοηθήσει να χαμηλώσει το κατώτατο όριο πρόσβασης στις εφαρμογές τεχνητής νοημοσύνης και να τονωθεί η ψηφιακή εμπιστοσύνη, δίνοντας ώθηση στην ανάπτυξη και τη χρήση της τεχνητής νοημοσύνης·

32. είναι απόλυτα πεπεισμένη ότι οι εφαρμογές τεχνητής νοημοσύνης που θα αναπτύσσονται με τη στήριξη δημόσιων πόρων θα πρέπει επίσης να αποδίδονται, στο μέτρο του δυνατού, στην κοινωνία. Κατ’ αρχήν, οι εν λόγω εφαρμογές τεχνητής νοημοσύνης θα πρέπει να εκπονούνται, για παράδειγμα, υπό συνθήκες ανοικτού κώδικα αναγνωρίζοντας ταυτόχρονα την ανάγκη χρηματοδότησης αυτής της ανάπτυξης·

Νομοθεσία και πολιτική: μια προσέγγιση με βάση τη μάθηση

33. διαπιστώνει με ενδιαφέρον την πρόοδο που σημειώθηκε στον ορισμό της τεχνητής νοημοσύνης, όπως αντικατοπτρίζεται στον επικαιροποιημένο ορισμό ( 8 ) που παρέσχε η ανεξάρτητη ομάδα εμπειρογνωμόνων υψηλού επιπέδου (AI HLEG), η οποία συστάθηκε από την Ευρωπαϊκή Επιτροπή. Φρονεί ότι ο ορισμός αυτός αντικατοπτρίζει καλύτερα τις τεχνικές δυνατότητες της τεχνητής νοημοσύνης. Ωστόσο, ο ορισμός της ΤΝ θα πρέπει να είναι συνεχής διαδικασία. Θα πρέπει να λαμβάνει υπόψη το πλαίσιο εντός του οποίου λειτουργεί η ΤΝ και να συμβαδίζει με τις κοινωνικές εξελίξεις σε αυτόν τον τομέα και να μην παραβλέπει τη σύνδεση μεταξύ του οικοσυστήματος αριστείας, που παρουσιάζει η Επιτροπή, και του οικοσυστήματος εμπιστοσύνης·

34. είναι της γνώμης ότι ένα σύστημα τεχνητής νοημοσύνης συνίσταται σε έναν συνδυασμό τεχνικών στοιχείων τα οποία συνδέουν δεδομένα, αλγορίθμους και υπολογιστική ισχύ με κοινωνικές πρακτικές, με την κοινωνία, με την ταυτότητα και με τον πολιτισμό. Ο ορισμός ενός τέτοιου κοινωνικο-τεχνικού συνόλου θα πρέπει, συνεπώς, να επικαιροποιείται τακτικά ώστε να αντικατοπτρίζει με ακρίβεια τον συνεχώς αυξανόμενο κοινωνικό αντίκτυπο της ΤΝ ενώ, παράλληλα, να εντοπίζει τις ταχέως μεταβαλλόμενες προκλήσεις και ευκαιρίες που σχετίζονται με την ΤΝ·

35. σημειώνει ότι η προστασία των θεμελιωδών δικαιωμάτων και των δικαιωμάτων των καταναλωτών, καθώς και η διαφάνεια στη χρήση αυτών των τεχνικών στοιχείων και των κανόνων περί ευθύνης για το προϊόν και περί ασφάλειας των προϊόντων είναι, κατά την Επιτροπή, τα πιο σημαντικά στοιχεία του οικοσυστήματος εμπιστοσύνης. Αποτελούν τη βάση ενός μελλοντικού ρυθμιστικού πλαισίου της Ένωσης για την τεχνητή νοημοσύνη·

36. επισημαίνει τον τρόπο με τον οποίο η εκμάθηση μηχανής στον κλάδο της ΤΝ βασίζεται στον ανθρώπινο προγραμματισμό, γεγονός που μπορεί να οδηγήσει σε μεροληψία μεγάλης κλίμακας. Καλεί, ως εκ τούτου, την ΕΕ να εφαρμόσει μηχανισμούς για τη διασφάλιση της ισότητας των φύλων, της φυλής και της παγκόσμιας αντίληψης της ισότητας και της ένταξης στην ανάπτυξη και στις εφαρμογές της τεχνολογίας ΤΝ·

37. εφιστά την προσοχή στο ότι το ποινικό δίκαιο παρέχει σημαντικές δυνατότητες τυποποίησης για την καταπολέμηση των σοβαρών παραβιάσεων των θεμελιωδών δικαιωμάτων των πολιτών και της παράνομης και λαθραίας παρακολούθησής τους με τη βοήθεια εφαρμογών τεχνητής νοημοσύνης·

38. συμφωνεί με την Επιτροπή ότι οι εφαρμογές τεχνητής νοημοσύνης υπόκεινται ήδη σε ρυθμίσεις βάσει ενός νομοθετικού και δεοντολογικού πλαισίου της ΕΕ που είναι εκτεταμένο και υψηλής ποιότητας. Η νομοθεσία για την ασφάλεια και την ευθύνη των προϊόντων, τα δικαιώματα των καταναλωτών, τα θεμελιώδη δικαιώματα, η νομοθεσία κατά των διακρίσεων και το δικαίωμα στην προστασία των δεδομένων προσωπικού χαρακτήρα αποτελούν σημαντικά παραδείγματα·

39. τονίζει πως οφείλουμε να αναγνωρίσουμε ότι το υφιστάμενο νομοθετικό πλαίσιο δεν είναι ειδικά προσαρμοσμένο στις εφαρμογές τεχνητής νοημοσύνης, πράγμα που σημαίνει ότι υπάρχει σήμερα ένα νομικό κενό. Πρέπει να εξεταστούν προσεκτικά οι τομείς στους οποίους απαιτείται συμπληρωματική νομοθεσία για να ενισχυθεί η εμπιστοσύνη των πολιτών στην τεχνητή νοημοσύνη. Ένα καίριο στοιχείο του μελλοντικού ρυθμιστικού πλαισίου για την ΤΝ είναι η εισαγωγή εγγυήσεων ότι η ΤΝ δεν λειτουργεί μεροληπτικά και δεν αναπαράγει διακρίσεις για λόγους φύλου, εθνότητας, ηλικίας, αναπηρίας ή γενετήσιου προσανατολισμού·

40. επισημαίνει ότι καμία από τις επίσημες γλώσσες της ΕΕ δεν πρέπει να υποστεί διακρίσεις και να καταστεί ευάλωτη λόγω της χρήσης της ΤΝ και ότι πρέπει να υπάρχουν διαθέσιμες σειρές δεδομένων και γλωσσών σε όλες τις γλώσσες της ΕΕ·

41. τονίζει ακόμη τη σημασία μιας ευαισθητοποιημένης ως προς το φύλο κωδικοποίησης, και ζητεί την ισότιμη συμμετοχή όλων των φύλων στο σχεδιασμό, την εφαρμογή, την αξιολόγηση και τη συζήτηση σχετικά με τη δεοντολογία και τα πρότυπα των σχετιζόμενων με την ΤΝ τεχνολογιών. Η προώθηση της συμμετοχής των κοριτσιών και των γυναικών στους κλάδους της επιστήμης, της τεχνολογίας, της μηχανικής, των τεχνών και των μαθηματικών (STEAM) είναι ουσιαστική προκειμένου να συμπεριληφθούν πλήρως σε διεργασίες που σχετίζονται με την ΤΝ, ειδικότερα, και με την ψηφιακή οικονομία, γενικότερα·

42. υπογραμμίζει ότι το νομικό αυτό πλαίσιο θα πρέπει να εγγυάται αρκετά καίρια στοιχεία που προαναφέρονται, και ταυτόχρονα να παρέχει τα περιθώρια και την ευελιξία που απαιτούνται για την καινοτομία. Από την άποψη αυτή, πρέπει να υπάρχει επίγνωση των προκλήσεων που συνιστούν η εξήγηση και η λειτουργία των συστημάτων τεχνητής νοημοσύνης, καθώς και των κοινωνικών τους αποτελεσμάτων και επιδράσεων·

43. επισημαίνει πως η τεχνητή νοημοσύνη δεν είναι μια απομονωμένη τεχνολογία: συνδέεται με άλλες επιστήμες και τεχνολογίες, ειδικότερα δε με την επιστήμη της συμπεριφοράς, την κβαντική υπολογιστική, το διαδίκτυο των πραγμάτων, την ανάπτυξη των δικτύων 5G και 6G, τα οικονομικά μοντέλα και τις ψηφιακές πλατφόρμες·

44. θεωρεί αναγκαίο να συνεκτιμηθεί ότι η τεχνητή νοημοσύνη είναι μια εξελισσόμενη τεχνολογία που, ακόμη, δεν έχει ωριμάσει, ούτε έχει ενταχθεί πλήρως στην κοινωνία·

45. τονίζει πως οι αιρετοί πολιτικοί εκπρόσωποι, οι αρμόδιοι λήψης αποφάσεων και η κοινωνία αντιμετωπίζουν μια θεμελιώδη πρόκληση: πώς να εξασφαλιστεί ότι το ισοζύγιο μεταξύ των επιθυμητών και των ανεπιθύμητων συνεπειών και επιδράσεων θα είναι θετικό; Και πώς θα γίνει να υπάρχουν αρκετά περιθώρια ώστε να αξιοποιηθούν οι δυνατότητες που προσφέρει η τεχνητή νοημοσύνη και να ενισχυθεί η εμπιστοσύνη των πολιτών σε αυτήν; Με την πρόοδο των εφαρμογών ΤΝ, ιδίως των αλγορίθμων πρόβλεψης, σε πολλούς δημόσιους και κυβερνητικούς οργανισμούς (δικαστικό σώμα, επιβολή του νόμου, στρατός κ.λπ.), αναδεικνύεται η επείγουσα ανάγκη για θέσπιση ρυθμιστικού πλαισίου που να προβλέπει αυστηρές δοκιμασίες ως προς την αναγκαιότητα και την αναλογικότητα, να παρέχει κατάλληλες εγγυήσεις και διορθωτικά μέτρα και να ορίζει σαφώς τις αρμοδιότητες και τη λογοδοσία καθώς και την ορθή δημόσια εποπτεία·

46. υπογραμμίζει ότι οι οργανισμοί τοπικής αυτοδιοίκησης θα πρέπει να αναλάβουν σημαντικό ρόλο στην κατάρτιση της νομοθεσίας και των πολιτικών σε θέματα τεχνητής νοημοσύνης. Βρίσκονται εγγύτερα στους πολίτες και, συνεπώς, διαθέτουν πιο χρήσιμες πληροφορίες απ’ ό,τι οι εθνικές κυβερνήσεις. Επομένως, οι οργανισμοί τοπικής αυτοδιοίκησης θα πρέπει να συμμετέχουν περισσότερο στην κατάρτιση των πολιτικών και της νομοθεσίας που θα προκύψουν από τη Λευκή βίβλο·

47. υποστηρίζει την άποψη της Επιτροπής ότι το κανονιστικό πλαίσιο θα πρέπει να αφήνει περιθώρια για ενδεχόμενες προσαρμογές, λόγω της ταχύτητας με την οποία εξελίσσεται η τεχνητή νοημοσύνη. Κατά την ΕτΠ, αυτό απαιτεί όχι μόνο προσαρμοστική νομοθεσία και νομοθετική διαδικασία, αλλά και κριτικό πνεύμα από μέρους της Επιτροπής ως προς τη λειτουργία του δικού της συστήματος, καθώς και κοινωνική καινοτομία εντός του συστήματος αυτού·

48. επιμένει πως, υπό τις συνθήκες αυτές, οι οργανισμοί τοπικής αυτοδιοίκησης θα πρέπει να διαθέτουν επαρκή περιθώρια ελιγμών για να διενεργούν πειραματικές δοκιμές (συμπεριλαμβανομένης της «πρωτοτυποποίησης πολιτικών») και να μάθουν πώς να χαράσσουν όσο το δυνατόν πιο αποτελεσματικά και αποδοτικά τις πολιτικές για την αντιμετώπιση αυτών των καίριων προκλήσεων.

49. καλεί την Επιτροπή να καταρτίσει ένα διαδικαστικό πλαίσιο δράσης προκειμένου να αξιοποιούνται πλήρως οι υφιστάμενοι κανόνες αλλά και για να συνεχιστεί σε βάθος χρόνου η ανάπτυξη της μελλοντικής πολιτικής και του νομοθετικού πλαισίου της Ένωσης για την τεχνητή νοημοσύνη. Το εν λόγω πλαίσιο δράσης θα πρέπει επίσης να συντονίζει τις προσπάθειες σε ευρωπαϊκό, εθνικό και περιφερειακό επίπεδο και να εγγυάται τη συνεργασία δημόσιου και ιδιωτικού τομέα. Για το σκοπό αυτό, η δημιουργία ενός Ευρωπαϊκού Οργανισμού για την Τεχνητή Νοημοσύνη θα συμβάλλει στην αποτελεσματική εποπτεία και συντονισμό όλων των ζητημάτων που σχετίζονται με την ΤΝ, σε όλα τα επίπεδα διακυβέρνησης, από το ενωσιακό στο τοπικό·

50. υποστηρίζει την επιλογή της Επιτροπής να θεσπίσει πρόσθετη νομοθεσία για την τεχνητή νοημοσύνη υψηλού κινδύνου·

51. εκτιμά, ωστόσο, ότι τα κυριότερα κριτήρια για τον προσδιορισμό της τεχνητής νοημοσύνης «υψηλού κινδύνου» είναι, αφενός, ο βαθμός στον οποίο ο άνθρωπος μπορεί να επηρεάσει τη λήψη απόφασης και, αφετέρου, η επίδραση των αποφάσεων αυτών στα δικαιώματα και την πρακτική συμπεριφορά των πολιτών·

52. ζητεί η όποια μελλοντική νομοθεσία ή πολιτική να εξετάζει, ειδικότερα, το θέμα της διαφάνειας και της «εξηγησιμότητας» των αλγορίθμων και της λογοδοσίας, της δικαιοσύνης και της ευθύνης εκείνου που κάνει χρήση της τεχνητής νοημοσύνης ( 9 ) , ιδίως σε περίπτωση επίπτωσης ή επίδρασης στα δικαιώματα ή τις πραγματικές πράξεις των πολιτών·

53. τονίζει πως οι πολίτες έχουν δικαίωμα να γνωρίζουν, σε σαφή γλώσσα, βάσει ποιων δεδομένων και ποιων αλγορίθμων θίγονται τα δικαιώματα ή οι πράξεις τους, ώστε να μπορούν να υπερασπιστούν τον εαυτό τους ισότιμα και, εν ανάγκη, να διαθέτουν αποτελεσματική νομική προστασία· Επιπλέον, το σύστημα λήψης αποφάσεων θα πρέπει να περιλαμβάνει τη δυνατότητα χειρισμού ενός ζητήματος από άνθρωπο. Ο ρόλος των αρχών θα πρέπει να τονίζεται κατά περίπτωση·

54. θεωρεί τη χρήση τεχνολογιών ΤΝ εξαιρετικά σημαντική και για ό,τι αφορά τις συνθήκες εργασίας και την ευημερία των εργαζομένων. Συμμετέχει, επομένως, στην έκκληση των Ευρωπαίων Κοινωνικών Εταίρων για την «ελαχιστοποίηση των δεδομένων και τη διαφάνεια, παράλληλα με τη θέσπιση σαφών κανόνων για την επεξεργασία προσωπικών δεδομένων με σκοπό τον περιορισμό του κινδύνου παρεμβατικής παρακολούθησης και κατάχρησης των προσωπικών δεδομένων» ( 10 ) , έτσι ώστε να διασφαλιστεί η ανθρώπινη αξιοπρέπεια. Στο πλαίσιο αυτό, η ΕτΠ συμφωνεί ότι είναι σημαντικό να μπορούν οι εκπρόσωποι των εργαζομένων να εξετάζουν ζητήματα που σχετίζονται με τα δεδομένα, τη συγκατάθεση, την προστασία της ιδιωτικότητας και την παρακολούθηση, συνδέοντας τη συλλογή δεδομένων με συγκεκριμένο και διαφανή σκοπό και εξασφαλίζοντας τη διαφάνεια όταν τα συστήματα ΤΝ χρησιμοποιούνται σε διαδικασίες ανθρωπίνων πόρων·

55. επικροτεί τις απαιτήσεις που προτείνει η Επιτροπή για θέματα δεδομένων εκπαίδευσης. Η τήρηση αρχείων είναι ένα μέσο για την εξακρίβωση της τήρησης των κανόνων. Ωστόσο, η ΕτΠ εκτιμά ότι ο απαιτούμενος διοικητικός φόρτος πρέπει να είναι όσο το δυνατόν πιο περιορισμένος·

56. συμφωνεί με την Επιτροπή ότι ο στόχος για μια τεχνητή νοημοσύνη αξιόπιστη, ανθρωποκεντρική και σύμφωνη με τη δεοντολογία μπορεί να επιτευχθεί μόνο με την εξασφάλιση κατάλληλης συμμετοχής του ανθρώπου στις εφαρμογές τεχνητής νοημοσύνης υψηλού κινδύνου·

57. επιμένει πως η μελλοντική νομοθεσία και ο έλεγχος της συμμόρφωσης θα πρέπει να εφαρμόζονται σε ολόκληρο τον κύκλο ζωής μιας εφαρμογής τεχνητής νοημοσύνης·

58. πιστεύει, όπως και η Επιτροπή, ότι η εποπτεία από τον άνθρωπο συμβάλλει στη διαφύλαξη της ανθρώπινης αυτονομίας· ωστόσο, καλεί την Ευρωπαϊκή Επιτροπή να εκτιμήσει τους δεοντολογικούς κινδύνους, ιδίως όσους συνδέονται με μεροληπτική χρήση της ΤΝ και να προτείνει σαφείς λύσεις·

59. ζητεί στη ρύθμιση για την ΤΝ να λαμβάνονται υπόψη οι βραχυπρόθεσμες και μακροπρόθεσμες περιβαλλοντικές επιπτώσεις της χρήσης αυτών των τεχνολογιών καθ’ όλη τη διάρκεια του κύκλου ζωής τους και σε ολόκληρη την αλυσίδα εφοδιασμού·

60. έλαβε γνώση του σχεδίου έκθεσης της Επιτροπής Νομικών Θεμάτων του Ευρωπαϊκού Κοινοβουλίου ( 11 ) . Επισημαίνει ιδίως την άποψη ότι κάθε κράτος μέλος θα πρέπει να θεσπίσει μια εθνική εποπτική αρχή, η οποία θα είναι αρμόδια να διασφαλίζει, να αξιολογεί και να παρακολουθεί τη συμμόρφωση, καθώς και να καθιστά δυνατή τη διεξαγωγή διαλόγου και την ανταλλαγή απόψεων, συνεργαζόμενη στενά με τα ενδιαφερόμενα μέρη και την κοινωνία των πολιτών·

61. επικροτεί την προσέγγιση της Επιτροπής, η οποία θεωρεί ότι, για τις εφαρμογές υψηλού κινδύνου, θα είναι αναγκαίο να διενεργείται εκ των προτέρων αντικειμενική αξιολόγηση της συμμόρφωσης για την επαλήθευση και τη διασφάλιση της τήρησης των υποχρεωτικών απαιτήσεων·

62. συμφωνεί με την Επιτροπή ότι οι επιπτώσεις στα θεμελιώδη δικαιώματα από τη χρήση συστημάτων τεχνητής νοημοσύνης για την εξ αποστάσεως βιομετρική ταυτοποίηση μπορούν να διαφέρουν σημαντικά ανάλογα με τον σκοπό, το πλαίσιο και την εμβέλεια της χρήσης·

63. ζητεί να καταρτιστεί ένα πλαίσιο ποιότητας δεσμευτικό και κατανοητό για να κατευθύνει αυτές τις παρεμβατικές εφαρμογές τεχνητής νοημοσύνης. Το πλαίσιο αυτό θα πρέπει κυρίως να αφορά τα πρότυπα και τις πρακτικές που εμποδίζουν τις παράνομες διακρίσεις και τον στιγματισμό ατόμων και πληθυσμιακών ομάδων. Η ΕτΠ υποστηρίζει την πρόθεση της Επιτροπής να δρομολογήσει ευρύ προβληματισμό επί του θέματος·

64. πιστεύει ότι, παράλληλα με τη νομοθεσία, σημαντικό ρόλο στον σχεδιασμό της τεχνητής νοημοσύνης έχει η δεοντολογία («δεοντολογία εκ σχεδιασμού»). Πρέπει να έχουμε επίγνωση του ότι η δεοντολογία δεν συνδέεται με ένα συγκεκριμένο τεχνικό μέσο (π.χ. την τεχνητή νοημοσύνη), αλλά εξαρτάται από το κοινωνικό και ρυθμιστικό περιβάλλον στο οποίο εφαρμόζεται το τεχνικό μέσο·

65. φρονεί ότι μια προσέγγιση που θα ξεπερνά την απλή κατάρτιση νομοθεσίας για την τεχνητή νοημοσύνη υψηλού κινδύνου θα είναι επωφελής για όλες τις μελλοντικές πολιτικές υπέρ του οικοσυστήματος εμπιστοσύνης. Η μελλοντική πολιτική απαιτεί μια διαρκή και συστηματική κοινωνικο-τεχνική προσέγγιση, που συνίσταται στην εξέταση της τεχνολογίας σε όλες τις πτυχές της και υπό ποικίλες οπτικές γωνίες. Όσον αφορά τη χάραξη των πολιτικών και της νομοθεσίας, αυτό απαιτεί διεπιστημονική προσέγγιση, στο πλαίσιο της οποίας οι πολιτικοί ιθύνοντες, οι πανεπιστημιακοί από διάφορους τομείς, οι κοινωνικοί εταίροι, οι επιχειρήσεις και οι οργανισμοί τοπικής αυτοδιοίκησης θα συνεργάζονται και θα παρακολουθούν την εξέλιξη της κατάστασης σε μόνιμη βάση και θα διαδίδουν τα αποτελέσματα με την ίδια διαφάνεια·

Ανάπτυξη της γνώσης

66. επισημαίνει ότι, για την προαγωγή της μετάβασης προς μια κοινωνία στην οποία η τεχνητή νοημοσύνη θα έχει μεγάλη σημασία, θα πρέπει οι προσεχείς προτάσεις για ένα ενημερωμένο θεματολόγιο δεξιοτήτων και για ένα σχέδιο δράσης για την ψηφιακή εκπαίδευση να διευρυνθούν ώστε να συμπεριλάβουν το σύνολο της αλυσίδας μάθησης, από την πρωτοβάθμια έως την τριτοβάθμια εκπαίδευση, συμπεριλαμβανομένης της δευτεροβάθμιας γενικής εκπαίδευσης και της δευτεροβάθμιας και τριτοβάθμιας επαγγελματικής εκπαίδευσης και της διά βίου μάθησης. Τα προγράμματα ψηφιακών σπουδών θα πρέπει να προωθούν την ενεργή ιδιότητα του πολίτη, να οξύνουν την κριτική σκέψη και να ενθαρρύνουν τους πολίτες από πρώιμο στάδιο να διαχειρίζονται τις αυξημένες αλληλεπιδράσεις με την ΤΝ·

67. ζητεί να εφαρμοστούν μέτρα εκπαίδευσης και κατάρτισης που θα δίνουν έμφαση στην ενίσχυση των ψηφιακών δεξιοτήτων των πολιτών και των επαγγελματιών, τόσο στο εκπαιδευτικό σύστημα όσο και στη συνεχή επαγγελματική κατάρτιση. Με την ψηφιακή επανάσταση, ο αριθμός των ατόμων που απασχολούνται σε επαγγέλματα ψηφιακών απαιτήσεων αναμένεται να αυξηθεί σημαντικά. Παράλληλα, η τεχνολογική διά βίου μάθηση στον τομέα της ΤΝ είναι ουσιαστικής σημασίας όχι μόνο για τα τεχνικά επαγγέλματα που προέρχονται από τις σπουδές STE(Α)M, αλλά για όλους τους εργαζομένους (συμπεριλαμβανομένων των δημοσίων υπαλλήλων) που χρειάζονται γνώσεις στον τομέα της ΤΝ σε πολλούς άλλους τομείς δραστηριότητας. Συνεπώς, θα πρέπει η κατάρτιση να στοχεύει όχι μόνο στις τρέχουσες ανάγκες της αγοράς εργασίας που σχετίζονται με την ΤΝ, αλλά στον τεχνολογικό γραμματισμό όλων των εργαζομένων, έτσι ώστε να καθίσταται δυνατή η προσαρμογή σε μια μακροπρόθεσμη προοπτική για τις ανάγκες κατάρτισης στον τομέα της ΤΝ·

68. υπογραμμίζει ότι η κατάρτιση των αρμοδίων και των πολιτικών ιθυνόντων όχι μόνο στη χρήση της τεχνητής νοημοσύνης αλλά και στους κανόνες και τα πρότυπα δεοντολογίας είναι καίρια και θα συντελέσει σε μια δημοκρατική διαδικασία λήψης αποφάσεων υψηλής ποιότητας. Η ΕτΠ συνιστά κατάρτιση που να εμπεριέχει μια αρκετά προχωρημένη αναβάθμιση, με δύο στόχους: 1) να μπορέσει ο δικαιούχος να αποκτήσει την ικανότητα επικοινωνίας με την αγορά επί ίσοις όροις, 2) να είναι σε θέση να διαχειρίζεται τον αντίκτυπο της τεχνητής νοημοσύνης επί της κοινωνίας και της δημοκρατικής διαδικασίας·

69. τονίζει ότι, προκειμένου να διασφαλιστεί ότι η ΤΝ αντικατοπτρίζει τις θεμελιώδεις αξίες και δικαιώματα και για να αποφεύγεται ο μεροληπτικός ως προς το φύλο προγραμματισμός, είναι καίριο να υπάρξει ποικιλομορφία στον τεχνολογικό κλάδο και να ενθαρρυνθούν οι σπουδαστές, και ιδίως τα κορίτσια, να ακολουθήσουν σπουδές STE(A)Μ·

Πολυεπίπεδη διαχείριση και σύμπραξη δημόσιου και ιδιωτικού τομέα

70. συμφωνεί ότι η ύπαρξη μιας κοινής ευρωπαϊκής προσέγγισης της τεχνητής νοημοσύνης είναι απαραίτητη για την επίτευξη επαρκούς κλίμακας και την αποφυγή του κατακερματισμού της ενιαίας αγοράς·

71. τονίζει, ωστόσο, επ’ αυτού, ότι μια ευρωπαϊκή προσέγγιση της διαχείρισης πρέπει να στηρίζεται σε μια κοινωνία ανοιχτή, αποκεντρωμένη και χωρίς διακρίσεις, εντός της οποίας ο καθένας έχει τη δυνατότητα να συμμετέχει, να είναι δημιουργικός και να επιδεικνύει επιχειρηματικό πνεύμα·

72. υποστηρίζει ότι το κύριο ζήτημα που τίθεται είναι πώς μπορούν οι πολιτικοί, οι πολίτες και οι ΜΜΕ να συμμετάσχουν αποτελεσματικά στην ανάπτυξη των εφαρμογών τεχνητής νοημοσύνης, καθώς και των δεοντολογικών κανόνων και της σχετικής νομοθεσίας, και πώς μπορεί η κατανόηση των απολαβών που προσδοκώνται από τα οικοσυστήματα να επηρεάσει την (ανα)προσαρμογή των πολιτικών και της νομοθεσίας·

73. επισημαίνει το σημαντικό ρόλο που διαδραματίζουν τα αποκεντρωμένα δίκτυα πολιτών και τοπικών οικονομιών στη συμμετοχή του πολιτικού κόσμου, των πολιτών και των επιχειρήσεων στην ανάπτυξη των εφαρμογών τεχνητής νοημοσύνης, καθώς και των δεοντολογικών κανόνων και της σχετικής νομοθεσίας. Η ισχύς των τοπικών κοινοτήτων και δικτύων έγκειται σε μια ανοιχτή τοπική και περιφερειακή συνεργασία, διασυνδεδεμένη και συγκεκριμένη, που ευνοεί την καινοτομία και την ανάπτυξη νέων οικονομιών·

74. εκτιμά ότι το μελλοντικό ευρωπαϊκό σχέδιο δράσης πρέπει να συντονίζει τις προσπάθειες σε ευρωπαϊκό, εθνικό και περιφερειακό επίπεδο, να προωθεί την ανταλλαγή γνώσεων και να εγγυάται τη συνεργασία δημόσιου και ιδιωτικού τομέα. Αυτό απαιτεί την εφαρμογή μιας πολυεπίπεδης διαχείρισης που θα συνδέει μεταξύ τους τα τοπικά, περιφερειακά, εθνικά και ευρωπαϊκά δίκτυα.

Βρυξέλλες, 14 Οκτωβρίου 2020. Ο Πρόεδρος της Ευρωπαϊκής Επιτροπής των Περιφερειών Απόστολος ΤΖΙΤΖΙΚΩΣΤΑΣ

(1) COM(2020)67.

(2) COM(2020)66.

(3) SEDEC VI/046 (EE C 168 της 16.5.2019, σ. 11).

(4) COM(2016) 381.

(5) Σύσταση (ΕΕ) 2020/518.

(6) Κεφάλαιο 2 της Λευκής βίβλου για την τεχνητή νοημοσύνη.

(7) Κεφάλαιο 4 στοιχείο ΣΤ.

(8) https://ec.europa.eu/newsroom/dae/document.cfm?doc_id=56341

(9) Maranke Wieringa, What to account for when accounting for algorithms, (Για τι λογοδοτούν όσοι λογοδοτούν σχετικά με τους αλγόριθμους), Πανεπιστήμιο Ουτρέχτης, 20 Ιανουαρίου 2020.

(10) Αυτόνομη συμφωνία-πλαίσιο των Ευρωπαίων Κοινωνικών Εταίρων για την ψηφιοποίηση (European Social Partners Autonomous Framework Agreement on Digitalisation) (https://www.etuc.org/system/files/document/file2020-06/Final%2022%2006%2020_Agreement%20on%20Digitalisation%202020.pdf).

(11) Σχέδιο έκθεσης της 21ης Απριλίου 2020 που περιέχει συστάσεις προς την Επιτροπή σχετικά με ένα πλαίσιο για τις δεοντολογικές πτυχές της τεχνητής νοημοσύνης, της ρομποτικής και των συναφών τεχνολογιών [2020/2012 (INL)], εισηγητής: Ibán García del Blanco.