Αλγοριθμική διάκριση στην τεχνητή νοημοσύνη και προστασία μέσω του Ευρωπαϊκού κανονισμού
Creators: name: Αφθονίδης, Ιωάννης Στέφανου
Publisher: name: Aristotle University of Thessaloniki
Year: 2024
Subjects: Αλγοριθμική διάκριση
Τεχνητή νοημοσύνη
Πράξη Τεχνητής Νοημοσύνης
Algorithm Discrimination
Artificial Intelligent
AI ACT

description: Η παρούσα διπλωματική εργασία έχει ως στόχο την ανάλυση της αλγοριθμικής διάκρισης, ενός ζητήματος που άπτεται των επιστημών της πληροφορικής και της νομικής, καθώς και την ανάλυση των νομοθετικών κανονισμών που την οριοθετούν. Θα αναλυθούν ενδελεχώς οι διακρίσεις και οι προκαταλήψεις που δημιουργούνται από την Τεχνητή νοημοσύνη, καθώς και το νομικό πλαίσιο της Ευρωπαϊκής Ένωσης και της Ελλάδος, που θέτει τις βάσεις για να αντιμετωπιστούν. Αρχικά, δίνεται ο ορισμός της αλγοριθμικής διάκρισης και των αλληλένδετων εννοιών, ώστε να μπορούμε να κατανοήσουμε σφαιρικά το ζήτημα που έχει προκύψει και πώς αυτό συνδέεται με την τεχνητή νοημοσύνη. Έπειτα αναλύονται οι τέσσερις βασικοί τομείς της κοινωνίας, όπου εντοπίζεται το πρόβλημα των διακρίσεων από συστήματα τεχνητής νοημοσύνης. Η ανάλυση ξεκινάει με τους τομείς της δικαιοσύνης και της υγείας, όπου έχουν εντοπιστεί μεγάλες διακρίσεις με τη διαχρονική χρήση ΤΝ. Ύστερα καταγράφουμε τις συνέπειες στον Χρηματοπιστωτικό τομέα και στον τομέα της προσέλκυσης και πρόσληψης ανθρώπινου δυναμικού. Στο επόμενο κεφάλαιο γίνεται ανάλυση των κανονισμών τόσο σε ευρωπαϊκό επίπεδο, όσο και σε εθνικό. Προηγείται η ανάλυση του άρθρου 22 του Γενικού Κανονισμού για τη Προστασία Προσωπικών Δεδομένων και το δικαίωμα στη μη αυτοματοποιημένη λήψη αποφάσεων, συμπεριλαμβανομένης της κατάρτισης προφίλ. Κατόπιν γίνεται επεξήγηση του νόμου 4961/2022, που αποτελεί το ελληνικό νομοθετικό πλαίσιο για τις αναδυόμενες τεχνολογίες πληροφορικής όπου συμπεριλαμβάνει την ΤΝ και έπειτα της πράξης για την τεχνητή νοημοσύνη από την Ευρωπαϊκή Επιτροπή. Στα συμπεράσματα παραθέτουμε τη δομή των εναρμονισμένων κανόνων σχετικά με την τεχνητή νοημοσύνη και τις ενδεχόμενες τροποποιήσεις ή κενά που πιθανώς να παρουσιάζουν, ώστε να μελετηθούν σε περαιτέρω επιστημονική έρευνα.
description: This diploma thesis aims at the analysis of algorithmic distinction, an issue that deals between computer sciences and law, as well as the analysis of legislative regulations that delimit it. The understanding of discrimination and prejudice created by AI and how the legal framework of the European Union and Greece lay the foundations for addressing it will be thoroughly analyzed. Initially, the definition of algorithmic distinction and interrelated concepts is given so that we can holistically understand the issue that has arisen and how it is related to artificial intelligence. It then analyses four key areas of society where the problem of discrimination by AI systems is identified. The analysis starts with the areas of justice and health, where large distinctions have been identified with the longitudinal use of AI. Then we record the consequences in the financial sector and in the field of attracting and hiring human resources. Then, in the next chapter, there is an analysis of the regulations both in a European context and in a national one. Primarily analysis of Article 22 of the General Data Protection Regulation and the right to non-automated individual decision-making. Law 4961/2022, which is the Greek legislative framework for emerging information technologies, is then explained and then the European AI ACT. In the conclusions, we analyze the structure of harmonized rules on artificial intelligence and any modifications or gaps they may present in order to be studied in further scientific re-search.