Παραγωγική τεχνητή νοημοσύνη

εναλλ.=A detailed oil painting of figures in a futuristic opera scene|μικρογραφία|Το Θέατρο D'Opera Spatial, μια εικόνα που δημιουργήθηκε με το εργαλείο Midjourney
 Η **generative A.I.** ή **generative τεχνητή νοημοσύνη** (προφέρεται *Τζενερέιτιβ Έι Άι*, συναντάται εν συντομία και ως **GenAI** ή **GAI** και **Generative Τ.Ν.**), που στα ελληνικά αποκαλείται **παραγωγική τεχνητή νοημοσύνη** ή **γενετική τεχνητή νοημοσύνη**, είναι είδος τεχνητής νοημοσύνης ικανό να παράγει κείμενο, εικόνες, βίντεο ή άλλα δεδομένα χρησιμοποιώντας γενετικά/παραγωγικά μοντέλα, συχνά ως απάντηση σε "prompts". Τα μοντέλα παραγωγικής τεχνητής νοημοσύνης, μαθαίνουν τα πρότυπα και τη δομή των δεδομένων κατάρτισης εισόδου τους και στη συνέχεια παράγουν νέα δεδομένα που έχουν παρόμοια χαρακτηριστικά.

Οι βελτιώσεις στα βαθιά νευρωνικά δίκτυα που βασίζονται σε μετασχηματιστές μηχανικής μάθησης και ειδικά σε LLMs, επέτρεψαν μια άνοδο της τεχνητής νοημοσύνης των παραγωγικών (generative) συστημάτων αυτής, στις αρχές της δεκαετίας του 2020. Αυτά περιλαμβάνουν chatbots όπως το ChatGPT, το DeepSeek, το Grok, το Gemini, το Claude, ο Microsoft Copilot, το Qwen και το LLaMA (MetaAI), συστήματα δημιουργίας εικόνων τεχνητής νοημοσύνης (κείμενο για εικόνες) όπως το Stable Diffusion, το Midjourney και το DALL-E, και συστήματα παραγωγής βίντεο (κείμενο σε βίντεο) όπως το Sora. Εταιρείες όπως οι OpenAI, Anthropic, Microsoft, Google, Meta, Alibaba, xAI, DeepSeek και Baidu καθώς και πολλές μικρότερες επιχειρήσεις έχουν αναπτύξει μοντέλα παραγωγικής τεχνητής νοημοσύνης.

Η παραγωγική τεχνητή νοημοσύνη έχει χρήσεις σε ένα ευρύ φάσμα βιομηχανιών, συμπεριλαμβανομένης της ανάπτυξης λογισμικού, υγειονομικής περίθαλψης, χρηματοδότησης, ψυχαγωγίας, εξυπηρέτησης πελατών, πωλήσεων και μάρκετινγκ, τέχνης, γραφής, μόδας, και σχεδιασμού προϊόντων. Ωστόσο, έχουν εγείρει ανησυχίες σχετικά με τη δυνητική κατάχρηση της παραγωγικής ΤΝ όπως το κυβερνοεγκληματικό, τη χρήση ψεύτικων ειδήσεων ή deepfakes για να εξαπατήσουν ή να χειραγωγήσουν τους ανθρώπους και τη μαζική αντικατάσταση ανθρώπινων θέσεων εργασίας. Υπάρχουν επίσης ανησυχίες για το δίκαιο πνευματικής ιδιοκτησίας, γύρω από γενετικά μοντέλα που εκπαιδεύονται και μιμούνται πνευματικά προστατευμένα έργα τέχνης.
## Ιστορικό
Η ακαδημαϊκή αρχή για την τεχνητή νοημοσύνη καθιερώθηκε σε ένα ερευνητικό εργαστήριο που πραγματοποιήθηκε στο πανεπιστήμιο «Dartmouth College» το 1956 και έχει βιώσει αρκετά κύματα προόδου και αισιοδοξίας στις δεκαετίες που ακολούθησαν. Από την ίδρυσή της, οι ερευνητές στο πεδίο έχουν εγείρει φιλοσοφικά και ηθικά επιχειρήματα σχετικά με τη φύση του ανθρώπινου νου και τις συνέπειες της δημιουργίας τεχνητών όντων με ανθρώπινη νοημοσύνη. Αυτά τα θέματα έχουν εξερευνηθεί προηγουμένως από μύθους, την φαντασία και την φιλοσοφία κατά την αρχαιότητα. Η έννοια της αυτοματοποιημένης τέχνης χρονολογείται τουλάχιστον από τους «αυτόματους» του αρχαίου ελληνικού πολιτισμού, όπου εφευρέτες όπως ο Δαίδαλος και ο Ήρων περιγράφονταν ως εκείνοι που σχεδίασαν μηχανές ικανές να γράφουν κείμενο, να παράγουν ήχους και να παίζουν μουσική. Η παράδοση των παραγωγικών αυτομάτων έχει ανθίσει καθ' όλη την ιστορία, όπως πχ ο αυτοματισμός του Μέιγιαρντέτ που δημιουργήθηκε στις αρχές του 1800.

Οι αλυσίδες Μαρκόβ (Markov chains) χρησιμοποιούνται εδώ και καιρό για να μοντελοποιήσουν τις φυσικές γλώσσες από τότε που αναπτύχθηκαν από τον Ρώσο μαθηματικό Άντριε Μαρκόβ στις αρχές του 20ου αιώνα. Ο Μαρκόβ δημοσίευσε την πρώτη του εργασία για το θέμα το 1906, και ανέλυσε το πρότυπο των φωνητικών και των συνωνιών στο μυθιστόρημα Eugeny Onegin χρησιμοποιώντας τις αλυσίδες Μαρκόβ. Μόλις μια αλυσίδα Μαρκόβ μάθει σε ένα σώμα κειμένου, μπορεί να χρησιμοποιηθεί ως πιθανότητα γεννήτρια κειμένου.

Η έρευνα για την τεχνητή νοημοσύνη ξεκίνησε τη δεκαετία του 1950 με έργα όπως η *Μηχανική Υπολογισμού και η Νοημοσύνης* (1950) και το θερινό ερευνητικό πρότζεκτ του Ντάρτμουθ περί τεχνητής νοημοσύνης (1956), Από την δεκαετία του 1950 οι καλλιτέχνες και οι ερευνητές χρησιμοποίησαν τεχνητή νοημοσύνη για να δημιουργήσουν καλλιτεχνικά έργα. Στις αρχές της δεκαετίας του 1970, ο Χάρολντ Κόεν δημιουργούσε και εξέθεσε έργα γενετικής τεχνητής νοημοσύνης που δημιουργήθηκαν από το AARON, το υπολογιστικό πρόγραμμα που δημιούργησε ο Κόεν για την παραγωγή πινάκων.

Οι όροι «generative AI planning» (πργραμματισμός παραγωγικής τεχνητής νοημοσύνης) ή «generative planning» (γενεσιουργός προγραμματισμός) χρησιμοποιήθηκαν στη δεκαετία του 1980 και του 1990 για να αναφέρονται σε συστήματα σχεδιασμού τεχνητής νοημοσύνης, ειδικά στον σχεδιασμό διαδικασιών με υποβοήθηση υπολογιστή, που χρησιμοποιούνται για την παραγωγή ακολουθιών δράσεων για την επίτευξη ενός συγκεκριμένου στόχου. Τα συστήματα σχεδιασμού AI χρησιμοποίησαν συμβολικές μεθόδους AI και ήταν μια "σχετικά ώριμη" τεχνολογία στις αρχές της δεκαετίας του 1990. Χρησιμοποιήθηκαν για την παραγωγή σχεδίων δράσης κρίσης για στρατιωτική χρήση, σχεδίων διαδικασίας για την κατασκευή και σχεδίων λήψης αποφάσεων, όπως στο πρωτότυπο αυτόνομο διαστημικό σκάφος.

Ο τομέας της μηχανικής μάθησης χρησιμοποιεί συχνά στατιστικά μοντέλα, συμπεριλαμβανομένων των γενετικών μοντέλων, για να μοντελοποιεί και να προβλέπει δεδομένα. Από τα τέλη της δεκαετίας του 2000, η εμφάνιση της βαθιάς μάθησης οδήγησε την πρόοδο και την έρευνα στην ταξινόμηση εικόνας, την αναγνώριση της ομιλίας, την επεξεργασία της φυσικής γλώσσας και άλλα καθήκοντα. Τα νευρωνικά δίκτυα στην εποχή αυτή συνήθως εκπαιδεύονταν ως διακριτικά μοντέλα, λόγω της δυσκολίας της γενετικής μοντελοποίησης.

Το 2014, πρόοδοι όπως ο αυτοαποκωδικοποιητής μεταβλητών (VAE) και το παραγωγικό αντιπαραθετικό δίκτυο δημιούργησαν τα πρώτα πρακτικά βαθιά νευρωνικά δίκτυα που να είναι σε θέση να κατανοήσουν παραγωγικά μοντέλα, σε αντίθεση με τα διακριτικά, για σύνθετα δεδομένα όπως εικόνες. Αυτά τα βαθιά παραγωγικά μοντέλα ήταν τα πρώτα που παράγουν όχι μόνο τις ετικέτες κατηγορίας για εικόνες, αλλά και ολόκληρες εικόνες.

Το 2017, το δίκτυο Transformer επέτρεψε την πρόοδο των γενετικών μοντέλων σε σύγκριση με τα παλαιότερα μοντέλα μακροχρόνιας μνήμης, οδηγώντας στο πρώτο γενετικό προεκπαιδευμένο μετασχηματιστή (GPT), γνωστό ως GPT-1, το 2018. Αυτό ακολούθησε το 2019 από το GPT-2 το οποίο απέδειξε την ικανότητα γενικευμένης μη εποπτευόμενης σε πολλές διαφορετικές εργασίες ως μοντέλο Ιδρύματος (Foundation model).

[μικρογραφία|Βίντεο που παρήχθει από την [Sora|αριστερά]]Το 2021, η κυκλοφορία του DALL-E, ενός μοντέλου παραγωγής pixel με βάση μετασχηματιστή, ακολουθούμενου από το Midjourney και την Stable Diffusion σηματοδότησε την εμφάνιση τεχνολογιών ΑΙ παραγωγής υψηλής ποιότητας τέχνης από τα prompts της φυσικής γλώσσας.

Τον Μάρτιο του 2023, κυκλοφόρησε το GPT-4. Μια ομάδα από την Microsoft Research υποστήριξε ότι "μπορεί λογικά να θεωρηθεί ως μια πρώιμη (ακόμη ελλιπή) έκδοση ενός συστήματος τεχνητής γενικής νοημοσύνης (AGI). Άλλοι μελετητές αμφισβητούν ότι το GPT-4 φτάνει σε αυτό το κατώφλι, αποκαλώντας την generative AI "*ακόμα μακριά από το σημείο αναφοράς της «γενικής ανθρώπινης νοημοσύνης»*" από το 2023. Το 2023, η Meta κυκλοφόρησε ένα μοντέλο AI που ονομάζεται ImageBind το οποίο συνδυάζει δεδομένα από κείμενο, εικόνες, βίντεο, θερμικά δεδομένα, 3D δεδομένα, ήχο και κίνηση που αναμένεται να επιτρέψει πιο εμβυθιστικό περιεχόμενο παραγωγικής AI.

Σύμφωνα με έρευνα της SAS και της Coleman Parkes Research, η Κίνα είναι πρώτη στον κόσμο στην υιοθέτηση γενετικής Τεχνητής Νοημοσύνης, με το 83% των Κινέζων ερωτηθέντων να χρησιμοποιούν την τεχνολογία, ξεπερνώντας το παγκόσμιο μέσο όρο του 54% και τις Ηνωμένες Πολιτείες που βρίσκονται στο 65%. Μια έκθεση του ΟΗΕ αποκάλυψε ότι η Κίνα κατέθεσε πάνω από 38.000 ευρεσιτεχνίες GenAI από το 2014 έως το 2023, υπερβαίνοντας πολύ τις ΗΠΑ.

## Μέθοδοι
Ένα παραγωγικό σύστημα AI κατασκευάζεται εφαρμόζοντας μη εποπτευόμενη ή αυτο-εποπτευόμενη μηχανική μάθηση σε ένα σύνολο δεδομένων. Οι δυνατότητες ενός γενετικού συστήματος AI εξαρτώνται από τη μορφή ή τον τύπο του συνόλου δεδομένων που χρησιμοποιείται.

Η παραγωγική ΤΝ μπορεί να είναι είτε μονοτροπική είτε πολυτροπική· τα μονοτροπικά συστήματα λαμβάνουν μόνο ένα είδος εισόδου, ενώ τα πολυτροπικά συστήματα μπορούν να λαμβάνουν περισσότερους από έναν τύπο εισόδου. Για παράδειγμα, μια έκδοση του GPT-4 του OpenAI δέχεται τόσο τις εισόδους κειμένου όσο και εικόνας.

### Κείμενο
Τα γενετικά συστήματα AI που εκπαιδεύονται με λέξεις ή κωδικά σήματα λέξεων περιλαμβάνουν τα GPT-3, GPT-4, GPT-4o, LaMDA, LLaMA, BLOOM, Gemini και άλλα (βλ. κατάλογος μεγάλων γλωσσικών μοντέλων). Είναι ικανές για επεξεργασία της φυσικής γλώσσας, μηχανική μετάφραση και παραγωγή φυσικής γλώσσης και δύνανται να χρησιμοποιηθούν ως πρότυπα βάσης για άλλες εργασίες. Τα σύνολα δεδομένων περιλαμβάνουν το BookCorpus, την Wikipedia και άλλα.

### Κώδικας
Εκτός από το κείμενο της φυσικής γλώσσας, μεγάλα μοντέλα γλώσσας μπορούν να εκπαιδευτούν σε κείμενο γλώσσας προγραμματισμού, επιτρέποντάς τους να παράγουν πηγαίο κώδικα για νέα προγράμματα υπολογιστών. Παραδείγματα περιλαμβάνουν το OpenAI Codex.

### Εικόνες
μικρογραφία|Η Stable Diffusion, δημιούργησε αυτήν την εικόνα με την εξής οδηγία σε φυσική γλώσσα: «<code>a photograph of an astronaut riding a horse»</code>
Η παραγωγή υψηλής ποιότητας οπτικής τέχνης είναι μια εξέχουσα εφαρμογή της παραγωγικής ΤΝ. Τα γενετικά συστήματα AI που εκπαιδεύονται σε σύνολα εικόνων με τίτλους κειμένου περιλαμβάνουν το Imagen, DALL-E, Midjourney, Adobe Firefly, Stable Diffusion και άλλα. Χρησιμοποιούνται συνήθως για την παραγωγή εικόνας από κείμενο και τη μεταβίβαση νευρωνικού στυλ (NST). Τα σύνολα δεδομένων περιλαμβάνουν το LAION-5B και άλλα.

### Ήχος
Η παραγωγική τεχνητή νοημοσύνη μπορεί επίσης να εκπαιδευτεί εκτενώς σε ηχητικά κλιπ για να παράγει φυσική σύνθεση ομιλίας και δυνατότητες κειμένου-για-ομιλία, όπως παραδείγματος χάρη από τα εργαλεία σύνθεσης που γνωρίζουν το πλαίσιο του ElevenLabs ή το Voicebox της Meta Platform.

Τα γενετικά συστήματα AI όπως το MusicLM και το MusicGen μπορούν επίσης να εκπαιδευτούν στις ηχητικές κυματικές μορφές μαζί με τις σημειώσεις κειμένου, προκειμένου να δημιουργηθούν νέα μουσικά δείγματα με βάση τις περιγραφές κειμένου όπως μια ηρεμιστική μελωδία βιολιού που υποστηρίζεται από ένα στρεβλωμένο riff κιθάρας.

#### Μουσική
Έχουν δημιουργηθεί ηχητικά deepfakes από στίχους, όπως το τραγούδι Savages, το οποίο χρησιμοποίησε AI για να μιμηθεί την φωνή του ραππερ Jay-Z. Τα μουσικά όργανα και οι στίχοι των καλλιτεχνών έχουν πνευματικά δικαιώματα, αλλά οι φωνές τους δεν προστατεύονται από την γενετική τεχνητή νοημοσύνη -τουλάχιστον όχι ακόμα-, προκαλώντας μια δημόσια συζήτηση σχετικά με το αν οι καλλιτέχνες πρέπει να λαμβάνουν δικαιώματα από τα deepfakes ήχου.

Πολλοί παραγωγοί μουσικής AI έχουν δημιουργηθεί που μπορούν να δημιουργηθούν χρησιμοποιώντας μια κειμενική φράση, επιλογές τζάντρων και λουπ βιβλιοθήκες μπαρ και riffs. 

### Βίντεο
μικρογραφία|Βίντεο που δημιουργήθηκε από τον Sora με την άμεση άγρια ζωή του Μπορνέο στο ποτάμι Kinabatangan (οδηγία σε φυσική γλώσσα: <code>Borneo wildlife on the Kinabatangan River</code>)
Η παραγωγική νοημοσύνη που εκπαιδεύεται σε βίντεο μπορεί να παράγει προσωρινά συνεκτικά, λεπτομερή και φωτορεαλιστικά βίντεό κλιπ. Παραδείγματα περιλαμβάνουν τη Sora από το OpenAI, τη Gen-1 και τη Gen-2 από το Runway, και το Make-A-Video από τις Meta Platforms.

### Δράσεις
Η γενετική νοημοσύνη μπορεί επίσης να εκπαιδευτεί στις κινήσεις ενός ρομποτικού συστήματος για να παράγει νέες τροχιά για τον σχεδιασμό κίνηση ή τη πλοήγηση. Για παράδειγμα, το UniPi από την Google Research χρησιμοποιεί προτάσεις όπως "πάρε μπλε μπολ" ή "καθάρίτε την πλάκα με κίτρινο σφουγγάρι" για να ελέγχει τις κινήσεις ενός ρομπότ. Τα πολυμοδαλικά μοντέλα "πράγματος όρασης-γλωσσας" όπως το RT-2 της Google μπορούν να εκτελέσουν πρωτότυπο σκεπτικό σε απάντηση σε ειδοποιήσεις του χρήστη και θεώρητες εισφορές, όπως η ανάληψη ενός δεινόσαυρου παιχνιδιού όταν δίνεται η ειδοποίηση να αναλάβει το εξαφανισμένο ζώο σε ένα τραπέζι γεμάτο με ζώα παιχνιδιού και άλλα αντικείμενα.

### 3D
Ο τεχνητά ευφυής σχεδιασμός με υποβοήθηση υπολογιστή (CAD) μπορεί να χρησιμοποιήσει κείμενο-σε-3D, εικόνα-σε-3D και βίντεο-σε-3D για να αυτοματοποιήσει την μοντελοποίηση 3D. Οι βιβλιοθήκες CAD με βάση την τεχνητή νοημοσύνη θα μπορούσαν επίσης να αναπτυχθούν χρησιμοποιώντας ανοιχτά δεδομένα σχεδιασμού και διαγράμματα. Οι βοηθοί AI CAD χρησιμοποιούνται ως εργαλεία για να βοηθηθούν στη βελτίωση της ροής εργασίας.

## Λογισμικό και υλικό
Τα παραγωγικά μοντέλα AI χρησιμοποιούνται για την τροφοδοσία προϊόντων chatbot όπως το ChatGPT, το DeepSeek ή το Gemini, εργαλειών προγραμματισμού όπως το GitHub Copilot, προϊόντα κειμένου-επισκόπησης όπως το Midjourney, και προϊόντα κειμενικού-βίντεο όπως το Runway Gen-2. Τα γενετικά χαρακτηριστικά της AI έχουν ενσωματωθεί σε μια ποικιλία υφιστάμενων εμπορικά διαθέσιμων προϊόντων, όπως το Microsoft Office (Microsoft Copilot), Google Photos και η Adobe Suite (Adobe Firefly). Πολλά παραγωγικά μοντέλα AI είναι επίσης διαθέσιμα ως λογισμικό ανοιχτού κώδικα, συμπεριλαμβανομένης της Stable Diffusion και του μοντέλου γλώσσας LLaMA.
Μικρότερα γενετικά μοντέλα AI με έως και μερικές δισεκατομμύρια παράμετροι μπορούν να λειτουργήσουν σε έξυπνα τηλέφωνα, ενσωματωμένες συσκευές και προσωπικούς υπολογιστές. Για παράδειγμα, η LLaMA-7B (μια έκδοση με 7 δισεκατομμύρια παραμέτρους) μπορεί να τρέξει σε ένα Raspberry Pi 4 και μια έκδοση της Stable Diffusion μπορεί να τρέχει σε ένα iPhone 11.

Μεγαλύτερα μοντέλα με δεκάδες δισεκατομμύρια παραμέτρους μπορούν να τρέχουν σε φορητούς υπολογιστές ή υπολογιστές επιφάνειας. Για να επιτευχθεί μια αποδεκτή ταχύτητα, τα μοντέλα αυτού του μεγέθους μπορεί να απαιτούν επιταχυντικά όπως τα τσιπ GPU που παράγονται από την NVIDIA και την AMD ή τον Neural Engine που περιλαμβάνεται στα προϊόντα σιλικόνης της Apple. Για παράδειγμα, η έκδοση 65 δισεκατομμυρίων παραμέτρων του LLaMA μπορεί να ρυθμιστεί για να εκτελείται σε υπολογιστή επιφάνειας.

Τα πλεονεκτήματα της εκτέλεσης παραγωγικής AI τοπικά περιλαμβάνουν την προστασία της ιδιωτική ζωής και της πνευματικής ιδιοκτησίας, καθώς και την αποφυγή του rate limiting και της λογοκρισίας. Το υποσελίδα του reddit r/LocalLLaMA επικεντρώνεται ιδιαίτερα στη χρήση γραφικών καρτών παιχνιδιού καταναλωτικού βαθμού  μέσω τεχνικών όπως η συμπίεση. Το φόρουμ αυτό είναι μία από τις δύο πηγές που εμπιστεύεται ο γνωστός μηχανικός υπολογιστών Αντρέι Καρπάθι ως σημεία αναφοράς γλωσσικών μοντέλων, ενώ ο συνάδελφός του Γιαν ΛεΚούν έχει υποστηρίξει τα μοντέλα ανοιχτού κώδικα για την αξία τους στις κάθετες εφαρμογές και για τη βελτίωση της ασφάλειας της AI.

Τα γλωσσικά μοντέλα με εκατοντάδες δισεκατομμύρια παραμέτρους, όπως GPT-4 ή PaLM, συνήθως εκτελούνται σε κέντρα δεδομένων εξοπλισμένα με συστοιχίες GPU (όπως το H100 της NVIDIA) ή τσιπ επιταχυντή AI (όπως η TPU της Google). Αυτά τα πολύ μεγάλα μοντέλα συνήθως προσφέρονται ως υπηρεσίες νέφους μέσω του Διαδικτύου.

Υπάρχει ελεύθερο λογισμικό στην αγορά ικανό να αναγνωρίζει το κείμενο που παράγεται από γενετική τεχνητή νοημοσύνη (όπως το GPTZero), καθώς και εικόνες, ήχο ή βίντεο που προέρχονται από αυτό. Οι πιθανές στρατηγικές μετριασμού για την ανίχνευση περιεχομένου AI γενικά περιλαμβάνουν ψηφιακό watermarking, αυθεντίωση περιεχομένων, αναζήτηση πληροφοριών και μοντέλα ταξινόμησης μηχανικής μάθησης. Παρά τoυς ισχυρισμούς της ακρίβειας, τόσο οι δωρεάν όσο και οι επί-πληρωμής ανιχνευτές κειμένου AI έχουν συχνά παράγει ψεύδη, κατηγορώντας εσφαλμένα τους μαθητές ότι υποβάλλουν έργα που δημιουργούνται από AI.

## Νόμοι και κανονιστικές διατάξεις

### σε Κράτη

#### Κίνα
Στην Κίνα, τα *Ενδιάμεσα Μέτρα για τη Διαχείριση των Υπηρεσιών Παραγωγικής Τεχνητής Νοημοσύνης* που εισήχθησαν από την Κινεζική Διοίκηση Κυβερνοχώρου ρυθμίζουν οποιαδήποτε γενετική τεχνητή νοημοσύνη που έχει ως αντικείμενο το κοινό. Περιλαμβάνει απαιτήσεις για τις εικόνες ή τα βίντεο που παράγονται, τους κανονισμούς σχετικά με τα δεδομένα κατάρτισης και την ποιότητα των ετικέτων, τους περιορισμούς στη συλλογή προσωπικών δεδομένων και δίνει μια κατευθυντήρια γραμμή κατά την οποία η παραγωγική ΑΙ πρέπει να "υποστηθεί στις σοσιαλιστικές βασικές αξίες".

#### Ηνωμένες Πολιτείες
Στις Ηνωμένες Πολιτείες, μια ομάδα εταιρειών, συμπεριλαμβανομένων των OpenAI, Alphabet και Meta, υπέγραψαν μια εθελοντική συμφωνία με την κυβέρνηση Τζο Μπάιντεν τον Ιούλιο του 2023, για να υδατογραφήσουν το περιεχόμενο που παράγεται από την AI. Τον Οκτώβριο του 2023, η *εκτελεστική εντολή 14110* ενσωματώθηκε στον *Νόμο περί Αμυντικής Παραγωγής* με σκοπό να απαιτήσει από όλες τις εταιρείες των ΗΠΑ να αναφέρουν πληροφορίες στην ομοσπονδιακή κυβέρνηση κατά την εκπαίδευση ορισμένων μοντέλων AI υψηλού αντίκτυπου.

### σε διακρατικές ενώσεις

#### Ευρωπαϊκή Ένωση
Στην Ευρωπαϊκή Ένωση, η προτεινόμενη νομοθετική πράξη περί Τεχνητής Νοημοσύνης περιλαμβάνει απαιτήσεις για τη δημοσιοποίηση πνευματικών δικαιωμάτων υλικού που χρησιμοποιείται για την εκπαίδευση γενετικών συστημάτων AI, και για την επισήμανση οποιασδήποτε παραγωγής που παράγεται από AI ως τέτοια.

## Πνευματική ιδιοκτησία
Τα παραγωγικά συστήματα AI όπως το ChatGPT και το Midjourney εκπαιδεύονται σε μεγάλα, διαθέσιμα στο κοινό σύνολα δεδομένων που περιλαμβάνουν έργα που προστατεύονται από πνευματικά δικαιώματα. Οι προγραμματιστές της AI έχουν υποστηρίξει ότι η εκπαίδευση αυτή προστατεύεται με δίκαιη χρήση, ενώ ορισμένοι κάτοχοι πνευματικών δικαιωμάτων έχουν υποστηρίξουν ότι παραβιάζει τα δικαιώματά τους.

Οι υποστηρικτές της εκπαίδευσης για τη δίκαιη χρήση έχουν υποστηρίξει ότι είναι μια μετασχηματιστική χρήση και δεν περιλαμβάνει τη διάθεση αντιγράφων των έργων που προστατεύονται από πνευματικά δικαιώματα στο κοινό. Οι επικριτές υποστηρίζουν ότι οι παραγωγοί εικόνων όπως το Midjourney μπορούν να δημιουργήσουν σχεδόν πανομοιότυπα αντίγραφα ορισμένων εικόνων που προστατεύονται από πνευματικά δικαιώματα, και ότι τα γενετικά προγράμματα AI ανταγωνίζονται το περιεχόμενο στο οποίο εκπαιδεύονται. 

Από το 2024, συνεχίζονται διάφορες αγωγές σχετικά με τη χρήση υλικού που προστατεύεται από πνευματικά δικαιώματα στην εκπαίδευση. Η Getty Images έχει μηνύσει την Stability AI για τη χρήση των εικόνων της για την εκπαίδευση της Stable Diffusion. Τόσο η Authors Guild όσο και οι New York Times έχουν μηνύσει τη Microsoft και την OpenAI για τη χρήση των έργων τους για την εκπαίδευση του ChatGPT.

## Ανησυχίες
Η ανάπτυξη της παραγωγικής ΤΝ έχει εγείρει ανησυχίες από κυβερνήσεις, επιχειρήσεις και πολίτες, με αποτέλεσμα διαμαρτυρίες, νομικές ενέργειες, κλήσεις για αναστολή των πειραμάτων ΤΝ και ενέργειες από πολλές κυβερνήσεις. Σε μια ενημέρωση του Συμβουλίου Ασφαλείας των Ηνωμένων Εθνών τον Ιούλιο του 2023, ο Γενικός Γραμματέας Αντόνιο Γκουτέρες δήλωσε ότι "*η γενετική Τεχνητή Νοημοσύνη έχει τεράστια δυναμική και για το καλό και για το κακό σε κλίμακα*", ότι η Τεχνητή Νοημοσύνη δύναται να "*επιταχύνει την παγκόσμια ανάπτυξη*" και να συμβάλει μεταξύ 10 και 15 τρισεκατομμυρίων δολαρίων ΗΠΑ (9-13.5 τρισεκατομμύρια ευρώ) στην παγκόσμια οικονομία μέχρι το 2030, αλλά ότι η κακόβουλη χρήση της "*μπορεί να προκαλέσει τρομακτικό επίπεδο θανάτου και καταστροφής, ευρέως διαδεδομένο τραύμα και βαθιά ψυχολογική ζημιά σε αδιανόητη κλίμακα*".

### Απώλειες θέσεων εργασίας
Από τις πρώτες μέρες της ανάπτυξης της τεχνητής νοημοσύνης, υπήρξαν επιχειρήματα που προτάθηκαν από τον δημιουργό της ELIZA Γιόζεφ Βάιζενμπάουμ και άλλους, σχετικά με το αν οι εργασίες που μπορούν να γίνουν από υπολογιστές θα πρέπει πραγματικά να γίνουν απ' αυτούς, δεδομένης της διαφοράς μεταξύ υπολογιστών και ανθρώπων, και μεταξύ ποσοτικών υπολογισμών και ποιοτικών, βασισμένων σε αξίες κρίσεων. Τον Απρίλιο του 2023, αναφέρθηκε ότι η τεχνητή νοημοσύνη παραγωγής εικόνων έχει οδηγήσει στο 70% των θέσεων εργασίας για εικονογράφους βιντεοπαιχνιδιών στην Κίνα να χαθούν. Τον Ιούλιο του 2023, οι εξελίξεις στην γενετική τεχνητή νοημοσύνη συνέβαλαν στις διαμάχες εργασίας του 2023 στο Χόλιγουντ. Η Φραν Ντρέσερ, πρόεδρος της Ένωσης Ηθοποιών Κινηματογράφου των ΗΠΑ, δήλωσε ότι "*η τεχνητή νοημοσύνη αποτελεί υπαρξιακή απειλή για τα δημιουργικά επαγγέλματα*" κατά τη διάρκεια της απεργίας SAG-AFTRA του 2023. Η AI της φωνητικής παραγωγής έχει θεωρηθεί ως μια πιθανή πρόκληση για τον τομέα της φωνητικής ηθοποιίας.

Η διαμάχη της τεχνητής νοημοσύνης και των ανησυχιών για την απασχόληση μεταξύ των ομάδων που υποπροσωπεύονται παγκοσμίως παραμένει μια κρίσιμη πτυχή. Ενώ η ΤΝ υπόσχεται βελτιώσεις στην απόδοση και την απόκτηση δεξιοτήτων, οι ανησυχίες για την μετατόπιση θέσεων εργασίας και τις προκατειλημμένες διαδικασίες πρόσληψης διατηρούνται μεταξύ αυτών των ομάδων, όπως περιγράφεται σε έρευνες από την Fast Company. Για να αξιοποιηθούν οι τεχνολογίες ΤΝ για μια πιο ισότιμη κοινωνία, τα προληπτικά μέτρα περιλαμβάνουν τον μετριασμό των προκαταλήψεων, την προώθηση της διαφάνειας, τον σεβασμό της ιδιωτικής ζωής και της συγκατάθεσης και την υιοθέτηση ηθικού τρόπου σκέψης. Οι στρατηγικές περιλαμβάνουν την ανακατεύθυνση της πολιτικής στην έννοια της ρύθμισης, του ολοκληρωτικό σχεδιασμό και την δυνατότητας της εκπαίδευσης για εξατομικευμένη διδασκαλία με σκοπό την μεγιστοποίηση των οφελών, με τη μείωση των ζημιών.

### Τεχνολογίες «deepfake»
Τα deepfakes είναι τα μέσα που παράγονται από την τεχνητή νοημοσύνη που παίρνουν ένα άτομο σε μια υπάρχουσα εικόνα ή βίντεο και τα αντικαθιστούν με την ομοιότητα κάποιου άλλου χρησιμοποιώντας νευρωνκά δίκτυα. Τα deepfakes έχουν συγκεντρώσει ευρεία προσοχή και ανησυχίες για τις χρήσεις τους σε deepfake πορνογραφικά βίντεο διασημότητων, revenge πορνό, ψευδείς ειδήσεις και παραπληροφόρηση, οικονομική απάτη και επέμβαση σε εκλογές από τρίτους. Αυτά έχουν προκαλέσει απαντήσεις τόσο από την βιομηχανία όσο και από την κυβέρνηση για να εντοπίσουν και να περιορίσουν τη χρήση τους.

Τον Ιούλιο του 2023, η εταιρεία ελέγχου γεγονότων Logically διαπίστωσε ότι τα δημοφιλή παραγωγικά μοντέλα AI Midjourney, DALL-E 2 και Stable Diffusion παράγουν εύλογα εικόνες παραπληροφόρησης όταν τους ζητηθεί να το κάνουν, όπως εικόνες εκλογικής απάτης στις Ηνωμένες Πολιτείες και μουσουλμάνες γυναίκες στο Μπαράτ που υποτίθεται ότι υποστήριζαν το κόμμα Μπαρατίγια Τζανάτα (κόμμα το οποίο υποστηρίζει την ινδικότητα).

Τον Απρίλιο του 2024, μια ερευνητική εργασία πρότεινε τη χρήση blockchain (τεχνολογία διανεμημένου λογισμικού) για την προώθηση της "διαφάνειας, επαληθεύσιμης δυνατότητας και αποκέντρωσης στην ανάπτυξη και χρήση της AI".

#### Ηχητικά deepfakes
Οι περιπτώσεις των χρηστών που κάνουν κατάχρηση του λογισμικού για να παράγουν αμφιλεγόμενες δηλώσεις με φωνές σχεδόν πανομοιότυπες με αυτές δημόσιων αξιωματούχων και άλλων διάσημων ατόμων έχουν εγείρει ηθικές ανησυχίες σχετικά με την AI δημιουργίας φωνής. Σε απάντηση, εταιρείες όπως η ElevenLabs έχουν δηλώσει ότι θα εργάζονται για τη μείωση της δυνητικής κατάχρησης μέσω διασφαλισμών και επαλήθευσης ταυτότητας.

Ανησυχίες έχουν προκύψει από τη μουσική που δημιουργείται από την ΑΙ. Το ίδιο λογισμικό που χρησιμοποιείται για την κλωνοποίηση φωνών έχει χρησιμοποιηθεί στις φωνές διάσημων μουσικών για να δημιουργήσουν τραγούδια που μιμούνται τις φωνές τους, κερδίζοντας τόσο τεράστια δημοτικότητα όσο και κριτική. Παρόμοιες τεχνικές έχουν επίσης χρησιμοποιηθεί για τη δημιουργία βελτιωμένης ποιότητας ή πλήρους διάρκειας εκδόσεων τραγουδιών που έχουν διαρρεύσει ή δεν έχουν ακόμη κυκλοφορήσει. 

Η παραγωγική νοημοσύνη έχει επίσης χρησιμοποιηθεί για τη δημιουργία νέων ψηφιακών καλλιτεχνικών προσωπικοτήτων, με ορισμένες από αυτές να λαμβάνουν αρκετή προσοχή για να λάβουν δίσκους από μεγάλες ετικέτες. Οι προγραμματιστές αυτών των εικονικών καλλιτεχνών έχουν επίσης αντιμετωπίσει μερίδιο κριτικής για τα προσωποποιημένα προγράμματα τους, συμπεριλαμβανομένης της αντίδρασης για την «απανθρωποποιήση» μιας τέχνης, καθώς και τη δημιουργία καλλιτεχνών που δημιουργούν μη ρεαλιστικές ή ανήθικες προσκλήσεις στο κοινό τους.

### Εγκληματική δραστηριότητα στον κυβερνοχώρο
Η ικανότητα της παραγωγικής AI να δημιουργεί ρεαλιστικό ψεύτικο περιεχόμενο έχει γίνει αντικείμενο εκμετάλλευσης σε πολλούς τύπους εγκλήματος στον κυβερνοχώρο, συμπεριλαμβανομένων των απάτων phishing. Το deepfake video και ηχητικό έχουν χρησιμοποιηθεί για να δημιουργήσουν παραπληροφόρηση και απάτη. Ο πρώην αρχι-ειδικός σε θέματα απάτης της Google, Σούμπαν Γκοσεμαγιουμντέρ, έχει προβλέψει ότι ενώ τα deepfake βίντεο αρχικά δημιούργησαν αναταραχή στα μέσα ενημέρωσης, σύντομα θα γίνουν κοινά και ως αποτέλεσμα, πιο επικίνδυνα. Επιπλέον, τα μοντέλα μεγάλων γλωσσών και άλλες μορφές γενετικής τεχνητής νοημοσύνης κειμένου έχουν δημιουργήσει πλαστές κριτικές σε ιστοσελίδες ηλεκτρονικού εμπορίου για να αυξήσουν τις βαθμολογίες. Οι εγκληματίες στον κυβερνοχώρο έχουν δημιουργήσει μεγάλα μοντέλα γλώσσας που επικεντρώνονται στην απάτη, συμπεριλαμβανομένων των WormGPT και FraudGPT. 

Πρόσφατη έρευνα που έγινε το 2023 αποκάλυψε ότι η παραγωγική τεχνητή νοημοσύνη έχει αδυναμίες που μπορούν να χειραγωγηθούν από εγκληματίες για να εξαγάγουν επιβλαβείς πληροφορίες παρακάμπτοντας τις ηθικές εγγυήσεις. Η μελέτη παρουσιάζει παραδείγματα επιθέσεων που έγιναν στο ChatGPT, συμπεριλαμβανομένων των Jailbreaks και της αντιστροφής ψυχολογίας. Επιπλέον, κακόβουλοι άνθρωποι μπορούν να χρησιμοποιήσουν το ChatGPT για επιθέσεις κοινωνικής μηχανικής και επιθέσεις phishing, αποκαλύπτοντας την επιβλαβή πλευρά αυτών των τεχνολογιών.

### Αναφορά σε βιομηχανικούς γίγαντες
Η εκπαίδευση των μοντέλων AI στα σύνορα απαιτεί τεράστια ποσότητα υπολογιστικής ισχύος. Συνήθως μόνο οι μεγάλες εταιρείες τεχνολογίας έχουν τα οικονομικά μέσα για να κάνουν τέτοιες επενδύσεις. Μικρές νεοσύστατες επιχειρήσεις όπως η Cohere και το OpenAI καταλήγουν να αγοράζουν πρόσβαση στα κέντρα δεδομένων από την Google και την Microsoft αντίστοιχα.

### Ποιότητα του περιεχομένου
Ο New York Times ορίζει "σλόπ" ως κάτι ανάλογο με το σπαμ: "*κακό ή ανεπιθύμητο περιεχόμενο Τ.Ν. στα κοινωνικά μέσα ενημέρωσης, την τέχνη, τα βιβλία και ... στα αποτελέσματα αναζήτησης*". Οι δημοσιογράφοι έχουν εκφράσει ανησυχίες για την κλίμακα της χαμηλής ποιότητας περιεχομένου που παράγεται σε σχέση με τη μέτρηση περιεχομένων των κοινωνικών μέσων ενημέρωσής, τα χρηματικά κίνητρα από τις εταιρείες κοινωνικών μέσων ενημέρωσης για τη διάδοση τέτοιου περιεχομένου, ψευδή πολιτικά μηνύματα, σπαμ των υποβολών επιστημονικών ερευνητικών εγγράφων, αυξημένο χρόνο και προσπάθεια για να βρεθεί υψηλότερη ποιότητα ή επιθυμητό περιεχόμενό στο Διαδίκτυο, η αναζήτηση του περιεχομένου που παράγεται από μηχανές αναζήτησής,  και στην ίδια τη δημοσιογραφία.

Μια εργασία που δημοσιεύτηκε από ερευνητές στο Amazon Web Services AI Labs διαπίστωσε ότι πάνω από το 57% των προτάσεων ενός δείγματος πάνω από 6 δισεκατομμυρίων προτάσεων του Common Crawl, μια στιγμιότυπη λήψη σελίδων, ήταν μεταφρασμένες από μηχανή. Πολλές από αυτές τις αυτοματοποιημένες μεταφράσεις θεωρήθηκαν χαμηλότερης ποιότητας, ειδικά επειδή οι προτάσεις μεταφράστηκαν σε τουλάχιστον τρεις γλώσσες. Πολλές γλώσσες χαμηλότερων πόρων (π.χ. Ουολόφ, Κόσα) μεταφράστηκαν σε περισσότερες γλώσσες από τις γλώσσες υψηλότερων πηγών (π.χ. Αγγλικά, Γαλλικά).

Τον Σεπτέμβριο του 2024, η Ρόμπιν Σπέρ, συγγραφέας του wordfreq, μιας βάσης δεδομένων ανοιχτού κώδικα που υπολογίζει τις συχνότητες λέξεων με βάση το κείμενο από το Διαδίκτυο, ανακοίνωσε ότι είχε σταματήσει να ενημερώνει τα δεδομένα για διάφορους λόγους: υψηλά κόστη για την απόκτηση δεδομένων από το Reddit και το Twitter, υπερβολική έμφαση στην γενετική τεχνητή νοημοσύνη σε σύγκριση με άλλες μεθόδους στην κοινότητα επεξεργασία φυσικής γλώσσας και ότι "*η παραγωγική νοημοσύνη έχει μολυνθεί τα δεδομένα*".

Η υιοθέτηση γενετικών εργαλείων AI οδήγησε σε έκρηξη περιεχομένου που παράγεται από AI σε πολλαπλά πεδία. Μια μελέτη από το Πανεπιστημιακό Κολλέγιο του Λονδίνου εκτιμά ότι το 2023, περισσότερα από 60000 επιστημονικά άρθρα - πάνω από το 1% όλων των δημοσιεύσεων - πιθανότατα γράφτηκαν με τη βοήθεια LLM. Σύμφωνα με το Ινστιτούτο Ανθρώπινης Επιστημονικής Τεχνικής Τεχνητής Τεχνης του Πανεπιστημίου του Στάνφορντ, περίπου το 17.5% των πρόσφατα δημοσιευμένων εργαστηρίων στον τομέα της πληροφορικής και το 16.9% του κειμένου αναθεώρησης από ομοτίμους ενσωματώνουν τώρα περιεχόμενο που παράγεται από LLM. 

Το οπτικό περιεχόμενο ακολουθεί μια παρόμοια τάση. Από την έναρξη του DALL-E 2 το 2022, εκτιμάται ότι έχουν δημιουργηθεί κατά μέσο όρο 34 εκατομμύρια εικόνες καθημερινά. Από τον Αύγουστο του 2023, περισσότερες από 15 δισεκατομμύρια εικόνες είχαν δημιουργηθεί χρησιμοποιώντας αλγόριθμους κειμένου σε εικόνα, με το 80% αυτών να δημιουργούνται από μοντέλα που βασίζονται στο Stable Diffusion.

Εάν το περιεχόμενο που παράγεται από την ΑΙ συμπεριληφθεί σε νέες αναζήτηση δεδομένων από το Διαδίκτυο για πρόσθετη εκπαίδευση των μοντέλων της ΑΙ, μπορεί να εμφανιστούν ελαττώματα στα αποτελέσματα των μοντέλων. Η εκπαίδευση ενός μοντέλου AI αποκλειστικά με βάση την παραγωγή ενός άλλου μοντέλου ΑΙ παράγει ένα μοντέλο χαμηλότερης ποιότητας. Η επανάληψη αυτής της διαδικασίας, όπου κάθε νέο μοντέλο εκπαιδεύεται στην παραγωγή του προηγούμενου μοντέλου, οδηγεί σε προοδευτική υποβάθμιση και τελικά οδηγεί σε "*καταρρεύση του μοντέλου*" μετά από πολλαπλές επαναλήψεις. Έχουν διεξαχθεί δοκιμές με αναγνώριση μοτίβων χειρογραφημένων γραμμάτων και με εικόνες ανθρώπινων προσώπων. Ως εκ τούτου, η αξία των δεδομένων που συλλέγονται από πραγματικές ανθρώπινες αλληλεπιδράσεις με συστήματα μπορεί να γίνει όλο και πιο πολύτιμη με την παρουσία περιεχομένου που παράγεται από το LLMs σε δεδομένα που αναζητούνται από το Διαδίκτυο.

Από την άλλη πλευρά, τα συνθετικά δεδομένα χρησιμοποιούνται συχνά ως εναλλακτική λύση στα δεδομένα που παράγονται από γεγονότα του πραγματικού κόσμου. Τέτοιες πληροφορίες μπορούν να χρησιμοποιηθούν για την επικύρωση μαθηματικών μοντέλων και για την εκπαίδευση μοντέλων μηχανικής μάθησης, ενώ διατηρείται η ιδιωτική ζωή των χρηστών, συμπεριλαμβανομένων των δομημένων δεδομένων. Η προσέγγιση δεν περιορίζεται στην παραγωγή κειμένου. Η παραγωγή εικόνας έχει χρησιμοποιηθεί για την εκπαίδευση μοντέλων υπολογιστικής όρασης.

### Κατάχρηση στη δημοσιογραφία
Τον Ιανουάριο του 2023, το *Futurism.com* δημοσίευσε την ιστορία ότι το CNET είχε χρησιμοποιήσει ένα άγνωστο εσωτερικό εργαλείο AI για να γράψει τουλάχιστον 77 από τις ιστορίες του. Το CNET δημοσίευε διορθώσεις σε 41 από τις ιστορίες.

Τον Απρίλιο του 2023, η γερμανική εφημερίδα Die Aktuelle δημοσίευσε μια ψεύτικη συνέντευξη που δημιουργήθηκε από την τεχνητή νοημοσύνη με τον πρώην πιλότο F1 Μίκαελ Σουμάχερ, ο οποίος δεν είχε κάνει δημόσιες εμφανίσεις από το 2013 μετά από τραυματισμό στον εγκέφαλο σε ένα ατύχημα σκι. Αν και η συνέντευξη περιλάμβανε μια αναγνώριση στο τέλος ότι δημιουργήθηκε από την ΑΙ. Ο επικεφαλής συντάκτης απολύθηκε λίγο αργότερα εν μέσω της διαμάχης.

Υπάρχουν κι άλλες πηγές που έχουν δημοσιεύσει άρθρα όπου το περιεχόμενο και/ή η υπογραφή των οποίων έχει επιβεβαιωθεί ή υποψιαστεί ότι δημιουργούνται από μοντέλα παραγωγικής ΤΝ - συχνά με ψευδές περιεχόμενοι, λάθη και/ή μη αποκάλυψη της χρήσης παραγωγικής TΝ.

## Παραπομπές




Κατηγορία:Μηχανική μάθηση
Κατηγορία:Τεχνητά νευρωνικά δίκτυα
Κατηγορία:Μηχανική λογισμικού
Κατηγορία:Σελίδες με μη επιθεωρημένες μεταφράσεις