AI-Powered Imagery and Mis/Disinformation
Creators: name: Δελημάρης, Ιωάννης Γ.
Publisher: name: Aristotle University of Thessaloniki
Year: 2025
Subjects: Εικόνες Δημιουργημένες με Τεχνητή Νοημοσύνη
Παραπληροφόρηση
Σκόπιμη Παραπληροφόρηση
Έλεγχος Γεγονότων
AI-generated images
Misinformation
Disinformation
Fact-checking

description: The rapid evolution and accessibility of AI text-to-image tools, such as MidJourney and DALL-E, have raised concerns about their potential misuse for malicious purposes, including the spread of misinformation and disinformation by fabricating evidence to support misleading narratives. This thesis explores the phenomenon of AI-generated images used for mis/disinformation, assessing its current state and examining the methods fact-checkers employ to identify and debunk such images. The research employs a mixed-methods approach, combining content analysis with quantitative insights and qualitative analysis. The content analysis examines over 110 AI-generated images debunked in articles from two fact-checking organizations—Ellinika Hoaxes and AFP Fact Check’s English department covering Europe—analyzing the temporal evolution of the phenomenon since the aforementioned tools were made available to the public, the themes under which AI-generated images were used to mislead, and the debunking methods employed by fact-checkers to address such images. The qualitative part consists of interviews with three fact-checkers from Ellinika Hoaxes, offering deeper insights into their experiences, perceptions, and challenges in addressing AI-generated images. Our findings reveal that AI-generated images are indeed used to spread misleading narratives. However, in contrast to widespread concerns, these images are currently mostly used for attention-grabbing and probably like-farming purposes, showcasing extraordinary places or objects rather than being widely employed to spread political or other highly dangerous misleading narratives. Our analysis also finds that these images are not predominantly created with malicious intent but are often taken out of context from their original purposes, such as artistic works. While no significant temporal trends in the use of such images were identified, the analysis suggests that they have already become a persistent means for sharing misleading narratives. The study also identifies the most frequently used methods for debunking these images, including reverse image search, artifact analysis, and AI-detection tools, while highlighting gaps in expertise and resources for addressing this phenomenon comprehensively. Future research could expand these findings by incorporating data from a wider range of organizations and investigating their evolving editorial practices in addressing AI-generated images
description: Η ταχεία εξέλιξη και η αυξανόμενη προσβασιμότητα των εργαλείων AI text-to-image, όπως το Midjourney και το DALL-E, έχουν εγείρει ανησυχίες σχετικά με την πιθανή κατάχρησή τους για κακόβουλους σκοπούς, συμπεριλαμβανομένης της διάδοσης (σκόπιμης και μη) παραπληροφόρησης και ψευδών πληροφοριών μέσω της κατασκευής αποδεικτικών στοιχείων που υποστηρίζουν παραπλανητικές αφηγήσεις. Η παρούσα διπλωματική εργασία διερευνά το φαινόμενο των εικόνων που δημιουργούνται με τεχνητή νοημοσύνη και χρησιμοποιούνται για τη διασπορά ψευδών πληροφοριών, αξιολογώντας την τρέχουσα κατάσταση και εξετάζοντας τις μεθόδους που χρησιμοποιούν οι οργανισμοί ελέγχου γεγονότων για την αναγνώριση και την αποδόμηση τέτοιων εικόνων. Η έρευνα ακολουθεί μία μικτή μεθοδολογική προσέγγιση, συνδυάζοντας ανάλυση περιεχομένου με ποσοτικά και ποιοτικά δεδομένα. Η ανάλυση περιεχομένου εξετάζει περισσότερες από 110 εικόνες που δημιουργήθηκαν με τεχνητή νοημοσύνη και αποδομήθηκαν σε άρθρα δύο οργανισμών ελέγχου γεγονότων—των Ellinika Hoaxes και του αγγλόφωνου τμήματος του AFP Fact Check για την Ευρώπη. Αναλύονται η χρονική εξέλιξη του φαινομένου από τη στιγμή που τα εν λόγω εργαλεία έγιναν διαθέσιμα στο κοινό, οι θεματικές ενότητες στις οποίες χρησιμοποιήθηκαν AI-generated εικόνες για παραπλάνηση, καθώς και οι μέθοδοι που εφαρμόστηκαν από τους fact-checkers για την αποδόμησή τους. Το ποιοτικό μέρος της έρευνας περιλαμβάνει συνεντεύξεις με τρεις fact-checkers από τα Ellinika Hoaxes, προσφέροντας βαθύτερη κατανόηση σχετικά με τις εμπειρίες, τις αντιλήψεις και τις προκλήσεις που αντιμετωπίζουν στην προσπάθειά τους να αντιμετωπίσουν το φαινόμενο των AI-generated εικόνων. Τα ευρήματά μας επιβεβαιώνουν ότι οι εικόνες που δημιουργούνται με τεχνητή νοημοσύνη χρησιμοποιούνται πράγματι για τη διάδοση παραπλανητικών αφηγήσεων. Ωστόσο, σε αντίθεση με τις ευρέως διαδεδομένες ανησυχίες, αυτές οι εικόνες χρησιμοποιούνται κυρίως για προσέλκυση προσοχής και πιθανώς για like-farming, προβάλλοντας εντυπωσιακά τοπία ή αντικείμενα, αντί να αξιοποιούνται εκτενώς για τη διάδοση πολιτικών ή άλλων ιδιαίτερα επικίνδυνων ψευδών αφηγήσεων. Η ανάλυσή μας δείχνει επίσης ότι οι περισσότερες από αυτές τις εικόνες δεν δημιουργούνται εξαρχής με δόλιο σκοπό, αλλά συχνά αποσπώνται από το αρχικό τους πλαίσιο—όπως η καλλιτεχνική έκφραση—και χρησιμοποιούνται παραπλανητικά. Παρόλο που δεν εντοπίστηκαν σαφείς χρονικές τάσεις στην εξέλιξη της χρήσης τέτοιων εικόνων, η έρευνα δείχνει ότι αποτελούν πλέον μια σταθερή μέθοδο για τη διάδοση ψευδών αφηγήσεων. Επιπλέον, η ανάλυση μας εντοπίζει τις πιο συχνά χρησιμοποιούμενες μεθόδους για την αποδόμηση αυτών των εικόνων, όπως η αντίστροφη αναζήτηση εικόνας, η ανάλυση οπτικών στοιχείων (artifact analysis) και τα εργαλεία ανίχνευσης AI, ενώ παράλληλα αναδεικνύει κενά σε τεχνογνωσία και διαθέσιμους πόρους για την ολοκληρωμένη αντιμετώπιση του φαινομένου. Μελλοντικές έρευνες θα μπορούσαν να επεκτείνουν αυτά τα ευρήματα ενσωματώνοντας δεδομένα από περισσότερους οργανισμούς και διερευνώντας την εξέλιξη των δημοσιογραφικών πρακτικών τους όσον αφορά τη διαχείριση εικόνων που δημιουργούνται με τεχνητή νοημοσύνη.