title: Vielfältigkeitsdimensionen in der visuellen Darstellung von MINT-Berufen: Eine Analyse von Text-to-Image-Generatoren am Beispiel von DALL E Mini
Creators: name: Breuer, Tim
Publisher: name: Hochschule Bonn-Rhein-Sieg
publisherIdentifier: https://ror.org/04m2anh63
publisherIdentifierScheme: ROR
Year: 2024
Subjects: classificationCode: 005
subject: Computerprogrammierung, Programme, Daten
classificationCode: 1.2
subject: FOS: Computer and information sciences

description: Text-to-Image-Transformer synthetisieren auf Grundlage ungefilterter Bilddatenbanken und neuronaler Netzwerke (GANs) Bilder. Das Open Access Modell DALL E Mini markiert einen Höhepunkt der Aufmerksamkeit für KI-Anwendungen (vgl. O'Meara/Murphy 2023). Diese Popularität wurde von kritischen Diskussionen begleitet: So schrieben Journalistinnen für Vice und Futurism „The AI That Draws What You Type Is Very Racist, Shocking No One" (vgl. Rose 2022) und „The AI Image Generator Is Spitting Out Some Awfully Racist Stuff“ (vgl. Al-Sibai 2022). Studien zu generativer KI und Social Bias von Cheong et al. (2023) und Naik/Nushi (2023) stellen eine Genderstereotypisierung bei Berufsbildern fest, sowie eine überwiegende Darstellung weiß-konstruierter Subjekte. Auch die Entwickelnden von DALL E Mini gestehen eine Synthese von Vorurteilen gegen Minderheiten ein (vgl. Dayma et al. 2022). Die Unterrepräsentation von Frauen in MINT-Berufen (vgl. Anger et al. 2021: 30ff.) wird unter anderem durch die Selbstidentifikation und Eigenwahrnehmung der MINT-Kompetenz beeinflusst (vgl. Dodiya et al. 2022; Keil/Orth 2023: 31). Bildtransformer als Artefakte heteropatriarchaler Hegemonie könnten so die Technikferne unterrepräsentierter Gruppen als „Kreislauf derPropagierung von Vorurteilen zwischen Gesellschaft, KI und Nutzenden" (Vlasceanu/Amodio 2022: 1) verstärken. Zudem erfahren auch People of Color immer wieder Diskriminierung durch Technologie, die sie nicht mitbedenkt oder überwacht (Automated Anti-Blackness, vgl. Nkonde 2019: 31). 
Die vorgeschlagene Arbeit untersucht, wie DALL E Mini zur Reproduktion von Darstellungsdefiziten in MINT-Berufen beiträgt. Über 200 DALL E Mini Bilder zu MINT-Berufen wurden in Bezug auf Genderattribution und People of Color Anteil kodiert. Anschließend wurden Ergebnisse mit repräsentativen Zahlen von Belegschaften aus US-amerikanischen Labor Statistics verglichen. Die Geschlechtszuordnung von KI-synthetisierten Subjekten sollte bei der Kodierung nur durch eine Fremdzuweisung geschehen, die auf Performance-/Diskursmächten basiert; das Individuum ist hier ein Phantasma. Der gender-konforme Ausdruck und das endogeschlechtliche Körperverständnis wird zu einer Attribution herangezogen. Die Benennung der Darstellung von Ausdruck und Körper bei KI-Bildern könnte mit Bezug auf Judith Butler als eine zyklische Gewalt des Dialogs interpretiert werden, die jene Geschehnisse hervorbringt, die sie versucht zu regeln und einzuengen (vgl. Butler 1995: 22). Da die rituelle Geschlechtszuschreibung erst erschafft, was sie versucht zu deklarieren, werden Subjekte bei der Kodierung von Gender mit dem Suffix „-konstruiert“ bezeichnet. Dies soll die Prägung einer Zuweisung durch eine kulturelle Matrix mit dem inhärent konstruierten Duktus von KI-Bildern verknüpfen. Hierdurch differenziert sich die Arbeit von der Kodierung bestehender Studien. Die Ergebnisse zeigen eine starke Tendenz zur Unterrepräsentation von Frauen und People of Color in generierten Bildern. So zeigen dreizehn von zwanzig MINT-Berufe keine weiblich konstruierten Personen, und sechzehn von zwanzig keine Subjekte, die als People of Color kodiert werden konnten. Somit findet eine doppelte Verzerrung durch Bilddatenbanken und generative KI statt, ihre prädiktive Natur (GANs, CLIP) führt zu einer Progredienz des Status Quo. Selbst Promptengineering mit ethischer Intervention (guidance) wie „female computer scientist" führt zu Darstellungen von Wissenschaftlerinnen mit Laborkittel und Schutzbrille vor einem PC, nicht Informatikerinnen. 
Die vorgeschlagene Arbeit möchte verdeutlichen, dass Text-to-Image-Generatoren bei unkritischer Anwendung zur Verstärkung bestehender sozialer Ungleichheiten beitragen können und einen Impuls zur Diskussion über den Einsatz generativer KI geben.