Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03291.jsonl.gz/155

Auf verschiedenen sozialen Medien sorgen in letzter Zeit Bilder für Aufsehen die mit einer KI erzeugt wurden. Bekannt sein dürfte vor allem der Bildergenerator Dall-E
von Entwickler OpenAI, bei dem durch die Eingabe von einem Text automatisch ein Bild erzeugt werden kann. Noch im April dieses Jahres stellte der Entwickler dann einen Nachfolger – genannt Dall-E 2 – vor, der hochauflösende Bilder von fast allem erzeugen kann, was man ihm aufträgt. Zurzeit ist der Zugang zu der neuen Technologie allerdings noch einem kleinen ausgewählten Kreis an Beta-Usern vorbehalten.
Vor wenigen Wochen hat auch Google eine eigene KI zur Erzeugung von Bildmaterial vorgestellt. Gegenüber Dall-E 2 schnitt die künstliche Intelligenz mit dem Namen Imagen
bei einem Standardverfahren zur Bewertung der Qualität von computergenerierten Bildern allerdings besser ab als die Konkurrenz, schreibt 'MIT Technology Review'. Die von Imagen produzierten Bilder seien von einer Gruppe menschlicher Juroren gegenüber denen von Dall-E 2 bevorzugt worden.
Niedlichkeit kommt nicht von ungefähr
Sowohl OpenAI als auch Google setzen bei der Erzeugung ihrer Bilder auf Niedlichkeit. Beide werben für ihre Tools mit Bildern von Tieren, die herzige Dinge tun: ein flauschiger Panda als Koch, ein Corgi, der in einem Haus aus Sushi sitzt oder ein Teddybär im Schwimmbecken. Gemäss 'MIT Technology Review' steckt hinter den herzigen Bildern jedoch auch "eine dunkle Seite", weil die Öffentlichkeit nicht genau erfährt, wie die Darstellungen erzeugt werden.
Die meisten der Bilder, die OpenAI und Google veröffentlichen, seinen selektiert, schreibt das Magazin. Zu den Auswirkungen auf die Gesellschaft sagt Google auf der Website von Imagen: "Während eine Teilmenge unserer Trainingsdaten gefiltert wurde, um Rauschen und unerwünschte Inhalte und toxische Sprache zu entfernen, haben wir einen Datensatz verwendet, von dem bekannt ist, dass er ein breites Spektrum an unangemessenen Inhalten enthält".
Im Käfig halten
Damit sollte verhindert werden, dass pornografische Bilder, rassistische Verunglimpfungen und soziale Stereotypen in die KI übernommen werden. Imagen stützte sich jedoch auf einen Textkodierer, der auf unkuratierte Webdaten trainiert sei, womit auch soziale Verzerrungen entstehen könnten. Daher bestehe ein Risiko, dass Imagen schädliche Stereotypen und Darstellungen kodiert hat. In einem entsprechenden Statement auf der Webseite von Google heisst es, dass man sich deshalb entschieden habe, die Software bis auf weiteres nicht für die Öffentlichkeit freizugeben.
Laut dem 'MIT Technology Review' bedeutet das nichts anderes, als dass die Entwickler nicht in der Lage sind, die Tragweite ihrer Modelle zu verstehen, und auch nicht wissen, wie sie das Problem beheben sollen. Im Moment besteht die Lösung einfach darin, dass die KI "im Käfig bleibt". OpenAI stellt Dall-E 2 nur einer Handvoll vertrauenswürdiger Nutzer zur Verfügung und auch Google scheint keine Pläne zu haben, Imagen für die Öffentlichkeit freizugeben.