Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03507.jsonl.gz/1219

Google, Meta und OpenAI engagieren sich gegen Deepfakes
Um der Zunahme manipulierter Inhalte entgegenzuwirken, haben sich Google, Meta und OpenAI mit der C2PA zusammengeschlossen. Ziel ist es, Standards zur Unterscheidung von echten und KI-generierten Inhalten zu entwickeln. Wir werfen einen Blick auf das Konzept der "Content Credentials" und seine Grenzen.
Google, Meta und OpenAI haben sich der wichtigsten Initiative zur Bekämpfung der von der GenAI erzeugten Deepfakes angeschlossen. In der Coalition for Content Provenance and Authenticity (C2PA) werden die drei Tech-Giganten zu den Bemühungen beitragen, die bereits von zahlreichen anderen Akteuren im Bereich der digitalen Inhalte initiiert wurden, darunter Adobe, Intel und Microsoft, die alle drei Mitglieder des C2PA-Lenkungsausschusses sind. Ziel der C2PA ist es, interoperable Standards und Techniken zu entwickeln, die es Online-Nutzern ermöglichen, Fotos, die mit echten Kameras aufgenommen wurden, von denen zu unterscheiden, die mit generativen KI-Tools erstellt wurden, insbesondere mithilfe eines Kennzeichnungssystems auf Metadatenebene.
Die explosionsartige Zunahme von Deepfakes und anderen manipulierten Inhalten ist eine der problematischen Folgen des GenAI-Booms. Diese Werkzeuge können zwar dazu dienen, humorvolle Inhalte zu erstellen, sie können aber auch ausgenutzt werden, um das Image von Persönlichkeiten zu missbrauchen und zu schädigen (wie im jüngsten Fall der weit verbreiteten pornografischen Deepfakes mit dem Gesicht der Sängerin Taylor Swift), um Wahlen zu manipulieren (amerikanische Wähler erhielten bei den Vorwahlen der Demokraten im Bundesstaat New Hampshire gefälschte Telefonnachrichten von Joe Biden), um zu betrügen (ein Angestellter aus Hongkong überwies kürzlich mehrere Millionen Dollar an Hacker, nachdem er von einem Deepfake seines CFO in einer Videokonferenz getäuscht worden war) oder um die von Unternehmen eingesetzten biometrischen Authentifizierungssysteme zu beschädigen.
Angesichts dieser Entwicklung werden die Nutzer vor allem lernen müssen, misstrauischer zu sein, während von der Tech-Branche erwartet wird, dass sie Möglichkeiten zur Überprüfung entwickelt. Dies ist mehr als nur eine vermeintliche Erwartungshaltung der breiten Öffentlichkeit, denn die Behörden auf beiden Seiten des Atlantiks haben diesbezüglich Richtlinien oder Regeln formuliert. Der erste Erlass der US-Regierung zur künstlichen Intelligenz unterstreicht die Notwendigkeit, Standards und bewährte Verfahren zur Identifizierung und Kennzeichnung von KI-Inhalten festzulegen. Die Europäische Union ihrerseits weist in ihrem AI Act darauf hin, dass Technologieunternehmen verpflichtet sein werden, Deepfakes und KI-generierte Inhalte zu kennzeichnen und Systeme so zu gestalten, dass KI-generierte Medien erkannt werden können.
Was haben Google, Meta und OpenAI vereinbart?
Die C2PA, ihre Mitglieder und Partner arbeiten daher an der Entwicklung von Techniken zur Identifizierung von KI-Inhalten, die dem rechtlichen Druck und dem Bedürfnis der Öffentlichkeit nach Transparenz gerecht werden können. Einige der Teilnehmer der Initiative arbeiten bereits an ihren eigenen Standards. In der Mitteilung der C2PA, dass Google Anfang Februar dem Lenkungsausschuss beigetreten ist, heisst es, dass sich das Unternehmen aus Mountain View auf die Integration von Content Credentials in seine Google-Bildersuche konzentrieren wird. Meta kündigte seinerseits die Entwicklung neuer Tools zur Erkennung von C2PA-Metadaten in Bildern an, die in die sozialen Netzwerke Facebook, Instagram und Threads hochgeladen wurden. Auch OpenAI hat sich der Initiative angeschlossen. In seiner Ankündigung erklärte der ikonische Herausgeber der GenAI, dass er C2PA-Metadaten in Bilder integrieren wird, die mit ChatGPT und der API des DALL-E 3-Modells erstellt wurden. Adobe, ein Pionier der Initiative, hatte dies bereits vor einigen Monaten mit seinem Tool Firefly getan.
Was sind Content Credentials?
Was genau sind Content Credentials? Aus der Dokumentation von Adobe und der Projektwebsite geht hervor, dass es sich um eine Open-Source-Technologie handelt, die als unsichtbares digitales Wasserzeichen fungiert, das verschiedene Metadaten zu visuellen Inhalten, die online angezeigt werden, integriert. Wie wurde es erstellt? Wird es von der KI erzeugt? Wann wurde er erstellt oder verändert? Wenn sie den C2PA-Standards entsprechen, können diese Zertifikate von verschiedenen Tools gelesen werden, unabhängig davon, in welcher Softwareumgebung der Inhalt erstellt wurde. Ähnlich wie bei den verschiedenen Eigenschaften eines Fotos, die automatisch in eine Bilddatei eingebettet werden und dann mit verschiedenen Mitteln gelesen werden können.
Neben in Software integrierten Tools ist es auch möglich, die C2PA-Metadaten einer Datei durch Hochladen über die Content-Credentials-Website abzurufen. Digimarc hat ausserdem ein Plugin für Chrome mit dieser Funktion entwickelt.
Content Credentials haben Grenzen
Sind "Content Credentials" das Allheilmittel im Kampf gegen Deepfakes? Zunächst ist festzustellen, dass das Konzept bisher nur für visuelle und Audio-Video-Inhalte gilt, nicht aber für das von der GenAI erstellte Schriftgut. Darüber hinaus verweist OpenAI in seiner Ankündigung, diese Metadaten in ChatGPT und Dall-E zu integrieren, auf deren Grenzen und betont, dass sie "leicht versehentlich oder absichtlich gelöscht werden können". Beispielsweise entfernen die meisten Social-Media-Plattformen heute die Metadaten von hochgeladenen Bildern, und auch Aktionen wie ein Screenshot können sie entfernen."
Dominique Guinard, VP Innovation von Digimarc (C2PA-Mitglied) aus der französischen Schweiz, erklärt in einem Blog auf Medium: "Die C2PA-Arbeitsgruppen sind sich dieser Probleme bewusst, und die Spezifikation schlägt (zumindest derzeit) nicht normative Wege vor, um "weiche Verbindungen" zu schaffen, die stärkere Verbindungen zwischen digitalen Gütern und Manifesten herstellen. Eine dieser Lösungen ist ein digitales Wasserzeichen, das in Verbindung mit einem C2PA-Manifest eine starke, bidirektionale Verbindung zwischen dem Gut und seinem Manifest herstellt. Das Manifest verweist auf das Bild und dank des digitalen Wasserzeichens verweist das Bild auf das Manifest".
Es sei angemerkt, dass laufende Entwicklungen genau in diese Richtung gehen. So bietet Digimarc ein kostenloses Tool an, mit dem Softwarehersteller das Hinzufügen von Wasserzeichen in ihre Lösungen integrieren können. Darüber hinaus ermöglicht es die neueste Version der C2PA-Spezifikationen, in den Metadaten anzugeben, dass der Datei ein Wasserzeichen hinzugefügt wurde.