Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03317.jsonl.gz/1712

Eine aggressive Alternative zur Blockade von KI-Crawlern ist das «Vergiften» der dahinterliegenden KI-Modelle. Was bedeutet das?
Viele Daten aus Webseiten, Büchern und Grafiken sind bereits in die KI-Modelle geflossen. Ob dies urheberrechtskonform geschehen ist und was das für daraus generierte Outputs bedeutet: Das ist immer noch ein juristisch unklares Feld. Aktuell scheint die Devise zu sein: «Move fast and break things».
Einigen Künstlern (und Wissenschaftlern) scheint das nicht zu gefallen, sie wollen mehr. Vielleicht sogar sowas wie Rache. Und daher:
Wie vergifte ich eine KI?
Machen wir das doch Schritt für Schritt:
Was macht der Urheber?
- Ein Urheber, nennen wir ihn Urs, hat ein grafisches Werk geschaffen (Foto, Bild, …).
- Urs will das Werk vielleicht sogar ins Internet stellen. Er hat aber keine Lust, es generativen Bild-KIs wie DALL•E, StableDiffusion oder MidJourney zur Verfügung zu stellen.
- Urs vertraut nicht darauf, dass die Crawler dieser generativen KIs das Bild auf seiner Webseite oder anderswo nicht doch indexieren.
- Er ist aber bereit, für seine Internet-Repräsentation des Werks eine kleine Qualitätseinbusse hinzunehmen.
- Er nutzt einen Software, welche sein Bild mit einem leichten Rauschen unterlegt, mit dem Zweck, dass die Lernmechanismen der KIs dieses Bild dann als etwas anderes erkennen (wie hier: Da wird ein Faultier unmerklich so modifiziert, dass die ML-Klassifikation es nachher als Rennauto zu erkennen glaubt).
Beispielsweise kann eine Katze so modifiziert werden, dass sie als Hund erkannt würde.
Was macht das KI-System beim Lernen?
Für jedes vom Crawler gefundene Bild lauft (sehr vereinfacht) eine Variante dieses Workflows ab:
- Das Bild bzw. Teile davon werden an eine Bilderkennungssoftware (auf Basis von Maschinellem Lernen) weitergegeben.
- Diese Bilderkennungssoftware versieht das Bild mit Labeln, welche die erkannten Objekte bezeichnen („labelling“).
- Die so gelabelten Ausschnitte werden als paar trainiert.
Wenn die Katze als Hund erkannt wird, wird ihr Bild mit den Bildern aller Hunde vermischt, d.h. das Modell hat dann in seinem mit „Hund“ betitelten Bereich sowohl Bilder von Hunden als auch von Katzen.
Was macht das KI-System beim Generieren von Bildern?
- Wenn ein bestimmtes Objekt gewünscht ist (beispielsweise ein Hund), werden die Muster aus dem mit entsprechend betitelten Bereich abgerufen.
- Daraus wird ein Teil des gewünschten Bildes erzeugt.
Falls also jemand einen „Hund“ wünscht, kommt — je nach Verhältnis zwischen echten und „falschen“ Hunden im „Hunde“-Bereich — eine Grafik heraus, die mehr wie ein Hund oder mehr wie eine Katze aussieht. Wenn genügend viele falsche Trainingsdaten gefüttert wurden, resultieren ganz schlechte Resultate.
Der KI-Bildgenerator wurde vergiftet.
Quellen
- Neil Clarke: Block the Bots that Feed „AI“ Models by Scraping Your Web Site, 2023-08-23.
- Benj Edwards: University of Chicago researchers seek to “poison” AI art generators with Nightshade, 2023-10-25, Ars Technica.
- The Glaze Team: What is Glaze?, 2023.
Verwandte Artikel von mir
- Webseiten für KI-Crawler sperren?
Mehr Information zu den Sperrmöglichkeiten, inklusive der KI-Vergiftung.
- Wie funktioniert ChatGPT?
Ein Einblick in die Technik hinter Sprachmodellen und generativer KI ganz allgemein (kurz: es ist geschreddertes Internet, nach statistischen Mustern neu zusammengesetzt).
- Machine Learning: Künstliche Faultier-Intelligenz
Wie funktioniert maschinelles Lernen, inkl. Bilderkennung.
- Reproduzierbare KI: Ein Selbstversuch
Eine leichte Einführung in KI-Bildgeneratoren an Beispielen.
- Identifikation von KI-Kunst
Wie kann man KI-Kunst erkennen? Was sind die Fehler?
- Wegweiser für generative KI-ToolsEs gibt inzwischen eine grosse Anzahl generativer KI-Tools, nicht nur für den Unterricht. Hier ein Überblick über verschiedene Tool-Sammlungen.
- KI-VergiftungEine aggressive Alternative zur Blockade von KI-Crawlern ist das «Vergiften» der dahinterliegenden KI-Modelle. Was bedeutet das? Viele Daten aus Webseiten, Büchern und Grafiken sind bereits … Weiterlesen: KI-Vergiftung
- Lehrerverband, ChatGPT und DatenschutzDer Dachverband der Lehrerinnen und Lehrer (LCH) sei besorgt, dass es in der Schweiz keine einheitliche Regelung gäbe, wie Lehrpersonen mit Daten ihrer Schützlinge umgehen … Weiterlesen: Lehrerverband, ChatGPT und Datenschutz
- «Recht auf Vergessenwerden»: Ende durch KI?Das Recht auf Vergessenwerden soll Menschen erlauben, dass Daten über sie nicht unnötig lange digital gespeichert oder verfügbar gemacht werden. Doch KI vergisst nicht gerne. … Weiterlesen: «Recht auf Vergessenwerden»: Ende durch KI?
- Webseiten für KI-Crawler sperren? [Update]Der grösste Teil der Texte, auf denen moderne KI-Sprachmodelle trainiert wurden, stammen von Webseiten. Wenn Sie eine haben, dann vermutlich auch von Ihrer. Was kann … Weiterlesen: Webseiten für KI-Crawler sperren? [Update]
- KI und die Arbeitswelt der ZukunftMichael Seemann hat in rund 100 sehr gut lesbaren Seiten das Wichtigste zusammengefasst, was wir über ChatGPT & Co wissen. Und ein paar Szenarien für … Weiterlesen: KI und die Arbeitswelt der Zukunft
- Todesstoss für ChatGPT & Co?Die New York Times verhandelt schon länger mit OpenAI über Urheberrechtsabgaben. Laut Berichten hat OpenAI für das Training von ChatGPT unautorisiert Materialien der New York … Weiterlesen: Todesstoss für ChatGPT & Co?
- Sinkt OpenAI?Schlagzeilen machen die Runde, dass OpenAI, die Firma hinter ChatGPT, schon nächstes Jahr Konkurs gehen könnte. Ein Versuch einer Analyse.
- Goethe oder GPThe?In «Wie funktioniert ChatGPT?» habe ich die Experimente von Andrej Karpathy mit Shakespeare-Texten wiedergegeben. Aber funktioniert das auch auf Deutsch? Zum Beispiel mit Goethe? Finden … Weiterlesen: Goethe oder GPThe?
- KI: Alles nur Zufall?Wer von einer «Künstlichen Intelligenz» Texte oder Bilder erzeugen lässt, weiss, dass das Resultat stark auf Zufall beruht. Vor Kurzem erschien in der NZZ ein … Weiterlesen: KI: Alles nur Zufall?
- Hype-TechWieso tauchen gewisse Hype-Themen wie Blockchain oder Maschinelles Lernen/Künstliche Intelligenz regelmässig in IT-Projekten auf, obwohl die Technik nicht wirklich zur gewünschten Lösung passt? Oder es … Weiterlesen: Hype-Tech
- 📹 Die Technik hinter ChatGPTDer Digital Learning Hub organisierte 3 Impuls-Workshops zum Einsatz von ChatGPT in der Sekundarstufe II. Im dritten Teil präsentierte ich die Technik hinter ChatGPT. In … Weiterlesen: 📹 Die Technik hinter ChatGPT
- «Jaw Dropping» ChatGPT-Vortrag«Jaw Dropping» sei es gewesen, meinte ein Zuhörer am Schluss des Vortrags: Ihm sei der Kiefer heruntergerutscht, als er begriffen habe, wie (vom Prinzip her) … Weiterlesen: «Jaw Dropping» ChatGPT-Vortrag
- Ist ChatGPT für Ihre Anwendung ungefährlich?Ob man KI-Chatbots sicher einsetzen kann, hängt von der Anwendung ab. Aleksandr Tiulkanov hat deshalb ein Flussdiagramm als Entscheidungshilfe erstellt. Hier eine deutsche Übersetzung und … Weiterlesen: Ist ChatGPT für Ihre Anwendung ungefährlich?
- 🧑🏫 Vortrag zu KI-Chatbots: Revolution und wohin?Kaum noch ein Tag vergeht ohne neue Nachrichten, wie uns «Künstliche Intelligenz» (KI) in Zukunft helfen oder ersetzen soll. Insbesondere Chatbots sollen unsere Welt revolutionieren: … Weiterlesen: 🧑🏫 Vortrag zu KI-Chatbots: Revolution und wohin?
- Kurs: KI+ChatGPT verstehen, anwenden, erkennenNachdem laut Bericht der SRF insbesondere bei Lehrerinnen und Lehrern hoher Bedarf am Verstehen von ChatGPT und anderen künstlichen Intelligenzen besteht, habe ich mein gesammeltes … Weiterlesen: Kurs: KI+ChatGPT verstehen, anwenden, erkennen
- Wie funktioniert ChatGPT?ChatGPT ist wohl das zur Zeit mächtigste Künstliche-Intelligenz-Sprachmodell. Wir schauen etwas hinter die Kulissen, wie das „large language model“ GPT-3 und das darauf aufsetzende ChatGPT … Weiterlesen: Wie funktioniert ChatGPT?
- Die KI ChatGPT und die Herausforderungen für die GesellschaftWas lange währt, wird endlich, äh, published. Mein neuer DNIP-Artikel zu ChatGPT ist online, in drei Teilen:
- Identifikation von KI-KunstKI-Kunst ist auf dem Vormarsch, sowohl was die Qualität als auch die Quantität betrifft. Es liegt (leider) in der menschlichen Natur, einiges davon als echte … Weiterlesen: Identifikation von KI-Kunst
- Die Lieblingsfragen von ChatGPTEntmutigt durch die vielen Antworten von ChatGPT, es könne mir auf diese oder jene Frage keine Antwort geben, weil es nur ein von OpenAI trainiertes … Weiterlesen: Die Lieblingsfragen von ChatGPT
- Wie funktioniert Künstliche Intelligenz?Am vergangenen Mittwoch habe ich im Rahmen der Volkshochschule Stein am Rhein einen Überblick über die Mächtigkeit, aber auch die teilweise Ohnmächtigkeit der Künstlichen Intelligenz … Weiterlesen: Wie funktioniert Künstliche Intelligenz?
- Künstliche Intelligenz — und jetzt?Am 16. November 2022 halte ich einen öffentlichen Vortrag zu künstlicher Intelligenz an der VHS Stein am Rhein. Sie sind herzlich eingeladen. Künstliche Intelligenz ist … Weiterlesen: Künstliche Intelligenz — und jetzt?
- Reproduzierbare KI: Ein SelbstversuchIm NZZ Folio vom 6. September 2022 beschrieb Reto U. Schneider u.a., wie er mit DALL•E 2 Bilder erstellte. Die Bilder waren alle sehr eindrücklich. Ich … Weiterlesen: Reproduzierbare KI: Ein Selbstversuch
- Machine Learning: Künstliche Faultier-IntelligenzMachine Learning („ML“) wird als Wundermittel angepriesen um die Menschheit von fast allen repetitiven Verarbeitungsaufgaben zu entlasten: Von der automatischen Klassifizierung von Strassenschilden über medizinische … Weiterlesen: Machine Learning: Künstliche Faultier-Intelligenz