Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03472.jsonl.gz/3104

Nach wie vor bestimmt die Frage den öffentlichen Diskurs, wie sich KI-generierte Inhalte von menschlichen Werken unterscheiden lassen. Wer dabei auf Software gehofft hat, wird jedoch enttäuscht. KI-Detektoren sind weitestgehend nutzlos, wie ChatGPT-Entwickler OpenAI einräumt. Dabei hatte das Unternehmen selbst ein entsprechendes Tool angeboten – die Erfolgsraten scheinen allerdings überschaubar zu sein.
Veröffentlicht hat OpenAI dieses ernüchternde Ergebnis im Rahmen eines FAQ
für Lehrkräfte zum Schulstart. In diesem sollen Informationen rund um den Einsatz von ChatGPT in der Bildung an die Hand gegeben werden. Teil des FAQ ist zudem die Frage, ob KI-Detektoren funktionieren. Die klare Antwort von OpenAI
: "Kurz gesagt, nein." Zwar hätten einige (darunter auch OpenAI) Tools veröffentlicht, die vorgeben, KI-generierte Inhalte zu erkennen, "aber keines dieser Tools hat sich als zuverlässig erwiesen, um zwischen KI-generierten und von Menschen erstellten Inhalten zu unterscheiden".
Darüber hinaus schreibt OpenAI
, dass auch ChatGPT nicht über die Fähigkeit verfüge, KI-generierte Inhalte zu erkennen. "Es erfindet manchmal Antworten auf Fragen wie ‘Haben Sie diesen [Aufsatz] geschrieben?’ oder ‘Könnte dies von einer KI geschrieben worden sein?’. Diese Antworten sind willkürlich und entbehren jeglicher Grundlage."
Von entsprechenden Detektoren könnte gar ein Risiko ausgehen. OpenAI weist darauf hin, dass die Programme in einigen Fällen suggerieren, dass von Menschen geschriebene Inhalte von KI generiert wurden. So habe das eigens entwickelte Tool beispielsweise Shakespeare-Texte entsprechend bewertet. Darüber hinaus gab es Hinweise darauf, dass dies unverhältnismässig grosse Auswirkungen auf Schüler haben könnte, die Englisch als Zweitsprache gelernt haben oder lernen, sowie auf Schüler, deren Texte besonders formelhaft oder prägnant sind. Und selbst wenn die Tools KI-generierte Inhalte genau identifizieren könnten ("was sie noch nicht können"), haben die Schüler die Möglichkeit, schlicht kleine Änderungen vorzunehmen, um die Erkennung zu umgehen.
(sta)