Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03286.jsonl.gz/1782

Seit der Lancierung von ChatGPT Ende November 2022 durch OpenAI wird die Frage nach den gesellschaftlichen und kulturellen Auswirkungen von Chatbots, die auf ‚Large Language Models‘ beruhen und mit dem Begriff der ‚Künstlichen Intelligenz‘ belegt werden, breit und kontrovers diskutiert. Verortet man die aktuellen Diskussionen im Kontext einer Geschichte des Schreibens, kann zunächst Folgendes festgehalten werden: 1) Automatismen spielten fürs Schreiben seit jeher – und sei es nur zur Übung, etwa beim Erlernen einer Schrift – eine wichtige Rolle. 2) Was einen Automatismus auszeichnet, hängt hochgradig davon ab, was genau schreibend ‚von selbst‘ geschieht, wie dies passiert, welches Element oder welchen Verbund man in diesem Prozess als ‚Selbst‘ bestimmen kann – und welche Rolle menschliche Subjekte im Prozess einer jeweiligen Automatisierung spielen (oder nicht).
Diese Fragen sind zentral für jede Analyse von Automatismen in Schreibprozessen, also auch im Umgang und in der Auseinandersetzung mit ChatGPT in seinen unterschiedlichen Versionen sowie mit verwandten Chatbots. Geht man wie in der Schreibprozessforschung der vergangenen zwei Jahrzehnte davon aus, dass Schreiben stets in einem Wechselverhältnis von a) technisch-medialen, b) körperlich-gestischen und c) sprachlich-semantischen Anteilen stattfindet, stellt sich zudem die Frage, ob oder wie sehr man ein bloß maschinelles Prozessieren (im medientechnischen Sinn) von Text überhaupt noch als Schreibprozess bestimmen möchte. Die Frage nach dem Wie der körperlichen Involvierung – und damit zusammenhängend: der an Sinn und Sinnlichkeit gekoppelten Erfahrungsdimension – dürfte sich noch als zentral herausstellen.
In seiner vor wenigen Monaten erschienenen umfangreichen Studie Die Automatisierung des Schreibens & Gegenprogramme der Literatur hat Philipp Schönthaler die wichtigsten Stationen einer Geschichte des automatisierten Schreibens benannt – sofern man unter ‚Automatisierung‘ primär eine technische Automatisierung versteht, die auf menschliche Subjekte und Körper (zumindest weitgehend oder dem Ideal nach) verzichten kann: Bereits Raimund Llull (1232-1316) entwickelte eine Kombinatorik, die auf Algorithmen beruht und ein automatisches Schreiben dem Prinzip nach denkbar machte; die historischen Avantgarden, Alan Turing (1912-1954), Max Bense (1910-1990) und die jüngsten Entwicklungen mit ‚Künstlicher Intelligenz‘ setzen an diesem Punkt an und entwickeln ihre Automatismen in jeweils unterschiedliche Richtungen und mit zunehmender Integration potenter Hard- und Software im Verbund mit gigantischen Datenbanken fort.
écriture automatique
Bleiben wir zuerst bei den historischen Avantgarden, beim Surrealismus, der sich in den frühen 1920er Jahren in Paris formierte: Als André Breton zusammen mit Philippe Soupault im Frühling 1919 die ersten Experimente in écriture automatique unternahm, bestand der Automatismus in einem Schreiben, das sich ‚von selbst‘ aus einer Verschaltung von verstandesmäßig nicht kontrollierten Wortassoziationen mit der Bewegung der Hand ergeben sollte.
Was die Surrealisten dabei konkret zutage förderten, war allerdings nicht einfach ein Innerliches und Unbewusstes (der Bezug auf Sigmund Freud erfolgte prompt), sondern im Grunde Wortabfall, der sich im Unbewussten allenfalls ansammelte und sich von dort aus, mehr oder weniger ungeordnet, aufs Papier übertragen ließ. Systematisch bedeutet dies: Je nachdem, wie stark in diesen Prozess eine ordnende Subjektivität (oder etwas anderes?) eingreift, den unbewussten Automatismus also eigentlich stört, ändert sich der Prozess ebenso wie das Produkt des Schreibens: das Geschriebene, der Text.
Den Begriff der écriture automatique übernahm Breton aus der Psychiatrie des späten 19. Jahrhunderts (Pierre Janet). Allerdings ging es Breton nicht darum, angebliche Pathologien abgespaltener Persönlichkeitsmerkmale aufzuzeichnen. Sondern der Vorsatz bestand darin, unter möglichst weitgehender Ausschaltung des Verstandes zu einem Rohzustand der Poesie zu gelangen.
Der Automatismus war ein psychischer Automatismus und somit im schreibenden Subjekt verortet. Dabei wurden die – möglichst rasch und ohne Zensur durch den Verstand – hingeschriebenen Wörter auch in der écriture automatique keineswegs von den Schreibern erfunden, sondern sie wurden bloß aneinandergereiht und – mit deutlich gelockertem Bezug zur Semantik – auf dem Papier arrangiert.
Automatismen dies- und jenseits des Subjekts
Die Kritik an einem traditionellen Subjekt des Schreibens, das im Bereich der Literatur im Geniegedanken des ausgehenden 18. Jahrhunderts zu seinem Höhepunkt gelangte, findet in der surrealistischen écriture automatique ihrerseits zu einem Höhepunkt: Wer schreibt, muss nicht nur nicht Herr seiner Gedanken und Intentionen sein, es geht vielmehr gerade darum, das Bewusstsein in diesem Prozess möglichst auszuschalten. Dass dies jedoch selbst in der écriture automatique nicht ganz gelang, machen unter anderem die Korrekturen deutlich, die Breton am Manuskript seines zusammen mit Soupault unternommenen Experiments der champs magnétiques vornahm. Ein ordnendes Begehren und somit eine nicht komplett ausgeschaltete Subjektivität lassen sich also auch in den surrealistischen Experimenten noch beobachten. Wer schreibt, so lässt sich insgesamt aus diesen Experimenten folgern, involviert ‚sich‘ nolens volens in den Prozess.
Doch was passiert, wenn dieser Prozess durch Automatismen bestimmt wird, die – um Text prozessieren zu können – tatsächlich nicht oder nur am Rande auf Subjekte angewiesen sind? Dass Schreiben noch nie einfach aus dem Inneren eines Subjektes heraus geschah, sondern Übung, Technik und Tradition (oder zumindest Tradierbarkeit) voraussetzte, ist nicht neu. Aber was ein bloßes Prozessieren von Text von einem Schreibakt unterscheidet, ist die Verzichtbarkeit involvierter Subjekte.
Führt man diesen Gedanken weiter bis an den Punkt, an dem nicht nur ausschließlich Maschinen Texte prozessieren, sondern die prozessierten Texte wiederum (falls überhaupt) ausschließlich von Maschinen ‚gelesen‘ – d.h. rezipiert und verarbeitet – werden, gerät man …
… nun ja, wohin denn? In einen unheimlichen Bereich, in dem menschliche Subjekte mitsamt ihren Körpern überflüssig werden. Oder doch nicht ganz? Ein Blick zurück in die Geschichte der Schreibautomatismen macht deutlich, dass die Faszination für diesen Bereich zwar immer wieder groß war. Auch die nicht von ungefähr am Begriff der écriture orientierte ‚poststrukturalistische‘ Subjektkritik setzte hier an, so etwa Roland Barthes in seinem berühmten Aufsatz zum „Tod des Autors“ (1968): „Das Schreiben/die Schrift (écriture), das ist […] das Schwarzweiß, in dem sich jede Identität zu verlieren beginnt, angefangen bei derjenigen des schreibenden Körpers selbst.“
mediales Schreiben
Aber selbst und gerade bei Barthes lässt sich zeigen, wie sehr die aus guten Gründen betriebene Subjektkritik auf eine – neuartige – Subjektkonzeption zurückschlägt (und nicht nur auf die Konzeption). In seinem Aufsatz „Schreiben, ein intransitives Verb?“ (1966/1970) entwirft Barthes das Konzept eines ‚medialen‘ Schreibens, in dem das „Subjekt“ sich „zeitgleich zum Schreiben konstituiert“, durch den Prozess jedoch ebenso gleichzeitig „in Mitleidenschaft“ gezogen wird. In vergleichbarer Weise spricht Philipp Schönthaler in seinem Buch zur Automatisierung des Schreibens davon, dass die „Agency“ eines Autors oder einer Autorin im Kontakt mit unterschiedlichen Formen und Techniken der Automatisierung nicht „einseitig im Subjekt als Zugrundeliegendes (gr. hypokeímenon) oder Unterworfenes (lat. subiectum) zu identifizieren“ sei.
Man könnte auch sagen: Entscheidend ist, wie die Interaktion menschlicher Subjekte (auch deren Formierung und Destabilisierung) mit Automatismen des Schreibens stattfindet, sofern diese Automatismen als technisch bewerkstelligte in einem Schreibprozess mit im Spiel sind. Welche Art von Agency wird durch einen Automatismus nahegelegt, provoziert, verhindert?
Das Problem der Delegation
Geht man davon aus, dass Schreiben eine Form des Denkens und des Handelns, ja sogar des Fühlens ist (die Betonung liegt auf Form), dann tut man gut daran, die Delegation an die Maschine nicht unhinterfragt als wünschenswert zu begreifen. Damit ist nicht gesagt, dass es nicht auch Texte gibt und geben sollte, die automatisch und maschinell prozessiert werden (Bankauszüge zum Beispiel). Aber überall dort, wo Schreiben als eine zugleich geistige und körperliche Tätigkeit stattfindet, für die ein menschliches Subjekt in bestimmten sozialen, technischen, medialen, politischen und historisch geprägten Umfeldern und Situationen Verantwortung übernimmt (beglaubigt etwa durch Signatur), stellt sich die Frage nach den Interaktionsmöglichkeiten, die durch einen Automatismus offeriert oder verhindert wird.
Zu Recht spricht Hannes Bajohr mit Blick auf Chatbots wie ChatGPT und die dahinterstehenden Firmen von einer „drohende[n] Bündelung von Sprachtechnologie“. Denn solange nicht offengelegt wird, wie die Algorithmen programmiert sind und an welchen Datenbanken sie hängen (also auf welchen ‚Quellen‘ sie beruhen), ist man mit einem Output konfrontiert, dessen Qualität man höchstens indirekt erschließen kann.
Um diese Qualität ermessen und auch kritisieren zu können, braucht es nicht nur ein Knowhow im Umgang mit Chatbots, sondern auch ein Wissen um deren Funktionsweise, die im Wesentlichen auf statistisch errechneten Wahrscheinlichkeiten beruht. Leif Weatherby, Gründungsdirektor des Digital Theory Lab an der New York University, ging in einem vielbeachteten Paper sogar so weit zu sagen: „ChatGPT Is an Ideology Machine“.
Ob das so sein muss? Hoffentlich nicht. Das Wechselspiel von Überlieferung, Medientechnik, Verkörperung, Subjektivität und Konzeptbildung hat in der Geschichte des Schreibens auch und gerade im Kontakt mit entsprechenden Automatismen zu ganz unterschiedlichen Präferenzbildungen geführt. Ich neige dazu, diese Vielfalt als ein nicht nur erinnerungswürdiges, sondern weiter zu entwickelndes und zu erarbeitendes Gut zu begreifen. Eine entscheidende Rolle werden in der künftigen Arbeit an und mit Chatbots die Vorgänge des Programmierens, des Promptens und des Problematisierens spielen.
Programmieren, Prompten, Problematisieren
Zwischen dem Programmieren, dem Prompten (dem Input einer Aufforderung) und dem Problematisieren (des Outputs und alles dessen, was zu ihm hinführte) eröffnet sich ein Feld der Interaktion, das offensiv genutzt werden sollte. Allerdings muss man dazu auch lesen können: lesen können nicht nur, was eine Maschine ausgibt, sondern auch, was sie antreibt (ökonomisch, politisch, ideologisch), was sie verschweigt und was sie an Wissen bestätigt oder verfälscht, ins Unüberprüfbare verschiebt. Das Lesen – auch und gerade in der Verwendung von maschinell prozessiertem Text – erweist sich als ein Akt der Verantwortung. Das Schreiben – sofern es noch die Signatur von Menschen tragen soll – sowieso. Verantwortung ist, was Maschinen nicht übernehmen können.
„Was nie geschrieben wurde, lesen“, so lesen wir bei Hugo von Hofmannsthal. An maschinell prozessierte und insofern nicht geschriebene, sondern bloß kalkulierte Texte wird er dabei wohl nicht gedacht haben. Aber gerade bei diesen stellt sich die Frage nach dem Lesen, nach dem Wie des Lesens. Denn Chatbots sind ihrerseits nicht nur Produktions-, sondern auch Rezeptionsmaschinen. Sie sind mit Daten gefüttert, die ausgelesen und – reguliert – in einen Output transformiert werden. Dieses ‚Lesen‘ zu lesen, gehört mit zu einem Schreiben, das den involvierten Automatismen gegenüber nicht blind ist.