Ethik und KI
Authors: Krotz Friedrich , Schelhowe Heidi 
Published: November 2024

Vor 80 Jahren, als die ersten funktionierenden Computer gebaut wurden, kam eine neue Art der Maschine auf die Welt: Sie konnte in gewisser Weise mit Symbolen und Zeichen operieren und beherrschte formale Logik und Mathematik. Es gab nur wenige davon, sie waren riesengroß und der Zugang war Wissenschaftler*innen vorbehalten. Die gesellschaftliche Bedeutung lag – wie Konrad Zuse es formulierte – darin, „dem Ingenieur stures Wiederholen von Rechengängen abzunehmen“ (Zuse 1993, S. 33) und den zuvor menschlichen ‚Computer‘ durch eine Maschine zu ersetzen. Die damalige Rede von ‚Elektronengehirn’ und ‚Denkmaschine’ lag nahe. Gleichzeitig aber regten diese Begriffe die Fantasie vieler Menschen an. Auch in Literatur, Kino und Fernsehen wurden immer neue Geschichten erzählt, die an den Potenzialen dieser Maschinen anknüpften – unabhängig davon, ob das realistisch war oder nicht.
Heute haben sich diese Maschinen als Laptops, Tablets, Smartphones, stationäre Kleincomputer und große Server, die im Hintergrund arbeiten, in riesiger Zahl über die Welt verbreitet. Sie haben sich in nahezu allen Lebens- und Arbeitsbereichen eingenistet, können im Prinzip von allen genutzt werden und sind in vielfacher Weise vernetzt. Parallel dazu entstand seit 1956 eine neue Wissenschaftsdisziplin, oft auch als Teildisziplin der Informatik verstanden, unter dem Titel ‚Künstliche Intelligenz‘ (KI). Sie arbeitet an computerbasierten Systemen, die Leistungen erbringen sollen, die bisher nur von Menschen erwartet worden sind: Schach spielen, Autos steuern, Gespräche führen, Muster und Gesichter erkennen, Spezialist*innen bei der Arbeit behilflich sein. Dialogsysteme wie Alexa, Siri, Cortanaund andere sind heute in vielen Haushalten in Gebrauch; immer mehr Bereiche menschlichen Alltags, auch von Ökonomie, Arbeit, Politik, Bildung, Wissenschaft und Forschung, werden von Computern und zunehmend auch von dieser sogenannten Künstlichen Intelligenz geprägt und durchdrungen. Ein Ende dieser Entwicklungen ist nicht abzusehen. Im Hinblick auf den Einsatz dieser KI werden viele Bereiche auch in neuer Weise organisiert: zum Beispiel die Arbeit in Fabriken und Verwaltung, die Diagnosen und Operationen in der Medizin, das Einkaufen, das Lernen und Vieles mehr.
Einigermaßen unklar ist allerdings, wohin diese Reise die Menschheit führt. Die Transformationen beinhalten wie jeder Wandel einerseits Vorteile und Chancen für das Zusammenleben der Menschen, zum Beispiel, wenn gefährliche oder unangenehme Arbeiten von Computern übernommen werden können oder neue Formen von Kommunikation und Information entstehen, an denen Roboter beteiligt sind. Sie beinhalten aber auch Risiken und Gefahren: Wie werden zukünftig Einkommen und Status verteilt, wenn immer mehr Jobs von KI übernommen werden? Wie wird garantiert, dass Kommunikation und Information nicht zu Manipulation und Beeinflussung werden? Wie kann verhindert werden, dass die Grundlagen der Demokratie durch datenbasierte Kontrolle und überlegene Technologien bedroht werden, die allein den ökonomischen Interessen großer IT-Konzerne folgen? Wo und von wem sollen die Entwicklungen kontrolliert und verantwortet werden?
Ein konkretes Beispiel für Vorzüge, aber auch Probleme ist die auf KI gestützte Entwicklung selbstfahrender Autos, die auf uns zukommt. Solche Automobile können dazu beitragen, dass verstopfte Städte, die sich immer deutlicher abzeichnende Umweltkatastrophe und die aus dem Ruder laufenden Bedingungen räumlicher Mobilität in neue und menschengerechtere Bahnen gelenkt werden, dass es weniger Unfälle gibt und dass die im Auto verbrachte Zeit sinnvoller genutzt werden kann. Dafür sind hervorragende und sichere KI-Programme unerlässlich, die mit menschlichen Kompetenzen vergleich-bare Fähigkeiten haben. Sie müssen mit ihren Sensoren und der Auswertung der darüber erlangten Daten menschliche Wahrnehmung ersetzen und unter den jeweiligen Bedingungen Gas geben, bremsen oder ausweichen – bei Menschen würde man sagen, entsprechende Entscheidungen treffen.
Mit den Algorithmen und der Technik alleine ist es aber nicht getan. Wer wird diese kommende Mobilität gesamtgesellschaftlich organisieren und betreiben – werden es Unternehmen wie VW und UBER sein, die den zukünftigen Verkehr organisieren, zwei Unternehmen, die nicht dafür bekannt sind, dass sie Recht und Gesetz einhalten, wenn es um ihre Gewinne geht? Oder wird die zukünf-tige Mobilität als öffentliche Daseinsfürsorge unter parlamentarischer Kontrolle organisiert – das ist bei einigen öffentlichen Infrastrukturen im (Nah-)Verkehr in einigen Ländern Europas teilweise noch der Fall, häufig wurden und werden solche Infrastrukturen aber wie bei der Wasserversorgung oder im Gesundheitsbereich im Zuge des Neoliberalismus mehr und mehr privatisiert.
Nicht klar ist auch, wie solche Autos mit den typischen, bisher meist nur von der Philosophie diskutierten Dilemmata umgehen: Der Wagen fährt auf einer Bergstraße, vor ihm erscheint plötzlich ein Kind, rechts geht es in den Abgrund – was geschieht, wenn das selbstfahrende Auto nicht mehr bremsen kann? Menschen entscheiden in solchen Situationen individuell und müssen für ihre Entscheidungen moralisch wie strafrechtlich geradestehen. Aber ist es denkbar, dass ein von einer Software gesteuertes Auto entscheidet, dass der Wagen sich und seine Passagiere in den Abgrund steuert, um das Kind zu retten? Oder verliert zukünftig immer das Kind?
Es gibt inzwischen zahlreiche Studien, die zeigen, dass manches auch schief gehen kann, wenn es Maschinen sind, die ‚entscheiden’ (vgl. hierzu allgemein Rath/Karmasin/Krotz 2019 und insbesondere Saurwein 2019): So hat Microsoft den Gesprächsroboter Tay entwickelt und eingesetzt, der sich nach ein paar Stunden des Dialogs mit Menschen zu antisemitischen Aussagen verstieg und Hitler positiv würdigte. In China wird die KI-basierte Gesichtserkennung von der Polizei in Fällen nicht-systemkonformen Verhaltens eingesetzt. Jedem Menschen dort wird auf Basis der über ihn gesammelten Daten ein Punktwert zugeordnet, der letztlich dessen gesellschaftlichen Wert ausdrücken soll und wonach entsprechend belohnt oder bestraft wird. In den USA wurde von der Justiz ein KI-Programm eingesetzt, das prognostizieren sollte, ob ein Strafgefangener, wenn er begnadigt würde, wohl rückfällig wird, also besser nicht zu begnadigen ist: Dieser Algorithmus wurde mit vorliegenden Daten trainiert. Im Endeffekt wurden die Aussichten für schwarze Häftlinge in der Regel wesentlich schlechter prognostiziert als für weiße. Algorithmen, die bei der Auswahl von Bewerber*innen für einen Job helfen sollten, bewerteten Frauen in der Regel schlechter, weil sie bisher seltener in Führungspositionen aufsteigen.KI wird derzeit vor allem von den großen Digitalunternehmen wie Facebook, Google, Apple, Amazon, Microsoft und Uber, aber auch von den Militärs vorangetrieben, mehr und mehr auch von chinesischen Unternehmen, die die Entwicklungsrichtungen bestimmen und entsprechende Instrumente und Methoden einsetzen. Heute werden so die Rahmenbedingungen für zukünftige Entscheidungen festgelegt.
Es sind Staat und Politik, die zunächst gefordert sind, diese Prozesse zu kontrollieren und zu regulieren, Rahmenbedingungen zu setzen und zu klären, welchen ethischen Kriterien Algorithmen zu folgen haben. Gleichzeitig ist es die Aufgabe von uns allen, diese Entwicklungen im Auge zu behalten. Schon heute sind wir alle durch die Daten, die wir in den unterschiedlichsten Kontexten an Soziale Netzwerke oder andere Datensammelsoftware preisgeben, an der Entwicklung moderner KI beteiligt. Ohne unser heutiges unbewusstes Zutun könnten die Algorithmen nicht ‚lernen’, sie entwickeln sich durch das Sammeln und Analysieren der von uns eingegebenen Daten und durch unsere Rückmeldungen. Moderne KI speist sich daraus und nur noch zu einem Teil aus intelligenten Algorithmen, die sich Entwickler*innen ausdenken. Oft ist bei den heutigen KI-Systemen nicht vollständig zu klären, wie sie zu ihren Ergebnissen kommen. Sie nutzen Formen ‚Maschinellen Lernens’, sodass die Muster, die aus der Interaktion mit Umwelt und Nutzer*innen abgeleitet sind, selbst für die Entwickler*innen nicht mehr nachvollziehbar sind. Wollen wir solche Entscheidungen? Brauchen wir nicht prinzipiell Kontrolle und Transparenz darüber, wie die Maschinen zu ihren ‚Entscheidungen’ kommen, um sie hinterfragen zu können? Müssen wir nicht auch die Konzerne und ihre Logik der Ökonomie im Auge behalten, die hinter der Entwicklung und Anwendung von KI stehen?
Es bedarf politischer und ethisch begründeter Entscheidungen, was KI darf und was nicht, wo sie eingesetzt wird und welche Bedingungen sie erfüllen muss. Diese wiederum dürfen nicht nur Staat und Wirtschaft untereinander aushandeln, vielmehr muss in einer gelebten Demokratie eine kontinuierliche öffentliche Diskussion darüber geführt werden, wie sie in Deutschland vom Ethikrat, in Europa von der Europäischen Kommission und dem Europäischen Parlament, weltweit auch von UNO und UNESCO begonnen wurde, aber bisher kaum eine breite Öffentlichkeit erreicht hat. Das Entstehen einer kritischen Öffentlichkeit, die sich mit diesen Fragen auseinandersetzt, ist entscheidend. Dazu müssen Bürger*innen zunächst über diese technologischen und ökonomischen Entwicklungen informiert werden, damit sie in der Lage sind, an den Entscheidungen mitzuwirken.
Eine Voraussetzung dafür, dass wir selbst in die Prozesse eingreifen, einen Rahmen setzen und sie mitgestalten können ist, dass wir uns unserer eigenen Beteiligung an der Schaffung der Digitalen Kultur durch unsere Interaktion bewusst werden, dass wir lernen zu verstehen, was da wann, wie und an welchen Orten passiert. Dies gilt insbesondere auch für die zukünftigen Generationen. Kinder und Jugendliche werden in durch die Technologie sehr veränderten sozialen und kulturellen Umgebungen aufwachsen, die von ihnen verstanden und durchschaut werden müssen. Sie müssen (weit mehr noch als die derzeitigen Erwachsenen) diese Entwicklungen verstehen, gestalten, kontrollieren und sie souverän verwenden können.
Damit ist das Schwerpunktthema des vorliegenden merz-Heftes angesprochen. Es geht um KI, um einen ethischen Rahmen für KI und darum, wie Lernen über KI stattfinden kann: Was kann KI, was soll KI, was darf KI, wohin soll die Reise mit KI gehen? Diese Themen müssen in die Medienpädagogik Einzug halten, weil sie von fundamentaler Bedeutung für unsere mediale Kultur und unseren Umgang mit den Medien sind.
Das Heft setzt sich mit diesen Themen eher grundlegend auseinander und versucht zu verdeutlichen, was hinter dem oft schon fast mystisch verwendeten Begriff der KI tatsächlich stattfindet und wie Medienpädagogik bzw. wie eine Pädagogik unter Bedingungen einer KI-Umwelt damit umgehen kann. Dabei soll es nicht darum gehen, Kinder und Jugendliche für ein Schritthalten mit den technologischen Entwicklungen fit zu machen. Ein amerikanisches Unternehmen, das einen Online-Kurs zu KI für Kids im Netz für 15 bis 240 Dollar – je nach Service – anbietet, wirbt für das Angebot: „Artificial intelligence and machine learning are going to become a huge part of our future. And kids need to be prepared for it. To make them AI-ready for the future, we’ve designed an online AI course for kids of the 21st-century“. Es wird versprochen, dass Kids durch den Kurs „fall in love with artificial intelligence“1. Darum geht es den Autor*innen dieses Heftes nicht. Sie wollen demgegenüber – auch spielerisch – Kenntnisse und Kompetenzen vermitteln, die junge Menschen befähigen, selbst zu urteilen und Verantwortung für die Zukunft zu übernehmen, statt sich an die von den Konzernen entwickelte KI anzupassen.
In einem ersten Aufsatz beschäftigen sich Serge Autexier und Heidi Schelhowe aus der Innensicht der Informatik in einer nachdenklichen Weise mit der Entstehung und der bisherigen Geschichte der KI. Sie erklären, was es mit der heutigen KI und ihrem rasanten Aufstieg unter dem Begriff des ‚Maschinellen Lernens’ auf sich hat und problematisieren die schlichte Datensammelwut und die automatisierte Erkennung von Mustern durch KI statt einer grundlegenden Entwicklung und Durchdringung der Algorithmen, durch die wissenschaftlicher Fortschritt und Transparenz erst möglich würden. Gleichzeitig weisen sie darauf hin, welche Vorstellungen vom ‚Lernen’ die KI von Anfang an prägen. Ein vom Konstruktivismus geprägter Ansatz von Lernen, so die beiden Autor*innen, würde auch eine andere Art der Anwendung und des Umgangs mit KI in Bildungskontexten bedeuten, anders als der Glaube, dass man mit der KI einem individualisierten Lernen gerecht werden könne.
Der dann folgende Text von Friedrich Krotz hinterfragt KI auf grundsätzliche Weise mit dem Ziel, einerseits die Diskussion zu versachlichen, andererseits um herauszuarbeiten, dass manche Entwicklungen in eine falsche Richtung gehen. KI ist in der hier eingenommenen Perspektive wesentlich damit beschäftigt, komplexe Hardware/Software-Systeme zur Bewältigung komplexer Aufgaben zu schaffen. Für solche Leistungen von Maschinen müssen aber noch eine angemessene Sprache und eine kontrollierte gesellschaftliche Einbettung gefunden werden – eine Vermenschlichung von Maschinen ist dafür nicht angebracht: Maschinen denken und entscheiden nicht, sie gehen auf eine maschinentypische Art mit Daten um. Als Problem benennt Friedrich Krotz, dass es derzeit vor allem die großen Digitalfirmen sind, die festlegen, wo und wie KI verwendet wird und wohin die derzeitige Entwicklung geht. Stattdessen wäre es notwendig, Systeme zu entwickeln, die für die Menschen, für Demokratie und Menschenrechte hilfreich sind.
Der dritte Aufsatz von Gudrun Marci-Boehnke und Matthias Rath beschäftigt sich schließlich mit KI und Ethik. Er geht von der Prämisse aus, dass die Leistungsfähigkeit von KI für das Wohl der Menschen nutzbar gemacht werden muss und dass dies auch die Erziehungsarbeit betrifft. Vor diesem Hintergrund werden Chancen, Probleme und Risiken der KI aus ethischer und pädagogischer Perspektive dargestellt und diskutiert. Als Schlüsselbegriff für die zukünftigen Diskussionen wird der Begriff der algorithmic literacy entwickelt, der an den bisher die Medienpädagogik prägenden Kompetenzkonzepten ansetzt.
Zwei weitere Beiträge gehen dann auf konkrete Projekte mit Kindern und Jugendlichen ein. Der erste Beitrag von Simone Opel, Lina Nordemann, Carsten Schulte und Claudia Tenberge entstand im Rahmen des ‚Wissenschaftsjahrs KI’ und befasst sich mit dem Simulationsspiel Mensch, Maschine!, mit dem Kinder und Jugendliche die Funktionsweisen von KI kennenlernen und konkret erfahren können, was Maschinen können und was nicht. Dazu wurden Materialien für Schüler*innen sowie für Lehrende entwickelt und bereitgestellt, die unterschiedliche Zugänge ermöglichen. Darüber hinaus werden Evaluationsergebnisse aufbereitet. Das Material ist konzipiert für den Schulunterricht, lässt sich aber aufgrund seiner Vielfalt sicherlich auch in der außerschulischen Jugendarbeit verwenden. Über webdaysmoocKI, ein Projekt der Fachstelle für Internationale Jugendarbeit der Bundesrepublik Deutschland e. V. (IJAB), berichten Janina Carmesin, Hannah Bunke-Emden und Kristin Narr. Es handelt sich um einen Online-Kurs zu KI für Jugendliche ab 14 Jahren. Die Materialien stehen dauerhaft zur Verfügung. Besonders interessant ist, dass der Kurs partizipativ zusammen mit Jugendlichen entwickelt wurde. Die Jugendlichen setzen sich mit KI in ihrem Alltag auseinander, stellen sich ethischen Fragen und bekommen einen Einblick in Entwicklungen der KI-Technologie weltweit.
Schließlich wird in einigen Auszügen auf weitere Materialien verwiesen. Dies sind einmal Auszüge aus dem Grundlagenpapier, das von der Ethik-Kommission, eingesetzt von der Bundesregierung, erarbeitet wurde. Es ermöglicht einen systematischen und kritisch reflektierenden Einstieg in die Thematik. Zum anderen sind es Ausschnitte aus einer von der UN veranstalteten Wissenschaftler*innenkonferenz von 2019, auf der ein Papier mit dem Titel 'Bejing Consensus on Artificial Intelligence and Education' erarbeitet wurde. Es macht die internationale Aufmerksamkeit für das Thema KI deutlich. Schließlich wird noch auf weitere Projekte und weiterführende Literatur verwiesen.Wenn die Autor*innen in den Beiträgen dieses Heftes sich in einem einig sind, dann ist es die Forderung nach einer fundamentalen Kompetenz, KI und deren ethische Implikationen begreifen zu lernen, was technologisches Wissen, Wissen um Daten und Algorithmen und die Fundamente der heutigen KI, aber auch grundlegende ethische Fragen umfasst, wie auch politischen und ökonomischen Durchblick erfordert. Klar ist, dass dieses Thema wohl nicht zum letzten Mal in der merz verhandelt werden wird.
Anmerkung 1 https://thestempedia.com