Berlin, 2022-09-08, Partei: spd
  Sehr geehrte Frau Präsidentin! Liebe Kolleginnen und  Kollegen! Verehrte Zuschauerinnen und Zuschauer! Der  Titel des vorliegenden Antrags von Herrn Rogat, das hat  er selber gesagt, scheint nicht nur etwas sperrig, er ist es  auch, „Verfahrensverzeichnis für automatisierte Entscheidungsprozesse in der Verwaltung“, mittlerweile  kann ich es auch auswendig, klingt mindestens nach  Behördendeutsch. Aber das Thema ist tatsächlich spannend und geht uns alle an. Das unterscheidet anscheinend  die Vorschläge der Berliner Freien Digitalen von der  Bundesmutter mit der Reinform BWLer – Christian  Lindner, vielen Dank!   Aber dass es für diesen Antrag insgesamt zu früh ist,  weiss Herr Rogat auch schon aus der Antwort auf die  Schriftliche Anfrage, die er gestellt hat, vom Frühjahr. Er  hat ja eben auch gesagt: Diese Entwicklung wird kommen. Und da nehmen wir selbstverständlich Herrn Rogat  im Ausschuss auch mit.   Zum Inhalt: Der vorliegende Antrag selbst handelt richtigerweise nicht nur von Entscheidungen, sondern generell von automatisierten Entscheidungs- und Verwaltungsprozessen, um es noch moderner zu sagen: von  künstlicher Intelligenz. Die ist dabei keineswegs Zukunftsmusik, sondern tatsächlich schon in Berlin angekommen. So werden in der Kulturverwaltung Dokumente  von einem solchen System digitalisiert, die Steuerverwaltung nutzt automatisierte Systeme, um einzuschätzen, ob  eine Steuererklärung plausibel und wie hoch das Risiko  für Missbrauch ist, und das Landeskriminalamt nutzt KISysteme zur Gesichtserkennung und für Sprach- und  Audioanalysen. Auch in der Senatsverwaltung für Integration, Arbeit und Soziales werden in verschiedenen  Fachverfahren Algorithmen zur Entscheidungsvorbereitung genutzt. Das war es aber auch schon nahezu. Nebenbei bemerkt, auch die Terminbuchung mit Doctolib hatte  nichts mit künstlicher Intelligenz zu tun.   Also allzu viel künstliche Intelligenz kommt in Berlin  noch nicht zum Einsatz, aber das weiss auch Herr Rogat  aus der Antwort vom Frühjahr. Zudem ist es auch lediglich eine Vorstufe von echter KI, denn bei den Entscheidungen in der Verwaltung geht es bisher fast immer nur  um das Ersetzen mühevollen Erkennens von Mustern. Es  nimmt also dem Menschen, dem Mitarbeitenden, mühevolle Arbeit ab und soll sozusagen die Trefferquoten  erhöhen. Als Beispiel nannte Kollege Schulze vorhin in  seiner Rede zur Open-Source-Strategie die Bewerberauslese bei Wohnungsbewerbern.  Bislang nicht umfasst ist daher die ganze Bandbreite an  lernender Software, die am Ende Sachen macht, die wir  vorher gar nicht programmiert haben. Wenn es soweit ist,  Herr Rogat, dann ist dieses vorgeschlagene Verzeichnis  natürlich nicht mehr Selbstzweck. Es ist dann, aber erst  dann, ein entscheidendes Kontrollinstrument dieser Algorithmen und dieser künstlichen Intelligenz in der Verwaltung. Das wird umso wichtiger sein, wenn in Zukunft  diese Systeme immer komplizierter und immer kompliziertere Dinge bearbeitet werden sollten. Folgerichtig hat  sich die rot-grüne-rote Koalition, wie Sie sicher alle wissen, dieses Ziel auch in den Koalitionsvertrag geschrieben, und es wurde auch in die Richtlinien der Regierungspolitik in Berlin übernommen.  Lassen Sie mich kurz erklären, warum wir beim automatisierten Entscheidungsprozess mit künstlicher Intelligenz  so vorsichtig sein müssen und die angestrebte Transparenz und die Kontrolle wichtig ist. Herr Rogat hat es  vorhin angedeutet: In der Realität lernen nämlich automatische Entscheidungsprozesse, ähnlich wie ein normaler  Sachbearbeiter, auch alle Vorurteile, und sie können  daneben liegen. So wird zum Beispiel das Programm  vielleicht bei einem nicht-urdeutschen Namen besonders  kritisch. Herr Rogat hatte das Beispiel aus Wien genannt.  Es könnte in der Zukunft ein Computer sein, der, ohne  dass wir es bewusst einprogrammiert haben und ohne  dass wir es später kontrollieren, einfache rassistische,  sexistische oder sonstige Vorurteile anwendet, denn diese  Systeme lernen blind. Ohne Kontrolle wird das nichts.  Deshalb ist öffentliche Kontrolle von uns so wichtig und  deshalb brauchen wir – wenn es soweit ist – ein Verzeichnis aller von der Verwaltung genutzten Algorithmen  und qualitätssichernder Prozesse, Tests und Dokumentationspflichten bei automatischen Entscheidungsprozessen.  Dabei brauchen wir aber das Rad nicht neu zu erfinden,  Berlin ist nämlich heute bereits Teil der Städtekoalition  für digitale Rechte, in der unter anderem Amsterdam und  Helsinki bereits entsprechende Register aufgebaut haben.