Bewertung und Umgang mit Künstlicher Intelligenz (KI) in der Stadtverwaltung und Stadt Leipzig
Stadt: leipzig
Drucksache: VII-DS-09934
Datum: 2024-12-16
Vorlagenart: Beschlussvorlage

1/10 
 
 
Dienstberatung des 
Oberbürgermeisters 
 
 
 
Beschlussvorlage-Nr. VII-DS-09934 
 
Status: öffentlich 
 
Eingereicht von: 
Dezernat Allgemeine Verwaltung 
Dezernat Wirtschaft, Arbeit und Digitales 
 
 
Betreff: 
Bewertung und Umgang mit Künstlicher Intelligenz (KI) in der 
Stadtverwaltung und Stadt Leipzig 
 
 
Beratungsfolge (Änderungen vorbehalten): 
Gremium 
Voraussichtlicher 
Sitzungstermin 
Zuständigkeit 
   
DB OBM - Vorabstimmung  Vorberatung 
Dienstberatung des Oberbürgermeisters  Beschlussfassung 
FA Allgemeine Verwaltung 14.01.2025 Information zur 
Kenntnis 
FA Wirtschaft, Arbeit und Digitales 21.01.2025 Information zur 
Kenntnis 
 
 
Beschlussvorschlag 
Beschluss des Oberbürgermeisters vom 10.12.2024: 
1. Die Stadt Leipzig setzt künstliche Intelligenz gezielt ein, um die Arbeitsabläufe in der 
Stadtverwaltung effizienter zu gestalten. Die Leitlinie (Anlage 1) zum Umgang mit 
Künstlicher Intelligenz (KI) in der Stadtverwaltung gibt dem Einsatz dieser neuen 
Technologie einen Rahmen. 
 
2. Das Amt für Digitalisierung und Organisation führt ein KI-Register zur Erfüllung der 
Anforderungen aus dem EU AI Act ein, in dem jede neu einzuführende KI-
Anwendung verzeichnet wird. Die Anwendungen werden nach Risikoklassen 
bewertet und im Amt für Digitalisierung und Organisation (IT-Architekturboard) 
vorgestellt und bewertet. 
 
3. Jedes Dezernat soll mindestens einen Prozess identifizieren, der durch den Einsatz 
von Künstlicher Intelligenz oder Automatisierung digitalisiert werden kann. Der Fokus 
liegt dabei auf Masseverfahren, also Vorgängen mit einer hohen Bearbeitungsrate. 
Das Amt für Digitalisierung und Organisation wird beauftragt, bis Mitte 2025 einen 
Prozess aufzusetzen, die Dezernate dafür zu befähigen. 
 
4. Das Amt für Digitalisierung und Organisation informiert in Zusammenarbeit mit dem 
Referat Digitale Stadt regelmäßig in der DB OBM zum Einsatz von KI in der 
Stadtverwaltung Leipzig. 
 
Räumlicher Bezug 
entfällt 
 
Zusammenfassung 
 
KI als Technologie bietet der Stadtverwaltung viele Chancen. Durch einen bewussten und 
1 von 18 in Zusammenstellung
2/10 
 
kontrollierten Einsatz können Effizienzen gesteigert und Mitarbeiterinnen und Mitarbeiter 
entlastet werden. Bei Wegfall von wiederkehrenden Aufgaben durch Automatisierung, 
kann der Fokus mehr auf Arbeit am Menschen oder auf Ausnahmefälle gelegt werden. 
 
Die Vorlage stellt der Stadt Leipzig eine KI-Leitlinie zur Verfügung, die für die kommenden 
Jahre handlungsleitend sein soll. Ferner zeichnet sie einen ersten Entwurf für 
Bewertungskriterien von KI-Anwendungen, die im praktischen Umgang weiterentwickelt 
werden, definiert den Auftrag zur Führung eines KI-Registers und die beschreibt 
Zuständigkeiten. 
 
Treiber für die Entstehung dieser Vorlage ist die zwingende Notwendigkeit der 
Automatisierung und Teilautomatisierung von komplexen sowie hochstandardisierten 
Verfahren. Damit soll eine bessere Effizienz der Verfahren erreicht, zunehmende 
Schwierigkeiten bei der Fachkräftegewinnung ausgeglichen, nachlassende 
Arbeitszufriedenheit durch dauerhaft anhaltende Überlastung kompensiert werden. 
 
Der Einsatz von KI-gestützten Verfahren in konkreten, stark repetitiven Prozessschritten 
soll durch diese Vorlage ermöglicht und unterstützt werden. Die Diskussion über KI hat 
bereits zu einigen konkreten Anwendungsfällen geführt. Die Stadtverwaltung setzt KI 
vorrangig zur Entlastung der Beschäftigten von einfachsten Aufgaben ein. 
 
Fazit aus der Beobachtung der Fachliteratur und dem Austausch in Facharbeitskreisen 
zeigt: Generative KI kann in Stadtverwaltungen eingesetzt werden. Die Frage ist nicht 
mehr, ob, sondern wie, für welche Aufgaben, unter welchen rechtlichen Bedingungen und 
welche Lösungen passgenau sind. 
 
  Rechtliche Vorschriften   Stadtratsbeschluss x  Verwaltungshandeln 
 
  Sonstiges: 
 
 
Finanzielle Auswirkungen 
Finanzielle Auswirkungen X nein  wenn ja, 
Kostengünstigere Alternativen geprüft X nein  ja, Ergebnis siehe Anlage zur Begründung 
Folgen bei Ablehnung  nein X ja, Erläuterung siehe Anlage zur Begründung 
Handelt es sich um eine Investition (damit aktivierungspflichtig)? X nein  ja, Erläuterung siehe Anlage zur Begründung 
  
Im Haushalt wirksam von bis Höhe in EUR wo veranschlagt 
Ergebnishaushalt Erträge     
 Aufwendungen     
Finanzhaushalt Einzahlungen     
 Auszahlungen     
Entstehen Folgekosten oder Einsparungen?  nein  wenn ja, nachfolgend angegeben 
 
Folgekosten Einsparungen wirksam von bis Höhe in EUR/Jahr wo veranschlagt 
Zu Lasten anderer OE Ergeb. HH Erträge     
 Ergeb. HH Aufwand     
Nach Durchführung der 
Maßnahme zu erwarten Ergeb. HH Erträge     
 Ergeb. HH Aufwand (ohne 
Abschreibungen)     
 Ergeb. HH Aufwand aus 
jährl. Abschreibungen      
    
Steuerrechtliche Prüfung   nein  wenn ja 
Unternehmerische Tätigkeit i.S.d. §§ 2 Abs. 1 und 2B 
UStG   nein  ja, Erläuterung siehe Punkt 4 des Sachverhalts 
2 von 18 in Zusammenstellung
3/10 
 
Umsatzsteuerpflicht der Leistung   nein  ja, Erläuterung siehe Anlage zur Begründung 
Bei Verträgen: Umsatzsteuerklausel aufgenommen   ja  nein, Erläuterung siehe Anlage zur Begründung 
 
Auswirkungen auf den Stellenplan X nein  wenn ja, nachfolgend angegeben 
Beantragte Stellenerweiterung:  Vorgesehener Stellenabbau:  
 
 
Ziele 
Hintergrund zum Beschlussvorschlag: 
Welche strategischen Ziele werden mit der Maßnahme unterstützt? 
  
 
2030 – Leipzig wächst nachhaltig! 
Ziele und Handlungsschwerpunkte 
Leipzig setzt auf  
Lebensqualität 
Leipzig besteht im  
Wettbewerb 
 Balance zwischen 
Verdichtung und Freiraum 
 Positive 
Rahmenbedingungen für 
qualifizierte Arbeitsplätze 
 Qualität im öffentlichen Raum 
und in der Baukultur 
 Attraktives Umfeld für 
Innovation, Gründer und 
Fachkräfte 
 Nachhaltige Mobilität 
 
 Vielfältige und stabile 
Wirtschaftsstruktur 
 Vorsorgende Klima- und 
Energiestrategie 
 Vorsorgendes Flächen- und 
Liegenschafts-management 
 Erhalt und Verbesserung der 
Umweltqualität 
x Leistungsfähige technische 
Infrastruktur 
 Quartiersnahe Kultur-, Sport- 
und Freiraum-angebote 
 
 
 Vernetzung von Bildung, 
Forschung und Wirtschaft 
Leipzig schafft soziale Stabilität  Wirkung auf Akteure 
Leipzig stärkt seine 
Internationalität 
 Chancengerechtigkeit in der 
inklusiven Stadt 
 Bürgerstadt  Weltoffene Stadt 
 Gemeinschaftliche 
Quartiersentwicklung 
 Region  Vielfältige, lebendige Kultur- 
und Sportlandschaft 
 Bezahlbares Wohnen  Stadtrat  Interdisziplinäre 
Wissenschaft und exzellente 
Forschung 
 Zukunftsorientierte Kita- und 
Schulangebote 
 Kommunalwirtschaft  Attraktiver Tagungs- und 
Tourismusstandort 
 Lebenslanges Lernen x Verwaltung  Imageprägende 
Großveranstaltungen 
 Sichere Stadt    Globales Denken, lokal 
verantwortliches Handeln 
      
 Sonstige Ziele 
Bei Bedarf überschreiben (max. 50 ZML) 
 Trifft nicht zu     
 
 
Klimawirkung 
Klimawirkung durch den Beschluss der Vorlage 
3 von 18 in Zusammenstellung
4/10 
 
Stufe 1: Grobe Einordnung zur Klimawirkung (Klimaschutzes und zur –wandelanpassung) 
Eingesetzte Energieträger (Strom, 
Wärme, Brennstoff) x keine / Aussage nicht möglich  erneuerbar  fossil 
Reduziert bestehenden Energie-
/Ressourcenverbrauch x Aussage nicht möglich  ja  nein 
Speichert CO2-Emissionen (u.a. 
Baumpflanzungen) x Aussage nicht möglich  ja  nein 
Mindert die Auswirkungen des 
Klimawandels (u. a. Entsiegelung, 
Regenwassermanagement) 
x Aussage nicht möglich  ja  nein 
Abschätzbare Klimawirkung mit 
erheblicher Relevanz  ja, da Beschlussgremium RV, GVA, oder VA und mind. 5 
Jahre Betriebs- und Nutzungsdauer x nein 
Vorlage hat keine abschätzbare 
Klimawirkung x ja (Prüfschema endet hier.)   
 
Stufe 2: Die Vorlage berücksichtigt die zentralen energie- und klimapolitischen Beschlüsse (s. 
leipzig.de) 
  ja  nein (Begründung s. Abwägungsprozess)  nicht berührt (Prüfschema endet 
hier.) 
       
Stufe 3: Detaillierte Darstellung zur abschätzbaren Klimawirkung nur bei erheblicher Relevanz 
  Berechnete THG-Emissionen (in t bzw. t./a): ____________________ 
  liegt vor: s. Anlage/Kapitel der Vorlage: ________________________ 
  wird vorgelegt mit: ________________ (z. B. Planungsbeschluss, Baubeschluss, Billigungs- und 
Auslegungsbeschluss) 
   
 
 
 
Sachverhalt 
Beschreibung des Abwägungsprozesses: 
 
Die Erarbeitung der Vorlage erfolgte durch das Amt für Digitalisierung und Organisation 
gemeinsam mit dem Referat Digitale Stadt und in Zusammenarbeit der Digitalen 
Werkstatt der Lecos sowie einzelnen Fachämtern. 
 
I.  Eilbedürftigkeitsbegründung  
entfällt 
  
II.  Begründung Nichtöffentlichkeit   
entfällt 
  
III.   Strategische Ziele  
entfällt 
 
IV.  Sachverhalt  
 
1. Anlass  
 
Künstliche Intelligenz (KI) ist eine Technologie, welche zukünftig umfassend dabei 
unterstützen kann, den gesellschaftlichen Auftrag der Stadtverwaltung Leipzig zu 
erfüllen, beispielsweise zur Förderung von effizienten Prozessen, Wirtschaft, 
Gesellschaft und Lebensqualität der Bürger. KI umfasst Systeme, die in der Lage sind, 
Aufgaben zu lösen, die normalerweise menschliche Intelligenz erfordern. 
4 von 18 in Zusammenstellung
5/10 
 
 
Die Stadtverwaltung soll KI verantwortungsvoll nutzen, um Anwendungen und Lösungen 
zu entwickeln, die den KI-Leitlinien entsprechen und einen Mehrwert für Mitarbeiter und 
Bürger bieten. Es wird darauf geachtet, KI nicht als Selbstzweck zu verwenden und 
kritisch zu prüfen, wo ihr Einsatz sinnvoll und angemessen ist. 
 
KI bietet Potenziale zur Verbesserung von Bürgererfahrungen, Entlastung durch 
geringeren manuellen Aufwand und Raum für berufliche Weiterentwicklung. 
 
Es sind allerdings klare Regelungen erforderlich, die sicherstellen, dass KI-
Anwendungen mit den Grundsätzen einer guten Verwaltungsarbeit und im 
Zusammenspiel mit unserem Leitbild funktionieren. Die Einführung eines KI-Registers 
und die regelmäßige Bewertungen neuer KI-Anwendungen vor ihrem Einsatz sind 
notwendig. 
 
2. Beschreibung der Maßnahme  
 
1. Leitlinie für die Anwendung von Künstlicher Intelligenz 
 
Das Dokument "Leitlinie für die Anwendung von Künstlicher Intelligenz in der 
Stadtverwaltung Leipzig" (siehe Anlage) betont die verantwortungsvolle und 
chancenorientierte Nutzung von KI in der Stadtverwaltung. Es legt Wert auf die Nutzung 
neuer Potenziale und Chancen, Transparenz über die verarbeiteten Daten, 
Erklärbarkeit, Fairness, Diskriminierungsfreiheit, Sicherheit inklusive dem besonderen 
Schutz persönlicher Daten. 
 
Die Einhaltung dieser Punkte stellt sicher, dass KI-Anwendungen mit den Grundsätzen 
einer guten Verwaltungsarbeit und im Zusammenspiel mit unserem Leitbild 
funktionieren. 
 
Die Leitlinie setzt Rahmen, damit Mitarbeiterinnen und Mitarbeiter KI-Systeme 
verantwortungsbewusst anwenden und deren Einsatz nachhaltig erfolgt. 
 
Mit Bestätigung dieses Beschlusspunktes und der Leitlinie gibt die Stadtverwaltung 
Leipzig ein klares Versprechen zum Einsatz von KI ab und setzt Leitplanken für den 
Umgang mit KI. 
 
2. Rechtlicher Rahmen 
 
Der EU AI Act (EU-Verordnung 2024/1689) bildet den rechtlichen Rahmen für den 
Einsatz von KI in Europa und wird in der Stadtverwaltung schrittweise umgesetzt. Eine 
weitere Vorlage zur Implementierung der EU-Verordnung ist geplant. Diese Vorlage 
schafft zunächst Voraussetzungen für ein den gesetzlichen Anforderungen 
entsprechendes Register.  
 
Die Verordnung (EU) 2024/1689 vom 02.August 2024 zur Festlegung harmonisierter 
Vorschriften für künstliche Intelligenz, kurz: KI-Verordnung oder AI Act legt den 
rechtlichen Rahmen für die Herstellung, den Vertrieb und die Anwendung von 
Künstlicher Intelligenz (KI) auf EU-Ebene fest. Ziele dieser Verordnung, die als solche 
unmittelbar in den einzelnen EU-Mitgliedstaaten anwendbar ist, sind insbesondere der 
sichere und ethische Umgang mit KI. 
 
5 von 18 in Zusammenstellung
6/10 
 
Der AI Act gilt für KI-Systeme, die entwickelt, vertrieben oder genutzt werden. Je nach 
Risikoklasse (unannehmbar, hoch, begrenzt oder minimal) bestehen unterschiedliche 
Pflichten für Anbieter, Betreiber und Händler. Bei hohem Risiko ist ein umfangreicher 
Pflichtenkatalog zu erfüllen, u.a. ein Risikomanagementsystem, eine CE-
Kennzeichnung, Transparenzpflichten, Daten-Governance oder auch Meldung von 
Sicherheitsvorfällen nötig.   
 
Daher ist eine Klassifizierung aller in der Stadtverwaltung Leipzig eingesetzter KI-
Anwendung erforderlich. 
 
2.1. KI Register 
 
Alle aktuellen und die neu einzuführenden KI-Anwendungen sollen in einem 
gemeinsamen Register verzeichnet werden. 
Der bereits bestehende Entwurf eines KI-Registers für die Stadt ist angelehnt an die 
bestehenden Register der Stadt Amsterdam und Helsinki. 
Folgende Kriterien werden dabei berücksichtigt. 
 
• Status des Projektes 
• Ansprechpersonen 
• Datenquellen 
• Datenverarbeitungsprozesse und –methoden 
• Verzerrung der Daten und Diskriminierungsfreiheit 
• Kontrollmechanismen 
• Risiken / Risikomanagement 
 
2.2. Bewertung von KI-Anwendungen 
 
Das Dokument "Bewertung von KI-Anwendungen in der öffentlichen Verwaltung" stellt 
einen ersten Leitfaden für die Bewertung von zukünftigen KI-Anwendungen in der SVL 
durch das IT-Architekturboard im Amt für Digitalisierung und Organisation dar und 
enthält einen Entwurf über eine umfassende Bewertung von KI-Anwendungen anhand 
verschiedener Kriterien, darunter Gebrauchstauglichkeit, Mensch-KI-Interaktion, KI-
Anforderungen, langfristige Auswirkungen durch den Einsatz von KI und den Einsatz der 
KI-Anwendung auf Organisationsebene. 
 
Diese Kriterien können als Bewertungscheckliste der IT Fachabteilungen für aktuelle 
und spätere KI-Anwendungen in der Stadt und als Diskussionsgrundlage für einen 
Einsatz der KI-Software genutzt werden. Das IT-Architekturboard wird auf dieser Basis 
die Kriterien schärfen. 
 
Die umfassenden Bewertungskriterien sind für einen Einsatz in der Stadtverwaltung 
Leipzig essentiell, da sie die verschiedenen Aspekte abdecken, die bei der 
Implementierung von KI-Anwendungen berücksichtigt werden müssen. Sie liefern einen 
ganzheitlichen Ansatz, um sicherzustellen, dass KI- Anwendungen effektiv, effizient, 
benutzerfreundlich, transparent, fair, sicher und verlässlich eingesetzt werden. Dies ist 
entscheidend, um das Vertrauen in KI-Systeme zu stärken und sicherzustellen, dass sie 
den ethischen und rechtlichen Mindestanforderungen entsprechen. 
 
2.3. Umsetzungsmaßnahmen: 
 
Bei der Umsetzungsplanung finden nicht nur technologischen Aspekte Berücksichtigung. 
6 von 18 in Zusammenstellung
7/10 
 
Vor allem die Auswirkungen auf die Arbeitsprozesse der Mitarbeiterinnen und 
Mitarbeiter, die Bedürfnisse der Bürgerinnen und Bürger sowie Anforderungen der 
Gesellschaft an den Einsatz neuer Technologien werden berücksichtigt (gemäß 
Risikoeinstufung des EU AI Act).  
 
• Für relevante und vom Amt für Digitalisierung und Organisation 
(Entscheidungsgremium IT-Architekturboard) ausgewählte Projekte kann der 
etablierte Experimentierraum der Digitalen Werkstatt der Lecos GmbH als erster 
Anlaufpunkt dienen. Als IT-Dienstleister der Stadtverwaltung Leipzig hat die 
Lecos GmbH gemeinsam mit der Stadtverwaltung 2019 die Digitale Werkstatt 
gegründet, ein spezialisiertes Team, innovative KI-basierte Lösungen zu 
evaluieren und zu testen. Beginnend bei der initialen Konzeption über die 
prototypische Entwicklung stellt der Experimentierraum der Digitalen Werkstatt 
zusätzlich ein entsprechendes Projektbudget zur Verfügung. Zu KI-
Anwendungsfällen für eine nachhaltige Stadtentwicklung läuft unter 
Federführung des RDS ein Experimentierraum in Kooperation mit dem ScaDS.AI 
(aus der aktuellen Förderung des CUT-Projektes). 
• Bei Fragestellungen rund um Datenhaltung, Datenmanagement und Data 
Analytics berät das Referat Digitale Stadt mit dem Team des Datenlabors und 
unterstützt mit seiner Expertise in den genannten Bereichen, um eine sichere 
Datenverwaltung und -nutzung zu gewährleisten. 
• Für Fragen der produktiven Umsetzung gelten die bestehenden 
Dienstvereinbarungen, Dienstanweisungen und Vergabeprozesse. 
• Ein Fragen und Antwort-Modul zu dem Thema KI soll im Arbeitsraum des KI-
Registers entstehen. 
 
• Grundsätzlich werden ab 2025 mindestens zwei Schulungsmaßnahmen zum 
Thema KI angeboten. Die angebotenen Fortbildungsmaßnahmen gliedern sich in 
zwei Bereiche:  
o Grundinformationsschulungen für alle Mitarbeiterinnen und Mitarbeiter der 
Stadt Leipzig zum Thema künstlicher Intelligenz mit praktischen 
Anwendungsmöglichkeiten von Chatbots (z.B. Prompting) im Rahmen der 
bestehenden Verordnungen. 
o Fortgeschrittene Schulung zur Identifikation und Bewertung von KI-
Prozessen in der Stadtverwaltung. 
• Die Organisation der Fortbildung erfolgt über die Abteilung Personalentwicklung 
des Personalamts. Der Inhalt der Schulung wird durch das Amt für Digitalisierung 
und Organisation erarbeitet. Für die Kosten der Schulungen werden ab 2025 im 
Personalentwicklungsbudget ausreichend Mittel gebunden, um die Dezernate zu 
befähigen mindestens einen Prozess, der mithilfe von künstlicheren Intelligenz 
oder Automatisierungsmöglichkeiten zu identifizieren. 
 
3. Zukünftiger Prozess 
 
Jedes Dezernat wird aufgefordert, mindestens einen Prozess mithilfe von künstlicher 
Intelligenz oder Automatisierungsmöglichkeiten zu digitalisieren. Mit dieser 
Selbstverpflichtung wird ein wichtiger Meilenstein in unserer digitalen 
Transformationsstrategie gesetzt und es werden gleichzeitig die notwendigen Strukturen 
geschaffen, um diesen Wandel erfolgreich zu gestalten. 
 
Diese Initiative verfolgt diese Ziele: 
• Effizienzsteigerung: Durch die Digitalisierung und Automatisierung von 
Prozessen können wir Arbeitsabläufe optimieren und Ressourcen effektiver 
7 von 18 in Zusammenstellung
8/10 
 
einsetzen. 
• Innovationsförderung: Wir ermutigen alle Dezernate, sich aktiv mit den 
Möglichkeiten moderner Technologien auseinanderzusetzen und innovative 
Lösungsansätze zu entwickeln. 
• Kompetenzaufbau: Die praktische Umsetzung fördert den Aufbau von digitalem 
Know-how in allen Bereichen der Verwaltung. 
 
Um dieses ambitionierte Vorhaben umzusetzen, wird das Amt für Digitalisierung und 
Organisation beauftragt, bis Mitte 2025 einen strukturierten Prozess zu entwickeln. 
Dieser soll die Dezernate bei der Umsetzung ihrer Digitalisierungsprojekte unterstützen 
und befähigen. Der Prozess wird voraussichtlich folgende Elemente beinhalten: 
• Schulungen und Workshops zur Einführung in KI und 
Automatisierungstechnologien 
• Beratung bei der Auswahl geeigneter Prozesse für die Digitalisierung 
• Unterstützung bei der Implementierung und Evaluation der Projekte 
• Förderung des Erfahrungsaustauschs zwischen den Dezernaten 
• Dieser Schritt wird maßgeblich dazu beitragen, die Verwaltung fit für die 
Herausforderungen der Zukunft zu machen. 
 
Als „Leuchtturm“ KI-Projekt wird ein Prototyp für den Einsatz von künstlicher Intelligenz 
im Antragsprozess entwickelt. 
 
Es soll auf folgende Test- und Anforderungskriterien eingegangen werden: 
• Fehler im Bescheidungsprozess verringern 
• Geschwindigkeit des Bescheidungsprozesses erhöhen (Verfahrungsdauer 
verkürzen) 
• Mitarbeiter-Entlastung von homogenen Arbeitsabläufen 
 
Technische Ziele: 
 
• Klassifizierung der Dokumentenarten 
• Extrahieren von Daten aus den Antragsdokumenten im Fachverfahren- 
Bescheidungsprozess 
• automatisches Sammeln der Daten in einem Übersichtdokument 
(Berechnungsblatt) 
• Schnittstelle ins Fachverfahren für Bescheidung 
• „Human-in-the-Loop“ Prinzip (HITL) – Kontrolle durch Sachbearbeiter 
 
Die Analysephase (Initiierung) erfolgte im 3. Quartal 2024, die Konzeptionsphase (MVP) 
findet im 4. Quartal 2024 statt. Die Realisierungsphase (MVP) soll voraussichtlich im 1. 
Quartal 2025 erfolgen und die Evaluationsphase (MVP) voraussichtlich im 2. Quartal 
2025 abgeschlossen sein. 
 
4. Berichtswesen 
 
Es erfolgt regelmäßig eine Information in der Dienstberatung des Oberbürgermeisters 
mit folgenden Inhalten: 
 
Der Berichtszyklus wird integriert in den bestehenden Fortschrittsbericht zur 
Digitalisierung.   
 
8 von 18 in Zusammenstellung
9/10 
 
• Aktueller Stand des KI-Registers (geplante/laufende/abgeschlossene 
Maßnahmen) 
• Vorstellung ausgewählter KI-Projekte/Maßnahmen 
• Mögliche Entwicklungspotenziale/Entscheidungsbedarfe für die Stadtverwaltung 
Leipzig 
• Evaluation der bestehenden Regelungen 
 
5. Regelungen 
 
Bisherige Regelungen zur Nutzung und Einführung von IT-Anwendungen gelten 
auch für den Einsatz von KI.  
 
Zum besonderen Umgang mit Chatbots und KI in der Stadt Leipzig sind einige 
Besonderheiten bereits beschrieben (Intranetartikel). 
 
„Für die Nutzung und auch das Ausprobieren von Chatbots gelten in der 
Stadtverwaltung jedoch die gleichen Regeln wie sie für alle Anwendungen im Internet 
gelten (bspw. Online-Übersetzer wie google.translate, deepL): 
• Die Eingabe von Daten ist auf das absolute Minimum zu beschränken. 
• Unzulässig ist die Verarbeitung von personenbezogenen Daten von Bürgern 
sowie sämtlichen Informationen die Rückschlüsse auf nicht öffentliches 
Verwaltungshandeln ermöglichen (Richtlinie zum Einsatz von Internet-
Anwendungen). 
• Für einen produktiven Einsatz in der Stadtverwaltung Leipzig gelten darüber 
hinaus immer die Regularien der Rahmen-DV IuK Technik (DV 51-2016) 
• KI darf nicht bei Erlass eines Verwaltungsaktes eingesetzt werden, bei dem 
Ermessen oder ein Beurteilungsspielraum besteht (vgl. §35a VwVfG)“ 
 
Dem entsprechend gelten die DSGVO, die Dienstvereinbarung DV 51-2016 Rahmen-DV 
IuK Technik sowie die Richtlinie zum Einsatz von Internet-Anwendungen und sind 
anzuwenden. 
 
3. Realisierungs- / Zeithorizont 
 
• Beschluss der Leitlinie für die Anwendung von Künstlicher Intelligenz in der 
Stadtverwaltung Leipzig im Dezember 2024 
• Aufbau KI-Register bis März 2025 und Beginn der Bewertung von KI-Maßnahmen 
• Weitere Vorlage zur Implementierung der Regelungen aus dem EU AI Act 
 
4. Finanzielle Auswirkungen 
 
Die Vorlage selbst entfaltet keine finanziellen Auswirkungen, weil Sie das grundsätzliche 
Vorgehen regelt. Die daraus abzuleitenden Umsetzungen werden bei finanziellen 
Mehrbedarfen über den Digitalisierungsfahrplan beantragt oder mittels einer eigenen 
Vorlage eingebracht. 
 
5. Auswirkungen auf den Stellenplan  
keine  
  
6. Bürgerbeteiligung  
  
9 von 18 in Zusammenstellung
10/10 
 
  bereits erfolgt   geplant x  nicht nötig 
 
 
 
7. Besonderheiten   
 
8. Folgen bei Nichtbeschluss 
 
Aufgrund derzeit nicht eindeutig geregelter Zuständigkeiten und fehlender Transparenz 
sowie einer Leitlinie für die den Einsatz neuer KI-Technologien können 
Doppelentwicklungen und -investitionen aktuell nicht verhindert werden. Demzufolge 
können die geltenden gesetzlichen Rahmenbedingungen nicht zentral 
geprüft/eingehalten werden (Datenschutz, Informationssicherheit). 
 
Unterschiedliche Informationsstände und Schulungsmaterialen innerhalb der Fachämter 
führen zu Unsicherheiten und teilweise unvollständigen Wissensständen zum Thema KI 
in der Stadtverwaltung. Es besteht die Gefahr, dass eventuelle Risiken nicht erkannt 
werden oder der Einsatz von KI-Technologien unnötig verzögert werden. 
 
 
Anlage/n 
1 Anlage 1 - Leitlinie Künstliche Intelligenz in der Stadtverwaltung Leipzig 
(öffentlich) 
 
2 Anlage 2 - Bewertung (Checkliste) von KI-Anwendungen in der öffentlichen 
Verwaltung (öffentlich) 
 
 
10 von 18 in Zusammenstellung
  
SVL – KI –Leitlinien  
 
Die folgenden Leitlinien bilden den Rahmen für einen nutzbringenden, sicheren und nachhal-
tigen Einsatz von Künstlicher Intelligenz (KI)1 in der Stadtverwaltung Leipzig. Dabei legen wir 
den Fokus auf „Innovation, Vertrauen, Technologie und Nachhaltigkeit“. 
 
1. Wir nutzen KI um unseren gemeinwohlorientierten Auftrag umzusetzen 
Die Stadtverwaltung Leipzig verwendet KI als Technologie zur Erfüllung ihres öffentlichen, 
gemeinwohlorientierten Auftrags, zur Verbesserung der Lebensqualität der Leipziger Bürger 
und Bürgerinnen, Förderung der lokalen Wirtschaft und Stadtgesellschaft.  
 
2. Wir gehen verantwortungsvoll und chancenorientiert mit KI um 
Wir betrachten KI als Technologie, mit deren Hilfe wir verantwortungsvoll Anwendungen und 
Lösungen entwickeln, die jederzeit unserem Leitbild und Auftrag entsprechen. Wir verstehen 
KI nicht als Selbstzweck. Wir nutzen sie, um Mitarbeitern und Mitarbeiterinnen sowie Bürgern 
und Bürgerinnen einen spürbaren Mehrwert in ihrem Alltag zu bieten, wie verbesserte Nutze-
rerfahrungen, Entlastung durch reduzierten manuellen Aufwand und Schaffen von Raum für 
bessere Beratungen sowie die berufliche Weiterentwicklung. 
Wir überprüfen kritisch und kontinuierlich, wo ein Einsatz von KI in Entscheidungs- und Ge-
schäftsprozessen unter der Abwägung einer ausgewogenen Risiko-Nutzen-Bewertung sinn-
voll ist. Dazu werden regulatorische Spielräume genutzt um Innovationen voranzutreiben. 
Bei der Anwendung von KI-Technologien streben wir ein hohes Maß an Transparenz und Er-
klärbarkeit in den eingesetzten Anwendungen und Systemen an, indem wir Informationen 
über die verwendeten Algorithmen, Datenquellen und Trainingsmethoden bereitstellen. Ar-
beitsergebnisse, welche mittels KI erstellt wurden, werden entsprechend gekennzeichnet. 
 
3. Wir erschließen mit KI neue Potenziale und optimieren unsere Abläufe 
KI-Systeme ermöglichen uns, die digitale Transformation voranzutreiben und Arbeitsabläufe 
in der Stadtverwaltung zu optimieren. Wir verfolgen zielgerichtet den Einsatz von KI in Ver-
waltungs- und Fachaufgaben und erschließen uns damit das Potential einer datenbasierten 
Verwaltung. Dabei nehmen wir sowohl Sprachmodelle aber auch Vorhersage- und Entschei-
dungssysteme im Blick. 
Wir teilen unsere Erkenntnisse und Erfahrungen aktiv innerhalb der Verwaltung. Dieser Wis-
sensaustausch dient sowohl der Weiterentwicklung bestehender Rahmenbedingungen als 
auch dem Abbau unnötiger bürokratischer Hürden. 
  
                                                           
1 Künstliche Intelligenz und Technologien zur Automatisierung, wie das Robot Process Automation, werden hier 
synonym verwendet. 
11 von 18 in Zusammenstellung
  
 
 
 
4. Wir bereiten unsere Beschäftigten auf einen KI-gestützten Arbeitsalltag vor 
Die Integration von KI-Systemen hat das Potenzial, die Arbeitsprozesse unserer Mitarbeite-
rinnen und Mitarbeiter grundlegend zu verändern. Wir setzen auf umfassende Schulungs- 
und Weiterbildungsprogramme, um die Anwendung zu unterstützen und sowohl Chancen als 
auch mögliche Risiken dieser Technologie zielgruppengerecht zu vermitteln. Unser Ziel ist 
es, KI schrittweise und nachhaltig in den Verwaltungsalltag zu integrieren und sie als wesent-
lichen Bestandteil der digitalen Kompetenz unserer Belegschaft zu etablieren. Dabei legen 
wir besonderen Wert auf Barrierefreiheit, denn wir sind überzeugt: nur durch einen nied-
rigschwelligen Zugang können wir eine breite Anwendung von KI-Technologien ermöglichen 
und somit die digitale Teilhabe aller Beschäftigten fördern. 
 
5. Wir achten auf einen nachhaltigen Einsatz der KI 
Wir nutzen neue Technologien gezielt, um die Nachhaltigkeit unserer Verwaltungsprozesse 
zu fördern. Unser Augenmerk liegt dabei auf der Entwicklung und Implementierung von KI-
Systemen, die langfristig und vielseitig einsetzbar sind und effizient arbeiten. Wir streben 
nach Lösungen, die verwaltungsweit genutzt werden können und somit Ressourcen scho-
nen, Synergien schaffen und eine effiziente Zusammenarbeit ermöglichen. Ein ganzheitli-
cher, strategischer Ansatz maximiert den Nutzen unserer KI-Investitionen und trägt zur Ent-
wicklung einer zukunftsfähigen Stadtverwaltung bei. 
 
6. Wir achten auf fairen Einsatz von KI und schützen die Privatsphäre 
Wir stellen sicher, dass gleichstellungsrechtliche Vorgaben und datenschutzrechtliche Best-
immungen eingehalten werden.  
Die Anwendungen müssen für alle Menschen und Gruppen diskriminierungsfrei und gleich-
berechtigt zugänglich sein. Jegliche Art von ergebnisverzerrenden Manipulation der KI und 
ihrer Entscheidungsfindung müssen effektiv unterbunden werden. Es wird sichergestellt, 
dass die Ergebnisse jederzeit dem Leitbild der Digitalen Agenda der Stadtverwaltung 
Leipzig2 entsprechen, diskriminierungsfrei und fair sind. 
Der Schutz der Privatsphäre unserer Bürger und Bürgerinnen sowie der sensible Umgang 
mit deren Daten haben beginnend bei der Entwicklung einer KI-Anwendung über die Bear-
beitung bis hin zur Erarbeitung von Ergebnissen höchste Priorität.  
                                                           
2 Digitale Agenda Leipzig (VII-DS-07257) – https://www.leipzig.de/wirtschaft-und-wissenschaft/digitalisierung/digi-
tal-agenda 
12 von 18 in Zusammenstellung
   
Bewertung von KI-Anwendungen in der 
öffentlichen Verwaltung 
 
Inhaltsverzeichnis 
 
1. Gebrauchstauglichkeit ....................................................................................................... 2 
1.1. Effektivität ................................................................................................................... 2 
1.2. Effizienz ...................................................................................................................... 2 
1.3. Zufriedenstellung ........................................................................................................ 2 
1.4. Erlernbarkeit ............................................................................................................... 2 
2. Mensch-KI Interaktion .................................................................................................... 2 
2.1. Zu Beginn ................................................................................................................... 2 
2.2. Während der Interaktion .............................................................................................. 2 
2.3. Bei Fehlern ................................................................................................................. 2 
2.4. Über die Zeit ............................................................................................................... 3 
3. KI-Anforderungen ....................................................................................................... 3 
3.1. Fairness ..................................................................................................................... 3 
3.2. Autonomie/Kontrolle ................................................................................................... 3 
3.4. Transparenz: Ist das Verhalten der Anwendung transparent? ...................................... 4 
3.5. Verlässlichkeit: Können Sie sich auf die KI-Anwendung verlassen? ............................. 4 
3.6. Sicherheit: Ist die Anwendung sicher? ......................................................................... 4 
3.7. IT-Sicherheit («Security»)............................................................................................  4 
3.8. Datenschutz: Wird der Datenschutz gewahrt? ............................................................. 4 
5. Einsatz der KI-Anwendung (Organisationsebene) .............................................. 5 
5.1. Datenbasis ................................................................................................................. 5 
5.2. Nachhaltigkeit ............................................................................................................. 5 
5.3. Verlässlichkeit ............................................................................................................ 5 
5.4. Zertifizierung .............................................................................................................. 5 
Quellen .................................................................................................................................. 6 
 
Hinweis: Nicht alle KI-Anwendungen werden auch alle Kriterien erfüllen. Einige Aspekte sind nur (oder nicht 
einmal) für Experten nachvollziehbar.  
 
 
  
13 von 18 in Zusammenstellung
   
1. Gebrauchstauglichkeit1 
1.1. Effektivität  
• Können Sie mit der Anwendung Ihre Ziele erreichen? 
1.2. Effizienz 
• Ist der Aufwand im Vergleich im Ergebnis gering (z. B. wenige Korrekturen notwendig)? 
1.3. Zufriedenstellung 
• Können Sie mit der Anwendung zufriedenstellend arbeiten? 
1.4. Erlernbarkeit 
• Können Sie den Umgang mit der Anwendung leicht erlernen? 
 
2. Mensch-KI Interaktion2 
2.1. Zu Beginn 
• Macht die KI-Anwendung deutlich, was sie kann? 
• Macht die KI-Anwendung deutlich, wie gut sie es machen kann? 
 
2.2. Während der Interaktion 
• Erlaubt die KI-Anwendung (v. a. deren Benutzeroberfläche) es Ihnen zu überlegen, 
was Sie erreichen möchten, die Absichten auch umzusetzen und ggfs. auch 
rückgängig zu machen? 
• Berücksichtigt die KI-Anwendung den Kontext (Aufgabe/Umgebung)? 
• Zeigt die KI-Anwendung kontextrelevante Informationen? 
• Sind die für Sie relevanten Informationen und Handlungen der KI- Anwendung 
kontinuierlich für Sie sichtbar? 
• Erhalten Sie informatives Feedback, wenn Sie die Anwendung bedienen (Eingaben 
und andere Aktionen durchführen)? 
• Wird Ihnen der Fortschritt der KI-Anwendung angezeigt? 
• Erhalten Sie einen Bericht über abgeschlossene Handlungen? 
• Berücksichtigt die KI-Anwendung relevante soziale Normen? 
• Mindert die KI-Anwendung soziale Voreingenommenheiten? 
• Werden Fehler durch die Anwendung soweit wie möglich verhindert (z. B. indem 
keine ungültigen Eingaben möglich sind)? 
 
2.3. Bei Fehlern 
• Können Sie die KI-Anwendung mit wenig Aufwand aufrufen (schnelle, inkrementelle 
und reversible Aktionen)? 
• Können Sie die KI-Anwendung mit wenig Aufwand beenden? 
• Können Sie Korrekturen mit wenig Aufwand durchführen? 
• Reduziert die KI-Anwendung bei Unsicherheit ihren Handlungsspielraum (z.B. 
Hinweis auf Auffälligkeit statt Autokorrektur)? 
                                                
1 Batinic & Appel (2008), EN ISO 9241-210 (2010) 
2 Amershi et al. (2019) kombiniert mit Shneiderman (2020) 
 
14 von 18 in Zusammenstellung
   
• Macht die KI-Anwendung deutlich, warum sie gemacht hat, was sie gemacht hat? 
 
2.4. Über die Zeit 
• Erinnert sich die KI-Anwendung an die letzten Interaktionen? 
• Lernt die KI-Anwendung von Ihrem Verhalten? 
• Werden Updates und Anpassungen behutsam durchgeführt (Updates führen nicht zu 
rabiaten Veränderungen)? 
• Werden Sie zum Feedback angeregt? 
• Werden Ihnen die Konsequenzen Ihres Nutzerverhaltens verdeutlicht? 
• Können Sie die KI-Anwendung global kontrollieren (Einstellungen an einer Stelle, die 
sich auf das gesamte Verhalten der KI auswirken)? 
• Werden Sie von der KI-Anwendung über Veränderungen informiert (bei Updates z. 
B. bezüglich neuer/veränderter Fähigkeiten der KI-Anwendung)? 
 
3. KI-Anforderungen3 
3.1. Fairness 
• Ist die Anwendung fair — nach welcher Definition von Fairness? 
• Werden unverzerrte, faire, Entscheidungen getroffen? 
 
3.2. Autonomie/Kontrolle 
• Erlaubt sie Ihnen den richtigen Grad von Autonomie und Kontrolle? 
• Hat menschliches Handeln weiterhin Vorrang (informiert, bewusste Abgabe an KI)? 
• Ist die Automationsstufe passend? 
• (Automation z. B. via Stufen von Sheridan & Verplank, 1978; Human 
Control/Human-in/on/out-of-the-Loop; Shneiderman, 2020) 
• Haben Sie ausreichend Handlungsspielraum? 
• Gibt es einen Ermessensspielraum, der berücksichtigt sein muss — wird dieser auch 
berücksichtigt? 
• Können Sie das Vorgehen der KI-Anwendung kontrollieren? 
• Können Sie die Ergebnisse der KI-Anwendung überprüfen? 
• Sind Sie weiterhin informiert (vollständige, sichtbare und zugängliche Informationen) 
und fähig (Qualifikation), die Tätigkeit notfalls selbst durchzuführen? 
• Können Sie die KI-Anwendung notfalls ausschalten? 
  
                                                
3 Poretschkin et al. (2021) 
 
15 von 18 in Zusammenstellung
   
3.4. Transparenz: Ist das Verhalten der Anwendung transparent? 
• Erklärbarkeit: Ist für Sie nachvollziehbar, wie eine Vorhersage zustande gekommen 
ist? 
• Interpretierbarkeit (des Modells bei maschinellen Lernen): Ist das Lernverfahren als 
Ganzes für Sie transparent? 
• Nachverfolgbarkeit und Reproduzierbarkeit: Ist sichergestellt, dass das Vorgehen 
und die Entscheidungen der KI dokumentiert werden? 
3.5. Verlässlichkeit: Können Sie sich auf die KI-Anwendung verlassen? 
• Korrektheit: Sind die Ausgaben der KI-Anwendung korrekt? 
• Modellunsicherheit: Gibt Ihnen die KI-Anwendung Rückmeldung, mit welcher 
Wahrscheinlichkeit die Ausgaben korrekt sind? 
• Robustheit: Fängt die KI-Anwendung gestörte oder manipulierte Eingaben ab? 
Reagiert sie bei unerwarteten Situation/an den Grenzen des ML-Modells noch korrekt? 
Fängt sie mögliche Fehler ab (z. B. über «Sanity Checks»)? 
3.6. Sicherheit: Ist die Anwendung sicher? 
• Funktionale Sicherheit («Safety»): Ist sichergestellt, dass die KI- Anwendung die 
Außenwelt nicht in Gefahr bringt oder schädigt? 
3.7. IT-Sicherheit («Security») 
• Integrität: Ist die KI-Anwendung vor ihrer Umgebung (inkl. gezielte Manipulationen) 
geschützt? 
• Verfügbarkeit: Ist die Verfügbarkeit der KI-Anwendung gewährleistet? 
3.8. Datenschutz: Wird der Datenschutz gewahrt? 
• Werden die Datenschutz-Grundverordnung (DSGVO) und das 
Bundesdatenschutzgesetz (BDSG) eingehalten? 
• Wurden die folgenden Punkte eingehalten:  
• Einwilligung der Betroffenen 
• Weiterverarbeitung nur mit Zustimmung 
• keine unberechtigten Zugriffsmöglichkeiten 
• weitreichendes und jederzeitiges Widerspruchsrecht, 
• Information über Zweck und Einsatz der personenbezogenen bzw. daraus 
abgeleiteten Daten 
• Datensparsamkeit sowie zweckgebundenen Verwendung 
 
  
16 von 18 in Zusammenstellung
   
5. Einsatz der KI-Anwendung (Organisationsebene)4 
5.1. Datenbasis  
• Wurden die Daten auf ethische Weise gesammelt? 
5.2. Nachhaltigkeit 
• Wie ist die Kosten-Nutzen-Rechnung bezüglich Energieverbrauch und Nachhaltigkeit 
5.3. Verlässlichkeit 
• Wird der Einsatz der KI-Anwendung regelmäßig überprüft? Z. B. via: 
• Dokumentation des Verhaltens der KI-Anwendung 
• Audits, Benchmark Tests 
• Verwendung von Analyse-Werkzeugen, Erklärbare KI Ansichten 
• Kontinuierliche Begutachtung der Datenqualität und testen auf mögliche 
Verzerrungen 
• Sicherheit: Ist die Sicherheit auf organisatorischer Ebene gewährleistet? Z. B. via: 
• Verpflichtung zur Sicherheit durch Führungskräfte 
• Offenes Berichten über Fehler und kritische Ereignisse 
• Öffentliche Berichte von Problemen und zukünftigen Plänen 
• Vertrauenswürdigkeit: Wird die Vertrauenswürdigkeit auf organisatorischer Ebene 
gewährleistet? Z. B. via: Einhalten von Standards und Richtlinien 
5.4. Zertifizierung 
• Sind Zertifikate oder DIN-Normen vorhanden? 
  
                                                
4 Wing (2021), Shneiderman (2021) 
 
17 von 18 in Zusammenstellung
   
 
Quellen 
Amershi, S., Weld, D., Vorvoreanu, M., Fourney, A., Nushi, B., Collisson, P., Suh, J., Iqbal, 
S., Bennett, P. N., Inkpen, K., Teevan, J., Kikin-Gil, R., & Horvitz, E. (2019). Guidelines 
for human-ai interaction. In Proceedings of the 2019 CHI conference on human factors 
in computing systems (pp. 1–13). Association for Computing Machinery. 
https://doi.org/10.1145/3290605.3300233 
Batinic, B., & Appel, M. (2008). Medienpsychologie. Springer Medizin Verlag. 
DIN EN ISO 9241-210. Ergonomie der Mensch-System-Interaktion—Teil 210: Prozess zur 
Gestaltung gebrauchstauglicher interaktiver Systeme. (2010). Beuth Verlag. 
Poretschkin, M., Schmitz, A., Akila, M., Adilova, L., Becker, D., Cremers, A., Hecker, D., 
Houben, S., Mock, M., Rosenzweig, J., Sicking, J., Schulz, E., Voss, A., & Wrobel, S. 
(2021). Leitfaden zur Gestaltung vertrauenswürdiger Künstlicher Intelligenz—KI- 
Prüfkatalog. Fraunhofer IAIS. www.iais.fraunhofer.de/ki-pruefkatalog 
Sheridan, T. B., & Verplank, W. L. (1978). Human and Computer Control of Undersea 
Teleoperators. Massachusetts Institute of Technology. 
Shneiderman, B. (2020). Human-centered artificial intelligence: Reliable, safe & 
trustworthy. International Journal of Human–Computer Interaction, 36(6), 495–504. 
https://doi.org/10.1080/10447318.2020.1741118 
Shneiderman, B. (2020a). Bridging the gap between ethics and practice: Guidelines for  
reliable, safe, and trustworthy human-centered AI systems. ACM Transactions on 
Interactive Intelligent Systems, 10(4). https://doi.org/10.1145/3419764 
Shneiderman, B. (2021). Responsible AI: Bridging from ethics to practice. 
Communications of the ACM, 64(8), 32–35. https://doi.org/10.1145/3445973 
Wing, J. M. (2021). Trustworthy AI. Communications of the ACM, 64(10), 64–71. 
https://doi.org/10.1145/3448248 
18 von 18 in Zusammenstellung