Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03350.jsonl.gz/1652

Jedes staatliche Handeln braucht eine gesetzliche Grundlage. Dieser Beitrag liefert Hinweise dazu, wann und wie der staatliche Einsatz künstlicher Intelligenz in eine Rechtsnorm gegossen werden sollte.
Der Einsatz künstlicher Intelligenz (KI) – in einem sehr breiten Sinn verstanden als qualifizierte Automatisierungsprozesse[1] – ermöglicht es auch im öffentlichen Sektor, effizienter und effektiver zu arbeiten sowie aus grossen Datenmengen Nutzen zu ziehen.
Einige Anwendungen stellen lediglich eine alternative Weise dar, eine bereits zuvor erfüllte Aufgabe zu erledigen; so gibt etwa ein Chatbot Informationen zu Krankenkassen-Verbilligungen, die in der Vergangenheit jeweils von einem Mitarbeiter zusammengetragen wurde. Andere bringen jedoch neue Risiken mit sich – etwa sogenanntes «personenbezogenes Predictive Policing», das darauf fokussiert, vorab «gefährliche Personen, sog. ‘Gefährder’, zu identifizieren und durch eine frühzeitige Intervention insbesondere schwere Gewaltdelikte zu verhindern»[2]. Hier kann aus der Anwendung ein grosses Risiko für die Grundrechte derjenigen Personen entstehen, die als Gefährder identifiziert werden, weil Datenattribute basierend auf Typisierungen in der Vergangenheit zu einer Risikoprognose und damit polizeilichen Massnahmen führen können. In diesem Fall bietet die Anwendung Informationen (den errechneten Risikograd) und eröffnet basierend darauf Handlungsmöglichkeiten (die Polizeipatrouille wird basierend auf den Risikograd aktiv), wie sie vor dem Einsatz der neuen Technologie nicht möglich waren.
Wie bei jedem staatlichen Handeln taucht in diesem Kontext sogleich das Stichwort «Legalitätsprinzip» auf. Die Bundesverfassung fordert prominent (Art. 5 Abs. 1 BV): «Grundlage und Schranke staatlichen Handelns ist das Recht.» Wann brauche ich also eine gesetzliche Grundlage, um eine KI-Anwendung genügend rechtlich abzusichern, und wie hat sie auszusehen?
Das Legalitätsprinzip erfüllt folgende Funktionen[3]:
Aus diesen beiden Dingen lassen sich wiederum folgende Forderungen ableiten:
Unter diesem Titel werden folgende Anliegen zusammengefasst:
Aus diesen rechtsstaatlichen Funktionen leitet die juristische Lehre wiederum ab, dass eine Norm genügend bestimmt zu sein hat und alle Elemente aufweisen muss, die notwendig sind, um die obigen drei Anliegen zu verwirklichen (sogenanntes «Erfordernis der genügenden Normdichte»).
Wer bis hierhin gelesen hat, wird sich fragen: Was heisst das jetzt? Es kommt natürlich (wie immer!) darauf an, und zwar darauf, in welchem Masse die fünf erwähnten Anliegen der Vorherrschaft des Volkswillens, der Gewaltenteilung, der Vorhersehbarkeit staatlichen Handelns, des Schutzes vor Willkür und der Gleichbehandlung im gegebenen Szenario zu finden sind. Die Ausgestaltung einer konkreten gesetzlichen Grundlage wird sich in folgenden zwei Schritten eruieren lassen:
Für die eingangs erwähnten Beispiele lässt sich so aufgrund der betroffenen Funktionen des Legalitätsprinzips Folgendes skizzenhaft behaupten:
Erstens: Ein Chatbot, der eine Behörde dabei unterstützt, eine ihrer Aufgaben dadurch zu erledigen, dass er eine Anfrage sprachlich analysiert und bestehende öffentliche Formulare (ohne Personendaten) herausgibt, braucht keine spezifische gesetzliche Grundlage. Seine Verwendung ist bereits von der allgemeinen Aufgabenerfüllung der Behörde gedeckt (die wiederum in einem Gesetz festgehalten sein sollte!), führt zu keinen Grundrechtseingriffen und weckt daher weder demokratische noch rechtsstaatliche Bedenken.
Zweitens: Personenbezogenes «Predictive Policing» bedarf einer gesetzlichen Grundlage. Werden Datenattribute einer Person zusammengeführt, analysiert und für eine Vorhersage genutzt, wonach die betreffende Person ein Delikt begehen könnte, so ruft dies die Anliegen des Schutzes vor Willkür, der Vorhersehbarkeit staatlichen Handelns und der Gleichbehandlung auf den Plan. Es ist zu vermuten, dass die Aufnahme auf eine Gefährderliste je nach Situation zu einer erhöhten polizeilichen Aufmerksamkeit führt und je nach Verlauf in einer späteren Festnahme münden kann, also unter Umständen zu gewichtigen Eingriffen in die Rechtsstellung der Person. Das demokratische Anliegen führt zum selben Schluss: Hier ist es allen voran die gesellschaftliche Dimension dieser neuen Vorgehensweise, die einer eingehenden politischen Diskussion und daher einer parlamentarischen Norm bedürfen. Werden damit der Polizei zusätzlich neue Aufgaben auferlegt und werden neue Möglichkeiten des Eingriffs in das Leben des Einzelnen geschaffen, müssen auf höchster gesetzlicher Ebene, also vom Parlament als Legislative in einem formellen Gesetz, Regelungen getroffen werden.
Diese Regelungen zum Predictive Policing müssten zudem Folgendes festhalten (genügende Normdichte):
Ist ein selbstlernendes System im Einsatz, ist auch sicherzustellen, dass die Nachvollziehbarkeit auf Dauer gewährleistet ist, u.a. um dem Recht der betroffenen Person auf Begründung eines behördlichen Entscheids (Teil des Anspruchs auf rechtliches Gehör, Art. 29 Abs. 2 BV) nachzukommen oder Diskriminierungen vorzubeugen (Art. 8 Abs. 2 BV). Daneben sind auch weitere grundrechtliche Anforderungen zu beachten.
Public Sector Law berät Gemeinwesen regelmässig bei gesetzgeberischen Projekten. Das Verfassen von Gesetzen im Wortlaut gehört zu unseren Kernkompetenzen. Kommen Sie mit uns ins Gespräch!
[1] Der Einfachheit halber basiert die hier verwendete Terminologie auf derjenigen der Studie «Einsatz Künstlicher Intelligenz in der Verwaltung: rechtliche und ethische Fragen», Schlussbericht vom 28. Februar 2021, Universität Basel, Prof. Nadja Braun Binder, in Zusammenarbeit mit AlgorithmWatch. Vgl. dazu S. 10-11 des Schlussberichts.
[2] Monika Simmler, Simone Brunner, Kuno Schedler, «Smart Criminal Justice – Eine empirische Studie zum Einsatz von Algorithmen in der Schweizer Polizeiarbeit und Strafrechtspflege», Studienbericht vom 10. Dezember 2020, S. 6. Gerne weisen wir darauf hin, dass diese Studie in einem Detailgrad auf verschiedene in Polizei- und Justizwesen aktuell eingesetzte Anwendungen eingeht und diese auch auf ihre Legalität einschätzt, wie es vorliegend nicht möglich ist. Entsprechend empfehlenswert ist die Lektüre des ganzen Studienberichts.
[3] Vgl. zum Ganzen Pierre Tschannen/Ulrich Zimmerli/Markus Müller, Allgemeines Verwaltungsrecht, 4. Aufl. Bern 2014, § 19 n. 12 ff. Zu den Funktionen des Legalitätsprinzips ebenfalls sehr aufschlussreich ist der folgende Aufsatz: Isabelle Häner, Die Einwilligung der betroffenen Person als Surrogat der gesetzlichen Grundlage bei individuell-konkreten Staatshandlungen, ZBl 103/2002, S. 57 ff.
[4] Vgl. dazu Tschannen/Zimmerli/Müller, § 19 n. 4.
Beschaffungsrecht
Bildungsrecht
Compliance
Datenschutz
Diplomanerkennung
eGovernment
Gesundheitsrecht
Grundrechte
Heilmittelrecht Compliance
Public Procurement Law
Rechtsprechung
Regulierung im digitalen Zeitalter
Staatsrecht
Swiss Public Law
Uncategorized