SubmittedText

Der Einsatz von Algorithmen in Entscheidungsprozessen ("Künstliche Intelligenz" (KI)) nimmt rasant zu. Die Intransparenz, die diese Algorithmen umgibt, steht in einem krassen Widerspruch zum Einfluss, den sie auf unsere Gesellschaft, Demokratie und Normen und Werte haben und zunehmend gewinnen. Der Umgang mit Algorithmen wird damit zur politischen Frage: Und um die Auswirkungen beurteilen zu können, braucht es mehr Transparenz, Sachkenntnis und den Zugang zu Daten. Und um negative Auswirkungen der KI zu vermeiden mehr demokratische Kontrolle.

1. Der Bericht zur Motion Rechsteiner 13.3841 (Zukunft der Datenbearbeitung und Datensicherheit) hält unter Massnahme 50 fest:

"Der Bund sorgt für ausreichende Transparenz, Nachvollziehbarkeit, Verständlichkeit und Accountability (Rechenschaftspflicht) bei digitalen Prozessen und Algorithmen, um eine vertrauensbasierte digitale Wirtschaft und Gesellschaft zu gewährleisten." Wie wurde diese Massnahme umgesetzt, bzw. wie gedenkt der Bundesrat, diesem Anspruch gerecht zu werden?

2. Die Definitionen von Kriterien für Prüfungen von Algorithmen nach Kriterien wie Sicherheit und Zuverlässigkeit, Diskriminierungsfreiheit, Rechtmässigkeit u.a. sind sehr anspruchsvoll. Die Transparenz von Entwicklungs- und Lernprozessen und die Sicherheit stehen dabei im Zentrum. Gibt es in der Schweiz Bestrebungen, Kriterien zu entwickeln bzw. zu standardisieren? Beteiligt sich die Schweiz an internationalen Projekten zur Entwicklung von Normen? Beispielsweise an der Entwicklung der Normungsroadmap für KI des Deutschen Instituts für Normung e.V. (DIN)?

3. Im Februar hat der Bund die Leitlinien "Künstliche Intelligenz" für die Bundesverwaltung verabschiedet und damit eine wichtige Vorbildfunktion übernommen. Welche Instrumente bestehen, um die Umsetzung dieser Leitlinien zu kontrollieren? Wie wird sichergestellt, dass ethische Erwägungen in die KI-Anwendungen/-Entwicklungen des Bundes mit einfliessen? Erwägt der Bund, diese Leitlinien in einer Form auf die Privatwirtschaft zu übertragen?

4. Was hält der Bundesrat von einer unabhängigen Prüfinstanz zur Kontrolle von Anwendungen von KI nach ihrer Funktionalität, Sicherheit, Ethik und den rechtlichen Grundlagen? Falls der Bundesrat die Einführung einer solchen Prüfinstanz begrüsst: Soll eine solche von der öffentlichen Hand betrieben werden oder von einer privaten Organisation?

FederalCouncilResponseText

1. Die Entwicklung und Anwendung von künstlicher Intelligenz ist in den letzten Jahren weiter vorangeschritten. Angesichts dieser Entwicklungen hat der Bundesrat 2018 künstliche Intelligenz (KI) als ein zentrales Thema der Strategie "Digitale Schweiz" definiert und eine interdepartementale Arbeitsgruppe unter Federführung des WBF (SBFI) ins Leben gerufen. Der Bundesrat hat die Ergebnisse des Berichts der Arbeitsgruppe "Herausforderungen der künstlichen Intelligenz" am 13. Dezember 2019 zur Kenntnis genommen und mehrere Folgeaufträge erteilt: Dazu gehören die Erarbeitung der am 25. November 2020 verabschiedeten Leitlinien "Künstliche Intelligenz" für die Bundesverwaltung sowie eine Machbarkeitsprüfung für ein Kompetenznetzwerk KI (KNW KI). Gestützt auf erste Ergebnisse der Machbarkeitsprüfung hat der Bundesrat am 4. Dezember 2020 das EDI (BFS) und die BK (DTI, Bereich Digitale Transformation und IKT-Lenkung) beauftragt, eine detaillierte Analyse für ein Kompetenznetzwerk durchzuführen und ihm danach bis Ende Juni 2021 ein Umsetzungskonzept zu unterbreiten. Im Vordergrund der Analyse stehen die Funktionen (strukturierte Datenbank, aktiver Wissensaustausch und Vermittlung dezentraler Experten), die das Kompetenznetzwerk künftig erfüllen soll.

2. Die aktuellen Entwicklungen und die damit einhergehenden Herausforderungen der KI bedürfen globaler Lösungsansätze. Die Schweiz engagiert sich daher seit Jahren aktiv in internationalen Gremien zur Entwicklung von Normen zu KI, so z.B. in der OECD, dem Europarat und der UNESCO. Als Mitglied des Adhoc Komitees zu KI (CAHAI) des Europarats ist die Schweiz an den Arbeiten zur Prüfung der Machbarkeit eines Rechtsrahmens für die Entwicklung, Gestaltung und Anwendung von KI mitbeteiligt. Dieser soll auf den Menschenrechten, der Rechtsstaatlichkeit und der Demokratie basieren und somit neben den rechtlichen auch ethischen Anforderungen berücksichtigen. Die CAHAI hat dabei eine Vielzahl von Akteuren aus der Privatwirtschaft und Zivilgesellschaft konsultiert. Ferner wird der Europarat hierzu im Frühling 2021 offene Konsultationen abhalten. Des Weiteren ist vorgesehen, alle Interessierten zu Diskussionen auf der vom Bundesamt für Kommunikation (BAKOM) geleiteten nationalen Multistakeholder-Plattform ("Plateforme tripartite") einzuladen.

Der bundesverwaltungsinterne Wissensaustausch über die Entwicklungs- und Lernprozesse soll im Rahmen des künftigen Kompetenznetzwerks KI gesichert werden. Zudem erfolgt über die oben genannte "Plateforme Tripartite" ein regelmässiger Dialog und Informationsaustausch in der Schweiz über die politischen, gesellschaftlichen, wirtschaftlichen Aspekte von Kl sowie über die diesbezüglichen Positionen der Schweiz in internationalen Organisationen. Weiter hat der Bundesrat mit der per 1. Januar 2021 umgesetzten Schaffung des Kompetenzzentrums für Datenwissenschaft im BFS (DSCC) entschieden, bessere Rahmenbedingungen für die Einhaltung ethischer Grundwerte zu schaffen. Das DSCC hat den Auftrag, Beratungsdienstleistungen zum ethischen Umgang mit Daten und Algorithmen, zu konkreten Fragestellungen in Bereichen wie Informationssicherheit, Nichtdiskriminierung, Erklärbarkeit, Transparenz etc. anzubieten und für die Bundesverwaltung entsprechende Grundlagen zu erarbeiten. Diese sollen dann unter anderem auch über das Kompetenznetzwerk KI bundesweit gefördert und zugänglich gemacht werden. Des Weiteren ist darauf hinzuweisen, dass die vom Parlament am 25. September 2020 verabschiedete Totalrevision des Datenschutzgesetzes (nDSG; BBl 2020 7639) verschiedene Massnahmen vorsieht, die sich spezifisch auf den Einsatz von KI auswirken können, soweit dabei Personendaten bearbeitet werden. Beispielsweise müssen Bundesorgane und private Datenbearbeitende den betroffenen Personen inskünftig Auskunft über das Vorliegen allfälliger automatisierter Einzelentscheidungen sowie die Logik, auf die sich diese Entscheidungen stützen, erteilen (Art. 25 Abs. 2 Bst. f nDSG).

3. Die vom Bundesrat verabschiedeten Leitlinien "Künstliche Intelligenz" (www.admin.ch Startseite Dokumentation Medienmitteilungen Themen: Technologie Datum: 25.11.2020 Leitlinien "Künstliche Intelligenz" für die Bundesverwaltung verabschiedet) sollen als Orientierungsrahmen für die Bundesverwaltung dienen. Die Verantwortung für die Einhaltung dieser Leitlinien beim Einsatz von KI in der Bundesverwaltung liegt bei den Departementen und den einzelnen Verwaltungseinheiten, jeweils im Rahmen ihrer rechtlich definierten Aufgaben bzw. ihres Grundauftrags. Eine regelmässige Beurteilung hinsichtlich der Anwendung und Weiterentwicklung der Leitlinien wird vom BAKOM sichergestellt. Es bestehen zahlreiche, unterschiedliche ethische und rechtsbasierte Ansätze zur KI, weshalb gegenwärtig internationale Bemühungen laufen, diese Ansätze durch global verbindliche Standards zu harmonisieren (vgl. Punkt 2). Zahlreiche Unternehmen haben bereits für sich Leitlinien für den Umgang mit KI definiert. Eine Übertragung der Leitlinien der Bundesverwaltung in irgendeiner Form auf die Privatwirtschaft ist nicht geplant.

4. Die Schweiz gehört mit zu den führenden Ländern bei der Entwicklung von KI. Sie trägt daher auch eine Mitverantwortung. Unter der Schirmherrschaft von Bundesrat Ueli Maurer hat der branchenübergreifende Verband digitalswitzerland die Stiftung Swiss Digital Initiative initiiert. Sie fördert mit dem neuen Label Digital Trust weltweit erstmals ethisches und verantwortungsvolles Verhalten. Weitere Projekte zur Sicherstellung von ethischen Standards sollen folgen. Ferner bietet die Festlegung technischer und ethischer Standards die Gelegenheit, in einer breiten Öffentlichkeit zu diskutieren, wie KI verwendet werden soll. Standards könnten dabei die Transparenz erhöhen und Wettbewerbsverzerrungen vermeiden. Dabei ist ein globaler Ansatz von entscheidender Bedeutung, der die grenzüberschreitenden Rechts- und Verwaltungsregelungen berücksichtigt. Im Vordergrund steht dabei die Art und Weise, wie Anwendungen eingesetzt werden, und nicht die Anwendung selber. Daher ist der Bundesrat der Ansicht, dass die Schaffung einer unabhängigen Prüfinstanz zur Kontrolle von Anwendungen von KI zurzeit nicht zielführend ist. Eine solche Instanz könnte der Vielzahl an funktionalen, sicherheitstechnischen, ethischen und rechtlichen Fragestellungen nur ungenügend gerecht werden. Zudem wäre die Regulierung mit enormen Kosten verbunden. Des Weiteren würde die Schweiz bei einem Alleingang in einer Zeit, in der die Welt global vernetzt ist, hinter den globalen Wettbewerbern zurückfallen. Der Bundesrat sieht zurzeit daher keinen Mehrwert, eine solche Prüfinstanz zu schaffen.

Antwort des Bundesrates.