SubmittedText

Künstliche Intelligenz (KI) wird aktuell international heftig diskutiert. Besonders im Fokus stehen KI-Systeme wieChatGPT, die zum Teil unerwartet fortgeschrittene Resultate liefern. Experten aus den KI-Labs sind ab dem Tempo dieser Entwicklungen so erstaunt, dass mittlerweile Stimmen aus ihren eigenen Reihen konkrete Rahmenbedingungen für die Erforschung, Entwicklung und Anwendung solcher fortgeschrittenen Systeme fordern.

Die internationale Zusammenarbeit ist von grosser Bedeutung, und die Schweiz sollte sich aktiv auf wissenschaftlicher und völkerrechtlicher Ebene einbringen. Das EDA hat mit der Konferenz "AI with Trust" im Frühling 2022 bereits erste Erfahrungen in diese Richtung gemacht. Das BAKOM ist im Rahmen des Europarats tätig.

In diesem Zusammenhang bitte ich den Bundesrat, die nachfolgenden Fragen zu beantworten:

1. Könnte eine durch die Schweiz organisierte internationale Konferenz einen Mehrwert zur sicheren Entwicklung und Überprüfung von fortgeschrittenen KI-Systemen leisten? Könnte der Bund sich aktiver in die internationale Zusammenarbeit einbringen? Wenn ja, wo?

2. Welche Chancen sieht der Bundesrat generell, in der Bundesverwaltung im Allgemeinen und für die bundesnahen Unternehmen im Speziellen in der Anwendung von KI-Systemen?

3. In welchen Bereichen sieht der Bundesrat die grössten Risiken von KI-Systemen bezogen auf die durch den Bund oder die bundesnahen Unternehmen zu erbringenden Leistungen?

4. Ist der Bundesrat der Ansicht, dass es in Zukunft - nach dem Vorbild bspw. der Internationalen Atomenergie-Organisation (IAEO) - eine neue Organisation zur Regulierung und Verifikation braucht? Und falls ja, für welche Bereiche und für welche Unternehmen?

FederalCouncilResponseText

1. Der Bundesrat verfolgt mit grosser Aufmerksamkeit die Entwicklung der KI in der Schweiz und weltweit. In seiner Strategie Digitalaussenpolitik 2021-2024[1] hat er sich auch mit den Chancen und Risiken von KI befasst. Der Bund organisiert gemeinsam mit der Internationalen Fernmeldeunion (ITU) jährlich eine internationale KI-Konferenz in Genf: den «AI for good» Summit. Dabei werden insbesondere die Chancen der KI für die Erreichung der UNO-Nachhaltigkeitsziele diskutiert. Zudem leitet die Schweiz die Verhandlungen zum ersten bindenden internationalen KI-Abkommen im Europarat und sie verfolgt international die Regulierung der Technologieanwendung mit besonderer Berücksichtigung unerwünschter Auswirkungen, wie der Verletzung von Menschenrechten, die Demokratie und Rechtstaatlichkeit. Weiter hat das EDA Mitte Juli mit dem AI Center der ETH Zürich den "Swiss Call for Trust & Transparency" lanciert. Unter Einbezug von Wissenschaft und Privatwirtschaft werden konkrete Lösungen für die mit der KI verbundenen Risiken gesucht.

2. Der Bund hat Ende Mai 2023 im Rahmen der Generalsekretärenkonferenz eine Standortbestimmung zum konkreten Einsatz von KI in der Bundesverwaltung vorgenommen. Dabei wurde festgestellt, dass die KI teilweise bereits gelebte Realität ist. Das Potenzial für die Automatisierung datenintensiver Aufgaben ist beträchtlich. Das KI-Kompetenznetzwerk des Bundes (CNAI) führt eine Liste laufender KI-Projekte. Daraus zwei Beispiele: (1) Dank «SwissPollen» werden mit KI die Pollenprognosen von MeteoSchweiz verbessert und auf einer App der Bevölkerung zugänglich gemacht. (2) Mit «Data Science for Energy Policy» soll das BFE bessere Vorhersagen für den nationalen Stromendverbrauch machen können. In seiner ganzen Breite wird das Potenzial von KI jedoch noch nicht genutzt, weil das Wissen über die Einsatzmöglichkeiten noch zu gering ist und die erforderlichen Rahmenbedingungen noch nicht genügend definiert sind. In der vom BAKOM koordinierten «Plateforme Tripartite» tauschen sich rund 300 Vertretende aus Bund, Wirtschaft, Zivilgesellschaft und Wissenschaft regelmässig über die Chancen und Risiken von KI aus.

3. Die interdepartementale Arbeitsgruppe KI hat 2019 die Risiken der Anwendung von KI in der Bundesverwaltung analysiert und dem Bundesrat Bericht erstattet (Bericht: «Herausforderungen der künstlichen Intelligenz»).[2] Die Hauptrisiken für KI-Systeme im öffentlichen Sektor liegen vor allem im Schutz der Persönlichkeit und bei den Grundrechten, sowie im Umgang mit kritischen Infrastrukturen. Bereits bekannt sind beispielsweise die Risiken von KI-Systemen bei der Erstellung und Verbreitung von Inhalten für die demokratische Meinungsbildung. Das BAKOM berücksichtigt diese Risiken bei der Erarbeitung einer Vernehmlassungsvorlage für eine Plattformregulierung, die bis im Frühjahr 2024 vorliegen soll.

4. Schon heute bietet das Internationale Genf ein dynamisches Ökosystem aus verschiedensten Plattformen, die sich mit der Regulierung von KI. befassen. Auch die UNO hat kürzlich die Gründung einer neuen KI-Agentur vorgeschlagen. Der internationale Organisationgrad ist zwar noch relativ gering, doch das Internationale Genf entwickelt sich auch als Hub der digitalen Gouvernanz und der Wissenschaftsdiplomatie. Die Stiftung GESDA entwickelt zudem eine Methodik zum Monitoring von neuen Technologien und deren Auswirkungen auf Menschen und Gesellschaft im Hinblick auf möglichen Regulierungsbedarf.

[1] Strategie Digitalaussenpolitik 2021-2024. 11.2020.

[2] Bericht der interdepartementalen Arbeitsgruppe „Künstliche Intelligenz“ an den Bundesrat. 13.12.2019