Artificial intelligence in education, culture and the audiovisual sector (debate)
Speaker: Sabine VERHEYEN (Germany, Group of the European People's Party (Christian Democrats) / Christlich Demokratische Union Deutschlands)
Date: 2021-05-18

  Sabine Verheyen,  Berichterstatterin. – Herr Präsident, sehr geehrte Frau Kommissarin, liebe Kolleginnen und Kollegen! Auch zu dieser späten Stunde erlaube ich mir zunächst einmal, meinen Schattenberichterstattern, dem Sekretariat, den Mitarbeitern für die gute Zusammenarbeit und Kooperation und Zuarbeit zu danken. Durch diese Kooperation wurde, denke ich, ein guter umfassender Bericht möglich.
Wir haben einen Bericht verfasst zum Thema Künstliche Intelligenz in den Bereichen Bildung, Kultur und audiovisuelle Medien. In diesem Bericht fordern wir einen klaren ethischen Rahmen für den Einsatz von KI-Technologie in den Medien, um sicherzustellen, dass die Menschen Zugang zu kulturellen und sprachlich vielfältigen Inhalten haben. 
Ein solcher Rahmen sollte auch den Missbrauch von Künstlicher Intelligenz zur Verbreitung von Fake News und Desinformation adressieren. Wir brauchen klare Regeln für KI-Technologien, sodass sie Antidiskriminierung, Geschlechtergerechtigkeit, Pluralismus sowie kulturelle und sprachliche Vielfalt schützen. Die Verwendung von Daten, die bereits bestehende Ungleichheit oder Diskriminierung widerspiegeln, sollte beim Training von Künstlicher Intelligenz ausgeschlossen werden. Stattdessen soll ein inklusiver und ethischer Rahmen zur Verwendung von Datensätzen entwickelt werden, die während des Deep Learning Process Anwendung finden.
Es gibt keinen Zweifel daran, dass Künstliche-Intelligenz-Technologien uns in Zukunft in allen Lebensbereichen begegnen und sicherlich auch bereichern werden. Wir müssen aber den Menschen in den Mittelpunkt der Nutzung aller Technologie stellen, und gerade im Bildungsbereich muss Künstliche-Intelligenz-Technologie auf den Menschen ausgerichtet sein, der die letzte Entscheidung trifft und die Verantwortung in seinen Händen hält.
Dennoch halte ich es für falsch, den Bildungsbereich in der Diskussion um Künstliche Intelligenz generell als Hochrisikosektor zu klassifizieren. Gerade im Bildungssektor gibt es alle erdenklichen Möglichkeiten, wie KI genutzt werden kann. Einige bergen höhere Risiken, andere weitaus geringere. Hier bedarf es aber einer klaren Risikoeinschätzung und keiner Pauschalisierung eines gesamten Sektors, um Regulierung und Sicherheitsmaßnahmen je nach wirklichem aktuellen Risiko abstufen zu können.
Auch ich möchte an dieser Stelle an die Bedeutung der Stärkung digitaler Kompetenzen auf Unionsebene als Voraussetzung für den Einsatz von Künstlicher Intelligenz in der Bildung erinnern und an die Notwendigkeit, vor allem auch die Lehrkräfte zu schulen, damit sie sich an die Realitäten der KI-gestützten Bildung anpassen können und Risiken durch falsche Nutzung der Technologie vermindert werden. Lehrerinnen und Lehrer müssen jederzeit in der Lage sein, von der KI getroffene Entscheidungen zu korrigieren, wie etwa bei der Bewertung von Schülerinnen und Schülern. Niemals dürfen Lehrer durch KI-Technologien ersetzt werden, und ganz besonders nicht in der frühkindlichen Bildung.
Für den Kultur- und Kreativsektor fordern wir eine kohärente Vision der Nutzung von Künstlicher Intelligenz auf europäischer Ebene und in den Mitgliedstaaten. Algorithmusbasierte Inhaltsempfehlungen, insbesondere bei Video- und Musikstreaming-Diensten, sollten die kulturelle und sprachliche Vielfalt in der Europäischen Union nicht negativ beeinflussen können. Dazu sollen spezifische Indikatoren entwickelt werden, um die Vielfalt zu bewerten und sicherzustellen, dass europäische Werke gefördert werden. So wollen wir filter bubbles reduzieren und mehr Transparenz für die Konsumenten ermöglichen, die so Algorithmusentscheidungen auch besser nachvollziehen können.
Wir haben Jahrzehnte lang dafür gekämpft, unsere Werte der Inklusion, der Antidiskriminierung, der Mehrsprachigkeit und der kulturellen Vielfalt zu etablieren, die unsere Bürger als einen wesentlichen Teil europäischer Identität sehen. Diese Werte müssen sich auch in der Onlinewelt widerspiegeln, in der Algorithmen und Künstliche-Intelligenz-Anwendungen immer mehr zum Einsatz kommen. Größtmögliche Transparenz und die Entwicklung von qualitativ hochwertigen und inklusiven Datensystemen für den Einsatz von Deep Learning sind von entscheidender Bedeutung ebenso wie ein klarer ethischer Rahmen, um den Zugang zu kulturell und sprachlich vielfältigen Inhalten zu gewährleisten. 
Künstliche Intelligenz ist eine Technologie, die zahlreiche unserer Lebensbereiche beeinflusst und den digitalen Wandel maßgeblich vorantreibt. Eines steht dabei in meinen Augen fest: Letztlich muss die Technologie dem Menschen dienen. Der Mensch steht im Mittelpunkt und hat die Verantwortung sowie die Kontrolle und die letzte Entscheidung.