Source: https://ackerschott.eu/blog/?p=1180
Timestamp: 2019-04-23 06:26:10
Document Index: 359285488

Matched Legal Cases: ['Art. 1', 'Art. 1', 'Art. 5', 'Art. 5', 'Art. 5', 'Art. 24']

Position: Anforderungen an KI in der Personalarbeit | Business Psychology – Blog – Wirtschafts­psychologie
by Harald Ackerschott, posted Apr 06, 2019
Mit der „Entschließung der 97. Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder vom 3. April 2019“ liegt ein substantieller Aufschlag der verantwortlichen deutschen Datenschützerinnen und Datenschützer zum Einsatz von KI auch in der Personalarbeit vor. Die Forderungen und Ansprüche der Datenschützer sind teilweise schon gesetzlich verankert, teilweise beschreiben sie die Notwendigkeit von weiteren Vorgaben und Standards.
Ihre Aussagen zu den Anforderungen an KI-Systeme sind in sieben Themen aufgelistet, die ich im Folgenden der Einfachheit halber übernehme. So können die Leserin oder der Leser die Texte bei Interesse leichter zueinander in Beziehung setzen.
Die Datenschützerinnen und Datenschützer führen aus:
1. Die Grundrechte setzten den Rahmen:
„Die Wahrung der Grundrechte ist Aufgabe aller staatlichen Instanzen.“
„Die Garantie der Würde des Menschen (Art. 1 Abs. 1 GG, Art. 1 GRCh) gebietet, dass … mittels KI der Einzelne nicht zum Objekt gemacht wird.“
Diese Position wird noch einmal verstärkt und konkretisiert in
2. KI dürfe nur für verfassungsrechtlich legitimierte Zwecke eingesetzt werden
Dies beziehen die Datenschützer einerseits auf den Einsatz von KI im staatlichen Rahmen, formulieren es aber auch als generelle Forderung. Sie vertiefen noch einmal ihre erste grundgesetzbezogene Aussage und weisen insbesondere noch einmal ausdrücklich auf die Zweckbindung hin:
„Zu beachten ist auch der Grundsatz der Zweckbindung (Art. 5 Abs. 1 lit. b DS-GVO).“
Das heißt, dass erweiterte Verarbeitungszwecke mit dem ursprünglichen Erhebungszweck der Daten vereinbar sein müssen. In diesem Zusammenhang ist insbesondere die Gültigkeit einer ursprünglich von den Betroffenen erhobenen Zustimmung zum Anlass der Datenerhebung und zum Umfang der Verarbeitung relevant.
Die Beachtung der Verfassung und der gültigen Gesetze sollte eigentlich für alle Menschen in diesem Staat selbstverständlich sein, aber vielleicht ist die Erinnerung in diesem Zusammenhang doch noch einmal besonders wichtig. Entwicklerinnen und Anwender von KI müssen die Menschenwürde respektieren, auch wenn es manchmal mühselig sein mag, die Implikationen eingesetzter Systeme zu Ende zu denken. Ich denke persönlich, dass diese Erinnerung vor allem für alle diejenigen bedeutsam sein könnte, die sich eigentlich von KI Lösungen für Probleme erhoffen, die sie selbst nicht wirklich verstehen und gedanklich gründlich durchdrungen haben.
KI kann nämlich nicht Abkürzung für Aufgabenstellungen sein, die Auftraggeber selbst nicht verstanden haben und bei denen sie sich gern den Heilsversprechen von Anbietern kritiklos hingeben möchten. In dem Zusammenhang ist insbesondere auf eignungsdiagnostische Verfahren hinzuweisen, die wissenschaftliche Erkenntnisse systematisch ignorieren und auf unhaltbaren Postulaten basieren.
3. KI müsse transparent sein und erklärt werden.
Die Datenschützer führen dazu aus: „Entscheidungen, die auf Grundlage des Einsatzes von KI-Systemen erfolgen, müssen nachvollziehbar und erklärbar sein. Es genügt nicht die Erklärbarkeit im Hinblick auf das Ergebnis, darüber hinaus muss die Nachvollziehbarkeit im Hinblick auf die Prozesse und das Zustandekommen von Entscheidungen gewährleistet sein.“
Und weitergehend folgt aus „Erklärbarkeit“ die Forderung zur „Erklärung“:
„Nach der DS-GVO ist dafür auch über die involvierte Logik ausreichend aufzuklären.“
Denn, und hier ist die Aufmerksamkeit der Auftraggeber insbesondere von externen Dienstleistern gefragt, diese Pflicht leite sich aus der Rechenschaftspflicht des Verantwortlichen nach Art. 5 Abs. 2 DS-GVO ab.
Das ist eine Forderung, die ich voll und ganz teile. Transparenz und Erklärbarkeit und im konkreten Anwendungsfall auch Erklärung der zugrunde liegenden Algorithmen gegenüber Entscheiderinnen und anderen Beteiligten, insbesondere gegenüber Bewerberinnen und Bewerbern sollten nicht mit Verweisen auf Komplexität oder Kompliziertheit vermieden werden. Allerdings ist die Frage des Schutzes von Innovationen hier nicht als einfache Schutzbehauptung von „Erfindern“ von Algorithmen oder KI Systemen zurückzuweisen. Die Vereinbarung von Vertraulichkeit beim Austausch von konkreten Informationen zu schützenswertem geistigen Eigentums sollte hier zunächst eine Selbstverständlichkeit sein, wünschenswert wären jedoch weitergehende Schutzrechte von Innovationen durch die Möglichkeit der Patentierung von Lösungen, deren Technizität außerhalb der im Europäischen Patentamt etablierten Technikbegrifflichkeit liegt. (“Dieses Thema wird sicher an anderer Stelle noch zu vertiefen siein.)
4. KI müsse Diskriminierungen vermeiden
Dabei wird Diskriminierung von den Datenschützern nicht fachsprachlich wertneutral im Sinne von „Unterscheidung“ benutzt (was ja durchaus die Aufgabe von z. B. eignungsdiagnostischen Anwendungen ist, nämlich zwischen geeigneten und nicht geeigneten Bewerberinnen und Bewerbern zu unterscheiden) sondern im Sinne von ungerechtfertigter Benachteiligung.
Diskriminierende Verarbeitungen in diesem Sinne verstießen u.a. gegen Anforderungen der Datenschutz-Grundverordnung, etwa den „Grundsatz der Verarbeitung nach Treu und Glauben, die Bindung der Verarbeitung an legitime Zwecke oder die Angemessenheit der Verarbeitung.“
Wichtig ist mir hierzu anzumerken, dass Diskriminierung allerdings, wie auch unter 3. zur Transparenz ausgeführt, nicht ausschließlich vom Ergebnis her bewertet werden kann. Auch die in den Medien kursierenden Beispiele von ausschließlich an den Ergebnissen fest-gemachter Diskriminierung durch Algorithmen eignen sich nicht für eine belastbare Bewertung, denn „Unterscheidung“ ist sowohl bei der Platzierung von Werbebotschaften als auch bei der Unterscheidung von unterschiedlichen Eignungsgraden von Bewerberinnen und Bewerbern gerade das Ziel der Anwendung von Algorithmen oder KI-Systemen und die Beurteilung ob ungerechtfertigt benachteiligt wird, ob Stereotype verstärkt werden oder ob der Unterscheidung tatsächlich gerechtfertigte Unterscheidungsmerkmale von Personen zu Grunde liegen, ergibt sich abschließend nur aus der Betrachtung der Logik des Systems, nicht aus dem Ergebnis.
5. Auch für KI gelte der Grundsatz der Datenminimierung
Für personenbezogene Daten gelte dabei nach Auffassung der Datenschützer auch in KI-Systemen der Grundsatz der Datenminimierung. Die Datenschützer ziehen dafür Art. 5 Abs. 1 lit. c DS-GVO heran. Sie setzen als Grenze das „notwendige Maß“ und fordern eine soweit wie möglich anonyme Verarbeitung insbesondere von Trainingsdaten.
Hier ist aus Sicht des Entwicklers von Algorithmen und von KI-Lösungen anzumerken, dass beim Einsatz großer Datenmengen (Big Data) das notwendige Maß schon größere Datenmengen erfordern kann als vielleicht auf den ersten Blick angenommen werden mag, insbesondere da ein über reines Data-Mining herausgehender Ansatz eine theoriegeleitete Vorgehensweise verlangen wird, die allein schon durch die notwendigen Wiederholungsmessungen von Prädiktoren und Kriterien einen besonderen Aufwand erfordert.
Grundsätzlich sind aus wissenschaftlicher Sicht – die ich mir auch gern persönlich zu eigen mache – auch reine Data-Mining Ansätze ohne theoretische Fundierung bzw. insbesondere bei sogenannten „innovativen“ Lösungen ohne weitergehende empirische Testung in prädiktiven Studien überhaupt abzulehnen.
6. KI brauche Verantwortlichkeit
Auch hier ist der Datenverantwortliche wieder ausdrücklich angesprochen:
„Die Beteiligten beim Einsatz eines KI-Systems müssen die Verantwortlichkeit ermitteln und klar kommunizieren und jeweils die notwendigen Maßnahmen treffen, um die rechtmäßige Verarbeitung, die Betroffenenrechte, die Sicherheit der Verarbeitung und die Beherrschbarkeit des KI-Systems zu gewährleisten.“
Hier ist insbesondere spannend, wie die Beherrschbarkeit ausgelegt werden wird. Grundsätzlich ist damit ein Signal gesetzt, dass ein „das konnten wir nicht vorher erkennen“ kaum überzeugen kann, um sich gegenüber etwaigen Haftungsansprüchen z. B. bei Benachteiligung in Einstellungsverfahren zu verteidigen.
Darüber hinaus formulieren die Datenschützer unter „Ziffer 7“ eine Aufforderung an Wirtschaft und Wissenschaft, Standards und Grundsätze zu formulieren, damit technische und organisatorische Maßnahmen nach Art. 24 und 25 DS-GVO die Besonderheiten von Konzeption und Einsatz von KI-Systemen angemessen berücksichtigten.
Eine Aufforderung, die von den interessierten Kreisen ernst zu nehmen wäre.
1 Quelle: Originaltext der Hambacher Erklärung
Die Diskussion zu dem Thema können wir gern auf LinkedIN fortsetzen
tags: Ackerschott, DIN 33430, DSGVO, Eignungsdiagnostik, KI, künstliche Intelligenz, Ulrich Kelber