Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03370.jsonl.gz/1829

Seit rund zehn Jahren wird bei Personalauswahlverfahren immer mehr Informatik eingesetzt. Diese Praxis stösst auch auf Widerstände. In der Schweiz soll eine Software KI und Ethik miteinander vereinbaren.
Im Bereich Personalmanagement (HR) konnte die Informatik ihr Potenzial zunächst unter Beweis stellen, indem sie eine Vorauswahl der am besten geeigneten Bewerbungen ermöglichte. Später haben einige grosse Firmen auch damit begonnen, die Technik für videobasierte Bewerbungsgespräche zu nutzen. Dank dieser Entwicklung konnte die Zahl der Gespräche von Angesicht zu Angesicht unter Einbeziehung von HR-Fachleuten drastisch reduziert werden und die Auswahl wurde transparenter und weniger von Verzerrung durch menschliche Bewertung beeinflusst.
Die Methode kam jedoch bald an ihre Grenzen. Schon 2015 stellte zum Beispiel Amazon fest, dass seine Software zum Sortieren der Lebensläufe männliche Bewerber bevorzugt und so die Verzerrung reproduziert, die sich eigentlich minimieren soll. Anfang 2020 erklärte auch die Rekrutierungsplattform HireVue, dass sie auf die Gesichtsanalyse verzichtet, aus Angst, die KI könnte rassistische Vorurteile übernommen haben.
"Aus rechtlicher Sicht besteht das grösste Risiko bei der Verwendung dieser Technologie darin, dass sie eine Diskriminierung begeht", meint Prisca Quadroni-Renella, eine auf künstliche Intelligenz spezialisierte Rechtsanwältin. "Natürlich ist auch niemand vor einer Diskriminierung durch einen Menschen geschützt. Aber angesichts des Umfangs, in dem KI eingesetzt wird, und der Zahl der bearbeiteten Bewerbungen können die Folgen umso schwerer wiegen." Einige HR-Praktiken, die neue Technologien einbeziehen, wurden eindeutig ohne den nötigen Abstand übernommen. Doch muss die Nutzung von KI bei der Rekrutierung deshalb komplett ausgeschlossen werden?
Den Menschen wieder in den Mittelpunkt stellen
"Das Ziel ist, dem Bewerber zu ermöglichen, sich so zu zeigen, wie er ist, ohne dass die Gefahr besteht, falsch verstanden oder interpretiert zu werden", erklärt Caroline Metteucci. Die ehemalige Inspektorin der Sicherheitspolizei, die später zum Profiling wechselte, gründete 2017 die Firma CM Profiling. Ihr beliebtestes Produkt namens "Cryfe" ist eine Software, mit der man Gesichtsausdrücke und Körpersprache bei Bewerbungsgesprächen analysieren kann. Sie wurde in Zusammenarbeit mit der Hochschule für Technik und Architektur in Freiburg (HTA-FR) und dem Forschungsinstitut Idiap in Martigny entwickelt.
Um die von den Marktriesen wie Amazon oder HireVue erlebten Nachteile zu vermeiden, wollte das Unternehmen mit Sitz in Muri (BE) eine Lösung erarbeiten, die Informatik und menschliche Intervention kombiniert. "Es geht nicht darum, das Video des Gesprächs an eine Maschine zu schicken, damit sie es kalt analysiert und ihre Entscheidung trifft", erklärt Caroline Matteucci. "Die Lösung funktioniert nur in Kombination aus einem HR-Experten und der KI, die eine Hilfe darstellt, um Inkongruenzen zwischen der gesprochenen Sprache und der Körpersprache aufzudecken."
Die Maschine analysiert die verbalen und nonverbalen Ausdrücke (Gesichtsausdrücke, Stimmlage und Gestik) live mit dem Ziel, den HR-Verantwortlichen ein umfassenderes Verständnis der Antworten der Bewerberinnen und Bewerber zu geben und das Risiko vorurteilsbasierter Eindrücke zu verringern.
Einfache Nutzung
"Die Software erfordert eine gewisse Anpassung", räumt Carole Piller ein, die die Personalvermittlung Valjob in Freiburg leitet. "Doch beim Kauf von Cryfe ist eine Schulung enthalten, mit deren Hilfe die Handhabung gut gelingt."
Das Freiburger KMU war die erste Firma, die das Tool in einer Testphase nutzte. "Für den Bewerber ist die Methode mit relativ wenigen Vorgaben verbunden; man muss nur einwilligen, dass man gefilmt wird, und seine Hände zeigen, da die Maschine auch die Gestik analysiert. Davon abgesehen ist es ein ganz normales Bewerbungsgespräch", führt Carole Piller weiter aus. Die Software bietet dem Personalleiter jedoch die Möglichkeit, noch einmal auf einen Teil des Gesprächs genauer einzugehen, falls ein vom System erkanntes körpersprachliches Signal des Bewerbers nicht mit dem Gesagten übereinzustimmen scheint. "Die Maschine ist insofern eine grosse Hilfe, als sie Details erkennen kann, die unserer Wahrnehmung entgehen", ergänzt die Geschäftsführerin.
"Indem die von Menschen wahrgenommenen Eindrücke und die Analyse der Maschine gewichtet werden, können die Verzerrungen auf beiden Seiten so gering wie möglich gehalten werden, ergänzt Caroline Matteucci. Der Nutzen beschränkt sich jedoch nicht auf die Personalrekrutierung. Es wäre auch möglich, die Software im Rahmen von psychiatrischen Untersuchungen zu verwenden, wobei auch das immer als Hilfe für die Beobachtung durch einen Menschen gedacht ist."
Die Rechtsanwältin Prisca Quadroni-Renella steht diesen verschiedenen Arten der Nutzung von KI grundsätzlich positiv gegenüber. "Die Tatsache, dass die Software als Unterstützung eingesetzt wird, so wie es zum Beispiel ein Kollege tun könnte, aber nicht allein das Ruder in der Hand hat, ist ein hervorragender Punkt. Die Herausforderung besteht allerdings darin sicherzustellen, dass die Anwender richtig geschult und bei Bedarf beaufsichtigt werden."
Informationen
Zum Thema
KI und Ethik, ein unlösbarer Widerspruch?
In der Europäischen Union gibt es für das bisher wenig geregelte Thema der künstlichen Intelligenz derzeit einen neuen Vorschlag für eine Verordnung. In dem Text wird die Gesichtsanalyse als eine "hochriskante" Nutzungskategorie eingestuft. In der Schweiz ist das Recht gegenwärtig flexibler, doch ethische Überlegungen dürften die Debatte in den kommenden Jahren anfeuern. "Da es keine verbindlichen gesetzlichen Regelungen gibt, kann es hilfreich sein, sich an ethischen Gesichtspunkten zu orientieren und sich zu fragen, ob eine bestimmte Praxis mit den Werten des Unternehmens vereinbar ist, bevor man darauf zurückgreift", betont Prisca Quadroni-Renella, eine auf künstliche Intelligenz spezialisierte Rechtsanwältin.
Wenn es um die Verhaltensanalyse im Bewerbungsprozess geht, ist die Anwältin aus dem Tessin dennoch besorgt in Bezug auf mögliche Eingriffe in die Privatsphäre. "Nehmen Sie zum Beispiel eine Person, die eine Autismus- oder Aufmerksamkeitsstörung hat – es kann sein, dass sie selbst gar nichts davon weiss. Wenn eine KI das aufdecken kann, gibt es ein echtes Problem im Bereich der Ethik. Ausserdem könnten einige Unternehmen diese Technologie nutzen, um Daten in anonymisierter Form weiterzuverkaufen, denn das Gesetz erlaubt es ihnen unter bestimmten Umständen, diese zu monetären Zwecken zu nutzen."
Links
Letzte Änderung 05.04.2023