Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03532.jsonl.gz/273

Ein Algorithmus ist bekanntlich nur so gut, wie die Daten, mit denen er gefüttert wird und auf deren Basis er lernt. Ein Fall bei Amazon aus dem Jahr 2018 hat gezeigt, dass sich bei Systemen automatisierter Entscheidungen („automated decision-making systems“, ADM) im Personalrekrutierungsprozess schnell Vorurteile, sogenannte Bias, einschleichen – mit verheerenden Folgen.
2014 bildete Amazon ein Team namens AMZN.O. Dessen Aufgabe war, KI-Software zu entwickeln, die bei Bewerbungen für IT-Jobs eingesetzt werden sollte. 2015 kam jedoch heraus, dass die Software in der Trainingsphase beim Auswahlverfahren Frauen benachteiligte. Die Modelle wurden mit vorher bei Amazon eingereichten Lebensläufen trainiert, die größtenteils von Männern stammten, da überwiegend Männer in der Branche arbeiteten. Daraus schloss das System, dass es männliche Kandidaten zu bevorzugen habe. Amazon nahm daraufhin zwar Funktionsänderungen vor, aber letztlich konnte dadurch nicht ausgeschlossen werden, dass im KI-Auswahlverfahren weitere Diskriminierungsmuster auftreten. Also wurde das Projekt abgebrochen.
Auch in Deutschland sind bereits zahlreiche KI-basierte Software-Systeme im Einsatz, wie eine Recherche des Bayerischen Rundfunks in Zusammenarbeit mit dem Spiegel im Jahr 2021 zeigte. Doch wie sieht es in der Schweiz aus? Eine Umfrage bei grösseren Schweizer Firmen zeigt, dass die meisten nicht bereit sind, ausführlicher über das Thema zu sprechen.
Immer noch eine Rarität
Wer denkt, dass ADM-Systeme in der Personalrekrutierung bei Schweizer Firmen bereits weit verbreitet sind, irrt sich. Eine Medien-Recherche sowie direkte Nachfragen bei einigen der grössten und bekanntesten Schweizer Arbeitgebern im Zeitraum August 2021 bis Juni 2022 hat ergeben, dass die meisten noch keine KI-basierten Tools wie HireVue oder Modern Hire einsetzen oder zumindest deren KI-Komponenten nicht verwenden. Von den untenstehenden 13 Unternehmen, zu denen Informationen zum Thema vorliegen, setzen nur die Pharmafirmen Roche und Novartis auf KI-Software in der Rekrutierung. Allerdings auf ganz unterschiedliche Art und Weise.
Pharmabranche ist am weitesten
Sowohl Roche als auch Novartis bestätigen zwar, dass sie ADM-Systeme in der Personalrekrutierung einsetzen, wollten aber keine Auskunft darüber geben, um welche Software es sich dabei handelt.
Ziel des Einsatzes von Algorithmen in der Rekrutierung sei es, die Prozesse zu beschleunigen, aktiver auf Kandidat*innen im Talentpool zuzugehen und die Diversität zu erhöhen, so eine Sprecherin von Roche. Interessanterweise ist Letzteres aber genau einer der Hauptkritikpunkte beim Einsatz von ADM-Systemen im Personalwesen. Auf die Frage, wie Diversität mit Hilfe von ADM-Systemen erhöht werden könne, antwortet sie:
„Diversität kann erhöht werden, da menschliche Vorurteile keine Rolle bei der Vorauswahl der Kandidaten spielen. Wir bemühen uns stets, mit Trainings zu ‚unconscious bias‘ (unbewussten Vorurteilen) diese so weit wie möglich zu eliminieren, indem wir das Bewusstsein unserer Mitarbeiter dafür stärken. Aber es ist dennoch eine menschliche Eigenschaft, aufgrund der eigenen Erfahrungen, Werte und Vorstellungen Entscheidungen zu treffen. Durch KI kann dies bei der Vorauswahl eliminiert werden. Die KI lernt anhand der Daten, die ins System eingegeben werden, und anhand der weiteren Auswahl der als passend befundenen Kandidaten durch den Recruiter und Hiring Manager. So kann die KI ihre Suche schrittweise verfeinern und verbessern.“
Auf die Nachfrage, wie das Unternehmen Diversität bei Daten sicherstellt, die ins System eingegeben werden und auf deren Basis das ADM-System lernt, gab das Unternehmen keine weitere Auskunft.
Novartis setzt bei der Rekrutierung von externen Kandidat*innen weiterhin auf das herkömmliche Verfahren. Anders sieht es bei der Rekrutierung von potenziellen Kandidat*innen aus, die bereits bei Novartis arbeiten. Satoshi Sugimoto, Mediensprecher bei Novartis, schreibt:
„KI wird seit Kurzem bei der Suche nach möglichen internen Kandidatinnen und Kandidaten innerhalb unserer eigenen Organisation eingesetzt. Basierend auf den Karrierezielen und Erfahrungen unserer Mitarbeitenden unterstützt AI mit Vorschlägen die interne Suche nach qualifizierten Kandidatinnen und Kandidaten.“
UNILEVER
Auf der Website des Software-Anbieters HireVue findet sich ein Testimonial des Konsumgüterunternehmens Unilever. HireVue bietet eine Software an, mit der Recruiter*innen ihre Fragen als Video aufzeichnen oder schriftlich stellen können. Die ausgewählten Bewerber*innen erhalten dann einen Link und können die Fragen zeitversetzt via Video beantworten. Um die Chancengleichheit zu erhöhen, ist die Zeit für die Beantwortung jeder einzelnen Frage definiert. Die Software ist mit und ohne KI-Komponente erhältlich. In der Vergangenheit sorgte die KI-Funktion immer wieder für Kritik, da sie visuelle Daten wie beispielsweise die Mimik der Kandidat*innen analysierte. Die Firma musste einräumen, dass die verwendeten Methoden keine Basis in wissenschaftlichen Erkenntnissen hatten. Seit 2021 hat HireVue die Auswertung visueller Daten daher aus der KI-Funktion entfernt. Wer die Funktion heute nutzt, wertet nur noch die Audiospur der Bewerbungsvideos aus. Allerdings gilt hier dasselbe wie für die Video-Analyse: Wird Sprache daraufhin analysiert, ob Kandidat*innen geeignet sind? HireVue bietet inzwischen eine zusätzliche Komponente mit „Conversational AI“ an. Dabei handelt es sich um einen Chatbot, der die Kandidat*innen vor einem ersten Gespräch bereits auf ihre Qualifikationen scannt.
Eine Nachfrage bei Unilever ergab, dass HireVue zwar im DACH-Raum genutzt wird, jedoch keine automatisierte Auswertung der Interviews erfolgt. Die Medienstelle in Hamburg nimmt dazu wie folgt Stellung:
„Die On-Demand-Interviewfunktion von HireVue erleichtert es uns, dass wir bei einer sehr hohen Anzahl von Bewerbungen schneller in unseren Auswahlprozessen sein können, da es die Koordination von individuellen Interviewterminen deutlich vereinfacht. Die KI-Funktion wird im DACH-Raum nicht verwendet. Jedes Interview wird vom Recruitment Team gesichtet und stellt auch nur einen Teil des Auswahlverfahrens dar. Ein persönliches Gespräch mit Unternehmensvertretern findet in jedem Fall statt.“
Grossbanken nutzen noch keine automatisierten Entscheidungssysteme
Auf Anfrage gab die UBS an, derzeit keine KI-Komponenten im Rekrutierungsprozess einzusetzen, auch wenn gewisse von ihr genutzte Software solche Komponenten anbiete. Sie beobachte die Entwicklungen in diesem Bereich aber aufmerksam und überprüfe den eigenen Ansatz immer wieder von Neuem. Wie viele andere Unternehmen nutzt auch die UBS CV-Matching-Tools, bei denen die Lebensläufe maschinell auf Begriffe gescannt werden, die mit dem Jobprofil übereinstimmen. Für zeitversetzte Interviews nutzt die UBS die Software Modern Hire.
Eine Anfrage bei Modern Hire ergab, dass die Software Spracherkennung als KI-Komponente enthält. Sie gleicht die mündlichen Angaben der Kandidat*innen aus den Interviews mit den jeweiligen Jobanforderungen ab. Auf die Frage hin, wie Modern Hire garantiert, dass die KI keine Bias lernt, schreibt das Unternehmen:
„Bei einigen KI-Verfahren wird das Scoring fortlaufend aktualisiert, wenn neue Daten einlaufen. Die KI von Modern Hire ‚lernt‘ aber nicht mehr dazu, sobald sie im Einstellungsverfahren implementiert wurde. Folglich fliessen auch keine Bias darin ein. Unsere Algorithmen werden mit sehr grossen Datenmengen entwickelt und getestet, um auszuschließen, dass bei der Entscheidung für Kandidat*innen Bias einfließen. Ausserdem verfolgt Modern Hire einen transparenten Ansatz, damit die Prozesse für Recruiter und das Talentakquise-Management nachvollziehbar sind. Unser wissenschaftliches Team weiss ganz genau, was in das System einfliesst, weil es so designt wurde. Wir können also den Kandidat*innen erklären, wie unser automatisiertes Interview-Scoring funktioniert. Die Modern Hire-Plattform verwendet keine Gesichtserkennung, wertet die Bilder der Kandidat*innen nicht aus und analysiert auch ihre Stimmen nicht. Stattdessen konzentrieren wir uns auf die Inhalte ihrer Antworten.“ Bei dieser Aussage stellt sich mindestens eine wesentliche Frage: Warum sollte sich aus der Tatsache, dass ein System nicht „live“ lernt, die Schlussfolgerung ergeben, dass im kontrollierten Maschine Learning-Prozess keine Bias entstehen? Bias können ja bereits in den Trainingsphasen entstehen, wie das Beispiel Amazon gezeigt hat.
Credit Suisse lässt durchblicken, dass die Einführung eines Tools in Diskussion sei. Bei ihr komme KI im Rahmen des Rekrutierungsprozesses derzeit noch nicht direkt zum Einsatz. Das Unternehmen gibt aber an, HireVue für zeitversetzte Videos einzusetzen, jedoch ohne KI-Funktion. Die Aufzeichnung von Jobinterviews mit HireVue ist bei vielen anderen Unternehmen gängige Praxis.
Mangelhafte Weiterbildung
Aus den Gesprächen mit den Unternehmen ist hervorgegangen, dass viele die Entwicklungen und Innovationen im Bereich von ADM-Systemen in der Rekrutierung aufmerksam beobachten. Entsprechend stellt sich die Frage, inwiefern das noch relativ junge Gebiet bereits Eingang in die Lehre und Ausbildung von Personalfachleuten gefunden hat. Marcel Hinder, Rektor beim privaten Fortbildungsanbieter AKAD College AG in Zürich, sagt, dass ADM-Systeme in der Personalrekrutierung in den entsprechenden Ausbildungsgängen bislang noch keinen Niederschlag gefunden haben. „Unsere Dozierenden selbst fühlen sich in diesem Anwendungsgebiet auch noch zu wenig sattelfest, als dass sich daraus gesicherte Erkenntnisse in der Praxis ableiten liessen.“ Die private Hochschule für Wirtschaft Zürich (HWZ) bietet hingegen einen ganzen CAS-Lehrgang mit dem Namen „Digitalisierung im HRM“ an. Die beiden Co-Studiengangsleiter lehnten ein entsprechendes Interview zum Thema aber ab.
Das Thema bleibt und wird die HR-Abteilungen, aber auch die Regierungen über die nächsten Jahre hinweg begleiten und insbesondere beim Datenschutz, aber auch im Hinblick auf Bias vor Herausforderungen stellen, die es zu lösen gilt. Somit bleibt die Frage: Dienen ADM-Systeme im HR nur dazu, die Effizienz zu steigern und Unternehmen Geld zu sparen, oder werden die Systeme Fortschritte bezüglich Fairness und Transparenz machen, bevor sie in der Schweiz flächendeckend eingesetzt werden?