Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03317.jsonl.gz/3184

Neue Technologien, Geschlechtergerechtigkeit und Demokratie – diesen Themen widmet sich Caitlin Kraft-Buchman. Als Mitbegründerin der A+ Alliance for Inclusive Algorithms sorgt sie für Aufklärung und auch für die entsprechenden Technologien und Werkzeuge zur Beseitigung von Diskriminierung. Denn anders, als Laien vielleicht erwarten, kann künstliche Intelligenz diskriminierende und rassistische Auswirkungen haben. So wurde ein frühes Experiment mit einem Amazon-Rekrutierungstool bekannt, das darauf trainiert wurde, Tausende von Lebensläufen zu sortieren. Die Bewerbungen von Frauen landeten systematisch ganz unten. Der Algorithmus, der die aktuelle Belegschaft als Benchmark nutzte, wählte nur weisse Männer aus, die Ingenieurwissenschaften studiert hatten. Ein weiteres Beispiel ist die «sexistische» Kreditkarte von Apple / Goldman Sachs: Der Algorithmus gewährte Frauen einen kleineren Kreditrahmen als Männern – obwohl das Geschlecht der Kunden nicht bekannt war. «Solche stereotypen Wahrnehmungen lassen sich rückwirkend kaum reparieren, denn eine Maschine kann nicht verlernen, was sie gesehen hat», erklärt Kraft-Buchman. Anstatt nur bestimmte Informationen zu unterdrücken, sei es wichtig, viele gute Informationen hinzuzufügen. Ein wichtiger Schritt ist daher «AI & Equality – A Human Rights Toolbox», die helfen soll, Vorurteile und Diskriminierung zu bekämpfen. Die Website bietet ein interaktives Lernwerkzeug, Coding Notebooks und ein Forum für Unis und Unternehmen, die sich mit Daten und Menschenrechten beschäftigen wollen.