Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03397.jsonl.gz/1681

Um Verzerrungen bei der Gesichtserkennung zu vermindern, seien Datensätze mit repräsentativen Bildern erforderlich, schreibt das Forschungsinstitut Idiap in einer Mitteilung. In Martigny wolle man aber noch einen Schritt weitergehen und bei der Erstellung eines "ethischen Bilddatensatzes" mithelfen.
Bei der Erkennung von weissen Männern seien die Algorithmen zur Erkennung eines Gesichts in der Regel sehr leistungsfähig. Bei Frauen oder Menschen mit einer anderen Hautfarbe seien die Erfolgsraten viel geringer. Dies liege aber nicht daran, dass die KI darauf programmiert sei, "zu diskriminieren", schreibt das Idiap. "Die Programme werden mit Beispielen von Gesichtern trainiert, die nicht die menschliche Vielfalt widerspiegeln."
Um diese Ungleichheit zu überwinden und die Sicherheit von Gesichtserkennungssystemen zu verbessern, erstelle die Forschungsgruppe Biometrische Sicherheit und Datenschutz eine neue, zuverlässigere Datenbank. Diese sei Teil einer Partnerschaft mit einem im Sicherheitsbereich tätigen Unternehmen, das nicht genannt wird.
"Normalerweise wird diese Art von Bildbeschrieben zur Erstellung von Metadaten, wie zum Beispiel Geschlecht oder Augenfarbe, an Crowdsourcing-Plattformen wie Amazon Mechanical Turk (MTurk) ausgelagert", sagt Sébastien Marcel, Leiter der Forschungsgruppe. Um mehr Vertraulichkeit zu schaffen, würden nun mehrere Studenten des Idiap Millionen von Bildern beschriften und so eine ethisch repräsentative Datenbank erstellen. Diese Daten würden anschliessend beim Idiap bleiben und nicht verteilt werden.
Auch in Amsterdam wird neuerdings an einem "gerechteren Einsatz von KI" geforscht. Dafür sei eine neue Forschungseinrichtung namens "Civic Al Lab" eröffnet worden, teilt die Stadt mit. Auch hier wird Gesichtserkennung als ein Feld von "Ungleichbehandlungen" genannt. Weiter sollen im Civic Al Lab die Vor- und Nachteile der KI in den Bereichen Bildung, Wohlfahrt, Umwelt, Mobilität und Gesundheit untersucht werden.