Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03544.jsonl.gz/544

Regula Perschak hat sich in ihrer Abschlussarbeit mit sexistischen Algorithmen befasst. Wie manifestieren sich Stereotype in künstlicher Intelligenz (KI) und wie können diese durchbrochen werden?
«Sexismus ist ein Thema, das alle betrifft, jedoch oft nicht so ernst genommen wird», sagt Regula Perschak. Deshalb wollte sie in ihrer Abschlussarbeit im Studiengang Digital Ideation das Thema beleuchten und Sexismus im Cyberspace sichtbar machen. «Während des Prozesses habe ich gemerkt, dass Sexismus vor allem in der Technik selbst existiert.»
Wie sich dies äussert, zeigt Perschak am Beispiel von Googles Bilderkennungs-KI «Cloud Vision». Diese erlaubt es, anhand von Attributen wie Kleidung oder Posen, welche auf den Bildern erkannt werden, eine Zuordnung zu machen, wie weiblich oder männlich eine Person ist. Dass so Stereotypen reproduziert werden, zeigt Perschak auf einem Instagram-Account und in Form einer interaktiven Video-Installation an der aktuellen Werkschau.
Mit welchen Daten wird das lernende System gefüttert?
«Es ist nicht so, dass die KI sexistisch wäre», betont Perschak. Vielmehr imitiert sie das Verhalten der Menschen. Die Absolventin fragt sich, ob es überhaupt nötig ist, in männlich und weiblich einzuteilen. «Reicht es nicht zu wissen, dass es ein Mensch ist?»
«Reicht es nicht zu wissen, dass es ein Mensch ist?»Regula Perschak
Dass Googles KI Menschen vermeintlich männlich oder weiblich einstuft, sei per se nicht falsch, so Perschak. «Je nach dem wofür die KI eingesetzt wird, kann es jedoch zu einem Problem werden».
Jüngstes Beispiel: Amazon musste ein computergestütztes Rekrutierungsprojekt stoppen, weil es Frauen diskriminierte. Da Amazon in der Vergangenheit mehr Männer als Frauen eingestellt hat, war es in der Logik des Tools vorteilhaft, ein männlicher Bewerber zu sein. Das System hat die Diskriminierung aus den Daten abgeleitet. «Die Trainingsdaten sind die grösste Hürde beim maschinellen Lernen», sagt Regula Perschak.
Was kann man gegen diese Verzerrungen tun?
«Da hilft es nur, mit möglichst diversen Daten zu trainieren», so Perschak. Ausserdem könne jede und jeder von uns auch selbst Bilder labeln bzw. absichtlich falsch kategorisieren.
Die geschlechtsneutrale Bilderkennung erfüllt übrigens eine alte Forderung des Cyberfeminismus: Mittels Technologie herkömmliche Geschlechtergrenzen zu unterlaufen, anstatt sie, wie es in der Regel geschieht, noch weiter zu bestärken.
Die Realität sieht heute jedoch so aus, dass sich stereotypisierte Labels schon längst durchgesetzt haben. «Kategorien wie ‹Fashion›, ‹Beauty› oder ‹Selfie› werden hauptsächlich bei Frauen angezeigt», so Perschak.
Mit dem Thema ihrer Abschlussarbeit hat die Zürcherin den Zeitgeist getroffen. Sie freut sich, dass das Thema auf Resonanz stösst und in den Medien diskutiert wird. Klare Sache, dass sie am Tag des Frauenstreiks für die Frauenrechte auf die Strasse ging, statt wie geplant am Aufbau ihrer Installation an der Werkschau zu arbeiten. «Die Forderungen des Streiks waren so wichtig, dass ich mich entschieden habe, hinzugehen.»
Nach der Werkschau naht das Ende des Studiums. «Es ist schön und traurig zugleich», so Perschak. Was genau sie danach machen möchte, weiss sie noch nicht. «Mir stehen viele Türen offen», sagt sie. «Vielleicht gehe ich nach Belgien. Ich habe mich dort beim KASK-Konservatorium in Gent für den Bereich Medienkunst beworben.»
Wer Regula Perschak und die anderen Absolventinnen und Absolventen des Studiengang Digital Ideation an der Werkschau erleben möchte, hat noch bis am Sonntag, 30. Juni Gelegenheit dazu.
Informatik und Design im Studium verbinden und das Wissen in einem der drei Themenbereiche Web & Mobile, User Experience oder Game vertiefen.
Hier erhalten Sie Tipps und Neuigkeiten aus der Welt der IT. Wir porträtieren Menschen und schreiben über Technologien, welche die Hochschule Luzern – Informatik mitprägen. Abonnieren Sie jetzt unseren Blog und bleiben Sie informiert.
Bachelor in Digital Ideation
Informatik und Design im Studium verbinden und das Wissen in einem der drei Themenbereiche Web & Mobile, User Experience oder Game vertiefen.
Über den Informatik-Blog
Hier erhalten Sie Tipps und Neuigkeiten aus der Welt der IT. Wir porträtieren Menschen und schreiben über Technologien, welche die Hochschule Luzern – Informatik mitprägen. Abonnieren Sie jetzt unseren Blog und bleiben Sie informiert.