Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03385.jsonl.gz/1727

Künstliche Intelligenz (KI) wird zunehmend um uns herum eingesetzt und kann grosse potenzielle Vorteile haben. Aber es gibt wachsende Bedenken hinsichtlich des unethischen Einsatzes von KI. Professor Anthony Davison, der den Lehrstuhl für Statistik an der EPFL innehat, und Kolleginnen und Kollegen in Grossbritannien haben sich mit diesen Fragen aus mathematischer Sicht befasst und sich dabei auf kommerzielle KI konzentriert, die auf Gewinnmaximierung abzielt.
Ein Beispiel dafür ist ein Versicherungsunternehmen, das KI nutzt, um eine Strategie für die Festlegung von Prämien für potenzielle Kundinnen und Kunden zu finden. Die KI wird aus vielen möglichen Strategien wählen, einige davon vielleicht diskriminierend oder Kundendaten auf andere Weise missbrauchend, was später zu schweren Strafen für das Unternehmen führen kann. Im Idealfall würden solche unethischen Strategien von vornherein aus dem Raum der möglichen Strategien entfernt, aber KI hat kein moralisches Gespür, so dass sie nicht zwischen ethischen und unethischen Strategien unterscheiden kann.
In Arbeiten, die am 1. Juli 2020 in der Royal Society Open Science veröffentlicht wurden, zeigen Davison und seine Koautoren Heather Battey (Imperial College London), Nicholas Beale (Sciteb Limited) und Robert MacKay (University of Warwick), dass KI in vielen Situationen wahrscheinlich eine unethische Strategie wählen wird. Sie formulieren ihre Ergebnisse als «Unethisches Optimierungsprinzip»:
Wenn eine KI darauf abzielt, die risikobereinigte Rendite zu maximieren, dann wird sie unter günstigen Bedingungen höchstwahrscheinlich eine unethische Strategie wählen, es sei denn, die objektive Funktion lässt genügend Spielraum für ein Risiko.
Dieses Prinzip kann Risikomanagern, Regulierungsbehörden oder anderen helfen, die unethischen Strategien aufzudecken, die in einem grossen Strategieraum verborgen sein könnten. In einer idealen Welt würde man die KI so konfigurieren, dass unethische Strategien vermieden werden, aber das geht nicht, weil sie nicht im Voraus spezifiziert werden können. Um die Verwendung der KI zu lenken, schlägt der Artikel vor, wie man den Anteil der unethischen Strategien und die Verteilung der profitabelsten Strategien abschätzen kann.
«Unsere Arbeit kann dazu verwendet werden, Regulatoren, Compliance-Mitarbeitenden und anderen dabei zu helfen, problematische Strategien zu finden, die in einem grossen Strategieraum versteckt sein könnten. Man kann davon ausgehen, dass ein solcher Raum unverhältnismässig viele unethische Strategien enthält, deren Untersuchung zeigen sollte, wo Probleme wahrscheinlich auftreten werden, und somit einen Vorschlag machen, wie der KI-Suchalgorithmus modifiziert werden sollte, um sie zu vermeiden», sagt Professor Davison. «Es liegt auch nahe, dass es notwendig sein könnte, die Funktionsweise der KI in sehr grossen Strategieräumen zu überdenken, so dass unethische Ergebnisse während des Lernprozesses explizit abgelehnt werden.»
Professor Wendy Hall von der University of Southampton, weltweit bekannt für ihre Arbeit über die potenziellen praktischen Vorteile und Probleme der KI, sagte: «Dies ist ein wirklich wichtiges Papier. Es zeigt, dass wir uns nicht einfach darauf verlassen können, dass KI-Systeme ethisch handeln, nur weil ihre Ziele ethisch neutral erscheinen. Im Gegenteil, unter günstigen Bedingungen wird ein KI-System unverhältnismässig viele unethische Lösungen finden, wenn es nicht sorgfältig darauf ausgelegt ist, sie zu vermeiden.
Die enormen potenziellen Vorteile der KI können nur dann richtig genutzt werden, wenn ethisches Verhalten von Grund auf neu konzipiert wird und dieses unethische Optimierungsprinzip aus verschiedenen Perspektiven berücksichtigt wird. Es ist ermutigend, dass dieses Prinzip auch dazu benutzt werden kann, um ethische Probleme in bestehenden Systemen zu finden, die dann durch eine bessere Konfigurierung gelöst werden können.»