Document ID: /fineweb-2-swissfilter-quality_10-filterrobots/filtered/03449.jsonl.gz/644

Unternehmen, die sich zunehmend auf Machine-Learning-Modelle verlassen, benötigen Massnahmen, um zu verhindern, dass es zu Verzerrungen kommt. Sie müssen sicherstellen können, dass ihre ML-Modelle keine irreführenden Annahmen treffen und dass sich keine Vorurteile einschleichen oder Bias verstärkt wird.
An seiner Konferenz hat der Cloud Provider AWS eine Reihe von Tools rund um die ML-Plattform Sagemaker vorgestellt. Diese sollen Unternehmen bei ihren Machine-Learning-Schritten unterstützen.
Sagemaker Data Wrangler mache es einfacher, gewünschte Daten zu importieren. Ein Repository soll dabei helfen, Daten zu organisieren, zu finden und auszutauschen.
Mit Sagemaker Jumpstart bietet AWS ein Portal mit vortrainierten Modellen und vorgefertigten Workflows. Als Beispiel nennt das Unternehmen die Use Cases Betrugserkennung oder Vorhersagen zur Kundenabwanderung.
Bias in Daten und Modellen besser erkennen
Zu den Ankündigungen gehört auch Sagemaker Clarify. Dies ermögliche es den Anwendern, über den gesamten ML-Lebenszyklus Einblicke in die Daten und Modelle zu erhalten, erklärt das Unternehmen. Clarify lasse sich in Sagemaker Data Wrangler integrieren, wo es eine Reihe von Algorithmen ausführt, um Verzerrungen während der Datenvorbereitung zu erkennen. So sollen Probleme gefunden werden, bevor Anwender mit der Erstellung eines Modells beginnen, erklärt der Chef von AWS Machine Learning, Bratin Saha, gegenüber 'Tech Crunch'.
User könnten so erkennen, ob der Datensatz beispielsweise die gleiche Anzahl von verschiedenen Klassen – etwa Männer und Frauen – beinhaltet. Und auch nach der Erstellung eines Modells könne eine Analyse durchgeführt werden. Denn Bias könne sich auf verschiedene Arten in ein ML-Modell einschleichen. Etwa aufgrund des Hintergrunds der Datenwissenschaftler, die das Modell erstellen, der Art der Daten sowie der Art und Weise, wie diese Daten vom Modell interpretiert werden. Bekanntlich können so Stereotypen verstärkt werden.
Sagemaker Clarify würde zeigen, ob es Bias in den Daten und im Modell gebe. Die Visualisierungen würden eine Beschreibung der Quellen und des Schweregrads möglicher Verzerrungen enthalten, heisst es in der AWS-Ankündigung. Ausserdem erleichtere es die Erklärbarkeit der Analysen. Der AWS-Manager betont aber gegenüber 'Tech Crunch', dass das Tool zwar helfen, aber nicht alle Bias-Probleme in Machine-Learning-Modellen verhindern könne. Weitere Unterstützung biete man den Anwendern mit Dokumentationen und Best Practices.