# Rainer Mühlhoff

Rainer Mühlhoff (* 1982 in Remscheid) ist ein deutscher Philosoph und Mathematiker. Er ist Professor für Ethik der Künstlichen Intelligenz an der Universität Osnabrück.

## Werdegang

Rainer Mühlhoff studierte Mathematik, Theoretische Physik und Informatik an den Universitäten Heidelberg, Münster und Leipzig. Das Studium schloss er 2008 mit einer Diplomarbeit zu „Higher Spinfields on Curved Spacetimes“ ab. Danach nahm er ein Zweitstudium der Philosophie, Gender Studies und Deutscher Literatur in Berlin auf. 2010 war er Mitglied der Berlin Mathematical School und des Mathematischen Instituts der Technischen Universität Berlin. 2016 wurde er mit einer von Jan Slaby und Martin Saar betreuten Dissertation zur Affekttheorie nach Spinoza und Foucault im Fach Philosophie promoviert. Von 2015 bis 2019 arbeitete er am Sonderforschungsbereich 1171 Affective Societies der Freien Universität Berlin sowie von 2019 bis 2021 am Exzellenzcluster Science of Intelligence an der Technischen Universität Berlin. 2021 wurde Mühlhoff Professor für Ethik der Künstlichen Intelligenz am Institut für Kognitionswissenschaft der Universität Osnabrück. Er ist der erste Professor mit der Denomination „Ethik der Künstlichen Intelligenz“ in Deutschland.
Im Jahr 2020 war Mühlhoff Mitautor der Datenschutz-Folgeabschätzung der Corona-Warn-App des Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung (FIfF), die zu einer bundesweiten Debatte um den Nutzen und die Sicherheit der digitalen Kontaktpersonennachverfolgung beigetragen hat.

## Forschungsschwerpunkte

Mühlhoff forscht zu einer „zeitgenössischen kritischen Philosophie der digitalen Welt“. Sein Wirken liegt im Grenzgebiet von Sozialphilosophie, kritischer Medienphilosophie und Ethik der Digitalen Gesellschaft, Big Data und künstlichen Intelligenz. Seine Arbeiten beschäftigen sich außerdem mit den Themen Datenschutz, Intersektionalität und Antidiskriminierung im Kontext digitaler Technologien. In einer starken Prägung durch den Poststrukturalismus ist das Zusammenspiel von Technologie, Macht und Subjektivität zentral für Mühlhoffs philosophische Herangehensweise.

## Positionen
### Human-Aided AI

Mühlhoff vertritt die Position, dass Machine-Learning-Systeme als soziotechnische Systeme analysiert werden müssen. Insbesondere der kommerzielle Einsatz von Deep-Learning sei strukturell abhängig von menschlicher Partizipation, sowohl in der Form unbezahlter Arbeit der täglichen Nutzerinnen und Nutzer von KI-System, als auch in der Form von Klickarbeit. Beim Trainingsprozess der Algorithmen würden mediale Systeme der Mensch-Maschine-Interaktion gezielt so gestaltet, dass Nutzende Daten produzieren, wie im Fall von Captchas. Derzeitige kommerzielle KI-Systeme würden also menschliche Intelligenz nicht ersetzen, sondern vielmehr „einhegen“.

### Predictive Privacy

Mühlhoff ist durch Beiträge zum Datenschutz in Bezug auf künstliche Intelligenz in Erscheinung getreten. In seiner Arbeit weist er auf die gesellschaftlichen Konsequenzen von „prädiktiver Analytik“ hin, also den Einsatz von Machine-Learning-Modellen zur Vorhersage persönlicher oder unbekannter Informationen über Individuen: „Im Zentrum der Verletzung prädiktiver Privatheit steht […] automatisierte und serienmäßige Ungleichbehandlung von Menschen in der Breite der Gesellschaft. Diese Ungleichbehandlung ist ein struktureller Faktor insofern sie sich nicht nur auf Einzelindividuen richtet, sondern auf uns alle in der Interaktion mit automatisierten Systemen, zum Beispiel, wenn uns unterschiedliche Preise für Versicherungen angeboten werden, automatisiert entschieden wird, wer für ein Jobinterview eingeladen wird usf.“ Laut Mühlhoff ist Privatheit durch diese Anwendungen von künstlicher Intelligenz auf eine neue Art bedroht, da prädiktive Analytik persönliche Informationen über beliebige Individuen abschätzen könne, auch solche Informationen, die das Individuum selbst nicht kennt (z. B. Krankheitsprognosen). Um eine öffentliche Debatte zu diesem Thema zu ermöglichen, müsse der bekannte Wert der Privatheit durch „prädiktive Privatheit“ erweitert werden. Mühlhoff schlägt dazu vor, auch abgeschätzte oder abgeleitete Informationen als Gegenstand einer möglichen Verletzung von Privatsphäre zu betrachten, nicht lediglich Informationen, die das betreffende Individuum irgendwo hinterlassen hat. Für eine „prädiktive Verletzung von Privatheit“ sei es dabei unerheblich, ob die vorhergesagte Information korrekt ist, solange die Vorhersagen dazu verwendet würden, etwa Individuen unterschiedlich zu behandeln oder automatisierte Entscheidungen zu treffen. Damit grenze sich das Konzept der prädiktiven Privatheit von benachbarten Konzepten wie „group privacy“ ab. Weil die Möglichkeit prädiktiver Analytik darauf basiere, dass eine hinreichende Anzahl an Usern bei der alltäglichen Benutzung digitaler Dienste ihre Daten teilt, müsse Datenschutz kollektiv gedacht werden, so Mühlhoff. Denn die eigenen Daten hätten durch prädiktive Analytik Auswirkungen auf andere Individuen.

### Digitale Entmündigung

In seinen Arbeiten zur kritischen Medienphilosophie des User Experience Designs vertritt Mühlhoff die Auffassung, dass User durch versiegelte Benutzeroberflächen und Nudges beim Nutzen digitaler Geräte entmündigt würden. Bewusst würden Optionen ausgespart oder der User subtil dazu gebracht, bestimmte Handlungen anderen vorzuziehen.

## Auszeichnungen

* 2022: Hans Mühlenhoff-Preis für gute Lehre der Universität Osnabrück

## Publikationen

* Die Macht der Daten. Warum Künstliche Intelligenz eine Frage der Ethik ist. V&R unipress, Universitätsverlag Osnabrück, 2023, doi:10.14220/9783737015523.
* Predictive Privacy: Collective Data Protection in the Context of AI and Big Data. In: Big Data & Society, 2023, doi:10.1177/20539517231166886, S. 1–14.
* Mühlhoff, Rainer, und Theresa Willem. Social Media Advertising for Clinical Studies: Ethical and Data Protection Implications of Online Targeting. In: Big Data & Society, 2023, doi:10.1177/20539517231156127, S. 1–15.
* Mühlhoff, Rainer, und Hannah Ruschemeier. Predictive Analytics und DSGVO: Ethische und rechtliche Implikationen. In: Telemedicus – Recht der Informationsgesellschaft, Tagungsband zur Sommerkonferenz, 2022, S. 38–67.
* Prädiktive Privatheit: Kollektiver Datenschutz im Kontext von Big Data und KI. In: Künstliche Intelligenz, Demokratie und Privatheit, 2022, doi:10.5771/9783748913344-31, S. 31–58.
* Predictive Privacy: Towards an Applied Ethics of Data Analytics. In: Ethics and Information Technology. 23 (2021), doi:10.1007/s10676-021-09606-x, S. 675–690.
* Automatisierte Ungleichheit: Ethik der Künstlichen Intelligenz in der biopolitische Wende des Digitalen Kapitalismus. In: Deutsche Zeitschrift für Philosophie. 68 (2020), doi:10.1515/dzph-2020-0059, S. 867–890.
* Human-Aided Artificial Intelligence: Or, How to Run Large Computations in Human Brains? In: New Media & Society. 22 (2020), S. 1868–84. doi:10.1177/1461444819885334.
* Menschengestützte Künstliche Intelligenz. Über die soziotechnischen Voraussetzungen von Deep Learning. In: ZfM – Zeitschrift für Medienwissenschaft 21(2) (2019), S. 56–64. doi:10.25969/mediarep/12633.
* Mühlhoff, Rainer, Anja Breljak, und Jan Slaby, Hrsg. Affekt Macht Netz. Auf dem Weg zu einer Sozialtheorie der digitalen Gesellschaft. Bielefeld: transcript, 2019, ISBN 978-3-8376-4439-5.
* Immersive Macht. Affekttheorie nach Foucault und Spinoza. Frankfurt am Main: Campus, 2018, ISBN 978-3-593-50834-4.
* Digitale Entmündigung und ‚User Experience Design‘. In: Leviathan – Berliner Zeitschrift für Sozialwissenschaft. 46 (2018), doi:10.5771/0340-0425-2018-4-551, S. 551–74.