Mensch-Maschine-Beziehungen in der „Deep Medicine“: Zur Herausbildung neuer Haftungsmodelle am Beispiel medizinischer KI-Systeme
Authors: Gruber Malte-C. 
Published: January 2024

Neue Forderungen nach ökologischen und digitalen Grundrechten zielen darauf, die gegenwärtigen Bedrohungen natürlicher sowie auch digitaler Umwelten mit den Mitteln des Menschenrechtsschutzes zu bewältigen. Sie eint die Hoffnung, auf die nächsten Herausforderungen der Biodigitalisierung noch antworten zu können. Alleine mit individuellen Freiheitsrechten wird es jedoch immer schwieriger, in einer Welt zurechtzukommen, die für Menschen längst nicht mehr individuell kontrollierbar ist. Die Unberechenbarkeit dieser postanthropozentrischen Welt verlangt vom Recht vielmehr, Handlungsmacht und Risikoattributionen in Form von Berechtigungen und Verpflichtungen neuzugestalten. Ebenso wie der Schutz der natürlichen Umwelt muss auch der (bio-)digitale Umweltschutz über die individualistische, anthropozentrische Verkürzung der subjektiven Menschenrechte hinausgehen. Sobald die Zuweisung individueller Rechte und Handlungsverantwortlichkeiten angesichts unbeherrschbarer Umweltprozesse oder komplexer technischer Handlungszusammenhänge unsicher wird, sind die bisherigen personalen Zuschreibungsmuster von Handlungs- und Risikoverantwortlichkeit durch neue rechtliche Zurechnungspunkte zu ersetzen, die den zugrunde liegenden hybriden Handlungs- und Verantwortungssphären gerecht werden. Am Beispiel der „Deep Medicine“, des Einsatzes von künstlicher Intelligenz (KI) in der Medizin, zeigt sich, wie neue Haftungsmodelle in vielfältigen Mensch-Maschine-Beziehungen dazu beitragen können, Menschen von überfordernden individuellen Risiken und Verantwortungszumutungen zu entlasten, ohne dabei zum Innovationshemmnis für die Entwicklung nutzbringender KI-Anwendungen zu werden. Ausgehend von den genannten Forderungen nach besonderen, auf die ökologischen und digitalen Herausforderungen zugeschnittenen Menschenrechten arbeitet der folgende Beitrag im ersten Teil (I) die grundlegende Bedeutung heraus, die dem Begriff der Rechtsperson angesichts komplexer, eigendynamisch ablaufender Umweltprozesse zukommt. Unter Bedingungen der biodigitalen Ökologie genügt es nicht mehr, subjektive Rechte auf den Menschen alleine zu beziehen. Vielmehr ist gerade der gesuchte humane Schutz von der traditionellen individualistischen Beschränkung subjektiver Rechte zu befreien und auf die fortlaufende Suche nach neuen Zurechnungsadressaten einzurichten, um mit differenzierten, dezentrierten Arten der Personifikation zu experimentieren. Aus rechtlicher Sicht geht es dabei nicht alleine um die Einbeziehung neuer rechtsfähiger Akteure, sondern darüber hinaus um einen lernenden Umgang mit Verantwortungs- und Haftungsfragen im Zusammenhang mit technologischen Risiken, wie im zweiten Teil (II) insbesondere für den Bereich medizinischer KI-Anwendungen in der sogenannten „Deep Medicine“ zu zeigen ist. Die auf diesen Feldern beobachtbaren multiplen Mensch-Maschine-Beziehungen eröffnen gerade mit Rücksicht auf die jüngere Gesetzgebungsentwicklung neue Perspektiven einer Verantwortungszuweisung, die den beobachtbaren hybriden Assoziationen entsprechende kollektive Haftungsmodelle und Verantwortungssphären zuordnet (III). Die Zusammenfassung (IV) schließt mit dem Ergebnis, dass (bio‑)digitale Rechtssubjektivität nicht bloß nach Maßgaben von isolierter oder isolierbarer Autonomie bestimmt ist, sondern vor allem in den Handlungszusammenhängen hybrider Mensch-Maschine-Beziehungen entsteht. Auf dieser Grundlage verbindet sich eine mögliche Neuordnung der Rechtssubjektivität mit weiterentwickelten Formen der Risikoattribution, die neben rechtlichem Schutz auch eine individuelle Entlastung der Menschen von übersteigerten Verantwortungszumutungen ermöglichen.