Source: https://www.deutscheranwaltspiegel.de/disputeresolution/haftungsrecht/herstellerhaftung-und-sogenannte-kuenstliche-intelligenz/
Timestamp: 2020-06-06 00:12:05
Document Index: 27865032

Matched Legal Cases: ['de lege lata', 'de lege ferenda', '§ 1', '§ 7', '§12', '§ 823', '§ 1', '§ 1', '§ 823']

Herstellerhaftung und sogenannte künstliche Intelligenz - Deutscher AnwaltSpiegel
©ipopba/iStock/Getty Images
Start DisputeResolution Haftungsrecht Herstellerhaftung und sogenannte künstliche Intelligenz
Im Blickpunkt: Tendenz zur Intensivierung von Instruktions- und Produktbeobachtungspflichten
Von Dr. André Depping
Das BMWi bezeichnet auf seiner Homepage die Entwicklung und Beherrschung der Anwendungsformen von künstlicher Intelligenz (KI) als eine Schlüsselfrage für Deutschland. Tatsächlich wird die softwarebasierte Automatisierung von Vorgängen in der Industrie und im Privatleben immer mehr zunehmen. Als KI werden in diesem Zusammenhang IT-gesteuerte Systeme bezeichnet, die in der Lage sind, aus Mustern zu lernen und die Verhaltensweisen des Systems anzupassen. Dadurch mag zwar vielfach das Risiko spontanen menschlichen Fehlverhaltens erheblich reduziert werden, dafür entstehen aber neue Risiken: Es liegt nämlich auf der Hand, dass der Hersteller von KI – insbesondere bei zusätzlicher Vernetzung verschiedener Systeme – das Verhalten des Systems nicht für sämtliche denkbaren Situationen vollständig vorhersagen und bestimmen kann, so dass unerwünschte Reaktionen des Systems erfolgen können, die einen Schaden verursachen. Ob sich daraus auch neuartige Haftungsfragen ergeben und wie diese gegebenenfalls de lege lata oder de lege ferenda zu lösen sind, ist in jüngster Zeit Gegenstand diverser Veröffentlichungen gewesen.
Menschliches Verhalten ist entscheidend, eine „E-Person“ ist abwegig
Grundlage der Haftungsbetrachtung muss dabei noch immer das – menschliche – Verhalten der Hersteller und Nutzer des Systems sein. Dem System eine eigene Rechtspersönlichkeit (E-Person) zuzuweisen ist zwar eine sogar vom Europäischen Parlament ins Spiel gebrachte, bislang aber zu Recht abseitige Idee geblieben. Der aus eigenem Antrieb arglistig handelnde Roboter wird hoffentlich immer eine Schreckensvision aus Science-Fiction-Filmen bleiben. Das deutsche Recht bietet mit seinem System aus Verschuldenshaftung, Gefährdungshaftung, Pflichtversicherungen und sphärenorientierter Beweislastverteilung ausreichend Ansätze, um die neuartigen Haftungsfragen mit Bordmitteln in den Griff zu bekommen, ohne Haftungslücken entstehen zu lassen. Dennoch werden sich zum Teil neuartige Haftungsfragen stellen, auf die sich insbesondere die Hersteller vorbereiten müssen. Auch ein punktuelles Eingreifen des Gesetzgebers ist nicht ausgeschlossen.
Am weitesten fortgeschritten ist die Diskussion der Haftungsfragen in Deutschland im Zusammenhang mit dem sogenannten autonomen Fahren. Der Gesetzgeber hat in das StVG auch bereits Regelungen zu hoch- und vollautomatisierten Fahrfunktionen aufgenommen (§§ 1a, 1b StVG). Es steht außer Frage, dass es bei der Haftung des Halters für die Betriebsgefahr nach § 7 I StVG bleiben wird und somit gegenüber dem Unfallgegner keine Haftungslücke entsteht. Die Höchstbeträge für eine Haftung bei Verwendung automatisierter Fahrfunktionen hat der Gesetzgeber sogar verdoppelt (§12 I StVG). Die Haftung des Fahrzeugführers nach §§ 823 I, II BGB, 18 I StVG wird allerdings mit zunehmender Automatisierung immer mehr in den Hintergrund rücken. Sollten vollautonome Fahrzeuge den Markt erobern, stellt sich die Frage, ob überhaupt noch von einem Fahrzeugführer gesprochen werden kann, so dass allenfalls eine deliktische Haftung für eine Inbetriebnahme des Fahrzeugs unter groben Bedienfehlern oder trotz erkennbarer Sicherheitsmängel in Betracht kommt (vgl. § 1b II Nr. 2 StVG). Änderungen wird es auch beim Innenregress zwischen dem Halter oder dessen Versicherung und dem Hersteller des Fahrzeugs geben. Der Hersteller haftet produkthaftungsrechtlich für Schäden, die durch einen Fehler seines Produkts verursacht worden sind, der dann vorliegt, wenn das Produkt nicht die Sicherheit bietet, die man unter Berücksichtigung aller Umstände zu erwarten berechtigt ist. Die allgemeinen Erwartungen an die Sicherheit autonomer Fahrzeuge sind hoch und werden auch von den Herstellern im Marketing hoch gehalten werden müssen, um den Absatz anzukurbeln. Allgemein werden zumindest die Fähigkeiten eines reaktionsschnellen und immer aufmerksamen menschlichen Fahrers anzulegen sein. Es ist daher zu erwarten, dass beim Innenregress eine Verschiebung der Haftung zu Lasten des Herstellers erfolgen wird. In diesem Zusammenhang werden in der Literatur etwa die Fragen diskutiert, ob es dann noch sachgerecht ist, den Halter mit hohen Versicherungsprämien zu belasten, ob der Gesetzgeber die Hersteller im Sinne der Innovationsfreudigkeit von einer allzu strengen Haftung entlasten sollte und ob eine Globalversicherung für KI-Systeme nicht am Ende die sinnvollste Lösung sei. Momentan werden sich die Hersteller jedoch erst einmal auf eine Bewertung der neuartigen Konstellationen auf dem Boden des geltenden Rechts einstellen müssen.
Klassischer produkthaftungsrechtlicher Anspruchsaufbau bleibt
Der auf den ersten Blick naheliegende Gedanke, der Hersteller könne sich produkthaftungsrechtlich damit entlasten, dass das nicht vorhersehbare Fehlverhalten seines KI-Systems einen nach Stand von Wissenschaft und Technik nicht vorhersehbaren Fehler darstellt (§ 1 Abs. 2 Nr. 5 ProdHaftG), wird allgemein abgelehnt, da das Auftreten von Fehlverhalten an sich systemimmanent und damit vorhersehbar ist und es unbillig erscheint, dem Geschädigten allein das Schadensrisiko aufzubürden.
„Die allgemeinen Erwartungen an die Sicherheit autonomer Fahrzeuge sind hoch und werden auch von den Herstellern im Marketing hoch gehalten werden müssen, um den Absatz anzukurbeln.“
Im Kern wird es somit im Rahmen der Produkthaftung oder der Produzentenhaftung nach § 823 BGB wie üblich darum gehen, ob dem Hersteller ein Konstruktions-, Fabrikations- oder Instruktionsfehler unterlaufen ist oder ob er gegen seine Produktbeobachtungspflicht verstoßen hat (nur bei der Produzentenhaftung relevant). Fabrikationsfehler spielen bei der Softwareentwicklung eine eher untergeordnete Rolle und sind im Übrigen nach den üblichen Maßstäben zu beurteilen.
Wichtig in der Praxis (1): klare Verteilung der Konstruktionsverantwortung
Als Konstruktionsmangel darf jedenfalls nicht jedes auftretende Fehlverhalten gewertet werden, da das Auftreten von Fehlern systemimmanent ist und eine Haftung für die entstehenden Schäden faktisch einer Kausalhaftung des Herstellers gleichkäme, die kaum noch versicherbar wäre. Dennoch ist zu erwarten, dass Gerichte häufig einen Konstruktionsmangel annehmen werden, wenn etwa das Zusammenspiel von Komponenten nicht hinreichend durchdacht gewesen ist oder das Fehlverhalten des Systems eine nicht ganz fernliegende Situation betrifft. Da es sich häufig um aus verschiedenen Komponenten zusammengesetzte oder vernetzte Produkte handeln wird, kommt der sorgfältigen vertraglichen Verteilung von Konstruktionsverantwortung und Haftung zwischen Endhersteller und Lieferanten und den Herstellern vernetzter Produkte beim Innenregress eine große Bedeutung zu. Hierzu können Regelungen in Qualitätssicherungs- und Konzeptverantwortungsvereinbarungen getroffen werden. Soweit Endhersteller komplexe Software von hochspezialisierten Lieferanten zukaufen, ist zu erwarten, dass sie Verkehrssicherungspflichten weitgehend auf den Lieferanten delegieren werden. Zumindest für die deliktische Produzentenhaftung kann hierdurch sogar eine Haftung im Außenverhältnis gelingen.
Wichtig in der Praxis (2): umfassende Instruktion über Machbares
Der Instruktionspflicht des Herstellers wird bei zunehmender Automatisierung in der Produkt- und Produzentenhaftung eine größere Bedeutung zukommen. Die Hersteller werden den Betreiber oder Nutzer insbesondere – aber nicht nur – bei autonomen Fahrzeugen sorgfältig und umfassend über das tatsächliche Können und rechtliche Dürfen der einzelnen Funktionen aufklären müssen. Insbesondere ist dem Anwender je nach Grad der Automatisierung klarzumachen, wann und wie er automatische Funktionen übersteuern kann und gegebenenfalls auch muss. Auch die beste Instruktion wird aber dann nicht zu einer Enthaftung des Herstellers führen, wenn ein unfallverhinderndes kurzfristiges Übersteuern nach Erkennen der unzureichenden automatischen Reaktion oder einem Warnhinweis unrealistisch ist. Hierfür hat der Hersteller gegebenenfalls Studien zu berücksichtigen oder diese durchzuführen. Im gewerblichen Bereich sollten Hersteller komplexer autonomer Systeme auch erwägen, den Betrieb ihres Produkts vom Nachweis einer spezifischen Schulung abhängig zu machen.
Wichtig in der Praxis (3): aktive Produktbeobachtung
Auch der Produktbeobachtungspflicht wird im Rahmen der Produzentenhaftung eine größere Bedeutung als üblich zukommen. Zum einen ist es für Softwareprodukte typisch, dass nach dem Inverkehrbringen noch kleinere Fehler (Bugs) vorhanden sind, die sich erst im Massenbetrieb zeigen, und zusätzlich können Probleme aus Cyberattacken und der Vernetzung mit anderen Produkten entstehen. Die von der Rechtsprechung entwickelten Grundsätze zur Beobachtungspflicht hinsichtlich des Zusammenwirkens des eigenen Produkts mit von anderen produziertem Zubehör können hier zum Teil herangezogen werden. Wenn potentiell gefährliche Fehlfunktionen bei einer durch den Hersteller gewollten oder jedenfalls als verbreitet erkannten Vernetzung mit anderen Produkten beobachtet werden, kann eine Aktualisierung der Instruktion oder ein Warnhinweis erforderlich werden. Im Übrigen hat ein Softwareanbieter gegenüber dem Hersteller klassischer Produkte häufig mit dem Zugriff über drahtlose Netzwerke wesentlich größere Möglichkeiten, Funktionsstörungen der Software im Feld zu erkennen und Fehler über das Einspielen von Updates relativ kurzfristig zu beheben.
Wichtig in der Praxis (4): Beweissicherung
Schließlich werden auch beweisrechtlich Modifikationen der üblichen Grundsätze diskutiert. Zum Teil wird unter Bezugnahme auf die Sphärentheorie gefordert, dass den Hersteller grundsätzlich die Beweislast trifft, dass kein Fehler des Systems vorlag, da der Anwender regelmäßig überhaupt keinen Einblick in die Systeme hat. Für Ansprüche nach dem Produkthaftungsgesetz, die allerdings nur für Verbraucher in Frage kommen, ist dies keine Besonderheit. Generell ist den Herstellern zu empfehlen, eine Art Black Box vorzuhalten oder in anderer Weise Daten zu sichern, um einer Beweispflicht nachkommen zu können. Der gerade bei Verkehrsunfällen weitverbreitete Anscheinsbeweis wird voraussichtlich an Bedeutung verlieren, da gerade in der bevorstehenden Phase eines Nebeneinanders von autonomen und manuellen Funktionen neue Situationen entstehen werden, für die Erfahrungswerte fehlen.