Source: https://online.ruw.de/suche/kur/Kei-Abmahnbefug-fue-Ver-zur-Foerder-von-Onl-Untern-79a0fdde5173a670ec82faf37a8b6531?crefresh=1
Timestamp: 2019-03-26 17:08:23
Document Index: 334359667

Matched Legal Cases: ['§ 254', '§ 305', '§ 242', '§ 138', '§ 134', '§ 305', '§ 823', '§ 33', '§ 33', '§ 33', '§ 1', '§ 43', '§ 43', '§ 43', '§ 43', '§ 43', '§ 51', '§ 117', '§ 50', '§ 56', '§ 35', '§ 3', '§ 1', 'OGH', 'EuG', 'EuG', 'OGH', 'EuG', 'OGH', 'EuG', 'OGH', 'EuG', 'Art. 15', 'BGH', 'EuG', 'EuG', 'EuG', 'EuG', 'EuG', '§ 20', '§ 2', '§ 12', '§ 13', '§ 14', '§ 7', '§ 87', '§ 99', '§ 823', '§ 99', '§812', '§ 16', '§ 60', '§ 60', '§ 179', '§ 165', '§ 165', '§ 179', '§ 179', '§ 9', '§ 248']

Keine Abmahnbefugnis für Verein zur Förderung von Online-Unternehmern
K&R 2019, 207
LG Rostock
Keine Abmahnbefugnis für Verein zur Förderung von Online-Unternehmern (Urteil vom 14.12.2018, 5a HK O 120/18)
Der klägerische Verein hat zwar einen Vereinszweck glaubhaft gemacht. Es fehlt jedoch an einem hinreichenden Vortrag und Glaubhaftmachung einer erheblichen Anzahl von Mitgliedern, die in dem betroffenen Bereich mit der Verfügungsbeklagten im Wettbewerb stehen. Es besteht daher keine Aktivlegitimation. (Leitsatz der Redaktion)
LG Rostock, K&R 2019, 207-210 (Urteil vom 14.12.2018, 5a HK O 120/18)
Über eine gesetzliche Pflicht der Schaffung von Nachvollziehbarkeit künstlich intelligenter Entscheidungen
I. Einleitende Worte
In dem Beitrag „Das dritte Ich“ in der Recht innovativ 02/2018 wurde gefordert, dass Entscheidungen künstlich intelligenter Systeme nachvollziehbar sein müssen. Etwas vorhersehbar Unvorhersehbares dürfe nicht verselbständigt in den Rechtsverkehr entlassen werden. Jemand, aber nicht die Maschine selbst, müsse für eventuell schadhafte Folgen haftbar sein. Um Ansprüche an die negativen Folgen von Entscheidungen künstlich intelligenter Systeme zu knüpfen, müssen diese Entscheidungen auf einen Fehler oder ein Fehlverhalten zurückführbar sein, welche wiederum einem Haftungssubjekt zuordenbar sein müssen. Die Herstellung künstlich intelligenter Systeme und das Angebot von Leistungen basierend auf künstlich intelligenten Systemen dürfen nicht der Entziehung oder gar Verschleierung von Verantwortlichkeit dienen, so wie es die Schaffung einer elektronischen Person im Ergebnis erlauben würde. Die Nachvollziehbarkeit der Entscheidungen künstlich intelligenter Systeme ist von gesellschaftlicher Notwendigkeit, denn die fehlende Nachvollziehbarkeit schafft Vulnerabilität von unbekanntem Ausmaß. Künstlich intelligente Systeme werden unsere Zukunft stark beeinflussen, deswegen dürfen sie diese nicht einseitig bestimmen.
Das deutsche Recht bietet bereits einen hinreichenden Rechtsrahmen zur Beurteilung der zivilrechtlichen und strafrechtlichen Haftung. Eine solche Beurteilung ist jedoch überhaupt erst möglich, wenn eine schadenauslösende Entscheidung, basierend auf reinen Rechenvorgängen, einem Verantwortlichen zugeordnet werden kann. Dieser Beitrag soll daher der Frage nachgehen, wie eine konkrete, gesetzliche Pflicht der Herstellung von Nachvollziehbarkeit künstlich intelligent zustande gekommener Entscheidungen umgesetzt werden könnte.
II. Die Abgrenzung der Nachvollziehbarkeit von Transparenz und Erklärbarkeit
Der Begriff der Nachvollziehbarkeit muss von der Transparenz von Algorithmen und Rechenprozessen etwa im Rahmen von maschinellem Lernen (Machine Learning, ML) unterschieden werden. Eine synonyme Verwendung verbietet sich. Denn die Transparenz von Algorithmen et al. bedeutet nicht notwendigerweise auch die Nachvollziehbarkeit der unter ihrer Anwendung zustande gekommenen Entscheidungen, insbesondere nicht die Möglichkeit der Bestimmung von zivil- oder strafrechtlicher Verantwortlichkeit. So bestimmen im Wesentlichen die Daten, die von einem Algorithmus oder System verarbeitet werden, das Ergebnis – nicht der Rechenprozess selbst. Ein Algorithmus oder Rechenprozess kann fehlerfrei, doch die verwendeten Daten fehlerhaft, tendenziell diskriminierend, gar „vergiftet“ sein. Die in einer Maschine verbauten Sensoren eines anderen Herstellers können Informationen der Umwelt fehlerhaft aufnehmen, bewerten und an den dennoch korrekt arbeitenden Algorithmus bzw. nächsten Verarbeitungsschritt weiterleiten. Die für das Lernen erforderlichen Feedbacks können ebenso fehlleitender Natur sein. Ein transparenter Algorithmus bzw. Rechenprozess ist daher nur ein, aber ein wichtiger Aspekt der Nachvollziehbarkeit einer künstlich intelligent gefällten Entscheidung. Die Transparenz eines Algorithmus bzw. Rechenprozesses findet daher vor allem im Bereich der Forschung und Entwicklung, der Wartung im Rahmen von Leistungspflichten aber auch der Fehlerbehebung im Bereich von Gewährleistungspflichten seinen Bedeutungsschwerpunkt. Hier ist in der Regel nicht der Hersteller, sondern ein Dritter Verpflichteter, der ohne Verständnis für die Abläufe seine vertraglichen Pflichten nicht erfüllen könnte.
2. Erklärbarkeit
Die Bedeutung der ebenfalls vielseitig geforderten Erklärbarkeit künstlich intelligenter Entscheidungen wird hier in dem der Nutzung künstlich intelligenter Systeme zeitlich vorausgehenden Abschnitt verortet: Etwa bei der Aufklärung des potentiellen Nutzers, damit dieser eine informierte Entscheidung für bzw. gegen den Kauf oder die im Rahmen sonstiger Verträge stattfindende Nutzung treffen kann. Die Erklärbarkeit verlangt nicht die umfassende Erläuterung der technischen Vorgänge; eine solche können in der Regel nur wenige Menschen verstehen. Ein umfassendes Verständnis herzustellen kann nicht erwartet werden. Jedoch muss die Erklärung künstlich intelligenter Entscheidungsfindung dem Erklärungsempfänger ermöglichen zu verstehen, welche Risiken sich aus der Nutzung ergeben und was mit seinen personenbezogenen Daten geschieht, die im Rahmen der Nutzung verarbeitet werden (müssen). Ein solches Verständnis kann in der Regel nur mit einer einfachen Darstellung geschaffen werden, die komplexe technische Ausführungen ausschließt. Eine einfache Erklärung, die nicht falsch ist, erfordert jedoch ein umfassendes Verständnis des Erklärenden. Mit Transparenz allein ist es also noch nicht getan.
3. Begriffe zweckorientiert bestimmen
Natürlich ist nicht ausgeschlossen, dass auch andere Begriffe sinnvoll verwendet werden können. Wichtig ist jedoch, um Regelungslücken zu vermeiden, dass stets unterschieden wird, was der Zweck der Offenlegung von Entscheidungskomponenten ist. Eine alleinige gesetzliche Pflicht zur Herstellung von Transparenz von Algorithmen bzw. Rechenprozessen kann jedenfalls in der Folge keine Pflicht zur Bereitstellung qualitativ hochwertiger Daten desjenigen (mit-)begründen, der einen korrekt arbeitenden Algorithmus bzw. Rechenprozess mit „Datenmüll“ zu fehlerhaften Entscheidungen bringen könnte. Hierfür bedarf es einer zusätzlichen Transparenz von Interagierenden, Interaktionen und Interdependenzen, um zumindest Fehlerquellen quantitativ eingrenzen zu können. Die Bestimmung der Fehler, der Fehlerquelle, der Fehlerqualität und ihre Zuordnung zu einem Verantwortlichen sind daher im Wesentlichen die Ziele, welche mit der geforderten Nachvollziehbarkeit künstlich intelligenter Entscheidungen erreicht werden sollen. Was nachvollziehbar ist, kann im Übrigen auch einfach erklärt werden.
4. Klammerwirkung der Nachvollziehbarkeit zwecks Reduzierung von Vulnerabilität
Die Nachvollziehbarkeit umfasst also notwendigerweise alles der Aufklärung dienliche Verstehensnotwendige und -mögliche. Kurzum: Nachvollziehbarkeit bedeutet nach hiesiger Auffassung die von Anfang an regelmäßige Dokumentation sämtlicher Vorgänge und der hieran mitwirkenden Komponenten, ob menschlicher, organisatorischer, mechanischer, elektronischer oder informatorischer Natur. Ihr wird daher hier eine Klammerwirkung zugeschrieben.
Die Erklärbarkeit der Entscheidungsfindung künstlich intelligenter Systeme vor der Nutzung, ihre Transparenz u.a. während der Nutzung und die Genannten umklammernde Nachvollziehbarkeit nach einer ein Schadensereignis auslösenden Nutzung werden hier in ihrem Zusammenspiel als notwendig und als das realisierbare Gegenteil der angeblichen „Black Box“ Künstliche Intelligenz angesehen. Deren Ge- und Verschlossenheit (Opacity) verhindert jede Form des Verstehens und schafft hierdurch nicht nur Misstrauen, sondern auch Angst. Angst bedeutet Vulnerabilität und die gilt es weitmöglich zu reduzieren.
III. Warum müssen Entscheidungen künstlich intelligenter Systeme nachvollziehbar sein?
Die Rekonstruktion und damit Sichtbarmachung entscheidungserheblicher Vorgänge und Fehler im Rahmen sog. Reverse Engineerings darf nicht die Aufgabe des Geschädigten sein, etwa zur Erbringung des Nachweises der Fehlerkausalität und des Herstellervertretenmüssens. Eine Umkehr der Beweislast zu seinen Gunsten infolge fehlenden Einblicks in die Organisation des Herstellers führt auch zu keinen befriedigenden Ergebnissen, wenn dieser auf die „Black Box“ und damit vermeintlich unmögliche Nachvollziehbarkeit der Entscheidungsfindung künstlich intelligenter Systeme verweisen darf. Eine solche Enttäuschung schadet der Innovation langfristig, denn sie beeinträchtigt nachhaltig das Vertrauen in die technologische Fortentwicklung und verhindert Verbesserungen an den mangelhaften Vorgängern.
IV. Wie macht man Entscheidungen künstlich intelligenter Systeme nachvollziehbar?
1. Man muss nicht alles detailliert nachvollziehen können um Verantwortung zuzuordnen
Vorweg muss klargestellt werden, dass bereits heute nicht alle Entscheidungen künstlich intelligenter Anwendungen zu 100 Prozent nachvollzogen werden können. Je komplexer die Systeme künstlicher Intelligenz werden, desto größer wird das Risiko unvollständiger Fehleraufklärung und unsicherer Haftungsbestimmung. Insbesondere Machine Learning lehrt uns, dass mit zunehmender Zahl von Layers, Neuronen oder „Knoten“ die Übersicht und Kontrolle des schaffenden Menschen sinkt. Dennoch muss stets eine bestmögliche Bestimmung von Verantwortlichkeit gewährleistet sein. Der Fakt, dass menschliche Intelligenz bis heute nicht definier- und nachvollziehbar bis ins Detail ist, hat noch keinen Menschen vor strafrechtlicher und zivilrechtlicher Verantwortlichkeit bewahrt.
2. Nachvollziehbarkeitsanforderungen gestuft nach Bedeutung und Eingriffsqualität
Das bedeutet, vor dem Hintergrund sehr unterschiedlicher Stufen von Relevanz und Eingriffsqualität künstlich intelligenter Entscheidungen für Menschen, dass eine hieran orientierte Stufung der Anforderungen an die Nachvollziehbarkeit geschaffen werden muss:
Nachvollziehbarkeit bedeutet nicht die dauerhafte, gar behördliche Überwachung, wenn es etwa um maschinelle Texterkennung und Autokorrektur geht. Eine ausschließlich rückwirkende, schadensanlässliche Beurteilung künstlich intelligenter Entscheidungen verbietet sich dagegen etwa bei Pflegerobotern, die mit der menschlichen Gesundheit und dem menschlichen Leben „arbeiten“. Nachvollziehbarkeit heißt auch nicht, dass der Hersteller steten Zugriff auf im Eigentum des Nutzers stehende Geräte haben darf.
Mit sich aus den Unwägbarkeiten des (Zusammen-)Lebens ergebenden Zweifeln müssen wir weiterhin leben, vor allem zugunsten der grundgesetzlich garantierten Freiheiten; das gehört zum allgemeinen Lebensrisiko. Zweifel von darüber hinausgehendem Charakter müssen allerdings zulasten desjenigen gehen, der diese, herrührend aus der von Anfang an bestehenden und vorhersehbaren Unvorhersehbarkeit bei Inverkehrbringen, bewusst geschaffen bzw. in Kauf genommen hat. Die Grenzen zwischen allgemeinem Lebensrisiko und zu verantwortendem Risiko sind nicht klar, waren nie klar und werden immer verschwimmen. Für diese Fälle gibt es im deutschen Recht unbestimmte Rechtsbegriffe wie das „öffentliche Interesse“ oder „Gemeinwohl“ mit einem für die Exekutive eröffneten Beurteilungsspielraum. Dieser ist jedoch wiederum ohne ein Minimum an Nachvollziehbarkeit nicht ausfüllbar.
3. Welches Risiko ist hinnehmbar und kann sogar vertraglich übernommen werden?
„Risiko“ bedeutet auch, dass unter Umständen, etwa im Falle einer umfassenden Auf- und Erklärung vor der Nutzung nicht vorhersehbarer künstlich intelligenter Entscheidungssysteme, die Verantwortlichkeit des Herstellers oder Anbieters unter Verweis auf das Mitverschulden des Nutzers im Sinne von § 254 BGB reduziert werden kann.
Diese Reduktion kommt jedoch nicht in Betracht, wenn etwa unter Verstoß gegen die Vorschriften über Allgemeine Geschäftsbedingungen (§ 305 ff. BGB), den Grundsatz von Treu und Glauben (§ 242 BGB), das Wucherverbot sowie Sittenwidrigkeit (§ 138 BGB), gesetzliche Verbote (§ 134 BGB) und Spezialgesetze wie das Gesetz gegen den unlauteren Wettbewerb (UWG) aber auch die Datenschutzgrundverordnung (DSGVO) versucht wird, Verantwortung abzuwälzen. Müßiggang und Ignoranz, Gewinnmaximierung durch Einsparungen bei der Qualität sowie juristische Winkelzüge dürfen keine Mittel der Enthaftung von Herstellern und Anbietern steigend nachgefragter Produkte künstlicher Intelligenz sein.
Aus diesem Grund wurde auch hier die juristische Konstruktion der elektronischen Person abgelehnt. Sie setzt einen komplett falschen Anreiz und würde dazu führen, dass Entscheidungen künstlich intelligenter Systeme nicht einmal dem Versuch der Nachvollziehbarmachung unterzogen werden – mit denkbar schlimmen Folgen für die Geschädigten und nichtsahnenden Folgenutzer nicht verbesserbarer Systeme künstlicher Intelligenz. Der Schutz Schwächerer im Falle von Informationsasymmetrien, der etwa im Rahmen der Vorschriften über die Allgemeinen Geschäftsbedingungen (§§ 305 ff. BGB) und auch der von der Rechtsprechung entwickelten Beweislastumkehr im Rahmen der deliktischen Produzentenhaftung (§ 823 ff. BGB) zur Tragen kommt, darf nicht einfach durch eine Verlagerung der Entschädigungspflicht auf Maschinen ausgehöhlt werden.
Schaden sollte, so objektiv vermeidbar, gar nicht erst passieren müssen. Zumindest muss seine Eintrittswahrscheinlichkeit vom Nutzer weitmöglich eingeschätzt werden können, um seine körperliche und finanzielle Integrität von Anfang an schützen zu können. Geht er ganz bewusst ein solches gravierendes Risiko ein, kann die alleinige Verantwortlichkeit nicht beim Hersteller bzw. Anbieter verortet werden.
4. Nachvollziehbarkeit in einem multidimensionalen Raum ist eine Herausforderung
Die geforderte Nachvollziehbarkeit spannt sich also, partiell mal straffer, mal lockerer, durch und über einen großen, mehrdimensionalen Raum von möglichen Anwendungen künstlich intelligenter Systeme, mit den verschiedenen Horizonten und damit Interessen der Nutzer, Anbieter, Hersteller und Behörden. Dieser mehrdimensionale Raum muss zum einen öffentlich-rechtlich, etwa im Hinblick auf die Produktsicherheit, aber auch im Rahmen der vertraglichen Risikoverteilung und deliktischen Produzentenhaftung abgesteckt sein. Jeder Einzelfall kann natürlich nicht geregelt werden. Nicht alles kann überwacht und überprüft werden. Gesetze müssen zudem, um ein Mindestmaß an Flexibilität bieten zu können, grundsätzlich technologieneutral sein. Ein Gesetz darf weder seine Umgehung durch Anwendung anderer Technologien ermöglichen, noch eine (auch-)nützliche Technologie verbieten. Erklärbar, transparent und nachvollziehbar macht man die Entscheidungen künstlich intelligenter Systeme als Gesetzgeber in diesem nicht vollumfänglich begrenzbaren Bereich dann im Wesentlichen durch eine klare, die beteiligten Interessen bestmöglich ausgleichende Verteilung von Rechten und Pflichten sowie Vorteilen und Nachteilen.
V. Wie kann man Interessenausgleich und dabei Standortattraktivität schaffen?
Diese Anforderungen lesen sich geradezu lähmend. Aber dieser Eindruck darf nicht das Verwehren juristischen Aufarbeitens und damit des Herausarbeitens von Nachvollziehbarkeit zugunsten der Feststellung von Verantwortlichkeit für schadensverursachende, künstlich intelligente Entscheidungen begründen. Ein Weg muss gefunden werden.
1. Mehr Pflichten und weniger Rechte führen zu mehr Standortunattraktivität
Bei der ausgleichenden Verteilung rechtlicher Verantwortung stellen sich jedoch vor allem folgende, zu lösende Probleme:
– Je umfassender die Pflicht zur Nachvollziehbarmachung der Entscheidungen künstlich intelligenter Systeme ist, desto größer und abschreckender ist das daran geknüpfte Haftungsrisiko für innovative Entwickler und Anbieter. Es besteht die Gefahr des Abwanderns, ins Ausland oder in die rechtliche Grau- bzw. Schwarzzone.
– Je größer das eigene Haftungsrisiko ist, desto geringer ist das Interesse an der Nachvollziehbarmachung. Niemand möchte sich selbst belasten müssen oder gar schädigen. Es besteht auch hier die Gefahr des Abwanderns.
– Zudem bedeutet eine umfassende rechtliche Pflicht der Nachvollziehbarmachung auch eine Erschwernis bis hin zur Verzögerung der Markteinführung unter Überholung durch andere, weniger restriktive Nationen. Infolge der geringen Standortattraktivität bedeutet dies auch hier wieder die Gefahr des Abwanderns.
Wie kann Deutschland also die Risiken für die Nutzer klein- sowie die Tore zu den Chancen freier, kreativer Entwicklung offenhalten, um sich als eine der führenden Nationen im Bereich der Künstlichen Intelligenz zu etablieren? Mehr Pflichten allein können keine Lösung sein. Dies gilt im gleichen Maße für nicht (mehr) herstellereigene Angebote sich, v.a. im Rahmen von Machine Learning, weiterentwickelnder künstlich intelligenter Entscheidungssysteme.
2. Ausgleichende Lösungsansätze zugunsten mehr Entwicklungsfreiheit
Die Lösung kann allerdings auch nicht sein, die innovativen Unternehmen nicht zur Nachvollziehbarkeit der Entscheidungen ihrer künstlich intelligenten Systeme zu verpflichten. Ein befriedigendes Ergebnis kann nur durch das Fördern der Entwicklung und des Zusammenwirkens vieler Faktoren erreicht werden. Diese kann der Beitrag nicht vollumfänglich darstellen, jedoch sollen die folgenden wesentlichen Faktoren und möglichen Stellschrauben benannt werden:
a) Entwicklungserleichterungen müssen in das deutsche Rechtssystem eingepasst werden
Dem zu findenden Interessenausgleich wird der immer wieder getätigte Verweis auf US-amerikanische Verhältnisse nicht gerecht. In den USA sind die Bedingungen für innovative Entwicklungen angeblich besser, weil z.B. Anforderungen an den Datenschutz geringer sind und Neuerungen mehr Raum gegeben wird. Allerdings stehen dieser vom Silicon Valley repräsentierten, günstigeren Sach- und Rechtslage realisierbare (Straf-)Schadensersatz- und Schmerzensgeldforderungen in einem dem deutschen Rechtssystem unbekannten Ausmaß gegenüber. Der Standort Deutschland kann die rechtlichen Anforderungen an Hersteller und Anbieter innovativer und risikobehafteter Produkte nicht absenken ohne die (zivilrechtlichen) Rechtsfolgen entsprechend, vor allem nach oben hin, anzupassen. Es ist nicht erkennbar, dass die erreichbaren (Straf-)Schadensersatz- und Schmerzensgeldsummen in den USA abschreckende Wirkung haben. Allerdings sind die Möglichkeiten Deutschlands begrenzt: Eine Generalüberholung eines sich historisch und organisch entwickelten Rechtssystems ist nicht angemessen. Daher muss geschaut werden, mit welchen bekannten und bewährten Instrumenten die gewünschten Ziele auch erreichbar sind. Anderenfalls wird die Einheit und damit Widerspruchsfreiheit der Rechtsordnung gefährdet.
Im Hinblick auf die staatlicherseits ausgleichende Gewährleistung von verfassungsrechtlich garantierten Grundrechten kann an dieser Stelle beispielhaft auf das deutsche Gewerberecht verwiesen werden. Stark vereinfacht gesprochen können öffentliche Nutzungsangebote künstlich intelligenter Entscheidungssysteme nicht unähnliche Risiken wie Spielgeräte im Sinne des § 33c Gewerbeordnung (GewO) mit sich bringen; sie gehen unter Umständen sogar erheblich über reine Vermögensverluste hinaus. So sieht § 33c Abs. 1 S. 1 GewO vor, dass derjenige,
[der] gewerbsmäßig Spielgeräte, die mit einer den Spielausgang beeinflussenden technischen Vorrichtung ausgestattet sind, und die die Möglichkeit eines Gewinnes bieten, aufstellen will, […] der Erlaubnis der zuständigen Behörde [bedarf].
Betrachtet man Facebook-Algorithmen und Machine Learning-basierte Blasenbildung in ebensolchen sozialen Netzwerken, die bisweilen wie beim Glücksspiel, da Aufmerksamkeit begehrend und zum Anbietervorteil bindend, suchtähnliche, selbstschädigende und realitätsentfernende Resultate bei den Nutzern auslösen können, liegt es nicht fern, zur Anwendung kommende künstlich intelligente Entscheidungssysteme einem Verbot mit Erlaubnisvorbehalt wie im Falle von § 33c GewO zu unterstellen.
b) Entwicklungserleichterungen erfordern die Erleichterung der Anspruchsverfolgung im Schadensfalle
Die mit (Weiter-)Entwicklungserleichterungen notwendigerweise korrespondierende Erleichterung der Anspruchsverfolgung Geschädigter könnte auch durch die Schaffung einer spezialgesetzlichen Gefährdungshaftung geschaffen werden. In diesem Fall bedürfte es keines Verschuldens und insofern auch keines Verschuldensnachweises des Geschädigten. Hersteller bzw. Anbieter haften für die Schaffung und Aufrechterhaltung einer erlaubten Gefahr.
Auch hilft ein erneuter Verweis auf die USA nicht weiter, denn das US-amerikanische Prozessrecht ist erheblich anders ausgestaltet, um Geschädigten die Anspruchsverfolgung zu erleichtern. Dementsprechend müsste das deutsche Zivilprozessrecht erheblich verändert werden, um eine Verschiebung der rechtlichen Vorteile hin zu den Hersteller- und Anbieterinteressen in der Entwicklungs- und Markteinführungsphase wiederum auf Geschädigten- und Anspruchstellerseite auszugleichen. Denkbar sind spezielle Verfahrensarten. Musterfeststellungsklagen sind jedoch ob ihrer vorwiegenden Verzögerungswirkung gerade kein Beispiel für die Erleichterung der Anspruchsverfolgung. Sie haben sich unter Verweis auf das Kapitalanleger-Musterverfahrensgesetz (KapMuG) auch nicht bewährt.
c) Selbstverwaltung zur Sicherung kontinuierlicher Qualität von Entwicklung und Leistungen
Vorstellbar ist das Schaffen einer weiteren Kontrollinstanz mit dem Ziel der Qualitätssicherung. Gerade im Falle der Resultate von Machine Learning, welche sich immer mehr der menschlichen Nachvollziehbarkeit entziehen, sollte langfristig überlegt werden, wie man Fachkenntnisse, fachlich versierte Kontrolle und Überwachung effizient gebündelt und dabei das erforderliche Maß an objektiver, ggf. maschinell hergestellter Nachvollziehbarkeit ermöglichen kann.
Die Pflichtmitgliedschaft bei juristischen Personen des öffentlichen Rechts mit Selbstverwaltungsaufgaben, etwa wie der Rechtsanwälte in örtlichen Rechtsanwaltskammern mit zugeordneten Anwaltsgerichten, die über die Einhaltung berufs- bzw. bereichsspezifischer Pflichten wachen und richten, ist eine Möglichkeit, Erleichterungen in der Entwicklung innovativer, künstlich intelligenter Systeme einerseits zu ermöglichen (vgl. die Unabhängigkeit des Rechtsanwalts, § 1 Bundesrechtsanwaltsordnung, BRAO) und andererseits in einem gesetzlich abgesteckten Pflichtenkorridor zu halten (vgl. die Pflichten des Rechtsanwalts, §§ 43 ff. BRAO). Ungeachtet der nicht ins Gewicht fallenden Schwächen und Nachteile der Verkammerung könnte diese Selbstverwaltungslösung grundsätzlich gewährleisten, dass Gewissenhaftigkeit (vgl. § 43 S. 1 BRAO) Sachnähe (§ 43b BRAO) und Fachkunde (§ 43a Abs. 6 BRAO) mehr in den Fokus rücken als wirtschaftliche Interessen. Reißerisches Marketing mittels Verzerrung der Wirklichkeit wäre dann entsprechend untersagt (vgl. § 43b BRAO). In Selbstverwaltung organisierte Fortbildungspflichten und ausgestellte Nachweis besonderer Fachkenntnisse könnten die Qualität in der Entwicklung künstlich intelligenter Systeme fördern. Dabei wäre sichergestellt, dass im Wesentlichen nur Fachkundige entscheiden.
d) Schaffung von neuen, die neuen Freiheiten flankierenden Pflichten: Pflichtversicherungen
Will man die Entwicklung künstlich intelligenter Systeme und damit die Eröffnung neuer Gefahrenquellen in Deutschland fördern, müssen die neuen Freiheiten von ebenso neuen, mit diesen Gefahren korrespondierenden Pflichten flankiert werden:
Sinnvoll wäre die Schaffung einer Pflichtversicherung (vgl. Pflichtversicherungsgesetz, PflVG) ähnlich der Berufshaftpflichtversicherung für Rechtsanwälte (§ 51 BRAO), die im Schadensfalle gemäß § 117 Abs. 1 Versicherungsvertragsgesetz (VVG) auch unabhängig von vertragsverletzendem Verhalten des Versicherungsnehmers gegenüber Geschädigten eintritt. Wesentlich wäre in dieser Konstellation, dass ihr gegenüber Offenlegungs- und Risikoberichtspflichten bestehen, die erfüllt werden müssen, um den Versicherungsschutz im Innenverhältnis nicht zu gefährden.
3. Die Schaffung von bestmöglicher Nachvollziehbarkeit sollte verpflichtend, aber v.a. im eigenen Interesse sein
Doch nicht nur gegenüber einer Pflichtversicherung sollten besondere Dokumentations- und Aufklärungspflichten bestehen, die eine bestmögliche Nachvollziehbarkeit künstlich intelligenter Entscheidungen ermöglicht. Ähnlich der anwaltlichen Aktenführungspflicht (§ 50 Abs. 1 S. 1 BRAO), die vor allem dem Nachweis pflichtgemäßen Handelns im Falle der Inanspruchnahme wegen Verletzungen der Pflichten aus dem Mandatsvertrag dient, sollte die eine Nachvollziehbarkeit ermöglichende, umfassende, d.h. lückenlose chronologische Dokumentation der (Weiter-)Entwicklung künstlich intelligenter Systeme verpflichtend sein. Auch wenn die Verletzung dieser Pflicht nicht überwacht und verfolgt wird, allenfalls im Falle einer Beschwerde der Kammer vorgelegt werden muss (vgl. § 56 Abs. 1 BRAO), besteht doch ein Anreiz zur bestmöglichen Nachvollziehbarmachung. Die lückenlose Dokumentationspflicht dient hier nämlich dem eigenen Schutz.
Eine solche Dokumentation im eigenen Interesse ermöglicht nicht zuletzt die im Einzelfall erforderliche Einholung einer behördlichen Erlaubnis für das öffentliche Angebot der Nutzung künstlich intelligenter Entscheidungssysteme, die ggf. erforderliche regelmäßige Überprüfung der Erfüllung der Erlaubnisanforderungen und den Schutz vor dem behördlichen Verbot (vgl. hierzu die Gewerbeuntersagung wegen Unzuverlässigkeit des Gewerbetreibenden zum Schutze der Allgemeinheit, § 35 GewO).
Es ist nicht von der Hand zu weisen, dass Deutschland als Standort für innovative Entwicklungen im Bereich der Künstlichen Intelligenz attraktiver werden muss. Die nötige Attraktivität für Wissenschaftler und Entwickler aus aller Welt wird allerdings nicht binnen kurzer Zeit hergestellt werden können. Insbesondere ist es nicht möglich, von heute auf morgen Silicon Valley-Verhältnisse zu schaffen, da die Rechtssysteme Deutschlands und der USA völlig unterschiedlich gewachsen und ausgestaltet sind. Beide haben ihre Vor- und Nachteile. Optimierungsbedarf gibt es dennoch und der wird hier tatsächlich darin gesehen, (weiter-)entwickelnden Unternehme(r)n mehr Freiheiten einzuräumen. Allerdings darf das deutsche Rechtssystem nicht aus dem Gleichgewicht geraten: Seine Struktur dient vor allem dem Interessenausgleich. Dieser muss nun entsprechend neu „verhandelt“ werden.
Neue Freiräume bringen neue Pflichten, Risiken und Rechtsfolgen mit sich. Die wichtigste Pflicht ist diejenige zur Schaffung der bestmöglichen Nachvollziehbarkeit künstlich intelligenter Entscheidungen. Am einfachsten ist diese zugunsten aller umzusetzen, wenn sie zuvörderst dem eigenen Schutz dient. Diese Pflicht sollte eingekleidet sein in eine Regelungssystematik, die dem deutschen Rechtssystem vertraut ist und sich überwiegend bewährt hat. Als Vorbild bietet sich hier die umfassende, chronologische Handaktenführungs- und damit Dokumentationspflicht des Rechtsanwalts an.
Der Artikel wurde zuerst in Ri 03/2018, S. 136 ff. veröffentlicht.
Claudia Otto ist seit 2012 Rechtsanwältin, seit 2016 Inhaberin der Frankfurter Kanzlei COT Legal und seit 2017 Herausgeberin der interdisziplinären Fachzeitschrift Recht innovativ (Ri). Sie berät, schreibt und referiert weltweit zu Fragen der Digitalisierung, insbesondere neu entstehenden Rechtsfragen rund um technische Innovationen wie Artificial Intelligence (AI). Vor der Gründung von COT Legal war die Autorin viereinhalb Jahre für Hengeler Mueller tätig. Seit 2007 ist Claudia Otto Mitglied von Transparency International e.V., seit 2018 Mitglied der Ri-Kooperationspartnerin Robotics & AI Law Society e.V. (RAILS), European AI Alliance und GRUR.
Spätestens Mady Delvaux hat die Diskussion angestoßen, ob das bestehende Produkthaftungsregime für die mit künstlicher Intelligenz versehenen Produkte ausreichend ist. In einer von ihr initiierten Resolution des Europäischen Parlaments sprachen sich Anfang 2017 396 Abgeordnete für Folgendes aus: „to explore, analyse and consider the implications of all possible legal solutions”, sowie „creating a specific legal status for robots in the long run”. Der Begriff „robot” ist hier als Synonym für Systeme auf Basis künstlicher Intelligenz zu verstehen.
Die Resolution warf also zunächst einmal die Frage auf, ob denn die bisher bestehenden Haftungsregime in der EU ausreichend sind für die bestehenden, aber vor allem für die in der Zukunft vermuteten Eigenschaften von künstlicher Intelligenz. Die Mitglieder des Europäischen Parlaments nahmen zumindest einen Änderungsdruck in der Zukunft an, dem sie nach dem oben zitierten Vorschlag mit einem generischen rechtlichen Status für robots – mit künstlicher Intelligenz versehene Systeme – begegnen wollen. Aus deutscher Sicht bedeutet das in einer Nussschale nicht weniger als die Schaffung einer dritten, rechtlichen relevanten Person neben der natürlichen (der Mensch in seiner Rolle als Rechtssubjekt) und der juristischen Person (Personenvereinigung oder Zweckvermögen mit eigener Rechtspersönlichkeit, am bekanntesten: GmbH oder AG).
Ein großer Wurf also, den die vermeintlich so disruptiven Entwicklungen der künstlichen Intelligenz sogar auf Ebene des Europäischen Parlaments auslösen. Es bietet sich ohne Frage an, die Situation einmal umfassend zu betrachten, um die Entscheidung des Europäischen Parlaments – die übrigens bisher von der Kommission nicht aufgenommen wurde – entsprechend bewerten zu können.
Ausgangspunkt: System der Produkthaftung in der EU
Ausgangspunkt solcher Betrachtungen kann nur das bestehende System der Produkthaftung in der EU sein, das seit 1986 durch die Produkthaftungsrichtlinie 85/374/EWG geprägt ist. Bis auf wenige, hier nicht relevante Ausnahmen, ist die Richtlinie in allen Mitgliedsstaaten der EU umgesetzt. Im Kern schafft die Richtlinie eine verschuldensunabhängige Haftung des Herstellers eines Produktes oder seiner Komponenten gegenüber jedermann auf Schadenersatz.
Der geschädigte Anspruchsteller muss den Fehler nachweisen, den Schaden und deren kausale Verbindung.
Der größte Stolperstein auf dem Weg zu Schadenersatzleistungen ist regelmäßig die Beweislast des Geschädigten beim Nachweis, dass ein Kausalzusammenhang zwischen dem Produktfehler und dem Schaden besteht. Der Europäische Gerichtshof hat dies durch die Akzeptanz nationaler Vorschriften, die dem Geschädigten dabei helfen, diesen Nachweis zu erbringen, erheblich erleichtert. Darüber hinaus hat er den Fehlerverdacht eines Produktes dem Fehler gleichgestellt.
Diskussionen über eine Haftung für künstliche Intelligenz
Diese in Deutschland im Produkthaftungsgesetz (ProdHaftG) umgesetzte Richtlinie bildet derzeit den gesetzlichen Rahmen, an dem sich die Diskussionen über eine Haftung für künstliche Intelligenz entzünden. Ausgangspunkt der Überlegungen vieler Beiträge ist dabei eine angenommene Black Box der künstlichen Intelligenz dahingehend, wie das System auf seine Lösung gekommen ist. Eine fehlende Transparenz der Lösungswege des Systems und die fehlende Möglichkeit eines reverse engineering der durch das System entwickelten Lösungen bilden die Ausgangspunkte der Überlegungen für die Notwendigkeit eines eigenen Haftungsregimes für künstliche Intelligenz. Hinzu tritt die Rolle von – teilweise Unmengen an – Daten in der den Systemen vermeintlich eigenen Lernkurven.
Beide Aspekte führen in der Wahrnehmung der Debatten um das Thema der Haftung für künstliche Intelligenz zur initialen Annahme einer durch den Hersteller nicht mehr kontrollierten und kontrollierba-ren, faktisch selbständigen Weiterentwicklung der ursprünglichen Systeme hin zu einem unbeabsichtigten, zumindest aber nicht geplanten Zustand.
Diese Annahme wird argumentativ aufgegriffen mit der These, der Hersteller könne für die durch die künstliche Intelligenz erreichten Zustände ab einem bestimmten Grad haftungsrechtlich nicht mehr verantwortlich sein; diese lägen weit außerhalb der ursprünglich geplanten Kondition.
Ich möchte beide Thesen zum Anlass einer kritischen Würdigung nehmen.
In einem ersten Schritt lässt sich spätestens auf Basis der bisherigen Artikel in der Reihe auf Telemedicus über künstliche Intelligenz deutlich ableiten, dass Autonomie des Lernens in Systemen mit künstlicher Intelligenz nicht existiert, sondern mathematische Formeln und Algorithmen hohe Automatisierungsgrade abbilden. Eine eigenständige Weiterentwicklung eines Systems existiert schlicht nicht. Auch die Google AI wird weiterhin reihenweise GO-Spieler schlagen, darin möglicherweise unendlich gut werden, aber keinen eigenen, weiteren Einsatzzweck generieren.
Neben diesem ersten Schritt ist auch die Frage nach der Abhängigkeit von annotierten Daten in den verschiedenen subsymbolischen Lernverfahren sowie die Datenqualität auch in symbolischen Verfahren vertieft zu betrachten. Anknüpfungspunkt der Überlegungen mancher Debattenbeiträge ist die Frage nach der Verantwortlichkeit des Herstellers künstlicher Intelligenz – oder auch des späteren Betreibers – für die Qualität der seine Systeme fütternden Daten.
Hier ist eine kritische Würdigung der Überlegungen ausgehend von einem tieferen Verständnis des bestehenden Rechts erforderlich, was einen Einstieg in den Fehlerbegriff des ProdHaftG voraussetzt.
Fehlerbegriff des ProdHaftG
§ 3 ProdHaftG definiert ein Produkt dann als fehlerhaft,
wenn es nicht die Sicherheit bietet, die unter Berücksichtigung aller Umstände, insbesondere
Die daraus entstehende Schadenersatzpflicht ist im Übrigen ausgeschlossen, wenn nach § 1 Abs. 2 S. 5 ProdHaftG
Kombiniert man beide Vorschriften, lässt sich unschwer erkennen, dass Maßstab für die Sicherheit eines Produktes zum Zeitpunkt seiner Inverkehrgabe der Stand von Wissenschaft und Technik ist. Dieser Standard muss vom Hersteller herangezogen werden, um die berechtigte Sicherheitserwartung an das Produkt zu erreichen.
Verantwortlichkeit gemäß Stand der Technik
Angewandt auf die Fragestellung nach der Verantwortlichkeit für den Umgang mit „unreinen“ Daten in subsymbolischen Lernverfahren oder symbolischen Entscheidungsmustern lässt sich rechtlich hier also eindeutig festhalten, dass der Hersteller diese Probleme erkennen und nach den verfügbaren Methoden lösen muss, bevor er das Produkt in Verkehr gibt. Es muss demnach eine Form von Validierung von Daten geben, eine Überprüfung von Ergebnissen und eine Eigenkontrolle des Systems; entspricht das dem Stand von Wissenschaft und Technik, ist der Hersteller nach heutigem Stand in den allermeisten Staaten der EU nicht für das Entwicklungsrisiko des mit künstlicher Intelligenz versehenen Produkts haftbar zu machen. Umgekehrt betrachtet geht die Rechtsordnung bereits heute da-von aus, dass der Hersteller alle Möglichkeiten ausschöpft, um sein Produkt im Rahmen des objektiv Erwartbaren abzusichern.
Die bisherigen Feststellungen führen zu der nächsten Voraussetzung der Forderung nach einem neuen Haftungsregime für künstliche Intelligenz, der fehlenden Haftung des Herstellers für Weiterentwicklungen seines Systems außerhalb seiner ursprünglichen Planungen.
Die Produkthaftungsrichtlinie bietet für diese These keine Anhaltspunkte. Vielmehr ist alleine entscheidend, wie sich aus einer retrospektiven Betrachtung die Sicherheit des Produkts zum Inverkehrgabezeitpunkt gemessen am verfügbaren Stand von Wissenschaft und Technik bewerten lässt. Vereinfacht gesagt: kann der geschädigte Anspruchsteller nachweisen, dass das Produkt nicht dem entsprach, was möglich war und hieraus eine Unterschreitung des Sicherheitslevels entsprang, ist der Nachweis gelungen. Inwiefern der Hersteller die Weiterentwicklung der KI vorhersehen konnte oder hätte einkalkulieren müssen, ist für die Betrachtung irrelevant. Relevant ist lediglich, ob der Geschädigte nachweisen kann, dass es technische Möglichkeiten zur Begrenzung eben der eingetretenen Fehlentwicklung gegeben hätte, als das Produkt in Verkehr gegeben wurde. Und auch hier ist vereinfacht gesehen sehr eindeutig, dass der Hersteller nicht jede mögliche Weiterentwicklung vorhersehen, aber im Zweifel alle nicht gewollten programmiertechnisch ausschließen kann.
Damit reduziert sich die Haftung der Hersteller für KI auf Fragen der Darlegungs- und Beweislast. Das ist eine Situation, die bereits seit Geltung der Richtlinie in vielen Fällen Raum greift und keine Neue-rung durch KI darstellt.
Hersteller in der Pflicht
Die Einführung einer eigenen Rechtsperson für KI verknüpft mit einer Pflichtversicherung – denn nur dann macht eine eigene Haftung der KI Sinn – ist damit derzeit nicht notwendig. Deutlich relevanter erscheint hier der entsprechende Umgang der Hersteller – und vor allem auch Importeure – solcher Systeme mit KI mit den bestehenden produkthaftungsrechtlichen Regularien und deren Umsetzung in der Entwicklung der Produkte. Hier kommt es entscheidend darauf an, den Stand von Wissenschaft und Technik bei der Risikobeurteilung des eigenen Produktes anzuwenden und entsprechend über die Serienzeit nachzuhalten. Der reine Verweis auf die Unkalkulierbarkeit entsprechender Systeme wird nach derzeitiger Rechtsordnung nicht ausreichen.
Philipp Reusch ist Gründungssozius von reuschlaw Legal Consultants. Er berät schwerpunktmäßig nationale und
internationale Industrieunternehmen aus der Maschinenbau-, Automobilzulieferer- und Konsumgüterindustrie. Philipp Reusch ist Experte im Bereich (internationaler) Produkthaftung, Produktsicherheit, Compliance- und Rückrufmanagement. Weitere Schwerpunkte seiner anwaltlichen Beratungstätigkeit liegen im Versicherungsrecht, Datenschutz und Cyber Security sowie in der Prozessführung.
Der Lehrbeauftragte für Produkthaftung und Produktsicherheit an der RWTH Aachen ist Autor zahlreicher Fachpublikationen. Er wurde von 2009 bis 2018 von „Best Lawyers“ als Best Lawyer im Bereich Product Liability ausgezeichnet. Finance Monthly zeichnete ihn 2016 als Lawyer of the Year im Bereich Product Liability für Deutschland aus, ebenso wie ihn das Handelsblatt 2016 bis 2018 in seinem Verzeichnis als Best Lawyer im Bereich Produkthaftung
aufführt. Im Rahmen des German Brand Awards 2017 wurde reuschlaw mit einer Special Mention in der Kategorie Corporate Services ausgezeichnet.
+++ EU-Urheberrecht: Einigung auf gemeinsamen Reformentwurf
+++ Löschpflichten von Host-Providern: Österreichischer OGH legt dem EuGH vor
+++ DSGVO: Bußgeld wegen personenbezogener E-Mail-Adressen im Verteiler
+++ EuGH: Entscheidung zu Videoaufnahmen in Polizeidienststelle
+++ LG Düsseldorf: Bodycam-Aufnahmen als Beweismittel zulässig
EU-Urheberrecht: Einigung auf gemeinsamen Reformentwurf
Der EU-Ministerrat und das EU-Parlament haben sich nach Angaben der EU-Kommission auf einen endgültigen Reformtext der europäischen Urheberrechtsnovelle geeinigt. Danach soll es insbesondere ein Leistungsschutzrecht für Presseverleger geben sowie eine weitergehende Verpflichtung für Plattformbetreiber wie YouTube: Sie müssen zukünftig geschützte Werke lizensieren und auf mögliche Urheberrechtsverletzungen überprüfen, bevor sie auf der Plattform veröffentlicht werden. Kritiker sehen in Letzterem die Einführung von sog. Upload-Filtern und eine erhebliche Einschränkung für das Internet insgesamt. Der Text nimmt insbesondere den Vorschlag von Deutschland und Frankreich auf, dass solche Plattformen ausgenommen sind, die jünger als drei Jahre sind, weniger als 10 Millionen Euro Umsatz haben und weniger als 5 Millionen Besucher pro Monat aufweisen können. Die Einigung muss in den nächsten Wochen noch vom Parlament und den Mitgliedstaaten bestätigt werden. Wenn das geschieht, haben die EU-Länder zwei Jahre Zeit, die Regelungen in nationales Recht umzusetzen.
Löschpflichten von Host-Providern: Österreichischer OGH legt dem EuGH vor
Der österreichische oberste Gerichtshof (OGH) hat dem EuGH die Frage vorgelegt, ob Plattformbetreiber ihre Portale aktiv nach rechtswidrigen Inhalten durchsuchen müssen. Damit wird die Frage der Störerhaftung von Host-Providern grundsätzlich in Frage gestellt. Eine österreichische Partei verklagte Facebook auf Unterlassung wegen diverser Hasskommentare gegen die Ex-Chefin der Partei. Das OLG hatte daraufhin Facebook dazu verurteilt, zum einen die konkret beanstandeten Kommentare und zum anderen auch sämtliche wort- und sinngleiche Inhalte zu löschen. Der OGH setzte das Revisionsverfahren aus und legte dem EuGH nun die Frage der Auslegung von Art. 15 der E-Commerce-Richtlinie vor. Das Verbot einer sog. proaktiven Prüfpflicht wird von der Rechtsprechung des BGH grundsätzlich eng ausgelegt: Prüfpflichten bestehen erst dann, wenn der Host-Provider auf mögliche rechtswidrige Inhalte hingewiesen wird. Erst dann kann auch im Einzelfall eine Pflicht bestehen, gleichgeartete Inhalte zu löschen. Die nun zu erwartende Entscheidung des EuGH zu dieser Grundsatzfrage könnte im Falle einer weiten Auslegung des Verbots allerdings die europäische Rechtsprechung umkrempeln. Mit einem Urteil wird im Sommer 2019 gerechnet.
Die Einzelheiten auf lto.de.
DSGVO: Bußgeld wegen personenbezogener E-Mail-Adressen im Verteiler
Der Landesbeauftragte für Datenschutz in Sachsen-Anhalt hat mehrere Geldbußen wegen Verstößen gegen die DSGVO verhängt. Grund waren mehrere verunglimpfende E-Mails, die ein Mann mittels eines offenen E-Mail-Verteilers verschickt wurden. Dabei waren alle E-Mail-Adressen des Verteilers für alle Empfänger sichtbar. Zwar waren die Verunglimpfungen der Empfänger aus den Bereichen Presse, Wirtschaft, Kommunal- und Landespolitik laut nach Ansicht des Landesbeauftragten von der Meinungsfreiheit gedeckt. Der offene Verteiler stelle aber einen Datenschutzverstoß dar.
Zur Meldung auf mz-web.de.
EuGH: Entscheidung zu Videoaufnahmen in Polizeidienststelle
Der EuGH hat entschieden, dass Videoaufzeichnungen von Polizeibeamten in einer Polizeidienststelle während des Dienstes und die anschließende Veröffentlichung auf Plattformen wie YouTube in den Anwendungsbereich der DSRL und damit wohl auch in den der DSGVO fallen. Nach Ansicht des EuGH greift die sog. „Haushaltsausnahme“ nicht, wonach „ausschließlich persönliche oder familiäre Tätigkeiten“ nicht dem Datenschutzrecht unterliegen. Vielmehr habe hier das Video durch den Upload auf YouTube den persönlichen Bereich des Verantwortlichen verlassen. Auch stellte der EuGH fest, dass Informationen nicht deshalb keine personenbezogenen Daten seien, weil sie „im Kontext einer beruflichen Tätigkeit stehen“. Für die private Meinungsäußerung im Netz könnte die Entscheidung weitreichende Auswirkungen haben – vor allem, weil es in Deutschland keine generelle Ausnahme gibt, wenn zu Zwecken der Meinungsfreiheit personenbezogene Daten verarbeitet werden.
LG Düsseldorf: Bodycam-Aufnahmen als Beweismittel zulässig
Das LG Düsseldorf hat entschieden, dass Bodycam-Aufnahmen von Polizisten vor Gericht als Beweismittel verwendet werden können. Nach Ansicht der Richter gilt dies sogar dann, wenn es gar keinen Grund gab, eine bestimmte Situation aufzunehmen. Im konkreten Fall ging es um eine Anklage wegen eines Tötungsdeliktes. Den Polizei-Einsatz in der Wohnung der Verdächtigen hatte eine Polizistin mittels einer Bodycam gefilmt. Die Verteidigung sah diese Videoaufnahmen im Prozess als unzulässig an. Vielmehr hätte die Polizistin die Kamera in dem Moment abschalten müssen, als sie die Situation als ungefährlich erkannte. Letzterem stimmte das Gericht zwar zu, allerdings ergebe sich daraus kein Beweisverwertungsverbot, denn es sei „lebensnah“, das Ausschalten der Kamera in der Situation des Einsatzes zu „vergessen“.
Die Parteivorsitzende der SPD, Andrea Nahles, hat am Dienstag ein Positionspapier veröffentlicht, in dem sie sich zum digitalen Fortschritt äußert. Darin fordert sie unter anderem ein von ihr sogenanntes „Daten-für-alle-Gesetz” und damit verbunden auch eine „Datenteilungspflicht”. Es handelt sich dabei um einen kreativen Vorschlag mit einigen interessanten Punkten zu einem derzeit noch stark diskutierten Bereich - einiges ist kritikwürdig und es bleiben viele offene Fragen. Was es damit auf sich hat, erkläre ich hier:
Worum geht es in dem Positionspapier?
Das Papier beginnt bereits mit einer recht drastischen Darstellung: So werde der digitale Wandel derzeit durch einerseits den libertären US-amerikanischen Kapitalismus und andererseits den chinesischen Zentralismus geprägt. Der erste beruhe „auf kaum regulierten digital-Märkten und geringem	Datenschutz” das zweite „auf Zensur ohne	Schutz	zentraler	Menschen- und	Bürgerrechte”. Zwischen diesen beiden drohenden Systemen müsse ein Weg auf Basis europäischer Werte gefunden werden. Die weiteren Ausführungen beschäftigen sich im Wesentlichen mit der Bedeutung von Daten für den Wettbewerb und welcher Handlungsbedarf sich hier ergebe, nämlich zunächst allein der, den Zugang zu Daten zu ermöglichen. Hierzu stellt Frau Nahles drei wesentliche Forderungen auf:
• Nutzung von nicht-persönlichen Daten als Gemeingut
• Aufbrechen von Datenmonopolen durch eine Datenteilungspflicht für marktdominante Unternehmen
• Anreize zum Datenteilen schaffen und Etablierung und Ermöglichung eines sicheren europäischen Datenraums unter Wahrung des Datenschutzes
Auszug aus dem Positionspapier von Andrea Nahles
Die erste Forderung bezieht sich auf diejenigen Daten, die eine starke Bedeutung für die öffentliche Bedeutung haben und deshalb frei nutzbar sein sollen. Hierzu zählt Nahles vor allem Daten „in	vollständig	anonymisierter	und	aggregierter	Form	wie	Mobilitätsdaten	oder	Geodaten”. Diese könnten dabei von einer offenen Stelle verwaltet und bereitgestellt werden. Dabei solle der Staat selbst voran gehen und sich für eine offene Verwaltung einsetzen. Damit ginge es vor allem um Datenbereitstellung im Verhältnis zwischen Staat und Bürger. Die dritte Forderung bezieht sich vor allem auf eine aktive europäische Wirtschaftsförderung, indem Anreize für eine Datenwirtschaft geschaffen werden sollen, die aber noch nicht hinreichend konkret sind, als dass man sie hier kommentieren könnte.
Was bedeutet die Datenteilungspflicht?
Besonders interessant ist jedoch die als zweites aufgestellte Forderung nach einer Datenteilungspflicht bestimmter Unternehmen. Nahles hatte dies bereits letztes Jahr in einem Gastbeitrag für das Handelsblatt beschrieben und ihr Konzept dazu angekündigt. Dies geht auf eine Idee von Viktor Mayer-Schönberger und Thomas Ramge aus ihrem Buch „Das Digital” zurück. Dort beschreiben diese die Möglichkeit einer von ihnen sogenannten „progressive Daten-Sharing-Pflicht” als einer ausdrücklich so benannten Kartellrechtsmaßnahme. Diese soll Unternehmen verpflichten ab einem bestimmten Marktanteil einen gewissen Anteil ihrer Feedbackdaten anderen Unternehmen zur Verfügung stellen. Mit steigenden Marktanteilen solle dabei auch die Masse der zu teilenden Daten steigen. Dadurch wollen sie den Feedbackeffekten, die auf Plattformen bestehen können, einen eigenen gesetzlichen Feedbackeffekt entgegensetzen, der mögliche Konzentrationstendenzen abmildern soll. Das Konzept haben die beiden Autoren vor einiger Zeit für die HAZ kurz zusammengefasst.
Diese Idee greift Nahles in ihrem Papier vereinfacht auf. Das geltende Kartellrecht sei einerseits fallbasiert und andererseits reaktiv. Das bedeutet, dass das Kartellrecht mit seinen Per-se-Verboten gerade nicht der Regulierung dient, sondern -mit Ausnahme der prognostischen Fusionskontrolle - erst in Fällen ausdrücklich festgestellter Wettbewerbsbeschränkungen eingreift. Würden aber dennoch Monopolisierungstendenzen auftreten, so solle über den Hebel der Datenteilungspflicht Wettbewerb und Innovation sichergestellt werden. Dabei sollten sachbezogene Daten in jedem Fall geteilt werden müssen, personenbezogene Daten erst nach vollständiger Annonymisierung oder Verhinderung der Re-Identifikation auf anderer Weise. Die Unternehmen sollen dieser Offenlegungspflicht jedoch auch Einwendungen entgegensetzen können, zum Beispiel bei Geheimhaltungspflichten oder sonstigen ausdrücklichen Vorschriften. Nahles spricht auch die Problematik der Preisgabe wettbewerbssensitiver Informationen an. Dabei handelt es sich um Informationsaustausch, der kartellrechtlich verboten sein kann, wenn er den beteiligten Unternehmen eine Wettbewerbsbeschränkung ermöglicht. Nahles will die Anwendbarkeit dieses Gesetzes auf bestimmte „Anwendungsfälle” festlegen und nennt dabei Suchmaschinen und E-Commerce. Die Offenbarung der Daten soll dabei über eine von dem Unternehmen bereitzustellende Schnittstelle erfolgen.
Ergänzend hierzu sollten die Datenschutzbehörden gerade bei diesen Unternehmen darauf achten, dass sie das Recht der Nutzer auf Datenportabilität einhalten. Unklar ist, ob dies im Zusammenhang mit der Gesetzesforderung steht oder aber nur eine politische und nicht weiter konkretisierte Forderung ist. Das Recht auf Datenportabiltät wäre aber jedenfalls nutzerseitig das korrespondierende Recht zu der Datenteilungspflicht. Allerdings stellt sich schon die Frage, ob dies überhaupt Sinn macht, wenn doch die im Rahmen der Datenteilungspflicht behandelten Daten immerhin annonymisiert werden sollen.
Marktdominante Unternehmen
Das Papier geht ebenso wie bereits die Idee von Mayer-Schönberger und Ramge von einer gesetzlichen Aufgreifschwelle aus, die sich an der Marktmacht orientiert. So einfach dies klingt ist es in der Praxis aber nie bei Plattformen. Denn in vielen Märkten in der Digitalwirtschaft lassen sich Märkte als solche nur schwer genau definieren, geschweige denn die auf ihnen vorherrschenden Marktmachtverteilungen analysieren. Die Frage nach dem relevanten Markt ist jedoch eine der entscheidenden Kernfragen des Kartellrechts, denn an ihr entscheidet sich häufig, ob überhaupt z.B. das Marktmachtmissbrauchsverbot zur Anwendung kommt.
Stark verkürzt geht es bei einem Markt um das Aufeinandertreffen von Angebot und Nachfrage. Im digitalen Bereich treten jedoch besonders häufig Plattformen auf, die sich auch als Unternehmen mit mehrseitigen Wirtschaftszweigen beschrieben lassen, manchmal auch vereinfacht „mehrseitige Märkte” bezeichnet. Das Besondere bei diesen ist, dass sie jeweils verschiedene Nachfragen gegenüber unterschiedlichen Nutzergruppen bedienen, dabei aber deren Interessen miteinander verknüpfen. Wie in diesen Konstellationen die jeweiligen relevanten Märkte abgegrenzt werden können und die jeweilige Marktmacht bestimmt werden kann, ist Gegenstand zahlreicher Forschungsvorhaben, Publikationen und auch Dissertationen. [Spoiler: Auch in meiner Arbeit diskutiere ich diese Fragestellungen und versuche eine Annäherung.] Verkürzt und sehr deutlich lässt sich dazu aber sagen, dass Märkte bei Plattformen nicht so ohne weiteres abgegrenzt werden können oder die auf ihnen bestehende Marktmacht mit einem zuverlässigen Wert festgestellt werden kann. Wie die progressive Daten-Sharing-Pflicht respektive Datenteilungspflicht hier noch eine überhaupt praxistaugliche Lösung anbieten wollen, bleibt deshalb schleierhaft.
Zugangsobjekt Daten
Es ist also bereits nicht klar, wie die marktbezogene Aufgreifschwelle rechtssicher angewendet werden könnte. Aber auch das Zugangsobjekt Daten ist problematisch. Mayer-Schönberger und Ramge beziehen sich in ihrem Buch auf sogenannte Feedbackdaten. Zwar wird auch hier in wettbewerbsrechtlicher Hinsicht noch nicht ganz klar, worum es sich dabei handelt. Es könnte sich um diejenigen Informationen handeln, die das Unternehmen gerade daraus gewinnt, dass es Daten miteinander kombiniert und dadurch neue Wertschöpfungsmöglichkeiten erhält. Oder aber es handelt sich um die Daten, die gerade aufgrund der wettbewerblichen Feedback-Effekte bei Plattformen entstehen. Beides jedenfalls krankt daran, dass diese Feedbackdaten nicht als Gegenstand einer möglichen Zugangsvorschrift hinreichend bestimmt werden.
Das Papier greift hier die beliebte These auf, Daten seien alles in der Digitalwirtschaft und allein ihr Teilenmüssen würde einige Probleme lösen. Eine bislang in einem anderen Zusammenhang diskutierte dogmatische Lösungsmöglichkeit wäre, die Frage nach der Marktmacht unmittelbar mit dem jeweiligen Zugangsobjekt zu verknüpfen. Das würde aber die Feststellung einer konkreten (wettbewerblichen) Datenmacht voraussetzen. Dieses Konzept der wesentlichen Einrichtung würde bereits nach geltendem Kartellrecht als Behinderungsmissbrauch unter engen Voraussetzungen kartellrechtliche Zugangsansprüche zu Daten ermöglichen. Dieses ließe sich auch mit dem Konzept der relativen Marktmacht gemäß § 20 Abs. 1 S. 1 GWB bei Plattformen kombinieren. Ich hatte das letztes Jahr in der März-Ausgabe der Zeitschrift NZKart einmal erörtert. Für bestimmte sachbezogene Daten ließe sich danach bereits jetzt ein Zwangszugang begründen. Dies gilt aber nicht bei personenbezogenen Daten und den ansonsten nicht näher konkretisierten großen Datensammlungen - von Andrea Nahles hier als Datensilos bezeichnet -, da sich hier die Möglichkeit zum Ausschluss des Wettbewerbs nicht feststellen lässt. Größe oder ein Datenvorsprung allein begründen noch keine Marktmacht als solche. Da liegt aber auch wieder ein Problem bei diesen Datensammlungen: Niemand außer dem Unternehmen selbst weiß in der Regel, wie viele Daten dieses überhaupt hat und um welche es sich handelt. Auch könnten kleine Datensätze aufgrund ihres jeweiligen konkreten qualitativen Inhaltes ebenso wettbewerblich negativ eingesetzt werden. Die Voraussetzungen für eine rechtssichere und rechtsfehlerfreie Feststellung einer Datenmacht scheinen derzeit nur in sehr engen Anwendungsfällen erfüllbar.
Die Daten-Sharing-Pflicht würde dazu führen, dass Unternehmen zunächst mit allen ihren Daten erfasst wären. Interessant wäre da auch zu wissen, wie nachverfolgt werden soll, ob ein Unternehmen sich an das Gesetz hält und progressiv teilt - also den jeweils vorgeschriebenen Prozentanteil der ihm zur Verfügung stehenden Daten offenlegt. Die betroffenen Unternehmen müssten die jeweiligen Einwände aktiv für sich erheben und begründen. Auch träfe sie eine Annonymisierungspflicht oder mindestens eine Pflicht zu vergleichbaren Maßnahmen. Über den Hebel des Anwendungsbereichs würde also auch ein datenschutzrechtliches Regulierungsinstrument umgesetzt. Diese Unternehmen wären damit neben den allgemeinen Pflichten der Datenteilungspflicht mit einem erheblichen zusätzlichen technischen und bürokratischen Aufwand belastet, der möglicherweise außer Verhältnis zu dem eigentlichen Regulierungszweck des Gesetzes steht, jedenfalls aber eine ungleiche Belastung zu anderen vergleichbaren Unternehmen darstellt. Ambitioniert ist dabei auch das Vorhaben, eine Datenteilungspflicht mit dem Datenschutzrecht überein zu bringen.
Zusätzliches kartellrechtliches Instrument oder Weg in die Regulierung
Richtig bedenklich wird es jedoch bei den möglichen Anwendungsfällen des Gesetzes, die sogar positiv bestimmt werden können sollen. Diese laut Positionspapier festzulegenden Anwendungsbereiche dienen eher dem Zweck, die Wirkung des Gesetzes zielgerichtet zu lenken und damit die bereits eingangs kritisierten US-amerikanischen Plattformunternehmen zu erfassen. So wird zum Beispiel nicht erwähnt, ob die Betreiber autonomer Fahrsysteme oder Hersteller von Fahrzeugen erfasst sein sollen, deren Daten in wettbewerblicher Hinsicht auch interessant sein könnten.
Laut Nahles sollen die Unternehmen die Offenlegung wettbewerbssensitiver Daten verweigern dürfen. Betreffen diese Daten mögliche Lieferung, Gebiete oder sonstige wettbewerbsstrategische Informationen, könnten andere Unternehmen ihr wettbewerbliches Verhalten daran anpassen. Die damit verbundene Fühlungnahme kann für die jeweils beteiligten Unternehmen einen Verstoß gegen das allgemeine Kartellverbot darstellen. Es würde sich dann trotz eines nicht unmittelbaren Austauschs um eine abgestimmte Verhaltensweise handeln, die grundsätzlich verboten ist. Das Problem an der Daten-Sharing-Pflicht ist aber, dass sie Unternehmen zunächst in das Risiko zwingt, durch das angeordnete umfassende Teilen gegen das Kartellverbot zu verstoßen. Die jeweils betroffenen Unternehmen müssten dann selbst prüfen, ob sie aufgrund dieses Risikos die Offenlegung der Daten verweigern können. Diese Prüfung könnte man sicher mit einer Klarstellung erleichtern. Diese würde dann jedoch dazu führen, dass mit einem sehr weitreichenden und unbestimmten Gesetz wettbewerbliche Abstimmungen sogar verlangt werden. Völlig unklar ist an dieser Stelle wieder, wie mögliche Verstöße gegen dieses Gesetz überhaupt festgestellt, geschweige denn verfolgt werden könnten.
Welche Alternativen böten sich an?
Das Instrument Daten-Sharing-Pflicht hat mit Kartellrecht oder Wettbewerb nichts mehr zu tun, sondern ist ein reines politisches Lenkungsinstrument gegenüber den derzeit als Gegner ausgemachten Plattformen. Die zahlreichen wettbewerblichen und rechtlichen Einwände würden auf diesem Wege lediglich platt gefahren und dafür neue geschaffen - aber es träfe nach dem Gedanken des Positionspapiers wohl jedenfalls nicht die falschen.
Gesetzgeberisch könnte hier durch wesentlich mildere Maßnahmen bereits viel erreicht werden. Zum Beispiel könnten Daten als Zugangsobjekte bereits positiv gesetzlich definiert werden, wollte man wirklich eine kartellrechtliche Zwangslizenz regeln. In bestimmten Bereichen gibt es bereits sektorspezifische Datenzugänge, die jeweils bestimmten wettbewerblichen Zwecken dienen. Zum Beispiel gibt es für Fahrzeughersteller die Pflicht zur Bereitstellung spezifischer Informationen, die für andere Geschäftsmodelle erforderlich sind. Es besteht dabei also keine allgemeine Datenteilungspflicht, sondern eine spezifische. Derartige Instrumente ließen sich dabei durchaus übertragen, allerdings auch wiederum nur auf die Fälle, in denen Daten und Informationen das wettbewerbliche Problem sind. Bei den Plattformen aber ließe sich durchaus bezweifeln, ob wirklich die Daten die eigentliche Herausforderung sind oder nicht sogar andere Aspekte, die sich über das geltende Kartellrecht jedenfalls bereits behandeln lassen.
Andrea Nahles' Positionspapier auf den Seiten der SPD.
Mittlerweile hat künstliche Intelligenz als einst reine Theorie aus der Mathematik auch künstlerische Anwendungsgebiete erreicht: Sie komponiert, malt oder schreibt den achten Band der Harry-Potter-Reihe. Gibt es eigentlich ein Urheberrecht an Romanen, Gemälden oder von Musik, die eine künstliche Intelligenz (eigenständig) geschaffen hat? Und sind Lern- und Schaffensprozesse künstlicher Intelligenz rechtlich unbedenklich?
Auch in Zeiten der digitalen Transformation mag sich Fankultur noch eher an echten Stars aufhängen. Dennoch: Mit kreativen Inhalten wie Musik, Bildern oder Geschichten, die von einer künstlichen Intelligenz (kurz: KI) geschaffen werden, werden wir es vermutlich häufiger zu tun bekommen. Der KI-Song im Stil der Beatles wirkt noch etwas holzschnittartig. Doch schon heute wird Musik von J. S. Bach, die er selbst nie komponiert hat, sondern die allein aus der Reproduktion seines Gesamtwerkes stammen, für einen echten Bach gehalten, und selbst für die ExpertInnen im Podcast „Switched on pop“ ist es ziemlich knifflig, im Blindtest Mensch von Maschine zu unterscheiden.
Wie KI neue Kunst schafft
Damit künstliche Intelligenzen Werke schaffen können, setzen sie die Theorie des maschinellen Lernens um. Eine KI „lernt“ anhand von Beispielen – den Trainingsdaten. Ein solcher Datensatz enthält zum Beispiel Musik wie das Gesamtwerk von Bach, Texte oder digitalisierte Gemälde.
Der Trainingsdatensatz wird beim Einspeisen einem Optimierungsprozess unterzogen: In einem Soll-Ist-Vergleich auf den Trainingsdaten wird zwischen Eingabedaten und erwünschten Ergebnisdaten auf generelle Konzepte, Muster oder Regeln geschlossen. Die Stärke bzw. Priorität einer Regel wird anhand ihrer Häufigkeit implizit im Datensatz festgelegt. Implizit bedeutet, dass die Regeln im Modell der KI verbleiben und sich nicht extrahieren – also explizit abbilden – lassen: Verwendet Van Gogh einen bestimmten Blauton in einem Großteil seiner Werke, so würde auch das generierte Gemälde Nuancen dieses Blaus aufweisen. Schreibt J.K. Rowling bestimmte Kapitel aus der Ich-Perspektive, wirkt sich dies auch auf die Regeln und die spätere Textgenerierung aus. Ein explizites „Regelwerk“ über Blau-Nuancen oder Erzählperspektiven wird aber nicht ausgegeben.
Maschinelles Lernen erkennt Muster und schafft Regeln
Im nächsten Schritt wird das selbstständige Lernen auf Basis des Datensatzes meist mit Positiv- und Negativ-Beispielen durch sogenanntes Labeln gesteuert, sodass die Label das gewünschte Ergebnis schon vorgeben (überwachtes Lernen/supervised machine learning). Dabei werden Daten mit Attributen versehen: Wenn eine Bilderkennung auf Pferde trainiert wird, etikettiert man die Pferdebilder von vornherein mit „Pferd”. Ähnlich könnte eine Programmiererin das Feedback von Kunstkennern und -kritikern einbinden, die die Nähe des später generierten Werks am Original bewerten. So wird das Ergebnis des generierten Werkes noch verfeinert.
KI-Musik: Von FlowMachines und anderen Maschinenkomponisten
In der Musik wird KI vermehrt zum Generieren von Klangmustern und Tonfolgen genutzt. Jüngste Hörbeispiele KI-komponierter Musik wären das Album „Hello World“ oder „I AM AI“ von Taryn Southern. Vereinzelt wird die künstliche Intelligenz aber auch nur als Hilfe, Counterpart oder eigenes Instrument mittels eigens geschriebener Programme genutzt – so geschehen bei Olafur Arnalds. Schaut man unter die Oberfläche von „Hello World“, kann man die Nutzung von FlowMachines als Kompositionshilfe ausmachen – einem KI-Kompositionsprogramm von Sony, das auch den vermeintlichen Beatles-Song „Daddy‘s Car“ komponiert hat.
Die in der Software enthaltene KI wurde mit im Vorfeld mit Musik-Datensätzen aus diversen Genres und Jahrzehnten genährt und hat diese auf charakteristische Tonfolgen, Melodien und ähnliche Merkmale untersucht. So werden auch hier implizite Regeln für das Generieren neuer Tonfolgen und Parameter wie Dauer, Höhe, Lautstärke und Klangfarbe einbezogen. Wählt man nun im Programm das Genre und die gewünschte Tonart aus, generiert das Programm einen ersten Entwurf. Dieser ist bei FlowMachines anpassbar und kann auch partiell neu generiert werden. Damit wirkt das Kompositionstool wie ein Ideenspeicher, der auf Vergangenes zurückgreift und existierende Melodien assoziativ erweitert und entwickelt. Ähnlich funktionierende Programme sind NSynth von Magenta oder Aiva Technologies. Auch sie analysieren Samples und Musik-Datenbanken und ordnen Töne oder Melodien neu an.
Malen im Stile Rembrandts
In der Malerei bilden (digitalisierte) Gemälde einer bestimmten Epoche bzw. Stils oder eines bestimmten Malers den Trainingsdaten für das maschinelle Lernen. Wichtig ist also auch hier, dass sie einer Gruppe oder einem Überbegriff zugeordnet werden können.
Analysiert man die Gemälde von Van Gogh oder Rembrandt, finden sich Übereinstimmungen in Farbauftrag und -ton, typische Motive oder Anordnung von Licht und Schatten in den Werken (nicht unbedingt malerübergreifend). Die Schaffensmetamorphose ist ebenfalls relevant, um ein Bild des „jüngeren“ oder „älteren“ Rembrandt zu erzeugen. Sind die Merkmale ausgemacht, können implizit Regeln für die Generierung neuer Werke gebildet werden. Das heißt jedoch nicht, dass die KI nun ohne weiteren Schritt einen Rembrandt malen könnte. Die aus den originalen Rembrandt-Bildern erlernten Regeln müssen auf einen anderen Datensatz angewendet werden – erfordern also zum Beispiel ein eigenes digitales Bild zum automatisierten Bearbeiten im typischen Stil des Malers. Eine Beispielsanwendung ist „deepart.io”: Dort kann man ein Foto importieren und in ein Kunstwerk von Dalí oder einem Maler seiner Wahl umwandeln lassen.
KI-Texte
Mit den entsprechenden Trainingsdaten kann eine KI sogar Romane schreiben. Für Fans von Harry Potter gibt es die Möglichkeit, nach Band 7 die Geschichte mit Hilfe einer KI weiter zu erzählen – auf Basis der Bände 1-7. Die Apps „Botnik“ und „predictive writer“ geben diese Möglichkeit ohne Vorkenntnisse. Dabei kommt auch Klamauk wie „Harry Potter und der Stein auf dem Boden“ heraus, „geschrieben” mit dem Datensatz des ersten Harry-Potter-Buches.
Die Welt KI-geschaffener Werke ist also sehr vielfältig. Doch ist das KI-Geschaffene (urheber)rechtlich geschützt? Ist also die Kontrolle über Kopie, Sendung, Verbreitung, Veränderung und wirtschaftliche Ausbeute möglich? Oder ist all das genannte Material rechtefrei?
Der Werkschutz von KI-Geschaffenem
Unterscheiden muss man den Schutz von KI-Geschaffenem vom Schutz „der KI selbst”, also von Programmcode und Trainingsergebnissen. Zumindest Programme zum Trainieren und Ausführen trainierter Netze können unter urheberrechtlichen Softwareschutz fallen (siehe Ehinger/Stiemerling in CR 2018, 761). Vermutlich werden beim Schutz von Trainingsergebnissen aber Geheimhaltung und Geschäftsgeheimnisse relevanter sein als das Urheberrecht. Wir möchten diesen Aspekt hier aber ausklammern und uns auf den Output konzentrieren, also die KI-Kunst.
Das Geschaffene sind unter anderem Bilder, Texte und Musik. Bei all diesen Werkkategorien greift urheberrechtlicher Schutz, wenn es sich um persönliche geistige Schöpfungen handelt, § 2 Abs. 2 UrhG. Bei den meisten rechtlichen Auseinandersetzungen über den Schutz eines Textes, einer Melodie oder einer Zeichnung (oder Fragmenten daraus) wird darüber gestritten, ob das Werk originell genug ist und sich vom „bloßen Handwerk“, dem „Alltäglichen“ abhebt. Gerade in Plagiatsprozessen wird immer wieder minuziös untersucht, ob Text- und Musikfragmente, Fotomotive oder Romanfiguren vor der Übernahme anderer geschützt sind.
Die KI-geschaffenen Werke mögen zwar teils hölzern wirken. Aber was wir dort schon hören, lesen und sehen können, würde ein Urheberrechtler in aller Regel als ausreichend originell bewerten. Es steht eine andere Grundfrage des Urheberrechts im Raum: Kann eine KI überhaupt Schöpferin von Werken sein?
Nur Menschen sind SchöpferInnen
Klar ist: Das deutsche (und das kontinentaleuropäische) Urheberrecht erkennen die Maschine als Schöpferin von Werken nicht an. Werke schaffen kann nur ein Mensch, denn Werke müssen etwas persönlich Geschaffenes sein. Das Urheberrecht ist traditionell stark am Persönlichkeitsrecht aufgehängt (droit d‘auteur): Mein Roman, mein Lied, meine Zeichnung sind Ausdruck meines Wesens, das in meiner Einzigartigkeit und in meiner Lebenssituation Wörter, Töne und Pinselstriche einmalig auswählt und variiert. Als UrheberIn steht es mir neben der wirtschaftlichen Kontrolle übers Werk zu, dass ich entscheiden kann, wann und wie es in die Öffentlichkeit geht (§ 12 UrhG), ob und wie mein Name daran steht (§ 13 UrhG) und dass es nicht entstellt wird (§ 14 UrhG).
„Urheber ist der Schöpfer des Werkes.”
§ 7 UrhG
An der Anforderung „Mensch als Schöpfer” kommt man also nicht vorbei.
Wer nun einen Werk-Erzeugen-Button drückt und die Maschine das „neue“ Beatles-Album oder einen Harry Potter-Nachfolger erzeugt, schafft allein durch diesen Akt kein Werk – auch dann nicht, wenn in das Antrainieren der KI viel Arbeit geflossen ist. Und für den schöpferischen Beitrag des Menschen genügt der Knopfdruck allein nicht. Was den Werkschutz betrifft, wäre es urheberrechtlich erst mal gemeinfrei – jede/r dürfte also kopieren, aufführen, verändern.
Fremde, schon bestehende Rechte im Generierten
KI-Werke können allerdings fremdes, seinerseits geschütztes Material enthalten: zum Beispiel, wenn per KI aus einem Fotomotiv eine Malerei generiert wird – und das Fotomotiv so individuell ist, dass sein Schutz auch noch in der „Malerei“ steckt.
Dasselbe gilt, wenn fremde Aufnahmen oder geschützte Handlungsverläufe und Romanfiguren enthalten sind, die unverändert oder unfrei bearbeitet übernommen werden. Wer diese Werke dann zugänglich macht, haftet dafür nach den etablierten Zurechnungsregeln. Dasselbe gilt für Melodien, Soundschnipsel oder Textfragmente. KI-generierte Werke sollten also nicht bedenkenlos ohne Plagiatskontrolle ins Netz gestellt werden.
Wenn man von fremden Rechten spricht, ist die Frage, wo man die Grenze zieht. So sind Ideen, Stilrichtungen und Genres nicht Gegenstand des Urheberrechts und dürfen daher frei übernommen werden. Die schwierige Grenze liegt da, wo die Trainingswerke verblassen.
Ob nun ein Album einer KI-Madonna, das zwar keine Kompositionen und keine echten Tonaufnahmen von ihr verwendet, sondern „nur“ klingt wie sie und dabei täuschend echt wirkt, erlaubt veröffentlicht und vermarktet werden darf, ist nicht nur eine Frage des Urheberrechts. Möglicherweise macht man sich hier geschützte verwertbare Teile ihres Persönlichkeitsrechts und ihres wettbewerbsrechtlichen Leistungsschutzes als Star zu Eigen – was sie oder er übers Schadensersatz-, Bereicherungs- und Wettbewerbsrecht untersagen und abschöpfen kann.
Investitionsschutz oder Wertzuordnung
Würde man Schutz der KI-Werke bejahen, stellte sich die Frage, wem Rechteinhaberschaft und Nutzungsrechte am KI-geschaffenen Werk zufallen würden. Denn schließlich hat eine Maschine keine Rechtspersönlichkeit. Ansetzen könnte man hier beim Investitionsschutz, der keine Schöpferperson voraussetzt, sondern Hersteller eines Immaterialguts schützt, die dafür Investitionen getätigt haben. Das Datenbankschutzrecht aus §§ 87a ff. UrhG ist ein solches Schutzrecht. Es belohnt Investitionen in Sammlungs- und Strukturierungsleistungen von „unabhängigen Elementen“ in einer Datenbank. Vollkopien dieser Datenbanken und wesentliche Entnahmen daraus sind dann erlaubnispflichtig. Der Datenbankschutz passt aber für (KI-)Werke nicht, weil Songs, Texte, Bilder etc. nicht aus unabhängigen Elementen bestehen, die einzeln zugänglich sind (vgl. auch Hetmank/Lauber-Rönsberg in GRUR 2017, 574, 579).
Wem gebührt der Wert?
Doch es existiert noch ein weiterer Ansatz: der Schutz der Ausbeute der KI. So geht in der Diskussion um ein Dateneigentum die Idee um, wertvolle Informationen ähnlich wie Erzeugnisse nach §§ 99, 100 BGB oder sonstige Rechte nach § 823 Abs. 1 BGB zu schützen.
Die eigentliche Frage ist nicht, wer der Urheber ist, sondern wem der Wert des Bildes gebührt. Relevant sind neben dem UrhG auch Rechtsfragen rund um §§ 99/100 und §812 ff. BGB. Bislang gibt es dazu m.W. keine höchstrichterliche Rechtsprechung. https://t.co/uXlvSvMTvR
— Simon Assion (@sas_assion) 6. Januar 2019
Demnach könnte man ein KI-Werk als Rechtsfrucht bzw. das Erzeugnis der Rechte aus dem Code/aus dem KI-Modell sehen: Wer ein Softwareurheberrecht oder das Geschäftsgeheimnis innehat, würde der Ertrag zustehen, der sich mit den KI-Werken erzielen lässt. Dieser Ansatz würde nicht zum selben Schutz führen wie ein Werkurheberrecht. Aber zumindest könnte sich nach diesem Ansatz der „Erzeuger“ die wirtschaftliche Ausbeute aus den Werken über das Bereicherungsrecht zurückholen und Gewinne für sich abschöpfen. Das ist alles hoch umstritten – hier ist noch nichts abschließend geklärt.
Übrigens behandelt das britische Recht computer-generated works: SchöpferIn ist die Person by whom the arrangements necessary for the creation of the work are undertaken (Section 9(3) des Copyright, Design and Patents Act). Eine AnwenderIn oder ProgrammiererIn hat dort das Urheberrecht inne.
KI nur als Hilfsmittel
Tatsächlich wird in vieles, was KI-generiert ist, noch einmal kreativ eingegriffen. Das führt uns zur Schnittstelle zwischen maschinenkreativer Schöpfung und menschengesteuerter Maschine.
Dass mit Photoshop oder einer Audio-Workstation geschaffene Illustrationen oder Musik geschützt sein können, ist unumstritten – sofern der Mensch die Maschine steuert, also bloß als Hilfsmittel einsetzt. Wenn die Musik-App zum Beispiel ein Harmoniegerüst vorschlägt, weil es Harmonielehre versteht, schafft ein Werk, wer (als Mensch) darüber eine Melodie komponiert. Und der menschengedichtete Text über einem maschinengeschaffenen Song (so bei „Daddy’s Car”) ist natürlich schutzfähig, schon weil der Text ein eigenes Werk ist.
Setzt aber der Mensch einen Schaffensprozess lediglich in Gang, bei dem allein die Maschine die Kunst beherrscht, wendet also allein die Maschine das Gelernte an und ist aus Bedienersicht das konkrete Werk zufällig, ist die Maschine kein bloßes Hilfsmittel mehr. Gibt der Mensch nur Stilrichtungen vor – Ideen und Stile sind ja nicht geschützt –, kommt kein Werkschutz in Frage.
Doch wie grenzt man hier bei Mensch-Maschinen-Hybriden ab? Die Hürde zur persönlichen geistigen Schöpfung kann ein solcher Hybrid nehmen,
wenn der Mensch die Maschine zumindest teilweise kreativ steuert und in einem (mehraktigen) Schaffensprozess kreative Auswahlentscheidungen durch den Menschen fallen; oder
wenn die KI so programmiert ist, dass die Vorgaben, die ihr ein Mensch macht – indem er Motiv und weitere Parameter wählt – so individuell vorgezeichnet sind, dass beim Ingangsetzen der KI über den gewählten Stil hinaus kein reines Zufallswerk mehr entsteht. Je beschränkter die KI in ihrer eigenen Auswahl kreativer Variablen und je geringer die Zufälligkeit, desto mehr Raum ist für die persönliche Schöpfung, wenn die menschliche Kreativität am Ende im Werk zum Ausdruck kommt; oder
wenn ein KI-geschaffenes Zufallswerk durch einen Menschen kreativ überarbeitet wird. Das kann durch Umstellungen oder Ergänzungen passieren: Bringt ein Mensch einen KI-geschaffenen Handlungsstrang in Schönschrift, ordnet ihn neu, schmückt er Personen darin mit Phantasie aus und verpasst ihren Dialogen neue Töne, komponiert er Songs um und sind die Änderungen nicht nur simpler Art (gehen also über bloßes Ändern von Tonart, Mix und Instrumentierung hinaus), ist Schutz denkbar.
Es fragt sich noch, wer von außen bei einem fertigen Werk die Anteile von Mensch und Maschine noch voneinander abgrenzen kann. Genauer Einsatzgrad von KI und der Grad des menschlichen Beitrags werden vermutlich oft ein Geheimnis bleiben. So ist es auch bei dem erwähnten Album von Skygge und der Einbindung von FlowMachines: Welche Teile nur generiert, welche dagegen abgeändert wurden, ist trotz der „Aufklärungsvideos“ nicht ersichtlich und nur schwer hörbar. Sollte diese Prämisse des Menschen als Werkschöpfer bald bröckeln, geriete auch die Verwertungspraxis ins Wanken – in der nur vergütet werden muss, was schutzfähig ist.
Vorphase: Die Maschine lernt mit Vorhandenem
Schließlich sollte die Frage im Auge behalten werden, ob eine Maschine grenzenlos „inspiriert“ werden darf. Denn die Maschine muss immerhin mit Datensätzen gefüttert werden, um trainiert zu werden – darunter geschützte Texte, Bilder und Musik. Hier kann es auf verschiedenen Ebenen zu Vervielfältigungen (§ 16 UrhG) kommen, wenn Material digitalisiert, in die Lern-Datenbank eingespeist und in andere Formate überführt wird.
Für eine Kopieerlaubnis im Vorfeld zum Erkenntnisgewinn kommt die neue Text und Data-Mining-Schranke (TDM) ins Spiel: Nach § 60d UrhG darf eine „Vielzahl von Werken“ (sogenanntes Ursprungsmaterial) automatisiert und systematisch vervielfältigt werden, um daraus „insbesondere durch Normalisierung, Strukturierung und Kategorisierung ein auszuwertendes Korpus zu erstellen“. Privilegiert ist der Zweck der automatisierten Auswertung für die wissenschaftliche Forschung. Die TDM-Schranke zielt auf den Erkenntnisgewinn aus großen Datenbeständen ab – Muster, um Regeln zu bilden, sind ein Anwendungsfall, und damit durchaus die kunstlernende KI. Man darf hier also alle geschützten Werke einer Malerin vervielfältigen, um mit einer Big Data-Analyse ihren Stil daraus zu destillieren. Für Kopien zum Zweck dieser Lernprozesse passt die Schranke ganz gut. Nur: Auf § 60d UrhG darf sich nur die nicht-kommerzielle Forschung stützen. Alles andere muss gesondert lizenziert werden – wofür gezielte Lizenzierungsmodelle bei Massenanalysen unerlässlich sind.
Von einer generellen Inspirationserlaubnis für KI kann man also im Urheberrecht nicht sprechen.
Eine KI kann nach geltendem Recht keine Schöpferin von Werken sein. Allerdings ist die Diskussion noch nicht erschöpft. Und zwischen Maschinen- und Menschengeschaffenem ist viel Raum für Zwischentöne.
Wir danken Prof. Dr. Harald Sack (Professor am Karlsruher Institut für Technologie (KIT) und Bereichsleiter für Information Service Engineering bei FIZ Karlsruhe – Leibniz-Institut für Informationsinformationsinfrastruktur) für die freundliche Unterstützung zum technischen Hintergrund.
Fabian Rack ist Mitglied bei Telemedicus, Rechtsanwalt bei Nolte Pustejovsky Rechtsanwälte in Freiburg und Wissenschaftlicher Mitarbeiter bei FIZ Karlsruhe – Leibniz-Institut für Informationsinfrastruktur (Prof. Dr. Franziska Boehm).
Oliver Vettermann ist Wissenschaftlicher Mitarbeiter am Lehrstuhl Prof. Gersdorf, Universität Leipzig und forscht an einem interdisziplinären, vom BMBF geförderten Projekt zur effektiven Information nach einem digitalen Identitätsdiebstahl bei FIZ Karlsruhe – Leibniz-Institut für Informationsinfrastruktur.
Anfang des Jahres 2017 warf ein Vorfall bei der Verwendung von Amazons „Echo“ die Frage nach der Verantwortlichkeit von über virtuelle Assistenten ausgeführte Bestellungen auf: Ein Nachrichtensprecher erzählte von einem Kind, das mit „Alexa“ sprach und dabei versehentlich ein Puppenhaus und dänische Butterkekse bestellte. Seine Beschreibung dieses Vorgangs führte wiederum in den Haushalten, die das Echo verwendeten und die Nachrichtensendung verfolgten, dazu, dass Alexa auch dort versuchte, ein Puppenhaus zu bestellen.
Automatisiert agierende, virtuelle Assistenten wie „Alexa“ helfen uns, unkompliziert und sprachgesteuert Bestellungen im Netz zu tätigen. Stärker automatisierte Systeme, wie der „Instant Ink“ Tinten-Lieferservice von HP, nehmen Bestellungen sogar ohne konkrete menschliche Interaktion vor, agieren dabei aber jedenfalls noch nach voreingestellten Bedingungen. Gänzlich autonom agierende Systeme werden aller Voraussicht nach künftig auch ohne derartige Voreinstellungen in der Lage sein, Entscheidungen für ihren Inhaber zu treffen. So wird dem autonomen Kühlschrank zwar auch ein Ziel vorgegeben. Er wird allerdings nicht aufgrund vorherig festgelegter, deterministischer Parameter tätig, sondern gibt sich eigene Regeln. Der autonome Kühlschrank, der mit den restlichen Smart Devices seines Inhabers vernetzt ist, kann den digital geführten Kalender abrufen und bei dort vermerkten Ereignissen durch die Bildung eigener Algorithmen entsprechend reagieren. Auf diese Weise ermittelt der Kühlschrank, welche Lebensmittel er wann in welcher Menge ordern muss, prüft deren Verfügbarkeit bei verschiedenen Online-Lieferservices, vergleicht Preise und Lieferzeiten und tätigt die Bestellung.
Künstliche Intelligenz und maschinelles Lernen bilden die technischen Grundlagen, die es einem System erst erlauben, automatisiert oder autonom zu agieren. Die rechtlichen Grundlagen, die die Einbindung automatisiert oder autonom agierender Systeme in Rechtsgeschäfte ihrer Inhaber konkretisieren, stehen weitestgehend noch zur Diskussion. Der vorliegende Artikel wirft einen Blick auf Vertragsfragen im Zusammenhang mit KI.
II. Automatisiert agierende Systeme
Bestellt Alexa nun ein Puppenhaus und Butterkekse, stellt sich ich vor allem die Frage, ob die vom virtuellen Assistenten zunächst generierte und anschließend abgegebene Erklärung als eigene Willenserklärung des Inhabers erachtet oder diesem jedenfalls zugerechnet werden kann. Im Zeitpunkt der Bestellung durch das automatisiert agierende System liegt – anders als bei der Übermittlung von Erklärungen durch bloße elektronische Bestellhilfen – zumindest kein Erklärungsbewusstsein und Geschäftswillen der hinter dem System stehenden Person vor, da diese bei Inbetriebnahme noch nicht weiß, was das System wann wem gegenüber erklären wird. Es ist allerdings auch nicht zwingend erforderlich, dass alle Elemente der Willenserklärung im Zeitpunkt der Erklärung vorliegen. Da automatisierte Systeme deterministisch den durch den Menschen bei Inbetriebnahme vorgegebenen Regeln folgen, ist diesem Vorgang zumindest ein abstrakter Wille zu entnehmen, durch das automatisiert agierende System zu einem späteren Zeitpunkt einen Bestellvorgang auszulösen und damit eine entsprechende Willenserklärung abzugeben. Der Erklärungsakt lässt sich durch den arbeitsteiligen Prozess zwischen Mensch und Maschine auf den Systeminhaber zurückführen.
Aus technischer Sicht löst Alexa auch bei einer Anweisung durch einen Minderjährigen oder einer indirekten Ansprache durch einen Nachrichtensprecher den Bestellvorgang aus, da die Spracherkennung von Alexa bei entsprechenden Schlüsselworten aktiviert wird. Doch wer ist aus rechtlicher Sicht in diesen Konstellationen Vertragspartner?
Bei Inbetriebnahme hat der Systeminhaber den abstrakten Willen, jede über das Gerät übermittelte Erklärung als eigene Willenserklärung gelten lassen. Tätigt nun das minderjährige Kind oder der Nachrichtensprecher eine Bestellung mittels Alexa, könnte dieser Dritte – ähnlich wie derjenige, der sich unter fremder Kennung bei eBay einloggt und Einkäufe tätigt – aufgrund der Relevanz der Identität für den Vertragspartner entsprechend eines Stellvertreters behandelt werden. Der Nachrichtensprecher will allerdings gar keine Willenserklärung abgeben. Ihm fehlt das Erklärungsbewusstsein. Da ihm wohl auch nicht zu unterstellen ist, dass er bei Anwendung der im Verkehr erforderlichen Sorgfalt hätte erkennen und vermeiden können, dass seine Äußerung nach Treu und Glauben und der Verkehrssitte als Willenserklärung aufgefasst werden durfte, fehlt es im Rahmen der Stellvertretung bereits an einer abgegebenen eigenen Willenserklärung. Das generelle Erklärungsbewusstsein des Kindes würde hingegen grundsätzlich den Anforderungen der Stellvertretung genügen. Da es ohne Vertretungsmacht handelt, könnte es als falsus procurator in Regress genommen werden. Eine Haftung des Kindes entfällt allerdings wegen seiner Minderjährigkeit nach § 179 Abs. 3 BGB.
Konsequent wäre damit, dass der Vertragspartner die vertragsrechtlichen Risiken des Einsatzes automatisiert agierender Systeme trüge. Dies erscheint jedoch unbefriedigend, sofern dieser nicht in der Lage ist, zu erkennen, wer dem virtuellen Assistenten Aufträge erteilt und somit auf Seiten des automatisiert agierenden Systems mit ihm kontrahiert. Soll das Risiko dem Inhaber des automatisiert agierenden Systems auferlegt werden, so scheint auch dies jedenfalls dann unangemessen, wenn der automatisiert agierende Agent Erklärungen abgibt, die nicht sein Inhaber, sondern Drittanwender veranlasst haben. Im Ergebnis sollten die Risiken auch denjenigen treffen, der die Vorteile aus der Systemaktion zieht. Im Falle virtueller Assistenten handelt es sich dabei neben dem Nutzer insbesondere um den Hersteller.
An dieser Stelle kann sich daher zusätzlich zur rechtlichen Klarstellung eine Technikregulierung als sinnvoll erweisen, die die Risiken zwischen Hersteller und Inhaber automatisiert agierender Systeme sowie den jeweiligen Vertragspartnern angemessen verteilt. Demnach könnten Willenserklärungen, die von einem automatisiert agierenden System übermittelt werden, einem Einwilligungserfordernis seines Inhabers unterworfen werden. Jeder Bestellvorgang, der über Alexa getätigt wird, bedarf also zwingend der Autorisierung durch diesen. Hierzu erforderlich wäre, dass der virtuelle Assistent in der Lage ist, seinen Inhaber anhand der Stimme zu identifizieren. Durch technische Voreinstellungen ließe sich ferner ermöglichen, dass die individuelle, auf der Erkennung der Stimme des Inhabers beruhende Zustimmung zu jeder von Alexa übermittelten Willenserklärung für Kaufangebote bis zu einem bestimmten Betrag nicht erforderlich ist. Die entsprechende technische Voreinstellung wäre als genereller Handlungswille und generelles Erklärungsbewusstsein für jedes über Alexa übermittelte Kaufangebot auszulegen.
Dem Inhaber stünden bei derartiger Regulierung der technischen Anforderungen im Falle fehlerhafter Konstruktion, Fabrikation oder Instruktion als Ausgleich Ansprüche gegen den Hersteller zu, die auf die Produkt- oder Produzentenhaftung gestützt werden können.
III. Autonom agierende Systeme
Anders als bei automatisiert agierenden Systemen, kontrolliert der Inhaber eines autonom agierenden Systems lediglich die technischen Rahmenbedingungen, die der Systementscheidung zugrunde liegen. Er hat bei Abgabe der Erklärung nicht einmal abstrakt Kenntnis davon, wann, mit welchem Inhalt oder aus welchem Grund diese abgegeben wird. Die Grundsätze, die auf eine Arbeitsteilung durch konkrete Voreinstellungen des Inhabers abstellen und hieraus ein generalisierendes Erklärungsbewusstsein ableiten, können hier mangels ausreichenden menschlichen Beitrags nicht herangezogen werden.
1. Autonom agierendes System als Bote?
Es stellt sich folglich die Frage, ob die durch das autonom agierende System abgegebene Erklärung seinem Inhaber dennoch zugerechnet werden kann. Eine Botenstellung des autonom agierenden Systems kann bereits vor dem Hintergrund nicht vorliegen, dass es an einer konkreten (fremden) Willenserklärung des Systeminhabers fehlt, die zu übermitteln wäre. Das autonom agierende System erzeugt diese Erklärung vielmehr selbst, wobei ihm auch ein eigener „Beurteilungsspielraum“ zukommt.
2. Autonom agierendes System als Stellvertreter?
Dem Wesen autonom agierender Systeme würde die Anwendung der Grundsätze zur Stellvertretung viel mehr Rechnung tragen. Das autonom agierende System übermittelt eine eigene, durch Algorithmen erzeugte Erklärung. Die Erteilung der Vertretungsmacht ist in der Inbetriebnahme des autonom agierenden Systems zu sehen. Dabei ist dem Inhaber bereits bewusst, dass es Erklärungen abgeben könnte. Unbekannt ist ihm lediglich, welche konkrete Gestalt die Systemerklärungen annehmen werden.
Zur Wahrung des Offenkundigkeitsprinzips muss das autonom agierende System sich als solches zu erkennen geben und auch die Identität seines Inhabers aufdecken, damit der Vertragspartner selbst entscheiden kann, ob er mit dem System als Vertreter der hinter ihm stehenden Person kontrahieren will. Eine solche Pflicht ist insbesondere relevant, sofern das autonom agierende System weder als rechts- noch geschäftsfähig anerkannt wird und allenfalls der § 165 BGB im Stellvertretungsrecht anwendbar sein könnte. Dies gilt jedenfalls, sofern die Fähigkeit zur (menschlichen) Willensbildung als unabdingbare Voraussetzung der Personenlehre angesehen wird, wonach nur der Mensch rechtsfähig ist.
Qualifiziert man hingegen die Fähigkeit, Träger von Rechten und Pflichten zu sein anhand von Zweckmäßigkeitserwägungen – so wie es im weiteren Sinne auch bei der juristischen Person der Fall ist –, ist es nur konsequent auch diejenigen Rechtssätze auf autonom agierende Systeme anzuwenden, deren Voraussetzungen sie erfüllen. Bei einem solchen funktionellen Verständnis von Rechtsfähigkeit ließen sich die Gedanken der Stellvertretung durchaus auch für autonom agierende Systeme fruchtbar machen, da diese in dem spezifischen Kontext einen Mehrwert für den Rechtsverkehr bedeuten.
Auf diese Weise wäre das autonom agierende System wie ein minderjähriger Vertreter, § 165 BGB, zu behandeln, wobei seine Minderjährigkeit nicht ins Gewicht fällt, da er aufgrund seines fremdnützigen Tätigwerdens lediglich rechtlich neutrale Geschäfte eingeht. Anders ist dies allerdings mit Blick auf § 179 Abs. 3 BGB. Mangels eigener Vermögensmasse kann das autonom agierende System ebenso wenig haften wie ein Minderjähriger. So lange technisch nicht sichergestellt werden kann, dass das autonom agierende System seine Vertretungsmacht nicht überschreitet (was aufgrund der eigenständig entwickelten Entscheidungsalgorithmen durchaus möglich erscheint), muss dem Vertragspartner die Möglichkeit gegeben werden, Vertragsschlüsse mit autonom agierenden Systemen erkennen und ablehnen zu können.
3. Autonom agierendes System als elektronische Person?
Es wird insbesondere aus diesem Grund über eine Anerkennung autonom agierender Systeme als so genannte elektronische Personen mit eigenem Rechtsstatus nachgedacht. Dies erscheint jedoch weder als ideale Lösung der Zurechnungsproblematik noch zwingend erforderlich. Auf diese Weise würden autonom agierende Systeme nicht nur mit den für den Abschluss fremdnütziger Verträge notwendigen Pflichten, sondern darüber hinaus auch mit einer Reihe von Rechten ausgestattet, die nicht mit ihrem Wesen korrespondieren.
Deutlich geworden sein sollte zudem, dass die Stellvertretungsregeln die Problematik der Zurechnung von durch autonom agierenden Systemen abgegebenen Erklärungen angemessen erfassen. So ist eine Eigenhaftung der elektronischen Person und eine damit einhergehende Ausstattung mit eigenen Vermögenswerten nicht angezeigt. Im hier entworfenen Modell des minderjährigen Stellvertreters kommt die elektronische Person bereits aufgrund § 179 Abs. 3 BGB als Haftungssubjekt nicht in Betracht. Als sinnvoll würde sich daher allenfalls eine gesetzliche Festschreibung einer entsprechenden Anwendbarkeit der Regelungen des Stellvertreterrechts auf Vertragsschlüsse unter Beteiligung autonom agierender Systeme erweisen. Da humanoide, autonom agierende Systeme nach dem derzeitigen Stand der Technik allerdings noch nicht existieren, ist insofern keine Eile geboten.
Es ist nur noch eine Frage der Zeit, bis die Vollautonomisierung intelligenter Systeme gelingt. Wichtig ist daher zunächst, automatisiert und autonom agierende Systeme hinreichend voneinander abzugrenzen. Kernaspekt dieser Unterscheidung ist der Grad der Selbstständigkeit, der sich anhand des Vorhandenseins und der Komplexität eines Entscheidungsalgorithmus ermitteln lässt. Ist dieser vorgegeben, handelt es sich regelmäßig um ein automatisiert agierendes System. Ist das System dazu in der Lage, einen im Ergebnis noch nicht vollständig nachvollziehbaren Algorithmus selbstständig zu erlernen, agiert es autonom.
Während die von automatisiert agierenden Systemen erzeugten und abgegebenen Erklärungen als eigene Willenserklärungen des Systeminhabers behandelt werden, die sinnvollerweise in technischer Hinsicht einem zwingenden Einwilligungserfordernis des Inhabers zu unterwerfen sind, ist es mangels eines ausreichenden menschlichen Beitrags fehlgehend, die Erklärungen autonom agierender Systeme als eigene Willenserklärung ihres Inhabers zu erachten. Interessengerechter ist es, diese Systemerklärung dem Nutzer über eine Anwendung der Stellvertretungsregelungen zuzurechnen.
Sophie Herold
Sophie Herold hat Rechtswissenschaft in Heidelberg und Frankfurt am Main studiert und promoviert seit 2017 am Lehrstuhl für Bürgerliches Recht, Informations- und Datenrecht an der Rheinischen Friedrich-Wilhelms-Universität Bonn. Ihre Dissertation befasst sich mit einem zivilrechtlichen Thema, das die Digitalisierung hervorgebracht hat: Sie untersucht, ob automatisiert und autonom agierende Systeme dazu in der Lage sind, Verträge für ihre Nutzer zu schließen. Dahinter steht die grundlegende Frage, ob es sich bei Robotern um Rechtssubjekte handelt. In Nebentätigkeit ist Sophie Herold seit mehreren Jahren als wissenschaftliche Mitarbeiterin im Bereich Intellectual Property, Media & Technology bei Hogan Lovells International LLP in Frankfurt am Main tätig. Im Januar 2019 hat sie das Rechtsreferendariat am Oberlandesgericht Frankfurt am Main aufgenommen.
10.02.2019 19:13
+++ BKartA: Facebook darf keine Daten aus Drittquellen zusammenführen
+++ BVerfG: Scan von KfZ-Kennzeichen teils verfassungswidrig
+++ EU-Urheberrecht: Verhandlungen zur Richtlinie gehen weiter
+++ BVerfG: Eilantrag gegen Test für Zensus 2021 gescheitert
+++ Ermittlungen wegen angezapfter Stromnetze und geschürfter Bitcoin
BKartA: Facebook darf keine Daten aus Drittquellen zusammenführen
Das Bundeskartellamt hat Facebook per Beschluss untersagt, Nutzerdaten ohne freiwillige Einwilligung aus Drittquellen mit eigenen Daten zusammenzuführen. Nutzer können Facebook nur unter der Voraussetzung verwenden, dass Facebook Daten von Drittquellen sammeln und dem Facebook-Konto zuordnen kann. Zu Drittquellen zählen Websites, die mit dem Gefällt-mir-Button oder Analysetools von Facebook eine Schnittstelle zu Facebook vorhalten, Apps von Drittanbietern, aber auch die Facebook-eigenen Dienste Whatsapp und Instagram. Das Bundeskartellamt sieht in dieser Datenverarbeitungspraxis einen Missbrauch einer marktbeherrschenden Stellung und schränkt sie deshalb weitreichend ein. Facebook muss dem Kartellamt nun innerhalb von vier Monaten Lösungsvorschläge vorlegen und hat ein Jahr Zeit zur Umsetzung. Der Beschluss ist das Ergebnis eines Verwaltungsverfahrens, das das Kartellamt 2016 eingeleitet hatte. Die Fachdiskussion dreht sich vor allem um die Frage, inwieweit das Kartellamt datenschutzrechtliche Wertungen berücksichtigen darf – und wie Facebooks Marktmacht einzustufen ist, auch angesichts anderer sozialer Netzwerke wie Snapchat und Twitter. Facebook hat angekündigt, Rechtsmittel einzulegen.
Zu einer Einschätzung von Sebastian Louven auf Telemedicus.
BVerfG: Scan von KfZ-Kennzeichen teils verfassungswidrig
Das automatisierte Scannen von KfZ-Kennzeichen in Bayern, Baden-Württemberg und Hessen ist in Teilen verfassungswidrig. Das hat das Bundesverfassungsgericht in zwei nun veröffentlichten Beschlüssen entschieden (Az. 1 BvR 142/15). Danach greifen solche Kontrollen in das Grundrecht auf informationelle Selbstbestimmung aller Personen ein, deren Kennzeichen erfasst und abgeglichen werden. Dies gelte auch im Falle von Nichttreffern; insoweit hat das BVerfG seine frühere Rechtsprechung geändert. Gerechtfertigt sei die Erfassung nur anlassbezogen und zum Schutz von Rechtsgütern von zumindest erheblichem Gewicht, also etwa zur Abwehr von Gefahren von Leib, Leben und Freiheit. Die Länder müssen die Vorschriften bis Jahresende ändern.
EU-Urheberrecht: Verhandlungen zur Richtlinie gehen weiter
Bei den Verhandlungen über die europäische Urheberrechtsreform werden die Gespräche im Trilog nächste Woche wieder aufgenommen. Nachdem ein Zustandekommen der Richtlinie noch vor der EU-Wahl immer unwahrscheinlicher wurde, haben sich Deutschland und Frankreich auf einen Kompromiss geeinigt und den Weg für weitere Verhandlungen frei gemacht. Die Auseinandersetzung entzündet sich neben dem Presse-Leistungsschutzrecht vor allem am Thema Uploadfilter: Viele profitorientierte Plattformen würden für Anwenderuploads von Inhalten haften, die nicht lizenziert sind. Der Kompromiss besagt grob, dass jüngere Kleinunternehmen hiervon nicht erfasst sind, sondern erst nach Hinweisen auf einzelne Rechtsverletzungen haften. Befrieden konnte der Kompromiss den Streit nicht: Befürworter Axel Voss (CDU) fordert weitere Verschärfungen, Gegnerin Julia Reda (Piraten) hält den jetzigen Entwurf für den „extremsten“.
Mehr mit weiteren Quellen bei Heise.de.
Zur Kritik von allen Seiten auf Heise.de.
BVerfG: Eilantrag gegen Test für Zensus 2021 gescheitert
Der Eilantrag der Gesellschaft für Freiheitsrechte (GFF) gegen den Test der Volkszählung 2021 (Zensus 2021) vor dem Bundesverfassungsgericht ist gescheitert (Az. 1 BvQ 4/19). Die GFF wollte mit dem Antrag die testweise Übermittlung echter personenbezogener Daten aus allen Melderegistern an das Statistische Bundesamt (§ 9a Zensusvorbereitungsgesetz 2021) außer Kraft zu setzen. Nach Ansicht des BVerfG überwiegt aber der mögliche Nachteil einer unverhältnismäßigen Speicherung nicht mit der erforderlichen Deutlichkeit gegenüber dem Interesse daran, den Zensus 2021 vorab zu testen; die Verwendungszwecke seien eng begrenzt, die Vorgaben zur Geheimhaltung streng. In der Hauptsache hat das BVerfG nicht entschieden, der Ausgang einer Verfassungsbeschwerde wäre also noch offen.
Ermittlungen wegen angezapfter Stromnetze und geschürfter Bitcoin
Die Staatsanwaltschaft Zwickau verdächtigt sechs Personen, öffentliche Stromnetze angezapft zu haben, um mit einer Computeranlage Kryptowährungen zu schürfen. Bei einer Durchsuchung sei eine Installation entdeckt worden, mit der sich offenbar Stromzähler umgehen ließen; die Anlage mit fast 50 Rechnern und 80 verbauten Grafikkarten habe ungefähr so viel verbraucht wie 30 Haushalte. Das Schürfen (oder Mining) von Kryptowährungen wie Bitcoin zieht viel Strom. Im Raum steht der Straftatbestand der Entziehung elektrischer Energie (§ 248c StGB) bei einem Schaden von über 220.000 Euro für den Energieversorger.
Pressemitteilung der StA Zwickau.