Freitag, 23. September 2016

Rezension: Rechtliche Risiken autonomer und vernetzter Systeme

Müller-Hengstenberg / Kirn, Rechtliche Risiken autonomer und vernetzter Systeme - Eine Herausforderung, 1. Auflage, De Gruyter 2016

Von Dr. jur. Reto Mantz, Dipl.-Inf., Richter am Landgericht Frankfurt am Main



Das vorliegende Werk von Müller-Hengstenberg und Kirn befasst sich mit autonomen und vernetzten Systemen und greift damit ein Thema auf, das Industrie und Gesellschaft in der Zukunft immer mehr beschäftigen wird.

Spannend an dem Werk ist bereits die Zusammenstellung der Autoren. Prof. Dr. Stefan Kirn lehrt Wirtschaftsinformatik, Prof. Dr. Claus Müller-Hengstenberg Informatikrecht. In Person der Verfasser treffen also die Wissenschaftsbereiche Informatik, Wirtschaft und Recht aufeinander. Dieser Kombination folgt im Wesentlichen auch der grobe Aufbau des Werks: Teil A ist den Grundlagen insbesondere aus Sicht der Informatik gewidmet. Er umfasst auf rund 100 Seiten eine Einleitung sowie Erläuterungen zu Virtualisierung, Softwareagenten und Multiagentensystemen sowie der „Herausforderung Autonomie“. In Teil B werden auf rund 240 Seiten die rechtlichen Herausforderungen bearbeitet. Hieran schließen sich in Teil C Folgerungen aus den vorangegangenen Betrachtungen an.

Die rechtliche Bewältigung neuer technischer Produkte und Systeme stellt für Wissenschaft, Praxis und Gesetzgebung eine große Herausforderung dar. Ohne Verständnis für die technischen Grundlagen kann diese Herausforderung kaum bewältigt werden. Aus diesem Grunde ist Teil A des Buchs ganz besonders hervorzuheben. Kirn stellt hier in verständlicher Art und Weise unter Verwendung und Erläuterung einer Vielzahl von Abbildungen wesentliche Grundlagen autonomer und vernetzter Systeme dar. Dabei sind speziell die Fallbeispiele, an denen einzelne Aspekte und deren Zusammenspiel dargestellt werden, hilfreich. Aufgezeigt werden Erkenntnisse und deren Einfluss aus der Wissenschaft nicht nur der Informatik, sondern auch der Wirtschaftswissenschaften. Komplexe Fragen werden auch für den Leser ohne technischen Hintergrund verständlich aufgearbeitet.

Kirn stellt auf dieser Grundlage unter dem Punkt „Juristische Würdigung“ einige Fragen an die rechtliche Bewertung, u.a. Fragen nach Vertragsverhältnissen, Haftung und Datenschutz. Insbesondere bestehe bei autonomen Systemen das Problem, wie damit umzugehen sei, dass autonome Systeme zwar einerseits „programmiert“ werden, aber andererseits z.B. auf Basis von Heuristik und Umweltinformationen „eigene“ Entscheidungen treffen, also auch für den Programmierer unvorhergesehene Handlungen z.B. im Zusammenspiel mit anderen autonomen Systemen durchführen können.

Teil B geht diesen rechtlichen Fragen in systematischer Weise nach. Dabei widmet sich Müller-Hengstenberg zunächst der Frage der Willenserklärungen (S. 125 ff.): Liegen bei Handlungen bzw. Erklärungen von autonomen Systemen überhaupt Willenserklärungen vor? Welche Rolle spielt das Anfechtungsrecht in §§ 119 ff. BGB?

Das Werk geht ganz grundlegend an diese Fragen heran. Dabei werden Ansätze aus Rechtsprechung (ausgehend u.a. von den Fällen „Trierer Weinversteigerung“ und „Hotelbuchungssystem“) und Literatur aufgegriffen und teils eigene, auf die spezielle Situation autonomer Systeme bezogene Lösungen präsentiert. So sollen elektronische Willenserklärungen z.B. nur anfechtbar sein, wenn sie aufgrund eines Programmierfehlers falsch sind. War hingegen bei der heuristischen Wissensverarbeitung das benötigte Wissen unvollständig, liege nur ein unbeachtlicher Motivationsirrtum vor (S. 152). Für die Praxis von erheblicher Relevanz sind dann auch die Ausführungen zur Darlegungs- und Beweislast im Zusammenhang mit Willenserklärungen (S. 159 f.).

Anschließend bearbeitet das Werk die im Zusammenhang mit autonomen Systemen eminent wichtigen Frage nach Verantwortlichkeit und Haftung (S. 163 ff.), wobei eingegangen wird auf „vertragliche Themen“, Nutzungs- und Verwertungsrechte und Freiheit und Grenzen des Datenverkehrs (Big Data).

Für die „Vertragsthemen“ wird zunächst ein Ausgangsfall vorgestellt, bei dem an verschiedenen Stellen ein Fehler zu einer Falschlieferung führt. Anschließend werden – ebenso wie zuvor bei den Willenserklärungen – unter Rückgriff auf Rechtsprechung und Literatur die Grundlagen dargestellt, u.a. die vertragliche Einordnung, die bei Verträgen durch IT- und autonome Systeme schwierig sein kann. Danach wird unter Rückgriff auf den Ausgangsfall die (vertragliche) Haftungssituation beschrieben, wobei besonders instruktiv die Darstellung der Haftungsrisiken (S. 202 ff.) ist. Diesbezüglich geht Müller-Hengstenberg u.a. auf die Risiken beim Cloud Computing und daran anschließend bei autonomen Systemen (S. 212 ff.) ein, wobei im Zusammenhang mit der rechtsgeschäftlichen Haftung auf Schadensersatz insbesondere die Frage des „Vertretenmüssens“ nach § 276 BGB behandelt wird (S. 217 ff.).

Von hohem Interesse sind schließlich die Ausführungen zur deliktischen Haftung für auftretende Fehler (S. 225 ff.), wobei es insoweit nicht auf den Agenten, sondern nur auf das Verhalten von Entwickler, Nutzer und Anwender ankommen soll. Auch hier betrachtet Müller-Hengstenberg unter Rückgriff auf den Ausgangsfall verschiedene Konstellationen und arbeitet diese nacheinander auf. Dabei sei es insbesondere bei intelligenten Softwareagenten möglich, dass diese Entscheidungen treffen, die der Entwickler nicht vorhersehen konnte. Daher sei es schwierig, wenn nicht sogar unmöglich, adäquate Kausalität und Zurechenbarkeit später noch festzustellen (S. 234). Müller-Hengstenberg arbeitet auch in diesem Zusammenhang Rechtsprechung und Literatur umfassend auf. Hier sind der Umfang und die Bandbreite der betrachteten Rechtsprechung in Bezug auf eventuelle Sicherungspflichten bemerkenswert.

Beim Einsatz von autonomen Softwareagenten fordert Müller-Hengstenberg besondere Vorkehrungen zur Vermeidung von Schäden. Eine Haftung des Betreibers eines autonomen Softwareagenten bestehe deshalb, wenn die nach dem Stand der Technik üblichen oder zu erwartenden Qualitätsmaßnahmen vernachlässigt würden (S. 243). Es gebe jedoch keine allgemeingültigen Anforderungen an Verkehrssicherungspflichten. Daher seien Vorstellungen über eine Gefährdungshaftung verständlich.

Auch auf die Produkt- und Produzentenhaftung geht Müller-Hengstenberg intensiv ein (S. 309 ff.). Nach Darstellung der Grundsätze insoweit bewertet er deren Anwendung auf Computersoftware. Rechtspolitisch stellt er dabei die Frage in den Raum, ob Diensteanbieter von Cloud-Infrastrukturen im Wege einer Gesetzesänderung als Lieferanten im Sinne von § 4 ProdHaftG anzusehen sein sollten. Er steht dem aber offenbar kritisch gegenüber (S. 316 f.).

Ab S. 281 behandelt das Werk die Bewertung von Big Data und insbesondere Fragen des Datenschutzes und der Datensicherheit. Dabei wird auch untersucht, ob Cloud Computing und die Nutzung von Softwareagenten als Auftragsdatenverarbeitung im Sinne von § 11 BDSG anzusehen sind und wer jeweils verantwortliche Stelle ist.

Erneut für den Praktiker relevant sind die Darstellungen zur Beweislast im Rahmen des Mängelgewährleistungs- und Deliktsrechts (S. 333 ff.). Müller-Hengstenberg weist zu Recht darauf hin, dass zur Verfügung stehende Beweiserleichterungen im Vertragsrecht (insb. § 280 BGB) meist nur die Frage des Verschuldens, nicht aber die bei den untersuchten Systemen heikle Frage der Kausalität betreffen. Schwierig sei die Beweislage generell insbesondere bei Cloud-Strukturen und eben autonomen Systemen. Die Verschuldenshaftung sieht Müller-Hengstenberg daher für solche Systeme als „Auslaufmodell“ an.

In Teil C formulieren Müller-Hengstenberg/Kirn Schlussfolgerungen und Forderungen. Die Autoren konstatieren zum status quo, dass derjenige, der neue Technologien nutze, die sich hieraus ergebenden Haftungsrisiken allein trage, obwohl Entwickler, Betreiber und Nutzer gleichermaßen Profiteure seien und die Risiken tragen müssten. Sie regen an, zumindest allgemeine Regelungen für die Verkehrssicherheit von autonomen Systemen zu schaffen.

Das Werk „Rechtliche Risiken autonomer und vernetzter Systeme“ meistert die Herausforderung, die die Kombination der technischen und rechtlichen Probleme durch vernetzte und autonome Systeme darstellt, spielend. Die relevanten Probleme werden aufgezeigt und kompetent behandelt. Durch die sorgfältige und verständliche Erläuterung der technischen Grundlagen wird eine solide Basis für deren rechtliche Bewertung geschaffen. Die sich anschließende Bewertung und Herausarbeitung von Lösungen und Vorschlägen der Rechtsfragen erfolgt gut begründet unter umfassender Heranziehung von Rechtsprechung und Literatur.

Es handelt sich – wie bereits der Titel zeigt – insgesamt eher um ein Grundlagenwerk mit vielfältigen Denkansätzen und weniger um ein Praxishandbuch mit Nachschlagecharakter, was aber dem Ansatz geschuldet ist und den Wert des Buchs keinesfalls zu beinträchtigen vermag.


Das Werk ist nach alledem unbedingt empfehlenswert für jeden, der sich näher mit den Problemen von autonomen und vernetzten Systemen z.B. im Bereich Industrie 4.0 oder Internet of Things befassen will.