Müller-Hengstenberg / Kirn, Rechtliche
Risiken autonomer und vernetzter Systeme - Eine Herausforderung, 1. Auflage, De
Gruyter 2016
Von Dr. jur. Reto Mantz, Dipl.-Inf., Richter
am Landgericht Frankfurt am Main
Das
vorliegende Werk von Müller-Hengstenberg und Kirn befasst sich mit autonomen
und vernetzten Systemen und greift damit ein Thema auf, das Industrie und
Gesellschaft in der Zukunft immer mehr beschäftigen wird.
Spannend
an dem Werk ist bereits die Zusammenstellung der Autoren. Prof. Dr. Stefan Kirn
lehrt Wirtschaftsinformatik, Prof. Dr. Claus Müller-Hengstenberg
Informatikrecht. In Person der Verfasser treffen also die Wissenschaftsbereiche
Informatik, Wirtschaft und Recht aufeinander. Dieser Kombination folgt im
Wesentlichen auch der grobe Aufbau des Werks: Teil A ist den Grundlagen insbesondere
aus Sicht der Informatik gewidmet. Er umfasst auf rund 100 Seiten eine
Einleitung sowie Erläuterungen zu Virtualisierung, Softwareagenten und
Multiagentensystemen sowie der „Herausforderung Autonomie“. In Teil B werden
auf rund 240 Seiten die rechtlichen Herausforderungen bearbeitet. Hieran
schließen sich in Teil C Folgerungen aus den vorangegangenen Betrachtungen an.
Die
rechtliche Bewältigung neuer technischer Produkte und Systeme stellt für
Wissenschaft, Praxis und Gesetzgebung eine große Herausforderung dar. Ohne
Verständnis für die technischen Grundlagen kann diese Herausforderung kaum
bewältigt werden. Aus diesem Grunde ist Teil A des Buchs ganz besonders
hervorzuheben. Kirn stellt hier in verständlicher Art und Weise unter
Verwendung und Erläuterung einer Vielzahl von Abbildungen wesentliche
Grundlagen autonomer und vernetzter Systeme dar. Dabei sind speziell die
Fallbeispiele, an denen einzelne Aspekte und deren Zusammenspiel dargestellt
werden, hilfreich. Aufgezeigt werden Erkenntnisse und deren Einfluss aus der
Wissenschaft nicht nur der Informatik, sondern auch der
Wirtschaftswissenschaften. Komplexe Fragen werden auch für den Leser ohne
technischen Hintergrund verständlich aufgearbeitet.
Kirn
stellt auf dieser Grundlage unter dem Punkt „Juristische Würdigung“ einige
Fragen an die rechtliche Bewertung, u.a. Fragen nach Vertragsverhältnissen,
Haftung und Datenschutz. Insbesondere bestehe bei autonomen Systemen das
Problem, wie damit umzugehen sei, dass autonome Systeme zwar einerseits
„programmiert“ werden, aber andererseits z.B. auf Basis von Heuristik und
Umweltinformationen „eigene“ Entscheidungen treffen, also auch für den
Programmierer unvorhergesehene Handlungen z.B. im Zusammenspiel mit anderen
autonomen Systemen durchführen können.
Teil
B geht diesen rechtlichen Fragen in systematischer Weise nach. Dabei widmet
sich Müller-Hengstenberg zunächst der Frage der Willenserklärungen (S. 125 ff.):
Liegen bei Handlungen bzw. Erklärungen von autonomen Systemen überhaupt
Willenserklärungen vor? Welche Rolle spielt das Anfechtungsrecht in §§ 119 ff.
BGB?
Das
Werk geht ganz grundlegend an diese Fragen heran. Dabei werden Ansätze aus
Rechtsprechung (ausgehend u.a. von den Fällen „Trierer Weinversteigerung“ und
„Hotelbuchungssystem“) und Literatur aufgegriffen und teils eigene, auf die
spezielle Situation autonomer Systeme bezogene Lösungen präsentiert. So sollen
elektronische Willenserklärungen z.B. nur anfechtbar sein, wenn sie aufgrund
eines Programmierfehlers falsch sind. War hingegen bei der heuristischen
Wissensverarbeitung das benötigte Wissen unvollständig, liege nur ein
unbeachtlicher Motivationsirrtum vor (S. 152). Für die Praxis von erheblicher
Relevanz sind dann auch die Ausführungen zur Darlegungs- und Beweislast im
Zusammenhang mit Willenserklärungen (S. 159 f.).
Anschließend
bearbeitet das Werk die im Zusammenhang mit autonomen Systemen eminent
wichtigen Frage nach Verantwortlichkeit und Haftung (S. 163 ff.), wobei
eingegangen wird auf „vertragliche Themen“, Nutzungs- und Verwertungsrechte und
Freiheit und Grenzen des Datenverkehrs (Big Data).
Für
die „Vertragsthemen“ wird zunächst ein Ausgangsfall vorgestellt, bei dem an
verschiedenen Stellen ein Fehler zu einer Falschlieferung führt. Anschließend
werden – ebenso wie zuvor bei den Willenserklärungen – unter Rückgriff auf
Rechtsprechung und Literatur die Grundlagen dargestellt, u.a. die vertragliche
Einordnung, die bei Verträgen durch IT- und autonome Systeme schwierig sein
kann. Danach wird unter Rückgriff auf den Ausgangsfall die (vertragliche) Haftungssituation
beschrieben, wobei besonders instruktiv die Darstellung der Haftungsrisiken (S.
202 ff.) ist. Diesbezüglich geht Müller-Hengstenberg u.a. auf die Risiken beim
Cloud Computing und daran anschließend bei autonomen Systemen (S. 212 ff.) ein,
wobei im Zusammenhang mit der rechtsgeschäftlichen Haftung auf Schadensersatz
insbesondere die Frage des „Vertretenmüssens“ nach § 276 BGB behandelt wird (S.
217 ff.).
Von hohem
Interesse sind schließlich die Ausführungen zur deliktischen Haftung für
auftretende Fehler (S. 225 ff.), wobei es insoweit nicht auf den Agenten,
sondern nur auf das Verhalten von Entwickler, Nutzer und Anwender ankommen soll.
Auch hier betrachtet Müller-Hengstenberg unter Rückgriff auf den Ausgangsfall
verschiedene Konstellationen und arbeitet diese nacheinander auf. Dabei sei es
insbesondere bei intelligenten Softwareagenten möglich, dass diese
Entscheidungen treffen, die der Entwickler nicht vorhersehen konnte. Daher sei
es schwierig, wenn nicht sogar unmöglich, adäquate Kausalität und
Zurechenbarkeit später noch festzustellen (S. 234). Müller-Hengstenberg
arbeitet auch in diesem Zusammenhang Rechtsprechung und Literatur umfassend auf.
Hier sind der Umfang und die Bandbreite der betrachteten Rechtsprechung in
Bezug auf eventuelle Sicherungspflichten bemerkenswert.
Beim
Einsatz von autonomen Softwareagenten fordert Müller-Hengstenberg besondere
Vorkehrungen zur Vermeidung von Schäden. Eine Haftung des Betreibers eines autonomen
Softwareagenten bestehe deshalb, wenn die nach dem Stand der Technik üblichen
oder zu erwartenden Qualitätsmaßnahmen vernachlässigt würden (S. 243). Es gebe
jedoch keine allgemeingültigen Anforderungen an Verkehrssicherungspflichten.
Daher seien Vorstellungen über eine Gefährdungshaftung verständlich.
Auch
auf die Produkt- und Produzentenhaftung geht Müller-Hengstenberg intensiv ein
(S. 309 ff.). Nach Darstellung der Grundsätze insoweit bewertet er deren
Anwendung auf Computersoftware. Rechtspolitisch stellt er dabei die Frage in
den Raum, ob Diensteanbieter von Cloud-Infrastrukturen im Wege einer
Gesetzesänderung als Lieferanten im Sinne von § 4 ProdHaftG anzusehen sein
sollten. Er steht dem aber offenbar kritisch gegenüber (S. 316 f.).
Ab
S. 281 behandelt das Werk die Bewertung von Big Data und insbesondere Fragen
des Datenschutzes und der Datensicherheit. Dabei wird auch untersucht, ob Cloud
Computing und die Nutzung von Softwareagenten als Auftragsdatenverarbeitung im
Sinne von § 11 BDSG anzusehen sind und wer jeweils verantwortliche Stelle ist.
Erneut
für den Praktiker relevant sind die Darstellungen zur Beweislast im Rahmen des Mängelgewährleistungs-
und Deliktsrechts (S. 333 ff.). Müller-Hengstenberg weist zu Recht darauf hin,
dass zur Verfügung stehende Beweiserleichterungen im Vertragsrecht (insb. § 280
BGB) meist nur die Frage des Verschuldens, nicht aber die bei den untersuchten
Systemen heikle Frage der Kausalität betreffen. Schwierig sei die Beweislage generell
insbesondere bei Cloud-Strukturen und eben autonomen Systemen. Die
Verschuldenshaftung sieht Müller-Hengstenberg daher für solche Systeme als
„Auslaufmodell“ an.
In Teil
C formulieren Müller-Hengstenberg/Kirn Schlussfolgerungen und Forderungen. Die
Autoren konstatieren zum status quo, dass derjenige, der neue Technologien
nutze, die sich hieraus ergebenden Haftungsrisiken allein trage, obwohl
Entwickler, Betreiber und Nutzer gleichermaßen Profiteure seien und die Risiken
tragen müssten. Sie regen an, zumindest allgemeine Regelungen für die
Verkehrssicherheit von autonomen Systemen zu schaffen.
Das
Werk „Rechtliche Risiken autonomer und vernetzter Systeme“ meistert die
Herausforderung, die die Kombination der technischen und rechtlichen Probleme
durch vernetzte und autonome Systeme darstellt, spielend. Die relevanten
Probleme werden aufgezeigt und kompetent behandelt. Durch die sorgfältige und
verständliche Erläuterung der technischen Grundlagen wird eine solide Basis für
deren rechtliche Bewertung geschaffen. Die sich anschließende Bewertung und
Herausarbeitung von Lösungen und Vorschlägen der Rechtsfragen erfolgt gut
begründet unter umfassender Heranziehung von Rechtsprechung und Literatur.
Es
handelt sich – wie bereits der Titel zeigt – insgesamt eher um ein
Grundlagenwerk mit vielfältigen Denkansätzen und weniger um ein Praxishandbuch
mit Nachschlagecharakter, was aber dem Ansatz geschuldet ist und den Wert des
Buchs keinesfalls zu beinträchtigen vermag.
Das
Werk ist nach alledem unbedingt empfehlenswert für jeden, der sich näher mit
den Problemen von autonomen und vernetzten Systemen z.B. im Bereich Industrie
4.0 oder Internet of Things befassen will.