Schwartmann / Keber / Zenner, KI-VO, Leitfaden für die Praxis, 1. Auflage, C.F. Müller 2024
Von
RAG Dr. Benjamin Krenberger, Landstuhl
Dass
ein etwas mehr als 300 Seiten starker Leitfaden für die Praxis ein dreiköpfiges
Herausgeberteam und ein 23-köpfiges Autorenteam aufweist, ist zumindest
erstaunlich und sorgt für erheblichen Koordinierungsbedarf. Dass einige der Autoren
auch eher aus dem politisch-beratenden Metier stammen und nicht aus Universitäten,
Behörden oder Kanzleien, dürfte der Neuheit der Regelung und deren europäischer
Herkunft geschuldet sein. Immerhin haben die Herausgeber den richtigen Anspruch,
dass hier Praktiker für Praktiker schreiben, damit das neue Rechtsgebiet schnell
Eingang in die Köpfe der Rechtsanwender findet.
Gewöhnen
muss sich der klassische Jurist dabei nicht nur (sprachlich) an die technisch
dominierte Thematik, sondern z.B. auch an die Nachweise in den Fußnoten: diese
verweisen auf Podcasts, Webseiten, sogar auf Amazon-Links, nutzen munter englische
und technische Begriffe, ohne dass es ein Glossar gäbe. Dass Letzteres fehlt, erachte
ich tatsächlich für einen Makel des Buches. Denn einmal erklärte Abkürzungen
muss man sich für den Rest des Werks merken. Immerhin: innerhalb der Kapitel
wird der Leser mit allgemeinen Erläuterungen abgeholt, sodass er sich potentiell
geführt in die neue Materie begeben kann.
Die
KI-Verordnung ist seit dem 1.8.2024 in Kraft und soll die komplexen neuen
Informationssysteme in einen rechtlichen Rahmen bringen. Das Handbuch befasst
sich deshalb einleitend zunächst mit der zeitlichen und begrifflichen Einordnung
der VO, später mit dem Inhalt der VO selbst, dazu mit der Durchsetzung der
Regulierung, die mittels der VO angestrebt wird.
Innerhalb
der einleitenden Kapitel werden viele Themen zwar nur kurz angeschnitten, aber mögliche
Schwierigkeiten werden so präzise angesprochen, dass die Sensibilität der Leser
sofort geweckt wird. Zu nennen ist hier etwa die Beschreibung von Open-Source-Modellen,
die manchmal den Namen zu Unrecht tragen, da doch Hürden für eine
Weiterverarbeitung mit einer hohen Zahl von Nutzern geschaffen werden. Auch ist
zu trennen, ob es sich um echte KI-Systeme oder nur unterstützende Werkzeuge
anderer Systeme handelt. Ebenfalls spannend liest sich die kurze tabellarische
Auflistung, welche Unterstützung KI in gerichtlichen Prozessen oder in der Rechtsberatung
liefern könnte, aber auch die Erörterung, wie KI in der Strafverfolgung bereits
zum Einsatz kommt oder kommen könnte. Insbesondere die Aufbereitung der ermittelten
Daten gleichförmiger Kriminalität unterer Stufe (§§ 242, 248a StGB) könnte den
Staatsanwaltschaften Zeitgewinne verschaffen. Dennoch wird hier schon frühzeitig
auf Art. 27 KI-VO hingewiesen, der öffentliche Stellen als Anbieter oder
Betreiber von KI-Systemen zu einer besonderen Folgenabschätzung zwingt. Das sind
dann natürlich nicht nur die Mitglieder der Justiz, sondern z.B. auch
Bildungseinrichtungen der öffentlichen Hand. Jedenfalls werden auch später
immer wieder die besonderen Bedürfnisse, aber auch Schranken für die
Strafverfolgung aufgezeigt, etwa bei dem Einsatz von biometrischer
Echtzeit-Fernidentifizierung nach Art. 5 KI-VO bei Entführungen oder
Menschenhandel. Zu Recht kritisch beäugt wird dabei auch der Einsatz von KI-Systemen
bei der Vorprüfung zu erstellender richterlicher Entscheidungen. Hier wird bspw.
erwogen, eine Begründung für die Übernahme eines Vorschlags der KI geben zu
müssen.
Bemerkenswert
ist in den weiteren Ausführungen zu den Artikeln der VO selbst, dass die Autoren
keineswegs mit Kritik sparen. So wird gleich zu Beginn die Zielsetzung der VO
als sehr ambitioniert betitelt und das zu Recht: Wirtschaft fördern, Sicherheit
erhöhen, alle möglichen Rechtsgüter schützen. Auch die Komplexität des
Zusammenspiels zwischen KI-VO und DSGVO wird frühzeitig pointiert benannt und
als zukünftiges Problemfeld identifiziert, später sogar noch einmal
aufgegriffen, wenn in einem eigenen Kapitel das Verhältnis der KI-VO zu anderen
Rechtsgebieten aufbereitet wird. Ebenfalls als maßgebend für viele weitere
Überlegungen wird die Risikoklassifizierung von KI-Systemen herausgearbeitet,
zugleich aber auf die Schwierigkeit hingewiesen, dass GPAI-Systeme nicht so einfach
einzustufen sein werden. Auch wird die Wirksamkeit der verpflichtenden
menschlichen Aufsicht über KI-Systeme (Art. 14 KI-VO) stark angezweifelt, wenn
Aufsicht und Anwendung auseinanderfallen. Es könnten noch zahlreiche andere Beispiele
folgen, aber es ist generell beruhigend zu sehen, dass die Autoren sich der
neuen Verordnung sowie der gesamten Rechtsmaterie mit Vorsicht und Umsicht nähern
und widmen.
Neben
der Parallelität zum Datenschutzrecht werden in einem eigenen Kapitel auch
andere Rechtsgebiete angesprochen, die zur KI-VO in Bezug gestellt werden
müssen. Allen voran ist dies das Urheberrecht, weil eine KI ja mit Daten „trainiert“
werden muss. Die Frage der Lizenzierung sowie des rechtmäßigen Zugangs zu
Werken ist hochbrisant, da entsprechende Richtlinien zu einem Zeitpunkt
geschaffen und formuliert wurden, zu dem an KI-Systeme noch nicht gedacht
wurde. Ähnliche urheberrechtliche Fragen stellen sich im Übrigen auch bei Eingaben
in die KI, die durch Nutzer vorgenommen werden.
Des
Weiteren möchte ich noch die das Kapitel zur deliktischen Haftung hinweisen, in
dem u.a. dargelegt wird, wie nach der deutschen ZPO beweisrechtlich zu prüfen
ist, ob eine Verwendung gemäß der Gebrauchsanwendung erfolgt (Inaugenscheinnahme
von gespeicherten Daten, § 371 ZPO). Zudem wird die sekundäre Darlegungslast
des KI-Nutzers im Prozess des Geschädigten betont. Unklar bleibt noch, auf
welcher zivilrechtlichen Grundlage ein KI-„Opfer“ Schadensersatz verlangen
kann, da bspw. noch nicht abschließend geklärt ist (wie auch?), ob z.B. Art. 29
KI-VO als Schutzgesetzt i.S.d. § 823 Abs. 2 BGB zu sehen ist.
Schließlich
möchte ich besonders lobend erwähnen, dass die Rechtsprechung des EuGH zu Bußgeldern
bei Verstoß gegen die DSGVO als übertragbar auf die Regelungen des Art. 99
KI-VO angesehen wird, d.h. Bußgelder auch direkt gegen Unternehmen angeordnet
werden dürfen, wenn das OWiG zur Anwendung kommen sollte. Jedoch ist noch
unklar, ob bei Verstößen Bußgelder durch nationale Behörden verhängt werden
sollen oder ob dies europäische Behörden tun werden. Der Bußgeldkatalog hat es
jedenfalls in sich.
Was
bleibt als Fazit? Die Materie ist neu und hochkomplex, technisch wie rechtlich.
Die Autoren sind redlich bemüht, auch den klassischerweise technisch unkundigen
deutschen Juristen mit ins Boot zu nehmen. Viele Aspekte sind noch in der
Schwebe und in ihrer Entwicklung kritisch zu prüfen, aber all das arbeiten die
Autoren ab und sie bauen darüber hinaus an vielen Stellen die gebotenen Brücken
zur nationalen Rechtsanwendung. Man kann nur sagen: ein gelungenes Werk, ein
spannendes Thema, ein Buch mit dem Potential für weitere Auflagen, wenn sich
die Materie mitsamt der noch zu erlassenden Richt- und Leitlinien sowie der
unvermeidbaren Rechtsprechung entwickeln wird.








