1. Grundproblem
KI-Systeme handeln autonom oder teilautonom, was die Zurechnung menschlicher Verantwortung erschwert. Anders als natürliche Personen oder juristische Personen ist KI als solche nicht rechtsfähig und kann daher grds nicht selbst haften. Die Haftung muss daher über Zurechnungsmechanismen erfolgen: also über denjenigen, der die KI einsetzt, entwickelt, trainiert, betreibt oder vertreibt. Alle diese dahinterstehenden Rechtssubjekte können grds. auch haften.
2. Haftungsgrundlagen im geltenden deutschen Recht
2.1. Vertragliche Haftung (§§ 280 ff. BGB)
a) Anwendungsbereich:
Wenn zwischen Anwender und Nutzer ein Vertrag besteht (z. B. Software-as-a-Service, Lizenzvertrag, Kaufvertrag, Dienstleistungsvertrag), kommen vertragliche Ansprüche in Betracht.
b) Haftungsvoraussetzungen:
- Pflichtverletzung (Fehlerhafte Leistung der KI)
- Vertretenmüssen (§ 280 Abs. 1 S. 2 BGB)
- Schaden
- Kausalität
c) Beispiel:
Ein Architekt verwendet eine KI zur statischen Berechnung. Liefert die KI falsche Werte und führt dies zu Bauschäden, haftet der Architekt gegenüber dem Auftraggeber wegen mangelhafter Leistung (§§ 633, 634 Nr. 4, 280 BGB).
d) Besonderheit:
Selbst wenn der Fehler auf ein KI-System zurückgeht, wird das Handeln der KI dem Verwender zugerechnet. Er kann sich nicht damit entlasten, die Maschine habe autonom gehandelt.
2.2. Deliktische Haftung (§§ 823 ff. BGB)
a) § 823 Abs. 1 BGB – Verschuldensabhängige Haftung
- Tatbestände: Verletzung von Leben, Körper, Gesundheit, Eigentum oder sonstigem Recht.
- Erforderlich ist ein Verschulden (Vorsatz oder Fahrlässigkeit) desjenigen, der die KI einsetzt, programmiert oder überwacht.
Beispiel:
Ein autonomes Fahrzeug verursacht einen Unfall, weil der Betreiber Software-Updates unterlassen hat → fahrlässige Pflichtverletzung → Haftung des Betreibers.
b) § 831 BGB – Haftung für Verrichtungsgehilfen
Nicht anwendbar auf KI selbst, da diese kein Mensch ist.
Allerdings denkbar, dass der Betreiber für menschliche Fehler bei Einrichtung, Wartung oder Überwachung haftet.
2.3. Gefährdungshaftung (§§ 7 StVG, § 1 ProdHaftG)
a) Straßenverkehrsgesetz (StVG):
Der Halter eines (teil-)autonomen Fahrzeugs haftet auch ohne Verschulden (§ 7 StVG), weil er eine besondere Gefahrenquelle schafft.
→ Auch wenn die KI den Fahrfehler verursacht, haftet der Halter.
b) Produkthaftungsgesetz (ProdHaftG):
- Haftung des Herstellers für fehlerhafte Produkte (§ 1 ProdHaftG).
- Gilt verschuldensunabhängig.
- „Fehlerhaft“ ist ein Produkt, wenn es nicht die Sicherheit bietet, die berechtigterweise erwartet werden kann (§ 3 ProdHaftG).
Anwendungsproblem bei KI:
- KI ist kein statisches Produkt, sondern lernfähig → Fehler kann erst nach Inverkehrbringen entstehen („Evolving Products“).
- Bisherige Produkthaftung deckt das nur unzureichend ab.
3. Neue EU-Regelungen (2024/2025)
3.1. EU AI Act
- Regelt Anforderungen an Entwicklung, Einsatz und Überwachung von KI-Systemen.
- Keine unmittelbare Haftungsregelung, aber Compliance-Pflichten, deren Verletzung Haftung begründen kann.
- Klassifizierung in Risikokategorien (unzulässig, hochriskant, begrenzt, minimal).
Beispiel:
Ein Unternehmen, das eine „hochriskante“ KI (z. B. medizinische Diagnose-Software) ohne Konformitätsprüfung einsetzt, kann bei einem Schaden wegen Pflichtverletzung haften.
3.2. EU AI Liability Directive
- Ergänzt das nationale Deliktsrecht.
- Führt Beweiserleichterungen für Geschädigte ein:
- Vermutung eines Kausalzusammenhangs zwischen KI-Fehler und Schaden, wenn gegen den AI Act verstoßen wurde.
- Ziel: Opfer müssen nicht mehr beweisen, wie der KI-Fehler technisch entstanden ist.
3.3. Reform der Produkthaftungsrichtlinie (EU)
- Schließt KI-Systeme ausdrücklich ein.
- Hersteller haftet auch für nachträgliche Fehler (z. B. durch Software-Update, Datenmangel, Bias).
- Erfasst auch Open-Source-Komponenten, wenn sie in kommerzielle Systeme integriert sind.
4. Haftungskreise
| Rolle | Haftungsart | Beispiele |
|---|---|---|
| Hersteller / Entwickler | Produkthaftung (§ 1 ProdHaftG), Delikt (§ 823 BGB), EU-Produkthaftungsrichtlinie | Programmierfehler, unzureichende Trainingsdaten |
| Betreiber / Verwender | Vertragshaftung (§§ 280 ff. BGB), Gefährdungshaftung (z. B. § 7 StVG), Deliktshaftung | Fehlkonfiguration, mangelnde Überwachung |
| Vertrieb / Händler | Produkthaftung, ggf. Regress gegen Hersteller | Vertrieb fehlerhafter KI |
| Auftraggeber / Kunde | Nur ausnahmsweise (z. B. bei grober Fahrlässigkeit oder Mitverschulden) | Falsche Nutzung entgegen Anleitung |