KI-Systeme handeln autonom oder teilautonom, was die Zurechnung menschlicher Verantwortung erschwert. Anders als natürliche oder juristische Personen ist KI nicht rechtsfähig und kann daher nicht selbst haften. Die Haftung erfolgt deshalb über Zurechnung: an diejenigen, die die KI einsetzen, entwickeln, trainieren, betreiben oder vertreiben. Jedes dieser Rechtssubjekte kommt grundsätzlich als Haftender in Betracht.

2. Haftungsgrundlagen im geltenden deutschen Recht

2.1. Vertragliche Haftung (§§ 280 ff. BGB)

a) Anwendungsbereich:
Besteht zwischen Anbieter und Nutzer ein Vertrag (z. B. Software-as-a-Service, Lizenz-, Kauf- oder Dienstleistungsvertrag), kommen vertragliche Ansprüche in Betracht.

b) Haftungsvoraussetzungen:

• Pflichtverletzung (fehlerhafte Leistung der KI)
• Vertretenmüssen (§ 280 Abs. 1 S. 2 BGB)
• Schaden
• Kausalität

c) Beispiel:
Ein Architekt verwendet eine KI zur statischen Berechnung. Liefert die KI falsche Werte und führt dies zu Bauschäden, haftet der Architekt gegenüber dem Auftraggeber wegen mangelhafter Leistung (§§ 633, 634 Nr. 4, 280 BGB).

d) Besonderheit:
Auch wenn der Fehler auf ein KI-System zurückgeht, wird das Ergebnis dem Verwender zugerechnet. Er kann sich nicht damit entlasten, die Maschine habe autonom gehandelt.

2.2. Deliktische Haftung (§§ 823 ff. BGB)

a) § 823 Abs. 1 BGB – verschuldensabhängige Haftung

• Tatbestände: Verletzung von Leben, Körper, Gesundheit, Eigentum oder einem sonstigen Recht.
• Erforderlich ist ein Verschulden (Vorsatz oder Fahrlässigkeit) desjenigen, der die KI einsetzt, programmiert oder überwacht.

Beispiel:
Ein automatisiertes Fahrzeug verursacht einen Unfall, weil der Betreiber Software-Updates unterlassen hat. Darin liegt eine fahrlässige Pflichtverletzung, für die der Betreiber haftet.

b) § 831 BGB – Haftung für Verrichtungsgehilfen
Auf die KI selbst nicht anwendbar, da sie kein Mensch ist. Der Betreiber kann aber für Fehler der Personen haften, die er mit Einrichtung, Wartung oder Überwachung betraut.

2.3. Gefährdungshaftung (§ 7 StVG, § 1 ProdHaftG)

a) Straßenverkehrsgesetz (StVG):
Der Halter eines (teil-)automatisierten Fahrzeugs haftet auch ohne Verschulden (§ 7 StVG), weil er eine besondere Gefahrenquelle schafft. Das gilt auch dann, wenn die KI den Fahrfehler verursacht hat.

b) Produkthaftungsgesetz (ProdHaftG):

• Haftung des Herstellers für fehlerhafte Produkte (§ 1 ProdHaftG).
• Die Haftung ist verschuldensunabhängig.
• Fehlerhaft ist ein Produkt, wenn es nicht die Sicherheit bietet, die berechtigterweise erwartet werden kann (§ 3 ProdHaftG).

Anwendungsproblem bei KI:

• KI ist kein statisches Produkt, sondern lernfähig. Ein Fehler kann daher erst nach dem Inverkehrbringen entstehen.
• Das geltende Produkthaftungsrecht erfasst diese Konstellation nur unzureichend.

3. Neue EU-Regelungen

3.1. KI-Verordnung (AI Act)

• Die KI-Verordnung (EU) 2024/1689 ist seit dem 1.8.2024 in Kraft und regelt Anforderungen an Entwicklung, Einsatz und Überwachung von KI-Systemen. Ihre Pflichten gelten gestaffelt: Seit dem 2.8.2026 gilt die Verordnung allgemein, einschließlich der Transparenzpflichten nach Art. 50. Die Pflichten für Hochrisiko-KI-Systeme nach Anhang III gelten nach dem Digital Omnibus (Verordnung (EU) 2026/1744, in Kraft seit 27.7.2026) ab dem 2.12.2027, für Hochrisiko-KI in regulierten Produkten nach Anhang I ab dem 2.8.2028.
• Sie enthält keine eigene zivilrechtliche Haftungsregelung, aber Compliance-Pflichten, deren Verletzung eine Haftung begründen kann.
• Sie unterscheidet nach Risikokategorien (verboten, hochriskant, begrenztes Risiko, minimales Risiko).

Beispiel:
Ein Unternehmen, das ein Hochrisiko-KI-System (z. B. medizinische Diagnose-Software) ohne Konformitätsbewertung einsetzt, kann bei einem Schaden wegen Pflichtverletzung haften.

3.2. KI-Haftungsrichtlinie (AI Liability Directive)

• Die EU-Kommission hatte 2022 eine Richtlinie vorgeschlagen, die das nationale Deliktsrecht ergänzen sollte.
• Vorgesehen waren Beweiserleichterungen für Geschädigte, insbesondere eine Vermutung des Kausalzusammenhangs zwischen KI-Fehler und Schaden bei Verstoß gegen Sorgfaltspflichten, etwa aus dem AI Act.
• In ihrem Arbeitsprogramm 2025 hat die Kommission angekündigt, den Vorschlag zurückzuziehen. Geschädigte müssen sich daher weiterhin auf das nationale Haftungsrecht und die neue Produkthaftungsrichtlinie stützen.

3.3. Neue Produkthaftungsrichtlinie (EU) 2024/2853

• Bezieht Software und damit KI-Systeme ausdrücklich ein; sie ist bis Dezember 2026 in nationales Recht umzusetzen.
• Der Hersteller haftet auch für Fehler, die nach dem Inverkehrbringen entstehen, soweit das Produkt unter seiner Kontrolle bleibt (z. B. durch Software-Updates oder selbstlernende Funktionen).
• Open-Source-Software, die außerhalb einer gewerblichen Tätigkeit bereitgestellt wird, ist ausgenommen; wird sie in ein kommerzielles Produkt integriert, kann der Hersteller dieses Produkts haften.

4. Haftungskreise

The post Wer haftet bei KI-Fehlern? first appeared on KI Recht: Recht für künstliche Intelligenz.

1. Rechtsgrundlagen der Haftung

1.1 Vertragsrecht

• Vertragliche Haftung:
  • Besteht ein Vertrag zwischen den Parteien (z. B. zwischen Nutzer und Anbieter der KI), richtet sich die Haftung nach den vertraglichen Pflichten.
  • Beispiel:
    • Eine KI-basierte Software liefert falsche Ergebnisse, wodurch der Vertragspartnerin ein Schaden entsteht (z. B. ein Produktionsausfall in der Industrie).

1.2 Deliktsrecht

• §§ 823 ff. BGB:
  • Wer vorsätzlich oder fahrlässig das Leben, die Gesundheit, das Eigentum oder ein sonstiges Recht eines anderen verletzt, ist zum Schadensersatz verpflichtet.
  • Problem bei KI:
    • Wer haftet, wenn die KI eigenständig handelt und keine unmittelbare menschliche Kontrolle besteht?

1.3 Produkthaftungsrecht

• Produkthaftungsgesetz (ProdHaftG):
  • Hersteller haften verschuldensunabhängig für fehlerhafte Produkte, die Schäden verursachen.
  • KI als Produkt:
    • Funktioniert eine KI fehlerhaft (z. B. verursacht ein autonomes Fahrzeug einen Unfall), kann darin ein Produktfehler liegen.

1.4 Europäische Rechtsgrundlagen

1. Neue Produkthaftungsrichtlinie (EU) 2024/2853:
   • Sie löst die bisherige Richtlinie 85/374/EWG ab und erfasst ausdrücklich auch Software einschließlich KI-Systemen als Produkt.
   • Sie enthält Erleichterungen für Geschädigte, etwa Offenlegungspflichten und widerlegliche Vermutungen zu Fehler und Kausalität.
   • Die Mitgliedstaaten müssen sie bis zum 9. Dezember 2026 in nationales Recht umsetzen.
2. KI-Haftungsrichtlinie (Vorschlag der EU-Kommission, 2022):
   • Ziel war eine Harmonisierung der außervertraglichen, verschuldensabhängigen Haftung für Schäden durch KI, unter anderem durch Offenlegungspflichten und Kausalitätsvermutungen.
   • Die Kommission hat den Vorschlag 2025 zurückgezogen; für die verschuldensabhängige Haftung gilt daher weiterhin das nationale Recht.

2. Haftungstypen bei KI

2.1 Haftung des Herstellers

1. Verantwortung des Entwicklers oder Herstellers der KI:
   • Hersteller können haftbar gemacht werden, wenn die KI fehlerhaft entwickelt wurde oder Sicherheitsstandards nicht einhält.
   • Beispiel:
     • Eine KI in einem medizinischen Gerät liefert aufgrund eines Programmierfehlers falsche Diagnosen.
2. Produkthaftung:
   • Der Hersteller haftet für Schäden, die durch Konstruktions-, Fabrikations- oder Instruktionsfehler der KI entstehen.

2.2 Haftung des Betreibers oder Nutzers

1. Verantwortung des Nutzers:
   • Betreiber oder Nutzer haften, wenn sie die KI unsachgemäß einsetzen oder Wartungs- und Überwachungspflichten verletzen.
   • Beispiel:
     • Ein Unternehmen setzt eine KI-Software zur Kreditvergabe ein, die diskriminierende Entscheidungen trifft, weil sie nicht ausreichend überwacht wurde.
2. Verkehrssicherungspflicht:
   • Der Nutzer muss sicherstellen, dass die KI ordnungsgemäß funktioniert und mögliche Schäden so weit wie möglich vermieden werden.

2.3 Haftung der KI selbst

• Keine eigene Rechtspersönlichkeit:
  • KI-Systeme können rechtlich nicht selbst haftbar gemacht werden, da sie keine Rechtspersönlichkeit besitzen.
  • Diskussion:
    • Einführung einer „elektronischen Person“ für KI, ähnlich einer juristischen Person (sehr umstritten).

3. Herausforderungen im Haftungsrecht

3.1 Autonomie der KI

• KI-Systeme treffen eigenständig Entscheidungen, die für Entwickler oder Betreiber nicht immer vorhersehbar sind.
• Problem:
  • Wer haftet, wenn die Entscheidung nicht auf einem Fehler, sondern auf einem unerwarteten Lernprozess der KI beruht?

3.2 Beweislast

• Der ursächliche Zusammenhang zwischen einem Schaden und einem Fehler der KI ist oft schwer nachzuweisen.
• Ansatz:
  • Beweiserleichterungen: Die neue Produkthaftungsrichtlinie sieht Offenlegungspflichten und widerlegliche Vermutungen vor, wenn der Nachweis für Geschädigte übermäßig schwierig ist.

3.3 Transparenz und Black-Box-Problematik

• Viele KI-Systeme sind aufgrund komplexer Algorithmen und maschinellen Lernens nicht ohne Weiteres nachvollziehbar.
• Problem:
  • Ohne Einblick in die Funktionsweise der KI lassen sich Fehlerquellen nur schwer ermitteln.

3.4 Datenabhängigkeit

• Fehlerhafte oder verzerrte Trainingsdaten können zu falschen Entscheidungen der KI führen.
• Haftung:
  • Entwickler oder Datenanbieter können für die Bereitstellung fehlerhafter Trainingsdaten verantwortlich sein.

4. Praxisbeispiele

4.1 Autonomes Fahren

• Fall: Unfall mit autonomem Fahrzeug
  • Haftungsfragen:
    • Liegt ein Fehler des Fahrzeugherstellers, des Softwareentwicklers oder des Nutzers vor (z. B. unzureichende Wartung)?
  • Anwendung:
    • Produkthaftung (bei Fehlern des Systems).
    • Halterhaftung nach dem Straßenverkehrsgesetz und Deliktsrecht (bei fehlerhafter Nutzung).

4.2 Medizinische KI

• Fall: Falsche Diagnose durch KI
  • Haftungsfragen:
    • Ist die KI fehlerhaft programmiert?
    • Hat der Arzt ausreichende Kontrollmaßnahmen ergriffen?
  • Anwendung:
    • Herstellerhaftung (Produkthaftung).
    • Haftung des Arztes für eine unzureichende Überprüfung der Diagnose.

4.3 KI bei Personalentscheidungen

• Fall: Diskriminierung bei Bewerbungen
  • Haftungsfragen:
    • Wer ist verantwortlich, wenn eine KI diskriminierende Entscheidungen trifft?
    • Wurden die Trainingsdaten und Algorithmen ausreichend geprüft?
  • Anwendung:
    • Haftung des Arbeitgebers als Betreiber, insbesondere nach dem Allgemeinen Gleichbehandlungsgesetz (AGG).

5. Lösungsansätze im Haftungsrecht

5.1 Gesetzliche Anpassungen

1. Spezifische KI-Regeln:
   • Etwa Beweiserleichterungen für Geschädigte.
2. Erweiterung der Produkthaftung:
   • Mit der neuen Produkthaftungsrichtlinie werden Software und KI-gestützte Produkte ausdrücklich erfasst.

5.2 Risikomanagement für KI-Betreiber

1. Regelmäßige Überprüfung und Wartung:
   • Sicherstellen, dass die KI korrekt funktioniert und keine Sicherheitsrisiken entstehen.
2. Transparenz:
   • Dokumentation der Entscheidungsprozesse der KI.
3. Schulungen:
   • Nutzer müssen im Umgang mit der KI geschult werden, um Bedienfehler zu vermeiden; der AI Act verpflichtet seit dem 2. Februar 2025 dazu, die KI-Kompetenz des Personals zu fördern (Art. 4 KI-Verordnung in der Fassung des Digital Omnibus, Verordnung (EU) 2026/1744).

5.3 Versicherungsmodelle

• Spezifische Haftpflichtversicherungen für KI-Anwendungen können finanzielle Risiken begrenzen.

The post Haftungsrecht bei der Verwendung von Künstlicher Intelligenz (KI) first appeared on KI Recht: Recht für künstliche Intelligenz.