KI-Rechtsgrundlagen

Künstliche Intelligenz (KI) ist ein zentraler Treiber der Digitalisierung und stellt das Recht vor Fragen, die herkömmliche Regelungen vielfach an ihre Grenzen bringen. Das KI-Recht umfasst eine Vielzahl von Rechtsgebieten, darunter Haftungsrecht, Datenschutzrecht, Vertragsrecht, Verbraucherrecht, Kartellrecht, Arbeitsrecht und öffentliches Recht. Mit dem zunehmenden Einsatz von KI-Systemen, insbesondere in sensiblen Bereichen wie Medizin, Mobilität und Strafverfolgung, wächst der Bedarf an klaren rechtlichen Regelungen.

1. Grundlagen und Besonderheiten des KI-Rechts

1.1 Definition und rechtliche Einordnung

  • Definition: KI-Systeme sind softwarebasierte Systeme, die mithilfe von Algorithmen datenbasiert Entscheidungen treffen oder unterstützen. Sie können autonom agieren und sind häufig selbstlernend.
  • Herausforderungen: Herkömmliche Rechtskonzepte, die auf menschliches Handeln ausgerichtet sind, müssen an die Besonderheiten der KI angepasst werden:
    • Autonomie: KI-Systeme agieren ohne unmittelbaren menschlichen Eingriff.
    • Komplexität: Viele KI-Systeme sind intransparent („Black Box“), was die Nachvollziehbarkeit von Entscheidungen erschwert.
    • Selbstlernfähigkeit: KI-Systeme verändern sich im Betrieb weiter, was Fragen der Verantwortlichkeit aufwirft.

1.2 Rechtsgebiete im KI-Recht

Das KI-Recht berührt unter anderem folgende Rechtsgebiete:

  1. Zivilrecht: Haftung, Verträge und Schadensersatzansprüche.
  2. Öffentliches Recht: Regulierung, Zulassung und Sicherheitsanforderungen.
  3. Datenschutzrecht: Schutz personenbezogener Daten, die durch KI verarbeitet werden.
  4. Strafrecht: KI-Systeme in der Strafverfolgung und als Tatmittel.
  5. Arbeitsrecht: Einsatz von KI im Arbeitsverhältnis.
  6. Kartellrecht: Missbrauch marktbeherrschender Stellungen durch KI-basierte Unternehmen.

2. Rechte und Pflichten im KI-Recht

2.1 Rechte

a. Rechte der Nutzer

  • Transparenz: Betroffene haben ein Recht auf Information über die Verarbeitung ihrer Daten und über die Logik automatisierter Entscheidungen (Art. 13 bis 15 DSGVO); der AI Act ergänzt dies um Transparenzpflichten beim Einsatz bestimmter KI-Systeme.
  • Datenschutz: Personenbezogene Daten sind zu schützen, insbesondere bei automatisierten Entscheidungen (Art. 22 DSGVO).
  • Diskriminierungsfreiheit: Entscheidungen dürfen nicht auf diskriminierenden Algorithmen beruhen (u. a. AGG).

b. Rechte der Entwickler und Betreiber

  • Geistiges Eigentum: Schutz von Software und Modellen durch Urheberrecht, Patente und Geschäftsgeheimnisse.
  • Innovationsfreiheit: Entwickler dürfen KI-Systeme im Rahmen der rechtlichen Vorgaben frei gestalten und nutzen.

2.2 Pflichten

a. Pflichten der Entwickler

  • Technische Sicherheit: Die KI darf keine unvorhergesehenen oder schädlichen Entscheidungen treffen.
  • Dokumentation und Transparenz: Anbieter von Hochrisiko-KI-Systemen müssen nach dem AI Act u. a. eine technische Dokumentation erstellen, Daten-Governance betreiben und Betreibern Gebrauchsanweisungen zur Verfügung stellen.
  • Ethik: Einhaltung ethischer Leitlinien, insbesondere bei Anwendungen mit gesellschaftlicher Tragweite.

b. Pflichten der Betreiber

  • Überwachung: Laufende Kontrolle und Wartung der KI-Systeme, um Fehlfunktionen zu vermeiden; bei Hochrisiko-KI ist eine menschliche Aufsicht vorgeschrieben.
  • Risikobewertung: Analyse potenzieller Gefahren vor und während des Einsatzes.

c. Pflichten von Unternehmen

  • Compliance: KI-Systeme müssen den rechtlichen Vorgaben (z. B. DSGVO, AI Act) entsprechen. Anbieter und Betreiber müssen zudem die KI-Kompetenz ihres Personals fördern (Art. 4 KI-VO in der Fassung des Digital Omnibus).
  • Meldung von Vorfällen: Anbieter von Hochrisiko-KI-Systemen müssen schwerwiegende Vorfälle den Marktüberwachungsbehörden melden (Art. 73 KI-VO); in Deutschland ist das nach dem KI-MIG in erster Linie die Bundesnetzagentur.

3. Haftung im KI-Recht

3.1 Haftungskonzepte

a. Verschuldenshaftung (§ 823 BGB)

  • Der Geschädigte muss beweisen, dass der Schaden durch fahrlässiges oder vorsätzliches Verhalten des Verantwortlichen verursacht wurde.
  • Problem bei KI: Der Nachweis menschlichen Verschuldens ist oft schwierig, da die Entscheidungen autonom getroffen werden.

b. Gefährdungshaftung

  • Haftung unabhängig von Verschulden, wenn sich die Gefahr einer gefährlichen Technik verwirklicht.
  • Übertragbarkeit auf KI: Betreiber könnten verschuldensunabhängig haften, wenn die KI als gefährlich eingestuft wird; bei Kraftfahrzeugen besteht mit § 7 StVG bereits eine Halterhaftung.

c. Produkthaftung (§§ 1 ff. ProdHaftG)

  • Hersteller haften für Schäden durch fehlerhafte Produkte.
  • Ob Software ein Produkt im Sinne des geltenden Produkthaftungsgesetzes ist, war umstritten. Die neue Produkthaftungsrichtlinie (EU) 2024/2853 stellt klar, dass Software einschließlich KI-Systemen erfasst ist; sie ist bis zum 9. Dezember 2026 in nationales Recht umzusetzen.

3.2 Europäische Entwicklungen

  • KI-Haftungsrichtlinie (AI Liability Directive): Der Entwurf sah Beweiserleichterungen für Geschädigte bei Schäden durch KI vor. Die EU-Kommission hat den Vorschlag 2025 zurückgezogen; eine eigene EU-KI-Haftungsrichtlinie gibt es nicht.
  • Produkthaftungsrichtlinie (EU) 2024/2853: Erweiterung der Haftung auf Software, digitale Produkte und KI-Systeme sowie Beweiserleichterungen für Geschädigte. Die Umsetzungsfrist endet am 9. Dezember 2026; der Bundestag hat das Gesetz zur Modernisierung des Produkthaftungsrechts am 8. Oktober 2026 beschlossen, das ab dem 9. Dezember 2026 gelten soll.

4. Vertragsrecht im KI-Recht

4.1 Entwicklungs- und Lizenzverträge

  • Entwicklungsverträge: Regelung der Rechte an Algorithmen, Daten und Ergebnissen, z. B. bei gemeinsam entwickelten KI-Modellen.
  • Lizenzverträge: Vereinbarungen zur Nutzung von KI-Software einschließlich Haftung und Support.

4.2 Cloud- und Plattformverträge

  • Verträge zwischen Nutzern und Plattformbetreibern, die KI als Dienstleistung anbieten.
  • Regelungsbedarf besteht vor allem bei Datensicherheit, Verfügbarkeit und Haftungsbeschränkungen.

5. Gerichtliche Entscheidungen

5.1 Nationale Urteile

  • LG Hamburg, Beschluss vom 29.9.2025, Az. 324 O 404/25: Aussagen in der KI-Übersicht einer Suchmaschine sind dem Suchmaschinenbetreiber als eigene Aussagen zuzurechnen; auf Unterlassung haftet er jedenfalls, wenn er nach einem konkreten Hinweis die Rechtsverletzung nicht prüft und beseitigt.
  • LG Aachen, Beschluss vom 24.9.2026, Az. 8 O 268/26: Der Anbieter des KI-Modus einer Suchmaschine haftet für falsche Strafvorwürfe, die die KI einer Person zuschreibt, wenn er sie nach einem Hinweis nicht entfernt.
  • LG München I, Urteil vom 11.11.2025, Az. 42 O 14139/24 (GEMA ./. OpenAI): Die Memorisierung von Liedtexten im Modell und deren Ausgabe verletzen Urheberrechte; die Schranke für Text und Data Mining (§ 44b UrhG) greift nicht. Das Urteil ist nicht rechtskräftig.

5.2 Europäische Urteile

  • EuGH, Urteil vom 7.12.2023, C-634/21 (SCHUFA): Die automatisierte Ermittlung eines Wahrscheinlichkeitswerts kann selbst eine automatisierte Entscheidung im Sinne von Art. 22 DSGVO sein, wenn ein Dritter seine Entscheidung maßgeblich darauf stützt.

6. Europäische und internationale Entwicklungen

6.1 Europäische Initiativen

  • AI Act: Die KI-Verordnung (EU) 2024/1689 ist seit dem 1.8.2024 in Kraft und regelt KI-Systeme nach einem risikobasierten Ansatz. Verbote und KI-Kompetenz gelten seit dem 2.2.2025, die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck seit dem 2.8.2025; seit dem 2.8.2026 gilt die Verordnung allgemein, einschließlich der Transparenzpflichten nach Art. 50. Der Digital Omnibus (Verordnung (EU) 2026/1744, in Kraft seit 27.7.2026) hat die Hochrisiko-Pflichten verschoben: für Systeme nach Anhang III auf den 2.12.2027, für KI in Produkten nach Anhang I auf den 2.8.2028. Einzelheiten unter AI-Act-Fristen.
  • Gesetz über digitale Dienste (DSA): Regelt u. a. die Transparenz von Empfehlungssystemen und die Moderation von Inhalten auf Online-Plattformen.

6.2 Globale Ansätze

  • UNESCO und OECD: Förderung ethischer Leitlinien und globaler Standards für KI.
  • China: Strenge Vorgaben für KI-Ethik und Datennutzung.

7. Leistungen unserer Kanzlei

Wir beraten und vertreten Sie in allen Fragen des KI-Rechts:

7.1 Beratung

  • Unterstützung bei der Einhaltung des AI Act und weiterer regulatorischer Anforderungen.
  • Analyse und Minimierung rechtlicher Risiken bei KI-Projekten.

7.2 Vertragsgestaltung

  • Erstellung und Prüfung von Entwicklungs-, Lizenz- und Cloud-Verträgen.
  • Regelungen zu Haftung, Datenschutz und geistigem Eigentum.

7.3 Streitbeilegung

  • Vertretung in Haftungsfällen, Datenschutzstreitigkeiten und Patentstreitigkeiten.

7.4 Schulung und Weiterbildung

  • Schulungen zu den rechtlichen Anforderungen an den Einsatz von KI, einschließlich der KI-Kompetenz nach Art. 4 KI-VO.
Nach oben scrollen