KI-Gesetz der EU

Das EU-KI-Gesetz (AI Act) – Eine vertiefte und breit gefächerte Darstellung

Der AI Act ist die weltweit erste umfassende Regelung für Künstliche Intelligenz (KI). Er definiert Anforderungen für KI-Anwendungen, schafft Rechtssicherheit und soll sowohl Verbraucherrechte als auch ethische Standards schützen. Gleichzeitig zielt das Gesetz darauf ab, die Innovationskraft Europas zu fördern.

Die Regulierung unterscheidet verschiedene KI-Anwendungen und stuft diese nach ihrem Risikopotenzial ein. Durch die klare Regelung von Rechten, Pflichten, Haftung und Transparenz schafft der AI Act einen einheitlichen Rechtsrahmen.

1. Struktur und Zielsetzung des AI Act

1.1 Zielsetzung

  • Schutz von Grundrechten: Sicherstellung, dass KI-Systeme keine Diskriminierung, Verletzung der Privatsphäre oder Gefährdung von Gesundheit und Sicherheit verursachen.
  • Förderung von Innovation: Etablierung eines einheitlichen EU-Markts für KI-Systeme, um Innovation zu fördern und Marktfragmentierung zu vermeiden.
  • Transparenz und Vertrauen: KI-Systeme müssen nachvollziehbar und transparent sein, damit Nutzer und Regulierungsbehörden ihre Entscheidungen verstehen können.

1.2 Struktur des Gesetzes

Der AI Act unterscheidet KI-Systeme in vier Kategorien:

  1. Verbotene KI-Systeme: Anwendungen, die gegen Grundrechte verstoßen.
  2. Hochrisiko-KI: Systeme, die erhebliche Risiken für Sicherheit, Gesundheit oder Grundrechte bergen.
  3. Begrenzte Risiko-KI: Systeme, die zu Transparenz verpflichtet sind.
  4. Minimales Risiko-KI: Systeme ohne spezifische Anforderungen.

2. Beispiele für KI-Anwendungen und deren Regulierung

2.1 Verbotene KI-Systeme

  • Beispiele:
    • Sozialbewertungssysteme: Staatliche Systeme, die das Verhalten von Bürgern bewerten (wie in China praktiziert).
    • Manipulation: Subliminale Techniken, die das Verhalten von Menschen ohne deren Wissen beeinflussen.
    • Massenüberwachung: KI-gestützte Systeme zur Überwachung der Öffentlichkeit ohne gesetzliche Grundlage.
  • Urteil:
    EuGH, Az. C-73/16: Der Gerichtshof entschied, dass umfassende Überwachungsmaßnahmen gegen die Datenschutz-Grundrechte der EU verstoßen.

2.2 Hochrisiko-KI

Hochrisiko-KI umfasst Systeme, die in sensiblen Bereichen eingesetzt werden, z. B.:

a. Medizin

  • Anwendungen:
    • KI zur Diagnose von Krankheiten (z. B. Krebserkennung).
    • KI-gestützte chirurgische Roboter.
  • Regulierung:
    • Strenge Anforderungen an Datenqualität und Transparenz.
    • Risikobewertung und Konformitätsprüfung.
  • Beispiel:
    Ein KI-System, das Hautkrebs erkennt, muss sicherstellen, dass es mit diversifizierten und nicht diskriminierenden Datensätzen trainiert wurde.

b. Autonomes Fahren

  • Anwendungen:
    • Autonome Fahrzeuge der Stufen 4 und 5 (vollständig autonom).
    • Fahrerassistenzsysteme mit KI.
  • Regulierung:
    • Sicherheitsprüfungen, um Unfälle zu minimieren.
    • Kontinuierliche Überwachung durch Betreiber.
  • Urteil:
    LG München I, Az. 37 O 22253/18: Das Gericht entschied, dass Hersteller von Fahrerassistenzsystemen für Schäden haften, wenn Systeme ohne Warnhinweis fehlerhaft arbeiten.

c. Strafverfolgung

  • Anwendungen:
    • Gesichtserkennung durch KI bei öffentlichen Veranstaltungen.
    • Predictive Policing (vorhersagende Polizeiarbeit).
  • Regulierung:
    • Einsatz nur mit strengen Einschränkungen und gesetzlicher Grundlage.
    • Menschenaufsicht ist verpflichtend.

2.3 Begrenzte Risiko-KI

  • Beispiele:
    • Chatbots, die mit Nutzern interagieren (z. B. KI-Kundensupport).
    • Empfehlungsalgorithmen, etwa für E-Commerce oder Streaming-Dienste.
  • Regulierung:
    • Transparenzpflicht: Nutzer müssen informiert werden, dass sie mit einer KI interagieren.
  • Beispiel:
    Ein Online-Shop muss angeben, dass Produktempfehlungen auf einem KI-Algorithmus basieren.

2.4 Minimales Risiko-KI

  • Beispiele:
    • KI in Spielen oder Lern-Apps.
    • KI für Textvorschläge in E-Mail-Programmen.
  • Regulierung:
    • Keine spezifischen Anforderungen, allgemeines Haftungsrecht bleibt anwendbar.

3. Rechte und Pflichten nach dem AI Act

3.1 Rechte der Nutzer

  • Transparenz: Nutzer haben das Recht, zu wissen, wann sie mit einer KI interagieren.
  • Einspruchsrecht: Entscheidungen von Hochrisiko-KI-Systemen können angefochten werden.
  • Schutz vor Diskriminierung: Systeme müssen fair und diskriminierungsfrei sein.

3.2 Pflichten der Entwickler und Betreiber

  • Konformitätsbewertung: Sicherstellung, dass KI-Systeme den Anforderungen entsprechen.
  • Risikomanagement: Einrichtung eines Systems zur Identifizierung und Minimierung von Risiken.
  • Registrierung: Hochrisiko-KI muss in einer zentralen EU-Datenbank registriert werden.

4. Governance und Aufsicht

  • EU-KI-Koordinationsgremium: Koordination der Umsetzung des AI Act.
  • Nationale Aufsichtsbehörden: Überwachen die Einhaltung des Gesetzes in den Mitgliedstaaten.
  • Konformitätsbewertungsstellen: Prüfen Hochrisiko-KI auf Einhaltung der Anforderungen.

5. Sanktionen bei Verstößen

  • Verbotene KI-Systeme: Geldbußen von bis zu 6 % des weltweiten Jahresumsatzes.
  • Verstöße gegen Transparenzpflichten: Geldbußen bis zu 30 Millionen Euro oder 4 % des Umsatzes.

6. Internationale Perspektiven

  • USA: Keine einheitliche Regelung; Regulierung erfolgt durch branchenspezifische Gesetze.
  • China: Strenge Vorgaben für staatliche Kontrolle von KI.
  • UNESCO: Empfehlungen für globale ethische Standards.

7. Herausforderungen und Kritik

  • Kosten: Hohe Anforderungen könnten für kleinere Unternehmen finanziell belastend sein.
  • Innovation: Strenge Anforderungen könnten Innovationen behindern.
  • Technische Umsetzung: Umsetzung der Nachvollziehbarkeit ist bei komplexen Algorithmen schwierig.

8. Leistungen unserer Fachkanzlei

Unsere Kanzlei bietet spezialisierte Unterstützung bei der Umsetzung des AI Act:

8.1 Beratung

  • Compliance: Unterstützung bei der Einhaltung der Anforderungen des AI Act.
  • Risikobewertung: Analyse und Minimierung rechtlicher Risiken.

8.2 Vertragsgestaltung

  • Erstellung von Verträgen, die den AI Act berücksichtigen.
  • Regelung von Haftungsfragen, Datenschutz und technischer Dokumentation.

8.3 Vertretung

  • Regulatorische Verfahren: Vertretung bei Audits und Sanktionen.
  • Rechtsstreitigkeiten: Vertretung bei Streitigkeiten im Zusammenhang mit KI-Systemen.

9. KI Gesetz der EU

Der AI Act ist ein Meilenstein der KI-Regulierung und schafft klare Regeln für den verantwortungsvollen Einsatz von KI. Er schützt Verbraucherrechte und fördert Innovation, stellt jedoch hohe Anforderungen an Entwickler und Betreiber. Unsere Kanzlei unterstützt Unternehmen umfassend bei der rechtssicheren und ethisch verantwortungsvollen Integration von KI-Systemen.